1991年，俞敏洪以中关村第二小学传达室为“据点”，正式开始对外招生。为了扩大知名度吸引生源，俞敏洪租用中关村第二小学的一间能够容纳40人的小教室，进行第一次免费的英语培训。“原北京大学老师俞敏洪免费英语讲座”的小广告广为散发，当天竟然吸引了500多人前来听讲座，俞敏洪在昏暗的灯光下口若悬河地讲了一个晚上。他发现，免费讲座是吸引学生的最佳方法。

草根创业的俞敏洪，在马路边的电线杆子上刷招生广告一刷就是三年。寒风凛冽的冬夜，俞敏洪骑着辆老式28自行车游荡在北京海淀区的大街小巷，看见电线杆子就兴奋地冲过去，从自行车后架上抓过糨糊桶，拿出一把鞋刷，使劲地刷起来，再把一张张毛笔写就的招生广告贴上。双手被冻得发麻发僵时，俞敏洪就打开背包抄出一瓶二锅头咕嘟咕嘟大口灌下，很快便满脸通红全身暖透。靠着二锅头，俞敏洪把英语培训的招生广告贴遍了海淀区。

当然，可想而知，随意张贴小广告也导致了不良后果。带着红袖箍的街道居委会的大妈拿着罚款单找到俞敏洪，勒令他交完罚款再去清理电线杆上的小广告。俞敏洪只好手拿一把小铲子，一张一张铲掉夜里贴的小广告。“为了不被罚款和惩罚，我就和老太太们套瓷儿，一遍遍说好话。为了笼络这些老太太，我甚至答应为她们开一份工资。”

在俞敏洪的鼓动之下，四五个老太太进入新东方打工。2003年新东方进行股份制改造，在新东方有着10年工龄的老太太们都拿到了5万~8万股不等的新东方股票。2006年，新东方在美国纽约成功上市，凡是握有股票的老太太都成了百万富翁。至今，俞敏洪仍和那些老太太们保持着良好的关系，每年都会去探望，老太太们大都已经70多岁了。

当年，俞敏洪在电线杆上刷糨糊贴广告的时候，心中是有目标的，就是要把新东方做好、做大。“就好像两个乞丐，一个乞丐只是为了填饱肚子而要饭，另一个乞丐要饭是为了一路要到喜马拉雅山，结果自然就不一样了。”

相传宋朝开国丞相赵普每遇政事不能决，便于归家后查阅家中一箧中书，次日问题就迎刃而解了。久而久之，家人好奇，偷偷朝箧里一看，原来里面只有半部《论语》，于是便有了赵普以半部《论语》治天下的说法。

俞敏洪则是“一把广告刷打天下，一部《三国演义》治学校”。一部《三国演义》俞敏洪看了13遍，从中悟出了平衡兄弟情谊与公司利益的哲理。

新东方培训班开办初期，没有固定的授课地点，经常是租人家的课堂，四处打游击。俞敏洪披棉被上课的故事传播很广，那是早年间发生在中科院化学研究所教室讲台上的事儿。有一次俞敏洪发高烧，穿着厚棉袄去上课，还是冷得受不了，其实教室里的暖气已经很热了，但他却仍冷得直发抖。照看教室的老大妈心疼得抱了一床被子走进教室，俞敏洪就这样穿着厚棉袄、裹着棉被坚持上课。学生们看不下去了，课还没上完，四个学生冲上讲台，强行把俞敏洪送到了医院。医生的诊断结果是扁桃体发炎导致高烧，连着打了三天青霉素，才把嗓子治好。