这期间，他曾到杭州，筹办师范学校。一次路过余杭，专门到仓前章太炎家里登门拜访，他在日记里说：“道经仓前，访章太炎，乞得《訄书》。”这是1901年4月5日清明那天。在游历了杭州临安之后，于16日复访章太炎。之后游览了西湖、灵隐。这一年他到杭州多次，并多次从杭州拱宸桥码头出发，坐船去上海。

大时代需要大地方，大地方带来大格局。1902年1月15日，蔡元培携眷到上海，他受聘于上海南洋公学——这是后来交通大学的前身，负责“特班”，那是一个让秀才学西学的特别班级，共有42人。如果说在绍兴时期是蔡元培民主革命思想形成的前奏、序曲，那么接下来在上海，则是他的思想成熟期。

上海是那个时代的风云际会之地，与保守的京城形成鲜明对比。在这个更广阔的“海派”大世界里，蔡元培开启了人生重要的新一页。香港浸会大学历史系系主任周佳荣所著的《辛亥革命前的蔡元培》（中国现代史丛书，香港波文书局1980年9月第1版）一书，是较早研究革命时期蔡元培的专著，其中核心的四章《南洋公学》、《上海风潮》、《办报生涯》、《秘密活动》，这四个标题很好地概括了蔡元培在上海的经历。

教育可以立人，立人方能立国。1902年4月28日，蔡元培被推为新成立的中国教育会事务长。他一方面明里兴办教育，一方面暗中鼓吹革命。此前已筹办爱国女校，尽管来入学的女子并不很多。这年暑假，他还游历了日本。随后他资助陶成章赴日留学。在南洋公学“墨水瓶事件”之后，蔡元培创办了爱国学社，他当一把手，吴稚晖出任学监，章太炎等都充任了爱国学社的兼职教员。

风云激荡，往往猝不及防。1902年11月16日，上海南洋公学全体学生200余人集体退学，抗议校方因“墨水瓶事件”开除中院五班全体同学。事情始发于11月5日，第五班汉文教习郭镇清到教室主课，看到教师座位上摆了一个墨水瓶。郭是江苏如皋秀才出身，思想守旧，平日讲究师道尊严，一见此不敬之举，大为不满，责问何人所为。学生噤声，无一人承认。下课后，郭将学生杨之福叫去查问，杨之福便诬指平素与其不和的同学伍正钧。郭镇清据此报告校总办汪凤藻，并且要求把伍正钧及坐在他两旁的同学陈承修、贝钧一并开除。11日，学校当局以侮辱师长、不守校规为由，下令开除伍正钧等三人。五班同学为此协商决议，呈请学校当局收回成命，并辞退郭镇清，开除杨之福。12日，总办又宣布五班学生“聚众开会，倡行革命”，一律开除。于是全校震动，学生更是连日开会，每班推选代表一人入见总办、督办，均遭拒绝，遂决议全体退学，以示抗议。17日，各班学生排队出校，秩序井然，步行至静安寺张家花园，由特班学生贝寿向公众宣布退学缘由，指斥“教习以隶待学生”，“是等奴隶教育，凡为国民，谁能堪之”。全体学生合影之后宣布解散。