蔡元培实践他的教育救国理想是从绍兴中西学堂开始的。经十天的行程，蔡元培于1898 年10 月26 日晨，回到阔别多年的绍兴老家。此时的绍兴，与他四年前北上进京任职翰林院时已有所不同。受甲午战争后维新思潮的冲击，绍兴城内也出现一批热心讲究西学的有识之士。就在蔡元培回绍兴的前一年春，本城县绅徐树兰和绍兴知府熊起磻利用当地公款，创办了绍兴唯一一所新式学校——绍郡中西学堂。

中西学堂以古贡院山会豫仓为校舍。这里环境幽静：校舍的前面是一条清清的小河，河的对面是葱绿苍翠、拔地而起的龙山，古龙山书院就在山的另一坡。学堂依学生程度分为三斋，略如后来的高小、初中和高中一年级。徐树兰自任督办（即校董）, 另聘一人为监董（即校长），主持校务。先后出任监董的有何琪、何寿章、章成达。蔡元培回到绍兴后，适逢章成达辞职。于是，徐树兰和绍兴知府熊起磻便于是年12 月聘请蔡元培主持校务，名称也由监董改为总理。

蔡元培任中西学堂总理后所做的第一件事是聘请称职教师。他在接办学校的第六天，便将所聘教员名单报知府熊起磻批示：由马用锡（湄莼）任经学、史学、词学教员，薛炳（阆仙）为经学、词学教员，马絅章（水臣）、冯学书（仲贤）为词学教员，赏乃勋（星槎）、褚闰生为蒙学教员，蓝寅（筠生）、俞墉（伯音）、陈凤锵（子仪）为英文教员，戴儒珍（铭甫）为法文教员，杜炜孙（亚泉）为算学、物理教员，寿辅清（孝天）为算学教员。这些教员，都是当时绍兴“极一时之选”的人物 。为提高学堂的教学质量，蔡元培还不惜重金聘请外籍教员，如学堂先后聘请日人中川外雄、藤乡担任日文和体操教员，月薪高达50圆。

蔡元培所做的第二件工作是想方设法购置图书和教学仪器设备。接办学堂伊始，他便在校内设立名曰“养新书藏”的图书馆，并手订借书条例15 条，规定除本校师生借阅外，校外凡助银10元以上者，允许1人借书，50元以上者，允许4人借书，其余以此为差。  一方面利用社会力量增加学校的藏书，同时学校丰富的藏书有偿向社会开放，取之于社会，又服务社会，使学校、社会双方受益。平时一有机会，蔡元培总是托人求购各种新书和有关教学仪器设备。1899年6月，校董徐树兰前往上海，蔡元培即托其购买日本教育社物理、化学、助力器械及化学药品和动物标本，并写信给上海的张元济，托其代购南洋公学所编书籍。此外，还曾托徐树兰之子徐显愍从日本东京购得日本所制小学物理器械第二号1组，共33种；化学器械二号l组，包括药品共31种；化学标本1组，40种；庶物标本1组，200种；动物标本乙号1组，85种；植物标本乙号1组，105种；矿物标本乙号1组，65种；另三球仪1架，三角及两脚定规3具，助力器模l组，8种，立体几何1组，平面几何l种。 由于蔡元培的重视，中西学堂成为当时绍兴藏书最丰、教学仪器设备最好的一所新式学校。

在教学方法上，蔡元培实行因材施教：首先根据学生国学程度的高低分为三斋，分别教授国学课程，第一斋为蒙学斋，第二斋为词学斋，第三斋为理学斋。但同时学生又可按自己算学、外语的程度，到不同的级别去听课，并不受原来所在斋的限制。例如，有的学生根据其国学程度被列在第三斋，但外国语可到第二斋就读，算学或者可到第一斋学习。但同时蔡元培对同学们管理甚严，手订学堂授课及作息时刻表，规定学生每天早晨5点起床、盥洗，6点吃早饭，上午7点外语及算学各班上课，12点吃午饭；下午2点起，国学（读书、温书、讲书）各班上课，6点体操，7点晚饭，8点余课，9点就寝。  此外，他还聘请诚实笃厚的胡钟生为监学，在大门左傍辟一房间，监视学生出入，另每一斋派一国学教员督导学生攻读。在蔡元培的严格管理下，当时在中西学堂就读的学生，不少在后来文教界有所表现。如后来曾任北大校长的蒋梦麟和地质学教授王烈，便是那时候第一斋小学生。后曾任中央研究院秘书的马禩光和任浙江省教育厅科员的沈光烈，则为第三斋的高材生。其他较有名气的还有许寿裳、寿昌田、李雪身、蒋梦兰、蒋梦桃等。

蔡元培所做的另一件有意义的工作是增设课程。在他掌校期间，中西学堂的课程除讲授中国文学、经书和历史之外，还开设了西洋学科，如物理、化学、动植物学、算学（包括代数、几何）、外国语（英文、法文、日文）和体操等。尽管绍兴中西学堂讲授的西学知识还十分粗浅，但在当时却起到了重大的思想启蒙作用。特别是化学、动植物学等课程的开设，不但使学生们接触到了近代自然科学知识，激发了他们的科学兴趣，而且也改变了他们的思想观念。当时在第一斋念书的蒋梦麟后来在《西潮》一书中就提到中西学堂所设课程对他当时思想所产生的巨大影响。他这样回忆说：“我在中西学堂里首先学到的一件不可思议的事是地圆学说。我一向认为地球是平的。后来先生又告诉我，闪电是阴电和阳电撞击的结果，并不是电神的镜子里发出来的闪光；雷的成因也相同，并非雷神击鼓所生。这简直使我目瞪口呆。从基本物理学我又学到雨是怎样形成的。巨龙在云端张口喷水成雨的观念只好放弃了。了解燃烧的原理以后，我更放弃了火神的观念。过去为我们所崇拜的神佛，像是烈日照射下的雪人，一个接着一个融化。这是我了解一点科学的开端，也是我思想中怪力乱神信仰的结束。”

然而，教育救国的道路也不平坦，同样充满新旧斗争。在绍兴中西学堂，蔡元培、马用锡、杜亚泉、胡道南等新派教员受西方思想影响，笃信进化论，或在校内宣传民权、女权思想，反对尊君卑民、重男轻女，或主张革新政治，改良社会，他们的言行引起校内一些旧派教员的忌恨。特别是在每日午餐饭桌上谈及有关社会风俗和政治问题时，新派教员人多势健，而旧派教员则势单力薄，在辩论中每每居于下风，在学生面前大失面子。于是，他们便迁怒于蔡元培，向徐树兰打小报告，控告蔡元培言论过于激进，用人有误，经费及学校管理不善，等等，试图将蔡元培排挤出中西学堂。在旧派教员的鼓动下，校董徐树兰便于庚子年（1900 ）正月二十六日出面干涉，来书要求蔡元培将本月二十一日清廷一道有关“正人心”的上谕抄录悬诸礼堂。这则上谕是清廷镇压戊戌变法后向同情变法维新人士发出的一道威胁，里面指斥同情与支持变法者为“援引匪人，心怀叵测”，警告士人们今后“自当以名教纲常为己任，以端学术而正人心”。对此，蔡元培断然予以拒绝。他在复徐树兰的信中毫无顾忌地指出，所嘱恭录上谕“皆黎邙之鬼所为”，“岂有取顽固者之言而崇奉之之理”，表示自己宁愿辞职，也不做违心之事，“虽迫之以白刃而不从。盖元培所慕者，独谭嗣同耳”。 为表辞意，蔡元培于写信的当日即离开绍兴，前往嵊县。后经他人调解，蔡元培不久又重回绍兴继续留任中西学堂总理。他在3月27日绍兴府学堂学友第一议期摄影记中写道：“不数日，督办者悟目论之无状，掣肘之非是，折其前议．以趣于办事者之本意，而办事者亦既感动于许先生之讽议，而无为过激，体力相剂，团结如故。”但经此风波后，校董徐树兰对中西学堂不再如前热心。是年底．学堂经费遇到困难，蔡元培数次前往相商，而徐“终无意”。 在此情况下，蔡元培只好于1901年2 月离开中西学堂，移交何寿章（豫才）接办。