蒋梦麟虽任北大校长多年，也曾任国民政府教育部部长，可谓位高权重，但在蒋梦麟自己看来，他的理想是教育，他的身份则是职业教育家。他一生直接从事教育事业多年，为中国现代教育事业的发展做出了重大贡献。

1907年7月，蒋梦麟东渡日本，在日本短短一个月的观感让他心潮起伏。他因看到中日战争中日军俘获的中国军旗、军服和武器被当做胜利品一样地去展览而惭愧不已。从中日两国的巨大差距中，蒋梦麟看到“强迫教育使（日本）国民的一般水准远较中国为高，这或许就是日本成为世界强国的秘密所在”，认识到要改变中国积贫积弱的命运，首要的任务是改变教育。从这时起，蒋梦麟就认定了投身教育，以期改变中国命运的人生之路。第二年，蒋梦麟便赴美留学，主攻教育学，先后获得加州大学教育学学士、哥伦比亚大学哲学和教育学博士学位。9年的留美生活，特别是师从美国著名哲学家、教育学家杜威的求学经历，让蒋梦麟对国民教育（特别是大学教育）有了更为深刻的思想认识，也正是这种思想促使他日后在任职北大校长和教育部部长期间对学校教育做出了大刀阔斧的改革。

归国后的蒋梦麟创办了《新教育》月刊，阐释自己的新教育思想，认为教育的目标是“养成健全之个人，创造进化的社会”，强调教育要按照学生的要求设计等新的教育理念。由于《新教育》与北大师生“知识上的密切关系”，创办人蒋梦麟也由此进入了北大的视野，从而有了更为广阔的施展教育才华的舞台。在任北大总务长和校长的二十多年间，蒋梦麟助推了“学术自由、兼容并包”的北大校风的形成，开展了一系列教育改革，促成“辞旧聘新”“校长治校”“选科制”等制度的落实，为30年代北大健康持续的发展做出了重大贡献。

蒋梦麟教育思想鲜明，成就卓著，早在其博士论文《中国教育原则之研究》一文中，蒋梦麟就对中国教育作了比较系统的阐述。蒋梦麟认为，教育的长远之计在于“取中国之国粹，调和世界近世之精神：定标准，立问题”，目的在于培养“科学之精神”“社会之自觉”。在教育行政方面，蒋梦麟主张义务教育、职业教育、大学教育和童子军教育等多项并重。在教育内容上，蒋梦麟主张发展个性，培养专才。

1928年，蒋梦麟接任蔡元培出任国民政府大学院院长，后任中华民国第一任教育部长。在任职期间，身为教育研究专家蒋梦麟得以实现自己的教育抱负，他十分重视普及教育，率先提出要推行义务教育，扩充职业教育、补习教育，推行大学和专门教育等国民教育发展的原则。作为在北大工作过近10年的蒋梦麟在任职教育部长期间，分外重视高等教育的发展与普及，总是期望着能给更多的年轻人创造深造的机会。1911年之后，国内大学发展迅猛，国立大学、私立大学都有大幅度的扩容，一时间大学泛滥成灾，而大学教育质量则每况愈下。为改变这种混乱局面，蒋梦麟出任教育部长后，果断制定并颁布了《大学组织法》，明文规定大学分文、理、法、教育、农、工、商、医八大学院，凡具备三个以上学院者，才能称为大学；条件不合者，为独立学院；同时不再设置单科大学。对于那些以谋财为目的私立大学，则以严厉的行政手段加以整顿，或强令整改，或予以取缔。《大学组织法》的颁布实施一举遏制了大学泛滥和以教育为名谋取不义之财的丑陋现象，也为日后中国大学的发展提供了有益的借鉴。

身为职业教育家，蒋梦麟反对学生参加政治运动，且态度鲜明。在他看来，学生运动是社会弊病所致，是“中国的成年人和老人不肯出来负责任的必然结果”，但罢课是无法解决社会弊病的。蒋梦麟认为“未成年的一代人应该有安心求学的权利”，学生应以学业为重。“九·一八”事变发生后，蒋梦麟与清华等大学校长一起联名发表《告同学书》《第二次告同学书》，告诫学生“赤手空拳的群众活动只有荒废学业，绝非有效的救国方法”，号召学生复课。也正因不支持学生运动，蒋梦麟为后世内地学者所诟病。