蔡元培了解中外教育制度，而且主持过全国的教育工作。可以说他是五四时期中国极少数具有系统教育思想和理论的教育家，尤其是对高等教育，从教育宗旨、教育内容、教育体制，都有一整套的设想，他也是怀着这一整套设想去改革北大的。因而他一到任就能大刀阔斧，将改革全面铺开。

首先是学科体制改革。

蔡元培非常强调大学的学理性质，认为大学是以培养研究高深学问的学者为目的的。他认为：“所谓大学者，非仅为多数学生按时授课，造成一毕业生之资格而已也，实以为共同研究学术之机关。”作为大学，就应该围绕研究学术这一核心，设置合理的学科。对于“学术”二字，应该有深刻的理解。“学与术可分为二个名词，学为学理，术为应用。”他认为工商、法律、医学等科目，既讲学理又讲适用，均为术，只有纯粹的科学与哲学，才是学。他虽然认为“学必借术以应用，术必以学为基本，两者并进始可”，但又强调“学应该重于术”，“以学为基本，术为支干”，而在基础理论和应用学科之间，应该重“纯粹的科学”研究。他主张在高等教育中要有所分工，“治学者可谓之‘大学’，治术者可谓之‘高等专门学校’。两者有性质之别，而不必有年限与程度之差。”北京大学既然称大学，而且是全国唯一国立大学，就应该致力于把它办成研究学理的中心。

1919年，蔡元培在北大进行了学科体制上的第二个重大改革——“废门改系”。设立学系的思想动因，基于蔡元培对近代科学发展的理解和认识。他从科学演变的历史及其发展趋势，看到了学科之间相互渗透和相互影响的特点，认为“文理是不能分科的”，例如文科的哲学，必植基于自然科学，而理科学者最后的假定，亦往往牵涉哲学。从前的理学属于哲学，而现在用实验法，应列入理科。地理学的人文方面，应属文科，而地质、地文方面则属于理科。历史学自有史以来，属于文科，而推原于地质学的冰期与宇宙生成论，则属于理科。教育学和美学，也渐用实验法，有同一趋势。他指出，许多专门学者，不明了科学发展的趋势，不明白各学科之间的相互关系，以至存在“专己守残之陋见”。如“治文学者，恒蔑视科学，而不知近世文学，全以科学为基础；治一国文学者，恒不肯兼涉他国，不知文学之进步亦有资于比较。治自然科学者，局守一门而不肯稍涉哲学，而不知哲学即科学之归属，其中如自然哲学一部，尤为科学家所需要；治哲学者，以能读古书为足用，不耐烦于科学之实验，而不知哲学之基础不外科学，即是超然之玄学，亦不能与科学全无关系”（见《北京大学月刊发刊词》）。他进一步认为这种认识的局限，造成了大学文理科学生培养上的流弊，“文科之史学、文学，均与科学有关，而哲学则全以自然科学为基础，乃文科学生，因与理科隔绝之故，直视自然科学为无用，遂不免流于空疏。理科各学，均与哲学有关，自然哲学，尤为自然科学之归宿，乃理科学生，以与文科隔绝之故，遂视哲学为无用，而陷于机械的世界观。”他主张要融通文理两科之界限，主张学生文理兼习。学文科者，不可不兼习理科之某种。如学史学的，兼学地质学；学哲学的，须兼习生物学等。而学理科的，不可不兼习文科的某些门，如哲学史、文明史之类。