自隋唐以来，特别到明清两朝，科举入仕几乎是所有读书人的人生道路。蔡元培也不例外。尽管他在1883年考中秀才后不再治举子业，自由读书，但他当时毕竟还是一个传统的读书人，没有也不可能逸出科举入仕的道路。

与其他莘莘学子相比，蔡元培在科举道路上虽称不上少年得志，一举成名，但还算顺遂。1885年，在考中秀才两年后，蔡元培第一次离开绍兴城，随六叔一道，前往杭州参加乡试。乡试分三场进行，第一场考四书文三篇，五言八韵诗一首，第二场考五经文五篇，第三场考策问五道。蔡元培三场考卷的评语都不错。第一场的评语是“首艺安章宅句，不落恒蹊；次跟定章旨，语无泛设”，文笔“充畅”，诗亦可。第二场的评语是“一律清顺”, “引证宏博”。第三场的评语是“词意整饬”。 但奈何僧多粥少，竞争激烈，蔡元培这次未能考中。据9月21日的《申报》所载，浙江参加本科乡试的多达10600多人。对于这次考试竞争之激烈，蔡元培晚年谈及此事，仍记忆犹新，他说，当时的情景是“集万余人于考场，偶有神经错乱，于试卷上乱写情诗或漫画杂事，甚而至于自杀的”  。1888年，蔡元培又到杭州参加过一次乡试，但也未能考中。1889年，光绪皇帝亲政举行恩科，蔡元培即在这次恩科的乡试中考中举人。是科浙江省中式者共155人，蔡元培名列第23名。同科中除同学徐维则、王佐、童学琦外，还有张元济、汪康年、汪大燮、胡道南等。蔡元培后来在从事文教活动中，与他们都有程度不同的联系。

中举后，蔡元培在科举的道路上继续攀登。1890年的早春二月，他与徐维则一道，北上京城，参加为光绪皇帝亲政举行的恩科会试，一举告捷。据说，蔡元培此次会试中的，系幸得房师军机章京王颂蔚和主考官、刑部尚书孙毓汶的鼎力推荐。王颂蔚阅蔡元培首场试卷不类八股文，即奇之，及阅二、三场卷，认为渊博无比，大为欣赏，“乃并三场存之，且为延誉”。 主考官孙毓汶也颇替蔡元培说话。蔡元培在试卷文中有“耳也者心之泽，躬之督也”一语，有考官便问：“躬督有来头么？”孙则回答说：“这何必有来头。”  结果，在本科录取的327名贡士中，蔡元培列第80名。

按清代科举制度，会试中式录取贡士后，还需经殿试合格，方能称进士出身。贡士倘若丁忧或别的原因，不能参加本科殿试，可说明缘由告假，准许在下科补试。蔡元培未参加本科殿试，其原因并非如过去有人所说的，怕所写文章无人赏识，而是考虑到自己的书法不合要求，主动要求留待下科殿试。案当时殿试首重书法，并以楷法端正庄雅者为上选。对此，蔡元培在《自写年谱》中讲得很清楚。他说：“因殿试朝考的名次均以字为标准，我自量写得不好，留俟下科殿试，仍偕徐君出京。” 蔡元培的同乡、监察御史李慈铭在四月十三日（5月31日）的《郇学斋日记》中也说：“蔡进士来，沈进士（宝琛）来，两生皆年少未习楷书，故不待复试而归。”

在回家经过三年的准备后，1892年3月，蔡元培重到北京补行殿试。依清制，殿试分一、二、三甲：一甲三人，为状元、榜眼、探花，赐进士及第；二甲若干人，赐进士出身；三甲若干人，赐同进士出身。进士经过殿试取得出身后，还须再应一次殿廷的考试，叫做朝考。然后再根据朝考的成绩，结合殿试及复试的名次，分别授衔。除状元授修撰，榜眼、探花授编修外，二、三甲进士最优者授翰林院庶吉士，其余的分任各部主事、中书及知县等职。蔡元培先在保和殿补复试，被列为第三等，接着参加殿试。清代殿试素来只重格式和书法，不重内容。但蔡元培在《殿试策论对》中却颇有一些新意。如在一道关于西藏历史沿革及地理状况的题目中，不少贡士面对试题膛目结舌，而蔡元培则如数家珍，指出“唐贞观八年，吐蕃弄赞遣使来朝，是为通朝贡之始”，并详述西藏的山川地理，表现出渊博的史地知识。在以何法治理国家问题上，蔡元培大胆提出“以儒学为天下大经大本，而天网罗百家，以兴庶绩”。他说：“窃惟诸家之书，宗义不同，而观其会通，百虑一致，相反而相成也。……臣伏愿皇上通万方之略，致知一之微，采儒墨之善，撮名法之要，因阴阳之大顺，因时为业，无所不宜。至于设官分职，各搴所长。习形法家言者，使之正方位，蠡华离。习名家言者，使之定考格，条家法。习农家言者，使之录民天，会国用。习兵家言者，使之经五事，度九地。康事兴功，布同日进。……会归有中，御衡不迷。则我国家亿万年有道之长基此矣。”  这段策论初步反映了蔡元培海纳百川、兼容并蓄的思想特色。

据蔡元培本人所说，他在殿试中既“没有拘格式”，在中贡士后三年中“也并没有习字”，他此次得以金榜题名，是因为得到了阅卷大臣工部左侍郎汪鸣銮的赏识。有位阅卷大臣评论他的书法不合馆阁体，汪鸣銮则出来为之说话，称他是学黄山谷的。结果，蔡元培被录取为二甲第34名进士。本科二甲共132名。根据清制，补行殿试者，例不得入一甲。故蔡元培得列二甲，已是最好的结果。