张謇的考试之路并不顺利。从十六岁录取生员起，中经十八岁、二十一岁、二十三岁、二十四岁、二十七岁前后五次赴江宁府应江南乡试（俗称南闱）均未中试。直至光绪十一年（1885）三十岁时，因孙云锦官江宁府尹，子弟依例回避，张謇转赴顺天府乡试（俗称北闱），取中第二名举人，俗称“南元”（南人列北榜名次最先者），他的名声才渐渐在士林传开，成为朝廷派系延揽的对象。清流派的翁同龢、潘祖荫等人对张謇有提携之意，“期许甚至”“荐而不中”，几次误把他人卷子认作张謇的而取中会元：张謇三十四岁应礼部会试不中；三十七岁赴会试，试卷为无锡孙叔和所冒，孙中而张落；三十八岁应会试，场中误以陶世凤卷为张謇卷，陶中会元而张落第；四十岁赴会试，试卷又被武进刘可毅所冒，刘中会元而张又落第。这情形颇类似高考或公务员考试，流水有心，落花无意。

从小考到大魁，先后二十六年。岁试、优行试、录科等十次（各处书院考试还不在其内），加上乡试、会试、殿试共二十二次，先后在考场中度过一百六十多天。此后，三十四岁、三十八岁、四十岁三次会试，也都没有考中。屡屡败北，使他一度灰心丧气：“栖门海鸟，本无钟鼓之心；伏枥猿驹，久倦风尘之想”，但到头来他还得拼搏于考场。北洋大臣李鸿章、张树声和吴长庆等人曾推荐他到朝中任事，他觉得自己功名未成而坚辞不受。张树声做总督时再次延请张謇前去任事，他仍然婉言谢绝，这就是他“南不拜张北不投李”的由来。

考场不果，他的人生就全为此功名之心充满。四十一岁前他做了不少实事，跟朝中大臣、封疆大吏做事，但没有考取功名总让他觉得不能一展才华，“为国家伸眉，书生吐气”。好在张謇懂得上进，他在考场上的挫折，不妨碍他在学业上的进步。光绪五年（1879）的三院会试之后，担任副主考的总督沈葆桢，在病榻上曾托人传话给他：“做文章不可只学《班书》，要着重看《史记》。”张謇因此下功夫钻研太史公的著作，还学习《管子》《晏子》等历代著作，大量阅读明、清地方志书，日积月累，博闻强识，打下了坚实的基础。他多次落第，引起不少人的同情。工部尚书、光绪帝的师傅，跟他的南通只有长江相隔的常熟人翁同龢等人想让张謇管国子监南学，对他说：“南学的诸生愿为你捐纳学正官，留管学事。”那时他年已四十，考进士屡汰不中，以后有没有希望很难说，有此机会对别人可谓求之不得，但他仍“峻词以拒”。这种局面终因慈禧太后六十大寿辰设恩科会试有了改变，张謇多了一次机会，而翁同龢要让张謇过关的心思几乎“志在必得”。这跟当代的高考一样说明人才闯关的偶然和侥幸。

光绪二十年（1894），张謇奉父命再次进京参加礼部恩科会试。他在二月的礼部会试中考中第六十名贡士，在三月的礼部复试时中一等第十名，“初定十一，常熟师改第十”；在四月殿试时，张謇的“常熟师”翁同龢命收卷官坐候张謇交卷，然后直接送到自己手里，匆匆评阅后，大加赞赏，提笔批了几个大字：“文气甚老，字亦雅，非常手也！”翁还做了其他阅卷大臣的工作，众主考官经过争议，最后一致同意翁同龢的意见，将张謇列为第一名进士。在向光绪帝引见时，翁同龢特地介绍说：“张謇，江南名士，且孝子也。”张謇得中一甲一名状元，照清廷惯例，新科状元张謇被钦授为六品翰林院修撰。