从另一个方面看，商务印书馆的创始人夏瑞芳的确知人善任。他把张元济从南洋公学挖到商务印书馆是花了高薪的。张元济在南洋公学的月薪是100元，而夏瑞芳给张开的月薪是350元，从张元济给商务印书馆带来的效益看，这个开价完全值得。

与刚到上海那几年不同，1904年后，张元济对社会活动的参与多起来。这时清政府下诏赦免“戊戌变法”中的罪人，所以张元济当年的“处分”也就拿掉了，不过这件事并没有让他多么兴奋。他仍是出于一个知识分子的良知，对社会事务和民众利益加以关注。

1905年，张元济参加了保护中国铁路权的“保路运动”，赞成浙江铁路由民间集资自办，反对外国人对中国铁路权的攫取。当时浙江的一些民族资本家在上海集会，决定自建铁路，创设浙江铁路公司，选张元济任董事会董事。因为英国方面不肯取消原来的借款协议，给清政府施加压力，张元济还作为浙路公司的代表到北京请愿、谈判，和奕劻、袁世凯等人谈了一个月，可惜最后无果而终。

由于日俄战争中日本战胜，国内要求效法日本进行宪政改革的呼声强烈起来。清政府算是顺应潮流，一方面派大臣们出洋考察，另一方面设立了一个新部门——学部，专司教育行政。清政府此时想起了张元济，调他回北京做学部官员。张元济在矛盾中北上做官，只可惜这一次为官历程不仅时间不长，也没有什么大作为。

到了北京后，张元济在专为学部和外务部储备人才的储才馆任职，不过做得不怎么开心。这期间为官倒是次要的，重要的是他获得了去国外游历的机会。1908年，他去日本考察，很是开阔了眼界。一个相邻的弹丸小国，其制度、教育水平都明显优于中国，这让张元济很有感触。当然，让他更长见识的还是1910年2月开始的环球游历。这次游历的主要目的是调查欧美等国的初等教育和贫民教育，并考察各国的出版事业。张元济走了将近一年，英法德意美日跑了一个遍，国外的义务教育制度以及职业教育水平都给张元济留下深刻印象。他曾写下自己在德国的所见：“在柏林约看学堂有三十余处，实非他国所及，凡剃头、扫街、送信、卖肉之徒，均有特别补习学堂，就其所业而教之。”回国后，已经是辛亥革命前夜，他决意离开清廷回到商务印书馆，并产生了推动教育改革的强烈愿望。