一八九八年十一月，戊戌变法的血迹尚未干涸。张元济先生带着朝廷“革职永不叙用”的大辱，离开京城，来到上海。经李鸿章举荐，出任刚刚组建的南洋公学译书院院长。他到任时，书院已经出版八种译自日文版的兵书《日本军政要略》、《战术学》、《军队内务》和《作战粮食给予法》等。这是一张实用主义的书单，张先生建议改弦易张，开拓更宽的译书领域。

他开出的第一张书单是请严复先生译亚当．斯密《原富》，他建议为严复先生支付百分之二十的版税，这也是中国最早实行版税制的实例之一。为此，译书院出资两千银元，几乎是译书院当年百分之二十的开销。到一九零四年离开译书院，加盟商务印书馆之前，张先生主持译书院开出书目六十七种，正式出版不少于三十六种，有《中等格致读本》、《政群源流考》、《万国通商史》、《英国文明史》、《美国宪法史》和《万国政治史》等。