清末10年，商务印书馆完成了从印刷工场到出版巨子的蜕变，确定了其在出版业的地位，并且成为晚清以来，普及、传播新知新学的文化重镇。到1910年，商务印书馆已是晚清仅有的15家资产超过百万元的企业之一。商务在张元济的手中实实在在地推动了中国文明的进步。但是随着民国的到来，商务印书馆开始面临竞争。

在教科书出版领域，商务面临着中华书局的挑战。经过多年发展，商务在教科书方面本是一家独大，但民国成立后，商务印书馆所编的教材显得不合时宜，而后起之秀中华书局所编教材的内容恰恰符合民国政府的需要，这对商务印书馆造成了冲击。不过好在商务的核心人物张元济、夏瑞芳、鲍咸恩等人都曾到海外考察过，能接受新事物，也能转换思想，所以在教科书不占优势的情况下，迅速转向工具书、文史哲书籍、地图、数学书籍等方面，商务的业内老大地位依然难以动摇。

1914年年初，商务印书馆出了一件大事。一天傍晚时分，张元济和夏瑞芳忙完公事，从发行所下楼准备回家。张有事回到楼上，夏瑞芳便自行登车要离去，没料到一名刺客突然冲向夏瑞芳开枪，夏当即倒地，送到医院后不治身亡。

夏瑞芳的去世，对商务是个重大损失，张元济由此不得不把更多精力花在商务的管理方面。在他的主持下，商务印书馆开始系统出版善本古籍。这是商务历史上的一个重大变化，这意味着张元济不但重视西学的传播，也同样重视中国文化的传承和发扬。在当时民国新成立，政局还不大稳定的情况下，张元济着手做古典文献的整理出版，是需要相当勇气的。

其实，张元济收集图书的历史可以追溯到更早。1909年商务印书馆的涵芬楼图书馆建成前，张元济就通过蔡元培的介绍，收了徐友兰的熔经铸史斋藏书。虽然张藏书不为个人，但久而久之，也获得了藏书家和版本学家的美名。张元济曾说：“吾辈生当斯世，他事无可为，惟保存吾国数千年之文明，不至因时事而失坠，此为应尽之责。能使古书流传一部，即于保存上多一份效力。吾辈炳烛余光，能有几时，不能不努力为之也。”

张元济对古籍的珍爱还和他的欧洲之行有关。1910年，张元济来到法国国家图书馆的时候，正值敦煌典籍被盗两年。他向图书馆的负责人要求查阅他们收藏的敦煌典籍。在一间密室里，他见到了流失国外的古老文献。他想仔细观看，并抄下目录，以便以后再来翻拍、影印，但是没能如愿。

虽然张元济没能抄印敦煌典籍，但他却是第一个在海外寻访被劫典籍的中国人。寻访几近湮灭的古籍成为他毕生最重要的一项工作，寻书、藏书、编书、出书，他把这看做为这个灾难频仍的民族续命的大事业。

随着熔经铸史斋五十多橱的图书入藏，涵芬楼成立。涵芬楼是张元济专为储藏古籍所建的书室。