一九二一年，商务印书馆聘请胡适先生出任编译所所长。为此将胡先生从北京请到上海，考察一个半月。胡先生最终没有接受邀请，他在日记中，一方面赞扬“这个编译所确是很要紧的一个教育机关——一种教育大势力”；一方面写道：“我是三十岁的人，不应该放弃自己的事，去办那完全为人的事。”但是，他很喜欢上海的人文环境，他临行前还写了一首诗，表达对商务印书馆的感谢，以及对上海的依恋：“多谢主人，我去了！两天之后，满身又是北京的尘土了！”

在沪期间，胡适先生向张元济先生提出编印“常识小丛书”计划，此事见于他的日记：“下午到编译所，为他们你了一个《常识小丛书》的计划，并拟了二十五个题目。”这张书单包括国家五个：《日本》、《英国》、《美国》、《俄国》和《德国》；历史巨人四个：《孔子》、《释迦牟尼》、《耶稣》和《华盛顿》；新事物五项：《交易所》、《银行》、《飞机》、《电报》和《无线电报》；主义一项：《过激主义》；政法四项：《法律》、《国会》、《律师》和《法庭》；经济重点六项：《盐》、《蚕》、《蜂》、《棉》、《茶》和《煤》。

需要指出，上面这张书单是张元济先生改过的，他去掉了胡适先生原书单中的《袁世凯》，建议加上《布尔什维克》或《过激主义》；去掉了《电话》，建议加上《煤》或《煤油》。