回国后的李济在一位名叫凌冰的美国克拉克大学时期结识的学长举荐下(南按:时凌担任南开大学部主任,一说教务长),接受天津南开大学校长张伯苓之聘,先是担任人类学、社会学兼及矿科教授,第二年兼任文科主任。其间,由于矿科专业的关系,结识了当时中国著名的矿物学家、地质学家翁文灏,并通过翁再度结识了在李济人生旅途上具有重要转折意义的国际级地质学大师丁文江(字在君),二人成为终生挚友。
丁氏作为曾在欧洲剑桥、葛拉斯哥等大学求学七载,并于1911年辛亥革命爆发时归国的老字号“海龟”,此时已取得了中国地质界的领袖地位,担任中国地质学会秘书长,对田野考古发掘和野外收集资料颇为热心。正在这个时候,河南新郑古墓出土一批青铜器的消息传到北平,引起了学术界注意,丁文江得知,立即鼓励李济亲自到那里做些发掘工作,并筹了200块钱作为发掘经费,另外派了地质调查所谭锡畴作为李的助手协助工作。
李济接受了丁文江的好意,于1923年秋赴河南新郑做了第一次试探性小规模考古发掘,由于土匪捣乱与当地土著们不合作,加上墓葬几乎被盗墓贼盗掘一空,发掘收获不尽人意。李济自觉有“失败”之感。正是这次“失败”,使年轻的李济从具体实践探索中积累了可贵的田野工作经验,并有简短的英文报告《新郑的骨》一文问世。按李济的说法“由这些无数的宝贵经验中,我们可以深切地体会到丁文江先生对我们的一番苦心。”自此,李济迈出了由人类学家向考古学家转变的第一步。这一步在中国考古学史上的意义,正如许多年后美国宇航员阿姆斯特朗在走下飞船舷梯,迈向月球加里加特梯死海之时对地球人类说出的那句永垂不朽的名言:“这是我的一小步,却是人类的一大步。”正因了李济在新郑发掘的第一步,具有科学性质的考古学大幕在中国辽阔的大地上轰然开启,神秘的东方古代文明之门再度洞开,整个地球人类将随着中国田野考古发掘一步步推进和丰硕成果的展示,为远东大陆如此不可思议的高度发达的古代文明而惊叹。
1924年,美国华盛顿史密森学会弗利尔艺术馆(The Freer Gallery of Art),派毕士博(C.W.Bishop)率领一个代表团到中国进行考古发掘和研究,鉴于李济在学术界日渐兴隆的名声,以及他在中国近现代考古学史上迈出了关键性一步的机缘,毕士博代表团驻北京团部写信至天津南开大学,邀请李济加入他们的工作队,共同进行田野考古发掘工作。李济接信后,颇为踌躇,最后在丁文江支持下,决定与对方合作,他在给毕士博的回信中首先提出了当时并没有多少人意识到,但却关乎国家与民族大义的两个至关重要的条件: