国民党假和谈、真内战的面目不久暴露，他们在签订“双十协定”不久，就向解放区进攻。上党战役、平汉路一线失败后，他们再耍起“和谈”阴谋。12月下旬，美国陆军上将马歇尔将军来华，调停国共冲突。1946年1月，由美国、国民党、共产党三方组成军事调停小组，同时在北平成立军调处执行部。李克农随中共代表团赴北平，任代表团秘书长。对外，他与叶剑英一起出席三方联席会议，主持交涉、交际和新闻发布活动；对内，他统管政治、人事、后勤、电台等工作，同时还要负责搜集有关情报。军调处中共代表团的工作人员一部分住北京饭店，李克农与机要、电台的同志住在翠明庄。

刚住到翠明庄时，精通无线电业务的李克农就查出了国民党的窃听装置。他与耿飚在自己的房间里谈话，沙发面前是一个小圆桌，李克农不小心碰倒了茶杯，茶杯掉在地上。当他弯腰下去捡茶杯时，发现桌子下面的地板有些松动。这一细小的情况立即引起了李克农的警觉，他与耿飚立即把桌子搬开，撬开松动的地板，果然不出所料，下面露出了国民党特务安装的窃听器。

李克农立即下令，对中共代表团居住的所有房间进行仔细检查，把国民党特务安装的窃听器全都找出来。这一找不打紧，还真找出了不少。李克农把自己房间的那个窃听器按原样装好，第二天找来国民党代表，当着他们的面把窃听器找出来，要求国民党作出解释。国民党代表面红耳赤，理屈词穷之下显得十分狼狈。

中共电台在翠明庄工作时，多次发现附近有可疑电波。李克农接到工作人员报告，布置缜密侦查，确定在翠明庄地下室有一部小型电台，国民党利用它专门窃听中共代表团的电文，试图获取电台的密电码。证据在手，代表团向国民党提出强烈抗议，国民党只好认错，可疑电波从此消失。

国民党特务还准备组织暴徒捣毁叶剑英住所和袭击翠明庄。李克农得到情报后，提前一天让叶剑英离开住所，并安排一位英国记者住进叶剑英的住所。当一伙暴徒闯进叶剑英住所时，发现叶剑英换成了洋记者，知道事情败露，只好灰溜溜走了，同时也不敢到翠明庄闹事。

李克农利用军调处的合法地位，在华北国民党军政机构内部建立了不少情报组织，发展了一批重要的情报人员。如第十一战区司令部作战处长谢士炎、军法处副处长丁行（又名丁行之），北平第二空军司令部参谋赵良璋等，这些人后来都加入了共产党，为我方提供了许多重要的军事情报。后来，赵良璋、谢士炎等人在“北平谍案”中壮烈牺牲。

1946年6月底，国民党在美国的帮助下，基本完成了内战部署。蒋介石露出了他的本来面目，公然撕毁停战协议，向解放区发动大举进攻。在这种情况下，8月10日美国宣布“调停”失败，北平军调部关闭。10月1日，李克农回到延安。

1948年，李克农任中央情报部代理部长。在解放战争中，李克农指挥情报部门及时搜集大量的重要情报，为中央研究战局、制定战略方针提供了重要依据。李克农领导党的隐蔽战线配合军事作战，特别是在辽沈、淮海、平津三大战役中发挥了重大作用。