李克农到桂林后，立即开始对国民党桂系的上层做联络工作，先是通过白崇禧的介绍，去拜会了广西省长黄旭初。黄旭初对共产党有戒心，问李克农：“广西有没有共产党？”李克农坦诚地说：“当然有，说没有那是在骗你，我就是共产党。不过我们共产党不会找你的麻烦。”接着李克农又安排夏衍、徐特立去拜访了黄旭初。共产党的坦诚，使黄旭初最终打消了戒心。

11月下旬，八路军在桂林设立办事处。该办事处得到了白崇禧的关照，工作开展得非常顺利。办事处为八路军和新四军筹措了大量紧缺军用物资，也为延安输送了大批爱国青年。李克农还特别注意团结国民党民主派和桂系内部的进步人士，主动与他们联系，他和李济深、李任仁、陈邵先等人，建立了很深的友情。

李济深是国民党元老，他利用自己职务的便利，为办事处做了不少事。李克农在桂林时，广西大学学生闹学潮，反对蒋介石的独裁统治。广西当局逮捕了20多名学生，其中不少是中共地下党员。李克农请李济深帮忙营救学生，李济深让秘书找到他在保定军校时教过的学生黄旭初，黄旭初把学生全部释放。

1941年国民党掀起反共高潮，1月初制造震惊中外的“皖南事变”。国民党特务要对广西的八路军办事处人员和一些进步民主人士下手，李克农得到情报，特务要对夏衍下手，他通知夏衍马上离开桂林。一天早上，李克农接到要李济深送来的一张小纸条，上面只有四个字“克农快走”。李克农知道，国民党方面要对八路军桂林办事处动手了。

李克农当机立断，下令销毁了一些机密文件，1月21日带领办事处的其他工作人员分别乘轿车和卡车，带着物资向重庆撤离。在数位国民党元老的压力之下，特务不敢造次，桂系当局执行的是“礼送出境”政策，所以他们很快便离开广西，进入贵州。在贵阳他们遭到国民党的刁难，几经周折到达重庆，从重庆再准备去延安。