因为要向在上海的中共中央汇报北伐军的作战部署，他先到了上海，再由水路经武汉、岳阳到了长沙，与北伐军汇合，并开设了军委联络点，积极开展工作。

一天，苏联军事顾问加伦将军来到军委联络点，问聂荣臻，你们究竟是要蒋介石胜利呢还是要他失败?要他失败很容易，因为整个北伐的军事部署都是我帮助制定的，要他失败，只要改变一下部署就成。

聂荣臻觉得问题太大，说，这不是我能答复的，我向上级报告。

他随即通过中共湖南区委，向在上海的周恩来汇报。

周恩来向中央做了报告，没有得到明确的答复。

聂荣臻到达长沙后，去见了叶挺。

听说独立团一路过关斩将，所向披靡，很是高兴。

叶挺提出的主要困难是缺少干部、共产党员，一路上的减员还没有得到补充。

聂荣臻向中共湖南区委作了汇报。

区委动员了一批工人、农民，补充给独立团。

8月下旬，叶挺独立团攻占汀泗桥、贺胜桥，逼近武昌。

聂荣臻得知喜讯，于9月初由长沙乘火车北上。

一路看到的战场上的惨烈情景，给聂荣臻留下了深刻印象。

在汀泗桥、贺胜桥，他看到有许多吴佩孚部的士兵尸体，因为有大刀队督战，有的士兵不敢逃跑，就吊死在树上。

我们也牺牲了许多战士，同敌人的尸体倒卧在一起。

他佩服独立团的英勇，无愧于铁军的称号；也深信，以共产党员为骨干，有工人、农民参加的军队，具有很高的觉悟和极强的战斗力。

由于武昌敌人凭坚城固守，北伐军数攻不克，反而先把汉口打下来了。

聂荣臻就来往于汉口、武昌之间，从事联络工作。

10月10日凌晨，独立团一部，摸黑架上云梯，攻进城去，打开了武昌城门。

聂荣臻就随独立团大部队，扒开城门口的沙包，攻进武昌城。

进了武昌城，组成了新的中共湖北区委军委，聂荣臻任军委书记。

办公地点就在武昌中和里，这是他亲自选定的。

北伐军攻占武汉不久，另一路北伐军攻克南昌、九江，向长江下游地区发展。

12月，国民党中央政府迁都武汉，中共中央机关也由上海迁到了武汉。

面对这样好的革命形势，聂荣臻的工作更加紧张。

到达武汉的各路国民革命军，都要求补充干部和士兵，他力所能及地满足他们的要求。

不过，他的重点仍然是满足第四军的需要，特别是叶挺独立团的需要，因为这是以共产党员占主导地位的武装。

聂荣臻把黄埔第四期的毕业生大部分分到了第四军。

其中林彪，就被分到了以独立团为基础组建的第二十五师。

但在大好形势下，也有令聂荣臻忧虑的地方。

有一次，他与蒋介石不期而遇，谁也没有理谁。

聂自不用说，蒋也装作没有看见的样子，仰脸而过。

中央来到武汉，聂荣臻去向党的总书记陈独秀汇报。

陈对军事工作不感兴趣，只听不说。

联系到1925年9月由苏联回来，在上海曾向陈独秀汇报过在苏联学习军事的情况，陈也是不感兴趣，不愿意听。

党的领导人不重视军事斗争，尤其在中山舰事变以后，肯定不是好兆头。

到1927年3月，在各地共产党组织和工人农民的大力支持下，北伐军相继占领了包括杭州、南京、上海在内的长江三角洲地区。

蒋介石自感羽毛已丰，就积极酝酿对革命力量进行大屠杀的阴谋，并采取了一系列相应措施。

聂荣臻对蒋介石的阴谋活动不甚清楚。

但他从周恩来的来电中，知道上海工人举行第三次武装起义以后，反动军队与工人武装之间时有摩擦，预示着将有事变发生。

特别是4月9日国民党右派的“护国救党”通电发表后，他预感到一场大的反革命风暴即将来临，为之忧心忡忡。