1953年1月，在聂荣臻出席的第十次军委例会上，讨论了军队实行军衔制、薪金制、制定兵役法等问题。

随后聂荣臻即担任编制委员会、军衔委员会、兵役法起草委员会的主任。

他组织总参谋部的有关同志编写这3方面的文件，数易其稿，终于获得批准。

1955年，我军实行了军衔制、薪金制和义务兵役制。

前述几项制度的实施和逐步完善，使我军在正规化、现代化道路上迈出了极为重要的几步。

部队编制方面，由于战争年代各大战略区的情况不同，所以有许多不统一的地方。

1950年5月，聂荣臻在全军参谋会议上总结报告中说，部队编制上步兵今后要以师为基本单位，直接受大军区供应、指挥，取消兵团和野战军机构。

武器装备方面要以师为单位，逐步统一枪、炮口径，以便组织弹药的生产和供应。

1951年4月，他在主持全军研究编制装备的会议上讲话提出：军队编制应由“三三制”(即每军3个师，每师3个团，每团3个营，每营3个连)改为“四四制”，以加强炮兵；装备要大部改成苏式的，因美式装备弹药消耗大，无法补充；连队要配重机枪。

同年7月，他又在有朱德以及军兵种领导出席的讨论军队编制问题的会议上说，军队新的编制，已经讨论过3次，大家基本上是满意的。

朝鲜战争的经验证明，以我们现有的装备是不能彻底打败美帝国主义的。

我们提出现代化的口号，其物质基础是新的装备。

搞新装备是困难的，但困难必须克服。

有了新的装备，部队的编制还要与之相适应，否则新装备也发挥不了作用。

正当我军在正规化、现代化道路上起步迈进的时候，1950年6月，朝鲜战争爆发了，战火很快燃烧到了我国东北边境地区。

中共中央和毛泽东主席，以大无畏的气魄和胆识，决定派中国人民志愿军入朝，抗击美国侵略军。

抗美援朝战争中，聂荣臻为贯彻中央军委和毛泽东的作战指挥意图，保障前线胜利，竭尽心力。

早在1950年7月上旬，为预作防范，聂荣臻两次出席周恩来召开的中央军委会议。

7月15日，军委发布了《关于保卫东北边防的决定》。

据此，聂荣臻迅速着手组建东北边防军。

到9月下旬，东北边防军由中南军区第十三兵团下辖4个军，配属3个炮兵师共20万人组成，并部署到了东北边防地区。

这为志愿军第一次战役获得胜利奠定了基础。

8月1日，东北军区请示，可否派部分高炮部队到朝鲜一侧布防，以保护鸭绿江大桥。

8月2日，聂荣臻向毛泽东、周恩来报告：“经研究后，感到还是派出为好……因为鸭绿江的桥梁对我来说是必须保护的。”

4日，毛泽东批准了这个报告。

此后，经征得朝方同意，我军对大桥进行了严密保护。

抗美援朝战争中，大桥始终未被炸断过，这对保障战争胜利起了重要作用。

8月下旬，聂荣臻认为，中国被卷入朝鲜战争的可能性越来越大，光靠第十三兵团是远远不够的，他建议命第九、第十九兵团到山海关内地区集结，做好支援东北边防军的准备。

毛泽东批准了这个建议。

这对两个兵团日后及时入朝参战，起了重要作用。

9月15日，美国侵略军在仁川登陆，接着大举北进，迅即向中国边境迫近。

我们虽预有准备，但对是否出兵朝鲜，党内还是有不同意见的。

中共中央、毛泽东思之再三，最后才下了入朝参战的决心。

在10月上旬聂荣臻列席的中央政治局会议上，才作出了最后决定。

10月8日，毛泽东正式发布了《给中国人民志愿军的命令》。

随即我志愿军入朝参战。

激烈紧张的抗美援朝战争，使极为繁忙的聂荣臻更加紧张。