11月2日深夜，晋绥军第六十一军野战医院里，疲惫不堪的张焕刚刚在伤员的呻吟声中睡着，便被一阵嘈杂声惊醒。“大约是11点，来一个紧急命令，撤退。打得那么好，为什么要撤退呢？因为娘子关失守。”

在忻口战场激战之时，沿平汉铁路南下的日军，向娘子关中国守军发动猛烈攻势。10月26日，在敌人空军、炮兵、步兵的联合突击下，娘子关失守。

阎锡山于10月31日夜间决定：忻口地区的守军全线后撤。11月1日，阎锡山致电卫立煌：“我晋东军因受优势之敌压迫，正逐次向太原以东地区转移中，除已令傅总司令在太原布置城防，以固我资源重地外，希贵部在菜水坞、青龙镇、天门关之线占领阵地，俟敌接近，一举而歼灭之，并协助固守太原之傅（作义）军依城野战，以保卫太原。”

11月2日，日军攻占寿阳。“寿阳离太原就不远了。娘子关的敌人进来，要把太原夺去。我们在忻口，那不是孤立受包围？没有办法，不退也得退。”王用中说。

此时，沿正太线西进的日军以极快的速度向太原推进，意图切断忻口一线中国守军的退路。当天，卫立煌遵照阎锡山的电令，下达转进命令。忻口地区前线各兵团脱离阵地向后撤退。

“撤退讲得难听一点，好像逃命一样。”张焕说，“我现在回忆起来，令我非常感动的就是当时的老百姓相当好，我们晚上走，白天休息，经过随便哪个村庄，在公路上，就有老百姓问我们：‘吃过饭了没有？’，让我们到家里去吃饭。”

在南撤的路上，张焕时常能够看见一支支衣着破旧的八路军部队向北方走去。“那些八路军士兵真可怜呀，30个人，大概只有十几个人有枪，其他人拿着红缨枪和大刀。这个零零碎碎的样子，怎么去打日本人呢？”

八路军官兵却很有信心。杨永松说：“由于国民党军纷纷南撤，因此我军就要单独坚持华北的抗战。那根本没有问题，大家特别高兴，因为国民党军走了以后，我们就便于发展了。”

1937年11月7日，八路军创建的第一个敌后抗日根据地晋察冀军区宣告成立。八路军开始转战在敌占区。张焕后来随晋绥军转战吕梁山区。晋绥军在晋西南建立起吕梁山根据地，学着八路军打起了游击战。在晋东南，王用中所在的第十四军也创建了中条山抗日根据地，不过王用中并没有留下来参加敌后抗日斗争，而是随部征战。

从1937年10月13日到11月2日，坚守忻口的中国守军歼灭日军2万余人，却付出了伤亡10万余人的代价。中国守军撤退之后，忻口日军从太原北方协同晋东进入太原附近的日军会攻太原。晋绥军将领傅作义率部组织城防保卫太原。11月9日，太原沦陷。

有人把忻口战役中国军队的表现称为“不败之败”。在日军武器装备的绝对优势下，中国守军士气高昂，作战英勇，“基本上采用了攻势防御的作战方针和做到了正规战与游击战的相互配合，坚守阵地，打击和消耗日军兵力”。

忻口战役打击了日军锐气，增强了中国军民抗战必胜的信心和勇气。王用中回忆起此战后的一件事：“十四军军长召集战地工作人员说：‘抗战不是一天的事，本军长不勉强，你们来去自便。你们愿不愿意继续抗战，就直说吧。’我们几个人一起举手，说：‘拥护军长抗战到底，我们愿意牺牲奋斗。’”