1926年8月15日，西北军为了避免全军覆没，开始西撤。奉系军阀重掌北京中央政权。当时的大西北，荒无人烟，偶遇村庄，村民闻大军过境，早已四散奔逃。正当酷暑季节，白天烈日炙烤，夜晚又寒气森森。部队败逃时将多余的行装尽皆丢弃，如今需要时又无从采购。伤病员接连死亡，活着的也在饥渴线上挣扎。开始尚有粮草供应，后来就饥一顿、饱一顿，饮水尤其困难。时间一久，在纪律与死亡二者不可兼顾的情况下，生存便成为压倒一切的需要。于是，兵士逃亡、违纪的事不断发生。赵登禹不敢采取严厉手段，恐激起变故。紧随其后的大军，情况更为严重，有的大批逃亡，有的聚众抢劫，沦为土匪。

经过南口战役惨败和长途跋涉消耗，西北军元气大伤。原来15万多的雄兵，至此只余5万人。装备大量丢弃，士兵的服装破烂不堪，有的兵一身上下能表现三个“系”：帽子是“奉系”的，鞋子是“直系”的，衣服则是“西北系”的。五颜六色，光怪陆离，好像一支庞大的武装丐帮。

张之江作为基督教徒，是个重德守义的老好人，但作为统帅，他确实只是庸才。南口兵败，搞得他精神几近崩溃，以致抽起羊角风，口歪眼斜，不得不离军疗养。大军疲敝之余，又群龙无首，陷入一片混乱。各部东零西散，有的一个团只剩二三百人，有的一个旅五百人都不到。彼此间争人、争枪、争供应，动辄用武，常常为一件武器便厮打成一团。兵员相互乱串，你拉我扯，去从随心所欲，无人干涉。有的自行组成班排，纪律废弛，几不成军。