冯治安道：“当时我们好些人都劝总司令别去太原，但却没能劝住他。现在总司令被阎老西软禁，总司令托人带信来，指示让宋明轩（宋哲元字明轩）代理总司令之职。宋代总司令和我都了解你。也完全清楚你当时被石友三、韩复榘逼迫投晋的前因后果，所以这次他要我来找你，要你‘出山’。至于要干什么，我且先卖个‘关子’，等你见了宋明轩代总司令后，由他向你宣布。”

张自忠听冯治安这一番话，心情十分激动。这几个月来积郁在心中的阴霾一扫而空。他颇为感激地说：“谢谢宋代总司令，谢谢你。你们两位在我失意的时候能这么信任我，给我以援手，我会永远感激的。我会以实际行动来证明我不是石友三，不是韩复榘一类人的。”

冯治安道：“这么说来，你是同意出来作事了罗。那好，宋代总司令正在等着见你哩。你去换了衣服便同我一起去见他吧。”

张自忠从躺椅站了起来：“好，我换了衣服马上就走。”

冯治安陪着张自忠来见宋哲元。宋哲元见着张自忠到来，很高兴，说道：“荩忱，见到你很高兴，这一段你受委屈了。你也不必把它记在心上，现在一切都过去了。总司令现在被阎老西软禁在山西，授意我代行总司令职务。我和治安便想到了你，所以我们研究，决定要你出来工作。对此你没有意见吧？”

张自忠道：“代总司令和治安兄对自忠的关怀，使我十分铭感。知遇知德，敢不尽心竭力以报。自忠愿追随鞍前马后，供二位驱策。”

宋哲元道：“我想让你充任治安的副手，暂时担任十一军副军长之职，协助治安整训好这支队伍，先熟悉一下情况，下一步再作安排。如何？”

张自忠：“自忠一切听从二位的安排。只要不让我闲着就行。”

冯治安道：“目下是多事之秋，怎么会让你这员大将闲着呢！就是你想闲着，形势也不会让你闲着，西北军也不会让你闲着，大伙儿也不会让你闲着嘛。”

宋哲元道：“那就这么说定了。你们两位大约都还没吃饭吧。那就别走，中午算我请客。”

不久，张自忠又兼任了第二十二师师长之职。

10月10日，宋哲元等27名西北军将领在冯玉祥的授意下联名反蒋。蒋介石派唐生智部讨伐西北军，揭开了中原混战的序幕。

蒋冯战争正式开火，张自忠奉命率第二十二师开赴河南参战。在攻打洛阳以东黑石关地东山战役中，他作为这一战役的指挥官，他指挥第二十二师，田春芳师、周永胜师及一个炮兵师，与蒋军上官云相、肖之楚、徐源泉三个师展开了激战，一举击溃了蒋军这三个师，取得了这一战役的全胜，展示了他军事指挥的才能。

宋哲元对这次战役十分满意，对他十分赏识。

但是这个时候的阎锡山，仍然在施展他的两面手法，一面与冯玉祥、李宗仁联手反蒋，却又软禁冯玉祥以作筹码，要挟蒋介石；另一方面又靠蒋联合打击唐生智，就任蒋介石委任的陆海空军副总司令职位，对蒋介石按兵不动，任由西北军孤军作战。这时孙良诚又与宋哲元不和，使西北军难以统一指挥。最后西北军主力不得不从河南退回陕西。这第一次反蒋战争失败。

这年底，鹿钟麟继宋哲元就任西北军代总司令。他将原二五师扩编的第四军重新编为第六师，将第四军军长张凌云免职，调张自忠就任第六师师长。张自忠又回到老部队，官兵们因老长官归来欢呼雀跃。

张凌云在接管二十五师后安插私人，把二十五师的许多旅、团长都撤换，张自忠复职后，却仍然重用他们，信任他们，团结了大家，也稳定了军心。

第六师在天水得到过之纲第十五军（新兵军）的补充后，兵员恢复到两万多人。张自忠将这两万多人整编为三个旅，原第四军第九旅为第十六旅，仍由原师长张春棣任旅长，张宗衡任副旅长；原第四军第八师为第十七旅，仍由原师长王修身任旅长，由十五军拨来的新兵旅为第十八旅，原旅长佟泽光留任，李九思为副旅长。新兵旅有三分之一为回民，张自忠尊重回民的风俗习惯，为他们另设炉灶，由他们自行管理。回民士兵的训练也集中起来，由回族官员负责，单独进行。并要求所有汉族官兵，尊重回族官兵的信仰和习惯。不仅使全师团结，这些举措，得到地方的支持，张自忠也得到当地回民的拥戴。

反蒋联军57人通电要蒋介石下野后，阎、冯、李就任陆海空军总、副司令，通电讨蒋，任命鹿钟麟为前敌总司令，刘骥为参谋长，随后各地反蒋军及国民党改组派、西山会议派等纷纷响应，形成全国反蒋大联合。一场中国近代史上规模空前的军阀大混战——蒋冯阎中原大战终于开始了。双方在东起山东，西至襄樊，南迄长沙数千里上展开厮杀。

当时任东北边防长官的张学良，拥兵30余万，在时局上举足轻重。阎锡山约他倒蒋，但张学良认为阎锡山动摇不定，是在玩弄自己，对阎不满，因而这次不就任副总司令职，表示保持中立，不参与反蒋。

倒蒋联军，除冯、阎、李直系部队外，还有樊钟秀、万选才、孙殿英、石友三、刘茂恩、刘春荣等。

以李宗仁为第一方面军总司令，冯玉祥为第二方面军总司令，阎自兼第三方面军总司令，石友三为第四方面军总司令，并兼山东省主席，内定张学良为副总司令兼第五方面军总司令，刘文辉为第六方面军总司令，何键为第七方面军总司令，加派孙殿英为第八方面军总司令兼安徽省主席，万选才为河南省主席。