12月21日，白宗禧派湖北省民政厅长邓翔海飞抵南京，面请即将出任总统府秘书长的吴忠信和国民党中政会秘书长的张群，劝告蒋介石“从速下野，否则后悔莫及，恐各省将有通电劝辞”。由此，揭开了蒋下野的序幕。

1949年1月21日，蒋介石眼见淮海、平津战场败局已定，经过周密布置后宣布下野。而此时蒋介石对国民党的控制，是他三次下野中最牢的。尽管桂系白宗禧控制着华中剿总、李宗仁贵为代总统，但这丝毫不能撼到蒋介石在党内的地位。

在谈到桂系与蒋介石下野的关系时，还需要再提到两个人。一个是蒋介石的黄埔嫡系、但时常对蒋首鼠两端的何应钦；另一个则是非黄埔出身、而在蒋氏前两次下野前坚决支持蒋的陈铭枢。

何应钦在蒋氏第一次下野时所扮演的基本是“帮凶”的角色。这引起蒋的极度不满。蒋起家的根基是靠黄埔军校，而在校长之下，地位最尊的就是总教官何应钦。黄埔初期，蒋不在校时，主要是靠何应钦为其打理校务。因此，何在黄埔师生中有着相当的影响力。东征时，黄埔军校成立了两个教导团，第一团团长何应钦、第二团团长王伯龄。王因效忠汪精卫，很快被蒋罢免。从而更加强了何在黄埔学生中地位。

1927年蒋介石在下野出洋前进行的最重要的一项工作，就是加紧对黄埔学生的控制。而何应钦也深知黄埔力量是他在新的政治格局下依靠的最主要力量，因此处处给蒋设置障碍，甚至想阻止蒋氏与黄埔学生会面。蒋在日记中曾愤愤地记下他对何的不满：

敬之来电有反对我转杭与同学会相见之意。既斥我所信任之人，又防制学生亲我，使一手操办其事，而又为反革命军阀软化，彼以为我自谋而实不知我全为第一军谋安全，黄埔谋团结，此时则我断无复出之意。

但何应钦在国民党内的历史和地位，以及自身力量还远不足于向蒋挑战。1927年底，当国民党内各派政治势力重新洗牌、蒋氏复出之际，何应钦不得不再次向蒋表示效忠。基于何氏在黄埔师生中的影响，蒋介石还要用何为自己效命，但此前的经历令蒋对何不可能充分信用，只给了何一个位高而权轻的北伐军总司令部参谋长职位。原第1军此时已扩编为三个军：第1军军长刘峙、副军长蒋鼎文、第9军军长顾祝同、副军长卫立煌、第32军军长钱大钧，从此直接效命于蒋。此后，刘峙、蒋鼎文、顾祝同、卫立煌和后起的陈诚五人还被视为蒋介石的五虎将。何应钦基本被架空，再也没有直接带过兵。仅在西安事变之后，因蒋被囚，而短时间出任南京的讨逆军总司令。

随着蒋介石在国民党内地位的不断巩固，何应钦从此对蒋不敢有丝毫挑战，而甘心充当蒋介石在军队中的大管家这一角色。在1931年蒋介石第二次下野时，何应钦吸取了以往的教训，基本上站在蒋的立场上，但蒋对其所作所为仍不满，蒋在日记中曾指责“敬之实太不争气”。 而此时在黄埔教官中最为蒋介石宠爱的，早已变成了对蒋忠心耿耿的陈诚。不过，由于何应钦性格宽厚，而陈诚过于霸道，在黄埔系众多不满陈诚的将领中大都支持何，特别是随着黄埔学生在军队中的崛起，凡是没有纳入陈诚“土木系”的将领，更是与何应钦接近而疏远陈诚。甚至到1948年底国军在战场连连战败之时，黄埔系内部还在不停内斗，“第一期关麟征、胡宗南等皆反对辞修任台湾主席，空军方面亦如之”。这令蒋深感“意外之事”。

蒋介石为了搞平衡，不得不始终将何的地位摆在陈之上。例如抗战后期，蒋介石出任中国战区总司令后，即任命何为中国陆军总司令一职，但仍没有授予他直接的带兵权。何在长期的无奈中也逐渐适应了自己的角色变化。