蒋介石和孙科都坚决邀请父亲参加新内阁，又让父亲担任副院长兼国防部长。父亲还是不同意就任，挂了个政务委员的虚衔，要求回西北去。后来，孙科内阁曾要求美、英、法、苏调停中国内战，但被拒绝。

此后时局变化很快，淮海战役国民党精锐部队几乎全军覆灭。1948年12月24日和30日，桂系将领白崇禧先后两次致电蒋介石，力言大局至此，实不能再战，应“迅作对内对外和谈部署，争取时间”。同时向记者透露：非蒋下野不能谈和，应该让别人来谈。白崇禧的电报是给张群、父亲两人转蒋的。

白崇禧的用意非常清楚，就是逼蒋下野。在这种形势下，蒋介石不得不考虑下野，争取“光荣的和平”。

父亲和张群约了吴忠信三人研究，认为蒋介石确非下台不可。便拿了白崇禧电报和蒋介石谈，一连谈了10天，每天有谈一次或两三次的，最后蒋介石同意下野，由副总统李宗仁继任。于是就有了1949年蒋介石的《元旦文告》。

1949年元旦，蒋介石发表求和文告，宣布“引退”。父亲也同时接到不少朋友的提醒，说强硬派将不利于他。上海警察局长、京沪杭警备司令部二处处长毛森扬言：“凡是主和的都是秦桧，都要清算，我要准备用手枪对付他。”父亲还听说，邵力子先生常常不敢回家去。

公开的资料上说：针对蒋介石在求和文告中所提出的诸项和谈条件，1月14日，中国共产党中央主席毛泽东发表了《关于时局的声明》，针锋相对地提出了和谈的八项条件，完全否定了蒋的条件。1月21日，蒋介石发表下野文告。蒋介石下野后，副总统李宗仁任代总统。22日，李宗仁表示接受毛泽东所提出的八项条件为和谈基础，并希望早日开始和谈。

李宗仁上台后就想改组内阁，多次表示要父亲担任行政院长，父亲一再拒绝。父亲深感对大局已无能为力，认为全局无望，不如退保西北，1月底便回到兰州。父亲认为，除新疆有相当把握外，宁夏、青海两马是棘手的，甘肃也得下功夫。在2月7日甘肃省党部纪念周上，父亲发表了长篇的《三年来和运的回顾与展望》讲演，暗示将来西北非和不可，为此后西北的和平转变做了思想准备，对社会人心具有强烈的安定作用。没想到7个多月后，父亲的和平转变便得以实现。

父亲此时的心情十分复杂，精神上也十分痛苦。他一方面已经断定国民党政权必败，战与和都已无济于事。但另一方面他又和蒋介石的关系太深，如果撒手不管，于情于理说不过去。一种感恩知遇的旧伦理观束缚着他，一时不易解脱出来。因此，明知“形势太险恶”，但“由于自己二十多年来对和平的痴心梦想”，只能“知其不可为而为之!”。