五月间，蒋正朝前盗匪、东北大帅张作霖盘踞的北京推进时，日本首相却令蒋以及全世界大吃一惊，宣布日本将接受国民党接管中国——满洲除外。张作霖晓得，没有日本人撑腰，守不住华北，遂下令奉军退入东北。六月二日晚间，全副戎装的张作霖率领奉系高级将领搭乘专列打道回府。两天后，火车驶近沈阳，经过皇姑屯一道桥下，突然炸弹爆炸，整座桥垮塌，砸在大帅的专列上。张作霖受到重伤，几天后不治。

东京日本当局事先并不知道这起暗杀阴谋，但张作霖二十八岁的少帅儿子张学良立刻怀疑驻扎满洲的日本军部策划整个事件。（的确，日本关东军一群军官不满田中义一的政策，觉得他们可以控制少帅，安排了此一暗杀行动。）张学良秘密赶回沈阳，经过一段政治不确定之后，承接了东北军总司令的职位。少帅是个强烈的爱国者，决心绝不向日本人卖国。六月十九日，他发电报给蒋介石，表达效忠国家，东北决定投向中央政府。可是，委员长对少帅的前景颇有疑虑。蒋在日记写下：“汉卿（即张学良）仰慕之忱，似属诚意，惜其未经危难，恐不能当此危局耳。” 拿下北平（一九二八年六月二十日，北京改名北平。——编者注）之后，七月六日，蒋在北平郊外西山和主要的军事盟友集会。冯玉祥是嘻嘻哈哈，阎锡山则不苟言笑。伊斯兰教徒白崇禧也个性内敛，沉默寡言。平常外向的李宗仁在这种场合通常是冷眼旁观。这群高级将领进入碧云寺在孙中山灵柩前祭告总理。虽然没有任何一个外国观察家和少数中国观察家预料得到，距总理去世仅有三年半，国民党旗已由北平一路飘扬至广州。蒋一手扶棺，公然落泪。冯、阎一样频频拭泪。五大将领各自宣誓效忠国家、服膺国父遗教。但是，五人之中只有蒋恪遵遗教：中国要重振国势，必须成为高度集权的统一的国家。

蒋很快就和张学良接洽妥当东北易帜的协议，让青天白日旗飘扬在东北。田中首相严正警告张学良不要和南京政府结合，但少帅冷冷回答，已依人民意志作出决定。张学良此举是个非常大胆的决定。十月十日，蒋介石成为国民政府新任“委员长”——即总统、主席，他又是国民党的总裁、武装部队的总司令。张学良被提名出任国民政府委员、东北政务委员会会主席；十二月二十九日，他宣誓效忠国民政府，在沈阳升起青天白日满地红国旗。

此时，少帅担心他父亲的参谋长杨宇霆勾结日本人。一九二九年一月十日，张邀杨以及杨的一位亲信一起晚餐。席间，张暂退去吸鸦片（另有一说是打一针吗啡）；卫兵进到房里，格杀杨宇霆及其副手。有一说，张学良委决不下，靠投硬币来决定是否亲手杀杨。

蒋这位最新盟友是又一个军阀，而且是军阀中最为富有的，更是花花公子、鸦片成瘾。即使他比其他区域军阀更加爱国，少帅还是为自己的区域“王国”、为自己个人、为自己的大家族、为高级将领的内圈干部，争取高度自主权。不过，张学良也是相对自由派、现代化人物，一个理想主义者，必要时愿赌上他的遗产、封国和前途，追求伟大的中国统一之梦想。许多军阀依然恼怒国民党领导权落在新秀蒋介石手中之际，张学良却是新世代。他敬重蒋总司令，蒋的沉默寡言和僵硬的个性很像他同样的强悍和坚毅的父亲。数十年后，张学良告诉一位访客：“起先，我全心全力支持（蒋介石）。”