西凉衰亡之兆已显，李唐的一个朝臣安兴贵立即向李渊上奏，愿前往西凉劝降李轨。由于安兴贵家族世居凉州，在当地颇有势力，其弟安修仁当时还在西凉担任户部尚书，深受李轨信任，所以安兴贵对此胸有成竹。

武德二年（公元619年）五月，在取得李渊的同意后，安兴贵只身回到凉州，很快得了李轨的信任。但是，安兴贵对李轨的劝降却没有成功，他只好决定采用武力。随后，安兴贵与安修仁一起暗中募兵，出其不意地发动了一场兵变，生擒李轨，把他和几个弟弟、儿子一起押往长安，全部斩首。

至此，李渊不费一兵一卒就平了西凉，占了河西。

然而，李渊万万没有料到，他这边轻轻巧巧地占据了河西，他的四子李元吉（时任并州总管）却不战而败地丢掉了并州（原隋朝的太原郡）。

攻占并州的正是据守马邑的刘武周。

众所周知，并州是李唐的龙兴之地，而且是捍御突厥的军事重镇，其战略地位非同小可。所以当李元吉灰溜溜地逃回长安时，满朝文武无不震恐。武德二年（公元619年）下半年，刘武周麾下猛将宋金刚横扫河东，令唐军节节败退，连主动请缨北上的右仆射裴寂也被打得丢盔弃甲，毫无还手之力。

李渊不得不下诏告谕河东各军，说：“贼势如此，难以争锋，不如暂时放弃河东，坚守关中。”

李世民立刻站出来反对。他说：“太原是帝业的发祥地、国家的根本所在，而河东物产丰饶、民众富庶，是京师的资源供应地，如果将其抛弃，儿臣窃感愤恨！请拨给儿臣精兵三万，必能平定刘武周，克复汾晋。”

李渊甚为欣慰，马上集结关中的所有精兵，全部交给了李世民。

十一月，李世民趁黄河结冰，率大军自龙门踏冰西渡，进驻柏壁（今山西新绛县南），与宋金刚对峙。李世民仍旧采取了他的一贯战略——坚守营垒，拒不出战，以此消耗对手的锐气，也消耗对手的粮食。

从武德二年（公元619年）十一月到武德三年（公元620年）四月，李世民与宋金刚整整对峙了将近半年，除了发动一两次十拿九稳的奇袭之外，基本上按兵不动。四月下旬，宋金刚终于全线撤退。李世民抓住战机，一日一夜追出了二百余里，与定杨军大小数十战，连战连捷，一直把宋金刚追到了介休。还没等他们缓过一口气，李世民已经兵临城下。

就是在接下来的这场战役中，李世民得到了宋金刚麾下的一员猛将——尉迟敬德。

当时，不甘失败的宋金刚命尉迟敬德防守介休城，自己在西门外列阵阻击唐军。李世民命李世发起进攻，而后佯装败退。当宋金刚挥师进攻的时候，李世民率精锐骑兵迅速绕到了他的阵地背后。腹背受敌的定杨军顿时崩溃，被唐军斩杀三千余人，宋金刚带着少数轻骑再度北逃。李世民又追出了数十里，一直追到张难堡（今山西平遥县西南）才勒住了缰绳。

尉迟敬德料知大势已去，只好归降了李世民。

宋金刚惨败的消息传到并州后，血本无归的刘武周就像被利器戳中了心脏，顿时全身瘫软。此次倾巢南下，他把自己的精兵良将全部交给了宋金刚。而今宋金刚全军覆没，刘武周还拿什么逐鹿天下？

绝望的刘武周只好放弃并州，带着少数部众流亡东突厥。宋金刚本来还想收集残部再战，可士卒们风闻刘武周已经逃亡漠北，都不再听从他的号令。宋金刚无可奈何，只能步刘武周之后尘，率一百余骑逃奔突厥。但是突厥人觉得他们已经没什么利用价值，不久就把他们先后除掉了。