大业十三年（公元617年）六月初五，以李渊为首的政治军事集团正式在太原起兵。

隋亡唐兴的历史大幕就此拉开。

李渊集团的战略目标非常明确，就是直取隋帝国的政治心脏——西京长安。

要进军长安，首先必须攻克西河郡（今山西汾阳市）。

李渊把这个首战的任务交给了李建成和李世民兄弟。初出茅庐的李氏兄弟不负众望，轻而易举地拿下了西河郡，轻松漂亮地完成了他们军事生涯的处女作。军队凯旋后，屈指一算，前后仅历时九天。李渊大喜过望地说：“如此用兵，足以横行天下了！”

首战告捷。李渊更加坚定了南下关中、西取长安的决心。

这一年六月十四日，李渊置大将军府，自立为大将军，以裴寂为长史，刘文静为司马，唐俭和温大雅为记室，武士彟为铠曹，殷开山为户曹，长孙顺德、刘弘基等人为左右统军；同时以李建成为陇西公、左领军大都督，统率左三军；以李世民为敦煌公、右领军大都督，统率右三军；以柴绍为右领军府长史；其余文武将吏也各有任命。

七月初四，李渊以李元吉为镇北将军、太原留守，让他镇守后方根据地。初五，李渊召集全军誓师，发布了声讨杨广、“匡扶”隋室的檄文，传檄四方郡县。此前，李渊命刘文静出使突厥，暂时向始毕可汗称臣，以便稳住突厥人，并要求他们在政治和经济上提供援助。随后，李渊亲率三万精兵从晋阳出发，正式踏上了开创帝业的征程。

七月八日，李渊率部进抵贾胡堡（今山西汾西县北）。此堡南面五十多里处，就是隋将宋老生重兵据守的霍邑（今山西霍州市）。

在这里，李渊军队陷入了一个进退两难的困境。

首先是因为连日天降大雨，道路泥泞难行，军中粮草即将告罄，而派回太原运送补给的车队又迟迟没有返回。其次，军中开始传出谣言，说突厥人已经变卦，准备联合刘武周袭取太原，因而军营中人心惶惶。

这时候，多数将士打起了退堂鼓，纷纷要求班师。而李建成和李世民却据理力争，坚决反对撤兵。李渊犹豫再三，最后采纳了他们的意见，决定天气转晴后立刻攻打霍邑。

自助者天助之。李渊父子的坚持最终也感动了上苍。七月底，来自太原的粮草和补给终于运到。几天后，天空也放晴了。八月初三，李渊率全军迅速兵临霍邑城下，以激将法诱使宋老生出城迎战。双方接战后，李渊与李建成假装受挫，往后退却。李世民则与段志玄率精锐骑兵从背后突击宋老生。隋军腹背受敌，顿时溃败，宋老生被杀，所部三万人也全部被歼。李渊父子随即攻克霍邑。

这是李渊出师以来取得的第一场胜利，极大地鼓舞了士气。进入霍邑后，李渊当即论功行赏。军中负责授勋的官吏提醒他说：“奴仆出身的人，似乎不该跟一般战士同等待遇。”李渊不以为然：“飞石流箭之间，不分谁贵谁贱；为何评定功勋的时候，却要分尊卑等级呢？应该完全平等，有什么功，受什么赏！”

随后，李渊军迅速南下，一路势如破竹，八月八日占据临汾郡（今山西临汾市），八月十三日攻克绛郡（今山西新绛县），八月十五日进抵黄河东岸的龙门（今山西河津市）。同时，刘文静也带着五百名突厥士兵和二千匹马赶来与李渊会合。

刘文静的归来无疑让全军上下都吃了一颗定心丸。因为将士们再也不用担心太原（最主要的是城中的妻儿老小）会被突厥人偷袭，于是越发坚定了西进关中、夺取长安的信心和斗志。