九月初，李渊率部进抵河东（今山西永济市）。河东城扼守黄河渡口，可谓关中门户，其战略地位十分突出。此城长期由隋朝名将左武侯大将军屈突通经营镇守，防御极为严密，加之地形险要，所以易守难攻。李渊率部围攻多日，想尽了各种办法，可河东城依旧固若金汤。李渊意识到这座坚城不可能轻易攻克，遂准备放弃河东，沿河岸北上，从北面的渡口入关。然而，裴寂等人却坚决反对。他们认为：“屈突通手握重兵、固守坚城，就算今天绕开他，万一我们不能攻下长安，撤退时就会遭到河东的阻击，到时候腹背受敌，形势将万分险恶。不如先全力拿下河东，然后西进。河东是长安的门户，屈突通一旦战败，长安城指日可下！”

裴寂等人话音刚落，李世民马上又提出了针锋相对的意见。他说：“不然。兵贵神速，我们拥有连战连捷的余威和四方来附的部众，如果快速西进，长安必定震恐，很可能在他们来不及作出反应的时候，我们就已经像秋风扫落叶一样把城池攻了下来。如果逗留在坚城之下，自陷于疲敝之境，使长安有充分的时间加强防御，而我们自己却白白贻误战机，一旦军心离散，那大事就不可为了！”

这是李渊集团在军事战略上发生的第二次分歧。

这一次，李渊兼听了双方的意见，决定双管齐下、兵分两路。他命令各将领留下来继续围攻河东，由他本人与李建成、李世民亲率主力渡河入关。

九月十二日，李渊一进入关中，各地隋朝官吏立刻望风而降，纷纷献出所辖郡县。其中，华阴县令李孝常献出了下辖的永丰仓，极大地满足了义军的粮草和物资需求。此外，京兆府所属各县也纷纷派遣使者来向李渊投降。

十六日，李渊抵达朝邑（今陕西大荔县东），随后命李建成、刘文静等各军进驻永丰仓，并扼守潼关，防备可能出现的隋朝援军；同时又命李世民、长孙顺德、刘弘基等各军进攻渭水以北的泾阳、云阳、武功、盩厔诸县，从北面对长安进行包抄。

在李渊进入关中之前，他女儿平阳公主早已在此起兵。她联合当地的义军，攻克了长安外围的许多隋军据点，为李渊的西进彻底扫清了道路。

李世民与平阳公主在渭北会师之后，远近各地的官吏士民和义军首领纷纷前来归附，李世民精心挑选了一批才俊之士作为自己的左右手。其中一个人，就是后来的名相房玄龄。

房玄龄出身于官宦世家，自幼博览经史，在文学和书法上均有很高造诣。少年时代曾随父亲房彦谦游京师，其时国家安定、天下太平，人人都认为隋王朝一定会江山永固。可房玄龄在长安逛了几天后，却从鼻孔里重重地哼了一声，对父亲发表了一番时政感言。

他不仅痛骂隋文帝杨坚“混诸嫡庶，使相倾夺”，还说到头来必定“内相诛夷，不足保全家国”。他父亲听了这番大逆不道之言，本来就已经吓得不轻，没想到房玄龄最后又说了一句：“（隋朝）今虽清平，其亡可翘足而待。”（《旧唐书·房玄龄传》）

最后这句灭九族的话彻底把他父亲吓得魂飞魄散。

当时房彦谦绝对不会想到，短短十几年后，房玄龄的预言就变成了现实。

十八岁那年，房玄龄中了进士。当时的吏部侍郎高孝基素以“知人”著称，见过房玄龄后，大为惊叹，忍不住对同僚说：“我阅人无数，此少年将来必成伟器，只可惜看不到他‘耸壑凌霄’的那一天。”