当时，河南、山东发大水，饿殍遍野，饥民四处流亡。隋炀帝“令灾民就食黎阳（今河南浚县东），开仓赈济”。黎阳仓，开皇三年（583年）建造，乃河南、河北地区最大的粮仓，储存有大量的粮食。倘若当地官员及时赈灾，就可将河南、河北灾害损伤降至最低程度，且可挽回民心。但由于政局不稳，中央威信在地方大打折扣，黎阳仓当地官员各行其是，根本不能按时赈济，饥民日死数万。可怕的死亡，严重威胁着饥民的性命，可以说在黎阳完美的再现了秦末的局面，只差一人高喊“王侯将相宁有种乎！”，遍地的干柴也只差一点火星，便可烧起燎原之火。

李勣见此情况，认为瓦岗军进取黎阳，向东北发展时机已然成熟，就向李密进言：“天下大乱，本是为饥，今若得黎阳一仓，大事济矣。”李勣经过长期战斗后，已经充分认识到“国以民为本，民以食为天”这一简单而复杂的关系。老百姓饭都吃不饱，自然要起来造反。百姓一造反，天下势必大乱。如果此时瓦岗军能够夺取黎阳仓，救济灾民，那么百姓自然心向瓦岗寨，夺取天下的宏图大业成功的几率就会大大的增加。所以，这条建议正符合李密的想法。

李密当即采纳李勣之建议，命他率麾下五千人从原武（今河南原武）北渡黄河，会合武阳郡元宝藏、平原郡郝孝德、魏郡李文相、洹水（今河北魏县西南）义军张升、清河（今河北清河）义军赵君德等部，四面夹击，一举袭取黎阳仓。李勣占据仓城，一面开仓放粮赈济百姓；一面大肆宣传瓦岗军的政策，号召农民起义反抗炀帝暴政。消息传开，远近灾民纷纷涌来，人数达数十万之众。不到二十天，李勣募得兵勇二十余万，声威大振。

随即，武安（今河北永年东南）、永安（今湖北新洲）、义阳（今河南信阳）、弋阳（今河南光山）、齐郡（今山东济南）等相继投降瓦岗军，占江（今湖北武汉）、黄（今湖北黄陂）之地的周法明，齐郡义军首领徐圆朗等也先后归附。连兵强马壮的河北义军首领窦建德，江淮义军首领朱粲也派人向李密称臣，表示归附。