那时，李鸿章的老师曾国藩已升任礼部侍郎。李鸿章以恩师为楷模，寻找着显露才华的机会，以求经世致用，扶清王朝于大厦之将倾。1850年，李鸿章在翰林院教习3年期满，散馆考试成绩优良，得以留馆，充任翰林院编修，官正七品。翰林院的编修虽然只是七品小官，但清代的汉籍名相十之八九由此起家。1852年，李鸿章在翰林院应翰詹大考，列为二等，得蒙皇帝的文绮之赏。

由于朝廷派出的军队难以镇压太平军，清廷于1853年命湖南湘乡在籍礼部侍郎曾国藩帮办本省团练事务。借着清王朝急于寻求力量镇压太平天国的时机，曾国藩趁势在家乡湖南一带，依靠师徒、亲戚、好友等复杂的人际关系，建立了一支地方团练，称为湘军。1854年2月，湘军1.7万人倾巢出动，曾国藩发表了《讨粤匪檄文》。湘军先败后胜，接着乘胜追击，从此成为在南方围剿太平军的一支强大力量。1858年，曾国藩的湘军在江西北部同太平军作战，并且攻陷了九江。

曾国藩同李鸿章是师生关系，李鸿章认为自己投奔湘军，一定会得到重用。可事情并不像他想象的那么称心如意，李鸿章赶到九江后，曾国藩借口军务繁忙，将李鸿章在旅舍里闲了一个月，最后才首肯。其实，曾国藩并不是真心不愿接纳李鸿章，而是看李鸿章心气高傲，想挫挫他的锐气。这也是曾国藩这位道学先生培养学生的一番苦心。

曾国藩让素有文采的李鸿章掌管文书事务，李鸿章处理得井井有条，甚为得体，深得曾国藩的赏识。而李鸿章对这位大自己12岁的老师也佩服得五体投地。他对人说：“过去，我跟过几位大帅，糊糊涂涂，不得要领；现在跟着曾帅，如同有了指南针。”李鸿章这匹骏马很快被曾国藩驯服了。几年的言传身教，曾国藩把官场的一整套本领传给了他的得意门生李鸿章。

1861年，太平军在江浙各地颇有进展，这使各地官绅惶惶不可终日。清廷命令曾国藩迅速东下，以慰“乡民”之望。曾国藩派兵东征的同时又上疏清王朝，认为湘军兵力不敷所用，请求让李鸿章回家乡皖北一带募兵，并推荐李鸿章担任江苏巡抚。在清朝统治者焦虑万分的情况下，这个建议自然得到批准。于是，李鸿章奉命回安徽募兵了。

李鸿章得到这个机会，真是如鱼得水。他在安徽东奔西走，两个多月后终于拼凑了一支5000多人的军队，号称“淮勇”，也就是通常所说的淮军。

当时，李鸿章仍是曾国藩的部属，淮军又是奉曾国藩之命而建立，所以淮军与湘军仍存在名义上的统属关系。曾国藩可能是要把淮军建成第二个湘军，但实际上淮军的建立，是由李鸿章一手促成。

1862年4月5日，李鸿章率领自己募编的6500余名淮军，乘坐英国轮船由安庆顺江而东，三月初十抵达上海。半个月后，清廷就根据曾国藩的推荐，任命李鸿章为代理江苏巡抚。李鸿章一跃成为清王朝的北方大员，拥有了外交权力。从此，李鸿章脱离了曾国藩的制约。

后来，李鸿章在平定太平天国和捻军的过程中立下了赫赫战功，成为著名的洋务活动家，“同光中兴”名臣之一，其后以北洋大臣兼直隶总督的身份掌握了北洋军权，参与了甲午中日战争的和战大计，与俄国签订了中俄密约，与11国列强签订了《辛丑条约》等。总之，晚清历史上几乎所有的大事都与李鸿章有关，李鸿章成为清王朝中的显赫人物，他本人也攀登到了权力的顶峰。

李鸿章在仕途宦海上的起步和发展，是多方面因素相互作用的结果。但曾国藩曾对他的深刻影响是不容置疑的。他从曾国藩那里学会了官场权术，学会了如何拉拢人才建立自己的利益团体。他能成为晚清时代赫赫有名的重臣，是因为他身边聚集着政界、军界、外交界、实业界的诸方面人才。这些人为他效力卖命，又靠着他飞黄腾达。盛宣怀就是这样，他凭着父亲盛康、胡林翼、曾国藩以及李鸿章等人的复杂关系，得到了李鸿章的提携，成为近代史上的实业巨子和李鸿章经济事业的代理人。