骆秉章听说左宗棠没有就聘于人，便写信给他，请他出任自己的首席军事顾问。左宗棠初次谢绝，但骆秉章再次邀聘，左宗棠就接受下来。与此同时，太平军于1854年初再次袭击湘北。他们显然听说过左宗棠其人，因为他们派了一队人马前往左宗棠隐居的山间搜捕他。左宗棠风闻敌人到来，携带家眷逃往长沙。他于1854年4月5日进入巡抚衙门就任首席军事顾问之职。

曾国藩在募集新军时，与湖南省当局发生了不小的摩擦。全省的土匪令巡抚十分焦虑，他授权候补官员王珍募集一支志愿军来防守长沙。王珍与曾国藩立刻发生了冲突。左宗棠与王珍是很好的朋友，在这场冲突中左宗棠似乎是站在王珍一边。王珍甚至有可能谋求取代曾国藩成为湘军的组建者，显然曾国藩对王珍很不感冒。如果这种情绪牵连到王珍的朋友，也是无足为怪的。

黑尔说，在1854年春天长沙周边发生的军事行动中，王珍打了一场小仗，击毙了大约30名太平军，而他上报为一场大捷。"当关于军事行动的联衔奏报起草之后，曾国藩审阅并签上了自己的名字。但是在送达朝廷的最后抄正件上，左宗棠做了增删。在他所做的修订中，叙述了一场虚假的胜利。这使曾国藩勃然大怒。"［11］

不难理解，在农民运动的这一阶段，对一个心神不宁的政府而言，最微小的胜利也可以当作大捷，而人们最常见的秉性就是把厌恶的对象所取得的成功缩微，而把偶像的成功夸大。王珍的功绩在他的朋友和曾国藩的眼中很有可能大不相同。曾国藩似乎永远也没把这件小事忘掉。这就是曾国藩与左宗棠失和的开始，这种状况在10年后达到顶点。在湘军攻占南京之后，这两个杰出的湖湘子弟之间爆发了激烈的争端。

从南京溯江而上的太平军部队于1854年6月26日攻占武昌。散布各地的会党已在湖南活动了几个月，曾国藩和该省当局尽了一切努力进行镇压。4月份，曾国藩试图当一回现场指挥官，但他被太平军击败，非常沮丧，两次企图自杀。［12］他认为自己不是部队指挥官的料子，不能再做现场指挥作战的尝试。然而他继续担任湘军的首脑，到秋天已经成功地肃清湖南，开始向武昌进军。湘军于1854年10月14日占领这座城市，还有位于江北的汉阳与汉口，标志着清政府在镇压一场已经持续了4年之久的农民运动中首获大捷。于是曾国藩向南京进发，北京多年来第一次看到了最明亮的曙光。

但是政府的体制对于猛烈而成功的军事行动而言是一个过于沉重的包袱。曾国藩是总司令，但他的权力局限于指挥他这支人数不多的湘军，对各省的官员只能说服，而无权节制。曾国藩离开武昌以后，花了将近10年时间，才得以进入南京。不过必须指出，他的功劳在于，他从来没有失去希望，也未曾动摇决心。