1853年初，曾国藩着手招募和组织一支志愿军，这支部队就是后来享誉全国的"湘军"。

这个任务非同一般，起初他不得不跟旧军队的特权阶级竞争，还得面临任何新生事物在一个古老国度里注定要遭到的普遍反对。不过，这一年内他取得了长足的进步。在组建时期，这支部队在镇压土匪的战斗中获得了丰富的基本实战经验。

作为一个湖南人，曾国藩认为新的军队在与太平军交战之前，应该首先稳定本省的局势。他意识到，他的部队一旦跨出湖南边界，为了在战场上维持军力，他就必须依靠湖南省来补充兵员和资金。在整个那一年内，北京不断催促他东进镇压太平军，但曾国藩按兵不动，直到他做好进军的准备。江忠源和他的那支小部队已被派往长江下游，在江西抵御太平军。他当时已被提拔为安徽巡抚，下年初在与太平军作战时吃了败仗，自杀身亡。于是，在前期镇压太平军的战争中唯一的一个表现出了才干的军队指挥官，就这样离开了舞台。

左宗棠在太平军围攻长沙时曾担任巡抚张亮基的军事顾问。张亮基升为湖广总督后，骆秉章继任湖南巡抚。太平军在1853（原文为"1854"，译文根据史实做了改正。--译注）年2月撤离武昌后，张亮基去武昌上任，带着左宗棠同行。他向皇帝推荐左宗棠做官，结果左宗棠得到了知县的头衔，而非官位。张总督说，他只有3个人可以完全依靠，其中包括左宗棠，他能打理总督衙门里的任何公务。张总督与骆秉章联名推荐左宗棠做官，他得到了同知直隶州的任命，但他推辞未就。1853年秋，张总督调任山东，由吴文镕继任湖广总督。究竟是吴文镕未留左宗棠为他效力，还是左宗棠不愿留下，我们找不到记载，只知道他在11月份回到了湖南老家。

《年谱》没有说出左宗棠拒绝就任直隶州同知的理由，但在下一年他写给曾国藩的秘书刘霞仙的信中，也许可以看到对这件事的解释。他认为自己去就任那个职位是大材小用了。其中提到的武侯是中国人心目中的大英雄诸葛亮的另一称呼。左宗棠总爱把自己比作诸葛亮。信中写道：

来示谓涤公拟以蓝顶花翎尊武侯，大非相处之道。……吾欲做官，则同知直隶州亦官矣，必知府而后为官耶？且鄙人二十年来所尝留心，自信必可称职者，惟知县一官。同知较知县则贵而无位，高而无民，实非素愿。知府则近民而民不之亲，近官而官不禀畏。官职愈大，责任愈重，而报称为难，不可为也。此上惟督抚握一省大权，殊可展布，此又非一蹴所能得者。以蓝顶尊武侯而夺其纶巾，以花翎尊武侯而褫其羽扇，既不当武侯之意，而令此武侯为世讪笑，进退均无所可，非积怨深仇，断不至是。涤公质厚，必不解出此，大约必润之从中怂恿，两诸葛又从而媒孽之，遂有此论。润之喜任术，善牢笼，吾向谓其不及我者以此，今竟以此加诸我，尤非所堪；两诸葛懵焉为其颠倒，一何可笑。幸此议中辍，可以不提，否则必乞详为涤公陈之。吾自此不敢即萌退志，俟大局戡定，再议安置此身之策。若真以蓝顶加于纶巾之上者，吾当披发入山，誓不复出矣。［10］