李鸿章初到上海时，觉得这里的官场风气太恶，他虽有心整顿，但强龙不压地头蛇，“沪吏十有七八系浙人勾结把持，直是无从下手”，想调走一个吴煦，都无法做到。别人是新官上任三把火，而李鸿章对谁都和颜悦色，款语温言，希望能够感化对方。到上海十天之后，他写信给曾国藩说：“鸿章到沪以来，官场、军营行怀悚惕，以向日习气太坏，骤见我军整肃，将领朴素，几有薰莸之异。鸿章日接见员弁，婉言劝导，不欲遽示威严，俟各营到齐，奉旨接任后，再徐为清理。”

不过，他的“婉言劝导”换来的，却是“岛人疑谤，属吏蒙混，众逆扑窜，内忧外侮，相逼而来”的局面。李鸿章静夜扪心，大概也会有“何苦来哉”的感喟，他对曾国藩说：“鸿章在此独立无助，惟恃此水陆万人相依为命。”他致函曾国荃时也说：“鸿章到沪以来，竟如李陵、王嫱之入匈奴，千手千眼、十摩十荡，拼此孤危之躯，涉风涛而不撼。” 他悲观地预计，“淘汰澄清，恐须二三年后”。

江苏既是财赋大省，也是战争的重灾区，李鸿章初揆抚篆，千头万绪，纷然杂陈，他写道：“苏抚日行公事，林文忠（则徐）曾言，视他处巡抚独多，今蹂躏若此，尚日高三四尺。鸿章自接任后，未及检阅，已成海矣。人人皆劝请幕友，鄙性向看不起老幕。现随营诸友，惟凌筱南同年尚可帮忙，余皆不了了。批札奏牍，仍须自起草。有万不可压搁者，有万不可不传见畅谈者，有万不可不躬亲料理者。五官并用，一刻不闲。”他从早到晚，“手不停披，口不息辩，心不辍思”，仍处理不完堆积的公务。

现在李鸿章明白了，师友们的赠言——从容、深沉、勿急，乃至胡林翼的“懵懂诀”，全是官场的基本功。虽然他自称看不起“老幕”，但他本人就是老幕出身，深知必须建立自己的班底，选用循吏良幕，才有可能逐步推动政治风气的改变。五月初九，他奏请调用候补中允冯桂芬、翰林院编修王凯泰、户部主事钱鼎铭、丁忧安徽道员王大经、安徽知州阎炜、浙江知县薛时雨、江西知县王学懋等，赴上海军营差委。在奏章中，他痛批江苏吏治“多趋浮伪巧滑”，“不讲操守，上下朋比，风气益敝”。

许多历史书上说，李鸿章用人最大的特点是非五亲六眷不用，非门生故旧不用，非安徽老乡不用。事实并非如此，他的幕府中，人才济济，各路精英都有，并不全是亲朋戚友。近代史上以“思想家”闻名的冯桂芬，便是与李鸿章毫无渊源的苏州人，他最有名的著作是《校邠庐抗议》，写于咸丰十一年（1861），也就是他进入李鸿章幕府的前一年。现在已无法考证李鸿章什么时候读过这部著作，但书中所提到的许多观点，正是后来李鸿章极力推行的。

冯桂芬提出的公黜陟、汰冗员、免回避、厚养廉、节经费、筹国用、杜亏空等主张，一一切中时弊。他对整顿盐务、关税等问题，胪列出的具体设想，令李鸿章十分感兴趣。《校邠庐抗议》中最具前瞻意义的内容，莫过于“变科举、改会试、广取士、停武试”和“制洋器、善驭夷、采西学”的主张，这在当时直如破山之雷，天震地骇。

冯桂芬一针见血地指出：“今国家以夷务为第一要政，而剿贼次之，何也？贼可灭，夷不可灭也；一夷灭，百夷不俱灭也。一夷灭，代以一夷，仍不灭也；一夷为一夷所灭，而一夷弥强，不如不灭也。盛衰倚伏之说，可就一夷言，不可就百夷言，此夷衰，彼夷盛，夷务仍自若。”这与曾国藩交代李鸿章先练兵、后洋务的指示，背道而驰。他提出的与洋人打交道的原则，对李鸿章也很有启发。他说：