海防塞防的战略大讨论之后，清廷开始更加重视海军建设，李鸿章也逐渐展开北洋海军的建设工作。但中国面临的国际形势的恶化速度，远远超过了海军发展的速度。

筹建海军十年来，除北洋海军外，其余南洋、福建、广东三支水师发展十分缓慢。而且观念和思维严重滞后，清廷仍然用管理传统水师的方法管理近代海军，致使全国竟然没有一个统一的海军指挥机关，各地水师还是由当地督抚管辖，各督抚都将水师看作自己的私产，别说是协同作战，就是调遣都很难。

在“众人皆醉”中，李鸿章是那个保持清醒头脑的官员，他早已认识到近代海军装备技术复杂，必须进行高度统一的管理。所以在1884年2月中法马江海战的半年前，他就曾向总理衙门建议设立“海部”统管全国海军，而当时的总理衙门想在沿海七省专设一个“海防”衙门，由一个重臣来统筹。

“海部”和“海防”仅一字之差，但在李鸿章看来，区别可大了去了，他据理力争自己的“海部”理念。他认为当时需要做的是直接在京城设立作为中央机关的“海部”，而不是另建一带有地方色彩的“海防衙门”。以李鸿章的精明，他能不知道总理衙门用“海防”一词而不用“海部”一词，不过是想“踵其实而避其名”，避开朝廷中的反对派吗？这些年来，建设地方性近代海军已经遭遇到强大阻力，现在提出要在“中枢”设立“海部”，顽固派的反对只会更大。但是李鸿章的过人之处就体现在敢于坚持自己的观点，在他看来，当此外患严重之时，只有在首都设“海部”，才能长大清国威而灭敌人威风，达到最好的救急效果。

李鸿章的这一主张直到半年后中国海军遭遇了马江惨败，才得到真正实现的机会。李鸿章再一次发挥了他强大的劝说能量，在奏折中充分、全面地论述了建立全国性“海军衙门”的理由。

从舰船、舰队、造船、军港、船坞、炮台、学校等各个方面进行介绍，简直就是事无巨细，现在看来都不得不由衷地佩服李鸿章的学问，无愧为“近代化”的启蒙者。在李鸿章的积极推动下，1885年10月海军衙门成立。

但是海军衙门成立，给北洋海军带来的不是好运，而是厄运。之前，虽然北洋海军军费也常常被慈禧太后挪用修圆明园，但是在李鸿章的苦心经营下，北洋海军还是得到了发展。

海军衙门成立后，整个衙门简直就成了老佛爷公款修园的小金库，北洋海军没有再购买过或是制造过一只军舰。到了1891年，海军衙门干脆连掩耳盗铃的姿态都不要了，不再为自己的挪用军费而遮遮盖盖，专门向清廷奏请将海防捐款用于圆明园修葺。户部尚书翁同书本来就同李鸿章有点私人恩怨，这断北洋海军后路的活儿他还是愿意干的，于是爽快同意了海军衙门的奏请，停止购买洋船洋炮。李鸿章除了气得干瞪眼也没有别的着数。

李鸿章心里的苦只有他自己知道，他平时这“化缘”、那耍耍小心眼，好不容易才凑够778万两银子购置到北洋舰队中7艘主力战舰就这么化为乌有，悲苦之情可想而知。

李鸿章费心建立海军衙门，本是为了构建更加合理和现代化海军指挥体制，没想现实给他开了个大玩笑，这个理想最终沦为修建圆明园的财务处和工程队，被挪去的海军军费都可以再建两支北洋舰队了。