李续宾说：“那就努力杀贼，不要白死!”于是仗剑鞭马，驰到营外，僚佐以下六百人紧随于后，深入敌阵。李续宾一出，壕外太平军自动后撤。董容方、吴立蓉正在安抚伤员，听说李续宾已出营，起身说道:“李公若死，我们活着干什么！”立刻向垒外奔去，横槊跃马，驰向人声喧闹处，大声喝骂。李光甲在李续宾出营时，将所有文件和李续宾的手书全部焚毁，然后裹创荷戈，去寻找李续宾的队伍。这时壁垒已破，太平军侦知李续宾所在，群聚围攻。李续宾率僚佐及军士负创奋战，纵横往复，杀敌无数，但军士也只剩下一百多人。

深夜时分，在太平军炮击之下，李续宾坠马，被刀矛刺死。刘神山与李光甲用别人的尸体将李续宾遮盖起来，随后也死在刀枪之下。曾国华等人也随之阵亡。湘军六千人被太平军全歼于三河、舒城、桐城一线。咸丰听到这个消息，表现出非同寻常的哀伤，也许他意识到自己未免焦躁了，促使这位优秀的臣子早夭于战场。君要臣死，臣未多言，就去死了，这样的臣子，如今还有几个？他本可以多给李卿一点时间，让他休整部队，调集援兵，那就一定能够延续李卿的生命。有愧的咸丰说，但愿老天能再生一个李续宾，再来给他做臣子。然后他对死去的李卿大发慷慨，追赠总督，赐谥“忠武”。