这几着很快奏效，局面顿时缓和。日军到达小丹阳，不见新四军踪影，却连连收到后方告急电报，慌忙撤退回防，退守溧水、秣陵关等地。粟裕可不是个见好就收的人，危机一缓，命令部队抓住战机勇猛追击，收复小丹阳、薛镇、护驾墩、横溪桥、桑园铺、博望等地。

小丹阳反“扫荡”是粟裕进入抗日战场后所遭受的第一次成规模的“扫荡”。此次“扫荡”日军以十五师团两个联队寻歼粟裕二支队三团，因受新四军一支队一团、二团和二支队第四团的骚扰，未与三团发生大规模的战斗即仓促结束。

8月25日，张鼎丞率四团部和第三营抵当涂与粟裕会合。同粟裕会合后，张鼎丞参与指挥作战，但侧重部队和地方的政治思想工作。

那时四团的人事上也有一些变化。四团副团长由新来的一个叫张道庸的接任。张道庸是安徽省霍邱县人，是红四方面军过来的团长，参加过长征。这个张道庸就是后来大名鼎鼎的陶勇。

与日军在江南的兵力不足相比，粟裕的人枪更少。粉碎日军的“扫荡”后，粟裕一面命令三团继续打击日军，并取得不俗战绩：单10月2日，三团一部在秣陵至碌口间伏击日军修桥部队，击毙日军34人，缴获轻机枪3挺，烧毁汽车1辆，同日袭击南京至溧水公路上的碌口据点，毙伤日军14名；一面腾出手来扩大队伍。

粟裕游击战术思想里，游击队应当由正规军和地方群众组成。因为地方群众熟悉地方情况和地形。只有兵民合作，游击队才能更好地发挥游击战的威力。他回到大官圩将当涂县民间自发组织的抗日团体当芜青年抗日救亡团改编为二支队特务大队（编入老四团二营，后编入陶勇的苏皖支队），由救亡团负责人朱昌鲁（禄）任大队长；将活跃在当涂县北部刘一鸿组织的抗日游击小组改编为苏皖边区抗日自卫大队（后编入新四团二营），由刘一鸿任大队长。

刘一鸿，原名刘传儒，当涂县坝头村（今马鞍山市）人，原为当涂县采石镇邮电局长、国民党员。抗战爆发后，他成立抗日武装袭击日军，保卫家乡。他对粟裕说：“我为何要投奔共产党，道理很简单，蒋介石不抵抗，国民党太腐败！我是中国人，不甘忍受日军的蹂躏欺侮。我要抗日，所以我到新四军来了。我要把鲜血洒在疆场上！”

说蒋介石不抵抗是过激，但说国民党腐败、国军无能在某种意义上倒也是实情：国民党调集130个师和各型飞机200余架、各型舰艇及布雷小轮30余艘，共百万余人保卫武汉，但到10月，武汉仍然沦陷。武汉沦陷后，日军得以腾出兵力，调第十五、十七师团、杭州地区的第一一六师团和东北的伪满军5000余人增援江南。日军采取封锁交通、增筑据点，分进合击的战术，企图将新四军一网打尽。

由于形势严峻，第三团除留第二营继续在大官圩活动外，余部回驻横山地区。粟裕和张鼎丞移驻宣城北乡的史家湾、东华里、上冯村、慈溪等地，后移至宣城固城湖边的狸头桥。