从1930年至1935年，陈毅与粟裕虽然同在中央苏区，但不属于直接上下级，且分属不同的单位，陈毅于1930年12月以后主要在地方军区，粟裕则在主力部队，两人几乎没有联系，当然也谈不上相互影响。

1935年至1937年上半年，粟裕任挺进师师长，创建了浙西南根据地，坚持了三年游击战争。陈毅与项英也在赣南地区坚持了三年游击战争。因为电台遭破坏，中央军区司令员兼政委项英与党中央以及南方各根据地之间失去了一切联系。粟裕于1959年5月谈到《新四军1、2支队及第一师、苏浙军区的历史情况》，以及1958年3月至1963年4月时谈到《关于编写战史的几个问题》时说：“在三年游击战时，他（项英）在赣南与广东交界的地方，带了十几个人躲在山上，名义上是中央分局书记，实际上并未起到作用，南方各省没有接到他的什么指示”，“项英从未给过什么指示，我们还是从上海那里得到一些进步的书刊和党的八一宣言等文件。”陈毅与项英绝大部分时间是在一起的，因而此一阶段，分属两个根据地的陈毅、粟裕也显然不可能有联系。

1938年１月，陈毅被任命为新四军1支队司令。粟裕被任命为2支队副司令。不久，2支队司令张鼎丞奉命去了延安，由粟裕担任代司令。

4月以后，陈毅、粟裕开始了有历史记载的交往。4月24日，毛泽东致电新四军分会书记项英，指示新四军“主力开泾县、南陵一带，先派支队去溧水一带侦察”，并特别强调“须派电台及一有军事知识之人随去”。４月中、下旬，陈毅受项英委托，与任先遣支队司令的粟裕一起组建新四军先遣支队。陈毅将身边的副官和测绘参谋派到先遣支队，粟裕为此动情地说：“陈毅同志把强兵能将都调来给我了。”4月28日，新四军军部召开先遣支队到敌后作战略侦察动员大会时，陈毅以新四军军分会副书记的身份到会讲了话。随后，陈毅从岩寺赶到南陵，与驻扎在这里的川军交涉，为先遣支队疏通前进道路后，才和粟裕告别。 任新四军第二支队副司令员、先遣支队司令员时的粟裕。

6月11日至16日，粟裕奉军长叶挺、副军长项英命令执行挺进南京、镇江间破坏铁道任务，并成功地指挥了韦岗战斗。陈毅闻讯后写了一首七绝诗，以示庆贺。先遣支队完成任务后于6月21日奉命撤销，粟裕回到了2支队。

此后一段时间，陈毅与粟裕分别指挥所部，在江南不同的区域开展敌后游击战，打击日寇。建国后的1959年9月，当有人问及江南指挥部成立以前，1、2支队在指挥上是怎样的关系时，粟裕回答说：“绝大部分时间都归军部直接指挥，因为当时是统一之下的独立自主的游击战争。”

1939年8月，新四军军部决定1、2支队合并指挥，并于11月7日在江苏溧阳成立江南指挥部，陈毅任指挥，粟裕任副指挥。两人开始了相得益彰的一段共事时期，陈毅将全盘的军事指挥重任交给了粟裕，自己把主要精力用在抓统战工作上。陈毅具有丰富的领导经验，建国后的1962年3月，他在广州召开的全国话剧、歌剧、儿童剧创作座谈会上谈到了自己过去的一些领导经验。他说：“什么事情都去领导一番，反而会领导坏了，有些不去领导，反而好一些。要懂得，领导有领导成功的，也有领导失败的。有把握领导成功的就去领导，没有把握就不去领导，就让有经验的去搞，自己‘坐享其成’。”江南、苏北指挥部时期的陈毅、粟裕优势互补，开创了抗战初期新四军敌后抗战的有利局面。