1926年是国共合作的多事之秋，继国民党二大中共放弃对领导权的争夺后，3至5月，一连串严峻事件摆在中共面前，首先是中山舰事件。

1926年3月18日晚，一艘遭土匪抢劫的商轮向黄埔军校求助，要求派一艘巡舰运卫兵16人前往保护，几经周折电话打到军校驻省办事处，报告到办事处主任欧阳钟处，欧阳钟矫黄埔军校校长蒋介石之令，通知海军局速派兵舰二艘开赴黄埔，听候差遣。海军局当夜派出二舰，其中便有中山舰。

次日中午蒋介石得知中山舰已连夜开往黄埔，不由得大吃一惊。

此时蒋介石刚办好赴苏护照，而汪精卫当天上午三次询问他何时回黄埔，令蒋介石疑窦顿生，怀疑苏联首席军事顾问季山嘉与汪精卫联合设计倒蒋阴谋，准备将他“劫持”到苏联。

19日一整天，蒋介石在惶惶不安中度过。20日凌晨，蒋介石下令广州地区部分戒严，包围省港罢工委员会；拘禁卫戍广州的第二师共产党员；下令抓捕中山舰舰长李之龙，占领中山舰；同时包围苏联顾问团住宅，收缴其卫队的武器；以“保护”名义将汪精卫住宅包围。当天下午，当蒋介石意识到没有什么危险后，即下令取消戒严，释放党代表并向苏联顾问道歉。

事实上，蒋介石对此次事变并无取胜把握，却出乎意料地取得了一箭三雕的效果：

首先，他的果断与强硬措施迫使苏联方面做出让步，苏方不仅不予责备，而且答应其要求，将苏联顾问季山嘉等人调走，改变了苏联顾问控制国民党的局面；

其二，苏方的态度以及季山嘉的回国令汪精卫大失所望，遂称病不出，并于25日秘密出走，为蒋介石攫取党、政、军大权创造了条件；

其三，对李之龙的一抓一放，打击了中共代表。

事变发生后，陈独秀于4月2日派张国焘赴广州，对在广州的中共负责人明确表示：

“此次事件的发生，与我们党该退让而未退让不无关系。”

当时的中共广东区委书记是陈独秀的长子陈延年。陈延年在法国勤工俭学三年之后于1923年3月根据中共中央指示与其弟陈乔年及赵世炎、王若飞等人一起，转入莫斯科东方大学学习。1924年夏奉召回国，被派到当时的革命中心广东，先负责共青团的工作，后任中共广东区委书记。陈延年对陈独秀的退让态度持反对意见，在事变之初便主张给蒋介石以还击，由于季山嘉的反对而放弃。

在得知苏联方面对“事变”处理结果后，陈独秀又撰文称蒋介石“是中国民族革命运动中的一个柱石”，表明中共绝无倒蒋之意。

然而，事态发展之快令陈独秀大出意料，在5月15日召开的国民党二届二中全会上，蒋介石不仅提出“整理党务案”，而且公开提出一党专政的主张。

“整理党务案”是蒋介石为限制共产党发展，确保他本人与国民党政治前途的一项方案，为了得到从莫斯科返回的苏联代表鲍罗廷的支持，蒋介石对鲍罗廷明确表示：

“大党允小党在党内活动，无异自取灭亡。……以两党现状，共产党退出国民党为最好。”

在苏联顾问团的支持下，蒋介石的“整理党务案”顺利通过。

中共在第一军的党代表全部退出，在国民党中央担任部长职务的中共党员也全体辞职。