北京外交部对上项抗议，于16日驳复，称公使馆的治外法权，不能容许组织助长所驻国内乱机关。此次未搜查使馆，仅于其附属房屋内，查出军火、宣传物品，并捕获重要党人，足证俄人有意扰乱中国治安，破坏中国秩序，所提四项要求，与事实不符，碍难照办。

苏联政府以要求未有结果，召回驻京代表及馆员二十余人，于4月19日乘车出京，取道奉天、哈尔滨回国。至此，北京政府与苏联的外交关系，遂告中断。

苏联使馆被搜，乃轰动国际的大事件。4月7日，蒋介石致电苏联驻华代办齐尔内赫，表示慰问，显示蒋氏对中止联俄政策，尚在举棋未定之间，但对反共则已咬牙跺脚，势在必行了。在蒋氏的势力范围内，平日和共产党明争暗斗的那些国民党人，现在无不摩拳擦掌，准备一泄胸中那口恶气。

从4月1日起，上海南市、闸北、沪西、浦东等地驻军，一律实行特别戒严。4月5日，以“日来形势严重”为由，由总司令部宣布正式戒严；9日各报公布了“战时戒严条例”十二条。蒋介石任命白崇禧、周凤岐（二十六军军长）为正副司令，成立“淞沪戒严司令部”，下令禁止一切集会、罢工、游行等事。俟一切布置停当之后，蒋介石于4月9日离沪赴宁。

陈独秀虽然认为上海形势严重，他必须坚守应付危局，但由于武汉方面催驾十万火急，4月20日要在武汉召开中央全会。陈独秀不得不步汪精卫后尘，于4月10日启程，离开山雨欲来的上海，前往武汉。

当陈独秀乘坐的轮船消失在烟水茫茫的长江上时，上海闸北、吴淞、浦东、南市等地的工人纠察队，已面临巨大的危险。自7日二十六军开来后，对工人表示绝无恶意，闸北戒严情形，变得较前松懈。但在11日下午，全副武装的二十六军第二师士兵，忽然散布街市，气氛骤形紧张。坊间盛传，青帮弟子已奉命在入夜后从租界冲出，会合军队向工人纠察队施以突袭。

工人方面也接到类似的密报，总指挥处当晚即送公函至二十六军司令部，请求万一发生不幸事件时，望予援助。但对方佯佯不理。纠察队总指挥处即通知各地纠察队，加紧戒备。入夜，形势更趋严重，军队往来巡梭，断绝行人。

总工会委员长汪寿华（中共党人）接到青帮头子杜月笙的请帖，到杜公馆面商重要事情。行前工会已得到青帮弟子要来缴械的报告，劝汪寿华不要赴约。汪寿华自恃与青帮交情非浅，去了或许可以把话谈开，不去反叫人家耻笑。讵料，汪寿华一踏入杜公馆，便被青帮分子绑架，连夜押到枫林桥的荒地里活埋。

杀戒一开，接下来的事，不是鱼死，就是网破了。

4月12日清晨4时左右，公共租界与法租界均宣布实行特别戒严。商务俱乐部处开来了几辆卡车，二三百名着党军服式臂缠白布“工”字符号的壮汉，在门前高喊一声散开，即有几十人向前门冲锋，并大呼“缴枪！缴枪！”纠察队副队长杨凤山上前理论，青帮弟子即将他的盒子炮抢了过去，并当场将他击毙。纠察队开枪还击，顿时枪声大作。二十六军第二师派出第五团前来，以调解为名，将纠察队完全缴械。

青帮向商务印书馆进攻时，遇到纠察队顽强抵抗，久攻不下。帮会分子调来几门小钢炮，对着商务印书馆的东方图书馆一轮猛轰，上万名“中华共进会”的青帮分子，乘势一涌而入，占领了这个工人纠察队的重要据点。

南市方面，也有两百多缠白布黑“工”字臂章的青帮分子，从法租界南洋桥乘汽车冲入华界，手持手枪、盒子炮、炸弹等，分三路包围南车站前的华商电车公司，向该处的纠察队开火进攻。沪西曹家渡同样有佩戴白布“工”字符号的青帮分子，分乘两辆汽车，到申新、民生、丰田各纱厂工会内，将四名工会领袖当场打死，又将各工会砸得稀巴烂。