两名土匪对此自然也有耳闻，听后立刻对张国焘等人毕恭毕敬起来。“士兵”随即表示：

“我们是去打大城市的，从这里只是路过，能不能帮我们找一名向导？”

听说要找向导，两个土匪赶紧去向土匪头子报告。

第二天清晨，张国焘刚刚起床，就见两名土匪带着一名向导恭候在门口，向导称土匪绝不会与大军为敌，若大军有掉队人员，一定加以优待。

张国焘立刻下令集合，在向导的带领下，一行人很快走出这片荒凉地带，继续向潮汕进发。

9月23日，起义军进入潮安、汕头。三天后，新任广东省委书记张太雷绕道香港来到汕头，传达“八七会议”精神和中共中央指示。原来在张国焘离开武汉几天后，中共中央于8月7日在汉口召开紧急会议，总结第一次国内革命战争失败原因和教训，正式确立了武装反抗国民党反动派的总方针。并正式撤销陈独秀的总书记职务，张国焘因曾奉行陈独秀的政策，也被当作应承担第一次国内革命战争失败责任的领导人，由中央政治局委员改选为候补委员。谭平山、李立三已被取消中央政治局委员资格，周恩来亦为候补委员。新的临时中央政治局选举瞿秋白、李维汉、苏兆征为政治局常委，由瞿秋白主持中央工作。

听到这个消息，张国焘顿生一种被耍弄的感觉，原来南昌之行无论是否成功阻止暴动，都难逃厄运。张太雷随后宣布说：

“中央命令张国焘、李立三同志立刻回上海，这里的事由周恩来同志处理。命令取消国民党革命委员会的名义，改为苏维埃，部队开赴海陆丰地区，联合当地农民武装，改组为工农红军。谭平山同志在取消了革命委员会委员长名义后，也应离开这里。”

但当时军情紧急，起义军进入广东后，陈济棠、薛岳等粤军与黄绍竑的桂军以及国民党中央军钱大钧部随即向潮汕周围集结，对起义军形成包围态势。此时起义军不足万人，由于对敌情不够了解，情报有误，自9月28日在揭阳北部进攻山湖地区敌军，短兵相接苦战三昼夜，被黄绍竑部绕到背后直袭潮州，造成潮州、汕头相继失守。

撤出汕头后，前委和革命委员会领导机关人员于次日抵达普宁县流沙，从前线撤下来的部队也辗转来到流沙。

10月4日下午，张国焘在流沙的一个小庙里清点了他的农工委员队伍，40多人的队伍此时已剩下了几个人。小庙里挤满了伤兵。不多时，几名士兵用担架抬着周恩来走进来。周恩来身患疟疾，高烧40度，他强支撑病体，对张国焘与李立三说：

“情况危急，你们赶快离开这里潜往上海。除了应该留下的人员外，其他人一律遣送到香港、上海去。”

“你病得这么重，还是你离开部队，我留下来吧。”张国焘有些于心不忍。

“我的病不要紧，你们快走吧，晚了就来不及了"

在零零落落的枪声中，张国焘与李立三离开了流沙，于10月中旬到达上海，被安排在英租界重庆路一条横巷中的一幢住宅楼里。

这是一座两层楼房，房东住在楼下，张国焘与李立三以兄弟名义，分别住在楼上的两个房间里。他们对房东称：张国焘是哥哥，身份为教员，因病到上海就医；身为弟弟的李立三在银行工作，特地陪哥哥到上海看玻