中共六大结束之后，向忠发和大部分中央委员返回国内，8月底，向忠发到达上海，9月2日正式开始了总书记的工作。新的中共中央机关设在上海云南路447号，当时中央领导分工分别是：周恩来任中央常委秘书长兼组织部长，蔡和森任宣传部长，李立三任农民运动委员会书记，杨殷任军事部长，关向应任团中央书记。

一上台，向忠发就做了几件“大事”。

第一件事便是以“左”倾错误开除了蔡和森政治局常委和委员的职务。六大之前蔡和森一度主持顺直省委工作，由于受瞿秋白“左”倾盲动错误的影响，造成顺直党盲动主义问题严重。虽然蔡和森承认错误后主动提出免除自己的职务，但向忠发果断行事，毫不手软，体现了他一向强硬的工作作风。蔡和森的空缺立刻由李立三递补，由此李立三成为四位政治局常委之一。

接着，向忠发起草发布《中国共产党中央委员会告全体委员书》，强调必须坚决反对党内小资产阶级意识，宣示自己的施政纲领。

第三件事，是提出一系列组织上的变革，包括中央兼江苏省委的工作、总工会并工委、宣传部并农委、军部取消并组织部以及政治局下设军事委员会等，其中大多数提议得到其他中央领导人的赞成，但很多领导人对中央兼江苏省委的工作提出质疑，六大前负责江苏工作的项英更是直接提出反对意见：

“在国民党严密统治和监控的上海，如此兼并极具冒险性，此兼并万不可行。”

向忠发则表示：“我们接受了六大的重大委托，我们如何来实行？新中央已经工作数月，有多少成绩呢？我们深深感到组织上的问题起到很大阻碍。我们每天都在喊中心工作，全中国的政治经济中心正是上海。……中央兼江苏可给一般同志以很好的影响，同时群众的情绪可以很快的反映到中央来。”

由于向忠发固执己见，坚持要执行此项提议，以致江苏省委与中共中央发生了尖锐矛盾，中共中央为此连续召开了十几次大小会议，此项提议仍不能得以解决。最终，在周恩来等领导的劝说下，向忠发不得不放弃“中央兼江苏省委的工作”，但仍不情愿地表示：

“我可以放弃主张，但并不是豪（即周恩来）说服了我。”

这一时期，由于正确贯彻执行了六大的方针政策，革命力量得以恢复和发展，到1930年春天，全国工农红军已经发展到10万人之多，革命根据地也由原来的三块发展到大小不等的十几块。

而向忠发毕竟读书不多，又是突然跃居高位，从一省工会工作到执掌中央全局工作，这个跨度未免有些大，因此许多工作都是在周恩来的协助下得以顺利开展的。但他从工运中一路走来，经历了大革命的锻炼，不仅具备一定政治眼光，且有着相当程度的表达能力和组织协调能力，并有强烈的愿望想要做出政绩，而且处理事务作风雷厉风行。而当时共产国际“左”倾指示，正好与向忠发干一番事业的愿望契合。于在此后“立三路线”“左”倾冒险错误的形成过程中，向忠发起到了不可低估的推动作用。