无政府主义传入中国其实还要先于马克思主义，辛亥革命之后它就开始在中国有所发展，到五四时期在中国社会，尤其是青年知识分子中十分流行。

随着马克思主义的传播，无政府主义的地盘渐渐缩小，这是无政府主义者们所最不希望看到的，也是他们最恐惧的。因此他们开始公开攻击马克思主义，抢夺思想领域的阵地。五四运动后的两年，黄凌霜、区声白等无政府主义者发表了《马克思学说的批评》、《我们反对“布尔什维克”》，明火执仗地攻击和诋毁马克思主义。他们反对一切权威，反感一切强权，反对无产阶级政党和无产阶级专政，诋毁布尔什维克党是“杀人放火的强盗”。

1919年6月起，陈独秀、李大钊、施存统、李达等早期马克思主义者展开了对无政府主义的批判。陈独秀写了《谈政治》，李达写了《什么叫社会主义？》，施存统写了《我们要怎么样干社会革命》，以及周佛海写的《我们为什么主张共产主义》，旗帜鲜明地批判了无政府主义，批驳了“一切国家都是祸害”的谬论，揭露了无政府主义者所鼓吹的“绝对自由”的虚假性和欺骗性，揭穿了无政府主义的“极端个人主义”本质。马克思主义者们指出：无产阶级要取得革命的胜利，就必须彻底打碎资产阶级的国家机器，资产阶级的专政职能应该被无产阶级所取代，无产阶级专政“警察也要”、“军队也要”、“监狱也要”。

马克思主义与非马克思主义这场论战声势浩大、旷日持久，其实质是要不要在中国建立无产阶级政党，中国是走资本主义道路还是走社会主义道路。经过这场论战，无政府主义的本质弄清楚了，它与马克思主义的界限也就明了了。原来许多信奉无政府主义的青年知识分子，转而信仰马克思主义，原来混在共产主义队伍中的少数无政府主义者也被清除出去。论战促进了马克思主义在上海和全国的传播，对于建立马克思主义的无产阶级政党有着重要的意义。

这个时期，上海早期马克思主义者同工人运动相结合，广泛宣传马克思主义，为上海共产党早期组织的成立打下了扎实的思想和干部基础。