8月初,山东发生了济南镇守使、第二师师长马良派兵捣毁山东回民外交后援会,捕杀该会会长马云亭及爱国积极分子朱春祥、朱春涛兄弟2人的惨案。马良的暴行,激起了全国人民的公愤。山东的学生和各界代表,联络天津各界代表到北京请愿。他们到北京后,又联络了北京的学生代表和唐山、良乡、山海关等地的在京代表,于8月23日到总统府请愿。大总统徐世昌不仅拒不接见,反而派大批军警将请愿代表数十人捕入警厅。第一批代表被捕后,第二批请愿代表又来了。8月26日,北京、天津两地的学生三四千人到总统府请愿未果。8月28日,北京、天津等地的学生再次分三路向新华门、西辕门、国务院进发,后汇集在天安门。夜幕降临后,大批军警对代表们进行了镇压,打伤多人,并捕走多人。8月下旬的请愿斗争,没有达到目的。
9月下旬,山东各界又酝酿进京请愿。在与天津学联联系后,派代表到了上海。全国学联经过商议,号召全国各地派代表到天津集合,讨论行动计划。9月20日,各地代表31人集会天津,商定了进京请愿的内容和具体步骤。随后,各地代表陆续到达北京。
各地代表进京后,想约请北京学生共同行动,因此邀请北京学联的代表开会。9月30日,会议在北京东城米市大街的青年会内召开。会上,由于张国焘的反对,发生了一场争论。曾参加过这次会议的上海代表张静庐回忆说:
为了扩大我们的声势,我们于月底来北京以后,曾于九月三十日找他们联系,请他们和我们共同行动。那时北京学生联合会的总干事是北大理学院的学生张国焘,我们约他以及北京其他几位代表到米市大街的青年会来开会讨论。
张国焘是反对请愿的。在这次会上,他公开表示请愿不会有什么结果,主张北京学生会不参加这个活动。我们则认为请愿虽然不一定有结果,但这个行动却可暴露段祺瑞政府和日本帝国主义者相互勾结的阴谋,可以阻止对日的“直接交涉”,以及激起全国人民的注意,意义十分重大,但是,张国焘依然坚持自己的意见,因而在会上引起了争执。
在争论中,张国焘说:学生无后盾。黄正品(黄爱)慷慨陈词,据理以驳,并拍着自己的脑袋说,担保天津全体学生誓作后盾。结果,这次会议不欢而散。由于张国焘不同意,北京的学生没有参加这次请愿斗争,上海学联的一位代表也宣布退出了。
10月1日,各地的30位代表到总统府请愿。由于得不到北京学联的支持,他们只好孤军奋斗。这次行动遭到了北京政府的镇压,代表们全部被捕入狱。在狱中,他们受到非人的待遇,仍坚持斗争。直到11月初,北京政府迫于各方面的压力,才将他们释放。这次斗争后,11月10日,全国各界联合会在上海成立。在它的组织和推动下,全国各地爱国运动得到继续发展。
在五四爱国运动中起了骨干作用的张国焘,到这时已失去了往日的热情,他辞去了在北大学生干事会和北京学联担任的职务,除参加邓中夏组织的“曦园”和参加平民教育讲演团的一些活动外,不参加其他活动,打算专心继续学业。后来,他对自己这时的想法和心情,做了这样的记述:
一九一九年的十月间,北大开学,我辞去学生会的一切职务,参加了邓中夏同学等所组织的“曦园”。这是一个学生公寓式的新生活团体,出自于无政府主义者“新村”的思想,以互助、学习、共同生活、亲身劳动(包括自己烧饭等等)为宗旨;参加者共十六人,多是湖南籍学生,其中也有不少的出色人物。……那位带有学究气味倡导新生活的邓中夏常向人一本正经的鼓吹社会改革的大道理,使人感觉到他具有“秀才”和“牧师”的两种风格。其他参加者也多数在五四运动中显露过一番身手,各具出色特性。我自己在曦园的一群中算是学生运动中最卖力的一个,他们认为我是不可多得的革命实行家,也曾被邓中夏戏称为“学生要人”。
然而我这个“学生要人”究竟还只是一个二十二岁的青年,仍不愿过分卷入政治活动的漩涡里去。我认为只有五四运动是我必须参加的一个紧急的爱国运动,其他并不想多所过问。此时我的主要努力还是在完成我的大学学业,为自己的前程立下基础。北京学生联合会仍在继续活动,对于抵制日货和声援十月间天津学生联合会和各界救国联合会的被地方当局压迫,以及十一月间福州学生因抵制日货被日本浪人杀害多人等事件,活动仍是特别起劲;但北京各学校一般同学在蔡元培所提出的“救国不忘读书,读书不忘救国”的口号之下,大体上已经恢复了正常上课的状态。同时我自己也一心的上课去了。杜威、罗素几位著名学者到京讲学,更引起我的兴趣,我是一个热心的听讲者。我除了每星期参加一次平民教育讲演以外,虽然同学们认为我是学生运动的识途老马,常要我参与其事,但我总是婉词推脱。
这时,张国焘已转入北大哲学系学习。他一心想着完成学业,将来功成名就。但是,他仍在10月12日北大平民教育讲演团第二次代表大会上被选为一个组的书记,并在11月间被北大学生干事会推选为副主任。不久,随之而来的一个意外事件打破了他重理学业的梦想。
12月间一个寒冷日子的正午,突然有几名警察来到曦园,直奔张国焘的房间。这时,张国焘正在厨房里做饭,由于同学的暗示,他顿时感觉到大祸即将临头了。他赶紧用炭灰朝脸上抹了几把,若无其事地照常做饭。那几个警察搜查了一阵,失望地走了。到下午5时左右,同住的同学在确认暗布在周围的警察已经离开后,才护送张国焘到沙滩北大第一院。
到第一院后,张国焘找到蒋梦麟和学生干事会的一些负责人,商讨对付的办法。学生会的负责人认为,这次警察的突然袭击,是对学生的又一次报复和镇压行为。他们估计被北京政府列入黑名单的学生可能还有很多,为避免学生再受打击,决定所有有可能被捕的学生都暂时躲避起来,其中一部分学生可分赴各地去活动。根据这一决定,次日拂晓,张国焘和罗家伦绕道永定门,溜出北京城,在一个小站搭上火车,悄然南下。两天后,张国焘和罗家伦以北京学联代表的名义到达上海。
张国焘和罗家伦到达上海后,在全国各界联合会代表会议上介绍了北京政府压迫学生、禁止抵制日货以及与日本交涉出卖山东的危机等情况,呼吁全国各界一致向北京政府抗争。这种主张,受到了国民党人的反对。国民党这时不承认北京政府,怀疑张国焘等对北京政府存有幻想,主张与北京政府绝交,全国民众起来抗纳捐税等等。张国焘则认为,不承认北京政府和打击北京政府是可以同时并进的,国民党人的激进主张,在北京政府的统治区域内实在难以办到。