心远中学是熊育锡创办的，初期以培养少数熊家子弟为主。后来负笈者众，遂成为南昌一所颇负盛名的中学。这所中学注重科学和英文，奖励学生投考清华或其他新式大学，争取出国留学的机会。张国焘来到这样一所学校，顿觉一切都是那么新鲜。起初，他忙着补习英文和科学的课程，后来受了学校风气的影响，兴趣更偏向于科学的课程，准备将来投考大学工科。在这期间，张国焘用心读完了英国人赫胥黎所著、严复翻译的《天演论》，被书中阐述的进化的观点所吸引。从此，他终于越过了攻读经书的范围，开始来敲近代科学的大门。

然而，追求科学的愿望又被令人揪心的国事打乱了。1914年7月，第一次世界大战的爆发，搅乱了校园里宁静的学习生活。9月2日，日本对德国宣战，派兵在中国山东半岛龙口登陆，10月6日占领济南车站，径自管理原系德资经营的胶济铁路。11月7日，又占领了原系德国租借地的青岛。一连串的消息传到心远中学，引起了同学们的愤慨，他们认为这是日本别具野心，乘机侵犯中国的权益。

1915年1月18日，日本又悍然令驻中国公使日置益当面向袁世凯提出了灭亡中国的“二十一条”。消息传开，全国哗然。张国焘和全校师生也被极大地激怒了，一致认为“二十一条”关系中国生死存亡，非奋起抗争不可。张国焘后来回忆说：

就从那时起，我经常阅读报刊，留心时事。同时我在心理上，也觉得自己渐渐成为一个具有独立见解的成年人了。“追求科学知识”和“热心于国事”两种愿望在我内心发生了冲突；后者占了优势，终于成为一个狂热的爱国者。

5月7日，日本向中国政府发出最后通牒，限5月9日下午6时以前对日本的要求作出答复。袁世凯政府如期屈服，正式承认了“二十一条”。张国焘和同学们对这一莫大的国耻感到十分悲愤，他们再也坐不住了。他们结伴走上街头，按照报纸上登载的新闻，向市民宣传反日，呼吁抵制日货。

由反日自然地领悟到救国。张国焘经常与师友们纵谈当前救国大业，一心想寻求出一个救国的大道理来。他们有时想借助于基督精神，有时又想从注重体育入手，一时还想不出个所以然来。

张国焘和他的同学们，怀抱着国家前途和个人学业或许能步入佳境的期待，迎来了1916年的暑假。他们也离开心远中学，各奔前程。张国焘于7月间到浙江省象山县，看望了在那里任知事的父亲后，转到上海，温习功课，准备投考北京大学。在上海，经过二叔的介绍，他认识了革命党人叶伯衡，并在一起同住了1个多月。

叶伯衡是中华革命党的一分子。中华革命党是在“二次革命”失败后，孙中山为重整革命阵容，于1914年7月在日本东京成立的。当时，在上海的租界里，匿居着许多中华革命党的党员，叶伯衡只是其中之一。张国焘是如此描述这位革命党人的：

屋内陈设简陋，除了几件破旧的家具，棕棚床上只有一张破席；桌上乱七八糟的堆着书籍报纸。他穿着破旧，道貌岸然。……他亲切的告诉我，他是在过着革命党人穷苦而危险的生涯，对于我这个准备投考学校的学生是颇为不便的。他要我另找地方居住，以便安心温习功课。我说我喜欢革命党人，也乐于尝试这种生活的味道。他高兴得笑起来了，于是张罗来一张床，殷勤的招待我这不速之客。

……

他向我描述他在上海生活的情形。他困处在法租界，衣物都典尽当光了；有时甚至没有饭吃；向朋友借贷更是常有。他告诉我，亡命在法租界的革命党人有的穷得连长裤子都没有了；往往两三人共有一条长裤，彼此换着穿出去。但干起革命来，还是顶有劲的。他笑着说，他也快穷到连裤子都没得穿了。我听了这些话，对于革命党人艰苦奋斗的精神不禁油然而起同情敬佩之心。

这位革命党人给张国焘留下了深刻的印象。不久，叶伯衡离开上海。到印度尼西亚去了。紧接着，张国焘的一位表兄杜君来到了上海。他是革命军的一个团长，与他同来的有7个青年人。他们是受革命党的派遣，准备去日本留学的。他们与张国焘同住了一段时间后，启程去日本了。临走前，表兄拿走了张国焘的80元钱。张国焘考取了北京大学，旅费已感不足，只得再去父亲那里补充行囊。

张国焘在上海与革命党人的接触中，得到了许多新的感受。他回忆道：

在这两个月的时间内，我闯入了法租界革命党人的小天地中，其中充满着革命的理想主义和豪迈不羁的浪漫色彩。冒险犯难、乐观活泼、共患难、同祸福，是这个圈子内所珍视的品德。我当时受到这种气氛的影响，认为这种革命的精神，若再辅以学识和远见，将无事不可为了。