之后，张国焘又联络到担任过革命军团长的表兄杜君，杜君与另外7名青年住在一间旅社，张国焘兴致勃勃搬去与他们同住，发现他们虽怀有一腔热血，却目空一切，极爱炫耀曾经的辉煌，且沉迷酒色，张国焘对此不敢苟同，平时除了睡觉便流连于书店，很少回旅社。不久，杜君等人到日本留学，张国焘报考了北大并被录取，于是大家分道扬镳，各奔前程。

近三个月与革命党人的接触，使张国焘第一次见识到革命斗争的艰辛，也使他学到了艰苦斗争冒险犯难乐观向上的良好品德。

10月，张国焘来到北京，进入向往已久的北京大学理学院理工预科一年级第三班，住在北河沿第三宿舍，与另外7名同学共居一室。当时每间宿舍都是新老生住在一起，第三宿舍的两名老生耽于酒色，对待新生态度蛮横，令张国焘十分反感。

事实上，此时的北京大学，校政腐败，管理混乱，学术空气淡薄，封建文化泛滥，不少师生个人生活不检点。好在张国焘入校不久，即当年12月，蔡元培接任校长，提出“兼容并包”、“思想自由”的办学方针，改造北大学风，推进学术研究。他将一大批进步人士网罗至北大旗下，包括陈独秀、李大钊、胡适、钱玄同、沈尹默等人。

陈独秀任文科学长后，将高举民主与科学大旗、倡导新文化运动的《新青年》杂志带到北大，令张国焘耳目一新。

张国焘此前经常阅读的进步杂志主要有《东方杂志》与《大中华》，如今见到《新青年》更是爱不释手，并一期不落地寄给父亲张觐珖，向父亲宣扬进步思想。张觐珖开始时并没有在意，为避免与张国焘起争执，他虽反对《新青年》，但缄口不言，直到一年后，张国焘愈来愈激进，张觐珖的担忧与日俱增，最后终于忍无可忍，与张国焘展开辩论，父子俩在书信里你来我往，唇枪舌剑，互不相让，但谁也占不了上风。

为了帮助张国焘转移注意力，张觐珖为儿子物色了一门亲事，兴高采烈写信告诉张国焘这个喜讯，并详细介绍了女方的情况。但他忽略了张国焘追求新文化，反对封建传统文化，怎会接受父母之命媒妁之言。他在回信中断然拒绝父亲的好意，执意要求与女方解除婚约，称：

“你们替我找的那个女子也许确如你们所说，是门当户对，很合适，但我从来没见过她，怎么能同她结婚呢？”

张觐珖没想到如此门当户对一门亲事竟被儿子否了，儿子竟然毫不顾忌张家脸面，让为父陷入两难境地，无奈之下，只好厚着脸皮备厚礼到女方家登门道歉，总算将一桩退婚事件摆平。出于对儿子前程的考虑，为了拉住儿子激进的步伐，张觐珖考虑再三，还是决定到北京看望儿子，争取父子俩坐下来，心平气和地沟通一下。

在火车站见到父亲，张国焘颇有些莫名其妙：“父亲突然到京，是不是有什么事？”

“没有没有，只是来看看你。”

张觐珖不想一见面就发生争执，想慢慢找机会再开导儿子。但张国焘每次去父亲的住所看望父亲，都要带《新青年》等进步刊物，见面后也是滔滔不绝地讲些新思潮、新文化以及北大的变化。他已渐渐看出父亲来北京的目的，冷静地对父亲说：

“父亲，你素来谨言慎行，遵循旧道德旧规矩，儿子却甘愿与旧传统宣战。你为了立身处世的方便，对儿子的所作所为不妨采取不负连带责任的态度。”

“我哪里是怕受连带？我还不是为你的前程、你的人身安全着想"

张觐珖忍不住老泪纵横。那一刻，张国焘也忍不住一阵心痛，但他信念不能变。张觐珖失望地离开了北京，从此再没有干涉张国焘的政治追求。