1906年夏，胡适考入了中国公学。这所学校是一部分留日的归国生创办的。1905年日本政府接受清朝反动政府的要求，禁止中国留学生在日本进行革命活动，故于当年11月以文部省名义公布了《取缔中国留学生规则》，中国学生认为是侮辱中国，群起反对，并停课返国。次年2月留在上海的归国留学生向各界募捐，自己办学为国争光，于是创办了这所学校。该校名有消除省界，民办学堂之意。那时青年人心理一般崇信共和，所以学校章程采取民主共和制度：发起人是学生，办事员是学生，读书的也是学生。其中老师和学生大多是革命党人，他们朝气蓬勃，穿洋装、剪辫子、用普通话教学，这些在当时都是与众不同的。也正因为如此，所以中国公学在社会上颇受封建势力之仇视。当时学校的教师有于右任、马君武、沈云翔等人；学生中有但懋辛、熊克武、饶辅廷等人，他们都是同盟会会员，资产阶级民主革命运动中的中坚分子。然而学校开办一个半月后，经费告罄，无法可想；创办人万分着急，其中湖南益阳的姚弘业激于义愤，于3月13日投江自杀。生前留下遗书说：“我之死，为中国公学死也。……愿此一点灵魂与中国公学共不朽!”他的遗书在报上发表后，引起社会震动，人们向他表示敬意：“南洋华侨胡子春，还有一个姓林的，激于义愤，次第捐洋数千元”。是年胡适也正因为读了这个遗书，受到极大的感动，而报名投考中国公学的。

胡适入学考试的作文题目是“言志”，总教习马君武看过他的试卷后，甚为惊喜，拿去给别的老师传阅，大家都说为公学得了一个好学生。那时他在同学中年纪算是比较小的一个，大家把他当作小弟弟看待，给他看《民报》，也不强迫他剪辫子。胡适在中国公学三年始终没有把头上的小辫剪掉，而且也没有人来劝他加入同盟会。后来但懋辛告诉他说：当时学校里的同盟会员商量过，大家认为你将来可以做学问，要爱护你，所以不劝你参加革命的事。虽然如此，但有些活动还是许他参与的。胡适回忆说：“我当时英语比较还好，记得有天夜晚已经就寝，同学们将我喊起来，要我到海关办交涉，因为有位留日的女学生从日本回国，为革命党运送武器，箱子藏有大批的手枪炸弹，被海关扣下来，我便冒险的前去交涉，但后来实在无法可想，只好不谈东西，将人营救出来作罢。”可见当时的中国公学，实际上是一个革命机关。

由于环境的关系，胡适入学不到一个月，就由一位同宿舍的同学钟文恢，介绍加入他们办的“竞业学会”。钟是会长，会员中大多是革命党人。该会的宗旨是；“对于社会，竞与改良；对于个人，争自濯磨。”为了鼓吹革命，他们办了一个白话报刊，叫《竞业旬报》，宗旨是；(一)振兴教育；(二)提倡民气；(三)改良社会；(四)主张自治。决议用白话文做宣传，要把他们的主张传布到小学生中去，从根本上做工作。该报1906年10月28日创刊，主编是湖南醴陵傅君剑。在第一期上有位会员以“大武”的笔名发表了一篇《论学官话的好处》的文章，他说：“诸位呀!要救中国，先要联合中国的人心。要联合中国的人心，先要统一中国的言语，这才是变弱为强的下手第一着。……”在别人的动员下，胡适也用白话文宣传科学知识，写了一篇《地理学》的文章在这期上发表。他说：“我们中国人，自古以来，都说这天是圆的，地是方的，谁知这话竟是大错……譬如一个人立在海边，远远的望着来往的船只。那来的船呢，一定是先看见他的桅杆顶，以后方能看见他的风帆，他的船身一定在最后方可看见。那去的船呢，却恰恰与来的相反，他的船身一定先看不见，然而看不见他的风帆，直到后来方才看不见他的桅杆顶。这是什么缘故呢?因为那地是圆的，所以来的船在那地的低处慢慢行上来，我们看去自然先看见那桅杆顶了。……诸君们如再不相信，可捉一只苍蝇摆在一只苹果上，叫他从下面爬到上面来，可不是先看见他的头，然后再看见他的脚么？……”这是他用白话文写的宣传科学知识的文章，他说：我做了一个月的白话文，胆子大起来了，忽然决心要做一部长篇章回小说，题目叫做《真如岛》，用意是破除迷信，开通民智；第一回登在“旬报”第三期上，回目是：“虞善仁疑心致疾 孙绍武正论祛迷”。虞是孙的舅父，家私富有，好施舍行善，膝下无子，非常迷信。一天得了重病，自信不能活命。因为曾算过命，说是今年54必有大灾，过不去了。这时恰逢外甥孙绍武来看他。孙不仅读诸子百家的书，而且常看新出版的书，故知道一些科学道理。他认为今日舅父生病，不过是外感风寒而已，于是劝他服药，另外从心理上帮助他克服迷信思想。经过他一番解释，吃了点药，后来病果然好了。