一九○九年十一月，蒋从东京振武学校毕业，和友人张群奉派到驻在高田的日本陆军第十九野炮联队实习——凡要进入日本军校接受军士官养成教育，都需先经历实习阶段。军营生活非常清苦，训练严格，部队经常在风雪中操练。蒋积极接受挑战，但是他仍被认为冷漠，尤以脾气坏而出名，他自己也承认这一点。他的认真和努力或许赢得过师友们的勉强尊敬，不过他的整体成绩实在并不突出，在预备班同期六十二名中国学生当中，蒋排在第五十四名。

然而，十九联队中认识蒋介石的日本军士官，却记得他愿意接受严格的纪律，也表现出绝对的忠诚。有个士官记得他“仪表堂皇”。二十多年之后，当蒋已成为国民党领导人、开始清共时，他拜访昔日的日本师团长长冈外史将军。告辞时，蒋留下一幅题字“不负师教”给长冈。长冈认为，这正是蒋成功的秘诀：“忠诚、感恩”。

一九一一年夏、秋，陈其美忙着策划在长江流域各城市（包括武汉）起义。蒋以低级助理身份参与了攻占浙江省的计划。但是，十月九日武汉革命党人的地下炸弹工厂有一枚炸弹意外爆炸，引起清廷注意。这时蒋还在日本，清廷侦骑查获同盟会会员名册，开始逮捕新军中的革命党人。十月十日，新军第八镇中的革命党人鸣枪起义。

革命因而爆发。各省新军高级军官纷纷响应，成为实际上的政治领导人或都督。也有少数情况是由帮会头目与军事单位合作抢下控制权。虽然尚未正式得名，中国已迈入“军阀时期”。蒋介石听到武汉新军起义的消息后，与张群等一百二十名中国籍士官学校学生立刻离营，把制服寄回联队，设法尽快回国。

二十四岁的蒋介石，在日本已居留三年，读日文、说日语都不是问题。除了一夜情，他大多在华人圈中生活，并没有结交真正的日本友人，但是日本对他影响很大，加强了性格里与生俱来的一些倾向，他从此保有强烈的军事纪律感、革命热忱与对主义及领袖的忠诚。这些特质加总起来，使他格外坚持政治信念、个人勇气和诚实。他认为武士道至死不渝的精神是日本军事成功的主要原因，但是他也认识到，日本现代化的成功，是与日本生活中从铁路系统、教育和生产制造领域，样样讲究纪律、效率分不开的。终其一生，蒋认为爱国和民族精神——尤其是认同国家高于家庭、个人生命及财产——是恢复中国的尊严及世界地位的关键。问题出在，中国似乎缺乏建立这样一支大军所需的公共意志力以及热切的民族主义。孙中山就慨叹中国犹如“一盘散沙”。

蒋介石、张群等人从长崎搭乘日本货轮，在上海日租界码头上岸。上海市四分之三的地盘是外国租界，但中国人仍占全市人口的九成五。洋商汇集的黄浦江畔江湾，以及商业街道南京路等主要道路，形形色色的中国人熙来攘往：洋买办穿梭其间，留长辫、穿长袍的本地商贾亦出入市井。西方金融家、日本生意人也穿着黑色西装，点缀其中；少数洋人已有了新兴时髦的汽车，和推板车、人力黄包车以及一根竹竿挑起重担的苦力争抢道路。但是，上海的生命线是市区里数以百计的胡同巷弄，午夜以前的任何时候，都有上万名商贩、工人、家庭主妇、工匠、学生、店员和失业者，川流不息地穿梭在一排又一排的水果摊、面摊、云吞摊、作坊、菜市场与茶室之间。店家坐在凳子上和邻人、行人闲扯。蒋、张两人走在人潮中，十分失望，因为这里根本看不到大革命正在进行的丝毫景象。