西安事变和平解决后,国共第二次合作,举国一心,齐力抗倭。早在1930年,陈诚即奉蒋介石之命,与钱大钧等人赴日本参观军事演习(时称观操)。日军演习时分成东西两军对抗,东军约有一师兵力,辖有机械化车队,西军有一师和一旅兵力,辖有重炮部队。演训目标是练习以不同兵种在复杂地形从事运动战。
陈诚回国后在呈送蒋介石的观操报告中指出,日军之训练与装备,我军均远不及之,日军之所以邀中国军官观操,目的在炫示武力。他并送给蒋两件纪念品:一是“大演习纪念册”,陈诚题字“伴君如伴虎”,暗示中国在日本旁边处境的艰危。二是一本“东岛风物彩片”相簿,封面上写“红映中华民族之血”。陈诚在册子里写道:“东岛进步,实肇始于甲午之役,勒索我赔款二万万两,及汉冶萍公司等,垄断中国之利权,数十年来强取豪夺,挹此注彼,始成其物质文明之突飞猛进。国人士游彼邦者每眈享受之乐趣,而忽其所由来。余于十九年冬讨逆军事告竣,东渡观操,觉娱乐之念息,戒惧之心生。置此作为警惕。”陈诚的这段话,爱国之情跃然纸上,而他对日本虎视眈眈中国的判断更显示了自己的见识。
八年抗战期间,陈诚直接参加且为中外瞩目之战役,为淞沪战役与武汉保卫战。他不断提出各种战略建议,对国民政府抗战时期整体战略构想的形成是作出了贡献的。淞沪战役爆发前一个月,陈诚去信蒋介石,认为与日和平无望,应尽速攻击前进,不要坐视日军后续增援,并建议如敌军进犯长江,我军应整体发动,肃清日本在租界区和各地的屯驻部队。20天后,正在庐山着手军官训练的陈诚,发了一封电报给蒋介石,力主只有“抱积极战之目的,全面战之方针,始可得万一之和平,与一部之胜利,否则无法言战,更无法言和”。陈诚反对委曲求和的看法,与何应钦等主和派站在对立面。
淞沪战事爆发的第二天,蒋介石急电陈诚返回南京共商大计。陈诚在南京待不到一天,即偕同熊式辉到上海视察战场。返回南京后,熊式辉认为中国没有能力和日本打仗,陈诚则力驳熊言,坚主为今之计,不是能不能打的问题,而是要不要打的问题。陈诚告诉蒋介石,华北战局扩大势不可免,一旦日寇占有华北,其快速部队必定从华北沿平汉铁路直驱武汉三镇,如此发展,中国战场将被切割为东西两块,在战略上对我国不利。只有扩大淞沪战役的规模,避免由北而南的攻势,转而诱导日军由东而西,沿着长江仰攻的打法才对我有利。在此之前,陈诚这套战略思维已在1936年10月于洛阳面报蒋介石。蒋当即连声赞同:“打、打,我们一定要打!”遂大举增兵上海,日军也被迫继续扩大淞沪战事。不久,蒋介石初步划定了全国范围的抗战攻防序列。
1937年8月24日,陈诚指挥部队加入淞沪战场的左翼军。日军海陆空协同作战,我军牺牲惨重,仅能阻挡日军进逼,无法实施聚歼。10月初,我军退守继续抵抗,日军续增援逾20万人。蒋介石任命陈诚为第三战区前敌总司令,负责淞沪战场全局指挥。淞沪战场是长期抗战的基础,也是国际观瞻的焦点。随着战场的变化,陈诚重新拟订了攻击计划。