中原重镇洛阳陷落的第三天，即5月27日，日军分左、中、右三路对湖南省省会长沙展开围攻，先后调集36.2万人，与整个湖南战场的第九战区薛岳部30万国民党军展开激战。

6月16日，国民党守军伤亡惨重，力不能支，岳麓山失陷。18日，负责守卫长沙的第四军被日军包围，又遭敌机30余架轰炸扫射，终至“军心动摇，遂难掌握”，长沙城陷。第四军军长张德能收集该军残余1300余人突围而出，虽经薛岳解释战役经过，并有副参谋总长白崇禧请求从轻发落，张德能仍被满腹怒气的蒋介石下令枪决。

攻陷长沙后，日军以其第二线兵团加入第一线作战，迅速南下，企图一举拿下衡阳，达到与桂境兵力会师的战略目的。面对危局，国民党军事委员会总指挥部急速调兵遣将，分三路进行阻击，抗战史上最为惨烈的以衡阳为中心的剧战拉开了序幕。

6月20日，中日双方在衡阳周边50公里的范围内，分别投入了30万与35万兵力，先于外线展开激战。至7月底，日军4个精锐师团相继逼近战略中心衡阳。国民党第九战区第十军方先觉部扼守衡阳，抵抗日军的猛烈进攻。此次衡阳之战，是抗战后期最大规模的一次会战，被蒋介石称之“有关于国家之存亡，民族之荣辱至大”[4]的最后一场生死之搏。日军大本营灯火通明，各级将官、参谋人员日夜研究、观注着这场战事，中国军民与各党派团体翘首以待，盼望国军用尽吃奶的力气也要顶住，千万不要被打趴压垮。身在陕北延安窑洞的中共领袖毛泽东在对这场大战给予热切关注的同时，又以一个卓越战略家的智慧与姿态高屋建瓴地指出：“衡阳的重要超过长沙，它是粤汉、湘桂两条铁路的联结点，又是西南公路网的中心，它的失守就意味着东南与西南的隔断，和西南大后方受到直接的军事威胁。衡阳的飞机场，是我国东南空军基地之间的中间联络站，它的失守就使辛苦经营的东南空军基地归于无用。”不仅如此，“衡阳位于湘江和耒水合流处，依靠这两条河可以集中湘省每年输出稻谷三千万石，还有极其丰富的矿产，于此集中，这些对大后方的军食民食和军事工业是极端重要的，它的失守会加深大后方的经济危机，反过来却给了敌人以‘以战养战’的可能性”。[5]

正是缘于衡阳及其周边地区在军事中不可取代的重要战略地位，从武汉失守到1944年日军围攻衡阳，在将近6年的时间里，这一带战事作为中日交战的主战场曾未消停过。1939年中国十大战区，以湖南为主要战场的第九战区拥有最多兵力，极盛时达到54个步兵师，占全国总兵力的四分之一强。1939年至1945年抗战胜利这段时间，正面战场共有12次重量级大会战，分别是：第一次长沙会战、豫南会战、上高会战、枣宜会战、晋南会战、第二次长沙会战、第三次长沙会战、浙赣会战、鄂西会战、常德会战、豫湘桂大会战、老河口芷江会战。其中有6次大会战在湖南战区展开。七七事变之后，日军原定计划3月亡华，但仅湖南一地，国军就顶了5年之久，多次会战，日军始终未能越雷池一步，即此可见湖南战略地位之重要与国军高层对这一战区的重视程度与兵力之强。

此时驻守衡阳的国民党第十军，前身为黄埔教导团，北伐时代扩编为国民革命军第三师，或称“老三师”，其将领分别为钱大钧、李玉堂、蒋超雄、方先觉、葛先才、周庆祥等，历届第十军军师长也多为“老三师”旧部。抗战军兴，第十军成为国民党五大主力之一，其特点是善于防御作战。抗战八年，第十军打硬仗的次数和展现的顽强斗志，并不亚于号称“虎贲”之师、“抗日铁军”的王牌第七十四军（抗战后整编为七十四师，师长张灵甫）。第十军最出色的一战是1941年年底至1942年年初，三战长沙中担任长沙守备任务的保卫战。时军长为黄埔一期生，号称“黄埔三杰”、“山东三李”（李仙洲、李延年、李玉堂）之一的李玉堂。当此之时，李的指挥部设在岳麓山前一个祠堂内，面对飞蝗一样围攻而来的日军，李镇定自若，从容指挥。一日中午，李玉堂在指挥部一手拿煎饼，一手用筷子夹食大头菜，忽有敌弹飞来，将眼前一个盛大葱和虾酱的咸菜罐子击得粉碎，李不为所动。转眼又一弹飞来，将筷子击为两截，李有点气愤地骂了一句“把他娘！”即用手抓大头菜吃。部下劝李更换指挥位置，李认为飞来的乃是流弹，无碍大局，终未搬迁指挥部。在李玉堂以身作则的感染下，第十军将士豪气凛然，于岳麓山和长沙城头与敌人展开血战，致使日军伤亡惨重。1942年1月1日，日军再度发动对长沙的进攻，第十军也抱定与长沙城共存亡的决心，连续与敌激战三昼夜不分胜负，日军调集大批飞机对长沙城守军实施连续长波次轰炸，守军伤亡惨重，日军占据上风。延至1月4日，奉命守卫长沙南门城外的第十军预十师三十团与攻城的敌人短兵相接，展开肉搏，一时血肉横飞。日军在飞机配合下，攻势凌厉，长沙城岌岌可危。黄埔四期出身、三十团团长郭先才上校见部下伤亡激增，情况危急，恐支持不到黄昏长沙就落入敌手，焦急中乃决定孤注一掷、拼死一搏，发动全团展开冲锋。一时间，十数支军号响起，全团官兵包括炊事兵、杂务兵、传令兵等一切勤杂人员全部投入冲锋与肉搏的行列中。军号声与喊杀声与全团官兵势将一死的浩然气势，使敌人大受惊吓，惊慌溃退，兄弟部队乘胜追击，长沙之危就此得解，第三次长沙大捷的序幕就此拉开。当晚，葛先才奉蒋委员长令晋升少将，军长李玉堂获颁青天白日勋章。1月5日，第九战区司令长官薛岳上将下达了追击、堵击和截击溃退日军的命令，湘北大地顿时杀声四起，炮火连天，敌军以伤亡57000人（阵亡33941人）的惨重代价宣告此役败亡，中国军队就此书写了近代战争史上最为辉煌的一页。在整个长沙大捷中用命最甚、立功最大的第十军，获颁国军最高荣誉“飞虎旗”一面，被军事委员会命名为“泰山军”。