为消灭红军主力，蔡廷锴又不辞劳苦率部翻山越岭，好不容易追到龙岗，红军却突然失踪。蔡廷锴总算是领教到了共产党的一点厉害，感慨道：“地方群众在共党势力范围下，或逃亡，或随红军行动，欲雇挑夫固不可能，即寻向导带路亦无一人，至于侦探更一无所得，变成盲目。剿赤数月，战备行军均如此，亦云惨苦矣。”

1931年，“九一八”事变后，在中国共产党和红军关于“中国人不打中国人”、“枪口一致对外”的正义号召推动下，蔡廷锴和十九路军3万多官兵，在江西赣州宣誓反对内战和团结抗日。10月下旬，十九路军奉命开赴京沪铁路沿线担负警卫任务。1932年初，日本帝国主义不断在上海制造事端，提出无理要求，阴谋发动新的侵略战争。据1月22日报载，日本驻沪领事村井蛮横地提出，要十九路军由驻地向后撤退30公里。蔡廷锴得知后，随即于次日在龙华警备司令部召开驻沪营长以上干部紧急会议，表示：“日本人这几天处处都在向我们寻衅，处处在压迫我们，商店被其捣毁，人民被其侮辱，并加派兵船及飞机母舰来沪，大有占据上海的企图。”鉴于此，会议经过研究，向全军发出了“如日本军队确实向我驻地部队攻击时，应以全力扑灭之”的密令。

1月24日，南京政府军政部长何应钦来沪，以“现在国力未充，百般均无准备，日敌虽有压迫，政府均拟以外交途径解决”为由，要求十九路军“于最短期间撤防南翔以西地区，重新布防”。蔡廷锴当即指出，本军“驻地均是我国领土，也不接近日寇地区，要撤退，殊无理由”。为表示抗日的坚定决心，蔡廷锴、蒋光鼐等人随即发表《敬告淞沪民众书》，称：“绝不使日兵在中国土地及淞沪万国具瞻之范围扰及我安居，损及我一草一木。”

1月28日深夜，日军在上海闸北地区突然向十九路军发动袭击，蔡廷锴下令守军“为自卫计，应迎头痛击”。于是，守军当即给予还击，发生猛烈巷战。第二天，日军出动飞机助战，在闸北、南市一带狂轰滥炸，由于守军的顽强抗击，敌人各路进攻均被击退。中午，蔡廷锴亲临闸北等处视察，鼓励官兵英勇杀敌，为国立功。当天，蔡廷锴、蒋光鼐等人联名向全国各界发出通电，表示“尺地寸草，不能放弃”的决心。1月31日晚，日军再度向十九路军闸北防地猛攻，被守军奋勇击退。战至2月4日，敌军开始第一次总攻，战火从闸北蔓延到江湾、吴淞一带，各线均展开激烈的战斗。结果，各路守军英勇作战，重创敌人。此后二十多天，日军不断向上海增兵，并多次发动新的进攻，但皆遭到十九路军和前来增援的张治中第5军的顽强抵抗，伤亡惨重，不得不数次换将。