蒋介石第二次自南向北征伐时，已经走进极权的走廊，的确有股挟风裹雷之势。小军阀们纷纷倒戈来归；大军阀们则望风鼠窜。1928年4月底，当蒋介石的部队驻进济南城附近时，盘踞山东多年的“狗肉将军”张宗昌，两手撑膝，一言不语，连眼也不睁。侍从上过两次狗肉了，又撤了下去，第三次再送时，张宗昌的龙床上只剩下一堆牌九。张宗昌一生离不开“三件宝”：狗肉、牌九、姨太太。

“长腿督办”张宗昌因身高腿长、打仗追得快也逃得快而得名，这次又是不战而逃，一口气逃到了大连。

蒋介石也被这兵不血刃的胜利激动了一番。当他查看城里坚固的堑壕堡垒时，认定那不是张宗昌的部队所为，显然是日军协助建筑的。5月2日上午9时，进入济南城的蒋介石，在城内山东督办公署设置总司令部。蒋介石企图以最短时间完成北伐，所以对近期日军的种种挑衅置若罔闻，只是在2日这天，将南京政府的外交部长黄郛接到济南，想通过外交谈判说服日本放弃出兵山东，使他可以继续北上。这天上午，他还通过军中的日本联络官佐佐木中佐，向日军“济南警备司令”斋藤少将提出要求：

一、国民革命军到达济南，将绝对维持治安，希日军迅速撤兵。二、据闻日军目前正从青岛进一步增兵，余认为无此必要，希中止增兵。三、既然日军不与我军为敌，则希望日军撤销现在的警备区域，并望不要在街路上架设机关枪等武器。四、据人民代表报告，日本兵对人民的态度粗暴，望予取缔。

斋藤接到文书，不敢擅自作答。两小时之后——5月2日上午11时30分，日军第六师团长福田彦助中将已率领他的主力抵达济南，随即对蒋介石发出一份措辞强硬的书面答复：本司令官确信，我军是按照接受于我政府的任务而进退的，不受阁下之高见所左右，所希事项我军没有接受之理。福田还将其司令部设在靠近西门外的商埠地区。于是，出现了一墙之隔两军共驻的异常状态。整个商埠周围架起了铁丝网和沙袋，隔不远就是一架机关枪或大炮，日军装甲车巡行于商埠乃至城内，就像是在它的属地一样。蒋介石顿觉不安。躺下又起来写日记，一切忍字当头：

“不忍何以能伸，不予何以能取，犯而不校，圣贤所尚；小不忍则乱大谋，圣贤所戒。慎之！勉之！”蒋介石再睡下又起来给冯玉祥发电报，叫他速来济议事。