黄郛有苦难言，但还是给与日方直接办交涉的殷汝耕去电，力争为蒋氏解脱困境。

当日本军队和北伐军队开始冲突之时，日军首先就把济南的外事机构交涉署包围起来。这是因为日本人与张宗昌订有不能公开的密件藏在交涉署，他们怕北伐军得到这些文件并公之于世。张宗昌与日军的密约，是在二次北伐刚刚开始之际，由张方参谋长金寿良前往青岛和日本驻军签订的。其内容是以日军驱逐国民革命军于山东境内为条件，而将青岛和胶济铁路权益让给日本。

黄郛听到窗外士兵的跑步和鸣枪声，马上心神不安了。他看了看表，扶着楼梯走到门口，一个日军排长正好跨进来，指着他大声叫嚷：“你是什么人？不许随便走动！”

虽然黄郛的自尊心受到很大打击，但他还是心平气和地掏出外交官衔片：“我是中国外交部长黄郛，你们不可这样无礼，我要你去告诉你们的司令官，中国外交部长在交涉署，你们不能派兵到此，对我这样横加侮辱。”

日军排长在挤眼的同时又咧开嘴角，满脸狰狞：“你是外交部长？”

“是的，你可以去问你们的福田司令官。他认识我，我的日本友人很多。”黄郛用日语说道。

日军排长不理，先将黄郛卫队缴械，随之又率士兵武装闯入黄郛临时办公室，抢掠外交文件和私人财物。日军排长去了一会儿便回来了，神色有些诡异，换了一副嘴脸，打了个立正，说福田司令官要请黄部长去谈话。黄郛便跟着去了。进了日军司令部，黄郛催问了几回，既不见福田司令官出面，也不见有什么副官、参谋之类的接待，还是那个排长，又添了几个士兵，围住黄郛，拿了一张纸和一管笔，要黄郛在上面签字。黄郛接过来一看，头皮发紧。文件上赫然写着：“今天中国革命军与日本军队冲突，是中国革命军来抢日本的东西，来打日本人，所以冲突起来的。”

黄郛把纸和笔推开去：“我不能签。”