蒋介石与黄郛可说是莫逆之交。早在辛亥年间，陈其美、黄郛、蒋介石在上海打铁浜互换兰谱，相约“安危他日终须仗，甘苦来时要共尝”。蒋介石还将此誓言刻于两柄宝剑上，分送二位盟兄。此后三人命运多舛，誓言未改，只是相互依仗的内容大不相同。就蒋氏而言，他仗着陈其美的诱掖扶持，接近并步入孙中山的资产阶级革命领导核心，得以共享早年革命历史的荣耀；而黄郛则是累建功绩而所尝多是罪责和耻辱。

1928年年初，下野后又重新上台的蒋介石急欲完全“统一”，举兵二次北伐。因深感外交棘手，请出黄郛担任外交部长，专门去做争取各帝国主义谅解、支持的“转圜”工作。以后的十几年间，黄郛几次承担对日的外交使命。因他早年留学期间，曾结交了不少日本的政、军界人士，尤其与元老派的关系较为密切。自日本提出“二十一条”后，他便注意少与军界来往。随着所谓“温和”的“币原外交”被强硬的“田中外交”所代替，他的外交活动也更难施展。

黄郛此番出任国民政府的外交部长，虽为时甚短，但其政治形象却大大改观，昔日对资产阶级曾有所贡献的特立独行之士，成了赫赫有名的“亲日派”。究其原因有二：从“公”的角度说，他为推行国民党统治集团的外交政策——取得帝国主义的承认，完成由革命的反帝外交向争取帝国主义支持的外交方针的转变——而不遗余力；从“私”的方面说，在涉及有损国格和名誉的外交事务上，他不仅要为蒋三弟出面，而且还要代之受过。此次“济南惨案”就是这样。

蒋介石害怕与日军冲突会使北伐大业中断，决定不抵抗，命令军队大部撤出济南，取缔一切反日活动，同时连续派代表请求日方停战议和。

蒋介石怕自己的妥协退让遭别人攻讦，在1928年5月10日致电黄郛，要他转告日本福田：“不妨碍我军北伐，则对于反日运动，中正可以极严厉手段阻止之……中正为增进睦谊计，亦可以向日军道歉表示真诚也。”可第二天就觉太有损于自己，连忙再电黄郛：“黄外交部长：前上一电，既请托矢田或汝耕转达之意，最好以兄之名义电告，可代表弟办到多少程度，不必用弟名义，如何，请酌！总之速了为宜也。中正灰未。”