如果巴尔干国家能够团结一致，他们也许能够更好地抵御德国的侵略。然而巴尔干国家既畏惧外来强权国家的侵略，又相互猜忌。第一次世界大战结束时，欧洲各国的版图被重新划定，那时在巴尔干就形成了两个敌对的国家阵营。属于战胜国一方的有罗马尼亚、希腊和年轻的南斯拉夫，这3个国家从战败国匈牙利和保加利亚那里都得到了部分领土。战胜一方想保卫既得利益，战败一方想重新收复失地，在很大程度上是造成巴尔干地区政治紧张局势的原因。德国在第二次世界大战中的外交政策在某种程度上促进了巴尔干国家这种两败俱伤的对抗，阻止了巴尔干联合阵线的形成，并最终将巴尔干推入战争的旋涡。

希特勒毕竟还是希望避免在巴尔干半岛发生危机，因为那会促使苏联在德国还未做好入侵苏联的准备之前就向这个地区出兵。这样，当苏联要求罗马尼亚割让大部分人口是乌克兰人的比萨拉比亚和北布科维纳时，希特勒的反应就毫不奇怪了。虽然，1939年希特勒和斯大林秘密签订的互不侵犯协定已经确认了苏联对比萨拉比亚的占有权，但他担心苏联的进一步领土要求预示着它想向西扩张它的势力范围，那将威胁到德国在罗马尼亚的珍贵的石油供给。尽管如此，希特勒还是决定先在这件事上避免与苏联最后摊牌。他希望在自己准备充分的时候再向苏联发起挑战。因此，他拒绝了罗马尼亚的救援请求。罗马尼亚只好将领土割让给苏联。

两个月后，希特勒又不得不面对一个棘手的问题。受苏联成功获得罗马尼亚土地的先例的鼓舞，保加利亚和匈牙利也都声称对罗马尼亚的部分领土有占有权，因为这些领土上的居民和他们国家的人民属于同一民族。这一次，罗马尼亚准备起来反抗了。希特勒立即给罗马尼亚当时的独裁者与君主卡罗二世皇帝去信，敦促他与这两个国家协商解决问题。保加利亚的领土要求相对比较温和，因此在罗马尼亚同意放弃一小部分南多布罗加之后，问题很快就解决了。但是罗马尼亚拒绝了匈牙利的要求，因为匈牙利竟要求占领拥有150万马扎尔人的特兰西瓦尼亚。这时，希特勒不得不出来干预了。

轴心国政府召集匈牙利和罗马尼亚的代表在维也纳开会。事实上，两个敌对国家的代表被召集来并不是商讨如何解决争端，而是被要求在德国外长里宾特洛甫事先拟好的协议上签字。该协议规定匈牙利拥有北部1/3的特兰西瓦尼亚，但把这个地区所有的石油与天然气开采权留给了罗马尼亚。同时，轴心国保证罗马尼亚未来的领土完整。这一虚伪的保证并没有减轻协议的签署对罗马尼亚尊严的巨大伤害。当一张重新标注了特兰西瓦尼亚边界的地图挂在会议厅里时，罗马尼亚的外交部部长晕倒在谈判桌前。

这个被称为“维也纳仲裁”的协议不仅没有使相关各方满意，而且最终导致了希特勒所极力避免的武装干预。一个直接的后果是苏德的关系迅速冷淡。苏联轻而易举地看出轴心国对罗马尼亚边界的保证是对苏联在巴尔干地区扩张的抵制。这一事件的另一后果是罗马尼亚皇帝卡罗二世退位。德国从来没有完全相信这位皇帝，因为他有一个犹太情妇，而且他的官员及仆从都是亲西方的。因此，认为他没有能力平息在罗马尼亚国内因北特兰西瓦尼亚丢失所引起的强烈抗议。迫于德国的压力，卡罗二世不得不于9月6日退位，并将王位传给他19岁的儿子——米哈伊。同时，将其作为独裁者的统治权传给狂热崇拜希特勒而希特勒也赞赏的安东内斯库将军。德国国防军凯特尔元帅也对他的“钢铁般改革的决心”大加赞赏。这一改革指的是罗马尼亚军队亲德的改革。