这时，东德国家保安局注意到纪尧姆，他们全面调查了他的家庭背景和身世经历，最后决定吸收他做间谍，成为代号“米沙”的马尔库斯·约翰内斯·沃尔夫的弟子。1950年，纪尧姆开始在苏联基辅接受严格正规的谍报训练。在那里，纪尧姆如鱼得水一般，学会了无线电、显微照相等新鲜刺激的新技术。最使他兴趣盎然的是通过分析别人，然后利用其人性弱点施展自己的优势而达到目的的心理学。

回到柏林后，为了更好地开展工作，他与米沙介绍的机关职员克里斯特尔·博姆结了婚。博姆曾在德累斯顿接受过秘密的谍报训练，而且还是共产党员，这对夫妻搭档配合得非常默契，出色地完成了一项又一项任务。1954年底，国家安全部派纪尧姆移民西德从事“鼹鼠”工作。命令他设法打入社会民主党，然后努力去得到高职，帮助该党在竞选中胜出。为了适应新的工作环境，纪尧姆先以旅游者的身份秘密去了趟西德。纪尧姆不愧是优秀的间谍，在很短的时间内，他就弄清了西德各党派代表大会的基本现况，尤其是社会民主党的章程和主张等等，他还把党内主要政治家的简历、生活方式，甚至嗜好都了如指掌，满载而归。

1956年5月4日，纪尧姆以难民的身份带着妻子从东柏林进入西柏林，然后又乘飞机到法兰克福，申请定居联邦德国。在他的荷兰籍岳母费拉·博姆的担保下，他们顺利通过了西德有关部门对难民的审查，获准在法兰克福定居。隐忍力超强的纪尧姆先从最底层开始做起，开了一家照相复制和胶片复印所，后来又去杂货店打工。他每天兢兢业业、老实勤奋，深受老板的好评。1年后。纪尧姆觉得自己已经站稳了脚跟，而且当时正值社会民主党的“右转”动荡期，纪尧姆瞅准这个时机，开始向政坛进军。

他们夫妇同时申请加入所在街道的社会民主党支部。因为隐藏了移民身份，他们又操着流利的柏林方言，所以很顺利就通过了审查进入党内。善于隐忍的纪尧姆依然从日常杂务开始做起，而他的妻子却比较活跃，不断高升，最后成为斯特拉斯堡欧洲议会议员维利·比克尔巴赫的私人助理，所以很多人取笑纪尧姆是个在老婆的石榴裙下生活的小资产阶级分子。没人知道，他们夫妻其实正是最适合间谍工作的组合，纪尧姆的不事张扬只是为了能够待在家里接收电报，而妻子的工作便是获取情报的重要渠道。4年间，纪尧姆始终勤勤恳恳地工作，默默地为踏上仕途打好基础。