1933年4月，希特勒的死党赫尔曼?戈林建立了一支由他本人指挥的国家秘密警察——盖世太保。戈林要求盖世太保所有人员对意见不同或反对他们的人员进行监视、告密。从此，另一个纳粹间谍组织开始运行了。

1934年6月，海德里希向希特勒建议，为防止冲锋队参谋长罗姆“背叛”希特勒，发生“二次革命”，必须先发制人，防患于未然。

希特勒采纳了海德里希的建议，决定让海德里希放手去干。在1934年6月30日的“长刀之夜”，海德里希开始了大规模的逮捕和处决行动。德国处于一片恐怖之中。海德里希亲自拟定的处决人员黑名单不但列出了冲锋队中的“阴谋分子”，而且只要是他认定的“危险人物”，不管是否与这场“叛变”有关，也都一律被列入。因此，这次枪杀行动实际上成了海德里希铲除异己的一次大清洗。海德里希以其凶狠残忍让希特勒看清了他是不可缺少的人。从此，海德里希就开始了他一生从来没有停止过的谋杀活动，同时也踏上了平步青云的发迹之路。

最后的狂暴

1936年，希姆莱与海德里希趁当时苏联国内政治生活极不正常、肃反扩大化愈演愈烈、政府和军队正在清洗所谓的斯大林反对派之机，策划了对苏联红军元帅图哈切夫斯基的陷害。

他利用假情报“图哈切夫斯基元帅勾结敌视苏联政策的某外国政权的军事领导集团反对国家”，借斯大林之手，在1937年6月至1938年6月间，杀害了苏联三万五千多名军官。这几乎是苏联军官团总人数的一半。这份名单中，有图哈切夫斯基及7名同案的红军高级将领被苏联判处死刑。

尽管在这份假情报之前，斯大林早已决定收拾对其统治过于危险的图哈切夫斯基，但总没找到合适的借口，而海德里希制造的假情报，起到了催化剂的作用。

德国入侵苏联以后，希特勒决心对犹太人实行种族灭绝政策。

虽然海德里希自己也有犹太血统，但他为了迎合希特勒，却成了反犹狂。消灭犹太人的这项任务，本来是由戈林主管的。1938年希姆莱主动要求把这项任务交给他。希特勒考虑到党卫队的工作效率高，因而批准了他的要求。