贝利亚深深地呼了一口气，然后整理一下领口，随着警卫走向二楼。他敲了敲门，门内是宽大的书房。斯大林背朝着列宁像坐在一张老式写字台的后面，正忙着从一个黄漆布的烟袋往斗里装烟丝，波斯克列贝舍夫一手拿着一根火柴，一手拿着火柴盒，准备给他点烟。斯大林点头示意贝利亚到他跟前去，指指写字台前面的一把椅子，他让秘书点上烟斗，吸了一口。看着贝利亚，微微笑着。然后开始装作关心地询问了贝利亚旅途情况，同时谈起家乡格鲁吉亚的美丽风光。二人的谈话很融洽，斯大林吸完了一袋烟，转入了正题。他以温和的语调宣布：“贝利亚同志，你在格鲁吉亚的工作结束了。我以中央人民委员会的名义任命你为苏联内务部（克格勃）副人民委员。”贝利亚很是惶恐，因为这个职位已经是相当于克格勃的副主席了。斯大林最后又补充了一句：“明天上午，你就开始工作！”

斯大林的用意很明显，就是想让贝利亚代替现任的克格勃主席叶若夫。叶若夫的工作能力很强，最为重要的是，他是斯大林最忠诚的人。为什么斯大林想把他换掉呢？这跟当时的形势有着很大的关系。当时，西班牙内战已经如火如荼。如果没有那些功勋卓著的军官担任政府的顾问，法西斯将会取得决定性胜利。德、意、日三国已签订“轴心国”同盟条约。纳粹德国军队占领了奥地利，又以演习为名，不断地在波兰边界集结。苏联虽然和德国有互不侵犯条约，但斯大林很明白纳粹不是那种信守诺言的人。为了防范纳粹德国，斯大林绝对不能再清洗军队了，而且，他必须把流放和关押的一批军官释放并复职。为了挽回面子，必须把叶若夫这个“罪魁”抛出去。只有这样，他才能获得将军们的信任。

显然，贝利亚入主克格勃固然与他的能力有关，但更大的推动力还是当时的形势。在进入克格勃后，贝利亚专心工作，他当然明白斯大林的算盘，但是，叶若夫现在仍旧是他的上司，和从前的工作态度一样，贝利亚老老实实地执行着叶若夫下达的每一个指令。把叶若夫赶走后，1938年10月17日，他安静地坐上了克格勃主席的位子。他审视周围的一切，开始了克格勃内部的大清洗。他把叶若夫的人通通换掉，然后把自己的亲信安插进来。当然，为了彻底否定叶若夫，他还把叶若夫抓进监狱的大约25万人释放。不过，这并不代表他是个仁慈的克格勃主席。据有关资料显示，贝利亚上任后不久，即有20余万人受到清洗。在这些无辜受害者中，有1943年在萨拉托夫监狱中去世的科学家尼古拉·瓦维洛夫院士，杰出的生物物理学家亚历山大·奇热夫斯基，著名戏剧导演弗谢沃洛德·梅耶霍德，1941年被枪决的著名作家、小说《骑兵军》作者伊萨克·巴别尔。这些都是名人，被历史记住了。那些并不著名的人直到现在，也没有人能说出他们的名字来。