到了年底，各个战线的登记部都开始正常运转，但是唯独红军总参谋部没有自己的情报机构，于是在10月21日，列宁签署法令，成立“共和国野战参谋登记处”，这是一个在俄国各红军部队已建的军事情报机构的基础上建立的全国统一的军事情报最高领导机关，这就是最早的格鲁乌。“登记部”成立后，从契卡派去一个名叫阿拉诺夫的人去任部长，他在形式上仍然保留着契卡成员的头衔。从这时开始，便形成了一条不成文的规定：军队情报部门的首脑必须从秘密警察的高级官员中选派。

两年后，列宁在错误的情报指导下进攻波兰，战斗失利。痛定思痛，列宁决定整顿情报工作，扬?卡尔洛维奇?别尔津走马上任“登记部”。不久，别尔津对“登记部”进行了改组，组建了情报局，以代替“登记部”。后来这个机构被称为红军参谋本部第二局，最后定名为总参谋部情报部，即格鲁乌。

1937-1938年间，苏联发生了著名的大清洗运动，包括别尔津在内的大批红军情报部门人员被残酷地“清洗”，整个格鲁乌几乎陷于瘫痪状态。次年，苏联红军进攻芬兰，因情报跟不上被重创。幸运的是，在这场动乱中大批在国外工作的格鲁乌人员得以幸存，这为即将到来的第二次世界大战打下了牢固的情报基础。

二战爆发后，军事情报重新得到克里姆林宫的重视，1940年6月，菲利普?戈利科夫被任命为总参情报部部长。在他的领导下，格鲁乌很快又高效运转起来，源源不断的情报从全世界各地不断地传送到莫斯科格鲁乌总部。斯大林亲自任命菲利普?戈利科夫前往欧洲和美国，疏通各种有利于苏联的情报通道，很快，格鲁乌便在全球建立了颇有成效的情报网络。其中在欧洲主要是搜集各种军事情报，以利于展开军事行动，在美国则主要是搜集军工科学方面的信息，这对发展苏联的国防工业产生了极大的帮助。

整个二战期间，格鲁乌在全世界建立了几个至今仍为人津津乐道、也被情报界视为样板的情报网，主要有：欧洲的特雷帕尔情报网、“红色乐队”情报网、“拉多”情报网，亚洲地区的佐尔格情报网，美国的阿姆托格公司。特雷帕尔情报网在法国、比利时、丹麦、荷兰和德国开展活动。这个情报网准确地提供了德军即将入侵苏联的情报，但是当时斯大林并没有相信。在整个战争中，特雷帕尔情报网提供了大量的关于德国、意大利的政治、军事方面的动态、数据和政策等情报，为战争的进展发挥了巨大作用。