Более вменяемые «герои красного террора» дожили до середины 1930-х. Буль, Фридман, Фриновский еще долго служили и получали повышения. Киевский чекист Яковлев прославился тем, что расстрелял собственного отца. Теперь он стал заместителя наркома иностранных дел Украины. Теоретик расстрелов М. Лацис стал директором Московского института народного хозяйства им. Плеханова.

Но и все эти… двуногие существа не пережили большого террора 1930-х гг. Это об их несчастной судьбе плакали в годы «перестройки» как о первых жертвах Сталина: «ленинской гвардии».

6 февраля 1922 г. ВЦИК принял постановление об упразднении ВЧК и образовании Государственного политического управления (ГПУ) при НКВД РСФСР. Так управление органами милиции и госбезопасности передается одному ведомству.

15 ноября 1923 Президиум ЦИК СССР постановил преобразовать ГПУ НКВД в Объединенное государственное политическое управление (ОГПУ) при СНК СССР. НКВД освобождается от функции обеспечения государственной безопасности.

Революционные деятели запутывали — Сталин распутывал и превращал в стройную систему. Для начала он уничтожил прежнюю «вольницу» на местах.

15 декабря 1930 ЦИК и СНК СССР приняли постановление «О ликвидации наркоматов внутренних дел союзных и автономных республик». Руководство милицией и уголовным розыском возлагается на создаваемые при СНК союзных и автономных республик управления милицией и уголовного розыска. Одновременно ЦИК и СНК СССР приняли постановление «О руководстве органами ОГПУ деятельностью милиции и уголовного розыска», на основе которого ОГПУ и его местные органы получили право не только назначения, перемещения и увольнения работников милиции и уголовного розыска, но и использования в своих целях их гласного состава и негласной агентурной сети.

Теперь система стала максимально централизованной.

10 июля 1934 г. ЦИК СССР принял постановление «Об образовании общесоюзного Народного комиссариата внутренних дел СССР», в состав которого вошло ОГПУ СССР, переименованное в Главное управление государственной безопасности (ГУГБ). Помимо ГУГБ в составе НКВД имелось еще четыре главных управления — Главное управление рабоче-крестьянской милиции, Главное управление пограничной и внутренней охраны, Главное управление лагерей (ГУЛаг) и Главное управление пожарной охраны.

Кроме их, в составе НКВД имелся орган внесудебной расправы — Особое Совещание при наркоме внутренних дел, имевшее полномочия выносить приговоры о заключении, ссылке или высылке на срок до 5 лет или выдворении из СССР «общественно опасных лиц». Особое Совещание заменило упраздненную судебную коллегию ОГПУ.

На вновь созданный НКВД СССР возлагаются очень широкие задачи: обеспечение общественного порядка и государственной безопасности; охрана социалистической собственности, то есть собственности государства; запись актов гражданского состояния; пограничная охрана; содержание и охрана мест заключения.

Впоследствии неоднократно производились реорганизации, переименования как управлений, так и отделов. Но это уже не так существенно.