Кардинальное расширение и изменение структуры МГБ СССР произошло 4 мая 1946 г., когда вместо В.Н.Меркулова министром госбезопасности СССР был назначен В.С.Абакумов, а возглавляемый им ГУКР "Смерш" МВС СССР влился в МГБ СССР. Решение об этом было принято Политбюро ЦК ВКП(б) П 51/IV от 4 мая 1946 г. Согласно этому решению в МГБ СССР включалась военная контрразведка в качестве самостоятельного 3 Главного управления МГБ СССР. 1 и 2 управления МГБ СССР были также преобразованы в Главные управления. Кроме того, возникли новые управления и самостоятельные отделы. В результате этих изменений структура МГБ СССР приобрела следующий вид:
— 1 Главное управление (разведка);
— 2 Главное управление (контрразведка);
— 3 Главное управление (военная контрразведка);
— 4 управление (розыскное) (осуществляло руководство розыском "агентуры иностранных разведок, заброшенной в СССР, и прочих вражеских элементов") (ранее существовавшее 4 управление по организации террора и диверсий в тылу противника в годы войны было упразднено приказом МГБ СССР № 00447 от 9 октября 1946 г.);
— 5 управление (оперативное);
— 6 управление (шифровально-дешифровальное);
— Транспортное управление (чекистское обслуживание транспорта);
— Управление охраны № 1 (охрана И.В.Сталина);
— Управление охраны № 2 (охрана остальных руководителей партии и правительства);
— Управление коменданта Московского Кремля;
— Отдел "А" (учетно-архивный);
— Отдел "Б" (оперативной техники);
— Отдел "В" (перлюстрация корреспонденции);
— Отдел "Д" (экспертизы и подделки документов) (выделен из отдела "Б");
— Отдел "К" (чекистское наблюдение на объектах атомной промышленности);
— Отдел "О" (оперативная работа по духовенству всех конфессий) (выделен из 2 управления);
— Отдел "Р" (радио-контрразведка);
— Отдел "С" (перевод и обработка материалов по атомной проблеме. В 1946 г. функции этого отдела были переданы в 1 Главное управление МГБ);
— Отдел "Т" (борьба с "лицами высказывающими угрозы террористического характера в отношении партийных и советских руководителей");
— Следчасть по особо важным делам (на правах управления);
— Отдел "ДР" (служба проведения диверсий и актов индивидуального террора);
— Отдел "ДН" (служба дезинформации) (фактически этот отдел не был создан);
— Административно-хозяйственное и финансовое управление (АХФУ);
— Управление кадров;
— Инспекция при министре;
— Секретариат МГБ СССР;
— Юридическое бюро МГБ СССР.
Во второй половине 1946 года произошло еще несколько существенных реорганизаций некоторых структурных подразделений центрального аппарата МГБ СССР. По результатам проверки работы НКГБ — МГБ СССР, отраженных в акте приема-передачи дел от прежнего министра Меркулова новому — Абакумову, Политбюро ЦК ВКП(б) приняло решение П 53/39 от 20 августа 1946 г. о необходимости изменения структуры МГБ СССР. В результате были созданы:
— Отдел оперативной техники (ООТ) (изготовление опертехники и снабжение ею местных органов) (применение опертехники оставалось прерогативой отдела "Б");
— Тюремный отдел (руководство тюрьмами МГБ как в центре, так и на периферии) (организован приказом МГБ СССР № 00396 от 27 сентября 1946 г.).