Постановлением Совета Министров СССР № 1441 от 8 августа 1955 г. Председателю КГБ при Совете Министров СССР генерал-полковнику И.А.Серову было присвоено воинское звание "генерал армии", а Указом Президиума Верховного Совета СССР от 25 августа 1955 г. ИАСеров в связи с 50-летием со дня рождения был награжден орденом Ленина.

Во исполнение постановления Совета Министров СССР № 328-159сс от 28 марта 1957 г. совместным приказом МВД — КГБ СССР № 0017/00161 от 2 апреля 1957 г. погранвойска были переведены из состава МВД СССР в состав КГБ при СМ СССР. Этим же приказом Военно-строительное управление бывшего Главного управления пограничных и внутренних войск МВД СССР из ведения МВД СССР было переведено в ведение КГБ при Совете Министров СССР.

8 апреля 1957 г. приказом КГБ был объявлен штат Управления военного снабжения в составе КГБ при СМ СССР.

Указом Президиума Верховного Совета СССР от 8 декабря 1958 г. И.А.Серов был освобожден от должности Председателя КГБ при Совете Министров СССР в связи с назначением начальником Главного разведывательного управления и заместителем начальника Генерального штаба Вооруженных Сил СССР. Постановлением Верховного Совета СССР от 25 декабря 1958 г. новым Председателем КГБ при Совете Министров СССР был назначен бывший заведующий отделом партийных органов ЦК КПСС по союзным республикам А.Н.Шелепин, который, выполняя указания Н.С.Хрущева, провел серию кардинальных преобразований в аппарате КГБ в смысле упрощения его структурного построения и сокращения численности сотрудников.

Хотелось бы отметить, что в духе замыслов Н.С.Хрущева об отмене персональных званий в системе госбезопасности и внутренних дел ("распогоним" и "разлампасим" — говорил он) Председателю КГБ при СМ СССР А.Н.Шелепину, так же, как и министру внутренних дел СССР Н.П.Дудорову, никаких воинских званий присвоено не было.

23 июня 1959 г. был упразднен Тюремный отдел КГБ при СМ СССР, а функции руководства следственными изоляторами КГБ были переданы Учет-но-архивным отделам как в Центре, так и на местах.

23 июня 1959 г. Отдел "С" был объединен с Отделом войск правительственной "ВЧ"-связи КГБ при СМ СССР в единый Отдел правительственной связи КГБ при СМ СССР.

23 июня 1959 г. Инспекция при Председателе КГБ при СМ СССР была упразднена, а вместо нее создана Группа по изучению и обобщению опыта работы органов госбезопасности и данных о противнике.

25 июня 1959 г. в состав 9 управления КГБ при СМ СССР было включено бывшее 10 управление КГБ при СМ СССР.

Реорганизация подразделений, осуществлявших оперативно-техническую работу, была проведена 2 июля 1959 г. На базе 2, 3, 4, 5 и 6 спецотделов было создано Оперативно-техническое управление КГБ при СМ СССР.

Все эти реорганизации явились следствием Постановления Президиума ЦК КПСС от 17 июня 1959 г. (П 223/ХХIХ) и Совета Министров СССР № 677305 за то же число. Согласно этому же Постановлению в структуре Центрального аппарата КГБ при СМ СССР в июне — июле 1959 года произошли следующие изменения:

— 1 с/о был включен в состав 5 управления;

— Центральная бухгалтерия была включена в состав Финансового отдела;