С приходом в НКВД СССР Н.И.Ежова там произошли следующие перестановки на ключевых постах:
— 29 сентября 1936 г. комиссар гб 1 ранга Г.Е.Прокофьев был освобожден от должности заместителя наркома ВД СССР и назначен первым заместителем наркома связи СССР;
— первый заместитель наркома ВД СССР комиссар гб 1 ранга Я.С.Агранов 29 декабря 1936 г. был назначен начальником ГУГБ НКВД СССР, но был на этом посту недолго: 15 апреля 1937 г. он был назначен начальником 4 отдела ГУГБ НКВД СССР и 17 мая 1937 г. освобожден от должности заместителя наркома ВД СССР;
— 29 сентября 1936 г. заместителем наркома ВД СССР был назначен начальник ГУЛАГа, комиссар гб 3 ранга М.Д.Берман;
— 16 октября 1936 г. заместителем наркома ВД СССР был назначен начальник ГУПВО комкор М.П.Фриновский, а 15 апреля 1937 г. он стал первым заместителем наркома ВД СССР и начальником ГУГБ НКВД СССР;
— 3 ноября 1936 г. заместителем наркома ВД СССР был назначен начальник ГУРКМ комиссар гб 2 ранга Л.Н.Бельский;
— 15 апреля 1937 г. заместителем наркома ВД СССР стал начальник 1 отдела ГУГБ НКВД СССР комиссар гб 3 ранга В.М.Курский;
8 июля 1937 г. застрелился начальник 3 отдела и заместитель наркома вн. дел СССР комиссар государственной безопасности 3 ранга В.М.Курский, приказом НКВД СССР № 1153 от 11 июля 1937 г. он был исключен из списков личного состава НКВД СССР за смертью.
— 7 августа 1937 г. заместителем наркома ВД СССР был назначен начальник ГУРКМ комдив В.В.Чернышов;
— 16 августа 1937 г. заместителем наркома ВД СССР был назначен старший майор гб М.И.Рыжов;
— 8 января 1938 г. заместителем наркома ВД СССР был назначен старший майор гб С.Б.Жуковский;
— 29 января 1938 г. заместителем наркома ВД СССР был назначен комиссар гб 1 ранга Л.М.Заковский (одновременно он возглавил УНКВД по Московской области).
Прошел год после снятия с должности наркома внутренних дел СССР Г.Г.Ягоды и назначения на эту должность Н.И.Ежова. Выступая 20 декабря 1937 г. на торжественном заседании по случаю 20-летия со дня организации ВЧК-ОГПУ-НКВД, А.И.Микоян так оценил работу Н.И.Ежова на посту наркома внутренних дел СССР: "… товарищ Ежов Николай Иванович, прийдя в НКВД, сумел быстро улучшить положение в НКВД закрепить его и поставить на высшую ступень работу НКВД в кратчайший срок… Ежов создал в НКВД замечательный костяк чекистов, советских разведчиков, изгнав чуждых людей, проникших в НКВД и тормозивших его работу".
К декабрю 1937 г. за "предательство и контрреволюционною деятельность" уже были арестованы бывший нарком внутренних дел СССР Г.Г.Ягода и бывший первый заместитель наркома внутренних дел СССР Я.С.Агранов, а бывший заместитель наркома внутренних дел СССР Г.Е.Прокофьев расстрелян. К этому времени было репрессировано также почти все ягодовское руководство ГУГБ НКВД СССР: бывший начальник ИНО ГУГБ НКВД СССР — А.Х.Артузов, бывший начальник Спецотдела ГУГБ — Г.И.Бокий, бывший начальник ОО ГУГБ — М.И.Гай, бывшие начальники ТО ГУГБ — В.А.Кишкин и А.М.Шанин, бывший начальник ЭКО и КРО ГУГБ — Л.Г.Миронов, бывший начальник СПО ГУГБ — Г.А.Молчанов и бывший начальник Отдела охраны ГУГБ — К.В.Паукер.