Структура НКВД СССР на 1 января 1936 г.
1. Секретарь НКВД СССР (П.П.Буланов)
2. ГУГБ:
— Оперод (К.В.Паукер)
— Спецотдел (Г.И.Бокий)
— ЭКО (Л.Г.Миронов)
— ОО (М.И.Гай)
— СПО (Г.А.Молчанов)
— ИНО (А.А.Слуцкий)
— ТО (А.М.Шанин)
— УСО (Я.М.Генкин)
— ОК (Я.М.Вейншток)
3. Особоуполномоченный НКВД СССР (В.Д.Фельдман)
4. ОК (Я.М.Вейншток)
5. ГУПВО (М.П.Фриновский)
6. ГУРКМ (Л.Н.Бельский)
7. ГУЛАГ (М.Д.Берман)
8. ГУПО (М.Е.Хряпенков)
9. АХУ (И.М.Островский)
10. ФИНО (Л.И.Берензон)
11. Главное управление государственной съемки и картографии (ГУГСК) (А.Г.Горянов — по совместительству)
12. ОАГС (М.М.Алиевский)
13. Секретарь ОСО (П.П.Буланов)
14. Отдел лесной охраны (А.Г.Горянов)
15. Центральное торгово-производственное управление (ЦТПУ) (бывшее Кооперативное управление) (М.Б.Шнеерсон)
16. Главная инспекция по пограничной, внутренней охране и РКМ НКВД (Н.М. Быстрых)
Структура НКВД СССР на 1 января 1937 г.
1. Секретариат НКВД СССР (Я.А.Дейч)
2. ГУГБ: (Я.С.Агранов)
— 1 отдел (охраны) (К.В.Паукер)
— 2 отдел (оперативный) (Н.Г.Николаев-Журид)
— 3 отдел (КРО) (Л.Г.Миро нов)
— 4 отдел (СПО) (В.М.Курский)
— 5 отдел (ОО) (И.М.Леплевский)
— 6 отдел (транспорта и связи) (А.М.Шанин)
— 7 отдел (ИНО) (А.А.Слуцкий)
— 8 отдел (учетно-регистрационный) (В.Е.Цесарский)
— 9 отдел (спецотдел) (Г.И.Бокий)
— 10 отдел (тюремный) (Я.М.Вейншток)
3. Особоуполномоченный НКВД СССР (В.Д.Фельдман)
4. ОК (М.И.Литвин)
5. ГУПВО (М.П.Фриновский)
6. ГУРКМ (Л.Н.Бельский)
7. ГУЛАГ (М.Д.Берман)
8. ГУПО (М.Е.Хряпенков)
9. ГУГСК (А.Г.Горянов)
10. Главное управление мер и весов (Главмервес) (Г.К.Карманов)
11. ГУШОСДОР (Г.И.Благонравов)
12. АХУ (С.Б.Жуковский)
13. ЦТПУ (А.К.Колесников)
14. ФИНО (Л.И.Берензон)
15. ОАГС (М.М.Алиевский)
16. Секретариат ОСО (П.П.Буланов)
17. Управление особого строительства (Э.А.Зибрак)
18. Инженерно-строительный отдел (ИСО) (А.Я.Лурье)
19. Управление коменданта Московского Кремля (П.П.Ткалун)
20. Переселенческий отдел (И.И.Плинер — по совместительству)
Структура НКВД СССР на 1 января 1938 г.
1. Секретариат НКВД СССР (И.И.Шапиро)
2. ГУГБ: (М.П.Фриновский)
— 1 отдел (охраны правительства) (И.Я.Дагин)
— 2 отдел (оперативный) (А.К.Залпетер)
— 3 отдел (КРО) (А.М.Минаев-Цикановский)
— 4 отдел (СПО) (М.И.Литвин)
— 5 отдел (ОО) (Н.Г.Николаев-Журид)
— 6 отдел (транспортный) (М.А.Волков)
— 7 отдел (ИНО) (А.А.Слуцкий)
— 8 отдел (учетно-регистрационный) (В.Е.Цесарский)
— 9 отдел (специальный) (И.И.Шапиро)
— 10 отдел (тюремный) (Я.М.Вейншток)
— 11 отдел водного транспорта) (В.В.Ярцев)
— 12 отдел (опертехники) (С.Б.Жуковский)
3. Особоуполномоченный (В.Е.Цесарский)
4. Отдел кадров (зам. нач. ОК — С.Б.Балаян)
5. ГУПВО (Н.К.Кручинкин)
6. ГУРКМ (В.В.Чернышев)
7. ГУЛАГ (И.И.Плинер)
8. ГУПО (М.Е.Хряпенков)
9. ГУГСК (М.В.Никитин)
10. Главмервес (Г.К.Карманов)
11. ГУШОСДОР (зам. нач. — Н.Ф.Малинин)
12. АХУ (И.П.Попашенко)
13. ОАГС (М.М.Алиевский)
14. ЦФПО (Л.И.Берензон)
15. Секретариат ОСО (В.Е.Цесарский)
16. Управление особого строительства (С.Е.Егоров)
17. УКМК (Ф.В.Рогов)
18. Переселенческий отдел (И.И.Плинер — по совместительству)
Структура НКВД СССР на 1 января 1939 г.
1. Секретариат НКВД СССР (П.А.Шария)