Секретариат ОСО при наркоме — (В.В.Иванов).
Оперативно-чекистские управления и отделы:
1 управление (разведка за границей) — (П.М.Фитин);
2 управление (контрразведка) — (П.В.Федотов);
3 управление (секретно-политическое) — (Н.Д.Горлинский);
Управление особых отделов — (В.С.Абакумов);
Транспортное управление — (Н.И.Синегубов);
Экономическое управление (ЭКУ) — (П.Я.Мешик);
Следчасть по особо важным делам (по ОВД) — (Л.Е.Влодзимирский);
1 отдел (охрана правительства) — (Н.С.Власик);
1 с/о (учетно-статистический) — (Л.Ф.Баштаков);
2 с/о (опертехники) — (Е.П.Лапшин);
3 с/о (обыски, аресты, наружное наблюдение) — (П.М.Кубаткин);
4 с/о (особое техбюр о, "ВЧ"-связь) — (В.А.Кравченко);
5 с/о (шифры) — (И.Г.Шевелев);
6 с/о (Гохран) — (В.Н.Владимиров).
Административно-оперативные управления:
ГУМ — (А.Г.Галкин);
ГУПО — (П.М.Богданов);
ГУМПВО — (В.В.Осокин);
Управление государственных архивов (УГА) — (И.И.Никитинский);
Тюремное управление — (М.И.Никольский);
УПВИ — (П.К.Супруненко);
УКМК — (Н.К.Спиридонов);
Штаб истребительных батальонов НКВД — (Г.А.Петров).
Управления войск:
ГУПВ — (Г.Г.Соколов);
Главное управление внутренних войск (ГУВВ) — (А.Н.Аполлонов);
Управление оперативных войск — (А.И.Ачкасов);
Управление военного снабжения (УВС) — (А.А.Вургафт);
Политуправление войск НКВД — (П.Н.Мироненко);
Военно-строительный отдел (ВСО) — Я.М.Бородинский).
Управления исправительно-трудовых лагерей (ИТЛ):
ГУЛАГ — (Б.Г.Наседкин);
ГУАС — (Л.Б.Сафразьян);
ГУЛЖДС — (Н.А.Френкель);
Главгидрострой — (Я.Д.Рапопорт);
Главпромстрой — (Г.М.Орлов);
Главное управление лагерей горно-металлургических предприятий (ГУЛГМП) — (ПАЗахаров);
Управление лагерей лесной промышленности (УЛЛП) — (М.М.Тимофеев);
Управление лагерей по строительству Куйбышевских заводов — (А.П.Лепилов);
Дальстрой — (И.Ф.Никишов);
ГУШОСДОР — (В.Т.Федоров);
Управление материально-технического снабжения (УМТС) — (В.А.Поддубко);
Хозяйственное управление (ХОЗУ) — (Ю.Д.Сумбатов);
Отдел кадров — (Б.П.Обручников);
ЦФПО — (Л.И.Берензон);
Моботдел — (И.С.Шередега);
Отдел ж.д. и водных перевозок — (С.И.Зикеев).
В июле 1941 г., еще до объединения НКВД СССР и НКГБ СССР в единый НКВД СССР, в ГКО СССР и в Совете по эвакуации при СНК СССР был решен вопрос о частичной эвакуации из Москвы центральных аппаратов НКВД — НКГБ СССР, которые должны были разместиться в городах: Куйбышеве, Чкалове, Уфе, Саратове, Кирове, Новосибирске, Свердловске, Казани, Пензе, Молотове и Ульяновске.
При штате центрального аппарата НКВД СССР в 10000 человек подлежали эвакуации 7000 человек, и при штате центрального аппарата НКГБ СССР в 11000 человек подлежали эвакуации 7500 человек. Всего намечалось эвакуировать 33000 человек сотрудников НКВД — НКГБ СССР и членов их семей. К октябрю 1941 г. в Москве остались лишь небольшие опергруппы от каждой структурной части НКВД СССР, а в марте 1942 г. в связи с изменением обстановки на фронте почти весь центральный аппарат НКВД СССР вернулся в Москву.
После объединения НКВД и НКГБ СССР и сокращения штатов в связи с начавшейся войной численность центрального аппарата НКВД СССР к концу 1941 г. составляла около 9000 человек.