Штаб КГБ подразделен на пять главных управлений, которые в свою очередь делятся на службы и отделы. Первое главное управление занимается операциями за рубежом, Второе отвечает за контрразведку и контролирует гражданское население в пределах Советского Союза, Управление погранохраны ведает пограничными войсками и формирует отборные воинские части. Пятое главное управление отвечает за подавление идейного инакомыслия, Восьмое занимается иностранными линиями связи, перехватывает и пытается дешифровать идущую по ним информацию.
Кроме того, в состав КГБ входят менее крупные самостоятельные управления, выполняющие свои специфические задачи.
В состав Первого главного управления входит три самостоятельных подразделения.
Самое крупное из них — Управление «С», в ведении которого находятся нелегальные агенты КГБ, разбросанные по всему миру, Одно из подразделений этого управления занимается вербовкой таких агентов из числа советских граждан и их подготовкой к деятельности за рубежом, Другое подготавливает им легенды и снабжает фальшивыми документами. Третье руководит уже внедренной агентурой, четвертому подчинены работники зарубежных резидентур, занимающиеся нелегальными агентами.
КГБ предпочитает направлять за рубеж на нелегальную работу супружеские пары. Нередко это ведомство само устраивает браки.
Будущий агент проходит трехлетний индивидуальный курс обучения в Москве и ее окрестностях. В дальнейшем его могут послать на несколько лет за границу для адаптации к местным условиям и упрочения своей легенды. И уже после этого направляют в страну, для работы в которой его предназначали с самого начала.
Для разработки правдоподобных легенд и подделки документов КГБ накапливает массу информации и аутентичных образцов из всех стран. Используются туристские путеводители, планы городов, телефонные справочники, расписания движения поездов и автобусов, паспорта, метрики, образцы почерков чиновников и т. п. Если, например, служащий тайваньского консульства в той или иной стране будет уволен или уйдет на пенсию, КГБ должен об этом знать: подпись его преемника, ставящаяся на визе, будет уже другой.
В сборе этой информации деятельно участвуют сотрудники зарубежных резидентур, занимающиеся нелегальными агентами (эти сотрудники относятся к так называемой «линии Л»), но главная их задача ‘ заключается в обеспечении связи между Нелегальной агентурой и «центром». Для этого они подыскивают тайники и используют их как важнейшие каналы связи. Обычно эти сотрудники находятся в той или иной стране под видом служащих советских консульств, где по роду службы постоянно имеют дело с иностранными паспортами и документами.
Управление «С» в 70-х годах включило в свой состав действовавшее до того независимо Управление «В», занимавшееся диверсиями и организацией покушений.
После бегства на Запад (1971) Олега Лялина, оказавшегося британским агентом, КГБ перетряхнул все Управление «В», к которому относился Лялин, уволив или понизив в должности руководящих работников этого Управления и отозвав всех его представителей из зарубежных резидентур.