Спецотдел занимался как вопросами шифрования, так и вопросами дешифрования. В 1933 г. шифровальщики Спецотдела работали в большой комнате на четвертом этаже обширного здания бывшей страховой компании на улице Лубянке в Москве. А дешифровальщики занимали верхний этаж бывшего здания Министерства иностранных дел на углу улиц Лубянка и Кузнецкий мост. Тот факт, что нижние этажи здания посещались частными лицами и членами дипломатического клуба, использовался для маскировки. В 1935 г. и шифровальщики, и дешифровальщики переехали в новое здание на улице Дзержинского, которая была названа так в честь первого главы советской тайной политической полиции Феликса Дзержинского.

Шифровальный отдел был разделен на несколько отделений, которые занимались обеспечением секретной связи с региональными управлениями тайной полиции, с ее пограничными частями и воинскими формированиями, с администрациями тюрем и лагерей, с нелегальной заграничной агентурой и с «легальными» резидентурами за рубежом. За секретную связь с «легальными» резидентурами отвечало отделение под номером 6. Его начальник по фамилии Козлов был снят с должности во время чистки в 1937 г. А после того, как преемник Козлова был отправлен в качестве шифровальщика в Соединенные Штаты, начальником 6-го отделения стал человек, чье имя приобрело впоследствии скандальную известность. Это был Владимир Петров, который в 1954 г. вместе с женой Евдокией получил политическое убежище в Австралии38.

Рост 6-го отделения может служить показателем расширения советской разведывательной деятельности. В 1933 г., в момент прихода Петрова в это отделение, оно насчитывало в своем составе 12 человек. К 1951 г. число его сотрудников выросло до 50. Этим людям доверялись самые большие тайны наиболее секретного учреждения в СССР, и поэтому они относились к элите советского общества. Однако их работа в «раю трудящихся» была какой угодно, но только не божественной. Операции по расшифрованию сообщений выполнялись вручную, и Петрову часто приходилось задерживаться на работе до полуночи, чтобы успеть вовремя обработать всю массу шифртелеграмм, поступивших к нему в течение дня. Позже, уже будучи заместителем начальника 6-го отделения, Петров сам не занимался непосредственно шифрованием или расшифрованием, а читал, корректировал и подписывал открытые тексты шифртелеграмм.

Иногда шифровальщикам давались поручения, выходящие далеко за рамки их прямых обязанностей, как это случилось, например, с Боковым – высоким, молчаливым сотрудником, обладавшим необычайной физической силой. Ему было поручено убить советского посла в одной из стран Ближнего Востока, что он и сделал в кабинете последнего, проломив ему череп одним ударом металлического бруска. Чтобы отвести от себя подозрение в убийстве, Боков в течение года продолжал работать шифровальщиком в этом посольстве, а затем вернулся в Россию, где за удачно проведенную операцию был награжден орденом Красной Звезды.

Дешифровальный отдел39 был разбит на отделения по географическому и языковому принципу – китайское, англо-американское и т.д.