В октябре 1924 года Фитина призвали в армию. Он отслужил год и вернулся к работе в издательстве, где стал заместителем главного редактора.

В марте 1938 года Павла Фитина по партийному набору взяли в органы госбезопасности и отправили учиться в Центральную школу НКВД, созданную решением политбюро в 1930 году. Обычный срок обучения дисциплинам специального цикла был установлен в два года — даже для людей с высшим образованием. Но НКВД ощущал такой кадровый голод, что все сроки были сокращены. Фитин проучился всего пять месяцев.

В августе 1938 года его зачислили в штат Главного управления государственной безопасности НКВД. Бесконечные чистки привели к тому, что через два с лишним месяца, 1 ноября, не имевший никакого опыта Фитин сразу стал заместителем начальника разведки. 1 февраля 1939 года ему присвоили спецзвание майор госбезопасности. Через год он стал старшим майором.

В разведке он получил в наследство одни руины. Фитин докладывал своему начальству:

«К началу 1939 года почти все резиденты за кордоном были отозваны и отстранены от работы. Большинство из них затем было арестовано, а остальная часть подлежала проверке.

Ни о какой разведывательной работе за кордоном при этом положении не могло быть и речи».

То же самое произошло в военной разведке.

На совещании начальствующего состава армии в апреле 1940 года командующий войсками Ленинградского военного округа командарм 2-го ранга Кирилл Афанасьевич Мерецков говорил, что офицеры отказываются ездить за границу с разведывательными заданиями:

— Командиры боятся идти в такую разведку, ибо они говорят, что потом запишут, что они были за границей. Трусят командиры.

С ним согласился начальник 5-го (разведывательного) управления Генерального штаба Герой Советского Союза Иван Иосифович Проскуров:

— Командиры говорят так, что если в личном деле будет записано, что был за границей, то это останется на всю жизнь. Вызываешь иногда замечательных людей, хороших, и они говорят — что угодно делайте, только чтобы в личном деле не было записано, что был за границей.

Сталин сделал вид, что удивлен:

— Есть же у нас несколько тысяч человек, которые были за границей. Ничего в этом нет. Это заслуга.

Проскуров развел руками:

— Но на практике не так воспринимается.

Сталин, конечно, прекрасно понимал, чего боятся офицеры. Практически все, кто побывал на учебе в Германии, были арестованы как немецкие шпионы. Сталин предпочитал как бы подшучивать над репрессиями, не упуская случая показать, что он здесь ни при чем…

В разведку лихорадочно набирали новичков. В первую очередь им надо было дать языковое и страноведческое образование, объяснить азы оперативной работы.

Приказом наркома внутренних дел 3 октября 1938 года появилось учебное заведение для разведчиков — Школа особого назначения. Она разместилась в Балашихе.

В 1939 году в школе учился известный разведчик Герой Советского Союза полковник Александр Семенович Феклисов, который со временем возглавил 1-й (американский) отдел Первого главного управления КГБ.

«Школа размещалась в лесу в добротном деревянном двухэтажном доме, — вспоминал Феклисов, — ее территория была огорожена забором. На верхнем этаже располагались пять спальных комнат, душевая, зал для отдыха и игр, а на нижнем — два учебных класса и столовая. Спальные комнаты были большие, в них находились два стола для занятий, две роскошные кровати с хорошими теплыми одеялами и два шкафа для одежды. Перед кроватями — коврики».

Каждому курсанту выдали пальто, костюм, шляпу, ботинки. В школе училось всего десять человек, это были выпускники технических вузов, направленные в НКВД.