2 декабря Деканозов был назначен начальником разведки и в тот же день получил спецзвание — комиссар госбезопасности 3-го ранга. Но разведкой Владимир Георгиевич руководил недолго — ушел на повышение.

4 мая 1939 с утра здание наркомата иностранных дел окружили чекисты. Приехал новый нарком иностранных дел Вячеслав Молотов, с ним секретарь ЦК, начальник управления руководящих кадров Георгий Маленков и нарком внутренних дел Лаврентий Берия. Они сказали Максиму Максимовичу Литвинову, девять лет руководившему дипломатическим ведомством, что он больше не нарком.

Руководителей отделов и старших дипломатов по одному вызывали в кабинет наркома, объяснив, что там заседает комиссия ЦК. За столом на главном месте расположился Молотов, справа от него сидел Деканозов, только что назначенный заместителем наркома иностранных дел, слева — Берия и Маленков. Молотов что-то записывал. Деканозов молчал. Маленков тоже не проронил ни слова. Берия слушал внимательно и высказывался. Он лучше других знал тех, кто предстал в тот день перед комиссией — на них в соседнем здании, где располагался НКВД, уже собрали материалы, и большинство будет вскоре арестовано.

13 мая 1939 года Деканозова уже постфактум освободили от обязанностей начальника разведки.

В наркомате иностранных дел Деканозов занял кабинет Бориса Спиридоновича Стомонякова, который в момент ареста стрелял в себя, но неудачно, и попал в тюремную больницу. Литвинов попросился на прием к Сталину. Понимая, чем рискует, твердо сказал:

— Я ручаюсь за Стомонякова.

Максим Максимович Литвинов знал своего заместителя еще по дореволюционной подпольной работе. Они вместе добывали оружие для боевых отрядов большевиков.

Сталин ответил:

— Товарищ Литвинов, вы можете ручаться только за себя.

Стомоняков был уничтожен.

Дипломатов арестовывали прямо в новом кабинете Деканозова. Владимир Георгиевич с удовольствием помогал товарищам из НКВД.

12 ноября 1940 Молотов на поезде прибыл в Берлин в надежде решить спорные вопросы с Гитлером. Его сопровождали новый нарком черной металлургии Иван Тевосян, первый заместитель наркома внутренних дел Всеволод Меркулов и Деканозов, который остался в Берлине послом.

Деканозов на правах бывшего начальника разведки опекал берлинскую резидентуру.

В начале тридцатых резидентом в Берлине был опытный чекист Борис Давидович Берман. В Москве комиссар госбезопасности 3-го ранга Берман стал в 1936 году первым заместителем начальника иностранного отдела. Потом его назначили наркомом внутренних дел Белоруссии, в сентябре 1938 года арестовали и в феврале 1939-го расстреляли.

Его старший брат Матвей Берман тоже работал в органах госбезопасности. Он стал начальником ГУЛАГа, заместителем наркома внутренних дел, наркомом связи. Его арестовали в декабре 1938 года, на три месяца позже Бориса, и расстреляли на месяц позже.

В конце 1933 года в Берлине Бориса Бермана сменил Борис Моисеевич Гордон, партийный работник, который как раз окончил Институт красной профессуры. На время его работы пришлась активная деятельность внешней разведки в Берлине, несмотря на трудность работы в условиях нацистской Германии. Были завербованы люди, которые из антифашистских побуждений снабжали Москву важнейшей информацией. Они стали известны как «Красная капелла».

В мае 1937 года резидента Гордона отозвали в Москву и арестовали. Его сменил Александр Иванович Агаянц, которого перевели в Берлин из парижской резидентуры. Но в декабре 1938 года он умер во время срочной хирургической операции по поводу прободения язвы желудка. Его подчиненных одного за другим отзывали в Москву и обвиняли в шпионаже на немцев.

В 1938 году в берлинской резидентуре были три оперативных работника, в 1939-м остались двое, один из них не говорил по-немецки. Москва запретила им встречаться с агентурой, поскольку ее вербовали «разоблаченные враги народа».