Откровенно милитаристский курс Берлина, угрожавший самому существованию Советского Союза, потребовал коренной реорганизации советских спецслужб, в первую очередь внешней разведки органов государственной безопасности.

В начале 1932 года начальник ИНО ОГПУ Артузов внес в Коллегию ОГПУ предложение о перестройке разведывательной работы за рубежом в связи с реальной угрозой прихода к власти в Германии нацистов. Ввиду острой нехватки квалифицированных кадров Артузов поставил перед руководством ОГПУ вопрос об организации специальных курсов для подготовки и переподготовки разведчиков. Эти курсы, рассчитанные на 25 человек, комплектовались специально подобранными оперативными сотрудниками ОГПУ. При этом предпочтение отдавалось лицам, имевшим опыт оперативной работы за рубежом и владевшим иностранными языками. Создание курсов способствовало дальнейшему повышению уровня разведывательной работы за рубежом.

2 ноября 1932 года начальник ИНО ОГПУ Артузов подписал распоряжение о реорганизации внешней разведки. В нем, в частности, говорилось: «Перестроение всей агентурно-оперативной деятельности провести на основе возможного переключения всей работы в случае каких-либо осложнений с «легальных» рельс (берлинская резидентура) исключительно на подполье». Необходимость такой реорганизации была вызвана тем, что после относительно благоприятной обстановки для деятельности советских учреждений в Европе в предшествовавшее десятилетие в ряде европейских стран наметилась тенденция к ужесточению режима пребывания работников советских представительств, в том числе и сотрудников внешней разведки.

Следует отметить, что к середине 1930-х годов на Западе усилились антифашистские настроения. Не только простые люди, но и представители высших кругов общества, демократической интеллигенции смотрели в то время на Советский Союз с надеждой, как на силу, которая может противостоять фашизму и агрессии.

Именно на таких людей опиралась советская внешняя разведка, искала и находила среди них тех, кто соглашался на сотрудничество по политическим и идейным соображениям.

Яркими примерами этого служили знаменитая «Кембриджская пятерка» и представители «Красной капеллы».

Решение сложнейших задач, стоявших в 1930-е годы перед советской разведкой, потребовало мобилизации всех ее внутренних резервов, укрепления материальной базы и кадров, постоянной корректировки конкретных целей. Правительство, как и в предыдущие годы, уделяло самое серьезное внимание повышению ее эффективности. Так, в 1934 году на заседании правительства были рассмотрены вопросы об улучшении работы ИНО ОГПУ и Разведывательного управления РККА и о координации их деятельности.

10 июля 1934 года постановлением ЦИК СССР был образован Народный комиссариат внутренних дел (НКВД), в который вошли ряд главков, в том числе Главное управление государственной безопасности (ГУГБ). Иностранный отдел стал 5-м отделом ГУГБ НКВД СССР. Его задачи правительство определило следующим образом: «Выявление направленных против СССР заговоров и деятельности иностранных государств, их разведок и генеральных штабов, а также антисоветских политических организаций; вскрытие диверсионной, террористической и шпионской деятельности на территории СССР; руководство деятельностью закордонных резидентур».

Несмотря на обрушившиеся на разведку репрессии, она продолжала вести активную работу по освещению деятельности правящих кругов ведущих капиталистических стран Европы, США и Японии и частичному срыву их планов и мероприятий, направленных против СССР.

Немало полезного сделала советская разведка в эти годы в Испании. Она систематически получала сведения о поддержке франкистов Германией и Италией. В соответствии с личным указанием Сталина разведка организовала переброску в Испанию нескольких сотен советских добровольцев-интернационалистов.