В июле 1936 года на место Г. Молчанова пришел другой руководитель — В. Курский (в 1931–1934 годах он занимал должность начальника Особого отдела полпредства ОГПУ по Северному Кавказу). Тогда же произошла перестройка СПО: в целях большей конспирации всем отделам в НКВД дали номера и бывший Секретно-политический отдел стал 4-м отделом Нго Управления (контрразведка) НКВД.

Курский руководил своим подразделением недолго. В июне 1937 года его назначили начальником 3-го отдела (контрразведывательный) и даже метили на смену наркому внудел Н. Ежову. Но потом начались репрессии, и Курский, будучи ближайшим сподвижником Ежова, предпочел застрелиться. А к руководству 4-го отдела пришел майор А. Журбенко.

В сентябре 1938 года произошла очередная реорганизация: секретно-политический 4-й отдел стал 2-м отделом, а его куратором по линии нового министра (Л. Берия) стал его заместитель В. Меркулов. Руководителем 2-го отдела стал Б. Кобулов, который до этого долгие годы руководил аналогичным СПО в НКВД Грузии. Вообще, с приходом в НКВД Берия (осень 1938 года) в руководство советских спецслужб хлынули выходцы из Грузии: те же В. Меркулов, братья Кобуловы, а также С. Гоглидзе, М. Гвишиани и др. Естественно, что многие из них стали способствовать и переводу в Москву своей агентуры, как из числа секретной, так и агентуры влияния. Например, в столичной творческой среде именно в конце 30-х годов было много выходцев из той же Грузии. Если взять, к примеру, кинематограф, то на память приходит знаменитый кинорежиссер Михаил Калатозишвили, который в течение нескольких лет был директором Тбилисской киностудии, а в 1938 году был переведен на «Ленфильм», где стал снимать фильмы о летчиках («Мужество», 1939; «Валерий Чкалов», 1941). А в 1943 году Калатозишвили направили в США в качестве уполномоченного Комитета по делам кинематографии при Совнаркоме СССР (без согласия спецслужб на такие должности не назначаются).

В сентябре 1939 года к руководству 2-го секретно-политического отдела приходит П. Федотов — профессионал секретно-политического направления. В органах ГПУ он служил с 1927 года, причем происходило это на Северном Кавказе. В 1937 году, в разгар «чисток», его перевели в Москву начальником отделения СПО, а сентября 1938-го он стал заместителем начальника 2-го секретно-политического отдела. При Федотове в отделе трудилось 233 сотрудника. Самым многочисленным — 40 человек — было 5-е отделение, в сферу интересов которого входили писатели, актеры, работники искусства, печати и издательские работники.

Кстати, «натаскивала» чекистов для работы с агентурой из среды творческой интеллигенции Эмма Судоплатова — супруга известного специалиста по диверсиям П. Судоплатова. Эта женщина в 1927–1933 годах работала в Секретном отделе ГПУ Украины и специализировалась именно на вербовке представителей творческой интеллигенции. Достигла на этом поприще больших успехов (в ее багаже была вербовка многих именитых украинских «звезд» из числа писателей, актеров, режиссеров, музыкантов), после чего ее в 1934 году вместе с мужем перевели в Москву: муж работал в Иностранном отделе, а Эмма — в Секретно-политическом, где в ее обязанность входила работа с сетью осведомителей в только что созданном Союзе писателей СССР и в театрально-кинематографической среде. С 1940 года Э. Судоплатова стала старшим преподавателем Центральной (Высшей) школы НКВД-МГБ, где в курсе спецдисциплин обучала молодых чекистов азам агентурной работы, в том числе и в среде творческой интеллигенции.

Перед самой войной — в феврале 1941 года — происходит последняя довоенная реорганизация Секретно-политического отдела, который теперь вырос до 3-го секретно-политического управления.