При Троцком вооруженные силы могли постоять за себя. 15 октября 1922 года комиссар морских сил республики Вячеслав Иванович Зоф пожаловался Троцкому, что ГПУ (так теперь именовались органы госбезопасности) ведет расследование по поводу контрреволюционных настроений на Балтийском флоте:

«Самый вопрос был внесен ГПУ в Политбюро во время Вашего отсутствия из Москвы и без всякого предварительно ознакомления Морского ведомства… Несмотря на все попытки с моей стороны в Москве и со стороны руководящих опытных работников Балтфлота в Петрограде установить постоянные нормальные отношения в работе Морведа с органами ГПУ, со стороны последних до сего времени наблюдается явно предвзятое отношение к флоту».

На следующий день Троцкий написал Дзержинскому о «ненормальности и неправильности работы органов», упрекнул: чекисты занимаются военным флотом «без участия наиболее авторитетных партийных работников морского ведомства»; это уже приводило к крупным ошибкам.

Дзержинский тут же ответил Троцкому:

«Происхождение дела о настроении кронштадтских моряков было согласовано ГПУ с секретарем ЦК т. Сталиным, у него можно будет узнать о причинах, побудивших дать то, а не иное направление дела».

Ссылкой на санкцию Сталина Феликс Эдмундович только обострил ситуацию. Троцкий в тот же день попросил обсудить работу чекистов на заседании политбюро, убедительно обосновал свою позицию и одержал полную победу. В 1937 году его бывшего подчиненного Вячеслава Зофа, в ту пору директора завода «Компрессор», расстреляют как антисоветчика-террориста…

9 марта 1922 года политбюро утвердило секретное положение об особых отделах, перечислив их задачи:

«а) Борьба с контрреволюцией и разложением в Красной армии и во флоте.

б) Борьба со шпионажем во всех его видах (разведывательным и вредительским), направленным против интересов РСФСР как со стороны окружающих республику государств и их отдельных партий, так и со стороны русских контрреволюционных партий и групп.

в) Борьба с открытыми контрреволюционными выступлениями и вспышками (бандитизмом) путем разведки сил противника и разложения его рядов.

г) Охрана границ РСФСР и борьба с политической и экономической контрабандой и незаконным переходом границ.

д) Выполнение специальных заданий Реввоенсовета Республики и Реввоенсоветов фронтов, армий и военных округов…»

В конце января 1925 года в Москве прошел второй съезд особых отделов. Выступали Дзержинский, его заместитель Генрих Ягода, начальник контрразведывательного отдела Артур Христианович Артузов, заместитель начальника Особого отдела Роман Александрович Пилляр (дальний родственник Дзержинского; его настоящее имя — Ромуальд фон Пильхау, но в юности он порвал с отцом-бароном).

На съезде обсудили вопрос о разграничении обязанностей с контрразведывательным отделом. Роман Пилляр объяснил коллегам: особисты должны сосредоточиться на изучении армейской среды и борьбе с контрреволюцией в армии. Поэтому за особистами и утвердилась репутация надсмотрщиков, и армейские офицеры их недолюбливали.

Особым отделам предписали создавать «агентурно-осведомительный аппарат в армии, на флоте и среди гражданского населения, имеющего непосредственное соприкосновение с войсковыми частями». Сами особисты вели следствие «по делам о контрреволюции, шпионаже, диверсии, измене Родине, вредительстве в РККА и Военно-Морском флоте, войсках НКВД и среди указанного выше гражданского населения». Сами проводили обыски и аресты.

Особые отделы опутали соединения, части и подразделения вооруженных сил, красноармейские коллективы сетью негласных осведомителей.