К началу войны Советский Союз располагал в Германии обширной разведывательной сетью, включавшей агентов в военно-воздушных силах, министерстве иностранных дел, министерстве экономики, в гестапо и на оборонных предприятиях.

Наркомат госбезопасности имел нелегальную организацию в Берлине, которой руководили ставшие потом известными антифашисты Харро Шульце-Бойзен (обер-лейтенант люфтваффе, оперативный псевдоним Старшина) и Арвид Харнак (сотрудник имперского министерства экономики, Корсиканец). Обладая широчайшими связями, они поставляли в Москву полноценную информацию, которой Фитин мог гордиться. В эту группу входили больше ста человек, которые собирали сведения для советской разведки.

Военная разведка не отставала от политической и располагала нелегальными группами в Бельгии, Голландии и Франции.

Группе Харнака и Шульце-Бойзена в конце мая 1941 года доставили радиопередатчики и системы шифрования. Но когда началась война, передатчики не заработали.

Москва требовала самой свежей информации, и немедленно. Шифросвязь с закордонными резидентурами осуществляло 13-е отделение 5-го спецотдела НКВД. Существовали огромные сложности в организации связи с нелегалами. Радиостанции, которыми располагала агентура в Европе, были маломощными. Сигнал едва доходил до Бреста, но наступавшие немецкие войска заняли его в первые дни войны.

Радисты в советских резидентурах в Лондоне и Стокгольме напрасно часами просиживали у приемников. Тогда Фитин вынужден был обратиться за помощью к военной разведке, чьи нелегальные резидентуры в Европе продолжали действовать.

Военные разведчики наведались в Берлин. Оказалось, что передатчики не работают и наладить их невозможно. Нелегальные резидентуры взяли на себя передачу полученной информации. В первые месяцы войны они очень много работали. Радисты сидели в эфире часами, рации засекались, и разведчиков арестовывали одного за другим.

Гестапо выследило нелегальные резидентуры военной разведки и захватило радистов вместе с передатчиками. Гестаповцы начали ловкую радиоигру с Москвой, снабжая ее дезинформацией, и чекисты не скоро обнаружили, что их водят за нос.

Обращение Фитина к военной разведке за помощью оказалось роковым и для агентуры политической разведки. На допросах схваченные военные разведчики назвали и берлинские адреса. Трагедию завершила отправка двух связных в Германию.

Летом 1942 года ночью с самолета в районе Брянска, оккупированного немецкими войсками, были сброшены два радиста — Альберт Хесслер, бывший член компартии Германии, воевавший в Испании, и русский немец Роберт Барт, давно работавший на НКВД. За несколько дней они добрались до Германии. Хесслер нашел членов подпольной группы и попытался помочь им наладить передатчик, но безрезультатно. Ни он, ни приютившие его люди не подозревали, что их дом находится под наблюдением. Арест был вопросом времени.

Вскоре вся группа Харнака и Шульце-Бойзена тоже была арестована. Гестапо отдало под суд сто двадцать девять человек. Хесслер отказался работать на гестапо. Его расстреляли.

Роберту Барту поручили еще более ответственное задание — стать связным Вилли Лемана, сотрудника гестапо, который с 1929 года под оперативным псевдонимом Брайтенбах работал на советскую разведку.

В 1938 году, когда советская резидентура в Германии была уничтожена Сталиным, связь с Вилли Леманом прекратилась. Два года он ничем не мог помочь Советскому Союзу, потому что к нему никто не приходил. Связь была восстановлена в начале 1941 года и прервалась с нападением Германии на Советский Союз.

Роберта Барта гестапо арестовало сразу. Он не только выдал Вилли Лемана, но и согласился передавать в Москву то, что нужно немцам. В 1945 году Барт оказался в руках американцев. Они передали его советским представителям. Барта расстреляли.

Советская агентурная сеть в Германии была потеряна.