В мае 1919 года Яков Давтян и Инесса Арманд сошли с борта французского парохода на берег в Новороссийском порту. Усевшись в пролетку, они собрались было отправиться в путь, однако вдруг с трапа парохода сбежал бородатый солдат и, схватив рысака под узцы, громко крикнул:

— Товарищи! Не уезжайте! Одну минуточку!

Седоки повернулись в сторону парохода. С палубы корабля, как раскаты грома, донеслось троекратное «ура». Это русские солдаты, возвратившиеся на родину, благодарили Давтяна и Арманд за свое вызволение.

Возвратившись в Москву, Я. Давтян обратился в ЦК партии с просьбой устроить его на работу с учетом приобретенного зарубежного опыта. В июне 1919 года он был направлен на Украину в качестве особоуполномоченного Совета обороны с целью инспекции политотделов военных учреждений. В связи с отступлением Красной Армии из Киева в августе 1919 года ему был выдан мандат следующего содержания:

«Тов. Давтяну поручается восстановление порядка в районе Киевского железнодорожного узла, прекращение бесчинств войсковых эшелонов, задержание дезертиров, выселение из вагонов всех лиц, коим по штатам ими пользоваться не положено. Тов. Давтян имеет право ареста с последующим преданием суду состоящего при нем Ревтрибунала всех не подчиняющихся его распоряжениям, право пользования прямыми проводами, телефонным, телеграфным, право проезда в любом поезде и пользования отдельным паровозом».

Я. Х. Давтян успешно справился с поручением.

В сентябре 1919 года Яков Христофорович направляется на Южный фронт. Он был назначен начальником политотдела 1-й Кавказской кавалирийской дивизии. В начале 1920 года Давтяна вновь отзывают в Москву, теперь уже для работы в Наркомате иностранных дел. Через несколько дней он назначается на должность первого секретаря советского полпредства в Ревеле (Таллине) и направляется туда в командировку. Затем из Ревеля его переводят в Лондон секретарем делегации Л. Б. Каменева.

После возвращения из Лондона в октябре 1920 года Яков Христофорович работает в центральном аппарате НКИД заведующим отделом Прибалтийских стран и Польши и одновременно является членом коллегии наркомата. По рекомендации И. Ф. Арманд на молодого дипломата обратил внимание Ф. Э. Дзержинский. По его ходатайству Оргбюро ЦК РКП(б) на заседании от 12 ноября 1920 года принимает решение «откомандировать Давтяна Я. Х. в распоряжение ВКЧ», где, как предполагалось, он должен был возглавить создаваемый Иностранный отдел (внешнюю разведку).

Дело это было новое и связанное с многочисленными трудностями. Не хватало грамотных кадров, владевших секретами чекистского мастерства и навыками ведения разведработы за рубежом и свобордно говоривших на иностранных языках. Скудным был и бюджет внешней разведки, а задачи перед ней стояли большие. Сам Я. Давтян, правда, имел некоторый опыт работы за рубежом, в основном по линии НКИД, однако разведка, которой он должен был руководить, была для него «терра инкогнита». К тому же, первому организатору ИНО ВЧК в ту пору было всего 32 года.

Поскольку Яков Христофорович числился сразу за двумя ведомствами, было решено, что в целях конспирации в ИНО ВЧК он будет работать под фамилией Давыдов. В очерке мы продолжим называть его настоящей фамилией.

В приказе Ф. Э. Дзержинского N 169 о создании Иностранного отдела ВЧК, в частности, указывается:

«1. Иностранный отдел Особого отдела ВЧК расформировать и организовать Иностранный отдел ВЧК.

…

4. Врид. начальника Иностранного отдела ВЧК назначается тов. Давыдов, которому в недельный срок представить на утверждение штаты Иностранного отдела.»

Я. Х. Давтян активно включился в процесс разработки Положения об Иностранном отделе ВЧК, определения его структуры и штатного состава. В то же время если в Наркоминделе, где Давтян одновременно продолжал работать, он был официально утвержденным начальником отдела и членом коллегии, то его статус в ИНО в качестве исполняющего обязанности начальника был менее определенным.