В тот же день, когда было написано письмо Богдо-гэгэну, Азиатская дивизия в долине реки Байн-Гол вступила в бой с частями 30-й стрелковой дивизии 5-й армии. Красные отчаянно сопротивлялись, к вечеру Унгерн отступил, потеряв около восьмидесяти бойцов убитыми и до сотни ранеными. После этого он едва ли не впервые нарушил указание лам, предписавших ему двигаться по левому берегу Селенги, и через два дня свернул от нее на север вдоль русла одной из речушек, берущих начало на Цеженском гольце — лесистом и диком скальном массиве, считавшемся непроходимым для войск. За ним лежала плодородная, густонаселенная долина Джиды.

Перед подъемом на перевал Унгерн дал людям отдых, а утром задержался на уже покинутом дивизией биваке. Этот момент в жизни своего начальника Князев описывает с неподдельным чувством трагичности и непоправимости принятого им решения: «Ушли полки. Скрылась длинная вереница обоза. С железным тарахтением укатили пушки. Замолкли шумы. Там, где недавно кипела лагерная суета, сидел одинокий человек в засаленном тарлыке. Подле него паслась стреноженная лошадь. Медленными затяжками тянул он свою неизменную трубку, время от времени привычными пальцами доставая из догоравшего костра уголек, сверкающий злым красным блеском. Барон задумчив. Сегодня у него еще имелся выбор — уходить в знакомую и не вполне еще чуждую Монголию или же прыгнуть через каменные барьеры в Забайкалье».

Выбор был сделан, дивизия начала труднейший переход через Цеженский голец. Впереди, прокладывая дорогу в зарослях, посменно шли 200 человек с топорами, кирками, лопатами. Поклажу навьючили на лошадей, число подвод Унгерн свел к минимуму. Пушки тянули на руках, временами — таким образом, что одно колесо шло по горной тропинке, а второе, зависшее над пропастью, поддерживали веревками и баграми.

«Каким образом вы проделали этот маршрут?» — допрашивая Унгерна в плену, не без уважения поинтересовались командиры 5-й армии. Он ответил: «Тропы там есть. Вообще во всей Монголии есть тропы. Нет ни одной пади, где нельзя пройти, но это зависит от энергии».

Энергии у него хватало. Две с половиной тысячи людей с лошадьми и обозом, при восьми орудиях, одолели Цеженский голец за сутки, тогда как впятеро меньшему и имевшему всего одну пушку отряду Щетинкина, который вскоре двинулся тем же путем, на это понадобилась неделя.

Рассеивая мелкие красноармейские отряды, Унгерн молниеносными по местным условиям переходами выходит в долину Джиды. Через разлившиеся реки артиллерию переправляли первобытным способом: забивали быков, ждали, пока туши раздуются под июльским солнцем, затем связывали их вместе и на этих зловонных понтонах устанавливали орудия.

«Вы знали этот район?» — спросили Унгерна в плену. Он объяснил, что нет, не знал, лишь однажды проезжал на пароходе. Имелась в виду его первая поездка в Монголию в 1913 году, когда он пароходом добирался от Верхнеудинска до Усть-Кяхты. Память у него была специфическая, как у охотника или таежного бродяги. Он забывал имена, путал даты, но помнил места, мельком виденные восемь лет назад. Многих поражали его чутье и умение безошибочно ориентироваться на местности даже в темноте.

Согласно «Приказу № 15» карающий меч барона опускается на «преданных слуг красных учений», а также их жен и детей. В Богом забытых деревнях и улусах Селенгинского аймака евреев нет, настоящих коммунистов и комиссаров — тоже. К ним причисляют любых сельских активистов вплоть до работников местной потребкооперации. Какой-то «бурятский староста», по причине своей должности заподозренный в большевизме, после пыток брошен на тлеющие угли костра; зарублена деревенская учительница, про которую кто-то донес, что она коммунистка, хотя вся ее вина состояла, видимо, в том, что имела несчастье учиться на каких-нибудь советских курсах. Перед смертью, пишет Рябухин, она «была изнасилована всеми нашими контрразведчиками».