До первого зарубежного государства, принадлежащей Швеции Ливонии, Посольство добиралось три недели. 31 марта послы въехали в Ригу. Первый оказанный Посольству прием оставил всех недовольными. «Статейный список», официальная хроника Посольства, сообщает: «От Свейского рубежа до Риги и в Риге во все бытие… съестных кормов и вместо кормов денежной дачи… ничего не дано и вспоможения никакого не учинено». В чем причина подобного негостеприимства? Официально – случившийся годом ранее неурожай. На другую, гораздо более важную причину намекает сам Петр в письме к Виниусу: «Здесь мы рабским обычаем живем и сыты были только зрением». «Зрительные насыщения» в Риге скорее были не следствием обычного голода, но, напротив, главной причиной недоверия к Посольству в Риге. Прибыв сюда, в хорошо укрепленный город, принадлежащий традиционно недружественной Швеции, Петр стал проявлять свое настойчивое любопытство, которое несколько вышло за рамки: он внимательно осматривал рижские укрепления, делал заметки и наброски до тех пор, пока его не прогнал с укреплений караул. Возник скандал, который пришлось улаживать главе Посольства, Лефорту. Приставленный к Посольству капитан Лилиенстриен пришел к нему извиниться за поведение караула в отношении знатной особы (инкогнито царя пока соблюдалось), которую силой пришлось прогонять с укреплений и при этом даже стрелять, и застал виновника скандала в «очень серьезном разговоре с господином первым послом». Последний, выслушав извинения, «принял их благосклонно и ответил, что караул поступил правильно, и он даст указания, чтобы ничего подобного впредь не было». Лефорт в данном случае был верен обещанию строго соблюдать инкогнито царя и желанию вести посольство так, «чтобы на нас не жаловались, как на других». Он сумел успокоить рижского генерал-губернатора Дальберга, обещав ему, что запретит своим людям осматривать укрепления. Дальберг пишет, что Лефорт, «сам будучи опытным генералом, прекрасно знает, что таких вещей не потерпят ни в одной крепости Европы». Но хотя конфликт был улажен, осадок остался. При случае этот инцидент был помянут П. П. Шафировым в «Рассуждении о причинах Свейской войны», который рассматривает непочтительное по отношению к царю поведение караула как «новую законную причину» войны: «Его царское величество не мог оставить как для пользы и интересу государства своего, так и для отмщения учиненных высокой персоне его обид и бесчестий, на которые никакой сатисфакции от короля свейского получить не мог».

Посольство выехало из Риги 10 апреля и вступило во владения курляндского герцога Фридриха-Казимира, старого знакомого Лефорта. Здесь послы могли надеяться на лучший прием и не ошиблись. 14 апреля Посольство добралось до герцогского замка Экфоркен и было размещено в «княжеских хоромах». В тот же день на 87 подводах, предоставленных герцогом, Посольство двинулось в Митаву. Фридрих-Казимир казался послам «самаритянином, который излил вино и елей на их раны», полученные в Риге. Прием герцога был действительно радушным. Приставленный к Посольству барон Бломберг пишет: «По приказанию герцога все посольство было принято со всевозможной обходительностью и великолепием: их от мала до велика содержали, платя за их помещение, за стол и в особенности за вино и водку». Помимо увеселений и пиров послы провели с герцогом переговоры о военном союзе России и Курляндии. Последняя, правда, находясь в подчинении Польши (Фридрих-Казимир считался вассалом польского короля), и так считалась союзницей России, но положение в Польше было таково, что добрые отношения хотелось закрепить. «Статейный список» сообщает, что уже с 15 апреля «посещали великих и полномочных послов маршалок княжеский и иные началные люди офицеры и с великими и полномочными послами имели разговоры о воинских и гражданских делах».