После отца Ярослав остался очень молод, так что первое время он, вероятно, жилу дяди Всеволода. Когда последний в 1078 г. сделался великим князем и разделил племянникам уделы, Ярославу досталась Рязань, самая незавидная из отцовских земель. Мы не знаем, когда именно младший Святославич отправился в свой удел, и какое участие принимал до 1096 г. в непостоянной судьбе старшего брата; по крайней мере не встречаем его до тех пор, пока Олег не перенес свою беспокойную деятельность из Южной России в северо-восточную. Присутствие Ярослава в Рязани прежде означенного года отчасти обнаруживается тем, что сын Мономаха из Курска отправился прямо в Муром, где находились посадники Олега, и на пути миновал Рязань вероятно потому, что она управлялась в то время собственным князем. Последняя догадка получит еще большую степень вероятности, если возьмем в расчет другое современное обстоятельство. Без сомнения, одну из главных забот Ярослава составляло построение городов в своей малонаселенной волости. Действительно, под 1095 г. мы имеем следующее известие:

«… заложен был град Переяславль Рязанский у церкви Св. Николы Стараго».

Судя по словам Герберштейна, древняя крепость, около которой впоследствии образовался город Переяславль, первоначально называлась Ярославом или Ярославлем, т. е. по имени своего основателя. Может быть, около того же времени получил свое начало и город Пронск. Вместе с рязанской дружиной, конечно, Ярослав последовал за Олегом в его походе к Мурому и принял непосредственное участие в борьбе с детьми Мономаха. Но роль его пока была второстепенная; очевидно, он находится в полном повиновении у старшего брата, и летописец До времени не считает нужным говорить о его присутствии в полках Олега.

Посоветовавшись с новгородцами, Мстислав послал в сторожах Добрыню Рагуйловича, который схватил Олеговых сборщиков податей. Услыхав о том, Ярослав, стоявший тогда на Медведице, в ту же ночь бежал к Олегу. Последний отступил сначала к Ростову, потом к Суздалю, но преследуемый Мстиславом, он велел зажечь Суздаль и удалился в Муром. Изгнав неприятелей из своих родовых волостей, скромный Мстислав не желает продолжать бесполезную войну с крестным отцом и опять предлагает ему помириться: «Я моложе тебя, — говорит он Олегу, — пересылайся с моим отцом и возврати захваченную дружину, а я во всем тебя послушаю».

К тому же времени, вероятно, относится известное письмо Владимира Мономаха к Олегу. Несмотря на печаль о потере сына, Владимир, однако, соглашается на кроткие убеждения Мстислава: первый обращается к своему врагу со словами примирения и в трогательном послании к нему изливает чувства отца и христианина. Олег, чувствуя себя не в силах бороться с племянником, изъявил готовность к миру. Молодой князь, оставшись в Суздале, доверчиво распустил своих ратников по селам, и даже не выставил в поле обычных сторожей. Наступила первая неделя Великого поста. Мстислав сидел за обедом, как вдруг пришла весть, что Олег уже появился на Клязьме. Последний, однако, напрасно рассчитывал на то, что племянник, застигнутый врасплох, поспешит удалиться из Суздаля. В два дня Мстислав успел опять собрать сильную дружину из новгородцев, ростовцев и белоозерцев. Он не хотел оставаться под защитой укреплений, а вышел в поле и приготовился к битве. Олег почему-то промедлил еще четыре дня, и дал время подоспеть младшему брату Мстислава Вячеславу, которого Мономах послал с половцами на помощь к сыну. Только на пятый день Святославичи двинулись вперед и на берегах Колакши вступили в битву с детьми Мономаха. Дело кончилось в пользу последних. Разбитый Олег прибежал в Муром, затворил здесь брата, а сам пошел к Рязани, вероятно для того, чтобы собирать новое войско. Но деятельный противник на этот раз решился не оставлять своего преследования до тех пор, пока не принудит неугомонного дядю к окончательному миру: поэтому он не останавливается долго перед Муромом, довольствуется выдачей Изяславовой дружины и по Оке спешит за Олегом.