В 1103 г. русские князья съехались к Долобскому озеру, где договорились наконец о совместном походе против половцев. Мономах настаивал на немедленном весеннем выступлении, когда половцы ещё не вышли на летние пастбища и вволю не накормили своих коней. Но возражал Святополк, который не хотел отрывать смердов от весенних полевых работ и губить их лошадей. Кое-кто из князей поддержал его. Мономах выступил с короткой, но яркой речью: «Дивлюсь я, дружина, что лошадей жалеете, на которых пашут! А почему не подумаете о том, что вот начнет пахать смерд и, приехав, половчин застрелит его из лука, а лошадь его возьмет, а в село его приехав, возьмет жену его и детей его и все его имущество? Так лошади вам жаль, а самого смерда не жаль». Выступление Мономаха положило конец спорам и колебаниям.

Вскоре русское войско, в которое вошли дружины всех видных русских князей (не пришёл лишь, сославшись на болезнь, черниговский князь Олег, старинный друг половцев), а также пешие полки, выступило в весеннюю степь. Решающая битва с половцами произошла 4 апреля близ урочища Сутень, неподалеку от Азовского побережья. На стороне половцев в ней принимали участие более 20 видных ханов. Летописец позднее записал: «И поидоша полкове, аки борове, и не бе презрети ихъ. И Русь поидоша противу имъ» («И двинулись полки половецкие, как лес, конца им не было видно; и Русь пошла им навстречу»). Но на истомленных долгой зимой конях половцы не сумели нанести своего знаменитого стремительного удара. Их войско было рассеяно, большинство ханов убиты.

Это была первая большая победа русов в глубине степи. Но до основных становищ половцев они так и не дошли. На три года прекратились половецкие набеги. Лишь в 1105 г. половцы потревожили русские земли. Они воспользовались тем, что русские князья были втянуты в этот год в войну с полоцким князем. На следующий год половцы нагрянули снова. Через год объединенное войско ведущих половецких ханов Боняка и Шарукана опять появилось на Руси, разоряя киевские и переяславские земли. Объединенное войско русских князей неожиданным встречным ударом опрокинуло их на реке Хорол. Русы зарубили брата Боняка, едва не пленили Шарукана, захватили огромный половецкий обоз. Но основные силы половцев ушли восвояси.

И снова затихли половцы. Но теперь русские князья не стали ждать новых набегов. Дважды русские дружины наносили удары по половецкой территории. С ближними же, дружественными, половцами закреплялись мирные отношения. В эти годы Мономах и Олег женили своих сыновей, Юрия Владимировича (будущего Юрия Долгорукого) и Святослава Ольговича, на дочерях союзных половецких ханов. Так в семье Рюриковичей кроме славян, шведов, греков, англичан появилась и половецкая династическая линия.

В 1111 г. Русь организовала против половцев грандиозный поход, который достиг сердца их земель — города Шарукань вблизи Дона.

Этот поход начался необычно. Когда в конце февраля войско подготовилось к выходу из Переяславля, то впереди него выступили епископ, священники, которые с пением вынесли большой крест. Его водрузили неподалеку от ворот города, и все воины, в том числе князья, проезжая и проходя мимо креста, получали благословение епископа. А затем на расстоянии 11 верст представители духовенства двигались впереди русского воинства. В дальнейшем они шли в обозе войска, где находилась и вся церковная утварь, вдохновляя русских воинов на ратные подвиги.

Мономах, бывший инициатором этой войны, придал ей характер крестового похода — по образцу крестовых походов западных властелинов против мусульман Востока.

Вскоре русское войско подошло к городу Шарукань, представлявшему собой сотни глинобитных домов, кибиток, опоясанных невысоким земляным валом. Ни хана Шарукана, ни его войска в городе не было. Перед приступом Мономах снова выдвинул вперед духовенство, и оно освятило русскую рать. Но депутация горожан вынесла русским князьям на огромных серебряных блюдах рыбу и чаши с вином.