Когда Масрур в ночи прибыл к Джафару и рассказал, что его ждет, Джафар попытался выиграть время. Он подозревал, что халиф отдал приказ, будучи под воздействием спиртного, и попросил Масрура дождаться, пока правитель протрезвеет. Масрур вернулся к Гаруну, но тот с проклятиями отправил его обратно за головой Джафара. По другой версии, Гарун и Джафар провели день на охоте, и халиф даже обнял старого друга и пожелал тому на прощание спокойной ночи перед тем, как приказал его казнить.

Джафару было всего 36, когда он погиб от рук палача. Гарун приказал разрубить тело Джафара и выставить куски на всеобщее обозрение на трех городских мостах в Багдаде. Яхью, аль-Фадля и прочих Бармакидов взяли под стражу, а их имущество конфисковали. Яхья и аль-Фадль погибли в заключении. Последователей Бармакидов казнили как неверных.

Историк аль-Табари пишет, что уничтожение Бармакидов потрясло современников. Ибрагим ибн Утман был одним из верных военачальников халифа. Он заботился о государственной казне, когда Гарун в 802 году отправился в одно из своих восьми паломничеств. Ибрагим был потрясен судьбой Бармакидов и спьяну грозился отомстить за смерть Джафара. Согласно аль-Табари, сын Ибрагима донес на отца халифу, который решил проверить подлинность обвинений и пригласил Ибрагима разделить с ним чашу. Гарун притворился, будто раскаивается в смерти Джафара. Опьяненный вином, Ибрагим разразился слезами и горячо присоединился к халифу, говоря, каким великим человеком был Джафар. Ибрагим заявил, что халиф поступил необдуманно, лишив визиря жизни. И тогда Гарун проявил свое истинное лицо, воскликнув: «Проклятие падет на тебя, сын необрезанной матери!» Ибрагим вмиг понял, что дни его сочтены. Гарун, однако, не стал убивать военачальника, но вскоре это сделал его собственный сын — доносчик халифа.

Бармакиды были снисходительны ко многим религиозным и политическим движениям в Багдаде, но сам Гарун считал такое поведение угрозой своей власти. Поддерживая литературу и науку, Бармакиды сделали двор Гаруна местом вдохновения и творчества. После их уничтожения эта атмосфера исчезла. Свои последние годы Гарун провел воюя с Византией и подавляя восстания на собственной территории.

Гарун вел против Византии свою личную войну. Он сам возглавил походы против греков в 803 и 806 годах. Последний поход был невероятно масштабным. Новый император Византии Никифор расторг мирный договор и отказался ежегодно платить аббасидам дань. В 806 году огромная армия халифата вышла против Византии. Утверждают, что на возглавлявшем войска аль-Рашиде был головной убор, надпись на котором гласила: Ghazi wa hajj — «Воин за веру и паломник».

После месячной осады армия Гаруна захватила Гераклею Понтийскую, располагавшуюся на территории современного турецкого города Эрегли на берегу Черного моря. Поселение разграбили и разрушили до основания, а жителей угнали в халифат в рабство. В то же время генерал Хумайд разгромил Кипр и взял в плен 16 000 человек, которых затем продали в рабство в Сирии. Тем не менее нападения Гаруна не дали никаких значимых результатов, поскольку он не считал нужным выполнять условия договоров с византийским правителем Никифором.

Несмотря на то что Гарун жил в невообразимой роскоши и прославился на Западе как халиф из «Тысячи и одной ночи», в его халифате хватало и бедности. Гарун был беспощаден, взимая налоги с подданных. Сбором занимались богатые землевладельцы, которые стремились извлечь из этого максимальную прибыль. В результате обычные крестьяне разорялись и им зачастую приходилось отказываться от своей земли.

Время правления Гаруна нельзя назвать мирным, поскольку в разных уголках халифата постоянно вспыхивали восстания.