По возвращении в Россию популярный генерал, которого прочили даже в военные министры, был стараниями того же Аракчеева, а также начальника Главного штаба князя Петра Волконского (⌠Петрохана■, как называл его Ермолов) удален подальше от Северной Пальмиры. В 1816 г. он был назначен главнокомандующим в Грузию, командиром отдельного Кавказского корпуса и чрезвычайным и полномочным послом в Иране. О своей успешной дипломатической миссии в Персию в 1816-1817 гг., в результате которой удалось сохранить все российские завоевания на Кавказе, Алексей Петрович написал специальное сочинение. Позднее оно было опубликовано анонимно П.П. Свиньиным в журнале ⌠Отечественные записки■ (декабрь 1827 г. √ март 1828 г.) под заглавием ⌠Выписки из журнала Российского посольства в Персию■. В тексте то и дело проскальзывает cарказм, тонкая ирония автора. Читаем: ⌠Где нет понятия о чести, там, конечно, остается искать одних только выгод■. О виднейшем персидском сановнике он пишет: ⌠В злодейское Али-Магмед-хана правление неоднократно подвергался он казни и в школе его изучился видеть и делать беззаконие равнодушно■. А вот как глумится он над самовольным захватом власти правителем Фетх-Али: ⌠Шах имел хороших лошадей, оставалось только уметь приехать скоро...Здесь не всегда нужны права более основательные■.

⌠Ермолов наполнил [Кавказ] своим именем и своим Гением■ √ cказал А.С. Пушкин. И, действительно, значение сего генерала в истории края трудно переоценить. Властной и твердой рукой управлял он Кавказом, действуя планомерно и расчетливо, соединяя жестокость и суровость с уважительным отношением к мирному населению. Ермолов провел ряд военных операций в Чечне, Дагестане и на Кубани, построил новые крепости (Грозная, Внезапная, Бурная), усмирил беспокойства в Имеретии, Гурии и Мингрелии, присоединил к России Абхазию, Карабахское и Ширванское ханства. Он поощрял развитие на Кавказе торговли и промышленности, улучшил Военно-Грузинскую дорогу. При нем создавались лечебные учреждения на минеральных водах, был основан Пятигорск, а из крепости Кислой вырос город Кисловодск.

⌠Деятельность его была неимоверная, - поясняет очевидец, - в одно время он и сражался, и строил, и распоряжался, награждал, наказывал, заводил, проверял, свидетельствовал. Спал он по 4 и 5 часов в день, на простом войлоке, где случалось■. Он привлекал к себе на службу cпособнейших людей; в обучении же и воспитании вверенных ему войск возрождал суворовские традиции, за что солдаты и офицеры платили ему неподдельной любовью. Авторитет Ермолова на Востоке был столь велик, что Хивинский хан обращался к нему не иначе, как ⌠Великодушный и великий повелитель стран между Каспийским и Черным морями■. А один флигель-адъютант скажет потом, что если бы Ермолов приказал присягнуть даже иранскому шаху, никто на Кавказе не посмел бы его ослушаться (за такие ⌠возмутительные■ слова Николай I сошлет сего правдолюбца в Сибирь).

Но и, будучи проконсулом Кавказа, без юмора Ермолов никак не обходился. ⌠Остроты рассыпаются полными горстями, - писал о нем тогда А.С. Грибоедов, - ругатель безжалостный, но патриот, высокая душа, замыслы и способности точно государственные, истинно русская, мудрая голова■. Вот высказывания Ермолова той поры. О жуликоватом епископе Феофилакте, с которым конфликтовал, Алексей Петрович заметил: ⌠Я чувствую руку вора, распоряжающуюся в моем кармане, но, схватив ее, я вижу, что она творит крестное знамение, и вынужден целовать ее■. А прибывшему на Кавказ миссионеру-евангелисту Зарембе он посоветовал: ⌠Вместо того, чтобы насаждать слово Божье, займитесь лучше насаждением табака■. Ермолов был горазд и на меткие, удивительно точные прозвища, схватывающие самую суть человека. Своего сослуживца, графа Сергея Кузьмича Вязмятинова, вялого и нерасторопного, он нарек ⌠тетушка Кузьминишна■, а безынициативного графа И.В. Васильчикова √ ⌠матушка-мямля■.

Положение Ермолова переменилось коренным образом после вступления на престол Николая I.