Против повстанцев выступили местные формирования коммунистов, красноармейские отряды, части особого назначения, курсанты военно-учебных заведений Красной Армии и школ ВЧК. Но из-за неорганизованности и нерешительности местного военного командования успеха их действия не имели. Поэтому для ликвидации армии Антонова был создан штаб войск Тамбовской губернии, которые к июню 1921 года насчитывали до 43 тысяч штыков и сабель. Командующим войсками назначили в начале мая бывшего дворянина и поручика М.Н.Пугачевского, его заместителем — бывшего подпоручика И.П.Уборевича (Уборявичюса), начальником штаба — бывшего полковника Н.Е.Какурина.

Вспоминая о том времени, Жуков писал: «О Михаиле Николаевиче Тухачевском мы слышали много хорошего, особенно о его оперативно-стратегических способностях, и бойцы радовались, что ими будет руководить такой талантливый полководец. Впервые я увидел М.Н.Тухачевского на станции Жердевка, на Тамбовщине, куда он приехал в штаб нашей 14-й отдельной кавалерийской бригады. Мне довелось присутствовать при его беседе с командиром бригады. В суждениях М.Н.Тухачевского чувствовались большие знания и опыт руководства операциями крупного масштаба».

В наши дни известно, какими методами действовали части Красной Армии и ВЧК при подавлении восстания. В соответствии с решениями Полномочной комиссии ВЦИК (председатель В. А. Антонов-Овсеенко) войска Тамбовской губернии широко применяли метод оккупации районов восстания, систему заложничества, создали сеть концлагерей (к середине июля 1921 года в них находилось более 9,3 тысячи человек), расстреливали родственников повстанцев на глазах у местных жителей, сжигали непокорные деревни. Одновременно среди населения проводилась широкая разъяснительная работа с целью его ознакомления с аграрной политикой Советской власти. Красноармейцы оказывали крестьянам помощь в проведении посевной кампании, в запашке полей, в починке сельскохозяйственного инвентаря. Это играло определенную позитивную роль и способствовало добровольной сдаче восставших и дезертиров. Однако основным средством борьбы с повстанцами была военная сила.

Во второй половине мая 1921 года войска Тамбовской губернии начали операции по разгрому повстанцев. В течение десяти дней была разгромлена 2-я народная армия, остатки которой укрылись в лесах. С целью очистки лесов от повстанцев командование войск Тамбовской губернии применило в июне удушливые газы. Эта мера была одобрена Комиссией по борьбе с бандитизмом при Реввоенсовете республики, советовавшей прибегать к газовым атакам «с величайшей осторожностью, с достаточной технической подготовкой и только в случаях полной обеспеченности успеха». Частям 1-й народной армии удалось уйти на Дон, потом в Воронежскую губернию, но 20 июня у города Урюпинска была разгромлена и она.

Запомнились Жукову на Тамбовшине несколько боевых эпизодов. Утром 5 марта 1921 года он проснулся рано и, стоя на крыльце, с наслаждением глубоко вдыхал в себя свежий воздух. Неожиданно в конце деревни показался всадник. Он круто осадил коня перед крыльцом и крикнул: «Антоновцы!» 1-й кавалерийский полк был поднят по тревоге: разведка донесла, что в 10–15 верстах от села Вязовая Почта сосредоточена крупная группировка противника — до трех тысяч сабель. Перед двумя полками была поставлена задача уничтожить повстанцев. Эскадрон Георгия Константиновича, которому были приданы четыре пулемета и орудие, шел в авангарде 1-го кавалерийского полка. Через полчаса марша эскадрон неожиданно наткнулся на антоновцев. Развернув эскадрон и открыв пулеметный и орудийный огонь, Жуков повел красноармейцев в атаку. Повстанцы не выдержали стремительного удара и отступили, неся потери.

В этом бою Жуков чуть не погиб. «Во время рукопашной схватки один антоновец выстрелом из обреза убил подо мной коня, — вспоминал он. — Падая, конь придавил меня, я был бы неминуемо зарублен, если бы не выручил подоспевший политрук Ночевка.