По призыву в 1931 году он ушёл в Красную армию. Провожали на службу молодого председателя всем колхозом. Наказывали, чтобы отслужил как положено и возвращался в родное Шагарово. Не вернулся. Через год вступил в ВКП(б) — в кандидаты его приняли ещё в колхозе. В том же 1932 году окончил дивизионную партийную школу. Учился прилежно. Легко постигал военную науку. Ладил с товарищами. Отличался упорством, принципиальностью. Любил шутку и умел поддерживать в коллективе хорошее, боевое настроение. Такие люди в войсках были нужны. Но был в его характере пункт, который порой возвращался к нему злой шуткой: ироничность и прямолинейность. Позже не кто иной, как полковник Зинченко, его боевой друг, в один момент ставший злым недругом, о нём скажет: «Он мне всегда нравился своей прямотой и решительностью. К тому же он был человеком острым на слово, с иронией, умел тонко высмеять тот или иной недостаток, не зло подтрунить, весёлой шуткой поднять настроение. 674-й полк под его командованием воевал отлично. Радовало, что наши полки вместе пойдут в этот трудный, ответственный и, возможно, последний бой…»

Хорошие слова. До поры до времени за ними стоял верный, надёжный друг, фронтовой товарищ. Но когда перед ними засияла Золотая Звезда Героя, одна на двоих, один из них тут же оттолкнул другого…

В 1938 году Алексей Плеходанов с отличием окончил курсы лейтенантов, в 1939-м — курсы политсостава. Участвовал в Советско-финской войне, отличился в боях и был награждён орденом Красной Звезды. На той незнаменитой войне Красная Звезда была большой наградой.

Войну с Германией встретил в районе Бреста в июне 1941 года. Судьба наполняла ему горькую чашу испытаний до самых краёв… Старший политрук, военный комиссар стрелкового полка, державшего оборону на реке Ясельда. После кровопролитных боёв отступал вместе с остатками полка в направлении Слонима, далее на Бобруйск, Оршу, Смоленск, Калугу. Вскоре полк расформировали, а политрука Плеходанова назначили в оперативный отдел штаба 31-й армии. В 1943 году Алексей Дмитриевич окончил курсы «Выстрел» и в звании майора отбыл на фронт, в 207-ю стрелковую дивизию на Западный фронт. Дивизией командовал полковник С. Н. Перевёрткин, тогда-то они и познакомились. Перевёрткин назначил Плеходанова командиром 598-го стрелкового полка. Вместе они дойдут до Берлина: Перевёрткин станет генералом и получит корпус, а Плеходанов будет командовать в его дивизии, а потом и корпусе стрелковым полком.

Со своим полком Плеходанов участвовал в освобождении Смоленщины (Смоленско-Рославльская наступательная операция 1943 года), затем Белоруссии, Прибалтики. В сентябре 1944 года, уже командуя 674-м стрелковым полком 150-й Идрицкой стрелковой дивизии, дрался под Ригой, а потом на Курляндском полуострове.

Во время Псковско-Островской наступательной операции полк Плеходанова успешно форсировал реки Алоя и Великая, с ходу захватил плацдармы, расширил их и способствовал успешному продвижению дивизии. За умелое руководство войсками, личную инициативу и мужество 30 июля 1944 года Плеходанов был награждён орденом Кутузова 3-й степени.

Вскоре дивизию с второстепенных направлений перебросили на главное, Берлинское. Полк подполковника Плеходанова первым в корпусе ворвался в Берлин. Успешно продвигался к центру, занимая дом за домом, очищая от противника улицу за улицей. Свой КП Плеходанов всегда переносил в 1-й эшелон атакующих батальонов, чтобы видеть поле боя и управлять своими подразделениями исходя из быстро меняющейся обстановки. Однажды немцы контратаковали полк крупными силами при поддержке танков. Танки и бронетранспортёры артиллеристы смогли отсечь, частично уничтожить, а пехота начала просачиваться к полковому командному пункту. Участники того боя вспоминали, как хладнокровно комполка руководил боем по отражению атаки немецкой пехоты, как вёл огонь из автомата, а затем, когда немцы приблизились вплотную, бросал гранаты.