Условия же мирного времени потребовали от него совсем иных качеств. По всей видимости, Павел Владимирович не сумел вовремя перестроиться, а где-то и переоценил свои возможности. Со временем вышестоящее начальство все чаще и чаще стало замечать в его деятельности недостатки и просчеты. Войска, в которых служил Баранов, находились тогда в Польше.

Судя по официальным документам, он не учел изменившегося характера преступности, и, продолжая работать по старинке, «не сумел охватить весь масштаб разнообразной прокурорско-следственной работы», а, самое главное, не смог наладить правильных деловых отношений с командованием группы. В служебной характеристике от 24 июня 1946 года, подписанной начальником политуправления Северной группы войск генерал-лейтенантом Окороковым, делался вывод о том, что П. В. Баранова необходимо перевести на работу с меньшим объемом — прокурором небольшого военного округа. С этим мнением согласилось и командование Северной группы войск. Делался вывод, что Баранов «занимаемой должности не соответствует». (Отзыв подписан Главнокомандующим Северной группы войск Маршалом Советского Союза К. Рокоссовским и членом Военного совета генерал-лейтенантом А. Русских.)

Однако столь резкий отзыв о служебной деятельности Баранова никоим образом не бросил тень на его личные качества. Он по-прежнему считался перспективным прокурором. Некоторое время П. В. Баранов все еще продолжал руководить прокуратурой Северной группы войск. В августе 1946 года его работа была проверена бригадой военных прокуроров, которая вскрыла многие недостатки. В связи с этой проверкой военный прокурор Сухопутных войск генерал-майор юстиции Чепцов посчитал целесообразным перевести П. В. Баранова на работу в округ с меньшим объемом (отзыв от 4 октября 1946 года).

В ноябре 1946 года приказом Генерального Прокурора Союза ССР Горшенина П. В. Баранов был назначен прокурором Южно-Уральского военного округа (г. Чкалов), где прослужил полтора года. С этой должностью он справлялся хорошо: подтянул дисциплину в прокуратуре, заметно усилил надзор на всех основных участках работы, совместно с командованием округа добился сокращения таких преступлений, как дезертирство, самовольные отлучки, нарушения устава караульной службы и др.

Павел Владимирович успешно занимался (заочно) сразу в двух вузах: в Военно-юридической академии и в юридическом институте.

В органах военной прокуратуры П. В. Баранов пробыл в общей сложности семь лет. Служба принесла ему звание полковника юстиции и несколько правительственных наград: два ордена Красного Знамени, орден Отечественной войны 1-й степени, польский орден «Крест Грюнвальда» и несколько медалей. В 1943 году командованием Ленинградского фронта он был награжден именными часами.

Весной 1948 года новый Генеральный прокурор СССР Г. Н. Сафонов рекомендовал Павла Владимировича на должность заместителя Прокурора РСФСР по общим вопросам. 19 апреля 1948 года такое назначение состоялось. В прокуратуре он непосредственно курировал один из важнейших отделов — уголовно-судебный, а также группу по делам несовершеннолетних и отделы по надзору за местами заключения и хозяйственный. Работу начал активно. В частности, по его инициативе была организована глубокая проверка деятельности органов прокуратуры по судебному надзору в Чувашской АССР. Результаты проверки впечатляющи — 10 судебных работников были отданы под суд за допущенные ими злоупотребления.

С 21 августа 1948 года Павел Владимирович Баранов стал исполнять обязанности Прокурора РСФСР, а 31 декабря был утвержден в этой должности. Прокурором республики он прослужил чуть более пяти лет.

В марте 1954 года новый Генеральный прокурор СССР Р.