В 1923 году 20-летний Анатолий стал слушателем рабфака. После трех лет учебы он получил диплом о среднем образовании. В октябре 1925 года Краснодарская окружная партийная организация приняла Анатолия Волина в свои ряды. Для продолжения образования он выбрал факультет права (судебное отделение) Ленинградского государственного университета, куда и поступил в августе 1926 года. После окончания университета А. А. Волин стал учиться в аспирантуре при ленинградском отделении Коммунистической академии, где углубленно изучал политическую экономию, а затем преподавал ее в Ленинградском инженерно-экономической институте.

Летом 1931 года его неожиданно вызвали в обком партии и, ссылаясь на решение ЦК ВКП(б), предложили поехать в Грузию, где ему предстояло возглавить кафедру политэкономии одного из тбилисских вузов. Никаких отговорок, вроде того, что он ни слова не понимает по-грузински, в расчет не приняли. В Тбилиси он пробыл около двух месяцев, а затем вновь вернулся в Ленинград и возглавил кафедру политэкономии в том же институте, в котором ранее преподавал. Там же Анатолий Антонович приметил и красивую студентку, Фриду Ильиничну Спокойную, вскоре ставшую его женой.

В июле 1932 года А. А. Волина переводят в Карелию заведующим сектором народного образования и культуры обкома партии, а весной 1933 года он получает новое назначение — на должность прокурора города Петрозаводска, которое никак не входило в его личные планы и, в конце концов, круто изменило всю его дальнейшую жизнь. На этом более чем боевом участке он прослужил два года.

В сентябре 1935 года А. А. Волин становится помощником прокурора Володарского района Ленинграда, а в июне 1936 года — прокурором одного из центральных районов города — Смольнинского. Здесь располагались Ленинградский обком партии, Ленсовет, другие городские и областные организации. Это, с одной стороны, придавало вес району, а с другой — налагало особую ответственность на его руководителей, в том числе и на прокурора. Не оставил Анатолий Антонович и свою преподавательскую деятельность — продолжал читать лекции по политэкономии.

В своих мемуарах А. А. Волин пишет: «Штат прокуратуры был невелик: два помощника, два следователя и канцелярия. Поэтому удалось быстро установить в коллективе нормальные деловые отношения. Первым шагом было знакомство с районом, его особенностями, где наиболее часто совершались правонарушения. Это были Московский вокзал, предприятия на окраине района, склады, питейные заведения и т. п. Установление тесных связей с районными властями было также одним из важных моментов в работе».

Энергичная работа смольнинского прокурора была замечена руководством Прокуратуры РСФСР. Волина вызвал к себе прокурор республики Николай Михайлович Рычков и предложил ему место своего заместителя. Случай, конечно, довольно редкий. Чтобы человека, имевшего стаж прокурорской работы чуть более четырех лет и занимавшего всего-навсего должность районного прокурора, назначить сразу же заместителем прокурора крупнейшей республики — надо было быть очень смелым и дальновидным руководителем. Именно этими качествами и обладал прокурор республики Рычков. И он не ошибся. 1 января 1938 А. А. Волин стал заместителем Прокурора РСФСР.

Анатолий Антонович Волин переехал в Москву. Он поселился в просторной и удобной квартире в доме № 25 по Новинскому бульвару (рядом с Домом-музеем Ф. И. Шаляпина). Недавний районный прокурор вынужден был взвалить на свои плечи тяжелейшую ношу ответственности за всю прокурорскую систему республики. Начинать работу в Прокуратуре РСФСР Волину пришлось в очень непростой обстановке. Те годы он вспоминает так:

«Меня не коснулась роковая круговерть тех лет, но я насмотрелся, как судьба играет человеком, когда исчезает то один, то другой партийный, советский или иной деятель.