27 июля 1971 года С. А. Емельянов был назначен заместителем прокурора города Москвы. Указом Президиума Верховного Совета РСФСР от 22 мая 1972 года в связи с 50-летием советской прокуратуры он был награжден Почетной грамотой Президиума Верховного Совета РСФСР.

В сентябре 1973 года Сергей Андреевич назначается на вновь образованную должность заместителя прокурора города Москвы — начальника отдела кадров. На этом посту он прослужил около пяти лет. За это время стал кандидатом юридических наук. Ученая степень ему была присуждена решением совета при Всесоюзном институте по изучению причин и разработке мер предупреждения преступности 23 мая 1977 года после блестяще защищенной диссертации (диплом выдан 1 февраля 1978 года Высшей аттестационной комиссией при Совете Министров СССР). Успешно шли и служебные дела. Приказом Генерального прокурора СССР Р. А. Руденко от 27 декабря 1977 года С. А. Емельянов был награжден подарком за умелое руководство расследованием уголовного дела о выпуске недоброкачественной продукции Заводом резиновых изделий № 1 и квалифицированное поддержание государственного обвинения. Вместе с ним отмечена также работа старшего следователя прокуратуры города Москвы Николая Остаповича Боровика и прокурора отдела Александры Алексеевны Колесниковой.

В январе 1978 года С. А. Емельянов был выдвинут на должность первого заместителя прокурора города Москвы. В ходатайстве перед Прокуратурой СССР заместитель Прокурора РСФСР А. С. Побежимов отмечал, что он является «опытным, квалифицированным, инициативным прокурором, требовательным и принципиальным руководителем. Обладает организаторскими способностями, умело координирует работу административных органов по борьбе с преступностью, постоянно занимается воспитанием прокурорско-следственных кадров, пользуется заслуженным авторитетом среди партийно-советского актива и коллектива прокуратуры, принимает активное участие в общественной жизни». Вскоре после этого Генеральный прокурор СССР Руденко своим приказом от 26 июля 1978 года поощрил С. А. Емельянова за успешное выполнение специального задания (расследование, надзор и поддержание обвинения в суде по сложному делу). Вместе с ним благодарность заслужили прокурор Калужской области В. В. Савкин, заместитель прокурора города Москвы Г. И. Скаредов и старшие помощники прокуроров города Москвы и Калужской области Н. И. Фунтов и К. Э. Кагаров.

В должности первого заместителя прокурора города Москвы Сергей Андреевич работал до сентября 1980 года, после чего перешел на работу в Центральный Комитет партии инструктором отдела административных органов. В аппарате ЦК КПСС он пробыл два с половиной года. Указом Президиума Верховного Совета СССР от 26 мая 1982 года, подписанного Л. И. Брежневым, С. А. Емельянов в связи с 60-летием советской прокуратуры был награжден орденом «Знак Почета».

Приказом Генерального прокурора СССР А. М. Рекункова от 5 апреля 1983 года С. А. Емельянова назначили прокурором города Москвы сроком на пять лет. Вскоре указом Президиума Верховного Совета СССР ему был присвоен чин государственного советника юстиции 3-го класса. Следует заметить, что еще в 1979 году проверкой, проведенной бригадой Прокуратуры СССР, в деятельности органов прокуратуры Москвы были вскрыты серьезные недостатки, в связи с чем Генеральный прокурор СССР 13 сентября 1979 года издал приказ. Контрольная проверка в 1982 году показала, что не все отмеченные недостатки были устранены. С первых же дней работы прокурором города С. А. Емельянову пришлось энергично заняться наведением порядка, особенно при организации борьбы с правонарушениями. Он был избран членом Московского городского и Москворецкого районного комитетов партии, депутатом Московского городского Совета народных депутатов.

Из пятилетнего конституционного срока Сергей Андреевич пробыл прокурором города немногим более года.