В 1815 году он возвратился в Петербург, став одним из учредителей и главных архитекторов Комитета для строений и гидравлических работ. Росси внес важный вклад в украшение Павловска, создал замечательный архитектурно-парковый ансамбль на Елагином острове (1818–1822 гг.) с дворцом, павильонами и хозяйственными сооружениями, искусно скомпонованными с зеленью и водоемами. Во многом именно благодаря Росси Петербург к 1830-м годам обрел новое лицо, превратившись из столицы в ряду прочих европейских столиц в центр гигантской империи, гордой своими победами над Наполеоном. Росси создал монументально-строгие ансамбли, задающие масштаб всему огромному городу, отражая его имперское величие.

В 1819 году Росси полностью преобразил пространство перед Зимним дворцом (значительно обновленным им в 1818–1827 годах) и обновил часть интерьеров. Правда, из них сохранилась лишь Военная галерея 1812 года, восстановленная после пожара 1837 года В. П. Стасовым. На месте отдельных частных домов он возвел два грандиозных здания Главного штаба и министерств, объединенных дугообразным фасадом и триумфальной аркой над Морской улицей. Основой для реконструкции другого района столицы — между Невским проспектом и Марсовым полем — послужило строительство дворца для великого князя Михаила Павловича (1819–1825 гг.; ныне Государственный Русский музей). Росси раскрыл пространство перед главным фасадом дворца, спроектировав ритмически соразмерную ему площадь, окружение же Марсова поля, куда обраще