Эрик Густав Эрстрём обладал исключительной работоспособностью, которую и направил на деятельность в приходе. Он осуществил масштабные перемены в финансовых делах — в частности, ввел настоящие реестры. Он осовременил и упорядочил записи о рождениях, смертях, конфирмациях, приезжавших и уезжавших прихожанах, ввел журналы входящей и исходящей корреспонденции, тем самым заложив основы целесообразного управления делами.

На этом плане из книги Эрика Густава Эрстрёма видно, как шведский и финский участки отделены друг от друга сараями. Это — символическое отражение глубокого раскола на языковой почве

Кроме того, он в так называемой «Памятной и цензурной книге» записывал сведения о частной жизни прихожан, и эти заметки дают живые картинки образа жизни и нравов того времени. О подмастерье сапожника Габриэле Лиде сказано, например, что он «выглядит жутковатым», а о свадьбе подмастерья столяра Густава Вик-стрёма пастор записывает, что ее «прекрасному празднованию» помешало то, что «Викстрём перегрузился крепкими напитками». К сожалению, преемники Эрстрёма не поддержали заложенную было традицию таких записей, которые представляли бы ценный материал для социологических исследований.

В годы пасторства Эрстрёма приход получил новую книгу псалмов. Раньше пользовались изданием 1695 г., а теперь решили ввести новую шведскую книгу псалмов, одобренную в 1819 г. Это, казалось бы, простое решение, принятое в мае 1833 г., поставило Эрстрёма перед совершенно особой и специфически русской проблемой. Дабы заручиться «дозволением властей», пастору пришлось не только снабдить книгу псалмов указателем, но и смягчить в ней некоторые слова и выражения, чтобы не задеть власти. Эрстрём несколько месяцев трудился над переделками, и в мае 1834 г., в День молитвы и покаяния, новая книга псалмов была введена в употребление, пройдя цензуру и будучи дополнена выдержками из «Требника для евангелическо-лютеранских приходов в Российской империи».

Предрасположенность Эрика Густава Эрстрёма к порядку и систематичности наверняка в значительной степени была связана с его научными склонностями. Это касается и интереса к истории прихода. Некоторые его предшественники — Хоугберг и Индрениус — составили на эту тему более или менее краткие обзоры, но Эрстрём стал первым, кто методично трудился над описанием судеб прихода Св. Екатерины с самого его основания. Книга вышла в Або в 1829 г. под названием «Historisk Beskrifning ofver S: t Catharina och S: t Maria Forsamlingar, eller Swenska och Finska Forsamlingarna i S: t Petersburg» («Историческое описание приходов Св. Екатерины и Св. Марии, или Шведского и Финского приходов в С.-Петербурге»). Это систематическое и последовательное изложение пребывания шведов и финнов в Петербурге XVIII — начала XIX в. в сочетании с фактическими данными, статистикой, а также личными комментариями является уникальным источником. Тонкий ум Эрстрёма заметен на каждой странице книги.

Эрик Густав Эрстрём внес эпохальный вклад в жизнь прихода Св. Екатерины, хотя его пасторство оказалось непродолжительным. В 1831 г. скончалась жена Эрстрёма, и он остался один с семью малолетними детьми. Примерно через год он снова женился — на молодой женщине из Борго, которая в 1835 г. родила ему дочь. Через пять недель сам Эрстрём умер от тифа в возрасте всего сорока четырех лет. Газета «St. Petersburger Zeitung» «с болью» констатировала, что петербургская евангелическо-лютеранская консистория потеряла «одного из своих уважаемых за человеческие качества, неутомимых и просвещенных членов».

По церковному уставу 1833 г. евангелическо-лютеранские приходы в России получили дозволение назначать «попечителя церкви», который бы осуществлял связь общины с властями.