За аллеями в свое время были сооружены два сквера с симметрично расположенными цветочными клумбами и фонтаном, а в правом приделе кладбища находилась богатая оранжерея, в которой при участии церковного клира выращивались красивейшие цветы, которыми украшался храм в дни праздников. Служители оранжереи помимо своих прямых обязанностей несли и некую общественную — ежедневно возжигали лампады и следили за состоянием могил. Почти рядом с главной аллеей кладбища располагался сад, в котором ежегодно цвели вишни, яблони, произрастали густые кусты черной смородины и крыжовника, а чуть поодаль — пасека. По воспоминаниям современников, Успенское кладбище в летний период буквально утопало в зелени. За сквером располагался одноэтажный дом настоятеля, а чуть поодаль — небольшая двухэтажная постройка, на втором этаже которой располагался зал для собраний. Слева от колокольни располагались квартиры служащих кладбища и церкви — регента хора и многолетнего бессменного смотрителя — Луки Петровича Попова. По воспоминаниям бывавших на кладбище, в архитектуре надгробий преобладали традиции итальянских, чуть реже русских мастеров-каменотесов. Мраморные обелиски, склепы, статуи и памятники с барельефами и горельефами, а также орнаментальными украшениями, изображавшими гирлянды, цветы, листья и венки, были там довольно распространенным явлением. Обыкновенным для состоятельных харбинских семей было выписывать из Италии дорогостоящие мраморные композиции или фрагменты для украшения склепов и памятников. Начало этой традиции положила семья камергера Николая Львовича Гондатти, заказавшая мраморного ангела, венчавшего постамент памятника умершей в возрасте 23 лет дочери Ольги, племянницы знаменитого русского композитора Игоря Федоровича Стравинского, а продолжили семьи удачно практиковавших харбинских докторов: Жуковского, Александры Георгиевны Ярцевой, Ивана Георгиевича Урзова и Тамары Семёновны Масленниковой-Урзовой. Как правило, для изготовления памятников использовался корейский (розовый) или итальянский (белый) мрамор. В усложненных композициях надгробий, как, например, в случае с захоронением знаменитого доктора В. А. Казем-Бека, использовали комбинацию белого мрамора, железобетона и металла. Часто для изготовления памятников находилось применение и местному камню — черному и серому граниту.

В день храмового праздника Успения Божьей Матери, после архиерейского служения Божественной литургии, по кладбищу совершался крестный ход, с непременным пением праздничного тропаря и ирмосов канона. Очевидец праздничных богослужений вспоминал: «Много народу бывало на кладбище в день Св. Пасхи. Многие любили встречать пасхальную ночь в кладбищенском храме. В Великую субботу, часов с десяти вечера, нарушалась обычная тишина ночи на кладбище. Множество машин из города приходило к кладбищенским воротам, доставляя православных богомольцев к светлой заутрене. Перед самым началом богослужения вдоль главной аллеи зажигались цветные фонари на деревьях, а в промежутке между ними горели плошки, создавая изумительную картину ночного торжества. Крестный ход и светлая заутреня совершались при большом стечении богомольцев. По окончании заутрени многие возвращались в свои дома, а другие, после Божественной литургии, отправлялись на родные могилки, чтобы принести первое приветствие своим близким с этим торжеством победы жизни над смертью и при мерцании лампад ожидали там утреннего рассвета».

Утром расторопные рикши начинали развоз возвращающихся русских во всех направлениях: от ближайшей остановки трамвая до самого дома.

В 1940 году Успенское кладбище было переустроено с учетом его быстрого роста и для расширения доступности для посетителей в дни поминовений и праздников.