Формального или торжественного переселения, собственно, не было; а просто во время своих частых объездов русских областей митрополит все реже и реже возвращался во Владимир, все долее и долее гостил в Москве. Достигнув глубокой старости, он начал думать о том, где будут положены его кости. Предшественник его Максим, первый киевский митрополит, переселившийся на север, был погребен во владимирском Успенском соборе, и этот собор, после Киево-Софийского, сделался, так сказать, митрополитальным. Если Петр желал утвердить митрополию в Москве, то надобно было позаботиться о сооружении в ней достойного соборного храма, в котором также он мог бы найти себе успокоение. По словам его жития, Петр начал просить Ивана Калиту (тогда еще не получившего ярлык на великое княжение) воздвигнуть в Москве такой же каменный собор во имя Успения Богородицы, какой был во Владимире. Позднейший распространитель жития, митрополит Киприан, при этом влагает в уста Петру такое пророчество: «Если, сыне, послушаешь меня, то сам прославишься паче всех князей, и весь род твой, и град сей возвеличится над всеми русскими городами; святители будут обитать в нем и руки его взыдут на плеща врагов его; также и мои кости будут положены в нем». Калита поспешил исполнить его желание и заложил каменный Успенский храм в Московском Кремле, близ своего двора, летом 1326 года. Но едва выведено было основание и едва Петр успел приготовить в стене нишу с каменной гробницей для себя, как он скончался в декабре того же года и был погребен в этой гробнице. Таким образом, св. Петр начал собою ряд московских иерархов-угодников, столь много содействовавших прославлению Москвы у русского народа. На следующий год Успенский храм был окончен и освящен ростовским епископом Прохором (автором первоначального краткого жития Петрова). Но этот Успенский собор ни размерами своими, ни украшениями далеко не мог равняться с изящным созданием Андрея Боголюбского и Всеволода III. Московский князь, владевший пока частью Суздальской земли и бывший смиренным данником Золотой Орды, конечно, является беднее помянутых своих предков. При том художество русское, достигшее замечательного развития в первой половине XIII века, было задавлено варварским игом и пока еще не успело возродиться к новой жизни.

Последнее пребывание и погребение в Москве митрополита Петра хотя в значительной степени подвинуло в ее пользу вопрос о перенесении митрополии, однако окончательное решение зависело от его преемника. Константинопольский патриарх на этот раз снова поставил грека, по имени Феогност. Но когда Феогност прибыл в Киев, а оттуда во Владимир-на-Клязьме (1328), спор между Тверью и Москвой уже решился в пользу последней; Александр Михайлович находился в изгнании, а Калита получил ярлык на великое княжение. Естественно, что новый митрополит скоро уступил влиянию последнего и переехал на житье в Москву, в соседство великого князя, к неудовольствию и зависти русских князей, понимавших значение этого шага. Феогност сделался таким же преданным пособником Калиты, каким был Петр. Мы видели, как ловко московский князь употребил духовное оружие против своего соперника, заставив Феогноста погрозить отлучением псковичам, если они не изгонят от себя Александра Тверского.

Кроме Успенского собора, Калита украсил Московский Кремль еще несколькими каменными храмами. На Боровицком холму, на самом великокняжеском дворе была деревянная церковь Спаса Преображения. Калита построил, вместо деревянной, каменную и устроил при ней монастырь; «мнихолюбивый» князь перевел сюда часть иноков и архимандрию из отцовского Данилова монастыря, подчинив его Спасо-Преображенскому. (Этот последний послужил усыпальницей древних московских княгинь.) Около того же времени он построил, вероятно в честь своего ангела, каменную церковь Иоанна Лествичника, «что под колоколами», как выражается летопись (на месте позднейшей колокольни Ивана Великого).