Со вступлением на престол Александра III великий князь Николай Николаевич участвовал в работе различных комиссий, был почетным президентом Николаевской инженерной академии, почетным членом Императорской академии наук, Николаевской академии Генерального штаба, Императорского Русского географического общества, Михайловской артиллерийской академии, Медикохирургической академии, Петербургского университета, Пармской академии наук, почетным попечителем Московского зоологического сада, шефом ряда частей и подразделений.

В 1865 году Николай Николаевич познакомился с двадцатилетней артисткой балета Екатериной Гавриловной Числовой. С этого времени она стала его любовницей. Брак с Александрой Петровной по сути распался. Со временем Николай Николаевич обвинил ее в сожительстве со священником Николаевского дворца протоиереем В. И. Лебедевым (которого Константин Петрович Победоносцев называл великим негодяем), выгнал из Николаевского дворца, отобрав у нее все драгоценности и личные туалеты.

Великая княгиня Александра Петровна уехала к своим родственникам за границу, а затем, уже после смерти Александра II, обратилась к Александру III с письмом. Она просила разрешения поселиться в Киеве, и император согласился. В Киеве в районе бывшего Дионисьевского (ныне Бехтеревского) переулка великая княгиня Александра Петровна основала Свято-Покровский женский монастырь и стала его первой игуменьей. В монастыре была создана целая система благотворительных учреждений. Медицинские заведения обители отвечали последнему слову тогдашней науки и техники. В обители работали лучшие киевские врачи.

Екатерина Гавриловна Числова стала неофициальной супругой Николая Николаевича. Сама она и ее четверо детей от князя еще в 1883 году получили дворянское достоинство и фамилию Николаевых. По отзывам современников, Екатерина Гавриловна была довольно крупной блондинкой с черными глазами, великолепной фигурой и с несносным характером. Со временем она приобрела над великим князем огромную власть, заставляла его выполнять свои прихоти, причем устраивала громкие скандалы, о которых говорил весь Петербург.

Однако этим проблемы в семье Николая Николаевича Старшего не кончились. В один из дней 1887 года к нему обратился сын Николай Николаевич (младший) с просьбой о разрешении на брак с женщиной, с которой он жил уже десять лет и стремился иметь свой домашний очаг. Отец посоветовал обратиться за согласием к императору. Николай Николаевич передал слова отца великому князю Владимиру Александровичу. Тот, решив, что согласие отца уже есть, рассказал о просьбе императору. Александр III, в свою очередь, тоже дал согласие на брак.

Николай Николаевич Младший известил отца о разрешении на брак со стороны императора. Но отец заявил, что этому не бывать. Сын бежал от него, уехал в Царское Село. Там он пригласил всех своих знакомых на торжественный обед. Во время обеда Николай Николаевич Младший и его возлюбленная обменялись кольцами.

В это время отец, Николай Николаевич Старший, встретился с Александром III и рассказал всю правду. Выяснилось, что возлюбленной великого князя была сорокалетняя женщина — дочь лавочника из Гостиного двора. Мало того, она была замужем за каким-то царскосельским купцом, от которого имела двух взрослых дочерей.

Император возмутился, что его ввели в заблуждение, и отменил данное им согласие на брак. Говорят, в связи с этим Александр III лаконично заметил: «Я в родстве со всеми дворами Европы, однако с Гостиным двором в родстве быть еще не приходилось…»

В 1889 году великий князь Николай Николаевич Старший занемог. У него обнаружилась злокачественная опухоль десны (костоед), болезнь прогрессировала, перекинулась на мозг. Безнадежного Николая Николаевича Александр III отправил в Крым. Князь кончил жизнь 13 апреля 1891 года в Алупке и был погребен в Петропавловском соборе 26 апреля того же года.

Алексей Александрович был любимым братом Александра III, поэтому, как считалось, имел на него большое влияние.