К этому времени у Николая Васильевича была уже большая семья: вторая жена, Зинаида Андреевна Железняк, и четверо детей: сыновья Сергей и Николай, и дочери Ирина и Марина.

Над головой Н. В. Крыленко плотно сгущались грозовые облака. 26 июля 1937 года был арестован его брат, Владимир Васильевич, работавший на Уралмедстрое заместителем главного инженера (расстрелян в марте 1938 года).

В конце 1937 года в ЦК ВКП(б) «неожиданно» стали поступать письма и заявления, в которых основательно чернилась деятельность Н. В. Крыленко. В одном из них на имя Мехлиса (копия предусмотрительно была направлена и в Секретариат И. В. Сталина), озаглавленном «О хамах и иудах», сообщалось, что Крыленко груб по отношению к посетителям, а его «неистовый крик, топанье ногами, угрозы, стопудовые остроты… общеизвестны», что любимым изречением наркома было «расстрелять», произносимое им через неоднократное «р-р-р» и «металлическим» («под Троцкого») голосом». Доносчик припомнил одну фразу якобы произнесенную Крыленко, бывшим тогда прокурором республики и одновременно руководителем Союза охотников: «Мне дан мандат и на зверей, и на людей».

12 января 1938 года открылась 1-я сессия Верховного Совета СССР, избранного на основе новой Конституции СССР. При формировании Правительства СССР выступили ряд делегатов. В своей речи депутат М. Д. Багиров (выполняя данную ему установку) подверг резкой критике деятельность наркома юстиции СССР Н. В. Крыленко. В новое правительство Николай Васильевич уже не вошел.

Органы НКВД составили справку на его арест еще 15 декабря 1937 года, но выжидали. Ход ей был дан только после окончания сессии. В ней отмечалось, что Крыленко «является активным участником антисоветской организации правых и организованно был связан с Бухариным, Томским и Углановым. С целью расширения антисоветской деятельности насаждал контрреволюционные кадры правых в наркомате. Лично выступал в защиту участников организации и проталкивал буржуазные теории в своей практической работе». Далее указывалось, кем именно он изобличается. Из приведенных высказываний усматривалось следующее. Н. В. Крыленко считал, например, что ЦК пытается обмануть страну, скрывая истинное положение дел, что руководство страной и партией оказалось в руках людей, не понимающих значение закона и свое усмотрение ставящих выше закона, что страна быстро катится к личному режиму и крепко заинтересована в скорейшей смене этого руководства. Сталина Н. В. Крыленко называл диктатором, загнавшим страну в тупик, и считал, что он должен быть снят с поста Генерального секретаря.

31 января 1938 года нарком внутренних дел Н. И. Ежов начертал на этой справке лаконичную резолюцию: «Арестовать». В тот же день его заместитель Фриновский подписал ордер на арест Н. В. Крыленко и на производство у него обыска.

В ночь на 1 февраля 1938 года Николая Васильевича арестовывают в своей квартире в доме № 25 по Новинскому бульвару. Так начался непродолжительный, но самый трагичный период его жизни.

Следствием по делу Н. В. Крыленко занимался сотрудник госбезопасности Коган. Он и произвел первый допрос бывшего наркома. Однако «признательные» показания Николая Васильевича появились в деле только 3 февраля 1938 года. Причем они даже не были оформлены официальным протоколом. Это было заявление Крыленко, адресованное наркому внутренних дел Н. И. Ежову и написанное на разрозненных листках бумаги. В нем он писал: «Я признаю себя виновным в том, что с 1930 года я являюсь участником антисоветской организации правых. С этого же года начинается моя борьба с партией и ее руководством. Антипартийные шатания я проявил еще в 1923 году по вопросу внутрипартийной демократии. Если в этот период я из своих взглядов никаких организационных выводов не сделал, то внутреннее недовольство положением в партии не изжилось.