Возглавляемые арестованными наркоматы подверглись настоящему разгрому — репрессировали всех ведущих работников. На основании версии о «шпионско-вредительской группе» в наркомате тяжелой промышленности, руководимой якобы заместителем наркома Пятаковым, органы НКВД арестовали и других заместителей наркома — А. П. Серебровского, А. И. Гуревича и О. П. Осипова-Шмидта; начальников управлений и отделов и членов коллегии К. А. Неймана, А. Ф. Толоконцева, И. В. Косиора, А. И. Зыкова, Ю. П. Фигатнера, С. С. Дыбеца, Е. Л. Бродова и других. То же произошло и во всех других наркоматах СССР и РСФСР. Погибли такие известные и авторитетные деятели партии и государства, как Ш. З. Элиава, Н. П. Брюханов, А. М. Лежава, А. Б. Халатов, Пауль Орас, В. П. Милютин, К. П. Сомс, В. И. Полонский, В. Нанейшвили, М. В. Баринов, И. И. Тодорский, В. А. Кангелари, С. С. Одинцов, В. А. Трифонов, И. И. Радченко, М. М. Майоров, Г. И. Благонравов, А. И. Муралов. Все это были активные участники революционной борьбы в России, «генералы» советской индустрии, главные деятели первой и второй пятилеток.

Жестокой чистке подвергся в 1937–1939 годах аппарат Наркоминдела. Погибли заместители наркома Левон Карахан и Б. С. Стомоняков, арестованы заведующие отделами А. В. Сабинин, А. Ф. Нейман, М. А. Плоткин, А. В. Фихнер, Е. А. Гнедин и другие. Вызвали в Москву и арестовали многих послов и атташе СССР в разных странах — К. Юренева, М. А. Карского, Е. В. Гиршфельда, В. X. Таирова, Богомолова, Г. А. Астахова, И. С. Якубовича и других.

В тюрьме оказался дипломат М. Розенберг, немало сделавший для франко-советского сближения. Погибли дипломаты В. В. Егорьев и Б. Миронов-Корнев. Объявлены вне закона посол СССР в Болгарии Ф. Ф. Раскольников и посол СССР в Греции А. Г. Бармин, отказавшиеся вернуться на верную гибель в Москву. Репрессии затронули также, многих корреспондентов ТАСС и советских газет за границей.

1937–1938-й были временем не только массовых арестов, но и самоубийств. Так, считая себя обреченным, покончил с собой заместитель заведующего отделом агитации и пропаганды ЦК Н. Н. Рабичев.

В феврале 1937 года не стало одного из популярнейших руководителей партии Серго Орджоникидзе. Видный деятель революционного подполья, активный участник Октябрьской революции и гражданской войны, Орджоникидзе был в 1937 году членом Политбюро и наркомом тяжелой промышленности.

В опубликованном 19 февраля того года Правительственном сообщении говорилось, что Орджоникидзе скоропостижно скончался 18 февраля в 17 часов 30 минут у себя на квартире от паралича сердца. Опубликовали также подробное медицинское заключение. Только на XX съезде КПСС было официально объявлено, что Орджоникидзе покончил жизнь самоубийством. Виновны в этой трагедии прежде всего Сталин, Ежов и Берия.

Не решаясь прямо предъявить Орджоникидзе какие-либо обвинения, Сталин стремился деморализовать его. Был арестован старший брат Серго — Папулия. Фальсифицированные показания брата передали Орджоникидзе в день его рождения. Почти ежедневно он узнавал о расстреле кого-либо из своих друзей и добрых знакомых. Массовые аресты прошли и в системе тяжелой промышленности, органы НКВД обходились на этот раз без санкции наркома, которую Серго отказывался давать и которую давали Сталин или Молотов. После этого Сталин пристыдил Орджоникидзе, направив ему вырванные под пытками ложные показания. «Товарищ Серго, — писал он в сопроводительной записке, — почитай, что о тебе пишут».

Орджоникидзе, однако, не очень-то верил всем этим показаниям и горячо протестовал против арестов в системе тяжелой промышленности. В некоторых случаях он поручал инспекторам своего наркомата проверить на месте обоснованность тех или иных обвинений. Тем не менее по предложению Сталина Политбюро поручило именно Орджоникидзе сделать на ближайшем Пленуме ЦК доклад о вредительстве в промышленности.