«Концепция обновления нашего Союза, — говорил на съезде Трубин, — исходит из признания суверенитета республик, из признания необходимости разграничения полномочий между Союзом и республиками. Между тем Конституция СССР до последнего времени удерживала Прокуратуру Союза ССР на позиции строгой централизации прокурорской системы. Это привело к тому, что стихийно начавшиеся в республиках процессы по изменению статуса республиканских прокуратур оказались неурегулированными и Прокуратура Союза ССР не могла никак на них влиять. Прокуратуре Союза пришлось плестись в хвосте событий либо принимать какие-то ошибочные организационные решения».

IV съезд народных депутатов СССР по предложению Н. С. Трубина внес поправку в Конституцию СССР, которая предоставляла право высшим органам государственной власти республик назначать прокуроров и требовать от них отчета об их деятельности.

Президент и правительство СССР готовились подписать новый Союзный договор, но в связи с начавшимися событиями 19–21 августа 1991 года (время действия ГКЧП) этот процесс был сорван. Созданный спешно Государственный совет СССР признал независимость Прибалтийских республик. Союз начал планомерно разрушаться. Тогда было еще не ясно, что будет: Союз республик или Союз суверенных государств, кто в них войдет, каковы будут союзные структуры. Ясно было только одно — прежнего Союза уже нет.

Положение самого Н. С. Трубина оказалось сложным и неустойчивым. Во время «правления» ГКЧП его не было в Москве — он находился с визитом на Кубе. После разгрома гекачепистов часть прессы обвинила руководителей союзной прокуратуры в поддержке переворота и потребовала их смещения. Хотя Прокуратура Союза ССР — один из немногих правоохранительных институтов — в те дни официально не выступала в прессе в поддержку ГКЧП. Чтобы снять Н. С. Трубина, в газетах стали распространяться сведения о том, что якобы он в каком-то интервью на Кубе высказался в поддержку ГКЧП. Трубин все же устоял, правда, он вынужден быть уволить своих заместителей, остававшихся тогда без него: А. Д. Васильева, И. П. Абрамова и А. Ф. Катусева.

В этих до конца так и не прояснившихся условиях, прокуроры обсудили концепцию реформирования союзной прокуратуры на так называемый переходный период. 24 сентября 1991 года Генеральный прокурор Союза ССР Н. С. Трубин пригласил на встречу (она носила неофициальный характер) всех прокуроров фактически уже суверенных республик. В качестве наблюдателей прибыли даже представители признанных уже независимыми Латвии и Литвы. Прокуроры высказались за необходимость постоянного сотрудничества и координации действий прокуратур суверенных государств, обмена мнениями и опытом. По принятой концепции Прокуратура СССР должна была тогда быть преобразована в межреспубликанский орган прокурорского надзора. Предполагалось, что выработкой совместных решений будет заниматься Совет генеральных прокуроров в составе Генерального прокурора СССР (председатель) и генеральных прокуроров республик (по должности). Что касается органов военной прокуратуры, то предлагалось Главную военную прокуратуру упразднить, а ее функции передать гражданскому подразделению Прокуратуры Союза ССР (в то время уже была упразднена коллегия Главной военной прокуратуры, а руководство военными прокурорами возложено на заместителя Генерального прокурора СССР Я. Э. Дзенитиса). Считалось необходимым и упразднение 2-го управления союзной прокуратуры, осуществлявшей руководство спецпрокуратурами режимных объектов.

После самороспуска Съезда народных депутатов СССР, беловежского соглашения Президента РСФСР и руководителей Украины и Белоруссии и последовавшего вслед за этим развала СССР в декабре 1991 года Н. С. Трубин автоматически потерял свою должность.