Тайная канцелярия возродилась при императрице Анне Иоанновне. Взойдя на престол после смерти Петра II в январе 1730 года, она ликвидировала Верховный тайный совет. Почти год делами политического сыска ведал Сенат. Однако 24 марта 1731 года появился указ императрицы об учреждении новой Канцелярии тайных розыскных дел. В нем было сказано, что все «важные» дела по политическому сыску передаются генералу А. И. Ушакову. Думаю, что Анна Иоанновна не доверяла сенаторам, среди которых было немало ее врагов, и хотела держать политический сыск под своим контролем. Поэтому она и поручила сыскные дела своему доверенному человеку – Ушакову.

Новая Тайная канцелярия (или просто «Тайная», как называли ее в просторечии) разместилась в хоромах Преображенского приказа. Но в начале 1732 года двор вернулся из Москвы в Петербург и вместе с ним – и Ушаков со своей канцелярией.

Воссоздание Тайной канцелярии стало настоящим триумфом Андрея Ивановича Ушакова, резким взлетом его карьеры. Он родился в 1670 году в бедной, незнатной дворянской семье. Согласно легенде, до тридцати лет он жил в деревне с тремя своими братьями, деля доходы с единственного крестьянского двора, которым они сообща владели. Ушаков ходил в лаптях с девками по грибы и, «отличаясь большою телесною силою, перенашивал деревенских красавиц через грязь и лужи, за что и слыл детиною». В 1700 году он оказался в Новгороде на смотру недорослей и был записан в Преображенский полк. По другим данным, это явление Ильи Муромца политического сыска произошло в 1704 году, когда ему было уже 34 года.

Как бы то ни было, Ушаков довольно быстро, благодаря своим способностям и усердию, сумел выслужиться. К середине 1710-х годов он уже входил в элиту гвардии и стал одним из десятка особо надежных и проверенных гвардейских майоров, которым Петр I давал самые ответственные задания, в том числе и по сыскным делам. Среди этих гвардейцев, бесконечно преданных своему Полковнику, Ушаков выделялся тем, что в свое время помогло Ромодановскому сделать карьеру: как и страшный князь, он любил и умел вести сыскные дела. Для этого недостаточно рвения, нужны какие-то особые способности, ими, вероятно, он и обладал. Очевидно, именно поэтому царь назначил Ушакова заместителем П. А. Толстого в созданной в 1718 году Тайной канцелярии.

Ушаков показал себя настоящим профессионалом сыска. Он с успехом заменял и самого Толстого, который, завершив дело царевича Алексея, тяготился обязанностями начальника Тайной канцелярии. Многие сыскные дела он перепоручал своему заместителю, который делал все тщательно и толково. Ушаков много и с усердием работал в застенке, даже ночевал на работе, и всегда – и в дружеском кругу, и за обеденным столом – оставался в первую очередь шефом политического сыска.

Ушаков стал докладчиком Екатерины I по делам сыска. Гроза, которая в мае 1727 года разразилась над головой Толстого и других, лишь отчасти затронула его – он не угодил на Соловки или в Сибирь, его лишь послали в Ревель. Во время бурных событий начала 1730 года, когда дворянство сочиняло проекты об ограничении монархии, Ушаков был в тени, но при этом подписывал только те проекты, которые клонились к восстановлению самодержавия в прежнем виде. Возможно, в тот момент он угадал, за кем нужно идти. Позже, когда Анне Иоанновне удалось восстановить самодержавную власть, лояльность Ушакова отметили: в 1731 году императрица поручила ему ведать политическим сыском.

Ушаков, несомненно, вызывал у окружающих страх.