Тайная канцелярия как учреждение появилась на свет в Петропавловской крепости и была типичной временной розыскной комиссией. Толстой быстро составил штат учреждения из шести — девяти подьячих разных приказов и канцелярий. Им обещали, что работа их в канцелярии будет временной, до «скончания дела» Алексея (181, 88, 209). По устройству канцелярия была похожа на приказное учреждение с повытьями — отделениями во главе со старыми подьячими (8–1, 64). Вместе с Толстым в качестве его помощников, которых позже стали называть «асессорами», заседали старшие гвардейские офицеры А.И. Ушаков, Г. Г. Скорняков-Писарев и И. И. Бутурлин. Никаких регламентов, инструкций о работе Канцелярии не существовало. В принципе закрытие Тайной канцелярии было предрешено смертью царевича Алексея 26 июня 1718 г. Через несколько дней после этого Толстой постановил отправить обратно в Москву на прежнюю работу дьяка Тимофея Палехина, который был «взят к тайным розыскным делам… которые дела ныне произошли к окончанию» (181, 88–89).

Однако, как часто бывало с подобными временными учреждениями при Петре I, Тайная канцелярия не смогла быстро завершить свою работу, сдать дела и после этого распустить служащих. Она находилась под боком, и Петр, получив важный донос, указывал написать Толстому об «исследовании» этого очередного дела 8 августа 1718 г. с борта корабля, находившего при мысе Гангут, царь писал Толстому: «Мой господин! Понеже явились в краже магазейнов ниже именованные, того ради, сыскав их, возьми за караул» (9–1, 40). Ниже указывался список предполагаемых воров. Так, вероятно по чьему-то доносу, началось Ревельское адмиралтейское дело, которое закончилось суровыми приговорами только через несколько лет. Подобным же образом возникали и другие дела.

С образованием Тайной канцелярии наметилось географическое распределение дел между ею и Преображенским: колодников по Петербургу и окрестностям велели присылать в Тайную, а из Москвы и центральных губерний России — в Преображенский приказ, который стал называться канцелярией (181, 179, 183). В 1718 г. в Москве А.И. Ушаков создал, по заданию Петра, филиал Тайной канцелярии — ее Контору, которая разместилась на Потешном дворе в Преображенском (664, 117–118). Деление сыска на два ведомства оказалось временным. Осуществляя реформу управления, Петр предполагал передать политический сыск Сенату. 15 января 1724 г. царь указал: «Следующиеся в Тайной розыскной канцелярии дела важные решить, а вновь, подобно прежде бывшим (колодников и дел), присылаемых ни откуда не примать, понеже оставшиеся за решением дела отослать в Правительствующий Сенат и с подьячими…» (10, 125; 181, 221, 222; 117; 193, 140). Царь хотел усилить в Москве значение филиала Сената — Московской Сенатской конторы. Она воспроизводила структуру «большого» Сената в Петербурге. Преображенская канцелярия должна была, по примеру Тайной канцелярии в Петербурге, перешедшей в Сенат, стать Конторой розыскных дел Московской конторы Сената. Однако реорганизацию сыска по плану царя из-за его смерти в 1725 г. так и не провели. Думаю, что в неисполнении указа царя виноваты сами сенаторы, которые тянули с приемом бумаг от Тайной канцелярии и явно не желали взваливать на свои плечи новое и очень сложное поручение. Петр же, занятый другими делами, их не понукал, да к тому же и сам был непоследователен — приказывал вести в канцелярии новые дела (181, 226; 322, 140–142).

После того как в январе 1725 г. умер Петр Великий и на престоле оказалась императрица Екатерина I, Тайная канцелярия еще продолжала работать.