15 августа 1760 года Яков Петрович становится генерал-прокурором и одновременно конференц-министром. Узнав о назначении на новую должность, он воскликнул: «В оном чину наиглавнейших злодеев иметь буду». И он не ошибся. Менее полутора лет служил на этом посту честный, бескорыстный и неподкупный прокурор, пользовавшийся репутацией «строгого законника» и пристально следивший за тем, чтобы в государственных учреждениях все «чинилось порядочно и по указам», имел немало острых стычек с приближенными к императрице сановниками. Он сразу же потребовал от обер-секретаря отчета о рапортах, присылаемых из присутственных мест, о производящихся там делах и расходовании денежных средств. Канцеляристы оказались в растерянности, поскольку донесения с мест, несмотря на «понуждения», поступали нерегулярно, а некоторые их вообще не направляли.

Чаще других игнорировала эти указания экспедиция по переделке медных денег, которой руководил граф Шувалов. Получив запрос, граф приехал в Сенат и в раздражении спросил, кто посмел прислать ему «понуждение», а потом обвинил генерал-прокурора в том, что тот причиняет ему неприятности. Шаховской же ответил, что пытается пресекать только «противозаконные поступки» Шувалова, основанные на личных выгодах и корысти. Разгневанный Шувалов расстался с ним еще большим врагом, чем был прежде.

Программой действий для генерал-прокурора стал указ Елизаветы Петровны от 16 августа 1760 года, в котором она поручала Сенату содействовать ей в восстановлении в государстве «надлежащего порядка, правосудия, благосостояния и обильного добра». Более близкое знакомство Я. П. Шаховского с судебными местами убедило его в том, что они погрязли в злоупотреблениях. Он писал: «Несытая алчба корысти дошла до того, что некоторые места, учрежденные для правосудия, сделались торжищем лихоимства, пристрастие – предводительством судей, а потворство и упущение – ободрением беззакония».

Шаховской всегда стремился отстаивать законность и справедливость, хотя и давалось ему это с большим трудом. Он признавался, что чувствовал себя путешественником, который с «надлежащей большой дороги загнан в болото, наполненное тиною и трясиною, из коего не дорогами, но наудачу, то по колено, то глубже увязая, потеряв силы и отчаясь на твердый берег выйти, близко погибель свою ощущает».

Несмотря на невероятные козни, чинимые приближенными к императрице вельможами, вопреки их злобным наскокам и наветам, он во всех делах оставался честным и неподкупным. Именно по этой причине императрица Елизавета Петровна ценила его, была милостиво расположена к своему генерал-прокурору, лично принимала доклады и часто вставала на его сторону.

25 декабря 1761 года новый император Петр III отправил Шаховского в отставку, и некоторое время тот «оставался не у дел». Короткое царствование Петра III закончилось дворцовым переворотом, и на российском престоле оказалась Екатерина II. Она вновь призвала Шаховского на службу, назначив сенатором. В день своей коронации императрица пожаловала ему орден Святого Андрея Первозванного.

Яков Петрович часто сопровождал молодую императрицу в поездках по России, причем нередко сидя с ней в одном экипаже. В пути он много говорил о деяниях Петра Великого и затеянных им преобразованиях. В одной из таких поездок он как-то вспомнил, что по замыслу Петра I один из сенаторов должен каждый год объезжать губернии и ревизовать тамошние дела, вскрывать злоупотребления и лихоимство. Эта идея понравилась Екатерине II. Тогда Шаховской тут же вызвался лично произвести такую проверку в городах, которые они проезжали, и осуществил свое намерение в Ярославле, Ростове и Переславле-Залесском, чем привел в трепет местные власти.

1 апреля 1766 года действительный тайный советник и сенатор Я. П.