Яков Вилимович родился в Москве в 1669 году в Немецкой слободе. Он получил хорошее домашнее образование. 17 лет поступил в военную службу корнетом кавалерии, участвовал в Крымских походах 1687 и 1689 годов, за второй — получил чин поручика. В 1693 году пожалован в ротмистры и в том же году сопровождает Петра в его поездке в Архангельск, где царь намеревался заложить судовые верфи и строить крепость. С этого времени начинается тесное сотрудничество Брюса с Петром по самым различным проблемам.

Брюс был выдающимся ученым-энциклопедистом — математиком, астрономом, физиком, он изучал медицину, минералогию и многие другие науки, был талантливым военачальником-артиллеристом, инженером-фортификатором, исполнял дипломатические поручения, имел чин генерал-фельдцейхмейстера (начальника всей артиллерии), занимал высокие государственные должности сенатора, президента Берг- и Мануфактур-коллегий.

В 1721 году Брюсу был пожалован титул «российского графа». (Титул графа существовал в европейских странах, служившие на русской службе лица, имевшие этот титул, сохраняли его. Введя титул графа в России, Петр I подчеркнул его отечественное происхождение примечательным добавлением «российский».) Современник Брюса известный историк В. Н. Татищев писал о нем, что был он человеком «…высокого ума, острого рассуждения и твердой памяти, а к пользе российской во всех обстоятельствах ревнительный рачитель и трудолюбивый того сыскатель». Петр I неоднократно говорил о его заслугах, но по сравнению с другими «птенцами гнезда Петрова» наград, чинов и поместий Брюс получил несравненно меньше. Видимо, потому, что заботился о «пользе российской» более, чем о собственной выгоде.

О раздумьях Петра по поводу создания в России научных и образовательных учреждений М. В. Ломоносов пишет следующее:

«Усмотрел тогда ясно, что ни полков, ни городов надежно укрепить, ни кораблей построить и безопасно пустить в море, не употребляя математики; ни оружия, ни огнедышащих махин, ни лекарств поврежденным в сражении воинам без физики подготовить; ни законов, ни судов правости, ни честности нравов, без учения философии и красноречия ввести, и словом ни во время войны государству надлежащего защищения, ни во время мира украшения без вспоможения наук невозможно».

Видимо, уже в Англии Петр с Брюсом обсуждали практические вопросы организации профессионального учебного заведения, потому что уже там Брюс представил царю, рекомендуя для преподавательской работы в России, известного ученого и педагога, профессора математики и астрономии Абердинского университета Генри Фарварсона, который согласился поступить на русскую службу. Были приглашены и еще несколько иностранных ученых и преподавателей, которые выехали в Россию в 1698 году.

По возвращении в Россию Петр сначала намеревался преобразовать Славяно-греко-латинскую академию в университет западноевропейского типа, но после беседы с патриархом Адрианом оставил идею соединить в одной аудитории будущих священников, офицеров, кораблестроителей, медиков, художников, юристов, сколь ни привлекательным представлялся утопический план, предусматривающий, что «…из школы бы во всякие потребы люди благоразумно учася происходили в церковную службу и в гражданскую, воинствовати, знати строение и докторское врачевное искусства».

Начавшаяся Северная война и создание флота, для которого нужны были люди, годные для морской службы, заставили Петра в первую очередь подумать об организации учебного заведения, которое готовило бы именно таких людей.

14 января 1701 года Петр издал указ об основании в Москве первого русского морского, или, как говорил сам царь, «адмиралтейского», училища.

В указе говорилось: «Именным своим великого государя повелением быть Математических и Навигацких, то есть мореходных хитростию наук учению.