Первым этапом военной карьеры Сергея Леонидовича Маркова, как и для многих детей военных, стал кадетский корпус — 1-й Московский императрицы Екатерины II, после окончания которого он 31 августа 1895 года поступил (видимо, по примеру отца) в петербургское Константиновское артиллерийское училище с трехлетним сроком обучения. На фоне Михайловского артиллерийского Константиновское считалось «молодым» — название «артиллерийское» оно на тот момент носило всего год, и юнкера-«михайлоны» поглядывали на сверстников-«констапупов» несколько свысока. Но благодаря самоотверженным усилиям начальства молодое училище буквально за несколько лет завоевало прочную репутацию среди военно-учебных заведений. А Сергей Марков считался одним из лучших юнкеров: 12 августа 1896-го он стал унтер-офицером, а 12 декабря того же года — портупей-юнкером.

Восьмого августа 1898 года состоялся выпуск из училища. Двадцатилетний Сергей Марков надел заветные погоны подпоручика и после положенного новоиспеченному офицеру 28-дневного отпуска был прикомандирован к 5-й батарее лейб-гвардии 2-й артиллерийской бригады, квартировавшей в Санкт-Петербурге, в должности делопроизводителя. 20 августа 1901 года подпоручик Марков был командирован в Николаевскую академию Генерального штаба и, выдержав сложнейшие вступительные экзамены, 11 октября был зачислен в младший класс академии. Во время учебы молодой офицер зарекомендовал себя наилучшим образом и 8 августа 1902 года был произведен в чин поручика. Наградой за блестящее окончание курса академии ему стал 31 мая 1904 года чин штабс-капитана.

Выпуск академии 1904 года был не вполне обычным — он проходил уже в обстановке Русско-японской войны, и молодые офицеры-генштабисты горели желанием поскорее отправиться на фронт. Для Сергея Маркова война началась 20 июля 1904 года — именно тогда он прибыл в штаб Маньчжурской армии. За неделю до этого в Харбине молодой офицер написал письмо матери — на случай собственной смерти. Это письмо интересно той суровой оценкой, которую дает себе 25-летний офицер: «Обо мне не плачь и не грусти, такие как я не годны для жизни, я слишком носился с собой, чтобы довольствоваться малым, а захватить большое, великое не так-то просто. Вообрази мой ужас, мою злобу-грусть, если бы я к 40–50 годам жизни сказал бы себе, что все мое прошлое пусто, нелепо, бесцельно! <…> Мне жаль тебя и только тебя, моя родная, родная бесценная Мама, кто о тебе позаботится, кто тебя успокоит. Порою я был груб, порой, быть может, прямо-таки жесток, но видит небо, что всегда, всегда ты была для меня все настоящее, все прошлое, все будущее».

Но прочесть это письмо родным Маркова так и не пришлось — Бог хранил его для будущих испытаний… И сразу же обнаружилось, что служба в управлении военных сообщений отнюдь не является скучной штабной рутиной, чего так опасался штабс-капитан. Начались рекогносцировки дорог и местностей, 16 августа — первый в жизни Маркова бой у деревни Шаущаньпу, 22 августа — опасная, сопряженная с большим риском рекогносцировка маршрута Мукден — Телин… И уже 18 сентября 1904 года — первый боевой орден. Это была желанная для любого молодого офицера «клюква», так в армии называли орден Святой Анны 4-й степени «За храбрость», круглый красный знак которого, напоминавший ягодку, крепился на эфес холодного оружия. Одновременно Марков был переведен на должность офицера Генштаба в Восточный отряд, а с 6 декабря служил в штабе 1-го Сибирского армейского корпуса.