В конце 70 х годов Сергей Юльевич женился на Н. А. Спиридоновой, урожденной Иваненко, дочери предводителя дворянства Черниговской губернии, скоропостижно умершей в 1890 году. Примерно через год он случайно в театре встретился с молодой красивой женщиной, которая ему необычайно понравилась. Это была Матильда Ивановна Лисаневич, урожденная Хотимская (по другим источникам – Нурок). Между молодым вдовцом и очаровательной замужней дамой возникло большое чувство, и С. Ю. Витте деятельно способствовал расторжению брака Лисаневичей (в обществе упорно говорили, что согласие на развод было получено благодаря щедрым откупным, врученным мужу). Вскоре действительный статский советник и безродная красавица бесприданница обвенчались, причем Сергей Юльевич удочерил дочь жены от первого брака Веру.

Этот брачный союз стал для С. Ю. Витте радостью, но одновременно служил причиной множества неудобных и щекотливых ситуаций. Действительно: важный государственный чиновник, которому мирволил сам государь, женился, как полагали в свете, на женщине сомнительной репутации («разводка»), да еще еврейке! Чванливое петербургское общество не могло принять эту партию. Более двадцати лет, просто с маниакальной одержимостью, Сергей Юльевич различными путями пытался добиться для своей «дорогой Матильды Ивановны» подобающего ей положения. Но не помогало даже обращение к монархам, хотя император Александр III и императрица Мария Федоровна питали большую личную симпатию к министру. Положение не изменилось и в дальнейшем. Традиционные предрассудки и устоявшиеся нормы были выше личных расположений.

В начале 1895 года будущий министр иностранных дел граф В. Н. Ламздорф записал в дневнике: «Господин Витте хотел во что бы то ни стало добиться, чтобы его жена участвовала в целовании руки у молодой государыни; не добившись успеха в переговорах с гофмейстериной княгиней Голицыной, он обратился к графу Воронцову Дашкову (министр императорского двора. – А. Б .); последний, находясь в хороших отношениях с министром финансов и не видя никаких препятствий к допущению г жи Витте (невзирая на ее прошлое) во дворец, посоветовал ее честолюбивому супругу обратиться к императрице матери; Витте попробовал разжалобить ее, рассказывая о трудностях положения своей жены; ее величество, увидя, к чему клонит, внезапно остановила его, сказав: «Вы пользуетесь доверием императора, чего же Вам больше?» К императорской руке Матильда Ивановна так и не была допущена, несмотря на известность и авторитет мужа, совершившего головокружительный служебный взлет.

Бюрократическая карьера С. Ю. Витте началась в 1888 году. Именно тогда он стал лично известен Александру III, когда предупредил об опасности проводить тяжелые царские поезда с той скоростью, какая требовалась царской свитой, и этим вызвал неудовольствие влиятельных придворных. Этот эпизод мог бы так и остаться лишь курьезным случаем недопустимой строптивости, если бы не последовавшие затем события. Через два месяца, в октябре, около местечка Борки, под Харьковом, императорский поезд потерпел страшное крушение, в результате которого погибло несколько десятков человек. «Инцидент с гнилой шпалой» напомнил Александру III о личной преданности железнодорожного служащего и его предостережениях.

В начале 1889 года Сергею Юльевичу был предложен важный пост директора департамента железнодорожных дел Министерства финансов. Причем Александр III распорядился резко повысить ему оклад по должности, чтобы тот не испытывал «материальных неудобств» (ответственные служащие в ведущих акционерных компаниях получали значительно больше, чем в госаппарате). Сенсацией в сановно бюрократических кругах стало и производство в марте 1889 года молодого директора департамента из титулярных советников (IX класс по табели о рангах) сразу в действительные статские советники (IV класс, соответствующий званию генерал майора в армии). Первое время в Петербурге он чувствовал себя очень неуютно, был здесь «чужаком».