Департаменты делились на отделения и столы, возглавляемые столоначальниками и занимавшиеся дипломатическими отношениями с конкретными регионами или странами. Азиатский департамент, переименованный при Ламздорфе в 1-й, состоял из двух отделений: Ближнего и Дальнего Востока. Начальником первого был Д. К Семёновский-Курило, а второго — М. Г. Жданов. В отделении Ближнего Востока было четыре стола: турецкий, славянский, греческий и политический, в которых работали по два-три сотрудника. За громким названием политического стола скрывалась шифровальная служба департамента.

Департамент внутренних сношений ведал консульскими и юридическими вопросами, во главе его стоял опытный человек — барон Ф. Р. Остен-Сакен, привлекавший к себе всеобщее внимание тем, что не ходил в здании министерства, а бегал трусцой.

Департамент личного состава и хозяйственных дел (ДЛСиХД) министерства (по-нашему, административно-кадровый отдел) возглавлял М. Н. Никонов — типичный чиновник и пользовавшийся, по мнению сотрудников, дурной репутацией в денежных делах. Через департамент шло финансирование всех посольств, миссий и консульств, так что деньги к Никонову могли «прилипать» вполне свободно. Потом Никонова сменил аккуратный и тщательный во всём, высокий, представительный, краснощёкий остзейский барон К. К Буксгевден, по воспоминаниям современников, всегда приветливый и с постоянной самодовольной улыбкой на лице. Барон одновременно имел придворное звание шталмейстера и в официальных случаях являлся — к вящему изумлению молодёжи — в вицмундире и сапогах со шпорами.

При Н. К. Гирсе товарищем министра был Н. П. Шишкин, в то время как граф В. Н. Ламздорф считался ведущим советником министерства. Граф специализировался на составлении всех важных документов, в том числе и всеподданнейших докладов и был для Гирса незаменимым сотрудником. Продолжал работать горчаковский коллегиальный орган — Совет министерства, в который, в частности, входил профессор Ф. Ф. Мартенс (1845–1909), крупный юрист и знаток международного права, неизменный консультант министерства на всех переговорах и при заключении международных договоров, включая Портсмутский. Он оставил после себя фундаментальный труд «Современное международное право цивилизованных народов», оформленный в курс лекций, а также множество других публикаций, статей и трудов.

Судя по отзывам современников, профессор был о себе высокого мнения и иногда любил «пощеголять» своими знаниями. Статс-секретарь Государственного совета А. А. Половцов в своих мемуарах описывает заседание 18 февраля 1885 года Русского исторического общества, членом которого являлся Ф. Ф. Мартенс: «Мартенс душит нас рассказом, достойным сельского школьного учителя, о сношениях России с Пруссией во время Отечественной войны. С трудом прерываю этот педантический, бездарный рассказ…»

На 1902 год Министерство иностранных дел России имело следующую структуру:

министр — Ламздорф Владимир Николаевич;

товарищ (заместитель) министра — Оболенский-Нелединский-Мелецкий Валериан Сергеевич;

канцелярия — директор Ваксель Платон Львович;

1 — й департамент — директор Гартвиг Николай Генрихович;

2-й департамент — директор Милевский-Малевич Николай Андреевич;

Департамент личного состава и хозяйственных дел — директор барон Буксгевден Карл Карлович;

Государственный и Санкт-Петербургский Главные архивы — директор Стюарт Дмитрий Фёдорович;

Московский Главный архив — директор князь Голицын Павел Алексеевич.