Понятно, что человечество практически лишилось возможности естественной эволюции: нам не нужно приспосабливаться даже к самым суровым условиям, потому что у нас есть машины, которые облегчают нам жизнь, делая почти любую среду пригодной для обитания.

— Это старая тема, — не выдерживаю я. Терпеть не могу банальности, особенно когда их произносят на полном серьезе. — Автоматы спасут человечество, повысят комфорт, позволят нам однажды переселиться в космос. Бла-бла-бла. К чему вы ведёте, полковник?

— Пусть это набило оскомину, — недовольно отвечает Стробов. — Суть от этого не меняется. Наличие машин определяет образ жизни, мышление и сознание. Мы вынуждены развивать либо прогресс, либо духовность. Но, живя в индустриальном обществе, последний путь могут выбрать единицы. Подавляющее число жителей не имеют ни способностей, ни возможности, ни особого желания посвящать себя медитациям и тому подобному.

— Разумеется, куда удобней вшить необходимые имплантаты и таким образом увеличить память, силу, выносливость и так далее.

— Да, — соглашается Стробов. — Это логично, это понятно, и всё же вызывает беспокойство.

— Почему же? Сегодня технологии — всего лишь игрушки в наших руках. Мы полностью контролируем даже самые совершенные искусственные интеллекты, такие, например, как бортовые компьютеры космических кораблей и медиа-центров.

— Прогресс идёт семимильными шагами, и мы не можем даже спрогнозировать наступление момента, когда искусственный разум обретёт самостоятельность и станет полноценным членом человеческого общества. Чем это грозит людям — неизвестно, но уже давно мы испытываем страх при мысли о бунте компьютеров. А это может стать реальностью.

На этой фразе полковника я на секунду прикрываю глаза — чтобы демонстративно их не закатить: не люблю ИИ, но параноидально бояться бунта машин? В наше время, когда чуть ли не вся жизнь зависит от работы искусственных разумов? Нет, конечно, риск имеется, но какой смысл паниковать? Это всё равно, что ложиться спать и опасаться, что ночью подломятся ножки.

— Я не хочу сказать, что мы должны бороться с прогрессом, — продолжает Стробов. — Это невозможно. Наша цивилизация выбрала техногенный путь эволюции, и свернуть с него нам не под силу. Это как снежный ком, который не только становится всё больше, но с каждым оборотом набирает скорость.

Я понимаю, о чём говорит полковник: искусственный интеллект признан личностью, он получил гражданские права и может принимать участие в общественной и политической жизни. Но пока что это только формальность. Киборги не совсем самостоятельны в поступках — они следуют алгоритму, имитируя человеческое поведение.

— Возможно, ИИ будут и дальше подчиняться законам и правилам, — говорит Стробов, словно продолжая мою мысль, — а возможно, рано или поздно искусственный интеллект разовьётся до такой стадии, что объявит человечеству войну, и мы окажемся в роли раввина Лаэфа. Вы понимаете, о чём я говорю?

— Да. Старая легенда о глиняном человеке, Големе, убившем своего создателя.

Стробов кивает.

— Разница лишь в том, — говорит он, — что Голем был тупой куклой, а наш противник будет превосходить нас не только интеллектом, но и возможностями, поскольку станет контролировать все электронные коммуникации. Вам, как никому, известно, что можно сделать с помощью обычного терминала, а представьте, что хакером станет искусственный разум. Вообразите все автоматические боевые модули на земле, в море, воздухе и космосе, которые обратят свои орудия против нас, фабрики, которые начнут создавать машины уничтожения, единственной целью которых станет убийство людей.