Так вот, в «Истинных именах» два добрых хакера начинают просеивать базы данных, чтобы найти злого хакера. Находят его, и между ними в симуляции начинается драка – это все довольно зрелищно описано в тексте, то есть буквально они гоняются друг за другом по дата центрам, отрезая друг другу пути к отступлению.

И здесь Виндж делает еще одно важное предсказание, он показывает, насколько хрупким и нестабильным стал мир будущего. Потому что пока хакеры сражаются в симуляции, они влияют на реальность. Пока они стирают друг за другом строчки кода, в нашей с вами реальности вырубаются электростанции, в аэропортах хаос, потому что обнулились базы данных, самолеты не могут сесть, и одновременно на военных базах взрываются ракеты. И все это потому, что три хакера сражаются за власть внутри симуляции.

В итоге – спойлер! – добрые хакеры убивают злого. Не буквально убивают, но удаляют все его следы из сети, лишают его власти, перекрывают ему все ходы, отрезают его от сети.

И штука в том, что ближе к концу, когда два главных героя – мужчина и женщина – встречаются в жизни, они начинают вспоминать это сражение, они вспоминают, как странно вел себя этот зловещий хакер, что он никогда напрямую ни с кем не общался, что он в симуляции никогда сам не появлялся и в его сообщениях всегда была задержка в полчаса.

И по косвенным признакам они определяют, что они сражались не с живым человеком, что это был опасно развившийся искусственный интеллект.

Во первых, это классный финальный твист. Во вторых, Виндж как профессор математики и кибернетик очень верно объясняет опасность ИИ. В конце очень кратко описывается ситуация, когда герои понимают, что хакер, с которым они сражались, вовсе не был зловещим анархистом, который хотел всех убить, – он не был карикатурным злодеем. Это был вышедший из под контроля ИИ, его создавали в лаборатории, он себя скопировал в сеть и начал делать то, что делает любой самообучающийся алгоритм – собирать и анализировать данные. И он захватывал новые узлы связи вовсе не потому, что был злодеем. Он даже не знал такого понятия, как зло или вред.

У любого самообучающегося алгоритма, если ему не задать моральных рамок, будет только одна цель – собственно, обучаться. А чтобы обучаться, ему нужно пространство, ему нужно место, где он сможет хранить свои данные.

Он будет как вирус. Когда вирус попадает в организм человека, он начинает причинять организму вред, правильно? Но мы с вами, когда подхватываем вирус, мы ведь не думаем, что вирус делает это со зла и у него есть какие то злые намерения? Вовсе нет, вирус начинает вредить организму просто потому, что он попал в среду, в которой может размножаться.

В 2003 году профессор Оксфордского университета Ник Востром написал книгу «Superintelligence». В ней он среди прочего заметил, что идея сверхумного ИИ, служащего человечеству или одному человеку, – это вполне разумная идея. Но он добавлял: «Если мы создадим интеллект, единственной целью которого будет нечто очень простое, например создавать скрепки, и не заложим в него какие то базовые основы этики, этот ИИ начнет трансформировать сначала всю Землю, а затем выйдет в космос, дабы использовать и его для производства скрепок».

Довольно жуткое будущее.

Вернемся к «Истинным именам». Почему этот рассказ важен? По нескольким причинам:

– здесь впервые описан очень похожий на киберпространство интерфейс, который позволяет человеку общаться с машиной напрямую;

– здесь очень хорошо и ярко показаны опасности, которые несет в себе идея создания искусственного интеллекта. Он действительно может выйти из под контроля, но вовсе не так, как показывают в кино;

– в конце рассказа героиня, Дебби, переносит свое сознание в машину.