Прилагая огромные усилия, я сумел согнуться настолько, чтобы сесть чуть прямее.

– Хью, скажи, кто-нибудь вообще определил то, как именно будет выглядеть высший разум?

Прежде чем ответить, Хью застонал и слегка поерзал в кресле.

– Кое-какие предположения у нас есть. Все варианты вполне вероятные, большинство из них – не взаимоисключающиеся, и ни один не является неизбежным. Возможно, этот разум сможет держать в уме гораздо больше переменных одновременно. Люди, кажется, могут учитывать только семь, а остальные уже начинают сгружать в кратковременную память. Многозадачность. Людям она доступна – до какой-то степени, – но при этом задача, сильно нагружающая интеллект, может быть только одна. То есть ты можешь обдумывать свой предстоящий доклад, когда ведешь машину, но не когда подсчитываешь свои расходы. Способность решать рекурсивные задачи – такие как предсказание действий человека, который знает, что ты пытаешься предсказать его действия. Улучшенная способность моделировать реальность. Способность обнаруживать последовательности в данных такая же, как у экспертной системы.

– Но ничего по-настоящему революционного или совершенно нового?

– Откуда нам знать, Билл? Мы можем вообразить себе нечто подобное не больше, чем пес может представить себе чтение и письмо.

Я хмыкнул, заметив возможность направить разговор в нужное мне русло.

– Интересно, как вы сможете ему доверять?

– Повторяю: загрузка кармы, – ответил Хью. – Название туповатое, я понимаю. Фактически она заключается в том, чтобы привить ИИ те же нравственные ценности, которые есть у людей. Это позволяет устранить такие сложности, как «проблема скрепки», ведь теперь ИИ понимает, что превращать все на свете в скрепки – плохо. Большинство жутких сценариев, в которых участвует ИИ, основано на том, что он интерпретирует идеи буквально и не обдумывает последствия. Но, по мнению некоторых, разумный ИИ с меньшей вероятностью будет действовать словно безмозглый зомби, поскольку будет обладать самосознанием.

– Да, Хью, но в этом случае ты учишь Тота человеческой морали и одновременно говоришь ему о том, что он – не человек. Интересно, как оно все выйдет в итоге.

– Никакого доступа к физической реальности, Билл. Не только никакого доступа к «бродягам» и тому подобному. Мы даже не станем запускать Тота на реальной технике: он будет работать в виртуальной реальности на виртуальной машине и общаться с нашими виртуальными версиями. Даже если он научится управлять слабовольными созданиями, словно джедай, то при этом будет просто переманивать на свою сторону аватаров.

Я не ответил. «Прыгуны», похоже, все продумали. По крайней мере, у них были заготовлены ответы на все вопросы, хотя это не всегда одно и то же.

Я надеялся, что у меня просто паранойя. Более того, я надеялся, что она и у АНЕКа.

7

Реванш

Хершел. Январь 2330 г. На пути к 40 Эридана

Я плавал в секции «Беллерофонта», в котором располагался двигатель ВСПЛЕСК. Он был легко узнаваем – ведь, в конце концов, способов построить такой двигатель не так много, но Другие, разумеется, многие вещи проектировали совершенно по-своему. Данный двигатель, в частности, сильно зависел от главного компьютера – в отличие от наших двигателей, которыми управляли независимые подсистемы. Контроллер ВСПЛЕСКа принимал команды высокого уровня и превращал их в детализированные инструкции, которые необходимы для выполнения приказа. Интересно, что это может поведать нам о Других?

Мы летели от Нового Пава к 40 Эридана и воспользовались этой возможностью, чтобы наконец-то завершить ремонт «Беллерофонта». Брошенный корабль Других был продырявлен в ходе нападения на Дельту Павлина, и хотя пробоину в корпусе мы заделали, трогать поврежденные двигатели и центральный компьютер не стали.