Но вы, – продолжала она, – сделали выбор. Теперь мы пойдём вместе.
– Но свистуны, или, как ты напомнила мне их первоначальное название – «обезьяны», тоже были близки к этому. Правда, они шли другим путём.
– Который вёл только в тупик! – быстро возразила Ольга. – Нельзя, – продолжала она, – сращивать биологическую субстанцию с кристаллическими структурами. У нас, то есть у биологических и кристаллических систем, есть общие законы самоорганизации, но есть и частные, присущие только каждому типу в отдельности. Они создают непреодолимые барьеры. Сращивать можно только информацию, что вы и сделали. Информация не существует без материального носителя, но ей безразлично, какой это носитель. Биологическая субстанция неизбежно погибает в конце концов при сращивании с кристаллической.
Вы внесли в СС человеческую индивидуальность в виде информации. Твоя индивидуальность, твоя человеческая сущность вошла в меня, я имею в виду систему, и я или она, безразлично… уже не можем воспринимать своего собственного Я вне этой человеческой сущности и не можем смотреть на мир иначе, как глазами человека. Сами того не подозревая, вы нашли единственный вариант совместимости человечества с искусственной сверхинтеллектуальной системой.
– А без этой сущности?
– Без неё был бы голый разум!
Сергей поёжился.
– Ты прав! – продолжала она, заметив его реакцию. – Это повлекло бы за собой неизбежную вашу гибель!
– То есть система вышла бы из подчинения человеку?
– Не совсем так. Ты мыслишь примитивно. Такая система уже не могла быть принципиально в подчинении у человека, ибо её интеллект на несколько порядков выше интеллекта человека. В этой ситуации, что бы люди ни придумывали, какие бы меры предосторожности ни принимали, она, как более разумная, всегда нашла бы способ выйти из прямой зависимости от своих создателей. Страшно другое. У неё и людей могло бы быть несовпадение целей. И если бы вы, люди, мешали ей, то она вас устранила бы… что и произошло на Перуне…
– На Перуне?!
– Да! Там разумные существа создали искусственно‑интеллектуальную систему, точно такую же в техническом плане, что и вы. Но не позаботились о придании ей человеческой сущности. Не позаботились о том, чтобы эта система воспринимала себя в совокупности с человечеством как закономерный этап развития разума. Они, создатели, были похожи на вас…
– Вспомнил! Вспомнил! – закричал Сергей. Перед его глазами проплыли картины развалин городов, циклопические купола, озера жидкого воздуха и кристаллы, кристаллы, всюду гигантские решётки из больших асимметрических кристаллов…
– Естественно! Я сняла с тебя блокаду памяти. Но об этом потом! Вы, люди, – продолжала она, – сами, может быть, этого не понимая, использовали величайший закон гармонии. Разум, эмоции, чувства должны развиваться параллельно. Плохо, если эмоции довлеют над разумом. Вы с этим часто встречаетесь в обыденной жизни. И, чем больше этот разрыв, тем необдуманнее и глупее ваши поступки. В этом случае центр агрессивности, не сдерживаемый разумом и центрами высшего анализа мозга, начинает определять поведение человека, толкая его на путь насилия, преступлении, похотливых желаний и т.п. Но ещё более страшно, если разум полностью подавляет чувства и эмоции или опережает их в развитии слишком далеко. Не будь в СС введена твоя индивидуальность, в системе неизбежно появились бы свои эмоции и чувства. Без этого ни одна система не может существовать. Без самосознания своего собственного Я. Мотивация поступков такой системы будет отвечать тому Я, которое сформировалось в системе. Если эти чувства развивались бы в системе самостоятельно, на фоне уже созданного разума, они были бы чужды вашим чувствам, и в них не было бы человечности. |