Во-первых, люди боятся роботов и не доверяют им, потому что видят в них соперников. Как можно избежать этого?
— Ослабить дух соперничества, придав роботам другую форму.
— Однако по сути робот — позитронная копия живого существа, и если его внешний вид не будет ассоциироваться с жизнью, это вызовет настоящий ужас.
— В мире два миллиона видов живых существ. Нужно выбрать один из них, по форме отличающийся от человека.
— Какой именно?
Бесшумный мыслительный процесс Джорджа Девять занял около трех секунд.
— Достаточно большой, чтобы вместить позитронный мозг, и одновременно не вызывающий у людей неприязни.
— Ни одна из форм земной жизни не обладает достаточно большим черепом, кроме слона, которого я не видел, но которого описывают как огромное существо, своими размерами наводящее на человека страх. Как решить эту дилемму?
— Скопировать форму жизни, не превышающую человека по размерам, и увеличить черепную коробку.
— То есть что-то вроде маленькой лошади или большой собаки? И те и другие связаны с людьми долгой совместной историей.
— В таком случае они подходят.
— Но подумай вот о чем: позитронный мозг робота более или менее точно копирует человеческий интеллект. Если лошади или собаки заговорят и станут мыслить как люди, соперничество не ослабнет. Наоборот, люди еще больше могут рассердиться при виде такого неожиданного соперника в лице тех, кого они считают низшей формой жизни.
— Надо сделать позитронный мозг менее сложным, а роботов — менее разумными.
— Причина сложности позитронного мозга кроется в Трех Законах. Упрощенный мозг не сможет выполнять их как следует.
— Значит, проблема не имеет решения, — выпалил Джордж Девять.
— Я тоже зашел в тупик, — признался Джордж Десять. — Таким образом, мы выяснили, что особенности моего мышления тут ни при чем. Начнем все сначала… При каких условиях отпадает необходимость в Третьем Законе?
Джордж Девять поежился, словно вопрос показался ему не только трудным, но и опасным. Однако ответил, помедлив:
— Если робот никогда не попадет в ситуацию, угрожающую его существованию; или если он будет настолько легко заменим, что разрушение его будет не столь важным.
— А при каких условиях станет ненужным Второй Закон?
В голосе Джорджа Девять послышалась легкая хрипотца.
— Если от робота потребуется только автоматическая реакция на определенный раздражитель и если эта реакция будет жестко заданной, то необходимость во Втором Законе отпадет.
— А при каких условиях, — Джордж Десять сделал паузу, — может оказаться ненужным Первый Закон?
Джордж Девять выдержал еще более длинную паузу и проговорил еле слышным шепотом:
— Если реакция робота будет запрограммирована таким образом, что он никогда не сможет причинить человеку вред.
— А теперь представь себе позитронный мозг, который управляет несколькими реакциями на определенные раздражители, которому не требуется знания Трех Законов и который легко и дешево можно воспроизвести. Каким он должен быть по величине?
— Совсем небольшим. В зависимости от сложности реакции он может весить сто граммов, один грамм, один миллиграмм.
— Твой вывод совпал с моим. Я должен повидать мистера Харримана.
5а
Джордж Девять остался один. Он снова и снова перебирал в уме вопросы и ответы, но вывод оставался прежним. Однако мысль о роботе — любого вида, любого размера, любой формы, с каким угодно предназначением, но без Трех Законов — повергала его в неясный трепет.
Ему не хотелось двигаться. |