Но ведь человек может приказать роботу нечто невыполнимое или его воля поставит робота перед дилеммой, которая может повредить позитронный мозг. В расскаже «Лжец», опубликованном в 1940 году, человек совершенно сознательно поставил перед роботом задачу, которая сожгла его мозг, и машина перестала существовать.

Мы можем даже представить ситуацию, когда появятся достаточно разумные роботы, которые будут в состоянии избежать гибели, если их вынудят делать нечто бессмысленно сложное или злостное. Следовательно, Второй закон науки о человеке должен гласить:

2. Человек должен отдавать роботу приказы, которые не вредят существованию робота, если только эти приказы не явятся причиной вреда или неудобства для других людей.

Целью Третьего закона роботехники было защитить роботов, но с точки зрения робота он может показаться не слишком надежным. Робот должен пожертвовать собой, если того потребуют Первый и Второй законы. Когда речь идет о Первом законе, тут не может быть никаких возражений. Робот обязан забыть о собственной безопасности, если это единственный путь защитить человека или предотвратить опасность, которая ему угрожает. Если мы признаем, что любое человеческое существо важнее любого робота (по правде говоря, я признаю это не вполне охотно), то такая формулировка неизбежноа.

С другой стороны, должен ли робот жертвовать собой, выполняя какой-нибудь несущественный или даже вредоносный приказ? В «Двухсотлетнем человеке» хулиганы сознательно приказывают роботу разобрать себя на части исключительно ради собственного развлечения. Получается, что Третий закон науки о человеке должен звучать следующим образом:

3. Человек не должен причинять вреда роботу или своим бездействием допустить, чтобы роботу был причинен вред, кроме тех случаев, когда робот вынужден пожертвовать собой, чтобы спасти человека или выполнить жизненно важный приказ.

Естественно, мы не можем навязать эти законы, как в ситуации с законами роботехники. Мы не в силах запрограммировать мозг человека, как мозг робота. Однако это начало, и я искренне считаю, что, если нам предстоит управлять умными роботами, мы должны быть за них ответственны, как сказал мой герой из рассказа «Двухсотлетний человек».

Кибернетический организм

Робот – это робот, а организм – это организм.

Организм, как нам известно, состоит из клеток. С молекулярной точки зрения, главными являются нуклеиновые кислоты и протеины. Они находятся в жидкой среде, которую поддерживает костная структура. Бессмысленно продолжать рассуждать на данную тему, поскольку мы все знакомы со строением организмов и сами являемся одной из его разновидностей.

С другой стороны, робот (как его принято описывать в научно-фантастической литературе) это объект, относительно похожий на человека, построенный из надежного металла, не подверженного ржавлению. Фантасты редко описывают внутреннее строение роботов, поскольку это не имеет принципиального значения для сюжета, да они и не особенно разбираются в технических деталях.

Однако из рассказов часто складывается впечатление, что внутри робота имеется масса проводов, по которым проводится электричество, и никаких трубок для тока крови. Источник питания, как правило, не называется, или становится ясно, что он имеет отношение к атомной энергии.

А как насчет мозга?

Когда я написал свои первые рассказы о роботах в 1939 и 1940 годах, я представил себе «позитронный мозг» губчатого типа из сплава платины и иридия. Я выбрал именно такой материал, потому что он особенно инерционен и меньше всего подвержен химическим реакциям. Губчатый он для того, чтобы обеспечить большую поверхность, на которой могут создаваться и разрушаться электрические схемы.