И он заулыбался.
— Ваш вопрос можно интерпретировать как относящийся к моей программе, — медленно проговорил робот, — и в таком случае я должен ответить. Нет, я никогда не действовал не в соответствии с заложенной в меня программой.
Джефри возбужденно хлопнул себя по бедру, но Грегори спросил первым:
— А как в смысле приказов хозяина? Ты никогда не действовал вопреки им?
Фесс молчал так долго, что Джефри снова приободрился. Наконец робот согласился:
— Да, было несколько случаев, когда приказы хозяина противоречили моей программе.
— Значит, ты иногда не слушался! — воскликнул Джефри.
— Я подчинялся более важным приказам, — быстро заметил Фесс. — Непослушание невозможно по собственному капризу робота, дети.
— А по чьему капризу возможно? — спросила Корделия.
Фесс испустил громыхающий лязг, что у него соответствовало вздоху.
— Моя базовая программа была разработана Петером Петроком, дети, но она была испытана, пересмотрена, снова испытана и наконец одобрена руководителем отдела, затем вице-президентом, ответственным за программирование, самим президентом «Когерент Императивз, Лимитед», после чего была передана на утверждение Совету директоров.
Джефри ошеломленно посмотрел на него.
— Таким образом, отвечая на ваш вопрос, — продолжал робот, — я должен сказать, что непослушание не делается по чьему-либо капризу. Это сознательное, взвешенное решение группы ответственных индивидуумов, действующих на основании многочисленных данных и оценок в соответствии с хорошо обоснованными принципами.
Дети, пораженные велеречивостью и железной логикой, молчали.
Наконец старший, Магнус, пришел в себя.
— А зачем нужны такие сложности?
— Потому что робот может причинить много вреда, если в его программу не будут заложены предохранительные средства, — ответил Фесс. — Вы несколько раз видели, как я отражал нападения всякого рода злоумышленников на ваших родителей и на вас самих, дети. Представьте себе, что я мог бы сделать с нападавшими, если бы в моей программе не было никаких запретов на членовредительство и прочие малоприятные штучки.
— Да, это была бы адская сумятица, — сказал сразу Джефри с широко раскрытыми глазами. — Доброе небо, Фесс! Ты мог бы опустошить весь Грамарий!
— Правильное заключение, — согласился Фесс, — а я ведь всего только робот общего назначения, а не специализированная военная машина.
Грегори содрогнулся, а Джефри порадовался:
— Хвала святым за эти твои ограничения!
— Вернее, хвала основателям науки роботехники. Мне тоже приходила в голову такая мысль.
— Но как же тебе в таком случае позволено не повиноваться приказам? — спросила озадаченная Корделия.
— Я не повинуюсь лишь в том случае, если повиновение приведет к опустошениям, которые подметил Джефри, — объяснил Фесс, — или к вреду для живого существа — помимо того, что абсолютно необходимо для защиты моего владельца.
Грегори нахмурился:
— Ты хочешь сказать, что должен защищать и другие существа от собственного владельца?
— Ну, возможно, это преувеличение, — медленно сказал Фесс, — хотя могу представить себе обстоятельства, когда это необходимо.
— Но тебе ничего похожего никогда не приходилось делать, — вмешалась Корделия. — А от кого тебе приходилось защищать твоего хозяина?
— От него самого, — ответил Фесс.
— Что?
— Как это возможно?
— Зачем ему?. |