Изменить размер шрифта - +
И он заулыбался.

— Ваш вопрос можно интерпретировать как относящийся к моей программе, — медленно проговорил робот, — и в таком случае я должен ответить. Нет, я никогда не действовал не в соответствии с заложенной в меня программой.

Джефри возбужденно хлопнул себя по бедру, но Грегори спросил первым:

— А как в смысле приказов хозяина? Ты никогда не действовал вопреки им?

Фесс молчал так долго, что Джефри снова приободрился. Наконец робот согласился:

— Да, было несколько случаев, когда приказы хозяина противоречили моей программе.

— Значит, ты иногда не слушался! — воскликнул Джефри.

— Я подчинялся более важным приказам, — быстро заметил Фесс. — Непослушание невозможно по собственному капризу робота, дети.

— А по чьему капризу возможно? — спросила Корделия.

Фесс испустил громыхающий лязг, что у него соответствовало вздоху.

— Моя базовая программа была разработана Петером Петроком, дети, но она была испытана, пересмотрена, снова испытана и наконец одобрена руководителем отдела, затем вице-президентом, ответственным за программирование, самим президентом «Когерент Императивз, Лимитед», после чего была передана на утверждение Совету директоров.

Джефри ошеломленно посмотрел на него.

— Таким образом, отвечая на ваш вопрос, — продолжал робот, — я должен сказать, что непослушание не делается по чьему-либо капризу. Это сознательное, взвешенное решение группы ответственных индивидуумов, действующих на основании многочисленных данных и оценок в соответствии с хорошо обоснованными принципами.

Дети, пораженные велеречивостью и железной логикой, молчали.

Наконец старший, Магнус, пришел в себя.

— А зачем нужны такие сложности?

— Потому что робот может причинить много вреда, если в его программу не будут заложены предохранительные средства, — ответил Фесс. — Вы несколько раз видели, как я отражал нападения всякого рода злоумышленников на ваших родителей и на вас самих, дети. Представьте себе, что я мог бы сделать с нападавшими, если бы в моей программе не было никаких запретов на членовредительство и прочие малоприятные штучки.

— Да, это была бы адская сумятица, — сказал сразу Джефри с широко раскрытыми глазами. — Доброе небо, Фесс! Ты мог бы опустошить весь Грамарий!

— Правильное заключение, — согласился Фесс, — а я ведь всего только робот общего назначения, а не специализированная военная машина.

Грегори содрогнулся, а Джефри порадовался:

— Хвала святым за эти твои ограничения!

— Вернее, хвала основателям науки роботехники. Мне тоже приходила в голову такая мысль.

— Но как же тебе в таком случае позволено не повиноваться приказам? — спросила озадаченная Корделия.

— Я не повинуюсь лишь в том случае, если повиновение приведет к опустошениям, которые подметил Джефри, — объяснил Фесс, — или к вреду для живого существа — помимо того, что абсолютно необходимо для защиты моего владельца.

Грегори нахмурился:

— Ты хочешь сказать, что должен защищать и другие существа от собственного владельца?

— Ну, возможно, это преувеличение, — медленно сказал Фесс, — хотя могу представить себе обстоятельства, когда это необходимо.

— Но тебе ничего похожего никогда не приходилось делать, — вмешалась Корделия. — А от кого тебе приходилось защищать твоего хозяина?

— От него самого, — ответил Фесс.

— Что?

— Как это возможно?

— Зачем ему?.

Быстрый переход