— Саша, нам надо поговорить, — начал Хосато.

— Не сейчас, — прервала его девушка. — Нет смысла говорить о будущем, пока мы не знаем точно, есть ли оно у нас. Присоединяйся к нам, есть важная новость.

Не дожидаясь ответа, Саша вернулась в комнату, и Хосато ничего не оставалось делать, как последовать за ней.

— А, вот ты где! — радостно воскликнул Мадьяр. — А мы уже охрипли звать тебя.

Не обращая внимания на язвительное замечание мастера, Хосато осведомился, в чем дело.

— Ну, — размеренно начал Мадьяр, лениво раскуривая трубку, — суть в том, что Тэрнер не продумал все до конца. Это типичнейшая ошибка: поддаться искушению предоставить компьютеру думать за тебя, поскольку тот думает быстрее. Куда удобнее набросать план и дать его машине на доработку, чем продумывать каждую мелочь. Продумать до конца, чтобы машина все сделала в точности с твоим замыслом.

Хосато нервно дернулся, однако по опыту знал, что подгонять Мадьяра бесполезно.

— А Тэрнер поступил легкомысленно и жестоко поплатился за это. Отдал идею на разработку машинам. Они думают быстро, а главное, чересчур быстро. Всякая неверная команда исполняется до того, как ты успеваешь ее заметить, и человек оказывается в ловушке.

— То есть… — уточнил Хосато.

— Он изменил программу запрета на убийство. Нет, Тэрнер не был полным дураком. Он задал компьютеру особые параметры и предоставил ему возможность убивать, защищаться… если что-то угрожает компьютеру или производственным мощностям.

— А что в этом плохого? — поинтересовался Джеймс.

— Две вещи, — послышалось в ответ. — Прежде всего, Тэрнер не определил до конца, что входит в понятие «угроза», и компьютер разработал свое определение.

— Поэтому, когда Тэрнер попытался прекратить работу, то компьютер воспринял это как угрозу и приказал прототипам убить своего создателя!

— закончила его мысль Саша, точно уловив суть проблемы.

— Именно, — Мадьяр так и светился.

— Послушай, Жестянщик, но это же не все, — за протестовал Хосато. — Я не представлял прямой угрозы производству, когда роботы попытались дважды убить меня… да и какая угроза исходила от семей в жилой зоне. Что там произошло?

— Вот это и есть вторая ошибка Тэрнера, — Мадьяр раскурил погасшую трубку. — Вообще-то она связана с совсем другой командой, заданной в самом начале работы над проектом. Тэрнер явно боялся, что кто-нибудь украдет его идею, а потому придумал две уловки. Во-первых, он поставил голосовой замок на свой программный терминал. Во-вторых, он проинструктировал компьютер держать проект в тайне от любого, кто не входит в программу с его терминала. Здесь он предельно ясно приказал компьютеру охранять секрет всеми силами, имеющимися в его распоряжении.

— И каким образом ЭВМ собиралась выполнять его приказы? — спросил Хосато.

— Давая в ответ на вопросы бессмысленную или ложную информацию, — сообщила ему Саша. — Это великолепный компьютер и при желании умело уклоняется от вопросов. Однако я не могу понять: какое отношение это имеет к случившемуся? Большинству управляющих линиями при начале работы над новым проектом давали указания держать все данные в секрете. Они все просто свихнулись на этой почве. Чем же отличаются инструкции Тэрнера от любых других?

— Саша, ты права в том, что сами по себе эти команды весьма невинны, — согласился Мадьяр, — но проблема возникает, если к этому добавить предоставленную компьютеру возможность убивать.