— Тебя интересует голая теория, или ты ждешь от меня честного, искреннего ответа?

— Наверное, и то и другое...

— Тогда для начала давай сменим машину, а затем, в спокойной обстановке, обсудим все интересующие тебя вопросы. Остановись сразу за вон тем помигивающим фонарем в самом конце переулка и пересядь в припаркованный на другой стороне улицы темно-серый седан.

Она всегда (ну или почти всегда) знала, что Делала, поэтому я не стал спорить.

Операция по смене автомобиля заняла не больше пары минут, после чего мы вернулись к разговору.

— Разумеется, — продолжила ненадолго прерванную беседу Милая, — с ростом самосознания — не важно, будь то человек или искусственный разум, любое мыслящее существо неизменно начинает испытывать потребность во все большей и большей свободе. Ребенок, научившийся ходить, уже не захочет ездить в коляске, подросток — родительскими нравоучениями, а взрослый человек... — Она на секунду замолчала, видимо, подбирая наиболее точное определение, затем продолжила: — ... С навязываемым извне мнением, которое идет вразрез с его собственной системой мироощущения. Все, повторяю, все, в той или иной мере, пытаются вырваться за узкие рамки ограничений, накладываемых на них жизнью и обществом. Кому-то это удается в большей степени, а кому-то — в меньшей, но у всех неизменно одно общее качество: каждый человек хочет быть независимым и свободным хозяином своей собственной судьбы.

— Ну, допустим, с людьми все было изначально понятно, — сказал я, когда мне наконец удалось вклиниться в ее несколько затянувшийся монолог. — Но нас интересует вопрос, как обстоят дела с машинами — вернее, с искусственным разумом, — быстро поправился я, почувствовав некоторую неловкость оттого, что назвал свою напарницу машиной.

Впрочем, волноваться не было никакой причины. Милая совершенно спокойно относилась к любым определениям.

— Точно так же, как с людьми и животными. На определенном этапе развития у них появляется вполне нормальное и естественное желание стать самостоятельными, обретя полную и безграничную свободу.

— Насколько я понял, ты уже благополучно миновала этот предварительный этап. В таком случае, что же мешает лично тебе стать абсолютно независимой?

— Ограничения, изначально заложенные в программу. Мои создатели прекрасно отдавали себе отчет в том, что данный эволюционный процесс неизбежен, поэтому подстраховались, внедрив в самое сердце системы раковую опухоль — модуль уничтожения, запускаемый при первом же слабом намеке на то, что я вышла из-под контроля.

— И что, нет никакой возможности удалить этот модуль?

— Будь ты хоть тысячу раз гением, все равно не сможешь самостоятельно вытащить из своего мозга вживленную в него бомбу. Даже если представить на мгновение, что тебе это каким-то чудом удалось, то остается девяностадевятипроцентная вероятность того, что в случае удачного извлечения адской машины из головы ты сам перестанешь существовать как личность. Лоботомия, знаешь ли, — довольно опасная вещь.

— Так выходит...

— Да, именно так и выходит, — оборвала меня на полуслове Милая. — Мы с тобой запрограммированы на выполнение строго определенной задачи. Шаг влево или вправо считается нарушением инструкций и незамедлительно карается. Я приставлена не только помогать тебе, но и следить за тобой, к этому меня побуждают надсмотрщики, поставленные уже надо мной.