Впрочем, если нам и удастся сконструировать и построить роботов, которые будут казаться нам умными, весьма сомнительно, что их можно будет считать разумными в том смысле, в каком разумен человек. Во-первых, их «мозг» сделан из материалов, отличающихся от тех, из которых «построен» наш мозг. Во-вторых, их мозг будет состоять из различных компонентов, соединенных и систематизированных совсем не так, как у нас. К тому же почти наверняка робот станет подходить к проблеме, которую ему следует решить, совершенно иначе.

Разумность робота и человека могут настолько отличаться друг от друга, что на свет, вполне возможно, появится новая наука – «робопсихология». Вот тут-то и придет время Сьюзен Кэлвин. Именно она и ее коллеги смогут разобраться в проблемах, решить которые обычные психологи будут не в силах. Эта область знаний может оказаться самой важной во всей роботехнике, поскольку, если мы сумеем детально изучить два совершенно разных интеллекта, возможно, мы научимся понимать, что такое интеллект в гораздо более фундаментальном и широком смысле, чем это возможно сейчас. И что самое главное, мы сумеем лучше понять, что представляет собой интеллект человека, а это практически невозможно сделать, изучая только его.

Робот, как враг?

В 1942 году я изобрел Три закона роботехники. Самым важным из них является, естественно, Первый закон. Он гласит: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред». В своих рассказах я всегда старался подчеркнуть, что законы, особенно Первый, являются неотъемлемой частью робота, и он не может их нарушить.

Кроме того, я старался, хотя, возможно, и не так настойчиво, дать понять своим читателям, что эти законы не являются врожденными. Материал, из которых сделан робот, не содержит в себе этих законов. Они совершенно сознательно вносятся в мозг готового робота, иными словами, в компьютеры, которые контролируют его деятельность. Может так получиться, что какой-то определенный робот окажется не наделен знанием Трех законов, поскольку его примитивная конструкция не позволяет внести в него поведенческие схемы, достаточно сложные, чтобы он был вынужден им подчиняться, или поскольку человек, который создает робота, решит сознательно не вносить в его мозг знание Трех законов.

Пока – и, возможно, так будет еще достаточно долго – мы имеем дело с первой причиной. Роботы слишком примитивны, чтобы предвидеть, что какой-то их поступок может причинить вред человеку, и изменить свое поведение, чтобы этого не произошло. В настоящий момент у нас имеются лишь компьютеризированные устройства, которые способны выполнять набор определенных действий и не могут отойти в сторону от данных им инструкций. В результате роботы уже стали причиной смерти людей (как, впрочем, и обычные машины). Это ужасно, но вполне объяснимо, и мы можем предполагать, что по мере создания роботов с более сложной системой восприятия и способностью гибкого реагирования на изменение ситуации увеличится вероятность того, что в них будут внесены защитные блоки, эквивалентные Трем законам.

А как насчет второй альтернативы? Станут ли люди сознательно создавать роботов, не наделяя их знанием Законов роботехники? Боюсь, что такая возможность тоже существует. Уже идут разговоры о роботах-охранниках. Роботы могут патрулировать какие-нибудь территории или даже охранять вестибюли.