Рэй Брэдбери - Курсанты Академии
— А вы, я гляжу, хорошо осведомлены, — заметил Пауэлл.
Боруп хихикнул.
— Вы хотите сказать, для парня, который всю жизнь мотается в космосе? О нет, нет. Всем известно, какие споры вызывал этот проект, известны все «за» и "против".
— Они и до сих пор идут, — пробормотал Донован.
— Теперь, когда мы уже в пути, думаю, можно быть с вами более откровенными. Для нашей же пользы, — сказал Пауэлл. — Строго между нами… Если наша миссия провалится, то уже без разницы, просочится что-нибудь в средства массовой информации или нет, вот такое мое личное мнение, — он вытер с усов капли, образовавшиеся в результате испарения супа. — И я вовсе не уверен, что вы можете точно вспомнить, какие именно споры шли по поводу этого проекта, какая тогда началась заваруха. С тех пор прошло довольно много времени, и из сознания людей все выветрилось.
Просто еще одна группа роботов, вооруженных современной техникой, работает там, где-то очень далеко от Земли…
— Но зато страшно перспективное дело, — вставил Боруп. — Продукты извержения вулканов Ио невероятно богаты полезными ископаемыми, их там больше, чем на всех астероидах, вместе взятых, разве нет? Сильная радиация — вот главная проблема.
— Не только. Там вообще невероятно опасная, непредсказуемая ситуация, обусловленная условиями окружающей среды. Землетрясения, оползни, то и дело разверзаются новые кратеры, земля проваливается в каверны. И всему виной близость Юпитера. А потому для работы в таких условиях требуются роботы с невероятно высоким уровнем интеллекта. Собственно рабочие группы могут состоять из упрощенных моделей, ну разве что слегка модифицированных. Не так уж это и сложно — обеспечить их надежной защитой. Но во главе должен стоять куда более совершенный механизм, наделенный интеллектом, обширным запасом знаний, инициативой, способностью приспосабливаться… даже, если хотите, тем, что мы называем воображением. Снабдить его соответствующей позитронной начинкой не так уж и сложно. А вот защитить его «мозги» просто толстой оболочкой из надежного материала, по всей видимости, недостаточно. Нужны компенсационные устройства. И сразу же встает вопрос о компенсации их воздействия на работу мозга. И когда "Ю-Эс Роботе" подписывала контракт, полной уверенности в том, что при данном состоянии науки это возможно, не было.
— Да, я помню.
— Извините.
— Ничего страшного. А что еще нам остается делать, как не молоть языком? И лакомиться супом.
Кстати, на второе у нас мясные тефтели. Прошу вас, продолжайте.
— Да, так вот. Фирма представила нового робота, все испытания прошли просто превосходно. Да и вообще все шло отлично вплоть до недавнего момента. Похоже, он вдруг свихнулся, вот что… Перестал работать и несет всякую муть на тему того, что это опасно для Земли. Говорит, что ему, будто бы, было видение… Это ж надо!
— Ха! Примерно так я и думал!.. Скажите, а заменить его нечем?
— Не знаю. Но думаю, скорей всего, нет, — сказал Донован. — Джейк, или Джей-Кей-7, порядковый номер говорит о том, сколько у него было прототипов, был практически собран вручную. Стоит больше трех сенаторов, вместе взятых. Не какой-то там ширпотреб с поточной линии. Да и потом, как мы можем отправить туда очередного Джейка, если не выяснили, что случилось с первым?
— Кстати, первый может повлиять на нового, — мрачно заметил Пауэлл.
Боруп, похоже, был потрясен до глубины души, хотя старался и не показывать этого.
— Чтоб робот вмешивался в дела и нарушал тем самым приказы человека?..
— Да, это трудно представить, — кивнул Пауэллл. — Но давайте подумаем хорошенько. Ведь Джейк не только страшно ценный экземпляр, но и насущно необходим для осуществления проекта. И с учетом ситуации ему приданы особые полномочия в плане осуществления Третьего Закона. Он должен по мере сил защищать себя сам, причем неважно, чем следует пожертвовать при этом. Но, разумеется, его поведение не должно вступать в противоречия со Вторым Законом.
Он обязан выполнять доверенное ему задание, а также подчиняться всем приказам и распоряжениям, поступающим от человека, какими странными они бы ни показались. Но тут потенциал исполнения ниже. Что это означает на практике? Да то, что, если в данной конкретной ситуации, исходя из всего предшествующего опыта, ему вдруг покажется, что приказ ошибочен, он может подвергнуть его сомнению. Указать на ошибки. Ну, а если даже, невзирая на все это, ему прикажут продолжать действовать, он обязан подчиниться.
В случае же, если он остался один, то должен самостоятельно делать выводы и принимать решения, как вести работы на Йо… Так, теперь на тему этого так называемого умопомешательства или того, что с ним там случилось. Первый Закон при всех обстоятельствах остается превалирующим. Робот просто не может сознательно совершить то, что нанесет вред человеку, так уж запрограммирован. Равно как обязан сделать все, чтоб не допустить этого вреда с чей-либо другой стороны.
Иначе его позитронные мозги просто перегорят, — перечисляя все эти положения, Пауэлл старательно загибал пальцы. — И вы это, конечно, знаете. Все знают, но довольно часто законы эти входят во взаимное противоречие, и провести грань между тем, что разрешено, а что запрещено, очень сложно слишком уж она тонкая. И только специалист по психологии роботов может разобраться, что к чему.
— Кстати, и им это не всегда удается, — вставил Донован.
— Итак, что мы имеем в данном конкретном случае? Согласно уверениям Эдгара, робота-капитана команды, а он лгать нам не будет, Джейк убежден, будто бы "Проект Ио" приведет к смерти и разрушению, — продолжил Пауэлл. А потому он и остановил все работы. И лично я сильно сомневаюсь, что он послушается приказа продолжить их. Разве что каким-либо образом мы сумеем убедить его, что он ошибается. Он даже может не ответить на наши вызовы и сигналы.
По всей очевидности, он твердо убежден, что это его долг — активно противостоять всем дальнейшим работам. Одним словом, самый настоящий саботаж. А поскольку он наделен высочайшим для робота уровнем интеллекта и способностями, если, конечно, за это время что-то не разладилось в столь совершенном механизме, то Третий Закон превращает его в весьма осторожное, хитрое и чрезвычайно опасное существо.
— И вы пока что не знаете, как утихомирить это самое существо? — Спросил Боруп.
Пауэлл нахмурился. И после долгой паузы ответил:
— Мы не можем приземлиться на этом корабле на Ио и искать его там. Нам просто не выжить. Эдгар с его командой предназначены для проведения работ, в лучшем случае могут помочь нам произвести разгрузку или погрузку. Так что толку от них немного. А организовывать охоту на взбунтовавшегося робота это чудовищно долго и дорого. Каждый день простоя шахт стоит огромных денег, что же касается политических последствий, если разразится скандал… — он пожал плечами.
