Клод Шенисс - Конфликт законов
Шенисс Клод
Конфликт законов
Клод Ф. Шенисс
КОНФЛИКТ ЗАКОНОВ
Перевел с французского Л. Токарев
XX век стал свидетелем рождения вычислительных машин. А заодно всех тех глупостей на их счет, которые смогли придумать люди. "Думающие машины", "электронный мозг", "сверхмозг" - чего только ни наговорили о вычислительных машинах восторженные научные обозреватели! Из того, что с каким-нибудь No 1440 можно было сыграть простенькую партию в шахматы, что какой-нибудь No 360-30 мог по отрывку в несколько строк установить автора неизвестного текста, неспециалист с легкостью делал довольно поспешные выводы, приписывая этим простым инструментам,- чуть более усовершенствованным, нежели пилочка для ногтей или повсюду распространенные клещи,- но все-таки инструментам, сущностную характеристику человека; свободу в принятии решений.
Даже появление со временем у вычислительных машин свободы в выборе между различными возможными способами решения определенной задачи ничего не изменило в этом глазном различии машины и человека.
В следующем веке беспрестанное уменьшение размеров приборов, снижение себестоимости электронного оборудования, необходимость с началом исследования планет осуществлять всевозможные виды работ во враждебной человеку среде привели к воплощению древней мечты человечества - к созданию робота.
В великий миг всеобщего энтузиазма и похвал Карелу Чапеку, сотворившему название "робот", электронное устройство первого из роботов окрестили Карелом (Carel) 1. [ 1 Karel и аббревиатура Carel, что означает "счетно-решающее устройство со свободно вырабатываемыми реакциями"]
Но и эта свобода была относительной и не превышала пределы той свободы, какой обладает каждый инструмент, повинующийся воле того, кто им пользуется.
Простой инструмент, например, молоток не имеет предохранительного приспособления, которое помешало бы человеку ударять себя по пальцам. Более сложный инструмент, вроде бумагорезальной машины, останавливается, если рабочий по рассеянности забыл убрать руки со стопы бумаги, которую ему нужно разрезать. Инструмент очень сложный, к примеру, Карел (или, точнее, отдаленно напоминающий человека механизм, приводимый в движение Карелом) содержит многочисленные предохранительные устройства, преследующие лишь одну цель: помешать, чтобы человек ударял себя по пальцам этой новой "игрушкой".
Самые важные из этих принципов были сформулированы в виде законов в 1940 году ученым, намного опередившим свое время,- Азеком Азимовым, которому и посвящается этот рассказ.
Но во-первых, всего не учтешь... а, во-вторых, тот, кто хочет делать все слишком хорошо...
* * *
Жизнь на планете Процион - райской никак не назовешь, особенно для землян; правда, местные обитатели с их жизненными циклами, основанными на кремне-фтористых реакциях, принимали ванны из фтористоводородной кислоты и потому чувствовали себя совсем неплохо. Но, это - уже другая история.
Впрочем, эти любезные и гостеприимные "туземцы" по своему развитию находились на уровне землян 1920 года. "Туземцы", едва лишь по радио был выработан код взаимопонимания, согласились на высадку землян и устройство их базы - герметического с привычной кислородной атмосферой бронированного шара, который, чтобы выдерживать фтористые ураганы, был закреплен на скале.
Иногда проционианцы, дружески любопытствуя, приходили разглядывать сквозь двойные стекла, устроенные так, чтобы противостоять едкости кислорода и фтора и заполненные в междурамье инертным газом, страшных чудовищ, дышащих кислородом и пьющих окись водорода. Рассматривать этих "монстров", чья дикость доходила до того, что они свою окись водорода называли "водой"! Но и это совсем другая история.
В тот момент на базе, которая, несмотря на свои крепления, сотрясалась под яростными порывами фтора, находились трое очень раздосадованных землян. Двое были "чудовищами", пьющими окись водорода (часто с примесью этанола: полковник медицинской службы Советской Армии, биолог и психолог экспедиции Борис Мужинский пил водку, а геолог, минералог и химик, американец Питер Говард предпочитал виски). Третий, тоже землянин, звался Карел 178, и ему-то приходилось хуже всех. Потому что с присущим всем Карелам острым чувством ответственности, он считал себя причиной всех неприятностей. Какая-то доля истины в этом была, хотя лично Карел был здесь совсем ни при чем.
Вчера вечером Питер проворчал: "Плохо себя чувствую. Боли в животе". Тогда Борис, гневно ткнув в Карела пальцем, приказал: "Карел, прочти мне Первый Закон роботов". Сказал он это по-французски; на этом языке он объяснялся с Питером.
Отдаленно напоминающая человека конструкция, вмонтированная в Карела, не была рассчитана на то, чтобы робот принимал разные "выражения лица"; зато Карел обладал крайне разнообразным голосовым регистром. Карел не "изменился в лице", но ответил удивленным, с жалобным оттенком голосом, которым обращаются к невыносимому ребенку: "Первый Закон: робот не должен причинять вреда человеку и оставаться бездеятельным, если человек подвергается опасности".
Карел был "добрым малым", но совершенно не воспринимал юмора (с тех пор роботов усовершенствовали). Когда русский врач заметил: "Значит, Карел, ты нарушил Первый закон",- робот издал какое-то странное бормотание, прежде чем глупо спросить: "Каким образом?"
"Угостив нас в полдень отвратительной американской едой, сосисками с соусом,- громко расхохотался Борис.- В итоге у Питера разболелся живот".
Питер, несмотря на свое недомогание,- пока это было лишь легкое недомогание,- заулыбался. Оба не были специалистами по роботам и не осознавали чудовищности того, что только что было сказано. Ведь для робота нет ничего более важного, чем Первый Закон. Всем следовало бы знать об этом, прежде чем бросаться шутками.
Шутками, которые могут разрушить дорогостоящий мозг какого-нибудь Карела и... спасти человеческую жизнь. А это - уже наша история.
Карел не был снабжен никаким устройством, чтобы бледнеть, но ответил он "побледневшим" голосом: "Вы считаете, доктор, что моя кухня причинила зло Питеру?"
Однако Борис, слишком занятый, чтобы сразу ответить Карелу,- он заставил американца лечь и внимательно прощупывал ему живот,- скорчил гримасу и констатировал: "Не вырезать аппендицит перед полетом в космос! Какая оплошность!"
* * *
Через двенадцать часов подтвердилась правильность его диагноза и необходимость срочной операции. Но драма возникла из серии отданных Карелу приказаний: прежде всего освободить стол, предназначенный для обедов и работы. Затем (в этот момент Борис своими сильными пальцами разминал ампулу с растворителем, чтобы распустить в нем тионентал): "Карел! Ступай в кладовую, пристегни новые руки и подогрей их на горелке!"
