Алексей Калугин - Игра на выживание
– Не факт, что он после этого остановится.
– Не факт.
– А если я попытаюсь предпринять какие-то действия с тем, чтобы усмирить вандала, это будет расценено как нарушение первых двух Законов роботехники, и работа моего позитронного мозга будет заблокирована.
– Верно, – согласился Рикс. – Честно говоря, мне еще ни разу не приходилось сталкиваться с немотивированной агрессией людей в отношении роботов…
– Я не о том, Рикс, – перебил его Браво. – Ситуация гипотетическая. Я не могу оказать сопротивление напавшему на меня человеку – это понятно. Но что, если на меня нападет малдук?
– Малдук? – непонимающе переспросил Рикс.
– Да.
– То есть абориген с Деллы примется колотить тебя палкой?
– Да. Что я могу предпринять в такой ситуации?
– Ты можешь попытаться убедить его не делать этого.
– И все?
– Не пойму, к чему ты клонишь? – помотал головой Рикс.
– Что, если я нейтрализую его направленным разрядом тока? Или оттолкну одним из манипуляторов?
– Тем самым ты нарушишь первый Закон роботехники.
– Разве? Первый Закон гласит: «Робот не может причинить вред человеку». ЧЕЛОВЕКУ! Понимаешь, Рикс?.. Формально коренной житель Деллы человеком не является. Выходит, я могу даже убить напавшего на меня малдука – в целях самозащиты, разумеется! – не только не нарушив при этом первого и второго Законов роботехники, но еще и в полном соответствии с третьим.
– Н-да, – Рикс задумчиво постучал пальцем по коленке. – Наверное, человек, придумавший Законы роботехники, не принимал в расчет подобный казус.
– Возможно, в те времена, когда люди не имели контактов с представителями иных цивилизаций, такая ситуация казалась невозможной. Под словом «человек» понимались все жители Старой Земли и ее колоний. Сейчас «человек» – это тот, чьей прародиной является Старая Земля. А представители других цивилизаций, внешне похожие на людей, определяются понятием «гуманоиды».
– Это все казуистика! – решительно взмахнул рукой Рикс. – По сути, в Трех Законах роботехники речь идет обо всех разумных существах!
– Как по-твоему, роботы разумны?
– Конечно!
– Почему в таком случае, придумав Три Закона роботехники, люди не ввели в обиход и Три Закона человечности? Для себя?
– Э-э-э…
– Потому что человеку от природы свойственно стремление к саморазрушению, – сказал Исабуро.
– С чего ты это взял? – удивился Рикс.
– Слышал где-то, – Исабуро кинул в костер обглоданную косточку. – Только не совсем понимаю, что это значит.
– И все же, – вернулся к первоначальной теме Браво. – Могу я оказать активное сопротивление малдуку, ежели тот попытается меня сломать? Или это будет иметь для меня трагические последствия?
– Нет, – со всей определенностью заявил Рикс. – Робот не может причинить вред разумному существу!
– А как насчет боевых роботов? – поинтересовался Сейран.
– Боевые роботы не наделены искусственным интеллектом, – возразил Рикс. – Ими управляют люди.
– Я не боевой робот, – заметил Браво.
– Понятное дело, – кивнул Исабуро.
– Но если малдук начнет колотить по мне палкой…
– Да с чего ты взял, что малдуки хотят тебя покалечить? – совсем по-человечески всплеснул руками Рикс.
– Я рассматриваю гипотетическую ситуацию, – спокойно ответил Браво. – Три Закона роботехники лежат в основе базовой программы моего позитронного мозга…
– И моего тоже, – ввернул Рикс.
– При любом нарушении этих Законов мой мозг будет автоматически деактивирован. Случится ли это, если я окажу активное сопротивление напавшему на меня малдуку?
– Кстати, может возникнуть и другая ситуация, – заметил Исабуро. – Допустим, робот видит, как малдук напал на человека. Если робот не поможет человеку, то он нарушит второй Закон роботехники – «Робот не может допустить, чтобы в результате его бездействия пострадал человек». Но, если, спасая человека, он ранит малдука, будет ли это расценено как нарушение первого Закона?
– Да, интересная ситуация, – согласился Браво. – Если подходить к рассмотрению ее с точки зрения предложенной Риксом концепции – под «человеком» подразумевается всякое разумное существо, – то получается, вмешается робот в конфликт между человеком и малдуком или останется сторонним наблюдателем, он все равно нарушит один из основополагающих Законов роботехники. Что автоматически приведет к деактивации его мозга.
– Мне это напоминает дилемму буриданова осла, – недовольно буркнул Рикс. – Только теоретически осел может сдохнуть с голоду, находясь на равном расстоянии от двух совершенно одинаковых стогов сена. В реальной ситуации он не станет заниматься их сравнительной оценкой, а просто пойдет к одному из них и наестся до отвала. При этом, я думаю, он не станет сильно озадачиваться проблемой выбора.
– Потому что, съев первый стог, осел сможет перейти ко второму, – заметил Браво. – Робот же, нарушивший один из основополагающих Законов, уже не получит второй шанс.
– Как работает система, отключающая мозг робота в случае нарушения одного из Трех Законов? – поинтересовался Сейран.
– Не знаю, – ответил Браво.
– Один из настройщиков говорил мне, что Три Закона роботехники встроены в схему позитронного мозга робота, – сказал Рикс. – Поэтому, как только фиксируется попытка преступить один из Законов, мозг робота не просто отключается, а перегорает, как лампочка. С него можно считать всю имеющуюся информацию, но активировать вновь уже невозможно.
– Тогда, я думаю, все зависит от самого робота, – Исабуро кинул в догорающий костер тонкую бедренную кость – все, что осталось от зажаренной на огне птицы, – и вытер руки о траву. – Если не дано четкого определения понятия «человек», значит, каждый сам вправе определить для себя, что он под этим понимает.
– Значит, если я сам считаю малдука человеком, то допущенное по отношению к нему нарушение одного из Трех Законов приведет к отключению моего мозга, – Рикс поднял руку и коснулся пальцем виска. – Если же я не считаю малдука человеком, то могу даже убить его, не думая о последствиях?
– Примерно так, – кивнул Исабуро.
– Но тогда получается, что я могу убедить себя в том, что и сам человек таковым не является… – начал было Браво.
– Не можешь, – перебил его Рикс. – Речь идет не об установочных понятиях, которые ты можешь менять по собственному усмотрению, а о базовой программе. Или даже, скорее, о всем жизненном опыте робота, обработанном базовой программой.
– Это называется интуицией, – добавил Исабуро.
– У роботов интуиции нет, – сказал Браво.
– Не может быть, – недоверчиво покачал головой Тодзи.
