Айзек Азимов - Мечты роботов
Разумеется, эти законы сформулированы в словах, что является в определенной степени несовершенством. В позитронном мозгу они выражены в сложных математических формулах (в которых я ничего не понимаю). Однако даже при этом они достаточно двусмысленны. Что считать вредом для человека? Должен ли робот подчиняться приказам, которые отдает ему ребенок, или сумасшедший, или человек с дурными намерениями? Должен ли он отдать свое дорогостоящее и полезное существование, чтобы предотвратить незначительный вред, который может быть причинен маловажному человеку? Что есть «незначительный» и что есть «маловажный»?
По мнению автора, эта двусмысленность не является недоработкой Трех законов. Если бы Три закона были идеальными и не вызывали никаких сомнений, разве могли бы мы писать наши рассказы? Именно в хитроумных закоулках сомнений и лежат сюжеты, которые становятся фундаментом — уж простите меня за каламбур — «Города роботов».
Я не старался облечь в слова Три закона в своем рассказе «Лжец», который появился в мае 1941 года. Однако в следующем рассказе под названием «Хоровод», появившемся в марте 1942 года, я уделил им самое пристальное внимание. В этом номере на седьмой строке страницы сто, один из героев говорит: «Теперь слушай. Начнем с Трех основных законов роботехники — трех правил, которые прочно закреплены в позитронном мозгу», и дальше я их цитирую. Насколько мне известно, это первое появление в печати слова «роботехника», которое я изобрел.
С тех пор в течение более чем сорока лет, когда я написал множество рассказов и романов о роботах, ни разу не возникло такой ситуации, чтобы мне пришлось модифицировать Три закона. Однако время шло, мои роботы становились более сложными и разносторонними, и я почувствовал, что можно внести кое-какие изменения. Таким образом, в «Роботах и Империи», романе, опубликованном в 1985 году, я заговорил о том, что в достаточной степени продвинутый робот может почувствовать себя обязанным предотвратить вред, который, возможно, будет причинен всему человечеству в целом, а не какому-то отдельному индивидууму. Я назвал его «Нулевым законом роботехники» и все еще продолжаю над ним работать.
Изобретение Трех законов роботехники — пожалуй, самый крупный вклад, внесенный мной в научную фантастику. Теперь их часто цитируют даже те, кто не имеет никакого отношения к данной области литературы, и уж точно можно сказать, что история роботехники не будет считаться полной без упоминания Трех законов. В 1985 году издательство «Джон Уайли и сыновья» опубликовало «Руководство по промышленной роботехнике» под редакцией Саймона Й. Нофа, и по просьбе главного редактора я написал вступление, касающееся Трех законов.
Сейчас авторы произведений научной фантастики произвели на свет целое море самых разнообразных идей, доступных остальным писателям. Именно по этой причине я никогда не возражал против того, чтобы мои коллеги, посвящающие свои произведения роботам, пользовались моими Тремя законами.
Однако я категорически выступал против прямого их цитирования другими авторами. Относитесь к Трем законам как к данности, но не повторяйте их — такова моя позиция. Понятия принадлежат всем, а слова — только мне!
Законы науки о человеке
Три моих первых романа о роботах были в основе своей посвящены таинственным убийствам, в роли детектива выступал Илайджа Бейли. Из этих трех во втором романе — «Обнаженное солнце» — местом преступления является запертая комната, в которой находят труп и никакого оружия, хотя с самого начала ясно, что спрятать или вынести оружие было невозможно.
Мне удалось придумать вполне удовлетворительное решение, но я больше никогда не писал ничего подобного.
Четвертый роман о роботах — «Роботы и Империя» — изначально не является историей о загадочном убийстве. Илайджа Бейли умер собственной смертью в преклонном возрасте, а дальше повествование поворачивает в сторону вселенной «Основания», так что становится ясно, что обе мои известные серии — о роботах и «Основание» — сливаются вместе в единое, расширенное целое. (Нет, я сделал это не случайно. Мною двигала необходимость, возникшая после написания в 1980-х годах продолжения серий, созданных в 1940-х и 1950-х.)
В «Роботах и империи» герой-робот по имени Жискар, которого я очень люблю, рассуждает о «Законах науки о человеке», могущей, по моему мнению, впоследствии положить начало науке психоистории, играющей существенную роль в серии «Основание».
Строго говоря, Законы науки о человеке должны являться описанием (в сжатой форме) поведения человека. Естественно, такого описания в природе не существует. Даже психологи, изучающие данные проблемы с научной точки зрения (по крайней мере, я на это очень надеюсь), не могут представить никаких «законов» и отделываются лишь длинными и запутанными рассуждениями на тему о том, что люди делают, по их мнению. Когда психолог говорит, что человек реагирует определенным образом на определенный стимулятор, он имеет в виду, что так происходит с некоторыми людьми в некоторый момент. Другие в другой момент могут вести себя иначе или вовсе никак не реагировать.
Если мы будем действительно дожидаться появления неких правил поведения человека с целью создания науки психоистории, я полагаю, мы будем вынуждены ждать очень долго.
В таком случае, что нам делать с Законами науки о человеке? Думаю, нужно потихоньку начать и постепенно развивать их — если у нас, конечно, получится.
Таким образом, в «Роботах и Империи» появляется робот Жискар, который поднимает эти вопросы. Будучи роботом, он должен смотреть на все происходящее с точки зрения Трех законов роботехники, которые жестко предписывают ему, как он должен себя вести, поскольку он обязан им подчиняться и не может их нарушить.
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться всем приказам, которые отдает человек, кроме тех случаев, когда эти приказы противоречат Первому закону.
3. Робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому и Второму законам.
Мне кажется, робот не может не думать о том, что человеческим существам следует вести себя таким образом, чтобы роботам стало легче выполнять эти Три закона.
По правде говоря, я считаю, что люди, придерживающиеся этических норм, должны стараться облегчить жизнь роботам, как на их месте поступили бы роботы. Данные размышления стали темой рассказа «Двухсотлетний человек», опубликованного в 1976 году. Один герой-человек говорит: