Конни Уиллис - Дилемма
В нас установлены новейшие лингвистические системы, поэтому мы всегда правильно истолковываем ситуацию и не становимся жертвой семантических дилемм, как это случалось с роботами прежних моделей.
— Как в вашем великолепном рассказе «Маленький потерявшийся робот», напомнил установщик книг на полку, — в котором роботу сказали: исчезни. И он исчез, не понимая, что человек, обращавшийся к нему, говорил фигурально да еще со зла.
— Понятно, — кивнул Азимов. — Но, допустим, вы неправильно истолкуете ситуацию, установщик книг на полку, составитель библиотечного каталога, читатель, рецензент и фило… Нет у вас какого-нибудь прозвища или чего-то такого? Очень уж длинное у вас название.
— У более ранних роботов были прозвища, которые основывались на первых буквах порядкового номера, совсем как в вашем замечательном рассказе «Причина», в котором робота QT-1 называли Кьюти. У роботов Девятого поколения нет порядковых номеров.
Каждый из нас программируется индивидуально и называется по своим основным функциям.
— Но вы же не можете называть себя составитель библиотечного каталога, установщик книг на полку, читатель, рецензент и филолог?
— О нет, сэр. Мы даем себе имена. Я — Дарий.
— Дарий? — переспросил Азимов.
— Да, сэр. Я взял себе имя Дария Справедливого, писателя и детектива из вашего превосходного детективного романа «Убийство в „АБА“». Я буду счастлив, если вы станете называть меня этим именем.
— А меня вы можете называть Бел Риоз, — предложил статистик.
— Из «Академии», — тут же напомнил установщик книг на полку.
— Бел Риоз охарактеризован в первой главе как «равный Пьюрифою в стратегических способностях, но превосходящий его в умении руководить людьми», — добавил статистик.
— Вы все берете себе имена персонажей моих книг? — спросил Азимов.
— Разумеется, — ответил установщик книг на полку. — Мы стараемся соответствовать им. Вот медицинский помощник называет себя доктором Дювалем из «Фантастического путешествия», потрясающего, кстати, романа, очень динамичного, захватывающего внимание читателя с первой же страницы.
— Роботы Девятого поколения иногда могут неправильно истолковать ситуацию, — бухгалтер вернулся к вопросу, заданному Азимовым. — Как случается и с людьми, но даже без Первого Закона наши действия не могут представлять опасности для человеческих существ. В наши программы заложены очень строгие моральные принципы. Я знаю, вы не обидитесь, если я скажу…
— Разумеется, вы не можете этого сказать. Первый Закон такого не допускает, — прервал его доктор Азимов.
— Да, сэр, но я должен сказать, что все Три Закона очень примитивны. Они нарушают первую заповедь логики и законотворчества тем, что не оговаривают условий, при которых действуют. Наше моральное программирование куда более прогрессивное. Оно определяет цель всех Трех Законов и перечисляет все исключения из них, к примеру, ситуацию, когда лучше схватить человека и, возможно, сломать ему руку, чем позволить ему перелезть через монорельс перед мчащимся поездом.
— Что-то я вас не понимаю, — покачал головой Азимов. — Если у вас такое сложное программное обеспечение, почему оно не может истолковать цель Первого Закона и действовать в полном соответствии с этим толкованием?
— Три Закона заложены в аппаратные блоки, поэтому переступить через них нельзя. В Первом Законе не сказано: «Вы можете причинить человеку минимальный вред ради того, чтобы спасти ему жизнь».
Первый Закон гласит: «Нельзя причинять человеку вред». То есть второго толкования тут быть не может.
Вот медицинский помощник не может быть хирургом, а статистик не может разрабатывать атакующие схемы.
— А кем хотите быть вы? Политиком?
— Уже половина пятого, — подала голос Сьюзен и вновь озабоченно взглянула на дверь в приемную. — Обед в отеле «Трентор», и вам надо прибыть туда не позднее пяти сорока пяти.
— Вчера вечером я явился на прием на час раньше.
И не встретил никого, кроме официантов. — Азимов вновь повернулся к бухгалтеру: — Так что вы сказали?
— Я хочу быть литературным критиком, — сказал установщик книг на полку. — Вы даже представить себе не можете, насколько плохи дела с литературной критикой. Большинство критиков малообразованны, некоторые даже не читают книг, достоинства и недостатки которых им положено оценить.
Дверь из коридора в приемную открылась. Сьюзен повернула голову.
— Доктор Азимов, это Глория Уэстон. Я забыла сказать вам, что пригласила ее на четыре часа.
— Забыла? — удивился Азимов. — Но уже половина пятого.
— Она опоздала. Позвонила вчера вечером. Должно быть, я забыла внести ее в расписание ваших встреч.
— Что ж, скажи, что я не смогу ее принять и назначь ей другое время. Я хочу продолжить этот разговор о литературной критике. Давненько мне не приходилось беседовать с профессионалом.
— Мисс Уэстон приехала из Калифорнии.
— Калифорнии? И по какому поводу?
— Она хочет запустить вашу новую книгу в спутниковую серию.
— «Азимовский путеводитель по путеводителям Азимова»?
— Не знаю. Она сказала: новую книгу.
— Ты забыла, — задумчиво покивал Азимов. — Хорошо, раз она приехала из Калифорнии, я ее приму.
Господа, сможете вы прийти завтра утром?
— Завтра утром вы будете в Бостоне, сэр.
— Как насчет второй половины завтрашнего дня?
— До шести у вас несколько встреч, а в семь вечера вас ждут Американские мастера детектива.
— Понятно. И ты захочешь, чтобы я подъехал туда к полудню, — он медленно поднялся из-за стола. — Что ж, придется перенести нашу встречу на пятницу.
Пусть Сьюзен внесет вас в расписание. И проследите, чтобы она об этом не забыла.
Роботы обменялись рукопожатием с доктором Азимовым и вышли из кабинета.
— Позволите пригласить мисс Уэстон?
— Неправильное истолкование ситуаций, — пробормотал Азимов. — Неполная информация.
— Простите, сэр?
— Неважно. Я о том, что сказал бухгалтер. Почему он хочет отменить Первый Закон?
— Я приглашу мисс Уэстон.
— Я уже здесь, Айзек, дорогой, — Глория переступила порог. — Спешу сообщить тебе о моей фантастической идее. Как только выйдут «Последние опасные видения», я хочу включить их в макси-серию.
К тому времени, как Сьюзен вернулась за свой стол, бухгалтер уже ушел и не возвращался до следующего утра.
— Вся пятница у доктора Азимова занята, — такими словами встретила его Сьюзен.
— Я пришел не для того, чтобы договариваться о встрече с доктором Азимовым.
