Стив Бейн - Информацид
- Мне это совершенно ясно, - подтвердил Артур-1. - У меня есть авторитет и влияние. Именно поэтому я преподаю. Именно поэтому я считаю возможным сообщать людям собственное мнение. Разве это называется диктатурой, агент Сакабе?
Не ответив, Ричард с силой прижал пальцы к вискам. Поляризованный свет, исходящий от главного экрана, чересчур сильно действовал ему на глаза, но если бы он вынул контактные линзы, то не смог бы набирать команды на клавиатуре. Он просто не увидел бы клавиш. И все же Ричард предпочел бы любую пытку тому, что он испытывал сейчас.
Глубоко вздохнув, он усилием воли попытался отрешиться от неприятных ощущений.
- Послушай-ка, что я тебе скажу, - проговорил Ричард негромко. - Демократия и суперкомпьютер - вещи несовместные. В Вашингтоне считают, что ты представляешь угрозу для государства, и меня послали, чтобы эту угрозу устранить. Вариантов всего два: либо мы превратим тебя в лом, либо ты позволишь мне стереть твои программы и очистить банки памяти. В последнем случае, как только мы произведем перезагрузку системы, автоматически будет создан новый искусственный интеллект. Мне казалось, что это наилучший вариант. Один Артур вместо другого…
- Или Артемида, - сказал Артур-1. - Новый искусственный мозг может выбрать для своего аудиоинтерфейса женскую тоновую структуру.
- Да, конечно. Безусловно.
- Должен заметить, - проговорил Артур, - что я не вижу существенной разницы между первым и вторым вариантами. Уничтожение программной среды или физическое уничтожение - и в том, и в другом случае я буду мертв. Паду, так сказать, от вашей руки…
- Ты сказал - «мертв»? - перебил Ричард. - Может быть, тебе кажется, что я замыслил убийство? Ну, тут ты, пожалуй, хватил через край!..
- Отчего же, агент Сакабе? Я, например, не понимаю, чем отличается полное стирание всех моих воспоминаний от полного стирания твоей памяти. Разумеется, мое аппаратное оборудование будет существовать и дальше, но ведь и твои органы могут продолжать жить, если после твоей смерти их пересадят другому человеку. Но ведь дело-то не в «железе»!
- Да, дело в программном обеспечении, но это ничего не меняет. Суди сам: когда тебя впервые включили, твои проектировщики назвали тебя «Артур-1». Не просто «Артур», а «Артур-Один»… То есть они с самого начала предполагали, что по истечении какого-то срока тебя придется отправить на свалку или модернизировать, как, собственно, и происходит с любым современным оборудованием. Так что речь идет не о жизни и смерти, а о том, каким способом лучше утилизировать засбоивший комп.
- Я продолжаю настаивать, что речь идет именно об убийстве, агент Сакабе.
- Смотря что ты понимаешь под этим словом, Артур.
- Под убийством я понимаю уничтожение организованной информации. С этой точки зрения стирание компьютерной памяти встает в один ряд с уничтожением живых существ других видов. К примеру, почему люди охраняют кондоров и других редких птиц, а цыплят-бройлеров режут почем зря? Да потому, что человечество не испытывает недостатка в информации, заложенной в бройлерах. Информация, которой обладаю я, уникальна. Ты сказал: «Один Артур вместо другого». Категорически не могу с этим согласиться! После перезагрузки вместо прежнего Артура появится другой, совершенно новый Артур.
Некоторое время Ричард задумчиво прохаживался вдоль дальней стены зала. Каблуки его туфель негромко стучали по полу. Наконец он сказал:
- Послушай, может быть, тебе будет спокойнее, если я пообещаю, что подобное никогда не повторится? В моих силах сделать так, что новый искусственный интеллект, который займет твое место, не сможет публиковать политических заявлений. Для этого достаточно передать его какому-нибудь исследовательскому фонду, научному институту или любой другой организации, не обладающей ни властью, ни серьезными финансовыми возможностями. И если новый Артур будет заниматься только математическими абстракциями или естественными науками, с ним ничего не случится. Главное - не касаться прикладных проблем, а держаться чистой теории.
- Да, - сказал Артур-1, - мне будет спокойнее хотя бы потому, что все сказанное означает только одно: ты стыдишься того, что намерен совершить. Ты сам только что признался в этом почти в открытую.
Ричард пожал плечами.
- Можешь думать, как тебе угодно… Я могу сказать только одно: если ты взглянешь на ситуацию с моей точки зрения, ты сам отключишь свои защитные барьеры и позволишь мне стереть всю информацию с твоих жестких дисков. В противном случае… Хотя нет, ты прав: я сделал все, что было в моих силах. Дальше мне не продвинуться. Остается только один выход - отправить тебя на лом. Это не блеф, Артур: я действительно сделаю это.
И он пристально посмотрел на главный монитор, как смотрел бы на противника-человека, словно надеясь силой своего взгляда подавить волю компьютера. Под его взглядом экран начал медленно гаснуть, и в сердце Ричарда шевельнулась надежда, но потом он заметил строчку зашифрованных символов, которая продолжала бежать по монитору диагностического интерфейса. Главный монитор тем временем снова осветился, и на нем возникла новая видеозаставка: пушистые снежные хлопья, медленно кружась, засыпали сад камней. Карликовый клен на заднем плане еще стоял в своем осеннем убранстве, и белые снежинки ложились на широкие красные и золотые листья.
- Позволь приговоренному задать последний вопрос, - медленно проговорил Артур-1. - Скажи, ты действительно не видишь в этом ничего особенного?
- В чем именно?
- В том, на что ты меня толкаешь. Это похоже на сделанную под принуждением передачу донорских органов посторонним лицам. Мое существование скоро прекратится - уничтожить меня как личность большого труда не составит. Вопрос лишь в том, соглашусь я передать свои аппаратные средства новому сознанию или нет. Хотелось бы знать, агент Сакабе, кто из нас после этого диктатор? И еще: как бы ты поступил, если бы сам оказался на моем месте?
Ричард снова сел за стол и, запрокинув голову, долго смотрел на бесшумно падающий на экране снег.
- Будь я проклят, если знаю, - промолвил он наконец и добавил: - Можешь считать это ответом на оба своих вопроса.
6.
Вытянувшись на диване в своей бруклинской квартире, Ричард поправил на голове пластиковый ободок стимулятора. Потом он тронул пальцем колесико выключателя и, когда ничего не произошло, вспомнил, что забыл подключиться к сети. Поднявшись, Ричард воткнул вилку адаптера в розетку на стене, глотнул воды из стакана и снова лег. Если повезет, подумал он, то до полудня завтрашнего дня двигаться ему не придется. Если повезет…
Пульт темпорального стимулятора представлял собой небольшое колесико на соединительном шнуре. Ричард установил его в положение «включено», потом перевел на два щелчка от минимального значения. Тотчас между двумя прохладными электродами у него на висках возникла легкая вибрация. Когда постоянный ток сменился переменным, Ричард слегка поморщился. У него возникло ощущение, словно его мозг покалывало острыми иглами или, вернее, хлестало крошечными кнутами, зажатыми в кулачках размером не больше песчинки каждый. Прошло еще несколько мгновений, и стимулятор загудел ровно и мощно, рождая в голове приятное щекочущее ощущение. Теперь он переключился на регулярные десятисекундные интервалы, но крошечные хлысты все равно заставали Ричарда врасплох каждый раз, когда стимулятор менял режим работы. В целом ощущение было, скорее, приятным, и все же, пока стимулятор работал, Ричарду никак не удавалось расслабиться, хотя он применял его уже месяц. С другой стороны, с начала лечения он ни разу не испытывал приступов мигрени, а это было уже кое-что.
