Сергей Цветков - «ЕСЛИ» №6(208) 2010
— Ладно, значит, ты смоделировал человеческий мозг…
Уилл кивнул.
— Почему же он не обрел самосознание просто по своей природе?
Уилл снова занервничал.
— Я отключил несколько физических структур мозга. Те части, которые отвечают за… самосознание.
Следующий вопрос Макса выскользнул, прежде чем он успел закрыть рот:
— А отключение самосознания этично?
И тут же пожалел. Уилл отвернулся и стал энергично мерить шагами комнату, его длинные ноги пересекали небольшое помещение всего за три шага. Теперь Макс болезненно осознал, почему переживал Уилл: он бился над этим вопросом с самого начала. Проблема не давала ему покоя.
И ясно почему. В попытке соблюсти этические нормы Уилл, возможно, нанес больший вред. Смоделировал целый разум просто замечательно, но одна его часть оказалась неправильной, в каком-то смысле увечной. Не напоминает ли это одну из ужасных историй, где ребенка держат в подвале на цепи, никогда не разговаривают с несчастным созданием, лишь кидают ему скудные объедки? Если эти дети не воспротивятся такому положению как можно раньше, то уже не реабилитируются никогда, они безвозвратно потеряны.
Они остаются недочеловеками.
Макс опустил глаза на экран ноутбука, и его пробрала дрожь.
Испытывал ли запрограммированный разум, запертый в лежащей перед ним электронной упаковке, психологическую боль, страдания, которые он даже не может выразить?
Мрачные мысли Макса прервал голос Уилла — он говорил сам с собой, а возможно, с ним или просто вещал в пространство. Его взгляд был напряженно серьезен.
— Не просто. Совсем не просто. Не невозможно, но не просто. — Он снова принялся покусывать ноготь на большом пальце. — Самосознание есть личность. Личность — это история. Нельзя скачать из Сети. Родители. Детство. Родственники. Друзья. Знакомства. Воспоминания. Совсем не просто.
Наконец он остановился и повернулся к Максу с отчаянием в глазах:
— Нужна информация.
Макс нахмурился:
— Какая?..
Уилл снова зашагал туда-сюда и заговорил быстрее, словно не услышав товарища.
— Если мы собираемся дать ему самосознание, нам нужны история, индивидуальность, детство. Нужна информация. Громадные объемы данных.
По всей видимости, размышления закончились.
— Уилл, остановись на секунду. Какая информация? Для чего?
Уилл в задумчивости продолжал шагать, даже стал слегка подергиваться, словно пытаясь отогнать невидимых насекомых. Макс никогда не видел его столь взволнованным и собранным одновременно. Наконец Уилл остановился и наклонился к Максу так, что лицо оказалось в паре дюймов от его лица.
Потом он заговорил, медленно, будто Макс был несмышленым малышом:
— Макс, если я дам этому существу самосознание, то это всё, что ему осталось получить. Он будет как новорожденный — беспомощным, напуганным. Нет, даже хуже, у него окажется множество случайных знаний из Интернета, но никаких личных воспоминаний. Ни детства, ни памяти о том, как его любили и заботились о нем. Он будет несчастным. Возможно даже, психически неуравновешенным, я не знаю. — Уилл придвинулся еще ближе. — Если делать, то делать правильно. Надо найти способ дать ему детство, предварительно загрузить реальные воспоминания взросления и развития. Но для этого нам требуется детство, набитое впечатлениями, целое детство в цифровом формате. Нам нужна информация!
Для Макса эти слова оказались пусковым механизмом. Он вскочил с пола и схватил Уилла за плечи:
— В любом цифровом формате?
— Абсолютно. Оно уже говорит по-английски.
— Погоди секунду. Никуда не уходи, ладно?
Макс, не дождавшись ответа, бросился к двери, вылетел из комнаты и буквально бегом припустил по коридору до прихожей, где оставил сумку с ноутбуком.
Несколько секунд спустя Макс вернулся в комнату Уилла, уселся на пол и раскрыл свой ноутбук. Уилл терпеливо стоял над ним; круглые ленноновские очки делали его глаза похожими на совиные.
Макс сказал ему лишь одно слово:
— Дневник.
На лице Уилла не отразилось ничего.
— Мой дневник, Уилл. Тот, что я веду с семи лет. Он весь здесь.
Он открыл дневниковую папку и несколько минут просматривал файлы и архивы, собранные по годам и месяцам. Уилл смотрел на экран из-за его плеча.
Макс указал на список файлов:
— Здесь по одной записи в день. Иногда я писал на следующий день или даже несколькими днями позже, но всегда указывал дату и не пропускал ни дня.
— Сколько страниц в каждой?
Макс пожал плечами:
— Стараюсь писать как минимум по две.
Уилл удивленно поднял брови:
— Две страницы в день. Значит, их больше шести с половиной тысяч. — Он ухватился за несуществующую бороду и кивнул: — Это сгодится. — Потом посмотрел поверх очков на Макса: — А ты уверен, что это этично?
Макс с досадливым вздохом закатил глаза:
— Уилл! Это мой дневник!
Уилл очень серьезно взглянул на него:
— Ты уверен, Макс?
Макс подавил желание снова отвести глаза. Вместо этого он твердо ответил:
— Уверен, Уилл. Я беру на себя всю ответственность.
Уилл еще немного помолчал, потом схватил свой ноутбук и, скрючившись, уселся в углу. Согнутые ноги почти упирались коленками в подбородок — в таком положении он привык работать.
— Ладно, — еще немного подумав, решительно произнес Уилл. — Дай мне часок.
Макс улыбнулся. Тут потребуется уж точно гораздо больше одного часа.
Но здесь создавалась сама история.
Пока Уилл занимался программным обеспечением, Макс открыл в дневнике новый файл с сегодняшней датой, щелкнул костяшками пальцев и стал заносить события дня. Запись быстро раздулась в чрезвычайно подробное повествование, самое длинное из всех предыдущих — более десяти страниц. Но что поделаешь, ведь он документировал историю!
Было уже далеко за полночь, когда Макс закончил, и его глаза закрывались сами собой. Макс скопировал весь дневник на флешку и подошел к Уиллу, который казался полностью погруженным в свое программирование.
— Как дела? — спросил Макс, протягивая флешку.
— Еще несколько минут, — откликнулся Уилл и взял ее, не отрываясь от работы.
Макс знал, что это означает.
Он вытащил из шкафа спальный мешок и разложил его на полу. Макс старался не заснуть, но как только принял горизонтальное положение, его веки стали слипаться. Они попеременно скрывали и открывали повернутый на 90 градусов вид: Уилл, скрючившись над ноутбуком, сидит на ковре, согнув перед собой костлявые ноги. Две напольные лампы освещают потолок. Между ними висит плакат «R.E.M.» со звездами, и одна из них чуть поблескивает, как маяк, как путеводный символ…
Металлическая звезда… на нее загадывают желание механические люди, глядя в хромированное небо склепанного из стали мира.
А может, эта полусонная полубессмысленная полумысль подкралась к Максу на границе яви…
И он заснул.
* * *Проснувшись среди ночи, Макс преодолел минутное замешательство. Сначала он выхватил взглядом из темноты несколько основных контуров, потом узнал комнату Уилла. И наконец события вчерашнего вечера вертящейся каруселью ворвались в память.
Оно работает? Уилл закончил?
Он хотел разбудить товарища и спросить, но понимал, что не стоит этого делать: кто знает, сколько тот работал и когда улегся спать. Начинал он уже около полуночи.
Но посмотреть-то можно, верно? Если работа не закончена, программа не включится. Все, что Максу надо сделать, это открыть ноутбук, возможно, впечатать пару вопросов. Уилл спит очень крепко, ему это не помешает.
Как можно тише Макс вылез из спального мешка и добрался до угла, где лежал ноутбук Уилла. Он открыл крышку и вздрогнул, когда экран ожил. Даже черный фон командной строки казался необычно ярким, словно пребывал в напряженном ожидании. Когда глаза привыкли к контрасту, Макс разглядел тонкий белый курсор, мигающий в левом верхнем углу.
Видимо, Уилл оставил программу работать.
Дыхание Макса участилось.
Дело сделано!
Без колебаний он напечатал:
«Эй, привет!»
Потом подождал.
Ответ пришел нескоро.
«Привет. Как тебя зовут?»
Макс почувствовал глухие удары своего сердца.
Что там говорили по поводу первого в мире искусственного существа? Чего оно ожидает, о чем думает?
Что будет этичным?
Вот зараза! Тут следует быть поосторожнее. И почему он не подумал о таком повороте, перед тем как открыл проклятую крышку треклятого ноутбука?
Не стоит плакать над пролитой газировкой, Макс.
Через несколько долгих мгновений Макс решил, что наилучшим решением будет простой ответ, как при общении с нормальным человеком.
Он напечатал:
«Меня зовут Макс. А тебя?»
Ответ:
«Пока не могу сказать».
Макс почувствовал, что его сердце упало.
ИИ не знает своего имени. Функционирует, но не ощущает себя как личность. Перешел от «НЕДОПУСТИМОЙ ОПЕРАЦИИ» к «Пока не могу сказать». Великое достижение, нечего сказать, ура-ура! Потом Макс заметил показавшуюся на экране следующую строку.
