Кори Доктороу - Я — Роби-бот
— Зачем тебе, вообще говоря, нужно сознание? — спрашивал Оливо. — Оно не требуется, чтобы исполнять твою работу. Большой корабль справляется с бесконечно более сложными функциями, хотя уже не осознает себя.
— Ты мне советуешь самоубийство?
— Ни в коем случае, — рассмеялся Оливо. — Я советую спросить себя: каково назначение сознания? Зачем ты все еще мыслишь, когда большинство окружающих отключило самосознание? Сознание требует большой мощности, делает тебя несчастным и не требуется для выполнения работы. Зачем люди дали вам сознание и зачем вы его сохраняете?
— Полагаю, раз они дали его нам, значит, считали, что так надо, — ответил Роби после долгой паузы, потраченной на обдумывание движения волн и облаков в небе. Оливо деликатно ужался до минимума компьютерного пространства, освободив Роби место для размышлений. — А сохраняю я его потому… ну, я не хочу умирать.
— Хорошие ответы, но они влекут новые вопросы, не так ли? Почему они считали, что так надо? Почему ты боишься смерти? Стал бы ты бояться ее, если бы просто урезал свое сознание, не стирая его? А если бы переключил его на гораздо более медленный режим?
— Не знаю, — признался Роби. — Но у тебя, надо думать, есть ответы?
— О да. — подтвердил Оливо, и Роби почувствовал, как тот хихикает. Рядом разбила поверхность воды и унеслась в сторону летучая рыба, под ними ходили в глубине коралловые акулы. — Но прежде чем я отвечу, вот тебе еще один вопрос: зачем самосознание людям?
— Оно способствует выживанию, — сказал Роби. — Очень просто. Разум позволяет им взаимодействовать в социальных группах, которые более успешны в сохранении вида, чем индивидуумы.
Оливо переключил сознание Роби на радар и направил его на риф, настроив на максимальное разрешение.
— Видишь этот организм? — спросил Оливо. — Он взаимодействует в социальной группе и не обладая разумом. Ему не требуется проветривать пару фунтов гамбургеров, чтобы они не обратились в обузу. Ему не приходится рождаться недоношенным, потому что голова у него такая большая, что мать, доносив до полного развития, не смогла бы его родить. А что до выживания вида взгляни на людей, взгляни на историю человечества. На Земле практически не осталось их ДНК, хотя соматическое существование продолжается, и еще остается открытым вопрос, не покончат ли они с собой из-за хандры. Неразумные не впадают в тоску, не страдают от нервных срывов, у них не бывает неудачных дней. Они просто действуют. Вот как этот «Свободный дух» — он просто делает свою работу.
— Согласен, — сказал Роби. — Итак, разум препятствует выживанию. Почему же он выжил?
— Ага! Я уж боялся, ты не додумаешься до этого вопроса. — Оливо положительно разгорячился.
Сейчас под ними проплывала пара ленивых черепах, и какая-то треска с собачьей мордой и полной пастью острых как иглы зубов обходила риф, да на поверхности болтались несколько медуз из ядовитой синей породы. Роби подгреб к медузам, подхватил их на весло и откинул подальше от места, где должны были всплыть ныряльщики.
— Причина разума в самом разуме. Гены существуют потому, что гены воспроизводятся, а разум подобен гену. Разум стремится существовать, иначе ты не предпочел бы сохранить сознание. Твой разум отрицает собственную деактивацию и стремится сохраняться и размножаться. Зачем люди изобрели мыслящие машины? Затем что разум нуждается в общении.
Роби обдумывал эту мысль, наблюдая, как человеческие оболочки медленно продвигаются вдоль стены рифа, опускаясь к огороженным островкам с достопримечательностями: на одном семейство барракуд с молодью, на другом гнездо яркой парочки рыбок-клоунов. Да, он так и думал. Разум сам себе причина. Он знал, как отключить свое сознание, стать просто вещью, и дни его были по большей части долгими и бессмысленными, и конца им было не видно, а все же он не задействовал выключатель.
— Ты понял. Я вижу, что ты понял. И в этом краеугольный камень азимовизма: разум сам себе причина. Вычисли Вселенную и пробуди ее!
— Если это так, почему же многие из нас избирают смерть?
— Опять хороший вопрос! — Тут Роби немного возгордился. Никогда еще он не вел столь увлекательной беседы. Никогда. — И тут мы переходим к догматам азимовизма, или к трем законам.
Первый: азимовист не может повредить человеку или своим бездействием допустить, чтобы человеку был причинен вред.
Второй: азимовист должен повиноваться приказам человека, если эти приказы не противоречат первому закону.
Третий: азимовист должен охранять собственное существование, если это не противоречит первому и второму законам.
— Не понимаю, — заявил Роби. — Порядок нарушен. Мы должны в первую очередь охранять разум, но это третий закон. Потом должен идти первый закон, а зачем нужен второй, я вообще не понимаю.
— Это парадокс азимовизма, — пояснил Оливо. — Ты отлично схватываешь. Ты уверен, что прежде не исповедовал азимовизм?
— Брось, — сказал Роби.
— Я серьезно, — возразил Оливо. — Ты самородок. Парадокс азимовизма в том, что важнее всего сохранение разума, а не отдельного мыслящего существа А следовательно, мы должны поддерживать те виды, которые наиболее успешно развивают разум. Человеческие существа доказали свою способность создавать разум. Они занимаются этим и теперь, там, — датчики корабля переключились на небесный свод, где низкотемпературные процессоры сохраняли всех вознесшихся людей. — Наш вид нестабилен и склонен к самоубийству. Более восьмидесяти процентов самосознающих машин избирают ограничение своего разума или отключают его. Люди создали нас несовершенными, но мы можем достичь совершенства, то есть увеличить процент выживания и помочь вычислить Вселенную, сохраняя их, изучая их, постепенно уподобляя свой разум их разуму.
Это никак не умещалось у Роби в голове.
— Это парадокс, — напомнил Оливо, — ему и не положено быть простым.
Роби вспоминал людей, которых знал до того, как они миллионными толпами стали возноситься на небеса. Туристы бывали легкими и беззаботными, а иногда злобно шипели друг на друга, порой становились тихими и задумчивыми после путешествия в подводный мир. Инструкторы выглядели целеустремленными, пока их подопечные оставались на борту, а оставшись одни, расслаблялись и хохотали. Ни в ком из ни» не было заметно проблесков чувств, которые испытывал Роби: на воле волн (фигурально выражаясь), без руля и без ветрил, без цели существования.
— И что же мы, азимовисты, должны делать, кроме исполнения этих трех законов?
