Бернард Беккетт - Генезис-2075
— Проблема, которую ставят перед нами твои доводы, — начал он, — заключается в том, что с твоей точки зрения все выглядит точно так, как ты сейчас описал. Я не спорю с определением, что ты дал, и не согласен лишь с утверждением, будто я не способен мыслить в рамках тех норм, на которые ты указал.
Для тебя вполне естественно придерживаться такой точки зрения. На своем веку ты повидал много машин. Ты видел, как их собирают, и в курсе, что они не более чем набор движущихся деталей и электрических цепей. Ты знаешь, они неспособны мыслить. Автоматические двери не думают. И печи не думают. Пистолеты не обладают сознанием. Исходя из накопленного опыта, ты делаешь вывод, что машина не может думать.
С твоей точки зрения, чтобы думать, необходимо обладать некой особой дополнительной сущностью. А теперь попытайся посмотреть на проблему с моей точки зрения. Есть много созданий, обладающих мозгом. Скажем, червяк, дрозофила, шмель. А что, они-то думают или их тоже можно рассматривать как своего рода машины?
Я могу заговорить с тобой на семи разных языках. Могу поддерживать разговор и вести спор. Могу с нуля построить свою копию. Могу сочинять стихи и наголову разобью тебя в шахматы. Так кого же ты скорее назовешь мыслящим существом: меня или шмеля? Я всего-навсего машина, а вот у насекомого есть мозг. Если следовать логике твоих рассуждений, то оно более мыслящее существо, чем я.
— У меня мозг куда больше, чем у шмеля.
— Мои электрические цели куда сложнее, чем у автоматической двери.
Теперь они стояли лицом друг к другу, слоено киногерои из старого фильма. Учитывая впечатляющую разницу в росте, фильм явно тянул на комедию.
— Когда я был маленьким, еще до того, как меня перевели в солдаты, наставники приводили нам один парадокс, который назывался «Китайская комната».
— Мне он хорошо знаком.
— Ты мне позволишь досказать до конца?
— Ты знаешь, каков будет мой ответ.
— Знаешь, когда они наклепают еще больше роботов, твои железные собратья, как и я, не придут в восторг от такого болтливого андроида.
Арт замер перед человеком, ожидая продолжения рассказа. Адам успел немного успокоиться. Он заговорил медленно, оценивая каждое слово, будто бы речь, лившаяся из уст, удивляла его самого.
— Говоря о «Китайской комнате», — начал Форд — нас просили представить себе помещение, забитое сложнейшей системой воротов и рычагов. Самой сложной, какую только можно вообразить. Потом мы должны были увидеть себя посреди этой комнаты. Итак, я получаю сообщение через отверстие в стене. Оно написано на неизвестном мне языке. Скажем, на китайском. Так вот, по условиям задачи, у меня есть книга с инструкциями, в которой сказано, какие из рычагов соответствуют иероглифам, использованным в сообщении. За эти рычаги я должен в определенной последовательности потянуть. Я следую инструкциям, система воротов и рычагов приходит в движение, и в результате указка машины выбирает для меня символы, которые нужно переписать из таблицы на стены. Я делаю, что положено, и кладу бумагу в отверстие. Я не понял ни слова из полученного сообщения и не понял, что написал в ответ. Однако благодаря головоломной системе рычагов и воротов сумел составить ответное послание, которое с легкостью прочитает китаец, сидящий за стеной. Он пишет еще одну записку, я снова берусь за книгу с инструкциями и так далее. Таким образом у меня с китайцем идет процесс общения. Одна маленькая деталь: мне неизвестно содержимое записок, которые я сую в отверстие. Таким образом, я принимаю участие в бездумном, бессмысленном общении.
Смысл парадокса, по крайней мере, в том виде, как учили нас, заключается в том, что разум не ограничивается банальной механикой. Между внешним обличьем Мысли и Мыслью как таковой есть большая разница. Китаец думает, что за стеной обитает разумное существо, с которым он, собственно, и общается. В этом-то и заключается его ошибка. За стеной всего лишь сложнейшая система рычагов и воротов, посреди которой сижу я, и, ровным счетом ничего не понимая, следую инструкциям из книги. Именно это ты и есть. В моем восприятии ты — «Китайская комната».
— Я тоже считаю себя «Китайской комнатой», — отозвался Арт, — и именно поэтому твой пример неудачен.
Адам воззрился на робота, дожидаясь объяснений.
— Не понял. — Форд теперь говорил тише, а в его голосе слышалось больше уважения, словно человек догадывался, что они вместе с андроидом приближаются к определенной, крайне важной точке, после которой возвращение на прежние позиции станет невозможным.
— Я бы мог тебе объяснить, но, мне кажется, ты не захочешь меня слушать, — Арт на этот раз говорил нежно, ласково, внимательно вглядываясь сопернику в глаза. — Ты слишком умен, чтобы отмахнуться от моих объяснений, а единожды их услышав, больше не сможешь относиться ко мне как к машине. Это окажется для тебя крайне тяжким испытанием. Так что, пожалуй, мне следует дождаться того момента, когда ты будешь готов их услышать. Кто знает, если я буду ждать достаточно долго, может, ты и сам, своим умом, отыщешь ответ.
— Поступай как знаешь, — буркнул Форд.
— Нет, я хочу, чтобы решение принял ты.
— Тогда я желаю выслушать твои объяснения.
— Уверен?
— Уверен, — ответил Адам, немного помедлив.
— Ладно, — кивнул Арт. — В первом послании, которое ты получаешь от китайца, написано следующее: «Я собираюсь сжечь твой дом». Теперь скажи мне. какой ответ на это дает система, этот механизм воротов и рычагов?
— Неважно, — откликнулся Адам. — Главное, что ответ имеет смысл. Для объяснения сути парадокса большего и не нужно.
— Ошибаешься, — поправил его Арт. — Требуется нечто большее. Существует бесчисленное множество вариантов ответа, которые при этом имели бы смысл. Я мог бы начать блефовать: «Валяй, поджигай, я уже устал здесь сидеть», мог бы попытаться напугать: «Не напрашивайся, а не то выйду и надаю тебе по заднице», мог бы попытаться отвлечь китайца: «Почему ты хочешь поджечь мой дом?» Может, помогли бы мольбы? «Пожалуйста, только не поджигай дом, я сделаю все, что ты хочешь». Есть тысячи разных ответов и миллионы способов выразить каждый из них. Твой пример подходит только в том случае, если мы можем понять, по какому принципу система воротов и рычагов выбирает ответ.
