Роджер Пенроуз - Большое, малое и человеческий разум
Если операция А(р, п) завершена, то вычисление Сp(n) не закончено. (1)
Собственно говоря, в этом и заключается роль процедуры А — она должна давать неопровержимые доказательства того, что определенные вычисления не окончены.
Предположим далее, что р = п, в результате чего возникает хорошо известная и довольно забавная ситуация, известная под названием диагонализации Кантора (кстати, ее использование математически совершенно обоснованно), после которой мы вдруг приходим к следующему выводу:
Если операция А(п, п) завершена, то вычисление Сn(n) не закончено.
Но в данном случае A(п, п) зависит лишь от одного параметра п и, следовательно, принадлежит к набору вычислительных программ Сp(n) (поскольку этот список по определению включал в себя все вычисления, связанные с единственной переменной п). Предположим, что вычислительная программа, идентичная A(п, п), имела индекс k, т.е.
А(n, n) = Сk(n).
Положив n = k, мы тут же получаем
А(k, k) = Сk(k),
что в сочетании с условием (1) сразу приводит к заключению:
Если операция А(k, k) завершена, то вычисление Сk(k) не закончено.
Вспомнив, что А(k, k) совпадает с Сk(k), мы попадаем в логическую ловушку. Раз вычисление Сk(k) заканчивается, то оно не заканчивается (следовательно, оно заканчивается и т. д.). Ловушка заключается в том, что если мы доверяемся проверочной процедуре А, то должны верить и в то, что вычисление Сk(k) не закончено. Однако при этом процедура А тоже никак не может закончиться, т. е. «понять» наконец, что вычисление Сk(k) не кончается. Поэтому вычислительная процедура никак не может замкнуть цепочку математических рассуждений и решить, что заданное вычисление не заканчивается, т. е. установить истину П1-утверждения. В этом суть доводов Гёделя-Тьюринга в той форме, которая нужна мне для дальнейших рассуждений.
Вы можете подумать об общем смысле этого доказательства. Оно ясно демонстрирует, что математическое понимание и/или интуиция не могут быть закодированы в виде какого-то вычислительного процесса, в справедливости которого мы можем быть абсолютно уверены. Мне кажется, что приведенная формулировка наиболее ясным образом определяет сущность подхода Гёделя-Тьюринга, хотя некоторые придерживаются другой точки зрения. В этой связи интересно вспомнить, что писали сами эти авторы о полученном ими результате. Предлагаю вам одну из оценок Тьюринга:
«Другими словами, абсолютно безупречно работающая машина не может обладать интеллектом. Об этом свидетельствует ряд теорем, которые, однако, ничего не говорят о том, каким уровнем интеллекта может обладать машина, не претендующая на безошибочность и безупречность работы».
Таким образом, согласно Тьюрингу утверждения теоремы Гёделя-Тьюринга совместимы с идеей о том, что математиков можно действительно рассматривать в качестве компьютеров, если алгоритмические операции, выполняемые ими при выводе математических истин, не являются принципиально здравыми, обоснованными и разумными. Мы можем ограничиться рассмотрением лишь арифметических утверждений, например, лишь П1-высказываниями, которые представляют собой интересный, но весьма ограниченный тип утверждений. Мне кажется, что на самом деле Тьюринг верил в то, что человеческий мозг использует алгоритмы, но эти алгоритмы являются совершенно нерегулярными (именно в этом смысле они неразумны). Такая ситуация представляется неправдоподобной, поскольку она не только обескураживает, но и просто не позволяет понять, каким образом можно обсуждать что-то и приходить к каким-то выводам вообще. В любом случае точка зрения Тьюринга не внушает мне доверия, а в предложенной выше схеме (см. табл. 3.1) его рассуждения следует отнести к A-подходу.
Рассмотрим далее точку зрения Гёделя, которая в моей схеме относится к D-подходу. Обращаю ваше внимание на то, что при рассмотрении одних и тех же проблем Тьюринг и Гёдель приходят к совершенно противоположным выводам. И хотя Гёдель не верит, что математическое вдохновение можно свести к каким-то вычислительным операциям, он не отказывается от этой возможности достаточно четко и определенно. Он говорит:
«С другой стороны, на основе всего доказанного сохраняется возможность существования (и, может быть, даже эмпирического создания) машины, способной доказывать теоремы. В реальной жизни такая машина стала бы эквивалентом математической интуиции, однако это невозможно доказать аналогично тому, как в теории конечных чисел нельзя выводить только правильные теоремы».
Это высказывание явно намекает на существование «лазейки», позволяющей непосредственно использовать теорему Гёделя-Тьюринга для опровержения идей вычислимости (или функционализма). Лазейка заключается в том, что математик может пользоваться некоторым здравым и логичным алгоритмом, не будучи полностью уверен в его разумности. Таким образом, Гёдель видел лазейку в познавательной части алгоритмов, в то время как Тьюринг выделяет в алгоритмах именно их разумность.
Ни один из этих подходов не кажется мне убедительным. Теорема Гёделя-Тьюринга всего лишь утверждает, что если доказана разумность какой-то алгоритмической процедуры (для доказательства П1-утверждений), то можно немедленно получить некий результат, выходящий за рамки данной процедуры. Мы можем сделать это и сами, используя какую-либо другую алгоритмическую процедуру (о разумности которой мы ничего не знаем). Кроме этого возможно существование некой обучающейся машины, которая поможет нам в этом поиске. Эта проблема (и целая куча связанных с нею задач) довольно подробно рассматривается в моей книге «Тени разума», и поэтому я не буду повторять все доводы и рассуждения, а отмечу только два из них.
Главный вопрос заключается в том, каким образом возникает этот предполагаемый алгоритм? Можно предположить, что в мозгу человека при этом происходит нечто подобное естественному отбору, в то время как в случае робота новый алгоритм создается какой-то специальной структурой, которую можно смело назвать AI (Artificial Intelligence, искусственный интеллект). Я не буду вдаваться в сложные рассуждения по этому поводу, а лишь приведу вам две простые карикатуры из упомянутой книги.
Первая из них (рис. 3.7) относится к связи понимания с естественным отбором. Любой первобытный математик с точки зрения естественного отбора и дарвиновской межвидовой борьбы за существование находится в весьма невыгодном положении (по сравнению, например, с показанным на рисунке саблезубым тигром). Однако на заднем фоне картинки можно видеть сородичей математика, которые успешно охотятся на мамонтов, строят дома, выращивают какие-то злаки и т. п. Все эти операции требуют от первобытных людей развития «понимания», но заметьте, что сам математик в этих действиях непосредственно не участвует. Таким образом, качество и уровень «понимания» могут существенно влиять на процессы естественного отбора видов, хотя сами математические алгоритмы не имеют к этим процессам никакого прямого отношения.
Рис. 3.7.
Едва ли способность к сложным математическим построениям давала нашим далеким предкам какие-то особые преимущества в процессах естественного отбора, однако общая способность к пониманию, безусловно, способствовала их выживанию.
На другой карикатуре (рис. 3.8), связанной с одним из сюжетов книги «Тени разума», показан созданный по некоторому проекту робот с искусственным интеллектом. Сюжет относится к дискуссии между роботом и специалистом по АI, которая достаточно сложна и занимает в книге много места, вследствие чего я не буду ее пересказывать. В свое время моя точка зрения на доводы Гёделя-Тьюринга была подвергнута жестокой критике самыми различными людьми, с самых разных позиций и по самым разным причинам. Дискуссия в книге «Тени разума» между AI-экспертом и роботом представляет собой мою попытку обобщения всех новых доводов и возражений.
Рис. 3.8. Император Альберт в книге «Тени разума» спорит с Математически Обоснованной Киберсистемой.
Первые 200 страниц книги посвящены анализу и критическому рассмотрению различных идей, связанных с использованием доводов Гёделя-Тьюринга. Этому обсуждению придана форма диалога между AI-экспертом и роботом.
Давайте вернемся к началу обсуждения. Доводы самого Гёделя относятся к конкретным утверждениям относительно чисел, но заметьте, что Гёдель говорит лишь о том, что не существует вычислительных процедур, которые позволяют описывать свойства натуральных чисел. Однако, несмотря на отсутствие вычислительных методов их описания, любой ребенок прекрасно понимает, что представляют собой такие числа. Для объяснения их сущности достаточно всего лишь показать ребенку разное число разных объектов (см., например, рис. 3.9), глядя на которые любой ребенок довольно легко и быстро приходит к абстрактному пониманию сущности натуральных чисел. При этом никто не излагает детям теорию и набор вычислительных правил, связанных с натуральными числами, — дети сразу прекрасно «понимают» сущность идеи натуральных чисел. Я хочу подчеркнуть, что они способны каким-то образом входить «в контакт» с платоновским миром математических понятий и идей. Хотя многим людям такой подход к проблеме математического восприятия не очень нравится, мне лично представляется, что нечто подобное происходит на самом деле. В любом случае натуральные числа, существующие где-то в мире платоновских идей, одновременно присутствуют где-то «здесь», в результате чего наша способность «понимать» мир делает окружающую нас действительность более доступной. Мы не обладали бы этой способностью, если бы были просто неразмышляющими компьютерами. Теорема Гёделя свидетельствует как раз о том, что постижение сущности и природы натуральных чисел осуществляется не при помощи каких-то правил, а за счет их взаимодействия или контакта с платоновским миром, удачным примером чего может служить процесс понимания того, чем являются натуральные числа.
