Джеймс Баррат - Последнее изобретение человечества
Разумеется, Грейнджер прав, и ни одна искусственная система не может сравниться с человеком в распознавании лиц, обучении и владении языком. Но в узких специализированных областях ИИ обладает потрясающей мощью. Представьте себе существо, которое имеет в своем распоряжении всю эту мощь, и представьте, что оно по-настоящему разумно. Как долго оно готово будет оставаться нашим орудием? Вот что сказал историк Джордж Дайсон о том, где может жить такое сверхразумное существо, после экскурсии по штаб-квартире Google:
На протяжении тридцати лет я думал о том, какие признаки существования можем мы ожидать от настоящего ИИ. Конечно, речь не идет о прямом объявлении в СМИ, которое может вызвать нежелательную реакцию в виде выдергивания вилки из розетки. Индикатором может быть аномальная концентрация, создание богатства, неутолимая жажда все новой информации, дискового пространства и процессорных мощностей или согласованная попытка обеспечить себя анонимным источником непрерывного питания. Но подлинным индикатором, мне кажется, был бы кружок жизнерадостных, довольных, интеллектуально и физически удовлетворенных людей вокруг ИИ. Там не будет нужды в истинно верующих, не будет загрузки человеческого сознания в компьютер или чего-то другого, столь же зловещего; это будет просто постепенный, мягкий, всеобъемлющий и взаимно полезный контакт между нами и растущим чем-то. Пока все это лишь непроверяемая гипотеза.
Далее Дайсон цитирует писателя-фантаста Саймона Ингза:
Когда наши машины обогнали нас, стали слишком сложными и эффективными для того, чтобы ими можно было управлять, они сделали это так быстро, так гладко и так эффективно, что только глупец или пророк осмелился бы протестовать.
ГЛАВА 13
Непознаваемы по природе
Как из-за великолепной способности к планированию, так и из-за технологий, которые он способен будет создать, разумно предположить, что первый сверхразум будет очень мощным. Вполне возможно, что соперников у него не будет: он сможет достичь почти любой цели и пресечь любую попытку помешать ему. Он мог бы уничтожить всех прочих агентов, убедить их изменить свое поведение или заблокировать любые попытки вмешательства с их стороны. Даже «скованный сверхразум», работающий на отдельном изолированном компьютере и способный взаимодействовать с внешним миром только через текстовый интерфейс, возможно, сумеет вырваться из своего заключения, убедив своих «тюремщиков» выпустить его. Есть даже некоторые предварительные экспериментальные указания на то, что так и произойдет.
Ник Востром, директор Института будущего человечества, Оксфордский университетВидя, как ИИ наступает по всем фронтам, от Siri до Watson, OpenCog и LIDA, трудно поверить, что человечество не сможет создать УЧИ из-за сложности реализации. Если увеличение мощности компьютеров не приведет к желаемому результату, поможет обратное проектирование, хотя времени на это уйдет больше. Несмотря на это, Рик Грейнджер ставит перед собой цель: понять мозг по восходящей, от простого к сложному, путем реализации самых фундаментальных его структур в виде компьютерных программ. И он не может не иронизировать над исследователями, работающими сверху вниз по когнитивной вертикали с применением принципов информатики.
Они изучают поведение человека и смотрят, нельзя ли смоделировать такое поведение на компьютере. По справедливости, это немного напоминает попытку разобраться в автомобиле, не заглядывая под капот. Мы считаем, что можем точно сказать, что такое разум. Мы считаем, что можем точно сказать, что такое познание. Мы считаем, что можем точно сказать, что такое адаптивные способности. Но единственная причина того, что мы имеем хоть какое-то представление об этих вещах, заключается в том, что мы наблюдаем, как человек делает "разумные" вещи. Но одно только внешнее наблюдение не позволяет нам понять в подробностях, что именно в этот момент происходит. Принципиальный вопрос звучит так: какова инженерная спецификация логических рассуждений и обучения? Инженерной спецификации не существует, так на что же они опираются, кроме наблюдений?
А ведь не секрет, что человек плохо умеет анализировать свое поведение. «Огромное количество исследований по психологии, нейробиологии и когнитивистике показывает снова и снова, как плохо мы умеем вглядываться в себя, — говорит Грейнджер. — Мы не имеем понятия ни о собственном поведении, ни о процессах, которые стоят за ним». Грейнджер отмечает, что мы также плохо умеем принимать рациональные решения, точно рассказывать об увиденном и вспоминать то, что случилось совсем недавно. Но ограниченность возможностей человека как наблюдателя не означает, что когнитивные науки, основанные на наблюдениях, — полная чепуха.
Грейнджер просто считает, что это неподходящий инструмент для проникновения в тайны интеллекта.
«В вычислительной нейробиологии мы задаем вопрос: "Хорошо, что человеческий мозг на самом деле делает?" — говорит Грейнджер. — Не что мы думаем, он делает, и не что мы бы хотели, чтобы он делал. Что он на самом деле делает? И может быть, информация об этом даст нам впервые и определение разума, и определение адаптации, и определение языка».
Выяснение вычислительных принципов мозга начинается с того, что ученые проверяют, чем занимаются в мозгу те или иные кластеры нейронов. Нейроны — это клетки, которые посылают и принимают электрохимические сигналы. Важнейшую часть их составляют аксоны (волокна, соединяющие нейроны между собой; именно они обычно являются отправителями сигнала), синапсы (соединения, через которые проходит сигнал) и дендриты (обычно получатели сигнала). В мозгу человека около ста миллиардов нейронов. Каждый из них соединен со многими десятками тысяч других нейронов. Такое обилие связей делает все операции мозга параллельными, а не последовательными, как у большинства компьютеров. В вычислительных терминах последовательная обработка данных означает, что операции выполняются по очереди, по одной. Параллельная обработка данных означает, что большое количество данных обрабатывается одновременно — иногда в одно и то же время проходят сотни тысяч или даже миллионы операций.
Представьте на мгновение, что вы переходите оживленную городскую улицу; подумайте, сколько информации — цвета, звуки, запахи, температура, ощущение асфальта под ногами — одновременно поступает при этом в ваш мозг через уши, глаза, нос, конечности и кожу. Если бы ваш мозг не был органом, способным обработать все это одновременно, он мгновенно выключился бы от перегрузки. Вместо этого ваши органы чувств собирают всю эту информацию, мозг пропускает ее через нейроны и обрабатывает, — а в результате вы ведете себя соответственно, останавливаетесь перед светофором и избегаете столкновений с другими пешеходами.
Группы нейронов работают вместе и объединяются в схемы, сильно напоминающие электронные. В электронной схеме протекает электрический ток через специальные элементы, такие как резисторы и диоды. В ходе этого процесса ток выполняет различные функции — включает свет, к примеру, или запускает косилку. Если вы составите список инструкций, которые приводят к выполнению этой функции или какого-то вычисления, вы получите компьютерную программу или алгоритм.
Кластеры нейронов в вашем мозгу образуют схемы, которые действуют как алгоритмы. При этом они не включают свет, а распознают лица, планируют отпуск или набирают на клавиатуре предложение. И все это время работают параллельно. Откуда исследователи знают, что происходит в этих нейронных кластерах? Попросту говоря, они собирают детальную информацию при помощи специальных инструментов визуального исследования мозга, начиная от электродов, вживленных непосредственно в мозг животных, и заканчивая такими аппаратами, как ПЭТ- и фМРТ-сканеры применительно к людям. Нейронные зонды внутри и снаружи черепа способны показать, что делают отдельные нейроны, а маркирование нейронов электрически чувствительными красками наглядно показывает, когда те или иные нейроны активны. Из этих и других методик следуют проверяемые гипотезы об алгоритмах, управляющих контурами мозга. Кроме того, начато определение точной функции некоторых отделов мозга. Уже больше десяти лет, к примеру, нейробиологи знают, что узнавание лиц происходит в части мозга, известной как веретенообразная извилина.
Постойте, но в чем же суть? Неужели вычислительные системы, построенные по образу и подобию мозга (подход вычислительной нейробиологии), работают лучше, чем те, что построены de novo (подход информатики)?
Ну, одна из разновидностей систем, сделанных по образцу мозга, — искусственные нейронные сети (ИНС), — работает уже так давно и хорошо, что стала, по существу, основой ИИ. Как говорилось в главе 7, ИНС (которые можно разделить на аппаратные и программные) были придуманы в 1960-е гг. специально для того, чтобы играть роль нейронов. Одно из основных их преимуществ состоит в том, что ИНС обучаемы. Если вы хотите научить нейронную сеть переводить текст с французского языка на английский, к примеру, вы можете для начала подать на вход французский текст и точный английский перевод этого текста. Этот процесс называется контролируемым обучением. Если образцов будет достаточно, сеть распознает и усвоит правила, связывающие французские слова с их английскими эквивалентами.
