Джеф Хокинс - Об интеллекте
Почему бы так могло быть? Частично причина в том, как я упомянул раньше, что нет реальной необходимости привлекать обратные связи, если вы не принимаете центральную роль предсказания. Если вы считаете, что информация течет напрямую в моторную систему, то зачем вам нужны обратные связи? Другая причина игнорирования обратных связей в том, что сигнал в обратных связях распределен по большому числу областей слоя 1. Интуитивно мы должны были бы ожидать, что сигнал, рассеянный по большой площади мог бы иметь только второстепенный эффект на большинстве нейронов, и несомненно в мозгу есть несколько таких модулирующих сигналов, которые не воздействуют на конкретный нейрон, а изменяют глобальные атрибуты, такие как уровень внимания.
Последняя причина игнорирования обратных связей в том, сколько ученых верят в независимую работу нейронов. Обычный нейрон имеет тысячи или десятки тысяч синапсов. Некоторые расположены очень далеко от тела нейрона, другие почти рядом с ним. Синапсы ближе к телу клетки имеют сильное влияние на возбуждение нейрона. Примерно с десяток синапсов возле тела нейрона могут заставить его сгенерировать спайк или импульс электрического разряда. Это известный факт. Однако, подавляющее большинство синапсов располагаются вдали от тела нейрона. Они распространяются вдаль и вширь по древоподобной структуре дендритов нейрона. Поскольку эти синапсы далеки от тела нейрона, ученые склоняются к уверенности, что спайк, прибывающий на один из таких синапсов, имел бы слабый или почти незаметный эффект на то, сгенерирует нейрон спайк или нет. Эффект от отдаленных синапсов рассеивался бы за то время, пока он достигнет тела нейрона.
Как правило, информация, идущая вверх по кортикальной иерархии, передается по синапсам, расположенным близко к телу нейрона. Информация, идущая вверх по иерархии, имеет, следовательно, более определенный путь от области к области. Также, как правило, обратные связи идущие вниз по кортикальной иерархии, используют для этого синапсы, удаленные от тела нейрона. Нейроны в слоях 2, 3 и 5 посылают дендриты в слой 1 и формируют там множество синапсов. Слой 1 — это масса синапсов, но все они от далеких нейронов из слоев 2, 3 и 5. Более того, любой конкретный нейрон, скажем, в слое 2 будет формировать совсем мало синапсов с помощью конкретного волокна обратной связи. Таким образом, некоторые ученые могут возражать идее, что короткий паттерн в слое 1 мог бы точно вызывать возбуждение набора нейронов в слоях 2, 3 и 5. Но именно это соответствует имеющейся у меня теории.
Разрешение это дилеммы в том, что нейроны ведут себя не так, как в классической модели. Фактически, в последние годы становилось все больше ученых, предполагающих, что синапсы на удаленных тонких дендритах могут играть активную и особую роль в возбуждении нейронов. В этих моделях удаленные синапсы ведут себя не так, как синапсы на толстых дендритах возле тела нейрона. Например, если два синапса располагаются очень близко на тонком дендрите, они могут выступать как «детектор совпадений». То есть, если бы оба синапса получали входной импульс в течение короткого промежутка времени, они могли бы вызывать значительный эффект на нейрон, даже если они далеко от тела нейрона. Они могли бы заставить тело нейрона сгенерировать спайк. Как ведут себя дендриты нейрона до сих пор является загадкой, так что я не могу сказать что-нибудь еще о них. Что важно, так это то, что модель кортекса «память-предсказание» требует, чтобы синапсы, далекие от тела нейрона были способны обнаруживать специфические паттерны.
Глядя в прошлое, мне кажется почти безрассудным говорить, что тысячи синапсов нейрона играют только модулирующую роль. Многочисленные обратные связи и огромное число синапсов существуют с вполне конкретной целью. Используя эту догадку, мы можем сказать, что типичный нейрон имеет способность запоминать сотни точных совпадений на волокнах обратных связей, если они формируют синапсы на тонких дендритах. Это значит, что каждая колонка в неокортексе очень пластична в том смысле, какие паттерны обратных связей могут ее активизировать. Это значит, что каждое конкретное свойство может быть точно ассоциировано с тысячами различных объектов и последовательностей. Моя модель требует, чтобы обратные связи были быстродействующими и точными. Нейроны должны возбуждаться, если они чувствуют некоторое количество совпадений на их удаленных дендритах. Новые модели нейронов должны допускать такое.
6.10. Как обучается кортексУ всех нейронов во всех слоях кортекса есть синапсы, и большинство этих синапсов может изменяться при обучении. Будет корректно сказать, что обучение и память возникают во всех слоях, вот всех колонках и во всех областях кортекса.
Ранее в книге я упоминал правило Хебба, названное в честь канадского нейропсихолога Дональда О. Хебба. Его формулировка проста: Когда два нейрона возбуждаются одновременно, синапсы между ними усиливаются. (Коротко и точно это передается фразой «Fire together, wire together»). Мы знаем, что Хебб был в основном прав. Конечно, в природе не все так просто, и в действительности детали реального мозга более сложны. Наша нервная система использует множество вариаций правила Хебба; например, некоторые синапсы изменяют свою силу в ответ на небольшие изменения во времени прихода сигнала, некоторые синаптические изменения короткоживущие, некоторые долгоживущие. Но Хебб создал только основу для изучения памяти, не законченную теорию, и эта основа невероятно полезная.
Принципы обучения по Хеббу могут объяснить большую часть того кортикального поведения, которое я упомянул в этой главе. Вспомните, еще в 1970 году устройства автоассоциативной памяти, использовавшие классические алгоритмы обучения по Хеббу, могли запоминать пространственные паттерны и последовательности паттернов. Основная проблема была в том, что те устройства не могли нормально работать с вариациями образов. Согласно теории, предложенной в этой книге, кортекс обошел это ограничение путем использования иерархической стопки из модулей автоассоциативной памяти, и частично, за счет использования усложненной колончатой архитектуры. В этой главе было почти все о иерархии и о том, как она работает, потому что иерархия это то, в чем заключается сила кортекса. Так что вместо того, чтоб идти через детали того, как каждый нейрон запоминает то или это, я хочу охватить более общие принципы обучения в иерархии.
Когда человек рождается, его кортекс практически ничего не знает. Он не знает ни про язык, ни про культуру, ни про дом, ни про город, ни про людей, вместе с которыми он вырастет, ничего. Вся эта информация, структура мира, должна быть выучена. Двумя базовыми компонентами обучения являются классификация паттернов и построение последовательностей. Эти две комплементарные компоненты памяти взаимодействуют друг с другом. Когда одна область запоминает последовательность, информация, которую она посылает в слой 4 в вышестоящую кортикальную область, изменяется. Таким образом, нейроны слоя 4 обучаются формировать новую классификацию, которая изменяет паттерны, проецируемые обратно в слой 1 нижестоящей области, на которую влияет последовательность.
Основа формирования последовательностей — это группирование паттернов, которые являются частью одного объекта. Один способ сделать это заключается в группировании паттернов, которые возникают рядом во времени. Если ребенок держит игрушку в его руке и медленно двигает ее, его мозг может вполне законно предположить, что изображение на сетчатке от момента к моменту относятся к одному и тому же объекту, и, следовательно, изменяющееся множество паттернов может быть сгруппировано. Иногда вам нужны дополнительные сведения, чтоб принять решение, какие паттерны должны принадлежать к одной группе. Чтобы запомнить, что яблоки и бананы являются фруктами, а морковь и сельдерей не являются, требуется учитель, который поможет сгруппировать эти вещи. В любом случае ваш мозг медленно строит последовательности паттернов, которые должны быть вместе. Но когда область кортекса строит последовательности, информация, поступающая к вышестоящим областям, меняется. Информация изменяется от представления индивидуальных паттернов к представлению групп паттернов. Информация, поступающая в область, меняется с нот на мелодии, с букв на слова, с носов на лица и так далее. Поскольку информация, идущая снизу вверх, становится более «объектно-ориентированной», вышестоящие области кортекса могут теперь запоминать последовательности этих высокоуровневых объектов. Там, где раньше область строила последовательность букв, теперь она строит последовательность слов. Неожиданным результатом такого процесса обучения является то, что в процессе повторяющегося обучения представление объектов продвигается вниз по кортикальной иерархии. В течение первых лет жизни ваши знания о мире формируются сначала в вышестоящих областях кортекса, но по мере обучения они реформируются все ниже и ниже по кортикальной иерархии. Мозг не двигает знания; он переобучается снова и снова. (Я не говорю, что все знания начинаются на верхушке кортекса. В действительности формирование знаний более сложно. Я считаю, что классификация паттернов в слое 4 начинается внизу и движется вверх. Но когда это происходит, мы начинаем формировать последовательности, которые движутся вниз. Я полагаю, что эта память о последовательности переформируется все ниже и ниже по кортексу.) По мере продвижения простых последовательностей вниз, верхние области получают возможность запоминать более сложные и утонченные паттерны.
