Джеф Хокинс - Об интеллекте
Вспомните, что половина информации поступает в слой 1 от клеток 5-го слоя в соседних колонках и областях кортекса. Эта информация представляет то, что происходило моментом ранее. Она представляет колонки, которые были активны до того, как стала активна ваша колонка. Она представляет предыдущий интервал мелодии, или последнее, что я видел, или последнее, что я чувствовал или предыдущую фонему в речи, которую я слушаю. Если порядок, в котором возникают эти паттерны, постоянен, то колонки запоминают порядок. Они будут возбуждаться одна за другой в правильной последовательности.
Другая половина информации приходит в слой 1 от клеток слоя 6 в вышестоящих областях. Эта информация более стационарна. Она представляет название последовательности, которую вы в данный момент ощущаете. Если колонки — музыкальные интервалы, то это название мелодии. Если колонки — фонемы, то это слово, которое вы слышите. Если колонки — слова, то сигнал сверху — это предложение. Таким образом информация в слое 1 представляет и название последовательности и последний ее элемент. В этом случае определенные колонки могут входит в состав различных последовательностей без всякой путаницы. Колонки учатся возбуждаться в правильном контексте и в правильном порядке.
Прежде чем двинуться дальше, я должен указать, что не только синапсы в слое 1 участвуют в запоминании того, когда колонка должна стать активной. Как я упоминал ранее, клетки получают и посылают информацию во множество окружающих колонок. Вспомните, что более 90 процентов всех синапсов приходят от клеток из других колонок, и большинство этих синапсов располагаются не в слое 1. Например, клетки в слоях 2, 3 и 5 имеют тысячи синапсов в слое 1, но также тысячи синапсов в их собственном слое. Общая идея в том, что клетки ищут любую информацию, которая поможет им предсказать, когда они должны быть активизированными снизу. Обычно активность в близкорасположенных колонках коррелирует, таким образом мы видим множество прямых соединений к близлежащим колонкам. Например, если линия движется через визуальное поле, она будет активизировать соответствующие колонки. Часто, однако, информация, необходимая для предсказания активности колонки, более глобальна, в этом случае играет роль слой 1. Если б вы были нейроном в колонке, вы бы не знали, что обозначает любой из этих синапсов, все, что вы знали бы — это то, что они помогают вам предсказать, когда вы должны активизироваться.
* * *Сейчас давайте рассмотрим вывод того, как область кортекса формирует название последовательности. Снова вообразите, что вы область кортекса. Ваши активные колонки изменяются с поступлением новой информации. Вы успешно выучили порядок, в котором колонки становятся активными, а значит, некоторые из клеток становятся активными до прибытия информации из нижестоящих областей. Какую информацию вы посылаете в область кортекса выше по иерархии? Мы видели ранее, что клетки в ваших слоях 2 и 3 посылают аксоны в следующую область выше по иерархии. Активность этих клеток является входной информацией для вышестоящих регионов. Но тут есть одна проблема. Для того, чтоб работала иерархия, вы должны транслировать постоянный паттерн в течение запомненной последовательности; вы должны передавать название последовательности, но не ее детали. До того, как вы запомните последовательность, вы можете передавать детали, но после того, как вы ее запомнили и способны успешно предсказывать, какие колонки будут активными, вы должны передавать только постоянный паттерн. Однако, я еще не показал вам, как это сделать. Как подразумевается сейчас, вы будете передавать в ответ на любой изменившийся паттерн, независимо от того, можете ли вы предсказать его. Когда любая колонка становится активной, клетки в ее слоях 2 и 3 будут посылать сигнал вверх по иерархии. У кортекса должен быть способ удерживать постоянный паттерн, передаваемый в вышестоящие области в течение запомненной последовательности. У нас должен быть способ отключить выход от клеток слоев 2 и 3, когда колонка предсказывает свою активность, или наоборот, сделать эти клетки активными, когда колонка не может предсказать свою активность. Это единственный способ сформировать постоянный паттерн.
Рисунок 10. Формирование постоянного названия для запомненной последовательности.
О кортексе недостаточно известно, чтобы точно утверждать, как он это делает. Я могу вообразить несколько способов. Я опишу наиболее предпочитаемый мной сейчас, но имейте в виду, что более важна концепция, чем конкретный метод. Создание постоянного «названия» паттерна — требование этой теории. Все, что я могу сейчас показать это то, что существует правдоподобный механизм для процесса именования.
Снова вообразите, что вы колонка, как показано на рисунке 10. Мы хотим понять, как вы обучаетесь представлять в вышестоящую область постоянный паттерн, когда вы можете предсказать свою активность, и изменяющийся паттерн — когда не можете. Давайте начнем с предположения, что в слоях 2 и 3 есть несколько классов нейронов. (В дополнение к нескольким типам тормозящих нейронов многие анатомы различают типы нейронов, которые они называют слоями 3а и 3б, так что это предположение не беспочвенно).
Давайте также предположим, что один класс нейронов, называемый нейронами слоя 2, учатся задерживать активность, пока длится заученная последовательность. Группа таких нейронов представляет название последовательности. Они предоставляют постоянный паттерн вышестоящей кортикальной области, пока наша область может предсказывать, какие колонки станут активными. Если наша область кортекса запомнила последовательность из трех различных паттернов, то нейроны в слое 2 всех колонок, представляющих эти паттерны должны оставаться активными, пока внутри последовательности. Они являются названием последовательности.
Теперь давайте предположим, что есть еще один класс нейронов, нейроны слоя 3б, которые не возбуждаются, если наша колонка успешно предсказывает поступающий паттерн, но возбуждаются, когда она не предсказала свою активность. Нейроны слоя 3б представляют неожиданный паттерн. Они возбуждаются, когда колонка становится активной неожиданно. Они возбуждаются каждый раз, когда колонка становится активной до того, как обучится. Но по мере обучения предсказанию активности нейроны слоя 3 становятся все спокойнее. Слои 2 и 3б совместно удовлетворяют нашим требованиям. До обучения и те и другие активизируются и дезактивируются в такт с колонкой, но после обучения нейроны слоя 2 остаются постоянно активными, а нейроны слоя 3 становятся молчащими.
Как эти нейроны обучаются этому? Во-первых, давайте рассмотрим, как заставить замолчать нейроны слоя 3б, когда колонка успешно предсказывает свою активность. Скажем, есть другой нейрон, расположенный выше в слое 3б, а слое 3а. У этого нейрона есть также дендриты в слое 1. Его единственная цель — предотвратить возбуждение нейрона в слое 3б, когда он видит соответствующий паттерн в слое 1. Когда нейроны слоя 3а видят заученный паттерн в слое 1, они быстро активизируют тормозящие нейроны, которые предотвращают возбуждение нейронов слоя 3б. Все это могло бы остановить возбуждение нейронов слоя 3б, когда колонка корректно предсказывает активность.
Теперь давайте рассмотрим более сложную задачу — удержание постоянной активности в течение известной последовательности паттернов. Это сложнее, потому что различные множества нейронов в слое 2 во множестве различных колонок должны оставаться активными все вместе, даже когда их индивидуальные колонки неактивны. Вот как я себе это представляю. Нейроны слоя 2 могли бы обучаться становиться активными только от иерархически вышестоящих областей кортекса. Они могли бы формировать синапсы преимущественно с аксонами из слоя 6 из вышестоящих областей. Нейроны слоя 2 могли бы таким образом представлять постоянное имя паттерна от вышестоящей области. Когда вышестоящая область кортекса посылает паттерн вниз к слою 1 нижестоящей области, множество нейронов в слое 2 в нижестоящей области должно стать активными, представляя все колонки, которые являются членами последовательности. Поскольку эти нейроны слоя 2 также проецируются обратно в вышестоящую область, они должны формировать полустабильную группу нейронов. (Это отличается от того, если бы эти нейроны оставались активными постоянно. Они возможно возбуждаются синхронно в некотором ритме). Это как если бы вышестоящая область посылала бы название мелодии в слой 1 ниже. Это событие заставляет множество нейронов слоя 2 возбуждаться, те, у которых колонка должна быть активной, когда слышится мелодия.
В сумме эти механизмы позволяют кортексу запоминать последовательности, делать предсказания и формировать константные представления, или «названия» последовательностей. Это базовая операция для формирования инвариантного представления.
