Охота на электроовец. Большая книга искусственного интеллекта - Марков Сергей Николаевич
Хотя работа Хебба является гораздо более полной в деле определения модели процесса обучения, чем большинство предыдущих работ в этой области, она всё ещё слишком вольна в своих определениях, чтобы найти однозначное отражение в виде алгоритма. Однако соображения Хебба оказались важным отправным пунктом, который позволил сразу нескольким группам исследователей разработать конкретные алгоритмические версии принципа Хебба и даже воплотить их в конструкциях экспериментальных устройств.
4.4.4 Первые эксперименты в области искусственных нейронных сетей
Одним из первых таких устройств стал SNARC (Stochastic Neural Analog Reinforcement Calculator, стохастический нейронный аналоговый калькулятор с подкреплением), разработанный Марвином Минским.
По просьбе Минского Джордж Миллер, один из основателей когнитивной психологии, договорился о финансировании проекта за счёт средств Управления научных исследований военно-воздушных сил США летом 1951 г. (речь шла о нескольких тысячах долларов). «Рабочими руками» проекта стал сам Минский, который был тогда аспирантом-математиком в Принстонском университете, а также аспирант-физик Дин Эдмондс, умелый электронщик, добровольно вызвавшийся участвовать в проекте.
Сама машина представляла собой случайное соединение из сорока искусственных нейронов и моделировала поведение крысы, пытающейся отыскать выход из лабиринта.
Каждый из нейронов был реализован при помощи шести электроламп и двигателя. Память машины сохранялась в положениях ручек управления — по одной на каждый искусственный нейрон, — и, когда машина обучалась, она использовала сцепления для регулировки своих ручек. Для перемещения сцеплений использовался резервный гиропилот [1187] от бомбардировщика B-24.
Топология сетей выбиралась случайным образом. «Крыса» создавалась в какой-то точке в сети и затем отправлялась изучать путь к заданной конечной точке. Сначала «крыса» перемещалась по лабиринту хаотически. Если в результате этих хаотических перемещений ей удавалось наткнуться на выход, то для закрепления удачного поведения в систему путём нажатия кнопки подавался сигнал подкрепления. Индикаторная панель с рядами ламп позволяла наблюдателям следить за перемещениями «крысы». В ходе экспериментов выяснилось, что из-за недоработки в архитектуре системы несколько крыс, помещённых в один и тот же лабиринт, могли взаимодействовать друг с другом: если какая-то из «крыс» находила путь, другие были склонны следовать за ней.
Устройство Минского и Эдмондса было, вероятно, первой самообучающейся электронной машиной [1188], [1189]. В данном случае слово «электронной» является важной оговоркой, поскольку самообучающиеся машины на электромеханической основе к тому моменту уже были известны. Часто первой такой машиной называют «мышь» из проекта «Тезей» [Theseus], созданную примерно за год до SNARC Клодом Шенноном. Робомышь, в основу которой была положена система телефонных реле, успешно находила и запоминала путь в лабиринте размером 5 × 5 клеток, используя метод проб и ошибок [1190].
Но, возможно, пальму первенства стоит отдать Россу Эшби с его гомеостатом [Homeostat]. Мы уже упоминали письмо, в котором Тьюринг пытался убедить Эшби использовать для своих экспериментов машину ACE. Эшби, однако, не внял советам коллеги и решил создать специализированное устройство, которое должно было стать работающей иллюстрацией принципа гомеостаза. Мы остановимся на этом любопытном устройстве несколько подробнее. Хотя гомеостат обычно и не относят к числу нейросетевых систем, в действительности он как раз являлся одним из первых примеров реализации искусственных нейронных сетей. Причиной недостаточной очевидности этого факта является весьма оригинальный подход, применённый Эшби, который остался во многом непонятым как современниками этого неординарного учёного, так и впоследствии специалистами по истории науки. Коллега Винера кибернетик Джулиан Бигелоу, ознакомившись с устройством гомеостата, задал вопрос: «Имеет ли эта специфическая модель какое-либо отношение к нервной системе? Это, возможно, прекрасная копия чего-то, но бог знает чего именно».
Давайте попробуем разобраться по порядку, какую именно задачу стремился решить Эшби и что представляли собой методы, положенные в основу гомеостата.
Термин «гомеостаз» (или «гомеостазис», homeostasis), предложенный в 1932 г. американским физиологом Уолтером Кенноном, образован от греческих слов ὅμοιος, что означает «одинаковый», «подобный», и στάσις — «стояние», «неподвижность». Кеннон использовал введённый им термин для обозначения устойчивых состояний организма. Учёный так объяснил необходимость использования нового понятия: «Постоянные условия, которые поддерживаются в организме, можно назвать равновесием [equilibria]. Это слово, однако, приобрело весьма определённое значение применительно к относительно простым физико-химическим состояниям в закрытых системах, где известные силы уравновешивают друг друга. Скоординированные физиологические процессы, которые поддерживают большинство устойчивых состояний в организме, настолько сложны и настолько специфичны для живых существ, что предполагают в ряде случаев совместную работу мозга и нервов, сердца, лёгких, почек и селезёнки. Поэтому я предлагаю специальное обозначение для этих состояний — гомеостаз. Это слово не означает что-то застывшее и неподвижное, стагнацию. Оно обозначает состояние, которое может изменяться, но при этом сохраняет относительное постоянство» [1191]. Термин быстро обрёл популярность в среде кибернетиков и стал трактоваться в более широком ключе — как механизм саморегуляции открытой системы, направленный на достижение «динамического равновесия». Под последним понималась способность системы поддерживать определённое состояние за счёт того, что её компоненты скоординированно реагируют на возмущающие воздействия.
В воскресном выпуске The New York Times от 23 января 1949 г. была опубликована рецензия на книгу «Кибернетика» Норберта Винера под названием «Вещи, о которых мечтают» (The Stuff That Dreams Are Made On) [1192]. Автор статьи, Джон Пфейффер, рассказал читателям о смелых предсказаниях Норберта Винера, а именно о думающих машинах будущего. Автор рецензии был весьма осторожен в своих оценках. Даже сегодня, изучая этот текст с позиции послезнания, в нём трудно найти суждение, к которому можно было бы легко придраться. У Пфейффера было всего 3/5 газетной полосы, чтобы рассказать читателям о ключевых идеях Винера, и среди прочего он посвятил абзац упомянутым в книге Винера исследованиям Мак-Каллока и Питтса. В качестве одного из основных выводов этих исследований Пфейффер указал тот факт, что между нейронами человеческого мозга и радиолампами существует некоторое сходство.
Вечером того же дня свет увидел очередной выпуск еженедельника Time, сообщивший читателям сенсационную новость: будущее уже наступило и первая в мире «думающая машина» уже построена! Причём не в MIT или Bell Labs, а в психиатрической больнице Барнвуд-хаус, расположенной в английской деревеньке неподалёку от Глостера, в которой майор медицинской службы Росс Эшби руководил исследованиями человеческой психики. Именно в этой провинциальной больнице Эшби и создал свой гомеостат. В интервью Time Эшби уверенно заявил, что его машина была «наиболее близка к искусственному мозгу, чем всё когда-либо созданное человеком» [1193].
Машина стала плодом пятнадцатилетних размышлений Эшби. Ещё два года потребовалось на её постройку, которая обошлась в 50 фунтов стерлингов. Гомеостат, первая версия которого была завершена в мае 1947 г., состоял из четырёх блоков, каждый из которых имел четыре «входных» контакта и один «выходной». Блоки объединялись в электрическую цепь таким образом, что напряжение на выходе каждого из них подавалось на вход и трёх других блоков, и его самого. Каждый из четырёх входов блока был оснащён переключателем полярности и реостатом, что позволяло регулировать сопротивление на входе, а также менять полярность входного напряжения (фактически это означало, что у каждого блока было восемь настраиваемых параметров: четыре соответствовали положениям переключателей полярности, а ещё четыре — задаваемой величине сопротивления каждого из реостатов). После соответствующих трансформаций соответствующие каждому из входов провода переходили в установленную вертикально четверную обмотку электромагнита. Поверх обмотки располагалась установленная на игольчатой оси проволочная петля, на одном конце которой находился постоянный магнит, который, благодаря изгибу петли, оказывался внутри обмотки. Ввиду этого сама проволочная петля вела себя подобно стрелке компаса — угол её поворота менялся в зависимости от суммы токов, проходящих через обмотку. Если суммарное напряжение имело отрицательную полярность, то петля поворачивалась на своей оси в одну сторону (тем быстрее, чем больше была абсолютная величина напряжения), если же положительную — то в другую. На втором конце петли была закреплена пластинка, которая опускалась в полукруглый лоток, заполненный водой. К противоположным краям лотка были подведены источники напряжения таким образом, что напряжение на одном его краю составляло –2 вольта, а на другом — –15 вольт. В зависимости от угла поворота проволочной петли и, соответственно, от позиции пластинки в лотке на ней возникало напряжение, равное одному из промежуточных значений между напряжениями на краях лотка. Это напряжение передавалось затем на управляющую сетку триода, а усиленный триодом сигнал поступал на выход блока. В цепь триода был добавлен резистор, сопротивление которого подобрано таким образом, чтобы при нахождении пластинки в центре ванны напряжение на выходе блока было нулевым.