Рэй Нельсон - «Если», 1993 № 11-12
«Скажу лишь только, что при виде Вас мои мысли как бы легче текут. Пожалуй, это грубо соответствует тому, что Вы чувствуете, когда радуетесь». Это говорит робот Даниел Оливо из романа «Роботы утренней зари» Азимова. Что это, если не наслаждение? Чем сложнее система, тем сложнее ее реакция на внешние раздражители. Даже мой настольный компьютер по-разному реагирует на программы. Например, он очень не любит переключаться на видеоигры после работы с базой данных или электронной таблицей. Конечно, все это можно объяснить расположением проводов на плате и особенностями набора микросхем. Но человек в этом случае просто сказал бы, что ему хочется еще поработать и он считает, что время отдыха пока не пришло.
Удовольствие и неудовольствие, если понимать его как нечто, к чему стремятся или чего избегают, доступны даже инфузориям. Как обстоят дела с более сложными эмоциями, например смехом?
Многие фантасты наделяли компьютеры чувством юмора. Многие считали, что оно будет проявляться по меньшей мере своеобразно. Например, Илья Варшавский заставил машину считать забавными слова среднего рода из четырех букв. Но это все-таки крайность. Английский философ Томас Гоббс дал, по- моему, удивительно точное определение смеха: «Смех — это выражение внезапно появившегося чувства превосходства». Теперь представьте, что в машину заложена потребность быть лучше всех и она достаточно сложна, чтобы ощущать удовольствие от собственного превосходства. Вполне возможно, что у такого компьютера чувство юмора окажется даже более отточенным, чем у всей команды одесских КВНщиков.
НЕПРЕДСКАЗУЕМОСТЬИ все-таки программу для машины составляет человек. Значит, ни о какой свободе воли для машины и речи идти не может.
В одном из романов Курта Воннегута рассказывается о Человеке, который жил на острове и обладал свободой воли. За ним по пятам ходил Медведь-и постоянно спрашивал его: «Зачем ты сделал то, почему сделал это?» «Да потому, что мне этого захотелось, дубина ты этакая!» — отвечал Человек. Медведь не понимал его. У него не было свободы воли. А потом оказалось, что и Человека, и Медведя, и остров, и море вокруг создал Бог, у которого тоже не было свободы воли. Когда Человек умер. Медведь и Бог написали на могиле: «Здесь лежит Человек. Никто не знал, что он сделает в следующий момент».
Какое отношение имеет это к свободе воли, спросите вы?
Да то, что после обучения программист уже не знал, как работает машина. Он не знал, какие именно связи перестроены, как именно проходит сигнал, но машина работала. Сейчас подобные системы применяются во многих областях, в том числе для управления самолетами и реакторами. Применяются нейронные сети и для решения задач, требующих ассоциативного мышления (например, при библиографическом поиске с неточно заданными условиями).
Они работают надежно, несмотря на то, что конструкторы не в состоянии описать детально, как же это происходит. Интересно, что две первоначально одинаковые нейронные сети, прошедшие одинаковый курс обучения, скорее всего будут работать несколько по-разному (помните у Азимова: «Каждый позитронный мозг индивидуален». Но это уже не фантастика).
Не правда ли, очень похоже на обучение людей? Мы даем информацию ученику и можем приблизительно предсказать конечный результат, но что именно изменится в мозгу ученика и как это потом аукнется, сказать не в состоянии.
Конечно, многообразие реакций нейронных сетей пока несравненно меньше богатства человеческого поведения. В современных перцептронах количество ячеек меньше миллиона, а в мозгу человека — пятнадцать миллиардов. Но количество транзисторов на одной микросхеме удваивается каждые два года. Если такие темпы сохранятся, то через тридцать лет сложность нейронных сетей и их непредсказуемость окажутся сравнимыми со сложностью живого мозга. Ученые обещают через четыре года создать нейронную сеть, не уступающую по сложности нервной системе пчелы.
Исследователи не собираются останавливаться на копировании структуры человеческого мозга. В 1985 году Дэниел Хиллис из корпорации «Думающие машины» создал нейронную сеть из 65000 процессоров со своими блоками памяти. В отличие от человеческих нейронов каждый такой процессор способен решать логические и арифметические задачи, и все это объединяется с огромными возможностями ассоциативных связей нейронной сети. Марвин Минский, напротив, конструирует систему из большого числа нейронных сетей, обменивающихся информацией и снабжающих ею центральный компьютер. Появляются и создания C/Fe(этим символом — углерод/железо — Айзек Азимов обозначил киборгов — мыслящих существ, принадлежащих и живой, и неживой природе). В 1985 году исследователи из американской фирмы «АТ Белл» вырастили непосредственно на микропроцессоре культуру мышиных нейронов. На каждом кристалле появлялась естественная нейронная сеть из 300–400 клеток. Кристалл реагировал на электрические потенциалы нейронов, а те, в свою очередь, воспринимали токи, текущие по кристаллу. Таким образом живые нейроны и микросхема работали совместно. Это устройство — а может, существо? — не только экспериментальный прототип киборга, но и аппарат для изучения особенностей мозговой активности. Есть сообщения, что сейчас подобные работы ведутся и над культурами нейронов человека.
Какая конфигурация окажется предпочтительнее и как поведут себя такие нейронно-логические кентавры, предсказать невозможно, но, по-видимому, к ним понятие «свобода воли» будет применимо в куда большей степени, чем к нам.
От автора.
Интуиция, свобода воли, здравый смысл, внутренние стимулы, самосознание… Каждый ли человек обладает в полной мере всеми этими качествами? Теперь прибавьте к этому «машинные» достоинства: колоссальную память, способность к быстрым логическим выводам, быстрый обмен информацией с «товарищами». Рядом с такими существами человек начнет выглядеть весьма бледно. Не исключено, что вскоре машинам действительно надоест главенство человека, и людям придется самоутверждаться не только друг перед другом, но и перед машинами. Возможно, человеку придется согласиться и на киборгизацию с тем, чтобы хотя бы сократить разрыв между собой и своими творениями. Но, пожалуй, все это пойдет только на пользу человечеству. Или тем, кто придет на смену человечеству.
