Станислав Лем - Мгновение
Происходило все таким образом, что мозг возникал действительно как целое, но построенное из отдельных модулей, которые не обязательно сразу были согласованы друг с другом функционально, поскольку эту миллионолетнюю антропогенетическую битву никто не проектировал и не контролировал. В результате этого различные умения, размещенные в разных частях мозга, на его различных уровнях, в удивительным образом соединенных центрах и ядрах в различной мере сохраняли свою автономию. В принципе это было действительно подобно, хотя в миллионы раз сложнее, такому тасованию и раздаче карт, при котором слепо и упорно стремятся достичь гомеостатической стабильности. Поэтому также не может быть даже речи о том, что велся один вид игры за человека и что управлял им один вид раздачи. Ответвлений было очень много, были australopithecinae, был pithecanthropus robustus, и это множество тогда сдало экзамен на умение, когда по меньшей мере четверть миллиона лет назад человек, до этого времени живущий толпой, начал жить общественно и размножался, в результате чего расселился по всей Земле. И все же некоторые функционально необычные формирования неудачных прототипов, закодированных в генотипах, как бы продолжались и появлялись в разных местах и в разных условиях, один раз – удачно, другой раз – гибельно. Достаточно представить себе, какой должна была быть судьба человека с мозгом Эйнштейна, родившегося в пещерную эпоху. Суммировать все это можно следующим образом: мы возникли из составных частей в ходе игры, при этом эволюция тестировала фактические видовые способности, но в то же время она не занималась созданием интроспективных зондов, которые позволили бы нашему мышлению изучить самого себя, поэтому у нас есть интуиция, но нам ничего не известно о ее механизме, поэтому мы помним, говорим, пишем и понимаем, но не знаем, как это делается. Человеку достаточно посмотреть на самого себя, чтобы он понял, насколько ограничена его телесная сфера, подверженная автоконтролю. Мы устроены так, что раны заживают, но не знаем (кроме медиков), как это происходит. Одним словом, название давней книги Карреля «Человек – существо неизвестное» все еще актуально. Мы не только не знаем себя, но мы также не знаем, как будем поступать в непредвиденных ситуациях. Не знаю, пойдут ли нам на пользу (а хотелось бы) исследования, которые в результате сделают возможным создание искусственного интеллекта.
Парадоксы сознания[33]
Можно допустить, что все люди обладают сознанием, но это вовсе не означает, что все они отдают себе в этом отчет. Вся эта сфера не предполагает полной однородности. Мы не знаем, как рождается и возникает сознание, мы также не знаем, каковы его связи с интеллектом. В «Сумме технологии» я очень наивно писал об электромозге и даже о его верованиях. Мне казалось (и не мне одному), что возможна прямая конструкторская дорога к интеллекту. Сейчас, лучше информированный, я понимаю всю сложность проблемы. На вопрос, может ли человек выполнять сложные функции с четко определенной целью бессознательно, или же скорее без участия сознания, без колебаний можно ответить утвердительно. Именно так поступает мало-мальски опытный водитель автомобиля, гребец, человек, управляющий в воздухе дельтапланом, а также люди во многих других ситуациях. Скорее даже в этих областях господствуют именно состояния, противоположные сознательным, поскольку гармоничное сочетание навыков, полученных при участии сознания, затем подвергается автоматизации до такой степени, что вторжение сознательного внимания в единую последовательность уже усовершенствованных действий может скорее помешать, чем помочь. Это касается также и наших языковых способностей. Зачастую трудно продекламировать наизусть фрагмент, вырванный из середины какой-нибудь поэмы или стихотворения, именно потому, что это требует определенной дезавтоматизации. Ведь чтобы произнести такой фрагмент, бывает легче начать текст с начала. Это свидетельствует о возрастающей благодаря обучению или приучению автоматизации действий, для которых требуется одновременная работа нейронных модулей, порой расположенных в разных полушариях мозга. Однако очень трудно определить, каким образом ощущает сознание человек, пораженный афазией, атаксией, алексией или агнозией. Нам известно, что человек может видеть, будучи в своем сознании слепым. Такой невидящий не знает, что видит окружающий мир и другого человека с мячом в руке, но схватит этот мяч, если его ему бросить. Феномены такого рода, а их существует легион, лучше известны неврологам, которые, как, например, российский исследователь Лурия, имели дело с тысячами людей, имевших различные повреждения мозга. Лечение таких состояний часто основано на терпеливом обучении пострадавшего использованию различных проявлений окружающей среды или специальных приспособлений, или же контролю поведения другими органами чувств. Было бы нонсенсом, если бы я далее углублялся в неврологию, а сказанное служит лишь в качестве наброска для вступления к теме неметрически многомерной активности мозга, который может любую произвольную целенаправленную функцию выполнить абсолютно различными способами.
Как я писал в «Сумме технологии», конструктора интересует не то, есть ли сознание у машины, а лишь то, правильно ли она функционирует. Все, что мы знаем о внесознательном автоматизме, а также о бессознательной активности инстинктов, позволяет нам считать возможным изучение сложных систем (например, нейронных сетей), когда, зная, что находится на входе, а что – на выходе системы таких сетей, мы можем не знать, что происходит в самой сети. Пока мы не слишком далеко продвинулись от компьютерных программ Винограда, при помощи оптических датчиков и рецепторов выполнявших поручения типа: «скажи, сколько геометрических тел стоит на столе» или «поставь конус на куб» и т.д. Сейчас нам с триумфом объявляют, что робот, который умеет подняться по лестнице или спуститься с нее, может самостоятельно ориентироваться в лабораторном окружении. Однако я бы не сказал, что его уже можно сравнить по умственному развитию с полуторагодовалым ребенком, который еще не разговаривает. Тем временем энтузиасты Artificial Intelligence хотят уже в следующих поколениях роботов видеть если еще не Эйнштейнов, то по меньшей мере официантов или домашних охранников. А ведь как с охранником, так и с официантом можно поболтать на политические или экономические темы. В моих глазах поборники AI сегодня напоминают скорее группы цирковых акробатов, намного более проворных, чем зрители, поскольку они способны выполнять прыжки в воздухе с трапеции на трапецию. Это неоспоримое мастерство sui generis, но оно не должно в каждом случае находиться под сосредоточенным вниманием сознания. Хотя я приписывал машинным системам будущего способность лингвистической артикуляции, и, следовательно, искусство ведения разговоров с человеком в рамках определенной тематики, но не стал бы сравнивать эту способность со свободой речи неквалифицированного разнорабочего или кухарки. Ведь не упоминалась немаловажная проблема, заключающаяся в том, что способность отличить в разговоре искусно запрограммированный компьютер от человека в очень большой, а точнее, в различной степени зависит от интеллектуального уровня собеседника-человека. Из трудов Вейзенбаума мы узнали, между прочим, что его псевдопсихологической программе Eliza удавалось обмануть даже тех людей, которые знали, что ни один человек и ни один разум не стоят за произносимыми вопросами и ответами. Однако психологическое заблуждение, вызванное антропоморфической проекцией, приводило к тому, что, например, секретарша, которой программа Eliza задала вопрос, с точки зрения секретарши интимный, просила, чтобы профессор оставил ее один на один с машиной, понимающей ровно столько же, сколько может понимать стена, отбивающая удары игрока теннисным мячом. Таким образом, мы вынуждены признать проблему искусственного интеллекта дихотомичной, поскольку она возникает при столкновении двух систем: человека, который в нашем предположении понимает, что делает и говорит, и машины, которая, очень постепенно в разных направлениях совершенствуясь, будет имитировать партнера. Я опасаюсь, что имитация может оказаться одновременно и бессознательной, и замечательно изображающей сознание. Эта трудность еще не преодолена, и потому сегодня она представляет собой гордиев узел, распутыванием или рассечением которого должно будет заняться только будущее.
Интеллект – случайность или неизбежность[34]
В беседе с молодыми немецкими философами я позволил себе задать несколько риторический вопрос: может ли интеллект считаться существенным условием сохранения вида. Я ответил себе сам, констатируя, что многомиллионное разнообразие живых видов на Земле возникло и опирается на точно нам неизвестное многомиллионное количество видов бактерий. Возникло оно после того, как цианобактерии, фотосинтезирующие водоросли, а также, вероятно, многочисленные другие прокариоты радикально изменили атмосферу едва остывшей и покрытой коркой Земли, благодаря чему возникшая в водах океанов жизнь, разделившись на растения и животных, смогла начать нашествие на континенты. Бактерии, сказал я, являются единственными организмами, способными пережить сильнейшие геологические и космические катаклизмы за исключением, пожалуй, полного испепеления нашей планеты в результате превращения Солнца в красного великана, который размерами превысит орбиту Земли, а может, и Марса. Не отрицая, таким образом, активной деятельности человеческого интеллекта, вместе с тем нельзя приписывать ему потенциал выживания, превосходящий потенциал, присущий миру животных. Виды, которые просуществовали сотни миллионов лет и сохранились до сих пор, как, например, насекомые, отличались изменчивостью, позволившей динозаврам дожить до нашего времени благодаря перерождению в птиц.
