Виктор Пелевин - Ананасная вода для прекрасной дамы
Это был совершенно непредусмотренный эффект — и именно на него уходили все имеющиеся ресурсы. Такова, если угодно, генетическая уязвимость нейронной сети, построенной по принципу человеческого мозга. Ведь мозг, как мы знаем, способен решать сложнейшие комплексные задачи, причем с удивительной скоростью, но нарушить его работу тоже несложно.
Представьте себе идущего по улице Эйнштейна, который одновременно размышляет об общей теории поля, обдумывает устройство атомной бомбы и мысленно играет на старенькой скрипке. И вдруг перед ним непонятно откуда появляется дышащий перегаром казак в наброшенной на плечи медвежьей шкуре, складывает немытые пальцы в русское подобие фингера — так называемый — "кукис", — подносит его к лицу ученого и говорит: "На-кось, жидовская морда, выкуси!"
Вполне вероятно, что Эйнштейн, несмотря на феноменальные способности своего мозга, не только перестал бы думать об отвлеченных физических проблемах, но побледнел бы, покачнулся и потерял равновесие. С системой "Freedom Liberator" происходило нечто похожее. Проекция пещерного мышления на сложнейшие нейронные сети двадцать первого века оказалась пугающе эффективной.
Но главная трагедия заключалась не в гибели техники. Целое столетие ученые и фантасты спорили о том, возможен ли рукотворный разум, и каким он будет. И вот реальность подвела под этими спорами черту. У нас есть все основания считать, что в тот момент, когда ресурсы системы "Free D.O.M." оказывались оторванными от выполнения боевой задачи и замыкались в подобии эмоциональной вольтовой дуги, в системе возникал искусственный интеллект.
По своему генезису этот интеллект был групповым и американским. Он появлялся перед гибелью каждого дрона — и именно его рождение было технической причиной катастрофы. Несколько секунд своего существования, пока "Freedom Liberator", кувыркаясь, несся к земле, этот разум невыразимо страдал от нанесенной ему несправедливой обиды. Это были как бы принудительные роды, которые заставляли гордо летящую в небе мать рухнуть вниз, из-за чего гибло и ее только что рожденное гениальное дитя. Этого чудовищного военного и гуманитарного преступления мы не простим русским ублюдкам никогда…"
13Но может ли машина, пусть даже такая совершенная, как "Freedom Liberator", действительно чувствовать и страдать как человек? Понятно, как сложна эта тема — но вот мнение, которое кажется нам интересным.
Ниже мы цитируем "Свет любви без разговоров" преп. Ив. Крестовского, по странной случайности — одну из любимых книг Скотенкова.
"Спор о том, может ли машина мыслить, идет, наверно, с тех самых времен, как человек заметил, что мыслит и делает машины. Но сама эта постановка вопроса есть пример одной из тех чудесных несообразностей, которые вытекают из существования языка — главного магического инструмента человека.
Вот перед нами два предложения, строго и точно описывающие эмпирическую реальность:
Человек мыслит.
Машина жужжит.
Теперь мы делаем простейшую операцию — меняем местами подлежащие. У нас получились два других предложения: "человек жужжит" и "машина мыслит".
Раньше никакой мыслящей машины не было. Сейчас она как бы есть.
Именно этот простой фокус и лежит в фундаменте всей истории человечества, безумно разгоняющейся со времен неолита. Сначала человек с помощью слов описывает то, что есть. Затем он меняет порядки слов в предложениях и получает описание того, чего нет. А потом он пробует это сделать. Так появляется "воздушный корабль", "подводная лодка", "конституционная монархия" и "анальный секс".
Такова магия человека, выделяющая его из животных. Впрочем, можно считать это не магией, а чисто механической функцией, для которой даже не нужен какой-то там "интеллект", а достаточно лишь способности отражать возникающие при перестановках слов смыслы. В таком случае человек оказыватся просто машиной, управляемой хаотически перекатывающимися внутри нее шариками слов.
Но Бога можно обманывать только до тех пор, пока Он Сам желает быть обманутым. Человеческая магия сильнее зверей и птиц, иногда сильнее природы, но сильнее ли она того источника, откуда появляется человек и куда он уходит?
Вернемся к нашему примеру.
Вот предложение "человек жужжит". Несложно представить, скажем, заслуженного голливудского комика, который после переговоров с киностудией и завершения всех юридических формальностей улыбнулся в наведенный на него раструб объектива, сделал удивленное лицо и зажужжал — сначала тихонько, а потом все громче и громче, пока прячущийся в полутьме за камерой режиссер не начал, улыбаясь, махать в воздухе оттопыренным вверх большим пальцем. Здесь магия слов сработала.
А вот предложение "машина мыслит".
Мы можем сколько угодно соединять в разном порядке источники питания и микрочипы. Мы можем сделать очень сложное устройство. Оно будет выглядеть самым загадочным образом и станет решать невероятно трудные задачи. Но откуда в нем возьмется тот внутренний наблюдатель, который в каждом человеке следит за работой мысли?
Подобный наблюдатель по отношению к построенной человеком машине может быть только внешним. Им и будет сам человек. Мало того, у человека уже есть одна такая мыслящая машина — собственный мозг, который точно так же решает задачи и предъявляет результат своему внутреннему свидетелю.
Этого свидетеля во все времена называли словом "душа", но современный век больше любит такие слова, как "сознание", "присутствие" или "ум". Вопрос, следовательно, не в том, может ли машина мыслить. Вопрос в том, может ли человек наделять свои творения душой.
Возражения разнообразных атеистов, существующих исключительно для развлечения Господа, нам, разумеется, не важны. Интереснее другое — буддисты, да и многие другие мистики-созерцатели говорят, что никакой постоянной сущности у человека нет. И это чистая правда, которую любой желающий может проверить внимательным наблюдением за собой в течение дня — или хотя бы часа. А следовательно, утверждают эти созерцатели, никакой души у человека тоже нет.
В таком выводе есть логика. Вот только кто видит, что никакой души и самости у человека нет?
Именно здесь нас и ждет самое интересное.
То, что постигает эту высокую истину — и есть душа, тот самый луч вечного неизменного света, который падает на выползающую из мозга кассовую ленту с результатами вычислений, гласящих, что никакой вечной сущности внутри этой машины не обнаружено.
Если мы вернемся к тому, с чего начали, именно здесь проходит граница, где кончаются возможности основанной на словесных манипуляциях человеческой магии. Если по одну ее сторону громко жужжит множество успешных голливудских комиков, то по другую любые перестановки слов в предложениях уже не имеют ни смысла, ни силы. Здесь душа постигает, что души не существует, здесь нет Бога — и нет ничего, кроме Бога, и так далее.
Поэты и философы штурмуют эту невидимую черту последние пять тысяч лет — и ни один из них не продвинулся за нее даже на миллиметр, поскольку миллиметров за ней тоже не бывает. И, разумеется, через эту границу совершенно точно не удастся перетащить какую-то там машину…"
Преподобный Ив. Крестовский, несомненно, видит суть вопроса по-своему очень глубоко. Но, спросим мы совсем тихо, что в таком случае мешает той непостижимости, которая глядит из неизвестного науке измерения на человеческий мозг и возвещает в нем "я существую", точно так же войти в рукотворный мозг из силикона и произнести в нем те же слова в двоичном коде?
Похоже, решение здесь зависит все-таки не от теологов.
Можно было бы завершить обсуждение этого вопроса прямо здесь, но нечестно не привести одного жутковатого высказывания Аль-Эфесби, сделанного на собрании инсургентов (их, видимо, тоже интересовал вопрос, мыслят ли сражающиеся с ними стальные птицы):
"Те, кто говорит, что души у человека нет, а машина может думать и чувствовать, как мы — это люди без души, кяфиры, которых не существует даже для самих себя. Они есть только для внешнего наблюдателя, и такова вся Америкия, посланная нам в испытание Аллахом: ее фальшивого фасада нет нигде, кроме как в наших глазах в то время, когда мы смотрим телевизор. Сколь же велика будет наша награда, когда мы прорвемся сквозь этот мираж и победим…"
14Часто задают вопрос — почему нельзя было просто отключить этот модуль "PR", раз с ним возникало столько проблем?
Дело в том, что нейронная сеть — такая, например, как человеческий неокортекс — это не компьютер, из которого можно вытащить одну плату и вставить на ее место другую. Сеть организована так, что из нее не всегда можно удалить какой-то один элемент, не повредив другие.
Сеть гарантированно можно только нарастить — потому у нас в мозгу и сохраняются древние рептильные слои, поверх которых эволюция добавила структуры, делающие нас людьми. Но если отрезать нам лобные доли мозга, это вовсе не превратит нас в то, чем мы были сто миллионов лет назад. Это, скорей всего, просто убьет нас.
