Сергей Тараненко - Наполовину мертвый кот, или Чем нам грозят нанотехнологии
Для того чтобы избежать необоснованного, излишнего контроля со стороны государства, пишут конституции, гарантирующие права личности, устанавливают правила (законы) — это контролировать можно, это — нельзя. Доказательства, добытые с нарушением правил, не в счет. Такое «понарошку» реализовано в Америке. Только возникает вопрос: а для всех ли «понарошку», каждый ли может спрятаться «в домике» Закона? Спросите у Виктора Бута[38].
Но если мы имеем дело не с государством? Можно ли также ограничить кадровую службу крупной корпорации при приеме на работу? Конечно, правилами может быть установлено, что применять детектор лжи нельзя, но как быть с «носом», скромно приютившимся в темном углу и контролирующим, потеют ли ваши руки? Для этого не нужно вашего согласия.
А как быть с недобросовестным партнером по игре в покер? Ведь вы должны быть уверены, что и здесь где-нибудь не притаился «нос». Иначе про блеф, вместе с игрой, можно забыть! Или вы останетесь «с носом».
Краткая таблица рисковРиск развития технологий, потенциально способных ограничивать личные свободы государством и его институтами.
Риск развития технологий, потенциально способных ограничивать личные свободы третьими лицами, в том числе корпорациями.
Риск непрерывного последующего контроля местопребывания. Риск вмененной правды — технологии постоянного контроля за правдивостью сказанного.
2.4. Нейронное минное поле
Наиболее совершенной моделью кота является такой же кот, а лучше — он сам.
Норберт ВинерПринципиальным свойством, отличающим одну структуру от другой, является сложность. Бывают структуры относительно простые, как регулярная структура кристалла, бывают более сложные, как структура дендримера. Наверно, самая сложная структура, известная человеку, — это структура его собственного мозга. Для подобных структур придумали специальное название — нейронные сети. Нейроны — это клетки головного мозга, соединенные в сложную сеть. Один нейрон соединен с 20 000 других (рис. 2.4).
Нейронная сеть — обучающаяся структура. Установившиеся между клетками мозга связи — это наша функциональная память. Так мы запоминаем принципы, образы и многое другое. Мозг отличен от компьютера: он думает «целиком» и «одновременно», компьютер — «частями» и «последовательно».
С нанотехнологиями связана надежда на создание искусственных нейронных сетей, подобных мозгу.
Рис. 2.4 Реконструкция нейронной сетиПомните дендримеры из предыдущих глав? Это возможный кандидат на реализацию такой — сверхсложной — структуры. «Компьютеры», построенные на основе таких сетей, как ожидается, смогут решать задачи, неподвластные машине Тьюринга[39], которой является привычный нам компьютер.
Появление компьютера — обычного, не на нейронных сетях — кардинально изменило нашу жизнь. О тех благах, которые нам дала компьютеризация, говорить не будем — многие на слуху. Да и не в этом задача нашей книги. А теперь давайте подумаем, что случилось негативного.
Первое, что приходит на ум, — виртуальная реальность и связанная с ней компьютерная зависимость, прежде всего у детей. Уход от проблем реальной жизни, неготовность к ней — вот страшный результат сегодняшнего прогресса. Ребенок 20–25 лет, так и не ставший взрослым, знает мир, в котором несколько жизней, а если что, можно и перезагрузить.
В общем, не вдаваясь в детали, которых множество, можно уверенно заявить: с вызовом компьютеризации мы не справились. Справимся ли с новым, который будет гораздо серьезнее? Компьютер на принципах нейронной сети будет не просто «мощнее», какой бы смысл в него ни вкладывали. Важно другое. Наши коммуникации с ним будут иными. Уже сегодня ведутся работы по взаимодействию мозга человека и компьютера. Разрабатывается (опять же с помощью нанотехнологий) интерфейс «мозг человека — компьютер — мозг человека». Если вы обездвиженный калека, это ваш шанс вернуться к активной жизни. Нанодатчики считывают картину коры головного мозга — энцефалограмму. Сигналы интерпретируются компьютером и передаются на робот-манипулятор, выполняющий желаемое действие. Манипулятор снабжен датчиками, обеспечивающими аналог тактильных ощущений, иными словами, чувство осязания. Сигнал вновь обрабатывается компьютером и передается в мозг. У человека полное ощущение, что он берет нужный предмет манипулятором, ощущает его вес, прохладу или теплоту, влажность или сухость.
Но при мощном компьютере, умеющем строить убедительную виртуальную реальность (а компьютер, построенный на принципах нейронной сети, именно такой), манипулятор в принципе и не нужен — у вас в мозгу сигнал, и вы уверены, что манипулятор есть, что им вы на бумаге написали прекрасные стихи… А весь мир, кажущийся вам реальностью, всего лишь плод «воображения» нейронного мозга. Плюс, конечно, интерфейс «мозг — машина — мозг».
Вы не пробовали жить в мире, где параллельные пересекаются? Как ни крути их — во всех семи измерениях? И не стоит! Вряд ли после этого вы сможете нормально жить в нашем трехмерном. Увы, на фоне этого проблема наркотиков может показаться невинной.
Конечно, проблему ухода в виртуальную реальность можно контролировать — правда, с тем же успехом, что и распространение наркотиков, но все же… А вот другую…
Компьютер обыграл мирового шахматного чемпиона. Уже. И не потому, что умнее, ведь программу написал человек. Мы часто слышим рефрен нашего времени: «компьютер посчитал», не задумываясь, что это лишь созданный человеком алгоритм. И поэтому не задумываемся также над тем, подходит ли этот конкретный алгоритм, ставший стандартным, и потому заложенный в программу, именно к нашей задаче. Мы все равно сами это проверить не можем. Для этого нам надо проделать все с самого начала — написать новую программу вместо уже существующей. Удивительно, но так раньше и делали, причем всегда! А потом программы стали сложнее и дороже, а одновременно — универсальнее, подходящими ко множеству сходных случаев. И мы практически не в состоянии контролировать, что программа делает. Мы лишь верим результату.
Мы стали устойчиво путать знание и информацию и даже не можем отличить информацию от ее имитации — информационного шума. Заглянули в компьютер и написали реферат о барнаульском метрополитене[40].
Рис. 2.5 Схема линий «барнаульского метрополитена», существующего только в Интернете [41]Знание ушло. Мы верим компьютеру, пока вполне глупому. А вот представьте, что компьютер умный: что он способен обучаться — а именно этим и отличаются нейронные сети. Будет ли он инструментом в ваших руках, как когда-то логарифмическая линейка? Или наоборот — инструментом будете вы?
Нанотехнологии — необходимая предпосылка искусственного разума в форме нейронных сетей. Но каково будет место другого разума — нашего?!
Краткая таблица рисковРиск искусственного интеллекта.
Риск замещения реальности — виртуальная реальность принципиально нового качества.
Риск невозможности проверить компьютерные расчеты.
Риск замены активной стороны — решения, принимаемые не человеком, а компьютером.
2.5. Программируемая материя
Многие серьезные вещи начинались с игрушек.
Интернет-афоризм«Программируемая материя» — термин из области фантастики, благодаря нанотехнологиям имеющий все шансы ворваться в нашу жизнь. Под этим термином скрывается и то, что кажется нам вполне реальным или уже реализовано сегодня, как жидкие кристаллы или материалы с изменяемыми оптическими свойствами, так и то, что мы видим в американских фантастических боевиках вроде «Терминатора».
Серьезность этого направления подтверждается тем, что соответствующие исследования организованы и финансируются DARPA — Агентством передовых оборонных исследовательских проектов Министерства обороны США, отвечающим за разработку новых технологий для использования в вооруженных силах.
Программируемая материя — это нанотехнологический хамелеон, способный принимать различные образы.
В образе жидких кристаллов мы такие «хамелеоны» знаем уже сегодня. Это всевозможные мониторы, в том числе и той электронной книги, с помощью которой вы, вероятно, читаете данный текст, а также компьютера. Способность изменяться под воздействием, например, электрического поля и есть основа того, что мы видим. Жидкие кристаллы — хиральные нематики (с понятием хиральности мы уже сталкивались). Под этим мудреным термином скрывается способность поворачивать поляризацию света. Если свет пропустить через два поляроида с взаимно перпендикулярными осями поляризации, свет не пройдет. Первый поляроид не пропустит ту часть света, вектор электрического поля которого перпендикулярен его оси, и пропустит только «параллельную» составляющую, тем самым поляризовав свет. Для второго поляроида весь этот свет будет «перпендикулярным» (см. рис. 2.6).
