Алексей Цветков - Атлантический дневник (сборник)
По словам автора, примерно через 30 лет компьютерные процессоры сравняются в объеме и скорости с человеческим мозгом. Многие ученые, хотя далеко не все, полагают, что на практике это будет означать появление искусственного интеллекта, соперника нашему собственному. Отсюда – предсказания вроде тех, какими пугает нас Качински.
Кроме того, роботика, как именуют науку о роботах, допускает возможность совершенствования нашей собственной физиологии с помощью компьютерных усилителей и имплантатов. Самые радикальные ученые полагают, что психику человека можно будет просто загружать в машину, как некую компьютерную программу, и таким образом бесконечно продлевать собственную жизнь и расширять возможности.
Иными словами, либо роботы, опираясь на прогресс, захватят над нами власть и ликвидируют нас за ненадобностью, либо мы сами превратимся в этих роботов.
Далее Билл Джой обращается к генной инженерии. Ему вспоминается двадцатилетней давности научно-фантастический роман Фрэнка Херберта «Белая чума» о молекулярном биологе, который, затаив обиду на человечество, создал возбудителя смертельной болезни, поражающей отдельные сегменты населения. Этот некогда фантастический сценарий очень скоро может стать реальностью: одному человеку, при наличии квалификации и скромной лаборатории, будет под силу превзойти все многолетние усилия иракского диктатора Саддама Хусейна.
Еще один предмет опасений автора статьи – так называемая «нанотехнология», то есть миниатюризация технологического оборудования до молекулярного и субмолекулярного уровня. Эти крохотные механизмы, так называемые автоматы Ноймана, наделенные способностью к самовоспроизводству, могут появиться уже через двадцать лет, и их потенциальные возможности практически безграничны – лечение злокачественных опухолей, очистка окружающей среды, небывалое усиление мощности компьютеров. Но среди теоретиков нанотехнологии уже бытует мрачный термин «серая слизь» – результат возможного уничтожения всей биосферы этими микромеханизмами, если они выйдут из-под контроля. Достаточно вспомнить, какие трудности возникают у нас уже сейчас с вирусами и микробами.
...Эти технологии XXI столетия, генетика, нанотехнология и роботика, настолько могущественны, что могут привести к совершенно новым типам катастроф и злоупотреблений. Опаснее всего то, что, впервые за всю историю, эти катастрофы и злоупотребления становятся вполне по плечу частным лицам и небольшим группам. Они не будут нуждаться в крупных производственных мощностях или редких материалах. Одно лишь знание даст возможность их использовать.
Таким образом, возникает возможность не просто оружия массового уничтожения, а знаний массового уничтожения…
Думаю, можно без преувеличения сказать, что мы живем накануне нового этапа совершенствования великого зла – зла, чьи возможности простираются далеко за пределы мощи государств-наций с их оружием массового уничтожения, наделяя поразительной и жуткой властью индивидуальных экстремистов.
Картину, нарисованную Биллом Джоем, я бы назвал безрадостной, и поэтому особый интерес представляют методы, которые он предлагает для обуздания грозящего зла. Эти методы на удивление просты и бесхитростны, они не требуют ни больших научных способностей, ни глубокого образования. Джой рекомендует, ни мало ни много, запретить направления научного исследования, чреватые потенциальной опасностью, установить над такими областями исследования строжайший международный контроль и резко ограничить сферу, которую мы в современном мире привыкли считать частной жизнью. В качестве компенсации за утрату этой частной жизни он рекомендует нам предаться изучению недавно опубликованной книги далай-ламы «Этика для нового тысячелетия».
Говоря без обиняков, Билл Джой предлагает нам принять программу террориста Теодора Качински. Сам Качински, коротающий остаток жизни в федеральной тюрьме, наверняка с удовлетворением прочитал этот черновик капитуляции и теперь вряд ли станет возражать даже против далай-ламы.
В социальной психологии с недавних пор существует термин «стокгольмский синдром», возникший в результате террористического инцидента в шведской столице в начале 70-х годов. Два рецидивиста захватили в банке четырех заложников, мужчину и трех женщин, и в течение шести дней угрожали их жизни, однако время от времени давали им кое-какие поблажки. В результате жертвы стали оказывать сопротивление попыткам правительства освободить их и встали на защиту своих захватчиков. Впоследствии две женщины из числа заложников обручились с бывшими похитителями.
Психологический механизм такого поведения понятен – в условиях изоляции и полной зависимости от авторитета человек начинает перед этим авторитетом заискивать и пытается толковать его действия в свою пользу. Это, если хотите, частный вариант всенародной любви к «сильной руке». Такая странная привязанность жертв к террористам отмечена с тех пор неоднократно, в том числе в ходе захвата отрядом Басаева больницы в Буденновске.
Труднее понять психологический механизм поведения Билла Джоя, но в нем, тем не менее, отчетливо различимы именно признаки «стокгольмского синдрома». По его собственным словам, в период террористической активности Качински он постоянно ожидал, что может оказаться его следующей жертвой. Его близкий друг, ученый-компьютерщик и философ Дэвид Гелернтер, стал одной из последний мишеней террориста и был искалечен присланной по почте бомбой. И вот теперь, окинув взглядом научные горизонты, Джой неожиданно приходит к выводу, что его заклятый враг все-таки прав.
Меня, однако, эта правота почему-то не убеждает. Возникает впечатление, что Джой не слишком обдумывал свои методы спасения человечества, а просто взял и предложил те, которые лежали сверху, – вернее, те, которые ему подсунул Качински. Многим эти методы могут показаться примитивными и свирепыми, а на мой взгляд, они даже страшнее, чем потенциальная опасность, от которой нас хотят оградить.
Как показал опыт полувековой попытки контроля над вооружениями, суверенные правительства можно уговорить пойти лишь на те уступки, на которые они сами согласятся. Представить себе, что все государства мира послушно откажутся от чудодейственных технологий, обещающих резкие экономические и военные преимущества над более покладистыми соседями, – значит забыть практически все, что мы знаем о человечестве и его истории. Но даже если они на это согласятся, найдутся, как находились всегда, такие, которые не сдержат своего слова и обведут вокруг пальца любую инспекцию. Мы рискуем, таким образом, оказаться в мире, где какая-нибудь Северная Корея может стать монополистом глобальной гибели и диктовать перепуганному миру любые условия.
Единственный вариант – это установление мирового правительства. На всеобщее согласие здесь опять же надеяться трудно: надо полагать, что государство, первым заполучившее одну из смертоносных технологий Джоя, продиктует всем остальным свою беспрекословную волю и само станет мировым правительством. Представим себе на минуту, что это уже произошло и мы с вами живем в таком всемирном государстве. Знания массового уничтожения, от которых оно считает своим долгом нас уберечь, дают возможность изготовлять оружие апокалиптической силы в самых скромных условиях и при самых скромных возможностях. Поэтому дозировка таких знаний будет поистине аптекарской: каждому отпускать ровно столько, сколько ему прописано, и без права передачи в третьи руки. Кроме того, необходимо пристально следить за распределением сырья и товаров, иначе какой-нибудь диссидент соорудит-таки автоматы Ноймана из алюминиевой пуговицы и стирального порошка. Иными словами, Билл Джой зовет нас в государство, где контроль будет не тоталитарным, а попросту тотальным: над информацией, над потреблением, над личными контактами, над содержимым карманов и над мельчайшими помыслами. Государство для этого будет нуждаться в самой изощренной технологии, но уж себе-то оно ее всегда позволит. А в свободном доступе можно оставить разве что книгу далай-ламы – хотя, впрочем, и это будет рискованно, ибо одно знание ведет к другому, а там недалеко и до «серой слизи».
Для такого государства, если его себе вообразить, каждый лишний гражданин будет источником бесконечных проблем.
Радикальный способ их решения, избавляющий от ненужной головной боли, давно подсказан одним из ведущих социальных инженеров нашего столетия: нет человека – нет проблемы.
Билл Джой – патентованный научный гений, и я, не будучи таковым ни в коей мере, говорю об этом без иронии. Но куда больше, чем мрачные технологические перспективы, которые он рисует в своей статье, меня пугает тот факт, что на мостике корабля нашего прогресса стоят люди, подобные Джою, глупость которых может однажды вооружиться бесконечной властью, какую предоставляет наука. Как тут не вспомнить о социальных теоретиках, поносящих демократию и предлагающих заменить ее властью технократов: мы только что заглянули в такое идеальное общество, милости просим!