Елена Ларина - Роботы-убийцы против человечества. Киберапокалипсис сегодня
Соответственно там, где действуют строгие правила, вычисления оказываются гораздо более эффективными, чем образы. Это в частности доказала история соперничества человека и компьютера в шахматах. После проигрыша в 90-е годы прошлого века чемпиона мира по шахматам Гарри Каспарова компьютеру IBM, машинный интеллект в шахматах навсегда доказал свое первенство перед человеческим. Но шахматы – это счетная игра, игра по правилам. Соответственно там, где устанавливаются четкие правила, и решается задача выбора наилучшего решения в рамках этих жестких правил, компьютеры уже стали или в ближайшее время станут принимать решения лучше, чем человек.
Люди тоже во многих случаях принимают решения по правилам. Просто у нас правила называются привычками, стереотипами, навыками и т. п. Каждый может вспомнить, как те или иные действия он выполнял машинально, или говорил, принимая то или иное решение: «Я действовал на автомате». Однако человеческое поведение не исчерпывается автоматизмом. Отличительной особенностью человека является способность менять правила, выходить за них, действовать за пределами привычек, стереотипов и навыков.
Вспоминая о шахматах, нужно держать в голове не только итог поединка Гарри Каспарова с Deep Blue, но и сеанс одновременной игры, который дал Остап Бендер в Васюках или боксера из песенки Высоцкого о поединке на звание чемпиона мира.
В человеческом мышлении, безусловно, присутствует, более того, занимает значительное место вычислительная компонента. Иначе бы люди не создали никакой математики, а соответственно не появились бы ни программирование, ни компьютеры, ни интеллектуальные роботы. Но вычислительная компонента у человека является не единственной. Как минимум не менее, а вероятно и более важным является не вычислительная, а образная, базирующаяся не на анализе, а на синтезе. Не зря поэты, которые зачастую видят проблему раньше и лучше ученых, написали строки типа: «мысль изреченная есть ложь». А ведь слово и цифра – это одно и то же, просто в разных языках.
К чему эти, казалось бы, далекие от темы роботов размышления? Все очень просто. Мышление, интеллект, подавляющее большинство современных исследователей из самых различных отраслей знаний – от математики до психологии, от военной стратегии до практики продаж – понимают как процесс принятия решений, т. е. выбор из различных альтернатив единственной в условиях неопределенности. Последнее означает, что по условиям, ни одно из имеющихся решений не является однозначно лучшим и очевидным.
Теперь мы подходим к главной цели нашего вступления, без которого невозможно понять ни текстов, напечатанных в книге, не послесловия к ним. Если понимать интеллект так, как изложено выше (а именно такое понимание соответствует и повседневному опыту и здравому смыслу и современной науке), искусственный интеллект – это не будущее. Он уже существует. Но слово «искусственный» затемняет суть дела, По сути это – иной интеллект. Это – вычислительный интеллект. Соответственно по-английски его правильно обозначать не привычной аббревиатурой IA, a QI (вычислительный интеллект), или OI (иной интеллект).
Главным является слово «вычислительный». Именно здесь содержатся огромные возможности и возможно еще большие угрозы для человеческого рода. QI может либо дополнить человеческий интеллект и соответственно породить принципиально новый, гибридный интеллект, либо помочь людям уничтожить себя и вместе с собой цивилизацию.
Проблема здесь вот в чем. Современные, а тем более будущие роботы, уже наделены зачатками, а в отдельных случаях и полноценным QI. При этом великий провидец, мыслитель и фантаст, кстати, имеющий российские корни, Айзек Азимов еще в 1942 году сформулировал три знаменитых закона робототехники. «Законы гласят:
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам».
Хитрость состоит в следующем. Поскольку роботы обладают не просто интеллектом, тем более не человеческим интеллектом, а именно QI, то в их программах должны быть прописаны жесткие правила. В них должно быть четко и главное однозначно определено, кем является человек. Если в программе под человеком понимаются все люди, без исключения, то тогда никакие военные, криминальные или разведывательные роботы невозможны в принципе.
Они не были возможны и раньше. Но сегодня в эпоху прокси-, гибридных, асимметричных, городских войн, использование роботов в военных и иных целях становится в соответствии с законами А. Азимова совершенно немыслимым.
Одной из главных особенностей вооруженных конфликтов является то, что в них теперь сложно определить, когда они начинаются и когда заканчиваются. Противники и союзники постоянно меняются местами. Фронт и тыл больше не существуют. В рамках одного города может идти мирная, повседневная жизнь и происходить вооруженные столкновения. Мирные граждане днем, могут становиться повстанцами ночью и т. п. Не зря наиболее точным названием вооруженных конфликтов современности является термин «нечеткие войны» или «войны без правил», «войны всех против всех».
Это войны, где контекст зачастую важнее того, что непосредственно видно и распознается. Это войны, где зачастую важно не считать, а понимать, где чутье и интуиция на малейшие признаки перевешивает сложные расчеты и многомерные модели. Оно и понятно. Это войны, где решения надо принимать не просто в условиях неопределенности, а по постоянно меняющимся правилам.
Теперь, мы надеемся, понятно, почему роботы, обладающие не искусственным, а вычислительным интеллектом, становятся чрезвычайно опасными, почему в этих условиях не роботы становятся угрозой для людей, а люди, взявшие на вооружение роботов с вычислительным интеллектом, создают невообразимые риски и огромные угрозы всему человечеству.
Не просто с каждым годом, а с каждым месяцем роботы и автономные автоматизированные системы все шире применяются в военном деле, в экономике, в быту. Однако, сама по себе концепция роботов и более того, ее программно-аппаратное воплощение – это не достижение сегодняшнего дня. Первые роботы современного типа появились еще в США, в Советском Союзе. Мало кто помнит, но в последние годы существования СССР робототехникой и полностью автоматизированными линиями, соответствующим лучшим мировым образцам, оснащались предприятия многих отраслей народного хозяйства. Советские беспилотники на рубеже 70-80 гг. прошлого века превосходили по оценкам западным экспертов, своих собратьев-роботов на Западе.
В то же время нельзя не признать, что как бы ни были совершенны роботы XX века, это были роботы прошлого в полном смысле этого слова. Информационная революция, появление интернета, прорывы в области электронных схем и процессоров, микроминиатюризации и производства новых материалов создали все предпосылки для появления роботов, способных реализовать возможности вычислительного интеллекта.
При этом запрещать что-то уже поздно. Джин выпущен из бутылки. Бывший министр обороны США Ч. Хейгел на презентации Третьей стратегической инициативы инвестиций и инноваций, нацеленной на перевооружение армии США, и активно реализуемой Пентагоном, сказал: «Любая высокая технология имеет тройное – гражданское, военное и криминальное – применение».
Роботы – не исключение. Более того, они – самое яркое и опасное правило. Смертоносные роботы с вычислительным интеллектом – это уже не персонажи фантастических книг и блокбастеров. Они берутся на вооружение армиями, террористическими группировками и транснациональными преступными формированиями. Это реальность, в которой нам предстоит жить и от которой не уклониться. Поэтому лучше не погружаться в сладкий дурман пропагандистских опусов и публицистических агиток, а узнать информацию о реальном положении дел, что называется, из первоисточников.
В книге собраны тексты, опубликованные во второй половине 2014-го и в 2015 г. ведущей американской «фабрикой мысли» – Центром новой американской безопасности. В нем работает много бывших руководителей Пентагона, военачальников, высших чинов американской разведки, всемирно известных исследователей. Также в книге представлен доклад межуниверситетского коллектива в составе лучших специалистов из ведущих американских учебных заведений и научных центров, подготовленный по заданию властей США. Также в книге представлены и другие актуальные тексты о боевых роботах и о применении роботов террористическими и преступными группировками.
Материалы, которые приводятся в данной книге, показывают, насколько реальность уже превзошла все фантазии. Это касается и боевых дро-нов, и новых автоматизированных систем ведения войны, и роботов в компьютерных сетях. Уже сейчас роботы массово убивают людей. Еще одна опасная тенденция – применение роботов в преступных целях террористами, мафиозными организациями. Звучащие призывы правозащитников и парламентариев разного уровня о внесении запретов на производство и применение роботов в боевых целях тонут в вале сообщений о разработке все новых и новых автоматизированных систем вооружения. К сожалению, каскад военных конфликтов, охвативших все континенты, не даст возможности сдержать разработку и применение боевых роботов. Надо быть реалистами в оценке ситуации. Перефразируя одного известного исторического деятеля: если мы не хотим оказаться жертвами чужих роботов, необходимо научиться конструировать и производить свои, лучшие и эффективные.
