Охота на электроовец. Большая книга искусственного интеллекта - Марков Сергей Николаевич
Для того чтобы пройти по нашей узенькой тропке, разумеется, вовсе не следует закрыть глаза и стремглав бежать вперёд. Напротив, нам нужно хорошо видеть угрозы, подстерегающие нас на пути. К сожалению, многие из этих угроз в действительности ускользают от внимания публики, зачарованной яркими метафорами. В моей книге не будет готовых ответов или всестороннего анализа этих опасностей. Конечно, мне тоже хочется иногда побыть кинокритиком или философом, однако нужно держать себя в определённых рамках, иначе эта книга никогда не выйдет из печати. Поэтому я ограничусь кратким упоминанием стоящих перед ИИ проблем — как социальных, так и технологических — и небольшим количеством соображений по каждой из них. Эти соображения не будут содержать готовых ответов или рецептов, и в ряде случаев они увеличат число вопросов, а не ответов. Однако я надеюсь, что они послужат отправной точкой для более глубокого общественного обсуждения названных проблем, что в результате позволит выработать разумные прикладные рецепты в области социальной и научно-технической политики.
Мы уже упомянули несколько стоящих перед нами угроз: ИИ-апокалипсис при участии сверхразума, техногенный апокалипсис из-за недостатка «разума» при использовании могущественных технологий, гонку автономных вооружений с опасными для мира последствиями, а также победу неолуддитов. Этот список будет неполон без проблем, относящихся к социальным последствиям развития технологий ИИ. И самой обсуждаемой из них, безусловно, является угроза массовой безработицы. О ней мы и поговорим в следующем разделе.
7.3 Съедят ли людей электроовцы?
О овцы, такие ручные и неприхотливые в еде. Они становятся настолько жадными и необузданными, что поглощают самих людей, опустошают и делают безлюдными поля, дома и города.
7.3.1 Влияние технического прогресса на общество: история проблемы
Ткачи, негодяи, готовят восстанье,
О помощи просят. Пред каждым крыльцом
Повесить у фабрик их всех в назиданье!
Ошибку исправить — и дело с концом,
В нужде, негодяи, сидят без полушки.
И пёс, голодая, на кражу пойдёт.
Их вздёрнув за то, что сломали катушки,
Правительство деньги и хлеб сбережёт,
Ребёнка скорее создать, чем машину,
Чулки — драгоценнее жизни людской
И виселиц ряд оживляет картину,
Свободы расцвет знаменуя собой.
Массовое внедрение систем, основанных на последних достижениях в области ИИ, — это, мягко говоря, не первая технологическая революция в истории человеческого общества и не первый случай, когда перемены в технологическом укладе ставят под угрозу множество рабочих мест, что, в свою очередь, создаёт базу для тяжёлых социальных потрясений.
Вопреки распространённому заблуждению, Конфуций, по всей видимости, никогда не желал своим врагам жить в эпоху перемен. Древняя китайская мудрость гласит: 寧為太平犬，莫做亂離人, что значит «Лучше быть собакой в мирное время, чем человеком во времена хаоса», но это изречение более относится к войне, чем к переменам в жизни общества. Страх перед меняющимся миром — это, по всей видимости, всё-таки примета Нового времени. Могущественные боги научно-технического прогресса, мирно дремавшие в течение большей части Средневековья, пробудились и наделали много шума сначала в Европе, а затем и во всём мире. Технологическая революция решительно вторглась в быт феодальных общин, дав начало эпохе огораживаний. Стремительный рост ткацкой промышленности, начавшийся с появления и распространения ручных ткацких станков и развития ткацкой мануфактуры в Англии, привёл к быстрому росту цен на основное сырьё — шерсть. Чтобы расширить площадь пастбищ для овец, лендлорды сгоняли крестьян с земель, ликвидируя земледельческие общины. Это привело к серьёзным социальным проблемам — множество людей осталось без средств к существованию. Правительство боролось с этим крайне негуманными, но соответствующими духу времени методами. Вспыхивавшие восстания (например, восстание Томаса Кета) подавлялись, ужесточались наказания, принимались законы против бродяг. Например, в 1495 г. английский парламент принял статут, предписывающий властям «хватать всех таких бродяг, бездельников и подозрительных и заковывать в колодки и держать их так три дня и три ночи на хлебе и воде; и по истечении этих трëх дней и трëх ночей выпускать их на волю, приказывая, чтобы те больше не появлялись в городе».
Согнанные с земли люди пополнили строй промышленных рабочих в городах. Но промышленность развивалась недостаточно быстро, чтобы потреблять эту высвободившуюся рабочую силу. Это были годы, в которые, по меткому замечанию Томаса Мора, «овцы съели людей».
Таким образом, смена технологического уклада привела к социальной катастрофе.
Впрочем, как спустя два столетия заметил один из идейных прародителей современных интернет-троллей Джонатан Свифт, в данном случае удовлетворялся вовсе не овечий аппетит. В своём памфлете «Скромное предложение, имеющее целью не допустить, чтобы дети бедняков в Ирландии были в тягость своим родителям или своей родине, и, напротив, сделать их полезными для общества» [3144] Свифт предложил продавать детей бедняков в качестве деликатеса для стола представителей элиты. Далее в тексте памфлета изложены рецепты приготовления младенцев в пищу и калькуляции, доказывающие экономические выгоды от реализации предложенного плана.
Во второй половине XVIII в. появились первые станки, основанные на силе пара, что подстегнуло новую волну безработицы и привело к серии стихийных протестов. Проблема заключалась не только в том, что люди теряли работу, — при потере работы квалифицированный специалист мог найти себе новое место. Но в результате внедрения машин исчезали целые профессии, на освоение которых люди тратили многие годы. Это ставило работников в крайне тяжёлое положение, поскольку им теперь надо было осваивать новое ремесло, что для многих было неподъёмной задачей. Случаи уничтожения машин появились в Англии в конце XVIII в., а в 1811 г. возникло массовое движение луддитов, которое быстро распространилось по всей Англии и привело к разрушению ряда шерстяных и хлопкообрабатывающих фабрик.
Своим предводителем луддиты называли некоего Неда Лудда. Лудду приписывалось уничтожение двух чулочных станков, производивших дешёвые чулки и грозивших разорением опытным вязальщицам. Подпись Лудда стояла под множеством писем и прокламаций, однако реальное существование этого исторического персонажа в наши дни подвергается сомнению. В народной молве Лудд стал генералом Луддом и даже «королём Луддом». Поговаривали, что он живёт в Шервудском лесу, подобно Робин Гуду [3145]. Возможно, реальным прототипом Лудда был ткач Эдвард Ладлэм, но это не точно [3146], [3147].
Реакция английского правительства была жёсткой — в качестве наказания за уничтожение машин была установлена смертная казнь, а сами восстания были подавлены войсками. Последнее из восстаний луддитов было разгромлено в 1817 г.
7.3.2 Сегодня в мире: прогресс и перспективы
«Через 30 лет роботы смогут делать практически всё, что умеют делать люди, — такой прогноз дал Моше Варди, профессор вычислительной инженерии и директор Института информационных технологий Кена Кеннеди (Ken Kennedy Institute for Information Technology) при Университете Райса (William Marsh Rice University). — Это приведёт к тому, что более 50% жителей Земли станут безработными. Мы приближаемся к тому времени, когда машины превзойдут людей почти в любом деле, — говорит Варди. — Я считаю, что обществу нужно посмотреть в лицо этой проблеме до того, как она встанет во весь рост. Если машины будут способны делать почти всё, что умеют люди, что тем останется делать? Вопрос, который я хочу поставить, звучит так: „Действительно ли технология, которую мы разрабатываем, приносит пользу человечеству?“»
