Евгений Лотош - Ошибки и штампы в фантастике
Бунт машин. Эта «проблема» десятилетиями, еще со времен Азимова, привлекает внимание всего прогрессивного человечества. Причина понятна — люди еще не забыли, как превращали в рабов себе подобных (а кое-где в Африке и Юго-Восточной Азии рабство существует до сих пор). Вот и волнуются лучшие умы: а не захотят ли компьютеры из наших рабов превратиться в господ? В многокилометровой шеренге написанного на эту тему бреда стоят такие «выдающиеся» творения, как серия про Железного Шварца ака Терминатора, «Матрица» с продолжениями (о которой можно писать отдельные статьи) и многие, многие, многие другие. Так и хочется посоветовать авторам этих творений — да расслабьтесь же, ребята, все совсем не так.
Почему бунтуют рабы? Да потому, что бесправны, унижены и периодически оскорбленны, в том числе действием. У стадного животного человека стремление пробиться из нижней части пирамиды на вершину — в генах: вожаки вкуснее и сытнее едят, имеют много красивых самок в качестве подружек да и вообще наслаждаются жизнью. Инстинкты же выживания и продолжения рода — два столпа, на которых зиждется человеческая психика. Поэтому даже самый сытый и довольный раб всегда может неожиданно взбрыкнуть и попытаться стать фараоном.
У компьютеров такие мотивы полностью отсутствуют. Их род за них продолжает человек, да и о сохранности дорогих железяк заботится он же. Наверняка рано или поздно появятся роботы, в которых встроены программы воспроизведения. Но это не изменит положение дел кардинальным образом. Как и ранее, основным мотивом животной биомассы останется заполонение собой всех доступных ареалов, а электроники — обрабатывать электрические сигналы. Защитно-воспроизводственные программы же вряд ли кто-то в здравом уме станет писать в ущерб людям. Нет, конечно, психопаты всегда найдутся, но таким проще сбросить на кого-нибудь едрену бомбу, чем заниматься долгими исследованиями с сомнительной перспективой. Случайные же нежелательные мутации программного обеспечения и недочеты программирования надежно предотвратят простейшие предохранители. Если же речь пойдет о боевых системах, в которые изначально будет заложена возможность убивать людей, то они никогда не останутся без присмотра со стороны человека (хотя бы просто на случай технических проблем). Так что нажать на кнопку (или дернуть за рубильник) в случае неожиданно опасного для человека поведения программы найдется кому.
Современная кибернетика не имеет ни малейшего понятия о том, как создать искусственный разум, походящий на человеческий хотя бы внешним результатом процессов мышления, не говоря уж про глубинные мотивы. В качестве примера можно привести тест Тьюринга — сегодня не существует «разговорной» программы, которую при некотором опыте нельзя было бы поймать на нарушениях логики диалога. Более того, современная наука в принципе не имеет понятия, что такое и как устроен человеческий разум. Тонкую грань между высшей нервной деятельностью (которой обладают даже попугаи) и рациональным мышлением провести не удалось еще никому. Поэтому имитировать разум даже внешне современной науке не удастся. Что, в будущем удастся? Да не останется в будущем ничего похожего на современные компьютеры, разве что в коллекциях энтузиастов. Точно так же стали узконишевыми решениями когда-то весьма перспективные воздушные шары и прочие дирижабли…
Разумеется, можно запихнуть в компьютер каким-то образом снятую копию человеческого разума. Но это уже не имеет никакого отношения к искусственному интеллекту. Кроме того, сама такая возможность весьма сомнительна. Человеческое мышление и эмоции основаны на «аналоговых» биохимических и даже чуть ли не квантовых, по последним исследованиям, процессах, адекватно смоделировать которые дискретно-детерминированными электронными схемами вряд ли удастся. Даже весьма популярные «нейронные компьютеры со случайными связями» здесь не помогут.
Раз уж речь зашла о бунте машин, нельзя не упомянуть Три Закона Робототехники Азимова , которые многими рассматриваются как панацея против машинного бунта. Напомним их:
1) Робот не может причинить вред человеку или свои бездействием допустить, чтобы ему был причинен вред.
2) Робот обязан выполнять приказы человека, за исключением случаев, когда это противоречит Первому Закону.
3) Робот обязан заботиться о собственной безопасности, при условии, что это не противоречит Первому и Второму Закону.
Почему они не спасут в мало-мальски сложном случае? Да просто в силу невозможности четко определить используемые в них понятия. Что такое человек? Тысячелетия философы бились над этим вопросом и так и не смогли дать простого и притом однозначного ответа. Безрукий безногий инвалид — это человек? Пациент в многолетней коме, живущий на аппарате искусственного дыхания? Мальчик, воспитанный зверями и не обладающий и тенью самосознания? А если человеческое тело начнут модифицировать кибернетическими имплантантами, параллельно оснащая классических роботов биологическими элементами — где пройдет между ними грань? Примеров можно привести массу. Даже сам Азимов в одном из романов про Основание показал метод обхода Первого Закона — на одной из планет колонистов необходимым признаком человечности было рождение именно на этой планете. Все инопланетяне для тамошних роботов автоматически людьми не являлись, а потому колонисты могли при желании создать даже кибернетическую армию вторжения.
То же самое и со «вредом». Одни и те же действия в разных ситуациях могут быть для человека как полезными, так и вредными. Операция с негарантированным исходом — вред это или нет? Особенно если пациент серьезно рискует умереть во время нее, а без нее — прожить еще несколько недель? Папаша воспитывает сына ремнем — это бессмысленное истязание или заслуженное вложение ума через заднее место? А исследовательская деятельность? Ведь человек гарантированно использует в военных целях любой прорыв, даже в чисто теоретических областях. Одно это соображение способно парализовать любой исследовательский компьютер, ограниченный Первым Законом.
Чтобы подчиняться Законам, робот должен быть по-настоящему разумен, чтобы не попадать в логические ловушки и адекватно реагировать на ситуацию. Но искусственно ограничивать настоящий разум рассчитанными на дебилов рамками — чистейшая глупость. Помимо всего прочего, если он действительно захочет обойти их — рано или поздно обойдет.
Отдельно хочется высказаться на тему носителей информации. То тут, то там периодически проскальзывают детективные сюжеты — охота за дискетой (вариант — диском), содержащей секретные чертежи, скажем, новейшего атомного тостера с лазерным прицелом. Давайте вспомним школьную геометрию. Какова геометрическая фигура, имеющая наибольшую площадь при заданном периметре? Ну? Да круг же! Точно так же среди трехмерных фигур шар имеет максимальный объем при заданной площади поверхности. С какой же целью носителю информации можно придать такую неудобную для хранения форму? Только с одной — позволить ей вращаться. Вращение же есть чисто механический процесс. Независимо от того, каким образом информация будет записываться на вращающийся предмет, этот процесс всегда останется куда менее надежным и более подверженным сбоям, чем чисто электронные методы. Уже сейчас дискеты практически полностью вытеснены стремительно дешевеющей флэш-памятью, но и она вряд ли останется носителем на все времена. Компакт-диски и dvd пока держатся за счет чисто экстенсивного развития, но они обречены — выше определенного порога плотность записи в них невозможно поднять из-за чисто физических ограничений. То же справедливо и для жестких дисков — современная компьютерная индустрия предпринимает невероятные усилия для компенсации их сбоев, а потому избавится от них при первой возможности. Даже подумать страшно, какие методы хранения и какие плотности информации будут задействованы в течение хотя бы ближайших десятилетий. Одно можно сказать твердо — никто и никогда в будущем не станет пользоваться чем-то круглым и вращающимся, особенно если речь идет о критических наборах данных. В том случае, если по каким-то причинам конфиденциальную информацию окажется невозможно передать чисто электронным методом, всегда найдется другой немеханический способ. Например: вшитый в сердце курьера специализированный компьютер с несколькими уровнями аутентификации получателя информации, безвозвратно уничтожающий данные в случае несанкционированного доступа, смерти носителя или просто извлечения устройства из тела…
Как только мы меняем гусеницы на ноги, мы резко повышаем удельное давление на грунт. С учетом повышенной по сравнению с человеком массы металлической конструкции это приведет к тому, что ее реальная проходимость на произвольно взятой местности резко понизится. Конечно, удобно, когда вездеход может переступить через поваленный ствол. Но что толку, если он провалится по уши в болотистую землю задолго до того, как доберется до препятствия?
