Чарльз Стросс - Акселерандо
«КГБ?» - восклицает Пэм. «Ты говорил, что не связывался с шпионами!»
«Расслабься, это просто Московская Группа Пользователей Windows NT, никакое не ФСБ. Выгруженные хвостатые ее взломали и...»
Боб с удивлением смотрит на него. «Омары?»
«Ага!» Манфред возвращает взгляд, как ни в чем ни бывало. «Выгрузки Panulirus Interruptus. Что-то мне подсказывает, ты уже об этом слышал?»
«Москва». Боб откидывается на спинку стула. «Как ты узнал об этом?»
«Они позвонили мне!» - отвечает Манфред. «Трудно в наши дни выгрузкам оставаться без самосознания, даже если ты ракообразное. К лабораториям Безье есть много вопросов» - добавляет он с жесткой иронией.
Лицо Памелы — непроницаемая маска. «Лаборатории Безье?»
«Оттуда они сбежали». Манфред пожимает плечами. «Это не их вина. Этот мужик, Безье — он, случаем, не болен чем-нибудь?”
«Я...» Памела останавливается. «Я не разглашаю относящуюся к работе информацию».
«Шаперон не на тебе» - аккуратно подначивает он.
Она наклоняет голову. «Да, он болен. Какая-то разновидность опухоли мозга, с которой они не могут справиться».
Франклин кивает. «Вот в чем беда с раком. Всегда найдутся сложные случаи, слишком малочисленные. Лечения нет».
«Ну, тогда...» Манфред размешивает остатки пива в стакане. «Это объясняет, почему он так заинтересован в выгрузке. Судя по хвостатым, он на верном пути. Интересно, добрался ли он уже до позвоночных?»
«Кошки» - говорит Памела. «Он надеялся передать их Пентагону для использования в качестве умной системы наведения снарядов, и рассчитаться таким образов с налоговой задолженностью. Что-то вроде отображения карты вражеских целей в их сенсориуме[56]. так, чтобы они выглядели как мыши или как птички. Старый трюк с котенком и лазерной указкой».
Манфред поднимает на нее пристальный и тяжелый взгляд. «Это нехорошо. Выгруженные кошки — плохая идея».
«Тридцатимиллионный налоговый счет — тоже, Манфред. Это стоимость пожизненного ухода для сотни ни в чем не повинных пенсионеров».
Франклин, неприятно удивленный, откидывается на спинку стула, уходя с линии огня.
«Омары обладают самосознанием» - настаивает Манфред. «А что, в таком случае, с этими бедными котятами? Они что, не заслуживают минимальных прав? А подумай-ка о себе. Хотела бы ты тысячу раз подряд пробуждаться внутри разумного снаряда, думая, что приоритетная цель этого часа по расчету тактического компьютера в Шайеннском бункере — это любовь всей твоей жизни? Как бы тебе понравилось тысячу раз пробуждаться только для того, чтобы умереть снова? Что еще хуже: котятам никто не позволит дезертировать. Они, черт возьми, слишком опасны — котенок вырастает в кошку, в самодостаточную и высокоэффективную машину убийства. У них есть интеллект, и отсутствует социализация. Представь, что они оказались на воле и где-то рядом – это просто недопустимо. Они — вечные узники, Пэм. Существа, достигшие самосознания только для того, чтобы обнаружить себя приговоренными к бесконечной смерти. Насколько это, по-твоему, справедливо?»
«Но они всего лишь выгрузки!» Памела разглядывает его. «Они же просто программное обеспечение, так? Ты можешь воссоздать их на другом железе, как например, твою Айнеко. Аргумент об убийстве здесь не вполне применим, не так ли?»
«И что? Через пару лет мы приступим к выгрузке людей. Я считаю, нам необходимо сказать утилитаризму “в другой раз!”, пока он не вцепился нам прямиком в кору головного мозга. Омары, котята, люди... Это скользкая дорожка».
Франклин прочищает глотку. «Мне потребуется с тебя договор о неразглашении и всякие заключения юридических экспертиз по поводу твоей идеи хвостатых пилотов» - говорит он Манфреду. «Потом надо пробиться к Джиму, и устроить выкуп интеллектуальной собственности…»
«Так не пойдет». Манфред неторопливо откидывается на спинку и улыбается. «Не быть мне замешанным в ущемлении их гражданских прав. Пока это в пределах моей власти, они - свободные граждане. И кстати, утром я запатентовал всю идею использования ИИ, производных от омаров, в качестве замены автопилотов на космических аппаратах, и все права передал ССИ[57]. Записи везде в сети. Так что либо ты предлагаешь им контракт о приеме на работу, либо катись».
«Но они — просто программное обеспечение! Обеспечение на основе чертовых омаров, Господи! Я не уверен даже, обладают ли они самосознанием… Я имею в виду... Что они такое — сеть из десяти миллионов нейронов с прицепленным синтаксическим движком и дрянной базой знаний? Ну какие из этого составляющие интеллекта?»
Манфред показывает на него пальцем. «Именно это они потом скажут про тебя, Боб. Сделай это. Сделай так, или даже не мечтай о выгрузке из своего тела, когда оно начнет собираться на покой, потому что тебе не захочется такой жизни, которая за этим последует. Практику завтрашнего дня определяет прецедент, который ты создаешь сейчас. Да, и не стесняйся применять этот аргумент к Джиму Безье. Рано или поздно, если ты сунешь его в это носом, он поймет. А некоторые виды захвата территории в области искусственного интеллекта просто не должны быть допущены».
«Омары…» Франклин качает головой. «Омары, кошки. Ты это серьезно? Думаешь, с ними надо обращаться, как с человеческим эквивалентом?»
«Дело скорее не в том, что с ними надо обращаться как с человеческими эквивалентами, а в том, что если с ними не обращаться так, становится совершенно вероятно, что и других выгруженных созданий не будут воспринимать как равных людям. Ты создаешь юридический прецедент, Боб. Я знаю еще о шести компаниях, которые уже начали исследовать выгрузки, но никто из них не задумывается о легальном статусе выгруженных. Если и ты не задумаешься об этом сейчас — где ты будешь года через три или пять?»
Взгляд Пэм, не способной осознать происходящее, мечется от Франклина и Манфреду и обратно, как бот, застрявший в бесконечном цикле. «О каких суммах идет речь?» - говорит она жалобно.
«Хмм. Наверное, несколько миллионов…» Боб рассматривает пустой стакан. «Окей. Я поговорю с ними. Если пошлют, с тебя все обеды в следующем столетии. Ты действительно думаешь, что они будут способны управлять комплексом добычи ископаемых?»
«Они весьма изобретательны для беспозвоночных». Манфред улыбается с невинным энтузиазмом. «Возможно, они и заложники своей среды обитания и всей предшествующей эволюции в ней, нокак видишь, они могут приспосабливаться к новой среде. И, только подумай, ты сможешь выиграть гражданские права для целого нового меньшинства — которое скоро перестанет быть таковым!»
