Элиезер Юдковски - Тройной контакт
Эйкон дышал прерывисто. Его внезапно захватило — и почти расплавило мозг — видение такого будущего: судьба звёздных систем, всё человечество, обречённое быть вывернутым наизнанку, искажённым, переформированным...
"Выходит, с твоей точки зрения это люди совращают котят".
Он должен был предвидеть такую возможность после опыта знакомства с Детоедами. Если существование Детоедов морально неприемлемо для людей, то следующий инопланетный вид может оказаться столь же неприемлемым — а может и наоборот, таким, что для них существование людей покажется ужасом невыразимой жестокости. Это была другая сторона монеты, как ни трудно было человеку помыслить о ней.
"Забавно. До сих пор я не думал, что всё настолько плохо..."
— Но... — проговорил Эйкон и только тут осознал, что говорит вслух.
— "Но"? — переспросила Третья Леди. — Это весь твой ответ, человечество? — На её лице изобразилось разочарование, или даже чистое удивление.
У него не было детального плана ответа, но...
— Вы говорите, что разделяете боль нашего существования, — сказал Эйкон. — Вы сопереживаете нашим страданиям. Получается, вы тоже верите, что при некоторых обстоятельствах боль предпочтительнее удовольствия. Если бы вы не мучились, когда мучатся другие — вы бы, наверное, чувствовали, что вы... не совсем та личность, которой хотите быть? Вот и у нас...
Но Третья Леди покачала головой.
— Вы путаете высокое условное правдоподобие вашей гипотезы для этих данных и высокую постериорную вероятность гипотезы при этих данных, — сказала она, как будто это была одна короткая фраза на её языке. — Человечество, мы обладаем генерализованной способностью чувствовать то, что чувствуют другие. Это простое, компактное ощущение. Мы не собираемся усложнять эту способность ради того, чтобы исключить боль. Мы никогда не приписывали высокую вероятность тому, что другой разумный вид достигнет звёзд, встретится с нами и всё ещё будет не исправлен. Если в будущем мы встретим другой вид при обстоятельствах, не позволяющих его исправить, мы модифицируем нашу способность к эмпатии, исключив сопереживание боли, и поменяем его на стремление облегчить боль.
— Но... — произнёс Эйкон. "Чёрт, я опять это сказал". — Но это наш выбор; мы хотим так жить.
— Это говорит не о наших ценностях, а о ваших, — ответила Третья Леди. — Но даже ты, человечество, могло бы понять, что это спорный вопрос. Мы до сих пор не разобрались в запутанных описаниях эмоции, благодаря которой люди способны предпочитать удовольствие боли, и тем более подтвердить сложные теории, согласно которым боль бывает предпочтительнее удовольствия. Но мы уже выяснили, что твои дети, человечество, не разделяют основ этих концепций. Когда они испытывают боль, они не размышляют над её смыслом, они лишь требуют прекратить боль. В своей простоте...
Они на самом деле совсем как человеческие дети.
— ... они чем-то похожи на ранние жизненные стадии нашего собственного вида.
Бледная женщина, казалось, излучала электрическое поле чудовищной напряжённости.
— И тебе следует знать, человечество, что если где-либо во вселенной ребёнок мучится от боли и зовёт на помощь, то мы ответим на зов, даже если нам потребуется 65536 кораблей. Мы верим, человечество, что ты способно понять нашу позицию. Какие варианты ты можешь нам предложить?
4/8. Интерлюдия с исповедником
Они остались вдвоём в Привилегиуме Председателя конференции — огромном приватном помещении, которое уместнее смотрелось бы на планете, чем в космосе. Стены, пол и потолок Привилегиума демонстрировали великолепнейшую голограмму окрестного космоса: далёкие звёзды, солнце местной системы, разлетающиеся остатки новой и тлеющее свечение карликовой звезды, которая высасывала водород из главной, пока не заставила её вспыхнуть. Они будто падали в пустоте.
Эйкон сидел в центре комнаты на краю кровати с балдахином, уткнув голову в ладони. Усталость притупила его ум в самый неподходящий момент; так всегда бывало в кризисных ситуациях, но эта оказалось особенно скверной. При данных обстоятельствах он даже не решался занюхать дорожку кофеина, чтобы не сместить свои приоритеты. Человечество до сих пор не изобрело чисто энергетического наркотика — такого, что усиливал бы мышление, но ни в малейшей степени не затрагивал эмоций и ценностей.
— Я не знаю, что думать, — сказал Эйкон.
Корабельный Исповедник неподвижно стоял рядом в полном облачении и серебристом капюшоне. Из-под капюшона донеслись ритуальные слова:
— Что вас смущает, мой друг?
— Мы где-то ошиблись? — Как Эйкон ни устал, он не мог скрыть отчаяния в своём голосе. — Человечество пошло по неверному пути?
Исповедник долго молчал.
Эйкон ждал. Вот почему он не хотел обсуждать эту тему ни с кем другим. Только Исповедник действительно думал перед тем, как ответить на вопрос типа этого.
— Я сам часто раздумывал на этим, — сказал наконец Исповедник. Эйкон удивился. — В нашей истории было столько ситуаций выбора, столько развилок — каковы шансы, что мы сделали верный выбор на каждой?
Капюшон отвернулся в сторону корабля Сверхсчастливых. Тот был невидим на большом расстоянии, но каждый на борту "Невозможного Возможного Мира" знал, где он.
— На некоторые аспекты вашего вопроса я не могу ответить, милорд. Среди всего экипажа, возможно, я разбираюсь в этом хуже всех... Но ведь вы понимаете, милорд, что ни Детоеды, ни Сверхсчастливые — не доказательство того, что мы пошли не туда? Если вы не переживали из-за этого раньше, нет причин начинать переживать сейчас. Детоеды борются за право есть детей, Сверхчастливые хотят быть сверхсчастливы. Ни то ни другое не указывает нам, как правильно. Они не задаются нашим вопросом, и неважно, какое слово их языка переводчик связал с нашим словом "должны". Если вас смущает только это, милорд — возможно, я готов развеять ваши сомнения.
— Я знаю теорию, — устало сказал Эйкон. — Мне пришлось учить метаэтику в раннем детстве, шестнадцати лет от роду, ещё совершенным ребёнком. Просто так, без оснований, я ни за что не поддался бы соблазну поверить, что Бог, или онтологически фундаментальные моральные факты, или что-нибудь ещё имеет право избавить меня от сомнений. — Эйкон склонился ниже. — Но почему-то это не имеет значения, когда глядишь на Третью Леди и задаёшься вопросом: почему, когда перед нами орёт и плачет десятилетний ребёнок со сломанным пальчиком, мы, люди, только частично обезболиваем участок.
Капюшон Исповедника вновь развернулся в сторону Эйкона.
