Элиезер Юдковский - Гарри Поттер и методы рационального мышления
Гарри открыл рот и тут же беспомощно его закрыл. Профессор Квиррелл был неправ, но неправоту свою он доказывал так убедительно, что Гарри начинал думать, что это вполне рациональный вывод из тех фактов, которыми тот располагал. Но ведь иногда — и предугадать такое невозможно — обнаруживается новый, совершенно неправдоподобный факт, и лучшее из сделанных до того предположений оказывается неверным. Даже если какой-нибудь медицинский тест не срабатывает только один раз на тысячу, всё равно можно уверенно сказать, что иногда он ошибается.
— Можно попросить вас сохранить в тайне то, что я вам сейчас расскажу? — спросил Гарри.
— Конечно. Считайте, что уже попросили.
Так просто Гарри не проведёшь.
— Можно считать, что вы согласны?
— Отлично, мистер Поттер. Да, можете так считать.
— Профессор Квиррелл...
— Я никому не выдам вашу тайну, — с улыбкой произнёс профессор.
Они оба посмеялись, затем Гарри снова посерьёзнел.
— Распределяющая шляпа и вправду думала, что я стану Тёмным Лордом, если не попаду в Пуффендуй. Но ведь я не хочу быть Тёмным Лордом.
— Мистер Поттер... Не поймите неправильно. Я обещаю не снимать баллы, хочу лишь услышать честный ответ. Почему нет?
Гарри опять растерялся. Теорема «не сотвори из себя Тёмного Лорда» в его моральной системе была настолько очевидной, что сходу сформулировать её доказательство не получалось.
— Эм. Потому что люди пострадают?
— Неужели вам ни разу в жизни не хотелось причинить кому-нибудь страдания? — возразил профессор Квиррелл. — Например, сегодня, когда имели дело с теми остолопами. Быть Тёмным Лордом — значит причинять страдания тем, кому вы хотите их причинить.
Гарри всё никак не мог подобрать слова и поэтому решил начать с очевидного:
— То, что я этого хочу, ещё не значит, что это правильно...
— Что же делает поступок правильным, если не ваше желание?
— Ну-у, — протянул Гарри, — преференциальный утилитаризм.
— Простите?..
— Это этическая теория, согласно которой хорошо то, что удовлетворяет запросам большинства...
— Нет, — профессор Квиррелл потёр переносицу, — я имел в виду немного другое. Мистер Поттер, в конце концов, все люди делают то, что хотят делать. Иногда люди называют это правильным, но разве возможно действовать, исходя из чего-то, кроме наших собственных желаний?
— Ну, очевидно, что я не могу действовать исходя из моральных соображений, если они слишком слабы, чтобы повлиять на меня. Но это не значит, что моё желание обидеть тех слизеринцев влияло на меня сильнее, чем моральные соображения!
Профессор Квиррелл моргнул.
— Не говоря уже о том, — заметил Гарри, — что появление Тёмного Лорда приведёт к страданиям ни в чём не повинных людей!
— Почему это имеет для вас значение? — спросил профессор Квиррелл. — Что они сделали для вас?
Гарри рассмеялся.
— Ага, хитрость вполне на уровне книги «Атлант расправил плечи».
— Простите?.. — повторил профессор Квиррелл.
— Это книга, которую родители мне не разрешали читать — боялись, что она меня испортит. Конечно же, я её всё равно прочитал. И обиделся: неужели они и впрямь думали, что я попадусь на столь очевидные уловки? Вы сейчас взываете к моему чувству превосходства, якобы другие люди пытаются меня подавлять, и всё такое прочее.
— Так вы считаете, что мне следует расставлять менее очевидные ловушки? — спросил профессор Квиррелл. Он потёр пальцем щёку, изображая задумчивость. — Я могу над этим поработать.
Они снова рассмеялись.
— Но всё-таки ответьте, — сказал профессор Квиррелл. — Что все эти люди сделали для вас?
— Многое! Мои родители взяли меня к себе после смерти моих родителей, потому что они — хорошие люди, и стать Тёмным Лордом — значит предать всё это.
Профессор Квиррелл какое-то время молчал.
— Признаться, — произнёс он тихо, — подобная мысль ни за что не пришла бы мне в голову в вашем возрасте.
— Мои соболезнования, — сказал Гарри.
— В них нет нужды, — ответил профессор Квиррелл. — Это было давно, и я уже закрыл родительский вопрос к своему полному удовлетворению. Выходит, вас сдерживает лишь мысль о том, что родители этого не одобрят? Значит, если они погибнут в результате несчастного случая, то не останется ничего, что могло бы вас удержать от?..
— Нет, — замотал головой Гарри. — Нет, нет и нет. Меня удерживает их стремление к добру. Именно это стремление я не могу предать.
— Как бы то ни было, мистер Поттер, вы не ответили на мой первоначальный вопрос, — сказал профессор Квиррелл. — Какова ваша цель?
— О... М-м-м... — Гарри собрался с мыслями. — Понять всё самое важное о вселенной, применить эти знания, чтобы стать всемогущим, и использовать это могущество, чтобы переписать реальность, так как у меня есть ряд возражений по поводу того, как всё устроено сейчас.
Краткий миг тишины.
— Простите за глупый вопрос, мистер Поттер, — произнёс профессор Квиррелл, — но вы уверены, что не расписались только что в желании стать Тёмным Лордом?
— Только если я буду использовать эту силу во имя зла, — пояснил Гарри. — А если я использую её во имя добра — то буду Светлым Лордом.
— Понятно, — сказал профессор Квиррелл. Он потёр пальцем другую щёку. — Полагаю, с этим тоже можно работать. Мистер Поттер, широта ваших амбиций достойна самого Салазара, но как именно вы собираетесь достичь своей цели? Кем вы станете в первую очередь: великим боевым магом, главой Невыразимцев, министром магии, или...
— В первую очередь я стану учёным.
Профессор Квиррелл посмотрел на Гарри, как будто тот вдруг превратился в кошку.
— Учёным, — произнёс он наконец.
Гарри кивнул.
— Учёным? — повторил профессор Квиррелл.
— Да, — ответил Гарри. — Я должен достичь своих целей с помощью силы… науки!
— Учёным! — возмутился профессор Квиррелл. На его лице отразилось подлинное негодование, голос стал сильнее и резче. — Вы можете стать лучшим из моих учеников! Величайшим боевым магом, вышедшим из стен Хогвартса за последние пятьдесят лет! И вы хотите променять это на белый халат и дурацкие опыты над крысами?!
— Эй! — возмутился в ответ Гарри. — Наука — это нечто большее, чем то, что вы описали. Конечно же, ничего неправильного в опытах над крысами нет, но наука — это прежде всего способ познания и управления вселенной...
— Глупец, — тихо произнёс профессор Квиррелл с горечью в голосе. — Гарри Поттер, вы глупец. — Он провёл рукой по лицу и после этого стал выглядеть спокойнее. — Или, что вероятнее, вы ещё не нашли свою настоящую цель. Могу ли я настоятельно порекомендовать вам попытаться стать Тёмным Лордом? Я сделаю всё, что смогу, чтобы помочь вам, в интересах широкой общественности.
