Айзек Азимов - Конфликт, которого можно избежать
Они появились как раз вовремя, а заодно с ними начались и межпланетные перелеты. И оказалось, что не так уж важно, какая система властвует над умами человеческими — Адама Смита или Карла Маркса. При сложившейся ситуации это не имело большого значения. Обеим системам пришлось приспосабливаться к новым условиям.
В таком случае, выражение древних «Бог есть машина» приобретает двойственный смысл, — иронически заметила Сьюзен.
Координатор улыбнулся.
— Никогда раньше не слышал, как ты шутишь, Сьюзен, но ты права. И все же появляется новая опасность. Решение одной проблемы тут же порождает другую. Наша новая всемирная экономика, основанная на применении роботов, тоже может порождать собственные проблемы. Для этого и существуют Машины. Земная экономика стабильна и останется стабильной, потому что в основе ее лежат решения Машин, направленные только на благо человечества и обусловленные великой силой Первого Закона Роботехники.
И хотя Машины не более чем бесконечно сложные комплексы вычислительных схем, — продолжал Стивен Байерли, — по отношению к Первому Закону это — обыкновенные роботы. Поэтому земная экономика всегда будет направлена только на благо Человека. Люди Земли знают, что им не грозит безработица, кризисы, увольнения. Голод и безработица стали просто словами в книгах по истории. Вопрос о том, в чьих руках находятся средства производства, отпал сам по себе. Ведь кто бы ни владел ими (если только это выражение имеет смысл) — человек, группа людей, нация или все человечество — использовать их можно только по указаниям Машин. И не потому, что Человек был принужден к этому, а просто потому, что это было единственно мудрым решением.
Это означает конец войн. Не только последнему циклу войн, а всем войнам вообще. Если только…
Наступила долгая пауза, и доктор Кэлвин подбодрила его:
— Если?..
Пламя лизнуло полено в камине и взвилось вверх длинным языком.
— Если только, — произнес Координатор, — машины не перестанут выполнять свои функции.
— Понимаю. И, видимо, именно к этому вы клонили, рассказывая мне о просчетах, допущенных Машинами, — сталь, гидропоника и так далее?
— Именно. Этих ошибок просто не должно быть. Доктор Силвер сказал мне, что это просто невозможно.
— Он, что же, отрицает факты? Это на него непохоже!
— Нет, нет. Конечно же, фактам он верит. Я не хочу быть несправедливым по отношению к нему. Он отрицает то, что в ошибках виноваты Машины. Он утверждает, что Машины сами по себе непогрешимы. Это, мол, непреложно следует из законов физики. Тогда я говорю ему…
— А вы, наверное, сказали: «Пошлите своих парней для проверки»?
— Сьюзен, да вы просто читаете мои мысли! Именно так я и сказал ему, а он ответил, что это невозможно.
— Что, он слишком занят?
— Нет, он сказал, что человек просто не в силах сделать это. И, кажется, он говорил искренне. Он объяснил мне, и я, кажется, правильно понял его, что Машины просто необъятны. Поэтому… Ну, скажем, группа математиков должна работать целый год, чтобы рассчитать позитронный мозг, предназначенный для выполнения определенных вычислений. С его помощью они могут рассчитать еще более сложный мозг, который они снова используют для создания еще более совершенного устройства, и так далее. Силвер сказал, что устройства, которые мы называем Машинами, результат десятой стадии такого процесса.
— Слышу что-то знакомое… Бедный Винсент. Он еще так молод. Предыдущие начальники исследовательского отдела, Альфред Лэннинг и Питер Богерт, к счастью, уже мертвы. Перед ними не вставали подобные проблемы. Да и передо мной тоже. Наверное, роботехника, как таковая, скоро исчезнет, раз мы больше не можем разобраться в созданных нами же устройствах.
— Надеюсь, что нет. Ведь Машины — это не какие-нибудь там сверхмозги из воскресных приложений, хотя они именно так и описываются там. Из-под контроля человека они выходят просто потому, что в своей области они за бесконечно малое время могут собрать и обработать бесконечно большое количество информации.
Тогда я попробовал поступить по-другому. Я задал вопрос самой Машине. Строго секретно мы ввели в нее исходные данные по вопросу о сталелитейной промышленности, ее собственный ответ и то, к чему привело ее решение — перепроизводство, а затем попросили объяснить все это.
— Правильно, и что же она ответила?
— Могу повторить вам ответ слово в слово: «Это не требует никаких объяснений».
— И как же Винсент истолковал такой ответ?
— Двояко. Либо мы не дали Машине достаточного для получения определенного ответа количества данных, что маловероятно, и мистер Силвер отметил это. Либо для Машины оказалось невозможным допустить, что она может дать ответ на основании данных, говорящих о том, что она причинила вред человеку. Ведь это само собой вытекает из Первого закона. А потом доктор Силвер посоветовал мне поговорить с вами.
Сьюзен Кэлвин выглядела очень утомленной.
— Я уже стара, Стивен. Когда умер Питер Богерт, начальником Исследовательского отдела хотели назначить меня, но я отказалась. Я уже и тогда была не молода и не хотела взваливать на плечи такую ответственность. Тогда они назначили на эту должность молодого Силвера — меня это вполне устраивало. Только мне было не вполне понятно, зачем отказываться, если на меня все равно взваливают такую ответственность?
Стивен, позвольте мне объяснить мою позицию. Мои исследования действительно включали в себя интерпретацию поведения роботов в свете трех законов роботехники. Но теперь мы имеем дело уже с этими невероятными вычислительными машинами. Это позитронные роботы, и поэтому они подчиняются трем законам. Но у них нет ничего личного, потому что их функции чрезвычайно ограничены. Возможно, потому, что они так узко специализированы. Но в этом случае остается очень мало возможностей для применения Законов и мой излюбленный метод нападения, таким образом, оказывается бесполезным. Короче говоря, я не представляю, Стивен, чем я могу быть вам полезна.
Координатор коротко засмеялся.
— Не спешите, дайте мне рассказать остальное. Дайте мне высказать вам мои предположения, и тогда, возможно, вы скажете мне, может ли быть такое в роботехнике.
— Конечно, продолжайте.
— В таком случае, раз уж машины дают неправильные ответы и в то же время не могут ошибаться, остается единственная возможность. ИМ ПРОСТО ДАЮТ НЕПРАВИЛЬНЫЕ СВЕДЕНИЯ! Другими словами, виноваты люди, а не машины. И тогда я совершил инспекционную поездку по планете…
— Из которой вы только что вернулись в Нью-Йорк.
