Станислав Лем - Магелланово Облако
Наступила пауза.
– Потом он совершил многое… Это было, пожалуй, лет двенадцать назад, а может быть, и больше.
– Может быть, он стал пилотом сравнительно недавно?– высказал я догадку. – Может быть, в этой профессии он нашел то, что искал?
– И опять ты ошибаешься, – улыбаясь, сказал Гообар, которого, кажется, забавляла моя недогадливость. – Он продолжал заниматься все тем же. Все, что он делал, было связано с проблемой, которую он хотел разрешить.
– Какой же?
– «Вращение среди темных течений» – так он называл это… У него всегда была своя терминология. Речь шла о путешествии за пределы Галактики. – Он вдруг повернулся ко мне: – Понимаешь, доктор, размах… Амета побеждает меня своим размахом…
– Побеждает как математик?
– Нет, как человек.– Гообар продолжал:– Я давно не виделся с ним, доктор, и благодарю тебя за то, что ты напомнил мне о нем.
Он долго всматривался в темноту, откуда доносился тяжелый однообразный шум, затем, взяв меня под руку, коротко сказал:
– Пойдем.
Мы вошли в зал. Там теперь уже было тише: у столиков на креслах сидели гости: больше всего их было около пальмы. Над входом слабо светился витраж, на его стеклах выделялись огромные золотистые фигуры шагающих великанов. Фантастические сцены в его верхней части покрылись легкой тенью – может быть, кто-то намеренно уменьшил освещение,– зато внизу сияли созвездия хрустальных ламп, мягко отражаясь в серебряных доспехах автоматов. То и дело какой-нибудь из них устремлялся в толпу и, лавируя между столиками, безошибочно попадал туда, куда его вызывали. Отовсюду доносились голоса, слышался мелодичный звон стекла.
Я шел с Гообаром к центру зала. Мы пробирались по узкому проходу. Все поднимались навстречу Гообару, улыбались, приглашали за свои столики. Он остановился, не зная, за какой из столиков сесть. Я был доволен тем, что и на меня, как на спутника Гообара, падает частица этой симпатии и уважения, хотя я и не заслужил их.
От столика, за которым тесным кружком сидела молодежь, махая рукой, меня звал Нильс Ирьола.
Я подошел к столику. Около него собралась большая группа людей. Молодежь окружила трех специалистов по кибернетике. Среди них своим атлетическим сложением выделялся руководитель коллектива Тембхара. Я попал в разгар самой горячей дискуссии и услышал заключительную фразу стройного юноши:
– Почему же нельзя использовать автоматы при высадке на неизвестную планету? Говорят, что первые ракеты на такую планету поведут люди.
– Да, к сожалению, это так,– ответил Тембхара.– Тебе ведь известна поговорка: автоматы точны, но ограниченны, люди же хотя и не точны, но не страдают ограниченностью! Дело в том, что для автоматов характерна так называемая «направленная узость оценки обстановки». Автомат всегда несколько односторонен, потому что создан для выполнения определенных заданий. А на чужой планете он может встретиться с незнакомыми ему существами и попасть в такое положение, которое нельзя заранее предусмотреть. Если послать туда автоматы, они могут подвести нас и вызвать своими действиями опасную обстановку.
– Что же такое они могут натворить? Я не понимаю.
– Они могут поступить, как психически больной человек,– сказал Тембхара. – Чтобы объяснить это, приведу пример из старого учебника кибернетики. Этот пример имеет лишь историческое значение, но может служить хорошей иллюстрацией к тому, о чем я говорю. Это, собственно говоря, сказка. У одного человека квартира была завалена старыми глобусами и негодными кувшинами. Он поручил автомату убрать весь этот хлам, сказав следующее: «Выбрось отсюда все шарообразные предметы». Послушный автомат, слишком дословно поняв приказ, вынес весь хлам, а заодно сорвал с шеи голову этого человека: он расценивал ее лишь как шарообразный предмет, который тоже следует выбросить.
– Но это чепуха!
– Этого не могло случиться!
– Автомат не может причинить вред человеку!– хором воскликнули окружающие.
– Конечно, эта история не могла произойти в действительности, и я привел ее лишь как яркий пример того, что можно было бы назвать «недоразумением» между человеком и автоматом. Для нас многое подразумевается само собой, а для автомата нет ничего очевидного, кроме того, что вложил в него его конструктор. Наши автоматы, например, снабжены приспособлениями, предотвращающими возможность их самоуничтожения, и предохранителями, которые делают невозможным нанесение какого-либо вреда человеку. Но в совершенно новой, не предусмотренной их конструктором обстановке, в условиях чужой планеты, они могут наделать много зла. Помимо этого, есть еще одно затруднение этического порядка: нам, наверное, не понравилось бы, если бы обитатели другой планеты прислали на Землю группу машин с задачей определить, стоит ли завязывать с людьми добрососедские отношения. Тембхара усмехнулся, его зубы сверкнули.
– Скажи, профессор, – спросила какая-то девушка, – это ты спроектировал гироматы?
– Да. Вернее, я принимал участие в проектировании некоторых из них.
– А профессор Аверроес говорил на лекции, что такой гиромат строится вообще без проекта. Как это возможно? Объясни нам, если можешь.
– Попробую… – Тембхара задумался. – Лучше всего, может быть, это удастся мне на конкретном примере. Наше бюро создало перед вылетом с Земли последний большой астрогиромат для Симеизской обсерватории. Это гигант особого назначения: он умеет создавать «математические модели звезд». Ему сообщают величины и факты, полученные в астрономических обсерваториях, а он на их основе может воспроизвести всю жизнь звезды с момента ее возникновения до гибели, воссоздавая таким образом ее историю, форму, размеры, температуру, все происходящие внутри этой звезды атомные реакции, ее орбиту, влияние на нее других небесных тел и ее влияние на эти тела, – словом, может проследить за эволюцией любой звезды в Космосе с абсолютной точностью в исключительно короткий срок. Миллиард лет существования звезды машина «переживает» за какие-нибудь двадцать секунд. Конечно, такой гиромат не смог бы построить ни один человек в мире. На то, чтобы произвести необходимые расчеты и сделать чертежи проектов, потребовалось бы не менее тысячи лет, а может быть, и еще больше. Можно использовать счетные машины, но и это было бы неправильно, поскольку имеется несравненно более простой способ. Он состоит в следующем: прежде всего мы строим систему автоматов, которую называем базисной; этой системе ставим общую задачу постройки гиромата, ставим условия, определяем сферу его действия и другие данные. Все это называется «направляющей установкой технологической программы гиромата». Затем мы снабжаем базисные автоматы строительным материалом и пускаем их в ход. Через несколько месяцев гиромат готов. Естественно, мы, проектировщики, не знаем ничего о тех тысячах и миллионах монтажных операций, анализах и расчетах, какие были произведены базисными автоматами. И не только не знаем, но и совершенно не интересуемся этим. Так же, как нас совершенно не интересует в деталях конструкция самого гиромата: он есть, действует, выполняет все наши приказы, а больше нам ничего не нужно.
