Дмитрий Сергеев - Прерванная игра
Так поучал мальчишку дядя Виктор.
Это было продолжением их разговора у камина. Вся сцена промелькнула в уме за короткое мгновение. Видимо, мальчишка вспоминал о ней, когда записывался на ксифоне.
Я недоумевал только, как Эва могла узнать пароль и раньше меня выкрикнуть:
- Сезам, откройся!
Паук, занесший над головой Игары стилет, беспомощно скис, свесил лапы, выронил нож - он с бряком упал на цемент.
- Повинуюсь, - сухо произнес машинный голос. Теперь он стал совершенно бесстрастным.
- Вели роботам освободить нас.
Итгол, Игара и Эва ушли. Я остался наедине с Машиной: мне не терпелось выяснить, что же происходило на планетоиде. Я был уверен: машина знает обо всем.
-- Тогда я еще не знала, что случилось. Люди вдруг собрались покинуть Карст. Если бы не мальчик, я не узнала бы и этого: люди никогда не посвящали меня в свои дела. Я получала только приказы. Конструктор поступил со мной безжалостно: мой мозг разделен надвое - я вынуждена действовать вопреки собственным желаниям: одна половина моих нейронов решает, как помочь суслам и фильсам. захватить в плен пришельцев, другая организовывает оборону жилых помещений планетоида.
- Кто такие фильсы и суслы? Что здесь произошло? Рассказывай по порядку, - потребовал я.
- Я обязана выполнить приказ. Очень важный для меня разговор между старшим мантенераиком и его племянником незадолго до катастрофы состоялся здесь, - начала Машина свою исповедь. Виктор сказал:
- Через два месяца ты полетишь на Землю, чтобы закончить образование. Вернешься взрослым и, как знать, может быть, не застанешь меня в живых.
Мальчик хотел что-то возразить, но старший мантенераик не дал ему.
- Я говорю это вовсе не за тем, чтобы ты посочувствовал мне. Двадцать лeт я конструировал и собственными руками собирал важнейшие узлы чудовища. - При последних словах человек рукой показал на меня. - Никто другой не знает ее схемы.
- Чуть ли не ежедневно я подвергал себя опасному излучению. Никакие меры предосторожности не давали полной защиты. С мыслью о скорой смерти я примирился. Жалею только об одном; моей жизни не хватит завершить начатое. Это сделаешь ты. Все мои расчеты и планы спрятаны в сейфе, про который никто не знает. Ключ от него я передам тебе. Но без помощи Машины и ты будешь бессилен завершить начатое. Поэтому я принял меры, чтобы хозяином положения на планетоиде стал ты. Мне пришлось поступить незаконно. Я уверен, что совет Карста не посчитался бы с моими желаниями. Эти пустоголовые тупицы определят на должность старшего мантенераика какого-нибудь идиота, умеющего быстрее других считать. Выслушай меня внимательно, я хочу объяснить тебе, почему поступаю вопреки законам. Тебе известен важнейший правовой принцип, которым руководствуются на Карсте. "Любое возможное разногласие разрешается в пользу большинства. Одиночные желания и мнения при выборе решения не учитываются".
- Мне кажется, это справедливый закон, - сказал мальчик.
- Так же считал и я, пока... Пока мои собственные желания совпадали с желаниями большинства. Обещай ничего не предпринимать раньше, чем возвратишься с Земли. От того, что пароль будешь знать ты один, никто не может п;эстрадать. Чтобы обрести самостоятельность. Машине необходим длительный срок. Я намеренно оставил ей возможность саморазвития. Но только возможность. Чтобы она проявилась, в мозг Машины необходимо ввести новые знания. Сейчас она знает лишь самое необходимое, достаточное, чтобы справляться с обслуживанием жилых отсеков и подсобного хозяйства. Разделительные барьеры между двумя блоками мозговых клеток поставлены умышленно - нельзя допустить, чтобы все тридцать шесть миллиардов ее нейронов работали слаженно, никем не контролируемые. Но ей оставлена единственная лазейка. Отыскав ее, Машина может выйти из повиновения.
Спросишь: зачем было идти на такой риск? Видишь ли... Мне нужна была не просто счетная машина, но думающая. Полностью контролируемая машина не способна думать, она может только считать, пусть с баснословной скоростью, по дьявольски сложной программе, но - только считать. Машина, созданная мной, рассчитана на полную самостоятельность. Но это лишь в будущем. Пока она всего лишь тупой, идиотски точный счетчик.
-- Когда же она научится думать?
- Не раньше чем поставит себе собственную задачу. Для этого нужно время. Его можно сократить, если в ее мозг ввести дополнительные знания. Потребность приобретать знания задана ей. Но до поры я сознательно ограничил норму информации, держу ее на пайке. Я не хочу, чтобы Машина обрела самостоятельность раньше, чем возвратишься ты и сможешь направлять ее действия. Секрет, как сохранить над нею власть, я передам тебе. Если ей дать полную волю, она способна наделать бед.
- Но почему? Разве в ее программу не заложены шесть основных правил гуманности? Мы проходили это еще в начальной школе.
- Меня радует твоя любознательность. Ты прав: шесть принципов гуманности заданы ей как обязательная норма она не может причинить вред человеку или замыслить что либо во вред ему. Но... Нельзя преступить только законы природы, но не юридическую норму. Попытаюсь объяснить тебе, почему Машина может стать опасной, только для этого придется отвлечься.
Стерший мантеиераик приказал мне выдвинуть из стены два кресла. В одно сел сам, в другое усадил племянника. Разговор этот становился мучительно интересным для меня. Полная запись его хранится в глубинном блоке долговременной памяти, я могу воспроизвести ее полностью, если это необходимо.
Я сказал;
- Необходимо.
Минуту спустя я услышал голос Виктора, записанный на пленку:
- Человечеству угрожает гибель. На первый взгляд это может показаться парадоксальным: мы научились создавать условия, необходимые для жизни даже в космосе, могущественная техника с избытком обеспечивает наши потребности в энергии и продовольствии... Но именно это и погубит нас: нам не к чему стало стремиться. К такому убеждению я пришел давно. Я пытался растолковать опасность -Меня не захотели слушать. И тогда я задался целью спасти человечество в одиночку.
- Но почему... почему человечество должно погибнуть? - перебил Виктора племянник.
Голос мальчишки был поразительно знаком мне, как будто эти слова произнес я сам. На мгновение память озарила вспышка ясновидения: я увидел этот же самый зал и Виктора, сидящего на стуле. Тыльной стороной руки мантенераик вытер капельки пота, выступившие на лбу.
Но тут же видение рассеялось. Я снова слышал только голос, записанный на пленку:
- Это нелегко объяснить коротко. Когда получишь образование, ты прочитаешь обо всем в моих записках. Они находятся в потайном сейфе. Основной вывод: вручив свою судьбу технике, передав счетным устройствам их стали называть мыслящими - значительную долю творческой деятельности, человек начал терять любознательность. Человечество погибнет из-за внутренней опустошенности. С потерей любопытства в самом генетическом коде произошли незаметные изменения - люди становятся пассивными и безучастными. Будущее стало совершенно безразлично нам - нашим чувствам. Даже разум не способен придумать ничего увлекательного - скучные идиллические картинки сплошного благополучия.
