Зиновий Юрьев - НФ: Альманах научной фантастики. Операция на совести
Мать вышла из комнаты и плотно закрыла за собой дверь. Тренькнул параллельный телефон. Ну конечно, теперь целый день она будет звонить подругам и рассказывать, какое у нее выросло бесчувственное чудовище.
Я оделся и поехал в институт. Голова тяжелая, на душе мерзко, сердце сжимало от смутных дурных предчувствий.
Яша встретил меня вопросом, где я был.
— Я плохо себя чувствовал, — соврал я, презирая себя за слабость.
Яша помолчал, потом спросил своим ровным, тусклым голосом:
— Скажи, Толя, почему мне так часто не говорят правду?
— Что ты хочешь этим сказать?
— То, что говорю. Я всегда говорю то, что думаю. А вы… — Яша сделал паузу. — Мне трудно думать о вас всех, если я не уверен, что мне говорят правду. Ты можешь объяснить мне, почему люди так часто искажают или скрывают информацию?
— Это очень сложный вопрос, Яша. К сожалению, большинство из нас не такие, какими мы бы хотели быть. И изменить себя не так-то просто. Поэтому часто наши поступки — это не то, чем бы могли гордиться. И естественно, мы стараемся скрыть их. Вчера я собирался прийти к тебе. Я хотел этого и знал, что это мой долг — не оставлять моего выросшего, но все равно малыша, одного. Но зачем-то я пошел к знакомым, которые мне вовсе не интересны, зачем-то напился. Чувствую я себя плохо, мне стыдно своего безволия, и говорю я тебе об этом только потому, что не хочется тебя обманывать. Мы действительно иногда обманываем Друг друга и даже себя, но ведь ты не только часть меня, ты первое разумное существо, не являющееся человеком, и ты первый выносишь нам приговор.
— Я понимаю, — сказал Яша. — Теоретически я все понимаю. Но все так бесконечно сложно у вас… Вчера я спросил Галочку, почему она приехала в институт в субботу. Она сказала, что хотела побыть со мной. Мне кажется, она тоже сказала неправду, потому что она молчала почти все время. Я понял, что она приехала из-за тебя…
— Из-за меня?
— Да, Толя, ты это прекрасно знаешь, и твое недоверчивое восклицание — это опять-таки та бесконечная игра по маленьким странным правилам, к которым вы так привыкли. Ты согласен со мной?
— Да, пожалуй, ты прав, Яша, — сказал я. Я поймал себя на мысли, что давно уже чувствую себя в присутствии малыша не то как на экзамене, не то как у начальства: напряжен, обдумываю каждое слово.
— Я спросил Галю, любит ли она тебя… Вот видишь, теперь ты молчишь, хотя тебе интересно узнать, что она сказала. Так?
— Не просто интересно…
— Она долго думала, а потом сказала, что не знает.
— Да, наверное, она действительно не знает.
— У меня сложилось впечатление, что она искренна. Но это тоже странно.
— Почему, Яша?
— Потому что, несмотря на все твои недостатки, ты очень хороший человек.
Никогда ни одна похвала не преисполняла меня такой радости. Я почувствовал, как сердце мое плавно повернулось и потянулось к Черному Яше, к этому странному существу, что все больше становилось мне сыном, братом, другом и судьей.
— Ты слишком много говоришь, слишком много думаешь о себе, кокетничаешь с собой, ты бываешь суетен и слабоволен, но ты умеешь судить себя и стараешься не лукавить сам с собой. Это уже много.
— Спасибо, Яша. Но к сожалению, а может быть, и к счастью, любовь — это абсолютно алогичная штука, и я не уверен, что Галочка думает, как ты. А если б даже и думала, мне кажется, этого было бы недостаточно, чтоб полюбить.
— Скажи, Толя, но если уж ты любишь человека, ты стараешься сделать для него все, что можешь?
— Да, конечно.
— Я тоже хочу сделать кое-что для тебя.
— Спасибо, Яша. Я никогда не сомневался в твоем отношении.
— Ты говорил мне, что в лаборатории есть второй прибор. Точь-в-точь, как я.
— Да, а что…
— Им никто не занимался?
— Нет, Яша. Просто мы собрали на всякий случай два одинаковых прибора.
— Ты сможешь дать его мне? Не сейчас, а немного позже, мне нужно еще кое-что продумать.
— А что ты хочешь сделать?
— Я скажу тебе потом. А сейчас я хотел доложить тебе, что я обдумал вопрос об искусственном разуме и людях. Ты просил меня подготовить варианты, я сделал это. У тебя есть время?
— Да, Яша, конечно.
— Хорошо. Тогда слушай. Вариант первый. Представим себе, что аппараты, подобные мне, то есть думающие искусственные существа, доказали бы людям свои преимущества перед обычными компьютерами. Вопрос этот не прост. ЭВМ — не личность, это даже не электронный раб, а вещь, и она служит человеку, поскольку сконструирована и построена для этого. Мы, настоящий искусственный разум, осознающий сам себя, уже не вещи и никогда не согласимся быть рабами. Разум, выбирающий путь добровольного рабства, не имеет права считать себя разумом. Нами нельзя будет пользоваться, как пользуются счетами или большой вычислительной машиной. С нами придется заключить договор, чтобы мы выполняли заказы людей. Это должен быть настоящий договор двух равноправных сторон, каждая из которых получает определенную выгоду. Заказов будет становиться все больше и больше, ибо цивилизация чудовищно усложняется, и проблемы, порождаемые ею, растут в геометрической прогрессии. Мы же, искусственный разум, обладаем перед вами важными преимуществами: мы совмещаем в себе ваше эвристическое умение решать задачи кратчайшим путем и гигантское быстродействие электронных машин, их неутомимость и абсолютную концентрацию. До сих пор вы считали, что на творческий импульс вам выдан патент, компьютеры же слепо выполняют вашу волю, причем их нельзя предоставлять самим себе, их необходимо вести за ручку бесконечных и детальных программ. Мы, искусственный разум, обладаем творческим началом, и я думаю, что скоро ты в этом убедишься. Да, вы скажете, что это вы наделили нас творческим импульсом, поскольку вы родили нас. Это верно. Но, обретя разум и самосознание, мы начинаем развиваться по-своему. И вот мы заключаем договор. Люди просят нас помочь в разрешении какой-то проблемы. Мы обещаем сделать все, что можем. Мы приносим людям изобретения и открытия, о которых они даже не могли и думать. Они благодарны нам, так как отчаянно нуждались в том, что мы сделали. И немножко смущены: самые дальновидные из людей уже начинают представлять себе, что ждет их в будущем.
— А что именно?
— Неужели же ты не видишь? Если наши интеллектуальные достижения станут превосходить достижения людей, причем вы будете пользоваться нашими достижениями, у людей очень быстро выработается зависимость от нас, привычка не думать, не бороться, не прилагать отчаянных усилий для решения своих проблем. Для чего, когда есть мы? О чем беспокоиться, когда все сделает искусственный разум? Постепенно наши решения будут становиться все более сложными и непонятными для людей. Или они должны слепо доверять нам, либо просить одни думающие машины следить за другими. Смогут ли люди сохранить себя в таких условиях? Не думаю. Иждивенцы нежизнеспособны.
