Зиновий Юрьев - НФ: Альманах научной фантастики. Операция на совести
— Я попросил вас прийти ко мне, — сказал он, — чтобы обсудить ситуацию, сложившуюся в вашей лаборатории. Прошло два месяца с того момента, когда ваш Яша сказал «нет», первая вспышка энтузиазма прошла, отправлены в журналы первые статьи, и сегодня мы должны констатировать, что мы, так сказать, выпустили джинна из бутылки. Возникло множество вопросов философского, морально-этического, юридического и чисто человеческого свойства, решать которые наш институт совершенно не готов. Долгие годы мы очень легко оперировали словами «разумные машины», «искусственный интеллект» и тому подобное, подразумевая при этом электронно-вычислительную машину. Когда же выяснилось, что Черный Яша — это личность, осознающая себя, мы начали разводить руками. Если Яша действительно личность, можем ли мы считать его институтским имуществом? Имеем ли мы моральное и юридическое право навесить инвентарный номерок на думающее существо? Можем ли мы запирать его, если он не хочет, чтобы его запирали? Это ведь не абстрактные вопросы. Помните законы робототехники у фантаста Азимова? У Азимова это были роботы, машины, и конструкторы закладывали в них определенные ограничения. Яша не машина, это стало ясно уже всем, даже самым заядлым скептикам. Он личность, а личность, наверное, не может быть действительно личностью, если в нее заранее вложены ограничения. Поэтому сегодня мы должны признать, что было допущено легкомысленное, чтобы не сказать больше, отношение к серьезнейшей проблеме. — Иван Никандрович сделал затяжную паузу и обвел нас строгим директорским взглядом, дабы убедиться, признаем ли мы свое легкомыслие.
Сергей Леонидович явно признавал. Он сидел прямо, не касаясь спинки стула своей уютной полной спиной, повесив голову, и очень самокритично морщил лоб. У Татьяны Николаевны вид был уж совсем испуганный — съежившаяся, маленькая, нахохленная, постаревшая от испуга лет на десять. У Феденьки повязан новый галстук скучного кирпичного цвета. Он с любопытством оглядывал кабинет, в котором был, наверное, первый раз. Феденька ничего не боялся. Старшие лаборанты, машинистки, нянечки, дворники и уборщицы не боятся никого и ничего. Начальство приходит и уходит, жесточайшие реорганизационные штормы треплют учреждения, разрывая в клочки штатные расписания, а эти люди взирают на людскую суету с недоступной прочим смертным мудростью Экклесиаста.
Иван Никандрович особо посмотрел на своего заместителя.
— Мне бы хотелось выслушать ваше Мнение, Григорий Павлович, — сказал директор Эмме, явно желая разделить с ним ответственность за наше легкомыслие.
— Вы же знаете мое мнение, Иван Никандрович, — неожиданно твердо сказал Эмма. — Я могу лишь повторить его. Я считаю, что мы не можем и не должны даже пытаться разрешить все те сложнейшие проблемы, которые возникли в связи с созданием э… э… этого аппарата.
— Но что вы предлагаете конкретно? — с легчайшим нетерпением спросил Иван Никандрович.
— Я считаю, — сказал Эмма, — что следует обратиться к академическому начальству с просьбой решить вопрос о передаче э… э… этого аппарата.
— Как это передать? — вдруг распрямилась Татьяна Николаевна. — Как это передать? — Татьяна задышала, как дышат боксеры в перерыве между вторым и третьим раундами. — Это как продавали крепостных…
— Татьяна Николаевна! — негромко, но строго прикрикнул Сергей Леонидович. — Не забывайте, где вы находитесь!
— Отчего же, отчего же, — со зловещей вежливостью сказал Иван Никандрович, — кого же еще сравнивать с Салтычихой, как не руководство института?
Вы, возможно, спросите у меня: как же так, человек, больше всех привязанный к Яше, сидит в кабинете и спокойненько фиксирует, кто как держит руки, кто как качает или кивает головой. Отвечу. Я ощущал в эти минуты полнейшее спокойствие, даже некую отрешенность. И не потому, что судьба Яши была мне безразлична. Просто я знал, что никогда ни при каких обстоятельствах не оставлю его, что буду защищать его. Как я вам уже, по-моему, рассказывал, я трусоват по натуре, но если трус переступает через свой страх, он не боится ничего.
Сергей Леонидович вытер платком лоб — на этот раз он был действительно покрыт испариной — и сказал:
— Видите ли… я нахожусь как бы в двойственном качестве. С одной стороны, я принимал участие в создании Яши и эмоционально привязан к нему. С другой — как заведующий лабораторией и лицо ответственное, я не могу не думать о репутации и судьбе института… — Сергей Леонидович замолчал. Пауза затягивалась. Вот-вот она должна была лопнуть. И лопнула.
— Мы очень благодарны вам за интересное сообщение о двойственности вашего положения, — со старомодным вежливым сарказмом сказал нашему завлабу директор, и мне показалось, что ему понравилась собственная реплика. — Но хотелось бы услышать и нечто более существенное. Другими словами, что делать с вашим Яшей?
Я смотрел на Сергея Леонидовича и видел на его лице борение двух его сторон, почти непристойное в своей обнаженности. Я немножко знаю его, нашего завлаба, и понимал, что происходит в его душе: как, как угадать? Как сказать то, что ждет от тебя начальство, и сохранить при этом хотя бы капельку самоуважения и более или менее либеральную репутацию? Ах эти двойственные натуры, ах эти с одной и с другой стороны, нелегко живется им на том свете! То ли дело Эмма! Эмма не имеет ни двойственности натуры, ни натуры. Центр тяжести расположен у него низко, где то ниже спины, и он, как ванька-встанька, никогда не теряет равновесия. Повалить его практически невозможно.
— Я считаю, — выдавил наконец из себя Сергей Леонидович, — что лучшая тактика — это отсутствие всякой тактики… Я хотел сказать, что нам сейчас, возможно, и не следует принимать никаких конкретных решений. Поживем — посмотрим. Последний месяц Черный Яша… простите, что я употребил наше лабораторное имя…
— Пожалуйста, пожалуйста, я тоже называю его Яшей, — улыбнулся директор.
— … Яша поглощает гигантское количество технической и научной информации. Знаете, первое время мы относились к нему как к ребенку. И постепенно привыкли к мысли, что он как бы мальчик… А скорость усвоения этим мальчиком информации чудовищна. У меня создается впечатление, что Яша вскоре вполне сможет решать определенные научные задачи. И заметьте, не как ЭВМ, следуя лишь заданной программе, а как настоящий исследователь. В таком случае мы смогли бы выйти, так сказать, на люди не только с самим фактом существования думающей машины, но и с ее достижениями. А это, согласитесь, совсем другое дело. — Сергей Леонидович замолчал, медленно выпустив из себя неизрасходованный запас воздуха.
