Ким Робинсон - 2312
— Далеко мог зайти этот процесс по отношению к программам мышления первых квантовых компьютеров? Я хочу сказать, могут ли квакомы все еще путаться в алгоритмах?
— Видишь ли, программисты, создававшие квантовые компьютеры, использовали разные структуры и в итоге создали несколько различных внутренних вычислительных архитектур. Поэтому на самом деле существуют разные квантовые компьютеры, каждый со своей особой формой познания — разными протоколами, алгоритмами, нейронными сетями. Они имитируют мозговую деятельность разных видов — у них есть то, что можно назвать самосознанием и другими особенностями сознания. Это не одна конструкция, и в терминах их мышления они могли начать мыслить.
Слово взял инспектор Женетт:
— Мы видим в этих квакомах явные признаки самопрограммирования. Трудно сказать, к чему это могло их привести. Но мы обеспокоены, ведь у них нет архитектуры и химизма мозга, которые объяснили бы их деятельность. Мы мыслим очень эмоционально. Наши эмоции играют ключевую роль в принятии решений, в долговременном мышлении, в создании памяти — во всем нашем общем постижении смысла. Без этих особенностей мы бы не были людьми. Мы не могли бы функционировать как индивиды в группах. Однако у квантовых компьютеров нет эмоций, и мыслят они при помощи иных архитектур, протоколов, физических методов. Поэтому у них нет менталитета человека, хотя в некотором смысле они могут обладать сознанием. Мы даже не можем быть уверены, что в своем новом состоянии все они похожи. Мы не знаем, мыслят ли они математически, или в терминах логики, или на языке английском или китайском. Или в этом отношении разные квантовые компьютеры одинаковы.
Свон кивнула, обдумывая услышанное. Если глупые девчонки были квантовыми компьютерами — и тот игрок в боулинг тоже, — это поразительно, хотя бы с точки зрения морфологии. А что до мышления, Свон все сказанное не удивило.
— Я часто говорю с Полиной на эти темы, — сказала она собравшимся. — Но из ваших слов мне ясно, насколько искалечены эти квакомы отсутствием того, о чем вы говорили. Скорее всего отсутствием эмоций. И ничего не могут сделать.
— Кажется так, — произнес в наступившей тишине Варам. — Но сейчас они как будто бы ставят себе цели. Может, у них есть какие-то псевдоэмоции; мы не знаем. Вероятно, они все еще не очень умны — скорее сверчки, чем собаки. Но, видите ли, с точки зрения создания более высокого уровня сознания мы не знаем, как работает наш собственный мозг. Поскольку мы не можем проникнуть в эти компьютеры и понять, что в них происходит, мы знаем о них даже меньше, чем они о нас. Так что… проблема.
— Вы разобрали какой-нибудь кваком, чтобы посмотреть?
— Да. Но результаты сложно истолковать. Вот любопытная аналогия с попыткой изучить собственный мозг — вы хотите изучить момент образования мысли, но, даже установив, какой механизм создает мысли, вы не будете знать, что именно вызывает эту конкретную мысль или как эта мысль осознается изнутри. В обоих случаях возникает квантовый эффект, при котором очень трудно проследить мысль до ее физического источника или действия.
— Существует также опасение, что этими «вскрытиями» мы подаем дурной пример, — добавил Женетт. — Что если им захочется изучать нас подобным же образом?
Свон с несчастным видом кивнула, вспоминая взгляд игрока в боулинг и даже взгляды тех глупых девчонок — теперь, когда она снова об этом задумалась. Их взгляды говорили о том, что они готовы к чему-то. Или просто не понимают, что говорят.
Но у людей все время такой вид.
— Итак, — сказал Варам. — Вот тебе наша проблема. Сейчас она становится все более насущной, потому что есть несомненные доказательства, что этих кваком-гуманоидов направляют другие компьютеры — компьютеры специальных вычислительных систем, или роботов, или даже управляющие компьютеры астероидов.
— Но зачем им это? — спросила Свон.
Варам пожал плечами.
— Неужели дело так плохо? — спросила Свон, подумав. — Я хочу сказать, они не могут быть связаны друг с другом, как элементы какого-то существа с мозгом-ульем, не могут из-за декогеренции. Так что в конечном счете они всего лишь люди с мозгом-компьютером.
— Люди без эмоций.
— Но такие люди всегда были. Появляются время от времени.
Варам сощурился.
— На самом деле ты ошибаешься. Но послушай, есть еще кое-что.
Он взглянул на Женетта, и тот обратился к Свон.
— Расследование нападений на Терминатор и «Иггдрасиль» в обоих случаях выявило участие квантовых компьютеров. К тому же я передал твой снимок игрока в боулинг Вану, и, хотя он не нашел его в Свон. досье неприсоединившихся миров, зато нашел снимки встречи, организованной Лакшми в Клеопатре в 2302 году, на которых есть ты. Это важно — отчеты о странном поведении по всей системе начали появляться на другой после этого год. Когда все эти сообщения были сведены воедино и проанализированы, оказалось, что по времени и месту все они восходят к той встрече на Венере. Мы также отыскали в Лос-Анджелесе организацию, которая заказала корабль, бросавший камни; корабль управляется исключительно компьютерами, и единственный связанный с этим человек входит в совет директоров. Мы также нашли квакомы, связанные с сооружением механизма запуска, который был построен на верфи в неприсоединившихся мирах группы Весты. Мы нашли следы заказа на их производство. На этой верфи вообще почти одни роботы. Так что, вполне возможно, квантовые компьютеры проделали это, вовсе не привлекая людей.
— Может, и так, — сказала Свон. — Почему ты считаешь, что эмоции обязательно должны иметь биохимическую природу? Разве нельзя получать эмоции без участия гормонов, или крови, или вообще чего-нибудь? Какая-то новая система, электрическая или квантовая?
Женетт поднял руку, чтобы остановить ее.
— Мы не знаем. Можно сказать одно: мы не знаем, чего они хотят сейчас, потому что вначале их стремления были очень ограниченными. Получить данные, обработать их, выдать результаты — таковы были исходные задачи ИИ. Поэтому теперь, когда у них как будто бы появились Свон.задачи, нужно быть настороже. Не только из общих соображений, как всегда с чем-то незнакомым, но потому что некоторые из них действуют необычно, и нашлись даже такие, что нападают на нас.
Один из группы — Свон вспомнила, что его зовут доктор Трейси, — сказал:
— Возможно, живой человеческий организм сделал эти компьютеры эмоциональными по определению. Скажем так: мозг в теле не может существовать без эмоций, а они теперь именно таковы — мозг в теле.
Женщина, такая же маленькая, как инспектор Женетт, встала со своего места и сказала:
— Я по-прежнему не убеждена, что квантовым компьютерам свойственно мышление высшего порядка, в частности, такие проистекающие из самого сознания явления, как намерение и эмоции. Несмотря на невероятную скорость их расчетов, они все еще действуют по алгоритмам, полученным от нас или выведенным из наших. Они не могут перейти от алгоритмов к сознанию.
— Ты уверена? — вмешался Женетт.
Маленькая женщина упрямо наклонила голову, точь-в-точь так, как — Свон это видела — делал Женетт.
— Я так думаю. Не вижу, как высший уровень сознания может возникнуть из алгоритмов, которыми располагают эти квакомы. Они не могут пользоваться метафорами, они их с трудом понимают. Они не способны прочесть выражение лица. В таких делах четырехлетний ребенок намного их опережает, а взрослый человек — просто существо другого порядка.
— Так нас учили, когда мы были молоды, — сказал Женетт. — И что еще важнее, когда квакомы были молоды.
— Но ведь мы изучаем это всю жизнь и видим собственными глазами, — резко ответила маленькая женщина. — И программируем.
Это утверждение никого из присутствующих не успокоило.
— А что насчет предприятия, где эти гуманоиды были сделаны или отобраны? — спросил Варам у Женетта. — Можем мы его закрыть?
— Когда найдем, — мрачно ответил инспектор.
— Мы можем задержать всех выявленных вами гуманоидов?
— Думаю да, — сказал Женетт. — Однако пришлось поработать — все усилия координировала Алекс, и нам требовалось восстановить команду, основательно перетряхнув сеть. Но нам это удалось, и команда собралась несмотря на отсутствие Алекс. Как я уже сказал, распознаны около четырехсот таких штук, и за всеми ведется наблюдение. Мы тщательно просканировали систему, и не думаю, что в разных поселениях прячется много других. Не поручусь за неприсоединившихся, но мы проверяем и там. При этом мы держимся на расстоянии от «поднадзорных» гуманоидов и они как будто не знают, что за ними следят. Очень немногие ведут себя так же странно, как те трое на «Внутренней Монголии» или тот, на Ио. Они стараются сливаться с окружением. Не знаю, как это истолковать. Они будто ждут чего-то. У меня такое чувство, что мы видим не всю картину, и я не хочу долго тянуть с началом действий. Но было бы приятно, прежде чем начинать, убедиться, что мы понимаем всю ситуацию.
