Станислав Лем - Черное и белое (сборник)
– Одним из важных философских размышлений, возможно, является дискуссия о так называемом «искусственном интеллекте». Не является ли понятие интеллекта примером хотя и значимого с научной точки зрения, но неопределимого эмпирически однозначно понятия, то есть можно ли в данной ситуации говорить о том, что здесь нужен философ?
– Да, знаете ли, это сложная проблема. Во-первых, существует множество различных определений человеческого интеллекта. Существовали и, я думаю, до сих пор существуют утверждения о том, что человеческий интеллект, по всей вероятности, является космической постоянной. Я с этим совершенно не согласен. Мы находимся здесь, созданные эволюцией в процессе антропогенеза, и этот антропогенез в ходе своего развития был направлен только на выживание. То, что мы, кроме этого, еще можем философствовать, – это лишь приятное дополнение, но его нельзя считать основой любого познания.
Кроме того, разброс показателей интеллекта в человеческой популяции удивительно велик. Как известно, существуют коэффициенты интеллекта, их распределение дает кривую нормального распределения Гаусса[51]. Но мы точно не знаем, почему. Один немецкий философ недавно прислал мне книгу английского автора с очень интересным заглавием: «Почему мы не умнее?»[52]. Этот автор утверждает, что мы, конечно, не имеем права быть настолько глупыми, чтобы не выжить. Но с другой стороны, он утверждает, что мы также не должны быть слишком умными, так как общество, состоящее из одних гениев, было бы неспособно к социальной кооперации и, следовательно, к существованию. Эта сильно упрощенная мной аргументация меня не очень убедила. Что касается глупости, я думаю, что это тот минимум интеллекта, который до сих пор обеспечивал выживание общества, по крайней мере до сегодняшнего дня. Но почему мы не умнее? Несмотря на существование гениев в разных сферах, каких-нибудь Ньютонов или Эйнштейнов, этот потенциал не передается по наследству. То есть он может передаваться только по «второму каналу» культуры, но не биологическим путем. Почему? Этого мы, конечно, не знаем, как не знаем и ответ на вопрос, почему мы не умнее.
Что касается искусственного интеллекта, то, во-первых, можно сказать, что его, собственного говоря, вообще не существует. Конечно, это в значительной степени зависит от того, что мы можем представить себе в качестве средства управления этого машинного интеллекта. Возьмем, например, тест Тьюринга. Долгое время я был почти убежден в том, что этот тест действительно может иметь решающее значение для определения того, о каком существе – разумном или нет – идет речь. Но сейчас я так не думаю. У нас есть так называемая домработница; знаете ли вы, кто такая домработница, это очень странное немецкое слово – Zugeherin, хорошо подходящее для одного из моих романов «Осмотр на месте». Словом, это помощница по хозяйству. Я думаю, не составит большого труда создать компьютерную программу и соответствующим образом запрограммировать компьютер, разговаривая с которым она сочтет его вполне интеллектуальной личностью. Но если посадить перед этим компьютером кого-то более умного, то это будет уже не так. Я бы, например, чтобы проверить, идет речь о разумном существе или о машине, действовал бы следующим образом: я бы рассказал историю, сказку, анекдот, шутку и потребовал от этого аппарата повторить эту же историю, с тем же содержанием, но своими словами, с другими выражениями, исходя из своих возможностей. Дословное повторение по принципу граммофона меня бы, конечно, не удовлетворило. Если бы это удалось, я бы сказал, что вероятность того, что мы имеем дело с машиной, стала меньше. Но окончательно решить я бы не смог. Еще 30 лет назад в книге «Сумма технологии» я писал, что в принципе возможно создание все более совершенных компьютерных программ, если не придавать значения финансовому вопросу. И если такими программами интересуются лишь в том смысле, в каком интересуются шахматными программами. Тут возникают следующие практические аспекты: с одной стороны, можно создать фабрику, работающую практически без участия людей, например, производить автозапчасти или целые автомобили. Фактически на такой фабрике будут работать только специально запрограммированные автоматы. Но с другой стороны, если вам нужна помощница по хозяйству, то создать автомат для выполнения этой задачи практически невозможно. Повторяющиеся функции автоматов, производящих автомобили, сегодня можно реализовать не только в Японии. Но создать автомат вместо женщины с ведром и т. д. невозможно. Возможно, это и получится, но будет стоить миллиарды долларов. Практически же это нереально. Поэтому я должен сказать, что понятие интеллекта относится к так называемым «туманным понятиям», к «fuzzy sets» или «fuzzy logic»[53] – так это называется по-английски.
Конечно, глупо прозвучал бы вопрос: «Обладают ли бактерии интеллектом?» Разумеется, нет. Мы решили считать себя разумными, так ведь? Но бактерии, которые мы уничтожаем с помощью артиллерии антибиотиков, как бы это сказать, придумали против этого иммунитет. Это не совсем точное слово, но ведь они его создали. Значит, в смысле искусства выживания они умнее нас, так как после мировой атомной войны мы все погибнем, а бактерии останутся. Если в качестве планки интеллекта использовать критерий выживания, то следует признать, что бактерии очень умны, даже умнее нас. Но потом можно вспомнить, что интеллект имеет не много общего со способностью к выживанию.
Наверное, мы можем сказать, что приближаемся не к добровольной смерти, а к глобальному самоубийству нового типа, которое произойдет благодаря медленному, но повсеместному распространению огромных запасов плутония бывшего Советского Союза? Что-то подобное ведь не исключено? Это значит, что мы стремимся уничтожить как нашу экосферу, так и нашу биосферу, хотя никто этого не хочет. Таким образом, я думаю, можно сказать, что понятие интеллекта нельзя ограничивать искусством выживания. Это как-то слишком условно. И я не думаю, что в космосе может существовать только единственная, а именно человеческая, форма интеллекта. Хотя это совершенно особый подвид, о котором можно сказать, что он просуществовал почти миллион лет, но ведь насекомые просуществовали почти 400 миллионов лет.
– Научно-исследовательские институты, которые занимаются искусственным интеллектом, располагают значительными финансовыми средствами. Смогли бы вы просто прийти туда и сказать, что все деньги инвестируются напрасно, пока не выяснится, как трактовать понятие интеллекта?
