Ник Бостром - Искусственный интеллект. Этапы. Угрозы. Стратегии
33
Байесово обусловливание с учетом свидетельства Е дает (вероятность утверждения [например, Е] есть сумма вероятностей возможных миров, в которых это утверждение истинно.)
34
Или случайным образом выбирает одно из возможных действий с максимальной ожидаемой полезностью, если их несколько.
35
Более сжато ожидаемая полезность действия может быть записана как , где сумма берется по всем возможным мирам.
36
См., например: [Howson, Urbach 1993; Bernardo, Smith 1994; Russell, Norvig 2010].
37
См.: [Wainwright, Jordan 2008]. У байесовских сетей бесчисленное количество областей применения; см., например: [Pourret et al. 2008].
38
Возможно, некоторые читатели, сочтя это направление не слишком серьезным, зададут вопрос: зачем уделять столь пристальное внимание компьютерным играм? Дело в том, что игровые интеллектуальные системы, пожалуй, дают самое наглядное представление о сравнительных возможностях человека и машины.
39
См.: [Samuel 1959; Schaeffer 1997, ch. 6].
40
См.: [Schaeffer et al. 2007].
41
См.: [Berliner 1980 a; Berliner 1980 b].
42
См.: [Tesauro 1995].
43
В частности, такие программы по игре в нарды, как GNU [Silver 2006] и Snowie [Gammoned.net, 2012].
44
Процессом создания космического флота и битвами руководил сам Дуглас Ленат, написавший по этому поводу: «Итак, победа стала заслугой и Лената, и Eurisco – в пропорции 60: 40. Основной момент тем не менее состоит в том, что в одиночку ни я, ни программа никогда не справились бы» [Lenat 1983, p. 80].
45
См.: [Lenat 1982; Lenat 1983].
46
См.: [Cirasella, Kopec 2006].
47
См.: [Kasparov 1996, p. 55].
48
См.: [Newborn 2011].
49
См.: [Keim et al. 1999].
50
См.: [Armstrong 2012].
51
См.: [Sheppard 2002].
52
См.: [Wikipedia, 2012 a].
53
См.: [Markoff 2011].
54
См.: [Rubin, Watson 2011].
55
См.: [Elyasaf et al. 2011].
56
См.: [KGS, 2012].
57
См.: [Newell et al. 1958, p. 320].
58
См.: [Vardi 2012].
59
Ирвинг Гуд предполагал в 1976 году:
Появление программного обеспечения, не уступающего по своему потенциалу гроссмейстерскому уровню, будет означать, что мы уже стоим на пороге <создания искусственного сверхразума. – Н. Б.> [Good 1976].
Даглас Хофштадтер писал в 1979 году в книге «Гёдель, Эшер, Бах», за которую в 1980-м он получит Пулитцеровскую премию:
Вопрос: Будут ли такие шахматные программы, которые смогут выиграть у кого угодно?
Возможный ответ: Нет. Могут быть созданы программы, которые смогут обыгрывать кого угодно, но они не будут исключительно шахматными программами. Они будут программами общего разума и, так же как люди, они будут обладать характером. «Хотите сыграть партию в шахматы?» – «Нет, шахматы мне уже надоели. Лучше давайте поговорим о поэзии…» (Даглас Хофштадтер. Гёдель, Эшер, Бах. Эта бесконечная гирлянда / Пер. с англ. М. А. Эскиной. Самара: Издательский дом «Бахрах-М», 2001. С. 635.) [Hofstadter 1999, p. 678].
60
Минимаксный алгоритм поиска с альфа-бета отсечениями использовался совместно со специфической для шахмат функцией эвристической оценки позиций – это дало в сочетании с удачной библиотекой дебютов и эндшпилей, а также другими хитростями, очень сильную шахматную программу.
61
Впрочем, учитывая достижения в изучении оценочной эвристики в ходе моделирования, многие базовые алгоритмы могли бы хорошо проявить себя в большом количестве других игр.
62
См.: [Nilsson 2009, p. 318]. Конечно, Кнут несколько преувеличил успехи машинного разума. Все-таки есть еще интеллектуальные задачи, в которых ИИ не преуспел; например, остаются «непродуманными» такие аспекты, как открытие новых направлений в чистой математике, придумывание свежих философских концепций, создание циклов детективных романов, организация военного переворота, разработка очень нужного и инновационного товара широкого потребления.
63
См.: [Shapiro 1992].
64
Можно только предполагать, почему машине трудно достичь человеческого уровня в восприятии окружающей действительности, регуляции двигательных функций, здравом смысле и понимании языка. Одна из причин заключается в том, что в нашем мозгу имеется специальный механизм, управляющий этими свойствами, – достигшие в процессе эволюции совершенства нейронные структуры. Логическое мышление и навыки вроде игры в шахматы, в отличие от перечисленных выше способностей, не столь естественны, и потому при решении этих задач мы вынуждены полагаться на ограниченные когнитивные ресурсы общего назначения. Возможно, для вычислений и явно выраженных логических рассуждений наш мозг запускает что-то похожее на «виртуальную машину» – медленный и громоздкий психический симулятор универсального компьютера. Если наше предположение верно, то тогда получается забавная вещь: не КИИ моделирует человеческое мышление, а как раз наоборот – логически мыслящий человек симулирует программу ИИ.
65
Надо заметить, что по мнению меньшинства, представленного приблизительно 20 % взрослого населения США, Солнце «продолжает» вращаться вокруг Земли, – подобная картина наблюдается и в других развитых странах [Crabtree 1999; Dean 2005].
66
См.: [World Robotics 2011].
67
По оценке, взятой из работы: [Guizzo 2010].
68
См.: [Holley 2009].
69
Кроме того, есть гибридные подходы, основанные как на статистике, так и на правилах, но в наше время они не представляют никакого интереса.
70
См.: [Cross, Walker 1994; Hedberg 2002].
71
По сообщенным мне в частном порядке статистическим данным TABB Group – компании, специализирующейся на анализе рынка капиталов; ее офисы находятся в Нью-Йорке и Лодоне.
72
См.: [CFTC/SEC Report on May 6, 2010]; другую точку зрения на события 6 мая 2010 года см.: [CME Group, 2010] (CFTC (Commodity Futures Trading Commission) Комиссия по срочной биржевой торговле; SEC (Securities and Exchange Commission) Комиссия по ценным бумагам и биржам; CME Group – Группа Чикагской товарной биржи, крупнейший североамериканский рынок ценных бумаг, созданный в результате объединения ведущих нью-йоркских и чикагских бирж.).
73
Мне не хотелось бы, чтобы это воспринималось как аргумент против алгоритмического высокочастотного трейдинга, который вполне способен играть полезную роль, повышая ликвидность и эффективность рынка.
74
Менее масштабное потрясение случилось на фондовом рынке 1 августа 2012 года, отчасти причиной стало то обстоятельство, что автоматический прерыватель не был запрограммирован приостанавливать торги в случае резких изменений в количестве обращаемых акций, см.: [Popper 2012]. Это затрагивает еще одну нашу тему: трудно предусмотреть все возможные варианты, когда стандартная ситуация, которая держится на хорошо продуманных принципах, вдруг выходит из-под контроля.
75
См.: [Nilsson 2009, p. 319].
76
См.: [Minsky 2006; McCarthy 2007; Beal, Winston 2009].
77
По данным Питера Норвига (из личного общения). В принципе, любые курсы по информационным технологиям и машинному обучению очень популярны. Может быть, это объясняется неожиданно возросшим массовым интересом к аналитике больших данных (big data) интересом, инициированным в свое время Google и весьма подогреваемым огромными призовыми суммами Netflix.
78
См.: [Armstrong, Sotala 2012].
79
См.: [Müller, Bostrom <В печати>].
80
См.: [Baum et al. 2011; Sandberg, Bostrom 2011].
81
См.: [Nilsson 2009].
82
Безусловно, и в этом случае сохранялось условие, что научная деятельность будет продолжаться «без серьезных сбоев», а в мире не случится никаких цивилизационных катастроф. В интервью Нильсон использовал следующее определение ИИЧУ: «ИИ, способный выполнять приблизительно 80 % работы не хуже человека или даже лучше» [Kruel 2012].
83
В таблице показаны результаты четырех отдельных опросов, в последней строке даны средние показатели. Первые два опроса проводились среди участников нескольких научных конференций. PT-AI – конференция «Философия и теория ИИ» (Салоники, 2011); опрос состоялся в ноябре 2012 года; всего участников – 88 человек, количество респондентов – 43 человека. AGI – конференции «Универсальный искусственный интеллект» и «Универсальный искусственный интеллект – степень воздействия и угрозы» (Оксфорд, декабрь 2012); всего участников – 111 человек, количество респондентов – 72 человека. EETN – съезд Греческой ассоциации искусственного интеллекта (апрель, 2013); всего участников – 250 человек, количество респондентов – 26 человек. TOP100 – опрос ведущих специалистов по искусственному интеллекту в соответствии с индексом цитирования (май 2013); всего в списке – 100 человек, количество респондентов – 29 человек.
