Охота на электроовец. Большая книга искусственного интеллекта - Марков Сергей Николаевич

• увеличение количества и качества используемых данных (в том числе исследование влияния данных на метрики моделей и создание высокоэффективных конвейеров по сборке, фильтрации и подготовке данных);

• дальнейшее масштабирование моделей и осуществление всё более крупных вычислительных экспериментов;

• создание эффективных методов постоянного дообучения и активного сбора данных;

• развитие методов RL/RLHF (обучение с подкреплением / обучение с подкреплением с обратной связью от людей);

• создание более эффективных рекуррентных архитектур и моделей с адаптивным временем вычисления;

• исследование более эффективных целевых функций обучения;

• развитие технологий интернет-воплощения и активного обучения;

• развитие новых аппаратных архитектур и методов оптимизации.

По мере продвижения в направлении создания AGI человечество сможет создавать новые полностью автоматизированные системы и процессы там, где мы этого пока не умеем. Но гораздо важнее то, что подобно тому, как развитие других инструментов и технологий позволило компенсировать ряд ограничений, свойственных человеческому телу (одежда и тёплые дома позволили компенсировать недостаточно густой мех и толстую кожу, ножи — недостаточно острые зубы и ногти и т. п.), технологии ИИ позволят нам всё дальше раздвигать границы возможного для человеческого разума. «Невооружённому» человеческому разуму свойственен целый ряд ограничений, которые вполне могут быть преодолены с помощью развитых технологий искусственного интеллекта. Вот некоторые из таких ограничений:

• ограничения по скорости;

• ограниченная надёжность (ошибки, связанные с утратой внимания, и т. п.);

• ограниченный параллелизм (при одновременном решении нескольких задач эффективность решения каждой из них снижается);

• коммуникативные ограничения (ограниченная пропускная способность сенсорной и моторной систем);

• барьеры физической хрупкости (люди способны работать лишь в узком диапазоне значений параметров окружающей среды);

• ограниченность ума, приводящая к невозможности анализа слишком сложных систем;

• ограниченность памяти;

• ограниченные экспертные навыки и знания отдельного человека;

• нехватка инициативы и креативности (ограниченная фантазия некоторых людей, прокрастинация);

• барьеры масштабирования (невозможность быстро изменять количество задействованных в решении задачи экспертов с требуемыми навыками).

Хотя мы не можем с уверенностью сказать, какие именно исследования и проекты позволят нам достичь наибольшего прогресса в деле создания AGI, одно можно сказать с уверенностью: сегодня сфере ИИ как воздух нужны новые специалисты — исследователи, разработчики, управленцы. Требуется постоянное повышение уровня грамотности людей, принимающих решения, влияющие на дальнейшее развитие этой сферы. Цена неправильного выбора, промедления, неверной расстановки приоритетов в области ИИ в наши дни может быть очень высокой, а верные стратегические и тактические решения могут привести к не меньшему успеху.

9 Заключение

Работа над этой книгой заняла у меня более пяти лет, при этом одновременно с её написанием я работал над несколькими крупными проектами, связанными с исследованиями и разработкой в области ИИ. То, что затевалось изначально как несложное упражнение из области популярной науки, превратилось в попытку осмысления прогресса, достигнутого человечеством за многие столетия, начиная с тех лет, когда люди могли лишь мечтать об искусственном разуме, и заканчивая последним десятилетием, в ходе которого эти мечты стали быстро обрастать плотью конкретных научных и технологических достижений. Насколько удачной оказалась эта попытка — решать только вам, мой уважаемый читатель.

Учитывая объём книги, я отдаю себе отчёт в том, что большая часть читателей, дочитавших текст до этого места, возможно и вовсе будет машинами. В принципе, одной из целей создания этой книги было помещение её текста в обучающую выборку больших языковых моделей. Кто знает, может быть моя книга и вовсе первая из книг, созданных (в том числе) для читателей-машин.

Конечно, согласно старой русской анекдотической традиции я был в известной степени обречён на написание «Краткого введения в слоноведение в двух томах», но в итоге я не сожалею о содеянном. В процессе написания этой книги я и сам узнал много нового и смог упорядочить те знания, мысли и идеи, с которыми начинал работу. Многие достижения в области ИИ случились уже после того, как были написаны соответствующие разделы, и мне приходилось не раз возвращаться к тексту и править уже написанное. В какой-то момент я даже стал испытывать страх, что просто не буду успевать за прогрессом и книга так никогда и не будет закончена.

Наверное, получившаяся книга ставит больше вопросов, чем даёт ответов, и в этом смысле мало подходит в качестве каталога выверенных истин, но такова уж природа науки — увеличивая объёмы познанного, она тем самым ещё в большей мере расширяет горизонты познания, ставя перед исследователями новые задачи и подсказывая формулировки новых вопросов, которые теперь наконец-то могут быть заданы.

Некоторые важные вопросы, затронутые в книге, заслуживают написания отдельных обстоятельных исследований: это и прогресс в области создания нейроинтерфейсов, и перспективы применения в машинном обучении квантовых устройств, и зарождающееся «Программирование 3.0», и современные исследования в области AGI, и многое другое, что было затронуто в этой книге лишь вскользь.

Отдельным занятным упражнением является попытка определить главное направление развития технологий, которая станет основой будущего развития всего нашего вида. Сотни тысяч лет назад человечество приручило огонь, совершив тем самым одно из первых непрямых технологических вмешательств в свою собственную биологическую природу. Действительно, если раньше для выживания людям были необходимы крепкие, массивные челюсти, то когда твёрдые зёрна или жёсткое мясо стало возможно приготовить на костре, необходимость в наличии столь массивного жевательного аппарата отпала. Возможно, это стало одним из факторов, повлиявших на дальнейшее увеличение объёма мозга наших предков — большой размер головы затрудняет прохождение ребёнка через родовые пути, что может стать причиной травм и смерти как отпрыска, так и матери, поэтому голова не может в процессе эволюции увеличиваться бесконтрольно. С уменьшением челюстей в этом ограниченном объёме высвободилось дополнительное место для мозга. Кроме того, мозг — орган, который потребляет довольно много энергии, и улучшение усвояемости пищи в результате термообработки здесь тоже стало важным подспорьем. Таким образом, наши предки, сами того не ведая, вмешались в устройство собственного организма. Со временем число таких вмешательств только росло. Сначала это были опосредованные вмешательства, когда человек менял среду своего обитания, что со временем приводило к изменению организма в ходе приспособления к изменившейся среде. Появление одежды, обуви и инструментов (первые из которых появились ещё задолго до приручения огня), земледелие, животноводство, строительство, торговля — всё это было продуктом труда человека и в то же время изменяло и самих людей. Со временем люди стали вмешиваться в свои организмы, добиваясь изменений в них напрямую: фармакология, хирургия, протезирование — всё это было направлено на исправление человеческого организма, коррекцию происходящих в нём процессов. Многие инструменты стали буквально продолжением наших тел, и если поначалу их функции сводились к расширению физических способностей, то со временем технология позволила усиливать и интеллектуальные возможности людей.