Коллектив авторов - Инновационная сложность
Единой меры пользы и вреда в принципе не существует. Даже пересчет различного ущерба в денежных единицах ведет к произвольным и спорным результатам. Такой подход к расчету технологических рисков применим только там, где накоплен достаточный статистический материал и на основе частоты отказов отдельных компонентов сложных технических систем может быть сделан вывод о надежности системы в целом. В этом случае, например, частая поломка какой-либо детали в определенный отрезок времени экстраполируется как на всю систему в целом, так и на следующий период ее функционирования. Этот подход, однако, не применим к уникальным сложным техническим системам, где каждая новая авария является по своим причинам и следствиям уникальной. Это показали, например, сравнения аварий на атомных электростанциях. Даже если есть много общего, предыдущий опыт часто не применим к новым авариям, имеющих многочисленные новые, непредвиденные особенности. До тех пор, пока нет достаточного количества эмпирических случаев, можно дать лишь субъективную оценку, которая может выдавать желаемое за действительное, что и наблюдается, например, при авариях ядерных установок. Они всегда единичны и набирать здесь статистику не представляется возможным, а заинтересованные эксперты не могут быть объективными. Поэтому предусмотреть и прогнозировать их последствия становится в принципе невозможно. Кроме того, при оценке истинного объема причиненного вреда от техногенных аварий и катастроф огромную роль играют самые различные субъективные обстаятельства, которые часто упускаются из вида (например, страх ответственности, утрата доверия и т. п.), поскольку речь идет не о простых технических устройствах, а о сложных социотехнических системах. Это выводит проблему принятия решений в области техногенных рисков на совершенно новый уровень сложности, где возникают синергетические эффекты, которые очень трудно предусмотреть и соизмерить, поскольку они наслаиваются один на другой и создают каждый раз новые ситуации.
Необходимо принимать во внимание, что при использовании математических вычислений учитываются лишь те отношения, которые доступны математической обработке, т. е. могут быть количественно выражены или выразимы. Кроме того, определение вероятности того или иного события, которое может привести к аварии, затрудняется тем, что оно часто лежит за пределами познаваемого, а ее последствия измеряются не только в аспекте принесенного материального ущерба, как показали Чернобыльская катастрофа и авария на Фукусиме. Если раньше вопрос о рисках рассматривался лишь в рамках теории принятия решений с математическим уклоном и областью применения в сфере экономического страхования рисков, то сегодня в обсуждение этой темы включились также юристы, психологи и социологи, подчеркивающие, что технические инновации являются гипотетическими социальными структурами, создаваемыми не в лабораториях, а в рамках социотехнической деятельности, вторгающейся в профессиональную, общественную и даже частную сферы. С одной стороны, социальные структуры должны приспосабливаться к этим инновациям, а с другой – их внедрение неизбежно вызывает структурные социальные изменения.
Современное общество становится полем перманентного экспериментирования с новыми технологиями, следствия которого могут быть и являются не только позитивными, но и негатривными как для общества в целом, так и для отдельных его граждан, которые поневоле становятся подопытными кроликами. Такое изменение соотношения социальных и технологических изменений в современном обществе вызывает рост осознания технологических рисков и экологических угроз, связанных с внедрением и эксплуатацией сложных системотехнических комплексов, электростанций, производства потенциально токсичных субстанций, со стороны неконтролируемо разрастающихся масштабов новой индустрии утилизации практически всех промышленных продуктов. Иллюзия того, что рыночная экономика способна автоматически регулировать этот процесс моментально исчезнет, если вспомнить с какими техногенными катастрофами связано развитие крупных технологических комплексов в двадцатом столетии. В данном случае по сути дела речь идет о технологических рисках, природа которых социально-техническая.
Как показали аварии на Чернобыльской АЭС и недавняя на японской атомной электростанции «Фукусима», развитие технологий не делает нашу жизнь безопаснее. События последних лет показывают нам такие же проблемы в области гидроэнергетики, приводящие к затоплению жизненного пространства современного человека, крушения жлезнодорожных составов или катастрофических загрязнений огромных площадей отходами алюминиевого производства. Риски от внедрения и эксплуатации сложных технических систем перестали быть, строго говоря, техническими, а стали социотехническими. В любом случае техногенные катастрофы, связаны они с природными катастрофами или отказами техники из-за их неправильного использования или же неверного конструирования, всегда становятся социальными катастрофами, а значит должны «регулироваться» обществом.
Фактически современные сложные социотехнические системы должны стать самореферентными в смысле Никласа Лумана. Самореферентность системы представляет собой ее способность постоянно самоопределять отношение к самой себе и отдифференцировать их от отношений к окружающему миру, а также постоянно селектировать свои внутренние связи и элементы. Сложная социотехническая система при этом должна от наблюдения своих операций перейти к наблюдению своего наблюдения. Таким образом, она и не машина, и не организм, а особая самореферентная социотехническая система, контролирущая сама себя. Одним из центральных понятий лумановской теории систем является понятие самонаблюдения. Система только тогда существует, когда она сама себя наблюдает, т. е. самоидентифицирует себя, отделяя себя от окружающей среды. Многократное повторение процедуры дифференциации системы и окружающей среды, направленное внутрь данной системы, ведет к выделению в ней иерархии подсистем и одновременно к редукции сложности этой системы. Автопоэсис в данном контексте означает самоорганизацию, самоконституирование и саморепродукцию системы через построение подсистем. Именно в этом направлении идет процесс эволюции сложности в современных социотехнических системах.
Сложная социотехническая система конструирует окружающую среду как данную реальность и через эту процедуру утверждает и себя саму как реально существующую. Важно, чтобы при этом она становилась источником повышенных технологических рисков и не вела к социальным катастрофам, как, например, при сбросе лишней воды с плотин гидроэлетростанций или красного шлама бокситного производства. Сложность современных социотехнических систем связана в первую очередь не с техническими, а с социальными факторами. В этом и состоит особенность очередного витка эволюции сложности технических систем в условиях роста технологических рисков. Система становится настолько сложной, что не в состоянии не только управлять своей деятельностью и развитием, но и предсказывать негативные сценарии такого развития и способы их преодоления. Тогда опять перед обществом возникает старая проблема необходимости редукции сложности, которая может привести к спонтанной деградации существующей сложной системы.
Исследуя сложность: от искусственной жизни и искусственного интеллекта к киберфизическим системам[356]
К. Майнцер
Классическая кибернетика в традиции Норберта Винера является сегодня составной частью математической теории сложных систем и нелинейной динамики. Только в этих рамках может быть объяснено возникновение структур и образцов в природе и технике и построены компьютерные модели. Понятия «самоорганизация» и «эмерджентность» относятся к хорошо определенным понятиям и могут быть перенесены на понимание технических систем. В первой части главы рассматриваются основания теории сложных систем и нелинейной динамики. В качестве применения изучается образование структур и паттернов сложных клеточных систем, являющихся предметом системной биологии. Во второй части этой главы речь идет о применении динамики сложных систем к эволюции мозга и познания. Эти исследования составляют предпосылку для развития социальных роботов, что является предметом рассмотрения в третьей части. Нейронные сетевые структуры ни в коей мере не ограничиваются отдельными организмами или роботами. В четвертой части речь идет о киберфизических системах, посредством которых моделируются сложные социотехнические системы, которые в значительной мере управляют сами себя. Также и здесь математическая теория сложных систем и нелинейная динамика предоставляют нам основания для понимания самоорганизации и эмерджентности. В конце главы обсуждается вопрос об этических и общественных общих условиях для технического конструирования сложных самоорганизирующихся систем.
