Дэвид Минделл - Восстание машин отменяется! Мифы о роботизации
С одной стороны, все, что мы сделали, – это изменили место нахождения людей и время, за которое они выполняют свою работу. Тем не менее, сделав это, мы трансформировали сущность самой работы, и таким образом поменялось представление о том, что значит быть океанографом, археологом, исследователем.
Глава 3
В воздухе
Когда пилоты рейса 447 авиакомпании Air Francе пытались восстановить контроль над самолетом, который падал в черном небе, теряя по 3000 м высоты в минуту, пилот Давид Робер в отчаянии воскликнул: «Мы утратили контроль над самолетом, мы ничего не понимаем, мы перепробовали всё!» В этот самый момент, по трагической иронии судьбы, они летели на полностью исправном самолете. Проблема с обледеневшими трубками Пито, которая стала причиной отключения автопилота и системы дистанционного управления рулями, устранилась сама собой примерно через минуту.
Тем не менее испуг, замешательство, по меньшей мере 19 предупреждений и тревожных сообщений, противоречивая информация в сочетании с недостатком опыта ручного управления полетом привели экипаж к тому, что самолет вошел в опасное сваливание. Спасение было бы возможно, если бы пилоты использовали старый метод при сомнительных показаниях скорости – уменьшили угол тангажа, поддерживали горизонтальный полет без крена, и тогда самолет полетел бы как надо, – но команда не смогла разобраться в ситуации и найти из нее выход. В отчете об аварии это было описано как «полная потеря когнитивного контроля над ситуацией».
Записи последних минут полета рейса 447 производят ужасающее впечатление. Пилоты чувствуют, как утрачивают понимание происходящего вокруг них, падают с неба и обрекают на гибель себя и пассажиров, за жизни которых несут ответственность. Эти четыре с половиной минуты представили в унылом сжатом микрокосме дилемму автоматизированных систем, с которой сталкиваемся мы все: когда компьютеризированное управление отделяет нас от реальной сущности задач, мы можем потерять способность работать без компьютеров и стать совершенно другими людьми. Если эти системы откажут или утратят связь, как это неизбежно, хотя и редко, происходит, мы, возможно, не сумеем снова включиться в процесс и вновь стать такими же людьми, какими были раньше.
Небеса всегда были жестоки к беспомощным людям: как обнаружил Икар, стоит только потерять крылья, и ты обрушишься на землю. Сегодняшние авиалайнеры летают на многокилометровой высоте и высокой скорости в разреженной атмосфере, где даже хорошо обученный пилот с трудом может управлять самолетом вручную. Кажется, что потеряешь свой компьютер и тут же рухнешь вниз, как Икар.
В отличие от океанографического аппарата или робота в глубинах океана, кабина экипажа коммерческого авиалайнера, являясь сложной технической системой, работающей в экстремальных условиях, напрямую связана с нашими жизнями. Поднимаясь на борт самолета, как это каждый день делают миллионы людей на десятках тысяч авиарейсов, мы доверяем нашу физическую безопасность находящимся в кабине людям и машинам, которые должны благополучно поднять нас в воздух и вернуть обратно на землю. Какую роль в этом играют пилоты? Приняв тот факт, что они иногда совершают ошибки, не должны ли мы полностью исключить их из процесса?
У пилота авиакомпании Qantas Airlines Ришара де Креспиньи классический послужной список. В детстве он восхищался авиацией и военной службой, затем вступил в мир коммерческих авиалиний и прошел свой путь от небольших реактивных самолетов до «Боинга-747». И в конце концов стал командиром экипажей больших лайнеров «Аэробус». Но в свободное время он, по его собственным словам, – зануда, который программирует компьютеры и даже управляет маленьким бизнесом, связанным с базами данных. Также он заядлый мотоциклист, человек, который чувствует себя «комфортно, испытывая технику, чтобы посмотреть, что она умеет».
В 2004 году де Креспиньи прошел переподготовку и, покинув пилотскую кабину «Боинга» классической серии со старомодными круглыми циферблатами, пересел на более автоматизированный компании Airbus. «Я должен был избавиться от философии Boeing, которую изучал предыдущие 18 лет, – писал де Креспиньи, – и заменить ее полностью новой философией Airbus. Это почти то же самое, что заново учиться летать». Ему нравился автоматизированный «Аэробус», но новый самолет заставлял пилота чувствовать себя несколько неуютно. «Мне не нравилось управлять машинами, которые я не полностью понимаю. Эта привычка сформировалась у меня, когда я подростком копался в потрохах мотоциклов и автомобилей. Мне необходимо было разобраться в том, как машина сконструирована и собрана». В его словах звучат знакомые интонации, когда он приходит к заключению: «Пилоты "Аэробуса" являются системными операторами в той же мере, что и авиаторами», – но по-прежнему ощущает желание «вникнуть в суть вопроса глубже, чем позволяет система "Аэробуса"».
Четвертого ноября 2010 года де Креспиньи был вынужден вникнуть в систему, поскольку столкнулся с критической ситуацией сродни той, которая произошла с командой рейса Air France, но в какой-то мере намного более угрожающей. Он летел на самолете «Аэробус A-380» – гигантском двухпалубном лайнере с четырьмя двигателями – из Сингапура в Австралию. Через четыре минуты после взлета один из двигателей взорвался. Осколки от разрушившейся турбины повредили множество топливных, гидравлических и электрических магистралей в крыле воздушного судна, выведя из строя контуры управления. Из пробоин в топливных баках фонтаном начало бить топливо.
Электронный централизованный бортовой монитор – выдаваемые компьютером сигналы тревоги отвлекли внимание экипажа самолета Air France – начал выстреливать в де Креспиньи очередями сообщений, каждое из которых требовало от пилотов выполнения перечня проверочных операций, но едва они успевали пройти один из них, как появлялся следующий. «Мы выполняли один перечень за другим, а они все прибывали – серьезные перечни, просто ужасные». В целом на пилотов за два часа свалилось 130 аварийных сообщений о незначительной неисправности и 120 основных предупреждающих сигналов.
Де Креспиньи был настолько перегружен, реагируя на предупреждения компьютера, что не мог распознать причину этого постоянного потока поломок. «Это было как участие в военном эксперименте по стрессоустойчивости. …Мы пытались угнаться за компьютерной программой, – писал де Креспиньи, – а возможно, должны были просто взять управление самолетом на себя и приземлиться».
В конце концов, де Креспиньи вспомнил действия ведущего руководителя полетом Джина Кранца во время аварии на «Аполлоне-13»: не зацикливаться на поломках, выяснить, что работает, и действовать с работающей аппаратурой так, чтобы благополучно вернуться. Де Креспиньи привел в порядок оставшиеся у него ресурсы, сосредоточился, и команда благополучно приземлила борт рейса QF32 в Сингапуре, при этом никто даже не получил травм.
Каждый раз, когда из-за человеческой ошибки гибнут люди, мы можем вспомнить случаи, когда жизни были спасены благодаря здравому смыслу и умениям людей. Рейс QF32 и «чудесное» приземление самолета US Airlines в реку Гудзон в 2009 году, выполненное капитаном Чесли Салленбергером, показывают, что опытные, хорошо подготовленные, сметливые люди – критически важные составляющие безопасности этих систем, от которых зависят наши жизни. Это последняя линия обороны, когда машины отказывают.
Случай с рейсом 447 авиакомпании Air France и другие подобные истории разрушают эти надежды. Летом 2013 года пилоты рейса 214 авиакомпании Asiana Airlines не смогли посадить современный «Боинг-777» в аэропорту Сан-Франциско в идеально ясный день. При аварийной посадке погибли три человека и многие получили травмы. Обозреватели задавались вопросом: не атрофировались ли из-за автоматизации их летные навыки, необходимые теперь только в критической ситуации?
Технические изменения по своей природе вызывают такие проблемы. Новые поколения авиалайнеров, кажется, изобилуют возросшим количеством предохранительных систем, и сложность всех этих систем увеличивается. Цифровое бортовое оборудование и программное обеспечение, конечно, сделали шаг вперед в плане упрощения и улучшения интерфейсов. У них образцовые показатели безопасности, и благодаря им самолеты стали безопаснее в целом. Но они же делают пилотирование самолетов сложнее. Яркий пример: системы управления полетом – компьютеры, контролирующие все плановые полетные задания, – имеют громоздкий интерфейс клавиатуры в стиле 1980-х, который вовлекает пилотов в процесс «синтаксических конструкций, последовательностей и процедур, а не образного мышления».
Авиации свойственен парадокс: по мере увеличения автоматизации возрастает безопасность во многих аспектах, но на пилотов в то же время ложится больший груз. Каждая техническая система может в какой-то момент отказать, а люди в эти критические минуты будут вынуждены вмешаться. Но, слишком отдалившись от своей машины, они, вероятнее всего, растеряли свои навыки, и тогда их вмешательство может привести к беде. Именно это случилось с рейсом 447 авиакомпании Air France. Но просто обвинить пилотов и объяснить все эти аварии и несчастные случаи «человеческими ошибками» не значит понять суть проблемы.
