Дэвид Минделл - Восстание машин отменяется! Мифы о роботизации

В 2004 году де Креспиньи прошел переподготовку и, покинув пилотскую кабину «Боинга» классической серии со старомодными круглыми циферблатами, пересел на более автоматизированный компании Airbus. «Я должен был избавиться от философии Boeing, которую изучал предыдущие 18 лет, – писал де Креспиньи, – и заменить ее полностью новой философией Airbus. Это почти то же самое, что заново учиться летать». Ему нравился автоматизированный «Аэробус», но новый самолет заставлял пилота чувствовать себя несколько неуютно. «Мне не нравилось управлять машинами, которые я не полностью понимаю. Эта привычка сформировалась у меня, когда я подростком копался в потрохах мотоциклов и автомобилей. Мне необходимо было разобраться в том, как машина сконструирована и собрана». В его словах звучат знакомые интонации, когда он приходит к заключению: «Пилоты "Аэробуса" являются системными операторами в той же мере, что и авиаторами», – но по-прежнему ощущает желание «вникнуть в суть вопроса глубже, чем позволяет система "Аэробуса"».

Четвертого ноября 2010 года де Креспиньи был вынужден вникнуть в систему, поскольку столкнулся с критической ситуацией сродни той, которая произошла с командой рейса Air France, но в какой-то мере намного более угрожающей. Он летел на самолете «Аэробус A-380» – гигантском двухпалубном лайнере с четырьмя двигателями – из Сингапура в Австралию. Через четыре минуты после взлета один из двигателей взорвался. Осколки от разрушившейся турбины повредили множество топливных, гидравлических и электрических магистралей в крыле воздушного судна, выведя из строя контуры управления. Из пробоин в топливных баках фонтаном начало бить топливо.

Электронный централизованный бортовой монитор – выдаваемые компьютером сигналы тревоги отвлекли внимание экипажа самолета Air France – начал выстреливать в де Креспиньи очередями сообщений, каждое из которых требовало от пилотов выполнения перечня проверочных операций, но едва они успевали пройти один из них, как появлялся следующий. «Мы выполняли один перечень за другим, а они все прибывали – серьезные перечни, просто ужасные». В целом на пилотов за два часа свалилось 130 аварийных сообщений о незначительной неисправности и 120 основных предупреждающих сигналов.

Де Креспиньи был настолько перегружен, реагируя на предупреждения компьютера, что не мог распознать причину этого постоянного потока поломок. «Это было как участие в военном эксперименте по стрессоустойчивости. …Мы пытались угнаться за компьютерной программой, – писал де Креспиньи, – а возможно, должны были просто взять управление самолетом на себя и приземлиться».

В конце концов, де Креспиньи вспомнил действия ведущего руководителя полетом Джина Кранца во время аварии на «Аполлоне-13»: не зацикливаться на поломках, выяснить, что работает, и действовать с работающей аппаратурой так, чтобы благополучно вернуться. Де Креспиньи привел в порядок оставшиеся у него ресурсы, сосредоточился, и команда благополучно приземлила борт рейса QF32 в Сингапуре, при этом никто даже не получил травм.

Каждый раз, когда из-за человеческой ошибки гибнут люди, мы можем вспомнить случаи, когда жизни были спасены благодаря здравому смыслу и умениям людей. Рейс QF32 и «чудесное» приземление самолета US Airlines в реку Гудзон в 2009 году, выполненное капитаном Чесли Салленбергером, показывают, что опытные, хорошо подготовленные, сметливые люди – критически важные составляющие безопасности этих систем, от которых зависят наши жизни. Это последняя линия обороны, когда машины отказывают.

Случай с рейсом 447 авиакомпании Air France и другие подобные истории разрушают эти надежды. Летом 2013 года пилоты рейса 214 авиакомпании Asiana Airlines не смогли посадить современный «Боинг-777» в аэропорту Сан-Франциско в идеально ясный день. При аварийной посадке погибли три человека и многие получили травмы. Обозреватели задавались вопросом: не атрофировались ли из-за автоматизации их летные навыки, необходимые теперь только в критической ситуации?

Технические изменения по своей природе вызывают такие проблемы. Новые поколения авиалайнеров, кажется, изобилуют возросшим количеством предохранительных систем, и сложность всех этих систем увеличивается. Цифровое бортовое оборудование и программное обеспечение, конечно, сделали шаг вперед в плане упрощения и улучшения интерфейсов. У них образцовые показатели безопасности, и благодаря им самолеты стали безопаснее в целом. Но они же делают пилотирование самолетов сложнее. Яркий пример: системы управления полетом – компьютеры, контролирующие все плановые полетные задания, – имеют громоздкий интерфейс клавиатуры в стиле 1980-х, который вовлекает пилотов в процесс «синтаксических конструкций, последовательностей и процедур, а не образного мышления».

Авиации свойственен парадокс: по мере увеличения автоматизации возрастает безопасность во многих аспектах, но на пилотов в то же время ложится больший груз. Каждая техническая система может в какой-то момент отказать, а люди в эти критические минуты будут вынуждены вмешаться. Но, слишком отдалившись от своей машины, они, вероятнее всего, растеряли свои навыки, и тогда их вмешательство может привести к беде. Именно это случилось с рейсом 447 авиакомпании Air France. Но просто обвинить пилотов и объяснить все эти аварии и несчастные случаи «человеческими ошибками» не значит понять суть проблемы.

Несколько десятилетий ученые изучают этот вопрос, и полученные ими ответы нельзя назвать простыми. Джон Лаубер, авторитетный инженер по авиационной безопасности, который долгое время работал в Национальном управлении безопасности перевозок США, с иронией подводит итоги этих исследований следующим образом:

Автоматизация кабины пилотов увеличивает, уменьшает и перераспределяет загрузку. Она улучшает осведомленность летчика об обстановке в полете, выводит пилотов из схемы управления, увеличивает продолжительность полета по приборам, освобождает пилота от наблюдения за обстановкой, смягчает требования к тренировке, повышает требования к тренировке, делает работу летчика легче, повышает усталость, изменяет роль пилота, не изменяет роли пилота, делает оборудование дешевле, дороже, имеет высокую надежность, минимизирует возможность человеческой ошибки, ведет к ошибкам, изменяет саму природу человеческой ошибки, устраняет мелкие ошибки, повышает вероятность крупных ошибок, пилоты хотят, чтобы она была, пилоты считают, что ей нельзя доверять, ведет к скуке, избавляет пилотов от рутины и, наконец, повышает авиационную безопасность и оказывает на нее неблагоприятный эффект.

«Сюрпризы автоматизации», «зависимость от автоматизации» и «предубежденность по поводу автоматизации» были изучены учеными. Один пилот, у которого я брал интервью, отзывался о компьютерах своего самолета как «о кобре, замершей перед прыжком… Пока у меня есть хорошая длинная палка и я могу в нее тыкать, – добавлял он, – со мной, возможно, все будет хорошо, но я не могу быть уверен, что она не набросится на меня и не укусит».