Ханна Фрай - Hello World. Как быть человеком в эпоху машин

Что там насчет систем помощи водителю? В конце концов, беспилотный автомобиль не означает выбора между всем и ничем.

В технологии автономного управления выделяют шесть уровней, от нулевого — никакой автономии — до фантастического пятого, то есть до полной автономии. Между ними помещаются машины от первого уровня с автоматическим регулированием скорости до четвертого с автономным управлением в условиях геозонирования; проще говоря, первый уровень — без ног, второй — без рук, третий — без глаз, четвертый — без головы.

Поэтому хотя пятый уровень еще даже не маячит на горизонте, а четвертый не совсем то, что нам так вдохновенно рекламируют, на пути к вершине можно достичь немалой степени автоматизации. Что плохого в том, чтобы потихоньку повышать уровень личных автомобилей? Можно ведь выпускать машины с рулем и педалью тормоза, в которых на водительском месте будет сидеть человек, способный взять управление на себя в чрезвычайной ситуации? Достаточно будет, пожалуй, пока технологии развиваются?

К сожалению, не все так просто. В сюжете этой истории остается еще один, последний, поворот. Целый спектр других проблем. Этот камень преткновения всегда будет на пути, если не достигнут уровень полностью автономного управления без участия человека.

Сын полка

Пилоты авиакомпании Air France прозвали Пьера-Седрика Бонэна сыном полка [254]. Он поступил в авиакомпанию совсем молодым, в двадцать шесть лет, имея за плечами всего несколько сотен часов налета, и учился на аэробусах французского авиаперевозчика. К тому дню, когда он поднялся на борт злополучного рейса AF447, ему исполнилось тридцать два и он успел налетать 2936 часов — солидный опыт, хотя Бонэн все равно оставался самым “зеленым” в тройке пилотов [255].

Тем не менее 31 мая 2009 года, когда самолет авиакомпании Air France , выполнявший рейс 447, оторвался от взлетной полосы в международном аэропорту “Галеан” Рио-де-Жанейро и взял курс домой, в Париж, управлял воздушным судном именно Пьер-Седрик Бонэн [256].

Это был Airbus A330 , один из самых высокотехнологичных пассажирских самолетов за всю историю авиации. Его система автоматического управления настолько совершенна, что обошлась бы в полете без помощи людей, за исключением взлета и посадки. И даже когда летчик берет управление на себя, ее встроенные системы безопасности сводят риск ошибки человека к минимуму.

Однако автопилот, который уверенно преодолевает любые предусмотренные конструкторами трудности, несет в себе скрытую угрозу безопасности. Летчик не сможет постоянно поддерживать высокий профессиональный уровень, необходимый для самостоятельного управления системой, если предполагается, что он берется за штурвал в исключительных случаях. Ему не хватит опыта, на который он мог бы опереться, чтобы в экстренной ситуации оказаться во всеоружии.

Именно это и произошло во время рейса AF447. Бонэн успел наработать тысячи летных часов в кабине пилотов аэробуса, но обладал минимальным практическим опытом ручного управления авиалайнером А330. В основном деятельность его как пилота ограничивалась тем, что он следил за работой автоматической системы. Поэтому в тот вечер, когда автопилот отключился, Бонэн не сумел обеспечить безопасность полета [257].

Неприятности начались, когда внутри встроенных в фюзеляж датчиков скорости образовались кристаллики льда. Оставшись без адекватных показаний, автопилот подал звуковой сигнал и переложил ответственность на человека. Само по себе еще не повод для волнений. Но когда воздушное судно слегка тряхнуло в зоне турбулентности, Бонэн, не имея должной подготовки, отреагировал слишком резко. Лайнер начал немного крениться на правый борт, Бонэн схватился за боковую ручку управления и наклонил ее влево. А главное, он одновременно потянул сайдстик назад и тем самым послал самолет круто вверх [258].

Воздушное судно попало в более разреженную атмосферу, а Бонэн упорно тянул ручку на себя, пока нос самолета не оказался задран настолько, что воздух перестал равномерно обтекать крылья. Теперь они отражали воздушный поток, авиалайнер резко потерял подъемную силу и падал хвостом вниз с небес в океан.

В кабине пилотов раздались сигналы тревоги. Командир поспешил из каюты для отдыха обратно в кабину. Борт AF447 несся к океану со скоростью три километра в минуту.

К тому моменту датчики оттаяли, механических повреждений не было, океан маячил еще далеко внизу, и все еще можно было исправить. Бонэну и его напарнику хватило бы всего десяти-пятнадцати секунд, чтобы спасти всех, кто находился в самолете, — достаточно было толкнуть ручку управления вперед и опустить нос лайнера, так чтобы воздушный поток снова начал плавно и равномерно огибать крылья [259].

Но Бонэн в панике тянул сайдстик назад. Никто не осознавал, что он сам создал чрезвычайную ситуацию. Драгоценные секунды таяли. Командир велел выровнять крылья. Экипаж немного поспорил, теряют они высоту или набирают. Затем, на высоте меньше 2500 метров, управление взял на себя второй пилот [260].

— Вверх… вверх… вверх… — раздавался крик второго пилота.

— Я же все это время тянул ручку назад! — отвечал Бонэн.

Наконец до командира дошло. Он понял, что уже три с лишним минуты они падают из-за срыва потока, и приказал опустить нос. Поздно. Увы, теперь они были уже слишком близко к поверхности воды. “Чтоб его! Мы разобьемся! Не может быть!” — орал Бонэн [261]. Спустя несколько мгновений авиалайнер рухнул в Атлантический океан, унося с собой 228 живых душ. Парадоксы автоматизации

В 1983 году, за двадцать шесть лет до катастрофы с французским авиалайнером, психолог Лизанна Бейнбридж написала свое знаменитое эссе о неявной опасности чрезмерного доверия к автоматизированным системам [262]. Создайте машину, чтобы она исправляла людские огрехи, объясняла Бейнбридж, и, как ни парадоксально, люди станут слабее.

Любой из нас в той или иной степени может сейчас это подтвердить. Ведь именно поэтому люди уже не способны запоминать телефонные номера, многие из нас с трудом разбирают собственный почерк и не в силах найти дорогу без навигатора. У нас мало шансов приобрести навыки такого рода, потому что все это делает за нас техника.

У нас есть все основания волноваться, как бы нечто подобное не произошло и с навыками вождения — а тут ставки побольше, чем с каким-то почерком. Пока мы не сумеем наладить полностью беспилотный режим, автомобиль время от времени будет передавать управление водителю. Удастся ли нам сразу вспомнить, что мы должны делать? И будет ли у подрастающего поколения возможность вообще научиться водить машину?

Но даже если все водители сохранят (в широком смысле слова) свой уровень компетенции [263], нам все равно придется решить еще одну проблему. Ибо важно и то, что требуется от водителя до самоустранения автопилота. Возможностей всего две. Обе они, как пишет Бейнбридж, не особенно приятные.