Ханна Фрай - Hello World. Как быть человеком в эпоху машин

При втором уровне автономности (управление “без рук”) предполагается, что водитель всегда будет предельно внимателен на дороге. Машина не настолько продвинутая, чтобы полагаться только на себя, ей требуется ваше чуткое руководство. Как однажды написал журнал Wired , это примерно та степень развития, когда “двухлетний ребенок помогает вам мыть посуду” [264] [265].

В настоящее время приблизительно такого уровня достигли автопилоты Tesla [266]. Сейчас это выглядит как навороченный круиз-контроль — система автоматического поддержания скорости ведет машину на трассе, может затормозить и прибавить газу, но рассчитывает на то, что водитель всегда начеку и в любой момент сможет вмешаться. Если вы надолго отпустите руль, включится сигнал тревоги, чтобы вы не теряли бдительности.

Однако, пишет Бейнбридж, такой подход не сулит ничего хорошего. Нереально требовать от человека постоянной внимательности: “Как бы ни был сосредоточен водитель, он сможет удерживать зрительное внимание на источнике информации, при том что почти ничего не меняется, не больше получаса” [267].

Некоторые факты говорят о том, что люди с трудом заставляли себя следить за дорогой, как того требовала компания Tesla . В 2016 году за рулем автомобиля Tesla погиб Джошуа Браун: он ехал на автопилоте 37,5 минут и врезался в грузовик, пересекавший ему путь. Как показало расследование Национальной администрации безопасности движения на автострадах (NHTSA), в момент столкновения Браун на дорогу не смотрел [268]. Новость об этом происшествии облетела весь мир, однако не образумила отчаянных парней, выкладывающих в YouTube веселые ролики с советами, как перехитрить машину и внушить ей, что вы не теряете концентрации. Чтобы заткнуть настырную машину с ее напоминаниями о вашей ответственности, предлагалось привязать к рулевому колесу банку “ред-булла” [269]или засунуть в него апельсин [270].

Те же вопросы встают и в других программах. Беспилотники Uber требуют от водителя личного участия через каждые 13 миль (21 км) [271], но люди все равно с трудом концентрируются. 18 марта 2018 года самоуправляемый автомобиль Uber насмерть сбил женщину. На видеозаписи, сделанной в машине, видно, что “контрольное устройство” в лице сидевшего за рулем человека за секунды до происшествия на дорогу не смотрело [272].

Это серьезная проблема, но есть альтернативный выход. Производители автомобилей могли бы смириться с нашей человеческой природой и с тем, что нам свойственно отвлекаться. В конце концов, машина с автономным управлением тем и хороша, что можно, например, почитать в дороге. В этом заключается принципиальное отличие второго уровня (“без рук”) от третьего (“без глаз”).

Конечно, выйти на третий уровень гораздо сложнее в техническом отношении, но некоторые производители уже выпускают машины с учетом нашей рассеянности. Таков, в частности, автопилот Audi , рассчитанный на движение в плотном трафике [273]. Когда вы ползете в пробке, он полностью берет управление на себя — устраивайтесь поудобнее и наслаждайтесь неспешной ездой. Но будьте готовы при необходимости включиться в процесс [274].

Система Audi неспроста применяется только на автомагистралях с ограниченным числом въездов и при медленном движении. При большом скоплении машин на трассе риск катастрофы снижается. Это важно. Потому что стоит только водителю перестать следить за дорогой, в критическом положении складывается худшая комбинация факторов.

У невнимательного водителя очень мало времени на то, чтобы оценить обстановку и принять решение. Допустим, вы сидите в машине с автоматическим управлением, включается предупреждающий сигнал, вы отрываетесь от детектива и видите, что впереди самосвал вывалил на дорогу свой груз. Вы должны моментально обработать информацию — слева от вас мотоцикл, перед вами резко тормозит фургон, справа, в слепой зоне, еще одна машина. Именно сейчас вам нужно досконально понимать дорожную ситуацию, но вы совсем не ориентируетесь в ней; добавьте еще недостаток опыта — и как раз тогда, когда от вас требуется высочайший уровень водительского мастерства, вы будете практически беспомощны.

Эксперименты с моделями беспилотников подтверждают этот факт. Участникам одного такого исследования предлагали читать или разговаривать по телефону, пока автомобиль рулит сам, и оказалось, что восстановить контроль над машиной удается через сорок секунд после того, как включится сигнал тревоги. Тот самый случай с рейсом AF447. Командир экипажа Дюбуа легко мог спасти самолет, но опоздал с решением примерно на минуту — слишком долго он соображал, что происходит, пока не отдал простой приказ, который должен был предотвратить трагедию [275] [276].

Как ни странно, чем более совершенна технология автономного управления, тем сложнее человеку. С нерадивым автопилотом, пикающим каждые пятнадцать минут, водитель не уснет и не разучится управлять автомобилем. А вот умная и хорошо отлаженная автоматическая система, на которую можно положиться почти всегда, куда опаснее.

Вот почему руководитель исследовательского центра Toyota Джилл Пратт сказал:

Хуже всего, когда участие водителя нужно машине один раз за двести тысяч миль… Простой человек, который меняет машину через сто тысяч миль пробега, может так и не узнать, как это происходит [как автомат передает управление]. Но время от времени, может, в каждой второй моей машине, будет звучать это внезапное бип, бип, бип — мол, твоя очередь! А если годами этого не слышать и не видеть, как обычно и бывает… то, когда это произойдет, водитель растеряется [277].

Большие надежды

Несмотря на все сказанное, у нас есть все основания неуклонно двигаться вперед, к автоматическому управлению. Плюсов все-таки больше, чем минусов. Пока еще во всем мире езда на автомобиле является одной из главных причин гибели людей. Если в отдаленном будущем с помощью новых технологий удастся снизить смертность на дорогах, не развивать эти технологии было бы просто неэтично.

Да и других выгод хватает — даже простая вспомогательная автоматическая система дает возможность уменьшить расход топлива [278]и разгрузить дороги [279]. Да что уж там говорить — как приятно было бы пусть хотя бы на минутку убрать руки с руля на скорости за сто километров в час!

Но вспомним, о чем нас предупреждает Бейнбридж — в своем эссе она обрисовала проблемы, связанные с нынешним уровнем развития технологии автоматического вождения.

Одной из первых вывела на рынок автомобиль с автономным управлением компания Tesla . В целом ее опыт, несомненно, положительный, потребители ее продукции чувствуют себя в машине более уверенно — вы легко найдете в сети видео о системе предупреждения столкновений, которая раньше водителя видит риск аварии, подает сигнал тревоги и спасает автомобиль от удара [280].