Ханна Фрай - Hello World. Как быть человеком в эпоху машин

Но возможности машины — в сущности, ультрасовременный передний парктроник и умная система круиз-контроля — не вполне согласуются с тем, как это подается. Так, в октябре 2016 года компания заявила, что “сейчас все автомобили Tesla выпускаются с оборудованием для полного автоматического управления” [281]. В одной статье на сайте The Verge приводятся еще и такие слова Илона Маска, идейного вдохновителя Tesla : “Отныне новейшая версия полной автономии будет стандартом для всех автомобилей Tesla ”. Вот эта “полная автономия” явно расходится с тем предупреждением, которое должны принять к сведению владельцы машин, прежде чем включить уже доступный автопилот: “Всегда сохраняйте контроль над — машиной, ответственность за управление возлагается на — водителя” [282] [283].

Важно, чего мы ждем. Может, у вас другое мнение, но, по-моему, светлая идея запихнуть в рулевое колесо апельсин и, хуже того, продажа самодельных приспособлений, которые “ [позволяют] покупателям первых моделей [находясь за рулем] сделать предупреждающие сигналы автопилота не такими назойливыми или отключить их вовсе” (мне попалось такое предложение где-то на темных задворках интернета) [284], — это неизбежное следствие не совсем честной рекламы уважаемого бренда.

Безусловно, Tesla — не единственный источник зла в автоиндустрии. Все компании стараются подыграть нашим фантазиям, лишь бы продать нам свою продукцию. Но лично мне не все равно, что я покупаю — духи с особо соблазнительным ароматом или машину с полностью автоматическим управлением, которое якобы должно гарантировать мне безопасность.

Если оставить в стороне рыночную стратегию, меня все же мучает вопрос о нашем собственном неправильном отношении к беспилотникам.

На сегодняшний день мы знаем, что люди отлично чувствуют нюансы, умеют анализировать контекст, использовать жизненный опыт и находить закономерности. Знаем, что мы ужасно невнимательны и неаккуратны, непоследовательны и не можем полностью сосредоточиться на том, что нас окружает. Короче говоря, мы умеем все то, чего не умеют алгоритмы, и наоборот.

Тогда почему бы не взять все лучшее от обоих миров и не дополнить людские таланты способностями машин, как это делают в медицине, когда диагностируют новообразования с помощью компьютерных программ? Пока полная автономия не обеспечена, почему бы не пойти обратным путем и не сосредоточиться на создании системы, которая будет помогать водителю, а не ждать помощи от него? Системы обеспечения безопасности — вроде антиблокировки колес при торможении и антипробуксовочной системы, — которая способна неотрывно следить за дорогой и заметит опасность, если ее не заметил водитель. Это был бы не столько шофер, сколько телохранитель.

Исследователи научного центра Toyota руководствуются этой идеей. Их машины могут работать в двух режимах. Режим “шофер”, вроде автопилота Audi для плотного трафика, рассчитан на движение по загруженной дороге, а “телохранитель” остается “в запасе”, пока рулит человек, и действует как система обеспечения безопасности, если водитель чего-нибудь вдруг не увидит и возникнет угроза аварии.

Похожей политики придерживается Volvo . Впечатляющими показателями безопасности модель Volvo XC90 обязана системе автономного экстренного торможения, которая в случае опасного сокращения дистанции до впереди идущей машины автоматически снизит скорость. С 2002 года, когда в Великобритании поступила в продажу первая такая модель, было продано больше 50 000 автомобилей, и при столкновениях с их участием все до единого водители и пассажиры остались живы [285] [286].

Посмотрим, во что все это выльется — как и многие технические концепции беспилотных автомобилей, которые сейчас так горячо обсуждаются. Но одно можно сказать наверняка: беспилотники еще научат нас кое-чему, что пригодится нам во всех сферах жизни, а не только на автомагистрали. Главное — не разборки по поводу того, кто должен управлять машиной, а трезвая оценка потенциальных возможностей алгоритмов.

Если так и дальше пойдет, нам следует пересмотреть свое мышление. Нам придется расстаться с мечтой об идеальных, абсолютно надежных машинах и осознать, что если механические поломки еще можно свести к минимуму, то наладить бесперебойную работу алгоритмов в ближайшем будущем едва ли удастся.

Поэтому, раз накладок не избежать и на пути к цели мы должны смириться с неопределенностью, автономное управление ставит перед нами такие дилеммы, которые вынуждают нас задуматься о том, насколько совершенным должно быть наше творение, чтобы его можно было выпустить на улицу. Это важный вопрос, и касается он всего на свете. Что значит достаточно хорошо? Если ваш алгоритм умеет хорошо считать, но может и ошибиться, вы готовы с этим смириться?

Преступность

В один теплый июльский день 1995 года двадцатидвухлетняя студентка университета собрала свои книжки, вышла из библиотеки Лидса и направилась к машине. Целый день она наводила лоск на свою дипломную работу и теперь надеялась хорошо отдохнуть в остаток лета. Она села в свою машину и уже готова была ехать, но тут раздался звук быстрых шагов: кто-то бежал по гаражу в ее сторону. Прежде чем она успела что-то сообразить, какой-то мужчина сунул голову в открытое окно и приставил нож к ее горлу. Он велел ей перебраться на заднее сиденье, связал ее, залепил ей веки акрилатным клеем, сел за руль и рванул с места.

Кошмарная поездка завершилась на травянистом берегу водоема. Девушка услышала глухой звук — это он опустил спинку своего сиденья, затем шуршание — он раздевался. Она поняла, что сейчас он ее изнасилует. Вслепую она подтянула к груди колени и со всей силы оттолкнула его ногами. Она отчаянно боролась с насильником, так что он порезал себе пальцы ножом, который держал в руке, и на сиденье остались капли его крови. Он дважды ударил ее по лицу, но вдруг, к огромному облегчению своей жертвы, выскочил из машины и убежал. Спустя два часа после начала этой жуткой истории на улице Лидса Глоуб-роуд можно было видеть обезумевшую от ужаса, растрепанную девушку в рваной блузке, с красными отметинами ударов на лице и с остатками клея на глазах [287].

Попытки изнасилования случайной жертвы происходят очень редко, но когда происходят, то, как правило, это бывают серийные преступления. Очевидно, этот человек не впервые напал на женщину. По результатам анализа крови, следы которой были обнаружены в машине, полиция выяснила, что его ДНК совпадает с образцом, полученным два года назад при расследовании аналогичного нападения на многоуровневой парковке. Тот случай произошел в Ноттингеме, в ста километрах к югу. С помощью программы ВВС Crimewatch [288]полиция нашла также связи с тремя другими преступлениями, совершенными десять лет назад в Брадфорде, Лидсе и Лестере.