Мередит Бруссард - Искусственный интеллект [Пределы возможного] [litres]

В научном сообществе бытует некоторый скрытый скептицизм. Один исследователь ИИ как-то мне сказал: «У меня есть Tesla. Автопилот… Э-э-э… В общем, я использую его только на трассе. Он совершенно не подходит для городского вождения. Технология еще не готова. В NVIDIA выяснили, что алгоритм беспилотного автомобиля ошибается в среднем каждые 10 минут». Это наблюдение соответствует инструкции к автомобилю: функцию автопилота действительно следует использовать только на трассе, короткое время и под контролем водителя.

В 2017 г. Uber пережил серьезное давление после того, как бывший исполнительный директор компании Тревис Каланик был записан на видео, где он кричал на одного из водителей, Фаузи Камаля. Тогда Камаль потерял $97 000, он стал банкротом, обвиняя в этом стратегию компании, направленную на понижение цен. В итоге водители зарабатывали в среднем не больше $10 в час. Состояние самого Каланика на тот момент оценивалось в $6,3 млрд. Камаль поделился с ним своей историей. Каланик ответил: «Некоторые люди не хотят брать ответственность за собственное дерьмо. Они обвиняют других во всем, что случилось в жизни. Удачи!» В обход калифорнийским нормам компания выпустила на улицы города беспилотные машины. Проект был закрыт после судебного разбирательства. Каланик лично нанял Энтони Левандовски, участника DARPA Grand Challenge, работавшего с Траном в Google X и позднее в Waymo. Но уже в мае 2017 г. Левандовски был уволен, поскольку отказался сотрудничать со следствием на предмет потенциальной кражи интеллектуальной собственности Waymo в пользу технологических разработок Uber [118] См. Harris, “God Is a Bot, and Anthony Levandowski Is His Messenger”; Marshall, “Uber Fired Its Robocar Guru, But Its Legal Fight with Google Goes On.” Harris also writes that Levandowski founded a religious organization, Way of the Future, in an attempt to “develop and promote the realization of a Godhead based on Artificial Intelligence.” .

В мае 2016 г. в автономной машине впервые погиб человек – это был Джошуа Д. Браун из Кантона, Огайо. Сорокалетний Браун был из спецназа ВМС, специалистом по обезвреживанию взрывоопасных предметов и предпринимателем. Он погиб в своей Tesla во время использования автопилота. Он настолько верил в систему, что позволял автопилоту делать всю работу. В тот солнечный день система не распознала трейлер с длинным белым прицепом, поворачивавший на перекрестке. Tesla заехала прямо под него. После столкновения крыша машины была буквально отрезана, а то, что осталось от автомобиля, продолжало двигаться еще несколько сотен метров [119] Vlasic and Boudette, “Self-Driving Tesla Was Involved in Fatal Crash, U. S. Says.” .

«Данные говорят о том, что система автопилотирования, используемая в комплексе с водительским зрением, действительно сокращает нагрузку и значительно повышает безопасность», – прокомментировали в Tesla после аварии [120] Tesla, Inc., “A Tragic Loss.” . А вот что написали об этом в Associated Press :

Не в первый раз автоматическая тормозная система дала сбой, однако для наладки отозвали лишь некоторые автомобили. В ноябре компании Toyota пришлось отозвать 31 000 Lexus и Toyota представительского класса из-за того, что радар автоматической тормозной системы принимал стальные конструкции и некоторые таблички за препятствие и тормозил. Также прошлой осенью компания Ford отозвала 37 000 пикапов F-150, которые тормозили вовсе без единого препятствия впереди. В компании сказали, что это могло происходить после проезда фургонов с большой отражающей поверхностью.

Технология полагается на несколько камер, радар, лазер и компьютеры, что позволяет ей фиксировать объекты и определять, находятся ли они на траектории машины, сказал Майк Харли, аналитик Kelly Blue Book. Системы вроде Tesla опираются в основном на камеры, которые «недостаточно совершенны, чтобы справиться с ослеплением из-за слишком яркого или низкоконтрастного освещения», – продолжил он.

Харли сказал, что смерть Брауна была несчастьем, однако с развитием беспилотных технологий она не будет единственной [121] Lowy and Krisher, “Tesla Driver Killed in Crash While Using Car’s ‘Autopilot.’” .

Национальное управление по безопасности движения автотранспорта также проводило расследование, в результате которого Браун, а не компьютер, был признан виновным. Однако они также порекомендовали Tesla поменять название функции «Автопилот».

Решения о том, как беспилотный автомобиль будет реагировать, действительно являются жизненно важными решениями. Масса снаряженного Tesla модели X P90D составляет 2441 кг. К примеру, самка азиатского слона весит около 2700 кг.

После неудачной попытки зарезервировать поездку на беспилотном такси в Uber я попыталась запланировать то же самое в NVIDIA – компании, которая разрабатывает чипы для беспилотных машин. Мне сказали, что я выбрала не слишком хорошее время и лучше устроить поездку после Международной выставки потребительской электроники в Лас-Вегасе. Я попробовала снова, мне не перезвонили. На сайте Waymo говорится о том, что они не принимают запросы от прессы. Наконец, чтобы познать произведение искусства с точки зрения потребителя, я зарезервировала поездку на Tesla. Светлым и солнечным зимним утром мы с семьей отправились в дилерский центр Tesla на Манхэттене. Шоурум, окруженный ныне галереями (а раньше – автомастерскими), располагался в районе Митпакинг, рядом с парком Хай-Лайн, на Западной, 22-й улице. Напротив располагался силуэт женщины из кованого железа. До силуэта добрались бомбардировщики пряжей, так что метал был прикрыт. Связанные крючком бикини безвольно свисали с рамы.

Мы зашли внутрь и увидели Model S седан. Рядом была его уменьшенная версия аналогичного малинового цвета для детей. Она была миниатюрной – как Jeep для Барби или трактор John Deere или машинка Power Wheels, – но все же Tesla. Я была зачарована.

Вместе с менеджером по продажам Райаном мы вышли из салона, чтобы протестировать Model X. Двери у этой модели поднимаются наверх и разворачиваются – как крылья у сокола. Мой сын подошел к машине. Райан нажал на пульт в форме маленькой Tesla, чтобы открыть заднюю пассажирскую дверь. Та медленно открылась наполовину. «Она знает, что ты там стоишь, – прояснил Райан. – Поэтому она открывается медленно – она тебя видит». Дверь перестала двигаться вовсе и, кажется, открываться полностью не собиралась. Озадаченный Райан снова нажал на пульт и затем отправился разбираться, пока мы остались ждать на тротуаре, наблюдая.

Он вернулся и с облегчением пояснил: «Это сенсор». Он находился прямо рядом со знаком «Не парковаться в дни уборки улиц». Зеленый столб был около сенсора, который находился прямо над задней пассажирской дверью. И из-за столба дверь не открывается полностью. Он пообещал, что мы сможем сделать фотографию с открытыми дверями по возвращении, когда машина будет припаркована в другом месте.

Райан стал объяснять нам, где и что находится, как только мы оказались внутри. Я глубоко вдохнула. Пахло новой машиной и роскошью. Белая «веганская кожа» покрывала водительское сиденье, а сиденья позади были заключены в черный сияющий каркас, напоминавший фильмы о Джеймсе Бонде 1960-х гг.