Ричард Уотсон - Технологии против Человека. Как мы будем жить, любить и думать в следующие 50 лет?

Беспилотные автомобили Google проехали уже 2,9 миллиона километров, и за все время произошло только 14 мелких инцидентов, причем по вине человека. Похоже, беспилотные автомобили столкнулись с серьезной проблемой: с людьми, которые не соблюдают правила.

Я могу посочувствовать человечеству. Мне очень нравятся старые машины. Я не стал бы заходить слишком далеко и утверждать, что когда-либо влюблялся в какую-нибудь из них, но я был близок к этому. Автомобили были спроектированы таким образом, чтобы вызывать набор самых примитивных эмоций. Непонятно, как несколько изогнутых листов стали 1970-х годов могут вызывать радостные чувства. Возможно, это оговорка по Фрейду. Возможно, это внушила мне моя мать. Может быть, тому причиной изгибы, напоминающие червяков. Скорее всего, виноват дизайнер, работавший в эпоху до компьютерного проектирования. Современные автомобили безопаснее и в некотором смысле более эффективны, но они во многом лишились души. Сравните чувственный «Lamborghini Miura» 1966 года (разработан 22-летним конструктором без компьютера) или гипнотический «Ferrari Daytona» 1973 года (спроектированный на бумаге за 7 дней) с их современными аналогами (и даже не вспоминайте при мне Dino 246 GT).

Современные автомобили разочаровали меня и в других отношениях. Фримен Томас, дизайнер компании Ford, говорит, что современные технологии не позволяют обрести опыт вождения. Я согласен. У меня есть друг, Дэвид, который владеет «Alfa Romeo Giulietta» 1958 года и современным «Porsche 911». Он говорит, что получает больше удовольствия от первого автомобиля при 60 километрах в час, чем от второго на полной скорости.

У меня есть хорошие примеры того, что быстрое движение не обязательно является синонимом прогресса. Первый пример – когда я потерял запасной электронный ключ от современного автомобиля «Land Rover». Ключ в конце концов нашелся, но лишь после того, как я посетил торгового представителя, который сообщил мне, что новый электронный ключ будет стоить 110 фунтов стерлингов, плюс налог, плюс еще 60 фунтов за программирование ключа. И что, это технология, приспособленная к условиям развивающихся стран? Это не так удобно, как металлический ключ, который практически невозможно повредить и можно выпилить за бесценок, и не так хорошо, как смарт-ключ, который при потере вы можете найти с помощью вашего телефона, планшета или ноутбука.

Был случай, когда мой «Land Rover» сломался и я арендовал машину на несколько дней. Я потратил 15 пренеприятных минут, сидя на водительском кресле и пытаясь понять, как завести машину. Проблема была в том, что в ней не было слота, куда надо вставить электронный ключ, как в моем «Land Rover». Видимо, ключ просто должен был находиться в машине, но машина должна была быть на стоянке, а моя нога должна стоять на тормозе.

Вот еще лучший пример того, как сложность может стать синонимом глупости. Он касается «Subaru». Подруга моей жены не так давно поехала подвезти своего ребенка. Она не хотела останавливаться, но он убедил ее выключить двигатель и быстренько выпить чашечку чая. В тот момент она не знала, что в машине не было ни одного ключа. Как выяснилось, вы можете запустить несколько машин, если поднести ключ достаточно близко, и можете даже уехать на одной из них. Единственное, чего вы не должны делать – это выключать двигатель, потому что тогда вы не сможете запустить его снова. Неужели автомобильный мир сошел с ума? В прошлом я мог запустить любой автомобиль, если сломалось зажигание. Теперь, если машина не заводится – ломаюсь и я.

Количество машин на дорогах всего мира в ближайшее время удвоится, что скажется на природных ресурсах, климате и безопасности человека.

В среднем за месяц по всему миру 108 000 человек погибают в автомобильных авариях, и к 2020 году эта цифра вырастет до 150 000. В 90 процентах случаев к дорожно-транспортным происшествиям приводят неправильные действия людей, а при все возрастающем старении населения ситуация будет только ухудшаться.

Например, в ходе проведенного в США исследования выяснилось, что, хотя лица 70 лет и старше составляли 9 процентов населения страны, они были виновны в 14 процентах всех дорожно-транспортных происшествий и несли ответственность за 17 процентов смертей пешеходов. Очевидно, что удаление людей, особенно старшего возраста, с водительского сиденья, теоретически – хорошая идея. Это может сделать трафик более эффективным, а также снизить загрязнение окружающей среды. Мы уже принимаем идею дистанционно управляемого движения, так почему бы не отправлять данные самим автомобилям, чтобы они сами решали, что делать?

Но подобной автоматизации сопутствуют некоторые этические проблемы. Николас Карр отмечает: «В какой-то момент автоматизация достигнет критической массы. Она начнет формировать поведение общества, восприятие и этические нормы». Например, можно ли отстранить водителей от решения вопросов жизни и смерти и передать их на откуп алгоритмам? Можно ли, нужно ли запрограммировать машину на вынесение моральных суждений? Как бы вы себя чувствовали, если бы автомобиль подсчитал, что ему стоит врезаться в дерево и убить вас для того, чтобы спасти жизни двух пьяных незнакомцев, перебегающих дорогу?

У нас уже много лет работают машины, выносящие суждения о водителях, хотя мы редко это замечаем. Автоматические системы распознавания номерного знака работают с середины 1970-х годов и стали обычным делом с 1980-х. Повсеместно присутствуют камеры, контролирующие полосу для движения автобусов и выявляющие случаи превышения скорости. В Нидерландах и Австралии даже штрафы регулярно рассылаются без какого-либо участия человека. Подобные разработки обеспечили возможность контролировать и наказывать неправильное поведение человека поистине в беспрецедентных масштабах.

Уже сейчас можно установить камеры, чтобы выявлять людей, появившихся в общественном месте в состоянии опьянения. Алгоритмы анализируют движение или температуру тела, а также приток крови к лицу. Это отдает Кафкой. Но что происходит с культурой, когда даже при самых незначительных нарушениях накладывается взыскание, когда вообще не предполается вмешательство человека, учет его мнения, рассмотрение его обстоятельств и жалоб? Алгоритмы выносят решение с позиций бинарного кода.

Одним из возможных результатов этого и аналогичных явлений может стать появление более осторожных и раскаивающихся в своих поступках граждан. Но кроме того, не исключено, что мы увидим общество менее самостоятельных людей, не склонных к экспериментам, при этом также мала вероятность, что они смогут возвысить свой голос против правительства, полиции и общественного мнения.