Дональд Норман - Дизайн вещей будущего

Результаты склонности следовать указаниям автоматических приборов порой бывают гротескными. Так, жители английского городка Уилтшир нашли себе весьма прибыльное дело – вытаскивать из реки Эйвон автомобили, водители которых выполняли указания своих навигационных систем, даже если здравый смысл подсказывал, что в результате они заедут в реку. Точно так же даже опытные пилоты порой чрезмерно доверяют оборудованию своих самолетов. А круизный лайнер Royal Majesty наскочил на мель, потому что команда полностью полагалась на «умную» навигационную систему.

Эти проблемы заботят всех автопроизводителей. Помимо вопросов реального повышения уровня безопасности, их беспокоит, что в нынешнем сутяжническом обществе при малейшем сбое в оборудовании на них обрушится лавина исков. И как же они действуют? Осторожно, очень осторожно.

Езда на высокой скорости по загруженным магистралям – дело рискованное. Ежегодно в мире в автокатастрофах погибают 1,2 млн человек и еще 50 млн получают увечья. В этих обстоятельствах наша склонность полагаться на механизм (автомобиль) чревата для всех нас неоправданным риском. Автомобиль не только полезен, но и смертельно опасен.

Конечно, обучение водителей можно улучшить, но беда в том, что автомобиль опасен по определению. Проблемы здесь возникают очень быстро, не оставляя нам времени на раздумья. Уровень внимания у всех водителей то повышается, то снижается, так уж устроен человек. Поэтому даже в оптимальных условиях вождение автомобиля – дело небезопасное.

Если мы не можем автоматизировать автомобиль полностью, автоматические системы следует внедрять очень осторожно. Порой лучше вообще отказаться от них, а порой стоит серьезно увеличить участие человека в управлении – просто чтобы водитель владел ситуацией и был внимателен. Ручное управление автомобилем опасно. Полная автоматизация может повысить уровень безопасности. Проблема заключается в переходном периоде, когда автоматизированы лишь некоторые функции, у разных машин разный уровень автоматизации, а возможности самих автоматов ограниченны. Боюсь, что даже если частичная автоматизация и приведет к снижению общего числа автокатастроф, она обернется увеличением их масштаба (количества разбитых машин и человеческих жертв). Выстраивать отношения между машиной и ее владельцем нужно очень осторожно.

Зачем нужна автоматизация? Специалисты говорят: чтобы избавить человека от скучной, опасной и грязной работы. С этим трудно поспорить, но есть и другие причины – упростить выполнение сложной задачи, сократить персонал, развлечься или просто потому, что есть возможность что-то автоматизировать.

Даже удачная автоматизация имеет свою цену. Позволяя решить какие-то задачи, она неизменно порождает новые проблемы. Часто она хорошо выполняет поставленные задачи, но при этом увеличивается объем работ по ремонту и обслуживанию техники. В некоторых случаях, заменяя квалифицированных работников, она создает потребность в дополнительном обслуживающем персонале. В целом последствия автоматизации какой-то одной операции выходят далеко за рамки самой этой задачи. Применение автоматизации – вопрос системного характера. Меняются методы работы, структура занятости, при выполнении тех или иных задач одна группа населения замещается другой, зачастую замещаются и сами функции – на смену старым приходят новые. Одним автоматизация приносит пользу, для других, особенно для тех, кто в результате теряет работу или вынужден менять профессию, ее последствия просто ужасны.

Автоматизация даже самых простых операций имеет свои последствия. Возьмем такое будничное дело, как приготовление кофе. Я пользуюсь кофеваркой, которая управляется одним нажатием кнопки: она автоматически нагревает воду, мелет кофейные зерна, кипятит воду и фильтрует гущу. В результате, избавившись от утомительной ежедневной варки кофе, я взвалил на себя более трудоемкую задачу – уход за машиной. В кофеварку надо заливать воду и засыпать зерна, периодически ее следует разбирать и чистить, а части, вступающие в контакт с жидкостью, нужно еще и мыть, чтобы убрать остатки кофе и известковый налет (а затем снова мыть, чтобы не осталось следов чистящего средства). Нужно ли прилагать столько усилий ради упрощения задачи, которую в принципе не назовешь особенно трудной?

В данном случае можно сказать, что автоматизация позволяет мне свободнее распоряжаться своим временем. Чтобы не делать работу, пусть даже недолгую и простую, в неподходящий момент – утром, когда я еще сонный и должен спешить, – я готов потратить больше усилий, но тогда, когда мне это будет удобно.

Стремление к повышению уровня автоматизации уже не остановить, все шире становится круг задач и «автоматизированных» видов деятельности, все более «умными» и самостоятельными становятся машины, выполняющие эти задачи. Но к автоматизации нельзя относиться с фатальной обреченностью.

«Умные» дома

Поздно вечером Майк Мозер читает книгу в гостиной своего дома в Боулдере, штат Колорадо. Через некоторое время он начинает зевать, потягивается, встает с кресла и идет в спальню. Дом, постоянно следящий за его действиями, решает, что Майк отправился спать, поэтому он выключает свет в гостиной и включает его в коридоре, спальне и ванной. Одновременно он отключает отопление. Вообще-то следит за Мозером не сам дом, а компьютерная система, она же регулирует освещение, отопление и прочее бытовое оборудование в соответствии с его предполагаемыми действиями. Это не простая компьютерная программа, а «нейронная сеть», копирующая способности нейронов, то есть человеческого мозга, к распознаванию образов и обучению. Система не просто распознает действия Мозера, но и в большинстве случаев может правильно их предугадать. «Нейронная сеть» – мощный распознаватель образов, а поскольку она еще и анализирует последовательность действий Мозера, учитывая время суток, в которое они происходят, то может довольно точно предсказать, что он будет делать и когда. В результате, после того как Мозер уходит на работу, система в целях экономии электроэнергии выключает отопление и водонагреватель, а к предполагаемому времени его возвращения вновь включает их, чтобы в доме было тепло.

Можно назвать этот дом «умным»? Сам Майк Мозер, разработавший эту автоматизированную систему, так не считает, он называет ее «адаптивной». Очень полезно оценить опыт Мозера, чтобы понять, что значит «умный». Его дом оборудован семьюдесятью пятью сенсорами, следящими за температурой, уровнем естественного освещения, звука, за дверьми и окнами, погодными условиями, солнцем и любыми перемещениями хозяев дома. Отоплением, подогревом воды, электрическим освещением и вентиляцией управляют автоматические регуляторы. Общая протяженность проводов, которыми оснащена система, превышает пять миль. Программное обеспечение «нейронной сети» способно к обучению, поэтому дом постоянно приспосабливается к предпочтениям Мозера. Если он выбирает не тот вариант действий, Мозер его поправляет, и дом начинает вести себя иначе. Один из гостей-журналистов так описал этот процесс: