Дэвид Минделл - Восстание машин отменяется! Мифы о роботизации

Формулировки имеют значение, и они придают спорам другой оттенок. Но нам не стоит на них зацикливаться. Я буду часто опираться на формулировки (которые иногда могут быть неточными), используемые людьми, с которыми я работаю. Смысл этой книги заключается не в определениях, а в описаниях реальной работы – того, как люди используют эти системы в реальном мире, получая новый опыт, исследуя или даже сражаясь и убивая. Что происходит на самом деле?

Если уделять внимание живому опыту конструкторов и тех, кто пользуется роботами, то все может проясниться. Например, слово «дрон» позволяет скрыть человеческую по своей сути природу роботов и приписывает их отрицательные стороны абстрактным идеям, таким как «техника» или «автономность». Когда мы изучим внутреннюю кухню операторов «Предейтора», мы узнаем, что они не ведут войну при помощи автоматических устройств – люди все еще изобретают машины, программируют их и управляют ими. Можно долго обсуждать этику и политику дистанционных убийств, совершаемых беспилотными летательными аппаратами с удаленными операторами, или сохранение в тайне подобных устройств, действующих во внутреннем воздушном пространстве США. Но эти споры связаны с сущностью, местом и временем человеческих решений, а не с действующими автономно машинами.

Следовательно, вопрос не в противопоставлении пилотируемых и беспилотных аппаратов и не в противопоставлении управляемых человеком аппаратов автономным. Главные вопросы этой книги: « Где находятся люди?», «Кто эти люди?», «Что они делают?», «Когда они делают это?».

Где находятся люди? (На судне… в воздухе… внутри машин… или в офисе?)

Манипуляции оператора «Предейтора» сродни действиям пилота самолета – он отслеживает состояние бортовых систем, воспринимает информацию, принимает решения и совершает определенные шаги. Но его тело находится в другом месте, возможно, в нескольких тысячах километров от результатов его работы. Эта разница имеет значение. Задачи отличаются. Риски разные, и соотношение сил тоже.

Человеческий разум способен совершать путешествия в другие места, другие страны, на другие планеты. Знание, полученное через разум и чувства, отличается от знания, полученного через тело (где вы едите, спите, общаетесь, испражняетесь). То, какому из двух путей получения знания следовать, мы решаем в зависимости от конкретной ситуации, и это имеет свои последствия для тех, кто вовлечен в процесс.

Кто эти люди? (Пилоты… инженеры… ученые… необученные рабочие… менеджеры?)

Измените технику, и тогда изменится и задача, и суть работающего над ней специалиста. На самом деле вы измените весь контингент способных управлять системой людей. Чтобы стать пилотом, нужны годы обучения и тренировок, и эта профессия находится на вершине кадровой иерархии. Требует ли дистанционное управление летательным аппаратом тех же навыков и черт характера? Из каких социальных классов можно набирать рабочую силу? Повышение автоматизации на коммерческих воздушных судах соответствует расширению демографических данных пилотов как в индустриально развитых странах, так и во всем мире. Исследователь – это тот, кто путешествует в опасных условиях, или же тот, кто сидит дома перед компьютером? Должна ли вам нравиться жизнь на борту судна, чтобы стать океанографом? Можете ли вы исследовать Марс, если прикованы к инвалидной коляске? Что это за новые пилоты, исследователи и ученые, которые работают с помощью удаленного доступа?

Что они делают? (Летают… управляют… обрабатывают информацию… общаются?) Физическое усилие превращается в обработку визуальной информации, а затем – в познавательную задачу. То, для чего раньше требовалась сила, теперь требует внимания, терпения, быстроты реакции. Держит ли пилот руки непосредственно на рычагах управления, когда управляет самолетом? Или вводит ключевые команды в автопилот или полетный компьютер, чтобы запрограммировать траекторию полета воздушного судна? Какова роль оценки ситуации, которую выносит человек? Какова роль инженера, который программировал бортовой компьютер, или авиационного техника, который его настраивал?

Когда они делают это? (В реальном времени… с некоторой задержкой… заранее, за годы или месяцы до миссии?)

Полет обычного самолета происходит в реальном времени: человек сразу же реагирует на происходящие события, и его действия имеют немедленный эффект. В сценарии космического полета аппарат может быть на Марсе (или приближаться к далекому астероиду), и в этом случае уйдет 20 минут на то, чтобы аппарат получил команду, и 20 минут на то, чтобы оператор увидел, что что-то произошло. Или мы можем говорить, что аппарат приземляется «в автоматическом режиме», тогда как в действительности понимаем, что он приземляется под управлением программистов, которые оставили инструкции за несколько месяцев или лет до посадки (хотя здесь нам, возможно, придется внести коррективы в само понятие «управление»). Управление автоматической системой может напоминать взаимодействие с призраком.

Эти простые вопросы привлекают наше внимание к перераспределению и перепрофилированию. Новые формы присутствия и деятельности человека не обыденны и не равнозначны старым – культурная идентичность пилота, который рискует жизнью, пролетая над полем битвы, отличается от человека, управляющего аппаратом удаленно, с наземной станции. Но подобные изменения тоже бывают неожиданными – дистанционный оператор может чувствовать себя в большей степени присутствующим на поле битвы, чем пилот, высоко пролетающий над ним. Научная информация о Луне может быть той же самой или даже более полной, когда ее собирает дистанционно управляемый аппарат, а не человек, высадившийся непосредственно на планету. Но культурный опыт исследований Луны в таком случае совершенно иной.

Давайте заместим устаревшие представления насыщенными – одушевленными картинами того, как люди на самом деле создают роботов и автоматические системы и управляют ими в реальном мире. Истории, приведенные далее, являются одновременно и научно-техническими, и гуманистическими. Мы увидим, что управляемые человеком, дистанционные и автономные машины позволяют сдвинуть и переориентировать человеческое присутствие и действие во времени и пространстве. Суть этой книги сводится к следующему: важно не само противопоставление управляемых человеком и автономных систем, а, скорее, вопросы – «Где находятся люди?», «Кто эти люди?», «Что они делают и когда?».

Последними, самыми сложными вопросами станут: «Как меняется человеческое восприятие?», «И почему это имеет значение?».