Дэвид Минделл - Восстание машин отменяется! Мифы о роботизации

Для расшифровки информации, полученной посредством акустического сканера, требуется тщательный анализ, который нельзя полностью доверить компьютеру. Перселл и его инженеры полагались на годы накопленного опыта. На своих мониторах они километр за километром изучали каменистое дно. Такая рутинная работа продолжалась пять дней, пока ее монотонность не прервалась: на экране появилось скопление обломков, а затем ученые добрались до района катастрофы – получили сильный сигнал от предметов искусственного происхождения в океанской пустыне. По крайней мере так они предполагали, но все еще не могли утверждать наверняка.

Инженеры перепрограммировали аппараты так, чтобы те вернулись в район катастрофы и двигались по нему взад и вперед. На сей раз роботы должны были пройти достаточно близко, чтобы камеры могли делать фотографии на высоте примерно 9 м над уровнем дна в свете бортовых огней. Когда аппараты доставили изображения на поверхность, инженеры и следователи увидели район катастрофы и получили ответ: они нашли обломки авиалайнера, ставшего могилой для сотен людей.

Вскоре на место трагедии вернулась другая команда с роботом иного типа – подводным аппаратом с дистанционным управлением. Это было устройство с большой грузоподъемностью, специально разработанное для работы на глубине. Оно присоединялось к судну с помощью кабеля. Используя созданные при успешном поиске карты, подводный аппарат с дистанционным управлением обнаружил черные ящики – речевой самописец и регистратор данных самолета – и поднял их на поверхность. Записи последних минут обреченных пилотов были извлечены из глубин океана, и теперь следователи могли воссоздать роковые обстоятельства, которые привели к неразберихе на борту автоматизированного воздушного лайнера. Затем подводный аппарат приступил к печальной миссии – извлечению останков погибших.

Катастрофа самолета рейса 447 авиакомпании Air France и операция по поиску его обломков связывают воедино современную автоматизацию и робототехнику в двух экстремальных средах: на границе стратосферы и в глубинах моря. Воздушное судно упало в океан из-за ошибок во взаимодействии человека с автоматизированными системами. Потом его обломки были обнаружены людьми с помощью дистанционно управляемых и автономных роботов.

Хотя слова «автоматизированный» и «автономный» (в своих наиболее распространенных значениях) предполагают, что такие системы действуют самостоятельно, в обоих случаях провал или успех произошел не из-за машин и людей, действующих по отдельности, но из-за совместных действий машин и людей. Люди-пилоты боролись за жизнь воздушного судна, автоматизированного с целью большей безопасности и надежности; множество связанных друг с другом судов, спутников и свободно плавающих буев помогали определить место катастрофы; инженеры обрабатывали информацию, полученную от роботов, и действовали в соответствии с ней. Автоматизированные и автономные аппараты постоянно возвращались к своим создателям – людям – за информацией, энергией и указаниями.

Трагедия рейса 447 авиакомпании Air France ясно дала понять, что, постоянно приспосабливаясь к среде обитания и видоизменяя ее, мы переделываем и самих себя. Как пилоты могли стать настолько зависимы от компьютеров, что уронили совершенно исправный самолет в море? Какой становится роль человека в таких областях, как перевозки и транспорт, исследовательская и военная деятельность, когда, кажется, все больше и больше задач первостепенной важности выполняется машинами?

Согласно крайней точке зрения, люди близки к тому, чтобы «выйти из употребления», что роботам «не хватает буквально одного обновления программ», чтобы стать полностью автономными, как недавно писал Scientific American [2]. Приверженцы этого взгляда говорят нам, что роботы наступают – мы все чаще встречаем их в знакомой обстановке. Обеспокоенность неизвестными и сомнительными возможностями искусственного интеллекта возникает в связи с мнением о том, что мы находимся на пороге «сверхразумности». Наш мир стоит на грани перемен, в сущности, он уже меняется под влиянием роботов и автоматизации. Неожиданно возникают все новые проекты, воплощающие старые мечты об умных машинах, которые помогают нам выполнять свои профессиональные обязанности, облегчают физический труд и рутинные задачи в повседневной жизни. Роботы, существующие и работающие в непосредственной близости от людей на физическом, когнитивном и эмоциональном уровне, становятся все более обширной и многообещающей темой для исследований. Автономность – мечта о том, что в один прекрасный день роботы будут вести себя как полностью самостоятельные субъекты, – остается источником вдохновения, инноваций и опасений.

Волнение вызвано остротой эксперимента; точные формы этих технологий далеки от завершенности, а еще менее определенно их социальное, психологическое и когнитивное значение. Как изменят нас наши роботы? По какому образу и подобию мы сделаем их? Что останется от наших традиционных сфер деятельности – ученый, юрист, врач, солдат, менеджер и даже водитель и дворник, – когда эти задачи будут выполнять машины? Как мы будем жить и работать?

Нам не нужно заниматься домыслами: по большей части это будущее уже наступило сегодня, если не в повседневной жизни, то в экстремальных условиях, где мы на протяжении десятилетий используем роботов и автоматику. Человек не может существовать сам по себе в верхних слоях атмосферы, в глубинах океана, в космическом пространстве. Из-за необходимости посылать людей в эти опасные условия робототехника и автоматика были созданы и внедрены в данные сферы раньше, чем в другие, более привычные для нас области деятельности.

В экстремальной среде отношения между людьми и роботами подвергаются испытаниям на прочность. В такой среде появляется больше всего инновационных разработок. Здесь у инженеров имеется самая широкая свобода для экспериментов. Несмотря на физическую изоляцию, именно здесь впервые начали проявляться когнитивные и социальные эффекты от использования различных устройств. Поскольку на карту поставлены человеческие жизни, дорогостоящее оборудование и важные миссии, автономность всегда должна сдерживаться соображениями безопасности и надежности.

В таких условиях суета и дела повседневной жизни временно отступают на второй план, и мы находим, выделяем из окружающей темноты отрывочные, призрачные аллегории человеческой жизни в мире техники. Социальные и технологические процессы в кабине авиалайнера или внутри глубоководного аппарата принципиально не отличаются от подобных процессов на фабрике, в офисе или в автомобиле. Но в экстремальных условиях они проявляются в более явной форме, и поэтому их легче понять. Каждый полет авиалайнера – это история, точно так же, как всякая океанографическая экспедиция, космический полет или военная операция. Через эти истории конкретных людей и машин мы можем собирать по крупицам данные о едва уловимой динамике.