Стюарт Рассел - Совместимость. Как контролировать искусственный интеллект

Представляется вероятным, что проблемы тактильного восприятия и конструирования руки будут решены благодаря 3D-печати, которая уже используется компанией Boston Dynamics для самых сложных частей ее человекоподобного робота «Атласа». Навыки манипулирования, которыми владеет робот, быстро развиваются, в том числе благодаря глубокому обучению с подкреплением [102] Отчет моих коллег из Беркли о глубоком обучении с подкреплением в сфере роботизированного двигательного контроля: Sergey Levine et al., «End-to-end training of deep visuomotor policies », Journal of Machine Learning Research 17 (2016): 1–40. . Последний рывок — собрать все это в единое целое, которое начинает приближаться к потрясающим физическим возможностям роботов из кино, — скорее всего, будет сделан в весьма прозаической складской индустрии. Одна лишь компания Amazon использует труд нескольких сотен тысяч человек, чтобы вынимать товары из коробок на гигантских складах и рассылать их клиентам. С 2015 по 2017 г. Amazon проводила ежегодный «Конкурс подбиральщиков», чтобы ускорить создание роботов, способных выполнить эту задачу [103] О возможностях автоматизации работы сотен тысяч складских рабочих: Tom Simonite, «Grasping robots compete to rule Amazon’s warehouses», Wired , July 26, 2017. . Путь пока не завершен, но, когда основные исследовательские проблемы будут решены — вероятно, в течение десятилетия, — можно ожидать очень быстрого распространения высокофункциональных роботов. Сначала они будут работать на складах, затем в других коммерческих сферах, например сельском хозяйстве и строительстве, где спектр задач и объектов достаточно предсказуем. Довольно скоро мы увидим их и в розничной торговле за такими занятиями, как выкладывание товара на полки супермаркета и складывание одежды после примерки.

Первыми, кто действительно выиграет от появления роботов в доме, станут престарелые и немощные, которым полезный робот может обеспечить определенную степень независимости, недостижимую иными средствами. Даже если робот выполняет ограниченный круг заданий и имеет лишь зачаточное понимание происходящего, он может быть очень полезным. В то же время до робота-дворецкого, который уверенно заправляет домом и предупреждает любое желание своего хозяина, еще довольно далеко — для этого необходимо приблизиться к универсальному ИИ человеческого уровня.

Развитие базовых способностей понимания речи и текста позволит интеллектуальным персональным помощникам делать то же самое, чем занимаются ассистенты-люди (но за грошовую месячную плату вместо зарплаты в несколько тысяч долларов). Базовое распознавание речи и текста также позволяет машинам делать то, на что люди не способны, — благодаря не глубине понимания, а его охвату . Например, машина с базовой способностью чтения сможет еще до обеда прочитать все когда-либо написанное человеческой расой и станет искать, чем бы еще заняться [104] Я исхожу из щедрого расчета: одна минута работы ЦП ноутбука на страницу, или около 10 11 операций. Тензорный процессор третьего поколения разработки Google выполняет около 10 17 операций в секунду, следовательно, может читать 1 млн страниц в секунду, то есть на 8 млн книг ему требуется примерно пять часов. . При наличии способности распознавания речи она к вечернему чаю сможет прослушать все радио и телепередачи. Для сравнения: потребовалось бы 200 000 человек на полную рабочую неделю, только чтобы следить за нынешним уровнем мировых печатных публикаций (не говоря уже обо всем письменном наследии прошлого), и еще 60 000, чтобы слушать текущее вещание [105] Исследование объема всемирного производства информации во всех каналах за 2003 г.: Peter Lyman and Hal Varian, «How much information?» sims.berkeley.edu/research/projects/how-much-info-2003 . .

Такая система, если бы она умела делать хотя бы простые фактические выводы и интегрировать всю информацию, существующую на всех языках, являлась бы феноменальным устройством для ответов на вопросы и выявления закономерностей — намного более мощным, чем поисковые системы, которые в настоящее время оцениваются примерно в $1 трлн. Ее ценность для исследования в таких областях, как история и социология, была бы безмерна.

Конечно, стало бы также возможным прослушивать все телефонные звонки в мире (работа, которая потребовала бы около 20 млн человек). Определенные тайные ведомства сочли бы эту возможность ценной. Некоторые из них уже много лет занимаются простыми видами крупномасштабного машинного прослушивания, например поиском ключевых слов в разговорах, и сейчас совершают переход к преобразованию разговоров в пригодный для поиска текст [106] Подробности использования распознавания речи интеллектуальными агентами: Dan Froomkin, «How the NSA converts spoken words into searchable text», The Intercept , May 5, 2015. . Эти записи-расшифровки, безусловно, полезны, но далеко не так, как одновременное понимание и интеграция контента всех разговоров.

Еще одна «сверхвозможность», доступная машинам, — умение видеть весь мир одновременно . Грубо говоря, спутники каждый день отображают весь мир со средним разрешением около 50 см на пиксель [107] Анализ спутниковых визуальных изображений представляет собой задачу колоссального масштаба: Mike Kim, «Mapping poverty from space with the World Bank», Medium.com, January 4, 2017. По оценке Кима, 8 млн человек пришлось бы работать круглосуточно, что преобразуется в более чем 30 млн человек при 40-часовой рабочей неделе. Я думаю, в действительности это завышенная оценка, поскольку огромное большинство изображений демонстрировали бы пренебрежимо малые изменения в течение дня. В то же время разведывательное сообщество США держит десятки тысяч сотрудников, работающих в огромных помещениях и рассматривающих спутниковые снимки, только для отслеживания того, что происходит в маленьких регионах, представляющих интерес. Так что 1 млн человек в расчете на весь мир, пожалуй, похоже на правду. . При таком разрешении каждый дом, корабль, автомобиль, каждая корова и каждое дерево на Земле видимы. Намного больше 30 млн работников с полной занятостью потребовалось бы, чтобы проанализировать все эти изображения; поэтому в настоящее время никто из людей не видит основной массы спутниковых данных. Алгоритмы компьютерного видения могли бы обрабатывать все эти данные, создавая пригодную для поиска базу данных обо всем мире, ежедневно обновляемую, а также визуализации и прогностические модели экономической деятельности, изменения вегетации, миграций животных и людей, последствий изменения климата и т. д. Спутниковые компании, такие как Planet и DigitalGlobe, трудятся над воплощением этой идеи.

Появление возможности получать сенсорную информацию во всемирном масштабе позволит принимать глобальные решения. К примеру, мы могли бы на основе потока спутниковых данных создавать подробные модели для управления мировой окружающей средой, предсказывать последствия экологических и экономических вмешательств и создавать необходимый аналитический задел для достижения объявленных ООН целей устойчивого развития [108] Достигнут существенный прогресс в глобальном наблюдении с использованием данных спутниковых изображений в реальном времени: David Jensen and Jillian Campbell, «Digital earth: Building, financing and governing a digital ecosystem for planetary data», официальный доклад на форуме ООН «Наука, политика, бизнес и окружающая среда» 2018 г. . Мы уже видим системы управления «умным городом», призванные оптимизировать контроль за дорожным движением, пассажироперевозки, сбор мусора, ремонт дорог, поддержание окружающей среды и другие функции в интересах граждан, и это можно было бы распространить в масштабах всей страны. До недавнего времени такая степень координации могла быть достигнута лишь усилиями громадных, неэффективных бюрократических систем; они будут неизбежно заменены мегаагентами, занимающимися все большим числом аспектов нашей коллективной жизни. Вместе с этим, разумеется, появятся и возможности нарушения конфиденциальности и внедрения социального контроля во всемирном масштабе, к чему я вернусь в следующей главе.