Стюарт Рассел - Совместимость. Как контролировать искусственный интеллект
- Название:Совместимость. Как контролировать искусственный интеллект
- Автор:
- Жанр:
- Издательство:Альпина нон-фикшн
- Год:2021
- Город:Москва
- ISBN:978-5-0013-9370-2
- Рейтинг:
- Избранное:Добавить в избранное
-
Отзывы:
-
Ваша оценка:
Стюарт Рассел - Совместимость. Как контролировать искусственный интеллект краткое содержание
В своей новаторской книге автор рассказывает, каким образом люди уже научились использовать ИИ, в диапазоне от смертельного автономного оружия до манипуляций нашими предпочтениями, и чему еще смогут его научить. Если это случится и появится сверхчеловеческий ИИ, мы столкнемся с сущностью, намного более могущественной, чем мы сами. Как гарантировать, что человек не окажется в подчинении у сверхинтеллекта?
Для этого, полагает Рассел, искусственный интеллект должен строиться на новых принципах. Машины должны быть скромными и альтруистичными и решать наши задачи, а не свои собственные.
О том, что это за принципы и как их реализовать, читатель узнает из этой книги, которую самые авторитетные издания в мире назвали главной книгой об искусственном интеллекте.
Все, что может предложить цивилизация, является продуктом нашего интеллекта; обретение доступа к существенно превосходящим интеллектуальным возможностям стало бы величайшим событием в истории. Цель этой книги — объяснить, почему оно может стать последним событием цивилизации и как нам исключить такой исход.
Введение понятия полезности — невидимого свойства — для объяснения человеческого поведения посредством математической теории было потрясающим для своего времени. Тем более что, в отличие от денежных сумм, ценность разных ставок и призов с точки зрения полезности недоступна для прямого наблюдения.
Первыми, кто действительно выиграет от появления роботов в доме, станут престарелые и немощные, которым полезный робот может обеспечить определенную степень независимости, недостижимую иными средствами. Даже если робот выполняет ограниченный круг заданий и имеет лишь зачаточное понимание происходящего, он может быть очень полезным.
Очевидно, действия лояльных машин должны будут ограничиваться правилами и запретами, как действия людей ограничиваются законами и социальными нормами. Некоторые специалисты предлагают в качестве решения безусловную ответственность.
Совместимость. Как контролировать искусственный интеллект - читать онлайн бесплатно ознакомительный отрывок
Интервал:
Закладка:
• Когда мы доходим до валиков и пульверизаторов, эквивалента кисти до метра толщиной, цена существенно падает, спрос удовлетворен и количество маляров несколько снижается.
• Если один человек управляет командой из сотни роботов-маляров, по производительности эквивалентных кисти стометровой толщины, то множество домов можно целиком выкрасить за час и лишь очень немногие маляры продолжают работать.
Итак, прямой эффект технологии действует в обе стороны. Сначала, повышая производительность, технология может увеличить занятость благодаря снижению стоимости труда, таким образом увеличивая спрос. Впоследствии дальнейшее продвижение технологии приводит к тому, что требуется все меньше и меньше людей. Эти изменения показаны на рис. 8 [163] Математический анализ, объясняющий кривую безработицы в форме «перевернутой U», приводит Джеймс Бессен: James Bessen, «Artificial intelligence and jobs: The role of demand» in The Economics of Artificial Intelligence , ed. Agrawal, Gans, and Goldfarb.
.

Многие технологии демонстрируют аналогичные кривые. Если в определенном секторе экономики мы находимся слева от пика, то совершенствование технологии повышает занятость в этом секторе. Современными примерами являются такие виды работы, как устранение граффити, охрана окружающей среды, инспектирование транспортных контейнеров и строительство домов в менее развитых странах, — все это становится экономически более целесообразным, если нам помогают роботы. Если мы уже справа от пика, дальнейшая автоматизация сокращает занятость. Скажем, нетрудно предсказать, что количество лифтеров продолжит уменьшаться. В долгосрочной перспективе можно ожидать, что большинство отраслей будут оттеснены в крайнюю правую часть кривой. В одной недавней статье по результатам эконометрического исследования экономистов Дэвида Аутора и Анны Саломонс утверждается, что «за последние 40 лет количество рабочих мест сократилось буквально в каждом секторе, внедрившем технологии для повышения производительности» [164] Рассмотрение дезорганизации экономики вследствие автоматизации: Eduardo Porter, «Tech is splitting the US work force in two», The New York Times , February 4, 2019. Вывод статьи опирается на следующий отчет: David Autor and Anna Salomons, «Is automation labor-displacing? Productivity growth, employment, and the labor share», Brookings Papers on Economic Activity (2018).
.
На какие же компенсационные эффекты ссылаются сторонники оптимистичного взгляда на экономику?
• Кто-то должен делать роботов-маляров. Сколько человек? Намного меньше , чем количество замещенных роботами маляров, в противном случае покраска дома роботами была бы дороже, а не дешевле, и никто не покупал бы роботов.
• Покрасить дом становится несколько дешевле, и люди немного чаще приглашают маляров.
• Наконец, поскольку мы меньше платим за покраску дома, то можем потратить больше на другие вещи, что увеличивает занятость в иных секторах.
Экономисты пытались измерить эти эффекты в разных отраслях, где наблюдался рост автоматизации, но результаты обычно неоднозначны.
Традиционно большинство экономистов исходят из общей картины: автоматизация повышает производительность, следовательно, в целом люди в выигрыше, в том смысле, что получают больше товаров и услуг на тот же объем работы.
К сожалению, экономическая теория не предполагает, что каждый человек останется в выигрыше в результате автоматизации. В общем, автоматизация повышает долю дохода, отходящего капиталу (собственникам роботов-маляров), и снижает долю, достающуюся рабочим (бывшим малярам). Экономисты Эрик Бриньолфсон и Эндрю Макафи в книге «Вторая эра машин» [165] Бриньолфсон Д., Макафи Э. Вторая эра машин. Работа, прогресс и процветание в эпоху новейших технологий. — Neoclassic, АСТ, 2017.
утверждают, что этот эффект постоянно наблюдается уже несколько десятилетий. Данные по США представлены на рис. 9. Они свидетельствуют, что с 1947 по 1973 г. заработная плата и производительность росли параллельно, но после 1973 г. зарплаты стагнировали, хотя производительность примерно удвоилась. Бриньолфсон и Макафи называют это явление великим разъединением . Другие ведущие экономисты также озвучивали свое беспокойство, в том числе нобелевские лауреаты Роберт Шиллер, Майк Спенс и Пол Кругман, а также Клаус Шваб, глава Всемирного экономического форума, и Ларри Саммерс, бывший главный экономист Всемирного банка и министр финансов при президенте Билле Клинтоне.

Те, кто выступает против идеи технологической безработицы, указывают на банковских операционистов, работу которых могут частично выполнять банкоматы, и кассиров розничных магазинов, чья работа ускорилась благодаря штрихкодам и радиочастотным меткам на товаре. Часто заявляется, что занятость на этих позициях расширяется благодаря технологии. Действительно, с 1970 по 2010 г. количество операционистов в США примерно удвоилось, хотя следует отметить, что и население страны за этот период выросло на 50 %, а ее финансовый сектор — более чем на 400 % [166] Данные о расширении банковской деятельности в XX в. см. в рабочем документе: Thomas Philippon, «The evolution of the US financial industry from 1860 to 2007: Theory and evidence», working paper, 2008.
, так что трудно объяснить увеличение занятости, полностью или частично, распространением банкоматов. К сожалению, с 2010 по 2016 г. около 100 000 операционистов потеряли работу, и американское Бюро учета трудовых ресурсов (BLS) прогнозирует сокращение еще 40 000 рабочих мест к 2026 г.: «Интернет-банкинг и автоматизация, предположительно, продолжат замещать все больше обязанностей, традиционно выполняемых операционистами» [167] Главный источник данных о трудовой занятости, а также росте и сокращении числа рабочих мест: US Bureau of Labor Statistics, Occupational Outlook Handbook: 2018–2019 Edition (Bernan Press, 2018).
. Данные по кассирам розничных магазинов не более оптимистичны: их число на душу населения упало на 5 % с 1997 по 2005 г., и BLS говорит: «Достижения технологии, такие как кассы самообслуживания в розничных магазинах и растущие онлайновые продажи, и дальше будут ограничивать потребность в кассирах». Оба сектора оказались в состоянии кризиса. То же самое можно сказать практически обо всех низкоквалифицированных работах, предполагающих использование машин.
Какие профессии ждет упадок с появлением новых технологий на базе ИИ? Главный пример в СМИ — управление автотранспортом. В США около 3,5 млн водителей грузовиков, многие из этих рабочих мест пострадают от автоматизации. Amazon и некоторые другие компании уже используют грузовики с автопилотом для транспортировки грузов по трассам федерального значения, хотя пока еще с водителями-дублерами [168] Отчет об автоматизации грузовых автоперевозок: Lora Kolodny, «Amazon is hauling cargo in self-driving trucks developed by Embark», CNBC, January 30, 2019.
. Представляется весьма вероятным, что дальнемагистральная часть рейса каждого грузовика скоро будет автоматизирована, а люди какое-то время продолжат обслуживать городское движение, подвоз пассажиров и доставку. Вследствие предполагаемых изменений очень немногие молодые люди хотят пойти в дальнобойщики; по иронии в США в настоящее время наблюдается значительная нехватка водителей грузовиков, что лишь ускоряет внедрение автоматизации.
Интервал:
Закладка: