Эми Уэбб - Алгоритм судного дня. Как Facebook, Google, Microsoft, Apple и другие корпорации создают искусственный суперинтеллект и почему это приведет к катастрофе

Вторая часть подробно описывает вероятные варианты будущего, исходя из прогноза развития ИИ на 50 лет. Среди трех сценариев, которые вы увидите, окажется и оптимистический, и прагматический, и катастрофический, и в них будут показаны как возможности, так и риски, с которыми сопряжен переход от слабого к сильному ИИ. Все эти сценарии несут высокую эмоциональную нагрузку. Они построены на основе моделирования с использованием фактических данных и дают вам интуитивное представление о том, в каком направлении может развиваться ИИ и как в результате этого изменится наша жизнь.

В третьей части я предлагаю стратегические и тактические решения всех проблем, перечисленных в сценариях, а также конкретный план исправления настоящего. Третья часть, по моему замыслу, должна заставить нас действовать, поэтому в ней содержатся конкретные рекомендации для правительств, «Большой девятки» и даже вас лично.

Каждый человек из числа живущих сегодня способен сыграть серьезную роль в будущем ИИ. Решения, которые мы принимаем относительно ИИ сейчас – казалось бы, даже самые незначительные, – навсегда изменят ход человеческой истории. Машины пробуждаются, и в один прекрасный день мы можем понять, что вопреки нашим надеждам и альтруистическим амбициям воздействие наших систем ИИ на человечество было катастрофическим.

Но подобное развитие событий отнюдь не предопределено.

«Большой девятке» в моем рассказе вовсе не отводится роль злодея. Напротив, входящие в нее компании – наша главная надежда на лучшее будущее.

Переверните страницу. Мы не можем пассивно ждать, что принесет нам будущее. ИИ уже среди нас.

Корни современного ИИ берут свое начало в далеком прошлом, задолго до того, как «Большая девятка» создала наших электронных помощников: Сири, Алексу и их китайского коллегу Тян Мао. И за все это время не было создано единого определения ИИ, подобного тому, что существует для других технологий. Когда дело касается ИИ, оказывается, что сложно дать его конкретное описание, поскольку он представляет собой разные вещи, даже когда отрасль продолжает развиваться. То, что вполне можно было назвать ИИ в 1950-х – калькулятор, способный выполнять деление столбиком, – сегодня едва ли воспринимается как шедевр технологии. Это явление известно под названием «парадокса невозможного» – как только новая технология становится частью мейнстрима, мы перестаем ее замечать. Мы больше не воспринимаем ее как ИИ.

В самой базовой форме ИИ представляет собой систему, самостоятельно принимающую решения. Действия, выполняемые ИИ, повторяют работу человеческого разума или подражают ей. Примерами могут служить распознавание звуков и изображений, решение задач, понимание естественного языка, использование стратегии для достижения целей. Некоторые системы ИИ огромны и способны осуществлять миллионы вычислений, в то время как другие – узки и предназначены для решения всего одной задачи, например поиска обсценной лексики в сообщениях электронной почты.

В своих рассуждениях мы постоянно возвращаемся к одним и тем же вопросам: могут ли машины думать? Что означает глагол «думать» в применении к машине? Что означает он в применении к нам? Что такое мысль? Как мы можем быть уверены – однозначно, с полной определенностью, – что мы на самом деле думаем свои собственные оригинальные мысли? Эти вопросы живут рядом с нами в течение столетий и обладают основополагающим значением как для истории ИИ, так и для его будущего.

Когда мы задаемся вопросом, каким именно образом мыслят люди и машины, главной проблемой оказывается, что слово «мыслить» неотделимо от слова «ум». Словарь Merriam-Webster Dictionary определяет слово «мыслить» как «формировать или иметь в уме», а Oxford Dictionary [9] Именно эти два толковых словаря играют основную роль для американского и британского варианта английского языка соответственно. – Прим. пер. объясняет, что это означает «активно использовать ум для формирования взаимосвязанных идей». Если мы посмотрим в словаре значение слова «ум», то окажется, что и Merriam-Webster , и Oxford определяют его в контексте слова «сознание». Но что такое сознание? Согласно обоим словарям, это качество или состояние, при котором мы осознаем действительность и реагируем на предлагаемые ею стимулы [10] Один из вариантов значения слова «мысль» в словаре Ожегова тоже опирается на термин «сознание»: «То, что заполняет сознание, дума». – Прим. пер. . Различные группы специалистов: психологи, нейробиологи, философы, теологи, ученые в области этики или информатики – все они будут подходить к определению термина «мышление» со своих позиций.

Если мы ищем столик в любимом ресторане при помощи Алексы, она, как и мы, будет обсуждать еду так, словно осознает действительность и способна реагировать на внешние стимулы. При этом Алекса никогда не чувствовала хрустящего яблока на зубах, пикантных маринованных огурчиков или газированной воды на языке, прикосновения густого арахисового масла к нёбу. Попросите Алексу описать свойства этих продуктов, и ее ответ будет опираться на ваш собственный опыт. У Алексы нет рта – как же она может ощущать вкус пищи, подобно вам?

Вы – уникальная в биологическом смысле личность, и потому слюнные железы и вкусовые сосочки расположены у вас не совсем так, как у меня. Тем не менее мы оба знаем, что такое яблоко, каково оно в общем на вкус, какова его текстура, как оно пахнет. В какой-то момент жизни мы научились узнавать яблоко при помощи методики, которую специалисты называют «обучением с подкреплением»: кто-то объяснил нам, что такое яблоко и чем оно отличается от других фруктов. Потом, со временем и без нашего осознанного участия, наши автономные биологические системы распознавания образов довели до совершенства навык узнавания яблока, даже при недостаточных данных. Увидев черно-белое, двумерное, схематичное к тому же изображение яблока, мы знаем, что это такое, – несмотря на то, что у нас нет сведений о вкусе, запахе, хрусте и других вещах, сигнализирующих мозгу: «Это яблоко». Способы, которыми мы и Алекса узнали что-то о яблоках, куда ближе друг к другу, чем можно было бы подумать.

Алекса вполне компетентна, но вот разумна ли она? Должно ли ее машинное восприятие обладать всеми качествами человеческого, чтобы мы приняли ее способ «мышления» как адекватное отражение своего собственного? Американский психолог методов обучения Бенджамин Блум основную часть своей академической карьеры посвятил исследованию и классификации состояний ума. В 1956 году он опубликовал систему, позже известную как «таксономия Блума», описывавшую цели обучения и достижения учащихся в образовательном процессе. Базовый уровень – это запоминание фактов и основных понятий, за ним по порядку следуют понимание идей, применение знаний в новой ситуации, экспериментальный анализ информации и выстраивание логических связей, оценка, защита и определение ценности информации и, наконец, создание оригинальной работы. Будучи маленькими детьми, мы в основном заняты запоминанием и пониманием. Например, нам сначала следует запомнить, что в бутылке находится молоко, а только после этого – что у бутылки есть лицевая и тыльная сторона, даже если мы одной из них не видим.