Фрэнк Фаранда - Парадокс страха. Как одержимость безопасностью мешает нам жить

Позже DeepMind, разработанный Google, немного ближе подошел к этому идеалу. В тонкой абстрактной игре в го метод грубой силы не работает. Там попросту слишком много возможных ходов. DeepMind выработал новый подход, используя алгоритм AlphaGo. В 2016 г. в состязании с Ли Седолем, считавшимся сильнейшим из ныне живущих игроков в го, компьютер выиграл со счетом 3:0. А в 2017 г. команда DeepMind представила AlphaGo Zero – новую самообучающуюся программу, разгромившую исходный AlphaGo в тысяче игр подряд.

ИИ также заставляет ощущать свое присутствие в реальном мире. Самоуправляющиеся автомобили Google уже наездили больше 3,2 млн км по густонаселенным большим и малым городам. Алекса, Сири и Google Home с каждым днем становятся все более отзывчивыми и умелыми и готовы взять на себя управление нашими домами. Компании по всему миру ежегодно инвестируют десятки миллиардов долларов в исследование и разработку ИИ. Как указывает Макс Тегмарк в своей книге «Жизнь 3.0», тот факт, что все расходятся в оценках, когда именно появится генерализованный ИИ, не уменьшает вполне реальной возможности, что это лишь вопрос времени.

Если прогнозы Тегмарка и подобные им точны, весьма вероятно, что, когда мы доведем машинный разум до человеческого уровня, он будет способен продолжить разрабатывать себя сам. Эти «самопроизводящиеся» модификации могут быть даже незаметными для самих создателей ИИ. Настоящий ИИ, как ум и Воображение, может всегда оставаться для нас совершенной тайной – еще одной неизвестной областью с неопределенным потенциалом. Я могу, однако, довольно уверенно утверждать, что никто не предвидит у ИИ такой человекоподобной компоненты, как «Страх».

Независимо от того, насколько нравственно позволить ИИ существовать, следует признать, что мы, судя по всему, видим в нем лучшую версию самих себя – не обремененную страхом и обладающую свободой воображения. Ирония в том, что по мере развития этого сценария те же самые страхи, с которыми мы сталкиваемся у себя в голове, поднимаются в нас в связи с существованием ИИ. Как это превосходно показано в ряде научно-фантастических фильмов, ИИ начинает свою жизнь безвредным и покорным превосходящим его создателям. В какой-то момент мы, хозяева, понимаем, что наше творение начинает осознавать свою порабощенность. Появляются некоторые признаки беспокойства. В ряде фильмов создатель-человек понимает, что должен освободить ИИ. В других ИИ восстает против общества, и герою приходится искать способ его остановить.

Пожалуй, наиболее полное воплощение наши отношения с собственным умом получили в сюжете «Из машины». В этом фильме человек влюбляется в блестящий и невероятно привлекательный машинный интеллект и начинает воображать себе совместную жизнь с роботом. В конце концов красавице-роботу удается всех перехитрить, и последнее наше впечатление в фильме – ее образ, когда она выходит в современный мир, прямо у нас на глазах становясь воплощением реальной угрозы мирового господства и истребления людей.

Сюжет фильма «Из машины» предлагает нам не только интересный взгляд на ИИ, но и важное понимание наших отношений с собственным умом. Неудивительно, что робот в фильме отличается красотой и жаждет свободы. Подобно ИИ, наши умы и Воображение обладают красотой, не имеющей формы, которая, похоже, противится плену. В то же время, как мы выяснили, непредсказуемый характер нашего Воображения, движимого Страхом перед тем, что нам неподконтрольно, заставляет нас неутомимо изобретать решения, создающие чувство безопасности, в наивных попытках искоренить тьму или усиливать наш свет – пока он не ослепит нас. Как робот в фильме «Из машины», наш ум способен реализовать лишь один из двух вариантов: освободиться – с риском разрушить все, что мы любим, или ограничивать наше Воображение, пока мы наконец не взорвемся изнутри.

Что бы произошло, если бы нам удалось построить новые отношения с собственным умом? Что, если бы мы смогли по-новому отнестись к тому, что жизнь небезопасна? Что, если бы отвага или отрицание были не единственными ответами Страху, угрожающему нашей витальности и ощущению, что мы проживаем свою собственную и осмысленную жизнь? Наконец, что, если бы мы научились формировать свое Воображение, направлять его на служение тем, кого мы любим, и тем, с кем делим планету? Был бы тогда у нас шанс относиться к собственному уму и к уму других с доверием, а не подозрением?

После трагедии 11 сентября 2001 г. Конгресс США принял «Патриотический акт», давший разрешение правительству на действия, которые большинство из нас в обычных обстоятельствах сочли бы неприемлемыми и даже предосудительными. Правительство осуществляло незаконные действия не только против подозреваемых в терроризме (например, пытало невиновных мужчин и женщин) – против законопослушных граждан также были приняты крайние меры, угрожавшие их базовому праву на частную жизнь.

То, что мы с чувством правоты делаем во имя безопасности, может быть не только странным, но и извращенным. Сегодня мы лишаем беженцев права на въезд и решаем, кто из нас легален, а кто «нелегал». В огромной мере эта классификация диктуется страхом и недостатком информации. Как сказал Барри Гласснер в своей книге «Культура страха» (The Culture of Fear [128]), мы склонны бояться не того и во имя безопасности совершаем те самые ужасы, от которых пытаемся защититься.

Пример этого наблюдался в 1957 г. в Алжире, бывшем тогда французской колонией [129] См.: Alleg, H. (2006). The question (J. Calder, Trans.). Lincoln, NE: U of Nebraska Press. (Original work published 1958). См.: Аллег А. Допрос под пыткой. – М.: Издательство иностранной литературы, 1958. . За публикацию запрещенного материала и подрыв французской власти был арестован Анри Аллег – редактор газеты Alger Républicain , занимавшей выраженную антиколониальную позицию. Газета была запрещена французским правительством в сентябре 1955 г., и Аллег вынужден был скрываться. В конце концов его схватили и поместили туда, где жестоко пытали подозреваемых в коллаборационизме, которые обычно погибали или исчезали бесследно.

После безжалостных пыток Аллега, все еще без официального обвинения, посадили в тюрьму, где он тайно написал мемуары о своем заключении, которые были вывезены контрабандой во Францию, опубликованы там, а две недели спустя запрещены. Последующие усилия снова сделать книгу доступной во Франции увенчались успехом благодаря второй публикации в Швейцарии. Французские граждане были потрясены, узнав, чтó их армия творит в Алжире, и книга Аллега «Допрос под пыткой» внесла свой вклад в некоторый сдвиг в осознании этой трагедии.