Юваль Ной Харари - 21 урок для XXI века

По мере того как будет увеличиваться поток данных, поступающих к умным машинам от биометрических датчиков, корпорации и правительственные учреждения научатся понимать вас, манипулировать вами, принимать за вас решения. Но что еще важнее, они смогут расшифровать глубинные механизмы работы тела и мозга и таким образом получить власть над жизнью. Если мы хотим помешать немногочисленной элите монополизировать возможности, которые раньше приписывали богам, и не хотим, чтобы человечество разделилось на биологические касты, необходимо ответить на главный вопрос: кто владеет информацией? Кому принадлежат данные о нашей ДНК, нашем мозге и нашей жизни – нам, правительству, корпорации или человеческому сообществу?

Позволив государству национализировать данные, мы, вероятно, ограничим власть корпораций, но в результате получим ползучую цифровую диктатуру. Политики чем-то похожи на музыкантов, но их инструмент – эмоциональная и биохимическая система человека. Они произносят речь – и страну захлестывает волна страха. Они делают публикацию в Twitter – и ответом на нее становится взрыв ненависти. По моему мнению, не стоит предоставлять этим музыкантам более изощренный инструмент. Если политики начнут напрямую управлять нашими эмоциями, по своей прихоти вызывая тревогу, ненависть, радость или скуку, политика превратится в эмоциональный цирк. Да, мы должны остерегаться власти больших корпораций, но история учит нас, что под сенью слишком сильного государства нам живется немногим лучше.

Частная собственность на персональные данные выглядит более привлекательным вариантом, чем приведенные выше, но не совсем понятно, что это значит. Наш опыт регулирования собственности на землю исчисляется не одной сотней лет. Мы можем огородить поле, поставить охранника на воротах, составить список тех, кому разрешен доступ за ограду. За последние два века мы очень хорошо научились регулировать собственность на средства производства – сегодня ничто не мешает мне владеть небольшой частью General Motors и небольшой частью Toyota, достаточно купить акции этих компаний. Но у нас нет опыта в регулировании владения данными, что по определению гораздо сложнее, поскольку, в отличие от земли и машин, данные находятся везде и одновременно нигде, они перемещаются со скоростью света и поддаются бесконечному числу копирований.

Поэтому следует обратиться к юристам, политикам, философам и даже поэтам, чтобы они обратили внимание на эту головоломку: как регулировать владение данными? Возможно, это главный политический вопрос нашей эпохи. Если нам не удастся ответить на него в ближайшее время, нашей общественно-политической системе грозит крах. Люди уже чувствуют приближение катастрофы. Вероятно, именно поэтому граждане самых разных стран теряют веру в либеральную концепцию, которая каких-то десять лет назад казалась неопровержимой.

Как же нам двигаться вперед и справиться с вызовами, которые несут с собой революции в ИТ и биотехнологиях? Быть может, те же ученые и предприниматели, руками которых разрушается привычный мир, найдут технологические решения для его спасения? Например, сетевые алгоритмы могут сформировать некие инструменты для всего человечества, которое будет коллективно владеть всеми данными и управлять будущим развитием жизни. Или по мере усиления глобального неравенства и роста социальной напряженности в мире Марк Цукерберг обратится к двум миллиардам френдов с просьбой объединиться для совместных действий?

Слияние ИТ и биотехнологий угрожает таким базовым современным ценностям, как свобода и равенство. Любой ответ на технологический вызов должен основываться на глобальном сотрудничестве. Однако национализм, религия и культура делят человечество на враждебные лагеря и серьезно затрудняют сотрудничество в масштабе планеты

Калифорния привыкла к землетрясениям, но от политической встряски президентских выборов 2016 года жители Кремниевой долины не отошли до сих пор. Осознав, что они сами, возможно, стали частью проблемы, компьютерные гении отреагировали так, как обычно реагируют инженеры: начали искать техническое решение. Самой сильной реакция была в штаб-квартире Facebook в Менло-Парке. Это понятно: бизнес Facebook – социальная сеть, и поэтому компания крайне чувствительна к социальным потрясениям.

16 февраля 2017 года, после трех месяцев самоанализа, Марк Цукерберг опубликовал смелый манифест о необходимости построения глобального сообщества и о роли Facebook в этом проекте [80] Mark Zuckerberg, ‘Building Global Community’, 16 February 2017, https://www.facebook.com/notes/mark-zuckerberg/building-global-community/10154544292806634/ , ссылка актуальна на 20 August 2017. . В своей речи перед выпускниками Гарварда 22 июня 2017 года Цукерберг объяснил, что социально-политические проблемы нашего времени – от волны наркомании до жестоких тоталитарных режимов – в значительной степени связаны с разобщенностью человечества. Он с горечью отметил, что «за последние десятилетия членство в различных группах сократилось на целую четверть. Появилось много людей, которым нужно найти цель в чем-то новом» [81] John Shinal, ‘Mark Zuckerberg: Facebook can play a role that churches and Little League once filled’, CNBC, 26 June 2017, https://www.cnbc.com/2017/06/26/mark-zuckerberg-compares-facebook-to-church-little-league.html , ссылка актуальна на 20 August 2017. . Цукерберг пообещал, что Facebook возглавит движение по возрождению сообществ и что его разработчики возьмут на себя роль приходских священников: «Мы собираемся предложить несколько инструментов, которые облегчат создание сообществ».

Далее он объяснил: «Мы запустили проект, чтобы понять, способны ли мы предложить группы, которые будут значимыми для вас. Для этого мы начали создавать искусственный интеллект. И это работает. За первые шесть месяцев с нашей помощью на 50 % больше людей присоединилось к важным для них сообществам». Конечная цель состоит в том, чтобы «помочь 1 миллиарду людей присоединиться к действительно значимым группам… Если у нас получится, это не только повернет вспять процесс сокращения членства в группах, который наблюдался на протяжении десятилетий, но и укрепит социальные связи и объединит мир». Эта цель настолько амбициозна, что Цукерберг поклялся «ради этого изменить всю миссию Facebook» [82] http://www.cnbc.com/2017/06/26/mark-zuckerberg-compares-facebook-to-church-little-league.html ; http://www.cnbc.com/2017/06/22/facebook-has-a-new-mission-following-fake-news-crisis-zuckerberg-says.html .

Сетования Цукерберга на распад человеческих сообществ вполне обоснованны. Но через несколько месяцев после его клятвы скандал с Cambridge Analytica показал, что данные, доверенные Facebook, попали к третьим лицам, которые использовали их для манипуляций выборами в разных странах. В этом контексте высокопарные заявления Цукерберга прозвучали насмешкой, и Facebook потеряла доверие людей. Можно лишь надеяться, что, перед тем как строить новые сообщества, Facebook озаботится защитой приватности и безопасности уже существующих.