Юваль Ной Харари - 21 урок для XXI века

В отдаленной перспективе такой сценарий способен привести даже к деглобализации мира: высшая каста соберется внутри самопровозглашенной «цивилизации» и построит стены и рвы, чтобы отгородиться от орд «варваров» снаружи. В XX веке промышленная цивилизация опиралась на «варваров» с их дешевым сырьем, полезными ископаемыми и рынками. Именно поэтому цивилизация завоевывала и ассимилировала их. Но в XXI веке постиндустриальная цивилизация, опирающаяся на искусственный интеллект, биоинженерию и технологии, обретет гораздо большую независимость и самодостаточность. Ненужными окажутся не только целые классы, но и целые страны и континенты. Укрепления, охраняемые дронами и роботами, отделят самопровозглашенную цивилизованную зону, где киборги сражаются друг с другом с помощью логических бомб, от земель варваров, где дикие люди сражаются друг с другом, вооружившись мачете и автоматами Калашникова.

В этой книге я часто использую «мы», когда говорю о будущем человечества. Я рассуждаю о том, что «нам» нужно делать с «нашими» проблемами. Однако возможно, что никаких «мы» не существует. Возможно, одна из самых больших «наших» проблем состоит в том, что разные группы людей ждет разное будущее. Не исключено, что в одних регионах мира детей нужно учить программированию, а в других им больше пригодится умение быстро выхватывать пистолет и метко стрелять.

Если мы не хотим, чтобы все богатства и власть концентрировались в руках немногочисленной элиты, нам необходимо регулировать владение данными. В древности самым ценным активом была земля, и политические силы сражались за контроль над ней; если в руках слишком маленького числа людей оказывалось слишком много земли, общество делилось на аристократов и простонародье. В новейшую эпоху машины и заводы стали более ценными, чем земля, и политическая борьба велась за контроль над этими жизненно важными средствами производства. Если слишком много машин оказывается в руках слишком маленького числа людей, общество делится на капиталистов и пролетариев. В XXI веке место земли и машин как главного актива займет информация и политики будут бороться за контроль над потоками данных. Если данные сконцентрируются в руках слишком маленького числа людей, человечество разделится на разные виды.

Гонка за данными уже началась, и в ней лидируют такие цифровые гиганты, как Google, Facebook, Baidu и Tencent. До сих пор многие из них придерживались бизнес-модели «торговли вниманием» [77] Tim Wu, The Attention Merchants (New York: Alfred A. Knopf, 2016). . Они привлекают наше внимание, предоставляя бесплатную информацию, услуги и развлечения, а затем перепродают это внимание рекламодателям. И все же цифровые гиганты ставят перед собой гораздо более высокую цель, чем прежние торговцы вниманием. Их истинный бизнес вовсе не в продаже рекламы. Вызывая наш интерес, они получают возможность собрать о нас огромное количество информации, которая стоит больше, чем любые доходы от рекламы. Мы для них не клиенты – мы продукт.

В среднесрочной перспективе этот массив данных открывает дорогу к совсем иной бизнес-модели, причем ее первой жертвой станет сама рекламная индустрия. Новая модель основана на передаче власти от людей к алгоритмам, в том числе власти выбирать и покупать товары. После того как алгоритмы начнут выбирать и покупать вместо нас, традиционная рекламная индустрия обанкротится. Возьмем, к примеру, Google. Алгоритм Google стремится достичь такого положения, при котором мы будем спрашивать его обо всем и получать лучший в мире ответ. Что произойдет, если однажды у нас появится возможность спросить: «Привет, Google, какой автомобиль мне больше подойдет, если исходить из всего, что ты знаешь об автомобилях и обо мне (включая мои потребности, привычки, отношение к глобальному потеплению и мнение о ближневосточной политике)?» Если Google сумеет дать хороший ответ на этот вопрос и если на основе личного опыта мы привыкнем доверять мудрости алгоритма, а не собственным чувствам, которыми легко манипулировать, реклама автомобилей станет не нужна [78] Cara McGoogan, ‘How to See All the Terrifying Things Google Knows about You’, Telegraph, 18 August 2017, http://www.telegraph.co.uk/technology/0/see-terrifying-things-google-knows/ , ссылка актуальна на 19 October 2017; Caitlin Dewey, ‘Everything Google Knows about You (and How It Knows It)’, Washington Post, 19 November 2014, https://www.washingtonpost.com/news/the-intersect/wp/2014/11/19/everything-google-knows-about-you-and-how-it-knows-it/?utm_term=.b81c3ce3ddd6 , ссылка актуальна на 19 October 2017. .

В отдаленном будущем цифровые гиганты, объединив огромные массивы данных и огромные вычислительные мощности, смогут проникать в самые глубокие тайны жизни, а затем использовать это знание не только для того, чтобы делать за нас выбор и манипулировать нами, но и для переделки органической жизни и создания ее неорганических форм. В краткосрочной перспективе цифровые гиганты еще будут нуждаться в продаже рекламы, но уже сейчас они часто оценивают приложения, товары и компании исходя не из того, сколько денег они на этом заработали, а из того, как много данных сумели на этом собрать. Популярное приложение сегодня может не соответствовать бизнес-модели или даже быть убыточным, но, если оно способствует сбору данных, завтра его ценность будет исчисляться миллиардами долларов [79] Dan Bates, ‘YouTube Is Losing Money Even Though It Has More Than 1 Billion Viewers’, Daily Mail, 26 February 2015, http://www.dailymail.co.uk/news/article-2970777/YouTube-roughly-breaking-nine-years-purchased-Google-billion-viewers.html , ссылка актуальна на 19 October 2017; Olivia Solon, ‘Google’s Bad Week: YouTube Loses Millions As Advertising Row Reaches US’, Guardian, 25 March 2017, https://www.theguardian.com/technology/2017/mar/25/google-youtube-advertising-extremist-content-att-verizon , ссылка актуальна на 19 October 2017; Seth Fiegerman, ‘Twitter Is Now Losing Users in the US’, CNN, 27 July 2017, http://money.cnn.com/2017/07/27/technology/business/twitter-earnings/index.html , ссылка актуальна на 19 October 2017. . Даже если сегодня вы не знаете, как заработать на накопленной информации, собирать ее все равно стоит, поскольку в будущем она даст вам ключ к контролю над меняющейся жизнью. Я не уверен, что цифровые гиганты преследуют именно такие цели, но их действия говорят о том, что сбор данных значит для них больше, чем доллары и центы.

Обычному человеку трудно сопротивляться этому процессу. Сегодня люди с готовностью отдают свой самый ценный актив – личные данные – в обмен на бесплатную почтовую программу и забавные видео с котиками. Точно так же коренные жители Африки и Америки наивно отдавали европейским колонизаторам целые страны в обмен на цветные бусы и дешевые безделушки. Если потом простые люди попытаются заблокировать поток данных, то выяснится, что сделать это очень трудно, особенно если алгоритмы начнут принимать за них все решения, в том числе касающиеся здоровья и физического выживания.

Слияние людей и компьютеров может стать настолько полным, что люди, отсоединившись от сети, просто не выживут. Они будут подключены к ней еще в утробе матери, а если захотят отключиться, то страховые агентства откажутся заключать с ними договоры, работодатели не примут на работу, а медицинские учреждения не станут их обслуживать. В битве между здоровьем и приватностью здоровье, скорее всего, одержит легкую победу.