Дэвид Оманд - Прицельное мышление. Принятие решений по методикам британских спецслужб

Ключевой урок, который я хочу донести в этой главе, заключается в том, что современное цифровое пространство предоставляет новые и эффективные средства для пропаганды подрывной деятельности и политического подстрекательства [185] David Omand. The Threats from Modern Digital Subversion and Sedition . Journal of Cyber Policy, 2018, 3, 1, pp. 5–23. . Когда они направлены на нас со стороны тех, кто находится за пределами нашей демократической сферы, мы видим, что они опасны для нашей автономии как демократии и оскорбительны для наших ценностей. Но все это может прийти и изнутри нашего общества. Я называю это «ауторазрушением» по аналогии с медицинским термином «аутоинтоксикация», когда наш организм отравляется токсином, который вырабатывает сам. Например, все мы несем в себе бессознательные страхи по поводу иностранцев, которые кажутся нам отличными от нас самих. Инстинктивная ксенофобия является результатом нашей эволюционной истории как биологического вида. Этот вирус обычно дремлет и удерживается на своем месте иммунной системой, которая является культурой цивилизации. Но эта система может дать сбой, и тогда вирус ксенофобии пробуждается к разрушительной деятельности внутри государства. Старт такого процесса может не требовать иностранного вмешательства, достаточно только внутреннего пренебрежения опасностями разжигания экстремизма.

Если это так, то, чтобы быть последовательными, мы должны быть готовы к тому, чтобы подвергнуться воздействию одинаковых способов скрытой манипулятивной цифровой деятельности, направленных против общественности в рамках нашей собственной внутренней политики. Это воздействие также может осуществляться экстремистскими группами и монополиями. Больше всего беспокоит то, что мы только недавно осознали степень потенциальной возможности скрытых манипуляций после скандалов, подобных скандалу с компанией Cambridge Analytica, которая в 2018 году была разоблачена, как собиравшая персональные данных из профилей миллионов людей в Facebook без их согласия с намерением использовать эти данные в целях политической рекламы.

Мы самодовольно позволяем продолжаться и внешней подрывной деятельности, и саморазрушению нашего собственного общества и его демократических ценностей отчасти потому, что мы пользуемся преимуществами целевого маркетинга каждый раз, когда поиск обеспечивает нам интересующую информацию о продуктах и услугах. Мы также пользуемся услугами интернет-гигантов в силу их полезности – тем более что большинство из них бесплатны для пользователя. Поскольку мы одобряем право на приватность, мы также допускаем анонимность в интернете, которая, как мы видим, поощряет дурное цифровое поведение, такое как троллинг и кибертравлю. Однако нам не удается объединить все эти события, чтобы увидеть, куда ведут тенденции интернета и каковы могут быть долгосрочные последствия такого развития коммуникационной сферы для общества.

Данные о использовании нами интернета и нашей цифровой жизни теперь регулярно используются рекламодателями для таргетирования маркетинговых материалов: мы – это люди с известными характеристиками. Наша история просмотров в интернете может демонстрировать интерес к подводному плаванию, наши онлайн-покупки показывают вероятный уровень нашего располагаемого дохода. Поэтому мы не должны удивляться, обнаруживая на посещаемых нами веб-страницах и сайтах рекламу заманчивого отдыха в подходящих нам местах, информацию о снаряжении для дайвинга и курсах по нему, специальные предложения по авиарейсам и иные привлекательные предложения, отобранные по чуть большей стоимости, нежели мы планировали потратить. В главе 2 мы познакомились с выводом Байеса – научным методом, позволяющим получить новые доказательства того, насколько мы уверены в истинности того или иного суждения. Этот же метод лежит в основе обучения алгоритмов искусственного интеллекта, которые могут анализировать большое количество данных наблюдений, ныне доступных о каждом из нас, и делать обоснованные выводы о наших предпочтениях. Такое итеративное обучение по Байесу может создавать очень мощные алгоритмы отбора. Эти алгоритмические методы в настоящее время также применяются политическими партиями и группами влияния, использующими данные о потребительском поведении, для определения по этим характеристикам тех категорий избирателей в ключевых пограничных областях, которые с наибольшей вероятностью будут восприимчивы к персонализированному маркетинговому шагу. Также подобный анализ экономит усилия, напрасно направленные на тех, кого вряд ли удастся убедить.

Совсем недавно мы наблюдали, как в политике возникает возмущающая, фактически отрицательная, петля обратной связи. Вот так же и персональные данные из баз рекламных технологий, наряду с более традиционными данными опросов, используются для персонализации политического сообщения и способа его выражения ради увеличения вероятности получения максимальной поддержки со стороны конкретной группы людей. Таким образом, группы избирателей с идентифицируемыми характеристиками могут сами, хотя и бессознательно, создавать политические сообщения, направленные на них. Подобные сообщения, как известно заранее, скорее всего найдут одобрение у этой группы. Старая политическая агитация включала листовки, рекламные щиты, теле- и радиопередачи, которые были общедоступны. Это накладывало ограничения на то, насколько широко политические партии могли пытаться охватить различные группы избирателей посредством всевозможных (и не обязательно последовательных) призывов. Теперь для разных микросегментированных групп избирателей можно использовать разные направления раскрутки политического послания. Те, кто создает эти сообщения, знают, какой должна быть информация, чтобы максимизировать отклик на нее. Технология же обеспечивает детальную числовую обратную связь – коэффициент кликабельности, время ожидания и иные параметры – необходимую для непрерывной и точной настройки сообщений. Эмоциональным зарядом послания, адресованного трудолюбивому избирателю, борющемуся с безработицей в маленьком городке, может быть страх перед глобализацией и свободным движением рабочей силы и капитала. А в послании, адресованном образованному молодому городскому избирателю, может заключаться расширение горизонтов и возможностей при меньшем государственном регулировании. Причем не существует необходимости согласования политических последствий этих вышеперечисленных посланий.

Таргетирование политических сообщений на микроуровне – это лишь часть того, как рекламные технологии формируют работу социальных сетей, чтобы пользователь получал материал, адаптированный к особенностям его личности [186] Руководство по новому миру цифрового маркетинга и персональных данных см.: Dominik Kosorin. Introduction to Programmatic Advertising . 2016 Kindle edition; Dominik Kosorin. Data in Digital Advertising . 2019 Kindle edition. . Новостные ленты (даже приложение BBC News) могут быть настроены пользователем для выделения будущих материалов по интересующим темам. Такие предпочтения формируются с помощью алгоритмов, управляющих тем, какой именно материал в социальных сетях доставляется пользователю. Это может привести к появлению материалов, известных под названием «информационных пузырей», преднамеренно созданных в соответствии с мировоззрением пользователя, а также группами идеологизированного псевдознания («эхо-камерами»), где пользователи общаются только с подобно мыслящими. Этот эффект может быть использован в целях реализации злого умысла или подрывной деятельности, одновременно он подпитывает существующие предрассудки и углубляет непонимание публикой общественных и политических процессов. Одним из результатов является риск того, что общество все больше разделяется на претенциозные группы, которые не понимают, что доходящая до них информация уже была отфильтрована в соответствии с их предпочтениями. Такие группы, включая политические партии США, имеют мало стимулов для взаимного общения и обмена информацией.