Сесилия Кэнг - Внутри Facebook. Голая правда

Facebook была прекрасно осведомлена о способности своей платформы манипулировать эмоциями людей, о чем весь мир узнал в начале июня 2014 года, когда стало известно о тайно проведенном компанией эксперименте. Эксперимент обнажил как возможности Facebook по проникновению в психику своих пользователей, так и его готовность проверять границы своих возможностей без ведома пользователей.

«Эмоциональные состояния могут передаваться другим людям посредством эмоционального заражения, что приводит к тому, что люди неосознанно испытывают те же эмоции», – пишут исследователи Facebook, изучающие данные, в научной статье, опубликованной в журнале Proceedings of the National Academy of Sciences. Они описали, как в течение одной недели в 2012 году они подменили то, что видели почти 700 000 пользователей Facebook при входе на платформу.

В ходе эксперимента одной группе пользователей Facebook показывали контент, который был по большей части радостным, а другой – грустным. Предметом радостного поста могло быть рождение детеныша панды в зоопарке. Грустный пост мог содержать гневную статью об иммиграции. Результаты впечатляли. Просмотр негативных постов побуждал пользователей выплескивать негатив в собственных публикациях. А чем больше позитивного контента видел пользователь, тем больше была вероятность того, что он будет распространять жизнерадостный контент.

По мнению авторов исследования, это означало, что Facebook продемонстрировал возможность эмоционального заражения без «прямого взаимодействия между людьми» (поскольку невольные подопытные видели только Ленту новостей друг друга). Это было сенсационное открытие.

Как только репортеры, пишущие о технологиях и науке, обнаружили эту работу, ее попадание в заголовки основных СМИ стало лишь вопросом времени. «Facebook обращается с вами как с лабораторной крысой», – гласила одна из статей CNN 146. Эксперимент с настроением подтвердил утверждения критиков о способности компании влиять на идеи и вызывать возмущение: Facebook действовала за занавесом, как Волшебник страны Оз. Когда пресса и группы потребителей потребовали от компании объяснений, Сэндберг вместо этого выступила с заявлением, в котором извинилась за неудачный пиар Facebook. «Это было частью текущих исследований, которые компании проводят для тестирования различных продуктов, ничего более. Информация по этому вопросу была плохо организована. И за это мы приносим свои извинения. Мы не хотели вас расстраивать».

Но инженеры Facebook, которые не знали об эксперименте до публикации работы, признали, что она выявила нечто более гнусное в способности Ленты новостей влиять на людей. С годами алгоритмы платформы становились все более изощренными в определении наиболее привлекательных материалов для конкретных пользователей и отдавали им приоритет, помещая в верхнюю часть Ленты. Лента новостей работала как тонко настроенный циферблат, чувствительный к тому, что пользователь чуть дольше задержался на фотографии или потратил больше времени на чтение какой-нибудь статьи. Установив, что пользователь с большей вероятностью будет просматривать определенный тип контента, она выдавала ему как можно больше похожих материалов.

Инженеры видели, что назревает проблема, и неоднократно пытались поднять тревогу среди руководителей. В серии сообщений на Workplace они жаловались на сайты-приманки, которые регулярно выталкивались в топ Ленты, и спрашивали, не нужно ли пересмотреть алгоритм. Один из инженеров разместил ряд примеров ложных или сальных историй, которые становились популярными: некоторые из них, например, утверждали, что у президента Барака Обамы родился внебрачный ребенок или что заговор мировой элиты хранит волшебную сыворотку для вечной молодости. «Неужели это действительно первое, что люди должны видеть в своих Лентах?» – спросил он.

Осенью несколько сотрудников встретились с Коксом и попросили его донести их опасения до Цукерберга. Они настоятельно просили его объяснить генеральному директору, что в алгоритме что-то фундаментально нарушено. «Крис сказал нам, что понимает и тоже видит проблему, – вспоминает один из сотрудников. – Мы сравнили то, что подавалось в Ленте новостей, с нездоровой пищей. Это был напичканный сахаром фастфуд, и мы знали, что продолжать его продвигать – нездоровая идея для всех».

И все же Кокс стоял перед дилеммой. Пользователи Facebook проводили на платформе больше времени, чем когда-либо прежде, и это означало, что системы работают. Сладкий фастфуд вызывал привыкание, и все это знали. Кокс думал о долгосрочных преимуществах такой Ленты новостей.

Через несколько недель инженер вновь связался с Коксом. Тот заверил его, что компания серьезно относится к вопросу. В настоящее время разрабатываются изменения, которые повлияют на Ленту новостей.

Эти изменения заняли более шести месяцев и не оказали существенного влияния на Ленту. В июне 2015 года Facebook объявил о новшестве в Ленте новостей, которое подчеркивало «проведенное время» как наиболее важный показатель активности на Facebook 147. Предполагалось, что пользователям быстро наскучивает контент с кликбейтом, а благодаря приоритету продолжительности интереса более легитимные новости будут появляться выше в рейтинге. Компания также начала процесс понижения рейтинга сайтов, которые, по ее мнению, были «фермами кликбейта», и сайтов, на которых размещался бессмысленный мусорный контент, не имеющий никакой цели, кроме как заставить пользователя кликнуть на него.

Пользователи по-прежнему переходили и тратили значительную часть времени на чтение нежелательного контента, а кликбейтные сайты подправляли свои заголовки и подходы, чтобы избежать снижения рейтинга. Сообщения, якобы содержащие сенсации, продолжали подниматься в топ Ленты новостей.

Все эти вредные особенности были вплетены в дизайн. Как отметил Дипаян Гош, бывший эксперт по конфиденциальности Facebook, «в обществе есть этические границы, но когда у вас есть механизм, для которого приоритетом является привлечение внимания, у него всегда будет стимул выходить за эти границы».

В конце сентября 2018 года Мэтью Смит, генеральный директор правозащитной организации Fortify Rights, базирующейся в Юго-Восточной Азии, вместе с правозащитными группами начал готовить иск для Международного уголовного суда в Гааге, в котором хотел доказать, что бирманские солдаты нарушили международные законы и устроили геноцид против рохинджа. Правозащитникам нужны были доказательства, и они верили, что у Facebook есть данные, которые могли бы помочь. Платформа хранила подробную информацию обо всех аккаунтах, и даже после удаления постов Facebook сохраняла записи о каждой написанной строке и каждом загруженном изображении. Мобильное приложение также имело доступ к информации о местоположении. Большинство бирманских солдат пользовались Facebook на своих телефонах, поэтому у компании могли быть записи о местонахождении солдат армейских подразделений, и их можно было сопоставить с нападениями на деревни рохинджа.