Сесилия Кэнг - Внутри Facebook. Голая правда

Они беседовали почти час. Сэндберг признала, что у Facebook были проблемы, и компания, похоже, так или иначе пыталась их решить. Пелоси все еще была настороже, но усилия компании казались шагом вперед. Наконец-то. «Кажется, они поняли», – сказала Пелоси своим помощникам после встречи.

Две недели спустя видео с участием Пелоси облетело интернет.

В среду 22 мая 2019 года на Facebook появилась видеозапись, где спикер сидит на сцене на конференции, которая проводилась днем ранее Центром американского прогресса, либеральным аналитическим центром, базирующимся в Вашингтоне. На видео Пелоси явно в хорошем настроении. За несколько часов до этого она вступила в перепалку с Трампом в Белом доме из-за ее требования о проведении процедуры импичмента, и сейчас она рассказывала об этом полному залу слушателей в отеле Renaissance в центре города. Публика аплодировала ей стоя.

Но на видеозаписи, размещенной на сайте, что-то было не так. Слова Пелоси звучали невнятно: «Мы хотим дать этому президенту воз-мож-ность сделать что-то историческое», – говорила она, мучительно растягивая каждый слог. Казалось, что она пьяна. Когда она рассказывала о том, как президент выбежал со встречи, ее речь еще больше замедлилась: «Это было очень… очень… очень… очень… странно».

Видео тут же стало популярным, последовали многочисленные перепосты. На странице под названием Politics Watchdog («Служба по надзору за политиками») оно собрало два миллиона просмотров и было распространено десятки тысяч раз 185. Видео собрало более двух тысяч комментариев, в которых пользователи называли Пелоси «пьяной» и «свихнувшейся». С этой страницы видео попало в сотни закрытых групп Facebook, многие из которых были крайне пристрастными. В течение двадцати четырех часов личный адвокат Трампа и бывший мэр Нью-Йорка Руди Джулиани выложил ссылку в Twitter вместе с сообщением: «Что не так с Нэнси Пелоси? Что за странная манера речи?» 186Хештег #DrunkNancy («ПьянаяНэнси») стал трендом.

Но Пелоси не была пьяна. Она вообще не употребляет алкоголь 187. В оригинальной трансляции мероприятия на телеканале C-SPAN Пелоси говорила внятно и в обычном темпе 188. Видео, распространившееся в Facebook и других социальных сетях, было обработано с помощью простых методов редактирования, которые замедлили речь Пелоси примерно до 75 процентов от нормальной скорости. Это был пугающе дешевый и простой маневр, который открыл новый фронт в борьбе технологической индустрии против политической дезинформации.

Закрытые группы Facebook, которые Цукерберг создал двумя месяцами ранее как часть курса на большую конфиденциальность, теперь распространяли видео с огромной скоростью. В рамках небольших групп пользователи Facebook не только шутили друг с другом о том, как можно отредактировать видео, но и советовали, как сделать так, чтобы оно стало популярным и охватило максимальное количество людей.

Сотрудники Пелоси были в ярости. Они задались вопросом, почему социальные сети позволили отредактированному видео распространиться. Сама Пелоси тоже была расстроена. Ведь интернет-компании заверяли ее, что наведут порядок на своих сайтах. Не прошло и трех недель с тех пор, как Сэндберг сидела в ее кабинете и говорила то же самое.

«Позвоните в компании и скажите, чтобы они удалили видео», – сказала она своим помощникам.

В течение нескольких часов YouTube удалил ролик, сославшись на то, что он нарушает политику борьбы с дезинформацией 189. Тем временем СМИ обратили внимание на фальсифицированное видео. В статьях в газете The Washington Post и других изданиях рассказывалось о технических манипуляциях. Ученые и законодатели объявили ситуацию лакмусовой бумажкой для платформ социальных сетей в преддверии президентских выборов 2020 года.

В ответ на сообщение о том, что YouTube удалил видео, Пелоси спросила своих сотрудников: «А что же Facebook?» Видео все еще висело на нескольких сайтах, включая крайне правые новостные издания и маргинальные форумы, но именно на Facebook оно приобретало все большую популярность.

Facebook, по словам ее помощников, замолчала. Никто не отвечал на их звонки.

Пелоси была ошеломлена. У ее офиса были особенно тесные связи с компанией. Кэтлин О’Нил, бывший руководитель аппарата Пелоси, была одним из самых высокопоставленных демократических лоббистов Facebook. Другие сотрудники были выходцами из администрации Обамы и работали на сенатора Файнстайн и бывшего сенатора Джона Керри. Начинало казаться, что эти связи не имели никакого значения.

Демократы незамедлительно бросились на защиту Пелоси. Представитель Род-Айленда Дэвид Цициллин написал в Twitter вскоре после публикации видео: «Эй, @facebook, вы облажались. Опять. Исправьте это немедленно!» 190Сенатор Брайан Шатц обвинил платформу в лицемерии: «Facebook мгновенно отзывается, когда я хочу поговорить о федеральном законодательстве, и вдруг набирает воды в рот, когда мы спрашиваем их, что они сделали для решения проблемы с фальшивым видео. Дело не в том, что они не могут решить эту проблему; дело в том, что они отказываются делать то, что необходимо» 191.

В четверг Цукерберг и Сэндберг в Менло-Парке и Каплан в Вашингтоне встретились по видеосвязи, чтобы продумать ответ. Ни механизм проверки фактов, ни искусственный интеллект, о котором Сэндберг рассказывала Пелоси, не пометили видео на предмет ложного содержания и не предотвратили его распространение. Как оказалось, фильтры и средства обнаружения Facebook было легко обмануть при помощи весьма простых обходных инструментов. Всего за несколько месяцев до этого системы платформы не смогли идентифицировать и удалить ужасающие кадры, снятые преступником с оружием в руках от первого лица в Крайстчерче, Новая Зеландия. 17 марта он открыл огонь по верующим, собравшимся в двух мечетях, убив 51 человека. Это было видео, снятое и рассчитанное на вирусное распространение, и стрелок включил в него несколько ссылок на группы заговорщиков и ненавистников на Facebook, члены которых, как он знал, наверняка будут продвигать кадры убийства, как только он разместит их на сайте.

В течение двадцати четырех часов Facebook пыталась сдержать распространение копий видео, которые были размещены на сайте. Из 1,5 млн копий, которые люди пытались загрузить в соцсеть, Facebook обнаружила и удалила 1,2 млн. Осталось 300 000 копий видео, некоторые из которых оставались на платформе в течение нескольких минут, другие – в течение нескольких часов. Хотя компания хвасталась, что ей удалось удалить более 90 процентов всех загруженных видео, оставшихся копий, восхваляющих жестокую бойню, было слишком много. Это показало, что пользователи могут обойти системы Facebook. Внося небольшие изменения, например замедляя скорость видео на миллисекунду или накладывая водяной знак на его часть, люди смогли обмануть хваленый ИИ Facebook. Некоторые пользователи просто снимали новые видео этой копии, которые появлялись в верхней части Лент новостей и вызывали миллионы комментариев и сообщений в закрытых группах.