Тим О'Райли - WTF? Гид по бизнес-моделям будущего [litres]

Алгоритм не должен искать абсолютную истину, он должен найти основание для разумного сомнения, точно так же как и суд присяжных. Это особенно справедливо, если никаких штрафных санкций за фальшивый контент попросту не предусмотрено. Платформы не несут ответственности за активное продвижение какого-либо конкретного контента. Фальшивые новости получили большее ускорение из-за ошибочного алгоритма, который, по-видимому, реагирует на эмоции, вызываемые новостью, а не на другие факторы.

Google и Facebook постоянно разрабатывают и тестируют новые алгоритмы. Да, решение, принятое людьми, также учитывается. Но это решение применяется к проектированию системы, а не к каждому конкретному результату. Разработка эффективного алгоритма поиска или новостной ленты больше похожа на проектирование самолета таким образом, чтобы он летал, чем на принятие решения, где будет летать этот самолет.

Если говорить о создании летательного аппарата, ориентиры проектировщиков просты: чтобы он держался в воздухе, двигался быстрее, расходовал меньше топлива – и изменения в конструкции можно тщательно протестировать, сравнив с желаемым результатом. В случае с поиском существует множество аналогичных задач – поиск лучшей цены или самого авторитетного источника информации по теме или конкретному документу – и множество гораздо менее жестких требований. Когда пользователи находят то, что хотели, они довольны, то же самое можно сказать о рекламодателях. К сожалению, в отличие от поиска, где желание пользователей найти ответ на свой запрос и продолжить жить своей жизнью, как правило, соответствует идее «предоставить им лучшие результаты», установление приоритета «вовлеченности» может увести Facebook в ложном направлении. Категории вовлеченности и времени, проведенного на сайте, могут быть полезны для рекламодателей; они не могут быть полезными для пользователей или для искателей истины.

Даже в физических системах, таких как аэродинамика и авиационная инженерия, часто существуют скрытые предположения, которые необходимо проверить и исправить. В одном известном примере, определившем будущее аэрокосмической промышленности, необходимо было радикально новое понимание того, как бороться с усталостью металла. На заре коммерческих полетов, в 1953 году, новый британский авиалайнер de Havilland DH.106 Comet был готов покорять небеса. Затем, как это ни страшно, один из самолетов без видимой причины упал. Авиакомпания обвинила в этом пилота и плохую погоду. Через год, когда со вторым самолетом произошло то же самое, небо было ясным. В течение двух месяцев флот тщательно обследовался, после чего производитель с уверенностью заявил, что созданы модификации, которые могут справиться с «любой возможной причиной катастрофы, которую только можно себе вообразить». Когда всего через несколько дней после публикации доклада упал третий самолет, стало ясно, что для решения проблемы воображения компании de Havilland было недостаточно. У молодого американского инженера возникла лучшая идея, которая определила будущее коммерческих авиаперевозок для компании Boeing. Вот оценка профессора физики Техасского университета Майкла П. Мардера, который рассказал мне эту историю: «Центральным элементом экспертизы были трещины. Их невозможно было ликвидировать. Они были повсюду, пронизывающие конструкцию, слишком мелкие, чтобы их увидеть невооруженным глазом. Конструкцию невозможно было довести до совершенства, эта идея была по своей сути ошибочной, и цель проектирования заключалась не в том, чтобы сделать фюзеляж без трещин, а чтобы сделать его устойчивым к трещинам».

Также суть разработки алгоритма заключается не в устранении всех ошибок, а в том, чтобы сделать результаты устойчивыми к ошибкам. Основной вопрос, который следует задать, заключается не в том, должна ли компания Facebook курировать новостную ленту, а в том, как она будет это делать.

В то время как авиастроительная компания de Havilland отчаянно пыталась построить самолет, материалы которого были бы достаточно прочными, чтобы сопротивляться трещинам и усталости металла, компания Boeing поняла, что правильный подход заключается в том, чтобы разработать такой аппарат, который допускал бы наличие трещин, но не позволял бы им распространяться до такой степени, чтобы привести к катастрофе. Задача социальной сети Facebook заключается в том же. Ее цель – найти способ летать быстрее, но безопасно. Это означает улучшение ее алгоритмов – обучение и управление ее цифровыми работниками, а не избавление от них и банальный возврат к управлению, осуществляемому людьми. После инцидентов с авиалайнерами de Havilland Comet авиационная промышленность не опустила попросту руки, не вернулась к самолетам с пропеллером и не отказалась от коммерческих перевозок на реактивных самолетах. Алгоритмы Facebook были разработаны для создания оптимальных условий для взаимодействия; они должны стать более сложными и включить в себя создание оптимальных условий для поиска истины.

Светлая сторона: поиски пересечения истинности новостей и вовлеченности пользователей в пространстве возможностей может привести Facebook к неким выдающимся открытиям. Упорный труд облагораживает.

Признаки упорного труда заметны в вышедшем в феврале 2017 года манифесте Марка Цукерберга «Создание глобального сообщества». В нем он указал на принципиально новый способ решения проблемы. Марк лишь вскользь упомянул о явной проблеме фальшивых новостей, отметив, что уже треть всего контента, присылаемого инспекционной группе Facebook, проверяется при помощи новых, обладающих искусственным интеллектом инструментов. (Контроль над оставшимися двумя третями предоставлен пользователям Facebook.) Вместо этого особое внимание он уделил первопричине проблемы: уменьшению социального капитала, связей, которые объединяют нас как общество и которые облегчают нам совместную работу ради общего блага.

В своей книге 2000 года «Bowling Alone» Роберт Патнэм использовал факт сокращения количества команд по игре в боулинг и увеличения числа индивидуальных игроков как метафору изменения характера американского общества. Со времен, когда в начале XIX века Алексис де Токвиль впервые проанализировал менталитет американцев, характерной чертой Соединенных Штатов являлась богатая общественная инфраструктура, включающая в себя участие в местном самоуправлении, в деятельности церквей, в союзах, обществах взаимопомощи, благотворительных организациях, спортивных лигах и ассоциациях всех видов. Патнэм считает, что сворачивание этого участия имело серьезные последствия.

В своем более раннем исследовании экономических различий между двадцатью региональными органами власти Италии Патнэм заметил, что между гражданской вовлеченностью и процветанием существует тесная взаимосвязь: «Эти общества не стали гражданскими только потому, что были богаты. Исторические факты указывают на прямо противоположное: они стали богатыми, потому что они были гражданскими». Для благосостояния страны социальный капитал так же важен, как и финансовый.