Борислав Козловский - Максимальный репост. Как соцсети заставляют нас верить фейковым новостям

Без алгоритмов машинного обучения все эти проблемы исчезнут. Но только потому, что не станет ни сайтов знакомств, ни соцсетей, ни рекомендательных сервисов, которые, не исключено, показали вам эту книгу.

1. По анкетным данным пассажира «Титаника» – пол, возраст, класс каюты, сколько стоил билет, сколько членов семьи было с ним на борту – можно с 80 %-ной точностью предсказать, выжил он или погиб при кораблекрушении.

2. Машинное обучение – это способ свести задачу про «Титаник» или вопрос, показывать ли вам запись друга в ленте Facebook, к универсальной математической процедуре. На входе – характеристики пассажира или записи в цифрах, на выходе – односложный ответ: «выживет – не выживет», «показывать – не показывать».

3. Нейросети – самый модный, но не единственный и даже не самый популярный на практике пример таких алгоритмов. У каждого семейства таких алгоритмов свои недостатки, которые мешают им правильно реагировать, например, на иронию или скрытые цитаты – и Facebook без повода блокирует вас на неделю.

4. Чтобы алгоритмы хорошо обучались, им необходим «режим исследования», когда искусственный интеллект дает пользователю случайные или даже вредные советы. Сайт знакомств OkCupid признался, что в этом режиме намеренно предлагал людям неподходящих партнеров.

5. Есть риск, что соцсеть определит вас в небольшую «контрольную группу» пользователей, которая получает неудачные рекомендации (или видит френдленту без самых важных записей друзей) из раза в раз.

6. Эффект под названием «петля положительной обратной связи» ухудшает реальную жизнь, когда машинное обучение берут на вооружение чиновники. Например, у американских подростков, которых алгоритм маркирует как неблагополучных, вырастает шанс стать преступниками.

7. И именно такие, несовершенные, алгоритмы – то, без чего все привычные нам способы отличить правду от неправды, найти единомышленников и поделиться этим знанием с ними перестанут работать.

9 марта 2018 года. – Прим. ред.

Еще в 1996 году сетевое издание «Вечерний интернет» Антона Носика раз в день обозревало «все самое интересное в Сети»; к началу нулевых это занятие потеряло смысл – русский сегмент интернета стал жить слишком бурной жизнью для того, чтобы все события умещались в ежедневный обзор. – Прим. авт.

Уникальных пользователей. – Прим. авт.

Этот термин уже устарел, и сейчас чаще используют более широкое понятие – мотивированные рассуждения (motivated reasoning). – Прим. авт .

«Средство коммуникации является сообщением». – Прим. ред.

Данбар имеет в виду сеть из 150 знакомств вокруг одного человека. – Прим. авт.

wildviewing@Instagram: Wildlife. Nature. Animals ( https://www.instagram.com/p/BglaOdigunq/)

Did This Camel Lose Half Its Body? // Snopes.com, March 22, 2018 ( https://www.snopes.com/fact-check/half-body-camel/

Бигфут (от англ. Bigfoot), также известный как Сасквоч (Sasquatch) – так называют крупного волосатого гоминида, передвигающегося на двух ногах, которое якобы обитает в лесах Северной Америки. – Прим. ред.

Рейс авиакомпании Malaysia Airlines (Куала-Лумпур – Пекин) пропал через сорок минут после взлета в 2014 году. Его поиски считаются самыми масштабными в истории авиации, но результатов они не дали. – Прим. ред.

Бернейс Э. Пропаганда. – М.: Карьера Пресс, 2015.

Паккард В. Тайные манипуляторы. – М.: Смысл, 2004.

Докинз Р. Эгоистичный ген. – М.: Corpus, ACT, 2017.

Бт. 19:4–7.

Nielsen, Rasmus Kleis, and Graves, Lucas. “News you don’t believe”: Audience perspectives on fake news // Digital News Publications ( http://www.digitalnewsreport.org/publications/2017/news-dont-believe-audience-perspectives-fake-news).

Wardle. Claire, and Derakhshan, Hossein. How did the news go ‘fake’? When the media went social // The Guardian, 10 Nov 2017 ( https://www.theguardian.com/commentisfree/2017/nov/10/fake-news-social-media-current-affairs-approval); Information disorder: Toward an interdisciplinary framework for research and policy making. A publication of the Council of Europe which provides a comprehensive conceptual framework and possible solutions to dis-information and misinformation/ Resource Centre on Media Freedom in Europe, September 2017 ( https://www.rcmediafreedom.eu/Publications/Reports/Information-disorder-Toward-an-interdisciplinary-framework-for-research-and-policy-making).

Dewey, Caitlin. What was fake on the Internet this week: Why this is the final column/ The Washington Post, December 18, 2015 ( https://www.washingtonpost.com/news/the-intersect/wp/2015/12/18/what-was-fake-on-the-internet-this-week-why-this-is-the-final-column/).

Silverman, Craig. This Analysis Shows How Viral Fake Election News Stories Outperformed Real News On Facebook/ BuzzFeed News, November 17, 2016 ( https://www.buzzfeed.com/craigsilverman/viral-fake-election-news-outperformed-real-news-on-facebook?utm_term=.ijLM636OV#.mwkyJdJGm).

Vosoughi, Soroush, Deb Roy, and Sinan Aral. “The Spread of True and False News Online.” Science 359, no. 6380 (2018): 1146–151. doi:10.1126/science.aap9559.

www.ted.com/talks/deb_roy_the_birth_of_a_word.html.

Wardle. Claire, and Derakhshan, Hossein. How did the news go ‘fake’? When the media went social/ The Guardian, 10 Nov 2017 ( https://www.theguardian.com/commentisfree/2017/nov/10/fake-news-social-media-current-affairs-approval).

Imhoff, Roland, and Pia Karoline Lamberty. “Too Special to Be Duped: Need for Uniqueness Motivates Conspiracy Beliefs.” European Journal of Social Psychology 47, no. 6 (2017): 724–34. doi:10.1002/ejsp.2265.

Там же.

Levin, Sam. Facebook promised to tackle fake news. But the evidence shows it’s not working/ The Guardian, 16 May 2017 ( https://www.theguardian.com/technology/2017/may/16/facebook-fake-news-tools-not-working).

Dewey, Caitlin. Did Facebook just kill the Web’s burgeoning fake-news industry?/ The Washington Post, January 21, 2015 ( https://www.washingtonpost.com/news/the-intersect/wp/2015/01/21/did-facebook-just-kill-the-webs-burgeoning-fake-news-industry).

Ковалев А. Еще немного про западных «экспертов» и «аналитиков» с российских телеканалов/ Лапше-снималочная, 18 мая 2016 ( https://noodleremover.news/rutv-crooks-53d90c88411a).

На Западе обсуждают гениальный ход Путина, грозящий обрушить экономику ЕС и США. Бельгийский ресурс AgoraVox восхищается инициативой российского лидера/ Рен ТВ, 17 января 2016 ( http://ren.tv/novosti/2016-01-17/na-zapade-obsuzhdayut-genialnyy-hod-putina-grozyashchiy-obrushit-ekonomiku-es-i).

Ковалев А. Западные СМИ обсуждают гениальный ход Путина – очередной адский бред от Раши Тудей/ Лапшеснималочная, 17 января 2016 ( https://noodleremover.news/zarubezhnie-smi-crazy-shit-84d038109425).

Цой И. «Испанский диспетчер, видевший, как украинцы сбили MH17», рассказал, что получил за эту роль $48 000 от России/ The Insider, 14.03.2018 ( https://theins.ru/news/94973).

Ковалев А. «96 % читателей американской газеты за Путина», или Как за год угробить крупнейшее новостное агентство страны / Лапшеснималочная, 3 октября 2015 ( https://goo.gl/6jS4mw).

Goodfellow, Jessica. Only 4 % of people can distinguish fake news from truth, Channel 4 study finds / The Drum, 06 February 2017 ( http://www.thedrum.com/news/2017/02/06/only-4-people-can-distinguish-fake-news-truth-channel-4-study-finds).

Fellows, Erwin W. “’Propaganda:’ History of a Word.” American Speech 34, no. 3 (1959): 182–89. doi:10.2307/454039.

Yanagizawa-Drott, David. “Propaganda and Conflict: Evidence from the Rwandan Genocide.” The Quarterly Journal of Economics 129, no. 4 (2014): 1947–994. doi:10.1093/qje/qju020.