Сет Cтивенс-Давидовиц - Все лгут. Поисковики, Big Data и Интернет знают о вас всё

выпускник

минимальный платеж

спасибо

Можно подумать – по крайней мере, надеюсь на это, – что вежливый, открыто религиозный человек, дающий честное слово, окажется среди тех, кто наиболее вероятно погасит кредит. На самом деле это не так. Как показывает статистика, честность таких людей – ниже среднего значения.

Вот несколько фраз, сгруппированных по степени вероятности погашения кредита.

Выражения, используемые в кредитных заявках людьми, которые наиболее вероятно вернут долг

свободный от задолженности

после уплаты налогов

выпускник

более низкие процентные ставки

минимальный платеж

Выражения, используемые в кредитных заявках людьми, которые наиболее вероятно не вернут долг

Бог

оплачу

больница

обещаю

спасибо

Прежде чем мы обсудим этические последствия этого исследования, давайте с помощью его авторов подумаем, что оно говорит о людях. Что мы должны понять на основании разделения слов на две категории?

Во-первых, рассмотрим выражения, на основании которых можно сделать предположение о большей вероятности выполнения платежей по кредиту. Такие словосочетания, как «низкая процентная ставка» или «после уплаты налогов» указывают на определенный уровень финансовой искушенности заемщика. Поэтому, пожалуй, не удивительно, что они коррелируют с его намерением вернуть кредит. Кроме того, если он или она говорит о своих позитивных достижениях – таких как «выпускник» и «свободный от задолженности», – больше вероятность того, что он или она оплатит и этот кредит.

Теперь рассмотрим выражения, предполагающие, что заемщик вряд ли собирается возвращать кредит. Вообще, если кто-то говорит вам, что обязательно все оплатит, он не будет этого делать. Чем более уверенно дается обещание платежа, тем выше шанс его нарушения. Если кто-то пишет «я обещаю, что верну, да поможет мне бог», он относится к числу людей, возвращение кредита которыми наименее вероятно. Воззвание к вашему милосердию и апелляция к находящемуся в больнице родственнику также означает, что кредит вряд ли будет возвращен. На самом деле упоминание любого члена семьи – мужа, жены, сына, дочери, матери или отца – это знак того, что свои деньги назад вы не получите. Еще одно слово, указывающее на невозврат – «объяснить». Оно означает: если люди пытаются объяснять, почему они собираются погасить кредит, значит, они, скорее всего, не будут этого делать.

У авторов нет объяснения, почему благодарность в обращении свидетельствует о повышении вероятности невозврата кредита.

В целом, по данным этих исследователей, предоставление детального плана платежей с указанием выполненных в прошлом обязательств вовсе не свидетельствует о том, что данный заемщик погасит данный кредит. Давать обещания и взывать к милосердию – это явный признак того, что человек не будет возвращать долг. Независимо от причин (или от того, что говорит нам о человеческой природе это стремление давать обещания, которые в действительности никто не собирается выполнять) ученые обнаружили, что этот тест дает чрезвычайно ценную информацию для прогнозирования невозврата кредита. Люди, упоминающие бога, в 2,2 раза чаще не отдают долги – и это один из самых высоких показателей невозврата.

Но авторы также считают, что их работа поднимает этические вопросы. Хотя это было просто академическим исследованием, некоторые компании заявляют, что используют подобные интернет-данные при одобрении кредитов. Допустимо ли это?

Хотим ли мы жить в мире, где с помощью слов, которые мы пишем, можно предсказать, будем ли мы погашать кредит? Это как минимум жутковато – и порой просто страшно.

В ближайшем будущем потребителю, желающему получить кредит, возможно, придется обеспокоиться не только своей финансовой историей, но и своей активностью в интернете. И результат может зависеть от факторов, кажущихся абсурдными – например, используется ли в постах слово «спасибо» или упоминается ли бог. Далее. Что сказать о женщине, которая должна помочь своей сестре, оказавшейся в больнице, и которая, безусловно, оплатит кредит? Кажется ужасным отказать ей только на том основании, что в среднем люди, взывающие о помощи на медицинские расходы, часто врут. Мир, функционирующий таким образом, начинает выглядеть мерзко.

Это этический вопрос: есть ли у корпораций право судить о нашей пригодности получать их услуги, основываясь на абстрактных, но статистически прогностических критериях, не связанных непосредственно с этими услугами?

Оставим мир финансов. Давайте посмотрим на случаи, имеющие более серьезные последствия – например при найме на работу. Работодатели при оценке кандидатов все чаще просматривают соцсети. Нет никаких проблем, если они ищут доказательства обливания грязью предыдущих работодателей или раскрытия конфиденциальных сведений с прошлого места работы. Можно даже найти некоторое оправдание отказу нанять кого-то, чьи записи в Facebook или в Instagram свидетельствуют о чрезмерном употреблении алкоголя. Но что если HR-специалисты находят совершенно безобидный показатель, соотносящийся с чем-то, что их беспокоит?

Исследователи из Кембриджского университета и Microsoft дали 58 тысячам американских пользователей Facebook различные тесты, касающиеся их личности и интеллекта. И обнаружили, что лайки на Facebook часто коррелируют с IQ [223] Michal Kosinski, David Stillwell, and Thore Graepel, «Private Traits and Attributes Are Predictable from Digital Records of Human Behavior», PNAS1 10, no. 15 (2013). , экстравертностью и добросовестностью. Например, люди, признающиеся в любви к Моцарту, грозам и картошке в виде спиралек, как правило, имеют более высокий IQ. А те, кто любит мотоциклы «Харлей-Дэвидсон», кантри-группу «Lady antebellum» или страницу «Мне нравится быть мамой», как правило, имеют более низкий показатель интеллекта. Некоторые из этих корреляций могут быть связаны с «проклятием размерности». Если вы протестируете достаточно много параметров, некоторые из них будут случайным образом коррелировать. Но часть интересов могут коррелировать с IQ вполне законно.

Тем не менее кажется несправедливым, что умный человек, которому – такое случается – нравятся «Харлеи», может не получить соответствующую его квалификации работу только потому, что он, сам того не понимая, сигнализировал о низком IQ.

Справедливости ради следует сказать, что эта проблема не нова. О людях уже давно судят по факторам, не связанным напрямую с производительностью – по твердости рукопожатия или по чистоте одежды. Но опасность информационной революции заключается в том, что по мере все большего оцифровывания нашей жизни эти приблизительные суждения могут становиться все более запутанными – и при этом все более навязчивыми. Улучшение прогнозирования может привести ко все более и более отвратительной дискриминации.