Кэти О'Нил - Убийственные большие данные. Как математика превратилась в оружие массового поражения

В сентябре 1996 года, за два месяца до переизбрания, президент Билл Клинтон подписал закон о защите брака. Этот закон, определявший брак как союз между одним мужчиной и одной женщиной, сулил президенту поддержку в консервативных кругах неопределившихся штатов, в том числе Огайо и Флориды.

Всего через неделю технологический гигант IBM объявил, что предоставит льготы по медицинскому страхованию для однополых партнеров среди своих сотрудников. Возможно, вы удивились, с какой стати «Голубой гигант», столп корпоративного истэблишмента, открыто начал обсуждать столь неоднозначную проблему, в то время как предположительно прогрессивный американский президент явно двигался в противоположном направлении.

Ответ надо искать на рынке. В 1996 году золотая интернет-лихорадка только начиналась, и такие компании, как IBM, Oracle, Microsoft, Hewlett-Packard , а также несколько стартапов, среди них Amazon и Yahoo , сражались за интеллектуальные ресурсы. Бо́льшая часть этих компаний уже предоставила различные льготы для однополых партнеров и таким образом смогла привлечь в число своих сотрудников немало талантливых геев и лесбиянок. IBM не могла остаться в стороне. «С точки зрения деловой конкуренции это имело для нас смысл», – признался официальный представитель IBM в интервью журналу BusinessWeek .

Если представить себе кадровую политику IBM и подобных гигантских корпораций в виде набора алгоритмов, то дискриминация неизменно входила в состав их кода в течение десятилетий. Конкуренция за работников подтолкнула их к более справедливым решениям. С тех пор геи и лесбиянки добились впечатляющего прогресса во многих областях. Конечно, прогресс этот и сегодня нельзя назвать абсолютно последовательным. Многие представители ЛГБТ в Америке до сих пор страдают от предубеждений, насилия и оружия математического поражения. Особенно это касается бедняков и представителей этнических меньшинств. Однако в то самое время, когда я пишу эти строки, гей по имени Тим Кук является президентом самой дорогой компании мира – корпорации Apple . И если у него возникнет такое желание, он может воспользоваться своим конституционным правом и заключить брак с другим мужчиной. Иными словами, мы видим, что корпорации вполне способны совершать решительные движения в сторону исправления несправедливости в своих алгоритмах приема на работу, – так почему же подобным образом не подправить математические модели, которые причиняют вред всему нашему обществу?

К сожалению, тут имеется серьезное отличие. Предоставление равных прав представителям ЛГБТ-сообщества во многом шло на пользу компаниям. Имелось немалое количество хорошо образованных и все громче заявляющих о себе талантливых геев и лесбиянок, которых корпорации жаждали принять на работу. Поэтому они оптимизировали свои модели, чтобы привлечь этих людей. Но при этом главным фактором все равно оставалось извлечение прибыли. Справедливость в большинстве случаев была просто побочным продуктом. Кстати, примерно в это же время самые разные предприниматели по всей стране обратили свое внимание на ЛГБТ-потребителей и стали предлагать им круизы, «счастливые часы», сериалы с гей-тематикой и тому подобное. И хотя эта толерантность вызвала недовольство у менее терпимых людей, с точки зрения бизнеса это сулило большие дивиденды.

Обезвреживание ОМП не всегда предполагает столь очевидную отдачу. Конечно, чем больше справедливости, тем больше пользы для общества в целом, однако это вовсе не обязательно полезно для той или иной конкретной компании. Совсем наоборот, для большинства из них оружие математического поражения – это очень эффективный инструмент. На нем основаны целые бизнес-модели – будь то коммерческие колледжи или микрокредиты. И когда программное обеспечение успешно находит людей, достаточно отчаявшихся, чтобы взять в долг под 18 % в месяц, то люди, которые купаются в прибыли от этого бизнеса, считают, что система работает отлично.

Жертвы, конечно, имеют совсем другое мнение. Но абсолютное большинство из них – это люди с почасовой оплатой или вообще безработные, обреченные на пожизненно низкий кредитный скоринг. Это бедняки. Это заключенные, которые и вовсе беззащитны. В результате в нашем обществе, где деньги покупают влияние, у жертв ОМП практически нет голоса, который может быть услышан. Они практически лишены гражданских прав. Слишком часто бедных обвиняют в том, что они бедные, что они сами виноваты, что учились в плохих школах, в том, что преступления захлестывают районы, в которых они живут. Именно поэтому мало кто из политиков вообще думает о стратегиях борьбы с бедностью. Согласно общепринятому мнению, бедность – это скорее заболевание, и нужно прилагать усилия – во всяком случае, на словах – к тому, чтобы не допустить распространения этого заболевания на средний класс.

Но бедняки далеко не единственные жертвы ОМП. Мы уже видели, как порочные модели могут отказать в работе квалифицированному претенденту или снизить зарплату сотруднику, который не отвечает корпоративным представлениям об идеальном здоровье. Эти ОМП бьют по среднему классу с такой же силой, как и по беднякам. Даже богачи оказываются жертвами микротаргетинга в рамках политических моделей. И они так же судорожно, как и все мы, пытаются умилостивить безжалостное оружие математического поражения, которое командует набором в колледжи и наносит ущерб качеству высшего образования.

Также важно отметить, что это только начало. В конце концов, компании микрокредитования тоже начинали с бедняков и иммигрантов. У них меньше доступа к информации, и многие из них находятся в отчаянном положении. Это самые простые цели – так сказать, фрукты, висящие на нижних ветках. Но те виды оружия математического поражения, которые дают наибольшую прибыль, вряд ли надолго остановятся на низших слоях. Рынок так не работает. Они будут развиваться, распространяться и постоянно искать новые возможности. Мы уже видели, как это происходит с банками основного звена, которые вкладывают средства в организации, занимающиеся кредитованием между физическими лицами – такие как Lending Club . Короче говоря, ОМП нацелено на всех нас. И оно продолжит размножаться, сея несправедливость, пока мы не предпримем шаги, чтобы его остановить.

Несправедливость, следствие алчности или предубеждений, сопровождала нас всегда. Можно согласиться, что ОМП ничем не хуже человеческой злобы и предрассудков недавнего прошлого. В конце концов, во многих случаях банкир, предоставляющий кредит, или менеджер отдела кадров на постоянной основе исключали из рассмотрения целые расы (не говоря уже обо всех женщинах). Даже самые неудачные математические модели, скажут многие, в сравнении с такой несправедливостью не так уж плохи.