Кэти О'Нил - Убийственные большие данные. Как математика превратилась в оружие массового поражения

Мы также должны расширить Закон о праве сохранения и защите данных медицинского страхования (HIPPA), который защищает нашу медицинскую информацию, чтобы распространить его на данные, которые собирают работодатели, приложения, посвященные здоровью, и другие компании Больших данных. Любая относящаяся к здоровью информация, собираемая брокерами данных, такая как, например, история наших поисков в интернете о методах лечения какой-либо болезни, должна быть защищена.

Если мы хотим принять еще более серьезные меры, нам стоит подумать о движении в сторону европейской модели, согласно которой все собираемые персональные данные должны быть официально одобрены пользователем. Эта модель также запрещает использование информации для каких-то иных целей. Конечно, требование согласия пользователя на использование информации часто означает, что пользователь автоматически кликает на галочку «я согласен», не вчитываясь в малопонятное пользовательское соглашение. И тем не менее запрет на новое использование информации – мощная запретительная мера. Она сразу делает незаконной продажу информации о пользователях, не позволяет получить доступ к этой информации брокерам данных, которые подпитывают токсичные e-scores и кампании политического микротаргетирования. Из-за этого запрета брокеры данных в Европе гораздо более ограничены в своей деятельности – если, конечно, не нарушают закон.

И, наконец, модели, которые оказывают серьезное влияние на наши жизни, включая кредитный скоринг и e-scores , должны быть открыты и доступны для общественности. В идеале мы должны иметь возможность управлять ими через мобильное приложение на нашем телефоне. В какой-нибудь трудный момент пользователь сможет, например, посмотреть: если я не оплачу вовремя вот этот счет за телефон или электричество – как это отразится на моем кредитном скоринге? И если он понизится, то как это скажется на запланированной покупке новой машины? Такие технологии уже существуют. Все, чего нам не хватает, – это воли применить их.

Летним днем 2013 года я отправилась на метро в южную часть Манхэттена и вошла в большое административное здание напротив нью-йоркской мэрии. Я собиралась построить математические модели, которые помогали бы обществу, – своего рода противоположность оружию математического поражения. Для этого я стала практикантом-волонтером в группе анализа данных в департаментах жилья и социального обеспечения мэрии. Число бездомных в городе в этот момент достигло 64 тысяч человек, включая 22 тысячи детей. Моя работа заключалась в том, чтобы помочь создать модель, которая сможет предсказать, на какой срок той или иной бездомной семье потребуется помощь системы призрения и какая именно помощь ей понадобится. Идея заключалась в том, чтобы дать людям все необходимое для того, чтобы они могли позаботиться о себе и о своих семьях, найти постоянное жилище.

Моя работа во многом состояла в том, чтобы построить модель риска рецидива – примерно такую же, как модель LSI-R. Подобно аналитикам, создававшим эту модель, я хотела узнать, какие силы толкают людей на улицу, а затем обратно в приют, а какие ведут к стабильности и постоянному жилью. Однако наша маленькая группа не собиралась строить оружие математического поражения, призванное удлинять тюремные сроки, – мы были сосредоточены на том, чтобы использовать наши выводы для помощи тем, кто попал в беду, и для сокращения числа бездомных и отчаявшихся. Нашей целью было создание модели для общественного блага.

Работая над другим проектом на схожую тему, один из исследователей обнаружил одну чрезвычайно сильную корреляцию, подсказавшую решение проблемы. Определенная группа бездомных семей имела тенденцию исчезать из приютов и никогда в них не возвращаться. Это были люди, которым давали ваучеры по федеральной жилищной программе (Закон о доступном жилье от 1937 года, так называемая «Секция 8» ( Section 8 )). Это не удивляло: если вы предоставляете бездомным семьям доступное жилье, немногие из них снова выберут улицу или убогие приюты.

Однако эта логика чем-то смутила тогдашнего мэра Майкла Блумберга и его администрацию. Городские власти, сопровождая процесс шумной пиар-кампанией, начали закрывать программу «Секция 8», установив взамен новую систему под названием «Преимущество» ( Advantage ), которая ограничила субсидии сроком в три года. Идея заключалась в том, что бедные люди, зная, что финансовая помощь скоро закончится, будут стараться больше зарабатывать и скоро начнут платить за жилье самостоятельно. Однако факты показали, что это был слишком оптимистичный прогноз. А тем временем бурно развивающийся рынок недвижимости Нью-Йорка вздувал стоимость аренды жилья, что еще больше осложняло переход к новой системе. Семьи, у которых не было ваучеров «Секции 8», отправились обратно в приюты.

Наше открытие было принято городскими чиновниками без всякого энтузиазма. Для встречи в мэрии наша группа подготовила презентацию, посвященную положению бездомных в Нью-Йорке. После того как мы продемонстрировали слайд со статистикой рецидива и эффективности «Секции 8», у нас состоялся чрезвычайно неловкий (и весьма недолгий) разговор. От нас потребовали удалить этот слайд. Линия партии осталась неизменной. Большие данные, которые при мудром с ними обращении могут помочь сделать важные открытия, снова продемонстрировали свою разрушительную силу. В конце концов, они направлены на поиски закономерностей, невидимых человеческому глазу. Сложная задача для специалистов по данным заключается в том, чтобы разобраться в экосистемах, которые создают эти данные, и выявить не только проблемы, но и их возможные решения. Простой анализ трудового процесса в компании может показать, что в штатном расписании есть пятеро явно лишних работников. Но если команда по анализу данных пригласит эксперта, тот разработает более конструктивную версию модели, которая не уволит этих людей, а предложит им работу в оптимизированной системе, а заодно определит, какая переподготовка им понадобится, чтобы занять эти рабочие места. Иногда работа специалиста по анализу данных заключается в том, чтобы знать, когда ты недостаточно знаешь.

Исследуя экономику данных, я вижу множество математических моделей, которые могут быть использованы для благих целей, и не меньше моделей с большим потенциалом стать таковым – если их не применять во вред. Возьмите для примера работу Миры Бернштейн, которая занимается трудовым рабством. Гарвардский доктор математики Бернштейн построила модель, которая сканирует масштабные производственные цепочки – например, сборку мобильных телефонов, изготовление кроссовок, автомобильный конвейер – и обнаруживает в них эпизоды принудительного труда. Бернштейн построила свою модель рабства для некоммерческой организации «Сделано в свободном мире» ( Made in a Free World ). Цель этой организации – помочь компаниям избавиться от вклада рабского труда в своей продукции. Разумеется, речь о том, что компания и сама с энтузиазмом готова очистить себя от подобного пятна – не только потому, что она против рабства, но и потому, что это может замарать бренд.