Кэти О'Нил - Убийственные большие данные. Как математика превратилась в оружие массового поражения

Я гадала, какой аналог кредитного кризиса мог бы случиться в области Больших данных: пока что вместо бума я наблюдала эволюционирующую антиутопию со все увеличивающимся неравенством. Алгоритмы позаботятся о том, чтобы те, кого они объявили неудачниками, неудачниками и остались. Счастливое меньшинство станет еще больше контролировать экономику данных, купаясь в возмутительной роскоши и убеждая себя в том, что оно ее заслуживает.

Проработав два года в области Больших данных и многому научившись, я поняла, что мой путь к окончательной утрате иллюзий более или менее завершился: злоупотребление математикой приобретает все более впечатляющие масштабы. Несмотря на ежедневное ведение блога, я почти перестала успевать отслеживать все способы манипуляции, контроля и запугивания людей алгоритмами. Это началось с учителей, пострадавших от ярма модели подсчета качества их работы, но ими не закончилось. Чувствуя все растущую тревогу, я ушла с работы, чтобы сосредоточить все усилия на исследовании этой проблемы.

Если вы сядете поужинать с друзьями где-нибудь в Сан-Франциско или Портленде, то, скорее всего, обнаружите, что никто из вас не хочет попробовать то, что заказал другой. Никто не ест одно и то же, все придерживаются разных диет – от веганской до разных вариантов палеодиеты, причем свято их соблюдают как минимум месяц или два. А теперь представьте себе, если одна из таких диет – допустим, та же диета пещерного человека – стала национальным стандартом и 330 миллионов людей обязаны соблюдать ее требования.

Эффект будет разрушительным. Для начала единая национальная диета просто уничтожит экономику сельского хозяйства. Спрос на официально одобренные сорта мяса и сыра (а затем и цены на них) взлетит до небес. В то же время отрасли, занимающиеся выращиванием продуктов, которые отвергнуты диетой, например сои и картофеля, будут разорены. Разнообразие практически исчезнет. Пострадавшие фермеры пустят ненужные больше площади зерновых на разведение коров и свиней, даже если почва для этого не подходит. Увеличившееся поголовье скота будет потреблять огромное количество воды. И, наконец, нет нужды говорить о том, что единая диета превратит многих из нас в совершенно несчастных людей.

Что общего у единой национальной диеты с ОМП? Масштаб. Любая формула – идет ли речь о диете или об индивидуальном номере налогоплательщика – в теории может быть совершенно невинной. Но когда она превращается в национальный или международный стандарт, она создает свою собственную деформированную и искривленную экономику. Именно это и случилось с высшим образованием.

Начался этот процесс в 1983 году. Пытаясь выжить, журнал U. S. News & World Report задумал амбициозный проект. Было объявлено, что журнал проведет оценку 1800 колледжей и университетов по всей стране и расположит их в рейтинге по качеству образования. Этот рейтинг стал бы полезным инструментом, который мог бы помочь миллионам молодых людей правильно сделать первый большой выбор в их жизни. Для многих из этих молодых людей он стал бы указанием на начало карьерного пути, дал бы им новых друзей, а может быть, и спутника жизни. Более того, редакторы надеялись, что рейтинг колледжей может стать новостной сенсацией. Возможно, тираж U. S. News даже сравнится на какое-то время с его соперниками-гигантами – Times и Newsweek .

Но на основе какой информации строить такой рейтинг? В самом начале журналисты основывали свои расчеты исключительно на результатах опросных листов, которые рассылались президентам университетов. В результате лучшим национальным университетом был назван Стэнфорд, а лучшим гуманитарным вузом – Амхерстский колледж. Рейтинги пользовались большой популярностью у читателей, однако многие администраторы колледжей были просто в бешенстве. Журнал был завален жалобами на то, что рейтинг несправедлив. Многие президенты колледжей, студенты и выпускники настаивали на том, что их вуз заслуживает более высокой оценки. Все, что оставалось журналистам, – это обратиться к фактам .

В последующие годы редакторы U. S. News снова и снова пытались понять, что тут вообще можно измерить и оценить. Именно так начинаются многие модели – с серии догадок. Процесс этот нельзя назвать научным, и к статистическому анализу он имеет весьма отдаленное отношение. Люди просто думали над тем, что важнее всего в образовании, затем выясняли, какие переменные им стоит принимать во внимание, и, наконец, решали, какой вес придать каждой из этих величин в формуле.

В большинстве дисциплин анализ, загружаемый в модель, требует гораздо большей тщательности. В агрономии, например, исследователи должны сравнить вводные параметры (почву, солнечный свет, удобрения) и параметры, получившиеся на выходе, то есть определенные свойства урожая. Затем они могут экспериментировать и оптимизировать результаты, исходя из целевого параметра, будь то цена, вкус или питательная ценность. Это не значит, что агрономы не могут создать оружия математического поражения – очень даже могут и иногда создают (особенно если отказываются принимать во внимание долгосрочные и разнообразные последствия применения пестицидов). Однако из-за того, что их модели по большей части четко нацелены на чистый результат, они идеальны для научных экспериментов.

Журналисты U. S. News , однако, имели дело с «качеством образования» – гораздо менее четкой величиной, чем цена кукурузы или количество миллиграммов белка в каждом зернышке. У них не было четких параметров, по которым можно было бы оценить, какое воздействие четырехлетнее обучение оказывает на одного студента, не говоря уже о миллионах студентов. Они не могли измерить количество усвоенного материала, счастье, уверенность в своих силах, дружбу и другие аспекты студенческого четырехлетнего опыта. Идеальная цель высшего образования, сформулированная президентом США Линдоном Джонсоном, – «углубление личной самореализации, усиление личной продуктивности и повышение личной самооценки» – не укладывалась в их модель.

Вместо этого они выбрали прокси, которые, как им казалось, коррелировали с успехом. Они посмотрели на результаты SAT, на соотношение студентов и преподавателей и на процент зачисления абитуриентов. Они проанализировали процент первокурсников, которые доучились до второго курса, а также процент выпускников. Они подсчитали процент выпускников, которые жертвовали деньги альма-матер, рассудив, что, раз у них возникло желание поддержать вуз, значит, им, скорее всего, понравилось там учиться. Три четверти ранжирования должно было производиться алгоритмом – то есть мнением, формализованным в коде, – в который были включены все эти прокси. Оставшаяся четверть рейтинга формировалась с учетом субъективных мнений официальных представителей колледжей по всей стране.