Ханна Фрай - Hello World. Как быть человеком в эпоху машин

В ходе испытаний методики “полицейских на точках” алгоритм спас не только эту мать с ребенком — в целом по Кенту преступность снизилась на 4 %. В США, где такой же эксперимент проводила сама компания PredPol , сообщалось о еще более значительном снижении преступности. В лос-анджелесском районе Футхилл за первые четыре месяца применения алгоритма было совершено на 13 % меньше преступлений, в то время как во всех других районах города, где полиция работала по привычной схеме, закон нарушался на 0,4 % чаще. В Алхамбре, пригороде Лос-Анджелеса, с января 2013 года, когда там внедрили эту программу, были достигнуты фантастические результаты: краж со взломом стало меньше на 32 %, а угонов — на 20 % [326].

Цифры эффектные, но на самом деле еще неизвестно, так ли велика заслуга программы PredPol . Тоби Дейвис, математик и криминолог из Университетского колледжа Лондона, сказал мне: “Возможно, [преступность] упала просто потому, что полицейских направили в какие-то районы, неважно, куда именно, и велели им вылезти из машин и прогуляться”.

Надо отметить еще один момент. Раз вероятность засечь правонарушение тем выше, чем усерднее вы его ищете, то журнал учета преступлений обновляется хотя бы потому, что полицейские выехали из участка. “Если полиция на месте, — объяснил Дейвис, — правонарушений регистрируется больше, чем могло бы при других условиях. Даже когда в двух разных местах совершается одинаковое количество преступлений, больше материалов полицейские соберут там, где они сами были, чем там, где их не было”.

Следовательно, тактика расстановки полицейских по точкам таит в себе одну большую потенциальную опасность. Выбирая районы для патрулирования на основании компьютерного прогноза, вы рискуете попасть в петлю обратной связи.

Предположим, в относительно бедном квартале изначально сложилась криминогенная обстановка — тогда алгоритм, наверное, предскажет рост преступности в этом районе. Туда направят больше полицейских, а стало быть, они зафиксируют больше правонарушений. Алгоритм даст еще более печальный прогноз, подтянут дополнительные силы полиции — и так далее. Этот замкнутый круг характерен скорее для попрошайничества, бродяжничества, мелкой наркоторговли и прочих правонарушений, типичных для бедных районов.

В Великобритании разные группы населения то и дело жалуются на недостаточный полицейский контроль на улицах, и, казалось бы, нечестно стягивать все силы полиции в определенные районы. Однако не все питают теплые чувства к полиции. “Можно понять тех, кого раздражает вид полицейского, расхаживающего у них под окнами, даже когда все спокойно, пусть он просто ходит взад-вперед, — говорит Дейвис. — По-хорошему, вы же имеете право на жизнь без неусыпного полицейского надзора, так чтобы полиция не давила на вас”.

Мне кажется, он прав.

Так вот, хороший алгоритм должен быть разработан с учетом привычных для полиции тактики и методик. По крайней мере, теоретически возможно сделать так, чтобы программу не влекло так неудержимо в какой-то один квартал, — скажем, чтобы она высылала наряды полиции как в районы высокого риска, так и туда, где риск поменьше. Однако PredPol — это частная собственность, людям со стороны программа недоступна, и никто не знает, как она работает, поэтому, к сожалению, нет никакой возможности узнать, предусматривает ли она уход от петли обратной связи — или, в более широком смысле, достаточно ли она объективна.

На рынке представлены и другие алгоритмы, кроме PredPol . Один из конкурентов — HunchLab , который собирает самую пеструю статистическую информацию: сведения о зарегистрированных преступлениях, звонки в полицию, данные переписи, а также совсем уж неожиданные параметры вроде фаз луны. В основе алгоритма HunchLab нет конкретной теории. Он не пытается дать ответ на вопрос, почему в одном районе преступления совершаются чаще, чем в других, — он просто отмечает найденные в данных закономерности. Благодаря этому он дает более достоверный прогноз для более разнообразных правонарушений, чем PredPol , который опирается на идею о создании преступниками географических паттернов; но, поскольку эта программа тоже защищена авторскими правами на интеллектуальную собственность, мы, как люди посторонние, не можем поручиться, что она ненароком не ущемит интересы какой-нибудь части общества [327].

Еще один закрытый алгоритм прогнозирования — Strategic Subject List (Стратегический список объектов наблюдения), который взяли на вооружение в Полицейском управлении Чикаго [328]. В этой программе используется принципиально другой подход. Ее задача — определить потенциальных участников перестрелок без учета географических данных. Исходя из различных условий, программа формирует “тревожный список” людей, которые, по ее версии, с наибольшей вероятностью в ближайшем будущем окажутся вовлечены в события с применением огнестрельного оружия, неважно, они будут стрелять или их подстрелят. Идея вполне здравая, ибо сегодняшняя жертва завтра легко может сама стать виновником преступления. И у этого алгоритма благородная цель — тем, кого он отметил, полицейские предлагают записаться на коррекционные программы, чтобы попытаться как-то изменить свою жизнь.

Впрочем, есть основания опасаться, что этот алгоритм не дает ожидаемого эффекта. Как показало недавнее исследование, проведенное некоммерческой организацией RAND Corporation , наличие фамилии в списке ничего не говорит о вероятности участия человека в перестрелке [329]. Однако повышает его шансы попасть за решетку. Исследователи предположили, что в любом инциденте со стрельбой те, кто оказался в поле зрения алгоритма, для полиции становятся подозреваемыми.

Алгоритмы прогнозирования полицейского контроля, несомненно, перспективны, и те, кто их разрабатывает, безусловно, честно делают свое дело с самыми лучшими намерениями. Но и беспокойство из-за возможной необъективности алгоритмов тоже оправдано. На мой взгляд, это слишком важные для справедливого общества вопросы, чтобы мы вот так просто поверили в добросовестное использование таких алгоритмов правоохранительными органами. На этом примере, одном из многих, видно, до какой степени нам необходимы независимые эксперты и контролирующие органы, которые гарантируют нам, что от алгоритма будет больше пользы, чем вреда.

При этом потенциальный вред кроется не только в прогнозах. Как мы уже не раз видели на других примерах, существует реальная опасность того, что под влиянием авторитета алгоритма некорректные результаты приобретут дополнительную весомость. А это может привести к самым неприятным последствиям. Слово компьютера — еще не истина в последней инстанции.