Ханна Фрай - Hello World. Как быть человеком в эпоху машин

Вернуться

93

Diane Machin, Sentencing guidelines around the world , paper prepared for Scottish Sentencing Council), May 2005, https://scottishsentencingcouncil.org.uk/media/1109/paper-31a-sentencing-guidelines-around-the-world.pdf.

Вернуться

94

Ibid.

Вернуться

95

Ibid.

Вернуться

96

Впервые условно-досрочное освобождение начали применять во Франции в 1700-х годах — осужденного выпускали на волю, если он обещал больше не совершать преступлений: https://www.etymonline.com/word/parole.

Вернуться

97

Ernest W. Burgess, Factors determining success or failure on parole, in The Workings of the Intermediate-sentence Law and Parole System in Illinois (Springfield, IL: State Board of Parole, 1928). Эта работа довольно тяжела для восприятия, вместо нее можно почитать статью Кларка Тиббитса, коллеги Бёрджесса, опубликованную позже: Clark Tibbitts, Success or failure on parole can be predicted: a study of the records of 3,000 youths paroled from the Illinois State Reformatory, Journal of Criminal Law and Criminology , vol. 22, no. 1, Spring 1931, https://scholarlycommons.law.northwestern.edu/cgi/viewcontent.cgi?article=2211&context=jclc. Бёрджесс обозначил и другие социальные типы — “белая ворона”, “невольный преступник”, “тупица” и “гангстер”. По его мнению, меньше всех рисковали вновь оказаться на скамье подсудимых люди из категории “деревенщина”.

Вернуться

98

Karl F. Schuessler, Parole prediction: its history and status, Journal of Criminal Law and Criminology , vol. 45, no. 4, 1955, pp. 425–431, https://pdfs.semanticscholar.org/4cd2/31dd25321a0c14a9358a93ebccb6f15d3169.pdf.

Вернуться

99

Ibid.

Вернуться

100

Bernard E. Harcourt, Against Prediction: Profiling, Policing, and Punishing in an Actuarial Age (Chicago and London: University of Chicago Press, 2007), p. 1.

Вернуться

101

Philip Howard, Brian Francis, Keith Soothill and Les Humphreys, OGRS 3: The Revised Offender Group Reconviction Scale , Research Summary 7/09 (London: Ministry of Justice, 2009), https://core.ac.uk/download/pdf/1556521.pdf.

Вернуться

102

Небольшая оговорка: в этой статистике, вероятно, есть систематическая ошибка. Обычно “помощи зала” просят в первых раундах, пока вопросы еще довольно простые. Тем не менее этот феномен, когда коллективное мнение группы оказывается более верным, чем мнение одного человека, находит подтверждение в литературе. См.: James Surowiecki, The Wisdom of Crowds: Why the Many Are Smarter than the Few , New York, Doubleday, 2004, p. 4. Русский перевод: — Шуровьевски Дж. Мудрость толпы. Почему вместе мы умнее, чем поодиночке… М.: “Манн, Иванов и Фербер”, 2014.

Вернуться

103

Netflix Technology Blog, https://medium.com/netflix-techblog/netflix-recommendations-beyond-the-5-stars-part-2-d9b96aa399f5.

Вернуться

104

Shih-ho Cheng, Unboxing the random forest classifier: the threshold distributions, Airbnb Engineering and Data Science, https://medium.com/airbnb-engineering/unboxing-the-random-forest-classifier-the-threshold-distributions-22ea2bb58ea6.

Вернуться

105

Jon Kleinberg, Himabindu Lakkaraju, Jure Leskovec, Jens Ludwig and Sendhil Mullainathan, Human Decisions and Machine Predictions , NBER Working Paper no. 23180 (Cambridge, MA: National Bureau of Economic Research, Feb. 2017), http://nber.org/papers/w23180. На самом деле в этом исследовании использовался “градиентный бустинг над решающими деревьями” — подход, подобный “случайным лесам”, но отличный от них. В обоих методах для принятия решения агрегируются прогнозы множества решающих деревьев, с той разницей, что при градиентном бустинге деревья вырастают последовательно, а в случайных лесах — параллельно. Для этого исследования данные предварительно поделили пополам. На одной половине учили алгоритм, а другую зарезервировали. Готовый к работе алгоритм брал примеры из той половины, которую ему до сих пор не показывали, и пытался предсказать грядущие события. Если бы данные изначально не разделили на две части, алгоритм просто превратился бы в мудреную справочную таблицу.

Вернуться

106

Ученые не пожалели времени на разработку статистических методов для решения этой конкретной задачи, так что все-таки можно провести обоснованное сравнение прогнозов, которые дали люди и машины. Подробнее об этом см. Kleinberg et al., Human Decisions and Machine Predictions .

Вернуться

107

“Costs per place and costs per prisoner by individual prison”, National Offender Management Service Annual Report and Accounts 2015–16 , Management Information Addendum, Ministry of Justice information release, 27 Oct. 2016, https://gov.uk/government/uploads/system/uploads/attachment_data/file/563326/costs-per-place-cost-per-prisoner-2015–16.pdf.

Вернуться

108

Marc Santora, City’s annual cost per inmate is $ 168,000, study finds, New York Times , 23 Aug. 2013, http://nytimes.com/2013/08/24/nyregion/citys-annual-cost-per-inmate-is-nearly-168000-study-says.html; Harvard University, Harvard at a glance , https://harvard.edu/about-harvard/harvard-glance.

Вернуться

109

Luke Dormehl, The Formula: How Algorithms Solve All Our Problems… and Create More (London: W. H. Allen, 2014), p. 123.

Вернуться

110

Julia Angwin, Jeff Larson, Surya Mattu and Lauren Kirchner, Machine bias, ProPublica , 23 May 2016, https://propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing.

Вернуться

111

‘Risk assessment’ questionnaire, https://documentcloud.org/documents/2702103 — Sample-Risk-Assessment-COMPAS-CORE.html.

Вернуться

112

Tim Brennan, William Dieterich and Beate Ehret (Northpointe Institute), Evaluating the predictive validity of the COMPAS risk and needs assessment system, Criminal Justice and Behavior , vol. 36, no. 1, 2009, pp. 21–40, http://northpointeinc.com/files/publications/Criminal-Justice-Behavior-COMPAS.pdf. Согласно исследованию 2018 года алгоритм COMPAS продемонстрировал такую же точность, как “коллектив” респондентов. Исследователи опросили двадцать неподготовленных человек и показали, что их прогноз повторного правонарушения совпадает с оценкой системы COMPAS. Это интересное сравнение, но нельзя забывать, что в реальности у судей нет за дверью бригады незнакомцев, высказывающих свое мнение. Судьи работают в одиночку. И сравнивать им не с чем. См. Julia Dressel and Hany Farid, “The accuracy, fairness, and limits of predicting recidivism”, Science Advances , vol. 4, no. 1, 2018.

Вернуться

113

Christopher Drew Brooks v. Commonwealth , Court of Appeals of Virginia, Memorandum Opinion by Judge Rudolph Bumgardner III, 28 Jan. 2004, https://law.justia.com/cases/virginia/court-of-appeals-unpublished/2004/2540023.html.

Вернуться

114

ACLU brief challenges constitutionality of Virginia’s sex offender risk assessment guidelines , American Civil Liberties Union Virginia, 28 Oct. 2003, https://acluva.org/en/press-releases/aclu-brief-challenges-constitutionality-virginias-sex-offender-risk-assessment.

Вернуться

115

State v. Loomis , Supreme Court of Wisconsin, 13 July 2016, http://caselaw.findlaw.com/wi-supreme-court/1742124.html.

Вернуться

116

Из личной беседы с Ричардом Берком.

Вернуться

117

Angwin et al., Machine bias .

Вернуться

118

Global Study on Homicide 2013 (Vienna: United Nations Office on Drugs and Crime, 2014), http://unodc.org/documents/gsh/pdfs/2014_GLOBAL_HOMICIDE_BOOK_web.pdf.

Вернуться

119

Вероятность такого результата существует всегда, даже без учета пола в расчетах. При любом методе прогнозирования, основанном на таких параметрах, которые в большей мере свойственны одной группе, чем другой — например, на наличии ранее совершенных насильственных преступлений, — несправедливость может иметь место.

Вернуться

120

ACLU, The war on marijuana in black and white , June 2013, https://www.aclu.org/report/report-war-marijuana-black-and-white.

Вернуться

121

Наверное, должно вызвать удивление, что Верховный суд Висконсина поддержал позицию Equivant . Эрик Лумис, которого судья при помощи оценочного инструмента COMPAS приговорил к шести годам тюремного заключения, подал апелляцию. В деле “Лумис против штата Висконсин” говорилось, что использование находящейся в частной собственности компьютерной программы с закрытым кодом для оценки риска и вынесения приговора нарушало право обвиняемого на справедливое рассмотрение дела, так как защита не могла оспорить научную обоснованность оценки. Однако Верховный суд Висконсина постановил, что применение судом первой инстанции машинного средства оценки при вынесении приговора не нарушало право подсудимого на надлежащую правовую процедуру: Supreme Court of Wisconsin, case no. 2015AP157-CR, opinion filed 13 July 2016, https://wicourts.gov/sc/opinion/DisplayDocument.pdf?content=pdf&seqNo=171690.