Дэвид Оманд - Прицельное мышление. Принятие решений по методикам британских спецслужб

Дилемма ложноположительных и ложноотрицательных решений возникает с алгоритмами, которые должны разделять данные на категории. Такие алгоритмы обучаются на большом наборе исторических данных, где известно, к какой категории достоверности относится случай (например, уверенно подозреваю / не подозреваю), а затем искусственный интеллект разрабатывает наиболее эффективные индикаторы для использования в категоризации данных. Однако прежде, чем подобный алгоритм будет внедрен в эксплуатацию, точность его выводов должна быть оценена по известным характеристикам входных данных. Установка на то, чтобы 95 % алгоритмических решений были правильными по сравнению с известными обучающими данными, приведет, вероятно, к проблемам в зависимости от соотношения ложноположительных и ложноотрицательных результатов в результате ошибки, связанной с каждым из них. Одним из способов оценки точности алгоритма в выполняемой им задаче является определение его точности как числа истинных положительных результатов, получаемого как доли положительных результатов, которые алгоритм считает обнаруженными в обучающих данных. Точность часто измеряется как количество истинных положительных и отрицательных результатов в пропорции к общему числу в обучающем наборе. Современный статистический метод, полезный при работе с большими массивами данных, заключается в построении диаграммы количества ложных срабатываний и ложных отрицаний, ожидаемых при каждой установке правила, и просмотра области под результирующей кривой как меры общего успеха в задании [49] Медики дальше всех продвинулись в попытках найти меры для оценки адекватности результатов, полученных с помощью алгоритмов, таких как те, которые применяются для различения злокачественных и доброкачественных опухолей человека. Подробное введение в проблему см. Thomas G. Tape. Interpreting Diagnostic Tests . University of Nebraska Medical Center, 2019. .

Политический мир, возможно, нуждается во встряске, чтобы признать, что он должен серьезно относиться к предупреждениям. В апреле 1993 года я сопровождал министра обороны Великобритании Малькольма Рифкинда на открытие Мемориального музея Холокоста в Вашингтоне. День начался с трогательной памятной акции на Арлингтонском кладбище в честь освободителей концлагерей. Я вспомнил единственный случай, когда мой отец рассказывал мне об ужасе, который он испытал при попадании в один из таких только что освобожденных лагерей в 1944 году, когда он служил офицером в 3-м батальоне Королевского полка Шотландии при отделе генерал-адъютантской службы Восьмой армии. Он предпочитал не вспоминать об этом. Позже в тот же день лауреат Нобелевской премии мира Эли Визель страстно говорил перед президентами США и Израиля Биллом Клинтоном и Хаимом Херцогом и прочими высокопоставленными лицами о необходимости сохранения памяти об этих ужасах. Он выступил с эмоциональным призывом вспомнить о неспособности союзных держав поддержать восстание в Варшавском гетто и еврейское Сопротивление [50] Эли Визель, речь на открытии Мемориала Холокоста, Вашингтон, округ Колумбия, 22 апреля 1993 года, доступна по адресу: https://www.ushmm.org/information/about-the-museum/mission-and-history/wiesel . . Он процитировал девиз, высеченный в камне над входом в музей Холокоста: «Мы должны свидетельствовать за мертвых и живых». Затем, повернувшись лицом к президенту Клинтону и первой леди Хиллари Клинтон, он напомнил им: «Мы также несем ответственность за то, что мы делаем с этими воспоминаниями… Господин президент, я не могу вам ничего сказать. Я был в бывшей Югославии прошлой осенью… С тех пор я не могу уснуть из-за того, что видел там. Как еврей я говорю, что мы должны что-то сделать, чтобы остановить кровопролитие в этой стране! Люди воюют друг с другом, и умирают дети. Почему? Что-то, что угодно, но должно быть сделано».

Его послание – в Европе снова происходит геноцид, это творится на ваших глазах, господин президент, и союзные силы вновь ничего не делают – было встречено смущенным молчанием, за которым последовали громкие аплодисменты со стороны гостей из числа выживших в немецких концлагерях. Позже в том же году Совет Безопасности ООН наконец санкционировал гуманитарную операцию в Боснии – охрану силами ООН (UNPROFOR), в рамках которой Великобритания была вынуждена предоставить штаб и пехотную тактическую группу. Как говорилось в начале предыдущей главы, эти небольшие миротворческие силы в голубых касках оказались, к сожалению, неадекватным ответом на агрессию как боснийских сербов, так и хорватов, и не смогли остановить массовые убийства боснийских мусульман в Сребренице летом 1995 года.

Предупреждать лидеров непросто. Древнегреческий миф о Кассандре, одной из царевен Трои и дочери царя Приама, повествует, что бог Аполлон благословил ее даром предвидения. Но когда она отказалась от ухаживаний Аполлона, на нее оказалось наложено проклятие: несмотря на ее дар, никто ей не поверит. Она тщетно пыталась предупредить жителей Трои, чтобы они остерегались данайцев, дары приносящих. Гигантский деревянный конь, оставленный греками, когда они делали вид, что снимают осаду города, был тем не менее увезен вовнутрь крепостных стен. Ночью из коня выбрались Одиссей и его солдаты и открыли греческой армии городские ворота. Кассандра кричала на улицах Трои: «Глупцы! Вы не знаете своей судьбы… О, вы не верите мне, хотя я кричу так громко, как никогда!» [51] Quintus Smyrnaeus. The Fall of Troy . New Haven, Conn., Loeb Classical Library, 1913, p. 525. Судьба многих аналитиков разведки на протяжении многих лет – это повторяющаяся раз за разом глухота к их предостережениям. Этот феномен известен миру разведки как эффект Кассандры.

Возможно, именно сомнения в мотивах Кассандры привели к тому, что ее информация была проигнорирована. В 1982 году командир корабля ледовой разведки «Эндьюранс» в Южной Атлантике, следивший за информацией аргентинских СМИ, предупреждал, что близится момент, когда хунта потеряет терпение в дипломатических переговорах. Но эти предупреждения были проигнорированы очень человеческой реакцией: «ну, он сказал это – и что с того», учитывая, что его корабль должен был быть снят с вооружения в соответствии с сокращением расхода бюджета на оборону, решение о котором было принято в 1981 году. Можно допустить, что Кассандра делала слишком много предсказаний в прошлом, которые не оправдались и создали эффект, известный как усталость от предупреждений, как паникер из басни Эзопа. В свою очередь это может означать, что порог предупреждения устанавливался слишком низким и должен был устанавливаться выше, чтобы не поднимать всю деревню на ноги от одного крика «волк», – однако помните предыдущее обсуждение ложноположительных и ложноотрицательных результатов и того, как повышение уровня порога предупреждения увеличивает риск игнорирования реальной угрозы. Посылать сигналы, приводящие к повторным ложным тревогам, – это древняя тактика, нацеленная на то, чтобы снизить бдительность врага в отношении реальной опасности. Предупреждения также должны быть достаточно конкретными, чтобы согласно им можно было предпринять разумные действия. Простое предупреждение о том, что существует риск возможных политических волнений в популярном месте отдыха Руритании, не помогает туристам понять, стоит ли отменять свой отпуск на Руританском побережье.