Дэвид Оманд - Прицельное мышление. Принятие решений по методикам британских спецслужб

Следовательно, для получения смысла в выводе из ситуации необходим контекст. А смысл – это конструкция человеческого разума. Он способен отражать наши эмоционально обусловленные надежды и страхи в той же мере, в какой он отражает объективную истину. Аналитикам разведслужб нравится характеризовать себя как «объективных», и как раз в главе 5 уделяется большое внимание выявлению множества возможных типов когнитивных предубеждений, которые могут исказить мышление такого аналитика. В конце концов, «независимый», «нейтральный» и «честный» могут быть более подходящими словами для описания опытных аналитиков, которые должны избегать влияния того, что, по их мнению, их клиенты отчаянно надеются услышать [27] Благодарю за это описание Стивена Маррина. Stephen Marrin. Analytic Objectivity and Science: Evaluating the US Intelligence Community's Approach to Applied Epistemology . Intelligence and National Security (готовится к печати). . Большое искусство защитника в уголовном процессе состоит в том, чтобы выстроить объяснение вокруг сомнительных доказательств так, чтобы присяжные поверили в его обоснование того, что произошло, и, следовательно, в невиновность обвиняемого. Наблюдаемая способность действовать не может быть истолкована как реальное намерение предпринять такое действие. Первое легче оценить, учитывая хорошее владение ситуацией; второе всегда трудно понять, поскольку оно включает в себя способность приписывать мотивы, объясняющие ход действий. Вы можете знать детали своего контракта, согласно которым ваше руководство может уволить вас, но это не означает, что оно намерено это сделать в настоящее время.

Мы знаем из бесчисленных психологических экспериментов, что можем убедить себя в наблюдении типового развития событий там, где такого развития на самом деле нет. Особенно, если наше мышление глубоко сконцентрировано на ином. Как же мы можем прийти к самой объективной интерпретации того, что сообщают нам наши чувства? Отложим в сторону трудности, которые мы обсуждали в предыдущей главе, – трудности знания о том, что именно является достаточно надежными фрагментами информации, чтобы оправдать наше представление о них, как о фактах. Даже если мы уверены в подобных фактах, мы все равно можем неправильно понять их важность.

Например, представьте себя сидящим поздно вечером в пустом вагоне последнего поезда из аэропорта. Грузный неопрятный мужчина заходит в вагон, садится позади вас и начинает агрессивно разговаривать сам с собой, по-видимому, угрожая кому-то неприятностями. Вероятно, такие первые впечатления сначала вызовут мысль о том, что вы не хотите оставаться наедине с этим человеком. Ведь незнакомец демонстрирует поведение, похожее на психическое расстройство. У вас возникает опасение, что, возможно, он станет буйным; вы начинаете прикидывать расстояние до двери следующего вагона и места нахождения аварийной сигнализации, но затем вы замечаете в ухе у этого человека крошечный наушник. Вы расслабляетесь. Ваше ментальное отображение ситуации перевернулось и теперь дает вам неопасное объяснение того, что вы слышали, – вы видите перед собой очень сердитого и усталого человека после долгого перелета, совершающего звонок по мобильному телефону в компанию по прокату автомобилей, которая не смогла предоставить ему машину.

Инстинктивная формулировка вопроса как раз и заставила вас ощутить опасность в такой ситуации. Наш мозг интерпретирует факты в рамках эмоционального настроя, который добавляет остроты восприятия, и в данном случае мы узрели потенциальную опасность на составленной нами ментальной карте. Это представление изначально почти наверняка находилось за пределами сознательного мышления. Представление могло быть вызвано памятью о подобных ситуациях в прошлом или, что более вероятно, просто воображаемым представлением вероятного развития событий. Если бы вы смотрели фильм ужасов вроде «Хэллоуина» во время полета, то эффект, вероятно, был бы еще более ярко выраженным.

Термин «воздействие» («фрейминг») является полезной метафорой, грубым описанием мыслительного процесса, который бессознательно окрашивает нашу схему ситуации, выстроенную на основе умозаключения. Чудесные яркие картины Говарда Ходжкина, например, простираются за пределы холста, на всю площадь рамы. То есть рама является неотъемлемой частью картины и обусловливает наше восприятие того, что мы видим на самом полотне. Эффект задания очертаний возникает изнутри, когда наш разум реагирует на то, что мы видим, и на самом деле чувствуем и вспоминаем. Частью работы редакторов телевизионных новостей является выбор таких видеофрагментов, которые будут предоставлять визуальные и слуховые подсказки для формирования нашего понимания новостей. Как известно режиссерам фильмов, эффект изображения, воспроизводящегося вместе со звуком, сильнее при совместной работе – дабы помочь нам создать в сознании именно такое мощное представление сцены, которого желал режиссер. Когда на экране убийца поднимается по лестнице с ножом в руке, то диссонансные партии скрипок создают напряжение, тогда как помпезные звуки оркестра снимают напряжение и счастливая пара танцует на закате в конце фильма. Современная политическая реклама научилась всем этим трюкам и играет на наших чувствах, чтобы мы реагировали на информацию эмоционально, а не рационально.

До современного момента истории только человек мог осмысливать факты. Завтра, однако, это может быть машина, использующая программу искусственного интеллекта для вывода смысла из данных, а затем добавить соответствующие устройства «воздействия» к искусственно созданному выводу. Уже существует компьютеризированный анализ настроений в социальных сетях, позволяющий оценить склонность толпы к насилию. Осторожное использование искусственного интеллекта может сократить время, необходимое для предупреждения аналитиков о развивающемся кризисе.

Однако существует опасность позволить машинам сделать вывод о том, что происходит. Фондовые биржи уже столкнулись с проблемами «внезапных крахов», когда случайное падение ключевой цены акций запускает посредством программ искусственного интеллекта автоматизированную продажу, обнаруживающуюся другими торговыми алгоритмами – которые, в свою очередь, запускают программу продаж, а затем и цепную реакцию демпинга акций. Поэтому пришлось сконструировать автоматические программные тормоза, дабы предотвратить падение рынка из-за такого процесса автоматизации. Это была бы опасная параллель к тому, как строится работа на основании причинно-следственного вывода, автоматически вызывающего изменения в оборонительной позиции в ответ на обнаруженные кибератаки. Если обе стороны в своих состязательных отношениях взяли на вооружение такую технологию, то мы можем войти в мир доктора Стрейнджлава [28] Имеется в виду герой популярного в Великобритании, но малоизвестного, к сожалению, в России фильма 1964 года «Доктор Стрейнджлав, или Как я перестал бояться и полюбил бомбу». Повредившийся в рассудке командующий американской авиабазой генерал отправляет бомбардировщики для ядерного удара по Советскому Союзу. Попытки отозвать самолеты ни к чему не приводят, и президент США связывается с руководством СССР, чтобы объясниться и предотвратить ответную бомбардировку. Выясняется, что Советский Союз создал управляемую компьютером Машину Судного дня, которая уничтожит жизнь на Земле после первого же взрыва на территории СССР. Машину нельзя остановить, она действует автоматически. В конце фильма бывший нацистский, а теперь американский ученый, доктор Стрейнджлав, рассуждает о том, как сохранить страну, собрав в бомбоубежищах «лучших представителей человеческой расы», которые размножатся и выйдут на поверхность опустевшей планеты через несколько десятилетий. . Тем более, если в этой адской игре создания автоматических выводов участвуют более двух игроков. По мере того как искусственный интеллект все больше проникает в нашу повседневную жизнь, мы не должны позволять ему беспрепятственно формировать идеи от нашего имени, не ставя нас об этом в известность. Сегодня алгоритм выбирает, какая реклама в интернете, по его мнению, лучше всего соответствует нашим интересам – да, нас раздражает, когда этот выбор ошибочен, но он не наносит нам вреда. Но что случилось бы, если это был алгоритм кредитного рейтинга, тайно решающий, что ваши просмотры и история покупок в интернете указывают на слишком высокое тяготение к риску? Чего доброго, вам было бы отказано в оформлении кредитной карты или получении доступной страховки мотоцикла.