Мэтью Сайед - Принцип «черного ящика»

Задумайтесь об этом принципе, напоминающем о черном юморе. Ущербные системы порождают ошибки, даже когда соблюдены все процедуры . Вспомним рейс United Airlines 173: экипаж следовал инструкциям, но самолет все равно разбился. И только выводы, сделанные после этой катастрофы, позволили изменить процедуры (скажем, внедрить «управление ресурсами экипажа»). Иначе прогресс был бы невозможен.

Однако верховные суды отказывались принимать заявления о признании осужденного невиновным, если во время первичного слушания дела не было допущено процессуальных ошибок. Проще говоря, фактические ошибки, порожденные пороками системы, можно не расследовать и вообще не замечать. Для невиновных людей за решеткой это «уловка-22» огромных масштабов. Она приоткрывает завесу над тем, сколь ужасающе часто встречаются в правовой системе замкнутые циклы.

В шестой главе мы посмотрим на реформу системы уголовного правосудия (и узнаем, что случилось в итоге с Хуаном Риверой). Как мы увидим, изучение судебных ошибок проектом «Невиновность» показало, что системных изъянов много во всех частях системы – от следственных процедур до криминалистики. Если бы эти проблемы были обнаружены раньше и решены, сотни невиновных не попали бы за решетку. Вот что писал об этом Шекк:

Когда в США падает самолет, последствия весьма серьезны… Сразу начинается расследование: что пошло не так? Случайность это или ошибка в системе? Можно ли что-то сделать, чтобы избежать подобных катастроф в будущем? <���…> [Но] Америка почти ничего не знает о случаях, когда вследствие новых доказательств приговор признается ошибочным и отменяется. Обычно судьи пишут по таким поводам приказы в одну строчку, то есть нет ни официального мнения, ни анализа того, что было неправильным. Больше ничего.

Феномен когнитивного диссонанса часто приводят как характерный пример причудливости человеческой психологии. Действительно забавно, как далеко мы готовы зайти в стремлении оправдать свои убеждения – вплоть до попытки закрыть глаза на факты, которые им противоречат. Нам говорят, что когнитивный диссонанс свидетельствует об изворотливости человеческого мозга, что это милая, пусть и не всегда удобная особенность человека разумного как вида.

Увы, как мы могли убедиться, дело обстоит куда серьезнее. Как доказывает наша книга, почти во всех областях человеческой деятельности прогресс в значительной степени зависит от нашего желания учиться на ошибках. Если мы «подправляем» свои неудачи и интерпретируем совершенные ошибки в свою пользу, по сути мы уничтожаем бесценную возможность чему-то научиться.

Страшнее всего то, что мы едва ли понимаем, что делаем. Когда в ходе описанного в предыдущей главе эксперимента студентам, прошедшим шокирующую инициацию, сообщили об истинной причине, заставившей их восхищаться утомительной дискуссией, они не поверили своим ушам. «Когда все участники высказались, я объяснил суть нашего исследования и осторожно перешел к теории когнитивного диссонанса», – пишет Аронсон.

Хотя все студенты, столкнувшиеся с жесткой инициацией, сказали, что моя гипотеза весьма любопытна и они понимают, что на многих людей и правда можно повлиять указанным способом, каждый долго и упорно объяснял мне, что лично ему дискуссия понравилась по совершенно иным причинам. Каждый утверждал, что он на деле заинтересовался тем, как группа обсуждает повадки птиц. И тем не менее всем этим студентам обсуждение понравилось куда больше, чем участникам эксперимента, инициация которых была мягкой [111].

Отсюда видно, сколь тонка граница между обманом другого человека и самообманом. У сознательного обмана (когда кто-то вводит в заблуждение коллег, или пациента, или начальника) есть по крайней мере один отличительный признак. Обманщик всегда понимает, что обманывает, и внутри себя осознает, что потерпел неудачу. Возможно, он даже исправится и сделает все, чтобы избегать подобных неудач в будущем.

Самооправдание куда более коварно. Лгать себе – значит уничтожать саму возможность учиться на своих ошибках. Как человек может учиться на неудачах, если он убедил себя – бесконечно оправдываясь теми или иными способами, манипулируя своим восприятием, задействуя обширный психологический арсенал, чтобы свести когнитивный диссонанс к минимуму, – в том, что никакой неудачи и не было?

Стоит также заострить внимание на том, как соотносятся неоднозначность наших неудач и когнитивный диссонанс. Когда падает самолет, сложно сделать вид, что система работает хорошо. Это неудача слишком явная, слишком заметная. Инженеры называют такие события «красным флагом», потому что те похожи на предупреждающий сигнал: «Вы движетесь в неверном направлении». Это все равно что поехать в гости, свернуть не туда и заехать в тупик. Необходимо поворачивать обратно.

Однако куда чаще неудачи выглядят по-другому. Как правило, их можно скрыть. При этом вы можете предъявить пострадавшим великое множество оправданий – «это редчайший случай», «такое случается раз в сто лет», «мы сделали все, что могли». Вы можете привести избирательную статистику, которая подтверждает вашу правоту, и игнорировать статистику, которая вам невыгодна. Вы можете находить новые аргументы в свою пользу, которые поначалу не пришли вам в голову – и которые вы отвергли бы, если бы эти аргументы (к счастью и вашему удобству) вас не обеляли.

Психологи часто указывают на то, что у самооправданий есть свои плюсы. Благодаря им мы не мучаемся, принимая какое-либо решение, не оспариваем любое суждение, не просыпаемся по ночам, размышляя о том, правильно ли мы сделали, когда вступили в брак, согласились на данную работу, пошли этим, а не другим путем. Проблема возникает, когда мы начинаем оправдывать себя бездумно, избегаем чувства вины машинально, перетолковываем факты безудержно, когда неудача угрожает нашей самооценке так сильно, что мы уже не в состоянии учиться на своих ошибках.

Что возвращает нас к вопросу, который мы задали в начале книги, когда увидели, как много людей гибнет из-за предотвратимых врачебных ошибок. Как получается, что врачи и медсестры не замечают страданий своих пациентов? Как эти уважаемые люди могут бессовестно утаивать свои ошибки? Почему они не сгорают со стыда?

Ответ на этот вопрос мы узнали, изучив явление когнитивного диссонанса. Именно для того, чтобы не сгореть со стыда за нанесенный пациентам вред, врачи и медсестры бессознательно воспринимают свои ошибки вовсе не как ошибки. Переосмысление реальности оберегает их профессиональную самооценку и морально оправдывает практику сокрытия ошибок. Зачем рассказывать другим о том, что ты ошибся, если это была совсем не ошибка?