Филип Тетлок - Думай медленно — предсказывай точно. Искусство и наука предвидеть опасность

Я поговорил об этом с главным инженером Watson Дэвидом Феруччи. У меня не было сомнений, что Watson без проблем выдаст ответ на вопрос о настоящем и будущем — например, «Как зовут двух российских политических лидеров, которые обменялись должностями за последние десять лет?», — однако мне хотелось узнать мнение Дэвида о том, сколько времени пройдет, прежде чем Watson или кто-то из его цифровых потомков сможет ответить на вопрос «Обменяются ли два российских политических лидера должностями в ближайшие десять лет?».

В 1965 году эрудит Герберт Саймон считал, что всего через двадцать лет наступит эпоха, когда машины смогут делать «любую работу, которую могут делать люди». Но тогда вообще часто высказывали подобные наивно-оптимистические мысли, и это одна из причин, по которой Феруччи, работающий в области искусственного интеллекта уже тридцать лет, более осторожен в подобных оценках [14] Stephen Baker . Final Jeopardy!. Boston: Houghton Mifflin Harcourt, 2011. P. 35. . Он отметил, что компьютерная наука гигантскими шагами движется вперед и способность машин отслеживать тенденции заметно растет. А их обучение, в сочетании с растущим взаимодействием «человек — машина», которое подпитывает учебный процесс, обещает еще более впечатляющий прогресс в будущем. «Это одна из экспоненциальных кривых, и мы сейчас все еще находимся у ее основания», — сказал Феруччи.

Но все-таки есть огромная разница между вопросом «Как зовут двух российских политических лидеров, которые обменялись должностями за последние десять лет?» и вопросом «Обменяются ли два российских политических лидера должностями в ближайшие десять лет?». Первый вопрос — исторический факт, компьютер может его найти. Второй требует от компьютера высказать обоснованные предположения относительно намерений Владимира Путина, характера Дмитрия Медведева и динамики российской политики, а затем объединить эту информацию в личное мнение. Люди проводят подобный анализ постоянно, но это далеко не просто. Человеческий мозг — удивительный инструмент, раз способен выполнять такие невероятно сложные задания. Даже если учитывать стремительный прогресс компьютеров, они еще не скоро освоят тот тип предсказаний, которым занимаются суперпрогнозисты. И Феруччи вообще не уверен, что мы когда-нибудь увидим под стеклом в Смитсоновском институте человеческую особь с табличкой «субъективное суждение».

Машинам все лучше удается «подражать человеческому мнению» и, соответственно, предсказывать поведение, но «между подражанием мнению и его осмыслением, а также выработкой собственного есть разница», говорит Феруччи. Эта ниша всегда будет занята человеческим суждением. В прогнозировании, как и в других областях, мы будем наблюдать, как от человеческого суждения постепенно отказываются, к отчаянию белых воротничков, но будем встречать и все больше случаев синтеза — как, например, в «шахматах свободным стилем», когда люди и компьютеры соревнуются командами. Люди будут пользоваться несомненной силой компьютеров — но периодически их обыгрывать. В результате должна получиться комбинация, которая может (иногда) превосходить как людей, так и машины. Переосмысляя дихотомию «человек против машины», можно сказать, что комбинация Гарри Каспарова и компьютера Deep Blue может оказаться более плодотворной, чем исключительно человеческий или исключительно компьютерный подходы. Феруччи считает, что если что-то и устареет, то это гуру-модель, которая многие политические дебаты превращает в возню в песочнице: «Я противопоставляю вашим аргументам Пола Кругмана мои контраргументы Ниала Фергюсона и атакую вашу статью Тома Фридмана моим блогом Брета Стивенса». Но он видит свет в конце этого длинного темного тоннеля. Феруччи считает, что будет все более странным следовать советам людей, которые не основываются ни на чем, кроме собственного мнения. Человеческая мысль окружена психологическими западнями — факт, который начали широко признавать только последние пару десятилетий, — «поэтому я хочу, чтобы эксперт-человек работал в паре с компьютером, преодолевая человеческие когнитивные ограничения и предрассудки» [15] Дэвид Феруччи, в беседе с автором, 8 июля 2014 года. . Если Феруччи прав — а я думаю, так и есть, — нам нужно будет объединить компьютеризированное прогнозирование с субъективными суждениями. Поэтому настало время отнестись серьезно и к тому, и к другому.

Увидев пятна на тыльной стороне ладони пациента, дерматолог заподозрил неладное и взял на анализ участок кожи. Цитолог подтвердил базально-клеточную карциному. Пациент в панику не ударился: он сам был врачом и знал, что эта форма рака редко распространяется за пределы новообразования. Карциному удалили. Перестраховываясь, пациент записался на прием к знаменитому онкологу.

Тот обнаружил в правой подмышке пациента узелок. Как давно он там появился? Пациент не знал. Онколог заявил, что узелок нужно удалить; пациент согласился. В конце концов, онколог был опытным, и если он сказал: «Вырезать!», кто же будет спорить? Была назначена операция.

Когда прошло действие анестезии и пациент очнулся, то с удивлением обнаружил, что вся грудь у него перевязана бинтами. Вскоре появился и онколог, с весьма мрачным лицом. «Должен сказать вам правду, — начал он. — В подмышечной впадине у вас много раковой ткани. Я сделал все возможное, чтобы извлечь ее, удалил малую грудную мышцу, но, боюсь, этого недостаточно, чтобы спасти вам жизнь» [16] Archibald L. Cochrane with Max Blythe. One Man’s Medicine: An Autobiography of Professor Archie Cochrane. London: British Medical Journal, 1989. . Последняя фраза была лишь неудачной попыткой смягчить удар. Онколог ясно дал понять, что жить пациенту осталось совсем недолго.

«На какое-то мгновение мир будто остановился, — позже написал пациент. — Я ненадолго замер в удивлении и шоке, а затем повернулся на бок, насколько смог, и без зазрения совести разрыдался. Об остатке того дня почти ничего не помню». На следующий день, с ясной головой, он «разработал простой план, как провести оставшееся мне время… Когда я закончил, странное чувство умиротворения охватило меня, и я уснул». В последующие несколько дней к пациенту приходили посетители, пытались его утешить, и ему эта ситуация отчего-то казалась неловкой. «Вскоре выяснилось, что они испытывали большее смущение, чем я», — вспоминал он [17] Там же. P. 171. . Пациент умирал — и никуда от этого факта было не деться. Требовалось сохранять спокойствие и делать что должно. Причитания были бессмысленны.

Этот печальный эпизод случился в 1956 году, однако Арчи Кокран, тот самый пациент, не умер — к счастью, поскольку впоследствии он стал видной фигурой в медицине. Онколог ошибся. У Кокрана не было рака — вообще не было, как выяснил цитолог, исследовавший удаленные в ходе операции ткани. «Помилование» стало для Кокрана таким же шоком, как и «смертный приговор». «Мне сказали, что цитологические данные еще не поступили, — написал он много лет спустя, — однако я ни на секунду не усомнился в словах онколога» [18] Там же. .