Нейт Сильвер - Сигнал и шум. Почему одни прогнозы сбываются, а другие – нет

Поначалу Боумэн и его команда достигли определенного успеха; его метод позволил выявить зону риска на Суматре, в эпицентре которой в марте 2005 г. произошел серьезный афтершок с измеренной магнитудой 8,6 балла. Однако в научной работе, которую он опубликовал в 2006 г., было высказано предположение, что риск землетрясений в другой части разлома, в Индийском океане недалеко от индонезийской провинции Бенкулу особенно мал {353}. Но уже через год, в сентябре 2007 г., целый ряд землетрясений произошел именно в этой области, причем магнитуда самого сильного из них достигала 8,5 балла. К счастью, землетрясения произошли достаточно далеко от берега и привели к незначительным жертвам. Однако они оказались разрушительными для теории Боумэна.

После того как его модель потерпела фиаско, в 2007 г. Боумэн поступил так, как редко делают прогнозисты. Вместо того чтобы возложить всю вину на неудачу (его модель допускала некоторую возможность землетрясения около Бенкулу, однако незначительную), он еще раз изучил ее и решил, что его подход к предсказанию землетрясений был фундаментально ошибочным, – после чего сдался.

«Я – несостоявшийся прогнозист, – рассказывал мне Боумэн в 2010 г. – Я совершил смелый и глупый поступок – выступил с предсказанием, которое можно проверить. Именно это, в принципе, мы и должны делать, но, когда предсказания оказываются ошибочными, это приносит боль».

Идея Боумэна заключалась в том, чтобы выделить основополагающие причины землетрясений – и на их основе формулировать прогнозы. В сущности, он хотел понять, каким образом изменяется и распространяется напряжение во всей системе. В основе его подхода лежала теория хаоса.

Сама по себе теория хаоса – это демон, которого можно приручить. И это удалось, хотя бы частично, сделать синоптикам. Они гораздо лучше понимают, что происходит в атмосфере, чем сейсмологи – в земной коре. В большей или меньшей степени они представляют себе, как работает погода на молекулярном уровне.

У сейсмологов нет такого преимущества. «Анализировать климатические системы просто, – размышлял Боумэн. – Если они хотят увидеть, что происходит в атмосфере, им нужно просто посмотреть наверх. Мы же смотрим на лежащий под ногами камень. Большинство событий происходит на глубине 15 м под землей. Если отвлечься от того, что показывают в фантастических фильмах, у нас нет никакой надежды туда попасть. Это – фундаментальная проблема. Нет такого способа, используя который можно было бы напрямую измерить напряжение».

Не обладая теоретическим пониманием, подобным тому, что есть у синоптиков, сейсмологи вынуждены полагаться исключительно на статистические методы предсказания землетрясения. Вы можете ввести статистическую переменную под названием «напряжение» в свою модель, как попытался сделать Боумэн. Однако, поскольку величину этой переменной невозможно измерить напрямую, она может быть выражена исключительно в виде математической функции от параметров прошлых землетрясений. Боумэн полагает, что исключительно статистические подходы подобного рода, с большой долей вероятности, не сработают. «Набор данных содержит огромную долю шума, – полагает он. – При тестировании гипотез мы просто не можем получить статистически значимые результаты».

Процесс, происходящий в системах, основанных на данных с большой долей шума и на не до конца разработанной теории (а таковыми являются предсказания землетрясений или отдельные области экономики и политики), состоит из двух этапов. Сначала люди начинают ошибочно принимать шум за сигнал. После этого возникший шум заполняет журналы, блоги и новости ложными сигналами, подрывающими научное развитие и мешающими нам понимать, как на самом деле работает система.

Когда статистики ошибаются и принимают шумы за сигнал, они называют это оверфиттингом [78]. Представьте себе, что вы – мелкий уголовник, а я – ваш босс. Я поручаю вам найти хороший метод подбора цифровых комбинаций для цифровых замков, аналогичных тем, что можно найти в школьных шкафчиках (возможно, мы хотим стащить у школьников деньги, припасенные на обед). Я хочу, чтобы вы нашли способ, позволяющий с высокой вероятностью подобрать нужную комбинацию замков в любое время и в любом месте. Для практики я даю вам три замка – красный, черный и синий.

Поэкспериментировав с замками в течение нескольких дней, вы возвращаетесь ко мне и рассказываете, что смогли найти ошибкоустойчивое решение. По вашим словам, если замок красный, то правильная комбинация – 27–12–31. Если он черный, то нужно использовать цифры 44–14–19, а если синий – 10–3–32.

На все это я могу сказать только то, что вы не справились с заданием. Очевидно, что вы вычислили, как открыть эти три конкретных замка. Однако вы ничего не сделали для создания теории, позволяющей открывать замки, когда комбинация неизвестна нам заранее. Допустим, я бы хотел узнать, можно ли открывать эти замки с помощью скрепки из хорошей стали или же следует воспользоваться каким-то присущим им механическим дефектом. Даже если бы это вам не удалось, вы могли бы найти какой-то обходной маневр – например, какие-то цифры, которые появляются в комбинациях чаще других. Вы же дали мне слишком конкретное решение для общей проблемы. Это и есть оверфиттинг, и он способен привести к ухудшению любых прогнозов.

Название оверфиттинг (оverfitting) связано с тем, что статистические модели «подстраиваются, подгоняются» (fit) под прошлые наблюдения. Степень подгонки может быть слишком общей. И такое явление называется «андерфиттингом» (underfitting). При андерфиттинге вы захватываете меньшую часть сигнала по сравнению с максимально возможной. Либо же модель может обладать свойством оверфиттинга, иными словами, ваши данные содержат слишком много шума, что не позволяет четко выявить структуру, лежащую в их основе. На практике второй тип ошибки встречается намного чаще.

Чтобы понять, как это работает, давайте использовать допущение, которого в реальной жизни не бывает почти никогда. Мы будем точно знать, как должны выглядеть реальные данные. На графике на рис. 5.4 изображена гладкая параболическая кривая с максимумом посередине. Такой кривой можно описывать любые интересные для нас данные из реального мира. Например, как мы уже видели в главе 3, именно такая кривая довольно четко описывает изменение результативности бейсболистов с увеличением возраста, поскольку они значительно более результативны в середине своей карьеры, чем в конце или начале.

Рис. 5.4.Истинное распределение данных