Мэтью Барроуз - Будущее: рассекречено. Каким будет мир в 2030 году

Как объяснил Гаррет, основной ограничивающий фактор для анализа алгоритмов заключается в том, что результаты основываются на корреляциях, а не причинной зависимости. В своей книге о больших данных Виктор Майер-Шенберг и Кеннет Кукьер объясняют, что корреляции хороши, если их можно обнаружить «гораздо быстрее и дешевле, чем причинную зависимость» {107}. Однако ложные корреляции могут привести к ошибочной оценке со всеми вытекающими: например, преследование правоохранительными органами невинных граждан на основе предсказанной склонности к совершению преступлений.

Стэнфордский профессор и археолог Ян Моррис в своей последней книге «Война! Для чего она нужна?» начинает повествование с инцидента, который мог бы уничтожить б о льшую часть мира, если бы не было системы защиты на случай сбоя алгоритма. Станислав Петров дежурил на командном пункте советской системы предупреждения ракетного нападения в Серпухове-15. Алгоритмы, над которыми работали Петров и его команда, зафиксировали 26 сентября 1983 г. запуск ракет из США. К счастью, Петров понял, что тревога ложная, и убедил советский Генштаб, что произошел сбой алгоритма. Ему пришлось принять решение за доли секунды и добиться того, чтобы его руководство отменило ответный удар {108}.

Остается надеяться, что в будущем таких ложных тревог не будет. Однако пример ситуации, случившейся несколько десятилетий назад, еще до появления суперкомпьютеров, невероятного расширения использования и развития алгоритмов, ставших сегодня привычными во всех сферах жизни, а не только в системах предупреждения ракетного нападения, только подчеркивает опасность.

Гаррет справедливо предупреждает: неважно, насколько хорошо написаны и качественно протестированы алгоритмы. В реальной жизни существуют исключительные ситуации, и они возникают тогда, когда алгоритмы сталкиваются с непредвиденным сочетанием событий или факторов. А значит, кибербезопасность становится все более важной темой по мере того, как все больше «вещей» подключаются к интернету. С подключением новых устройств появляются новые уязвимые места, а для компаний, ориентированных на повышение эффективности систем коммутации, «безопасность не является главной заботой на этом высококонкурентном рынке» {109}. При наличии миллиардов устройств, запрограммированных выполнять разнообразные функции автономно и асинхронно, любой узел может стать вектором атаки на всю систему {110}. В конце концов, это мир, где «машины при помощи сложных алгоритмов и адаптивного поведения [теперь] ведут себя как разумные исполнители, действующие по поручению человека. Выполняя задачи от оптимизации организации движения до наблюдения за здоровьем пожилых или детального контроля использования электроэнергии, “интернет всего” призван сделать мир разумнее, а нашу жизнь проще. Но хакерам будет куда легче нанести серьезный ущерб в реальном мире» {111}. Уже было несколько тестовых случаев, когда компьютеризированные системы в современных автомобилях и электронные кабинеты для ведения медицинской документации продемонстрировали, насколько они уязвимы перед хакерской атакой {112}. Учитывая возможность серьезного ущерба или даже катастрофы, ключевым системам в будущем понадобится отдельная система для управления и мониторинга.

В мире, где машины будут управлять целыми системами без существенного вмешательства со стороны человека, необходимо найти пути обеспечения стабильности работы систем и выполнения ими изначальных функций и при этом минимизирования нежелательных последствий. Вспоминается знаменитый фильм Джозефа Лоузи «Слуга» (1963 г.) с Дирком Богартом в главной роли. По сюжету богатый молодой лондонец нанимает героя Богарта с качестве камердинера. Сначала эти двое формируют тихий союз, укрепляя свои социальные роли как хозяина-аристократа и прислуги, но по мере развития сюжета меняются ролями. Состоятельный лондонский житель становится все более зависимым и в результате полностью деградирует, а слуга все больше захватывает бразды правления. Такого будущего хотелось бы избежать.

В июне 2012 г. я в рамках кругосветного путешествия отправился в Абуджу, столицу Нигерии, чтобы протестировать предварительную версию «Глобальных тенденций 2030». На первый взгляд Абуджа не казалась местом, где стоит искать научно-исследовательские центры: в других столицах именно они были основным местом обитания экспертов, чье мнение мы хотели услышать. Американский посол показал нам в окно место, где «Боко Харам», мусульманская повстанческая группировка, организовала атаку террориста-смертника на представительство ООН. В те нескольких дней, что мы провели в столице Нигерии, нас всегда сопровождали многочисленная охрана и представители посольства.

По счастью, встречи того стоили, а в одном случае буквально открыли нам глаза на последствия изменения климата. Я до сих пор помню пожилого, прекрасно одетого мужчину, который, перегнувшись через стол, приглушенным голосом сказал: «Мы уже сейчас переживаем изменения климата, которые, как почему-то кажется вам, только замаячили на горизонте». И рассказал о серьезном ухудшении экологической ситуации на севере страны после нескольких лет слабых осадков и частой засухи. Он высказывал озабоченность миграцией скотоводческих общин из сахеля в земли, заселенные оседлыми фермерами. Он наблюдал, как по мере роста плотности населения, связанного как с высокой рождаемостью, так и с переселением людей, бегущих из сахеля после 20 с лишним лет засухи, растет и конкуренция за ресурсы. Он также сказал, что опасается раскола Нигерии, теперь, когда в Лагосе и на юге страны наблюдается подъем. Это старая история: британцы наспех склеили Нигерию из разрозненных частей, потому что хотели «поженить» менее благополучные северные регионы с экономически более успешными прибрежными. Напряженность присутствовала всегда, но теперь вновь начались разговоры о распаде страны, и, по его словам, важным фактором было ухудшение экологического положения на севере Нигерии {113}.

Он был прав в том, что в нашем исследовании речь в основном шла о климатических изменениях в будущем. И с самыми серьезными последствиями этих изменений мы столкнемся позже, в XXI в., если существенно не уменьшатся выбросы углекислого газа в атмосферу. Но он также предлагал рассмотреть климатические изменения в более широком контексте, связав их с другими факторами, такими как резкий прирост населения, историческая этническая и религиозная напряженность, миграция, медленный экономический рост и слабое управление.

Мы заметили, что изменения климата имеют «умножающий» эффект, усиливают существующие конфликты, подчеркивают слабые стороны и в изначально неблагополучных случаях могут послужить последней каплей, которая окончательно выведет ситуацию из-под контроля. И все же услышать о происходящем из первых уст – совсем другое дело. В ранних версиях «Глобальных тенденций» мы уделяли мало внимания каким-либо ресурсам помимо энергоносителей. Климатическим изменениям также отводилось скромное место. Но в 2004–2008 гг. мы провели большую исследовательскую работу на тему изменений климата и ресурсов и начали изучать их взаимосвязь с другими социальными и политическими тенденциями.