Макс Тегмарк - Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

К сожалению, у нас есть способы покончить с собой гораздо быстрее благодаря собственной коллективной глупости. Почему наш вид должен совершить коллективный суицид, называемый также омницидом , если практически никто по отдельности этого не хочет? На нашем нынешнем уровне интеллектуального развития и эмоциональной зрелости мы, люди, проявляем особый дар к просчетам, недомыслию и незнанию, отчего наша история полна несчастными стечениями обстоятельств, войнами и разными невзгодами, к которым, если разобраться, никто особенно не стремился. Экономисты и математики разработали красивую теорию игр, объясняющую, что подталкивает людей к поступкам, приводящим к катастрофическим последствиям для всех {72} 72 Наводящие на размышления суждения о том, что может подталкивать людей к совершению поступков с ни для кого не желательными последствиями, можно найти в: Scott Alexander, Meditations on Molloch ( http://slatestarcodex.com/2014/07/30/meditations-on-moloch ) .

Вы можете подумать: чем выше ставки, тем осмотрительнее ведут себя люди, но внимательное исследование нашего самого большого риска, допускаемого современной технологией, а именно – риска глобальной термоядерной войны, не очень-то обнадеживает. Лишь по воле случая мы пережили без последствий обескураживающе длинный список разного рода промахов: тут и компьютерные сбои, и отказы в системах энергоснабжения, и недопонимание проблемы, и навигационные ошибки, и столкновения бомбардировщиков, и взрывы спутников, и многое-многое другое {73} 73 Интерактивная хроника настораживающих событий, которые доказывают, что ядерная война может начаться случайно: http://tinyurl.com/nukeoops . В самом деле, если бы не героические поступки отдельных выдающихся личностей, вроде Василия Архипова и Станислава Петрова, ядерная война была бы уже в нашем прошлом. Оценку вероятности случайного возникновения ядерного конфликта на протяжении года в одну тысячную при нынешнем положении вещей можно считать неправдоподобно оптимистичной, но даже она дает для оценки снизу вероятности такого конфликта в следующие 10 тысяч лет: 1 – 0,999 10000 = 99,995 %.

Для полного понимания нашего безрассудства мы должны отдать себе отчет в том, что начали играть в свою ядерную рулетку еще до внимательного изучения связанных с ней рисков. Во-первых, опасность радиоактивного заражения оказалась существенно недооцененной, и в одних только Соединенных Штатах жертвам облучения при работе с ураном или во время ядерных испытаний было выплачено около 2 миллиардов долларов компенсации {74} 74 О компенсационных выплатах жертвам ядерных испытаний в США см.: https://www.justice.gov/sites/default/files/civil/legacy/2014/10/20/Tre_SysClaimsToDateSum.pdf .

Рис. 5.2

Взрыв единственной водородной бомбы на высоте в 400 км над поверхностью Земли вызовет мощный электромагнитный импульс, и вся техника, использующая электрическую энергию, будет выведена из строя. При движении точки взрыва в юго-восточном направлении область, по форме напоминающая банан, где напряженность электрического поля превышает 37,5 киловольт на метр, накроет большую часть восточного побережья. Перепечатано из доклада Армии США ADA278230 с добавлением цветов.

Во-вторых, со временем выяснилось, что подрыв водородных бомб на высоте в сотни километров над поверхностью Земли создает мощный электромагнитный импульс (EMP), который немедленно нарушает работу линий электропередач и всех электронных приборов на обширных территориях (см. рис. 5.2), приводя к параличу инфраструктуры, забитым обездвиженными автомобилями трассам и далеким от идеальных перспективам на выживание. Например, Национальная комиссия электромагнитного мониторинга докладывала, что “система водоснабжения – это колоссальная машина, приводимая в действие отчасти силой тяготения, но в основном – электроэнергией”, и что перебои в водоснабжении приводят к гибели населения в течение 3–4 дней {75} 75 Доклад комиссии США об угрозе электромагнитного импульса, возникающего в результате ядерного взрыва: http://www.empcommission.org/docs/A2473-EMP_Commission-7MB.pdf .

В-третьих, возможность ядерной зимы обнаружилась лишь четыре десятилетия спустя после создания первых бомб, когда их стало уже 62 тысячи! Независимо от того, чьи города сгорели, пепел пожарищ поднимется в верхние слои тропосферы и распространится по всему земному шару, не позволяя солнечному свету достигать земной поверхности и превращая повсюду лето в зиму – так извержения вулканов и столкновения с астероидами приводили к массовым вымираниям в прошлом. Тревогу забили в 1980-х и советские, и американские ученые, и отчасти именно это заставило Рональда Рейгана и Михаила Горбачева приступить к сокращению ядерных арсеналов {76} 76 Независимые исследования американских и советских ученых, предупреждавших Рейгана и Горбачева об опасности ядерной зимы: – Crutzen, P. J. & Birks, J. W. (1982) The atmosphere after a nuclear war: Twilight at noon, Ambio ,11; – Turco, R. P., Toon, O. B., Ackerman, T. P., Pollack, J. B. & Sagan, C. (1983) Nuclear winter: Global consequences of multiple nuclear explosions, Science , 222, 1283–1292; – Aleksandrov, V. V. & Stenchikov, G. L. (1983) On the modeling of the climatic consequences of the nuclear war, Proceeding on Applied Mathematics , 21: Computing Centre of the USSR Academy of Sciences, Moscow (см. рус. вариант статьи: Александров В. В., Стенчиков Г. Л. Об одном вычислительном эксперименте, моделирующем климатические последствия ядерной войны // Ж. вычисл. матем. и матем. физ . 2014. 24:1, 140–144); – Robock, A. (1984) Snow and ice feedbacks prolong effects of nuclearwinter, Nature , 310, 667–670. . К сожалению, более точные вычисления рисуют еще более печальную картину: на рис. 5.3 можно видеть понижение летних температур на 20 °C в основных сельскохозяйственных районах Америки, Европы, России и Китая (в некоторых частях России даже на 35 °C) в первые два лета после ядерной войны и потом еще на половину от этого на протяжении всего десятилетия [36] Выброс углерода в атмосферу влечет два вида климатических последствий: потепление от двуокиси углерода и похолодание от дыма и золы. Не только первое иногда объявляется лишенным научных обоснований: мне иногда говорят, что ядерная зима давно развенчана как фактически неосуществимая. В ответ я всегда требую показать мне ссылки на публикации в реферируемых журналах, где делаются такие сильные заявления, и до сих пор никто не смог мне их предоставить. Хотя здесь остается значительная неопределенность, требующая дальнейших исследований, связанная в особенности с такими параметрами, как интенсивность выбросов и достигаемая ими высота, но, на мой взгляд, нет никаких оснований отвергать в настоящее время риск ядерной зимы. . Что это означает, говоря простым языком? Не надо обладать богатым сельскохозяйственным опытом, чтобы понять: установившиеся на годы летние температуры, близкие к температуре замерзания воды, исключают возможность какого-либо получения провизии. Трудно предсказать в точности, что произойдет после того, как тысячи крупнейших городов Земли будут превращены в руины, а глобальная инфраструктура уничтожена, но как бы ни была мала часть выживших людей, чтобы уберечь их от голодной смерти, надо будет как-то противостоять вооруженным бандам, убивающим ради еды.