Том Филлипс - Homo sapiens? Как мы все про***ли [litres]

А может, все накроется медным тазом, потому что мы упорно доверяем принятие решений компьютерным алгоритмам, надеясь, что это сделает их лучше и мудрее и что нас не в чем будет упрекнуть, если все пойдет не так. И алгоритмы, которые управляют роботизированными машинами, это только один пример. Так, алгоритмы решают, какие акции покупать, какие новости показывать нам в соцсетях и насколько вероятно, что однажды осужденный совершит новое преступление. Мы надеемся, что они более рациональны, чем люди. В действительности же они так же раздувают предрассудки и неверные предположения, которые мы закладываем в них.

Но беспокойство по поводу передачи права голоса нашим компьютерам этим не ограничивается, поскольку с космической скоростью продолжаются разработки искусственного интеллекта. Некоторые опасаются, что если нам удастся создать ИИ куда умнее и способнее нас, то он вполне может на нас ополчиться. Он сможет манипулировать нами и решать нашими силами свои задачи, он может заподозрить в нас угрозу и уничтожить нас, может просто-напросто не заметить, что люди имеют значение, и все кончится тем, что мы будем казаться ему теми занудами, что мешают ему наводнять мир, например, скрепками (или чем угодно еще – в зависимости от той задачи, что мы первоначально поставили перед ним). Та перспектива, что мы можем создать грозное чучело, кажется отдаленной, но все большее число умных людей – и это меня беспокоит – все чаще принимают ее всерьез.

А может, мы просто подорвем себя, затеяв ядерную войну.

Впрочем, провал может оказаться и не таким грандиозным Не исключено, что мы обречем себя на уродливое будущее из-за собственной лени. С тех пор как мы разорвали тягучие объятия Земли и вступили в космическую эру, мы применяли привычный подход и к тому, что нам больше не пригодится в космосе, – как и прочий мусор, что мы производим, мы просто выбрасывали все. В конце концов, космос очень большой. Кто вообще это заметит?

Познакомьтесь с синдромом Кесслера. Это явление описал ученый NASA Дональд Кесслер еще в 1978 году, и это и поныне не мешает нам зашвыривать в космос всякую дрянь. Проблема в том, что когда вы выбрасываете что-то на орбиту, оно никуда не девается. Это не то же самое, что метнуть из окна машины пакет от чипсов на полном ходу и тут же забыть о нем. Космический мусор продолжает вращаться по орбите примерно с той же скоростью и по той же траектории, что и та штуковина, из которой его выбросили. И иногда он сталкивается с другим мусором. Беда в том, что из-за скорости, с которой объекты вращаются по орбите, столкновение может быть чрезвычайно разрушительным. Одно-единственное столкновение с крошечным кусочком материи может обернуться катастрофой – могут разрушиться спутники или космические станции. И из-за этого столкновения – вы правильно угадали – в космосе оказывается еще больше неуправляемого мусора, и он тоже может столкнуться с чем-нибудь еще. И вот что предсказал Дональд Кесслер: постепенно в космосе станет так тесно, что процесс дойдет до критической точки – каждое столкновение станет порождать еще больше столкновений, пока наконец нашу планету не окутает плотное облако высокоскоростных мусорных ракет. Результат будет таким: спутники станут бесполезными, а запуск чего бы то ни было в космос будет сопряжен со смертельным риском. И мы будем привязаны к земле во всех смыслах.

В некотором роде это стало бы поэтичным, хотя и довольно странным завершением пути, на который так и не удалось ступить Люси миллионы лет назад. Все наши исследования, этот прогресс, эти мечты и величественные понятия… и вот чем мы кончим – заключением на собственной планете, в тюрьме, которую мы построили сами из собственного мусора.

Но что бы ни готовило нам наше будущее, какие бы сногсшибательные перемены не поджидали нас в следующем году, через 10 лет или через 100, все говорит о том, что мы продолжим вести себя так же глупо, как привыкли.

Мы будем винить других людей в наших бедах и изобретать многослойные вымышленные миры, чтобы не думать о своих грехах.

Мы станем прислушиваться к популистским лозунгам в разгар экономических кризисов.

Мы будем жаждать денег. Мы поддадимся стадному чувству, помешательствам и предрассудкам. Мы станем говорить себе, что наши планы – это очень хорошие планы и что ничего не может пойти не так.

Или нет?.. Может быть, именно теперь мы изменимся и наконец усвоим те уроки, что нам преподала история. Может быть, я просто сгущаю краски. Может, неважно, насколько бестолковым и гнетущим кажется сегодня мир, ведь человечество все равно умнеет и просвещается и нам всем так повезло, что мы живем на заре новой эпохи, где нет места нашей обыкновенной лаже. Может быть, мы и вправду сумеем стать лучше.

Однажды, возможно, мы заберемся на дерево и не свалимся с него.

Должен признать, что я особенно много позаимствовал из нескольких книг, готовя некоторые главы этой книги. (Часть из них уже упомянута выше.) Все их стоит прочесть, чтобы глубже погрузиться в те события и проблемы, которых я лишь коснулся на этих страницах.

«Думай медленно… решай быстро» Даниэла Канемана уже упоминалась в блоке о когнитивных странностях, и в ней рассказывается о многом, что мы успели понять о работе нашего ума. А «Красочная история народных помешательств» ( A Colorful History of Popular Delusions ) Роберта Бартоломью – это замечательный путеводитель по маниям, безумствам, причудам и тревогам.

«Коллапс» Джареда Даймонда также упоминается в тексте, и оттуда я почерпнул массу сведений об острове Пасхи (и влияние книги прослеживается во всей главе).

«Гитлер. Том 1. Восхождение 1889–1939 годов» ( Hitler: Volume I: Ascent 1889–1939 ) Фолкера Ульриха – источник большей части сказанного о Гитлере (а фанаты элегантных литературных подкастов также распознают отголоски замечательной рецензии Митико Какутани на эту же книгу).

Другая книга, на которую я пару раз ссылался выше, – «Цена Шотландии. Дарьен, Союз и богатство наций» ( The Price of Scotland: Darien, Union and the Wealth of Nations ) Дугласа Уотта, и это проницательный и тщательный разбор мошенничества Уильяма Патерсона.

Книги Фрэнка Маклинна «Чингисхан. Человек, покоривший мир» ( Genghis Khan: The Man Who Conquered the World ) и Джека Везерфорда «Чингисхан и создание современного мира» ( Genghis Khan and the Making of the Modern World ) были важны для главы о Хорезме.

Я также хочу указать на несколько книг о том же предмете, что и эта: «100 ошибок, которые изменили историю, или Промахи, разорившие империи, разрушившие экономики и изменившие мировой курс» ( 100 Mistakes that Changed History: Backfres and Blunders That Collapsed Empires, Crashed Economies, and Altered the Course of Our World ) Билла Фосета и «Гигантская книга неудачников» ( The Mammoth Book of Losers ) Карла Шоу. Обе они доставили мне удовольствие и рассказали о великолепных неудачах, о которых я не знал раньше.