Юваль Ной Харари - 21 урок для XXI века

Более того, если ядерная война и изменение климата угрожают только физическому выживанию человечества, то технологии способны изменить саму природу человека; в силу этого они неразрывно связаны с самыми глубокими этическими и религиозными убеждениями людей. Никто не спорит с тем, что мы обязаны предотвратить ядерную войну и экологическую катастрофу, но существуют разные точки зрения на использование биоинженерии и искусственного интеллекта для улучшения человека и создания новых форм жизни. Если человечество не сможет сформулировать и принять единые для всего мира этические нормы, наступит эра доктора Франкенштейна.

Когда речь заходит о таких этических нормах, сторонники национализма страдают в первую очередь от отсутствия воображения. Они мыслят в категориях территориальных конфликтов, не утихавших на протяжении столетий, тогда как о технологических революциях XXI века следует рассуждать во вселенском контексте. После 4 миллиардов лет эволюции органической жизни и естественного отбора может наступить эра неорганической жизни, формируемой разумным замыслом.

Не исключено, что в процессе исчезнет Homo sapiens как таковой. Сегодня мы по-прежнему человекообразные обезьяны из семейства гоминидов. У нас все еще много общего с неандертальцами и шимпанзе: строение тела, физические возможности и умственные способности. Из общего с другими гоминидами у нас не только руки, глаза и мозг, но и похоть, любовь, гнев и социальные обязательства. Через сто или двести лет слияние биотехнологий и искусственного интеллекта может привести к появлению физических и психологических черт, которых нет у гоминидов. Некоторые ученые даже полагают, что сознание можно будет отделить от органической основы, и оно будет свободно перемещаться по киберпространству, избавленное от всех биологических и телесных ограничений. С другой стороны, мы можем стать свидетелями полного отделения интеллекта от сознания, а развитие искусственного интеллекта приведет к ситуации, когда миром будут управлять существа, наделенные суперинтеллектом, но полностью лишенные сознания.

Чем может ответить на это израильский, русский или французский национализм? Едва ли чем-то серьезным: националисты не мыслят на этом уровне. Израильских националистов чрезвычайно беспокоит вопрос о том, кому через сто лет будет принадлежать Иерусалим – израильтянам или палестинцам? Но их совсем не волнует другой вопрос: кто через сто лет будет управлять Землей – сапиенсы или киборги? Чтобы сделать разумный выбор относительно будущего, нужно подняться над националистической позицией и взглянуть на происходящее с глобальной или даже космической точки зрения. Подобно тому, как древние племена людей жили в долине Нила, сегодня все народы живут на берегу одной глобальной реки информации, научных открытий и технологических изобретений, которая, с одной стороны, обеспечивает наше процветание, с другой – создает угрозу нашему существованию. Чтобы эта глобальная река не вышла из берегов, все народы должны действовать сообща.

Любой из этих трех угроз – ядерной войны, экологической катастрофы или разрушительных технологий – вполне достаточно для уничтожения человеческой цивилизации. Но все вместе они создают опаснейший кризис, поскольку, по всей видимости, дополняют и усугубляют друг друга.

Несмотря на то что экологический кризис грозит уничтожить человеческую цивилизацию в ее нынешнем виде, он едва ли остановит развитие искусственного интеллекта и биоинженерии. Не стоит надеяться, что повышение уровня океана, нехватка продовольствия и массовая миграция отвлекут внимание от изучения алгоритмов и генов. По мере усугубления экологического кризиса развитие рискованных, но сулящих огромные преимущества технологий только ускорится.

И действительно, изменение климата может сыграть ту же роль, что и две мировых войны. В периоды с 1914 по 1918 и с 1939 по 1945 год темпы технологического прогресса резко возрастали, поскольку участвовавшие в мировых войнах страны отбрасывали соображения осторожности и экономии и вкладывали огромные ресурсы в дерзкие и фантастические проекты. Точно так же государства, столкнувшиеся с климатической катастрофой, могут не устоять перед искушением пуститься в отчаянные технологические авантюры в надежде на спасение. У человечества есть много обоснованных сомнений относительно искусственного интеллекта и биоинженерии. Как бы вы ни относились к запретам потенциально опасных технологий, спросите себя: будут ли эти запреты соблюдаться в ситуации, когда климатические изменения вызовут нехватку продовольствия, затопление городов по всему миру и перемещение через границы сотен миллионов беженцев?

Развитие технологий, в свою очередь, повышает вероятность апокалиптических войн – не только из-за усиления напряженности в мире, но и из-за нарушения ядерного баланса между странами. С 1950-х годов супердержавы избегали взаимных конфликтов, потому что знали: война гарантированно приведет к взаимному уничтожению. Но появляются новые виды наступательных и оборонительных вооружений, и набирающая силу технологическая супердержава может решить, что способна безнаказанно уничтожить врага. И наоборот: слабеющая страна будет опасаться, что традиционное ядерное оружие скоро устареет, и решит, что лучше использовать его, пока оно не стало бесполезным. До сих пор ядерное противостояние напоминало в высшей степени рациональную шахматную игру. Но что произойдет, когда игроки получат возможность использовать кибератаки, чтобы захватить контроль над фигурами противника, а анонимные третьи стороны будут двигать пешки так, что соперники даже не догадаются, кто сделал очередной ход?

Помимо того что угрозы, по всей видимости, будут дополнять друг друга, добрая воля, необходимая для противостояния одной угрозе, может быть ослаблена проблемами на другом фронте. Страны, втянутые в вооруженное противостояние, вряд ли договорятся об ограничениях на разработку искусственного интеллекта, а странам, стремящимся превзойти технологические достижения соперников, будет почти невозможно выработать общий план борьбы с изменением климата. В мире, поделенном на конкурирующие нации, человечеству будет очень трудно противостоять сразу всем трем угрозам, а неудача даже на одном фронте легко обернется катастрофой.

В заключение отмечу, что волна национализма, захлестнувшая мир, не может вернуть нас в 1939 или 1914 год. Технология все изменила, создав ряд глобальных угроз существованию человечества, справиться с которыми в одиночку не способна ни одна страна. Общий враг – лучший стимул к формированию новой идентичности, а сегодня у человечества как минимум три таких врага: ядерная война, изменение климата и потенциально опасные технологии. Если, несмотря на эти общие угрозы, люди поставят на первое место национальные интересы, последствия будут гораздо хуже, чем в 1914 или 1939 году.