Макс Тегмарк - Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

Выше мы рассмотрели как весьма вероятную возможность, что мы в нашей Вселенной – единственная высокоразвитая цивилизация. Давайте посвятим оставшуюся часть главы изучению этой возможности и той огромной моральной ответственности, которую она за собой влечет. По прошествии 13,8 миллиардов лет жизнь в нашей Вселенной оказалась у развилки, когда надо выбирать между космическим процветанием и самоуничтожением. Если мы не станем дальше улучшать наши технологии, то вопрос будет состоять не в том, суждено ли человечеству вымереть, а в том, как именно вымирание осуществится. Что достанет нас первым – астероид, супервулкан, жар стареющего Солнца или какое-то другое бедствие (см. рис. 5.1)? В наше отсутствие космическая драма, описанная Фрименом Дайсоном, будет разыгрываться уже без зрителей: избавление от космокалипсиса, выгорание звезд, угасание галактик и испарение черных дыр – каждый акт этой пьесы завершится колоссальным взрывом, высвобождающим в миллионы раз больше энергии, чем Царь-бомба, самая мощная водородная бомба из когда-либо построенных. Как писал Дайсон: “Холодная, расширяющаяся Вселенная будет еще долго подсвечиваться случайными фейерверками”. Увы, эти фейерверки будут бессмысленным переводом энергии, там не будет никого, кто мог бы насладиться ими.

Без развития технологий нашего человеческого вымирания не надо будет долго ждать, и в космологическом контексте протяженностью в десятки миллиардов лет весь драматизм нашей жизни во Вселенной предстанет лишь краткой вспышкой красоты, страсти и смысла в близком к вечности бессмысленном и бессубъектном переживании. Что это будет за упущенная возможность! Если вместо отказа от технологий мы решим развивать их, тогда повышаем наши ставки: на кону наша жизнь, и в случае выигрыша мы продолжаем жить и процветать, а в случае проигрыша уходим со сцены даже быстрее, разрушая себя неправильным планированием (см. рис. 5.1). Я отдаю свой голос за технологии, и мой выбор определяется не слепой верой в то, что мы строим, но осторожностью, дальновидностью и тщательным планированием будущего.

По прошествии 13,8 миллиардов лет космической истории мы оказываемся в умопомрачительно красивой Вселенной, которая через нас, людей, стала живой и начала осознавать себя. Мы видели, что потенциал будущей жизни в нашей Вселенной грандиознее, чем самые смелые мечты наших предков, но его омрачает столь же реальная опасность для разумной жизни погибнуть навсегда. Реализует ли жизнь свой потенциал в нашей Вселенной? В значительной степени это зависит от того, что мы, люди, живущие сегодня, сделаем за отведенный нам век. Я оптимист, и я уверен, что мы можем сделать будущую жизнь действительно прекрасной, выбрав сегодня правильный путь. Чего мы должны хотеть, и как мы можем этого добиться? Давайте потратим остальные части книги обсуждению некоторых из наиболее сложных проблем и наших возможностей в их решении.

• По сравнению с космическими сроками в миллиарды лет интеллектуальный взрыв длится мгновение, за которое технологии выходят на плато, где их ограничивают только законы физики.

• Это технологическое плато расположено значительно выше, чем любые сегодняшние технологии; достигнув его, мы сможем, взяв то же количество вещества, генерировать в десятки миллиардов раз больше энергии (используя сфалероны или черные дыры), хранить на 12–18 порядков больше информации, проводить на 31–41 порядок больше вычислений в единицу времени или преобразовать это вещество в любую другую желаемую форму.

• Сверхразумная жизнь не только радикально увеличивает эффективность использования имеющихся ресурсов, но и ускоряет рост биосферы на 32 порядка, что открывает доступ к дополнительным ресурсам посредством космического расселения со скоростью близкой к скорости света.

• Темная энергия ограничивает космическую экспансию сверхразумной жизни, но в то же время защищает ее от раздувающихся вдали пузырей смерти или враждебных цивилизаций. Угроза темной энергии, раздирающей космические цивилизации, мотивирует на осуществление массивных космических инженерных проектов, включая строительство кротовой норы, если это будет возможным.

• Основой товарных отношений на космических расстояниях станет обмен информацией.

• Если создание кротовой норы окажется невозможным, то ограничение скорости обмена информацией скоростью света создаст серьезные проблемы в координации и управлении внутри космической цивилизации. Удаленный центральный хаб может стимулировать искусственный интеллект связанных с ним узлов к сотрудничеству наградами или угрозами, например развертывая локальную AI-гвардию, которая может быть запрограммирована так, чтобы уничтожать не подчиняющиеся правилам узлы, превращая материнскую звезду в местной планетной системе в сверхновую или квазар.

• Встреча двух расширяющихся цивилизаций может привести к ассимиляции их, к сотрудничеству между ними или войне, причем последнее, возможно, менее вероятно, чем война между сегодняшними цивилизациями.

• Несмотря на широко распространенное мнение, что мы не одиноки во Вселенной, справедливо, вероятно, противоположное, и только наша цивилизация в будущем может сделать нашу Вселенную живой.

• Если мы не будем улучшать наши технологии, речь будет идти не о том, погибнет ли человечество, а о том, каким образом оно погибнет: будет ли астероид, супервулкан, нарастающий жар стареющего Солнца или какое-то другое бедствие непосредственной причиной нашей гибели.

• Если мы продолжим улучшать наши технологии с достаточной осмотрительностью, прогнозируя последствия возможных ошибок, дабы не совершать их, у земной жизни есть колоссальный потенциал к процветанию как на Земле, так и далеко за ее пределами на протяжении миллиардов лет, о чем не могли мечтать самые дерзкие из наших предков.

Если бы мне надо было одним словом выразить, в чем сложность AI-спора, я бы выбрал слово “цели”. Должны ли мы определить цели для искусственного интеллекта? И если да, то какие именно цели? Кто сможет поставить эти цели? Сможем ли мы убедиться, что эти цели сохранятся даже при развитии искусственного интеллекта? Сможем ли мы изменить цели, если AI станет умнее нас? Какие наши основные цели?

Эти вопросы не только сложны – они основополагающи для будущего жизни: если мы не знаем, чего хотим, маловероятно, что мы сможем этого достичь, а если мы передадим контроль машинам, которые не разделяют наших целей, то, скорее всего, мы получим совсем не то, чего бы нам хотелось.