Макс Тегмарк - Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

Если сама мысль организована в иерархию, охватывающую широкий диапазон различных масштабов, то что можно сказать о власти? В главе 4 мы обсуждали, как разумные сущности естественно организуются в силовые иерархии около состояния равновесия Нэша, и любая сущность будет выбракована, если изменит эту стратегию. Чем более хорошая технология переноса вещества и обработки информации достигается, тем больше может расти иерархия. Если однажды сверхразум достигнет космических размеров, то на что же будет похожа иерархия, обеспечивающая его власть? Будет ли такая иерархия предоставлять независимость своим децентрализованным частям или окажется предельно авторитарной? Будет ли взаимодействие опираться на взаимную выгоду или только на принуждение и угрозы?

Чтобы пролить свет на эти вопросы, давайте рассмотрим кнут и пряник по отдельности: какие существуют стимулы для сотрудничества в космических масштабах, и какие угрозы могут быть использованы, чтобы его обеспечить?

На Земле одним из основных традиционных двигателей кооперации всегда была торговля , потому что относительная сложность производства одних и тех же вещей в разных местах планеты различна. Добыча килограмма серебра в одних местах обходится в 300 раз дороже добычи одного килограмма меди и всего лишь в 100 раз – в других. Поэтому обе стороны выигрывают при обмене 200 кг меди на 1 кг серебра. Если в каком-то регионе значительно лучше развита промышленность, то аналогичным образом обе стороны выиграют при обмене высокотехнологичных товаров на сырье.

Однако если сверхразум разработает технологии, с помощью которых можно легко переупорядочивать элементарные частицы в любую форму материи вообще, то это приведет к устранению основного стимула для ведения торговли на расстоянии. Зачем беспокоиться по поводу доставки серебра между двумя удаленными планетными системами, когда значительно проще и быстрее превращать медь в серебро, переупорядочивая частицы внутри атомов? Зачем беспокоиться по поводу доставки высокотехнологичной техники из одной галактики в другую, когда ноу-хау и сырье (а для этого сгодится любое вещество) имеются в наличии в обоих местах? Я полагаю, что в космосе, взятом под контроль сверхразума, почти единственным товаром, который стоит доставлять на большие расстояния, окажется информация . Единственным исключением может быть вещество, используемое в космических инженерных проектах – например, для противодействия вышеупомянутым разрушительным тенденциям темной энергии разрывать цивилизации. В отличие от традиционной человеческой торговли это вещество может пересылаться в любой удобной форме, даже в виде интенсивного излучения, так как принимающий его сверхразум способен быстро реорганизовать его в любые другие объекты по своему желанию.

Если обмен или торговля информацией выступает как главный мотор космического сотрудничества, то какого рода информация может для этого использоваться? Любая информация может оказаться ценной, если ее производство требует значительных вычислительных усилий и затрат времени. Например, сверхразуму могут потребоваться ответы на сложные научные вопросы о природе физической реальности, сложные математические задачи, теоремы и оптимальные алгоритмы, сложные инженерные вопросы о новых прорывных технологиях. Гедонистические формы жизни могут интересоваться впечатляющими разновидностями цифровых развлечений и симулированными переживаниями, а космическая коммерция может подогревать спрос на ту или иную форму космической криптовалюты в духе биткойна.

Такого рода обмены могут стимулировать поток информации не только между сущностями примерно равной мощности, но и между сущностями на разных уровнях иерархии – скажем, между узлами уровня планетных систем с хабами галактического уровня или узлами галактического уровня с космическим хабом. Узлы могут стремиться к этому ради удовольствия почувствовать себя частью чего-то большего или чтобы получить ответы на сложные вопросы и технологии, которыми они не смогли бы обеспечить себя самостоятельно, а также для защиты от внешних угроз. Они могут также оценить обещания практического бессмертия посредством резервного копирования: как многие люди находят утешение в убеждении, что их души будут жить после физической смерти их тела, продвинутый искусственный интеллект может верить в будущую жизнь своей души и накопленных знаний в хабе суперкомпьютера после того, как его оригинальный физический “хард” истощит запасы энергии.

И наоборот, хабу может потребоваться, чтобы связанные с ним узлы помогли ему в решении вычислительной задачи, требующей больших ресурсов и вычислительного времени, но не требующей результатов срочно, так что не проблема подождать несколько тысяч или миллионов лет ради получения ответов. Как мы видели выше, хаб может также захотеть, чтобы его узлы помогли ему с проведением таких массивных космических инженерных проектов, как противодействие разрушительной темной энергии путем перемещения значительных галактических масс и концентрации их в меньшей области пространства. Если окажется, что возможно создание проходимых кротовых нор, главным приоритетом для хабов, вероятно, станет построение их сети для нейтрализации темной энергии и полной взаимосвязанности всех частей системы (космической империи). Вопрос о возможных окончательных целях космического сверхразума настолько увлекателен, что мы рассмотрим его отдельно в главе 7.

Земные империи обычно принуждали свои провинции к сотрудничеству с помощью кнута и пряника. Хотя подданные Римской империи ценили технологии, инфраструктуру и покровительство, которые они получали в качестве награды за свое сотрудничество, они также боялись неизбежных последствий за проявления непокорности или за неуплату налогов. Из-за того что войска из Рима в отдаленные провинции добирались долго, необходимое возмездие отчасти делегировалось местной власти и ее войскам, уполномоченным осуществлять наказание практически мгновенно. Сверхразумный хаб может использовать аналогичную стратегию и разворачивать сеть верной себе гвардии по всей своей космической империи. Поскольку управление сверхразумными подданными может оказаться нелегким, простейшая жизнеспособная стратегия заключается в том, чтобы использовать AI-гвардию из относительно тупых, но запрограммированных на 100-процентную лояльность машин, находящихся в режиме постоянного мониторинга за соблюдением всех правил при условии их автоматического подрыва при малейшем нарушении.