Макс Тегмарк - Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

Но как же все-таки велик этот будущий потенциал? Как бы далеко ни заходили наши технологии, способность Жизни 3.0 к самосовершенствованию и к распространению в космосе по-прежнему будет ограничена законами физики. Но где именно пройдут эти границы? Есть ли внеземная жизнь в космосе уже сейчас, или мы в нем одиноки? Что произойдет, когда различные цивилизации, претендующие на экспансию в космосе, встретятся? Мы займемся этими увлекательными вопросами в следующей главе.

• Если когда-нибудь нам удастся создать AGI человеческого уровня, за этим может последовать интеллектуальный взрыв, и мы в результате останемся далеко позади.

• Если группа людей совладает с управлением этим интеллектуальным взрывом, то эти люди смогут в течение нескольких лет взять в свои руки власть над всем миром.

• Нынешние настойчивые попытки создать AGI в случае успеха могут иметь поразительно широкий спектр последствий, складывающихся в несколько типических сценариев на предстоящие тысячелетия.

• Сверхразум может мирно сосуществовать с людьми, либо потому, что принужден к этому (сценарий плененного бога), либо потому, что так хочет его “дружественный искусственный интеллект” (сценарии либертарианской утопии, бога-защитника, благодетельного диктатора или зоопарка).

• Создание сверхразума может быть предотвращено или искусственным интеллектом (сценарий стража), или людьми (сценарий 1984) путем намеренного забвения результатов технологического прогресса (сценарий возврата) или исключением стимулов к его созданию (сценарий эгалитарной утопии).

• Человечество может пойти по пути полного вымирания и либо оказаться замененным AGI (сценарии благодарных потомков и завоевателей), либо исчезнуть без следа (сценарий самоуничтожения).

• Нет абсолютно никакого согласия относительно того, какой из этих сценариев был бы для нас желательным, и вообще – есть ли такой среди них. У каждого сценария находятся свои отрицательные стороны. Тем более необходимо продолжать обсуждение наших будущих целей и углублять повестку такого обсуждения, разговор вокруг, чтобы мы случайно не двинулись в нежелательном направлении.

На мой взгляд, наиболее вдохновляющее из когда бы то ни было сделанных научных открытий заключается в том, что мы хронически недооцениваем будущий потенциал жизни. Нет нужды ограничивать наши устремления и мечты отрезком в сотню лет, отведенных для жизни среди болезней, нищеты и невежества. Напротив, благодаря развитию технологий жизнь получает возможность процветать миллиарды лет, и не только здесь, в Солнечной системе, но и по всему космосу, гораздо более интересному и необъятному, чем могли себе представить наши предки. Ему даже небо не предел.

Это потрясающая новость для биологического вида, которому удается отодвинуть границы своего существования на много веков. Олимпийские игры замечательны тем, что отодвигают границы человеческих возможностей – силы, скорости, ловкости и выносливости. Наука раздвигает границы в познании и понимании мира. Литература и другие виды искусства открывают нам новые границы в создании прекрасного и обогащают жизненный опыт. Многие люди, организации и нации знамениты своим вкладом в разработку новых ресурсов, территорий и возможностей продления жизни. Принимая во внимание нашу одержимость в преодолении всевозможных границ, новый результат вполне достоин внесения в одну из самых продаваемых книг, защищенных копирайтом, – Книгу рекордов Гиннеса .

Таким образом, если известные нам ранее границы нашей жизни могут быть раздвинуты с помощью технологий, то каковы же могут быть ее настоящие пределы? Сколь большая часть космоса может быть пригодна для жизни? Как много вещества жизнь может обратить себе на пользу? Как много энергии и информации может она из него извлечь, как много вычислений с его помощью произвести? Эти окончательные пределы должны не возникать из наших догадок и логических построений, а определяться законами физики. И отсюда, как ни странно, нам легче понять далекую перспективу будущей жизни, чем близкую.

Если всю нашу 13,8-миллиардолетнюю космическую историю сжать в одну неделю, то все 10 тысяч лет последних двух глав займут в ней не более полусекунды. Это означает, что, хотя мы и не можем предсказать, как будет развиваться интеллектуальный взрыв, случится ли он вообще и какими могут быть его непосредственные последствия, вся эта заваруха окажется не более чем едва заметным мерцанием в космической истории, подробности которого никак не отразятся на окончательных границах жизни. Если жизнь после взрыва будет так же озабочена отодвиганием границ, как наша нынешняя, то она и станет заниматься созданием таких технологий, чтобы границы окончательно заняли свое место, – потому что для нее это возможно. В этой главе мы разберемся, где проходят эти границы, и попробуем навскидку понять, на что они могут быть похожи. Ибо положение этих границ зависит от нашего нынешнего понимания физики, то есть мы взглянем на нижнюю границу возможностей: научные открытия будущего могут открыть возможности для дальнейшего ее смещения.

Но знаем ли мы наверняка, что будущая жизнь и в самом деле будет столь амбициозна? Нет, мы этого не знаем. Может быть, она станет самодовольной, словно героинист или лежебока, раз за разом пересматривающий телесериал Keeping Up with the Kardashians . Но у нас, тем не менее, есть основания подозревать, что амбициозность для развитых форм жизни – это нечто вроде генетической особенности. И почти независимо от того, в чем именно она пытается достичь предела – в разуме, продолжительности жизни, познании или острых ощущениях, ей понадобятся ресурсы. А поэтому ей придется развивать технологии, доводя их возможности до окончательного предела и занимая все большие и большие пространства в космосе.

Мы можем также предположить, что жизнь независимо возникает во множестве разных мест в космосе. В этом случае неамбициозные цивилизации просто станут космически несущественны, а самую привлекательную часть космоса будут захватывать наиболее амбициозные формы жизни. Естественный отбор станет работать уже в космическом масштабе, и рано или поздно все оставшиеся формы жизни будут амбициозными. В итоге, интересуясь пределами, в которых наш космос может стать в конце концов обитаемым, мы должны изучить пределы этих амбиций, допустимые законами физики. Так давайте сделаем это! Давайте сначала посмотрим, что можно сделать с ресурсами – веществом, энергией и т. п., какие у нас есть в Солнечной системе, а затем посмотрим, до каких ресурсов мы можем добраться благодаря космическим исследованиям и космическим поселениям.