Тед Чан - Выдох [сборник litres]

Кто за это заплатил? Должно быть, это обошлось в целое состояние.

В середине 1990-х физик Кип Торн ездил с рекламным туром со своей книгой, и я услышал его лекцию, в которой он описывал, что можно – в теории – создать машину времени, подчиняющуюся теории относительности Эйнштейна. Меня это заворожило. Фильмы и телевидение создают у нас впечатление, что машина времени – это транспортное средство, в котором можно ехать, или некий телепортер, передающий вас в другую эпоху. Но Торп описал нечто вроде пары дверей: все, что входит или выходит из одной двери, выйдет или войдет в другую дверь через определенный период времени. Вопросы, связанные с «транспортными» и «передаточными» машинами времени – как насчет движения Земли, почему мы до сих пор не встретили гостей из будущего, – можно было решить при помощи машин такого типа. Еще более интересным был тот факт, что Торн провел некий математический анализ, доказывавший, что подобная машина времени не способна изменить прошлое и что может существовать только одна непротиворечивая временная линия.

В большинстве историй о путешествиях во времени предполагается, что прошлое изменить можно, а те, в которых его изменить нельзя, зачастую трагичны. Нам всем понятно желание изменить прошлое, но я хотел написать рассказ, в котором невозможность сделать это необязательно является поводом для печали. Я подумал, что здесь уместна мусульманская сцена, потому что принятие судьбы – один из основополагающих аспектов ислама. Затем мне пришло в голову, что рекурсивная форма историй о путешествиях во времени неплохо сочетается с «Тысячью и одной ночью», где в историях рассказывают другие истории, и это показалось интересным экспериментом.

У этой истории два совершенно разных источника вдохновения. Первый – рассказ Филипа К. Дика «Электрический муравей», который я прочел подростком. Его герой отправляется на медосмотр к врачу и с изумлением узнает, что на самом деле является роботом. Позже он вскрывает собственную грудную клетку и видит катушку с перфолентой, которая медленно разматывается, выдавая жизненный опыт. Образ человека, в прямом смысле глядящего на свое сознание, навсегда остался со мной.

Второй источник – глава из книги Роджера Пенроуза «Новый ум короля», в которой он обсуждает энтропию. Он говорит, что в некотором смысле некорректно утверждать, что мы едим пищу, поскольку нам необходима заключенная в ней энергия. Закон сохранения энергии означает, что энергию нельзя создать и нельзя уничтожить; мы постоянно излучаем энергию, примерно с той же скоростью, с которой поглощаем ее. Различие состоит в том, что излучаем мы тепловую энергию, у которой высокая энтропия, то есть степень неупорядоченности. У химической энергии, которую мы поглощаем, энтропия низкая, то есть эта энергия упорядочена. По сути, мы потребляем порядок и производим беспорядок; мы живем, повышая неупорядоченность вселенной. Мы можем существовать лишь потому, что вселенная возникла в высокоупорядоченном состоянии.

Идея простая, но я никогда не видел, чтобы ее излагали таким образом, пока не прочел объяснение Пенроуза. Я хотел посмотреть, получится ли изложить ее в художественной форме.

У «Монти Пайтона» есть сценка про шутку, такую смешную, что каждый, кто ее услышит или прочтет, умирает от смеха. Это пример старинного тропа, который называют «мотивом губительного ощущения», идеи о том, что можно умереть, просто услышав или увидев что-то. Или, в некоторых версиях, поняв. В сценке «Монти Пайтона» англичане могут спокойно пересказывать шутку на немецком, если не понимают, что говорят.

В большинстве разновидностей этого тропа используется сверхъестественный элемент; например, в ужасах часто упоминаются проклятые книги, которые сводят людей с ума. Я задумался, а существует ли несверхъестественный его вариант, и мне пришло в голову, что веский аргумент в пользу бессмысленности жизни может сработать. Не сразу – потребуется время, чтобы осознать его, но это лишь означает, что он распространится шире: люди будут в процессе размышлений пересказывать его другим.

Разумеется, даже самый непробиваемый аргумент не убедит каждого, кто его услышит. Аргументы слишком абстрактны, чтобы поколебать большинство людей. А вот наглядная демонстрация – другое дело.

В научной фантастике полно искусственных созданий, которые, подобно Афине из головы Зевса, появляются на свет полностью сформированными, но я не верю, что с сознанием такое возможно. Если верить нашим исследованиям человеческого разума, на получение полезного существа уходит не меньше двадцати лет, и я не вижу причин, по которым обучение искусственного интеллекта должно идти быстрее. Я хотел написать рассказ о том, что может случиться за эти двадцать лет.

Меня также интересовала идея эмоциональной связи между людьми и ИИ, причем я не имею в виду человеческую страсть к секс-роботам. Реальными отношения делает не секс, а желание эти отношения поддерживать. Некоторые влюбленные расстаются после первой серьезной ссоры; некоторые родители тратят на детей лишь необходимый минимум усилий; некоторые владельцы домашних животных не обращают внимания на своих любимцев, когда те им мешают. Во всех этих случаях люди не хотят стараться. Настоящие отношения – с возлюбленным, ребенком или домашним питомцем – требуют согласия сопоставлять желания и нужды партнера со своими собственными.

Я читал произведения, в которых люди утверждают, что ИИ заслуживает юридических прав, однако, сосредоточившись на крупном философском вопросе, истории эти приглаживают обыденную реальность. Сходным образом фильмы всегда показывают любовь в романтическом свете, в то время как в долгосрочной перспективе любить также означает решать финансовые проблемы и собирать грязное белье с пола. И потому, хотя признание юридических прав ИИ станет важным шагом, не меньшее значение имеют усилия, которые люди вкладывают в личные отношения с ИИ.

И даже если нам плевать на их права, есть еще одна причина относиться к разумным машинам с уважением. Необязательно считать, что обученные находить бомбы собаки заслуживают права голоса, чтобы понимать: не следует их обижать. Даже если вас волнует только то, насколько хорошо они умеют отыскивать бомбы, в ваших интересах обращаться с ними лучшим образом. И вне зависимости от того, в какой роли мы хотим видеть ИИ – работников, возлюбленных или домашних питомцев, – думаю, они справятся лучше, если в ходе обучения найдутся люди, которые будут о них заботиться.