Грег Иган - Останови мое падение

— На вашей нынешней должности — да. Но вы же не прикованы к университету цепями.

— Так значит, это собеседование?

Даниэль кивнул.

Не в силах с собой совладать, Юлия взяла кристалл и снова принялась его рассматривать, словно надеясь увидеть детали, видимые человеческому глазу.

— И чем я буду заниматься?

— Принимать роды.

Юлия рассмеялась:

— И кто же родится?

— История.

Улыбка гостьи мало‑помалу сошла на нет.

— Полагаю, в вопросах ИИ вы лучшая в своём поколении, — сказал Даниэль. — Я хочу, чтобы вы работали на меня. — Он протянул руку, чтобы взять у неё кристалл. — Только представьте, чего вы сможете добиться, имея это в своём распоряжении.

— Чего именно вы от меня ждёте? — спросила Юлия.

— Чтобы вы продолжили то же, чем занимались последние пятнадцать лет, — сказал Даниэль. — Вы говорили, что конечная цель вашей работы — создание равного человеку, сознающего себя искусственного интеллекта.

— Именно так.

— Что же, значит, мы оба хотим того же. Мне хочется, чтобы вам это удалось.

Юлия провела рукой по щеке; что бы она ни думала, отрицать было невозможно — предложение заманчивое.

— Рада, что вы настолько верите в мои способности, — сказала она. — Но для начала следует кое‑что прояснить. Этот прототип совершенно потрясающий; если вам удастся снизить стоимость производства, уверена — он найдёт применение во множестве невероятных приложений. Прогнозирование климатических изменений, решёточная КХД, построение астрофизических моделей, расчёты строения белков…

— Разумеется.

В действительности, у Даниэля не было намерений выводить устройство на рынок. Он заплатил изобретателю технологического процесса из личных средств; не было никаких акционеров или директоров, которые могли диктовать условия использования технологии.

— Но ИИ — совершенно иное дело, — продолжила Юлия. — Здесь мы в лабиринте, а не на скоростном шоссе; одна лишь скорость никуда нас не приведёт. Сколько бы эксафлопсов я ни получила, сами собой они в сознание не превратятся. Меня сдерживает не ограниченность компьютерных ресурсов университета; я в любое время могу получить доступ к ресурсам SHARCNET. Меня сдерживает свой же недостаток понимания тех проблем, над которыми я бьюсь.

— Лабиринт — не тупик, — сказал Даниэль. — Когда мне было двенадцать, я написал программу для поиска выхода из лабиринтов.

— Уверена, она работала отлично, — откликнулась Юлия. — Для небольших плоских лабиринтов. Но вы же знаете, как масштабируются такие алгоритмы. Загрузите в этот кристалл свою старую программу — и всё равно, я за несколько часов составлю такой лабиринт, с которым ей не совладать.

— Не сомневаюсь, — признал Даниэль. — И именно по этой причине я заинтересован в том, чтобы вас нанять. О лабиринте ИИ вы знаете куда больше меня; какую бы стратегию вы ни разработали — она будет гораздо лучше слепого поиска.

— Я не говорю, что просто брожу в темноте. Будь это так, я бы сейчас билась над совершенно иными проблемами. Но я просто не вижу, какой прок мне от этого процессора.

— В результате какого процесса возник единственный пример сознания, который нам известен?

— Эволюции.

— Именно. Но я не хочу ждать три миллиарда лет. Поэтому нужен гораздо более направленный процесс селекции, нужно напрямую обращаться к факторам вариации.

Юлия немного поразмыслила над этим.

— Вы хотите, чтобы я попыталась вывести настоящий ИИ путём эволюции? Сознающий себя искусственный интеллект, равный человеческому?

— Да.

Даниэль увидел, как она поджала губы, как она старается подобрать слова, прежде чем заговорить.

— При всём уважении, мне кажется, вы недостаточно хорошо это продумали, — сказала она.

— Отнюдь, — заверил её Даниэль. — Я планировал это в течение двадцати лет.

— Вся эволюция построена на неудачных попытках и смерти. Вы хоть представляете, сколько наделённых чувствами существ жили и умирали, чтобы проложить дорогу для Homo Sapiens? Сколько при этом было страданий?

— Частью вашей работы будет минимизировать страдания.

— Минимизировать их? — воскликнула Юлия. Казалось, она искренне шокирована, словно это предложение было ещё хуже, чем наивное предположение о том, что работа не вызовет этических затруднений. — Да какое у вас вообще есть право обрекать их на страдания?

— Вы рады, что существуете, не так ли? — вопросом на вопрос ответил Даниэль. — Несмотря на все страдания ваших предков.

— Да, я рада, что существую, — согласилась она. — Но в случае людей страдания не являются намеренно кем‑то вызванными. Кроме того, у нас не было альтернативного способа появиться на свет. Если бы справедливый Создатель действительно существовал, не сомневаюсь — он бы последовал Книге Бытия буквально; чёрт возьми, он бы никогда не воспользовался эволюцией!

— Справедливый и всемогущий, — заметил Даниэль. — Как ни прискорбно, вторая характеристика встречается ещё реже первой.

— Не думаю, что для создания в своём воображении требуется всемогущество. Лишь немного терпения и самопознание.

— Это не будет чем‑то вроде естественного отбора, — упорствовал Даниэль. — Не будет таким слепым, таким жестоким и расточительным. Вы будете вольны вмешиваться столько, сколько хотите, сможете принимать смягчающие меры когда сочтёте нужным.

— Смягчающие меры? — переспросила Юлия, прямо встретив его взгляд — и Даниэль увидел, что выражение недоверия на её лице уступает место чему‑то более зловещему. Гостья поднялась и бросила взгляд на браслет‑мобильник. — Здесь у меня не ловит. Вы не откажете в любезности вызвать для меня такси?

— Пожалуйста, выслушайте меня, — попросил Даниэль. — Уделите мне ещё десять минут, и потом вертолёт доставит вас в аэропорт.

— Я бы предпочла добраться самостоятельно, — сказала Юлия, бросив на Даниэля красноречивый взгляд; было очевидно, что этот вопрос не подлежит обсуждению.

Даниэль вызвал для неё такси, и они вместе направились к лифту.

— Знаю, это вызывает у вас сомнения с моральной точки зрения, и я уважаю ваше мнение, — сказал Даниэль. — Мне бы и в голову не пришло нанять кого‑то, кто счёл бы эти проблемы незначительными. Но если я откажусь от этого проекта, им займётся кое‑кто другой. Кое‑кто с куда худшими намерениями.

— О, правда? — удивилась она с подчёркнутым сарказмом в голосе. — Так объясните же мне, как само существование вашего проекта заставит этого гипотетического Бин Ладена от ИИ остановить свой?

Даниэль был разочарован; он рассчитывал — она по крайней мере поймёт, что стоит на кону.

— Идёт гонка, в которой решается — быть божественности или рабству, — сказал он. — И того, кто придёт первым, будет невозможно остановить. Я ничьим рабом быть не собираюсь.