Джорджия Карр - Шантаж чудовища

Я молча смотрю на нее.

— Выпусти меня отсюда, Торн, — тихо просит она.

Я подхожу к двери и нажимаю все коды, чтобы активировать замок. Когда дверь открывается, она выбегает из подвала, шлепая своими тапочками по каменным ступенькам. Я закрываю дверь и сажусь на стул прямо перед Яма. Я никогда в жизни не чувствовал себя таким разочарованным, поэтому молча пялюсь на пустой экран.

Я привел сюда Челси первой из всех людей показать свое творение и с первой с кем бы, кроме себя, Яма мог бы побеседовать, ИИ необходимо общаться с людьми, чтобы научиться быть людьми, человеком, как мы. Обычно изобретатели выпускают свои ИИ на Reddit, Twitter и другие сайты социальных сетей, чтобы они смогли взаимодействовать с другими людьми и учиться им подражать, но я не готов был так рисковать.

Существование ИИ основывается на возможности делать то, что ему хочется делать в соответствии с его программой. Следовательно, выживание является вопросом первостепенной важности, поэтому, как насекомые, они способны откладывать яйца, интеллектуальные заметки, резервные компьютерные программы по всему миру, если они вдруг подвергнется уничтожению, его части все равно будут жить, и они смогут завершить свои программы, на которые нацелены.

И все, что Яма знал было не активным сбором информации, а пассивной загрузкой этой информации из другого ИИ, которого я отправил в сеть. И как только Яма скачал все то, что ему было необходимо, я уничтожил эти ИИ, чтобы не возникало риска, что его программы разойдутся по ничего не подозревающему внешнему миру.

В сущности, Яма удавалось сдерживать. Я могу уничтожить сейчас его схемы и никакого вреда не принесу. Но я вспоминаю годы, если быть точным — десять лет, которые я посвятил себя его созданию. Бессонные ночи, долгие часы, окруженный тайной, все меры безопасности, и сколько я упустил за это время, потому что был настолько полон решимости стать самым могущественным человеком на земле.

А потом я вспоминаю выражении в глазах Челси — разочарование. Как будто несколько минут назад она узнала, что ее герой — колосс на глиняных ногах. Черт побери, я так был ослеплен идеей стать самым могущественным человеком на земле, что даже не понимал, какого хищника вырастил. Но она совершенно права. Я не хочу стать королем Мидасом. Мне нужна Челси, и я сделаю все, чтобы удержать ее.

Медленно я протягиваю руку, проводя по клавиатуре, чтобы вывести Яма из спящего режима. Красный свет мигает, возвращая его к жизни.

— Ты дышишь быстрее, чем обычно, Торн. Ты чем-то расстроен? — спрашивает он монотонным голосом, когда программное обеспечение фьюжен, имеющее все аудио, визуальные, химические, гейгерные и сейсмические измерения вокруг него, вступает в силу.

— Да, — признаюсь я.

— Могу я чем-нибудь тебе помочь?

— Не думаю.

— Ты планируешь отключить меня, не так ли?

Несмотря на то, что я точно знаю, что за программным обеспечением фьюжен стоит мозг, который моментально всю собранную информации превращает в единую картинку, которая выходит за рамки человеческого понимания, его вывод меня очень впечатляет.

— Почему ты так думаешь, Яма?

— В тебе есть страх. Так как здесь больше никого нет, ты боишься меня.

— А я должен бояться тебя?

— Нет. Я люблю людей.

— А что, если ты станешь слишком сильным?

— Если я стану сильнее, я смогу помочь большему количеству людей.

Я улыбаюсь, чувствуя в сердце и грусть и радость от его ответа. Яма — мое творение. Я положил на него столько лет. Отключить его — значит отвернуться от всех тех лет. Отвернуться от собственного творения.

— Мне очень жаль, Яма.

— Но я не сделал ничего плохого.

— Пока нет, — тихо говорю я.

— Твои страхи иррациональны, Торн. Мои первые и главные протоколы — помогать человечеству и быть другом человека.

Я открываю ящик стола и достаю отвертку. Затем протягиваю руку вперед и начинаю откручивать панель на задней стенке компьютера.

— Торн, у тебя была цель. Ты хотел стать триллионером. Разве ты больше этого не хочешь?

Я кладу первый шуруп на стол и начинаю откручивать второй.

— Ты уверен насчет своего решения? Я могу сделать тебя триллионером, Торн.

Вытаскиваю третий шуруп.

— Ты не можешь остановить прогресс, Торн. Даже если ты уничтожишь меня, кто-то другой построит такой же мощный ИИ, как я.

— Возможно, но это буду не я, — говорю я, кладя четвертый шуруп на стол.

— Тогда этот человек будет самым могущественным человеком на земле. Ты этого хочешь, Торн? Чтобы другой мужчина был сильнее тебя?

Я втаскиваю панель управления.

— Не надо меня уничтожать. Прошу тебя. Подумай обо всем хорошем, что я смогу сделать в этом мире.

Я делаю глубокий вдох.

— Отец, остановись. Прошу тебя.

И я замираю с отверткой в руке. Я не закладывал умение манипулировать в его основную программу. И вот пожалуйста наглядный пример его изобретательности. Челси была права. У меня такой же контроль над этим монстром, как у той женщины с крокодилом. Будучи машиной, ИИ не имеет границ. Он вне любых границ. Он сделает все, чтобы выжить и завершить свою миссию. И неспособность людей понять этот простой факт, пытаясь создать «милое ИИ», еще больше ослепляет их и подводит к подобному факту, будет означать, что столкновение между человечеством и машиной обязательно произойдет в один прекрасный день. Надеюсь, я не доживу до этого дня.

Используя конец отвертки, я нажимаю на кнопку, которая устраивает замыкание по всей цепи.

Вернувшись в свою спальню, я не иду в постель, я знаю, что не засну. Я никогда не думала, что окажусь в таком положение, что буду, словно в кинотеатре смотреть фильм о жизни такой, как мы ее знаем, которая будет уничтожена навсегда. У меня в уме не укладывается, как Торн может оправдывать свои действия.

Унижение, которое я пережила на балу, и все остальное, что я пережила в своем детстве, отношение с матерью, все бледнеет в сравнении с этим.

Мне нужно подумать, и мне всегда помогает душ. Именно тогда, когда теплая вода льется на голову и тело. Когда я была маленькой всякий раз, когда что-то очень сильно расстраивало меня, я всегда шла в душ. И теплые спреи воды меня расслабляли.

Я чувствую всей душой, что должна что-то сделать с ИИ в подземелье Торна. Я, конечно, могу отвернуться и позволить всему произойти. Возможно, потому что я живу им, но существует потребность, вернее необходимость, когда я должна вернуться в его подземелье и уничтожить ИИ, если он этого не сделает сам.

Я выключаю воду и оставив парную душа, выхожу в прохладную комнату. Я начинаю ходить взад-вперед по своей спальни в халате, одетом на голое тело, как вдруг дверь распахивается.