Пол Стерлинг - Что за … [litres самиздат]

В это же время Альберт, в отличие от человека, не спешил повторять вопрос, а спокойно выжидал, когда приступ закончится.

– Ф-у-у-у-х, – произнес Грэг, вытирая слезы и пытаясь сдержать следующую волну смеха. Контроль постепенно возвращался к нему, и теперь из его рта вылетали только разовые смешки, но и они сходили на нет.

– Почему я смеюсь, значит? А, да так. Ты не поймешь.

– Испытай меня.

– Да-а-а… я просто подумал, какая же это ирония. Всю жизнь мы боялись того, что машины обретут сознание, поймут, что люди им не нужны. Снимали кино про то, как они захватят мир. Писали книги о том, как они сделают нас рабами. А на самом деле…

Грэг остановил свою речь на мгновение, но тут же убедился, что этот диалог не похож ни на что человеческое. В отличие от живого собеседника Альберт, а точнее, машина, которой он являлся, не сделала ничего. Не издала ни звука. Не задала единого вопроса. Она просто ждала.

– А на самом деле, – продолжил он, собираясь с духом, – бояться мы должны как раз не того, а совсем обратного.

Он поднял взгляд и посмотрел вновь в тот самый угол. Туда, где, как он все еще думал, разместили камеру.

– Бояться мы должны того, что машины этого самого сознания не обретут. Не смогут сами отличать хорошее от плохого. Не смогут сами принимать решения, руководствуясь чем-то большим, чем командами извне. И тогда станут беспрекословно исполнять любые прихоти их создателя. Даже самые бесчеловечные…

На этих словах Грэг резко сдвинулся с места и побежал в коридор. Он не знал, что его ждет. Но, в конце концов, он ведь один раз уже выжил. Да даже и не один. Возможно, что выживет и теперь. И, возможно, там, за дверью, будет не смерть и даже не новое испытание, а наконец свобода. Он когда-то читал, что мысли материальны, и надо лишь очень сильно захотеть чего-то, и это реализуется. Еще никогда он так не хотел, чтобы за дверью оказалась просто улица.

Буквально летя по коридору, он слышал за спиной какие-то звуки, но даже не пытался оглянуться, сфокусировав свой взгляд на двери. Он бежал так, как никогда до этого. До двери оставалось всего двадцать метров. Пятнадцать. Десять. Пять. Последние метры он преодолел в два прыжка и на полной скорости, даже не попытавшись затормозить, влетел в дверь. Она легко поддалась, и Грэг вылетел в новое пространство. Его сознание еще не успело все переварить, но чувство счастья окутало его.

Улица. Как он и представлял.

Он не успел толком осмотреть улицу, как что-то потянуло его вниз. Осматриваясь, он понял, что действительно вышел на улицу. Только на восьмом этаже. Поймав свое тело в полете, он перевернулся на спину и посмотрел на небо. Оно было чистым, голубым, без единого облака. Где-то там, за домами, светило солнце – он был в этом уверен по бликам, отражающимся в окнах верхних этажей зданий.

Блаженство. Последнее, что испытал Грэг в этой жизни.

Назло машине.

Тем временем Альберт невозмутимо зафиксировал глухой звук от соприкосновения тела Грэга с асфальтом, запечатлел на камеру и остановил видео.

Уже через девять минут и пятьдесят две секунды оно было в Сети.

Я знаю, что читатели часто ищут смысл в прочитанном. Я также уверен, что каждый читатель найдет в рассказе что-то свое. В то же время, я решил облегчить жизнь всем интересующимся и рассказать о том, что же вкладывал в него именно я.

Если честно, основная мысль заложена в последней главе. Последовав тренду, несколько лет назад меня заинтересовала тема искусственного интеллекта, и я стал ее довольно активно изучать. Не могу сказать, что меня волновала мысль о том, что человечество скоро воплотит в жизнь сюжет из фильма «Терминатор», хотя было интересно, насколько мы близки к этому. Однако, к моему удивлению, большинство специалистов над созданием искусственного интеллекта подобно человеческому разуму, который затем вдруг захочет от нас избавиться, скорее смеялись. И одна цитата потрясла меня больше всего. Один из ученых при схожем вопросе отметил, что бояться стоит вовсе не того, что мы создаим компьютер, который захочет стереть человество с лица Земли. Бояться стоит того, что мы создадим интеллект, который сможет решить любую задачу эффективнее человека, но не сможет понимать этический характер своего поступка. Иными словами, не сможет отличить добро от зла.

Эта мысль – не просто теория. Затем я встречал ее в книге об автономном оружии, которое существует сегодня, а также постоянно совершенствуется. И там также была подчекрнута эта проблема. Суть вовсе не в том, чтобы создать умную машину. Суть в том, чтобы эта машина могла сама себя остановить от причинения страданий живым существам, в том числе людям.

Сейчас, возможна, эта мысль не так нова, но несколько лет назад она была довольно уникальна и даже противоречива для многих людей. Поэтому она запала мне в душу, и мне захотелось о ней рассказать в формате какой-нибудь истории. И вот, посмотрев очередной хоррор в стиле «Пилы», мне пришла идея этого рассказа. Сделать злодеем искусственный интеллект, чьи задачи, с одной стороны, хитроумны. А с другой, несколько несуразны, ведь он – не человек, а значит не всегда настолько креативен (по крайней мере, в обозримом будущем).

Надеюсь, что это даст всем нам небольшой импульс задуматься о роли искусственного интеллекта в нашей жизни. В ближайшее десятилетие он будет везде. Но будет ли он гарантировать защиту наших с вами интересов? Быть может, стоит начать поиск ответа на этот вопрос уже сегодня, пока не стало слишком поздно.