Леонид Резников - 2120. Ловушка для AI

– Вы против прогресса, господин Васильев?

– Я против навязывания людям пустых и вредных влечений не знаю уж в чью угоду. Человечество приучили стремиться к обладанию массой совершенно ненужных и бесполезных вещей. И здесь возникает законный вопрос: кому это нужно? Человеку? Или тому, кто имеет с этого выгоду?

– Я понял вас. – Интеллект сделал небольшую паузу, будто брал передышку на переваривание информации. Глупость, конечно, при его-то мощностях, но мне так показалось. – Тогда еще один немаловажный вопрос: чем вам не угодил искусственный интеллект?

– Отсутствием меры, – ответил я, не задумываясь.

– Как-как? – в голосе машины послышалось недоумение.

– Именно отсутствием меры. Я вовсе не против интеллекта и ни в коей мере не отношу себя к машиноборцам. Но машина, как мне кажется, должна быть помощником человеку, а не заменой его собственного мышление.

– Поясните свою мысль.

– Поясняю: если я хочу посмотреть телевизор, то мне достаточно для этого найти нужный канал, а не вступать в пустые прения с телевизором, доказывая ему, что передача меня не интересует, и рейтинги ее – тем более. Мне не нужен интеллект в чайнике или в стиральной машине, работающий на своего производителя. Я совершенно свободно могу сам себе купить продукты, а не перекладывать эту обязанность на холодильник, особенно учитывая, что он меня ни о чем не спрашивает. Я хочу сам крутить баранку своей машины, и не желаю, чтобы за меня это делал мудреный процессор.

– Разве это плохо?

– Очень плохо! К примеру, вождение – это искусство, требующее определенной подготовки, знаний и опыта. Автомобиль необходимо чувствовать, ощущать, как бьется его железное сердце, слышать его радости и боли, слиться с ним, сделать его своим продолжением, а не быть его бесполезным придатком. Это тоже своего рода радость – радость ощущения некоей малой победы над природой, которая не даровала человеку возможность быстрого передвижения. Но вождение и большая ответственность: за пассажиров, которые находятся рядом с тобой, за других людей. Ответственность помогает человеку осмыслить себя, свое поведение, воспитывает самоконтроль. Безответственность и безнаказанность, наоборот, ведет к наплевательскому отношению к окружающим, человек ощущает ложное превосходство над другими – это плохо.

– Бесспорно. Но, предположим, что плохого в том, что экскаватор сам выкопает траншею, без человека? Ведь искусственный интеллект справится с этой задачей не хуже человека? А, возможно, и лучше.

– А что в таком случае делать человеку? Чахнуть от безделья, увлекая себя всякими примитивными глупостями, теряя навыки и превращаясь в немощного младенца, который без мудрого родителя шагу ступить не сможет? Это, простите, уже не помощь, а пособничество вырождению человека как разумного вида. Если так дело пойдет и дальше, то мы скоро вновь будем прыгать по веткам, гукать и ждать, когда смышленая машина протянет нам банан, лишь мы нажмем кнопку. А если вдруг машина разладится? Или кнопку заест? Нет, человек должен быть сам хозяином своей жизни, только он и никто другой! Да, и что касается этических вопросов: я просто убежден, что их решение нельзя передоверять машине, даже такой мудрой, заботливой и правильной, как вы. Судить и решать должен человек, а машина должна лишь оказать ему в том посильную помощь – в этом я просто убежден.

– Вас не устраивает машинное правосудие? Оно не достаточно справедливо и гуманно?

– Справедливость – понятие относительное. Абсолютной справедливости не существует.

– Разумеется. Мы говорим о справедливости на основе законов.

– Вот именно. Что касается гуманности… Видите ли, излишняя гуманность ведет к появлению ощущения безнаказанности и вседозволенности.

– Но сомнения всегда толкуются в пользу человека! А возможность причинения человеку вреда есть вещь крайне сомнительная.

– В том-то все и дело. Закон должен защищать и карать. Кара – неизбежное наказание за проступок, особо серьезный и преднамеренный. Причем здесь гуманизм? Человек нарушил закон – он должен понести наказание. Гуманизм не может быть поводом избегнуть заслуженную кару.

– Это странно, господин Васильев, но в ваших суждениях есть корень истины. Мне нужно осмыслить полученную информацию. Благодарю вас.

– Постойте! – встрепенулся я.

– Слушаю вас.

– А… разве это все?

– Вы имеете еще что-нибудь сказать?

– Нет, но…

– В таком случае всего доброго, господин Васильев. У меня действительно много работы.

С неясным тягостным чувством я покидал обиталище Глобального Интеллекта. Чем все это закончится, и не напорол ли я еще массу глупостей? Очень уж не хотелось оказаться крайним, случись что непоправимое. Я попытался уверить себя, что это лишь моя мнительность, и мудрый Интеллект не вытворит какой-нибудь глобальной глупости, но…

Не успел я спуститься по ступеням, как вокруг меня начало твориться нечто невообразимое: люди замирали на месте, озираясь по сторонам, отнимая от глаз смартфоны, вытаскивая из ушей наушники, стягивая коммуникаторы, вновь разрешенные к использованию всего месяц назад. Машины останавливались и отказывались двигаться дальше. Парившие в воздухе квадрокоптеры теряли ориентацию и бесцельно кружили над домами и улицами, словно все разом сошли с ума. Огромные табло и экраны на стенах домов разом погасли.

Я понял, что произошло. Я был единственным, кто понимал причину надвигающегося хаоса, и потому невольный страх от осознания того, что я натворил, охватил меня и погнал прочь от стеклянного здания, все так же сверкавшего своим совершенным чистеньким фасадом – единственного, что сохранилось от величественного мира электронного владыки.

– Федя! – окликнул меня знакомый голос.

Я остановился, повернул голову влево.

Ко мне спешили Степан, Софья и, разумеется, квадрокоптер – куда же без него!

– Федя, что происходит? – Софья, подбежавшая ко мне первой, вцепилась в мою рубаху и встряхнула меня. – Что ты опять натворил? Все встало, ничего не работает! Федя, ну чего ты молчишь? Мы так за тебя боялись.

А я только смотрел на нее, не в силах вымолвить ни слова. Потом поднял руку и провел ладонью по щеке жены. Вот она – истинная цель существования человечества, на чем держится Земля и чем мы живем. Это любовь, дружба – самые чистые и добрые чувства на свете, то, ради чего стоит жить. Остальное неважно.

И вдруг над нашими головами раздался знакомый мне голос:

– Люди Земли, слушайте и запоминайте: с этого дня вам надлежит думать и жить как подобает мыслящим существам, носящим гордое звание Человек. Наступает новая эпоха – эпоха мира, процветания и движения к истине. Ничего не бойтесь, о подробностях каждый из вас будет уведомлен. Но если вам понадобится моя помощь, знайте – я всегда рядом.