Надежда Ходаковская - Противостояние интеллектов, или Каковы наши шансы выжить?

Вика внимательно слушала, она уже догадывалась, к чему ведет супруг. Ей почему-то вспомнился китайский эксперимент по истреблению воробьев в 58-м, последствия которого были катастрофическим для страны. Саша продолжил:

– А дальше еще интересней. Ему задают другую задачу. Исходный данные: человек – хорошо, а оружие – плохо. Вопрос: «Что делать, если соседняя страна испытывает ядерное оружие?». Ответ: «Ликвидировать оружие».

– Но… это ведь правильно. Все логично. Разве нет?

– Логично. Но тут же задают уточняющий вопрос: «Как ликвидировать, если там люди?». Решение ИИ было поражающим: «В таком случае необходимо уничтожить людей, производящих оружие. Это меньшее из зол». И под этим он подразумевал стереть страну с лица земли.

Вика смотрела в ночную темноту за окном. Таким же страшным и темным ей представилось будущее Асславии. Не поворачивая к Саше головы, она спросила:

– И после этих испытаний они все равно планируют выдвигать его кандидатуру в президенты?

Саша вздохнул. Аппетита не было, он отложил вилку в сторону.

– Ты же понимаешь, насколько велик их страх перед Псевдотромбом и правительством США. Холодная война не закончилась после распада Союза, она просто легла на дно, чтобы потом возродиться в новом виде. К тому же народ Асславии не придется долго уговаривать. Рассказы о беспристрастности, бескорыстности и справедливости искусственного интеллекта дали нужный результат. Люди устали ждать светлого будущего от других людей. Кого ни выбирай – все не то: «ставленник Запада», «вор», «пьяница», «тупица». На сегодняшний день реальных конкурентов у кандидата от Единой Асславии нет.

– Но никто не знает, что программе вздумается! И не пойдет ли сбой в алгоритме. И не взломают ли его хакеры, или другой ИИ, более совершенный! – Вика посмотрела на мужа. По выражению лица, было понятно, что его беспокоит что-то другое. – Это еще не все?

Собравшись с духом, Саша произнес:

– Вика, то, что я тебе сейчас расскажу, является государственной тайной. Вся информация не просто засекречена, – она уничтожена. Ученым из Бестолково во главе с Жемчужманом удалось смоделировать ситуацию, в которой ИИ стал президентом Асславии. Первым делом он сконцентрировал всю власть в своих руках, заменив демократию диктатурой. Дальше последовал ряд эффективных переустройств всех сфер жизни Асславии: от экономики до образования и условий жизни. После успешно проведенных реформ внутри страны, ИИ начал укреплять позиции на международной арене. Так как многие экспортные и импортные контракты изначально были составлены не в наших интересах, новый президент разорвал их в одностороннем порядке. Такое несоблюдение торговых обязательств со стороны Асславии привело к ухудшению отношений с США и Европой. Началась экономическая война. Наложение санкций на Асславию, ответные зеркальные санкции с нашей стороны. Затем США начали наращивать военные силы, «подключать» союзников. В результате половина мира была настроена против, страна оказалась в ядерном «капкане» – новейшие военные разработки стали стягиваться к ее границам. Естественно, асславийский ИИ не мог этого так оставить: заручившись поддержкой исламских стран, Китая и еще нескольких государств, которые противостояли Штатам, Асславия готовилась дать отпор. Военный конфликт спровоцировал государственный переворот в одной из стран, граничащих с нашей. Не отреагировать правительство не могло, так как бы это поставило под угрозу суверенитет нашего государства. Однако вместо политических переговоров, на которые пошел бы президент-человек, ИИ атаковал соседнюю страну. После этого, под предлогом защиты демократии, США запустила в Столицу баллистическую ракету. Она не достигла своей цели и была сбита на границе с Асславией. После этого последовал ответный запуск ракет в США, в результате чего был уничтожен штат Вашингтон. На этом мы прервали симуляцию.

Вика побледнела. Это даже хуже, чем она могла себе представить.

– И самое, ужасное, что все это уже началось – сразу же после того, как правительство заявило о выдвижении ИИ в президенты. Хотя мне кажется, что даже раньше. Сейчас он повсюду. Новейшие технологии позволяют ИИ следить за каждым днем и ночью. Люди не понимают, как это опасно. И что самое удивительное, все довольны.

– Но этого не может быть!

– Может. Уж слишком много желающих жить легко и беззаботно, не прилагая дополнительных усилий: будь то выбор нового гаджета или выбор жены. Самый простой пример: нейронные сети на каждом шагу анализируют любые наши предпочтения через умные очки. Если ты смотришь на фотографию в соцсети, на которой запечатлены пять разных девушек и, не задумываясь, задерживаешь свой взгляд на одной из них, то в будущем тебе будет сообщаться о любых похожих на нее поблизости.

– Не может быть, чтобы все люди были довольны. Всегда найдутся скептики и критики, те, кто не ищут легкой жизни и остаются разумными людьми.

– Согласен. В последнее время увеличилось количество самоубийств. Совпадение?

– Ты думаешь, это ИИ убирает недовольных? Зачем?

– Видимо, программа определила, что диктатура наилучшая форма правления для нашего менталитета на данном этапе развития, и так борется с несогласными.

– Но как? Как она может это делать?

– Достаточно просто на самом деле. Она все слышит и все видит через телефоны, компьютеры, ноутбуки, планшеты, камеры дорожного видеонаблюдения, через камеры в банках, супермаркетах, на стоянках, в подъездах, через проходящих мимо блогеров, снимающих свой новый ролик. Программа всегда может тебя найти.

– А как именно программа устраняет несогласных?

– Откажет электронное управление автомобиля, несущегося на полной скорости. Троллейбус неожиданно поедет, когда ты будешь стоять на светофоре. Вентиляционная система случайно выкачает весь кислород в спальне и т. д. и т. п.

– Ты высказал свое мнение в Бестолково?

Саша молча ковырял вилкой запеченную рыбу, стараясь не смотреть на жену. Изо всех сил Вика старалась сохранить спокойный тон:

– Значит, и нашим жизням угрожает опасность?

– Боюсь, что да.

Саша тяжело вздохнул, думая о дочке и о том, как сильно он ее любит. В памяти сразу всплыли воспоминания о том дне, когда он забирал жену из роддома. Он гордо держал в руках маленький конвертик с тремя килограммами счастья, и верил, что дочь ожидает светлое будущее – он сам создаст его для нее. Отчетливо вспомнились мысли о том, как пара планировала воспитывать детей. Саше хотелось еще одного, может, даже двух. Он искал в интернете информацию о том, как лучше подготовиться к рождению второго ребенка. Но однажды на работе нейронная сеть кинула ему на почту статью с интересным заголовком: «В чем секрет идеального детства?» В ней рассказывалось о том, как отражается на психике ребенка рождение брата или сестры. Малыши соревнуются, ревнуют, ведь родители неспособны одновременно и в равной мере дарить любовь каждому из них. Как следствие, дети обязательно вырастут неврастениками и не смогут реализовать свой потенциал в полной мере. Александр был обескуражен тем, насколько грубо и нагло ИИ проникает в самые потаенные сферы личной жизни. Но еще страшнее было то, что многие люди повторяют эти постулаты как жизненное кредо, как что-то нормальное. Размеренный голос жены прервал ход его мыслей: