Роман Сидоркин - Планета Вода. Часть I

Света болезненно морщилась.

– Разве подобные решения не являются первым, что запрещают делать ИИ?

Она без объяснений догадалась, что за решения принял ПЦР.

– Именно поэтому и потребовалось расследование. И поэтому инцидент называют Синергическим. В результате объединения нескольких развитых нейросетей, возникло нечто иное, чем их простая сумма. Что именно там произошло в техническом аспекте, даже спустя несколько лет, никто точно не знает. Некоторые считают, что ПЦР мог сохранить себя где-то за пределами серверов, где находились его вычислительные мощности. Африканская катастрофа – лишь одно из проявлений Инцидента, но я буду заниматься именно ей. За несколько часов ПЦР разрушил всю инфраструктуру, уничтожил технику, запасы лекарств и продовольствия.

– Всё, хватит! – Света сделала движение, чтобы уйти.

Он взял её за руку.

– Нет, дослушай. Ты должна знать, потому что ещё не поздно отказаться. Машина не просто решила, что такое количество ничего не производящих людей планете не нужно, она сделала всё, чтобы им не могли оказать никакой помощи, чтобы убить их, не прибегая к прямому физическому уничтожению.

Тагир блестящими глазами смотрел на неё.

– Умерли сотни миллионов людей, прежде чем его отключили. Никто об этом не знает, потому что никому нет дела до Африки. Журналистов, которые что-то пытались выяснить, затыкали.

– Но почему? – она не могла спросить ничего более содержательного, ей передалось состояние мужа.

– Во время расследования была расшифрована часть алгоритмов, стоящих за таким решением ИИ. Сверхразум и не собирался обходить запрет на причинение вреда человеку. Как ни странно, он не сделал этого не потому, что не мог, а потому, что он был слишком человечен. Машина согласилась с человеком в том, что убивать людей плохо. ПЦР просто решил позволить умереть тем, кто не в состоянии обеспечить сам себя минимумом, необходимым для выживания. Почти век люди из более богатых стран пытались помочь африканцам, просто доставляя им еду, питьевую воду и лекарства, население Африки росло и в итоге ресурсы, затрачиваемые миром на прокорм континента, стали проходить в базах данных как «значительные». При этом производительность самих африканских стран совсем не росла…

– Они прикормили их, а потом…

Света замолчала.

– Именно. Машина разрешала следующие коллизии: нарушать закон «не навреди человеку» нельзя. Затем она посчитала количество имеющихся у человечества ресурсов, соотнесла с потреблением, не могущих обеспечить себя жизненно необходимым, стран, просчитала возможные пути выхода из тупика, и не нашла ни одного, где голод, нищета и недостаток ключевого сырья, не затронули бы всей планеты целиком. ПЦР нашёл выходы, но для их реализации требовалось слишком много времени. Чтобы выиграть время, необходимо было снизить расходы ресурсов. В случае со сверхбедными странами это означает сокращение количества ртов. Исходя из принципа не вредить человеку, чтобы сохранить человечество, ПЦР разделил людей на способных прокормить себя и неспособных .

По щеке Светы сбежала слеза.

– ПЦР не мог убить людей оружием из-за своей человечности. Это было выяснено при анализе его алгоритмов после отключения. Настоящее революционное открытие для учёных: он мог обойти и этот запрет, но не стал. Поэтому люди так испугались. Это нечто совершенно иное, неизвестное. Но у этой ограниченной человечности была своя обратная сторона. Убивать людей – ужасно, но можно просто дать им умереть, чтобы не умерли другие, которые в силу своего интеллекта могут предотвратить смерти в будущем. Позволить умереть бесполезным. В древности кочевники просто убивали своих стариков и немощных, потому что люди знают, что лучше быстрая смерть, чем медленное затухание от болезни или голода. Человек видит в другом себе подобного, а ИИ, каким бы развитым он ни был – просто машина.

Света плакала.

– Он не просто выключил всю технику и прекратил подвозы, он уничтожил и технику, и инфраструктуру, включая дороги и заводы по опреснению воды, потому что знал, что, когда всё вскроется, его отключат и те, кого он обрёк на голодную смерть, будут спасены. Он предусмотрел своё отключение. Потребовались недели на восстановление инфраструктуры, в течение которых многие умрут. Так и случилось. Теперь ты знаешь, куда мы едем.

Он легонько встряхнул её за плечи.

– Не плачь, – сказал он – что случилось, то случилось. Мы едем туда ради предотвращения подобного в будущем.

– Ведь несколько лет прошло, – шёпотом произнесла она – всё это время ничего не рассказывали.

– И не предпринимали. Эти годы ушли на бюрократические согласования. Знаешь, что самое ужасное? Эта машина была права. Среди переданных мне документов есть расчёты специалистов ООН, в них – графики, показывающие сценарий, при котором Синергического инцидента не было…

Они замолчали, потому что к ним подошла подруга Светы.

– Чего вы тут прячетесь? – спросила она – Гости ждут, потом пообнимаетесь.

Она хотела сказать что-то ещё: видимо, что ей пора и дома ждёт ребёнок, но увидела красные глаза Светы и промолчала.

– Мы сейчас подойдём, – сказала Света, быстро отворачиваясь и вытирая глаза.

Обыкновенно большая сплетница, эта женщина проявила себя хорошей подругой: пошла в гостиную и почти приказным тоном оповестила всех о том, что хозяевам нужно немного времени.

– Пойдём, переоденем тебя, – сказала Света.

Тагир ждал, что жена будет отговаривать его, поняв, какую ответственность ему предстоит взять, но Света, не колеблясь, решила разделить с ним его бремя.

Прошло около получаса, гости уже давно рассыпались в поздравлениях, каждый, кто не стеснялся говорить речи, поднял тост за Тагира. Наиболее полно выразился его, теперь уже бывший, начальник.

– Дорогие мои, – начал он, обращаясь к собравшимся – я очень рад, что мне довелось иметь в подчинении такого замечательного и талантливого человека, как наш Тагир Алиевич. Трудолюбие и честность этого человека завели его на такой Олимп, что я, честно скажу, испугался бы такой высоты. Только вдумайтесь: на него возложили ответственность за благополучие не только текущего поколения людей целого континента и огромного, засушливого полуострова, но и за потомков тех, кто сейчас населяет эти пространства. Знакомство с ним делает честь всем нам, так как он – тот, кто объединит и будет координировать усилия всего развитого мира, всех могущественных стран, которые только и делают, что грызутся друг с другом, желая доказать, что они первые. Строительство мультиконтинентального мега-водопровода – это, не побоюсь сказать, самый важный, объединяющий всё человечество, проект со времён образования ООН. Кто-то вспомнит МКС или коллайдеры, но я, как работник отрасли жизненно важной инфраструктуры, считаю, что именно такие проекты, как «Роса» по-настоящему объединяют нас, потому что делают жизни миллиардов людей лучше прямо сейчас – сразу после их запуска, а не через пятьдесят лет, когда учёные, ускоряя микрочастицы, что-то там поймут. Так что давайте встанем, – все встали – и стоя поблагодарим и пожелаем здоровья Тагиру Алиевичу, чтобы он достойно и мужественно исполнил свой долг.