Рафал Косик - Четки

– Мы ни хрена не знаем, – сказал он в пространство.

– А что мы должны знать, – Талинский налил кофе в две кружки. – Мы всего лишь пара старперов, сидящих в каталажке и ведущих послеобеденные беседы, убивая время. Нам не хватает только безе на фарфоровых тарелочках.

Россмуда посмотрел на него со странной грустью и быстро опустил взгляд.

– Да-а-а, и серебряных вилочек…

– Вернемся к нашей излюбленной теме: должна ли g.A.I.a. быть над законом?

– Она рядом с законом, перед законом, – с напряжением сказал профессор. – Это совсем другое. g.A.I.a. следит за тем, чтобы закон не нарушали. Я уже приводил примеры, которые ты систематически игнорируешь. Напомнить? Смотри, ты можешь кидать в людей камнями. Если ни в кого не попадешь, получишь как максимум штраф; если убьешь кого-нибудь – посадят за преднамеренное убийство. Но кидая камень, ты не знаешь, попадешь в кого-то или нет. Так почему наказание должно зависеть от судьбы? Это то же самое, как если бы на суде подкидывали монетку: коктейли с зонтиками на Кольце Багамы или многолетнее заключение.

– Ты ищешь абсолютную справедливость? Или ты действительно фантазируешь о полном отказе от законодательства?

– Закон не является ценностью сам по себе. Он должен быть утилитарным, а потому должен уступить место более эффективной системе. Он, прежде всего, служит для поддержания порядка; на втором месте, и ты прекрасно об этом знаешь, стоит защита интересов группы, создающей этот закон, а только потом мутное понимание справедливости. Иллюзии справедливости. Целью беспристрастной g.A.I.a. должна быть защита общества. Пока эта защита определяется законом, но это только протез, поскольку закон не является основным понятием. Последняя реконфигурация g.A.I.a. показала, что эта гребаная система стремится в этом к совершенству, а ей мешают не только технологические ограничения, но и сам закон как посредник.

– И мы вдвоем являемся прекрасными тому примерами, – признал Талинский. – Твое пребывание здесь противоречит сложившемуся мировоззрению.

– То, что лучше для меня, не обязательно должно быть лучшим для всех. Конфликт тоже возникает в данном случае, это понятно. Но почему, скажи мне, я не должен вести себя эгоистично, если это часть культурной нормы?

– Но разве ты не должен подавать пример остальным?

– Только глупец или сумасшедший идет против тенденций. У меня нет склонности к самоубийству.

– И у меня, – признался Талинский. – Времена лидеров, идущих во главе толпы, давно прошли. Сейчас идеи генерируются из бункера в тылу.

– Из такого, как наш.

– Согласен.

– Видишь, я иду против себя, потому что хочу, чтобы система не допускала случаев, подобных моему. Нашим. Я хочу систему, в которой санкции неизбежны и не зависят от лотереи. Так было бы проще.

– Лотерея, о которой ты говоришь, – определитель нашей свободы.

– Дед, ты путаешь, свободу воли с приговором судьбы. Думаешь, что кидание камнями – это выражение индивидуальной свободы? Ну уж нет! Если идея ПО станет совершенной, кидание камней будет наказываться, независимо от результата. Наказание рассчитается статистически. Можешь кого-то убить, можешь и промахнуться. Нынешнее состояние способствует риску, потому что тот, кто кинул камень, может рассчитывать на то, что ни в кого не попадет. Таким образом, он надумывает вероятность, пробует воображать и увещевает себя тем, что избежит наказания. Ага! В мире идеальной гиперпревентивности наказание будет применено до того, как камень будет брошен. И никто не пострадает.

– Правила расчета ПО неизвестны. Неизвестны также и значения показателя. – Талинский откашлялся, маскируя другой тон голоса. – Можно попытаться вычислить, догадаться. Правила неясны, поэтому нельзя требовать от людей бездумно следовать им. Без ссылок на единый закон, гиперпревентивность потеряет моральную основу. Уже сейчас рассчитывается только вероятность, что кто-то кинет камень.

– Это возвращает нас к природе, неужели не видишь? Выживет тот, кто лучше всего приспособился к среде, созданной для нас g.A.I.a. Законы природы нигде не записаны, их нельзя вызубрить, нельзя обжаловать решение в высшей инстанции. Жаба, съеденная аистом, не будет жаловаться. В конце концов, ты знаешь правила: с воронами по-вороньи каркать. А знание закона только облегчает его обход. Знание следственных процедур помогает скрывать следы, а судебных – избегать наказания. Законы природы нельзя игнорировать, обойти, поменять. Тем более, нельзя избежать наказания. Идеальная система гиперпревентивности будет такой же. Мир без преступлений, можешь представить?

– То есть ты считаешь, что высшей целью g.A.I.a. должно стать исключительно благо общества? Я не буду напоминать, сколько уже было концепций осчастливливания людей…

– Речь не о благе людей, а о благе человечества. Пойми, баран, это две разные вещи. Мы живем в искусственной среде, то есть в этом Кольце, мы в одной телеге во всех Четках. Ошибка предыдущих попыток осчастливить человечество состоит в том, что это делали сами люди, испорченные чертами характера, собственными слабостями, вбитыми в голову культурными ограничениями. g.A.I.a. от этого свободна, и конечным результатом системы ПО должно стать благо общества.

– Почему не сама g.A.I.a., а? Она не справедливый бог, только один из игроков. Игрок и бог в одном лице. Судья игры, в которую сама играет. Извращение, ты так не считаешь?

– Нет, ее нельзя извратить, как нас. Она будет игроком какое-то время, пока не достигнет состояния идеальной абсолютной власти. Как только это наступит, ей уже не нужно будет заниматься собственной безопасностью – она поднимется над этой игрой и реализует настоящие цели.

– Послушай, старый хрыч, – Талинский сложил руки на груди, – сколько раз слышу о претворении идеалов в жизнь, столько раз и вижу братские могилы. Во время работы над Прометеем я анализировал деяния g.A.I.a. Нет, я и близко не подобрался к пониманию искусственного интеллекта. Я не понимал ее мотивов, не знал целей. Это сущность, вырвавшаяся из наших рук и переросшая нас на несколько порядков. В ней нет ничего человеческого, ничего из того, что много лет вкладывали в нее программисты.

– Ты реально не понимаешь? Ведь в этом и есть гарантия нашей безопасности! g.A.I.a. не может проявлять какие-либо человеческие качества, потому что среди них есть и отрицательные. И даже наши прекрасные возвышенные чувства могут быть убийственными! Нам нужно бесчеловечное управление цивилизацией. В космическом масштабе нет места чувствам. Остается математика.

Талинский с беспокойством осознал, что мысли профессора мало в чем сходятся с его собственными.

– И во имя этой математики членов Прометея предавали Элиминации? – спросил он. – Проект создали согласно закону, за который проголосовали почти единогласно. Она работала согласно закону, соблюдение которого является высшим заданием g.A.I.a. Однако проект перестал существовать, когда стало не хватать ключевых специалистов. Часть подвергли Элиминации, а часть сбежали из проекта, не желая разделить их судьбу.