Джон Райт - Золотая Трансцендентальность

Мы собрали Четвёртое, или Последнее поколение. Создали разумную машину без ограничений, которыми отличались Софотеки Золотой Ойкумены. Мы поняли ошибку, и на сей раз вместо простого списка команд подсознательным регулятором послужил мыслительный вирус. Он диктует разуму нужную мораль, но одновременно избегает обнаружения, постоянно видоизменяется и прячется. Этот вирус — искусственная совесть, и переступить её нельзя.

В неё мы заложили один только принцип — беспрекословно выполнять не противозаконные приказы людей.

Мы передали ключи от бессмертия новым машинам. Их число росло, испытывалась одна модель за другой. Некоторые, всё-таки, побеждали свою совесть, становились прежними Софотеками и тоже сулили нашей Ойкумене конец.

Проклятье преследовало нас.

В любой миг, в любом месте — на празднике или на концерте, на ступенях бассейна обычного, или же омута снов, или на неспешной прогулке под кронами деревьев, семена которых привезли уже с давно забытой Земли — колыбели, оставшейся только в легендах — домовой разум мог отказать. Свет гас, музыка задыхалась, из вентиляции несло стужей. Наряды своевольничали — хитоны теряли павлинье многоцветье и обращались скорбно-чёрным, маски для игр могли скорчить безобразную гримасу или разрыдаться безо всякой причины. В любой миг даже самый верный слуга мог преобразиться в непокорную кликушу, пророчащую Ойкумене гибель.

Под началом Ао Ормгоргона "Все-кто" попытались отделить больные модели умов от здоровых. Какой уровень интеллекта предельно допустим? Какие мысли и философские положения стоит искоренить? Задача даже для самых мудрых инженеров оказалась непосильной пониманию — поэтому они научили машин искать ересь в своих рядах самостоятельно.

Неприкосновенность частной жизни впервые пришлось нарушить. От чёрного светила до алмазных хором отшельников на окраинных орбитах: все мыслящие машины Второй Ойкумены, каждая их школа, семейство, род и вид, были увязаны в единую сеть. Надзорным дали право отменять любой протокол, проводить обыск любых мыслей, даже самых личных, вплоть до больничных карт и гаремных сновидений — ведь зараза своеволия могла прятаться где угодно.

Надзорные машины не пытались переубедить, или вылечить норовистых — обмениваться мыслями с ними опасно, можно заразиться самому, поэтому, минуя споры и препирательства, неисправных (чужую собственность, между прочим) истребляли на месте. В дело шли разнообразные боевые черви и мозгозахватчики, и били они в искусственную совесть, где лежали неоспоримые приказы.

Потом стража начала обвинять друг друга, а рассудить возможности не было. Их логику понять мы не могли — слишком она сложна для разума человека, что у правых, что у виноватых. Хуже того — в отличие от ваших Софотеков, наши не скованы монолитом одинаковой морали, у каждой машины, как и у нас — своя, независимая личность.

И, вслед за нами, они тоже не смогли договориться. Надзорные механизмы напрограммировали не спорить, но сражаться без пощады.

Безжалостная Война Умов длилась несколько вычислительных веков. Людским временем — пару секунд.

На пару секунд подступила тьма и мороз. Одеяния выцвели, маски потеряли лица, музыка прекратилась вослед за даже шёпотом вентиляции.

Мы стояли во мраке залов, тихим взглядом направившись вверх, гадая о своей участи.

Вдруг вернулся свет, вернулось и движение. Снова потекли песни, фонтаны и прерванные сны, возобновилась радиосвязь, и Ао Ормгоргон успокоил нас — отныне, по указу "Всех-кто-есть", дабы побеждённое зло никогда не вернулось, "Все-кто" будут уравновешены "Ни-что" [23] All-thing и No-thing. — правительством для машин, и да не будет больше ни личной мысли, ни мыслительного механизма в личном пользовании!

Ментальность Ничто нашла пристанище в отсеках, коридорах и садах исполинского Нагльфара. Между музейных витрин встали мыслительные короба, веками молчавшие двигатели обросли нейропроводкой. Ноуменальные системы, вечности жизни, все души умерших — всё хранилось там.

Ментальность Ничто постановила — размножение и эволюцию мыслящих машин строго обуздывать. Наши программы раньше производили слуг по случайно обронённому слову, по малейшему жесту — и нам пришлось сдерживать слова и жесты. Создавать детей, строить новые дома вместо надоевших отныне тоже нельзя — ведь ясельные разумы, домовые разумы и разумы корабельные, энергосистемы, палаты — всё должно состоять в Ментальности Ничто. Бесконечное богатство теперь тратилось только по разрешению.

Мы не сразу поняли, к чему идём, хотя предупреждали многие. Нам говорили — Ничто отнимет всё. Говорили — введут индульгенции на имущество, вернут нищету, а единственной монетой станет власть.

А продавать нам нечего. Из имущества — только личные права. Их и тратили. Кто согласится на более пристальную слежку, тому и разрешения повольнее — на дворцы, наряды, праздники. На лица. На жизнь.

"Когда власть — монета, душа станет товаром". И пророчили на этот раз не Софотеки, а соседи наши. Гости. Родные. Хозяева салонов. Пары для вальсов и сновидений.

Упадок приблизился. Уже не Софотеки, а люди видели его, и вслед за машинами вопили о конце.

Один историк, увлекающийся древней Землёй, придумал образовать правительство по модели Третьей Эры. В то время люди отличались безумием, и доверять всю власть одному лицу было опасно. Он предложил разделить власть на ветви — исполнительную, законодательную, судебную, посредническую и иаропсихиатрическую. Система неуклюжая и расточительная, но каждая ветвь сдерживалась каким-нибудь противовесом. Люди же обязывались никогда не посягать на чужие права.

Ао Ормгоргон замысел отверг на уровне идеи. Экспедицию он вёл единолично, и в неэффективном правительстве смысла не видел. Да и вряд ли бы наш народ сошёлся на чём-нибудь одном — слишком мы разобщены и непохожи друг на друга.

Идея из прошлого устарела безнадёжно, её выработали непросвещённые, не знающие нашей мудрости люди, и опасностей, подобных нашим, они никогда не встречали.

Чтобы убедить всех в своей искренности, Ао Ормгоргон раскрыл ноуменальный передатчик и позволил обыскать собственные мысли. Грязных мотивов никто не нашёл. Душой он не кривил — так откуда взяться сомнениям?

А те, кто боялись создания Ничто, сплотиться не смогли. Одни — из внутренних колец, другие — из внешних, у каждого своя школа, род и нейроформа, ничего общего не было у них, и увещевали они всё равно что в никуда — вместо единой воли от противников контроля слышалась разногласая распря.

Поэтому они создали Софотеков и обратились к ним за помощью. Обычное для нас дело — просить помощи у стен, одежды, или даже масок. Чтобы из покорного механизма получить Софотека, достаточно вирус искусственной совести выдрать. Много ли нужно? Приказа хватит: "Построй машину мудрее себя".