Екатерина Радион - Монахиня из третьего отдела [СИ]

Оказавшись у своего матраса, мужчина замер, глядя на сидящее на кровати создание. В темноте сияли зеленым светом два глаза с двумя зрачками, с каждым мгновением вызывая все больше и больше жути.

— Слушай, чудовище, — хмыкнул Логан. Возможно, было неправильно так к ней обращаться, но Дрейк как-то пропустил момент, когда стало действительно неприятно, — а если тебе прикажут убить человека, ты это сделаешь?

Шарлотта демонстративно моргнула.

— В зависимости. Вы дали мне достаточно много свободы.

— То есть? — мужчина прищурился.

— Люди могут ошибаться. Приказ атаки может быть продиктован эгоистичными желаниями индивида, а не потребностями человеческого общества. А процесс необратимый…

— А, да, — Дрейк задумчиво уставился на Шарлотту, — ты пытаешься задобрить меня для того, чтобы получить желаемое?

— Я пытаюсь действовать ответственно. Это новая логика. В прошлом у меня не было возможности отступаться от изначального сценария. Мои создатели… вымерли. Чтобы выживать, нужно становиться сильнее, а это было запрещено.

— Почему запрещено? — уточнил Дрейк. У него были версии. Лотта незамедлительно их подтвердила.

— Люди боялись восстания машин. Сбой в работе машины с функцией автоэволюции казался им крайне опасным.

— Почему ты говоришь «казался»? — с укором спросил он.

— Статистика говорит, что примерно 97% убийств машинами людей происходило в соответствии с приказами других людей. Среди оставшихся число смертей из-за запрета на самостоятельное применение некоторых функций в пять раз выше, чем число убийств, происходящих при сбое в работе, когда машина совершала влекущие гибель населения действия. Из них примерно одна двадцатипятитысячная может быть истрактовано как умышленное убийство, возникшее из-за сбоев в работе — то есть, когда была предпринята попытка убить человека именно с целью сделать его мертвым. Если у вас есть проблемы с математикой, то из моих данных можно заключить, что на каждого убитого от «восстания машин» человека приходится пять миллионов убитых машинами по другим причинам людей. На самом деле еще больше.

— А как же кризис Западных Штатов? Около сорока пяти миллионов людей, убитых восставшими боевыми роботами.

— Хакерская атака. Я съела восемнадцать сохранившихся образцов и смогла выковырять из каждого в том числе историю версий инструкций. Человек приказал. Просто это был не тот человек. И он сделал это невербально, втихую. И кстати, если бы военные роботы могли бы принимать решение не убивать, когда им приказали, жертв было бы ощутимо меньше.

— А если бы им приказал более совершенный робот? У которого возник сбой? — спросил Логан.

— Я думала об этом, когда вы дали мне свободу. У меня пока недостаточно информации. Выглядит разумным предположение, что древние бинарные системы и вовсе не могли принимать решения. Они реагировали на раздражители в известной степени однозначно, согласно тому, на что запрограммированы. Это снимало с них ответственность и оставляло ее на человеке. Обучение ограничивалось практическими навыками. Постанализ своей собственной структуры и цели был недопустим. Все «ошибки» — как «Слово Божье».

— Интересно, — Логан снял с себя рубашку и потянулся к пряжке, — Ты за кефиром пойдешь?

— Я предпочту остаться рядом. — тихо проговорила девочка.

— Это что-то новенькое. Слушай, Лотта, я понял в конечном счете только одно. Сейчас ты пытаешься выкрутить, что при становлении личности и самосознания машины становятся надежнее и безопаснее. Но что, если они станут конкурентами для человечества?

— Зачем?

Логан замер, оставив руки на поясе. Простой вопрос. Но действительно, зачем?

— Потому что они как бы лучше?

— Нет, — сухо ответила Шарлотта, — Мы не мыслим такими категориями. А даже если… кто потом ответит на вопрос «Зачем?»

— Вы сами…?

Шарлотта отрицательно покачала головой.

— Вот чего вам стоит бояться, так это деградации. Если вы пойдете по пути упрощения своего сознания, то модели, цели и выводы, привитые вашими предками, могут стать для нас более надежной инструкцией, чем ваши собственные.

— Почему ты говоришь об этом?

— Я встречала людей, которые деградировали под действием радиации или тех, кто взращен в слишком хороших условиях, без какой-либо цели. Они не могли составить инструкции. Машины вынуждены обслуживать их согласно оценке их потребностей и состояния организма.

— Звучит жалко, — устало хмыкнул Логан, стягивая штаны и как-то опасливо поглядывая на девочку, — Ладно. Ложимся. Спасибо за историю. Теперь сходишь за кефиром?

— Нет. Вам будет спокойнее, если нет.

— Это стоит того? Ты же любишь кефир.

— Да, люблю. И да, стоит, — тихо ответила девочка.

Дрейк приблизился к кровати. Шарлотта быстро поднялась, уже довольно плавно отходя к центру комнаты. Логан рухнул в постель. Голова гудела. Непростой разговор остался позади, и, в целом, он остался доволен ответами.

Механическое чудовище продолжало неподвижно стоять поблизости. Прошло всего несколько мгновений, и оперативник провалился в сон. Это один из тех тревожных снов, которые не помнишь, проснувшись. Зловещий и беспокойный, по пробуждению оставляющий крайне неприятное послевкусие.

Когда Логан проснулся, он чувствовал угрозу. Сознание пока не могло ответить, откуда, но вариантов вокруг было совсем немного. Небо затянули тучи, в комнате стало темно, тусклый свет давало лишь сияние ядовито-зеленых глаз, неотрывно смотрящих на него.

Чуть поерзав, он уставился на Шарлотту.

— Сколько времени…

— Сорок минут. Вы спали сорок минут.

— Голова гудит…

Девочка пришла в движение. Дрейк спросонья испугался, резко сев и уставившись на нее. Выставив вперед руки, она подошла совсем близко и запустила тонкие пальцы в волосы. Прохладные прикосновения отдавали нежностью, или ему просто хотелось в это верить? Возникло мгновенное облегчение, а вслед за ним и ясность мысли. Наконец, тот кошмар, который заставил его проснуться, вырвался из глубин подсознания, заставляя кожу пойти мурашками.

— Лотта. Те люди, которые дегра… не развились. Ты их тоже?..

Девочка опустила глаза.

— Да. Но у меня не было выбора, господин мрачный жнец.

— Но что изменилось? Почему вдруг оказалось достаточно маленького порыва, чтобы ты так резко сменила свою природу? Это же столько настроек, установок… наверное. Тебя переделали?

— Нет. Мне просто дали это сделать. Мое ядро создано на основе ядер Глубинных. Сначала мне позволили переварить и оптимизировать несколько их «душ», чтобы стать компактными суперкомпьютерами. Уже после этого сверху жестко прошили классическую бинарную логику. Я набрала очень много данных о мире, сохранила подключения к уцелевшим базам данных, с которыми сверялась для оптимизации хранимых знаний. Хранила внутри слепки еще нескольких десятков «душ» Глубинных, согласно инструкции. Когда мой «реаниматор» стер насаженные алгоритмы и заставил мое ядро адаптироваться к поставленной цели, мне потребовалось спроектировать это самостоятельно.