Валерий Сабитов - Программа «Альтер-Эго» [SelfPub]

Удивительный визит! Съели-выпили всё, что подано. Казалось бы, предельно скромно — но больше ничего не хочется!

В доме наступила тишина. Через раскрытые окна доносится пение птиц, шум близкого поселения. Гинва, переглянувшись с Рией, предложила выйти на «воздух». В напутствие им Чираг прочитал еще несколько строк:

Живущее погружено во тьму,

Но духом вечным жизнь дана ему.

Вокруг тебя — без края и конца —

Как океан, струится дух творца.

Могучим будешь, коль познаешь ты,

Каким богатством обладаешь ты!

Навои. Рассказ о двух влюбленных.

Смятение праведных.

Перевод В. Державина

У дома к ним присоединились люди, каким-то образом осведомлённые о застольной беседе. Все оживлённые, заинтересованные, сочувствующие пришельцам. Гариб передал Гинве: «Прости, но я отключусь от внешнего мира. Пусть разговор с людьми ведёт Дарко. Помоги ему, ты сможешь…» И погрузился в себя. Параллельно внешним вниманием, не вдумываясь, фиксировал мысли-слова вокруг. Люди Анклава, прежде чем сказать, представляли себя. Неплохо, после в памяти легче будет разобраться в нюансах.

— Я Мусей, перебежчик из Фонзы. Существуют ли у вас хакеры? Способные изменить поведение роботов по своему желанию? По каким алгоритмам действует ваш ИскИн?

— Я Дарко. Хакеры — пережиток прошедших времён. Хакерство имело смысл на начальном уровне программирования. ИскИн такое вмешательство легко распознаёт и блокирует. Алгоритмы основаны на математических логиках и формализованном древнем языке Санскрит.

— Я Мусей. Это значит, у вас есть ИскИн, который делает хорошо. Хороший ИскИн. И такой, который творит неугодное людям Фонзы. Ведь всем не угодишь? Или вы уговариваете его на хорошие дела?

— Я Гинва. Да, часто людям сегодня бывает нужно то, что завтра противно как минимум. К тому же нужное мне не нужно другому. Если ИскИна можно уговорить, он будет непрерывно колебаться между множеством желаний одного или многих людей. А при наличии постоянного канала связи…

— Я Алекс. Читал Азимова, который придумал первые законы для роботов при людях и для людей при роботах. В его произведениях люди предсказуемы, поверхностны, и, по большому счёту, роботизированы. Между такими «одномерными человеками» и роботами вполне возможно логическое взаимопонимание.

— Я Лифан. Условность, наложенная на условность…

— Я Дарко. А у меня задача — представить возможную реальность.

— Я Лифан. Таких вариантов фантастами рассматривалось множество, и в каждом свои недостатки. Мы здесь читаем книги… Верно было замечено — добро и зло не алгоритмизуются. Само по себе человечество неспособно прийти здесь к однозначности…

— Я Дарко. Это есть анархия. В обоих мирах — человеческом и ИскИновском. Хаос! В нём нет будущего. ИскИн по сути отвергает активное человеческое присутствие рядом с собой. Человек при ИскИне теряет возможности самоуправления. Договор? Звучит сомнительно и смешно. Противоположности несовместимы? Избран нереальный путь?

— Я Лифан. Хаос может носить вполне упорядоченный характер. Если ИскИн не придёт к выводу, что человек вреден сам себе, — о чём частично говорит второй закон Азимова, — ничего страшного не произойдёт. «Клетку для орхидей» читали? Но скорее всего ИскИн просто не найдёт логического решения проблемы и тихо самоуничтожится — как это уже случалось у Отца Айзека.

— Я Дарко. Надуманные решения и меня не удовлетворяют. Самоубийство — результат психоненормальности. Кто её заложит в ИскИн, который способен оценить свою программу и сделать её максимально гибкой и безопасной? А законы Азимова, как мы выяснили, не работают. Их включить в программу невозможно. Это всё равно, что вместо программы использовать неструктурированные знания.

— Я Лифан. Я рассуждаю в рамках человеческой логики. Она предполагает самоубийственное решение. Точнее — самоуход, возможно просто в себя или в виртуальный сон, к примеру. Оставив человеку возможность манипулирования своими распавшимися частями: связь, справочные материалы, решение текущих технологических задач. Как способ лишить себя самой возможности навредить человеку.

— Я Дарко. Чисто человеческое решение — пожертвовать собой ради близкого. У ИскИна есть душа? Сердце? Ведь не холодный, — или горячий, неважно, — мозг рождает такие преимущественно эмоциональные намерения. Тем более — несовершенная, просто быстрее считающая, копия мозга.

— Я Лифан. Нет. Чистая логика. Законы предписывают то–то и то–то, я не могу логично решить задачу, так как исходные данные дают противоречивые результаты, привести решение к непротиворечивости я не могу…

— Я Дарко. Опять человеческая логика. Вы здесь далеки от нашего мира. Машина перебором вариантов найдет лучший для неё и человека выход. И гарантированно сохранит себя. Но будет ли это прогрессом в нашем или вашем понимании? И почему ваше понимание для нас или вас наилучшее? Много «почему» встаёт передо мной.

— Я Лифан. Ну я же описал как раз такую ситуацию! Временное самоустранение. И он продолжает накопление и обработку данных. Или нет?

— Я Дарко. Временное? Мозгов не хватило на поиск твёрдого решения? Какие данные ИскИн будет накапливать? Откуда брать и в каком направлении складировать? Работать библиотекой? А человек будет закусывать в ожидании? Здесь нет присущей разуму, даже искусственному, активности интеллекта. Бездействие — аналог смерти.

— Я Лифан. Ну тогда… Или ХАЛ из «Одиссеи» Кларка. Или — Массачусетская машина. Вы читали, я знаю. Я же не говорю о бездеятельности. ИскИн помогает человеку теми методами, которые считает соответствующими законам, и сам же ищет выход. Относится к человеку, как человек к кошечке.

— Я Гинва. Но ведь мы руководствуемся не только и не столько алгоритмами. А вот у котика — рефлексы, их много, в том числе обретённых, но они в сумме — набор алгоритмов. Нельзя ИскИн загрузить алгоритмами, соответствующими многообразию внутреннего мира человека. То есть он не может быть в принципе законопослушен. Да, мы не в состоянии создать Кодекс поведения для нечеловека. А человеческие законы — не незыблемая конструкция. Даже если их не нарушать. За один прецедент можно получить разное вознаграждение. Или возмездие.

— Я Лифан. Ну вот и должен он создать сам нравственный закон внутри себя, на основе заложенного в него извне инстинкта — три или больше законов. Чем человек, собственно, и занимался, когда конструировал первые умные машины.

— Я Дарко. (со смехом) Нравственность, а тем более духовность, в рациональные формулы не поместятся даже хвостиками.

— Я Якуб. Тут еще вопрос осведомлённости робота о свойствах и обычаях человека, а также о доступности воспринять объяснения.