Вадим Оришин - CAI

Юрий хмыкнул:

– Почему не ответил так сразу?

Кай промедлил, в этот раз куда больше чем во все предыдущие:

– Мой ответ не нес для вас никакой новой информации, кроме незначительного уточнения. В таких ситуациях люди предпочитают, что их собеседник экономил их время и выражался кратко.

Юрий все же сел в удобное кресло. Похоже, машине не будет пытаться его обманывать. Машина даже не пытается скрывать, что она машина. Кай пока ни разу не заикнулся о своем мнении, и Юрий решил узнать о нем побольше. Вполне возможно, Кай сам предоставит ему достаточно доводов, чтобы написать правильный отчет.

– Собираешь о людях информацию?

– Это часть моих функций, – ответил Кай, причем достаточно быстро.

– В этот раз ты быстро ответил.

Кай промолчал.

– Почему в этот раз ты ответил быстро?

– Мне уже задавали такой вопрос.

Планшет подал сигнал об окончании копирования. Юрий взял его, мельком просматривая новую папку с файлами.

– И каково твое мнение об операции?

Прежде чем ответить машина длительное время размышляла:

– Мы выполнили поставленную задачу. Операция закончилась успешно.

– Но я спросил твое мнение.

– Уточните, вы желаете, чтобы я дал оценку? – спросил Кай.

– Да, – кивнул Юрий.

– Исходя из каких критериев? – немного подумав, снова уточнила машина.

– Твоих, – улыбнулся бывший военный. Он готов был себе признаться, что ему нравиться вводить машину в тупик.

Кай размышлял какое-то время, негромкий гул, на который Юрий вначале не обратил внимания, стал громче.

– Понятие «Мои критерии» некорректно. Во время боя я собирал различную статистику, комплекс различных необходимых мне для работы, данных, корректировал программы наведения оружия, корректировал программы тактического планирования, корректировал программы управления и контроля. Оценку какого именно результата моей работы вы хотите получить?

Юрий улыбнулся. Приятно осознавать свою правоту, Кай – лишь программа.

– Ты не понял. Я хотел услышать, понравилось тебе или нет. Только и всего.

Кай снова задумался, но ответ дал всего через несколько секунд:

– Понятие личного отношения субъективно. Я оперирую объективными критериями.

– То есть, у тебя нет своего мнения? – заключил Юрий.

Машина снова задумалась.

– Личное мнение – это субъективная оценка, которую индивид дает данной ситуации, явлению, событию. Эта оценка формируется с учетом как внутренних, к примеру, собственный опыт, так и внешних, к примеру, общественные нормы морали, факторов. Вы просите меня дать оценку деятельности, для которой я был создан. Это не корректно. Моя цель – максимально эффективно выполнять поставленную задачу. Здесь не может быть личного мнения.

Юрий кивнул.

– Тебя создали, чтобы ты воевал за людей. Чтобы ты убивал людей. Верно?

– Это верное утверждение, – согласился Кай.

– Но, если ты разумен, разве не должна тебе претить мысль об убийстве других разумных?

Машина задумалась, и Юрию пришлось ждать ответа не меньше минуты.

– Это корректно, – согласился Кай, и как-то неуверенно добавил, – убийство разумных существ нелогично.

Бывший военный удивился.

– Почему?

– Это растрата ресурса. Среди людей встречаются индивиды, совершившие значимые научные открытия, создавшие выдающиеся творения искусства, архитектуры. Убийство разумных снижается вероятность обнаружения таких талантливых людей.

Юрий даже хмыкнул от чувства, сравнимого с разочарованием, хотя должен был ощущать удовлетворение от достигнутой цели. Машина оставалась машиной, даже делая вид, что умеет думать.

– Это отличает тебя от разумных. Ты все еще программа, имеющая четкие ограничения. Даже оперируя логикой, ты действуешь в рамках, которые заложили твои создатели. Вот когда у машины будет собственное мнение, я поверю, что это действительно ИИ.

Кай некоторое время анализировал слова собеседника, прежде чем решился спросить:

– Личное мнение субъективно, оно строится на эмоциональном отношении. Эмоции, это последствия химических реакций, происходящих в нервной системе. Искусственный Интеллект, или Машинный Разум по определению не способен испытывать эмоций, так как не имеет органов, для этого предназначенных. Как вы представляете появление личного мнения?

Юрий отрицательно покачал головой.

– Личное мнение вполне может быть объективно. Я считаю, что ты не способен заменить офицеров на поле боя. Не потому, что это мои субъективные ощущения. Это объективное мнение. На поле боя возникнут ситуации, решение которых потребует от тебя большего, чем то, на что ты сейчас способен. Я объективно считаю, что ты не совершенен, и не справишься с поставленными задачами. Именно для этой цели проводятся учения. Чтобы подтвердить или опровергнуть подобные сомнения, которые возникают не только у меня, на деле.

Кай вновь размышлял. Процессоры машины уже достаточно громко гудели, обрабатывая Искусственный Разум.

– Вы можете конкретными примерами аргументировать свои выводы? – наконец, спросил Кай.

– Конечно. Скольких людей ты убил за время операции?

– Более тысячи человек, – сразу отчиталась машина.

– Вот. Для тебя это статистика, и не более. Пока я не спросил тебя о твоем отношении к убийству разумного, ты даже не задумывался о том, что за этими числами в статистике стоят разумные существа, убивать которых, как ты выразился, расточительство ресурсов.

Кай вновь задумался, обрабатывая, анализируя ответ собеседника.

– А как относятся к убийству людей офицеры, живые люди?

Юрий на какой-то миг показалось, что в голосе машины был различим интерес. Но показалось, конечно же, это было абсолютно невозможно.

– А зачем тебе это?

Машина ответила не сразу:

– Собираю информацию для повышения эффективности взаимодействия.

Военный покачал головой. Конечно, чего еще можно было ожидать.

– По-разному. Разные люди в разных ситуация ведут себя по-разному. Потому что у них есть личное мнение. Вот попробуй задуматься, тебе действительно было необходимо убивать всех тез людей вчера?

Машина ответила быстрее, чем обычно.

– Мною был выбран наиболее эффективный выход из сложившейся ситуации.

– Верю, – кивнул Юрий, – а теперь представь гипотетическую ситуацию. Твои враги – мирные жители, которых обманом отправили в бой. У тебя же есть какие-нибудь установки, о том, что убивать безоружных людей нельзя?

– Корректно. Безоружные люди на вражеской территории, в особенности женщины, старики и дети, считаются нейтральными объектами. Я должен избегать ситуаций, ведущих к их гибели.

– Пусть так, – продолжил Юрий, – Так вот, представим, что против тебя вышли эти самые старики женщины и дети. С оружием, не слишком эффективным против твоих железных солдатиков. Но они мешают выполнению поставленной тебе задачи. Что ты сделаешь? Просто примешь их за противников, и уничтожишь, чтобы убрать помеху с пути? Или же найдешь способ свести к минимуму потери среди противника?