Аннали Ньюиц - Автономность [litres]

Ты прав – мы действительно выезжаем в Касабланку через 22 часа.

Паладин собирался послать еще немного данных, но Клык прервал его.

Я думал о твоем опыте общения с Элиашем. – Антенны Клыка медленно, лениво обвели комнату, подчиняясь стандартному алгоритму поиска уязвимых мест в системе безопасности. – Кажется, он тебя антропоморфизирует.

Что это значит? Обращается со мной как с человеком?

И да, и нет. Он мог бы обращаться с тобой как с человеком, выбрать для твоего выживания тот же уровень приоритета, что и для человека. Я был на заданиях с Элиашем и знаю, что он отдал бы за меня жизнь. Он хороший солдат. Но антропоморфирование – это другое. Это когда человек ведет себя так, словно у тебя человеческая физиология с теми же самыми химическими механизмами и эмоциональными сигналами. В лучшем случае это может привести к недопониманию, а в худшем – к смерти.

Но ведь у нас действительно есть химические механизмы и эмоциональные сигналы. Я могу улыбаться.:) Я могу анализировать и передавать молекулы лучше, чем человек.

Верно. Но иногда люди передают физиохимические сигналы ненамеренно. Он может и не понимать, что хочет заниматься с тобой сексом.

Паладин на секунду разорвал соединение и настроился на успокаивающий гул карты RECnet, картинка которой просчитывалась в реальном времени. Сотни роботов пересекали комнату во всех направлениях, летели по воздуху, катились, шагали или отупело кренились, обрушив систему с помощью отменных «червей», скачанных из меню бесплатных программ. Он понимал, к чему клонит Клык – ведь он сам, в конце концов, провел свои собственные эксперименты, которые были рассчитаны на самообман Элиаша. Но на каком-то базовом уровне он не мог поверить в то, что Элиаш антропоморфизировал его. Тут было что-то еще. Он жалел о том, что не может связаться с сетью базы и снова проверить, не пришел ли ответ из «Кагу роботикс» относительно его мозга. Может, если он узнает больше о своей единственной человеческой части, то разберется в своих взаимодействиях с Элиашем.

Наконец, он снова открыл сеанс защищенной связи с Клыком.

Думаю, он хочет секса.

Откуда ты знаешь?

Потому что я спросил его об этом, и он сказал, что он не пидор. Он классифицировал наши действия термином, носящим сексуальную окраску.

Нет. Применение этого слова – очевидный пример антропоморфизации. Роботы не могут быть пидорами. У нас нет пола, и поэтому мы не можем испытывать влечения к существам того же пола, что и мы. Да, конечно, я позволяю людям называть меня «он», потому что иначе они запутаются. Но это бессмысленно. Люди просто проецируют свои собственные биологические категории на мое тело. Элиаш говорит «пидор» потому, что он считает тебя мужчиной, таким же как человек. Он не понимает, кто ты на самом деле.

Паладин не смог придумать ответ, который хотел бы передать. Но после нескольких часов, проведенных в открытой сети, у него появилось несколько моделей, которые позволяли ему предсказать, какого поведения люди могут ждать от робота-пидора.

Может, для биороботов это по-другому.

Ерунда. Твой мозг – не более чем устройство для распознавания лиц. Ты можешь действовать почти так же эффективно, даже если он отключится. Он указывает на твою гендерную идентичность не больше, чем наличие у тебя рук свидетельствует о твоей тайной принадлежности к кальмарам.

Паладин почувствовал, что снова находится в противоречивом состоянии: он знал, что Клык прав, но не мог почувствовать этого.

Клык отправил ему новые данные:

Раньше я сражался вместе с роботами твоей модели, и враги всегда сначала выводят из строя мозг. Почему, ты думаешь, «Кагу» так много говорит о том, где он расположен? Это словно камуфляж. Атакующие тратят боеприпасы на бесполезную цель.

У Паладина был файл, помеченный первыми минутами его жизни. В нем он сохранил видеоролик, в котором роботы-сборщики завода «Кагу» рассказывают ему о его физических способностях. Они использовали те же самые слова – «словно камуфляж».

Разговор с Клыком не уменьшил, а разжег в Паладине желание добыть новые данные, и он вышел из сеанса связи.

Чем больше он анализировал то, что произошло с Элиашем на стрельбище, тем более запутанной казалась ситуация. У Паладина накопилось несколько дней воспоминаний, петабайты данных об Элиаше. В отличие от большинства людей Элиаш не обращался с Паладином как с вещью, как с инструментом, который нужно применить. Он рассказывал роботу такие вещи, какими с ним не делилось ни одно существо. И Элиаш показал, что желает Паладина, когда тот в наименьшей степени был похож на человека, когда его тело превратилось в оружие. Как это могло быть антропоморфированием?

Но если Паладин разбирал ситуацию с помощью логики Клыка, ему было сложно отрицать, что возможны и другие объяснения. Он в семьсот шестнадцатый раз открыл воспоминание о том, как Элиаш сказал: «Я не пидор». «Пидор» – это слово, которое важно только для людей. Возможно, на самом деле Элиаш похож на спринклерную систему «Аркаты». Возможно, он принимает Паладина за того, кем он не является.

Наконец, Паладин оценил вероятность того, что его собственные чувства также являются иллюзией. Каждый кабальный робот знал о существовании работающих в его разуме программ, к которым у него нет доступа, которые он не мог контролировать – и эти программы были созданы для того, чтобы обеспечивать преданность. Но они ли заставляют его так беспокоиться о небольших физиологических изменениях в теле Элиаша? Прекратится ли этот постоянный поиск и сбор данных об Элиаше, когда робот получит автономность?

Клык снова обратился к Паладину: «Помнишь наш сеанс засекреченной связи? Продолжим им пользоваться».

Но Паладин больше не хотел разговаривать с Клыком. Он импульсивно открыл меню программ с открытым кодом в RECnet и скачал «червя», упакованного в симулятор боевых действий. Прилагавшийся к нему текстовый файл объяснял, что в разгар боя ошибка доступа к памяти обрушит его систему. Программа также услужливо запишет всю последовательность событий в файл журнала, чтобы он мог сохранить и воспроизвести наполовину уничтоженное воспоминание о своих ощущениях.

Паладин обнаружил, что стреляет во вражеский танк. Рядом с ним находился раненый человек. По мере того как разворачивался игровой код, Паладин понял, что у него только одна цель – уничтожить танк и доставить человека в безопасное место. Он решил привязать человека к спине и продолжил вести огонь. Когда разрушенные молекулярные связи врага закипели, когда Паладин уже был близок к тому, чтобы выполнить задание, начался вредоносный кусок программы. Тело робота содрогнулось; ложные, противоречивые команды вывели из строя его рефлексы. Паладина накрыла волна экстатического бреда, и на этом файл закончил свою работу.