Дэвид Вебер - Грядущая буря

Хонор подняла свою искусственную левую руку и согнула пальцы.

— Когда я училась обращаться с этим, мне пришлось переучивать всю мышечную память с помощью новых нервных связей — связей, которые значительно отличались от тех органических, которые я всегда имела. Очевидно, если прав мой отец, все что они делают, так это используют человека в качестве… давайте назвем это «хозяин» за неимением лучшего определения, для «тренировки» наннитов в значительной степени так же, как я тренировала мой протез и мой собственный мозг. Опять же, предполагая что он прав, они могут приучить его выполнять только ограниченный и, вероятно, очень конкретный набор физических действий. Это не значит, что физические действия не могут быть сложными, согласно моему отцу, но что они, вероятно, могут соединить их только в конкретные сочетания, и что есть определенное ограничение по хранению данных — вероятно, довольно серьезное — которое определяет что они могут в действительности упаковать в нанниты. Например, я просматривала видеозапись событий на мостике в тот день, когда был убит Тим.

Ее голос вдруг стал резким, губы напряглись, глаза потемнели, и Хонор сделала паузу, прежде чем снова продолжить.

— Я просматривала запись с мостика, — ее сопрано стало очень резким, так словно она еще раз переживала эти события, — и кроме выхватывания пульсера Саймона и открытия огня, он однако, не сдвинулся с места после того момента, как что-то взяло его под свой контроль. Он просто стоял на одном месте, держа взведенным курок, и ведя огонь через мостик. Смотря на съемки систем безопасности того момента, когда водитель хевенитского посла стрелял в адмирала Вебстера, вы увидите такую же картину. Он вынул свое оружие, открыл огонь — попав в трех других людей, не только в адмирала — и просто стоял, пока его не застрелили в ответ. Никакой попытки побега, никаких усилий чтобы укрыться или уклониться от ответного огня, ничего. У нас не было возможности посмотреть на записи ваших служб безопасности во время инцидента с полковником Хофсшюльте, так что я не могу сказать, насколько он вписывается в эту последовательность, но мы видим определенный шаблон в этих случаях.

— Теперь, снова же согласно словам моего отца, там должен быть еще один компонент — что-то вроде органического искусственного интеллекта, как его можно было бы назвать. По его догадке, он должен расположиться где-то в уголке мозга жертвы, но это не обязательно должно быть именно там, поскольку он имеет доступ к центральной нервной системе. Предположительно, искусственный интеллект работает с набором спусковых критериев, которые он мониторит, прежде чем активировать «мышечную память», заложенную в наннитах. Очевидно, что эти критерии не могут быть слишком сложными.

Рабенстранге снова кивнул. Надеждам древней кибернетики достичь полномасштабной чувствительности «искусственного интеллекта» так и не суждено было сбыться. Огромные успехи были достигнуты в разработке «блестящих программ», которые могли бы имитировать интеллект, отсюда и дальнейшее использование термина «искуственный интеллект» (хотя это было технически неверно), но все эти программы могли реагировать только на параметры, которые программист мог предвидеть. Способность различать срабатывание критериев в чем-то настолько сложном, как обычное человеческое взаимодействие, было чрезвычайно трудно, пока программист не выберет очень специфический срез взаимодействий, которые могут возникнуть, или встроить в механизм программу, чтобы получить дополнительную информацию и экстраполировать ее. Например, искусственный интеллект, созданный для обработки запросов в сфере обслуживания, или для работы воздушного такси, имеет возможность прояснить ситуацию и желания клиента, задавая уточняющие вопросы, что может дать невероятно убедительную имитацию подлинной чувствительности в пределах своей компетенции. Однако, оказавшись за пределами своей компетенции, и не имея возможности расширить информационную базу, ситуация для искусственного интеллекта становится совершенно другой. И если доктор Харрингтон был прав, исскусственный интеллект в этом случае не будет иметь возможности задавать «уточняющие вопросы», прежде чем начать действовать.

— Во всяком случае, согласно мнению моего отца, искусственный интеллект срабатывает только в определенной ситуации. На самом деле, он, возможно, сбоит, не срабатывая в нужных ситуациях, даже если это означает упущенные возможности — с целью избежания несчастных случаев, которые могли бы сподвигнуть кого-то призадуматься над тем, какого черта здесь происходит. И конкретные действия, которые могут быть запущены, выбираются только из множества тех, что могут быть переданы жертве с помощью «наложенной мышечной памяти». Итак, предполагая что он прав, эта технология не может заставить кого-либо, скажем, ввести компьютерный код, находящийся в памяти жертвы, а не в памяти наннитов. И она не может получить доступ к ее знаниям или вынудить находящийся в сознании мозг делать что-то против его воли — например, вынуждая его лгать с целью обойти системы безопасности, или придумать свой собственный план для какого-либо убийства или саботажа. Отец говорит, что это, вероятно, будет возможно с помощью, скажем так, некоторой предварительно записаной в наннитах лжи — однако он не знает, как это буде звучать — как голос жертвы, или голос того, кто проектировал мышечную память для наннитов. Но это не что-то вроде… гипноза или психической настройки. Эта технология не может вынудить жертву предоставить верный код или пароль, если только тот, кто программировал ее, не раздобыл верный ответ с самого начала.

— Но если программист имел с самого начала пароль или компьютерный код, он может вынудить жертву ввести его? — спросил Рабенстранге, прищурив глаза.

— Возможно. Ну, вполне возможно, в любом случае. — Хонор пожала плечами. — Мы снимаем в темноте, Чин-лу. Как вы говорите, у нас было больше времени, чтобы подумать обо всем этом, и мы имели более полную информацию — но без спецификаций, которые МакБрайд никогда не имел, либо никогда не предоставлял нам, все это лишь теория.

— Понимаю. — Рабенстранге откинулся в своем кресле еще раз, правой рукой поглаживая спину Нимица, и поморщился. — Понимаю, но это предоставляет почти столько же вопросов, сколько «теоретически» ответов, не так ли?

— Можно и так сказать. — Хонор улыбнулась без тени веселья. — С другой стороны, я лично думаю, что папа на верном пути. Если они могли бы на самом деле проникать в чужые мысли и воспоминания, им не нужны были бы убийцы. Они моглы бы просто программировать людей на ключевых постах, таких как премьер-министр или президент, чтобы вынудить их делать то, что им нужно. Или они могли бы нацелить кого-либо другого на Императора, кого-то кроме Тима, кто имел бы доступ к термоядерному реактору, гипер-генератору или любой другой из дюжин критически важных систем, находящихся под рукой. Натравить кого-либо, кто может, к примеру, уничтожить целый корабль, а не только убить меня. Но чтобы задействовать кого-то, способного сделать что-либо из перечисленного, нужно иметь доступ к информации, которой может не быть в наличии у программиста, и которую он, соответственно, не может встроить в механизм перенесения мышечной памяти.