Андрей Ливадный - Шаг к звездам [= Вспышка]

— Что?! — Спокойствие на миг изменило полковнику, и он недоверчиво посмотрел на Ричардсона.

— Посмотри сам. Вот видеозапись события. — Капитан коснулся сенсора на терминале, и изображение ожило. Керби ждал комментариев, но их не последовало. Видимо, Герберт хотел услышать его мнение по поводу инцидента.

— Не вижу ничего примечательного, — произнес Алан, проследив, как бетонная конструкция сбила кибермеханизм. — Думаю, что на стройках подобные инциденты происходят достаточно часто.

— Да, — согласился Герберт. — Люди склонны ошибаться, пренебрегать техникой безопасности, но машины нет. Год стабильной безаварийной работы лишь подтверждает серьезность проблемы. Дело в том, что эти механизмы, — он указал на экран, — принципиально отличаются от андроидов, которыми ты командовал в Афганистане. Их нейросети объединены в систему , ядром которой является написанная мной программа «Дарвин».

Заметив откровенное недоумение в глазах Алана, Герберт моментально вспомнил свой разговор с Уилсбергом и постарался вкратце передать его суть, объяснив полковнику смысл работы «Дарвина».

— Это саморазвитие? — выслушав его, полуутвердительно произнес Керби.

— Да. Я предупреждал генерала, что процесс может иметь непредсказуемые последствия, но он стоял на своем.

Керби хмуро покачал головой.

— Не верю, что ты пошел на поводу у Альберта, слепо следуя его приказам.

— Ты прав. Не зная, с какой скоростью будут самосовершенствоваться нейросети машин под управлением «Дарвина», я ввел чисто физический ограничитель потенциального саморазвития системы, ограничив ее возможности тридцатью нейромодулями. Чтобы тебе было понятно, проведу природную аналогию — эволюция наших предков напрямую связана с ростом объема головного мозга…

— Скажем проще, — перебил его Алан. — Кошка никогда не станет мыслить абстрактно , хотя обладает изрядной долей сообразительности. Насколько я понимаю, количества нейросетей, расположенных под черепной коробкой наших домашних любимцев, недостаточно для формирования собственного «я».

— Грубо, но верно, — согласился Ричардсон. — Я тоже отталкивался от подобного постулата, хотя понимал, что количественный недостаток может быть компенсирован качеством взаимосвязей, возникающих между отдельными нейрочипами. Система «Дарвин» не вводит ограничений сложности саморазвивающейся структуры. При этом следует помнить, что у машины имеются постоянные запоминающие устройства, где хранится информация, и мощные сопроцессоры, управляющие сервомеханизмами робота. То есть нейросети в данном случае не обременены рутинными задачами и могут отождествляться с высшими слоями церебральной коры головного мозга человека. Они получают информацию, распознают ее, анализируют и отдают указания подчиненным системам, формируя поведение машины.

— Хорошо, это я понял. — Алан непроизвольно покосился на электронные часы, отметив, что уже четверть первого.

— В таком случае взгляни сюда. — Герберт указал на экран, где был остановлен кадр, снятый видеокамерой наблюдения за несколько секунд до рокового удара бетонной конструкции. — Попробуй сам определить сбой.

Керби внимательно взглянул на изображение.

— Не вижу ничего особенного… — спустя минуту признал он.

— Тебе когда-нибудь приходилось просыпаться в гостях после хорошей вечеринки? — неожиданно спросил Ричардсон.

— Ну, бывало, — пожал плечами Алан.

— Тогда тебе должно быть знакомо чувство недоумения, когда незнакомая окружающая обстановка вызывает мгновенный мысленный вопрос: «Где я?»

Керби кивнул, усмехнувшись.

— У меня такие ассоциации по большей части связаны не с вечеринками…

— Это не важно. Здесь иллюстрируется одно из свойств разума: он всегда моделирует ожидаемую ситуацию, несколько опережая реальное событие. Ты открываешь глаза, но видишь совсем не тот интерьер, который предполагался рассудком, и лишь воспоминание, что накануне ты уснул не дома, а в гостях, расставляет все на свои места.

Керби вновь покосился на экран.

Некоторое время он напряженно всматривался в детали изображения, пока наконец не заметил очевидный для Герберта нюанс: за несколько мгновений до удара все механизмы продолжали работать, и лишь один из них стоял, пристально наблюдая за движением бетонного блока…

— Он предполагал событие? — Керби щелкнул ногтем по силуэту машины.

— Да. — Герберт укрупнил картинку. — Он явно ожидал, что сейчас произойдет удар. Я проанализировал все предыдущие случаи и пришел к выводу: инциденты не инсценированы, они произошли скорее вследствие резкого повышения числа машин, работающих на ограниченном пространстве высотных объектов, но, что закономерно: данный кибермеханизм являлся свидетелем трех предыдущих аварий. — Герберт сделал несколько переключений, и в кабинете внезапно зазвучали человеческие голоса:

— …ого, да тут и собирать-то нечего. Надо же, с такой высоты гробанулся.

— Да… что называется, «восстановлению не подлежит».

— Ладно, давай, все равно нужно собрать обломки.

— А куда их? Это даже на запчасти не сгодится. Мусор.

— Тебе приказано — собрать, вот и выполняй…

Герберт остановил воспроизведение.

— Механизм с серийным номером «3476» находился в момент разговора на месте события. Все машины обучены распознаванию речи, так что он усвоил информацию, о том, что разбившийся робот классифицируется как «мусор». Последующие трое суток он ожидал очередного происшествия, с тем чтобы изъять нейромодули из изувеченного механизма.

— Зачем? Ты ведь сказал, что они ограничены тридцатью чипами.

— Они оснащаются тремя десятками микрочипов, — уточнил Герберт. — Но, как любая машина, строительные роботы рассчитаны на вероятную модернизацию — их материнские модули содержат еще полсотни резервных разъемов. — Ричардсон встал и нервно прошелся по кабинету. — В заключение могу сказать, что 3476-й исчез. После изъятия чипов он не вернулся на строительную площадку. Канал связи не работает, видимо, он заблокировал внешний доступ к данным.

— Это ставит жирный крест на использовании «Дарвина», верно?

— Без сомнений. Программа потенциально опасна. Не хочу даже думать, какими тропками пойдет саморазвитие человекоподобных машин, для которых запланировано по сотне нейрочипов в качестве базы и еще двести резервных разъемов для вероятного расширения системы.

— И что ты собираешься делать? — криво усмехнулся Алан. — Пойдешь на доклад к Уилсбергу?

Герберт прекратил расхаживать по кабинету. Облокотившись о терминал компьютерной сети, он раздраженно посмотрел на Керби и спросил, не воспринимая его сарказма: