Сергей Тараненко - Наполовину мертвый кот, или Чем нам грозят нанотехнологии

Риск создания квазиорганизма — нанотехнологической гидры, не имеющей точек уязвимости. Любая достаточно большая часть эквивалентна целому.

Риск создания нового оружия — роя нанороботов.

Риск распознавания цели.

Риск сбоя целей и программ «коллективного разума» роя нанороботов.

Риск — наноробот внутри нас. Кошмар Дрекслера — размножающиеся нанороботы. Размножающиеся нанороботы как эпидемия.

Но нанороботы — как мы думаем, относительно далекая перспектива. Гораздо вероятнее скорое появление механических антропоморфных (т. е. похожих на человека, повторяющих функции человеческого тела) — во многом или частично — устройств, которые можно с тем или иным основанием именовать роботами. Конечно, еще совсем недавно роботами мы называли и станки с числовым программным управлением, и космические зонды — автономные или управляемые на расстоянии как луноход. Но надо признать, в слово «робот» мы вкладываем нечто большее: робот — это нечто заменяющее, если не замещающее, человека.

Не исключение и военное дело. Американская армия уже объявила о своих планах массовой замены солдат роботами. Ведут соответствующие разработки и другие страны, среди них: страны Европы, Япония, Израиль, Россия. Робототехника — на современном ее этапе — это одно из направлений применения нанотехнологий, а значит, и их разработки: ведь создание антропоморфного устройства (даже если у него пока нет мозгов, конечно, если не принимать за «мозги» бортовой компьютер) требует таких инженерных и технологических решений, которые без нанотехнологий попросту невозможны.

Но что получается? Военная техника становится все сложнее — она сама как «робот», если сбросить со счетов требование антропоморфности. И управлять ею будут такие же автоматы? Это то же самое, что и просто автономный автомат, только он состоит из двух частей. А что такое автомат, самостоятельно принимающий решение убить или не убить, нетрудно догадаться.

«Политкорректный» Запад уже сейчас озабочен тем, как превратить роботов поля боя не просто в терминаторов, а в «гуманных» терминаторов. В частности, такими исследованиями начиная с 60-х годов прошлого века занимается Исследовательский центр ВМФ США. Публичным результатом этих исследований стала недавно опубликованная концепция использования боевых роботов под аккуратным названием «Концепция операций вооруженных автономных систем». Концепция предполагает, что роботы будут бороться не с «носителями оружия», а с самим оружием. Если при этом все-таки будет убит или ранен вражеский солдат, например танкист, который почему-то находится непосредственно внутри оружия, или моряк вражеского флота, которому почему-то затруднительно покинуть боевой корабль посреди океана, подобные «огрехи» можно будет расценивать как извинительную ошибку.

В такого рода концепциях уже заложена автоматическая реализация важнейшего риска, связанного с использованием высокотехнологических средств ведения войны, таких как робототехника. Это риск лицемерия, риск оправдания войны как гуманного действия. Тезис концепции, что главной задачей армий является не «выигрыш войны», а «выигрыш мира», такой же эвфемизм, как и «гуманитарные бомбардировки». В борьбе за мир мы не оставим камня на камне.

Следует обратить внимание и на следующий аспект «гуманизации» боевых действий. Сама постановка этой проблемы наводит на мысль, что «боевые действия» будут вестись не против регулярных воинских подразделений, когда подобные оправдания излишни: война есть война, а против населения. Вот где обезличенность действующего лица (и действующего «по определению» гуманно) действительно пригодится. Если человек убил человека не на поле боя — это убийство, это осуждается, за это может наступить и иногда наступает ответственность уголовного характера. А вот если человек убит «автономной системой», то это лишь несчастный случай, и ответственность, в лучшем случае, ограничится извинениями и оказанием материальной помощи.

Впрочем, сделать до конца «автономную систему», принимающую решение о применении оружия, так, чтобы можно было положиться на ее «решения», — сложно. Такая система должна уметь «думать». Речь идет не о следовании (пусть и не простом) алгоритмам распознавания свой-чужой и сопровождения целей, как это происходит уже сегодня на системах крупных военных кораблей, а о принятии решений в условиях недостатка информации и нестандартных ситуаций, именно тех решений, которые с переменным успехом принимает человек.

Нужен искусственный мозг, умеющий думать. Тот самый «мозг навынос», о котором написано в предыдущей главе. Но можно поступить проще. Для того чтобы получить эффективного боевого робота, можно не машину превращать в человека, а напротив — человека в машину. И этот путь, также требующий множества нанотехнологических решений, более перспективен.

Первым шагом является обеспечение воина эффективной защитой. Это и бронежилет, не только не пробиваемый, но и поглощающий энергию выстрела без травмирующих последствий для носящего, многоразовый и легкий. Это и автоматические системы медицинского обеспечения жизнедеятельности воина в экстремальных условиях, включая стимулирующие инъекции, это и «бортовые» системы навигации, связи и дистанционного наблюдения, как это описано в п. 6.2 «Электронный вертел». При этом следует подчеркнуть, что такой боевой костюм не обязан защищать воина. Он скорее ориентирован на его боевую эффективность, и лишь там, где требование эффективности означает обязательно выживание, он действительно «защищает» воина. Но последствия его «ношения» — уже после боевых действий — для человека могут быть самыми тяжелыми. Ближайший пример — костюм-скафандр водолаза. Он, конечно, защищает водолаза и от воды, и от ее давления, но здоровья водолазам это не добавляет.

Но первого шага недостаточно. Для ведения эффективных боевых действий нужно переделать самого человека. Неверно думать, что, надев такой костюм, любой становится эффективным или хоть каким-нибудь воином. Подготовка российских десантников или американских морских пехотинцев тому пример. Это, так сказать, внетехнологические способы переделки человека в боевой автомат. Но ведь возможны и технологические. Помните насекомое, которое летит туда, куда ему прикажут по радиосвязи? А если попытаться сделать нечто подобное с человеком? Правда, ситуация сложнее. Мы хотим оставить человеку возможность думать и принимать решения, но, конечно, в рамках приказов, а точнее, передаваемых сигналов. При этом действия таких воинов-машин могут быть скоординированы, подобно тому, как предполагается скоординировать действия роя насекомых-наноботов.