Елена Ларина - Роботы-убийцы против человечества. Киберапокалипсис сегодня

97. Этот исторический экскурс показывает опасность оценки БАРС по минимальным стандартам, принятым в вооруженном конфликте для людей. Смертные солдаты действительно способны придавать вооруженному конфликту безнравственный характер, но они также имеют возможность придерживаться более высоких ценностей и в некоторых случаях демонстрировать определенную степень милосердия и сострадания. Если на поле боя люди будут заменены системами, которые калиброваны по стандартам действий не ниже тех, что ожидаются от людей, но не имеют способности подняться выше этих минимальных стандартов, то нам может грозить опасность распрощаться с надеждой на лучшее будущее. Способность ликвидировать «возмутителей спокойствия» в любой точке мира простым нажатием кнопки несет в себе опасность сосредоточения внимания только на симптомах нежелательных ситуаций. Это будет отвлекать от работы по устранению или даже предупреждению появления их причин за счет более долговременных, невоенных усилий, которые, хотя и более трудоемкие, могут в конечном итоге принести более долговечные результаты. Таким образом, БАРС могут порождать ложное чувство безопасности у тех, кто их применяет.

Н. Другие вызывающие озабоченность вопросы

98. Возможность развертывания БАРС поднимает дополнительные вызывающие озабоченность вопросы, к числу которых относятся, но не только, следующие:

• БАРС могут стать объектом присвоения, а также объектом хакерской атаки и «спуфинга» [74]. Государства более не имеют монополии на применение силы. БАРС могут перехватываться негосударственными субъектами, такими как преступные картели или частные лица, и применяться против государства или других негосударственных субъектов, включая гражданское население.

• Могут произойти сбои в работе. Автономные системы могут быть «хрупкими» [75]. Невероятные ошибки все же могут приводить к катастрофическим последствиям.

• Трудно предвидеть будущие разработки в области технологий. Разрешение развертывать БАРС может открыть еще больший ящик Пандоры.

• Вопросы регулирования использования БПЛА в настоящее время вызывают многочисленные споры, как и правовой режим, касающийся прицельного уничтожения вообще, и появление БАРС может еще больше усилить неопределенность такого положения дел.

• Перспектива быть убитым роботами может повысить уровень беспокойства, по крайней мере, среди гражданского населения.

99. Последствия для военной культуры неизвестны, и, как следствие, БАРС могут подрывать системы государственной и международной безопасности.

I. БАРС и режимы ограничения вооружений

100. Договорные ограничения [76], налагаемые на некоторые виды оружия, вытекают из той нормы МГП, согласно которой средства и методы ведения войны не являются безграничными, и, как следствие, должны существовать ограничения, касающиеся правил, определяющих допустимость тех или иных видов вооружений [77]. В соответствии с клаузулой Мартенса запрещаются такие виды оружия, которые противоречат «требованиям общественного сознания». Обязательство не использовать виды оружия, имеющего неизбирательное действие и наносящего тем самым чрезмерный ущерб гражданскому населению, служит основанием для запрещения определенных видов оружия [78], а некоторые виды оружия были запрещены ввиду того, что они способны «причинить излишние повреждения или излишние страдания» [79]солдатам, а также гражданскому населению [80]. По аналогичным причинам запрещаются и некоторые другие виды оружия [81].

101. При рассмотрении вопроса о том, будут ли ограничения в случае БАРС уместнее прямого запрещения, следует принимать во внимание то обстоятельство, что ограничивать БАРС будет сложнее, чем другие виды оружия, поскольку они представляют собой сочетание многих и зачастую многоцелевых технологий. Эксперты убедительно говорят о том, что подход к регулированию с сосредоточением внимания на технологии – а именно, на самом оружии – может быть в случае БАРС неуместен и что в фокусе внимания должно находиться намерение или применение [82].

102. Право в области разоружения и связанные с ним договоры содержат, однако, многочисленные примеры таких видов договоров по вопросам контроля над вооружениями, в которых предусматриваются запреты или ограничения, касающиеся применения и другой деятельности. Эти договоры можно в широком смысле охарактеризовать как договоры определенного сочетания типа ограничения и типа ограничиваемой деятельности. Типы ограничений включают в себя запрещение либо другие ограничения, не предусматривающие, однако, полного запрещения.

103. К типу деятельности, которая обычно ограничивается, относится: I) приобретение, хранение и накопление запасов, II) научные исследования (фундаментальные или прикладные) и разработка, III) испытание, IV) развертывание, V) передача или распространение и VI) применение [83].

104. Другое позитивное явление в контексте разоружения заключается во включении в договоры, касающиеся вооружений, положений об оказании помощи жертвам [84]. Такая забота о жертвах перекликается с другими усилиями, направленными на решение вопросов ущерба, причиняемого гражданскому населению применением оружия и военными действиями, включая практику учета людских потерь [85]и добросовестного возмещения ущерба – применяемую, например, некоторыми государствами Международных сил содействия безопасности, – в случае гибели гражданских лиц при отсутствии признанных нарушений МГП [86]. Такая практика служит подтверждением принципа ценности человеческой жизни.

105. Существуют также важные инструменты «мягкого» права, которыми можно регулировать создание БАРС. К числу примеров соответствующих инструментов «мягкого» права в области разоружения относятся кодексы поведения, межправительственный диалог, обмен информацией и меры укрепления доверия и рамочные конвен-ции [87]. Кроме того, деятельность неправительственных организаций (НПО) и общественное мнение могут стимулировать введение ограничений в области вооружений.

106. Статья 36 Первого Дополнительного протокола к Женевским конвенциям является особенно актуальной, предусматривая на этот счет, что «при изучении, разработке, приобретении или принятии на вооружение новых видов оружия, средств или методов ведения войны Высокая Договаривающаяся Сторона должна определить, подпадает ли их применение, при некоторых или при всех обстоятельствах, под запрещения, содержащиеся в настоящем Протоколе или в каких-либо других нормах международного права, применяемых к Высокой Договаривающейся Стороне».

107. Этот процесс имеет характер не внешней инспекции, а внутренней интроспекции и основан на добросовестности сторон [88]. Соединенные Штаты, хотя и не являются государством-участником, еще в 1947 году создали официальные обзорные механизмы по вопросам вооружений. Хотя государства нельзя обязать предавать гласности результаты проводимых ими обзоров, одним из способов обеспечения большего контроля в сфере появления новых видов вооружений, таких как БАРС, будет побуждение их к большей открытости в вопросах процедуры, которой они придерживаются при проведении общих обзоров на основании статьи 36.