Грегуар Шамаю - Теория дрона

В своей книге «Wired for war» [50]Питер Сингер описывает следующую сцену: четырехзвездный американский генерал проводит часы в своем кабинете, просматривая изображения, передаваемые дроном Predator, перед тем как снять трубку и отдать личный приказ открыть огонь, уточняя при этом, какой именно тип бомб должен использовать пилот для нанесения удара. Это пример полной потери координации уровней командования, когда стратег вмешивается в самый нижний уровень принятия тактических решений 516. Сингер предостерегает от подобного смешения ролей из соображений военной эффективности. Его урок в любом случае ясен: пока теоретики «сетевых войн» полагали, что новые технологии позволят произвести определенную децентрализацию управления «на практике, опыт применения беспилотных устройств свидетельствует об обратном» 517.

Не столько «человек» как таковой утрачивает контроль в пользу «машины», сколько операторы в более низких чинах (все более) утрачивают свою автономию в пользу представителей высших эшелонов военной иерархии. Полная роботизация скорее усилит эту тенденцию централизации принятия решений, хотя и не столь явным образом, куда более экономичным, но от этого не менее гипертрофированным.

Как объясняет специалист по робототехнике Ноэль Шарки (который как раз является убежденным противником подобных программ), программное обеспечение, отвечающее за принятие решений «этичным роботом», должно в обязательном порядке, помимо содержащихся в нем правил, подобно всякой программе, получать спецификации 518. Перевести императив «целиться только в легитимные мишени» в строчки программного кода будет совершенно бессмысленной операцией, если в спецификации не указано, чем является этот изменяющийся «target» [51]. Схожим образом можно попытаться запрограммировать формализованное выражение принципа пропорциональности (успехов) 519, но необходимо будет специфицировать для программы значение, прямое или косвенное, порога приемлемых пропорций потерь гражданского населения и достигнутых военных успехов. Одним словом, параметры решения должны быть специфицированы, и эта спецификация не выполняется самой программой. Что потребует также решения о параметрах решения, то есть решения о решении.

Централизация командования, даже если она будет выражаться в спецификациях для определенных программ, а не в приказах, приобретет несоразмерные пропорции, потому что изменение значения единственной переменной величины позволяет, за счет одного решения о решении , фиксирующего параметры всех автоматически принимаемых решений в данном сегменте, раз и навсегда определить ход неисчислимого множества будущих действий. Зафиксировать значение спецификации определенной программы будет означать подписание бесконечно воспроизводимого смертного приговора, причем куда более эффективным и централизованным образом, чем в случае совокупности отдельных приказов.

Современные армии уже используют программное обеспечение, которое должно помочь им лучше соответствовать требованиям права войны и тем самым сделать их более «этичными». Из чего можно предположить, каким образом на практике могут быть закреплены соответствующие ценности: «С самых первых дней вторжения в Ирак они запустили программы. Они называли это программой “раздавленной козявки” (“bug-splat”).

Эта программа оценивала, какое количество гражданских лиц будет убито при данном авианалете. Результаты, представленные генералу Томми Фрэнксу, указывали, что двадцать две запланированные бомбардировки повлекут за собой высокое число тех, кого они называли раздавленными козявками – или около тридцати убитых гражданских в ходе каждой атаки. Фрэнкс сказал: “Вперед, парни, мы сделаем это все двадцать два раза”» 520.

Жестокость военных в данном случае не является, как утверждал Аркин, следствием ошибок и злоупотреблений низших чинов, рядовых солдат, которых вводит в заблуждение туман войны или охватывает пыл боя. Эта жестокость изначально не является чем-то драматическим. Она состоит всего лишь в том, чтобы установить приемлемое значение переменной величины. Каково будет значение, соответствующее переменной величине «Minimum Carnage» [52]? Неизвестно. Больше тридцати убитых гражданских. О’кей. Но это незначительное решение о решении, которое заключается в одном слове или нажатии на клавишу, имеет самые разнообразные последствия, при этом очень конкретные, и даже чересчур конкретные.

Как ни странно, это все еще может кого-то удивить: самое страшное преступление состоит не в открытом нарушении закона, а в отступлениях от его суверенного применения. Обыденная военная жестокость пребывает в своем праве, спокойно в нем устроившись за непробиваемым словесным щитом. Без крайней необходимости она никогда из-за него не показывается. Формы современной военной жестокости в массе своей являются легальными. Они функционируют скорее в качестве правила , а не в качестве исключения. Если они все же являются исключением, то не из-за приостановки действия закона, но скорее из-за его спецификации или уточнения в соответствии с их интересами, до тех пор, пока он не сдается практически без боя. Эта жестокость формалистична, хладнокровна, технологически рациональна и подчинена расчетам, той разновидности расчетов, которая должна сделать весьма этичными роботов-убийц будущего.

Когда июльское восстание 1830 года достигло своего апогея и становилось понятно, что населению Парижа удастся сбросить режим, герцог Ангулемский обратился к своему помощнику со следующими словами:

«– Уничтожьте баррикады.

– Сударь, на них восставшие, а они сопротивляются.

– Прикажите национальной гвардии стрелять в повстанцев.

– Сударь, национальная гвардия отказывается стрелять.

– Она отказывается! Это бунт, прикажите войскам стрелять по национальной гвардии.

– Но войска отказываются стрелять по национальной гвардии.

– Тогда стреляйте по войскам 521».

Но, разумеется, уже не оставалось никого, кто мог бы это сделать…

В 2003 году, когда фирма Northrop Grumman представила военным прототип своего боевого дрона Х-47А, один из офицеров в сердцах воскликнул: «По крайней мере, этот самолет не будет мной командовать» 522.

Вопреки тому, что предполагали научно-фантастические сценарии, опасность не в том, что роботы перестанут подчиняться; все как раз наоборот: они никогда не выйдут из подчинения.

Потому что в ряду человеческих слабостей, которые роботы призваны устранить, есть одна, о которой забыл упомянуть Аркин: способность быть непокорным 523. Роботы, конечно, сбоят и выходят из строя, но они не артачатся. Роботизация солдата, которая ошибочно считается фактором повышения его этичности (но при этом верно, что новое определение «этики» через способность механически подчиняться правилам означает, что она станет синонимом дисциплины и самой тупой покорности), на самом деле является наиболее радикальным решением старой проблемы отсутствия дисциплины в армии. Покончить с самой возможностью неподчинения. Сделать непокорность невозможной. Даже рискуя таким образом упразднить, одновременно с возможностью злоупотреблений, основной фактор внесудебного ограничения вооруженного насилия – критическое сознание акторов 524.