Грегуар Шамаю - Теория дрона

Парадокс в том, что вместе с подобной автономизацией летальных решений единственным человеческим актором, который может быть непосредственно идентифицирован в качестве действующей причины смерти, будет сама человеческая жертва, имевшая несчастье неуместными движениями своего тела, как это уже происходит с противопехотными минами, запустить автоматизированный механизм своего уничтожения.

Исчезнет не просто установление персональной ответственности, а она сама: будучи распределенной по обезглавленной сети множественных акторов, она постепенно утратит свою квалификацию, из намеренного став ненамеренным, из военного преступления – военно-промышленным инцидентом. Почти как в случае «мусорных облигаций», которые умышленно производятся в финансовой сфере, становится крайне сложно понять, кто кому и что должен. Этот типичный диспозитив фабрики по производству безответственности.

Но зачем так переживать из-за поиска действительно виновных, хором спрашивают специалисты по робоэтике, если преступление таким образом будет невозможным? Каким бы странным ни казалось подобное возражение, необходимо оценить весь масштаб проекта, с которым оно связано. Здесь важен именно способ имплементации юридической нормы. Чтобы соблюдать ограничения скорости, предусмотренные правилами дорожного движения, можно либо установить штрафы и поставить повсюду радары, либо поставить ограничители скорости в каждую машину. Это два совершенно различных способа совместить норму с определенной инстанцией: текст-санкция или интегрированный технический контроль.

Или определить право и накладывать санкции апостериори, или же «инкорпорировать этические и правовые нормы непосредственно при разработке оружия» 510. Но дальше этого аналогия не идет, так как в случае с роботом-убийцей, без какого бы то ни было водителя на борту, больше не будет никого, кто будет прямо за него ответственен, то есть того, кого можно было бы обвинить в случае происшествия.

Это прекрасно известно сторонникам «warbots», или боевых роботов. Но они уже сделали свой выбор между международным уголовным судом и этичными роботами-убийцами.

Потому что (внимание!), добавляют они, только высочайшая «преданность идее индивидуальной уголовной ответственности в качестве предохранительного механизма может остановить разработку устройств, которые могли бы, в случае успеха, существенно снизить потери гражданского населения» 511.

Если сам закон обещает стать машиной, человеческое правосудие может исчезнуть.

Но к этому стоит добавить следующее: их утверждение о том, что возможно интегрировать закон в «сам принцип разработки оружия», – это чудовищное злоупотребление языком. Все, что могут сделать специалисты по робоэтике, это внедрить некоторые правила при разработке определенных программ , которые, разумеется, всегда могут быть деинсталлированы или изменены. Если вы легко можете проделать это со своим компьютером, то уж поверьте, на это способна любая армия в мире. Дискурсивная операция на самом деле заключается в том, чтобы оправдать разработку крайне опасного hardware [48]с перспективой благодетельного software [49], которое идет с ним в комплекте. Поздравляем: купив машину (или, точнее, робот-танк), вы выиграли замечательный брелок.

Это типичный механизм «Троянского коня»: ради создания в будущем этичных роботов-убийц согласиться на разработку роботов-убийц как таковых. Притом что их сторонникам прекрасно известно, что общественное «мнение» до сих пор отвергает их за явным большинством. Представляя процесс автоматизации чем-то автоматическим, неизбежным и щедро предлагая избежать возможных крайностей, Аркин и те, кто ему поддакивают, скрывают тот факт, что они являются активнейшими действующими лицами этого процесса 512, и всячески его ускоряют, подыскивая ему оправдания, в которых он пока еще нуждается для достижения успеха. Чем шире распространяется миф об этичном роботе, тем меньше становится нравственных ограничений для использования роботов-убийц. Забывая при этом, что самый надежный способ предотвратить преступления, которые киборги совершат завтра, это убить их в зародыше сегодня, пока для этого еще есть время 513.

Лос-Анджелес, 2029 год. Над руинами города в иссиня-черной ночи флуоресцентные вспышки озаряют небо. На землю падает ниц человеческий комбатант, сраженный лазером робота-самолета. Гусеницы призрачного танка переезжают груду человеческих черепов. Это знаменитая сцена из «войны машин, направленной на истребление человечества», которой открывается «Терминатор» Джеймса Кэмерона, один из первых фильмов, в котором мельком появляется дрон, в 1984 году еще как атрибут научной фантастики.

Все утопии и дистопии структурируются при помощи одной и той же фундаментальной и упрощенной схемы: через парный термин человек/машина. Механизм либо представляется в виде сервильного приложения к человеческому суверену, либо, напротив, машина, добившись автономии, больше не подчиняется контролю своих старых хозяев и восстает против них, как в сценарии «Терминатора».

В подобных историях, изначально представляющих дистанционного оператора или пилота как всемогущего актора, предсказано его грядущее поражение. Человек вскоре утратит свое господствующее положение. Дроны станут роботами. Этот переход к полному автоматизму, добавляется при этом, вписан в сценарий диспозитива, необходимого для его развития: «в отдаленной перспективе любой шаг в сторону дистанционного управления означает шаг в сторону роботов», предсказывал Марвин Минский в 1980 году 514. За изначальным субъектоцентризмом следует предсказуемая смерть субъекта, который, как принято считать, потеряет все что имел, а самое главное – контроль. В этом парадоксальность данной модели: будучи радикально антропоцентричной в своем начале, она оказывается затронута постепенным преобразованием, которое заканчивается гарантированным исключением человеческого субъекта.

Но обе эти точки зрения одинаково неверны.

Вальтер Беньямин, анализируя в свое время положение пилота бомбардировщика, предлагал более реалистичный подход к первой ситуации:

«Один пилот самолета с газовыми бомбами обладает на войне такой же властью лишать людей света, воздуха и жизни, которая в мирное время поделена между тысячами чиновников.

Там, где скромный командир бомбардировщика действует в своем высоком, небесном уединении по поручению тяжелобольного шефа – государства» 515. Чтобы понять, каким типом актора является пилот, необходимо мыслить его в отношении, которое он поддерживает с другим типом машины: не с самолетом, а с государственным аппаратом, концентрированным выражением силы которого он в этот момент является, хотя и подчиняясь принципу субординации. Притом что он располагает ограниченной свободой маневра, пилот лишь на первый взгляд является одинокой и всемогущей личностью, которая предстает в образе «человека – повелителя машины». На самом же деле он является не чем иным, как фетишизированным воплощением бюрократической машины современного государства, его временным сгустком в одной точке, одной руке или большом пальце. Именно этот процесс позволяет технически завершить дронизация боевого самолета, устранив еще одно крайне несовершенное звено, связывающее государственный аппарат с его боевыми машинами.