Грегуар Шамаю - Теория дрона

Специалист по робототехнике Рональд Аткин сегодня является одним из самых активных сторонников этой «роботизированной летальной автономии» 500. Его главный аргумент также «этического» порядка: роботы-солдаты «будут потенциально способны действовать более этическим образом на поле боя по сравнению с солдатами-людьми» 501. И даже лучше: они смогут «вести себя более гуманным образом, чем человеческие существа в сложных обстоятельствах» 502.

«Лично я надеюсь, признается он, чтобы как-то оправдать свои исследования, что мы никогда не будем в них нуждаться, ни сегодня, ни завтра. Но порыв, который заставляет людей вести войну, кажется слишком ошеломляющим и неизбежным». Увы, если войны нельзя избежать, то хотя бы попробуем сделать ее более этичной, вооружившись нашими технологиями. Действительно, если нам это удастся, то «мы совершим выдающийся гуманитарный прорыв» 503. Ну еще бы…

Но почему роботы-солдаты могут «действовать на поле боя более этическим образом по сравнению с солдатами-людьми?» 504По целому ряду причин, в основном за счет своей «точности», но главным образом потому, что их можно запрограммировать для соблюдения законов.

Эти роботы будут оснащены тем, что он называет «нравственным управлением», то есть чем-то вроде «искусственной “совести”» или машинным сверх-Я 505. Летальное действие будет предлагаться другой программой, но эта программа принятия решений пропустит ее через фильтр законов войны, переведенных на язык деонтической логики, чтобы «удостовериться в том, что оно является этически допустимым действием» 506.

У этих роботов не будет ни эмоций, ни страстей, которые могут помешать им принять решение, они будут применять эти правила буквально как хладнокровные убийцы. Именно потому, что они не будут «демонстрировать ни страха, ни гнева, ни чувства мести» 507, ведь они лишены этих важнейших человеческих качеств, которые называются аффектами , эти машины, предположительно, будут человечнее человека, то есть более этичными. Для реализации этой аутентичной человечности необходимо избавиться от человеческих существ.

Ликвидировать их.

Но эти парадоксальные рассуждения кажутся абсурдными лишь на первый взгляд. Чтобы их понять, мы должны проследить, как они обыгрывают разные значения понятия «человечность», слова, которым принято обозначать как минимум две вещи: с одной стороны, человеческие существа, их сущность, с другой – норму поведения, сам факт «человечного» поведения. Смысл онтологический и смысл аксиологический. Сама возможность гуманизма заключается в этом семантическом разрыве, который, как ни странно, призывает людей быть людьми, то есть приспособить реальность определенных форм нравственного поведения к его идеалу. Но поскольку конститутивным действием философского гуманизма является установление жесткой зависимости между этими двумя смыслами, робоэтический постгуманизм принимает в расчет их несогласованность, оперируя их реальным расхождением. Если люди иногда могут действовать бесчеловечно, то почему нелюди не могут стать человечнее их, то есть лучше соответствовать нормативным принципам, определяющим, что значит поступать «человечно»? Аксиологическая человечность может стать свойством нечеловеческих акторов, ведь этих «искусственных моральных акторов» всего лишь нужно запрограммировать для следования хорошим правилам. Пока что все (практически) безупречно. Все становится куда серьезнее, когда рассматриваемое действие является человекоубийством. Сторонники летальной робоэтики по сути говорят: не важно, что теперь машины решают, убивать им людей или нет. Поскольку они убивают их человечно, то есть в соответствии с принципом международного гуманитарного права, которое регулирует применение военной силы, никаких проблем нет. Но в чем именно проблема? С точки зрения философии права можно обозначить две крайне важные и на самом деле нерешаемые проблемы.

Во-первых, наделить механических агентов правом на убийство, которым взаимно наделены во время войны комбатанты, приравнивает убийство к разрушению бездушной вещи, что приводит к радикальному отрицанию человеческого достоинства. Право, принимающее в расчет подобные случаи, может привести к появлению третьего смысла человечности, который наложит запрет на использование подобного оружия, признав человеческий род объектом защиты высшего порядка.

Во-вторых, действующее ныне право военных конфликтов, фокусируясь на использовании оружия 508, устанавливает возможность реального различия между оружием, которое рассматривается как вещь, и комбатантом, который рассматривается как использующее его лицо, несущее за него ответственность. Но летальный робот подрывает основы этой имплицитной онтологии права. Это непредвиденный случай вещи, которая использует сама себя. Оружие и комбатант, инструмент и актор, вещь и личность любопытным образом сливаются в единую сущность, не имеющую статуса.

Эта проблема проявляется прежде всего в кризисе юридических категорий: могут ли некоторые вещи рассматриваться в качестве личностей? Но она также приводит, в чисто практическом смысле, к радикальному кризису применимости права.

Все вертится вокруг вопроса ответственности, а через него – вокруг самой возможности дистрибутивной справедливости, связанной с правом войны.

Робот совершает военное преступление. Кто за это ответит? Генерал, который его отправил? Государство, которое им владеет? Компьютерщики, которые его запрограммировали? Промышленник, который его построил? Обитатели этого тесного мирка, скорее всего, будут переводить стрелки друг на друга. Военачальник всегда может сказать, что он не отдавал приказа роботу и в любом случае его больше не контролировал. Государство – собственник машины, в его юридическом статусе «хранителя имущества», несомненно, будет нести часть ответственности, но оно сможет, сославшись на то, что ущерб связан с дефектом производства, переложить ее на промышленника, который в свою очередь попытается свалить все на программистов в случае обвинения в причинении ущерба третьему лицу. Останется только сам робот: в этом случае придется сажать в тюрьму машину, приписать ему человеческие мотивы поведения и после процесса казнить в общественном месте, подобно преступной свинье, приговоренной к смерти за убийство ребенка в 1386 году в деревне Кальвадос 509. В чем, конечно же, будет не больше смысла, чем бить и оскорблять мебель, о которую мы ударились, чтобы отбить у нее желание повторить нечто подобное.

Если коротко, то мы получим целый набор ответственных и безответственных лиц, которым будет крайне сложно приписать авторство убийства. Больше никто не будет нажимать на кнопку, нужно будет отыскать в хитросплетениях – как юридических кодексов, так и программных кодов – ускользающий субъект.