Компьютерра - Компьютерра PDA N108 (23.04.2011-29.04.2011)

"Полностью ли мы понимаем те психологические эффекты, что воздействуют на сознание операторов, дистанционно ведущих войну с совершенно безопасного для них расстояния?" – спрашивается в документе. Ведь под войной и неизбежно сопряжёнными с ней потерями человеческих жизней всегда понималось нечто совершенно иное. В современной этике, отмечают авторы, имеется целое направление, где предполагается, что для того, чтобы война была морально оправданной – в отличие от просто юридически законной, – "она должна увязывать убийство врагов с элементом самопожертвования человека или, по крайней мере, с риском для собственной жизни".

Особое беспокойство должно вызывать очевидное и всё более сильное размытие роли человека в убийствах и той ответственности, которую должен нести всякий человек за преступное лишение жизни других людей. Совершенно справедливо задаются вопросы такого рода: "Какова же оказывается роль человека с моральной и этической точек зрения в случае применения автоматических систем убийства? Для автономной системы робота школьный автобус и танк - это, в сущности, одно и то же, просто элементы алгоритма в программе... У робота нет ощущения крайности, допустимости доступных способов и средств, нет необходимости знать, почему он нацелен на уничтожение того или иного объекта..."

Как подчёркивается в отчёте, министерство обороны Великобритании "в настоящее время не имеет никаких намерений разрабатывать такие робосистемы, которые работали бы вообще без человеческого вмешательства в цепи управления боевым оружием". Но также как факт констатируется и то, что британское МО (как и американский Пентагон) всячески стремится к разработке всё более и более сложных "автоматизированных" вооружений.

Но было бы совершенно неверным считать, что авторы документа против этой тенденции или пытаются её переломить. В отчёте развёрнуто представлены всё преимущества беспилотных боевых систем – такие, к примеру, как предотвращение потенциальных потерь в жизнях членов экипажа боевых машин (что уже само по себе может служить "моральным оправданием" применения роботов). Там же добавляется: "Роботы не могут быть эмоциональными, не могут ненавидеть. Роботы не могут руководствоваться в своих действиях гневом, чтобы сорваться до преступных действий, вроде резни в Май Лаи (устроенной солдатами США над сотнями безоружных гражданских в Южном Вьетнаме в мае 1968)".

Опираясь на такого рода логику, отчёт констатирует, что "в теории, по крайней мере, автономность боевых роботов должна обеспечивать более этичные и законные военные действия". Однако на практике, как известно, всё складывается зачастую совсем иначе, нежели представляется теоретикам. Тем более что пока совершенно неясно, кто именно должен нести ответственность, если с дронами-киллерами что-то пойдёт сильно не так: "Является ли, скажем, программист системы виновным в военном преступлении, если системная ошибка приведёт в итоге к незаконным действиям и массовым убийствам? И если да, то где тут намерение, требующееся для того, чтобы несчастный случай трактовался как преступление?"

Наверное, это даже естественно, что авторы отчёта в своих попытках всестороннего анализа проблем, связанных с применением боевых роботов, не смогли удержаться и от предупреждения об очевидных уже опасностях "нарастающего и непреднамеренного сползания к реальности в духе фильмов о Терминаторе". Как говорится в этом документе, динамика технологического развития боевых роботов ускоряется такими темпами, что Великобритании уже явно пора быстро сформировать чёткую и внятную политику относительно того, что составляет "приемлемое поведение машины".

Наиболее сильная цитата на данный счёт выглядит примерно так: "Сущностно необходимо, чтобы до того, как неуправляемые человеком системы станут повсеместно распространёнными (если это уже не слишком поздно), мы обеспечили следующее: заведомо удалив наиболее ужасные из вероятных вещей или, по крайней мере, удерживая их на безопасном расстоянии, мы не подвергали рискам человеческий контроль и не делали войну наиболее вероятным исходом..."

Дополнительные фактические материалы к теме о дронах в вооружённых силах можно найти в материале " Роботы на войне".

Автор: Ваннах Михаил

Опубликовано 27 апреля 2011 года

После бурного космического взлёта человечества в 1960-х - Гагарин на орбите, Армстронг на Луне - наступила длящаяся уже четыре десятилетия стагнация. Русские летают всё на той же королевской "семёрке". Янки, после предстоящего в конце апреля 2011 года полёта шаттла Endeavour, вообще останутся без пилотируемых аппаратов.

Почему? Чем объясняется такой застой, особенно наглядный на фоне экспоненциального взлёта информационных технологий? Ведь есть мнение, что как раз перенос интересов в сферу компьютеров и отвлекает силы от звёздных путей. Так ли это?

Начнём с мудреца Гераклита Тёмного из древнего Эфеса. С его речения: "Война - отец всех, царь всех: одних она объявляет богами, других - людьми, одних творит рабами, других - свободными". О военных корнях космических программ СССР и США говорить излишне. Вспомним лишь, для смеха, что первый опыт запуска искусственного спутника Земли пытался осуществить аббат Мерсенн - тот учёный галл, что ввёл в оборот термин "баллистика".

Итак - война, баллистика. Большие батальоны смиряются перед мощью больших орудий. А как от века определялась мощь орудия? Да произведением массы снаряда на дальность стрельбы, делённым на Круговое Вероятное Отклонение (или то или иное производное от последнего). Формула эта очень очевидна. Супостата поражает кинетическая энергия или разрывной заряд. Недруга лучше поразить издалека. Ну а большое КВО, изрядный разброс снарядов, означает, что выпустить их для обработки цели придётся много.

С изобретениями фон Неймана, с его компьютерной архитектурой, сталкиваются все, кто читает эти строки. (Хотя автор школяром знакомился с программированием на не фоннеймановской машине "Проминь".) А фон Нейману принадлежит и ещё одна идея. Именно он предложил скомпенсировать низкую точность гироприборов первых баллистических ракет высокой поражающей мощью термоядерной боеголовки. (Вероятно, к аналогичным заключениям кто-то пришёл и у нас - увы, бумаги М.С. Келдыша, "главного теоретика", не опубликованы.)

Так что "семёрка" оказалась способной выводить на орбиту и Спутник, и "Восток" благодаря изрядному весу отечественного термоядерного заряда, взятого исходным при её проектировании. Лунный проект янки был ответом на русский вызов. Ответом чисто военным, хоть и проходившим по ведомству войны психологической. Благодаря полёту Гагарина СССР получил столь высокий авторитет в мире, что американцам срочно требовались ответные меры.