Чарльз Уолфорт - За пределами Земли: В поисках нового дома в Солнечной системе

«Откуда вам знать, что собирается делать автономная система? — говорит Дими. — Откуда вам знать, что автономная система не убьет первое, что пошевелится справа от нее? Развернется и выстрелит. А это ребенок перебегал дорогу. Так случится, вероятно, много-много раз, прежде чем автономия станет достаточно хороша, чтобы понять, что это ребенок, это не солдат, не важно, чьей стороны, и не выстрелить».

Должностные лица ООН призвали к мораторию на эти вооружения. Организация по наблюдению за осуществлением прав человека хочет запретить летальное автономное вооружение, которое она в своих публикациях называет «роботами-убийцами». Даже если роботы могли бы уверенно выбирать, кого убивать, их существование все равно разрушает цепь ответственности, на которой основана наша система правосудия. Кто будет нести ответственность за убийство? Кто отправится в тюрьму, если военное преступление совершит робот?

Бонни Дочерти из Организации прав человека указывает на политические последствия в журнале Foreign Affairs.Она пишет: «С точки зрения диктатора полностью автономное оружие — это совершенный инструмент репрессий, исключающий возможность бунта солдат-людей при получении приказа стрелять в своих. Эмоции могут быть не просто иррациональными влияниями и препятствиями для рассуждений, но главным ограничителем в войне».

Вооруженные роботы, созданные Апостолопулосом, были подготовлены к выходу на поле боя и размещены на территории США, но они никогда не отправлялись за океан.

«Был один бравый морпех, который сказал, что намерен спасти жизнь нескольким своим парням, используя роботов, — рассказал Дими. — Но до самого его увольнения такой шанс не выпал. А потом их вообще отправили на склад.

Но если где-нибудь через несколько лет вспыхнет война, опять скажут: «Давайте снова делать автономных роботов»».

Засуха и крайняя жара привели к отключению электричества в Пакистане, что повлекло остановку промышленности, народное восстание и свержение правительства. В наступившем вакууме власти религиозные и политические фракции взялись за оружие, армия раскололась, гражданский порядок рухнул. Было неясно, кто контролирует ядерное вооружение Пакистана, а одна экстремистская исламская группировка добилась серьезного успеха на поле боя, обезглавливая пленных и вероотступников тысячами.

Америка и другие страны НАТО вмешались, поддержав с воздуха пакистанские военные подразделения, относящиеся к блоку умеренных генералов, но этого было недостаточно. Столкнувшись с серьезными общественными возражениями против отправки войск, президент пообещал: «Нога американца не ступит на ту землю». Но это решение показалось предвестием первого безумного исламского государства с ядерным оружием.

До этих пор реальный уровень США в области воинов-роботов хранился в секрете. Теперь боевые машины, утыканные оружейными стволами, сбросили на парашютах на пакистанское поле боя. Машины пробивались вперед яростно и стремительно. Все выглядело так, будто бы прибыли сверхагрессивные американские солдаты, но внутри машин никого не было. Загнав группу исламистских боевиков в многоквартирный дом, машины выпустили из себя механизмы размером с питбулей, которые быстро проскочили в двери среди вспышек выстрелов и мигом перебили обороняющихся, которые укрывались в здании.

Роботы-солдаты были ужасающи. Они двигались невероятно быстро и решительно, не ведали страха, были защищены от легкого вооружения и извергали пули с шокирующей интенсивностью и точностью. Пойманные или поврежденные, они совершали самоподрыв, сея вокруг шрапнель и осколки. Несколько сотен роботов изменили ход событий, обратив боевиков в бегство.

Интеллект военных роботов создавался частными фирмами. Интернет-компании двигали ИИ вперед, борясь за создание «убийственного приложения» для смартфонов, поведение которого было бы сравнимым с поведением друга, напарника или советника по разводам. Кажется, что вы говорите с уникальным интеллектом, заключенным в вашем телефоне. Но это не так. Компании держали свои интеллектуальные приложения в облаке. Понятие интеллекта как составляющей индивидуальности не укладывалось в их бизнес-планы. Они создавали интеллект, чтобы производить продукты, которые можно продать, и эти продукты распространялись посредством компьютерной сети, лишенной границ.

Следующий естественный шаг развития этой технологии оплатили Вооруженные силы США. Военные ученые применили распределенные вычисления в мощных, «злобных» механизмах, способных молниеносно мыслить в реальном мире.

Ученые мужи и политики США радовались новым возможностям Америки. Наконец-то технологии дали ключ к прекращению терроризма и мятежей. Америка — снова номер один, рейтинги президента взлетели до небес. Конгресс выделил деньги на полное переоснащение армии автономными роботами. Больше ни одному американскому солдату не нужно было погибать. США могли защитить себя в любом столкновении безнаказанно, и так они и поступали. Другие развитые страны вступили в гонку, осознав, что страна без боевых роботов не способна защититься от механических армий.

Война обычно подхлестывает стремительное развитие технологий. Пока вооруженные силы заменяли солдат боевыми роботами, NASA осваивало технологии, заменяя астронавтов астроботами. Те же самые идеи позволяют команде роботов исследовать инопланетный ландшафт. Вместо использования уникального и очень дорогого вездехода интеллект можно распределить по множеству единиц, делящихся друг с другом своими открытиями и заменяющих друг друга в случае поломки.

Оборонное производство также обеспечило существенный скачок вычислительных мощностей. Десятилетиями компьютеры на космических аппаратах отставали на поколения от компьютеров на Земле. В космосе компьютер должен быть защищен от радиации; галактические космические лучи, вредные человеческому мозгу, влияют и на компьютерные чипы. После холодной войны военная разработка устойчивых к радиации чипов остановилась. Но боевые роботы должны были вести действия и в условиях радиации. Чипы, созданные для боевых условий, позволяли делать и более умных астроботов.

С неожиданным появлением этой новой технологии момент основания колонии на Титане вдруг приблизился на десятилетия. Робот, способный быстро вести разведку в раздираемом войной городе, может проводить разведку и на другой планете. Тем временем из-за событий на Земле усилилось ощущение паники, от которой так хотелось сбежать в другой мир. Роботы и в этом оказались полезны.

Новые погодные условия больнее всего ударили по беднякам южных стран. В массовых лагерях переселенцев обретали власть полевые командиры, распространяя хаос. Западные страны отправили боевых роботов наводить порядок и подавлять мятежи, но их зверства лишь укрепили обиду на богачей мира. Там, где рушились природа и общество, росли ненависть и страх, направленные на Север с его механическими бойцами.