Ричард Уотсон - Технологии против Человека. Как мы будем жить, любить и думать в следующие 50 лет?

Кроме того, есть проблема ошибочной идентификации. Не так просто обучить машину различать военные и гражданские цели – и это при том, что автоматизированное решение о том, убивать кого-то или нет, займет доли секунды. С другой стороны, сторонники роботизированного оружия утверждают, что интеллектуальные боевые машины будут обращать больше внимания на правила боя, и с меньшей вероятностью будут действовать, охваченные гневом или злобой.

Кажется возможным, что в то время, когда крупномасштабные войны станут нечастым явлением, локальные конфликты будут более распространены. Отсюда следует идея реорганизации сил, перехода к стрельбе из засады. Ключевое изменение в данном случае – отказ от физических сражений стран в пользу цифровых боев между сетями. Для этого армии должны быть организованы и подготовлены таким образом, чтобы справляться с несколькими одновременными угрозами, часто со стороны мелких групп, вооруженных самым простым оружием. Грядет создание новых технологий, начиная с оружия, которое не будет действовать после определенной даты, до оружия с цифровым слежением, которое может быть отключено дистанционно. Благодаря всему этому можно надеяться, что мир станет немного безопаснее, но это все равно не гарантия того, что мы справимся с кучкой безумцев, захвативших самолет с оружием «железного века» и использовавших его для нападения.

Распространение терроризма стирает грань не только между временем, когда идет война и когда не идет, но и между гражданской полицией и военными, что не преминули отметить создатели научно-фантастических фильмов вроде « Робокоп » и « Судья Дредд ».

«Предвосхищающая полицейская деятельность» напоминает классическую научную фантастику « Особое мнение », чем, конечно, и является, все более перекликаясь с реальностью. Американская компания PredPol использует программное обеспечение, предназначенное для того, чтобы определять, где и когда произойдет преступление. Через шесть месяцев после начала использования системы PredPol уровень преступности в одном из районов Лос-Анджелеса упал на 12 процентов. Тем не менее в прилегающих районах преступность выросла на 0,5 процента, показывая, что подобные инициативы – не панацея. Между тем в ряде американских штатов использовали цифровой анализ для того, чтобы решить, кто из заключенных может получить условно-досрочное освобождение. Я уверен, что некоторые хакеры мыслят в том же направлении, особенно если замки всех камер будут подключены к центральной системе и их можно будет открыть дистанционно.

Очевидно, что чрезмерная зависимость от таких систем приведет к беде. Данные можно использовать для того, чтобы держать в узде человеческие предрассудки, но также чтобы усилить разрушительные проявления людской натуры. Кроме того, если поведение все большего числа людей изо дня в день будет отслеживаться в цифровом формате, у властей может возникнуть соблазн погнаться за прибылью от штрафов за незначительные нарушения вместо того, чтобы отслеживать действительно серьезные проступки.

Кроме того, ничто не помешает преступникам с помощью цифрового анализа определять цели, которые могут принести богатую добычу, хотя во многих случаях все, что им надо сделать, – это пройтись по Facebook или Instagram, чтобы увидеть, кому что принадлежит и кто когда бывает вне дома. Фирма «Фридланд», занимающаяся исследованиями в области безопасности, обнаружила, что 80 процентов задержанных грабителей применяли при планировании грабежей со взломом данные из социальных сетей. Однако есть и хорошие новости – некоторые разработки в области открытой полиции и открытой разведки обещают, что можно будет легко привлечь штатских сыщиков к выслеживанию подозреваемого. Но все может зайти гораздо дальше.

Например, генетиков можно привлекать для выявления у людей биологических маркеров, связанных со склонностью к совершению преступных действий, и полиция может нацеливаться на людей в зависимости от их «биологической готовности» совершать преступления. Даже если такая технология сработает, она натолкнется на большое число этических проблем.

Гораздо лучшей идеей является создание детекторов, выявляющих вредоносные намерения. В настоящее время эти машины уже стоят в некоторых аэропортах и позволяют определить вероятность преступного поведения на основе удаленного считывания температуры, частоты дыхания и языка тела. Однако такие системы могут быть использованы не только как основа безопасности в условиях демократии, но и в качестве фундамента полицейского государства.

В этом контексте особенно интересны машины, распознающие настроение человека. На самом простом уровне умение читать настроение может быть использовано для тестирования продуктов или персонализации рекламы. Но вы также можете применять такие технологии для того, чтобы судить о настроениях группы, корпорации или даже целой нации. В лучшем случае правительства могут с помощью мониторинга настроения в режиме реального времени работать над увеличением уровня всеобщего счастья. В худшем эти разработки станут использовать для выявления в реальном времени недовольных или несогласных. Что, если, например, цифровые камеры с программами распознавания настроения помогут с определением городов, где популярны оппозиционные политики, – и укажут на них как на цель для ликвидации?

Маловероятно, что мы когда-нибудь увидим совершенные алгоритмы прогнозирования революций, хотя я некогда познакомился с человеком, который попытался создать такой. Теоретически цифровой анализ данных о проценте в популяции молодых мужчин, о среднем уровне образования, степени доступа к интернету, уровне безработицы, инфляции, росте цен на продовольствие, коррупции позволит указать, где – но не когда – случится потрясение. Такая технология опять же может развиваться в нескольких направлениях. Достаточно хорошо известно, что солдаты используют анализ изображения для подтверждения личности конкретных лиц, прежде чем убить их. Но ведь террористы делают то же самое! Когда в 2008 году террористы вторглись в Тадж-Махал-Палас в Мумбаи, они использовали мобильные телефоны и Facebook для идентификации гостей, чтобы решить, кого из них следует убить. Какая ирония, что коммуникационные технологии и социальные сети могут использоваться подобным образом.

И война, и терроризм являются способом ведения диалога – это последнее средство, остающееся, когда люди отказываются действительно разговаривать друг с другом или когда одна сторона считает, что другая ее не слушает. В отличие от убийства, войны обычно не бывают личным делом – исполнители чаще всего даже не знакомы со своими жертвами, а при том, что в современной войне, особенно цифровой, противники находятся на большом расстоянии друг от друга, эта безличность даже усиливается.