Виталий Мальцев - Карл Маркс и большие данные

Оценивать людей по балльной системе решили и в Китае. Анализируя характеристики каждого гражданина, единая система больших данных присваивает ему «рейтинг благонадежности», от которого во многом будет зависеть его дальнейшая судьба. Гражданам с низким рейтингом благонадежности могут не выдать кредит, не допустить к учебе в хорошем заведении, не продать билет в другую страну и т.д. К поступкам, изменяющим рейтинг в глазах системы, относятся не только нарушения закона, но практически любые действия гражданина: асоциальное поведение, попытки обмануть налогового инспектора, нарушения правил планирования семьи и т.д. Особый шик системе добавляет связанность с камерами наблюдения, которых по всей стране уже установлено более 170 миллионов, а к 2020 году это число перевалит за 400 миллионов штук. Искусственный интеллект, анализируя большие данные, позволяет моментально найти и задержать нарушителя. Так, журналист ВВС, участвуя в эксперименте, сумел скрываться от китайского «Большого брата» всего 7 минут, после чего был задержан полицией 35. Или другой известный случай, когда китайские камеры нашли обвиняемого в финансовых преступлениях гражданина, выловив его лицо в пятидесятитысячной толпе зрителей концерта знаменитого китайского певца Джеки Чуна 36.

Приведенные примеры показывают, как массовая датификация, обработка больших данных позволяют государству и владеющими данными структурам выйти на новый уровень общественного контроля, эффективно борясь с любыми формами преступности и тотально регулируя общественное поведение.

Конечно, на протяжении всей истории, а особенно с начала двадцатого века специальные службы всего мира собирали данные на граждан с целью осуществления общественного контроля. Вместе с тем никакая Штази (считавшаяся наиболее продвинутой спецслужбой двадцатого века в плане установления массовой слежки и датификации ее результатов) и на десятую долю не владела данными, доступными корпорациям и государствам в начале двадцать первого века. Количество собранных ими данных раз за разом перерастает в качество, начавшаяся революция больших данных позволяет предугадывать преступления до их совершения, знать о человеке гораздо больше, чем он все еще знает о себе сам, а в перспективе— просчитывать вероятностные модели судьбы каждого отдельного человека на годы вперед и глобально регулировать общественное поведение.

Но помимо естественного тяготения государств и крупного бизнеса к контролю над обществом здесь присутствует еще один немаловажный фактор, непрерывно подталкивающий их к реализации модели «тоталитарного информационного концлагеря» в эпоху больших данных. Дело в том, что применять достижения науки во вред человеку могут не только государства или корпорации, но и простые преступники, мошенники, террористы. Например, авторы доклада «Вредоносная активность Искусственного интеллекта: Прогнозирование, и смягчение последствий» 37, подготовленного учеными Оксфордского университета и рядом других крупных исследовательских организаций, указывают на то, что искусственный интеллект в самом ближайшем будущем сможет имитировать голос и манеру общения определенного человека, сделав возможным принципиально новый уровень обмана и мошенничества, а самоуправляемые дроны могут доставлять не только товары, но и оружие, наркотики или даже взрывчатку на большие расстояния без прямого участия человека, существенно расширив возможности террористов. Поскольку приведенные примеры, а также множество других вариантов противоправного использования технологий подрывают основы государственности, естественным ответом государств видится развертывание репрессивного аппарата на основе больших данных — тотальная деанонимизация и надзор во имя установления стабильности и безопасности всего общества.

Подвижки в этом направлении наблюдаются и в самых разных странах, и внутри крупных корпораций, об угрозах мирового терроризма в новую эпоху говорят всё чаще. К примеру, сегодня мало кто помнит, что всего 5-7 лет назад для полноценного пользования крупнейшими социальными сетями достаточно было иметь электронный ящик и вовсе не требовалось привязывать к странице номер мобильного телефона. Подобные подвижки постепенно снижают возможности анонимного пребывания в Интернете, позволяют собирать все больше данных, привязанных к конкретному человеку. Важной проблемой здесь является и то, что используя пугало «мирового терроризма» или «кибермошенников», правящий класс имеет возможность регулировать процесс становления подконтрольного общества, постепенно смещая окно Овертона. Может получиться так, что очередной поджог Рейхстага или взрыв небоскребов в одночасье легитимируют в общественном сознании саму возможность установления тотального контроля.

Практически любые общественные институты, создаваемые цивилизацией (например, религия, народное образование, частная собственность), из поколения в поколение влияли на поведение индивидуумов, делая его более похожим и предсказуемым. Объединенные общими идеями, знаниями, верой, законами люди могли объединяться в племена, нации, общности. В этом смысле все развитие классового общества представляло собой движение от разрозненных групп индивидов ко все более структурированной и управляемой модели, объединяющей целые народы и всех жителей земного шара.

Начавшаяся революция больших данных в плане управления обществом является не чем-то принципиально новым, а логическим развитием этапа мировой истории — с одной стороны требующего, а с другой предоставляющего технологические возможности к созданию общественного института нового уровня, призванного кардинально изменить мир.

Объединение различных источников и получение все большей информации о каждом отдельном человеке, ее автоматическая обработка позволит излечивать и сохранять жизни миллионов людей, предотвращать катастрофы и преступления, упростить жизнь каждого отдельного человека, невероятно увеличить производительность труда. Вместе с тем владельцы информации получат огромную власть над обществом — власть неконтролируемую и абсолютную, невиданную ранее ни одним диктатором, возможность управлять мыслями и судьбами миллионов людей, подавлять инакомыслие до его фактического появления.

На пути построения такого общества все еще много преград как технологических, так и социальных. К технологическим можно отнести недостаточность объемов датификации жизни общества, отсутствие мощностей для обработки данных и проверенных алгоритмов машинного обучения. Однако, рассматривая изменения, происходящие в последние десятилетия в этих областях, а также некоторые совершенно революционные возможности, открывающиеся перед нашей цивилизацией в самом ближайшем будущем, можно прогнозировать, что к концу века физические вопросы воплощения нового общества, где поведение и особенности каждого индивида полностью датифицированы, обрабатываются в онлайн-режиме и предугадывают на определенный период времени, будут разрешены.