Игорь Шнуренко - Человек взломанный

Предупрежден — значит, вооружен? Не факт, ибо лидеры склонны подозревать — порой небезосновательно — что у авторов подобных записок есть собственная тайная повестка — например, работа на «Глубинное государство». С другой стороны, лидеры склонны доверять якобы «объективным» данным «бигдаты» и аналитике, полученной на этой основе. Кроме того, на решения лидеров и на мнения ключевых советников, которым они доверяют, можно воздействовать, используя приемы психологической манипуляции. На каждого из них даже по открытым данным можно составить цифровой профиль, который позволит алгоритму «подталкивать» их в «правильном» направлении. Не стоит забывать разоблачения Эдварда Сноудена, который показал, как работает система Агентства Национальной безопасности США PRISM, отслеживающая поведение в том числе мировых лидеров, например, таких верных союзников США, как канцлер Германии Ангела Меркель.

Однако возможности управления поведением, присущие системам с искусственным интеллектом, не ограничиваются умным точечным воздействием на лидеров и созданием давления роевого мышления, возрастающего до тех пор, пока не будет продавлено нужное решение. В самом способе обработки сырых данных сейчас скрываются большие возможности для манипуляций. Самая главная из них заключается в том, что результаты моделирования, на основании которых принимаются важные решения, стали принципиально непроверяемы. Присказка Рейгана больше не действует — моделям можно только верить.

Дело в фундаментальном изменении подхода к истине в эпоху «постправды» и «бигдаты» — можно показать, что эти понятия связаны. Наука после Галилея основывалась на тех или иных законах, выраженных четкими формулами, идеями и концепциями, от которых кругами расходились теории. Декарт считал интуицию, вдохновенное проникновение в суть вещей, самым верным методом познания, и главные концепции науки, какой мы ее знаем, были прозрениями великих ученых — Галилея, Ньютона, Эйнштейна, Шредингера и других.

Все они вначале строили свои теории в голове, и часто для опытного подтверждения их выводов требовались годы. Как показал философ Карл Поппер, теория, выдвигаемая ученым, обязательно должна предсказывать действительность таким образом, что можно проверить, правдиво или ложно это предсказание. Например, теория относительности Эйнштейна, придуманная на листке бумаги, получила окончательное признание лишь спустя 15 лет после опубликования, когда Артур Эддингтон сумел создать нужные инструменты и измерить предсказанное ей воздействие на орбиту Меркурия.

Есть еще один важный аспект познания, связанный с эпохой Просвещения: а именно, что ценность рациональных аргументов не зависит от того, кто их выдвигает. Так, идеи Циолковского не были отвергнуты только потому, что он был простым провинциальным учителем и у него не было официального статуса в науке: их правильность была доказана опытом, полетом первого человека в космос.

Торжество «бигдаты», которое опирается на все возрастающую мощь компьютеров, вернуло науку к догалилеевским временам. Нам говорят, что теорий больше не нужно: достаточно заложить в стиральную вычислительную машину данные, нажать на кнопку пуска, и опля! — через час того или иного вида стирки мы получаем эффективный предсказательный результат. Концепции выведут нейросети внутри машины, но вы не сможете их проверить, ибо искусственная нейросеть — это принципиальный черный ящик. Таким образом, остается только собрать как можно больше «бигдаты», которая мистическим образом приведет к успеху.

По инерции этот подход продолжает называться «наукой», но он радикально отличается от просвещенческой науки. Более того, «когнитивные ученые» и «нейроученые», сделавшие «бигдату» научным мейнстримом, высмеивают само право ученых выдвигать концепции и упраздняют все, что не укладывается в прокрустово ложе их метода. Например, язык как основу мышления, сознание, свободу воли — те основы, на которых стояла наука и философия начиная с Нового Времени. Отмечу, что эти люди называют себя сторонниками демократии и прогресса. Находясь в меньшинстве, они призывают к толерантности, но придя к власти, становятся нетерпимыми и преследуют все, что выходит за рамки их представлений..

На «бигдату», обработанную нейросетями для производства предсказаний, и опираются сегодня при принятии решений институты, включая высшую власть — примерно как император Рудольф II опирался на алхимиков.

Любопытно, что у каждого лидера сегодня свои алхимики и свои волшебные нейросети — ибо утратил смысл и просвещенческий тезис о проверяемости и самостоятельной ценности любой теории. Нет теорий — нет и ценности, а значит, все зависит от того, насколько тот или иной алхимик умеет убедить владыку в том, что именно его магия работает.

Итак, с одной стороны на столе у лидера — мистические предсказания, с другой — прессинг общественного мнения, которым управляют соцсети. В то же время он сам (или она сама) является объектом профайлинга и манипуляции.

Можно ли объединить все эти системы в одну, которая бы направляла мировых лидеров, подталкивая их к нужным решениям? Чтобы ответить на этот вопрос, достаточно обратиться к вооруженным ИИ алгоритмам, которые сегодня полностью управляют финансовыми рынками.

Искусственные нейросети для «киборг-финансов» сегодня управляют покупкой и продажей активов на бирже, так что брокерам-людям там просто нечего делать. Так, по мнению экономиста Сергея Глазьева, обрушение рубля в марте 2020 года было значительно усилено стадами торговых ботов, настроенных на автоматическую привязку курса рубля к цене нефти. На финансовых рынках работают самые продвинутые ИИ-системы, которые генерируют и пишут пресс-релизы и статьи о финансовых результатах компаний, мгновенно распространяя их по сети.

Истолкование новостей также уже давно перешло от людей к машинам. ИИ анализирует воздействие на рынок публичных заявлений ньюсмейкеров, реакцию населения, и моделирует потенциальный эффект тех или иных действий, покупая, если надо, цифровые профили тех, на кого нужно оказать воздействие. Фейсбук в 2010-е годы создал «социальный граф» — то есть глобальную карту пользователей и их взаимоотношений — это крупнейшая база данных в мире. Может ли такая система распространять мемы — например «китайский вирус» — и вызывать эмоциональное заражение — вопрос риторический.

Может ли подобная система или сеть ИИ-агентов создать в глобальном масштабе ситуацию выбора между экономической катастрофой и массовым мором? Убеждая лидеров при помощью моделей «бигдаты», что есть алгоритм, который позволит сохранить социальную систему в отдельно взятой стране, при этом вот вам набор инструментов для регулирования числа жертв, вот вам поведенческие модели реакции на эпидемию? Ничего невозможного в этом нет.