Игорь Шнуренко - Человек взломанный

В России это можно показать на примере индустрии доставки еды на дом. Пионерами здесь действительно стали стартапы — такие как Foodza, Golama, Superbro, «Достаевский». Эти компании закрыли свои сервисы в сфере доставки еще до карантина, в самом начале 2020 года. Главными причинами называется олигополия техногигантов, которые имеют преимущества в финансировании, охвате, возможностях хранения и доставки, и, самое главное — в бесплатном доступе к поведенческим данным, а значит, и возможности действовать на опережение. Все эти факторы приобретают еще большее значение во времена карантина, когда доступ стартапов к этим ресурсам становится в лучшем случае сильно ограниченным.

При этом техногиганты могут внимательно изучать деятельность стартапов и даже вкладывать туда небольшие деньги — но лишь затем, чтобы получить нужные им идеи, ноу-хау и информацию.

Существующая модель венчурного финансирования работает прежде всего на крупные корпорации, на сохранение их монополии. Эта модель внедряет только те новые технологии и продукты, которые выгодны сложившейся системе «цифрового феодализма».

Компании «большой цифры» давно чувствуют себя как на сафари. Мораль Силиконовой долины считает доблестью нарушение закона, если в ходе этого удается заработать большие деньги. Победителей не судят, а если и судят, они нанимают самых дорогих юристов, и дела разваливаются либо спускаются на тормозах с минимальными штрафами. Перед ними практически нет преград: нет в мире больше запретных мест или закрытых дверей, нет домов, которые не были бы стеклянными, нет понятий о приличиях, тайне частной жизни, интимности и дистанции. В ходе эпидемии коронавируса людей заставляют соблюдать расстояние, но компаний «большой цифры» эти ограничения не касаются: они уже, в ряде случаев, поставляют информацию изнутри тела.

В последние годы сильно рос рынок автоматического распознавания эмоций, основанный на упомянутой выше системе Пола Экмана FACS.

Конечно, эти психологические модели подвергаются критике как неполные, а часто и неверные — но на их основе принимаются решения, например, о приеме на работу. Так, известный российский предприниматель Давид Ян, составивший состояние на распознавании речи и машинном переводе, предлагает сейчас компаниям услуги по «трекингу» сотрудников — то есть слежке за ними. Стартап Давида Яна Yva «предсказывает увольнение сотрудника ещё до того, как он принял решение уволиться». Вот как рассказывает об этом Ян в одном из интервью: «К нам пришли наши корпоративные пользователи и сказали: вы понимаете про наших сотрудников и это, и это. А вы можете понять, кто с кем дружит?.. Мы: вообще не вопрос, мы знаем весь граф коммуникаций…Когда сотрудник начинает выгорать, его коммуникативный профиль меняется. Первое письмо утром уходит чуть позже, последнее вечером чуть раньше… Система детектирует ситуацию по скорости ответов, длине ответов, содержанию ответов, графу коммуникации…».

Это человек может понять человека, а искусственный интеллект примет решение об увольнении человека, базируясь на оценку человека по пятифакторной модели, по тому, как быстро он отвечал и так далее. И машина будет всегда права.

Корпорации зарабатывают, продавая фьючерсы на человеческое поведение — как отдельных лиц, так и больших групп людей. При этом прогнозы тем точнее, чем больше реальных данных «скармливается» искусственным нейросетям-производителям поведенческих продуктов. Чем точнее прогнозы, тем дороже их можно продать — при стопроцентной точности вы гарантируете, что человек пойдет туда, куда вам нужно, и совершит то, что вам нужно.

Как работает «предсказательный двигатель» Фейсбука? Он построен на платформе искусственного интеллекта, которая называется «FBLearner Flow.» Компания описывает ее как «ИИ-хребет» и «ключ к персонализированному опыту», которая на выходе дает самый точный поведенческий продукт. На входы системы ежедневно поступают триллионы точек данных — это не только данные о локации, деталях сети вайфая и подключенных к нему устройств, но и данные с видео, аудио, анализ дружб и контактов, сходства и различий с друзьями и так далее. Эти точки данных обучают тысячи моделей, задействованных для выработки предсказаний в режиме реального времени. Предлагая свои продукты, «Фейсбук» гордо сообщает, что со времени создания на платформе было обучено более миллиона нейросетей, и она выдает более 6 миллионов предсказаний ежесекундно.

Один из множества сервисов, которые обслуживает «двигатель» — «предсказание лояльности». Здесь анализируется «поведенческая добавка» индивидуума с тем, чтобы сделать вывод о том, может ли он или она в будущем — ближайшем или отдаленном — изменить запрошенному брэнду, то есть находится ли индивидуум в группе риска. Рекламодатели, не откладывая, начинают осаждать этого человека рекламными посланиями с целью обеспечить его лояльность в дальнейшем. Таким образом, продукт соединяет предсказание с вмешательством в поведение человека и его модификацией, и Facebook обеспечивает компаниям гарантированный результат, изменив будущее.

Некоторые американцы удивляются тому факту, что стоит им сделать заказ на Amazon поздно вечером, а рано утром они его уже получают. Как это возможно — ведь заказ нужно доставить сначала хотя бы на ближайший склад Амазона! Еще в 2013 году Amazon запатентовал метод доставки, позволяющий посылать потенциальному клиенту посылку еще до того, как тот разметил заказ. Технология основана на анализе больших данных и предвосхищает поведение заказчика. Видимо, она сегодня работает в ограниченном варианте, при котором «предвосхищающая» посылка высылается на склад, ближайший к тому человеку, кто, как предсказывает система, в ближайшее время сделает заказ.

Для по-настоящему точного предвидения, системе нужно еще больше данных, а чтобы решать максимально широкий диапазон задач, ей нужны абсолютно все данные, которые можно получить. Здесь очень важны не только информация о поведении человека онлайн, но и данные о нем после того, как он вышел из интернета. Поэтому огромное значение имеет биометрия, геодата, данные с медицинских датчиков и приложений здоровья, распознавание лиц, эмоций и мотиваций. Но это еще не все: технокомпаниям очень важно получить доступ под кожу человека, в его кровь, а хорошо бы и в мозг. Здесь мы заходим на минное поле рассуждений о технологически возможном или нет, но совершенно точно можно сказать, что в этой области готовится прорыв, а может быть, и не один.