Игорь Шнуренко - Человек взломанный

2013 год— Михал Косински, Дэвид Ситвелл вместе с Тором Грейпелом из компании «Майкрософт» опубликовали исследование, в котором обнародовали, что на основании лайков «Фейсбука» можно автоматически и с высокой степенью аккуратности оценить широкий диапазон персональных атрибутов, которые люди обычно считают приватными. Какие это атрибуты? Это сексуальная ориентация, возраст, пол, принадлежность к определенному этносу, религиозные и политические взгляды, черты личности, показатели интеллекта, счастья, употребляют ли наркотики, вместе ли живут родители. Стало возможным количественно исчислять для каждого профиля черты согласно пятифакторной модели личности, известной как OCEAN:

— Открытость новому опыту (воображение, чувства, действия, идеи)

— Сознательность (можно ли положиться на человека)

— Экстравертность

— Способность соглашаться (достойный ли доверия, склонный ли к сотрудничеству)

— Невротизм(эмоциональная стабильность)

2014 год— Facebook подает заявку на патент на «распознавание эмоций» по выражению лица. Список распознаваемых эмоций включает радость, юмор, ревность, безразличие, восхищение, возбуждение, удивление, грусть, разочарование, скуку, гнев, депрессию, боль и так далее. Высказывается надежда на то, что со временем модуль будет способен оценить интерес пользователя к демонстрируемому контенту для целей кастомизации базирующейся на эмоциональном типе. Иными словами, компании смогут воспользоваться оценкой эмоционального состояния конкретного потребителя, чтобы продать ему или ей товар. При этом анализируются не сами чувства, а скорее представления о них бихевиористов. Еще в 1978 году психологи-бихевиористы Пол Экман и Уоллес Фрисен разрабатывают Facial Action Coding System (FACS), систему кодирования лицевых действий. Это «схема категорий» для эмоций. FACS различает микродвижения мускулов лица, разбивая их на 27 основных лицевых модуля. Есть еще особые модули для описания головы, глаз, языка и так далее. Считывая микродвижения мускулов лица, а также головы, глаз, языка и так далее, система распознает шесть базовых эмоций (гнев, страх, печаль, радость, отвращение и удивление) и других эмоциональных оттенков в широком диапазоне. Шести-эмоциональная модель FACS стала господствующей для изучений выражений лица и эмоций, примерно как пятифакторная модель OCEAN стала основной для построения модели личности. Сегодня многие психологи критикуют подход Экмана как слишком грубый, ибо микродвижения мускулов лица не всегда соответствуют предполагаемой эмоции, а человеческие переживания сопровождаются изменениями не только в мимике, но также в физиологии и поведении. Поэтому в последние годы используется более сложные, мультимодальные методы распознавания, при котором анализируются и микродвижения, и поведение лица за длительный промежуток времени, и жесты, и интонации речи, и походка, и физиологические параметры.

Когда в 1997 году Экман и коллеги опубликовали статью, предлагая свой подход к «автоматическому измерению выражения лица», профессор MIT (Массачусетский институт технологий) Розалинда Пикар выпустила книгу «Affective Computing». «Измерение аффекта». История Пикар очень показательна, как история талантливой женщины-ученого, которая увидела, как её детище стало служить совсем не тем целям, для которых задумывалось. Розалинда Пикар предложила создать компьютерного агента, который действует как зеркало для измерения аффекта. Пикар предложила применять этого агента, например, для помощи студентам или выпускникам, готовящимся к интервью при приеме на работу. Пикар считала, что её софт поможет детям-аутистам развить способности к выражению эмоций, обеспечит разработчикам софта обратную связь по работе продуктов, оживит видеоигры за счет присуждения игрокам очков за смелость, поможет создать учебные модули, стимулирующие любопытство и успокаивающие учеников, а также анализирующие эмоциональную динамику в классе. В конце книге она предупреждала о том, что эту технологию можно использовать в недобрых целях. Именно в этих целях — для слежки и контроля над личностью — созданная ей технология сегодня и используется.

2014 год— психологи «Фейсбука» подтвердили в опубликованном исследовании, что эмоциональные состояния могут передаваться как вирусы, и что люди заражаются друг от друга, при этом не осознавая этого. Исследовательница из компании «Фейсбук» Сюзан Фиске рассказала в интервью научному журналу об «экспериментальном доказательстве массивного эмоционального заражения через социальные сети». Согласно статье, экспериментаторы «Фейсбука» манипулировали огромным числом людей (N = 689,003), которых подвергли эмоциональному воздействию в их новостной ленте. Фиске рассказала журналу о том, что как частная компания, «Фейсбук» не должен придерживаться законодательных стандартов для академических исследователей, финансируемых государством. Эти стандарты достаточно жестко регулируют границы вмешательства в частную жизнь. Стало понятно, что ученые, работающие на «Фейсбук», этих этических стандартов не придерживаются. Теперь академическим институтам был показан путь, чтобы обойти законодательство: для этого нужно создать партнерство с частными компаниями, и вести часть исследований, которые нарушают этические стандарты, на базе этих компаний.

2014 год— Исследователи Университета Техаса и Университета Центральной Флориды провели исследование 13 мобильных устройств с приложениями для спорта и опубликовали работу «Изменения поведения, вызванные электронными мониторами активности жизненных циклов». Вывод: устройства применяют по отношению к пользователям целый спектр техник изменения поведения, который обычно используется в условиях поведенческих интервенций в медицинских клиниках при психических расстройствах.

2015 год— IBM объявляет запуск Watson Personality Service. В дополнение к 5-факторной модели, IBM оценивает каждого человека по 12 категориям «нужд»: «возбуждение, гармония, любопытство, идеал, близость, самовыражение, свобода, любовь, практичность, стабильность, вызов, структура». Через эти «нужды» ИИ определяет «ценности», определяемые как «мотивационные факторы, влияющие на принятие человеком решений в следующих пяти измерениях: «Самопреодоление/помощь другим, консерватизм/традиция, гедонизм/получение удовольствие от жизни, самообогащение/достижение успеха, открытость переменам/ возбуждение». В сервисе Watson применяются инструменты более сложные и инвазивные, чем те, что фигурируют в академических исследованиях.

2015 год— стартап Realeyes выигрывает грант Еврокомиссии на 3.6 миллиона евро на проект под кодовым названием «SEWA: Автоматический полевой анализ чувств». SEWA использует софт чтобы «захватывать и извлекать» чувства из выражений лиц, из голоса, жестов, положений тел, и, наконец, из мозга. Для «захвата чувств» используются биометрические и глубокие сенсоры, как правило, в сочетании с крохотными, незаметными камерами. Сразу же стартап произвел базу данных из 5,5 млн аннотированных фреймов от 7 тысяч субъектов по всему миру. Эта база позволила далее обучать нейросети. К этому времени уже разработаны совершенно незаметные для людей камеры, которые могут записывать и передавать изображение и звук, разработаны экраны, которые могут расположиться на любой поверхности, специальные записывающие звук и изображение напыления, камеры, представляющие из себя волокна, которые можно вставить в ткань.