Игорь Шнуренко - Человек взломанный

В дополнение к закону летом 2020 года правительство приняло ряд документов, в частности, «Концепция регулирования искусственного интеллекта и робототехники до 2024 года». Она настолько любопытна, что стоит на ней остановиться поподробнее.

Целью концепции объявляется совершенствование законодательства, чтобы создать благоприятные условия для развития искусственного интеллекта и робототехники и убрать всевозможные барьеры на этом пути. Документ был подготовлен группой под руководством исполнительного директора Сбербанка Андрея Незнамова. Впоследствии к ним присоединились представители фонда Сколково, а также ведущих технологических компаний России, и на заключительном этапе — представители Министерства экономического развития. Таким образом, очевидно, что именно банкиры, финансовый капитал является инициатором фазового перехода, скачка к роевому сообществу, управляемому Цифровым Левиафаном. Они же, как мы увидели, вкладывают гигантские деньги в корпорации FAGMA, которые, в свою очередь, являются двигателем эпохи «большого страха».

Группа Незнамова работала над проектом больше года, в течение этого времени я следил за тем, как менялась концепция, и могу сказать, что она стала значительно жестче по отношению к обычным людям, к потребителям, зато все просьбы крупного технобизнеса были учтены.

«Одним из основных препятствий для расширения применения систем с использованием ИИ и РТ является отсутствие достаточной степени доверия к ним со стороны общества, — говорится в документе. — Повышение степени автономности таких систем, снижение контроля человека за процессом их применения не полностью прозрачная логика принятия решений создают общественный запрос на регуляторные ограничения применения систем ИИ и РТ».

Таким образом, нужда в нем возникла прежде всего из соображений пиара, потому что люди не верят системе. В концепции заложено много мин, которые непременно взорвутся, если, конечно, в ближайшие годы не будет введена цифровая диктатура и цифровой концлагерь.

Документ походя уничтожает основы целого ряда профессий, которые когда-то считались либеральными — например, врача, адвоката, даже банкира. Вот что в нем говорится:

«Должен быть предусмотрен более свободный правовой режим. Снятие ограничений по применению и обороту данных, полученных в результате обезличивания сведений, составляющих профессиональную тайну, также будет способствовать большей доступности данных и стимулировать их владельцев к взаимовыгодному обмену…Существующие режимы профессиональной тайны (такие как врачебная тайна, банковская тайна, тайна связи, адвокатская тайна и т. п.) должны определять условия, при которых субъекты профессиональной тайны вправе привлекать для обработки соответствующих сведений сторонние организации (в том числе для раскрытия потенциала облачных технологий и технологий с использованием ИИ)».

Интересен сам термин «субъекты профессиональной тайны», означающий, очевидно, врачей, адвокатов, вообще, всех тех, кому доверился пациент или клиент. На основе этого доверия покоятся целые профессии, без этого доверия, на мой взгляд, невозможные. Например, профессия адвоката невозможна без сохранения адвокатской тайны, как никто не пойдет на исповедь к священнику без уверенности в том, что сказанное останется между ними.

Но в мире торжествующего трансгуманизма, отрицания свободы воли и сознания нет и не может быть ответственности, и все отношения между пациентом и врачом, адвокатом и его клиентом суть броуновское движение агентов, ведомых своими биологическими, животными побуждениями. Удивительна не сама эта точка зрения, а ее официальное закрепление в правительственном документе, и отсутствие реакции на это со стороны соответствующих профессиональных сообществ.

Оказывается, врачебной или адвокатской тайной можно торговать, передавать полученные с её помощью сведения в облака без согласия и даже без уведомления того, кого она касается. Кстати, понятие тайны касается даже банкиров, и стоило бы в связи с этим присмотреться к практике Сбербанка, который, возможно, видит в тайнах своих клиентов ресурс, подлежащий утилизации и продаже. Получается, и банки эры «большого страха» готовы монетизировать тайны клиентов с тем, чтобы превратить их в большие данные и поведенческие продукты. Мы видим черты нового, постковидного общества — если роевую структуру Левиафана можно всё еще называть обществом.

Защитники документа из правительства могут сказать в свое оправдание, что в документе есть оговорки про обезличивание данных. Например, эта оговорка присутствует, когда говорится о том, что «необходимо расширение практики раскрытия государственных данных», или о том, что необходимы «благоприятные правовые условия для безопасного и ответственного доступа разработчиков систем ИИ и РТ к данным и безопасного и ответственного обмена различными типами данных, включая данные, собираемые государственными органами и медицинскими организациями», или что нужны «особые условия (режимы) для доступа к данным, включая персональные данные (при условии принятия мер для защиты интересов субъектов персональных данных, включая обезличивание)».

Но оговорка про обезличивание — чисто ритуальная. Специалисты знают, что обезличить данные весьма трудно, а, напротив, идентифицировать человека по набору открытых данных — задача вполне решаемая. На эту тему есть и академические исследования, существует и практика. Каковы критерии обезличивания? Кто их будет определять? Группа Сбербанка? Кто будет следить за тем, обезличены данные или нет? На эти вопросы, разумеется, в правительстве ответов не дадут, ибо весь документ создан лишь для того, чтобы обеспечить зеленую улицу процессу создания Цифрового Левиафана.

В документе подчеркивается принцип «стимулирование прежде регулирования»: то есть сначала развиваем бизнес, ни на что не глядя, а регулирование, если появится, появится потом. Такой подход обожают инвесторы Силиконовой Долины, с их этикой снимания сливок.

«Регуляторное воздействие основано на риск-ориентированном подходе и предусматривающее принятие ограничительных норм в случае, если применение технологий ИИ и РТ несет объективно высокий риск причинения вреда участникам общественных отношений и интересам общества и государства». Это означает, что сначала технологии применяются, а риски оцениваются потом. Но кто и как будет их оценивать? Каков порядок принятия ограничений?

Риск-ориентированный подход, написано в документе, «основан на оценке размера потенциального вреда с учетом вероятности его наступления по сравнению с потенциальным положительным эффектом от внедрения технологий ИИ и РТ». Это означает, что если потенциальный положительный эффект превосходит возможный ущерб, то все в порядке. Новая посковидная этика: если официальные лица убеждены, что польза перевешивает риски, то все в порядке, можно прививать минуя этапы.