Игорь Шнуренко - Человек взломанный

Ибо решение послать на японские острова «Энолу Гэй» принадлежит отнюдь не ученому-технократу Оппенгеймеру, а политику Гарри Трумэну.

Уже тогда, кстати, технократы перебирали в голове возможные оправдания. Оппенгеймер в воспоминаниях говорит о том, что надеялся на то, что в реальной войне его бомбу применять не будут именно в силу её мощи. Точно так же сегодня приходится слышать, что новейшие технологии слишком серьезны, чтобы правительства стали ими пользоваться необдуманно.

Сегодняшние технократы, осознав свою мощь, вряд ли будут мучиться угрызениями совести, как Оппенгеймер. Высказывание из «Бхавадгиты» они будут понимать буквально, тем более что упомянутые НБИК-технологии позволяют «губителям людей» развернуться в полную силу. К тому же они считают людей за биомашины. Как технократы последних дней обращаются с такими машинами, видно уже по ковидному концлагерю.

Если почитать труды основателя кибернетики Норберта Винера и других ученых, стоявших у истоков развития систем искусственного интеллекта, станет понятно, что в последние 70 лет люди выбирали самые плохие и самые рискованные сценарии. Поэтому нужно отчетливо понимать, что дело идет к «моменту Хиросимы» для систем ИИ и нано-био-когнитивных технологий. Никаких выводов из истории с ядерным оружием человечество не сделало и надеется на авось. Только для этой надежды сегодня куда меньше оснований, чем в 1945-м. Сегодня куда меньше вероятность того, что жертвами станут два относительно небольших города, которые Трумэн разбомбил скорее для эксперимента, и чтобы показать русским, кто в доме хозяин.

Кстати, насколько адекватными стали сегодня политики в сравнении с теми, кто вершил судьбы мира в 1945-м? «В каком-то исконном, грубом смысле, который нельзя полностью устранить ни вульгарностью, ни юмором, физики познали грех, и это знание они уже не смогут потерять», надеялся Оппенгеймер. Он предполагал, что ученые могут усвоить какие-то уроки, и сделать какие-то выводы, но он явно переоценил их разум, совесть и сознание. Но упадок науки и морали ученых не идет в сравнение с измельчанием материала, из которого лепят сегодня политических гомункулусов.

В предыдущей части мы увидели, что ученые в сегодняшнем мире значат всё меньше. Политика в обществе, отрицающем ответственность, тоже не может существовать иначе как симулякр. Реальным влиянием пока еще пользуются финансисты, которые, собственно, создали и вскормили Цифрового Левиафана — но едва ли создателям и в этом случае удастся удержать под контролем свое создание.

Когда начиналась вторая промышленная революция, не было недостатка в оптимистических прогнозах применения технологий. Но в итоге началась хищническая эксплуатация ресурсов Земли, за которую мы расплачиваемся сегодня природными катаклизмами, болезнями и эпидемиями. Сегодня мы перешли от «экономике внимания» к «капитализму слежки», который переносит модель извлечения ресурсов с недр Земли на человеческое сознание и эмоции. Возник рынок фьючерсов на человеческое поведение, и этот рынок бурно растет. В итоге сам человек становится другим.

Речь идет о выживании нашего вида. Способны ли мы усвоить хоть какие-то уроки или надо готовиться к апокалипсису — как это делают многие капитаны хайтек-индустрии, строя себе бункеры в Новой Зеландии или на Аляске?

Большинство людей, однако, не может переехать на Аляску, и если мы хотим выжить как человеческий род, мы должны решать нарастающие проблемы здесь и сейчас. Для этого, прежде всего, мы должны их осознать. Нужно понять, с какой целью мы цифровизуемся как сумасшедшие, чего хотим добиться? Почему нет общественного контроля за развитием технологий и как его обрести? Что делать конкретному человеку, объединениям людей, обществу, для того, чтобы избежать глобального коктейля антиутопий?

Некоторые говорят, что развитие технологий предопределено, и эта неизбежность рождает практику. Но это не так: технологии не существуют в отрыве от общества, их развитие определяется не мистической предопределенностью, а вполне реальными целями, которые ставят те, кто управляет обществом. Так, домашний термостат «Гнездо» от компании «Гугл» собирает информацию на своих домашних, потому что рынку нужны данные. И рынок их получает.

Транснациональные гиганты научились извлекать огромные прибыли, монетизируя психику и делая таким образом «новой нефтью» самого человека. Сильнее всего последствия бесконтрольного использования цифровых технологий бьют по детям, у которых нет привычки к «аналоговым» способам работы с информацией, нет иммунитета от интернет-зависимости. Исследования психологов и нейроученых говорят о массовом распространении цифрового аутизма, повышении тревожности у детей, ухудшении их памяти, снижению усидчивости, способности к обучению, прежде всего точным наукам. Появился уже медицинский термин «математическая тревожность» — речь идет об импульсивно-негативной реакции детей и подростков на само слово «математика».

При этом и общество в целом становится новым объектом извлечения ресурсов и контроля. Индустриальное общество часто представляли в виде механизма с колесиками и шестеренками; кое-кто из художников приветствовал новую машинную эпоху, но большинство творцов выступали против того, чтобы человек воспринимался как одна из шестеренок в машине, цели которой он не понимает и не разделяет. Однако в сегодняшней антиутопии человек может оказаться в ситуации Грегора Замзы из «Превращения» Кафки. Он превратился в таракана, в существо, которое не может само себя узнать и вернуть себе прежний облик. Изменения поначалу мало заметны, но уже человека из 1990-х наверняка поразили бы наши современники, прикованные к своим мобильным устройствам, живущие в виртуальной реальности соцсетей больше, чем в настоящем мире, который тоже все больше становится реальностью, дополненной цифровыми гаджетами.

Весной 2020 года, во время ковидного карантина, в классе, где учится мой 15-летний сын, было сорвано дистанционное занятие по литературе. Как и во многих школах, перешедших на удаленное обучение, наши учителя пользуются приложением Zoom. Почти с самого начала урока в эфире послышались дикие крики, экран перекрыли безобразные рисунки, в общем чате появились ссылки на непристойные сайты. Урок был посвящен теме любви, и учительница очень обиделась на учеников. Она решила, что кто-то из них «слил» информацию об уроке своим дружкам, и те сорвали урок. Большинство детей послушно согласились с этой версией и стали искать виновников внутри класса. Родители в своем чате были в шоке. «Я стала хуже думать о своей дочери», написала одна мама. «Значит, наши дети трусы, которые не могут остановить хулигана», написала другая. Предложили ужесточить контроль, заставлять детей обязательно включать камеры, и постановили, что нужно, конечно, подключить системного программиста и через адреса компьютеров в сети выявить зачинщиков.