Игорь Шнуренко - Человек взломанный

Людей уже сейчас в экспериментах и исследованиях, проводимых частными соцсетями и онлайн-платформами, приравнивают, по сути, к биороботам, к киборгам. В ситуации, когда за объектами управления не признается даже элементарных человеческих прав, можно говорить о современном рабовладении. Об этом возвращении в архаику следует помнить, когда вам будут рассказывать о том, что технологии несут с собой прогресс.

Рабовладение возникло когда-то в результате распада первобытнообщинного общества. Энгельс так описывал возникновение рабовладельческого строя: «До того времени не знали, что делать с военнопленными, и потому их попросту убивали, а еще раньше съедали. Но на достигнутой теперь ступени «хозяйственного положения» военнопленные приобретали известную стоимость; их начали поэтому оставлять в живых и стали пользоваться их трудом… Рабство было открыто. Оно вскоре сделалось господствующей формой производства у всех народов, которые в своем развитии пошли дальше древней общины…»

Сейчас генезис рабства другой: новое рабовладение возникает в ходе распада глобального потребительского общества и ликвидации «общества всеобщего благоденствия». Есть и отличия, например, в Древнем Риме за пролетарием все же признавались некоторые права личности, а при новом порядке пролетарий — это раб алгоритмов. Если он будет сочтен пригодным к труду, он будет делать работу по заданиям, примерно как нейросеть выполняет свою работу, следуя самым современным методам. Творческий труд человека становится не нужен, как, впрочем, и касики, индейские вожди, то есть бюрократия. Алгоритмы, искусственный интеллект справятся с этой работой лучше.

Для нового рабства будет характерно несколько черт, которые стоило бы рассмотреть. Во-первых, раб, во всяком случае в первое время, будет являться собственностью не одного хозяина, а коллективного владельца. В древности общины — даже города, храмы, государства имели своих рабов. Сегодня таким рабовладельцем сможет быть юридическое лицо типа Сбербанка или крупной технологической корпорации. Эти лица, в свою очередь, могут иметь частных акционеров-людей. В любом случае, раб распознается по тому принципу, что он является одушевлённым орудием труда своего хозяина и результаты его труда, как и он сам, являются собственностью хозяина.

Следующая черта рабства — та, что раб не имеет собственности на средства производства. Еще важно отметить, что капитализм в случае рабства отменяется: раб подвергается эксплуатации путём внеэкономического принуждения. Именно для этого и будут служить системы управления людьми при помощи искусственного интеллекта.

Нужны ли рабы уже сейчас, есть ли в них экономическая необходимость? Очевидно, да, ибо нейросетям требуются большое количество учителей, помогающих им определить, кто на картинке, кошка или собака, кликеров, чья функция примерно совпадает с функцией транзистора.

Многие мыслители — и Конфуций, и Аристотель, и Цицерон, считали рабство необходимым институтом, поскольку, как они полагали, есть категории людей, самой природой предназначенных к рабской зависимости и неспособных к умственному труду. Примерно такое же отношение можно встретить у Даниэла Деннета, Рэя Курцвейла и современных аналитических философов.

В мире новых конкистадоров рабы могут выполнять и определенные когнитивные функции. Например, можно представить себе ферму рабов-читателей, которые будут читать книги, для получения из их мозга уже обработанной информации.

Источниками рабства в древних государствах были военнопленные, люди, рожденные рабами, а также свободные, попавшие в рабство за долги. В некоторых обществах последнее было главным способом получения новой рабской силы. В ситуации постоянных кризисов и катастроф именно этот способ видится главным источником обращения человека в рабство, а установка об отсутствии свободы воли позволит делать это алгоритмически.

Вопрос о том, все ли люди будут обращены в рабов, остается открытым, ибо некоторые люди — например, акционеры банков — в новом мире могут существовать на правах юридических лиц, то есть компьютерных систем.

Некоторым древним рабам, особенно тем, кто занимался сельским трудом, предоставлялась некоторая доля самостоятельности и даже заинтересованности, что создавало у них стимул. Поэтому и в новой системе возможны такие элементы цифрового феодализма: например, какую-то степень свободы могут получить создатели компаний, творцы идей, чьи идеи потом передаются в работу искусственному интеллекту. Ибо в мире, где «будущее частное» человек не сможет сам стать по-настоящему независимым собственником.

Спиноза в «Политическом трактате» писал о том, что каждый бывает своенравным, «sui juris» «постольку, поскольку может отразить всякое насилие, отомстить по своему желанию за нанесенный ему вред, и вообще поскольку может жить по своему усмотрению».

Запомним это «жить по своему усмотрению». В тот внезапный момент, когда мозг человека оказался взломан искусственным интеллектом и человеческие способности творить на пустом месте лучшие из миров обнулились, «жить по своему усмотрению» оказалось так же невозможно, как гулять в парке, пересекать полосатую ленточку на детской площадке, с изумлением смотреть на лица в сбитых на подбородок масках Шредингера, которые одновременно и есть, и их нет.

Философы, как люди простодушные и не лишенные аффектов, склонны высоко ценить свою способность суждения и даже выделять ее в отдельную категорию прекрасного. Никакая цена при этом не кажется им слишком высокой, в том числе и уклонение от ответа на вопрос, не слишком ли далеко они ушли в стремлении к соблюдению обрядов своей корпорации. Но происходящее сегодня вынуждает меня сомневаться в том, что мы можем говорить о таких понятиях как «суждение», «способность суждения», «точка зрения», «своеправность» или «своенравность».

Ритуалы конца эпохи суждения оказались довольно безвкусны, и сегодня вряд ли имеют какое-либо значение рассуждения Канта о прекрасности прекрасного. Казалось бы, прекрасное стало даже прекраснее прежнего прекрасного, поскольку частная заинтересованность в каком-либо обладании прекрасным обнулилась. Нет больше вожделения, страсти обладания пейзажем или впечатлением, и всего того, что не относится к ситуативным установкам, заданным цифровой платформой.

Голландская компания «Дросте» с 1900 года выпускает баночки с какао, на которых изображена монашенка, которая держит в руке баночку, на которой изображена монашенка, которая держит баночку, и так до бесконечности. Так каждая цифровая корпорация содержит в себе другую, «Гугл» содержит в себе «Фейсбук», внутри него сидит «Амазон», внутри этой шкатулки лежит «Майкрософт», тот содержит яйцо «Эппла», а в каждом «Эппле» записана игла «Гугл». Круг замыкается, границы между различными цифровыми корпорациями прочертить невозможно, они пропадают в бесконечных изгибах и не имеют значения. Береговая полоса, кровеносная система, Цифровой Левиафан — если увеличить любой фрагмент такого фрактала, можно увидеть точно такой же паттерн, что и на изображении без увеличения.