Игорь Шнуренко - Человек взломанный

Корень еврейского слова «левиафан» имеет значение «свитый» или «скученный» — и тут приходит на ум сгусток сверточных нейронных сетей — самой распространенной архитектуры для машинного обучения. Библия описывает Левиафана как грозного зверя, обладающего чудовищной свирепостью и великой силой. Левиафан не может быть привязан или приручен; на него страшно смотреть. При этом он имеет изящный вид, он идеально защищен чешуей, его спину невозможно пронзить, ни один меч, копье, дротик или стрела не могут победить его, он не может быть скован, потому что разрушает железо, как солому, он боронит землю своим брюхом, воду он заставляет бурлить и оставляет светящийся след. «Нет на земле подобного ему — создания, которому страх неведом».

Элохим приберегает Левиафана для контроля над человечеством, но в конце концов Левиафан будет побежден — очевидно, когда необходимость в таким созданиях отпадет. Причем в таких созданиях во множественном числе — левиафан не какое-то одно существо, а их многие в одном и одно во многих. Совершенно как искусственный интеллект. «В тот день поразит Господь мечом своим тяжелым, и большим и крепким, левиафана, змея прямо бегущего, и левиафана, змея изгибающегося, и убьет чудовище морское».

У Томаса Гоббса Левиафан — это некая всемогущая и все-ведающая машина, это аппарат, инструмент, созданный людьми и стоящий над ними для того, чтобы помешать им перебить друг друга. Человек владеет искусством, при помощи которого Бог создал мир и управляет им, пишет Гоббс. И главное проявление этого искусства — умение создать «искусственное животное».

Так человек создает своего Левиафана, которому подчиняется. Вот что пишет Гоббс:

« В этом Левиафане верховная власть, дающая жизнь и движение всему телу, есть искусственная душа, должностные лица и другие представители судебной и исполнительной власти — искусственные суставы; награда и наказание (при помощи которых каждый сустав и член прикрепляются к седалищу верховной власти и побуждаются исполнить свои обязанности) представляют собой нервы, выполняющие такие же функции в естественном теле; благосостояние и богатство всех частных членов представляют собой его силу, salus populi, безопасность народа, — его занятие; советники, внушающие ему все, что необходимо знать, представляют собой память; справедливость и законы суть искусственный разум (reason) и воля; гражданский мир — здоровье, смута — болезнь, и гражданская война — смерть ».

Гоббсовский Левиафан не равен ни народу, который населяет государство, ни королю, ни коллективному правителю. Важно, что этот аппарат — единый организм, он обладает своим собственным естеством, это независимый агент, вполне себе своенравный в спинозовском понимании. Хотя цифровой Левиафан, как та монашенка с баночки какао, и обладает свойствами рекурсивности, он не подходит под размытое определение искусственного интеллекта, данное в федеральном законе. Однако он прекрасно вписывается и в определение Шейна Легга, и соответствует представлению о Левиафане Гоббса.

Сегодняшний мир разделился на наблюдателей и наблюдаемых. Наблюдаемые полностью обнажены, любое движение их тел и душ на виду, они полностью прозрачны, они живут в стеклянных домах стеклянных городов под всевидящим оком и всеслышащим ухом, и даже ночью им не укрыться от инфракрасных лучей. Наблюдатели вроде бы изъяты из всех записей и зашифрованы, они живут за темным стеклом, находятся по ту сторону одностороннего зеркала, где они, невидимые, могут видеть наблюдаемых.

Разница между наблюдателями и наблюдаемыми и есть та винтовка, в оптическом прицеле которой рождается власть. Но, разумеется, и за самими наблюдателями ведется наблюдение. В прошлом году сообщалось о том, как саудовский кронпринц взломал телефон главы Амазона Джеффа Безоса: совершенно понятно, что спецслужбы, внутренние государства, личные охраны, ставшие частью цифрового Левиафана, следят за самими наблюдателями, которые применяют самые изощренные средства защиты — но никто не уйдет от взгляда Левиафана. Он и есть окончательный наблюдатель, причем тот наблюдатель, появление которого привело к коллапсу функции точки зрения, функции суждения, функции критического разума, а значит, и функции науки, функции демократии, функции современного государства в целом.

Сегодняшний цифровой Левиаван становится окончательным наблюдателем, наблюдателем за человеческими жизнями, наблюдателем над человеком как таковым. Оцифрованный Левиафан сторожит от человека ворота парка, осуществляя строгий надзор и исполнение наказаний. Когда парк, то есть рай, окончательно откроется, Левиафан предоставит Элохим всю информацию для впуска в парк достойных.

Вопрос о том, была ли демократия тоже своего рода Левиафаном, оставим открытым. Когда-то права человека — и свободы — были переданы под надзор институций, чтобы они смогли обеспечить исполнение принятых деклараций. Формальные права расширялись, при этом нарастала неопределенность системы, а экономическая система требовала все большего детерминизма, что стало в последние пару десятилетий экономическим императивом. Поздний капитализм для выживания нуждался в полной определенности, предсказанности будущего всех своих агентов, в том числе, все возрастающим образом, людей.

Я говорю о капитализме в прошлом времени, потому что, на мой взгляд, он закончился с созданием цифрового Левиафана, Левиафана — искусственного интеллекта, в тот момент, когда главным продуктом экономической системы стало производство и продажа фьючерсов на человеческое поведение, которые обессмысливают фундаментальное понятие контракта как договора свободных агентов. Это относится и к социальному контракту. Инструментализм, то есть управление агентами, потерявшими свободу, со стороны систем множества искусственных интеллектов-левиафанов, привел к тому, что власть капитала, ранее олицетворяемая, трансформируется в анонимную власть. Формальные владельцы состояний, люди из списка Форбс, управляются своим левиафаном, являющимся частью большого Левиафана.

Цифровой Левиафан рождается на наших глазах в первую очередь как средство контроля, как инструмент борьбы с растущим напряжением в человеческом сообществе — напряжением, с которым, как мы видим по событиям, происходящим в США, демократический Левиафан уже не может справиться. Все, наверное, видели поклонение Святому Джорджу Миннеаполисскому, сверкающий золотой гроб которого везла белая лошадь на белой карете, его именем молились чернокожие люди в белых масках и белых одеждах, и на наших глазах возник новый культ вечно живого Святого Джорджа Флойда.