Игорь Шнуренко - Человек взломанный

Что я имею в виду под системой с искусственным интеллектом? Есть много определений ИИ, но мне больше нравится то, что дал Шейн Легг, один из основателей лаборатории Deep Mind. Его лаборатория известна широкой публике тем, что создала играющую с самой собой нейросеть, которая победила человека в игре го. Шейн Легг считает, и его точка зрения мне близка, что интеллект — это способность агента ставить себе цели и решать разные задачи в меняющемся окружении. Если этот агент — человек, то интеллект естественный, а если машина — то искусственный. Все просто. В книге мы будем подробно разбирать эти вопросы, важно подчеркнуть, что я использую это определение ИИ в применении к Левиафану.

Среди этих систем есть и относительно простые искусственные нейросети, те, что обслуживают камеры слежения, обрабатывают информацию, записанную датчиками «умных помощников», управляют разговорными ботами или погрузчиками в порту, распределяют по земному шару медикаменты или контейнеровозы, или определяют, где будут располагаться вышки 5G. Есть ИИ-системы и посложнее: те, что проигрывают модели реакции общества на те или иные ситуации, и те, что ведут политические кампании по манипуляции населением в соцсетях и вне их.

Есть ИИ-структуры совсем сложные, например, предсказательные машины финансовых рынков наподобие системы Aladdin глобальной инвестиционной группы Black Rock. Такая интеллектуальная система, при определенном развитии, через поведение агентов может управлять поведением рынков, и таким образом закрыть, оптимизируя показатели, рынок, отрасль, страну.

Надо подчеркнуть, что в Цифровом Левиафане нет ничего мистического — это целиком создание рук и умов человеческих — только это такое создание, над которым, как это бывает часто, создатель/создатели теряют или уже потеряли контроль. У создателя Левиафана вряд ли одно имя, он плод коллективных усилий многих, подавляющее большинство этих людей видели и делали лишь свою часть самых разных проектов. Они понятия не имеют о том, что эта совокупность проектов, сетей и платформ представляет собой как единое целое. Тем более не имеют они представления о том, как это целое будет развиваться.

Есть ли у Левиафана ядро или несколько ядер? По мере развития система вполне может становится децентрализованной, вбирая в себя все новые и новые ИИ-системы, группы людей и отдельных индивидуалов.

Сразу упреждая критику в мифотворчестве, в персонализации некоей абстракции, скажу кое-что в свое оправдание. Метафора «Левиафан» была выбрана мной первоначально из практических соображений: я хотел иметь возможность более адекватного описания новой реальности, чтобы делать выводы и предсказывать определенные тренды. Я выбрал это слово для удобства, основываясь прежде всего на идее английского философа XVII века Томаса Гоббса о Левиафане как олицетворении государства. Я охотно забрал бы свое название обратно, если бы натолкнулся на что-то лучшее. Однако выяснилось, что «Цифровой Левиафан» довольно неплохо объясняет происходящее. Концепт достаточно хорошо работает, и по одной этой причине стоило бы этим понятием пользоваться.

Кроме того, довольно скоро стало ясно, что речь идет о чем-то большем, чем просто удобная метафора. Всё больше и больше в своих действиях Левиафан, архитектура которого меняется со временем, показывает себя как единое целое, хотя он не имеет лица. Едва ли это какой-то гигантский всезнающий кристалл из фантастических фильмов — но он не менее реален, чем, например, государство.

Предвижу еще одно возражение против выделения Левиафана в субъективную сущность со стороны людей, в свое время начитавшихся Курцвейла или других воинственных функционалистов, популярных в первую очередь благодаря сенсационной манере подачи информации.

Подвергнувшиеся воздействию подобного яркого и доходчивого чтения обычно занимают одну из двух сторон. Либо они сами становятся гностиками и трансгуманистами, либо, найдя в этих текстах нестыковки — а их там много — говорят, что искусственный интеллект — это чистый пиар и хайп, за которым ничего не стоит и не может стоять, ибо человека по определению превзойти в интеллекте невозможно. Цель существования «так называемого ИИ», говорят они — интересы людей, просто потому что так положено, и вообще ИИ — это блеф, попытка скрыть тот факт, что это некие алгоритмы, подконтрольные тем, кто их написал. Человеческое сознание, уверены они, стоит на верхушке пирамиды усложнения процессов, и если ИИ начнет выходить из-под контроля, можно будет просто выдернуть штекер из розетки.

Ни та ни другая сторона не утруждается доказательствами или разбором критических замечаний, и та и другая точка зрения — это вопрос квазирелигиозной веры в некие аксиомы, авторитеты или даже ловко подогнанную статистику. И те и другие апеллируют к плохо понятым и невнятно сформулированным, внутренне противоречивым тезисам. Чтобы немного разобраться в том, что такое искусственный интеллект в исторической перспективе, в каких направлениях развивалась эта область, в чем заключается переворот, произведенный в этой области искусственными нейросетями, и, наконец, каков его сегодняшний день, рекомендую почитать мою книгу «Демон внутри. Анатомия искусственного интеллекта». В ней я постарался сжато рассказать о самом важном по теме и дать интересующимся цельный взгляд на предмет. Я старался избегать клише и критично относился к общепринятым мифам, например, об англо-американской основе главных достижений в области ИИ. К сожалению, часто книги об ИИ страдают обрывочностью, необязательностью, клиповым подходом, который делает их читателей легкой добычей для техношаманов и инфоцыган.

Эту книгу можно рассматривать как продолжение «Демона внутри», как расширение и углубление темы, как продолжение дискуссионных вопросов, начатых обсуждаться там, — например, в вымышленном диалоге с роботом Софией.

Но предмет этой книги отнюдь не абстрактный и не академичный. События разворачиваются все стремительней. После десятилетий заманивания, подталкивания и обещаний рая технократы поставили человечеству шах и мат. Они закрыли Эру Просвещения и погрузили человека разумного не просто в неразумное состояние, а — в состояние нарциссического наркоза.

Общество всеобщего благоденствия, разрываемое на лоскуты противоречиями, нерешаемыми в рамках финансового капитализма, самоуничтожилось. Потребительское общество тоже приказало долго жить. Планета, которую человек хищно грабит, наносит ответный удар, а самопровозглашенная «элита» вместо поисков выхода взламывает «человека разумного», чтобы воспользоваться им как сначала психологическим, а потом и биологическим сырьем в поисках вожделенного Грааля власти над миром.