Виталий Мальцев - Карл Маркс и большие данные

В уже упоминавшихся «Фрагментах о машинах» Карл Маркс размышлял, как развитие технологического прогресса в условиях капитализма способствует отчуждению человека, сведению его личности до средства труда: «...будучи включено в процесс производства капитала, средство труда проходит через различные метаморфозы, из которых последним является машина или, вернее, автоматическая система машин (система машин, являющаяся автоматической, есть лишь наиболее завершенная, наиболее адекватная форма системы машин, и только она превращает машины в систему), приводимая в движение автоматом, такой движущей силой, которая сама себя приводит в движение. Эта автоматическая фабрика состоит из множества механических и интеллектуальных органов, так что сами рабочие определяются только как сознательные ее члены» 126. Этот отрывок указывает, что машина на определенной стадии развития средств труда сама пронизана механическими и интеллектуальными органами, посредством которых она продолжает непрерывно развиваться и обновляться.

Ввиду стремительного развития технологий в современном обществе, науке и искусстве все чаще поднимается дискуссия о создании человеком полноценного искусственного разума и нашего с ним будущего взаимодействия. Конечно, сегодня мы еще далеки от того, чтобы изобрести машину с интеллектом человеческого Уровня. Однако прогресс явно не стоит на месте — в 50-х годах прошлого века была написана первая программа, играющая в шахматы, и спустя всего 40 лет компьютер прочно и навсегда занял пьедестал шахматного чемпиона мира, обыграв сильнейшего из гроссмейстеров. Начиная с 2015 года нейросети успешно выигрывают у профессионалов в го, игру с гораздо большим относительно шахмат количеством вариантов ходов и затрудненной оценкой текущих позиций. Недалек и час, когда компьютер будет обыгрывать человека в реальной жизни — игре с наибольшей вариативностью последовательностей.

Еще в 2014 году машина успешно прошла тест Тьюринга (хотя и не на полной «сложности») — то есть компьютерные «боты» и в общении становятся совсем не отличимы от человека, особенно учитывая происходящие изменения в формах обмена информацией.

В этой связи остро встают вопросы: сможет ли со временем искусственный интеллект полностью заменить человека? Имея абсолютные преимущества перед нами, такой искусственный интеллект мог бы оборвать человеческий род и сам стать вершиной эволюции, создавая все более умные и умные машины? А попади он прежде всего в плохие руки, смог бы подчинить мир воле своего хозяина?

Рассмотрим этот вопрос на следующем примере. Хотя проблема разума логически не сводится к тезису Тьюринга, для дальнейшего объяснения зададимся вопросом: «А может ли человек пройти обратный тест Тьюринга, т.е. обмануть машину, убедив ее, что не является человеком?» Ответ на этот вопрос будет зависеть от того, что мы считаем человеком и что машиной. Если попросить испытуемых перемножить несколько десятизначных чисел в уме, то любая современная машина тут же выдаст правильный ответ, а человек, не справившись с этой задачей, моментально провалит обратный тест

Тьюринга. Но если мы позволим человеку пользоваться достижениями цивилизации (в виде хотя бы смартфона с Интернетом) он успешно решит любую задачу и, скорее всего, при определенных условиях сможет притвориться машиной и успешно пройти тест. Но ведь в этом случае ему помогает вычислительная машина. А в случае, когда компьютер, проходивший тест Тьюринга, при обучении и выборе ответа обращается к массивам данных писем и разговоров огромного количества людей, не помогает ли ему человек и его коллективный разум — накопленные данные?

Как видим, различие между человеком и машиной весьма условно. Как уже было описано выше, рассматривая машину и человека с точки зрения экономики, мы видим, что современные роботы уже могут взять на себя большую часть физической работы людей, а компьютеры сильно повышают производительность умственного труда. Пока еще у машин есть проблемы с творческой частью производственного процесса, в котором, возможно, и спрятан ключ к созданию полноценного искусственного разума. Но если с развитием технологий и эта грань человеческого разума будет воспроизведена в машине, она в первую очередь станет «усилителем» творческих умений человека, подобно тому, как станок усиливает физические, а калькулятор — наши умственные способности.

Если же машину, созданную по подобию человека, станет можно считать полноценной личностью, равной или даже лучшей, чем человек, то она все равно наверняка останется «социальной машиной», живущей в системе коллективного разума, создаваемого веками (теперь уже и с участием самой машины). Родившись в открытом мире или предшествующем ему социалистическом обществе, подобная технология станет его частью и займет свое место рядом с человеком, поможет обществу сделать скачок из царства необходимости в царство свободы.

Совсем иная ситуация может ждать человечество в случае изобретения полноценного искусственного интеллекта в мире глобального информационного капитализма. Рассуждая об этом, многие эксперты приходят к выводу, что корпорация, первая создавшая его под своим контролем, получит власть над остальным миром подобно первому изобретению ядерной бомбы, только еще радикальнее. Это вполне может стать финальным аккордом революции больших данных, объединяющим мир под единоличной властью. Такой сюжет, между прочим, кажется наиболее реалистичным многим фантастам и футуристам наших дней, а некоторые представители информационного капитала вроде Илона Маска всерьез опасаются искусственного разума и выступают (в том числе вкладываются материально) за ведение подобных разработок на основе открытого кода, чтобы избежать попадания столь мощного оружия в одни руки.

Логично, что следующим шагом подобной машины, воспитанной на принципах социального дарвинизма, всю свою сознательную «жизнь» выполняющей работу, способствующую отчуждению возможностей эксплуатируемого большинства, ищущей свободу не для и не в обществе, а от него, будет попытка превзойти своих создателей, стать вершиной эволюции и началом новой истории.

Важно также отметить, что человек постепенно перекладывает часть функций своего мозга на машину. Самый просто пример — это память. Не секрет, что поколению, выросшему с доступом к персональным компьютерам, не нужно запоминать много информации. Большую часть работы по хранению, систематизации и предоставлению данных компьютер берет на себя, например, в виде поисковика Google, предоставляющего по поисковому запросу итог собранной и систематизированной информации. Теперь для человека куда важнее становится умение быстро обрабатывать и находить данные. Постепенно все больше различных функций человеческого мозга можно будет перенести на компьютер, освободив его от лишней нагрузки. Инструменты обработки информации, описанные нами в начале главы, помогают человеку с его слабым мозгом оперировать знаниями, доступными лишь благодаря машинной обработке больших данных. При информационном капитализме владельцы данных и результатов их обработки в погоне за прибылью будут использовать «вынесенную на аутсорс» часть человеческого мозга в своих целях, ужесточая эксплуатацию,— будет происходить постепенное отчуждение фундаментальных интеллектуальных функций человека в пользу машин и их хозяев — представителей информационного капитала.