Николас Карр - Стеклянная клетка. Автоматизация и мы

Смещение центра тяжести экономики с производства реальных товаров к потоку электронных данных привело к тому, что компьютеры в последние десятилетия ХХ века придали новый статус и осыпали золотым дождем людей, работающих с информацией. Люди, зарабатывающие на жизнь манипуляциями со значками и символами на экране, стали звездами новой экономики, в то время как фабрично-заводской труд, долгое время бывший опорой среднего класса, переместился в дальние страны или поручен роботам. Пузырь доткома, надувшийся в конце девяностых, когда за несколько лет всеобщей эйфории деньги хлынули из компьютерных сетей на личные счета маклеров, ознаменовал начало золотого века неограниченных экономических возможностей – того, что горячие поборники информационных технологий окрестили «долгим бумом». Но хорошие времена, как известно, преходящи. Теперь мы видим, как сбывается пророчество Норберта Винера: у автоматизации нет фаворитов. Компьютеры так же хорошо анализируют символы и управляются с потоками информации, как и манипулируют промышленными роботами. Даже люди, управляющие сложными вычислительными системами, теряют работу, уступая ее компьютерам, по мере того как происходит автоматизация вычислительных центров. Огромные серверные хозяйства таких компаний, как Google, Amazon и Apple, по сути дела, управляют собой сами. Благодаря виртуализации среды, техникой, использующей программное обеспечение для воспроизведения функций таких инженерных устройств, как серверы, можно управлять с помощью программ. Сетевые неполадки и неисправности приложений выявляются и устраняются автоматически, часто в течение нескольких секунд. Может оказаться так, что «интеллектуализация физического труда», как назвал этот феномен итальянский ученый Франко Берарди [43], происшедшая в конце ХХ века, станет предшественницей автоматизации интеллекта, наступившей в начале ХХI века.

Умозаключение о возможности имитации компьютерами человеческих знаний и суждений – занятие рискованное. Экстраполяции тенденций развития кибертехники могут оказаться пустыми фантазиями. Но даже если мы (вопреки экстравагантным утверждениям евангелистов от информатики) допустим, что у способности к полезному использованию корреляций и других методов статистического анализа есть пределы, то нам все же придется признать, что за последние годы компьютеры сильно далеко отодвинули эти барьеры. Когда в начале 2011 года суперкомпьютер IBM Watson победил в телевизионной игре Jeopardy! (русский вариант – «Своя игра»), разгромив в пух и прах двоих ее фаворитов, мы поняли, куда нас могут завести аналитические таланты компьютеров. Способность Watson отгадывать намеки казалась просто фантастической, но, по меркам современного программирования искусственного интеллекта, он не совершил, в общем-то, ничего особенного. Сначала он осуществлял поиск возможных ответов в базах данных, потом, пользуясь процедурами прогнозирования, определял, какой ответ, с наибольшей вероятностью, является правильным. Все дело в том, что всю эту колоссальную рутинную работу компьютер выполнил так быстро, что смог превзойти самых сообразительных и остроумных людей, в совершенстве владеющих приемами каламбуров, припоминания и удержания в памяти всяких пустяков.

Watson стал апофеозом новой прагматичной формы искусственного интеллекта. В пятидесятые и шестидесятые годы, когда цифровые компьютеры были еще в новинку, многие математики и инженеры, и не столь многочисленные, но примкнувшие к ним психологи уверяли себя и окружающих в том, что человеческий мозг работает так же, как своего рода цифровая вычислительная машина. В компьютере они видели метафору и модель разума. Следовательно, для того чтобы создать искусственный интеллект, надо было (по мнению этих людей) поступить очень просто: выяснить алгоритмы, согласно которым функционирует содержимое нашего черепа, и перевести их в компьютерные коды. Подход оказался бесплодным. Оригинальная попытка создания искусственного интеллекта провалилась. Выяснилось, что процессы, происходящие в мозге, не могут быть сведены к вычислениям, производимым в компьютерных чипах. [19]  Использование таких терминов, как нейронная сеть и нейроморфная обработк а, могут создать впечатление, что компьютеры работают как мозг. Однако эти термины нельзя понимать буквально; это всего лишь фигуры речи. Так как мы до сих пор не знаем, как работает мозг, как во взаимодействии нейронов рождается мышление и сознание, мы не можем пока построить компьютер, работающий как человеческий мозг. Нынешние ученые предприняли иной подход к созданию искусственного интеллекта – менее амбициозный, но зато более эффективный. Целью теперь не является воспроизведение процесса человеческого мышления – это пока остается за пределами наших возможностей. Воспроизводятся результаты мышления . Ученые смотрят на какой-то частный результат умственной деятельности, например на решение о приеме на работу, а затем программируют компьютер на достижение результата математическими методами. Работа Watson отличается от работы ума человека, играющего в «Свою игру», но он побеждает человека по очкам.

В тридцатые годы, работая над докторской диссертацией, британский математик и компьютерный первопроходец Алан Тьюринг пришел к мысли о «машине предсказаний». Это был своего рода компьютер, который, пользуясь набором ясных и понятных правил, обрабатывал хранилище данных посредством некоторых, невыясненных пока, приемов и отвечал на вопросы, которые обычно требуют от человека интуитивного знания. Тьюринг хотел выяснить, насколько можно интуицию заменить изобретательностью. В целях чистоты своего мысленного эксперимента он постулировал, что у способности машины к обработке огромных массивов чисел нет пределов и отсутствует верхняя граница скорости вычислений, а также неограниченно количество данных, которые машина может принять во внимание. «Мы сейчас не говорим о том, какого мастерства это потребует, – писал Тьюринг, – и поэтому будем считать, что и у него тоже нет границ» [44]. Тьюринг, как всегда, оказался провидцем. Он был одним из немногих в то время ученых, понявших скрытую интеллектуальность алгоритмов и предвидевших, что раскрепостить этот интеллект можно будет за счет увеличения скорости вычислений. Компьютеры, как и базы данных, всегда будут иметь определенные ограничения, но уже в таких механизмах, как Watson, мы видим прообраз «машины предсказаний» Тьюринга. То, о чем он только мечтал, современные инженеры делают в железе и пластике. Изобретательность вытеснила интуицию.

Невероятная способность Watson оперировать с базами данных может найти практическое применение в диагностике онкологических и иных заболеваний. Кроме того, IBM прогнозирует использование подобных компьютеров в юриспруденции, финансах и образовании. Испытывают такие системы и разведывательные организации – Центральное разведывательное управление США (Central Intelligence Agency, CIA) и Агентство национальной безопасности США (National Security Agency, NSA). Если автомобиль Google без водителя продемонстрировал способность компьютера воспроизводить наши психомоторные навыки и даже превзойти человеческие возможности ориентировки в реальном мире, то Watson показывает умение компьютера подменить когнитивные навыки человека и превосходит наши способности ориентировки в мире символов и идей.