Сергей Шумский - Воспитание машин. Новая история разума

Уже сегодня мы наблюдаем рост глобальных платформ, обеспечивающих персонализированное потребление товаров и услуг за счет умных рекомендательных систем: Google и Facebook организуют персональную доставку информации и новостей, Amazon и eBay – продуктов и услуг, YouTube и Netflix – видеоконтента. И, как зародыши новой фазы, эти бизнесы растут на порядок быстрее остальной экономики: 25–50 % против 2–3 % (рис. 10).

Поскольку в основе всех этих платформ лежат технологии искусственного интеллекта, вложения в них растут опережающими темпами и измеряются десятками миллиардов долларов в год. Эта новая мировая «гонка за ИИ» обостряется тем, что в мире платформ действует принцип «победитель забирает все». Обществу не нужен второй Facebook и второй Google. Кто не успел – будет подбирать крохи в оставшихся нишевых сегментах рынка.

Не приходится сомневаться, что в результате этой гонки вслед за беспилотными такси, которые уже можно встретить на улицах Москвы, появятся и автономные роботы, способные к самостоятельному разумному поведению, понимающие не только человеческую речь, но и человеческие ценности. Так что разворачивающаяся цифровая революция будет самой радикальной и самой важной трансформацией за всю историю человечества с момента когнитивной революции, ведь она затрагивает самую нашу суть – человеческий разум.

Если раньше революционные «разборки» шли между различными слоями общества, то теперь человечеству предстоит разбираться с новыми видами разумных существ, мыслящих и эволюционирующих самостоятельно. Неожиданно для себя мы оказались в ситуации неминуемой скорой встречи с неизвестным нам искусственным разумом. Какое место человек сможет занять в этом новом, цифровом, укладе? Насколько он будет самостоятелен в выборе своей судьбы? Мы этого не знаем. Чтобы в этом разобраться, нам придется досконально рассмотреть ход цифровой революции и попытаться «вычислить» контуры нашего будущего, будущего наших детей и внуков, подобно тому как мы это делали для прошлых укладов.

В этой главе мы проследили в общих чертах логику развития человечества от древности до наших дней, обозначив базовые параметры цивилизации на каждой ступени ее развития. Логика дальнейшего развития тоже прояснилась: нам предстоит преодолеть барьер сложности современной цивилизации за счет создания и «приручения» искусственного интеллекта. Только таким образом человечество сможет развиваться дальше. Цифровая революция, как и всякая другая, таит в себе много рисков. В следующей главе мы проследим начальные этапы этой революции, сравнивая их с аналогичными этапами предыдущих промышленных революций, чтобы понять, где именно мы находимся и чего нам следует ожидать в ближайшем будущем.

Поскольку мы начинаем активно использовать такие термины, как «информация», «знания» и «искусственный интеллект», имеет смысл определить, что мы под ними понимаем.

Начнем с того, что цифровым считается любое устройство, которое может устойчиво находиться в одном из нескольких дискретных состояний, то есть обладает памятью . Это качество, собственно, и определяет современную роль цифровых технологий как внешней памяти человечества. Информация является количественной мерой объема памяти и измеряется в битах [39]. Информацию можно не только хранить, но и передавать по каналам связи, а также обрабатывать в компьютерах согласно четко определенным правилам – алгоритмам .

Любой алгоритм характеризуется своей сложностью , которая также измеряется в битах, поскольку она определяется размером наиболее компактной записи алгоритма в памяти. В алгоритме заложены знания о том, что надо делать с полученной информацией для достижения какой-то цели, поэтому логично определить любое знание через соответствующий ему алгоритм. Чем он сложнее, тем больше знаний в него заложено. Так что мы будем определять объем знаний сложностью соответствующих алгоритмов и измерять его в битах.

Таким образом, мы различаем пассивную информацию , которую можно хранить и передавать между устройствами ее обработки, и активные знания , заключенные в алгоритмах, используемых для обработки входящей информации. Такое определение согласуется с обыденным употреблением этих терминов: человек действует на основе полученной извне информации, осмысленной с помощью имеющихся в его мозгу знаний. Результаты своих размышлений он может передавать другим людям в виде выходной информации для ее дальнейшей обработки.

Как правило, первичная информация ( данные , например показания датчиков) проходит множество этапов обработки, причем тем больше, чем более развита система разделения труда. Таким образом, человеческое мышление по самой своей природе коллективное. И если в эту цепочку вклинивается компьютерная обработка информации, мы получаем коллективное человеко-машинное мышление.

Цифровая революция состоит в постоянном увеличении доли машинной компоненты этого коллективного мышления. В какой-то момент непрерывно растущие возможности компьютеров неизбежно сравняются с человеческими, а затем и превзойдут их. В предвидении этого момента ведущие ученые в области компьютерных наук, собравшиеся летом 1956 года на двухмесячный семинар в Дартмутском колледже, ввели понятие искусственного интеллекта .

Человеческий интеллект в обыденной жизни связывают с умением решать самые разные задачи и добиваться своих целей, невзирая на обстоятельства. Аналогично искусственный интеллект ученые определили как способность компьютеров решать любые задачи и добиваться поставленных целей не хуже человека, например играть в интеллектуальные игры, доказывать математические теоремы и переводить тексты с одного языка на другой. В дальнейшем это определение было расширено за счет «детских» задач, которые обычно не считались интеллектуальными, но на поверку оказались очень сложными и долгое время не поддавались решению известными методами, такими как машинное зрение, чтение рукописных текстов, распознавание и понимание речи. Соответственно системы, способные решать хотя бы некоторые из этих очень разных задач, стали называть слабым искусственным интеллектом , чтобы подчеркнуть снижение первоначально слишком высокой планки сильного искусственного интеллекта , обладающего всеми человеческими способностями.