Сергей Шумский - Воспитание машин. Новая история разума

Заметим, что к началу эры смартфонов в 2010-х годах, согласно рис. 14, за $1000 стала доступна вычислительная мощность, сравнимая с человеческим мозгом, – 10 11FLOPS (рис. 11). И как достижение в середине 1990-х критического порога 10 6FLOPS открыло дорогу мультимедийному интернету, так переход через новый рубеж 10 11FLOPS знаменует начало эры искусственного интеллекта. Так что начавшийся в 2010-х и продолжающийся поныне бум искусственного интеллекта вполне закономерен.

Тот факт, что существующий сегодня ИИ все еще очень далек по своим возможностям от человеческого, следует отнести исключительно к неготовности современной науки к этому вызову. Создание искусственного интеллекта требует глубокого синтеза технических и гуманитарных знаний, и именно эта непростая задача встает сегодня во весь рост перед наукой. Мы должны объединить компьютерные науки с математикой машинного обучения, знаниями о механизмах работы мозга и тонкостях человеческой психики. Мы должны построить действующие модели искусственной психики, объясняющие человеческое поведение, и, поняв, как она устроена, наделить ею… роботов. Только в этом случае роботы и программные агенты смогут вписаться в человеческую цивилизацию «на наших условиях».

В этой главе мы описали начало перехода от индустриального уклада к цифровому, который ожидает нас в не столь отдаленном будущем. Возникает вопрос: а на какой стадии этого перехода мы сегодня находимся? Можем ли мы указать, например, соответствующую стадию промышленной революции, чтобы понять, хотя бы из этой аналогии, масштаб грядущих перемен?

По мнению автора, появление искусственного интеллекта в его современном виде слабого ИИ соответствует созданию первых, еще очень несовершенных паровых двигателей. Поясним, чем обусловлена такая аналогия. Паровой двигатель был замыкающей технологией первой промышленной революции. С его появлением стало возможным массовое промышленное производство. Авангардом первой промышленной революции выступало ткацкое производство. Ткацкие станки появились задолго до этого и постепенно совершенствовались, пока наконец не превратились в автоматы, которые можно было приводить в действие внешними источниками энергии, независимыми от человека. Поначалу таким источником служили водяные мельницы, и первые мануфактуры возникали по берегам рек, что ограничивало масштаб производства и было неудобно с точки зрения логистики. Появление парового двигателя позволило организовать фабричное производство произвольного масштаба непосредственно в местах скопления рабочей силы, то есть в городах. Одна паровая машина могла обслуживать несколько цехов с различными видами станков, обеспечивая энергией весь производственный цикл. Снабжение городов и фабрик топливом также осуществлялось с помощью все того же парового двигателя, поставленного на рельсы. Таким образом, эта замыкающая технология разом сняла все преграды для организации массового промышленного производства, и Англия в короткий период смогла обеспечить тканями весь остальной мир [60] Этому также способствовал переход с шерсти на хлопок, поскольку растительные белки на порядок дешевле животных: 1 га земли дает в 12 раз больше хлопка, чем шерсти (см.: Эткинд А. М. Природа зла. Сырье и государство. – М.: Новое литературное обозрение, 2020. С. 365). .

Аналогичным образом масштабы цифровой экономики до последнего времени ограничивались скоростью переноса знаний от людей к компьютерам с помощью программистов. Машинное обучение снимает это ограничение скорости роста компьютерной составляющей коллективного мышления, позволяет создавать массовые интеллектуальные сервисы, обеспечивающие своими услугами весь мир. Как в свое время паровые двигатели, машинное обучение расшивает узкое горло, сдерживающее массовый переход на новый технологический уклад.

Современное глубокое обучение можно уподобить первым громоздким паровым двигателям Ньюкомена с их чудовищно низким КПД. Обучение глубоких нейросетей сегодня требует больших массивов данных и еще больших вычислительных ресурсов (пропорциональных квадрату объема данных). Это является естественным следствием их универсальности: нейросети способны реализовать любой алгоритм, аппроксимировать любую непрерывную зависимость выходов от входных данных. Изначально в них не заложены никакие априорные предположения о характере моделируемых данных, а чем меньше у нас априорных знаний, тем больше требуется примеров, чтобы передать эти общие знания алгоритму.

Люди же, благодаря своему интуитивному пониманию законов внешнего мира, способны угадывать решения незнакомых задач буквально по нескольким примерам. Так, в известных тестах по измерению IQ средний человек способен, как правило, угадать четвертую картинку по трем имеющимся. Интеллект ассоциируется у нас именно со способностью схватывать на лету, то есть с эффективностью упаковки данных в знания [61] Chollet F. (2019) On the Measure of Intelligence ( https://arxiv.org/abs/1911.01547/ ). . И в этом смысле эффективность современных нейросетей оставляет желать лучшего.

Но мы помним, что в ходе промышленной революции КПД двигателей неуклонно повышался, как росла и их доступность. Качественное изменение произошло с повсеместным внедрением электричества и электродвигателей, с появлением общедоступной «энергии из розетки» (произошла так называемая вторая промышленная революция). Аналогичный момент в цифровой революции наступит с появлением сильного ИИ , по своим интеллектуальным способностям не уступающего человеческому. Только сильный ИИ способен бесшовно вписаться в человеческое общество, стать общедоступным «интеллектом из розетки» в качестве новой технологической основы цифрового уклада.

В том, что это произойдет, нет никаких сомнений, вопрос только – когда. В следующей главе мы попытаемся ответить на него, рассмотрев более внимательно драйверы современного этапа цифровой революции. Как проникает в нашу жизнь и в каком направлении развивается искусственный интеллект сегодня? Кто и насколько сильно заинтересован в появлении сильного ИИ? Ведь если общество действительно нуждается в какой-то технологии, если на нее имеется растущий платежеспособный спрос, ее появление неизбежно. Как говорил Ф. Ницше, «кто знает зачем , найдет любые как ».

В главе 1 мы обсудили основные этапы развития человеческой цивилизации с древности до наших дней, вписав современную технологическую революцию в этот единый процесс. В этой главе мы сосредоточились на истории развития цифровых технологий, быстрыми темпами формирующих новый технологический пакет цифрового уклада. Выяснилось, что буквально на наших глазах во втором десятилетии XXI века сформировалась замыкающая технология этого технологического пакета – искусственный интеллект, в его первой, пока еще несовершенной, версии. В следующей главе мы проследим, как эта технология вписывается в современную экономику, за счет чего увеличивает производительность труда и каким требованиям должна будет удовлетворять для окончательного перехода к цифровому укладу. Ограничения слабого ИИ позволят нам сформировать «техническое задание» для сильного ИИ, основываясь на тех проектах по его созданию, которые сегодня уже объявлены. Предполагая, что эти проекты будут обеспечены достаточными ресурсами со стороны заинтересованных инвесторов, мы сможем относительно обоснованно предсказать наше ближайшее будущее.