Сергей Шумский - Воспитание машин. Новая история разума

Соответственно, если мы действительно хотим понять человеческий разум и создать роботов, способных на равных вписаться в человеческую цивилизацию, наша исследовательская программа должна развить теорию машинного обучения до теории машинного воспитания , а именно ответить на вопрос: каким образом приобщить роботов к человеческим знаниям, ценностям и культуре? Здесь мы следуем концепции Л. С. Выготского о решающей роли процесса воспитания – инсталляции понятий коллективного человеческого разума в индивидуальный интеллект.

С машинным воспитанием тесно связан вопрос о том, как встроить в алгоритмы машинного обучения механизмы, гарантирующие безопасность человечества в эпоху сильного ИИ. Мы коснемся этого вопроса ниже, обсуждая современный аналог «трех законов робототехники», предложенный Стюартом Расселом в качестве базиса будущей «этики ИИ» [99].

Подытожим вкратце логику предлагаемой исследовательской программы. Мы исходим из того, что «понять – значит воссоздать». Следовательно, формирование ИИ есть единственный способ познания человеческого разума. Значит, науки о мозге и мышлении должны использовать достижения современного ИИ в своих целях, а для этого – активно участвовать в развитии ИИ в рамках совместной исследовательской программы. В последнее десятилетие в искусственном интеллекте произошла смена научной парадигмы. Было осознано, что машинное обучение – единственный способ построения разумных машин неограниченной сложности. Соответственно предлагаемая исследовательская программа должна опираться на методологию машинного обучения. Задача когнитивных наук в такой совместной исследовательской программе – обратный инжиниринг мозга и построение моделей искусственной психики. Предлагаемая исследовательская программа призвана обеспечить:

● разработчикам ИИ – понятный путь к сильному ИИ, владеющему естественным языком и обладающему логическим мышлением;

● нейрофизиологам – понимание принципов и алгоритмов работы мозга;

● психологам – понимание принципов организации психики и ее формирования в процессе индивидуального развития, а также связи когнитивных функций со структурами мозга.

Как говорится, «время разбрасывать камни, и время собирать камни».

Если верить Гегелю, «всё действительное разумно, всё разумное действительно». Значит, если описанная выше программа создания сильного ИИ разумна, она рано или поздно сформируется и получит поддержку инвесторов. По всей видимости, ждать придется недолго, ведь этот подход объединяет две бурно развивающиеся области – нейронауки и ИИ, и выгода от их «перекрестного опыления» слишком очевидна.

По словам первооткрывателя структуры ДНК Джеймса Уотсона, «мозг для XXI века будет тем же, чем ген был для XX века». В последние годы в мире запущено несколько масштабных проектов по комплексному исследованию мозга: европейский Human Brain Project (2013–2023), американский BRAIN Initiative (2014–2025), китайский China Brain Project (2017–2030), японский Brain/MINDS и другие с общим финансированием, превышающим $1 млрд в год (Human Brain Project – €500 млн [100] Human Brain Project ( https://www.humanbrainproject.eu/en/science/overview/ ). , BRAIN Initiative – $500 млн [101] Kaiser J. Senate bill would give NIH $3 billion in 2020, or 7.7 % boost ( https://www.sciencemag.org/news/2019/09/senate-bill-would-give-nih-3-billion-2020-or-77-.boost ). ). Недаром XXI век иногда называют «веком мозга».

Однако с еще большим основанием его можно назвать и «веком искусственного интеллекта». Судя, например, по масштабу инвестиций, как показано на рис. 16, гонка за искусственным интеллектом, едва начавшись, уже превосходит по ресурсам ядерную и ракетную гонки. При этом в нее вкладываются в основном не бюджетные, а частные деньги. Бизнес отлично понимает, что эти вложения окупятся сторицей. Ведь, согласно McKinsey, искусственный интеллект обеспечит почти 40 % всего экономического роста в ближайшее десятилетие (1,2 % из 3,2 % ожидаемого годового роста мировой экономики) [102].

В искусственный интеллект, в том числе в сильный ИИ, вкладываются венчурные инвесторы и корпорации. Компания DeepMind с 2014 года ежегодно растет в 1,5 раза, и в 2020 году в ней работало уже более 1000 сотрудников. Государства также имеют свои виды на сильный ИИ в виде новых поколений боевого и разведывательного ИИ. Начиная с 2017 года в мире наблюдается парад национальных стратегий в области искусственного интеллекта.

Результатом этой новой технологической гонки может стать ИИ-национализм – приоритет экономических и военных интересов отдельных стран над международным сотрудничеством – и ИИ-национализация – интеграция ресурсов государства и частных компаний для достижения геополитических целей [103] Карелов С. Впереди ИИ-национализм и ИИ-национализация ( https://russiancouncil.ru ). . В этой гонке сегодня впереди две супердержавы – нынешний лидер США и бросившийся вдогонку Китай, провозгласивший своей целью достижение мирового лидерства в сфере ИИ к 2030 году (56 % и 22 % всех инвестиций в ИИ за последние 5 лет соответственно).

На рис. 17 отчетливо виден «момент спутника» для ИИ – 2017 год, после неожиданных побед «стратегического ИИ» AlphaGo над лучшими профессиональными игроками в древнюю игру го. Напомним, что AlphaGo – это продукт компании DeepMind, работающей над созданием сильного ИИ.

Таким образом, в последние годы в мире сформировался платежеспособный спрос со стороны государств и частного бизнеса и на разгадку человеческого разума, и на создание искусственного. Так что велика вероятность объединения усилий по этим направлениям в рамках единой исследовательской программы.

Всякий исследовательский проект, особенно такой затратный, как создание сильного ИИ, предполагает возможность вернуть вложенные в него инвестиции сторицей. В нашем случае сценарий монетизации легко себе представить, поскольку искусственная психика – это не что иное, как операционная система нового поколения для роботов.

Существующие ОС, скажем ROS, созданы для программирования поведения роботов. С появлением искусственной психики последние обретут способность обучаться множеству самых разных навыков и осваивать десятки тысяч профессий с минимальным объемом программирования. Оно ограничится алгоритмами обучения и «врожденными рефлексами», необходимыми для эффективного обучения роботов под руководством «наставников» и «воспитателей». Задачей первых будет обучение роботов профессиональным навыкам для работы по той или иной специальности, а вторых – обучение пониманию, чего люди ожидают от них в тех или иных ситуациях, то есть привитие им человеческих ценностей. Наставниками роботов могут быть те самые профессионалы, которых роботы призваны заменить, а воспитателями – пользователи, оценивающие то, насколько поведение роботов соответствует их желаниям и ожиданиям.