Сергей Шумский - Воспитание машин. Новая история разума

Соответственно машинное обучение интересуют не столько «быстрые» алгоритмы работы уже готовой системы, сколько «медленные» алгоритмы ее самосборки, постепенного увеличения сложности системы при ее взаимодействии с миром. И эти последние (алгоритмы обучения) формулируются как раз в терминах оптимального управления, то есть достижения системой каких-то целей.

Таким образом, в машинном обучении цели встраиваются во вполне детерминистские алгоритмы обучения. Понимая, какие из них породили данную сложную систему, мы будем знать цели, которые она преследует. Алгоритмы обучения, как правило, гораздо проще результата обучения и позволяют нам не только создать сложную систему, но и «понять» ее, то есть объяснить, почему ее устройство нацелено на достижение определенных целей, примиряя тем самым причинно-следственное и телеологическое описание системы, притом что распутывание запредельно сложной сети причинно-следственных связей в уже сформировавшейся системе никак не продвигает нас в понимании логики ее работы.

Машинное обучение меняет наше понимание машины как устройства, исполняющего заложенные в него готовые алгоритмы. Алгоритмы обучения, даже относительно простые, способны в процессе взаимодействия со средой порождать сколь угодно сложные алгоритмы целенаправленного (то есть разумного) поведения, способного адаптироваться к произвольно меняющимся внешним обстоятельствам и изменять мир в соответствии со своими целями. Машины, оказывается, способны в процессе обучения ставить себе промежуточные цели и находить пути их достижения, преодолевая различные препятствия и вырабатывая собственные ценности, то есть нормы поведения, помогающие достигать поставленных целей. Это новое понимание машины, привнесенное теорией машинного обучения, открывает широкие перспективы в изучении разума во всех его проявлениях.

Итак, машинное обучение предлагает нам следующую программу исследования и создания сложных самообучающихся систем: выявление или разработка алгоритмов их обучения (причинно-следственное описание) как решение задач оптимизации (достижения целей) путем увеличения сложности системы (накопления знаний).

Последний момент особенно важен: простые алгоритмы обучения способны порождать сколь угодно сложное поведение. Физика, в которой отсутствует понятие обучения, не способна объяснить появление таких сложных систем, как, скажем, жизнь или разум. Для этого нам приходится обращаться к машинному обучению. Соответственно устройство и принципы работы такой сложной системы, как мозг, тоже можно понять только в свете теории обучения, когда мозг рассматривается не как готовый механизм, но как результат длительного процесса обучения. Это нацеливает нас на выявление в мозге механизмов, реализующих алгоритмы его обучения.

Именно на это, к слову, нацелена теория функциональных систем П. К. Анохина, предлагающая, по существу, алгоритм обучения с подкреплением как системообразующий принцип организации мозга [87]. Именно такие алгоритмы наиболее актуальны в современном машинном обучении, связанном с роботами, агентами и сильным ИИ.

Машинное обучение предлагает нам практический путь к пониманию мозга и разума, основанный на принципе «понять – значит воссоздать». Мы никогда не поймем наше мышление, если не сможем воссоздать его в виде искусственной психики роботов. Искусственный интеллект – это новый экспериментальный полигон для наук о разуме, гораздо более удобный и прозрачный, чем традиционные опыты на животных и людях. На этом полигоне можно гораздо быстрее отлаживать и развивать наши модели мышления.

Так, например, в последние годы была практически решена проблема машинного зрения, причем настолько хорошо и надежно, что на дорогах уже появились автономные автомобили. Алгоритмы глубокого обучения формируют иерархию все более абстрактных признаков, помогающих распознавать ситуации и моделировать пространственные сцены, заодно помогая нам понять и общие принципы работы сенсорного интеллекта.

Вслед за умением ориентироваться в мире приходит черед управлению поведением роботов и освоению ими навыков абстрактного мышления [88] Bengio Y. From System 1 Deep Learning to System 2 Deep Learning. In: Thirty-third Conference on Neural Information Processing Systems, 2019 ( https://neurips.cc/Conferences/2019 ). . Возникает масштабный платежеспособный спрос на создание искусственной психики роботов. Современное машинное обучение пока что не смогло найти решения этой задачи.

В нашем понимании именно науки о мозге способны помочь преодолеть этот важный технологический барьер. Надо только суметь взглянуть на мозг с точки зрения машинного обучения – отвлечься от субстрата мозга и сосредоточиться на алгоритмах его обучения. Особенно важна вычислительная архитектура мозга, скопировав которую мы как раз и сможем получить искусственную психику роботов.

Какова роль наук о мозге в предлагаемой общей исследовательской программе? Кратко ее можно сформулировать как обратную инженерию мозга, а именно – реконструкцию его вычислительной архитектуры.

Такая постановка задачи для нейрофизиологов не нова. Схожую исследовательскую программу предлагал, например, Дэвид Марр в 1970-х годах. Напомним в этой связи, что Марр различал три уровня описания сложных систем:

● вычислительная архитектура – функциональное назначение подсистем в системе;

● алгоритмический уровень – алгоритмы достижения целей подсистем;

● уровень реализации – механизмы, реализующие эти алгоритмы.

Нейрофизиологам непосредственно доступен лишь нижний уровень описания – как конкретные нейроны или нейронные ансамбли взаимодействуют друг с другом. Как правило, большинство исследований так и остается на этом описательном уровне.

Реже удается разгадать алгоритмы работы каких-то подсистем мозга и понять логику их конструкции. Например, работу мозжечка можно понять, представив его как гигантский персептрон Розенблатта [89], а гиппокамп неплохо описывается моделью ассоциативной памяти Хопфилда [90] Tsodyks M. (1999) Attractor neural network models of spatial maps in hippocampus. Hippocampus 9(4): 481–489. . Наконец, сегодня мы в основном понимаем и принципы работы основной подсистемы нашего мозга – неокортекса, содержащего сотни тысяч самоорганизующихся карт признаков, в которых кортикальные колонки формируют и распознают различные категории [91] Hawkins J. (2021) A Thousand Brains: A New Theory of Intelligence. New York: Basic Books .

Однако истинное понимание принципов работы мозга возможно лишь с выходом на более высокий архитектурный уровень его целостного описания. А именно: выявление назначения и способов взаимодействия основных подсистем мозга – коры, базальных ганглий, таламуса, мозжечка, стволовых структур и т. д. – с пониманием алгоритмов их работы и обучения. Недаром Дэвид Марр отмечал, что, «хотя верхний уровень по большей части игнорируется, именно он является наиболее важным» [92] Marr D., Poggio T. (1976) From Understanding Computation to Understanding Neural Circuitry. Cambridge: Massachusetts Institute of Technology, Artificial Intelligence Laboratory. . Обратный инжиниринг вычислительной архитектуры мозга является, с нашей точки зрения, центральной задачей нейрофизиологии в рамках предлагаемой исследовательской программы.