Сергей Шумский - Воспитание машин. Новая история разума

В этой связи особое значение, с точки зрения автора, имеет архитектура кортико-стриарной системы мозга приматов, управляющей нашим поведением [93] Haber S. N. (2016) Corticostriatal Circuitry. Dialogues in Clinical Neuroscience 18(1): 7–21. . Приматы интересны тем, что архитектура мозга у них отличается от остальных млекопитающих: количество нейронов в их мозге пропорционально его массе, тогда как у остальных млекопитающих – массе 2/3. Иначе говоря, у приматов число нейронов растет с ростом массы мозга гораздо быстрее, чем у остальных млекопитающих. В результате у больших приматов, включая людей, в мозге намного больше нейронов, чем у других млекопитающих с аналогичным по весу мозгом. Поэтому-то наш мозг и обладает такими уникальными вычислительными возможностями. Если бы мы не были приматами, чтобы иметь такое же, как у нас, число нейронов, наш мозг должен был бы весить 30 кг! [94]

В качестве примера на базе предложенной автором реконструкции архитектуры мозга приматов [95] Шумский С. А. Машинный интеллект. Очерки по теории машинного обучения и искусственного интеллекта – М.: РИОР, 2019. в лаборатории когнитивных архитектур МФТИ в настоящее время разрабатывается модель искусственной психики ADAM (Adaptive Deep Autonomous Machine) «по образу и подобию» человеческой. Подчеркнем, что именно обратный инжиниринг кортико-стриарной системы помог нам преодолеть существенный технологический барьер и предложить схему обучения иерархическому управлению. До сих пор эта проблема не поддавалась решению [96] «В настоящее время все существующие методы иерархического планирования опираются на сгенерированные человеком иерархии абстрактных и конкретных действий. Мы еще не понимаем, как такие иерархии могут быть получены путем обучения» (см.: Рассел С. Совместимость. Как контролировать искусственный интеллект. – М.: Альпина нон-фикшн, 2021.). .

Почему бы нам теперь не начать создавать и более реалистичные модели психики различных животных, с тем чтобы воспроизвести их поведение в реальных экспериментах? Машинное обучение впервые предоставляет нам способ воссоздать психику животных и тем самым убедиться в том, что мы ее действительно понимаем. А там уже недалеко и до понимания человеческой психики.

Итак, понимание вычислительной архитектуры мозга действительно полезно для создателей действующих моделей искусственной психики. А с появлением таких моделей у нас возникает уникальная возможность тестирования различных теоретических представлений о том, как устройство мозга определяет поведение животных и человека, то есть наведения мостов между нейрофизиологией и психологией, а затем перехода к психолингвистике и логике.

Планирование и проведение экспериментов с искусственной психикой объединенными командами представителей разных наук как раз и составляет основное содержание практических проектов в рамках предлагаемой исследовательской программы. Основная задача – воспроизвести с помощью постепенного усложнения искусственной психики эволюцию когнитивных способностей млекопитающих от грызунов к приматам и далее – к человеку.

Начинать естественно с самого простого: воспроизвести основные поведенческие паттерны «искусственной мышки». Примером могут быть опыты с поиском пищи в лабиринтах, открыванием кормушек с помощью различных приспособлений и другими элементами дрессуры. В более сложной постановке можно изучать игровое поведение разных агентов, скажем хищников и их жертв («кошки-мышки»), вместе с исследованием обучения различным навыкам выживания в искусственных средах. Естественно, речь идет не только об индивидуальном обучении животных, но и о коэволюции параметров их мозга, а именно о том, какие врожденные рефлексы оказываются наиболее полезными для выживания «кошек» и «мышек».

Аналогично можно моделировать кооперативное поведение стайных животных в условиях, когда они могут обмениваться сигналами. Например, каждый агент, кроме обычных сенсоров и актуаторов, получает возможность демонстрировать и воспринимать ограниченный набор символов – язык поз и других способов демонстрации намерений. В результате у агентов должна развиваться способность распознавать и использовать намерения других агентов с помощью такой сигнальной системы, то есть то, что обычно называют theory of mind.

С практической точки зрения все такие эксперименты мало чем отличаются от существующих программ обучения искусственных агентов игре в StarCraft и другие игры. Для понимания эволюции мозга необходимо будет создать соответствующий набор тестовых задач типа OpenAI Gym, с помощью которого разные исследовательские группы могли бы сравнивать между собой достоинства различных архитектур искусственной психики и их способность моделировать как можно большее число реальных экспериментов с различными животными [97].

До определенного предела, скажем до уровня приматов, возможности искусственной психики можно наращивать экстенсивно – за счет увеличения числа вычислительных модулей и слоев обработки данных. Все-таки число нейронов мозга мыши (70 млн), кошки (700 млн) и шимпанзе (30 млрд) различаются на порядки. Но всего лишь трехкратная разница между мозгом шимпанзе и человека (менее 90 млрд нейронов) не настолько значительна, чтобы объяснить пропасть между интеллектом шимпанзе и разумом человека. Гораздо важнее то, что последний использует знания, накопленные тысячами поколений наших предков, инсталлированные в индивидуальную психику человека в процессе воспитания. Да, чем-то мозг шимпанзе от мозга человека отличается качественно, а именно способностью к овладению языком и абстрактным мышлением, необходимым для восприятия культурного наследия. Возможно, трехкратное увеличение размеров мозга как раз и позволило праязыку «поместиться» в мозге наших предков, обеспечив качественный переход от индивидуального интеллекта к коллективному разуму.

Способность машин обучаться естественным языкам и свободно общаться на них – важнейший технологический барьер на пути к сильному интеллекту. Существующие глубокие нейросети могут «понимать» значения слов и даже генерировать связные тексты, трудно отличимые от созданных человеком [98]. Однако пока что они не способны по-настоящему «держать мысль», то есть мыслить по-человечески. Им явно не хватает способности к моделированию окружающего мира и к логическому мышлению.

Логика, включая логический ИИ, понимает под мышлением математически выверенные операции с символами вместо предметов. Однако логический интеллект не порождается индивидуальным мышлением. Напротив, он нормирует индивидуальное мышление через язык и культуру в процессе воспитания. Мы осваиваем одну общую логику, а не изобретаем ее заново каждый свою. Этим же путем воспитания должны пойти и роботы.