Сергей Шумский - Воспитание машин. Новая история разума

где: ∆C – приращение знаний, повышающих адаптацию агента в изменившихся условиях, то есть усложнение алгоритма его поведения с учетом вновь полученной информации;

∆I – новая информация, не содержащаяся в предыдущей истории взаимодействия со средой.

Выше мы уже отмечали, что современным алгоритмам глубокого обучения как раз не хватает такой эффективности. По этой причине они до сих пор и не могут выйти из виртуальных миров, где можно ошибаться миллионы раз, в реальный мир, где каждая ошибка может стать последней.

В дополнение к формальному определению меры интеллекта Ф. Шолле предложил набор задач «Abstraction and Reasoning Corpus» для тестирования машинного интеллекта, по форме напоминающий классические тесты на IQ (например, дополнить по трем картинкам четвертую). Таким образом проверяется способность агента использовать минимальное число обучающих примеров для понимания сути новой задачи и нахождения ее решения. Неудивительно, что современные глубокие нейросети, жадные до данных, пока не способны пройти этот тест.

Заметим, что тест на машинный IQ разрабатывался в предположении, что задачи, с которыми столкнется будущий искусственный интеллект, будут похожи на те, с которыми люди имеют дело в повседневной жизни. У машинного интеллекта предполагается наличие интуитивного понимания элементарных физических и геометрических закономерностей, которым ребенок обучается на ранних стадиях своего развития (понятий причинности, сохранения, непрерывности, симметрии и т. д.), наряду со способностями к счету и абстрактному мышлению, приобретаемыми позднее. Иными словами, предполагается, что искусственная психика роботов должна быть настроена на тот же круг задач, что и человеческая [83]. Может, тогда и архитектура искусственного интеллекта должна соответствовать архитектуре человеческого мышления?

Тем самым ИИ на новом этапе своего развития возвращается к старой идее моделирования естественного интеллекта для углубления нашего понимания природы интеллекта и построения искусственного разума с учетом полученных знаний. Такая совместная исследовательская программа классических наук о разуме и разработчиков машинного интеллекта сегодня необходима и тем и другим.

Мы определили индивидуальный интеллект и коллективный разум как особый класс алгоритмов, способных увеличивать свою сложность при взаимодействии со средой, совершенствуя способность добиваться своих целей в постоянно меняющихся условиях. Именно такие алгоритмы являются предметом машинного обучения, поэтому оно служит наиболее адекватной парадигмой для исследования интеллекта и разума.

Так что машинное обучение играет для понимания разума такую же роль, как теория эволюции – для понимания жизни. При этом машинное обучение трактуется нами как фундаментальная наука о той части природы, которая научилась учиться, в противовес физике, которая изучает косную материю, неспособную к обучению. В таком понимании теория эволюции – это и есть теория обучения живого вещества (пользуясь терминологией В. И. Вернадского), объясняющая причины появления всех форм жизни во всем их удивительном многообразии.

Таким образом, известный тезис Феодосия Добржанского: «Ничто в биологии не имеет смысла, кроме как в свете теории эволюции» [84] Dobzhansky T. (1973) Nothing in Biology Makes Sense Except in the Light of Evolution. The American Biology Teacher 35(3): 125–129. можно перефразировать так: «Ничто в науках о разуме не имеет смысла, кроме как в свете машинного обучения». Поэтому именно машинное обучение способно объединить усилия представителей разных наук для совместного продвижения в понимании разума, как человеческого, так и искусственного. Каким образом? Предоставив единую научную парадигму, математический язык, на котором им всем было бы удобно общаться. Разные науки о мозге и мышлении используют настолько разные подходы, что возникает проблема их совмещения друг с другом, и это обстоятельство препятствует плодотворному обмену идеями между различными научными школами.

Нейрофизиология описывает мозг как мыслящую машину и стремится понять устройство этой машины. В «физике мозга», как и везде в физике, объяснение предполагает в первую очередь выявление причинно-следственных связей, поэтому очень показательны работы пионера нейрофизиологии И. М. Сеченова, объяснявшего мышление сложной иерархией рефлексов: «Определенными внешними влияниями вызываются последовательно ряды ассоциированных мыслей, и конец рефлекса вытекает логически из сильнейшей» [85].

Психология, напротив, описывает мышление телеологически, исходя из внутренних целей организма. Наше мышление стремится опосредованно, через взаимодействие с внешним миром, удовлетворить врожденные потребности и приобретенные ценности человека. С этой точки зрения мышление определяется не столько внешними обстоятельствами, сколько нашими внутренними целями, как биологическими, так и социальными. Лучше всего иллюстрирует эту позицию знаменитая метафора Л. С. Выготского: «Облака мыслей, гонимые ветрами мотивов, проливаются дождем слов» [86] Выготский Л. С. Мышление и речь / 5-е изд., испр. – М.: Лабиринт, 1999. С. 320. . Логика сосредоточивается на законах сознательного символьного мышления («облаках мыслей»), психолингвистика – на том, как они «проливаются дождем слов», психология же больше интересуется подсознательными «ветрами мотивов». В любом случае в центре внимания оказывается не физика устройства – мозга, а модели мышления, только в описательной, словесной форме, а не как действующие модели с четкими алгоритмами мышления.

Возникает извечный вопрос: как соотносятся между собой причинно-следственные связи и целесообразное поведение, то есть физическое и психическое? С одной стороны, если любое движение мысли определяется механизмами работы мозга, то как можно говорить о свободе воли? С другой стороны, только язык психологии способен хоть как-то объяснять ход наших мыслей и мотивы наших поступков. Конечно, детерминизм и телеология не противоречат друг другу. Это два способа понимания мира – на языке траекторий динамических систем или их аттракторов. Однако детерминистское описание сложной системы (физика мозга) ничего не говорит нам о ее целях, а знание целей – об алгоритмах их достижения.

Теория машинного обучения обеспечивает недостающую связь между принципами причинности и целеполагания за счет изменения постановки задачи. Физика рассматривает систему как данность и спрашивает, как эта система работает. Машинное обучение, напротив, интересуется, как создать систему, обладающую заданными свойствами. Внимание исследователей здесь фокусируется не на «морфологии», а на «эмбриологии» сложных систем.