Джон Брокман - Эта идея должна умереть. Научные теории, которые блокируют прогресс

Сигнал на выходе ( output ) нейронной сети может изменяться по мере того, как изменяется активность отдельных нейронов. Но здесь нам пока не вполне понятно, каким именно образом нервная система решает проблему координации, то есть каким образом мозг организует правильный паттерн нейронной активации в масштабе всей сети, чтобы добиться нужного результата.

Это не единственная проблема с понятием «модуль». Традиционно предполагалось, что модули инкапсулированы, то есть изолированы один от другого. Но даже инкапсуляция такой сравнительно простой сенсорной области, как первичная зрительная кора ( V1 ), может быть поставлена под сомнение. Только один пример: визуальные нейроны в V1 у животного активируются вдвое чаще, когда животное бежит, вне зависимости от данных на входе ( input ) и фоновых условий.

Путаница, которую вносит понятие «модуль», усугубляется еще и тем, что специализация определенной области (например, той же первичной зрительной коры), по-видимому, нетривиально зависит от статистики данных на входе. Зрительная кора является зрительной во многом потому, что она связана с сетчаткой, а не, например, с ушной улиткой. Заметим, что у незрячих зрительная кора задействуется в распознавании шрифта Брайля – решении весьма детализированной пространственной и соматосенсорной задачи. А если специализация области зависит от статистики данных на входе, то можно ожидать, что мозг ребенка будет гораздо пластичнее и менее зонально специализирован, чем мозг взрослого человека. Дорис Траунер и Элизабет Бейтс обнаружили, что младенцы, у которых удалено левое полушарие мозга, способны нормально обучаться языку, в то время как аналогичная операция у взрослого человека приводит к серьезным проблемам с речью.

Понятие «модуль», с моей точки зрения, сродни выражению «нервный срыв», которое мы использовали, когда не имели ни малейшего понятия о том, что происходит под черепной крышкой. Но в наши дни его объяснительная сила весьма сомнительна.

Доцент кафедры психологии; директор Лаборатории вычислительной когнитивистики и Института когнитивных наук и наук о мозге, Университет штата Калифорния в Беркли.

Любая предвзятость представляется нам чем-то плохим. Интуитивно мы ставим знак равенства между рациональностью и объективностью. Казалось бы, рациональный субъект, столкнувшись с трудным вопросом, не должен быть изначально предрасположен к выбору какого-то одного ответа в ущерб другим. Если о новом компьютерном алгоритме, предназначенном для распознавания объектов в изображениях или понимания естественного языка, говорят как о предвзятом, – значит, это плохой алгоритм. И когда психологические эксперименты снова и снова демонстрируют, что люди систематически предвзяты в своих суждениях и решениях, мы начинаем сомневаться в человеческой рациональности.

Но предвзятость – это не всегда плохо. Даже наоборот, на некоторые вопросы лучшие ответы находятся за счет предвзятости.

Многие из самых сложных задач, которые приходится решать человеку, – это так называемые индуктивные задачи, то есть такие, где правильное решение не может быть окончательно найдено исходя из имеющихся данных. Два классических примера таких задач – это как раз распознавание объектов в изображениях и интерпретация естественного языка. Изображение – это всего лишь двухмерный массив пикселей, набор чисел с указанием того, светлый ли это участок или темный, зеленый или синий. Объект же является трехмерным; в одном и том же наборе пикселей содержится множество разных комбинаций трехмерных форм. Когда мы смотрим на определенный набор чисел, сам по себе он ничего не говорит нам о том, какую из этих трехмерных форм он представляет: мы должны взвесить все имеющиеся данные и догадаться самостоятельно. Подобным же образом извлечение слов из «сырого» потока человеческой речи требует от нас обоснованного «угадывания» смысла конкретного произнесенного предложения.

Единственный способ успешного решения индуктивных задач – это некоторая изначальная предвзятость. Поскольку имеющихся данных недостаточно для принятия решения, нам приходится привлекать уже имеющиеся у нас знания и предвзятые суждения, которые существуют независимо от этих данных. И наше умение решать подобные задачи – то есть способность делать правильные догадки – зависит от того, насколько адекватно эта предвзятость помогает нам оценить вероятность правильности того или иного ответа.

Человек в принципе отлично умеет решать индуктивные задачи. Распознавание объектов и понимание естественного языка – именно те два вида задач, которые человек до сих пор решает лучше, чем компьютер. А объяснение этого как раз и состоит в том, что человеческий разум склонен к предвзятому суждению, и эта предвзятость тонко настроена именно на решение подобных задач.

Предвзятость зрительной системы человека проявляется во многих оптических иллюзиях – изображениях, которые демонстрируют удивительные несовпадения между нашими догадками и реальностью. Тот факт, что такие иллюзии редко встречаются нам в повседневной жизни, – свидетельство полезности нашей предвзятости. Изучая оптические иллюзии, на которые откликается наше зрительное восприятие, мы можем идентифицировать предвзятости этого восприятия, а затем встроить их в компьютерные алгоритмы.

Предвзятость в интерпретации мы демонстрируем, когда играем в испорченный телефон или пытаемся понять слова какой-нибудь песни на слух. Эту предвзятость можно обнаружить и в программах по распознаванию речи. Однажды я, уходя из своего кабинета на совещание, запер за собой дверь, а по возвращении обнаружил, что кто-то взломал мой компьютер и оставил на экране поэтическое послание в стихах. Кто это был, и что он хотел мне сказать? Спустя пару минут, полных замешательства и самых неприятных предположений, я обнаружил, что забыл выключить программу распознавания речи, и таинственное послание – ее интерпретация шелеста листьев за приоткрытым окном! Тот факт, что из этого шелеста получился сравнительно вразумительный английский текст, демонстрирует способность программы к предвзятому суждению, что и позволяет ей «услышать» в шорохе листвы звуки человеческой речи.

Нашими способностями в решении зрительных и языковых задач мы во многом обязаны изначальным «склонностям» нашего сознания в пользу рациональных, конкретных ответов. Таким образом, и компьютерные алгоритмы, призванные решать подобные задачи, должны быть «искажены» подобным образом. Поэтому нас не должна удивлять и систематическая предвзятость человека и в других областях. Эта особенность совершенно не обязательно означает какое-то отклонение от рациональности; она просто показывает сложность задач, которые приходится решать людям. И чтобы научить компьютеры лучше решать эти задачи, нам надо сперва понять, как именно работают наши предвзятые суждения.