Дэниел Клемент Деннет - Разум: от начала до конца. Новый взгляд на эволюцию сознания от ведущего мыслителя современности

Различные версии этой идеи недавно завоевали разные области когнитивной науки, и меня они убедили сменить позицию, которую я долго отстаивал. Я хотел бы обосновать мое обращение. Я изменил свое мнение о том, как устоять перед искушением гомункулуса: ведь существует непреодолимое желание засунуть в мозг «маленького человечка», который был бы Начальником, Главным Управляющим, Получателем Удовольствий и Страдальцем от боли. В книге «Мозговые штурмы» (Brainstorms, 1978) я описал и обосновал классическую стратегию GOFAI, ставшую известной благодаря Ликану [109] Уильям Дж. Ликан (англ. William G. Lycan, род. 1945) – американский философ и почетный профессор Университета Северной Каролины. (1978), как «гомункулярный функционализм»: замену маленького человечка комитетом .

Программист, работающий с ИИ, решает заранее сформулированную задачу и тем самым придает компьютеру нечто антропоморфное: если он решит задачу, то сможет заявить, что научил компьютер понимать вопросы на английском. На первом самом высоком уровне решения проблемы компьютер разбивается на подсистемы, каждой из которых задаются собственные определенные задания; постепенно вырисовывается схема комплекса оценщиков, вычислителей, хранителей памяти, контролеров, наблюдателей и так далее. Гомункулусы жаждут мести… Каждый гомункулус, в свою очередь, подлежит анализу микрогомункулосов, тем более важному, чем меньшим умом они обладают. Когда же достигается уровень, на котором гомункулусы превращаются в простых вычислителей сумм и разностей, и интеллект им нужен, чтобы выбрать большее из двух чисел для управления, их роль может быть сведена к роли функционера, «которого можно заменить машиной» (Dennett 1978, стр. 80).

Я по-прежнему думаю, что это правильный путь, но я начинаю жалеть – и отвергать – употребление терминов, использованных мной в некоторых смысловых конструкциях: «комитет» и «машина». Корпоративная бюрократия, предполагаемая первым термином, с ее четкими правилами подчинения (образ, вдохновленный обилием строгих схем в классических теориях о когнитивистике) воплотила мечту о построенном сверху вниз ИИ, но подобное устройство предполагает совершенно небиологический характер эффективности. Странная инверсия Тьюринга по-прежнему выглядит неопровержимой: в конце нашего каскада разрушений мы получаем элементы, чьи задачи столь строги и ограниченны, что «их можно заменить машиной», Тьюринг именно так описывал человека-компьютера. Простейшие движущиеся части нейронов, протеины в роли моторов, соединительные микротрубки и прочее на самом деле выглядят лишенными мотивации автоматами, похожими на марширующие метлы в «Ученике Чародея» [110] «Ученик чародеея» (англ. The Sorcerer”s Apprentice) – приключенческий фильм о волшебстве и волшебниках в современном мире, вышел на экраны в 2010 году. , однако сами нейроны, внутри своих миллиардных сообществ, играют гораздо более самостоятельные и своеобразные роли, чем послушные клерки, каковыми я их воображал. Это явление влияет весьма существенным образом на вычислительную архитектуру мозга.

Текумсе Фитч [111] Уильям Текумсе Шерман Фитч III (англ. Tecumseh Fitch, род. 1963) – американский биолог-эволюционист; работает в Университете Вены, где стал соучредителем кафедры когнитивной биологии. Фитч изучает биологию и эволюцию познания и общения у людей и других животных. (Tecumseh Fitch, 2008) ввел термин «наноинтенциональность» для описания активности, происходящей в нейронах, а Себастьян Сеунг [112] Себастьян Сеунг (англ. Sebastian Seung) – корейско-американский ученый, один из ведущих мировых специалистов в области искусственного интеллекта, профессор Принстонского университета, член Общества Макса Планка. На русский переведена его книга «Коннектом» (издательство «Лаборатория знаний», 2016). в 2010 году выступил с ключевым докладом в Американском обществе нейробиологии – речь шла об «эгоистичных нейронах», а ранее, в 2003 году, он писал о «гедонистических синапсах». Чего может «хотеть» нейрон? Ему нужны энергия и строительные материалы для нормального существования – в точности как его одноклеточным предкам-эукариотам и более дальним родственникам, бактериям и археям. Нейроны – это своего рода роботы; они точно не имеют сознания в самом прямом смысле, ничего не помнят и представляют собой эукариотические клетки сродни дрожжам или грибам. Если считать отдельные нейроны сознательными, тогда почему бы не наделить этим свойством и ногу атлета. Однако нейроны, как дрожжи и грибы, весьма компетентны в вопросах борьбы за жизнь, однако не во внешней среде между пальцами ног, но в весьма конкурентной среде между вашими ушами, где победа достается тем клеткам, что умудряются взаимодействовать эффективнее других, посвящая себя наиболее важным задачам, в которых на более высоких уровнях просматриваются важнейшие цели и задачи самого человека.

Тьюринг, Шеннон и фон Нейман посвятили себя весьма трудоемкой и новой инженерной задаче, проекту создания разумных компьютеров, которые обладали бы высоким уровнем производительности и независимостью. На нижние уровни аппаратного обеспечения электрическая энергия поставляется в изобилии и равномерно; риск нехватки энергии исключен. На уровне программного обеспечения доброжелательные программисты предоставляют приоритет наиболее важным процессам, и, хотя некий механизм порой должен время от времени решать путем сравнений, какой процесс имеет приоритет, это все-таки упорядоченная очередь, а не борьба за жизнь. (Смутное понимание этого факта лежит в основе распространенного понимания того, что компьютер не способен «позаботиться» о чем-либо. Не потому, что он создан из неправильных материалов – чем кремний может быть «хуже», чем органические молекулы? – но потому, что его внутренняя экономика, по определению, не предусматривает ни рисков, ни возможности выбора, его деталям они не положены.)

Иерархическая нисходящая архитектура программного обеспечения, поддерживаемая операционной системой, изобилующая всякого рода регулировщиками и контролерами, великолепно отражает знаменитый тезис Маркса: «Каждому по потребностям, от каждого по способностям». Ни одной цепи или триггеру не нужно «беспокоиться» о том, где он возьмет электроэнергию, необходимую ему для выполнения его задач, ему не нужно ни с кем «соревноваться за место под солнцем». Нейрон же, наоборот, всегда «жаден до работы»; он запускает во все стороны ветви дендритов, стараясь соединиться с соседями, чтобы получить от них некую выгоду. Нейроны способны к самоорганизации в группы, готовые выполнять задачи по обработке информации, они жаждут получить новые задачи, чтобы решить их способом проб и ошибок. Это похоже на толпы безработных женщин, которые дежурили в свое время у ворот Ок-Риджа, чтобы получить работу, цель которой им не положено было понимать [113] Речь идет о Манхэттенском проекте под руководством Л. Гровса и Дж. Оппенгеймера по созданию американской ядерной бомбы. – Прим. ред. ; однако разница все-таки есть, и существенная: у мозга нет генерала Лесли Гровса, и он вынужден сам создавать себя снизу вверх.