Дуглас Хофштадтер - Я – странная петля

Однажды, где-то миллиард лет назад, естественный отбор со свойственной ему случайной непринужденностью натолкнулся на клетки, которые ритмически сокращались, и крохотные создания с такими клетками почувствовали себя хорошо, потому что сокращения помогали перемещать полезные штуки по их организмам туда-сюда. Так случайно появились насосы, и из абсолютно всех возможных проектов таких протопомп природа одобрила те, что были спроектированы наиболее эффективно. То есть обнаружилось то, как именно пульсирующие клетки формируют насосы, и внутренности самих клеток перестали иметь решающее значение. Появилась новая игра, в которой уже архитектуры сердец соперничали между собой и становились главными претендентами на победу в естественном отборе, и на этом новом уровне стали быстро развиваться еще более сложные системы.

По этой причине кардиохирурги думают не о деталях сердечных клеток, они сосредоточены на общем архитектурном устройстве сердца; как и покупатели машин думают не о физике протонов и нейтронов, не о химии сплавов, они сосредоточены на высоких абстракциях вроде комфорта, безопасности, эффективности расхода топлива, маневренности, сексуальности и так далее. Подведу итог моей аналогии между сердцем и мозгом: слишком сильное приближение может быть – или почти обязательно будет – неверно выбранным масштабом для изучения мозга, если мы ищем объяснения таким невероятно абстрактным явлениям, как идеи, мысли, прототипы, стереотипы, аналогии, абстракции, память, забывчивость, смущение, сравнение, творчество, сознание, симпатия, эмпатия и тому подобные.

Какой бы простой ни была эта аналогия, увы, ее суть, похоже, проплывает мимо многих философов, исследователей мозга, психологов и других заинтересованных в связи между мозгом и мышлением людей. Рассмотрим, например, случай Джона Сёрла, философа, который большую часть своей карьеры посвятил насмешкам над исследованиями в области искусственного интеллекта и вычислительных моделей мышления. С особым удовольствием он высмеивал машины Тьюринга.

Короткое отступление… Машиной Тьюринга называется крайне простой совершенный компьютер, чья память представляет собой бесконечно длинную (то есть произвольно удлинняемую) «ленту» из так называемых «ячеек», каждая из которых просто квадрат, либо пустой, либо с точкой внутри. Машина Тьюринга также снабжена подвижной «головкой», которая смотрит на один квадрат в один момент времени и может «прочитать» ячейку (то есть сообщить, есть в ней точка или нет) или «записать» в нее (то есть поставить или стереть точку). Наконец, в «головке» машины Тьюринга хранится заранее заданный список инструкций, которые говорят, при каких условиях ей сдвинуться на ячейку влево, на ячейку вправо, поставить новую или стереть старую точку. Хотя базовые операции всех машин Тьюринга крайне тривиальны, для вычислений любого рода можно построить соответствующую машину (числа представляются последовательностью заполненных точками ячеек, так, «●●●», отделенное пробелами, соответствует натуральному числу 3).

Теперь вернемся к философу Джону Сёрлу. Он выжал все, что мог, из того факта, что машина Тьюринга – теоретическая модель и, в принципе, может быть выполнена из абсолютно любых материалов. Отпуская шутки в стиле, который, на мой взгляд, может развеселить только третьеклассников, но, к сожалению, привлек бесчисленное множество его коллег, Сёрл безжалостно потешался над идеей, что мышление может быть реализовано в системе из таких неподходящих физических сущностей, как туалетная бумага и галька (лентой служил бесконечный рулон туалетной бумаги, галька на квадратике бумаги играла роль точки), или детский конструктор , или огромная куча соединенных друг с другом пивных банок и шариков для пинг-понга .

Сёрл живо описывает все это, и создается впечатление, что эти уморительные образы он набрасывает беспечно и непринужденно, хотя, по сути, он то ли методично и умышленно навязывает читателям ложное убеждение, то ли играет на уже сложившихся ранее предрассудках. Ведь «мыслящая туалетная бумага» действительно звучит дико (каким бы длинным ни был рулон, сколько бы к нему ни добавляли гальки), равно как «мыслящие пивные банки», «мыслящий детский конструктор» и так далее. Беспечные и непринужденные картинки, нарисованные Сёрлом смеха ради, в действительности тщательно продуманы таким образом, чтобы читатель отмахнулся не раздумывая, – и, к сожалению, часто это работает.

Сёрл и правда далеко заходит в попытках карикатурно изобразить и высмеять определенные механизмы. Например, высмеивая мысль, что огромная система из взаимодействующих пивных банок может «иметь переживания» (вот и еще один термин для сознания), он берет в пример переживания жажду и затем, будто бы переход этот всем очевиден, закидывает идею о том, что в такой системе «выскакивала» бы (что это значит, не ясно, поскольку всю информацию о взаимодействии банок он благополучно опускает) одна конкретная банка с надписью «Я хочу пить!». Выскакивание одной-единственной банки (микроэлемента в обширной системе, сравнимой, скажем, с нейроном или синапсом в мозгу) должно обозначать испытывание жажды всей системой в целом. Сёрл очень придирчиво подобрал именно такую дурацкую иллюстрацию, поскольку знал, что она никому не внушит ни малейшего доверия. Как вообще пивная жестянка может испытывать жажду? И как ее «выскакивание» отразит собой жажду? И почему слова «Я хочу пить!» у нее на боку должны восприниматься серьезнее, чем каракули «Я хочу помыться!» на грязном грузовике?

Печальная правда заключается в том, что эта иллюстрация самым абсурдным образом искажает компьютеризированные исследования, цель которых – понять, как в мышлении работают когнитивные функции и ощущения. Ее можно критиковать как угодно, но главный трюк, на который я хочу обратить внимание, в том, как буднично Сёрл утверждает, что заявленное переживание всей системы сосредоточено в одной-единственной пивной банке , и как аккуратно он избегает допущений, что переживание системы можно искать в более сложных, более общих, высокоуровневых свойствах баночной конфигурации.

В серьезных размышлениях о том, как могла бы воплощаться пивнобаночная модель мышления или ощущений, ни «мышление», ни «чувства», даже сколь угодно поверхностные, не были бы явлением, сосредоточенным в одной лишь пивной банке. Они были бы обширными процессами, включающими миллионы, миллиарды, триллионы пивных банок, а состояние «переживания жажды» заключалось бы не в трех английских словах на боку выскакивающей банки, а в очень замысловатом паттерне из огромного количества банок. Короче говоря, Сёрл попросту высмеивает банальность собственного изобретения. Ни один солидный ученый, занимаясь моделированием мыслительных процессов, не сопоставил бы одну отдельную пивную банку (или нейрон) с одной идеей или ощущением, так что все дешевые нападки Сёрла просвистели мимо цели.