Шон Кэрролл - Вселенная

Тестируемый даже не догадывается, что на попадающих в комнату листках — абсолютно разумные вопросы на китайском языке, а на тех бумажках, которые он по инструкции должен передавать обратно, — совершенно логичные ответы на китайском, которые мог бы дать обычный мыслящий человек. С точки зрения китайца, находящегося за пределами комнаты, всё выглядит именно так: он задаёт вопросы находящемуся в комнате носителю китайского языка, а тот отвечает ему по-китайски.

Но нам же понятно, говорит Сёрль, что в комнате нет никого, кто понимал бы китайский. Там есть только англоговорящий человек, кипы бумаги и исчерпывающий набор инструкций. По-видимому, комната позволяет пройти тест Тьюринга (на китайском языке), но о реальном понимании речь не идёт. Изначально Сёрль ставил перед собой цель исследовать искусственный интеллект, который, на его взгляд, никогда не смог бы достичь истинно человеческого уровня мышления. Компьютер, пытающийся пройти тест Тьюринга, подобен человеку в китайской комнате: он может манипулировать символами, создавая иллюзию понимания, но никакого реального осознания здесь нет.

Мысленный эксперимент Сёрля активно комментируют, как правило стараясь опровергнуть его точку зрения. Простейший контраргумент кажется вполне веским: разумеется, нельзя сказать, что человек в комнате понимает китайский, но китайский язык понятен совокупной системе «человек плюс набор инструкций». Как и Тьюринг с возражением от сознания, Сёрль предвидел появление этого аргумента и затронул его в своей оригинальной статье. Он был не слишком впечатлён:

Я имею в виду идею о том, что хотя индивид и не понимает китайского, но некое соединение индивида с листами бумаги китайский понять может. Мне сложно вообразить, что кто-то также может посчитать эту идею правдоподобной.

Как и во многих подобных мысленных экспериментах, первое условие Китайской комнаты — существование неких листов бумаги и пособия с инструкциями, позволяющими сымитировать человеческую коммуникацию, — это головная боль. Если в пособии буквально даётся всего один ответ на любой возможный вопрос, то комната никогда не пройдёт тест Тьюринга при контакте со сколь-нибудь компетентным собеседником-человеком. Рассмотрим такие вопросы: «Как дела?», «Почему вы так говорите?», «Не могли бы вы рассказать подробнее?». Многие человеческие беседы просто не строятся по принципу «предложение за предложением»; они зависят от контекста и от того, о чём шла речь раньше. На «листках бумаги» должен быть как минимум предусмотрен какой-то способ хранения информации, а также система для обработки информации, которая позволила бы интегрировать зафиксированную информацию в текущий разговор. Представить подобное вполне возможно, однако тогда мы получаем гораздо более сложную систему, нежели кипу бумаги и книгу с инструкциями.

С точки зрения Сёрля, неважно, какие элементы мы включим в данную «систему», — она в любом виде не позволит достичь понимания в полном смысле. Однако эксперимент с Китайской комнатой не позволяет однозначно аргументировать это утверждение. Он иллюстрирует точку зрения, согласно которой «понимание» — это концепция, не сводимая к обычной физической корреляции между вводом и выводом; понимание требует чего-то ещё, то есть такого смысла, в котором происходящее в системе действительно «описывает» обсуждаемую тему. С точки зрения поэтического натурализма «содержательность» не является неким метафизическим качеством, которым может обладать информация; это просто удобный способ рассуждения о корреляциях между различными элементами физического мира.

Используя Китайскую комнату для аргументации того, что машины не могут думать, мы уходим от вопроса, а не решаем его. Эксперимент порождает конкретную модель машины, которая якобы умеет думать, а затем ставится вопрос: «Вы что, считаете, что в этом случае о подлинном понимании речи не идёт, правда?». Наилучший ответ: «Почему бы и нет?».

Если мир — чисто физический, то под «пониманием» имеется в виду способ рассуждения о конкретной корреляции между информацией, локализованной в одной системе (воплощённой в конкретной совокупности материи), и условиями внешнего мира. Ничто в примере с Китайской комнатой не указывает на то, что мы должны думать именно так, если, конечно, мы уже не уверились в том, что не должны.

Здесь мы не пытаемся преуменьшить сложности, возникающие при попытке дать дефиницию «пониманию». В учебнике по квантовой теории поля содержится информация о квантовой теории поля, но сама книга не «понимает» своего предмета. Книга не может ответить на вопросы, которые мы могли бы ей задать, а также не может производить расчёты, пользуясь инструментарием теории поля. Понимание — это по факту более динамичная и процессно-ориентированная концепция, чем простое наличие информации, и сложная работа по формулировке аккуратной дефиниции для неё, несомненно, стоит затраченных усилий. Тем не менее, как указывал Тьюринг, нет никаких причин полагать, что такая сложная работа не может быть выполнена на чисто операционном уровне — в контексте того, как именно устроены вещи, без привлечения недосягаемых свойств («понимание», «сознание»), которые с самого начала обозначаются как абсолютно недоступные для наблюдения извне.

При помощи своего мысленного эксперимента Сёрль изначально пытался решить не проблему сознания (определить, что такое «сознавать» и «испытывать»), а проблему познания и интенциональности (определить, что такое «думать» и «понимать»). Однако эти проблемы тесно взаимосвязаны, и Сёрль позже сам обдумывал аргумент о том, что он якобы продемонстрировал невозможность наличия сознания у компьютерной программы. Такое расширение достаточно очевидно: если вы считаете, что заключённая в комнате система ничего не «понимает», то, вероятно, согласитесь, что она также ничего не сознаёт и не воспринимает.

* * *

Мысленный эксперимент с Китайской комнатой заставляет тех, кто считает сознание чисто физическим феноменом, оценить всю драматичность такого заявления. Даже если мы не претендуем на то, что у нас есть детально разобранное представление о сознании, мы должны попытаться чётко формулировать, какие сущности имеют право называться «сознательными». В случае с Китайской комнатой такой вопрос ставится относительно кипы бумаг и книги с инструкциями, но на самом деле это лишь образные способы рассуждения об информации и её обработке в компьютере. Если мы считаем «сознание» простым способом рассуждения о базовых физических явлениях, то в какие неудобные ситуации мы из-за этого попадаем?

Одна из систем, в сознательности которой мы, в общем, не сомневаемся, — это человеческое существо, в основном его мозг, но при желании можно учесть и тело. Человека можно представить как конфигурацию ста триллионов клеток. Если не существует ничего, кроме физического мира, то нам приходится считать, что сознание — это результат конкретных движений и взаимодействий всех этих клеток как между собой, так и с окружающим миром. Представляется, что важен не факт «клеточности» клеток — важны только их взаимодействия друг с другом, динамические закономерности, выстраиваемые ими в пространстве с течением времени. Здесь мы подходим к варианту множественной реализуемости на уровне сознания, иногда называемой «субстрат-независимостью» : паттерны сознательной мысли могут воплощаться в различных субстанциях.