Найджел Уорбертон - Краткая история философии

Мысленный эксперимент под названием «китайская комната» был предложен американским философом Джоном Сёрлом (род. 1932). Его целью было доказать, что компьютер не способен мыслить в привычном понимании этого слова, даже если и кажется, что это так. Инструкция в «китайской комнате» – это подобие компьютерного алгоритма, но никакого «сознания» у компьютера нет.

Для того чтобы разобраться, о чем идет речь, нужно вспомнить тест Тьюринга, который был придуман для того, чтобы определить, обладает ли машина интеллектом или нет.

Алан Тьюринг (1912–1954) – выдающийся математик из Кембриджа, заложивший основы современной кибернетики. Созданные им во время Второй мировой войны вычислительные устройства помогли раскодировать шифр «Энигмы», использовавшийся для связи на немецких подводных лодках. Благодаря этому командование союзников могло заранее узнать о планах нацистов.

Задумавшись о том, что когда-нибудь компьютеры смогут не только взламывать коды шифрования, но, возможно, станут по-настоящему разумными, в 1950 году Тьюринг предложил тест, который, как ему казалось, позволит понять, так ли это или нет. Это – тест для определения искусственного интеллекта, хотя сам автор предпочитал именовать его «игрой в имитацию». Почему? Возможно, он хотел подчеркнуть, что в мозге нас прежде всего интересует не физическая форма – будучи вынутым из черепной коробки мозг напоминает холодную серую кашу, – но та функция, которую он выполняет. Из этого следует, что в компьютерах нас также не должен смущать факт, что они состоят из пластика и электронных цепей, важно лишь то, что компьютеры (предкомпьютеры в случае Тьюринга) способны выполнять многое из того, на что способен человеческий мозг. Имитировать – можно сказать и так.

Когда мы пытаемся определить, насколько умен тот или иной человек, мы задаем ему вопросы и делаем выводы на основании ответов, а не вскрываем ему череп, чтобы посмотреть, как там все устроено. Поэтому логично, если при оценке того, насколько разумен компьютер, мы также будем исходить не из внутреннего устройства, но из того, какие ответы компьютер дает. Иными словами, важно лишь то, что мы вводим и что получаем на выходе, а не провода и микросхемы.

Предложение Тьюринга звучало следующим образом. Человек ведет переписку… он не знает, с кем – с другим человеком или с компьютером. Тест для компьютера считается пройденным (искусственный интеллект налицо), если человек не может сказать, с кем он переписывался – с другим человеком или с машиной.

Мысленный эксперимент Джона Сёрла был призван продемонстрировать, что даже если компьютер пройдет тест Тьюринга, это вовсе не доказывает, что он обладает разумом. Как вы помните, в эксперименте Сёрла человек сидит в комнате, куда поступают карточки с китайскими иероглифами. В соответствии с инструкцией, он достает нужную карточку. Что там на этой карточке, он не знает, то есть по большому счету его действия бессмысленны. Если бы он знал китайский – другое дело, но китайского он не знает. Но ему все же удается убедить другого участника эксперимента, что он делает осмысленный выбор, что он якобы ведет разумный диалог.

Этот мысленный эксперимент доказывает, что компьютер, которому удалось пройти тест Тьюринга, «разумным» в нашем понимании этого слова не является – он просто механически выполняет заданные действия.

Всё, что делают компьютеры, полагает Сёрл, – это выдают символы в соответствии с заложенной в них программой. Манипулировать информацией еще не значит понимать ее, и программе, вложенной в компьютер, далеко до подлинного разума. Можно также сказать, что человек, который написал программу, всего лишь дал компьютеру синтаксис, то есть правила обработки символов, но не семантику, то есть значение этих символов. При общении люди стремятся выразить смысл – то, как их мысли сообразуются с миром вокруг. Компьютеры лишь имитируют процесс мышления, как попугаи имитируют человеческую речь. Даже если попугай произносит фразы корректно, а иногда и к месту, это еще не означает, что он понимает, что говорит. Семантика не может быть построена исключительно на синтаксисе, а значит, компьютеры не способны думать или понимать.

Оппоненты Сёрла заявляли, что слабое место его мысленного эксперимента состоит в том, что в нем все внимание обращено только на человека: понимает ли человек, находящийся в комнате, что он делает, или нет. С их точки зрения, это было ошибкой. Ведь человек в данном примере – всего лишь часть системы, в которую входят сама комната, инструкция и корзинки с иероглифами. Даже если сам человек не понимает значения своих действий, то, возможно, это осознает система в целом.

В ответ на критику Сёрл несколько изменил свой пример. Не надо никакого человека, запертого в комнате, пусть будет человек, который выучил инструкцию наизусть. Он по-прежнему не понимает, что написано на карточках, но умудряется давать правильные ответы. Тем самым философ хотел подчеркнуть, что понимание предполагает нечто большее, чем способность давать правильные ответы, и система тут ни при чем.

Тем не менее многие убеждены, что человеческий мозг подобен компьютеру. Они также верят, что компьютеры способны мыслить. Если они правы, то, возможно, однажды мы сможем оцифровать человеческое сознание. Но если наш разум – это всего лишь программа, то почему она обязательно должна быть запущена только в этом неприглядном кашеобразном веществе, которое принято называть мозгом и которое находится у нас в голове? Если при помощи супермощных компьютеров кто-нибудь составит полную карту всех функциональных и ассоциативных связей, которые и составляют разум, то, возможно, мы сможем победить саму смерть. Наше сознание будет перенесено на компьютер, и этот компьютер будет работать даже тогда, когда наша физическая оболочка из плоти и крови исчезнет. Хороша или плоха подобная форма существования – отдельный вопрос. Но если Сёрл все же прав, то у нас нет гарантии, что оцифрованный разум будет обладать сознанием в нашем понимании, даже если он будет отвечать «как нужно».

Тьюринг был убежден, что компьютеры способны мыслить. Если он прав, то, возможно, вскоре компьютеры начнут задумываться о философии и связанных с ней вопросах. По крайней мере, это звучит более вероятно, нежели то, что наш разум сможет победить смерть нашего тела. Может быть, в будущем компьютеры смогут рассказать нам много интересного о том, как нам следует жить и какова на самом деле природа реальности, – а также поднимут завесу над вопросами, волновавшими философов не одну тысячу лет. А пока что мы вынуждены полагаться в этом отношении на философов из плоти и крови. Одним из самых влиятельных и противоречивых на сегодня является Питер Сингер.