Дэниэл Деннет - Опасная идея Дарвина: Эволюция и смысл жизни

Эта проблема всегда была камнем преткновения для тех, кто желал использовать теорему Гёделя, чтобы доказать, будто наш разум – это небесный крюк, а не какой-то там старый и скучный подъемный кран. Если сказать, что, в отличие от машин, люди-математики могут доказать любые арифметические истины, то это делу не поможет, ибо если под «доказательством» мы имеем в виду то же, что и Гёдель в своем доказательстве, то Гёдель показал, что люди (или ангелы, если бы они существовали) на это тоже не способны 755; формального доказательства гёделевского предложения внутри системы, к которой оно принадлежит, не существует . Знаменитую раннюю попытку применения теоремы Гёделя предпринял философ Дж. Р. Лукас 756, решивший определить ключевой подвиг как способность «произвести как верное» определенное предложение – то или иное гёделевское предложение. Однако это определение приводит к неразрешимой проблеме интерпретации, разрушая «подобную мечу в камне» определенность эмпирической стороны аргумента 757. Мы можем лучше понять проблему, рассмотрев несколько сходных «подвигов», реальных и воображаемых.

В 1637 году Рене Декарт задался вопросом о том, как можно отличить настоящего человека от машины, и придумал «два верных средства»:

Во-первых, такая машина никогда не могла бы пользоваться словами или другими знаками, сочетая их так, как это делаем мы, чтобы сообщать другим свои мысли. Можно, конечно, представить себе, что машина сделана так, что произносит слова, и некоторые из них – даже в связи с телесным воздействием, вызывающим то или иное изменение в ее органах, как, например, если тронуть ее в каком-нибудь месте, и она спросит, что от нее хотят, тронуть в другом – закричит, что ей больно, и т. п. Но никак нельзя себе представить, что она расположит слова различным образом, чтобы ответить на сказанное в ее присутствии, на что, однако, способны даже самые тупые люди. Во-вторых, хотя такая машина многое могла бы сделать так же хорошо и, возможно, лучше, чем мы, в другом она непременно оказалась бы несостоятельной, и обнаружилось бы, что она действует не сознательно, а лишь благодаря расположению своих органов. Ибо в то время как разум – универсальное орудие, могущее служить при самых разных обстоятельствах, органы машины нуждаются в особом расположении для каждого отдельного действия. Отсюда немыслимо, чтобы в машине было столько различных расположений, чтобы она могла действовать во всех случаях жизни так, как нас заставляет действовать наш разум 758.

В 1950 году Алан Тьюринг задался тем же вопросом и придумал в точности то же решающее испытание (описанное несколько строже), названное им игрой в имитацию; мы же теперь зовем его тестом Тьюринга. Поместите двух соперников – человека и компьютер – в коробки (или еще каким-нибудь образом изолируйте их) и побеседуйте с каждым; если компьютер сможет убедить вас в том, что он – человек, то он побеждает в игре в имитацию. Однако вердикт Тьюринга в корне отличался от того, что вынес Декарт:

Уверен, что приблизительно через пятьдесят лет можно будет запрограммировать компьютеры с объемом памяти около 10 9так, чтобы они были настолько хороши в игре в имитацию, что после пяти минут расспросов заурядный собеседник мог определить, является ли машиной второй участник разговора, с вероятностью не больше 70%. Изначальный вопрос («Могут ли машины мыслить?») кажется мне слишком бессмысленным, чтобы его обсуждать. Тем не менее я убежден, что к концу века словоупотребление и общее просвещенное мнение изменится так сильно, что можно будет говорить о машинном мышлении, не ожидая возражений 759.

Последнее пророчество Тьюринга уже оказалось верным: «значение слов и общее просвещенное мнение» уже «изменилось так сильно», что можно , «в принципе», говорить о машинном мышлении, не ожидая возражений. Декарт находил «немыслимым» понятие мыслящей машины, и даже если, как сегодня думают многие, никакая машина никогда не сможет пройти тест Тьюринга, практически все наши современники согласятся, что ничего немыслимого в этой идее нет.

Возможно, этому кардинальному изменению распространенных представлений способствовали успехи компьютера в иных областях – например, в игре в шашки и шахматы. В выступлении 1957 года Герберт Саймон 760предсказал, что меньше чем через десять лет компьютер станет чемпионом мира по шахматам, – как выясняется, то был классический случай излишнего оптимизма. Через несколько лет философ Хьюберт Дрейфус 761предсказал, что ни один компьютер никогда не станет хорошим шахматистом, поскольку для игры в шахматы нужно «озарение», но вскоре компьютерная программа с разгромным счетом обыграла в шахматы его самого, что весьма повеселило исследователей искусственного интеллекта. За программой Арта Сэмюэля для игры в шашки последовали буквально сотни программ для игры в шахматы, ныне сражающиеся на турнирах как с людьми, так и с другими компьютерами, и, вероятно , вскоре они смогут побить лучшего в мире шахматиста.

Но является ли игра в шахматы подходящим «мечом в камне»? Некогда Дрейфус мог так думать, и у него есть выдающийся предшественник – Эдгар Аллан По, ни больше ни меньше, – который был на этот счет так уверен, что разоблачил один из величайших обманов XIX века, шахматный «автоматон» фон Кемпелена. В XVIII столетии великий Вокансон создавал механические чудеса, завораживавшие знать и других состоятельных покупателей, поскольку механизмы эти вели себя так, что и ныне дают пищу скептикам. Могла ли заводная утка Вокансона на самом деле делать то, что о ней сообщают? «Когда перед ней бросали зерно, утка вытягивала шею, склевывала его, проглатывала и переваривала» 762. Другие искусные мастера и аферисты пошли по следам Вокансона, доведя искусство создания механических симулякров до таких высот, что в 1769 году один из них, барон фон Кемпелен, смог злоупотребить всеобщим восхищением, которое вызывали подобные приборы, намерено создав подделку: якобы автоматон, который мог играть в шахматы.

Изначально созданная фон Кемпеленом машина попала в руки Иоганну Непомуку Мельцелю 763, который ее усовершенствовал и переделал, а затем, в начале XIX века, произвел фурор, представив публике Шахматный аппарат Мельцеля; он никогда не утверждал, что его изобретение – всего лишь машина, и окружал выступление (за которое просил круглую сумму) достаточным количеством обычной магической показухи, чтобы в любом возбудить подозрения. Несомненно механическая, фигура индийца-свами сидела перед шахматным столиком подозрительной конструкции – без ножек, но с дверцами и ящиками, которые открывались друг за другом (но никогда – все вместе), чтобы публика могла «увидеть», что внутри нет ничего, кроме механизмов. Затем кукла-свами принималась играть в шахматы, беря и передвигая фигуры на доске в ответ на действия соперника-человека, – и, как правило, она выигрывала! Но сидел ли внутри машины гомункул в буквальном смысле слова – крошечный человечек, выполнявший всю работу, требовавшую разумных действий? Если искусственный интеллект возможен, то столик мог содержать тот или иной набор подъемных кранов и иных механических приспособлений. Если искусственный интеллект невозможен, то там должен был скрываться небесный крюк – Разум, притворяющийся Машиной.