Даглас Хофштадтер - ГЕДЕЛЬ, ЭШЕР, БАХ: эта бесконечная гирлянда

По сравнению с человеком, мы можем сказать, что программа «знает» некоторые факты о теории чисел — а именно, те факты, которые она печатает. Если она пропускает некий истинный факт теории чисел, это значит, что она его не «знает». Следовательно, можно доказать, что компьютерная программа «глупее» человека, показав, что люди знают что-то, недоступное машине. Здесь Лукас начинает свое доказательство. Он утверждает, что люди всегда могут проделать Гёделев трюк в любой формальной системе, равномощной ТТЧ — и, таким образом, они всегда знают больше, чем данная система. Это рассуждение может показаться приложимым лишь к формальным системам, но оно может быть немного изменено и в таком виде стать, как кажется, непобедимым аргументом против Искуственного Интеллекта, равного человеческому. Это делается так:

Рациональность и численность естественно рождают компьютеры, автоматы, роботов, следовательно…

Компьютеры изоморфны формальным системам. Значит…

Любой компьютер, чтобы быть таким же умным, как человек, должен быть способен понимать теорию чисел так же хорошо, как люди, значит…

Среди прочего, он должен знать примитивно рекурсивную арифметику. Но именно поэтому…

Он ловится на Гёделев «крючок», из чего следует, что…

Мы, с нашим человеческим интеллектом, можем вывести некое истинное утверждение теории чисел, истинность которого компьютер не в состоянии заметить (то есть, компьютер никогда не выведет этого утверждения) именно из-за Гёделева аргумента, действующего как бумеранг.

Из этого следует, что существует нечто, что невозможно запрограммировать на компьютерах, но что люди способны сделать. Значит, люди умнее.

Насладимся же, вместе с Лукасом, преходящим моментом антропоцентрической славы:

Какую бы сложную машину мы не сконструировали, она, будучи машиной, будет соответствовать формальной системе, которая, в свою очередь, будет подвержена Гёделевой процедуре нахождения формулы, недоказуемой в данной-системе. Эту формулу машина не в состоянии будет вывести в качестве истинной, хотя разум может установить ее истинность. Таким образом, машина все еще не будет адекватной моделью разума. Мы пытаемся создать механическую модель мозга — «мертвую» модель — но разум, будучи «живым», может всегда пойти на шаг дальше любой формализованной, окостеневшей, мертвой системы. Благодаря теореме Гёделя, за разумом всегда остается последнее слово. [43] Там же, стр. 48.

На первый взгляд (и, может быть, даже после детального анализа), доводы Лукаса кажутся убедительными. Обычно они вызывают противоположные реакции. Некоторые ухватываются за них, почти как за религиозное доказательство существования души, в то время как другие просто отмахиваются от них, как от недостойной внимания чепухи. Мне кажется, что, хотя эти доводы ошибочны, они настолько интересны, что стоит потратить некоторое время на их опровержение. На самом деле, это было одной из основных причин, по которой я стал думать над проблемами, затронутыми в этой книге. Я попытаюсь опровергнуть доводы Лукаса одним способом в этой главе и другими способами в главе XVII.

Мы должны попробовать глубже понять, почему Лукас говорит, что компьютер невозможно запрограммировать так, чтобы он «знал» столько же, сколько люди. Его идея заключается в том, что мы всегда находимся вне системы, и что извне мы можем проделать «Геделизирующую» операцию, в результате дающую нечто, что мы, глядя извне, можем идентифицировать как истинное, но что не может быть интерпретировано как таковое изнутри системы. Но почему нельзя запрограммировать в качестве третьего главного компонента программы «Геделизирующий оператор», как Лукас его называет? Лукас объясняет:

Гёделева формула строится при помощи стандартной процедуры — только так мы можем быть уверены, что ее можно будет построить в любой формальной системе. Не если это стандартная процедура, то почему ее нельзя добавить к программе? Это соответствовало бы системе с дополнительным правилом вывода, позволяющего добавить к ней в качестве теоремы Геделеву формулу остальной системы, затем — Геделеву формулу получившейся при этом новой, более мощной формальной системы, и так далее. Это было бы равносильно добавлению к первоначальной формальной системе бесконечной цепочки аксиом, каждая из которых являлась бы Гёделевой формулой системы, полученной таким образом… Можно ожидать, что человек, столкнувшийся с машиной, обладающий Гёделевым оператором, принял бы этот факт во внимание и смог бы пере-Гёделить этот новый аппарат вместе с его Гёделевым оператором. В действительности, так и получается. Даже если мы добавим к формальной системе бесконечный ряд аксиом, состоящих из последовательных Гёделевых формул, получающаяся система все еще остается неполной, так как в ней будет недоказуемая в данной системе формула. Однако разумное существо, стоящее вне системы, видит, что эта формула истинна. Этого мы и ожидали, поскольку, даже если мы добавим бесконечный ряд аксиом, они должны быть определены с помощью некоего конечного правила, которое затем может быть учтено разумом, анализирующим расширенную формальную систему. В некотором роде, поскольку за разумом остается последнее слово, он может всегда обнаружить дыру в любой формальной системе, выдаваемой за его модель. Механическая модель должна быть в каком-то смысле конечной и определенной, следовательно, разум всегда окажется более гибким. [44] Там же, стр. 48-9.

Образ, который мы находим у Эшера, помогает нам лучше понять эту идею; речь идет о его «Драконе» (рис. 76). Основная тема в нем, разумеется, — это дракон, кусающий себя за хвост, со всеми Гёделианскими ассоциациями, которые это вызывает. Но в этой картине есть и более глубокий смысл. Сам Эшер написал по этому поводу очень интересные комментарии. Первый комментарий касается серии рисунков, в которых Эшер исследовал конфликт «между плоскостью и трехмерным пространством»; второй комментарий — собственно о «Драконе»:

I. Наше трехмерное пространство — это единственная известная нам реальность. Двумерность точно так же фантастична для нас, как и четырехмерность, поскольку в нашем мире ничто не плоско по-настоящему, даже поверхность тщательнейшим образом отполированного зеркала. И все же мы держимся за идею, что стена или лист бумаги на самом деле плоские, — и интересно то, что мы продолжаем, с незапамятных времен, производить иллюзии пространства на этих самых плоских поверхностях. Не абсурдно ли нарисовать несколько линий и назвать это «домом»? Эта странная ситуация — тема следующих пяти рисунков [включая «Дракона»]. [45] М. С. Escher, «The Graphic Work of M. С Escher» (New York: Meredith Press, 1967), стр. 21.