Дэниэл Деннет - Опасная идея Дарвина: Эволюция и смысл жизни

Интересный факт, но помощи от него мало. Можно математически доказать множество интересных фактов о каждом из представителей разнообразных наборов алгоритмов. Применение этих знаний в реальном мире – совсем иное дело, и это-то и есть слепое пятно, из‐за которого Пенроуз совершенно упустил искусственный интеллект из виду вместо того, чтобы, как он рассчитывал, опровергнуть идею о нем. Это вполне очевидно из последовавших позднее, в ответ на замечания критиков, попыток переформулировать тезис.

Если взять любой конкретный алгоритм, то этот алгоритм не может быть той самой процедурой, в результате которой люди-математики устанавливают математическую истину. Следовательно, люди вовсе не используют алгоритмы для установления истины 772.

Для установления математической истины люди-математики не используют алгоритм, корректность которого логически доказуема 773.

В более позднем ответе критикам Пенроуз рассматривает и закрывает различные «лазейки», две из которых нам особенно интересны: математики могут прибегать к «ужасно сложному непостижимому алгоритму X » или « некорректному (но, предположительно, почти корректному) алгоритму Y ». Пенроуз описывает эти лазейки так, будто бы это ответы ad hoc на вызов, брошенный теоремой Гёделя, а не стандартные рабочие допущения при работе с искусственным интеллектом. О первой он заявляет:

Складывается впечатление, что это совершенно не согласуется с тем, что, по-видимому, на самом деле делают математики, когда формулируют свои доказательства в терминах, которые (по крайней мере, в принципе) можно разбить на утверждения «очевидные» и не встречающие никаких возражений. Я бы посчитал в высшей степени надуманным убеждение, что за всем нашим математическим пониманием и в самом деле таится ужасный и непостижимый Х , а не те простые и очевидные ингредиенты (курсив мой. — Д. Д. ) 774.

Все мы и в самом деле применяем эти «ингредиенты», на первый взгляд , не алгоритмически, но этот феноменологический факт вводит в заблуждение. Пенроуз тщательно обсуждает вопрос, что значит быть математиком, но упускает возможность (более того, вероятность), известную специалистам в области искусственного интеллекта: возможность того, что фундаментом нашей способности обращаться с этими «ингредиентами» является эвристическая программа умопомрачительной сложности. Такой замысловатый алгоритм будет почти соответствовать способностям того, кто способен в совершенстве понимать увиденное, будучи «незаметным» для того, к чьей пользе служит. Каждый раз, когда мы заявляем, что решили какую-то задачу «интуитивно», на самом деле это значит лишь, что мы не знаем, как ее решили. Простейший способ смоделировать «интуицию» на компьютере – просто закрыть компьютерной программе любой доступ к ее собственным внутренним процессам. Каждый раз, как программа решит задачу, и вы спросите ее, как она это сделала, ей придется отвечать: «Не знаю; просто интуитивно» 775.

Затем Пенроуз закрывает вторую лазейку (некорректный алгоритм), заявляя: «Математикам нужна определенная строгость, делающая такие эвристические доказательства неприемлемыми; следовательно, никакая подобная известная процедура этого типа не может быть способом, которым на самом деле действуют математики» 776. Это ошибка поинтереснее, ибо вместе с ней появляется перспектива, что для проведения решающего эмпирического теста «в ящик» нужно будет сажать не одного математика, а все математическое сообщество! Пенроуз осознает теоретическую важность дополнительного могущества, которое люди-математики получают, объединяя свои ресурсы, общаясь друг с другом и в результате становясь своего рода единым гигантским разумом – гораздо более надежным, чем любой гомункул, которого мы могли бы посадить в коробку. Дело не в том, что у математиков мозги устроены лучше, чем у остальных людей (или шимпанзе), но в том, что они располагают орудиями мысли – социальными институтами, в рамках которых они знакомят друг друга со своими доказательствами, проверяют друг друга, публично допускают ошибки и затем рассчитывают на то, что научное сообщество эти ошибки исправит. Так математическое сообщество и в самом деле обретает способность распознавать математические истины, намного превосходящую возможности любого отдельного человеческого мозга (даже отдельного мозга, вооруженного бумагой и карандашом, карманным калькулятором или портативным компьютером!). Но это не доказывает, что человеческий разум не является алгоритмическим прибором; напротив, это показывает, как подъемные краны культуры могут использовать человеческий мозг в распределении алгоритмических процессов, для которых нет четко обозначенных ограничений.

Пенроуз понимает это несколько иначе. Он продолжает рассуждение, говоря, что «именно наша общая (неалгоритмическая) способность понимать » обеспечивает наши математические способности, и заключает: «Естественный отбор поддерживает в Человеке (по меньшей мере) не алгоритм x , но эту удивительную способность понимания!» 777Здесь он допускает оплошность, которую я только что проиллюстрировал примером с шахматами. Пенроуз хочет сказать:

x способен понимать;

не существует осуществимого на практике алгоритма понимания;

следовательно : то, что обеспечивает понимание и что поддерживает естественный отбор, не является алгоритмом.

Этот вывод не следует из посылок. Если разум (в противоположность утверждению Пенроуза) является алгоритмом, то, конечно же, этот алгоритм не может опознаваться или быть доступным тем, чьи разумы он создает. Пользуясь словами Пенроуза, он непознаваем. Как продукт процесса биологического конструирования (как на генетическом, так и на индивидуальном уровне) это почти наверняка один из тех алгоритмов, которые расположены в том или ином месте Чрезвычайно обширного пространства интересных алгоритмов, полных опечаток и «багов», но достаточно надежных, чтобы вы могли (покамест) ручаться за них головой. Пенроуз считает эту возможность «надуманной», но если это его единственное возражение, то он пока что недостаточно близко знаком с лучшими из версий «сильного искусственного интеллекта».