Дэвид Харт - Бог. Новые ответы у границ разума

Модели разума, основанные на компьютерной технологии, имели бы смысл, если бы то, что компьютер на самом деле делает, можно было охарактеризовать как элементарную версию того, что делает разум, или, по крайней мере, как нечто отдаленно похожее на мышление. На самом деле, однако, здесь нет даже пригодной аналогии. Компьютер в действительности не вычисляет. Мы вычисляем, используя его как инструмент. Мы можем запустить программу для вычисления квадратного корня числа Пи, но поток цифр, который появится на экране, будет иметь математическое содержание только вследствие наших интенций и потому что мы, а не компьютер, запускаем алгоритмы. Сам по себе компьютер, как объект или ряд физических событий, не содержит и не производит никаких символов; его операции определяются не каким-либо семантическим содержанием, а только двоичными последовательностями, которые ничего не значат сами по себе. Видимые фигуры, появляющиеся на экране компьютера, являются лишь электронными следами множеств бинарных коррелятов, и они служат символами только тогда, когда мы представляем их как таковые и присваиваем им понятные значения. Компьютер также можно запрограммировать так, чтобы он отвечал на запрос квадратного корня из числа Пи с результатом «медвежонок Руперт»; и это не было бы неправильно, потому что собрание только материальных компонентов и чисто физических событий не может быть ни неправильным, ни правильным относительно чего бы то ни было. Программное обеспечение не более «думает», чем минутная стрелка знает время или печатное слово «пеликан» знает, что такое пеликан. Мы можем с тем же успехом уподобить разум счётам, пишущей машинке или библиотеке. Ни один компьютер никогда не использовал язык, не отвечал на вопрос и не придавал значения чему-либо. Ни один компьютер никогда не складывал и не сложит два числа вместе и уж тем более никогда не имел и не сможет иметь ни одной мысли. Единственный вид «ума» или «сознания», или даже иллюзии сознания при любых вычислительных процессах находится в нас – и он совершенно не подлежит «вычислению» (computation); все, казалось бы, похожее на разум в наших машинах, сводится, при корректном рассмотрении, опять к нашему же собственному разуму, и мы заканчиваем там же, где и начали, погруженные в ту же тайну, что и всегда. В обратное мы верим только тогда, когда, подобно Нарциссу, склонившемуся над водой, смотрим на свои творения и, плененные тем, что в них видим, воображаем, будто некий другой взгляд встретился с нашим собственным. [68]

В таком случае, что касается тех, кто привержен практическому проекту создания подлинного искусственного интеллекта, построенного на компьютерных моделях мышления, то их предприятие крайне безнадежно. Когда в 1997 году Гарри Каспаров, наконец, проиграл шахматный матч компьютеру Deep Blue , возбуждение охватило сообщество искусственного интеллекта и прессу; за рубежом оповестили, что компьютер, мол, победил шахматного мастера и сделал это, «думая» с большей гибкостью, чем его человеческий противник. Но дело обстояло совсем по-другому, как стало ясно в 2003 году, когда Каспаров столкнулся с гораздо более грозным Deep Junior и сыграл вничью. Это озадачило многих истинно верующих в искусственный интеллект. Компьютерная программа могла обрабатывать три миллиона возможных стратегий каждую секунду, в то время как Каспаров мог рассмотреть только несколько на любом данном этапе; но, как заметил Каспаров, какие бы варианты он ни рассматривал, именно они были лучшими из мыслимых. Это все потому, что Каспаров делал именно то, чего компьютер, прогоняя миллионы и миллионы бессознательных вычислительных конфигураций, не делал даже на мгновение: он думал. Ни одна мысль не прошла через маленькую монтажную плату компьютера. И у него не было интенций или чего-то даже отдаленно похожего на интенции. Он и в шахматы не играл. Все его мнимые умственные действия были на самом деле производными следствиями сознательных интенций его программистов, использовавших его схему для запуска алгоритмов, которые были в значительной степени дистилляцией обширного архива прошлых шахматных матчей, в том числе собственных матчей Каспарова; компьютер был просто перегонным кубом, через который тек дистиллят. Когда Каспаров проиграл свою партию в 1997 году, он был побежден не машиной, а огромной командой людей, в которую входил невольно и сам. И нигде в этом процессе не было какой-то разумной сущности под названием Deep Blue . И наоборот, когда Каспаров размышлял и делал ходы по доске, он мог производить в своем мозгу определенные функции, аналогичные функциям компьютера, но его сознательный акт мышления сам по себе не был компьютерным вычислением. Его разум не просто механически повторял каждую мыслимую конфигурацию шахматной доски, а затем автоматически выбирал те ходы, которые статистически наиболее вероятны для успеха; скорее, он понимал , чтó он делает, субъективно и интенционально, и его способность понимать – сразу схватывать принципы шахматной стратегии – и его память о своем предыдущем опыте, его волевые намерения и множество других вещей – позволили ему достичь целей, которые бессмысленное устройство, такое как компьютер, никогда бы не смогло достигнуть. Подобно тому как, вероятно, никогда не будет разработана компьютерная программа, чтобы, скажем, адекватно перевести стихотворение с одного языка на другой, ни одна программа никогда не будет «играть» в шахматы, даже если синтез навыков ее изобретателей окажется непобедимым для блестящего мастера шахматной игры. Рациональное мышление – понимание, интенция, воля, сознание – это вовсе не разновидность вычислений, подобных компьютерным.

Представьте, что это связано с ошибкой, касающейся не только того, что делает ум, но и того, что делает компьютер. Одним из предположений, лежащих в основе теории искусственного интеллекта, является то, что мозг, подобно компьютеру, использует алгоритмы в виде сложных нейронных событий, которые переводят нейронную информацию в репрезентативные символы. Если бы мы должны были провести «гомункулярную декомпозицию» разума в вычислительных терминах, то предположительно мы спустились бы через символический уровень операций к уровню чего-то наподобие двоичных функций, а затем – дальше, пока не достигли бы простых «переключателей» в мозгу, где и заложены эти функции. Но это переворачивает порядок каузальности на обеих сторонах нашей аналогии. Ни мозги, ни компьютеры, рассматриваемые исключительно как физические системы, не содержат алгоритмов или символов; только сознанию репрезентируется, что физическое поведение этих систем выдает какой-либо интенциональный контент. Именно в сознании человека, который программирует или использует компьютер, и в сознании, которое действует через физический аппарат мозга, эти символы и находятся. Фактически только по этой причине символический перевод возможен, потому что перевод данных в значение или одного вида значения в другой – это работа интенциональной субъективности, которая уже превосходит разницу между оригинальным «текстом» и его переводом. Компьютерный программист может переводить значения или функции в алгоритмы, потому что, будучи интенционально сознательным, он (или она) способен репрезентировать операции компьютера не просто как физические события, а как понятные символические транскрипции чего-то еще; именно в его (или ее) сознании, в любом направлении этого процесса, физическое служит целям ментального. Если мозг производит «символы» мира, воспринимаемого чувствами, например, то это не физическая транзакция, а ментальный акт репрезентации, который уже предполагает восприятие как опыт мира, находящегося снаружи. И только там, где существует символическое значение, происходит то что-то, что мы могли бы назвать мышлением. Таким образом, даже если бы мы могли вообразить или дедуктивно сойти с уровня сознания вниз через слои символов, простые нотационные функции и нейронные механизмы, мы не смогли бы тогда вернуться назад тем же путем, каким туда пришли. Опять-таки, физическая редукция какого-либо феномена до чисто материальных сил ничего не объяснит, если не удастся затем реконструировать этот феномен из его материальной основы, не прибегая к каким-либо более высоким причинам; но никакое компьютерное представление мысли никогда не сможет этого сделать. Символы существуют только «наверху», как бы в сознании, глядящем вниз по пути этого «спуска», действуя всегда как высшая причина по отношению к материальной реальности. Взглянув в противоположном направлении, «снизу вверх», можно найти только непреодолимую бездну, отделяющую интенциональную пустоту материи от интенциональной полноты разума. Абсолютная ошибка состоит в представлении, будто электрическая активность компьютера и есть само вычисление; и когда верующий в искусственный интеллект утверждает, что электрохимические операции мозга являются своего рода вычислением и что сознание возникает из этого вычисления, он (или она) говорит нечто, совершенно лишенное смысла. Попросту говоря, всякое вычисление онтологически зависит от сознания, и поэтому вычисление не может обеспечить того основания, на котором покоится сознание. Можно, конечно, пытаться объяснять существование солнца как результат тепла и яркости летних дней.