Станислав Лем - Молох (сборник)

Джон Сёрл своей книгой « Minds, Brains and Programs », сразу же включенной в « The Behavioral and Brain Science », том III, Cambridge University Press , изданной в 1980 году (то есть 15 лет назад), вызвал настоящий переполох, или, если кто-то предпочитает более мягкое определение, полную разногласий бурю в среде американских исследователей Artificial Intelligence . Я, намереваясь положить на операционный стол clous [110] основные мысли (англ.) . его статьи, название которой соответствует титулу этого эссе, не буду здесь приводить порядка 28 реплик и диатриб, которыми общество AI в США пыталось «уничтожить» выводы, каковые, по мнению Сёрла, вытекают из его книги. Я также не хотел бы произвести такое впечатление, что являюсь якобы умнее всех исследователей этого круга проблем, работающих во всех (без малого) университетских центрах, но amicus Plato, sed magis amica veritas . [111] Платон мне друг, но истина дороже (лат.) . Если кто-то увидит возможность опровержения моего секционного вывода в пользу Сёрла, то я буду одновременно очень удивлен и доволен, потому что это совсем невыгодная вещь — возвышаться над собранием мудрецов.

Перехожу ad rem . [112] к делу (лат.) . Сёрл хотел сказать, что возможно точное подражание ПОНИМАНИЮ текста, который на самом деле человек, занимающийся его составлением, вообще не понимает. Он сделал это в вымышленном эксперименте, описание которого я читал два раза для большей уверенности в понимании дела МНОЙ САМИМ: первый раз — в оригинальном труде Д.Р. Хофштадтера и Д. Деннетта « The Mind’s I », [113] Имеется перевод на русский язык: Хофштадтер Д., Деннетт Д. Глаз разума. — Самара: Издательский дом «Бахрах-М», 2003, 432 с. (Фантазии и размышления о самосознании и о душе.) Книга представляет собой антологию из 27 статей и рассказов разных авторов (в том числе 3 рассказа Станислава Лема) с комментариями-размышлениями составителей. Антология содержит упоминаемые в настоящем сборнике работы: Сёрл Дж. Разум, мозг и программы; Тьюринг А. Вычислительные машины и разум (статья известна также под названием «Может ли машина мыслить?»); Докинс Р. Эгоистические гены и эгоистические мемы; Лем С. Non serviam (рассказ известен также под названием «Не буду прислуживать»). а второй — в хорошем немецком переводе « Einsicht ins ich ». — Klett-Coa Verlag , 1981.

Дело выглядит таким образом. Сёрл, зная английский, но никак не китайский, заперт в комнате и получает поочередно ТРИ пакета карточек, исписанных знаками китайского письма. Эти знаки в его глазах ничем не отличаются от нагромождения бессмысленных каракулей. В первом пакете он получает написанные по-английски инструкции, каким образом он должен другие знаки из второго пакета привести в соответствие со знаками первого. Наконец, он получает третий пакет страниц, также с китайскими символами и с инструкцией по-английски, которая дает ему возможность сделать определенное упорядочивание знаков третьего пакета в соответствии со знаками двух первых. Сёрлу необязательно знать, что тот, кто ему всё это дал, называет первый пакет «письмом» (« Script », « Schrift »), второй — «рассказом», а третий — «вопросами», касающимися этого рассказа. Поступая чисто формально, то есть раскладывая одни знаки в соответствии со вторыми и третьими, Сёрл получает уже саму запись, которую ТАКЖЕ абсолютно не понимает. При этом по мнению лиц, знающих китайский язык и письмо, в комнату попал рассказ, а из комнаты вышли разумные и складные ответы на вопросы, касающиеся содержания этого же рассказа, ХОТЯ манипулирующий знаками-карточками человек НИЧЕГО в китайском письме не понимает и не знает. Из этого можно сделать вывод, что манипулятор в комнате действует подобно компьютерному hardware , а инструкции на английском языке представляют ПРОГРАММУ ( software ), и уже из этого видно, что можно толково отвечать на китайские вопросы, относящиеся к китайскому рассказу, вообще не понимая китайского, и это должна быть модель работы компьютера.

Хофштадтер, который в своей книге вслед за Сёрлом кратко излагает «эксперимент» с китайской комнатой, снабдил его как собственными комментариями, так и пересказом самых существенных контраргументов (против сравнения формулы «комната плюс человек плюс инструкция» с компьютерной hardware , а английской инструкции — с программой, то есть software ), которые прислали самые передовые коллективы исследователей, изучающих АI , в том числе из университетов: Беркли («системный» ответ: человек сам ничего не понимает, но он плюс инструкция плюс комната «понимает китайский»), Йельского (в ответе событие изображается в стиле «робота»), Массачусетского технологического института с помощью Беркли (реплика, основанная на симуляции мозга), Стэнфордского (комбинированная реплика), Йельского (попытка редукции ad absurdum : откуда известно, что есть какие-то ДРУГИЕ, которые понимают китайский? — из их поступков, потому что в мозг им никто заглянуть не может, следовательно, поведенчески «комната» эквивалента «китайцу»), опять Беркли и т. д. Дальнейшее перечисление реплик было бы утомительным. Хофштадтер пробует опровергнуть «довод» Сёрла, вытекающий из его «мысленного эксперимента», подчеркивая, что, как умелый фокусник, Сёрл скрывает реальные трудности, так как само составление сотен и сотен китайских символов продолжалось бы, возможно, месяцы (по-моему, это не контраргумент, а только увертка), да и не нужно забывать «синологическую» сторону. Это более разумно, потому что ТОЛЬКО тот, кто НИЧЕГО о китайском не знает, помимо своей воли предполагает, что он является языком, построенным из отдельных «знаков-кубиков», которые не имеют ни склонения, ни спряжения, ни идиоматики. Так как я с «китайской комнатой» ни в какой спор, ни в какую дискуссию вступать не намерен, позволю себе перевести весь этот мысленный эксперимент в другой, более простой, который неплохо раскроет «тайну».

Возьмем так называемую « puzzle », которая при составлении в единое целое представляет какую-то картину или фотографию. Это может быть копия «Рыцаря» Рембрандта или фотография Эйфелевой башни — не важно, ЧТО там изображено, была бы только ДАНА натуралистическая реальность картины. Затем эта картина разрезается на маленькие, закрученные финтифлюшки-кусочки, из которых обычно такая головоломка ( puzzle ) складывается, обращая внимание исключительно на то, чтобы каждый кусочек отличался от другого формойнастолько, чтобы их невозможно было сложить в удачное целое при ошибочной замене элементов местами. В конце мы складываем картину в коробку и трясем ею так, чтобы хорошо эти кусочки перемешать. Затем приходит наш экспериментатор, видит только «изнаночные стороны» этих картонных кусочков и должен из них сложить такое целое, чтобы каждый кусочек находился там, где надо. Это будет несколько трудоемко, но возможно, если нельзя будет поменять местами эти кусочки благодаря их индивидуальной форме. Если сейчас мы перевернем полученное изображение картинкой кверху, то, конечно, увидим картину Рембрандта, «Леду с лебедем» или Эйфелеву башню, несмотря на то что тот, кто складывал кусочки, не имел ни малейшего понятия о том, что он складывает не бессмысленные формы в единое целое, а воссоздает определенный очень выразительный, однозначный ОБРАЗ. Все это достаточно очевидно и не требует никаких дополнительных пояснений. Вместо картины там с таким же успехом может находиться надпись на польском, албанском, китайском или на каком-то другом из существующих на нашей планете 5000 языков: там может появиться надпись « Kto rano wstaje, temu Pan Bog daje », [114] Кто рано встает, тому Бог дает (пол.) . или « Chіop zywemu nie przepuści », [115] Мужик живому спуску не даст (пол.) . или « Ich weiss nicht, was soll es bedeuten, dass ich so traurig bin » [116] Не знаю, что значит такое, Что скорбью я смущен. (нем.) . Пер. А. Блока. (Гейне, « Lorelei ») и т. д. Все равно, что появится при переворачивании оборотной стороны сложенных как следует кусочков на сторону правильную, то есть «правую», но ведь вероятно, что тот, кто складывал, как и «компьютерная программа», НИЧЕГОне знал, то есть не имел понятия или даже абсолютно не понимал, ЧТО появится на обороте, и даже не имел представления о том, ЧТО там появится какая-то когерентная значимая целость. Является ли это аргументом против мнения, что компьютер все же мог бы подобно человеку понимать, что он делает, выполняя очередные шаги, заданные инструкцией? По-моему, это имеет с «ниспровержением» тезиса о АI столько же общего, сколько и тезис, что из кремовых пирожных можно сложить надпись, отрицающую возможность извержения Этны. Одно ни на йоту не имеет ничего общего с другим.