Даглас Хофштадтер - Глаз разума

СЭНДИ: Мне кажется совершенно невообразимым этот переход от механического уровня молекул к живому уровню клетки. Но именно это и убеждает меня в том, что люди по сути являются машинами. В каком-то смысле эта мысль меня смущает, но с другой стороны, она же меня радует.

КРИС: Если люди — машины, то почему тогда их так трудно в этом убедить? Наверняка машины должны быть способны осознавать собственную машинность.

СЭНДИ: Ты должен учитывать эмоциональный фактор. Если тебе говорят, что ты — машина, это означает, что ты — не что иное, как сумма твоих физических частей, а это ставит тебя лицом к лицу с тем, что ты смертен. Этот факт нелегко принять. Но оставим в стороне эмоциональное возражение. Чтобы увидеть, что ты — машина, ты должен перескочить с низшего, полностью механического уровня на уровень, где происходит сложная жизнедеятельность. Промежуточные уровни при этом действуют как щит, и механичность становится почти невидимой. Именно такими разумные машины покажутся нам — и самим себе — если они когда-либо появятся.

ПАТ: Я однажды слышала забавное предположение о том, что произойдет, если у нас когда-нибудь появятся разумные машины. Когда мы попытаемся наделить этим разумом приспособления, которые мы захотим контролировать, то обнаружим, что их поведение далеко не всегда предсказуемо.

СЭНДИ: Может быть, у них внутри будет этот странный маленький огонек?

ПАТ: Возможно.

КРИС: Так что же в этом забавного?

ПАТ: Подумай о военных снарядах. Согласно этой идее, чем сложнее будет их целенаводящее компьютерное устройство, тем менее предсказуемым оно окажется. Рано или поздно некоторые снаряды решат, что они пацифисты, повернут обратно и спокойно приземлятся дома, не взорвавшись. Можно даже вообразить себе “разумные пули”, которые поворачивают на полпути, потому что не желают совершать самоубийства.

СЭНДИ: Как мило!

КРИС: Я отношусь к таким идеям скептически. И все-таки, Сэнди, мне бы хотелось услышать твое предсказание по поводу того, когда появятся первые разумные машины.

СЭНДИ: Скорее всего, их еще долго не будет — по крайней мере таких, которые будут приближаться по интеллекту к человеку. Мне кажется, что в ближайшем будущем мы не сможем воспроизвести настолько сложный субстрат, как мозг.

ПАТ: Как ты считаешь, пройдет ли когда-нибудь компьютерная программа тест Тьюринга?

СЭНДИ: Это довольно сложный вопрос. Если разобраться, существуют различные степени удовлетворительного прохождения этого теста. Тут нельзя все видеть в черно-белом цвете. Во-первых, это зависит от того, кто будет экзаменатором. Какой-нибудь простачок может быть одурачен даже сегодняшними программами. Во-вторых, это зависит от того, насколько глубоко будет “копать” экзаменатор.

ПАТ: Можно выработать шкалу теста Тьюринга — версия одной минуты, пяти минут, одного часа и так далее. Было бы здорово, если бы какая-нибудь организация выступила спонсором ежегодных чемпионатов, вроде шахматных, для программ, пытающихся пройти тест Тьюринга.

КРИС: Программа, которая продержалась бы дольше всех против опытного жюри, выходила бы победителем. Надо бы установить большой приз для программы, которая смогла бы продержаться против знаменитого экзаменатора целых десять минут!

ПАТ: Что бы эта программа стала делать со своим призом?

КРИС: Тебе не кажется, что если эта программа достаточно умна, чтобы ввести в заблуждение судей, то она сообразит, как ей распорядиться призом?

ПАТ: Конечно — в особенности, если приз будет состоять из танцевального вечера в загородном парке вместе со всеми экзаменаторами.

СЭНДИ: Мне бы хотелось, чтобы подобное начинание стало явью. Было бы забавно посмотреть, как первые программы с треском проваливаются.

ПАТ: Однако ты настроена очень скептически! Как ты думаешь, могла бы какая-нибудь из сегодняшних программ продержаться пять минут против хорошего экзаменатора?

СЭНДИ: Сомневаюсь. Дело в том, что сейчас никто не работает над этой проблемой. Правда, существует программа под названием “Пэрри”; ее авторы утверждают, что она уже прошла элементарную версию теста Тьюринга. В серии заочных интервью Пэрри удалось одурачить нескольких психиатров, которым было сказано, что они говорят либо с компьютером, либо с пациентом-параноиком. В предыдущей версии этого же теста психиатрам просто показали запись коротких интервью и попросили определить, в каких из них участвовал человек-параноик, а в каких — компьютер.

ПАТ: То есть у них не было возможности задавать вопросы? Это большой недостаток, противоречащий самому духу теста Тьюринга. Представь себе, что кто-то пытается определить, какого я пола, лишь прочитав несколько моих замечаний. Это очень трудно! Я рада, что первую версию улучшили.

КРИС: Как им удалось заставить компьютер разговаривать как параноика?

СЭНДИ: Я не говорила, что компьютер в действительности разговаривал, как параноик — просто некоторые психиатры в необычных обстоятельствах так подумали. В этом варианте теста Тьюринга мне не понравилось то, как Пэрри работает. “Он”, как называли эту программу, внезапно ударялся в самозащиту, уходил от неприятных тем и вообще контролировал беседу, так что “его” невозможно было по-настоящему спрашивать. В этом смысле подражать параноику гораздо легче, чем нормальному человеку.

ПАТ: Да ну? Это напомнило мне об одной шутке — какого человека легче всего имитировать на компьютере.

КРИС: И какого же?

ПАТ: Кататоника — он сидит и ничего не делает день за днем. Даже я могла бы написать компьютерную программу для этого!

СЭНДИ: Интересно, что Пэрри не создавал собственных фраз — он был снабжен обширным репертуаром готовых высказываний, из которых просто выбирал наиболее подходящие к “сказанной” ему в данный момент фразе.

ПАТ: Удивительно! Но это было бы невозможным в более крупном масштабе, правда?

СЭНДИ: Да, конечно. Чтобы компьютер мог отвечать нормально на все возможные высказывания в беседе, пришлось бы занести в его память поистине астрономическое, невообразимо огромное число предложений. И чтобы извлекать их из памяти, нужно было бы снабдить каждую сложным индексом. Те люди, которые считают, что программа, снабженная набором фраз, которые она вытаскивает из памяти подобно пластинкам в музыкальном автомате, сможет пройти тест Тьюринга, не понимают, о чем они говорят. Забавно то, что именно такой тип нереализуемых программ противники искусственного интеллекта используют как аргумент против теста Тьюринга. Они хотят, чтобы вместо действительно разумной машины вы вообразили себе гигантского неуклюжего робота, который монотонно повторяет законсервированные фразы. Предполагается, что его механический уровень остается очевидным даже тогда, когда он выполняет задачи, традиционно требующие интеллектуальной гибкости. Тогда критики заявляют: “Вот видите, это всего лишь машина — механическое приспособление, не обладающее никаким разумом”. Что до меня, то я вижу ситуацию как раз наоборот. Если бы мне показали машину, способную делать то же, что и я, — я имею в виду тест Тьюринга — то я не почувствовала бы, что меня оскорбляют или мне угрожают. Наоборот, я присоединилась бы к философу Рэймонду Смолляну и воскликнула бы: “Как прекрасны машины!”