Даглас Хофштадтер - ГЕДЕЛЬ, ЭШЕР, БАХ: эта бесконечная гирлянда

(7) Аргумент непрерывности нервной системы . Нервная система, безусловно, не является машиной, работающей с перерывами. Небольшая ошибка в информации о размере нервного импульса, воздействующего на нейрон, может означать огромную разницу в размере выходящего импульса. Можно сказать, что такое положение вещей делает невозможным имитацию поведения нервной системы при помощи дискретной системы.

(8) Аргумент неформального поведения . «Если бы каждый человек руководствовался в своей жизни набором неких установленных правил, он был бы не лучше машины. Но поскольку таких правил не существует, люди не могут быть машинами.»

(9) Аргумент экстрасенсорного восприятия . Давайте представим себе имитационную игру, в которой участвуют человек, обладающий телепатическими способностями, и компьютер. Ведущий может задавать такие вопросы как «Какой масти карта в моей правой руке?». Человек, используя телепатию или ясновидение, дает 130 верных ответов из 400. Машина может только гадать и, скорее всего, даст около 104 правильных ответов, так что ведущий сможет без труда определить, кто есть кто.

Как видите, многие возражения связаны друг с другом и частично совпадают. В этой книге я попытался так или иначе ответить на каждое из них, хотя и менее четко, чем это сделал Тюринг. Возражение (9) кажется мне удивительным. Я видел эту статью Тюринга, перепечатанную в книге — но там возражение (9) опущено, что мне кажется не менее удивительным. Лично я, в отличие от Тюринга, считаю, что экстрасенсорных способностей (ЭСС) не существует. Тюрингу пришлось согласиться с идеей ЭСС, поскольку его выдающаяся научная честность заставила его принять последствия того, что казалось ему мощной статистической очевидностью в пользу этой идеи. Я с этим не согласен, но, тем не менее, считаю это необыкновенно интересным и сложным вопросом.

В предыдущем Диалоге вы прочли запись подлинной беседы между компьютерной программой и человеком. Существует множество программ с меньшей, чем у ШРДЛУ, способностью к «беседе». Две довольно известные программы такого рода — это «Доктор» (создание Иосифа Вайценбаума) и «Парри» (детище Кеннета Колби). Первая была призвана имитировать психиатра, используя «недирективную» терапию, в то время как вторая должна была изображать типичного параноика. Однажды по компьютерной сети была устроена забавная встреча этих двух программ; ниже приводится отрывок из их «беседы»: [68] Vinton Cerf «Parry Encounters the Doctor» стр. 63.

Парри: Я не понимаю ваших мотивов.

Доктор: Почему вы не понимаете моих мотивов?

Парри: Не должен ли я быть таким?

Доктор: Почему вы сейчас это сказали?

Парри: Это именно так и есть.

Доктор: А вы представьте себе, что это именно не так.

Парри. Ну и что?

Доктор. Я не уверен, что вполне вас понимаю.

Парри: Вы слишком привязываетесь к одним тем же вопросам.

Доктор: О чем говорит вам это сходство?

Парри: Я вас не понимаю.

Доктор: Вы хотели бы понимать я?

Парри: Хорошо бы, чтобы вы начали проявлять интерес к моим чувствам.

Доктор: Что? Я начал проявлять интерес к вашим чувствам?

Разумеется, эти программы были созданы для разговоров с людьми; поэтому, разговаривая друг с другом, они показывают себя не с лучшей стороны. В основном они опираются на ловкие догадки в отношении вводных данных (анализируя их довольно поверхностно) и выдают готовые ответы, тщательно выбранные из обширного репертуара. Ответ может быть готовым только частично: например, может использоваться некая схема, в которой заполняются пробелы. При этом имеется в виду, что собеседник-человек будет придавать ответам гораздо больше смысла, чем в них есть на самом деле. В действительности, согласно тому, что Вайнценбаум утверждает в своей книге «Мощь компьютеров и человеческий разум» (Weizenbaum, «Computer Power and Human Reason»), именно так и происходит. Он пишет:

ЭЛИЗА (программа, на основе которой был разработан Доктор) создавала удивительную иллюзию проникновения в мысли многих людей, которые с ней разговаривали… Они часто просили позволения побеседовать с системой наедине, после чего говорили, несмотря на мои объяснения, что машина их по-настоящему поняла. [69] Joseph Weizenbaum «Computer Power and Human Reason», стр. 189.

После прочтения предыдущего «разговора» читатель может подумать, что это невероятно. Может быть — но это чистая правда! Вайценбаум объясняет:

Большинство людей совершенно ничего не понимают в компьютерах. Поэтому, если только они не способны на значительную долю скептицизма (того скептицизма с которым мы наблюдаем за действиями фокусника), они могут объяснить интеллектуальные достижения компьютера только путем единственной доступной им аналогии — то есть модели их собственного мышления. Таким образом не удивительно, что они преувеличивают почти невозможно вообразить человека, который мог бы имитировать ЭЛИЗУ, но для которого при этом ее языковые способности являлись бы пределом. [70] Там же, стр. 9-10.

Это равносильно признанию того, что подобные программы являются остроумной смесью бравады и блефа и их успех основан на людской доверчивости.

В свете странного «эффекта ЭЛИЗЫ» многие предлагали пересмотреть тест Тюринга, поскольку, по-видимому людей легко одурачить простенькими уловками. Было предложено, чтобы ведущим был лауреат Нобелевской премии. Возможно, было бы целесообразнее перевернуть тест с ног на голову и сделать так, чтобы вопросы задавал компьютер. Или может быть, вопросы должны задавать двое — человек и компьютер, а отвечать — кто-то один, и спрашивающие должны догадаться компьютер это или человек.

Говоря серьезно, я считаю, что тест Тюринга в его первоначальной форме вполне приемлем. Что касается людей которые, по словам Вайзенбаума были одурачены ЭЛИЗОЙ, то их никто не предупреждал быть более скептическими, стараясь угадать, является ли «персона» печатающая ответы, человеком. Мне кажется что Тюринг верно понимал ситуацию и его тест выживет в практически неизмененной форме.

На следующих страницах я хочу представить, возможно, с несколько неортодоксальной точки зрения историю усилий, направленных на открытие алгоритмов разума, в этой истории были и будут провалы и неудачи. Тем не менее, мы узнаем очень многое и переживаем захватывающий период в развитии ИИ.

Со времен Паскаля и Лейбница люди мечтали о машинах, способных выполнять интеллектуальные задания. В девятнадцатом веке Буль и Де Морган разработали «законы мысли», по существу являвшиеся Исчислением Высказываний и, таким образом, сделали первый шаг по пути создания программ ИИ, тогда же Чарльз Баббидж сконструировал первую «вычисляющую машину» — предшественницу компьютерной аппаратуры и, следовательно, ИИ. Можно сказать, что ИИ зарождается в тот момент, когда машины начинают выполнять задания ранее доступные только человеческому уму. Трудно вообразить чувства людей впервые увидевших, как зубчатые колеса складывают и перемножают многозначные числа. Возможно, они испытали благоговейный трепет, увидев реальное физическое воплощение течения «мысли». Так или иначе мы знаем, что почти сто лет спустя, когда были построены первые электронно-вычислительные машины, их создатели почувствовали почти мистическое благоговение в присутствии иного типа «мыслящего существа». До какой степени эти машины действительно мыслили, было неясно даже теперь, несколько десятилетий спустя этот вопрос продолжает широко обсуждаться.