Минвэй Сун - Сломанные звезды. Новейшая китайская фантастика

«Айватар» огляделся и приступил к выполнению стандартной программы: он почистил мебель, вытер пыль, выбросил мусор и даже полил алоказию на подоконнике. Я наблюдала за «айватаром» из-за экрана. Его руки были такими же ловкими, как и у человека; они ловко поднимали чайные чашки, мыли их в раковине и ставили вверх дном на сушилку.

Я вспомнила, что видела похожего «айватара» в нашем доме много лет назад, когда еще был жив мой дедушка. Он, хороший шахматист, иногда играл с «айватаром» в шахматы и всегда выигрывал. Одержав очередную победу, он радостно напевал какой-нибудь мотивчик, а «айватар» тем временем стоял рядом с сокрушенным выражением лица. Эта картина всегда вызывала у меня смех.

Я не хотела предаваться печальным воспоминаниям во время болезни и поэтому повернулась к Линди, которая сидела рядом с подушками.

– Хочешь, я тебе почитаю?

Слово за словом, предложение за предложением, я читала толстый роман. Я сосредоточила все внимание на том, чтобы заполнить пространство и время словами, не обращая внимания на их смысл. Потом у меня пересохло в горле, и я остановилась. «Айватар» уже ушел. На чистом кухонном столе стояла миска, накрытая перевернутой тарелкой.

Я выключила световой экран, встала с постели и доковыляла до стола. Я подняла тарелку: миска была наполнена горячим супом с лапшой. На поверхности плавали кусочки помидоров, тонкие завитки желтка, колечки зеленого лука и золотистые пятна жира. Я выпила ложку бульона. В супе было много имбиря, и жжение распространилось от кончика моего языка до желудка. Знакомый вкус, вкус из детства.

Из моих глаз хлынули слезы. Остановить их я не могла.

Я съела всю лапшу без остатка, не переставая плакать.

9 июня 1949 года сэр Джеффри Джефферсон, знаменитый нейрохирург, произнес речь под названием «Разум механического человека», в которой высказался о мыслящих машинах следующим образом: «Пока машина не напишет сонет или не сочинит концерт под воздействием своих мыслей и испытанных чувств, а не благодаря случайному совпадению символов, только тогда мы согласимся с тем, что машина равна мозгу, – то есть она должна не только написать, но и знать, что именно она это написала. Ни один механизм не может чувствовать (а не просто подать сигнал, что достаточно легко) удовольствие от своих успехов, горевать, когда его электронные лампы плавятся, чувствовать тепло внутри от лести, тосковать из-за совершенных ошибок, поддаваться на сексуальные чары, злиться или печалиться, когда он не может получить желаемое».

Это высказывание часто цитировали, и шекспировский сонет стал символом, самым ярким драгоценным камнем в короне человеческого разума, вершиной духа, недостижимой для простых машин.

Репортер «Таймса» попросил Тьюринга прокомментировать эту речь. Тьюринг, как обычно, ответил не таясь: «Вряд ли сонеты вообще могут служить критерием. Однако это не вполне справедливое сравнение, ведь сонет, написанный одной машиной, лучше всего способна оценить другая машина».

Тьюринг всегда считал, что машины не обязательно должны думать точно так же, как и люди, ведь и сами люди мыслят по-разному. Есть люди слепые с детства; есть люди, которые могут говорить, но не умеют читать и писать; есть те, кто не способен читать выражения лиц; есть люди, которые до самой смерти не могут понять, что значит любить другого человека; но все они заслуживают уважения и понимания. Нет смысла искать изъяны в машинах, исходя из предположения о превосходстве людей. Более важно было прояснить с помощью имитационной игры, как люди выполняют сложные когнитивные задачи.

В пьесе Шоу «Назад к Мафусаилу» Пигмалион, ученый из 31920 года н. э., создал двух роботов, которые поразили всех.

ЭКРАЗИЯ: Он может создать что-нибудь оригинальное?

ПИГМАЛИОН: Нет. Но, с другой стороны, я не считаю, что кто-либо из нас на это способен, пусть Мартелл и утверждает обратное.

АЦИС: А на вопрос он ответить может?

ПИГМАЛИОН: О да. Вопрос – это стимул, знаете ли. Спросите у него что-нибудь.

Подобный ответ мог бы дать и сам Тьюринг. Но, по сравнению с Шоу, предсказание Тьюринга было куда более оптимистичным. Он верил, что в течение пятидесяти лет «появится возможность программировать компьютеры с емкостью памяти приблизительно 10^9 так, чтобы они играли в имитационную игру так хорошо, что после пяти минут, потраченных на вопросы, допрашивающий правильно идентифицировал бы игроков с вероятностью не более 70 процентов. Тогда изначальный вопрос «Могут ли машины мыслить?» будет слишком бессмысленным и не заслуживающим обсуждения».

В статье «Вычислительные машины и разум» Тьюринг попытался ответить на возражения Джефферсона сквозь призму имитационной игры. Предположим, что машина может отвечать на вопросы о сонетах, словно человек. Означает ли это, что она действительно «чувствует» поэзию? Он составил следующий гипотетический диалог:

Допрашивающий: В первой строке вашего сонета говорится: «Ты, словно летний день». Разве слова «весенний день» не подошли бы точно так же или лучше?

Свидетель: Это не ляжет в размер.

Допрашивающий: Тогда, может, «зимний день»? Это ляжет в размер.

Свидетель: Да, но никто не хочет, чтобы его сравнивали с зимним днем.

Допрашивающий: Мистер Пиквик не напоминает вам о Рождестве?

Свидетель: В каком-то смысле, да.

Допрашивающий: Но ведь Рождество – это зимний день, а мистер Пиквик вряд ли станет возражать, если его сравнят с Рождеством.

Свидетель: Вы шутите. Под «зимним днем» подразумевается обычный день зимы, а не особенный, как Рождество.

Но в этом разговоре Тьюринг на самом деле уклонялся от более основополагающего вопроса. Машина может играть в шахматы и взламывать коды, потому что все эти действия связаны с обработкой символов в пределах системы. В разговоре между машиной и человеком, с другой стороны, задействован язык и смысл, и этот разговор не является игрой с символами в чистом виде. Когда люди общаются друг с другом, то часто полагаются на общеизвестные факты, на понимание и сочувствие, а не просто демонстрируют превосходные навыки по прохождению тестов.

Улучшая программы, мы могли бы постоянно улучшать способность машин отвечать на вопросы, заданные людьми. Но «разум» состоит не только из способности отвечать на вопросы. Изъян теста Тьюринга заключается в том, что имитационная игра была задумана с единственной целью – обмануть. Если в этой игре мужчина может выдать себя за женщину, это не значит, что он понимает, как мыслит женщина. При желании мы могли бы научить компьютер искусно лгать. Но действительно ли мы хотим этого достичь?