Николас Карр - Пустышка. Что Интернет делает с нашими мозгами

Приложение Вейценбаума было продуктом своего времени. В течение 1950-1960-х годов энтузиазм в отношении компьютеров, программирования и искусственного интеллекта не только заставлял думать, что человеческий мозг представляет собой разновидность компьютера, но и то, что человече­ский язык представляет собой продукт деятельности одного из алгоритмов, работающих внутри этого компьютера. Как объяснял Дэвид Голамбиа в книге «Культурная логика цифровых вычислений», новое поколение «вычислитель­ных лингвистов» во главе с коллегой Вейценбаума по МТИ Ноамом Хомским считало, что форма «естественного языка», на котором люди говорят и пишут, отражает «операции компьютера внутри человеческого мозга, который выполняет все лингвистические операции». В своей статье, опубликованной в 1958 году в журнале Information and Control, Хомский писал, что «один из воз­можных методов описания грамматики может представлять собой программу для универсальной машины Тьюринга». Эта теория казалась многим крайне привлекательной, так как была окутана в соблазнительные одежды «техно­логической инновации», пишет Голамбиа. Она предлагала «механистическую ясность», замещая «беспорядок», присущий человеческому языку, «понятным внутренним компьютером». За счёт обратного инжиниринга человеческой речи можно было обнаружить подспудный код, лежащий в основе языка, а затем воспроизвести его в виде компьютерного кода.

Вейценбаум назвал свою программу «Элиза», в честь девушки-кокни, героини пьесы Бернарда Шоу «Пигмалион», которая учится говорить на пра­вильном английском языке под опекой самонадеянного профессора фоне­тики Генри Хиггинса. Для того чтобы имитация разговора была чуть более интересной, Вейценбаум придумал своему искусственному собеседнику лич­ность - в его представлении это был психотерапевт, работавший по методу Роджерса. В своей работе автор объяснил, что выбор личности был основан на вполне прагматичных соображениях. Психотерапевты, использовавшие метод, созданный в 1940 году психологом Карлом Роджерсом, притворялись в разговорах с пациентом, что совершенно не понимают окружающего их мира. Чаще всего они просто повторяли заявления пациентов, либо сопро­вождая их банальными комментариями, либо трансформируя их реплики в открытые вопросы. Понимая, что подобная наивность представляет собой своего рода игру, пациенты могли приписать своим терапевтам «глубокие знания, понимание происходящего и способность к логическому мышле­нию». Вейценбаум считал, что подобный персонаж мог оказаться для «Элизы» «крайне полезным в психологическом смысле» - эта роль позволяла предста­вить, что за пустотой программы скрывается истинный интеллект.

Вейценбаум привёл отрывок из диалога «Элизы» с молодой женщиной, одной из первых протестировавших программу (ответы машины указаны курсивом):

Все мужчины похожи друг на друга.

В каком смысле?

Они всегда раздражают нас то по одному, то по другому поводу.

А ты можешь привести конкретный пример?

Ну что ж, я пришла сюда из-за моего друга.

Ты пришла сюда из-за друга.

Он говорит, что я постоянно нахожусь в состоянии депрессии.

Мне очень печально слышать, что ты находишься в состоянии депрессии.

Да, это так. Я несчастлива.

А ты думаешь, что твой приход сюда поможет тебе не чувствовать себя несчастной?

Я могу со всей определённостью сказать, что мне нужна помощь.

Как по-твоему, что могло бы произойти, если бы ты получила помощь?

Возможно, я могла бы помириться со своей матерью.

Расскажи мне больше о своей семье.

Мама заботится обо мне.

А кто ещё в семье заботится о тебе?

Мой отец.

Твой отец.

Ты тоже чем-то напоминаешь мне моего отца.

Чем?

Ты не проявляешь агрессии, но мне кажется, что ты не хочешь, чтобы

я это замечала.

Что заставляет тебя думать, что я не проявляю агрессии?

Ты не споришь со мной.

Как ты думаешь, почему я не спорю с тобой?

Ты меня боишься.

Тебе приятно думать, что я тебя боюсь?

Мой отец боится всех и вся.

Говоря о своём детище, Вейценбаум (который признавал, что оно представляет собой непримечательный и даже немного глуповатый вклад в молодую область естественно-языковой обработки) заметил, насколько простым может оказаться для программистов создание машин, «ведущих себя необычным образом и способных зачастую поражать даже искушён­ных наблюдателей». Однако как только «внутренние механизмы работы про­граммы объясняются простым и понятным языком, - продолжал он, - вся магия моментально исчезает. Перед нами предстаёт всего лишь набор про­цедур, зачастую достаточно изощрённых. Наблюдатель говорит себе: 'Такую программу мог бы написать и я сам". Программа переносится с полки, на кото­рой написано "интеллект", на полку, зарезервированную для всяких забавных диковин».

Однако в случае Вейценбаума (как и в случае Генри Хиггинса) равновесие было достаточно скоро нарушено. «Элиза» быстро приобрела популярность среди студентов МТИ, превратившись в одну из самых любимых тем для обсуждения на лекциях и презентациях, посвящённых компьютерам и режи­мам разделения времени. Она оказалась одной из первых программ, способ­ных продемонстрировать мощь и скорость компьютеров, причём образом, доступным любому непрофессионалу. Для того чтобы поболтать с «Элизой», не требовались специальные знания в области математики или вычислитель­ной техники.

Копии программы пользовались большой популярностью и в других уни­верситетах. Затем на неё обратила внимание пресса, и вскоре «Элиза», по сло­вам Вейценбаума, превратилась в «национальную игрушку». Он был удивлён интересом к своей программе. Но ещё сильнее его шокировало то, насколько быстро и глубоко люди, пользовавшиеся программой, «вовлекались в эмоци­ональную связь с компьютером» и разговаривали с ним как с живым собесед­ником. Они «могли, пообщавшись с компьютером в течение определённого времени, настаивать, несмотря на мои объяснения, что машина действительно их понимает». Искушению подверглась даже секретарь Вейценбаума, своими глазами видевшая, как он писал программный код для «Элизы», и «точно знавшая, что это - всего лишь компьютерная программа». После нескольких месяцев работы с программой на терминале в офисе Вейценбаума секретарь попросила профессора покинуть комнату, так как начала испытывать смуще­ние от того, что общение с машиной приобрело слишком личный характер. «Я никак не мог понять, - говорил Вейценбаум, - каким образом достаточно короткое общение с простой компьютерной программой может вызвать столь сильные отклонения в мышлении у вполне нормальных людей».