Николас Карр - Пустышка. Что Интернет делает с нашими мозгами

Но тут начали происходить ещё более странные вещи. Признанные пси­хиатры и учёные из других областей знаний начали наперебой говорить, с немалым энтузиазмом, что программа может играть важную роль в реаль­ном лечении различных болезней и нарушений. В статье в журнале Journal of Nervous and Mental Disease три знаменитых психиатра-исследователя напи­сали, что «Элиза», при незначительной настройке, могла бы использоваться в качестве «терапевтического инструмента, широко доступного в психиатри­ческих больницах и специализированных центрах, испытывающих нехватку врачей».

Благодаря «способностям современных и будущих компьютеров к разде­лению времени, несколько сотен пациентов могли бы одновременно пользо­ваться компьютерной системой, специально созданной для этой цели». В своей статье в журнале Natural History известный астрофизик Карл Саган выражал своё ничуть не меньшее восхищение потенциалом «Элизы». Он предвидел развитие «сети терапевтических компьютерных терминалов, чем-то напо­минающих огромные телефонные будки, в которых всего за несколько долларов любой человек мог бы поговорить с внимательным, опытным и не указывающим правильное направление психотерапевтом».

В своей работе «Вычислительные машины и разум» Алан Тьюринг зада­вался вопросом: «Могут ли машины думать?» Он предложил простой экспери­мент, позволявший оценить, действительно ли у компьютера есть интеллект. Изначально эксперимент носил название «имитационная игра», но потом приобрёл другое, всем известное название - тест Тьюринга.

В процессе тестирования «следователь» сидит за компьютерным терми­налом в пустой комнате и участвует в переписке с двумя другими собесед­никами, один из которых является человеком, а другой компьютером, лишь притворяющимся человеком. Тьюринг полагал, что если «следователь» ока­жется не в состоянии отличить компьютер от реального человека, то можно будет говорить о наличии у компьютера интеллекта. Способность выдавать правдоподобную последовательность слов будет свидетельствовать о появ­лении по-настоящему думающей машины.

Разговор с «Элизой» представлял собой по сути 0дну из разновидностей теста Тьюринга. Однако, как с удивлением обнаружил Вейценбаум, люди, «беседовавшие» с программой, совершенно не были заинтересованы в том, чтобы выносить рациональ­ные и объективные суждения в отношении личности «Элизы». Они хотели верить, что «Элиза» представляет собой действительно думающую машину. Они хотели наградить «Элизу» человеческими качествами, даже зная, что она - всего лишь компьютерная программа, следующая простым и достаточно очевидным инструкциям. Как оказалось, тест Тьюринга во многом тестировал то, каким образом компьютеры мыслят в восприятии людей.

В своей статье в Journal of Nervous and Mental Disease три психиатра не просто предложили, чтобы «Элиза» служила заменой реальному доктору. Они начали по очереди, утверждать что психотерапевт по сути представляет собой разновидность компьютера: «Терапевт может рассматриваться как устройство принятия решения и информационный процессор, действующий на основании набора правил, чётко связанных как с краткосрочными, так и с долгосрочными целями».

Даже неуклюжее имитирование человека «Элизой» заставило людей думать о себе как об имитации компьютера. Такая реакция на программу встревожила Вейценбаума. Ему пришлось задать себе вопрос, который под­спудно занимал его на протяжении многих лет: «Что есть в компьютере такого, что заставляет человека думать о себе, как о машине?»

В 1976 году, спустя десять лет после дебюта «Элизы», он дал ответ на этот вопрос в книге «Возможности вычислительных машин и человеческий разум». Вейценбаум полагал, что для понимания эффектов, связанных с ком­пьютером, необходимо смотреть на машину в контексте интеллектуальных технологий прошлого, длинной последовательности таких инструментов, как карта и часы, трансформировавших природу и изменивших «восприятие человеком реальности». Подобные технологии стали частью «всего того, из чего человек строит свой мир». Приняв их на вооружение, мы уже не можем отказаться от них без того, чтобы не ввергнуть общество «в великие потрясе­ния или даже в хаос».

Он писал, что интеллектуальная технология «становится настолько неотъемлемым компонентом любой структуры... и интегрируется с ней, перемешиваясь с различными ключевыми подструктурами, что становится невозможно вычленить её, не разрушив саму структуру».

Этот факт, почти «тавтологический» 27, помогает понять, каким образом стабильно и неотвратимо росла наша зависимость от цифровых компьюте­ров после того, как они были изобретены в конце Второй мировой войны. «Наличие компьютера было совершенно необязательно для выживания современного общества в послевоенный период и далее, - полагал Вейцен- баум, - но энтузиазм и недостаточно критическое отношение со стороны наиболее "прогрессивных" представителей американского правительства, бизнеса и компьютерной отрасли превратило его в необходимый для выжи­вания ресурс, придав обществу (с помощью самих же компьютеров) новую форму». Он занимался сетями, работавшими по прин­ципу распределённого времени, и по собственному опыту знал, что роль компьютеров будет расши­ряться куда дальше, чем автоматизация процессов на производстве и в государственном управлении.

Компьютеры со временем должны были превратиться в посредников практически во всех разновидностях человеческой деятельности: в обучении, мышлении и общении между собой. Вейценбаум предупреждал, что вся исто­рия интеллектуальных технологий свидетельствует: «Внедрение компьюте­ров в некоторые особенно сложные виды человеческой деятельности может означать, что мы берём на себя необратимые обязательства». Наша интеллек­туальная и социальная жизнь может, подобно производственным процессам, меняться и приобретать новую форму, навязанную нам компьютерами.

Вейценбаум верил, что людьми нас делает именно то, что не поддаётся вычислениям: связи между нашими мыслями и нашим телом, опыт, который придаёт форму нашей памяти и мышлению, наша способность испытывать эмоции и сострадание. Наше более интимное общение с компьютером несёт в себе огромную угрозу. Чем большую часть жизни мы посвящаем изуче­нию бестелесных символов на наших экранах, тем сильнее теряем свою человечность и жертвуем именно теми качествами, которые отличают нас от машин.

По мнению Вейценбаума, единственный способ избежать этой судьбы состоит в том, чтобы с достаточным осознанием и смелостью отказаться от передачи компьютеру наиболее человеческих из наших видов умствен­ной и интеллектуальной деятельности, в особенности «задач, требующих мудрости».