Шерри Тёркл - Живым голосом. Зачем в цифровую эру говорить и слушать

Если Тара может “быть собой” только в общении с роботом, возможно, она будет взрослеть в уверенности, что только предмет способен воспринять ее правду. То, чем занимается Тара, – вовсе не “тренировка”, чтобы научиться устанавливать связь с людьми. Для этого Таре нужно запомнить: вы можете завязать отношения с людьми, если доверяете им, совершаете какие-то ошибки и не боитесь откровенных разговоров. Разговоры девочки с неодушевленными объектами уводят ее в другом направлении: в мир, лишенный не только риска, но и заботы друг о друге.

Мы создаем машины, которые кажутся достаточно человекоподобными, чтобы втянуть нас в беседу, а потом обращаемся с ними, как будто они способны на те же поступки, что и люди. Это подробно разработанная стратегия исследовательской группы в МТИ, цель которой – создать автоматизированного психотерапевта путем “краудсорсинга” коллективного эмоционального интеллекта. Как это работает? Представьте себе, что молодой человек вводит в компьютерную программу короткое (от одного до трех предложений) описание стрессовой ситуации или болезненной эмоции. В ответ программа делит терапевтические задачи между “краудворкерами”. Единственное требование к этим краудворкерам – базовое знание английского языка.

По словам создателей программы, они разработали ее, потому что беседы с психотерапевтами – вещь прекрасная, но слишком уж дорогая, чтобы быть доступной всем нуждающимся. Но в каком смысле эта система предоставляет возможность беседы? Один краудворкер посылает быстрый “эмпатический” ответ. Другой сотрудник проверяет, не искажает ли молодой человек реальность в своем описании проблемы, а потом может попросить того переформулировать свой вопрос. Или заново оценить ситуацию. Эти ответы тоже короткие – не больше четырех предложений. То есть в системе есть люди, но разговаривать с ними вы не можете. Каждому сотруднику попросту дается отдельная деталь головоломки, которой он должен заняться. И действительно, создатели программы надеются, что когда-нибудь весь процесс – уже отлично налаженная машина – будет полностью автоматизирован, и к помощи людей можно будет не прибегать даже по отдельным вопросам.

Автоматизированный психотерапевт, разговоры Тары с Siri , а также психиатр, ожидающий, когда “более разумная” версия Siri придет ему на смену, – эти эпизоды многое говорят о нынешней ситуации в нашей культуре. Во всех этих случаях отсутствует понимание того, что в психотерапии беседа лечит, благодаря отношениям с терапевтом. У терапевта и пациента есть общее – то, что оба они люди. Все мы когда-то были детьми, маленькими и зависимыми. Все мы вырастаем, и нам приходится принимать решения насчет близости, генеративности, работы и смысла жизни. Мы переживаем утраты. Мы думаем о том, что смертны. Мы задаемся вопросом, какое наследие хотим оставить следующему поколению. Когда у нас возникают проблемы с этими вещами – а такого рода проблемы являются естественной частью жизни любого человека, – мы знаем, как обсудить их друг с другом. Но по мере того как усиливается наше стремление говорить об этом с машинами, мы готовимся к тому, что появятся искусственные психотерапевты, а дети будут делиться своими бедами с iPhone [324].

Когда я говорю о своих опасениях в связи с ростом популярности подобных бесед, в ответ я нередко слышу: “Если люди утверждают, что будут с радостью говорить с роботом; если им нужен друг, которого они никогда не разочаруют; если они не хотят чувствовать неловкость или уязвимость из-за того, что рассказывают свою историю человеку, – почему это вас беспокоит?” Но почему бы не поставить этот вопрос иначе: “А почему это не беспокоит всех нас?” Почему всех нас не беспокоит, что, когда мы стремимся к таким беседам, мы, в сущности, гонимся за фантазией? Почему нам не приходит в голову, что мы заслуживаем большего? И, действительно, разве мы не думаем, что заслуживаем большего?

Дело отчасти в том, что мы убеждаем себя: нам не нужно больше, мы довольны тем, что нам могут дать машины. А потом жизнь, где мы никогда не боимся осуждения, или неловкости, или уязвимости, уже кажется нам не такой уж плохой. Возможно, беседа с машиной дает нам определенный прогресс, и со временем мы освоим лучший способ существовать в этом мире? Может быть, эти “беседы” с машинами не просто лучше, чем что-то, а лучше, чем вообще все?

В передовице одного из номеров журнала Wired , озаглавленной “Лучше, чем люди”, с воодушевлением писали и о неизбежности, и о преимуществах того, что роботы со временем заменят людей во всех сферах жизни. Статья начиналась со следующего утверждения: каждый раз, когда роботы берут на себя какую-либо человеческую функцию, следующий вид деятельности, к которому приступают люди, оказывается в большей степени человеческим. Статью написал самопровозглашенный техно-утопист Кевин Келли, но его мысль перекликается с тем, что я десятилетиями слышала от других людей, обсуждавших эту тему. Это утверждение делится на две части. Во-первых, роботы делают нас человечнее, расширяя наши возможности в плане отношений, ведь теперь для нас возможны отношения с ними как с новым “видом” существ.

Во-вторых, о какой бы человеческой деятельности ни шла речь, если ее может выполнять робот, значит, это действие уже по определению не является специфически человеческим. Со временем в этот список вошли такие занятия как беседа, товарищество и уход [325]. Теперь мы заново определяем, какую деятельность можно считать человеческой, пользуясь следующим критерием: эту работу нельзя выполнить посредством технологий. Но, следуя формулировке Алана Тьюринга, беседа с компьютером – это “игра в имитацию”. Мы провозглашаем компьютеры умными, если они могут обмануть нас, убедив в том, что они люди. Но ведь это не значит, что они и вправду люди.

Я работаю в одной из крупнейших научных и инженерных организаций в мире. В течение длительного периода некоторые из моих наиболее блистательных коллег и студентов работали над проблемой роботов-собеседников и роботов-компаньонов [326]. Один из моих учеников использовал голос своей двухлетней дочери в качестве голоса My Real Baby, роботизированной куклы с настолько развитой способностью откликаться, что, как говорилось в рекламе, она может научить ребенка навыкам общения. Недавно другой студент разработал модель искусственного партнера по диалогу, с которым можно практиковаться в собеседованиях при приеме на работу.

В МТИ исследователи представляют себе улучшенные варианты коммуникабельных роботов как педагогов, помощников по дому, незаменимых друзей для одиноких людей – как молодых, так и пожилых. В особенности для пожилых [327]: в этом случае потребность в роботах воспринимается как самоочевидная. Как объясняют инженеры-робототехники, из-за демографической ситуации “на эту работу не найти людей”.