Шерри Тёркл - Живым голосом. Зачем в цифровую эру говорить и слушать

Машины, наделенные голосами [319], обладают особой силой внушать нам, что они нас понимают. Впервые дети знакомятся с матерями, привыкая узнавать их голоса, причем происходит это еще в утробе. Во время нашей эволюции единственной речью, которую мы слышали, была речь других людей. Теперь, по мере развития сложной искусственной речи, мы оказались первыми людьми, чьей задачей стало отличать речь людей от речи машин [320]. С точки зрения неврологии, мы не обладаем качествами, необходимыми для такого рода деятельности. Поскольку прежде – скажем, в течение 200 000 лет – люди слышали только человеческие голоса, требуются серьезные умственные усилия, чтобы отличить речь человека от речи, генерируемой машинами. Для нашего мозга речь – это то, что делают люди.

Особой силой обладают также машины с человекоподобной внешностью.

У людей форма улыбки или гримасы высвобождает химические вещества, воздействующие на психологическое состояние. Наши зеркальные нейроны возбуждаются как при выполнении действий, так и при наблюдении за действиями других. Мы сами чувствуем эмоции, которые видим на лице другого человека. Выразительное лицо робота тоже может оказать на нас влияние. По мнению философа Эмманюэля Левинаса, присутствие лица влечет за собой действие этического договора между людьми. Лицо сообщает: “Не убивай меня”. Появление лица связывает нас обязательствами еще до того, как мы узнаем, что за ним стоит, – еще до того, как мы, возможно, узнаем, что это лицо машины, которую нельзя убивать. И, с точки зрения Левинаса, лицо робота, безусловно, говорит: “Не покидай меня”. Опять-таки, это этический и эмоциональный договор, связывающий нас обязательствами, но не имеющий смысла, если наши чувства обращены к машине [321].

Экспрессивное лицо машины – будь то лицо робота или программа на экране компьютера – помещает нас в ландшафт, где мы ищем признания и чувствуем, что можем его получить. По сути дела, нас побуждают искать эмпатию у объекта, неспособного ее дать.

Я работала в Лаборатории искусственного интеллекта в МТИ [322], когда люди впервые встретились с коммуникабельным, эмоциональным роботом Kismet . Не имело значения, что Kismet говорит на самом деле, но издаваемый им звук ассоциировался с теплом, любопытством или озабоченностью.

Иногда тем, кто навещал робота Kismet , казалось, что он их узнал и “услышал” их рассказ. Когда что-то срабатывало идеально с технической точки зрения, люди испытывали, как им представлялось, эмпатическую связь. Эта убедительная имитация понимания впечатляет и способна доставить немало удовольствия, если думать об этих встречах как о театре. Однако я видела, как дети по-настоящему пытались найти в Kismet друга. Я наблюдала, как дети надеются, что робот их узнает, и иногда чувствовали себя опустошенными, если им не предлагалось ничего, что могло бы дать им эмоциональную подпитку.

Двенадцатилетняя Эстель приходит к роботу Kismet в поисках беседы. Девочка одинока, ее родители разведены. Проводя время с роботом, она чувствует себя особенной: вот робот, готовый слушать только ее. На Эстель произвело большое впечатление, что у Kismet меняются выражения лица, но, к сожалению, в день ее посещения речевые способности робота не на высоте. В результате эта сессия крайне разочаровала Эстель. Вместе с нашей небольшой командой сопровождающих исследователей девочка возвращается в помещение, где мы беседуем с детьми до и после встречи с роботами. Эстель пьет сок, ест крекеры и печенье, принесенные нами специально, чтобы люди могли перекусить. Девочка ест и ест, не в силах остановиться, пока мы не просим ее оставить хоть немного еды для других детей. Она перестает поглощать еду, но ненадолго. Вскоре она уже снова торопливо ест, пока мы ждем машину, которая должна отвезти ее обратно на внеклассные занятия.

Эстель объясняет нам, почему она так расстроена: ей кажется, что она не понравилась роботу Kismet . Робот сначала заговорил с ней, а потом отвернулся. Мы объясняем, что дело вовсе не в ней. Тут проблема технического характера. Наши объяснения не убеждают Эстель. С ее точки зрения, она потерпела поражение в свой самый важный день. Уходя, Эстель берет четыре коробки печенья из подсобки и кладет их к себе в рюкзак. Мы ей не мешаем. Утомленные участники моей команды вновь собираются вместе в ближайшей кофейне, чтобы задать себе трудный вопрос: может ли сломанный робот причинить боль ребенку?

Мы бы так не беспокоились об этике, если бы речь шла о ребенке, играющем с дефектной версией Microsoft Word или с порванной куклой Тряпичная Энни. У текстового процессора вполне инструментальные задачи. Если в какой-то день он работает хуже, чем обычно, это может раздражать пользователя, но не более того. Но если программа побуждает вас к контакту, это уже совсем другая история.

Чем сломанный Kismet отличается от сломанной игрушки? Игрушка побуждает детей проецировать их собственные истории и собственную повестку на пассивный объект. Но дети воспринимают коммуникабельных роботов как “живых настолько”, чтобы обладать собственной повесткой. Дети привязываются к ним не посредством психологической проекции, а посредством психологии реляционной вовлеченности – то есть примерно так же, как они привязываются к людям.

Если маленькая девочка чувствует вину из-за того, что разбила мамин хрусталь, она может наказать за это целую вереницу кукол Барби – к примеру, поместить этих Барби под арест и таким образом разобраться со своими чувствами. Куклы становятся материалом, помогающим запустить механизм психологической проекции, чтобы ребенок мог проработать свои эмоции. Но коммуникабельный робот преподносит себя как нечто обладающее собственным разумом. Если такой робот отвернулся от ребенка, у последнего возникает впечатление, что робот отвернулся по собственной воле. Поэтому дети считают, что совершают достижение, завоевав сердце коммуникабельного робота, ведь так приятно понравиться тому, кто нравится вам. Опять-таки, дети взаимодействуют с коммуникабельными роботами не посредством психологической проекции, а посредством вовлеченности. Они реагируют так, словно перед ними другой человек, а значит, как и в случае с людьми, им могут причинить боль.

Эстель отреагировала на эту эмоционально напряженную ситуацию депрессией и поиском “комфортной пищи”. Другие дети, тоже разочарованные общением с Kismet, отреагировали агрессией. Шестилетний Эдвард не смог понять, что ему говорит Kismet , а потому начал совать предметы роботу в рот – металлическую булавку, карандаш, модель экскаватора – словом, все, что мальчик смог найти в лаборатории робототехники. Тем не менее на протяжении всего сеанса Эдвард был вовлечен в общение с Kismet . Он не хотел терять шанс завоевать симпатию робота.