Боб Салливан - Эффект плато. Как преодолеть застой и двигаться дальше

Однако между уровнями 4 и 5 происходит нечто важное, на что мы бы хотели обратить внимание. Между внимательным сбором данных на уровне 4 и истинным сочувствием на уровне 5 случаются потрясающие вещи, и мы многому можем здесь научиться, если больше узнаем об одной интересной научной проблеме, насчитывающей уже почти 100 лет. Эта проблема была связана с тем, как заставить роботов слушать.

Алан Тьюринг – британский математик, который (как и многие другие гении начала 1940-х годов) работал над вопросами военной криптографии и взлома кодов {132}. Он помог дешифровать секретные сообщения, созданные печально известной немецкой шифровальной машиной «Энигма». Однако именно работа Тьюринга после войны помещает его на гору Рашмор [41]в области компьютерных наук. Он разработал концепцию комплексных алгоритмов – сложных формул, которые в наши дни контролируют результаты наших поисковых запросов в Google или рекомендации относительно книг, которые нам дает Amazon. Если же вернуться к обсуждаемой нами теме, то Тьюринг считается отцом искусственного интеллекта. Еще в 1948 году он был среди первых, кто начал размышлять о думающих компьютерах в работе под названием Intelligent Machinery («Умные машины)». Затем, в 1950 году, в работе Computing Machinery and Intelligence («Вычислительные машины и интеллект») Тьюринг предложил модель простого теста, которая увлекла, напугала и пленила почти всех ученых-компьютерщиков того времени. Нам этот тест известен под названием «тест Тьюринга».

Корни теста Тьюринга лежат в застольной игре под названием «Имитация». Два игрока уходят в соседнюю комнату и готовят ряд ответов на серию вопросов, пытаясь убедить остальных в том, что игрок A был игроком Б, и наоборот.

Тьюринг изменил правила. Что если одним из игроков будет компьютер? Возможно ли создать машину, способную одурачить людей и заставить их поверить в то, что она человек? Этот простой вопрос, на который часто отсутствует ответ, представляет собой невероятный гордиев узел почти для каждого, кому когда-либо доводилось заниматься компьютерным программированием.

Однако мы не прекращаем своих попыток. Почти каждый год с невероятной помпой проходит международный конкурс с участием программистов. Шаг за шагом они приближаются к тому, чтобы заставить судей конкурса поверить, что машина – это личность. И хотя эта игра была создана как один из побочных продуктов в усилиях по созданию искусственного интеллекта, ее развитие привело к возникновению еще более мощного побочного продукта – исследований вопроса, что значит быть человеком.

Писатель Брайан Кристиан принял участие в тесте Тьюринга в 2009 году. Тест проводился в рамках конкурса на приз Лебнера, в ходе которого честолюбивые программисты пытались убедить судей в том, что те общаются с людьми, а не с машинами. Однако Кристиан не пытался стать победителем теста – он хотел получить утешительный приз, который вручается участнику, убеждающему судей в том, что он самый «человеческий» из всех участников теста. Он запротоколировал происходившее с ним в книге под названием The Most Human Human («Самый человечный человек»). Подготовка к тесту потребовала от Кристиана глубоко изучить работы создателей искусственного интеллекта, понять, в чем состоят их слабости, и научиться проявлять наиболее человеческие черты своих навыков общения. После года подготовки и практики в его распоряжении был всего один час – серия пятиминутных индивидуальных чатов с судьями через сеть, – чтобы доказать, что он на самом деле не компьютер.

Глубокое погружение Кристиана в вопросы искусственного интеллекта позволило выявить десятки ключевых отличий. Прежде всего люди (как и их коммуникационные навыки) не застрахованы от ошибок. К примеру, они часто говорят «м-м-м» и «э-э-э» – порой без особой причины, порой для поддержания видимости общения во время размышлений. Компьютер неспособен имитировать такое несовершенство.

Компьютеры умело поддерживают простое общение типа «Ужасная сегодня погода, не так ли?», однако если вы придадите общению неформальные черты – «Серые облака моментально нагоняют на меня тоску, ведь я родом из Флориды», – то приведете машину в ступор. Компьютеры почти не умеют улавливать контекст разговора и склонны отвечать на каждый вопрос по очереди, не обращая внимания на прошлое. Они не представляют, насколько фраза «А что ты делал в пятницу вечером?» способна ранить человека, который три минуты назад рассказал вам о том, что его бросила подружка. Для иллюстрации этой ситуации Кристиан приводит прекрасный пример. Он описывает двух друзей за обедом, один из которых начинает разговор с фразы «А ты рассказал ей о своих чувствах?», а второй сразу понимает, о ком идет речь. Компьютеры, кроме того, совершенно не умеют делать то, что обычно делают хорошие друзья, – заканчивать начатую вами фразу.

Тем не менее самая главная мысль Кристиана заключается не в том, что компьютеры умеют все лучше и лучше имитировать человеческое общение. Проблема состоит в том, что сами люди становятся все менее и менее человечными и даже начинают имитировать компьютерную речь. Вернемся к пятиуровневой модели внимания Кови: человек, застрявший на уровне 4 (получение данных), вполне может задать бестактный вопрос относительно вечера пятницы своему внезапно ставшему одиноким другу. Люди, работающие в отделе обслуживания клиентов, получают свою зарплату за то, что постоянно живут на уровне 3 или даже ниже, одновременно общаясь с множеством людей и повторяя вариации одной и той же фразы «Нет, мы не можем сделать это для вас», вне зависимости от того, с какими именно запросами обращаются к ним разочарованные собеседники. Работники компаний заполняют отчетные формы, пытаясь свести все результаты своей работы за день к одной-единственной цифре. Спам-фильтры все чаще путают наши неформальные письма, адресованные друзьям, с рекламными рассылками, обещающими рост мужского достоинства.

«Оксфордский философ Джон Лукас говорит, что если тест Тьюринга и будет пройден, то не потому, что машины стали настолько умными, а потому, что люди (или, по крайней мере, многие из них) одеревенели», – сказал Кристиан в своем интервью 2011 года {133}.

В конце 1960-х годов многие писатели-фантасты рисовали картины порабощения человечества думающими машинами. Но то, что произошло в наши дни, не мог предсказать никто из них. Похоже, роботы одержали победу, не пошевелив для этого ни одним механическим пальцем. Мы сами добровольно вызвались быть роботами.

Что теряется, когда навыки слушания у людей становятся механическими? Психотерапевты, изучающие проблемы брака, очень много времени занимаются именно этой проблемой. Муж говорит: «Я тебя действительно слушал. Ты сказала, что тебе нужно помочь собрать детей утром». Однако расстроенная жена знает, что на самом деле он ее не слушает. Он даже не представляет, насколько сильно она хочет выбросить в окно его мобильный телефон, когда он в семь часов утра начинает деловые переговоры. Застряв на уровне 4, этот мужчина утратил способность улавливать чувства супруги и совершенно не представляет, насколько сильно напрягается из-за таких отношений между родителями их пятилетний сын. Ничего удивительного, что у него вызывает шок жалоба воспитательницы из детского сада на то, что ребенок постоянно бьет сверстников на игровой площадке.