Мартин Форд - Архитекторы интеллекта. Вся правда об искусственном интеллекте от его создателей

М. Ф.: Способность говорить не по сценарию напрямую связана с тестом Тьюринга. Я знаю, что вы внесли свой вклад в эту область. Как вы думаете, зачем Тьюринг придумал этот тест?

Б. Г.: Я напомню, что Тьюринг предложил свой тест в 1950 г., после появления новых вычислительных машин. Конечно, по сравнению с тем, что предлагают современные смартфоны, возможности этих систем были невелики, но уже тогда многие задавались вопросом, могут ли эти машины думать как человек. Если помните, Тьюринг приравнивал термины «интеллект» и «мышление». Он поставил интересный философский вопрос – могут ли машины демонстрировать определенный тип поведения? В то время психология базировалась на бихевиоризме, поэтому его тест представлял собой испытание эксплуатационных качеств, без учета того, что происходит внутри.

Тест Тьюринга нельзя считать хорошим тестом на интеллект. Честно говоря, я бы его, скорее всего, провалила. Не показывает он и того, в какую сторону нужно развивать ИИ. Тьюринг был удивительно умным человеком, и, мне кажется, он бы предложил другой вариант теста, если бы жил сейчас.

М. Ф.: Я знаю, что и вы предложили усовершенствование или даже замену тесту Тьюринга.

Б. Г.: Сейчас мы знаем, что развитие человеческого интеллекта, как и языковой потенциал, зависит от социального взаимодействия. Кроме того, во многих ситуациях люди предпочитают действовать совместно. Поэтому я предположила, что нужно стремиться создать систему, которая была бы хорошим партнером и работала бы в коллективе так хорошо, что люди бы даже не задумывались о ее природе. Дело ведь не в том, чтобы одурачить людей, заставив их думать, что ноутбук, робот или телефон – это такой же человек. Нужно сделать так, чтобы у людей не возникало вопроса «почему он поступил именно так?». А такой вопрос непременно возникает, когда совершается ошибка, не характерная для человека.

Поставленная таким образом цель имеет несколько преимуществ по сравнению с тестом Тьюринга: к ней можно двигаться постепенно, выбирая оптимальное направление, и получить взаимодополнение способностей человека и компьютера. Мой тест высоко оценили в Эдинбурге на мероприятии, посвященном 100-летию со дня рождения Тьюринга.

М. Ф.: Я всегда полагал, что как только мы действительно получим машинный интеллект, это попросту будет очевидно всем. Ведь в процессе общения мы каким-то образом без предварительных тестов понимаем, умный перед нами человек или не очень.

Б. Г.: Это хорошее замечание. Если вспомнить мой пример с двумя вопросами «где ближайшая больница?» и «где искать помощь в случае сердечного приступа?», то человек (не приезжий), который считается умным, даст ответ в обоих случаях. Мой вариант теста не ограничен во времени и изначально задумывался как пролонгированный. Впрочем, тест Тьюринга также не предполагал временных ограничений, но об этом часто забывают, в частности, на соревнованиях по ИИ.

М. Ф.: Это же абсурдно. Чтобы продемонстрировать интеллект, нужен неопределенно долгий период времени. Мне вспоминается премия Лебнера, которая ежегодно присуждается программам по результатам прохождения ими ограниченного определенным временем теста Тьюринга.

Б. Г.: Именно так. Кроме того, это объясняет одну вещь, с которой мы столкнулись, когда только начинали заниматься обработкой естественного языка. Оказалось, что в случае фиксированной задачи с фиксированным набором ответов на нее, которую нужно решить за фиксированное время, приемы, легко дающие нужный результат, предпочитаются настоящей интеллектуальной обработке данных. Фактически система проектируется таким образом, чтобы она могла пройти тест!

М. Ф.: Расскажите о второй области, в которой вы работали, – многоагентных системах.

Б. Г.: Интенциональную модель дискурса, о которой я упоминала ранее, мы с Кенди Сиднер сначала попытались построить на базе работы наших коллег, которые использовали для формализации теории речевых актов разработанные для роботов ИИ-модели планирования. Но в контексте диалога описанные техники давали неадекватные результаты. Мы поняли, что командную работу или совместную деятельность нельзя представлять как сумму индивидуальных планов.

В то время исследователи ИИ часто использовали примеры, в которых фигурировала сборка из игрушечных блоков. Я представила, как два ребенка строят башню, при этом у одного есть набор синих блоков, а у другого – красных. В случае суммы индивидуальных планов мы получим абсурдную ситуацию: у ребенка с синими блоками есть план, как расположить их в пространстве, который четко совпадает с тем, где по плану ребенка с красными блоками остаются пустые места.

Мы с Сиднер поняли, что для системы, состоящей из нескольких участников, нужен новый способ обдумывания планов и представления их в компьютерной системе. Именно с этого началась разработка многоагентных систем.

В 1980-х гг. в этой области в основном рассматривались ситуации с несколькими роботами или компьютерными агентами и ставились вопросы конкуренции и координации.

М. Ф.: Под компьютерным агентом вы понимаете программу, которая запускает и выполняет какое-то действие?

Б. Г.: В общем случае это система, способная действовать автономно. Первоначально большинство компьютерных агентов были роботами, но постепенно в исследованиях ИИ стали появляться и программные агенты. Сегодня они выполняют поиск, торгуются на аукционах и решают множество других задач.

Например, Джефф Розенхейм рассматривал ситуацию с роботами-курьерами, пытаясь понять, как скажется на эффективности их работы возможность обмена пакетами. Он задавался вопросом, будут ли роботы всегда говорить правду о стоящих перед ними задачах, ведь в некоторых случаях, солгав, можно добиться лучшего результата.

Сейчас в области многоагентных систем решаются задачи, связанные со стратегическим мышлением и командной работой. Приятно, что в последнее время многие начали рассматривать вопросы взаимодействия компьютерных агентов с людьми, а не только с другими компьютерными агентами.

М. Ф.: Я правильно понимаю, что именно эта работа привела к компьютерной модели сотрудничества?

Б. Г.: Да, первая компьютерная модель сотрудничества появилась как следствие работы с многоагентными системами.

Нужно было ответить на вопрос, что такое сотрудничество. Люди делят общую задачу на набор более мелких задач, которые делегируются разным участникам. Каждый обязуется выполнить свою часть, не забывая об общем деле.

Вместе с Сарит Краус мы формализовали все эти вещи в рамках компьютерной модели, что породило множество новых вопросов: как распределить задачи, что произойдет в нестандартной ситуации и какие обязательства перед командой имеет каждый участник.