Мартин Форд - Архитекторы интеллекта. Вся правда об искусственном интеллекте от его создателей

М. Ф.: Как продвигаются разработки сильного ИИ? И можно ли его создать?

С. Б.: Моделирование человеческого интеллекта – один из способов понять его. Я всегда считала, что машины, которые ведут себя как люди, так же принимают решения и так же воспринимают мир, сделают нашу жизнь лучше. Но должны ли эти роботы быть именно людьми? Я так не думаю. Людей и так много. Поэтому нужно нечто, позволяющее расширять наши возможности. Машины, которые всю работу возьмут на себя, не нужны, потому что люди перестанут развиваться. Необходимость оставить пространство для развития накладывает довольно серьезные ограничения на характер отношений человека с машиной.

М. Ф.: Какие технологические прорывы необходимы для приближения к сильному ИИ?

С. Б.: Мы уже научились создавать ИИ специального назначения, который можно обучить настолько, что в узкой предметной области он намного превзойдет человека по эффективности. Но для универсального ИИ требуются принципиально другие виды интеллекта. Мы пока не знаем, как построить машину, которая может развиваться, как ребенок, и все время умнеть.

Ряд прорывов был совершен благодаря глубокому обучению. Но здесь речь идет только об обучении с учителем, в то время как люди учатся разными способами. Мы проектируем машины, обладающие знаниями и информацией в рамках отдельных предметных областей, но понятия не имеем, как заставить их рассуждать на основе здравого смысла, обладать глубоким эмоциональным интеллектом. Список можно продолжить. Предстоит еще много исследований для понимания нашего собственного разума.

М. Ф.: Какие потенциальные опасности несет ИИ?

С. Б.: Основная опасность в данном случае исходит от людей. Меня не так пугает гипотетическое порабощение человечества сверхинтеллектом, как люди, которые могут злоупотреблять новыми технологиями. Нужно думать о вопросах конфиденциальности и безопасности, потому что это связано с нашей свободой. Непонятно, как быть в ситуации, когда массово генерируются фальшивые новости. Опасность представляет и автономное оружие, и усиление неравенства. Нужно начать работу над демократизацией ИИ, чтобы в будущем эта технология могла принести пользу всем, а не только избранным.

М. Ф.: Стоит ли нам беспокоиться о проблеме выравнивания, или контроля, суперинтеллекта?

С. Б.: Тут первым делом нужно определить, что мы считаем суперинтеллектом. И почему мы считаем, что у него могут быть такие же, как у нас, мотивации и побуждения? Многие связанные с ИИ страхи обусловлены тем багажом, который эволюционно появился в процессе наших попыток выжить в сложном враждебном мире. Откуда взялась идея, что суперинтеллект будет обременен теми же вещами? Это же не человек.

Сама идея о том, что огромное количество талантливых людей будет тратить ресурсы на создание чего-то подобного, абсурдна.

М. Ф.: Но, к примеру, Демис Хассабис из DeepMind крайне заинтересован в создании сильного ИИ. Более того, это официальная цель его компании.

С. Б.: Отдельные люди могут быть заинтересованы в его создании, но откуда взять ресурсы, время и талант в массовом масштабе? Я не понимаю, какие движущие силы в настоящее время могут обеспечить необходимые инвестиции. И не вижу мотивации, которая заставит организации финансировать разработки суперинтеллекта.

М. Ф.: Одним из факторов может быть гонка вооружений.

С. Б.: Соревнование в сфере технологий между разными странами было всегда. Но национальная безопасность не требует сильного ИИ, там вполне можно обойтись более гибким и при этом более специализированным ИИ.

Так что я настаиваю на том, что сейчас гораздо больше причин и мотивации работать над узкими ИИ-приложениями. Конечно, в академических кругах существуют разные исследовательские интересы, и работа над сильным ИИ будет продолжаться. Но практического смысла в нем я пока не вижу.

М. Ф.: Как происходящее повлияет на рынок труда? Ждет ли нас новая промышленная революция и массовая безработица?

С. Б.: Разумеется, такой мощный инструмент, как ИИ, может ускорить технологические изменения. Но пока немногие организации имеют опыт и ресурсы для его развертывания. К сожалению, сейчас нарастает социально-экономический разрыв. И большой вопрос, для чего будет применяться ИИ – для устранения этого разрыва или усугубления. Если только небольшой процент людей знает, как разработать ИИ и как его использовать, получается, что остальные не смогут по-настоящему извлечь выгоду из этой технологии.

Одним из решений этой проблемы является образование. Я прилагаю значительные усилия, внедряя уроки ИИ в школах. Современным детям в будущем предстоит взаимодействовать с интеллектуальными машинами, поэтому крайне важно, чтобы эти машины не воспринимались ими как «черный ящик». В отрасли уже сейчас наблюдается нехватка высококвалифицированных специалистов. Кроме того, люди боятся вещей, которых не понимают. А страх дает возможность для манипуляций.

М. Ф.: Большинство людей не имеет высшего образования, причем ИИ повлияет на них. Должны ли политики вмешаться и урегулировать проблему переподготовки?

С. Б.: Да, сейчас много говорят, например, о том, как повлияют на рынок труда автономные транспортные средства. Фактически человек, рабочее место которого исчезло или видоизменилось, должен пройти переобучение, чтобы остаться конкурентоспособным. В этом нам может помочь ИИ. Если сделать доступ к приобретению новых навыков и знаний более масштабируемым и гибким, больше людей смогут адаптироваться к меняющимся условиям.

М. Ф.: Нужно ли регулировать сферу ИИ?

С. Б.: В той области исследований, которой занимаюсь я, об этом еще рано говорить. Нужно лучше понять, что такое социальные роботы, прежде чем вырабатывать для них какие-либо правила. Но диалог, который ведется сейчас вокруг ИИ, очень важен, потому что мы начинаем задумываться о последствиях внедрения новых технологий. Я думаю, что начать следует с вещей, которые оказывают особенно сильное влияние на общество, а затем, уже на основе этого опыта думать о дальнейшем регулировании. Очевидно, что нужно искать баланс между сохранением человеческих ценностей и гражданских прав и поддержкой инноваций. Остается определить конкретные детали того пути, который позволит достичь обеих целей.

“Если бы мы смогли создать оборудование с интеллектом хотя бы на уровне полуторагодовалого ребенка, это стало бы огромным технологическим прорывом".

Профессор вычислительной когнитивистики в MIT, Научный сотрудник Общества экспериментальных психологов и Общества когнитивных наук