Мартин Форд - Архитекторы интеллекта. Вся правда об искусственном интеллекте от его создателей

Р. К.: Я убеждена, что люди приносят куда больше проблем, чем ИИ. Всерьез бояться захвата власти роботами – значит признать бессилие людей. Нельзя забывать, что именно мы проектируем эти системы, знаем, как они функционируют, и можем их отключить. Поэтому я не разделяю подобных страхов. С ИИ-системами связаны более актуальные проблемы. Например, как избежать закрепления существующих предрассудков?

М. Ф.: Вы считаете предвзятость одной из наиболее актуальных проблем?

Р. К.: Да. Технология развивается очень быстро, но мы не до конца понимаем, чему именно мы учим нейронные сети. Я боюсь, что мы просто закрепляем в них все существующие в обществе предубеждения.

М. Ф.: Получается, что предвзятость закладывается на уровне данных.

Р. К.: Важны и сами данные, и то, как мы их применяем. Поэтому в Affectiva мы стараемся убедиться в том, что для обучения алгоритмов берутся данные, репрезентативные для всех этнических групп, сбалансированные с гендерной и возрастной точки зрения. Это непрекращающаяся работа, ведь для защиты от смещений всегда можно сделать больше.

М. Ф.: Бороться с необъективностью людей очень сложно, и, наверное, проще убирать ее проявления из алгоритмов, чтобы в будущем сами алгоритмы помогали уменьшить количество предвзятости и дискриминации в мире.

Р. К.: Именно так. Я даже могу привести отличный пример. Компания HireVue использует нашу технологию для процедуры найма. Кандидаты присылают видеоинтервью, и система сортирует их, применяя комбинацию наших алгоритмов и классификаторов обработки естественного языка. При этом учитываются не только ответы на вопросы, но и невербальные сигналы. Алгоритм не обращает внимания на половую и этническую принадлежность.

Результаты применения цифровой платформы для проведения собеседований в компании Unilever показали не только сокращение времени найма на 90 %, но и увеличение многообразия нанятых сотрудников на 16 %. Мне кажется, это очень впечатляющий результат.

М. Ф.: Нужно ли регулирование в сфере ИИ? Вы говорили, что у компании Affectiva очень высокие этические стандарты, но кто-то может разработать аналогичные технологии и продать их, например, для тайного наблюдения за людьми.

Р. К.: Я большой сторонник регулирования. Компания Affectiva входит в консорциум Partnership on AI и в рабочую группу FATE (Fair, Accountable, Transparent, Equitable). Это аббревиатура означает: справедливый, подконтрольный, прозрачный и беспристрастный ИИ.

Задача этих групп заключается в разработке руководящих принципов для ИИ, соответствующих тем, которые разрабатывает Управление по санитарному надзору за качеством пищевых продуктов и медикаментов. Кроме того, Affectiva публикует лучшие практики и рекомендации для отрасли. Как лидеры, мы обязаны быть сторонниками регулирования и предпринимать активные действия, а не просто ждать появления нужного закона.

Мы принимаем участие во Всемирном экономическом форуме, в рамках которого работает совет по робототехнике и ИИ. Меня поразило, насколько по-разному в разных странах воспринимается эта сфера. Например, в Китае никого не заботят этические вопросы, что отражается на регулировании ИИ.

М. Ф.: Чтобы закончить на позитивной ноте, скажите, вы оптимист? Вы верите, что в итоге эти технологии принесут пользу человечеству?

Р. К.: Да, я могу назвать себя оптимисткой. Я считаю, что технологии нейтральны. Важно то, как ими воспользуются. Мне бы хотелось, чтобы вся отрасль следовала по стопам моей команды.

“Согласно моему сценарию, в кровеносную систему можно будет вводить медицинских нанороботов. <���…> А нанороботы в числе прочего проникнут к нам в мозг и позволят напрямую подключаться к виртуальной и дополненной реальности".

Технический директор компании GOOGLE, Соучредитель Университета Сингулярности

Рэймонд Курцвейл – один из ведущих мировых изобретателей, мыслителей и футурологов, обладатель 21 почетной докторской степени и почетных званий от трех президентов США.

Специальность инженера получил в MIT под руководством Марвина Минского. Изобрел первый сканер с ПЗС-матрицей, работал над развитием первой системы оптического распознавания символов, синтезатора, преобразующего текст в речь, первого музыкального синтезатора, способного воссоздавать звуки оркестровых инструментов, и первого коммерческого приложения для распознавания речи с большим словарным запасом.

Получил премию «Грэмми» за выдающиеся достижения в области музыкальных технологий, Национальную медаль США в области технологий, введен в Национальный зал славы изобретателей. Написал пять книг, ставших бестселлерами, в том числе «Сингулярность уже близка» (2005 г.) и How to create a mind: the secret of human thought revealed ( «Как создать разум», 2012 г.). Первый роман Курцвейла Danielle, Chronicles of a Superheroine («Даниэль. Хроники супергероини») вышел в начале 2019 г., а к концу года ожидается выход книги The Singularity is Nearer («Сигнулярность еще ближе»).

Известен утверждениями об экспоненциальном прогрессе в технологиях, которые сформулировал как закон ускоряющейся отдачи.

Мартин Форд: Как возник ваш интерес к ИИ?

Рэймонд Курцвейл: Я начал заниматься ИИ в 1962 г., всего через шесть лет после того, как Марвин Минский и Джон Маккарти придумали этот термин на Дартмутском семинаре в Ганновере, штат Нью-Гэмпшир.

К тому моменту появились два враждующих лагеря: сторонники символьной системы и коннекционисты. Доминировали первые, а их лидером считался Марвин Минский. Коннекционистов считали выскочками. Одним из них был Фрэнк Розенблатт из Корнеллского университета – создатель первой популяризованной нейронной сети, названной персептроном. Я написал им, и получил приглашения в гости. Сначала я навестил Минского, с которым мы провели целый день. Так начались наши отношения, которые продлились 55 лет. Мы обсуждали ИИ, который в то время рассматривался как нечто непонятное и не представляющее особого интереса.

Затем я встретился с Розенблаттом. Его персептрон представлял собой устройство с камерой. Я принес с собой распечатки писем, и устройство прекрасно распознавало весь текст, который был набран шрифтом Courier 10. Остальные шрифты не распознавались, но Розенблатт сказал: «Не волнуйтесь, я могу взять выход персептрона, передать его на вход второму персептрону, а полученный выход – на вход третьему слою, и постепенно сеть обучится, обобщит данные и даст результат». Я спросил, пробовал ли он это делать, и узнал, что пока таких экспериментов не проводилось, но они есть в программе исследований.