Мартин Форд - Архитекторы интеллекта. Вся правда об искусственном интеллекте от его создателей

М. Ф.: Когда появится робот, который может не только перемещаться и пылесосить полы?

Р. Б.: Если бы я это знал! И никто не знает. Публику пугают роботами, захватывающими мир, а мы даже не можем ответить на вопрос, когда они научатся приносить пиво.

М. Ф.: Я недавно читал статью, в которой исполнительный директор компании Boeing Деннис Мюленбург говорит, что в следующем десятилетии людей будут перевозить автономные такси-дроны.

Р. Б.: С таким же успехом можно сказать, что у нас будут летающие машины. Бывший генеральный директор компании Uber Трэвис Каланик объявлял, что к 2020 г. у них появятся летающие такси. Но ничего подобного явно не произойдет. Это не значит, что автономный личный транспорт невозможен в принципе. У нас уже есть вертолеты и другие машины, которые могут надежно перемещаться с места на место без пилота. Их выход на массовый рынок зависит от экономики.

М. Ф.: Достижим ли сильный ИИ? И когда, по вашим оценкам, мы приблизимся к его созданию?

Р. Б.: Я считаю сильный ИИ возможным. И по моим оценкам, это будет 2200 г., но я могу ошибаться.

М. Ф.: Какие препятствия нужно для этого преодолеть?

Р. Б.: Я уже упоминал о недостатке ловкости. Для понимания мира важна способность ориентироваться в нем и манипулировать объектами, при этом физическим контекстом дело не ограничивается. Например, ни один робот или ИИ-система не знает, чем, кроме цифры в календаре, сегодняшний день отличается от вчерашнего. У них нет воспоминаний о личном опыте, нет понимания долгосрочных целей и постепенного продвижения к ним. Любая современная программа ИИ напоминает слабоумного гения, живущего исключительно настоящим. А раз сильный ИИ эквивалентен человеку, он должен полностью осознавать эти вещи.

В 1980-х гг. целое сообщество занималось моделированием адаптивного поведения. Я тоже принимал в этом участие. Особого прогресса с тех пор нет, мы даже не можем указать, в какую сторону следует двигаться. Сейчас над этим никто не работает, хотя есть люди, утверждающие, что они продвигают сильный ИИ. Мы думаем, что мы особенные и живем в золотые времена. Но так думали и многие до нас.

М. Ф.: Существуют опасения, что Китай обгонит нас в сфере ИИ благодаря более многочисленному населению и, как следствие, большему количеству данных, а также отсутствию строгих правил, касающихся конфиденциальности. Как вы думаете, вступаем ли мы в новую гонку вооружений?

Р. Б.: Соревнование в этой сфере неизбежно. Оно было между компаниями и будет между странами.

М. Ф.: Опасно ли для стран Запада, если лидером в этой сфере окажется такая страна, как Китай?

Р. Б.: Я не думаю, что все так просто. Мы увидим неравномерное использование ИИ-технологий. Например, в Китае уже сейчас лица распознаются способом, неприемлемым в США. Что касается процессоров AI chip, здесь отставание непозволительно. Но для поддержания темпа нужны ресурсы.

Между тем политики говорят, что нам нужно больше работников угольной промышленности. Научные же бюджеты сокращаются, меньше финансируются даже такие места, как Национальный институт стандартов и технологий. Эти отсталые взгляды приносят вред.

М. Ф.: Но ведь ИИ и робототехника несут в себе не только благо. Многие считают, что мы на пороге новой промышленной революции. Как вы оцениваете влияние новых технологий на рынок труда и экономику?

Р. Б.: Влияет не сам ИИ, а то, как его используют. Влияет оцифровка мира и создание новых решений. Например, в США на большей части платных дорог и мостов оплата принимается автоматически, а раньше это делали люди. На лобовое стекло теперь ставится метка с цифровой подписью автомобиля, а ИИ-система с глубоким обучением позволяет надежно ее прочитать. Это достижение в сфере компьютерного зрения позволило избавиться от сборщиков платы за проезд. Причем при оплате можно обойтись даже без физического предоставления кредитной карты, и не требуются автомобили, чтобы доставлять деньги в банк, когда есть цифровая логистическая цепь.

Как видите, для автоматизации работы сборщика оплаты за проезд потребовался целый набор цифровых компонентов. ИИ всего лишь один из них. И замена человека на ИИ-систему произошла не за одну ночь. Это постепенный процесс, который медленно модифицирует рынки труда.

М. Ф.: Цифровые сети закроют много вакансий, не требующих высокой квалификации?

Р. Б.: Есть ряд недооцененных вещей, необходимых для поддержания нашего общества, таких как помощь пожилым людям и инвалидам. Школьные учителя лишены признания и достойной заработной платы. И я не знаю, как сделать эту работу экономически выгодной. Раз часть рабочих мест исчезнет из-за автоматизации, как мы можем распознать и оценить по достоинству рабочие места, которым такая опасность не угрожает?

М. Ф.: То есть вы считаете, что массовая безработица нам не опасна. Но мне кажется, что исчезнет много престижных рабочих мест. Офисный сотрудник с высшим образованием окажется не у дел, в то время как горничная в отеле продолжит спокойно работать.

Р. Б.: Может быть и такое. Но причина будет не в ИИ, а в массовом переходе к цифровым решениям.

М. Ф.: Но ведь именно на этой платформе будет развернут ИИ, что приведет к ускорению процесса.

Р. Б.: Да, при наличии подходящей платформы развернуть ИИ проще. Но эта платформа базируется на компонентах, которые могут быть взломаны кем угодно.

М. Ф.: Раз речь зашла о безопасности, о чем еще имеет смысл беспокоиться?

Р. Б.: Основной вопрос связан именно с безопасностью. Меня волнует отказ от безопасности и конфиденциальности цифровых цепочек, который мы добровольно совершили в обмен на простоту использования технологий. Мы уже видели применение социальных сетей в качестве оружия. Вероятнее всего, мы увидим агрессию не от ИИ, а от людей, использующих его.

М. Ф.: А что вы думаете по поводу вооружения роботов и дронов? Стюарт Рассел снял об этом довольно страшный фильм «Роботы-убийцы».

Р. Б.: Сегодня такие вещи вполне возможны, ИИ для них не нужен. Фильм был импульсивной попыткой сказать, что роботы и война – плохая комбинация. Я считаю немного по-другому. Робот может дожидаться, пока в него выстрелят, и стрелять только в ответ. Парень 19 лет в чужой стране в темное время суток, когда вокруг полно вооруженных людей, такой роскоши себе позволить не может.

Говорят, что проблему можно решить, запретив применение ИИ в армии. На самом деле нужно понять, чего мы не хотим, определиться с проблемой, которая не связана с ИИ. Скажем, наш следующий полет на Луну будет зависеть от ИИ и машинного обучения, но в 1960-х гг. мы справились и без этого.