Мартин Форд - Архитекторы интеллекта. Вся правда об искусственном интеллекте от его создателей

Кроме того, превосходство в области интеллекта не означает превосходства во всем. Вирусы при всей своей глупости убивают людей. Если мы сможем создать систему ИИ, то, вероятно, сможем создать и более специализированный ИИ, предназначенный для уничтожения первого. И он будет крайне эффективно справляться с задачей, так как специализированные машины эффективнее универсальных. Я уверен, что в каждую проблему уже встроено решение.

М. Ф.: Тогда о чем имеет смысл беспокоиться в ближайшие десятилетия?

Я. Л.: Прежде всего о проблемах в экономике. Все они решаемы, но нужно преодолеть политические препятствия, особенно в таких странах, как США, где не принимается идея о перераспределении доходов. Еще есть проблема с распространением технологии. Желательно, чтобы она приносила пользу всему миру, а не только развитым странам. Я думаю, что ускорение технического прогресса и появление ИИ заставят правительства больше вкладывать в образование, особенно в непрерывное образование, потому что людям придется искать новые рабочие места. Иначе нас ждет дестабилизация. Предвзятость, которая попадает в машину на уровне данных, в случае обучения с учителем может усугубиться.

М. Ф.: Я надеюсь, что предвзятость в алгоритме исправить проще, чем в человеке.

Я. Л.: Именно поэтому я смотрю на ситуацию с оптимизмом. Бороться с предвзятостью машин действительно проще. У людей необъективность и пристрастность иногда принимают твердую форму.

М. Ф.: Беспокоит ли вас применение ИИ военными, например создание автономного оружия?

Я. Л.: И да, и нет. Разумеется, технологию ИИ можно использовать для создания оружия, но, к примеру, я совершенно не согласен со Стюартом Расселом, который считает, что это непременно будет оружие массового уничтожения. Я думаю, что все будет с точностью до наоборот. ИИ начнут применять для так называемых хирургических действий. Зачем разрушать бомбой целое здание, если можно послать беспилотник, который просто усыпит человека, которого нужно захватить?

М. Ф.: Беспокоит ли вас то, что ИИ может первым создать Китай? В этой стране больше данных при меньших ограничениях на конфиденциальность. Дает ли им это преимущество?

Я. Л.: Не думаю. Современный прогресс в науке обусловлен не широкой доступностью данных. Сколько бы человек ни проживало в Китае, доля тех, кто связан с технологиями и занимается исследованиями, относительно мала.

Разумеется, их количество будет расти. Китай делает успехи в этом направлении. Но мне кажется, что принятые там стиль управления и тип образования могут через некоторое время задушить творческие порывы. Но в Китае есть и хорошие специалисты, которые могут внести вклад в развитие ИИ.

В 1980-х гг. Запад точно так же испытывал страх перед быстро распространяющимися японскими технологиями. Но в какой-то момент все стабилизировалось. Потом мы боялись корейцев, теперь вот китайцев. В течение следующих десятилетий в китайском обществе могут произойти большие перемены, что может полностью изменить ситуацию.

М. Ф.: Нуждается ли ИИ в регулировании со стороны государства?

Я. Л.: Я не думаю, что государство должно вмешиваться в исследования и процесс разработки ИИ, а вот конкретные варианты применения этой технологии, безусловно, потребуют регулирования. Но это требование связано не с ИИ, а с областью применения приложений. Представьте, что ИИ применяется для разработки лекарств. Процесс тестирования, выпуска и применения препаратов, содержащих наркотические вещества, уже регулируется. Когда на дорогах появятся беспилотные автомобили, они будут подчиняться ПДД. Разумеется, могут появиться и сферы, в которых все настолько изменится благодаря ИИ, что придется дорабатывать существующие правила. Но пока никакого регулирования в связи с ИИ не требуется.

М. Ф.: То есть вы не согласны с риторикой Илона Маска?

Я. Л.: Совершенно не согласен. Я несколько раз общался с ним, и не знаю, откуда взялись его взгляды. Маск умный парень, мне очень нравятся некоторые его проекты, но я не понимаю его мотивации. Он хочет спасти человечество, возможно, поэтому ему нужна еще одна экзистенциальная угроза. Он искренне обеспокоен, но пока никто из нас не смог его убедить, что сценарии в стиле Ника Бострома человечеству не грозят.

М. Ф.: Получается, вы оптимист? И верите в то, что ИИ принесет больше пользы, чем проблем?

Я. Л.: Именно так.

М. Ф.: Как, по вашему мнению, можно этому способствовать?

Я. Л.: Я надеюсь, мы придумаем способ обучать машины, как маленьких детей и животных. И собираюсь этим заниматься следующие несколько лет. Еще я надеюсь, что серьезный прорыв произойдет до того, как люди, финансирующие эти исследования, устанут, как это случалось раньше.

М. Ф.: Вы предупреждали, что слишком сильная шумиха может привести к очередной «зиме ИИ». Вы действительно считаете, что это возможно? Глубокое обучение уже встроено в бизнес-модели таких корпораций, как Google, Facebook, Amazon, Tencent. Трудно представить, что инвестиции в технологию прекратятся.

Я. Л.: Я не думаю, что нам грозит еще одна «зима ИИ» в том виде, как это было раньше. Именно потому, что появились приложения, которые приносят реальную прибыль.

Но огромное количество инвестиций делается в надежде, например, на появление беспилотных автомобилей в ближайшие пять лет или на революцию в медицинской визуализации. Думаю, очень скоро это заметно повлияет на медицину и здравоохранение, транспорт и доступ к информации.

Другой случай – виртуальные помощники. Сейчас они пишутся вручную, поэтому толку от них немного. Вы видели фильм «Она»? Среди всех научно-фантастических фильмов об ИИ это, наверное, один из наименее смешных. Там хорошо показано, что может произойти, если у каждого будет личный помощник, обладающий интеллектом человека.

С моей точки зрения, благодаря развитию аппаратного обеспечения доступ к связанным с ИИ технологиям получат многие. Поэтому усилия следует направить на разработку дешевого оборудования, которое потребляет мало энергии и может поместиться в смартфоне или в пылесосе, способном запустить сверточную сеть от мощности в 100 мВт. Если нужный чип можно будет купить за 3 доллара, в мире многое изменится.

Прогресс в данной области может оказать влияние и на экологию, обеспечив возможность мониторинга дикой природы. Благодаря развитию аппаратных технологий, предназначенных для глубокого обучения, в ближайшие два или три года ИИ станет доступен всем вокруг.

“Посмотрите на специалистов в сфере ИИ – команды в компаниях, профессоров в академических кругах, аспирантов или докладчиков на ведущих конференциях: среди них очень мало женщин и представителей меньшинств".