Мартин Форд - Архитекторы интеллекта. Вся правда об искусственном интеллекте от его создателей

М. Ф.: Может, начинать нужно с автомобилей, которые ездят по заранее определенному маршруту?

Г. М.: Есть вероятность, что подобное скоро появится в городе Феникс. Осталось разработать маршруты без поворотов налево, чтобы как можно меньше приходилось пересекаться с людьми. По такому принципу уже работают монорельсовые дороги в аэропортах.

На беспилотный автомобиль влияет все – мокрый снег, слякоть, град, листопад, вещи, которые могут упасть с проезжающего мимо грузовика. Чем дальше мы продвигаемся в сторону системы, свободно взаимодействующей с окружающим миром, тем больше проявляется сложностей. У нас уже есть системы, которые приближаются к сильному ИИ по своей открытости. Именно поэтому мой прогноз в обоих случаях оказался практически одинаковым.

М. Ф.: Вы согласны с тем, что мы находимся на пороге новой промышленной революции, которая полностью изменит рынок труда?

Г. М.: Это действительно произойдет, хотя и медленнее, чем думают многие. Например, внедрение беспилотных автомобилей оказалось более сложным делом, чем предполагалось, поэтому водителям пока волноваться не о чем, а вот многочисленные сотрудники ресторанов быстрого питания и кассиры скоро могут остаться без работы. Рано или поздно фундаментальные изменения неизбежно произойдут.

Проблемы из-за автоматизации начнутся к 2030 г. или, в лучшем случае, к 2070 г. Придется менять структуру общества, потому что в какой-то момент доступных рабочих мест станет меньше, чем трудоспособного населения.

Некоторые говорят, что после исчезновения большинства рабочих мест в сельскохозяйственном секторе появились новые рабочие места в промышленности, но мне этот аргумент кажется неубедительным. На получение первого работающего алгоритма для беспилотного автомобиля может потребоваться лет 50 работы и миллиарды долларов, но как только такие алгоритмы появятся, миллионы водителей потеряют работу в течение нескольких лет.

Новые профессии, конечно, появляются, но там не требуется большое количество людей. Например, предприниматель на YouTube может зарабатывать миллионы долларов, снимая видео. Но я сомневаюсь, что в этой нише смогут найти место потерявшие работу водители. В эпоху, когда небольшая группа может создать такой проект, как Instagram, трудно представить новую отрасль, которая предоставит миллионы рабочих мест.

М. Ф.: Примерно половина трудоустроенных людей сейчас занимается рутинной предсказуемой деятельностью, которая рано или поздно подвергнется автоматизации.

Г. М.: На самом деле все не так просто, как кажется на первый взгляд. В отличие от людей, ИИ-системы не понимают данных, представленных на естественном языке. Например, машина не может самостоятельно извлекать информацию из медицинских карт. Это рутинная и совсем несложная задача, но до ее автоматизации пока далеко.

М. Ф.: Можно ли решить проблему безработицы введением универсального базового дохода?

Г. М.: Реальной альтернативы универсальному базовому доходу я не вижу. И он неминуемо будет введен. Вопрос в том, удастся ли мирно договориться или начнутся массовые беспорядки.

М. Ф.: В США сейчас наблюдается настоящая эпидемия наркомании, которая вполне может быть связана с потерей работы из-за автоматизации на предприятиях и отчаянием, которое испытывают люди.

Г. М.: Возможно, это правда, но я не вижу однозначной связи между потерей работы и наркоманией. Более того, для многих наркотиком становятся смартфоны. Допускаю, что в итоге мы окажемся в мире, состоящем из виртуальной реальности и пособий.

М. Ф.: Но ИИ несет в себе и другие опасности. Например, Илон Маск активно говорил об экзистенциальных угрозах. Как вы думаете, у нас есть повод для беспокойства?

Г. М.: Беспокоиться следует о том, что люди могут использовать ИИ во зло. Именно в этом заключается реальная проблема, ведь ИИ все сильнее встраивается в нашу жизнь и становится все более уязвимым для хакерских атак. Нет повода переживать из-за того, что системы ИИ захотят съесть нас или превратить весь мир в скрепки. Я не утверждаю, что это невозможно, но реальных доказательств того, что подобное может случиться, нет. Зато очевидно, что машины становятся все более мощными, а мы пока толком не умеем решать вопросы информационной безопасности.

М. Ф.: А что вы думаете о проблеме выравнивания и рекурсивном цикле самосовершенствования?

Г. М.: Не скажу, что вероятность такого сценария равна нулю, но вряд ли подобное произойдет в ближайшее время. Недавно в сеть выложили видео о роботах, открывающих дверные ручки. Там рассказывается, на какой стадии находятся все эти разработки.

Систем ИИ, умеющих надежно ориентироваться в нашем мире, пока не существует. Нет и роботизированных систем, которые умеют себя улучшать. Так что проблема выравнивания не актуальна. Разумеется, имеет смысл инвестировать немного денег, чтобы кто-то искал решение на подобный случай. И заниматься насущными проблемами, такими как генерация и целенаправленная реклама недостоверной информации.

М. Ф.: Нужно ли следить за тем, чтобы цели интеллектуальной системы совпадали с нашими?

Г. М.: Разумеется, нужно. Но даже когда сильный ИИ будет создан, кто сказал, что у него будет желание вмешиваться в человеческие дела? Около 60 лет назад ИИ не мог выиграть партию в шашки, а в прошлом году решил куда более сложную задачу – выиграл в го. Можно сказать, что за 60 лет отвечающий за игры IQ вырос с 0 до 60. Если попытаться таким же способом оценить, насколько изменилась злобность машин, мы увидим, что никакой корреляции тут нет.

М. Ф.: Получается, что до появления сильного ИИ не может быть и речи о недовольстве машин.

Г. М.: Получается, что так. Отчасти это связано с системами мотивации. Например, у людей существует генетическая предрасположенность к совершению насильственных действий. Я сейчас о том, что мужчины склонны к насилию больше женщин.

М. Ф.: Получается, сильный ИИ должен быть женщиной?

Г. М.: Нужно просто сделать ИИ не склонным к насилию. Необходимы ограничения и правила, уменьшающие вероятность агрессивного поведения ИИ, направленного на человека. Это трудные и важные вопросы, куда менее очевидные, чем высказывания Маска, но они могут заставить многих людей задуматься.

М. Ф.: Но при этом Маск инвестирует в компанию OpenAI, что совсем неплохо. Эту работу все равно должен кто-то делать. Государственные инвестиции в вопросы будущего контроля ИИ было бы сложно понять, но почему бы этим не заниматься частным организациям?