Мартин Форд - Архитекторы интеллекта. Вся правда об искусственном интеллекте от его создателей

М. Ф.: Давайте поговорим о том, какие опасности несет ИИ. Считаете ли вы, что мы на пороге экономического спада с массовым исчезновением рабочих мест?

Я. Л.: Эти вопросы меня тоже интересуют, хотя я и не экономист. Экономисты называют ИИ технологией общего назначения (general-purpose technology, GPT). С их точки зрения эта технология затронет всю экономику, как электричество или паровой двигатель.

Меня беспокоит проблема безработицы. Технологии развиваются быстрее, чем у населения появляются навыки, необходимые в новой экономической модели. Но экономисты утверждают, что скорость распространения технологий фактически ограничена долей людей, которые не умеют ими пользоваться. Другими словами, имеет место саморегуляция: чем больше людей остается не у дел, тем медленнее распространяются технологии. Вспомните, как обстояли дела с компьютерными технологиями.

М. Ф.: Но можем ли мы опираться на исторические случаи, рассматривая машины, у которых будут когнитивные способности? Мне кажется, на этот раз человечеству грозит более серьезный кризис.

Я. Л.: Я не думаю, что появление ИИ приведет к массовой безработице. Конечно, сейчас экономический ландшафт сильно изменился. Сто лет назад большая часть населения работала на полях, а теперь этим занимается 2 %. Как сказал один экономист, «перед нами всегда будут проблемы, которые нужно решать, а значит, работа не закончится». Грядущие ИИ-системы усилят человеческий интеллект так же, как механические машины увеличили физическую силу.

М. Ф.: Думаю, для водителей или работников фастфуда переход получится болезненным.

Я. Л.: Надо учитывать, что ценность товаров и услуг тоже поменяется. Все, произведенное машиной, станет дешевле, а сделанное людьми – дороже.

Например, проигрыватель Blu-Ray можно купить за 46 долларов. Если подумать о том, какая сложная технология лежит в его основе, цена кажется безумно низкой. Это «синие» лазеры, которых не было 20 лет назад. Невероятно точный сервомеханизм, обеспечивающий позиционирование лазера с точностью до микрона. Сжатие видео H.264 и сверхбыстрые процессоры. Но он стоит 46 долларов, потому что в основном производится машинами. Теперь зайдите в интернет и найдите керамическую салатницу ручной работы. Технологии производства керамики 10 тысяч лет, но по первым же ссылкам вы найдете товар, который стоит примерно 500 долларов.

Поездки на такси будут дешевыми, потому что машиной управляет ИИ-система, но повысятся цены на еду в ресторанах, где готовит повар, а обслуживают официанты.

М. Ф.: Но ведь далеко не все люди обладают востребованными навыками или талантами. Что вы думаете об идее универсального базового дохода?

Я. Л.: У меня нет определенного мнения по этому поводу, так как я не экономист, но все экономисты, с которыми я разговаривал, выступали против универсального базового дохода. Все они считали, что правительства должны принять меры для компенсации возрастающего в результате технического прогресса неравенства. Все должно упираться в фискальную политику, то есть налогообложение, перераспределение богатства и доходов.

Неравенство в доходах особенно заметно в США, в меньшей степени – в Западной Европе. Коэффициент Джини – статистический показатель степени расслоения общества – во Франции или Скандинавии составляет около 25 или 30. В США он равен 45, и это уровень стран третьего мира. Экономист из MIT Эрик Бринолфссон вместе со своим коллегой Эндрю Макафи написал пару книг о влиянии технологий на экономику. Они говорят, что средний доход американских домохозяйств не изменился с 1980-х гг., то есть со времен рейганомики и снижения налогов на высокие доходы. А вот производительность росла более или менее непрерывно. В Западной Европе ничего подобного не было. Так что все зависит от налоговой политики. Существуют простые меры, которыми правительства могут компенсировать дестабилизацию, просто в США этого не делается.

М. Ф.: Какие еще опасности может принести ИИ?

Я. Л.: Начну с того, что нет смысла бояться, что мы создадим интеллект человеческого уровня, а он вырвется из-под нашего контроля, и роботы захотят захватить мир. Желание захватить мир связано не с интеллектом, а с тестостероном. В американской политике много примеров, явно показывающих, что стремление к власти не связано с интеллектом.

М. Ф.: Но, например, с точки зрения Ника Бострома проблема в том, что ИИ может начать добиваться своей цели способом, который навредит людям.

Я. Л.: То есть мы достаточно умны, чтобы создавать машины с интеллектом, а потом зачем-то приказываем им создать бесконечное количество скрепок? С моей точки зрения это нереально.

М. Ф.: Я думаю, что Ник специально привел преувеличенно карикатурный пример. Такие сценарии кажутся надуманными, но, когда речь заходит о суперинтеллекте, нельзя исключать, что машина может начать действовать непостижимыми для людей способами.

Я. Л.: Такие сценарии предполагают, что каким-то образом мы заранее проектируем целевую функцию, то есть внутренние мотивы машин, и в случае ошибки они начнут делать сумасшедшие вещи. Люди устроены по-другому. Внутренние целевые функции в нас не встроены. Разумеется, есть инстинкты, заставляющие есть, дышать и размножаться, но многое в нашем поведении и системе ценностей появляется как следствие обучения. То же самое можно сделать с машинами. Сформировать их систему ценностей, научить вести себя в обществе и приносить пользу человечеству. Не проектированием, а обучением, что гораздо проще. Мы же учим этому детей. Что мешает так же поступить с роботами или системами ИИ?

Мне эти вопросы кажутся преждевременными. Грубо говоря, у нас еще не изобретен двигатель внутреннего сгорания, а мы уже беспокоимся, что не сможем изобрести тормоз и ремень безопасности. При этом изобрести двигатель куда сложнее.

М. Ф.: Что вы думаете о сценарии с рекурсивными улучшениями, в результате которых ИИ многократно превзойдет людей?

Я. Л.: Я в него не верю. Очевидно, что непрерывное улучшение неизбежно. Но чем выше будет интеллект машин, тем больше они начнут помогать в проектировании следующего поколения.

Существует дифференциальное уравнение, описывающее развитие технологий, экономику, потребление ресурсов, коммуникации, сложность технологий и т. п. Оно содержит целый ряд замедляющих коэффициентов, которые почему-то игнорируются сторонниками сценария быстрого взлета. Любой физический процесс в какой-то момент должен перейти в стадию насыщения, например по причине истощения ресурсов. Не будет такого, что кто-то раскроет секрет сильного ИИ и мы начнем переходить от машин с интеллектом крысы к машинам с интеллектом орангутана, через неделю они станут умнее нас, а месяц спустя – намного умнее.