Стивен Хокинг - Краткие ответы на большие вопросы

В среднесрочной перспективе искусственный интеллект может автоматизировать различные области человеческой деятельности, обеспечив всем равенство и процветание. Заглядывая вперед, можно сказать, что их развитию нет предела. Не существует физических законов, препятствующих частицам организоваться в формы, которые осуществляли бы более совершенные расчеты, чем те, что происходят сейчас в человеческом мозгу. Возможен взрывной переход, хотя он может выглядеть не так, как в кино. Как показал в 1965 году математик Ирвинг Гуд, машины со сверхчеловеческим интеллектом могут неоднократно улучшать свою схему – практически бесконечно, или до момента, который писатель-фантаст Вернор Виндж назвал технологической сингулярностью. Можно представить такую технологию, которая будет прозорливее финансовых аналитиков, изобретательнее ученых, хитрее политических лидеров и, в принципе, подавит нас оружием, принцип действия которого мы даже не сумеем понять. Если в краткосрочной перспективе влияние искусственного интеллекта зависит от тех, кто его контролирует, то в долгосрочной будет зависеть от того, сможем ли мы контролировать его вообще.

Короче говоря, пришествие искусственного интеллекта может оказаться для человечества и наивысшим благом, и наивысшим злом. Риск, связанный с ним, – не в злом умысле, а в компетентности. Сверхразумный искусственный интеллект может оказаться исключительно хорош в достижении своих целей, но если эти цели не станут совпадать с нашими – у нас возникнут проблемы. Вероятно, вы не настолько ненавидите муравьев, чтобы давить их ногой при каждом удобном случае, но если вы руководитель проекта по строительству экологически чистой гидроэлектростанции, а в зоне затопления окажется муравейник – увы, тем хуже для муравьев. А теперь поставим человечество в положение этих муравьев. Мы должны смотреть вперед. Если высокоразвитая внеземная цивилизация пришлет нам сообщение «мы появимся в ближайшее время», сможете ли вы ответить «хорошо, дайте знать, мы оставим свет в гостиной»? Скорее всего, нет. Но именно так может произойти с искусственным интеллектом. Мало кто всерьез интересовался этой темой, за исключением очень немногих некоммерческих организаций.

К счастью, сейчас ситуация стала меняться. Такие интеллектуалы, как Билл Гейтс, Стив Возняк и Илон Маск, разделяют мои опасения. В сообществе, связанном с созданием искусственного интеллекта, начинает укореняться здравая культура оценки рисков и информирования о социальных последствиях. В январе 2015 года я с Илоном Маском и многими другими экспертами подписал открытое письмо, посвященное искусственному интеллекту, призывая к серьезному изучению его влияния на общество. Ранее Илон Маск предупреждал, что сверхчеловеческий искусственный интеллект может принести неисчислимые прибыли, но при неосторожном использовании окажет противоположное действие на человечество. Мы с ним – члены научно-экспертного совета института «Будущее жизни», организации, занимающейся предупреждением экзистенциальных рисков, грозящих человечеству, которая и инициировала это открытое письмо. В нем звучит призыв заняться конкретными исследованиями того, как мы можем предотвратить возникновение потенциальных проблем и одновременно воспользоваться всеми благами, которые сулит нам развитие искусственного интеллекта. Мы призываем всех специалистов и исследователей в области искусственного интеллекта уделять больше внимания вопросам безопасности. Цель письма – проинформировать, а не напугать широкую общественность и политиков. Мы считаем очень важным дать понять, что все, кто занимается искусственным интеллектом, должны серьезно отнестись к этим опасениям и этическим проблемам. Например, искусственный интеллект обладает потенциалом покончить с эпидемиями и нищетой, но специалисты должны думать о том, чтобы системы искусственного интеллекта оставались под контролем.

В октябре 2016 года я также открыл в Кембридже новый центр в попытке затронуть некоторые открытые вопросы, возникающие в связи с быстрым развитием технологий в области искусственного интеллекта. Центр изучения будущего интеллекта «Леверхульм» (The Leverhulme Centre) – междисциплинарная организация, занимающаяся исследованием перспектив развития интеллекта как важнейшего фактора для будущего цивилизации и нас как вида. Значительное время мы уделяем изучению истории, которая, надо признать, преимущественно является историей глупости. Приятное разнообразие вместо изучения будущего интеллекта. Мы сознаем потенциальные опасности, но, возможно, благодаря достижениям новой технологической революции сумеем даже исправить некоторый вред, который нанесла природе индустриализация.

Последние достижения в развитии искусственного интеллекта привели к тому, что Европарламент призвал к разработке законодательства, регулирующего создание роботов и систем искусственного интеллекта. Немного удивительно, но речь зашла даже о понятии «электронной личности», определяющем права и ответственность наиболее продвинутых автономных роботов. Один член Европарламента отметил, что, поскольку роботы начинают играть все более заметную роль во многих областях нашей повседневной жизни, необходимо гарантировать, что они являются и всегда будут являться помощниками человека. В докладе, представленном в парламенте, говорится, что мир – на грани новой индустриальной революции роботов. В нем обсуждается, можно ли наделить юридическими правами роботов как электронных личностей – наряду с юридическим определением корпоративных личностей. Но в нем также подчеркивается, что разработчики роботов обязаны предусмотреть в любой системе кнопку аварийного отключения.

Это не помогло ученым на борту космического корабля в фильме Стэнли Кубрика «Космическая одиссея 2001 года», когда дал сбой разумный компьютер ЭАЛ, но это – художественное произведение, вымысел. Мы же имеем дело с фактами. Лорна Бразел, консультант международной юридической фирмы Osborn Clark, говорит в докладе, что мы не наделяем правами личности китов и горилл, поэтому нет необходимости спешить с определением личности роботов. Но осторожность чувствуется. Доклад признает возможность того, что в ближайшие десятилетия искусственный интеллект может превзойти интеллектуальные способности человека и оспорить нынешние отношения между человеком и роботом.

К 2025 году в мире будет примерно 30 мегаполисов с населением более 10 миллионов человек. Когда все эти люди пожелают получать товары и услуги в любое удобное для них время, поможет ли нам технология соответствовать требованиям такой срочной коммерции? Разумеется, роботы заметно ускорят процесс онлайновой торговли. Но чтобы революционизировать процесс покупок, они должны быть достаточно быстрыми, чтобы выполнять заказы день в день.