Кай-фу Ли - Сверхдержавы искусственного интеллекта [Китай, Кремниевая долина и новый мировой порядок] [litres]

Другие мыслители-утописты видят в СИИ средство, которое позволит нам быстро разгадать тайны Вселенной. Основатель DeepMind Демис Хассабис считает, что с помощью сверхчеловеческого интеллекта мы, наконец, разрешим задачи, казавшиеся неразрешимыми: остановим глобальное потепление и научимся побеждать ранее неизлечимые заболевания. Сверхразумные компьютеры, понимающие Вселенную на немыслимых уровнях сознания, помогут человечеству справиться с его бедами, и люди приблизятся к божественному всеведению и всемогуществу.

Однако не все настроены столь оптимистично. Илон Маск назвал суперинтеллект «самой большой опасностью, с которой мы можем столкнуться как цивилизация» [64] Титкомб Д. ИИ – самый большой риск, с которым мы можем столкнуться как цивилизация, говорит Илон Маск // London Telegraph. URL: https://www.telegraph.co.uk/technology/2017/07/17/ai-biggest-risk-face-civilisationelon-musk-says/ (17 июля 2017 года). , сравнивая его создание с «призыванием демонов» [65] Кумпарак Г. Илон Маск сравнивает создание искусственного интеллекта с «вызовом демона» // TechCrunch. URL: https://techcrunch.com/2014/10/26/elon-musk-compares-building-artificial-intelligence-to-summoning-the-demon/ (26 октября 2014 года). . Многие выдающиеся интеллектуалы, в том числе покойный космолог Стивен Хокинг, присоединились к лагерю антиутопистов Маска, некоторые из них – вдохновившись работой оксфордского философа Ника Бострома, чья книга «Искусственный интеллект. Этапы. Угрозы. Стратегии» [66] Бостром Н. Искусственный интеллект. Этапы. Угрозы. Стратегии. – М.: Манн, Иванов и Фербер, 2016. , вышедшая в 2014 году, захватила воображение значительного числа футуристов.

По большей части сторонники антиутопической версии будущего не боятся, что ИИ захватит мир, как это было показано в фильмах вроде «Терминатора», в которых человекоподобные роботы охотятся на людей, охваченные жаждой поработить человечество. Суперинтеллект будет продуктом, созданным человеком, а не появившимся в результате естественной эволюции, а потому у него не может быть тех инстинктов выживания, размножения или доминирования, которые управляют поведением людей или животных. Скорее всего, он просто будет стремиться достичь поставленных перед ним целей наиболее эффективным способом. Опасность состоит в том, что если люди окажутся препятствием для достижения одной из этих целей – например, обратить вспять глобальное потепление, то суперинтеллект может легко, даже случайно, стереть их с лица земли.

Чтобы сделать это, компьютерной программе, чей разум и воображение намного превосходят человеческие, не потребуется никаких вооруженных роботов. Глубокое понимание химии, физики и нанотехнологий позволит ИИ мгновенно достичь своих целей, используя гораздо более изобретательные способы. Исследователи называют это «проблемой управления» или «проблемой выравнивания значений», и она беспокоит даже тех, кто относится к СИИ с оптимизмом.

Прогнозы о том, когда будут достигнуты такие результаты, сильно расходятся. Бостром в своей книге приводит ответы специалистов по ИИ, которые склоняются к тому, что СИИ появится в 2040 году, а суперинтеллект, скорее всего, – в течение трех десятилетий после этого [67] Бостром Н. Искусственный интеллект. Этапы. Угрозы. Стратегии. – М.: Манн, Иванов и Фербер, 2016. С. 19. . Но не будем спешить с выводами.

Когда эти утопические и антиутопические прогнозы обсуждаются публично, то внушают аудитории одновременно благоговение и страх. Постепенно границы между фантастическими картинами и нынешней реальностью в коллективном сознании стираются. В результате возникают распространенные заблуждения о том, на каком уровне мы действительно находимся сегодня и куда движемся. Давайте внесем ясность: ни один из сценариев, описанных выше, будь то бессмертный цифровой разум или всемогущий суперинтеллект, нельзя реализовать на основе современных технологий: ученые пока еще не нашли четких алгоритмов для СИИ и не особенно приблизились к их открытию. Сингулярность не может возникнуть спонтанно, и автономные транспортные средства, в которых используются технологии глубокого обучения, не могут внезапно «проснуться» и понять, что способны объединиться и сформировать сверхразумную сеть.

Создание сильного ИИ потребует целого ряда фундаментальных научных открытий в области искусственного интеллекта, а также многих иных достижений того же масштаба, что и глубокое обучение, или даже более значительных. Эти прорывы помогут убрать основные ограничения узкоспециализированных программ на основе ИИ и наделить их множеством новых способностей. Это, например, мультидоменное и доменно-независимое обучение, понимание естественных языков, здравый смысл, обучение на небольшом количестве примеров, умение строить планы и рассуждать. На следующем этапе, чтобы создать эмоционально-интеллектуальных роботов, нам понадобится каким-то образом дать им самосознание, чувство юмора, любовь и сострадание, способность восхищаться красотой. Из-за сложности этих задач возможности современного ИИ сегодня ограничены выявлением корреляций в среде данных и простым прогнозированием, а создание сильного ИИ все еще выглядит недостижимой целью.

Чтобы решить каждую из задач, перечисленных выше, может потребоваться несколько важных открытий. Ошибка многих прогнозов, касающихся СИИ, заключается в том, что их авторы просто берут темпы прогресса в области ИИ за последнее десятилетие и экстраполируют их или делают вывод о непрестанном экспоненциальном росте компьютерного интеллекта. Сейчас мы пришли к глубокому обучению и активно применяем его во все новых областях – такова эпоха внедрения. Не существует доказательств, что этот процесс знаменует собой начало экспоненциального роста, который неизбежно приведет к появлению СИИ, а затем и суперинтеллекта. Наука требует упорного труда, и фундаментальные прорывы в ней вовсе не следуют один за другим. Достижения такого уровня, как открытие глубокого обучения, которые действительно поднимают планку машинного интеллекта, обычно случаются раз в несколько десятилетий, если не реже. Кропотливая работа позволила исследователям компании DeepMind создать новый, более продуктивный подход к таким технологиям, как обучение с подкреплением. Но за 12 лет после публикации знакового исследования Джеффри Хинтона и его коллег я не слышал о подобного масштаба сдвигах в области машинного интеллекта [68] Хинтон Д., Осиндеро С., Тхе И Уай. Алгоритм быстрого обучения для сетей глубокого доверия // Neural Computation. № 18. 2006 год. С. 1527–1554. . Да, опрошенные Бостромом исследователи ИИ считают, что появления СИИ можно ожидать в 2040 году, но, по моему мнению, когда дело касается перехода от теоретических изысканий к реальному продукту, ученые бывают излишне оптимистичны в оценках. В подтверждение приведу пример. В конце 1980-х годов я был ведущим мировым исследователем ИИ в области распознавания речи. И тогда я пришел в Apple, поскольку верил, что через пять лет эта технология станет повсеместно распространенной. Как оказалось, я ошибся на 20 лет. Конечно, я не гарантирую, что ученые не сделают в ближайшее время фундаментальных открытий, которые приведут к появлению сильного ИИ, а затем – суперинтеллекта. Но с уверенностью можно сказать одно: нам стоит рассчитывать в первую очередь на постоянное совершенствование существующих технологий и расширение их функций. Я считаю, что пройдет еще немало десятилетий, если не веков, прежде чем СИИ и суперинтеллект станут реальностью. Существует также объективная вероятность того, что люди так никогда и не смогут создать СИИ. Искусственный интеллект произведет переворот в отношениях между людьми и машинами – многие даже считают, что его появление станет самым выдающимся событием в истории человечества. Но я полагаю, что это грань, которую нам не следует переходить, пока не решены все проблемы, связанные с контролем и безопасностью. Так или иначе, я, как и другие эксперты по ИИ, среди которых Эндрю Ын и Родни Брукс, считаю, что мы гораздо дальше от создания СИИ, чем принято думать.