Бретт Кинг - Эпоха дополненной реальности

Другие возможные применения эмоциональных андроидов – гостиничные служащие, компаньоны для престарелых и аниматоры. Hanson планирует предлагать своих роботов в лизинг за 3000 долларов в месяц. На этом уровне цифры становятся интересными. Hanson показывает, что при таких затратах только на одном портье отель может сэкономить до 157 000 долларов в год.

Теперь о другой – более неоднозначной – причине, по которой роботам нужны эмоции: «чтобы они не поубивали нас всех».

Эта концепция сегодня лежит в основе наиболее инновационных подходов к искусственному интеллекту. Нам нужно доподлинно знать, что роботы нас любят, что они сочувствуют человечеству. Азимовских «Трех законов» [202] Три закона роботехники в научной фантастике – обязательные правила поведения для роботов, впервые сформулированные Айзеком Азимовым в рассказе «Хоровод» (1942). Законы гласят: «1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред. 2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону. 3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам». – Примеч. пер. недостаточно, чтобы защитить нас от неясных перспектив искусственного интеллекта. Некоторые, как Илон Маск и Стивен Хокинг, уверены, что в самые фундаментальные мотивации как основу всего последующего искусственного интеллекта надо встроить любовь к людям и к нашей планете (или планетам). Но проблема в том, что любые меры предосторожности, которые мы предпримем, всегда сможет обойти интеллект совершеннее нашего. Так что задача заключается в том, чтобы так запрограммировать эти интеллектуальные создания и так настроить их мотивацию, чтобы они стремились нас защищать и позволяли нам быть свободными.

Мне задают много вопросов, вызванных моими соображениями о роботах, и некоторые из них всплывают в обсуждениях постоянно.

Если роботы, дроиды, киборги будут выглядеть как мы и обслуживать людей в торговле, в медицине, на войне и т. п., не заслуживают ли они законов, которые бы дали им неотъемлемые права?

Нет, они не заслуживают таких прав, но люди значительно повысят свои шансы на выживание, если такие права будут даны. Это создаст культуру, которая защитит нас от роботов, выходящих за пределы нашего контроля и, возможно, понимания.

Я читал бесчисленное количество историй о бунте роботов и думаю, что наши шансы уцелеть в ближайшие несколько сотен лет очень невелики, так что чем скорее мы начнем относиться к роботам с уважением, тем лучше. Нам в любом случае понадобятся правовые рамки для безопасного пользования самоуправляемым автомобилем, роботами-сиделками, дронами и другими подобными устройствами. Я думаю, что права роботов диктуются точно такими же соображениями.

Готовы ли мы вступить в эпоху машин и роботов?

Некоторые были готовы еще десятки лет назад. Другим для этого, возможно, не хватит жизни. Кевин Келли предлагает полезную точку зрения, которую я уже цитировал: «В будущем ваша зарплата будет зависеть от того, как вы сработаетесь с роботом».

Если рассматривать ответы «да» или «нет» применительно ко всему обществу в целом, то главная причина ответить «нет» состоит в том, что роботы смогут заменить на рабочих местах 50–70 % людей, а к такому не готово огромное большинство работников и их иждивенцев, и ни одно правительство на планете, даже японское, их к этому правильно не готовит.

Нам нужно приложить больше усилий, чтобы подготовить мир к жизни с роботами. Я надеюсь, что дорога к этому уже проложена.

Каков главный посыл таких фильмов, как «Из машины» и «Превосходство»? Надо ли бояться сверхразумных роботов и искусственного интеллекта?

Если делать искусственный интеллект таким же разумным, как человек, вы получите в придачу некоторые другие человеческие характеристики, в том числе собственное мнение, сексуальность, желание продолжать жить, любопытство и тщеславие. А с этими чертами – еще и способность ненавидеть, отвлекаться, лгать, конкурировать, жульничать, – словом, делать все, что делает человек, когда его существование под угрозой.

Проще говоря, стремясь создать искусственный интеллект человеческого уровня, будьте чертовски осторожны со своими желаниями.

Закончить я хотел бы подводящими итог словами Марвина Минского [203] Марвин Ли Минский ( англ. Marvin Lee Minsky, 1927–2016) – крупный американский ученый, разработчик искусственного интеллекта и основатель Лаборатории искусственного интеллекта в Массачусетском технологическом институте. – Примеч. науч. ред. из MIT Media Lab.

Наследуют ли роботы землю? Да, но они будут нашими детьми.

Авторы: Алекс Лайтман и Бретт Кинг

Древнейший памятник художественной литературы – «Эпос о Гильгамеше» [205] «Эпос о Гильгамеше» – одно из древнейших в мире сохранившихся литературных произведений, один из величайших памятников литературы Древнего Востока. Создавался на аккадском языке на основании шумерских сказаний на протяжении полутора тысяч лет, начиная с XVIII века до н. э. – Примеч. пер. – представляет собой собрание стихотворных преданий жителей Месопотамии о жизненном пути Гильгамеша, правителя города Урук [206] Урук – древнейший город-государство шумеров в Междуречье, на территории современного Ирака. – Примеч. авт. . Одна из центральных линий повествования – поиски Гильгамешем бессмертия после гибели его названого брата Энкиду. Действие происходит во времена правления Третьей династии Ура (около XXII–XXI веков до н. э.); это одно из старейших дошедших до нас человеческих преданий.

С тех пор поиск бессмертия остается вечной темой, раз за разом находившей отражение в литературе на протяжении всей истории человечества. Уже около 475 года до н. э. эликсиры бессмертия начинают регулярно упоминаться в китайских письменных источниках, а император Китая Цзяцзин [207] Чжу Хоуцун (1507–1567) – 11-й император Китая из династии Мин. Личное имя – Чжу Хоуцун, правил под девизом Цзяцзин («Чудесное Умиротворение»). – Примеч. пер. (годы правления – 1521–1567) и вовсе скончался от отравления «эликсиром бессмертия», содержавшим ртуть [208] По другой версии, причиной смерти стало многолетнее употребление «таблеток бессмертия» на основе солей свинца и мышьяка, прописанных императору придворным лекарем – даосом по имени Дао Чжунвень. – Примеч. пер. . Согласно сборнику ведических гимнов «Ригведа», в древней Индии напиток бессмертия назывался «амрита» [209] Амри́та (санскр. amrta – «бессмертный») – напиток богов, делающий их бессмертными. – Примеч. пер. . В индуистской и некоторых других восточных традициях его же называют «сома». Бог неба Индра и бог огня Агни обрели бессмертие, испив амриты (амброзии). В классической древнегреческой мифологии философский камень, помимо способности обращать свинец в золото, одаривал своего владельца еще и бессмертием [210] Неясно, в каких источниках автор обнаружил, что философский камень упоминается в древнегреческой мифологии. Поиск философского камня был одним из увлечений средневековых алхимиков. Согласно легенде, возникшей в то время, впервые об этом могущественном предмете упоминает Гермес Трисмегист – вымышленный автор теософского учения, излагаемого в нескольких книгах и отрывках египетско-греческого происхождения, известных под его именем. Алхимики приписывали Гермесу Трисмегисту так называемую Изумрудную таблицу – отрывок загадочного содержания и неизвестного происхождения, находя в нем аллегорическое описание философского камня. – Примеч. пер. .