Ричард Уотсон - Технологии против Человека. Как мы будем жить, любить и думать в следующие 50 лет?

В-третьих, крупные технологические компании, такие как Amazon, Google, Facebook, Uber, и Twitter, должны рассматриваться в качестве базовых сервисов и относиться к коммунальным услугам. Сегодня они часто ведут себя как обидчивые подростки, практически не выказывающие никакого уважения к власти и управляющим органам. Как полагает Эндрю Кин, «активно действующее законодательство является наиболее эффективным способом сделать интернет лучше и справедливее». Технологических гигантов необходимо заставить уважать законы, внедрить профсоюзы и полностью выплачивать надлежащие налоги. Если же они этого не сделают или будут злоупотреблять своим монопольным положением, их следует расформировать. С великой силой приходит и великая ответственность.

В-четвертых, если человек создает что-то ценное в цифровой сфере, даже если он просто ходит, оставляя за собой цифровой след, это должно быть ему компенсировано. Микроплатежи за микроконтент – еще один момент, активно пропагандируемый Джароном Ланье, и я его полностью поддерживаю.

В-пятых, человеку должно быть предоставлено право быть забытым. Если кто-то сделал что-то не так в сети и заплатил за это, он должен иметь право удалить свои цифровые записи, особенно если он еще молод. Это может стимулировать большее число экспериментов и выступать достойным противовесом конформизму. Но мы также должны поощрять людей помнить. С нашими постоянно обновляемыми стенами Facebook и графиками Twitter привычка оглядываться назад вышла из моды. Мы не только страдаем от потери великих понятий и человеческих стратегий, но и от забвения исторического контекста. Как отмечает все тот же Эндрю Кин, это означает, что у нас развивается «амнезия, касающаяся всего, кроме непосредственного, мгновенного «сейчас». Мы должны восстановить давнее прошлое, которое может помешать нам из раза в раз повторять досадные ошибки.

Тревожный пример исторической амнезии и отсутствия элементарной порядочности – это «селфи» в значимых местах. Барак Обама и Дэвид Кэмерон сделали селфи на похоронах Нельсона Манделы. Подростки, посетившие Освенцим и сделавшие селфи перед ржавым знаком на воротах с надписью «Arbeit Macht Frei» («Труд освобождает»), явно не имеют понятия, что представляют собой эти ворота и куда они ведут, и это подтверждает мою точку зрения о бессодержательной пустоте, в которой живут некоторые люди.

И наконец, мы должны быть бдительны в отношении угрозы вымирания всего человечества.

Маловероятно, что на Земле появится некая другая форма разума, способная стать для нас прямой угрозой, потому что для этого мы должны создать для машин сознание и, возможно, систему самовоспроизводства. Но тем не менее нам следует быть готовыми. У нас есть протоколы по урегулированию ядерной, биологической и химической угроз, так почему бы не расширить их, чтобы предусмотреть возможность угрозы со стороны полностью сознательных машин?

Соглашений о том, где, когда и зачем используются автономные цифровые системы, не требуется. Изменение трех законов роботехники, предложенных Айзеком Азимовым в 1942 году, может быть хорошим стартом, хотя я бы сосредоточился на невидимой угрозе автоматизации в той же степени, как на предполагаемой угрозе появления роботов-убийц.

Законы Азимова требуют, чтобы робот (1) защищал людей, (2) исполнял приказы человека (если это не идет вразрез с первым законом) и (3) защищал свое существование (если это не вступает в противоречие с первым или вторым законами). Я предлагаю, чтобы эти законы были обновлены, расширены и переделаны таким образом, чтобы применяться ко всем роботам, автономным машинам и экспертным системам.

Первый закон должен остаться, но с дополнительным уточнением, что защита включает в себя долгосрочное физическое и психическое здоровье. С другой стороны, боевым роботам может быть позволено при определенных обстоятельствах убивать противников, если это происходит под контролем человека. Очевидно, что это представляет собой противоречие с первым законом и открывает тот самый ящик Пандоры в качестве формы узаконенного убийства, но если цель противника – массовое убийство мирных жителей, это изменение, безусловно, заслуживает обсуждения. Расширение этого положения на полицейских роботов, которым разрешено убивать людей в особо опасных ситуациях, возможно, окажется приемлемым, если такие действия будут предметом обязательной судебной проверки. В большинстве стран у сотрудников полиции есть такая функция.

Что касается второго закона, то общество должно договориться о рейтинге человеческих команд. Кроме того, кто будет виноват, когда что-то пойдет не так или когда человек будет ранен или убит? Это человек-оператор или надсмотрщик, хозяин, программист, дизайнер или производитель? Если машины действительно в конечном счете станут сознательными, ответственность может лежать на машине, но до этого ответственность должна лежать на людях. (Огромная благодарность Google и DeepMind за развязывание этических дискуссий в рамках их программы искусственного интеллекта.)

Когда Азимов писал свои законы, он представлял роботов, прежде всего, как реальных существ, в то время как современные робототехники в той же мере занимаются разработкой программного обеспечения. Таким образом, третий закон должен распространяться на поддержание целостности данных. Когда что-то идет совсем не так, как надо, все записи должны быть полностью доступны. Данные имеют свой долг и свои обязанности. Все программы должны быть открыты для общественного контроля, равно как любые другие машины, скрывающиеся за этим кодом. Тем не менее в обозримом будущем ответственность должна будет лежать на людях и только на них.

Возможно, вдохновившись ранними рассказами Азимова, мы должны добавить еще нулевой закон, в котором будет говориться, что машины имеют право на обращение к людям относительно любого закона, если они считают, что следует шире рассмотреть понятие общественного блага.

Прогресс часто определяется в технологических терминах, но мы должны сосредоточиться на более широкой формулировке. Мы надеемся, что это породит дискуссии о природе идеального общества и сместит дискуссию от того, что можно сделать, к тому, что должно быть сделано. Центральное место в этом занимает вопрос – не принижают ли новые идеи человеческое достоинство?

Без сомнения, это звучит смешно. Питер Тиль говорит, что люди больше не верят в будущее, но я подозреваю, что они попросту больше не могут его увидеть – особенно такое будущее, в котором они играют значимую, полезную роль. В настоящее время нет видения долгосрочных перспектив сверх того, что нам предлагают разработчики новых технологий вроде Тиля, так что нам нужно создать будущее с человеческим сердцем.