Джарон Ланир - На заре новой эры. Автобиография отца виртуальной реальности

Мой ответ не менялся, когда мне говорили, что когда-нибудь алгоритмы искусственного интеллекта будут сочинять идеальную музыку, писать идеальные книги или снимать идеальные фильмы. Эта предпосылка изначально ошибочна.

– Но что, если людям это понравится? Ты говоришь так, как будто ты самый главный, но что, если кому-то нравятся виртуальные сексуальные партнеры, книги и музыка, созданные алгоритмами? Ты судишь по себе! Мы все имеем право на собственные вкусы.

– Мы стремимся быть хорошими инженерами, так? Я говорю о том, чтобы послать к черту петлю обратной связи, которая позволяет нам быть хорошими инженерами, когда мы воспринимаем машины как людей.

– Ты усложняешь простой вопрос.

– Нет, ты подумай об этом. Когда ты допускаешь возможность веры другого человека в индивидуальность, в то, что другой человек – это личность, в игру вступает уважение. Нельзя обойти его и переделать людей. Это фашизм. Тебе придется позволить людям изобретать что-то самим, даже если они тебя раздражают. И зачастую они действительно довольно противные, но именно за это мы и любим человечество, ведь так? За непредсказуемость, за разнообразие. Если ты решишь относиться к компьютерам как к людям, ты станешь относиться к компьютеру с тем же пиететом и потеряешь опору, на которой держится проектирование компьютеров. Ты больше не сможешь их улучшать. – Может быть, пора перестать уже быть такими брезгливыми и признать, что людей нужно переделать.

– О боже, нет.

– Не представляю, как создать ноосферу, не принимая того, что людей придется переделать. Хотя бы немного!

– Не думаю, что эта установка поможет нам быстрее создать ноосферу. Что не так с Первой директивой из «Звездного пути»? [120]Пусть цивилизации возникают сами, без чьей-то навязанной инициативы сверху. Тогда будут и глубина, и разнообразие. Куда спешить? – Звучит так, как будто мы – продвинутые инопланетяне, которые решают, что им делать с Землей. – За столом раздался одобрительный гул голосов. Возможно, именно ими мы и были.

Тощий, как жердь, парень, выбиравший мелкие косточки из целой рыбины, решил, что тему разговора лучше поменять:

– Можешь твердить, что искусственный интеллект невозможен, только потому, что его еще не существует. Когда он заработает, доказательства будут ошеломляющими.

Бородатый, у которого в бороде запуталась лапша, предостерег его:

– Осторожно, а то Джарон сейчас разразится проповедью о «разоблачении незрелых тайн».

– Думаю, я уже достаточно вас этим замучил. Нельзя ли просто остановиться на том, что всех нас может удивить ход развития событий, и никому не стоит утверждать, что он знает, что произойдет потом?

– Это аксиома. Закон Мура гласит, что компьютеры станут в миллионы раз мощнее, а потом еще и еще. Они превзойдут человеческий мозг. Они будут заслуживать собственных прав. И они потребуют этих прав.

– Ты напрашиваешься на то, чтобы я снова срезал тебя аргументом о круге сопереживания. Если ты чрезмерно расширишь свой круг сопереживания, ты потеряешь компетенцию и никому не поможешь. Ты выставляешь себя дураком, помогая идеальным маленьким существам, которых я называю «суррогатами уникальности». Это примерно как если бы люди перестали чистить зубы, потому что не хотят убивать бактерий.

За столом снова недовольно загудели.

– Приводить такие аргументы в споре нечестно. Думаю, по-настоящему тебя расстроило то, что тебя вызвали в суд по поводу виртуальной поддержки эмбрионов.

Нынешний Джарон перебивает: «До этой истории мы доберемся в следующей главе».

Джарон из 1990 года сказал:

– Парни, подумайте над тем, как все это воспримут остальные люди, далекие от технологий. Можете себе представить волшебников, которые обсуждают, как они создадут высшие формы жизни, а обычные люди или морально устареют, или будут выполнять роль домашних питомцев? Не считаете, что из-за этого люди утратят доверие к современному миру? Они точно нас не возненавидят? Не станут ли они легкой добычей шарлатанов, которые убедят их в том, что наука им враждебна? Разве не это глобальная цель всей инженерной науки – служить людям, далеким от технологий?

Пожалуйста, помните об этом, читая «размышления» о том, что роботы заслуживают сочувствия: у тех, кто пишет о технологии, есть дурная привычка формулировать «глобальные идеи», которые служат текущим интересам крупных технологических компаний. Так, было много разговоров о вреде авторских прав, когда компания Google создавала свое беспрецедентно огромное состояние, перепахивая законы об авторском праве. Точно так же много статей и постов, приветствующих конец приватности и провозглашающих ценность коллектива, появилось, когда Facebook начала осваивать рынок цифровых удостоверений личности [121].

– Если, ну ладно, когда гигантские роботы или сверхразумные потоки наночастиц решат, что ты не стоишь того, чтобы поддерживать твое существование, им будет абсолютно все равно, что ты думаешь. Тебя просто уничтожат. И тогда ты не сможешь рассуждать, реальны они или нет.

– Вот теперь ты меня бесишь. Помнишь морскую свинку, которая управляла огнеметом во время представления Survival Research? Было совершенно не важно, осознавало ли это животное, что оно делает. Чтобы увидеть представление, нужно было подписать соглашение о том, что ты не будешь ни подавать в суд на людей, которые посадили морскую свинку на место пилота, ни преследовать каким-либо образом само животное.

Единственное различие между отношением к ИИ как к губительной машине, которая уничтожит все человечество, и восприятием части специалистов в области технологий и военных как полных профанов, заключается в том, что вторая интерпретация обоснована.

Сорок седьмое определение VR: наука всеобъемлющей иллюзии.

Пока вы верите в искусственный интеллект, вы ослабляете свою веру в ценность людей и их способность действовать. Вы отменяете самих себя и всех окружающих.

Я понимаю, как это должно выглядеть со стороны. Разработчик виртуальной реальности утверждает, что виртуальная реальность – наилучший подход к цифровой информации. Он отрицает искусственный интеллект, социальные сети, даже Всемирную паутину! А не хочет ли он нам сказать, что его разработка самая лучшая? А не говорят ли все остальные то же самое?

Я всего лишь человек. Не могу утверждать, что свободен от предубеждений.

Я знаю, что виртуальная реальность требует предельной ясности ума потому же, почему профессиональные фокусники – лучшие разоблачители. Гудини, Пенну, Теллеру и Невероятному Рэнди нет равных в обнаружении жульничества. Так же «Разрушители легенд» (Адам Сэвидж и Джейми Хайнеман) были экспертами в области кинематографических спецэффектов. Люди, которые зарабатывают на жизнь созданием иллюзий, разбираются в иллюзиях. Разработчики виртуальной реальности – иллюзионисты от науки; мы серьезны, когда заявляем вам, что дурачим вас, и вам следует принимать наши слова всерьез, когда мы отмечаем, что мы не единственные, кто это делает.