Стивен Пинкер - Просвещение продолжается. В защиту разума, науки, гуманизма и прогресса

Я ничего не придумал. Все это – сценарии, предположительно иллюстрирующие угрозу роду человеческому со стороны развитого ИИ. Все они, к счастью, внутренне противоречивы [878] Почему из нас не понаделают скрепок: B. Hibbard, “Reply to AI Risk,” http://www.ssec.wisc.edu/~billh/g/AIRisk_Reply.html ; R. Loosemore, “The Maverick Nanny with a Dopamine Drip: Debunking Fallacies in the Theory of AI Motivation,” Institute for Ethics and Emerging Technologies, July 24, 2014, http://ieet.org/index.php/IEET/more/loosemore20140724 ; Adam Elkus, “Don’t Fear Artificial Intelligence,” Slate, Oct. 31, 2014; R. Hanson, “I Still Don’t Get Foom,” Humanity+, July 29, 2014, http://hplusmagazine.com/2014/07/29/i-still-dont-get-foom/ ; Hanson & Yudkowsky 2008. См. также Kelly 2017 и прим. 26 и 27 выше. , поскольку основаны на двух гипотезах: 1) люди так одарены, что способны создать всеведающий и всемогущий ИИ, и в то же время так пустоголовы, что передадут ему контроль над мирозданием, не проверив, как он работает, и 2) этот ИИ будет так гениален, что сможет придумать, как преобразовывать химические элементы и перепрошивать мозги, но так придурковат, что погрузит мир в хаос из-за элементарной оплошности или недопонимания. Способность выбрать ход действий, лучше всего удовлетворяющий конфликтующим между собой целям, – это не придаток к интеллекту, который инженер может не установить по забывчивости, а потом кусать локти; это и есть интеллект. То же самое можно сказать и о способности интерпретировать намерения пользователя языка в контексте. Только в комедийных сериалах вроде «Напряги извилины» робот реагирует на фразу: «Тащи сюда официанта», ухватив беднягу за голову, а услышав: «Туши свет», сует лампу в кастрюлю.

Отказавшись от фантазий о фуме, цифровой мегаломании, мгновенном всеведении и абсолютной власти над каждой молекулой во Вселенной, мы обнаружим, что искусственный интеллект – всего лишь технология, такая же, как и все остальные. Она развивается шаг за шагом, разработана, чтобы удовлетворять множеству условий, тестируется перед внедрением и бесконечно совершенствуется с целью повышения эффективности и безопасности (глава 12). Как острит специалист по искусственному интеллекту Стюарт Рассел, «инженеры-мостостроители никогда не рассуждают о “возведении мостов, которые не падают” – только о “возведении мостов”». Точно так же «полезный и безопасный искусственный интеллект – это и есть искусственный интеллект» [879] Цит. по J. Bohannon, “Fears of an AI Pioneer,” Science, July 17, 2016. .

Искусственный интеллект, безусловно, ставит перед нами более будничные проблемы: например, что делать с людьми, чьи профессии исчезнут благодаря автоматизации. Однако профессии не исчезают быстро. Вывод, сделанный специалистами NASA еще в 1965 году, верен до сих пор: «Человек – вот самый дешевый нелинейный многоцелевой компьютер весом в 70 килограммов, который массово производится неквалифицированной рабочей силой» [880] Цит. по Brynjolfsson & McAfee 2015. . Управление автомобилем – простейшая инженерная задача, куда примитивнее, чем разгрузить посудомойку, доставить документы по адресу или поменять подгузник, но на тот момент, когда я это пишу, мы все еще не готовы допустить беспилотные автомобили на улицы городов [881] Беспилотные автомобили не совсем готовы: Brooks 2016. . До тех пор, пока батальоны роботов не начнут прививать детей и строить школы в развивающихся странах или, если уж на то пошло, ухаживать за стариками и строить дороги на Западе, дел будет хватать на всех. Всю ту изобретательность, которая нужна для конструирования роботов и написания программного обеспечения, можно приложить и к разработке государственных мер и экономических стимулов, которые обеспечат незанятые руки несделанной работой [882] Роботы и работа: Brynjolfsson & McAfee 2016; см. также прим. 67 к главе 9. .

Ну, если не роботы, тогда, может быть, хакеры? У всех на слуху их стереотипные образы: болгарские подростки, юноши в шлепанцах с банкой Red Bull в руке или, как сказал Дональд Трамп во время президентских дебатов 2016 года, «субъект, который весит 180 кило и не встает с кровати». Принято думать, что по мере развития технологий умножается и потенциал разрушения, доступный отдельному человеку. Рано или поздно одинокий очкарик, а то и террорист прямо в своем гараже соберет ядерную бомбу, создаст смертоносный вирус или обрушит интернет. А учитывая, как сильно современный мир зависит от технологий, что-то подобное может привести к панике, голоду и анархии. В 2002 году сэр Мартин Рис публично предложил пари, что «к 2020 году биопреступление или биоошибка унесет миллион жизней за раз» [883] Пари зарегистрировано на сайте Long Bets, http://longbets.org/9/ . .

Что нам думать обо всех этих кошмарах? Иногда их цель – заставить серьезней относиться к уязвимостям систем безопасности. На этот счет есть целая теория (с которой мы еще встретимся в этой главе), что самый эффективный способ убедить людей проводить ответственную политику – напугать их до потери сознания. Верна эта теория или нет, никто не собирается утверждать, что нам можно не волноваться по поводу киберпреступлений или вспышек заболеваний, которые уже сейчас представляют собой огромную проблему для всего мира (о ядерной угрозе я поговорю в следующем разделе). Специалисты по компьютерной безопасности и эпидемиологи постоянно пытаются держать эти угрозы под контролем, и странам мира определенно не стоит жалеть на это денег. Нужно всячески повышать надежность и безопасность военной, финансовой, энергетической и коммуникационной инфраструктур [884] Укрепление компьютерной безопасности: Schneier 2008; B. Schneier, “Lessons from the Dyn DDoS Attack,” Schneier on Security, Nov. 1, 2016, https://www.schneier.com/blog/archives/2016/11/lessons_from_the_dyn.html . . Нужно крепить систему договоров о запрете биологического оружия и усиливать меры предосторожности в отношении него [885] Упрочение безопасности в сфере биологического оружия: Bradford Project on Strengthening the Biological and Toxin Weapons Convention, http://www.bradford.ac.uk/acad/sbtwc/ . . Нужно расширять международные связи в области общественного здоровья, чтобы страны сообща распознавали и сдерживали вспышки заболеваний, пока они не переросли в пандемии. Наряду с новыми вакцинами, антибиотиками, противовирусными препаратами и тест-системами для моментальной диагностики, такие связи пригодятся в борьбе как с природными патогенами, так и с теми, что созданы искусственно [886] Меры против инфекционных заболеваний защищают и от биотерроризма: Carlson 2010. Подготовка к пандемиям: Bill & Melinda Gates Foundation, “Preparing for Pandemics,” http://nyti.ms/256CNNc ; World Health Organization 2016b. . Кроме того, государства не должны ослаблять привычные антитеррористические меры и меры по борьбе с преступностью вроде слежки и перехвата сообщений [887] Стандартные антитеррористические меры: Mueller 2006, 2010a; Mueller & Stewart 2016a; Schneier 2008. .

В каждой из этих гонок вооружений обороняющаяся сторона, конечно, никогда не будет абсолютно неуязвима. Нельзя исключать отдельные случаи кибертерроризма и биотерроризма, а вероятность катастрофы всегда будет ненулевой. Вопрос, на который я пытаюсь ответить: должны ли эти печальные факты подвести нас к выводу, что человечество обречено? Неужели злодеи когда-нибудь обязательно перехитрят героев и поставят цивилизацию на колени? И не стал ли наш мир парадоксальным образом по-новому уязвимым в результате технологического прогресса?