Гектор Макдональд - Правда

Само оглашение предсказания может повлиять на сбывание этого предсказания. Страны, громко предрекающие войны, сами же их и начинают. Национальные банки, ставящие целью не превысить определенный уровень инфляции, побуждают рынки к соответствующему поведению, которое и дает нужный результат. Именитые эксперты, заявляющие, что та или иная компания разорится, нередко тем самым ускоряют ее крах. Родители, вслух низко оценивающие шансы ребенка на экзамене, способствуют его неудаче. Все это самоисполняющиеся прогнозы.

И наоборот, самоопровергающиеся предсказания — это те, которые, если поступать в соответствии с ними, не исполняются. Своевременные предупреждения о потенциальных масштабах вспышки Эболы в 2014 г. были настолько пугающими, что заставили международное сообщество действовать, и так удалось избежать большей части того полумиллиона с лишним случаев лихорадки, которые предсказывал Центр контроля и профилактики заболеваний. Адепты теории глобального потепления надеются, что их нынешние тревожные прогнозы завтра помогут не допустить исполнения худших прогнозируемых сценариев.

Условные прогнозы могут быть самоисполняющимися и самоопровергающимися. Условие «Если вовремя сделаешь уроки, я дам тебе $20», вероятнее всего, повлечет за собой выплату. Предупреждения «Отправишь этот документ — и ты уволен», скорее всего, будет достаточно, чтобы человек успешно избежал такого развития событий.

Обещание тех или иных действий — это форма прогноза, который мы воспринимаем как истину, если он исходит от достаточно надежного человека или организации. «Буду в семь возле театра», — говорит ваш возлюбленный, и вы по опыту знаете, что это правда. «Европейский центробанк готов сделать все необходимое, чтобы сохранить евро. И поверьте, этого будет достаточно», — заявил в 2012 г. президент ЕЦБ Марио Драги, и авторитета человека и учреждения хватило, чтобы успокоить рынок и снизить рост государственного долга 7. Четыре года спустя газета Financial Times так охарактеризовала этот самоисполняющийся прогноз: «Все признают, что он спас еврозону, оказавшуюся на грани распада» 8.

Таким образом, прогнозы не только направляют наши действия и формируют важные решения: оглашение прогнозов может изменить будущее, непосредственно способствуя их исполнению или опровержению. Прогнозы, чья достоверность такова, что их принимают как истину, подталкивают людей к действиям и меняют окружающую действительность. Когда налицо несколько убедительных прогнозов и мы выбираем один, которому верим, которого придерживаемся и которым делимся, он-то в итоге может и определить наше будущее.

Роботы наступают.

И не только роботы. Сочетание искусственного интеллекта (ИИ) с большими данными, сверхчувствительными сенсорами и небывалой плотностью сетей коммуникации обернется тем, что машины скоро научатся лучше людей выполнять многие физические и интеллектуальные задачи. Лучше — и намного, намного дешевле.

С распространением роботов многие профессии исчезнут совсем. Уже сегодня множество производственных задач выполняют автоматы. Кассиры в магазинах, кассиры в банках, операторы колл-центров постепенно вымирают. Следующими будут водители такси и грузовиков, вытесненные беспилотными автомобилями. Сейчас только в США работает 3,5 млн водителей грузовиков. Не сильно отстанут и работники умственного труда, выполняющие типовые операции: бухгалтеры, юристы по недвижимости, финансовые обозреватели, секретари, больничные лаборанты и т.д. И даже ручную работу вроде приготовления пищи, уборки или стрижки мы потеряем, лишь только роботы немного прибавят в ловкости и координации движений.

Машины сделают лишними миллионы, а возможно, и миллиарды людей. Резко усугубится неравенство.

Машинное обучение неизбежно позволит компьютерам стать умнее нас, и тогда они могут решить захватить власть. «Следует избегать категоричных прогнозов о пределах возможностей будущего ИИ», — предупреждала группа экспертов в 2017 г.

Риски, создаваемые искусственным интеллектом, особенно риски катастрофы и глобальной катастрофы, должны стать предметом работы по планированию и предупреждению, соизмеримой с предполагаемым ущербом… Системы с искусственным интеллектом, сконструированные так, чтобы раз за разом воспроизводиться и совершенствоваться таким путем, который может вызвать взрывное усиление качества или количества, должны контролироваться строгими правилами безопасности 9.

Рекомендации экспертов относительно будущего изучения ИИ вряд ли успокоят тех, кто рос на «Терминаторе» и «Матрице». Не забывайте, что самые передовые разработки в области ИИ и роботов по большей части ведутся в военных целях. Даже если машины не захотят нас истребить, они могут низвести нас до положения рабов или морских свинок.

«Создание полностью искусственного интеллекта может стать предвестием гибели человечества», — предупреждал профессор Стивен Хокинг 10.

«Если искусственный общий интеллект, превосходящий человеческий, создадут без должной предосторожности, практически несомненно, что человеческая раса исчезнет очень скоро», — соглашается с ним Майкл Вассар, бывший президент Института изучения машинного интеллекта 11. Безусловно, нужно сделать все, чтобы не допустить этой катастрофы. Основатель компаний Tesla и SpaceX Илон Маск назвал искусственный интеллект «главной угрозой нашему существованию». «С искусственным интеллектом мы вызываем демона», — заявил он 12. Маск убежден, что ИИ следует регулировать на национальном или международном уровне. Но он идет и дальше. Пугающие предвидения об искусственном интеллекте — один из стимулов его космической программы: согласно журналу Vanity Fair , он хочет колонизировать Марс, чтобы у нас «было куда рвануть, если ИИ взбунтуется и нападет на людей» 13.

Кроме бегства от машин, которое вскоре может стать невозможным, Маск предлагает еще один способ выживания — объединить с ними силы. Он уже приступает к проекту киборга («обладающего своего рода синтезом биологического и машинного интеллектов»), создав компанию Neuralink. В ней будут разрабатывать «нейронное кружево» из «мельчайших мозговых электродов, через которые мы однажды сможем выгружать и загружать мысли» 14. Маск тратит немало времени, рискует колоссальными деньгами и репутацией, стараясь не допустить, чтобы нас вытеснили или истребили машины.