Макс Тегмарк - Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

Новостная заметка о первом ДТП со смертельным исходом с участием беспилотного автомобиля Tesla: http://tinyurl.com/teslacrashstory

Доклад правительства США: http://tinyurl.com/teslacrashreport

О крушении парома “Herald of Free Enterprize” см. кн.: R. B. Whittingham. The Blame Machine: Why Human Error Causes Accidents . Elsevier, 2004.

Документальный фильм о крушении французского самолета, выполнявшего рейс Air France 447: https://www.youtube.com/watch?v=So9iFv0NoZw

Официальное сообщение о крушении: http://tinyurl.com/af447report

Независимый анализ: http://tinyurl.com/thomsonarticle

Официальное сообщение о веерном отключении энергоснабжения в США и Канаде в 2003 году: http://tinyurl.com/uscanadablackout

Итоговый отчет президентской комиссии об инциденте в Три-Майл-Айленде: http://large.stanford.edu/courses/2017/ph241/blackwood1/docs/kemeny.pdf

Голландское исследование, показывающее, что искусственный интеллект не уступает человеческому в радиологической диагностике рака простаты с использованием магнитно-резонансной томографии: http://tinyurl.com/prostate-ai

Исследование, проведенное в Стэнфорде, показывающее, что искусственный интеллект позволяет лучше проводить диагностику рака легких, чем анализы врачей: http://tinyurl.com/lungcancer-ai

Результаты расследования несчастного случая лучевой терапии с использованием аппарата Therac-25: http://www.cse.msu.edu/~cse470/Public/Handouts/Therac/Therac_1.html

Доклад о повлекшей смерть ошибке в определении дозы облучения из-за вмешательства человека при лечении больного раком в Панаме: http://tinyurl.com/cobalt60accident

Исследование роботизированных хирургических операций с неблагоприятным исходом: https://arxiv.org/abs/1507.03518

Статья о смертельных исходах, вызванных ненадлежащим содержанием в больницах: http://tinyurl.com/medaccidents

Yahoo задал новый эталон “большого взлома”, сообщив о краже трех миллиардов (!) учетных записей своих пользователей: https://www.nytimes.com/2017/10/03/technology/yahoo-hack-3-billion-users.html

Статья в New York Times о том, как убийца из Ку-клукс-клана был сначала оправдан, а потом осужден – много лет спустя: http://tinyurl.com/kkkacquittal

Исследование Данцигера с коллегами 2011 года ( http://www.pnas.org/content/108/17/6889.full), доказывающее, что голодные судьи выносят более жестокие приговоры, было оспорено Вейншел-Марджел и Джоном Шапардом ( http://www.pnas.org/content/108/42/E833.full), но Данцигер с коллегами привел новые свидетельства свой правоты: http://www.pnas.org/content/108/42/E834.full

Сообщение в Pro Publica о расовых предубеждениях программного обеспечения, предсказывающего криминальные рецидивы: http://tinyurl.com/robojudge

Использование функциональной магнитно-резонансной томографии и других методов сканирования мозга в качестве доказательства в судах крайне сомнительно из-за низкой достоверности самих этих методов, хотя многие исследовательские группы утверждают, что их точность превышает 90 %: http://journal.frontiersin.org/article/10.3389/fpsyg.2015.00709/full

Американская телекомпания PBS сняла фильм The Man Who Saved the World ( Человек, который спас мир ) об инциденте, в котором Василий Архипов предотвратил советский ядерный удар по Америке: https://www.youtube.com/watch?v=4VPY2SgyG5w

Рассказ о том, как Станислав Петров не поверил поступившим предупреждениям о готовящейся ядерной атаке Соединенных Штатов на СССР, лег в основу фильма The Man Who Saved the World ( Человек, который спас мир – этот фильм не следует путать с другим, упомянутым в предыдущей сноске, с таким же названием). В 2008 году Петров был приглашен в штаб-квартиру ООН, где получил награду Ассоциации граждан мира: https://www.youtube.com/watch?v=IncSjwWQHMo

Открытое письмо от исследователей в области искусственного интеллекта и робототехники о запрете автономного оружия: http://futureoflife.org/open-letter-autonomous-weapons/

В американском правительстве, очевидно, есть люди, стремящиеся развязать гонку AI-вооружений: http://tinyurl.com/workquote

Исследование неравномерности распределения богатства в США с 1913 года: http://gabriel-zucman.eu/files/SaezZucman2015.pdf

Доклад Oxfam о глобальном неравенстве: http://tinyurl.com/oxfam2017

Данные взяты из: Facundo Alvaredo, Anthony B. Atkinson, Thomas Piketty, Emmanuel Saez, and Gabriel Zucman, The World Wealth and Income Database (http://www.wid.world, 31/10/2016).

Прекрасное обоснование гипотезы технологически обусловленного неравенства дано в: Erik Brynjolfsson & Andrew McAfee. The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies . Norton, 2014.

Статья в The Atlantic о падающих заработках у представителей наименее образованных слоев общества: http://tinyurl.com/wagedrop

Презентация Джеймса Манийки, показывающая перераспределение доходов от труда к капиталу: http://futureoflife.org/data/PDF/james_manyika.pdf

Прогноз относительно автоматизации рабочих мест Оксфордского университета ( http://tinyurl.com/automationoxford) и Мак-Кинзи ( http://tinyurl.com/automationmckinsey)

Робот-повар: https://www.youtube.com/watch?v=fE6i2OO6Y6s

Марин Солачич исследовала эти возможности во время семинара 2016 года “Компьютеры пошли вразнос: прямое и косвенное воздействие достижений в развитии искусственного интеллекта на общество”: http://futureoflife.org/2016/05/06/computers-gone-wild/

Предложения Эндрю Макафи по созданию большего количества хороших рабочих мест: http://futureoflife.org/data/PDF/andrew_mcafee.pdf

В дополнение ко многим академическим статьям, доказывающим, что “на этот раз все будет по-другому”, в этом ролике Люди на работу не требуются в сжатой форме проводится та же мысль: https://www.youtube.com/watch?v=7Pq-S557XQU

Бюро по трудовой статистике США: http://www.bls.gov/cps/cpsaat11.htm

Аргумент “на этот раз все будет по-другому” в пользу технологической безработицы: Federico Pistono. Robots Will Steal Your Job, but That’s OK , 2012, http://robotswillstealyourjob.com

Колебания численности популяции лошадей в США: http://tinyurl.com/horsedecline

Метаанализ, показывающий, как безработица отражается на благосостоянии: Maike Luhmann et al. Subjective well-being and adaptation to life events: a meta-analysis. Journal of personality and social psychology 102.3 (2012): 592, https://www.ncbi.nlm.nih.gov/pmc/articles/PMC3289759

Исследования причин, определяющих субъективное благосостояние:

Angela Duckworth, Tracy Steen, and Martin Seligman 2005, Positive Psychology in Clinical Practice ( http://tinyurl.com/wellbeingduckworth); Weiting Ng & Ed Diener, What matters to the rich and the poor? Subjective well-being, financial satisfaction, and postmaterialist needs across the world. Journal of personality and social psychology 107.2 (2014): 326 ( http://psycnet.apa.org/journals/psp/107/2/326); Kirsten Weir. More than job satisfaction ( http://www.apa.org/monitor/2013/12/job-satisfaction.aspx)

Перемножение примерно 10 11нейронов, примерно 10 4синапсов на нейрон и одного (10 0) возбуждения нейрона в секунду дает примерно 10 15FLOPS (1 petaFLOPS) – такого быстродействия достаточно для симуляции человеческого мозга, но здесь есть много плохо понимаемых осложнений, в том числе закон, по которому происходят возбуждения, и вопрос, надо ли отдельно симулировать небольшие части нейронов и синапсов. Специалист IBM Дхармендра Модха оценил необходимую производительность в 38 petaFLOPS ( http://tinyurl.com/javln43), а нейробиолог Генри Маркрам дал другую оценку – около 1 000 petaFLOPS ( http://tinyurl.com/6rpohqv). Катья Грейс и Пол Кристиано утверждают, что наиболее дорогой аспект симуляции мозга не в вычислениях, а в коммуникациях, но и это под силу современному суперкомпьютеру: http://aiimpacts.org/about