Макс Тегмарк - Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

См. статью Стива Омохундро: http://tinyurl.com/omohundro2008

Глубокая и содержательная книга Ханны Аренд о том, что бывает, когда разум слепо подчиняется приказам, не обращаясь к вопросам этики: Hanna Arendt (1963), Eichmann in Jerusalem: A Report on the Banality of Evil , Penguin (есть русский перевод: Арендт Х. Банальность зла. Эйхман в Иерусалиме / пер. с англ. С. Кастальский, Н. Рудницкая. М.: Европа, 2008. – Прим. пе рев.). Близкая дилемма возникает в работе Эрика Дрекслера ( http://www.fhi.ox.ac.uk/reports/2015-3.pdf): чтобы удерживать сверхразум под своим контролем, его расчленяют на меньшие части, каждая из которых не в состоянии понять всю картину целиком. Если такое получится, то опять же возникает мощное орудие без внутренних моральных ограничителей, способное безропотно выполнять волю своего владельца. Это напоминает расчлененную бюрократию в условиях тиранической антиутопии: одна часть контролирует создание оружия, не зная, как оно будет использоваться, другая – казнит осужденных, не зная, в чем их вина, и т. п.

Современный вариант этого “золотого правила” предложил Джон Ролз: гипотетическая ситуация морально приемлема, если никто не хочет ее изменить, не зная заранее, какое место в ней займет.

Например, IQ многих людей в ближайшем окружении Гитлера был весьма высок: http://tinyurl.com/nurembergiq

Словарная статья о сознании Стюарта Сазерленда довольно любопытна. См.: Macmillan Dictionary of Psychology , Macmillan, 1989.

Эрвин Шрёдингер, один из создателей квантовой механики, сделал это замечание в книге Mind and Matter (см.: Шрёдингер Э. Разум и материя / пер. с англ. А. В. Монаков. Ижевск: НИЦ “Регулярная и хаотическая динамика”, 2000. – Прим. перев. ), обсуждая прошлое: что бы произошло, если бы сознательная жизнь никогда не возникла и не заняла главенствующего места? С другой стороны, возникновение искусственного интеллекта ставит логическую проблему, связанную с тем, что теперь мы сами можем начать разыгрывать пьесу перед пустыми креслами в будущем.

101 Стэнфордская философская энциклопедия приводит подробный обзор различных способов определения и использования слова “сознание”. См.: http://tinyurl.com/stanfordconsciousness

Yuval Noah Harari (2017) Homo Deus , p. 116.

Прекрасное введение в теорию “Системы 1” и “Системы 2” см.: Daniel Kahneman (2011) Thinking, Fast and Slow , Farrar, Straus & Giroux.

См.: Christof Koch (2004) The Quest for Consciousness: A Neurobiological Approach , W. H. Freeman.

Мы осознаем лишь незначительную часть информации (скажем, около 10–50 бит), ежесекундно проходящей через наш мозг. См.: Küpfmüller, K. (1962) Nachrichtenverarbeitung im Menschen, in: Steinbuch, K. (Ed.) Taschenbuch der Nachrichtenverarbeitung , 1481–1502.

Nørretranders, T. (1991) The User Illusion: Cutting Consciousness Down to Size , Viking.

Michio Kaku (2014) The Future of the Mind: The Scientific Quest to Understand, Enhance, and Empower the Mind , Doubleday

– Jeff Hawkins & Sandra Blakeslee (2007) On Intelligence , Times Books;

– Stanislas Dehaene, Michel Kerszberg & Jean-Pierre Changeux (1998) A neuronal model of a global workspace in effortful cognitive tasks, Proceedings of the National Academy of Sciences , 95, 14529–14534.

Знаменитый эксперимент Пенфилда “Я чувствую запах подгоревшего тоста”, см.: https://www.youtube.com/watch?v=pUOG2g4hj8s

Детали о сенсоромоторных отделах коры головного мозга см.: Elaine Marieb & Katja Hoehn (2008) Anatomy & Physiology , 3rd Ed., Pearson, p. 391–395.

Изучение нейронных коррелятов сознания (NCCs) стало занимать в последние годы центральное место среди интересов нейробиологического сообщества. См., например:

Geraint Rees, Gabriel Kreiman & Christof Koch (2002) Neural correlates of consciousness in humans, Nature Reviews Neuroscience , 3, 261–270, и Thomas Metzinger (2000) Neural correlates of consciousness: Empirical and conceptual questions , MIT press.

О том, как работает непрерывное подавление вспышек, см.:

– Christof Koch (2004) The Quest for Consciousness: A Neurobiological Approach , W. H. Freeman;

– Christof Koch & Naotsugu Tsuchiya (2005) Continuous flash suppression reduces negative afterimages, Nature Neuroscience , 8, 1096–1101.

См.: Christof Koch, Marcello Massimini, Melanie Boly & Giulio Tononi (2016) Neural correlates of consciousness: progress and problems, Nature Reviews Neuroscience , 17, 307.

См. с. 250 в: Christof Koch (2004) The Quest for Consciousness: A Neurobiological Approach , Op. cit, а также дальнейшее обсуждение вопроса в Стэнфордской философской энциклопедии ( http://tinyurl.com/consciousnessdelay).

О синхронизации осознанного восприятия см.:

– David Eagleman (2015) The Brain: The Story of You , Pantheon;

– Stanford Encyclopedia of Philosophy , http://tinyurl.com/consciousnesssync

См.: Benjamin Libet (2004) Mind Time – The Temporal Factor in Consciousness, Harvard University Press, Chun Siong Soon, Marcel Brass, Hans-Jochen Heinze, John-Dylan Haynes (2008) Unconscious determinants of free decisions in the human brain, Nature Neuroscience , 11, 543–545, ( http://www.nature.com/neuro/journal/v11/n5/full/nn.2112.html)

См. примеры теоретических подходов к исследованию сознания в:

– Daniel Dennett (1992) Consciousness explained , Back Bay Books;

– Bernard Baars (2001) In the Theater of Consciousness: The Workspace of the Mind , Oxford Univ. Press;

– Christof Koch (2004) The Quest for Consciousness: A Neurobiological Approach , Roberts;

– Gerald Edelman & Giulio Tononi (2008) A Universe Of Consciousness How Matter Becomes Imagination: How Matter Becomes Imagination , Hachette;

– António Damásio (2012) Self Comes to Mind: Constructing the Conscious Brain , Vintage;

– Stanislas Dehaene (2014) Consciousness and the Brain: Deciphering How the Brain Codes Our Thoughts , Viking;

– Stanislas Dehaene, Michel Kerszberg & Jean-Pierre Changeux (1998) A neuronal model of a global workspace in effortful cognitive tasks, Proceedings of the National Academy of Sciences , 95, 14529–14534;

– Stanislas Dehaene, Lucie Charles, Jean-Rémi King & Sébastien Marti (2014) Toward a computational theory of conscious processing, Current opinion in neurobiology , 25, 760–84.

Основательное обсуждение использования термина “emergence” в физике и философии см. в статье Дэвида Чалмерса: http://cse3521.artifice.cc/Chalmers-Emergence.pdf

Мои работы, где я доказываю, что сознание – это то, что происходит с информацией при ее обработке определенным сложным образом:

– https://arxiv.org/abs/physics/0510188

– https://arxiv.org/abs/0704.0646

Max Tegmark (2014) Our Mathematical Universe , Random House.

Дэвид Чалмерс формулирует близкую точку зрения в своей книге 1996 года The Conscious Mind : “Переживание – это информация изнутри, физика – это информация снаружи”.

См.: Adenauer Casali et al. (2013) A theoretically based index of consciousness independent of sensory processing and behavior, Science translational medicine , 5, 198ra105, http://tinyurl.com/zapzip

Теория интегральной информации (IIT) не работает в непрерывных системах. См.:

– https://arxiv.org/abs/1401.1219

– http://journal.frontiersin.org/article/10.3389/fpsyg.2014.00063/full

– https://arxiv.org/abs/1601.02626

Интервью с Клайвом Уэрингом, кратковременная память которого всего 30 секунд, см.: https://www.youtube.com/watch?v=WmzU47i2xgw

Критика IIT Скоттом Аарансоном, см.: http://www.scottaaronson.com/blog/?p=1799

Критика IIT Черрулло, который утверждает, что интеграция – недостаточное условие для сознания, см.: http://tinyurl.com/cerrullocritique

Предсказание на основе IIT, что симулированные люди будут зомби, см.: http://rstb.royalsocietypublishing.org/content/370/1668/20140167