Макс Тегмарк - Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

Я использую термин “квалиа” в соответствии с определением его в словарях: он означает индивидуальный пример субъективного переживания, – то есть субъективный опыт сам по себе, а не сопутствующую субстанцию, его вызывающую. Имейте в виду, что некоторые люди используют слово в другом значении.

RHP я изначально назвал “очень трудная проблема” (very hard problem), но когда я отослал эту главу Дэвиду Чалмерсу, он мне ответил, что было бы точнее назвать ее “по-настоящему трудной”: “поскольку первые две проблемы (по крайней мере, в таком виде) не были частью трудной проблемы, над которой я думал, тогда как третья из них и есть та самая; поэтому, возможно, сказать про нее ‘по-настоящему трудная’, а не ‘очень трудная’ более соответствовало бы моему замыслу”.

Если наша физическая реальность всецело математическая (или, допуская определенную речевую вольность, ее можно назвать информационной), как я предположил в своей книге Our Mathematical Universe , то никакой аспект реальности – даже сознание – не может оказаться за пределами науки. Действительно, по-настоящему трудная проблема сознания (RHP) с этой точки зрения в точности совпадает с другой – пониманием, как нечто математическое может воспринимать физическое: если какая-то часть математической структуры обладает сознанием, то она будет переживать остальную часть этой структуры как внешний физический мир.

Функциональная магнитно-резонансная томография, электроэнцефалография, магнитная энцефалография, электрокортикография, электрофизиология соответственно. – Прим. перев.

Хотя ранее я использовал слово персептрониум как синоним для слова сентрониум , подразумеваемый смысл первого слишком ограничен, поскольку perceptum подразумевает лишь те субъективные ощущения, источником которых служат наши органы чувств, что исключает, например, мечты или мысли, возникшие в ходе внутреннего диалога.

Это утверждение в потенциальном напряжении с идеей о независимости сознания от субстрата, поскольку, хотя обработка информации на нижних уровнях может различаться, на верхних уровнях, определяющих поведение, она по определению тождественна.

Этот опыт также заставил меня пересмотреть свое отношение к новостям. Хотя мне и раньше было понятно, что большинство из них продаются через торговые точки со своей политической повесткой у каждой, теперь я стал видеть, что их подача всегда тенденциозна, и всякая новость, даже не политическая, предстает в максимальном удалении от своего центра тяжести.

Открытое письмо о дружественном и надежном искусственном интеллекте: http://futureoflife.org/ai-open-letter/

Пример типичного алармизма по отношению к роботам в широкой прессе: http://tinyurl.com/hawkingbots

Замечание по поводу происхождения термина AGI см.: http://goertzel.org/who-coined-the-term-agi/

Hans Moravec 1998, “When will computer hardware match the human brain”, Journal of Evolution and Technology , vol. 1.

Данные о стоимости вычислений в разные годы до 2011 взяты из книги Рэя Курцвейла How to Create a Mind, последующие данные вычислены на основании информации, приведенной в: https://en.wikipedia.org/wiki/FLOPS

Один из создателей теории квантовых вычислений Дэвид Дойч показывает, каким образом квантовые вычисления связаны с многомировой интерпретацией квантовой механики, в книге: David Deutsch. The fabric of reality . London: Penguin, 1997 (есть русский перевод: Дойч Д. Структура реальности. Наука параллельных вселенных. М.: Альпина нон-фикшн, 2015. – Прим. перев. ). Если вас интересует мой собственный подход к квантовым параллельным вселенным как к третьему из четырех уровней мультиверсума, то смотрите мою книгу Our Mathematical Universe (см. рус. пер.: Тегмарк М. Наша математическая Вселенная. В поисках фундаментальной природы реальности . М.: Corpus, 2016 / пер. с англ. А. Сергеев. – Прим. перев. ).

О прорыве, совершенном Google в распознавании образов, см.: https://arxiv.org/pdf/1411.4555.pdf

DeepMind алгоритм глубокого машинного обучения с подкреплением позволил довольно быстро научиться играть в Breakout: https://tinyurl.com/atariai

См. статью, в которой описывается искусственный интеллект DeepMind, совершенствующийся в играх на платформе Atari: http://tinyurl.com/ataripaper

Робот Биг Дог в действии: https://www.youtube.com/watch?v=W1czBcnX1Ww

Запись реакции на революционный ход AlphaGo на 5-й линии: https://www.youtube.com/watch?v=JNrXgpSEEIE

Статья в New York Times о недавних достижениях в машинном переводе: http://www.nytimes.com/2016/12/14/magazine/the-great-aiawakening.html

GoogleTranslate доступен по ссылке: https://translate.google.com

Winograd Schema Challenge см.: http://tinyurl.com/winogradchallenge

Взрыв ракеты “Ариан‐5”: https://www.youtube.com/watch?v=qnHn8W1Em6E

Доклад комиссии по расследованию аварийного пуска “Ариан‐5”: http://tinyurl.com/arianeflop

Доклад по результатам первой фазы расследования неудачного пуска миссии NASA по изучению марсианского климата: http://tinyurl.com/marsflop

Наиболее подробный и связный отчет о том, что авария на старте миссии NASA “Маринер‐1” к Венере была вызвана одной-единственной ошибкой – математический символ, написанный рукой человека, был без верхнего подчеркивания: http://tinyurl.com/marinerflop

Подробное описание причин неудачи с советским зондом “Фобос‐1”, направлявшимся к Марсу, можно найти на с. 308 этой книги: Wesley Huntress & Mikhail Marov. Soviet Robots in the Solar System , Praxis Publishing, 2011.

Как неверифицированный софт обошелся Knight Capital в 440 миллионов долларов всего за 45 минут см.: http://tinyurl.com/knightflop1и http://tinyurl.com/knightflop2

Доклад правительства США о причинах резкого скачка индекса Доу-Джонса 6 мая 2010 года (“Flash Crash”): http://tinyurl.com/flashcrashreport

3D-печать зданий (https://www.youtube.com/watch?v=SObzNdyRTBs), микромеханических устройств (http://tinyurl.com/tinyprinter) и много чего еще (https: //www.youtube.com/watch?v=xVU4FLrsPXs)

Глобальная карта fab-лабораторий: https://www.fablabs.io/labs/map

Новостная заметка об убийстве Роберта Уильямса промышленным роботом: http://tinyurl.com/williamsaccident

Новостная заметка об убийстве Кендзи Урада промышленным роботом: http://tinyurl.com/uradaaccident

Новостная заметка об убийстве рабочего с завода Фольксвагена промышленным роботом: http://tinyurl.com/baunatalaccident

Отчет правительства США о несчастных случаях на производстве со смертельным исходом: https://www.bls.gov/iif/cfoi_revised14.htm

Статистика ДТП со смертельным исходом: http://fortune.com/2017/02/15/traffic-deadliest-year/