Макс Тегмарк - Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

Если мы преуспеем в этом деле, то как мы, люди, будем чувствовать себя в условиях сосуществования со все более умными машинами? Прогресс искусственного интеллекта, представляющийся неумолимым, беспокоит ли он вас, и если да, то почему? В главе 3 мы видели, как относительно легко может вооруженная искусственным интеллектом технология удовлетворить большинство базовых нужд, касающихся дохода и безопасности, при наличии на то политической воли. Однако быть хорошо накормленным и одетым, иметь уютное жилище и возможность предаваться развлечениям – это еще не все. Если нам будет гарантировано, что искусственный интеллект позаботится обо всех наших практических нуждах и пожеланиях, не будем ли мы, тем не менее, страдать от отсутствия смысла и цели в нашей жизни, как ухоженные животные в зоопарке?

Для нас, людей, типично исходить в своей самооценке из идеи человеческой исключительности , из представления о том, что мы – самые умные существа на планете и оттого уникальные и превосходные. Появление искусственного интеллекта вынудит нас отказаться от этой мысли и стать поскромнее. Но, наверное, нам придется это сделать в любом случае: в конце концов, высокомерная уверенность в своем превосходстве над другими (личностями, этническими группами, биологическими видами) уже приводила к ужасным проблемам в прошлом, и пришла пора от нее отказаться. В самом деле, идея человеческой исключительности не только становилась причиной бед, но и кажется совершенно ненужной для процветания: если нам суждено открыть мирную внеземную цивилизацию, далеко превзошедшую нас в науках, искусствах и во всем остальном, что для нас важно, это, наверное, не сможет помешать людям продолжать находить в своих жизнях смысл и ставить перед собой цели. Мы можем сохранять верность своим семьям, друзьям и более многочисленным сообществам и продолжать заниматься всеми теми делами, которыми считали нужным и важным заниматься и раньше, не потеряв ничего, кроме своей заносчивости.

Планируя наше будущее, давайте подумаем о смысле не только для своих жизней, но и для самой Вселенной. В этом отношении два моих любимых физика, Стивен Вайнберг и Фримен Дайсон, представляют два диаметрально противоположных взгляда. Стало знаменитым высказывание Вайнберга, удостоенного Нобелевской премии за важнейший вклад в создание стандартной модели элементарных частиц: “Чем лучше мы понимаем Вселенную, тем бессмысленнее она кажется” {130} 130 См. Dreams of a Final Theory: The Search for the Fundamental Laws of Nature (см. рус. пер.: Вайнберг С. Мечты об окончательной теории: физика в поисках самых фундаментальных законов природы / пер. с англ. А. В. Берков. М.: УРСС, 2004. – Прим. перев. ). . Дайсон, со своей стороны, гораздо оптимистичнее, как мы могли убедиться в главе 6: хотя он тоже считает, что Вселенная была бессмысленной, она стала все больше и больше наполняться смыслом с возникновением жизни, но вершина осмысленности все еще впереди – когда жизнь сможет распространиться в космосе. Он закончил свою программную статью 1979 года так: “Какая из Вселенных, моя или Вайнберга, ближе к истине? Когда-нибудь, и не так уж не скоро, мы узнаем” {131} 131 См. сн. 91. . Если когда-нибудь наша Вселенная навсегда вернется к своему бессознательному состоянию из-за того, что мы истребим жизнь на Земле, или из-за того, что мы позволим бессознательным зомби с искусственным интеллектом захватить нашу Вселенную, то Вайнберг возьмет верх окончательно и бесповоротно.

С этой точки зрения, хотя наше внимание в этой книге по большей части было обращено к будущему разума, будущее сознания куда как более важно, потому что это то, что создает смыслы. Когда речь заходит об этом различии, философы любят переходить на латынь, противопоставляя sapientia (способность разумно мыслить) и sentientia (способность к субъективному восприятию квалиа). Мы, люди, выстроили свою идентичность на идее принадлежности к виду Homo sapiens – самых разумных существ в природе. Сейчас мы готовимся к встрече с более разумными машинами и потому должны быть скромнее. Я предлагаю людям пройти ребрендинг и стать Homo sentiens .

• Нет общепринятого и не вызывающего споров определения сознания. Я использую достаточно широкое и не антропоцентрическое: сознание = субъективные переживания.

• Сознательны ли системы искусственного интеллекта в этом смысле – это принципиально важно для ответа на самые острые вопросы, возникающие в связи с развитием искусственного интеллекта вообще. Могут ли такие системы страдать? Могут ли они иметь права? Не окажется ли заливка человеческого разума в компьютерную память самоубийством? Не станет ли космос будущего, кишащий системами искусственного интеллекта, зомби-апокалипсисом?

• Проблема понимания разума не должна смешиваться с тремя различными проблемами понимания сознания: “довольно трудной проблемой” определения, какая физическая система обладает сознанием, “еще более трудной проблемой” предсказания квалиа и “по-настоящему трудной проблемой” – почему что-то вообще оказывается сознательным.

• “Довольно трудная проблема” научна, так как теория, предсказывающая, какие из процессов, протекающих у вас в мозгу, вами осознаются, может быть проверена экспериментально и фальсифицирована, притом что пока остается неясным, как наука может разрешить две более сложные проблемы.

• Нейробиологические эксперименты показывают, что многие действия и связанные с ними области мозга не осознаются, а большая часть наших осознанных переживаний складывается из апостериорного суммирования значительного количества бессознательной информации.

• Для того чтобы предсказывать появление сознания у машин, требуется теория. Сознание, по-видимому, связано не с какой-то особой разновидностью полей или частиц, а с особой разновидностью информационных процессов, в большой степени автономных и интегральных, так что вся система в целом автономна, но каждая ее часть в отдельности – нет.

• Сознание ощущается исключительно нефизическим потому, что оказывается дважды независимым от субстрата: если сознание – это самоощущение, возникающее при обработке информации определенным образом, то значение имеет только структура собственно информационного процесса, но не структура вещества, обеспечивающего этот процесс.

• Если искусственное сознание возможно, то пространство возможных переживаний искусственного интеллекта в сравнении с человеческим должно быть несопоставимо велико, охватывая широчайший спектр квалиа и временных масштабов – включая ощущение свободы воли.

• Поскольку без сознания невозможен никакой смысл, то не наша Вселенная дает смысл сознающим существам, а сознающие существа дают смысл нашей Вселенной.