Макс Тегмарк - Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта

Я впервые встретился с Джулио в 2014 году на конференции по физике в Пуэрто-Рико, куда я пригласил его и Кристофа Коха, и он сразу поразил меня как глубоко ренессансная личность, образованная словно бы смешением Галилео Галилея и Леонардо да Винчи. Его мягкие манеры не могут скрыть его феноменального знания искусства, литературы и философии, а слава о его кулинарных талантах опережает его, куда бы он ни ехал. Один всемирно известный тележурналист однажды рассказывал мне, как Джулио всего за несколько минут соорудил салат, вкуснее которого он в жизни не пробовал. Но я очень быстро понял, что за его мягкими манерами скрывается бесстрашный интеллект, который не побоится следовать за данными, куда бы они ни повели его, независимо от предубеждений и табу истеблишмента. Так же, как Галилей создавал свою математическую теорию движения несмотря на растущее давление со стороны истеблишмента, противящегося отказу от геоцентризма, так и Джулио разработал наиболее точную к настоящему времени математическую теорию сознания, в основе которой его теория интегральной (интегрированной) информации (IIT).

Рис. 8.5

Для данного физического процесса, преобразующего с течением времени начальное состояние системы в какое-то новое состояние, его интегральная информация Ф представляет из себя меру невозможности разделить этот процесс на независимые части. Если состояние каждой части определяется только ее прошлым состоянием и не зависит от того, что происходило с другой частью, то Ф = 0: то есть то, что мы называли системой, вовсе ею не является, а представляет собой две независимые системы, не коммуницирующие друг с другом.

Я уже несколько десятилетий утверждаю, что сознание – это ощущение, возникающее при обработке информации определенным сложным образом {113} 113 Мои работы, где я доказываю, что сознание – это то, что происходит с информацией при ее обработке определенным сложным образом: – https://arxiv.org/abs/physics/0510188 – https://arxiv.org/abs/0704.0646 Max Tegmark (2014) Our Mathematical Universe , Random House. Дэвид Чалмерс формулирует близкую точку зрения в своей книге 1996 года The Conscious Mind : “Переживание – это информация изнутри, физика – это информация снаружи”. . Теория интегральной информации вполне согласуется с этим утверждением, заменяя мою расплывчатую фразу “определенным сложным образом” более точным определением: обработка информации должна быть интегрированной, то есть Ф должно быть велико. И Джулио приводит аргумент столь же сильный, сколь и простой: сознательная система должна быть интегрирована в единое целое, потому что если она будет состоять из двух независимых частей, то эти две части будут чувствовать себя как две различные сознательные сущности, а не одна единая. Другими словами, если часть мозга или компьютера, ответственная за сознание, не может коммуницировать со всеми остальными, то все остальные части не смогут участвовать в формировании его субъективного опыта.

Джулио и его коллеги измерили упрощенную версию Ф при помощи электроэнцефалографа, определявшего отклик мозга на стимуляцию магнитным полем. Их “детектор сознания” и в самом деле очень хорошо работает: прибор показывал, что пациент в сознании, если он бодрствовал или дремал (находился в состоянии легкого сна со сновидениями), и что пациент без сознания, если он был под наркозом или в состоянии глубокого сна (без сновидений). Прибор даже установил наличие сознания у двух пациентов, страдающих от синдрома “запертого человека”, которые не могли ни двигаться, ни общаться каким-либо нормальным способом {114} 114 См.: Adenauer Casali et al. (2013) A theoretically based index of consciousness independent of sensory processing and behavior, Science translational medicine , 5, 198ra105, http://tinyurl.com/zapzip . Так что такая технология может оказаться очень перспективной для врачебной практики, чтобы выяснять, какие пациенты находятся в сознании, а какие нет.

Теория интегральной информации определена только для дискретных систем, множество состояний которых конечно – это могут быть, например, биты компьютерной памяти или упрощенная модель нейронов, находящихся только в одном из двух состояний: включенном или выключенном, активном или пассивном. К сожалению, это означает, что теорию нельзя применить для большинства традиционных физических систем, параметры которых могут изменяться непрерывно: например, координаты частицы или сила магнитного поля могут принимать любое из бесконечного числа значений {115} 115 Теория интегральной информации (IIT) не работает в непрерывных системах. См.: – https://arxiv.org/abs/1401.1219 – http://journal.frontiersin.org/article/10.3389/fpsyg.2014.00063/full – https://arxiv.org/abs/1601.02626 . Если вы будете пытаться применить теорию для таких систем, то получите бесполезный результат, когда Ф равно бесконечности. Квантовая система может быть дискретной, но теория изначально не определена для квантованных систем. Так как же нам заякорить теорию интегральной информации, а также любую другую теорию сознания, использующую теорию информации, на прочном физическом фундаменте?

Мы можем сделать это, основываясь на главе 2, из которой мы узнали о том, как сгустки вещества могут обладать эмергентными свойствами, имеющими отношение к информации. Мы видели, что в качестве устройства, пригодного для хранения информации, может использоваться только нечто такое, у чего есть много долгоживущих состояний. Мы также видели: чтобы быть компьютрониумом , то есть субстанцией, пригодной для проведения расчетов, кроме того, требуется сложная динамика – законы физики должны быть в состоянии заставлять эту субстанцию изменяться достаточно сложным образом, чтобы производить произвольную обработку информации. Наконец, мы видели, что нейронные сети, например, оказываются подходящим субстратом для машинного обучения, потому что, просто подчиняясь законам физики, этот субстрат способен трансформировать себя, все больше и больше приспосабливаясь к проведению нужных вычислений. А теперь мы задаем новый вопрос: что сделает сгусток вещества способным обладать субъективным опытом? Другими словами, при каких условиях сгусток вещества будет в состоянии проделывать следующие четыре вещи:

1 помнить;

2 считать;

3 учиться;

4 накапливать переживания.

Первые три вещи мы изучили в главе 2. Теперь к ним добавилась четвертая. Так же, как Марголус и Тоффоли создали термин компьютрониум для вещества, которое способно выполнять произвольные вычисления, я хотел бы предложить термин сентрониум для абстрактного вещества, которое способно иметь субъективный опыт (от латинского sentio – чувствовать, ощущать) [61] Хотя ранее я использовал слово персептрониум как синоним для слова сентрониум , подразумеваемый смысл первого слишком ограничен, поскольку perceptum подразумевает лишь те субъективные ощущения, источником которых служат наши органы чувств, что исключает, например, мечты или мысли, возникшие в ходе внутреннего диалога. .