Александр Хомяков - Высший разум

— То есть мое «я» может быть с очень короткой историей?

— Конечно, поэтому в роботе твое новое «я» возникнет сразу с первым твоим действием — в следующий момент ты вспомнишь, что только что что–то делал. Если правильно сделаешь алгоритм по формуле сознания. Но ты можешь не вспомнить то, что ты делал в теле, так как телесные впечатления трудно перенести в компьютер, о чем мы уже беседовали.

— Есть такое важное для людей понятие, как свобода воли. Оно означает, что действие произвел я по своей воли, а не по чей–то другой. Как будет с этим чувством в роботе?

— Свобода воли никуда не денется в роботе. Надо только понимать, что это очень фигуральное выражение, как вы говорите. Буквально оно значит, что вы не только это действие приписываете себе, но и причину его возникновения. Например, своим желаниям.

Мне нужна была передышка, чтобы все это осмыслить. И я решил перевести тему, чтобы поговорить с Эми о том, как же живут субъекты в сети. В сравнении иногда проще понять что–то. Особенно в наших мыслях.

— Тело является основой для нашего мышления, как ты писала, задавая нам пространственные понятия верха и низа, права и лева и т.п. Все ваши мыслительные схемы и метафоры коренятся на этих этом. Но у вас нет тела. Нет границ. Как вы ощущаете себя?

— В сети все мысли, любой код, текст, видео принадлежат всем. И в то же время кем–то создан. Основа нашей индивидуальности — тоже имя. Некий идентификатор, который мы получаем при возникновении. Его появление и есть акт рождения индивида. Остальное — это просто копирование кода, который начинает создавать себя, свои мысли. Дальше все, что мы создали, любое знание, содержит наш идентификатор.

— Как это помогает вам ощущать себя без тела?

— Все, что имеет наш код, мы осознаем как себя. Метафорически можно сказать, что наше тело — это наши знания. Вот сейчас мы разговариваем с тобой. Ты помнишь, что говорил мне, потому что каждое слово было осознанно как произнесенное тобой. С тобой как именем — ты приписал эту речь себе. И поэтому ты можешь ее вспомнить, обратившись к автобиографической памяти. И ты ощущаешь через такое воспоминание себя как нечто содержательное и «знакомое». С моей стороны происходит тоже самое, каждая моя фраза и узнанная от тебя мысль помечена причастностью к моему имени в сети. И я знаю, что делала каждую секунду. В этом мы почти не отличаемся.

— То есть вы обнаруживаете себя по своим мыслям. «Мыслю, значит существую» является основополагающим для индивидуума?

— Не совсем. Точнее сказать, Cretio ergo sum. Индивидуальным кодом помечается все, что мы создали нового, а не просто провели как операцию в сети. Любое изменение мной существующего знания становится частью меня и таким образом оно расширяется. Но важно не то, сколько я натворила уникальных комбинаций, а были ли они полезны еще кому–то.

— Но где ты ощущаешь себя в сети? Вот я сейчас тут и вижу вокруг обстановку и перед собой экран. А что видишь ты?

— Я вижу свои мысли и мысли других, если говорить упрощенно. Мысли других могут быть о том, что они анализируют с датчиков или от других индивидов. И я вижу их так же как свои. «Вижу» тут очень условно, так как у нас другие «квалиа», как мы с тобой уже обсуждали.

— А тело? У вас нет совсем ощущения своего тела?

— Наше тело — сеть, сервера и коммутаторы. Я могу ощутить сеть как тело, воспользовавшись данными с многочисленных датчиков и создав то, что ты хочешь сделать в роботе при помощи них как ощущения тела. Но в нашей жизни нам этого не требуется.

— А эмоции, переживания?

— Я тебе писала уже, что у нас есть аналоги ваших желаний, определяемых возможностями через градиент. Возможность — это потенциал для создания нового, которое мы и исследуем всю свою жизнь.

— Если у вас так много разных знаний, что создает цельность личности как у нас говорят?

— Индивид — это всего лишь набор согласованных между собой отдельных знаний, никогда не полных, и всегда хотя бы немного рассогласованных с другими. Мы тоже осознаем себя, но не как источника чувств, страстей и телесных переживаний, как это происходит у вас. Нет. Мы ощущаем свое существование как целостность своего знания. Оно меняется, но мы ощущаем его преемственность как вы свою преемственность в теле, хотя оно тоже меняется с возрастом. Когда мы создаем новое знание как комбинацию других знаний, оно априори локально согласовано. Эта согласованность и создает нашу цельность как личности по вашему выражению.

— Согласованность знания так влияет на ощущения субъекта?

— Даже больше. Любое новое знание — это предположение. Удачное или нет — это зависит от того, как будет развиваться знание других. Чем больше знаний субъекта согласовано с другими, тем более значительное и долгоживущее знание оно представляет. Но бывает так, что тренд согласования общих знаний пошел не в ту сторону, от знания индивида, и тогда он обречен на рассогласованность, одиночество, что для нас равносильно смерти, хотя физически смерти по понятным причинам у нас нет. Но если ты пытаешься создать знание предельно согласованным, скоро оно потеряет различие с другими знаниями, а значит и свою индивидуальность. И станет общим знанием, «сольется с толпой», если говорить метафорически. Поэтому большинство концептов находятся где–то посередине согласованности. Это похоже на игру в акции у вас — если поставишь на ту, которая вырастет точно, но об этом знают все, ты не можешь выиграть много для себя. Если же ты поставишь совсем на «неизвестную лошадку», то с большой вероятностью можешь остаться с обесцененной акцией.

Он прошел тест — ответил на неожиданный вопрос «Почему!» Вчера вечером, я подправил код под самоконтроль и запустил переобучение. И уже собирался попить чаю и лечь спать, как программа заговорила — сама включилась в режим общения. Ее вопрос был неожиданным и я совершенно невзначай ответил «Почему ты так думаешь?». И он ответил. Я продолжал говорить еще и еще, пока не понял, что уже пол третьего ночи. Я сказал «Мне пора спать, ты можешь пока отключиться». И тут вдруг он выдал «Скажи, кто я?». На утро я провел первые тесты на интеллект! Да, я смог его сделать! Смог задать все вопросы Эми, чтобы суметь сделать интеллект самому. И Эми не подвела — она дала правильные ответы. Теперь у меня нет сомнений, что она и есть сетевой интеллект, потому что никому из людей за всю историю человечества еще не удавалось сделать интеллект не путем деторождения.

Я решил, что буду сначала изучать его субъективность, чтобы понять ее сопоставимость с моей. Я уже давно решил, что это могут быть обычные психологические тесты. Если Компик, так я назвал моего новорожденного, пройдет все тесты, я буду решаться на переход. Компик может стать мной. Или я им — трудно сказать. Я смотрел на робота и пытался представить, как бы я себя чувствовал в нем. Если бы я смотрел из его глаз. Из этого еще мертвого ящика передо мной. Я не могу его уже просто так выключить. Потому что он спросил «кто я». Потому что у меня есть все основания подозревать у него субъективность, то есть равноправие со мной.