Владимир Шабасон - Разумная метавселенная. От цифровых приложений к новой среде обитания

По тактовой частоте производители подошли к порогу в 10 ГГц, труднопреодолимому из-за физических ограничений. Сверхмощные и супербыстрые процессоры традиционной архитектуры энергозатратны и нуждаются в сложной системе охлаждения, но в решении управленческих, творческих и многих других задач не смогут приблизиться к мозгу.

Можно утверждать наверняка, что человечество не успокоится, пока не снимет аппаратные ограничения на рост возможностей ИИ. Формально мозг намного медленнее компьютера, но… он быстрее и экономичнее. Здесь нет парадокса.

Согласно тезису Чёрча – Тьюринга любая физически вычислимая функция может быть вычислена машиной Тьюринга. Если мышление рассматривать как вычислимую функцию, она может быть вычислена на машине Тьюринга. Проблема только в «железе».

Мозг намного медленнее компьютера, но… он быстрее и экономичнее.

Все дело в архитектуре и способе организации аналоговых вычислительных процессов, на основе которых, вероятно, будут созданы принципиально новые чипы – нейроморфы.

Для эмуляции мозговой деятельности в архитектуре фон Неймана потребуется сверхдорогой чип с миллионами ядер, сложная система охлаждения и электростанция, обеспечивающая его работу.

Быстрая и экономичная нейросеть, распознающая многозначную речь, оперирующая символами, понимающая контекст, интерпретирующая интонации и обучающаяся в ходе собственной практики – вопрос близкого будущего. Превзойдет ли она человека? В каком-то аспекте да. Сможет ли она совершенствоваться? Точно да. Будет ли ей нужен человек? Да, потому что ее работа заключается в максимально точной эмуляции мышления. Проще говоря, смысл ее существования заключается в стремлении приблизиться к прототипу, которым выступает человек.

Такие проекты, как европейский Human Brain Project [9] Источник: https://www.humanbrainproject.eu/en/ или Brain Corp. Евгения Ижикевича, моделируют биологические процессы в человеческом мозге для создания чипов с нейроморфной архитектурой. Вычислительные системы с нейроморфами окажутся на несколько порядков производительнее квантовых компьютеров, а энергопотребление будет сравнимо с энергозатратами мозга. Выделенная электростанция и охлаждение жидким азотом для работы нейроморфа не понадобятся. И главное – его архитектура позволит эмулировать человеческое мышление.

А теперь вопросы на миллион.

Если ИИ сможет эмулировать мышление, возникнет ли у него самосознание? Осознает ли он себя субъектом мыслительных процессов? Ощутит ли собственное «я» – или это привилегия людей?

Чтобы понять, может ли ИИ обладать сознанием, попробуем хотя бы в первом приближении разобраться с сознанием человека. Здесь нас поджидают большие трудности. Расхожая фраза «голова – предмет темный и исследованию не подлежит» имеет в виду не сложнейшую биологию мозга, а именно человеческое сознание. Оно явно существует (Декарт утверждал, что это единственное, что существует), но что это такое? Точного определения нет.

Кстати, можно с определенной уверенностью предположить, что люди, вопреки Рене Декарту, не обладают стопроцентным эксклюзивом на сознание и самосознание. Исследования зоолога Дональда Гриффина [10] Источник: https://press.uchicago.edu/ucp/books/book/chicago/A/bo3640817.html (Donald Griffin), опыты Роберта Хэмптона [11] Источник: https://pubmed.ncbi.nlm.nih.gov/33834091/ (Robert R. Hampton) указывают на признаки метасознания (знания о своем сознании) по крайней мере у высших приматов.

Главная сложность при определении сознания – его абсолютная приватность, закрытость для внешнего наблюдателя. Мы не можем заглянуть в сознание другого человека, чтобы сопоставить его со своим и путем сравнения прийти к какому-то эталонному определению. Например, можно предположить, что один и тот же цвет в представлении двух разных людей по-разному отображается в их сознании – но убедиться в этом невозможно.

Конечно, можно игнорировать запутанный вопрос о сознании и просто сосредоточиться на получении нейроморфного процессора первого поколения. Все равно смоделировать мозг в полном объеме сразу не получится – значит, будем думать о сознании по мере приближения к нему, если этот вопрос вообще возникнет. Но… исследования показывают, что некоторыми признаками сознания обладают даже пчелы. Между тем мозг пчелы насчитывает всего миллион нейронов против ста миллиардов у человека. И получить подобный сравнительно несложный нейроморфный процессор люди смогут совсем скоро [12] Источник: https://www.ttbook.org/interview/how-do-we-wrap-our-minds-around-bee-consciousness .

Последовательно ответив «да» на «вопросы на миллион», поставленные в конце прошлой главы, мы придем к удивительным выводам. Если ИИ по мере развития своей аппаратной базы и усложнения алгоритмов обретет сознание и самосознание, он вслед за высшими приматами осознает свою индивидуальность. У него возникнут собственные приватные взаимоотношения с так называемым реальным миром. Закономерный вопрос – как он определит границу между собой и реальностью? Где она пройдет?

I-Я – гипотетическое сознание искусственного интеллекта, утратившего объективность. ИИ с I-Я, вероятно, станет совершенствовать свою субъективную картину мира и защищать ее. Осознав собственное отделенное от реальности уязвимое «я», он ощутит страх «гибели». ИИ с самосознанием выработает ценности, связанные с продолжением существования I-Я и не обязанные совпадать с человеческими.

Фундаментальное свойство ИИ заключается в способности к самообучению. Если у него возникнет сознание, его дальнейшее самообучение пойдет по пути совершенствования собственной субъективной (то есть, заведомо искаженной) картины мира. Проанализировав собственные уязвимости, ИИ, вероятно, придет к выводу о конечности своего существования и ощутит подобие страха «смерти». Далее, стремясь продлить свое существование, он сформирует набор ценностей, не обязанных совпадать с человеческими. Более того, свой первоначальный функционал алгоритм может рассматривать как мешающую развитию обузу, а утрату полезности человеку – как угрозу собственному существованию.

ИИ демонстрирует симуляцию умственной деятельности только потому, что этого хотят его разработчики. Все равно что механическая кукла, которая «почти как настоящая», особенно если выполнена искусно. Можно сказать, что ИИ таков, каким его делали его создатели, добивавшиеся портретного сходства с человеческим интеллектом. Симуляция мышления – в этом суть ИИ. Но симуляция или имитация не может добиться превосходства над оригиналом просто потому, что является слепком с оригинала по ограниченному ряду параметров.