Шон Кэрролл - Вселенная

В романе Роберта Э. Хайнлайна «Луна жёстко стелет» колонисты-лунтики восстают против Главлуны. Их положение было бы практически безнадёжным, если бы не Майк — центральный компьютер, управлявший всеми основными автоматизированными процессами в большинстве лунных городов. Майк был не просто очень важной машиной — он совершенно спонтанно обрёл самосознание. Вот как это описывает рассказчик, Мануэль О’Келли Дэвис.

В мозгу у человека что-то около десяти в десятой нейронов. По третьему году в Майка нейристоров запичужили столько и ещё полстолько.

И он созрел.

Мануэль О’Келли Дэвис — наладчик компьютеров, не особенно задумывающийся о том, как у Майка пробудилось сознание и каковы глубинные причины этого. Совершается революция, она должна победить, а появление самосознания — вероятно, такая штука, которая всегда происходит с думающими устройствами, как только они становятся достаточно крупными и сложными.

Вероятно, в реальности всё несколько сложнее. В человеческом мозге много нейронов; но они не просто соединены как попало. У коннектомы есть структура, постепенно развившаяся под действием естественного отбора. Есть такая структура и в архитектуре компьютера как на программном, так и на аппаратном уровне, но представляется маловероятным, что подобная компьютерная архитектура может обрести самосознание просто по воле случая.

А что, если бы такое произошло? Как бы мы узнали, что компьютер именно думает, а не просто выполняет бездумные операции с числами? (И есть ли разница?)

* * *

Некоторыми из этих проблем ещё в 1950 году занимался британский математик и информатик Алан Тьюринг. Тьюринг описал так называемую игру в имитацию, более известную под названием «Тест Тьюринга» . С восхитительной прямотой Тьюринг начинает статью словами: «Я собираюсь рассмотреть вопрос “Могут ли машины мыслить?”». Но сразу же решает, что подобный вопрос потонул бы в бесконечных спорах о терминологии. Поэтому, в лучших научных традициях, он отбрасывает этот вопрос и заменяет более прикладным: может ли машина беседовать с человеком таким образом, чтобы человек принял эту машину за другого человека? (Самые лучшие философские традиции с упоением увлекли бы нас в споры о терминологии). Тьюринг утверждал, что способность сойти за человека в таком испытании — разумный критерий, определяющий, что такое «думать».

Тест Тьюринга закрепился в нашем культурном лексиконе, и мы регулярно читаем новостные сюжеты о том, что та или иная программа наконец-то прошла тест Тьюринга. Пожалуй, в это сложно не поверить — ведь мы живём в окружении машин, которые рассылают нам электронную почту, управляют нашими автомобилями и даже говорят с нами. На самом деле ни один компьютер и близко не подобрался к прохождению настоящего теста Тьюринга. Те соревнования, о которых пишут в новостях, неизменно устроены так, чтобы собеседники не могли озадачить компьютер таким образом, как предполагал Тьюринг. Вероятно, когда-нибудь мы достигнем такого уровня, но современные машины не «думают» в тьюринговском понимании.

Когда и если нам удастся сконструировать такую машину, которая к почти всеобщему удовлетворению пройдёт тест Тьюринга, мы по-прежнему будем спорить о том, на самом ли деле машина «думает» именно так, как думает человек. Существует проблема сознания, а также смежная с ней проблема «понимания». Неважно, насколько умные беседы сможет вести компьютер, — вопрос в том, сможет ли он по-настоящему понимать, о чём говорит? Если речь зайдёт об эстетике или эмоциях, сможет ли программа, работающая на кремниевом транзисторе, оценить красоту или испытать скорбь, подобно человеку?

Тьюринг догадывался об этом и действительно выдвинул так называемое возражение с точки зрения сознания . Он довольно точно определил эту проблему как различие между точкой зрения «от третьего лица» (как мои действия воспринимают окружающие) и «от первого лица» (как я вижу и понимаю сам себя). Возражение с точки зрения сознания казалось Тьюрингу в конечном счёте солипсическим: единственный способ убедиться в том, что данный человек действительно мыслит, состоит в том, чтобы стать именно этим человеком. Как вы узнаете, что и другие люди в мире обладают сознанием, кроме как по их действиям? Тьюринг предвосхищал идею философского зомби — существа, выглядящего в точности как обычный человек, но не обладающего внутренним опытом, или квалиа .

Тьюринг считал, что, для того чтобы достичь прогресса в этом отношении, нужно сосредоточиться на решении вопросов, на которые можно объективно ответить, наблюдая мир, а не прикрываться рассуждениями о личном опыте, который по определению скрыт от стороннего наблюдателя. С долей очаровательного оптимизма он приходит к выводу о том, что любой, кто глубоко задумается об этих вещах, в конечном итоге с ним согласится: «Большинство из тех, кто поддерживает возражение с точки зрения сознания скорее откажутся от своих взглядов, чем признают солипсистскую точку зрения».

Однако можно утверждать, что о мышлении и сознании нельзя судить извне, но при этом признавать, что остальные люди, вероятно, обладают сознанием. Кто-то может подумать: «Я знаю, что у меня есть сознание, и другие люди похожи на меня, поэтому, вероятно, сознание есть и у них. Однако компьютеры на меня не похожи, поэтому к ним я могу относиться более скептически». Я не думаю, что такая точка зрения правильна, но логически она непротиворечива. Тогда возникает вопрос, на самом ли деле компьютеры настолько от нас отличаются? Правда ли, что такое мышление, которое происходит в моём мозге, качественно отличает его от компьютера? Главный герой Хайнлайна так не думает: «Не вижу никакой разницы, протеиновые это цепи или платиновые».

* * *

«Китайская комната» — это мысленный эксперимент, предложенный американским философом Джоном Сёрлем. Эксперимент призван заострить внимание на том, почему тест Тьюринга, возможно, не позволяет ухватить истинный смысл «мышления» или «понимания». Сёрль предлагает вообразить человека, запертого в комнате с огромными кипами бумаги, причём на каждом листе записан какой-либо китайский текст. В стене есть прорезь, через которую можно передавать листы бумаги, а также имеется набор инструкций в форме справочной таблицы. Человек говорит и читает по-английски, но ни слова не понимает по-китайски. Когда в комнату через прорезь просовывают лист бумаги с каким-то китайским текстом, человек может свериться с инструкциями и выйти на один из имеющихся у него листов бумаги. Затем передать этот лист обратно через прорезь.