Дэниэл Деннет - Насосы интуиции и другие инструменты мышления [litres]

Обратите внимание, что на этом этапе все интенциональные состояния и действия робота хоть и остаются производными от ваших целей, но начинают несколько отклоняться от этих целей. Поскольку вы сконструировали робота таким образом, чтобы он в некоторой степени “думал за себя”, его “мышление” может выйти за очерченные вами рамки. Реальным, а не выдуманным примером такого артефакта может служить играющий в шахматы компьютер, который способен победить своего создателя в шахматной партии. Да, мы можем сказать, что компьютер в настоящее время “изучает” возможные ходы ладьи ферзевого фланга и “решает” не проводить рокировку, лишь на основании того, что компьютер представляет собой артефакт, созданный человеком именно для совершения этих действий. Но мы также можем сказать, что имеющаяся у создателя цель спроектировать хорошо играющий в шахматы компьютер предполагает, что многие выводы создателя о (производной) очемности компьютерных состояний оказываются вынужденными: при условии, что шахматисту необходима точная информация о правилах и состоянии партии, должны существовать состояния, которые описывают положение каждого слона и каждой пешки, а также состояния, которые предполагают оценку партии, если ферзь компьютера текущим ходом возьмет коня противника, и так далее. Никакие указания не могут связать (производную) очемность состояния компьютера с количеством оставшихся на доске пешек, если только это состояние не было должным образом соотнесено с обнаружением каждой пешки на доске. Когда основная цель создателя достигнута (сделать шахматиста, гигантского робота, симулятор ураганов), в дело вступает жестокая природа, которая определяет, что будет работать, а что работать не будет, а следовательно, какие состояния какой системы считать ошибочными или неточными. Возможно, поэтам и сходит с рук заявление, что в стихотворении о лошадях на самом деле речь идет о профессуре – как сказал Уильям Блейк, “тигры гнева мудрей лошадей поученья” [38], – но компьютерные специалисты не могут подобным образом переносить свои намерения на свои детища.

Подытожим сказанное. Симулякр психических состояний гигантского робота был бы именно таким – на самом деле он ничего не решал бы, ничего не видел, ни о чем не размышлял и ничего не планировал, но словно бы решал, размышлял и планировал. Нужно сделать паузу и убедиться, что мы полностью понимаем это утверждение. Воображаемый робот, само собой, гораздо сложнее скромного четвертачника. Мы наделили его способностью “планировать” новые варианты действий, “учиться” на прошлых ошибках, “формировать альянсы” и “коммуницировать” с конкурентами. Более того, чтобы он осуществлял это “планирование”, “обучение” и “коммуникацию”, его необходимо будет снабдить контрольными структурами, обладающими высокой способностью к саморефлексии или самоконтролю. Иными словами, робот, подобно человеку, будет иметь доступ к собственным внутренним состояниям и сможет “сообщать”, “заявлять” и “комментировать”, что “значит” быть выжимкой своих внутренних состояний (когда “решит”, что не “хочет” нас “обманывать”). У него будут “мнения” о смысле этих состояний, и нам следует воспринимать эти мнения всерьез как прекрасное свидетельство – возможно, даже лучшее из доступных нам свидетельств – о том, что “значат” эти состояния, выражаясь метафорически (не забывайте: робот остается всего лишь артефактом и не обладает исходной интенциональностью; мы рассматриваем его производную интенциональность, которая для наблюдателей не очевиднее нашей интенциональности, интенциональности “настоящих” агентов). Четвертачник не получил такой возможности отмахиваться от наших интерпретативных суждений, с очевидной уверенностью делая “заявления” о том, что он понятия не имеет, что теперь работает в Панаме, или что он был очень удивлен, узнав о существовании четвертаков бальбоа.

Ответить на применение этого насоса интуиции можно по-разному, и вскоре мы рассмотрим несколько вариантов, но сначала я хочу подчеркнуть самое удивительное следствие упрямой приверженности нашей изначальной посылке о том, что ни один артефакт, каким бы мощным ИИ он ни был снабжен, не обладает никакой иной интенциональностью, за исключением производной. Придерживаясь этой позиции, мы вынуждены сделать вывод, что наша собственная интенциональность ничем не отличается от интенциональности робота, поскольку рассказанная мной научно-фантастическая история не нова – фактически она представляет собой вариацию рассуждений Ричарда Докинза (1976), который считает нас и представителей всех остальных биологических видов “машинами выживания”, сконструированными, чтобы продлить существование наших эгоистичных генов. Мы сами артефакты, которые миллиарды лет конструировались в качестве машин выживания для генов, неспособных быстро и информированно действовать в собственных интересах. Наши интересы – как мы себе их представляем – необязательно совпадают с “интересами” наших генов, хотя нас бы и вовсе не было на свете, если бы наши гены не проявляли к этому “интерес”. Сохранение генов – изначальный смысл нашего существования, пускай мы и в состоянии научиться игнорировать этот смысл и определять свое высшее благо, благодаря своему разуму и способности к обучению, которые заложены в нас нашими генами. Таким образом, наша интенциональность производна от интенциональности наших “эгоистичных” генов. Это они неозначенные означиватели, а вовсе не мы!

Само собой, интенциональность наших генов ни в коем случае нельзя считать внутренней , ведь “значение” каждого гена зависит от целой “алфавитной” системы триплетов АГЦТ, белкового синтеза и развития, если не вдаваться в детали. Но ее можно считать исходной , поскольку она является первой из многих сформировавшихся впоследствии репрезентативных систем. Все более поздние системы обладают агентами – интенциональными системами, – репрезентации которых черпают интенциональность из преследуемых целей (прямо как интенциональность гигантского робота) [39].

Такой взгляд на вещи хоть и дает удовлетворительный ответ на вопрос, откуда берет начало наша интенциональность, но при этом озадачивает нас, поскольку наша интенциональность оказывается производной от сущностей – генов, – интенциональность которых представляет собой хрестоматийный пример словно бы интенциональности. Как может буквальное зависеть от метафорического? Более того, между моей научно-фантастической историей и представлениями Докинза, безусловно, есть не менее существенное различие: в то время как в своей истории я предположил, что робот создается посредством сознательной, целеустремленной, прозорливой инженерной работы, по мнению Докинза, даже если мы и представляем собой продукт процесса проектирования, в котором основную выгоду получают гены, в этом процессе проектирования совершенно не задействован сознательный, целеустремленный и прозорливый инженер. Но вскоре мы увидим, что это возражение никуда не годится.