Дэниэл Деннет - Насосы интуиции и другие инструменты мышления [litres]

Те из нас, кто с подозрением относится к идее об исходной интенциональности , имеют готовые ответы на все эти вопросы, но окончательно прояснить ситуацию – чтобы эти ответы сумели выстоять в бою с традиционной интуицией – нам поможет третий мысленный эксперимент. (Бойся, читатель! Я собираюсь уговорить тебя отринуть свое чутье.)

3 . Гигантский робот. Допустим, вы захотели пожить в двадцать пятом веке и существует лишь один способ так долго поддерживать жизнь в вашем теле – поместить его в своеобразное гибернационное устройство, где оно сможет сколько угодно покоиться в коматозном состоянии, пока все происходящие внутри него процессы будут замедлены. Вы можете лечь в капсулу жизнеобеспечения, погрузиться в сон, автоматически пробудиться и выйти наружу в 2401 г.

Проектирование капсулы не единственная инженерная проблема, с которой вам предстоит столкнуться, ведь капсула должна быть защищена и обеспечена необходимой энергией (для охлаждения и чего угодно еще) почти на четыреста лет. Вы не можете положиться в этом на детей и внуков, поскольку они умрут задолго до наступления 2401 г., а для более далеких ваших потомков – при их наличии – ваше благополучие вряд ли окажется в приоритете. В связи с этим вы должны спроектировать суперсистему, которая будет защищать вашу капсулу и снабжать ее необходимой энергией на протяжении четырехсот лет.

Существует две базовые стратегии выполнения этой задачи. Первая заключается в том, чтобы найти идеальное – насколько вы можете предугадать – место для установки капсулы, которая будет в достаточном объеме снабжаться водой, солнечным светом и всеми остальными ресурсами, необходимыми вашей капсуле (и самой суперсистеме) в течение заданного времени. Главный недостаток фиксированной капсулы связан с тем, что ее невозможно передвинуть в случае опасности – скажем, если кто-нибудь решит проложить шоссе ровно там, где она расположена. Вторая стратегия гораздо сложнее, но она решает эту проблему: в соответствии с ней необходимо спроектировать для капсулы мобильный комплекс, снабженный требуемыми датчиками и средствами раннего предупреждения, который сможет в случае опасности перемещаться и по мере надобности искать новые источники энергии. Иными словами, нужно спроектировать гигантского робота и установить капсулу (в которой будете находиться вы сами) внутрь него.

Две этих базовых стратегии, очевидно, скопированы из мира живой природы: они примерно соответствуют стратегиям выживания растений и животных. Третья природная стратегия – защищенные споры или семена, которые могут сколько угодно выживать в своей оболочке, – вам недоступна, поскольку ваша система жизнеобеспечения потребляет большое количество энергии, в то время как споры пассивны, а их энергопотребление минимально. Так как нашей цели соответствует стратегия животных, следует предположить, что вы решите построить для своей капсулы робота. Вы должны постараться спроектировать его таким образом, чтобы в первую очередь он “выбирал” действия в ваших интересах. Неверные шаги и ошибки выбора не позволят роботу справиться с защитой вашей жизни до 2401 г., в чем заключается единственный смысл его существования. Само собой, спроектировать такого робота будет очень сложно – вам понадобится высокий уровень профессионализма, чтобы сконструировать “зрительную” систему для руководства его перемещениями, а также другие системы “чувственного восприятия”. Поскольку сами вы будете пребывать в коматозном состоянии и не сможете управлять роботом и планировать стратегии его функционирования, вам необходимо наделить его способностью генерировать собственные планы в ответ на изменение обстоятельств. Он должен “знать”, как “искать”, “распознавать” и затем эксплуатировать источники энергии, как перемещаться на безопасную территорию, как “предвидеть” опасности и затем “избегать” их. Имея такой большой объем работ и сжатые сроки, вы вынуждены во всем экономить, а потому не наделяете своего робота большей распознающей способностью, чем необходимо для распознавания всего того, что он должен распознавать.

И снова обратите внимание, что я поставил все интенциональные, или “менталистические”, термины, такие как “чувственное восприятие”, “искать” и “предвидеть”, в пугающие кавычки, чтобы обозначить, что это особый тип вроде какинтенциональности, производной интенциональности, интенциональности, которая полностью зависит от ваших человеческих целей. Это ваш артефакт, а потому своей интенциональностью он обязан вам, своему создателю. Если бы я опустил пугающие кавычки, меня могли бы обвинить в том, что я пытаюсь приплести сюда идеологию, ссылаясь на тот факт, что инженеры и другие специалисты постоянно используют подобный язык – без пугающих кавычек – для описания характеристик устройства обработки информации (например, лифтовогоконтроллера). Я намеренно этого не делаю . Напротив, я подчеркиваю, что в рамках этого разговора интенциональный язык используется для описания или регламентации способностей артефакта исключительно метафорически. Также обратите внимание, что механизм робота, как и механизм четвертачника, тоже создается с учетом принципа экономии: он должен “обнаруживать” или “распознавать” множество вещей, но его “распознавания” не будут на сто процентов надежны. Он может совершать ошибки, но лишь потребности и желания его создателя определяют, что именно будет считаться ошибкой . Если создатель хотел сконструировать веселого робота-клоуна, который шатался бы по миру, “неправильно распознавая” вещи, то некоторые из его “ошибок” следовало бы считать примерами корректной работы, триумфами системы клоуна.

Вернемся к нашему насосу интуиции: ваша задача усложняется тем, что вы не можете гарантировать, что ваш робот будет единственным роботом, имеющим такую миссию. Если ваше начинание будет продолжено, вашему роботу, возможно, придется конкурировать с другими роботами (и с вашими потомками-людьми) за ограниченные источники энергии, пресной воды, смазок и тому подобных вещей. (См. главу 67, в которой кратко объясняется важность присутствия других агентов.) Несомненно, было бы разумно сконструировать робота таким образом, чтобы его система управления оказалась достаточно совершенна для расчета риска и пользы сотрудничества с другими роботами и формирования взаимовыгодных альянсов, но в то же время любой такой расчет должен представлять собой “быструю и грубую” прикидку, безжалостно урезанную дефицитом времени.

В результате должен получиться робот, способный к некоторому самоконтролю, поскольку, как только вы погрузитесь в сон, вам придется передать своему артефакту пристальный контроль над ситуацией, осуществляемый в реальном времени. В таком случае робот сможет определять вспомогательные цели на основании оценки текущего состояния и влияния этого состояния на итоговую цель (которая по-прежнему заключается в сохранении вашей жизни). Эти вспомогательные цели, возможно, будут уводить его в сторону и вовлекать в вековые проекты, ряд которых может оказаться нерациональным, несмотря на все ваши усилия на стадии разработки. Ваш робот может действовать вразрез с вашими целями и даже совершать самоубийственные поступки, если другой робот, к примеру, “убедит” его отодвинуть главную миссию собственного существования на второй план.