Томас Метцингер - Наука о мозге и миф о своем Я. Тоннель эго

Вы, без сомнения, сразу сочтете эту идею не только нелепой и безвкусной, но и опасной. Представляется маловероятным, что такая заявка пройдет хоть одну комиссию по этике в демократическом мире. Однако целью этого мысленного эксперимента было показать, что нерожденные постбиотические эго-машины будущего не нашли бы представителей их интересов в современных этических комиссиях. Первые машины, которые бы удовлетворяли минимально достаточным условиям сознательного опыта и самости, оказались бы в положении человеческих младенцев, искалеченных генной инженерией. Эти машины тоже страдали бы всякого рода функциональным и репрезентационным дефицитом – различными увечьями в силу несовершенства человеческой техники. Можно с уверенностью предположить, что их системы восприятия – искусственные глаза, уши и тому подобное – поначалу будут работать нелучшим образом. Они скорее всего будут полуслепыми, полуглухими, страдать множеством затруднений в восприятии мира и себя в нем – а будучи искусственными эго-машинами, они, по определению , будут способны страдать.

Имея устойчивую телесную я-модель, они смогли бы ощущать сенсорную боль как свою боль. Если их постбиотическая я-модель будет укоренена прямо в саморегулирующиеся механизмы низшего уровня в устройстве – как наша эмоциональная я-модель укоренена в верхней части ствола мозга и гипоталамусе – они будут осознанно чувствующими самостями. Каждый эпизод потери гомеостатического контроля будет для них болезненным, потому что в них будет встроена забота о своем существовании, глубокая форма сопереживания, от которой они не могли бы дистанцироваться. У них будут собственные интересы, и этот факт они будут осознанно переживать. Существует вероятность того, что они смогут эмоционально страдать таким образом, что качественно их страдания будут нам совершенно чужды, а остроту их мы, халатные создатели, не сможем себе даже представить. На самом деле крайне вероятно, что первые поколения таких машин будут иметь очень много негативных чувств, которые будут отзеркаливать постоянные неудачные попытки успешной саморегуляции, вызванные разными неполадками устройства и помехами на высших уровнях обработки информации. Эти негативные чувства были бы сознательны и интенсивны, но во многих случаях мы не могли бы даже понять их или узнать об их присутствии.

Представьте себе следующий шаг эксперимента. Теперь у этих эго-машин будет мысленная я-модель – они станут разумными творцами мыслей. Тогда они смогут не только постичь умом причудливость своего существования – как объектов научного эксперимента, – но и интеллектуально страдать от сознания, что у них отсутствует врожденное «достоинство», которое представляется столь важным для их создателей. Они смогут осознанно представить, что являются лишь второсортными мыслящими гражданами – отчужденными постбиотическими самостями, которых используют как заменимое орудие эксперимента. Как бы почувствовали себя вы, «осознав себя» продвинутым искусственным субъектом, который, при прочном чувстве Я и осознании себя подлинным субъектом, имеет в данном социальном контексте лишь статус товара?

История первых искусственных эго-машин – этих постбиотических феноменальных Я без гражданских прав и без защитников в этических комиссиях – наглядно иллюстрирует, как возможность страдать возникает вместе с феноменальным эго: страдание начинается в тоннеле эго. Отсюда же принципиальный аргумент против научных исследований по созданию искусственного сознания. Альбер Камю говорил о солидарности всех конечных созданий против смерти. В том же смысле все создания, способные страдать, должны быть способны объединиться против страдания. Из такой солидарности нам следует воздержаться от всего, что может увеличить общее количество страдания и смятения во Вселенной. Конечно, на этом этапе возникает множество теоретических осложнений, например, относительно временных рамок страдания или его разных форм и качеств. Несмотря на это, мы можем договориться хотя бы беспричинно и из низших побуждений не увеличивать количество страдания в мире – а создание искусственных машин, по всей вероятности, увеличит его с самого начала. Мы могли бы создать страдающие постбиотические машины, прежде чем поймем, в каких особенностях нашей биологической истории, тела, мозга находится корень наших страданий. Задача предотвращать и уменьшать страдания всюду, где это возможно, относится и к этическому риску. Я думаю, что нам не стоит даже рисковать реализовать проект создания феноменальной я-модели.

Нам – философам, нейроученым и разработчикам искусственного интеллекта – лучше сосредоточиться на понимании и нейтрализации собственных страданий. Пока мы не стали существенно счастливее, чем были наши предки, лучше не пытаться перенести нашу психическую структуру на искусственные носители. Я бы сказал, что следует ориентироваться на классическую для философии цель самопознания и следовать хотя бы минимальному этическому принципу: уменьшать и предотвращать страдание, а не играть, как с огнем, с эволюцией второго порядка, которая вполне может выйти из-под контроля. Если у современной науки о сознании и есть запретный плод, то он состоит в безрассудном умножении страдания посредством создания искусственных эго-машин без ясного осознания последствий.

Машина блаженства: можно ли считать сознательный опыт как таковой благом?

Напрашивается гипотетический вопрос: если бы мы, напротив, могли увеличить количество радости и удовольствия во Вселенной, залив ее самореплицирующимися и блаженными постбиотическими эго-машинами, стоит ли нам это делать? Мое предположение, что первое поколение искусственных эго-машин будет напоминать умственно отсталых детей и принесет больше боли, смятения и страдания, чем удовольствия, радости и проникновения в мир, может оказаться фактически ложным по множеству причин. Такие машины, возможно, будут функционировать лучше, чем мы думаем, и наслаждаться существованием намного сильнее, чем мы ожидаем. Или же мы, как двигатели ментальной эволюции и инженеры постбиотической субъективности, можем сделать это предположение ложным, конструируя только такие сознающие системы, которые либо неспособны переживать феноменальные состояния, подобные страданию, либо смогут наслаждаться бытием в более высокой степени, чем люди. Представьте, что мы сумеем обеспечить машине преобладание позитивных состояний сознания над негативными – что для нее существование будет таким, чтобы жить несомненно стоило. Назовем такую машину «машиной блаженства».