Станислав Лем - Фантастика и футурология. Книга 1

Явления подобного рода в будущем будут намного более откровенными и дикими, чем это показано в романе как в некой модели прогноза. Достойно сожаления, сколь равнодушными оказались авторы к предостережениям компетентных в этой области научных дисциплин, особенно психологии с психиатрией. Необходимо уяснить себе, что между художественным творчеством, которое берет на себя функции предостережения (в ситуации использования самых различных инноваций для решения моральных дилемм), и таким творчеством, которое преднамеренно и резко деформирует существующее положение вещей, выдавая ложь за истину, в настоящее время пролегает очень узкая граница. Следует заметить, что такие фильмы, как «Заводной апельсин», пытаются навязать враждебное отношение ко всякому вообще социо– и биоинженерному вмешательству; любая возможная акция такого рода расписывается черными красками и аранжируется так, чтобы вызвать ужас и отвращение. С помощью таких приемов к этическим дилеммам добавляется дезинформация, усугубляющая и так достаточно шаткую ситуацию в этой области; ведь трудно требовать от широкого круга общественности четкой ориентации в проблемах биопсихологии человека, тем более что люди, забавляющиеся «футурологизированием» в области художественного творчества, даже не затрудняются, прежде чем вынести обвинительный приговор, как следует ознакомиться с тематикой своих изысканий. К сожалению, такое явление типично в научной фантастике; авторы с удовольствием демонстрируют нам такие «будущие», где единственным доступным мясным продуктом осталось лакомство в виде черного таракана, мутировавшего до размеров кабана; где меры государства по снижению рождаемости сводятся к садистскому преследованию «особо плодовитых особей» (например, Н. Камин «Люди Ирода»; где из Космоса на Землю залетают бактерии, несущие смерть и разрушение «Штамм „Андромеда“ Крайтона; где подключение микрокомпьютера к мозгу человека в лечебных целях (для устранения эпилептических припадков) превращает пациента в „электронного Франкенштейна“ „Человек-компьютер“; где — как в „Сортировке“ Л.К. Луина — систематическая охота на граждан, вознамерившихся стать невидимками, становится с благословения самого президента демографической политикой США. Такая „футурологическая“ деятельность в своей глупой безответственности имела бы непредсказуемые отрицательные последствия для общества, если бы не тот факт, что западное общество уже никакая „greuelpropaganda“ [30]не сумеет расшевелить.

6. Системная этика относительна в тех границах, которые имеет сама система. Следовательно, она относительна технологически обусловленным переменам. Ей неизвестны такие понятия, как делегирование полномочий человека, осуществляемое по крайней мере в двух разных формах, а также зависимость, впрочем, довольно проблематичная, от рациональности технологического происхождения.

А: «Делегирование полномочий или решений» осуществляется тогда, когда человек создает «псевдоперсонифицированные системы» (роботы, андроиды, автоматы), обладающие каким-то подобием эквивалента внутренней психической жизни и до определенной степени похожие на «человеческие образы», которые им вольно или невольно навязывают, или когда функции принятия решений передаются устройствам совершенно «неперсонифицированным», но таким, которые замещают человека, в частности, там, где возникает необходимость в этически неоднозначном решении.

Первый комплекс проблем можно смоделировать на крайнем примере, который является «механическим соответствием» уже рассмотренной выше проблемы «прививки желания собственной смерти». Можно представить себе ситуацию, когда конструктор должен создать робота, предназначенного для решения только одной задачи: этот робот должен, к примеру, высадиться на какой-то планете и там выполнить определенную работу. Когда он сделает то, что заложено в его программе, необходимость в нем полностью отпадает. Кроме того, условия среды, в которой придется работать этому автомату, могут быть настолько сложными, что робот, сконструированный для более мягких условий, не справится с ситуацией. Другими словами, в качестве исполнителя нужен автомат, наделенный способностью делать выводы, анализировать обстановку, находить оптимальные решения, то есть независимость поведения которого должна быть на уровне человека. Судьбе этого электронного мозга вряд ли позавидуешь, когда он справится с поставленной задачей. Если бы речь шла о машине, ее можно было бы просто оставить на планете или, при необходимости, встроить в нее механизм саморазрушения, который включится после завершения запрограммированных работ. Но робот, интеллектуально похожий на человека и обреченный на разрушение, потому что конструкторы вмонтировали ему в мозг взрывное устройство, это, пожалуй, негодное решение. Но почему? Следовало бы в последнем файле программы закодировать «тягу к смерти», чтобы эта электронная или бионическая личность «по собственной воле и без принуждения» покончила с собой. Но там, где в игру вступает запрограммированный «Танатос», не может быть и речи о свободе воли. Конструктор в ответ скажет следующее: «Такой подход лишен рационального смысла. Он подразумевает, что система, способная к интеллектуально независимому поведению, должна полностью соответствовать человеку как абсолютному эталону. Такой подход в состоянии породить только бессмыслицу. Допустим, что я послушаюсь моралиста и встрою в автомат влечение к смерти с такими же характеристиками, как половое влечение человека. Либидо очень сильно, но усилием воли его можно обуздать. Пусть то же самое происходит и с моим роботом. После окончания работы он будет жаждать самоуничтожения, но в то же время сможет обуздать свое желание. Тогда, внутренне свободный, но разрываемый между жаждой самоликвидации и желанием продлить свое существование, он будет годами постепенно распадаться на чужой пустой планете. Моралисту этого хотелось? Это именно то идеальное решение, которое я должен принять? Возможно, последует реплика, что такая дилемма не могла бы возникнуть, если бы машина вела себя разумно, но самосознанием не обладала. Однако так как не существует никаких „сознаниеметров“ и о наличии сознания мы можем судить только по внешним проявлениям, то есть по поведению, сходному с нашим, то не может быть критериев, отделяющих роботов с „собственным субъективным миром“ от машин, такого мира лишенных».

После такой речи моралист окажется действительно в затруднительной ситуации. Если он будет настаивать на директиве «максимализации внутренней свободы», то его ждут неприятные сюрпризы от какого-нибудь инженера-психолога, который, поверив ему, что чем душа свободнее, тем в нравственном смысле лучше, начнет встраивать в эту душу доселе неведомые свободы. Он создаст такую технологическую среду и встроит в человека такие бионические устройства, что такой человек сможет только актом воли совершать то, что раньше требовало физических усилий; он сможет, например, убивать других людей, просто мысленно пожелав этого, сможет, отдав мысленный приказ, взрывать звезды; сможет, если только пожелает, узаконить геноцид, ибо за каждым его решением на ментальном уровне автоматически последует практическая реализация соответствующих постановлений и теоретических выкладок. Таким образом, этот радикально обновленный человек будет обладать свободой воли в небывалых, гигантских масштабах, но, естественно, ему не позволено будет употреблять ее во зло. Так как только маньяк «психической свободы» согласился бы на такую «программу оптимизации», очевидно, что для этики нет иного объекта, кроме созданного в процессе эволюции человека, ведь автоэволюционные перспективы подрывают самые основы этики.