Норберт Винер - Творец и робот

Он отмирает! Он отмирает… Отмирает ли?..

Пусть силы машинного века на самом деле нельзя считать сверхъестественными, но все же они не укладываются в представления простого смертного о естественном порядке вещей. И хотя мы больше не считаем своим долгом приводить эти колоссальные силы в движение ради вящей славы божьей, тем не менее нам представляется неприемлемым пускать их в ход ради суетных или корыстных целей. Грехопадение нашего времени в том, что магические силы современной автоматизации служат для получения еще больших прибылей или используются в целях развязывания ядерной войны с ее апокалиптическими ужасами. Если этому пороку следует дать имя, мы вправе назвать его симонией или колдовством.

Ибо независимо от того, верят или не верят люди в бога, не все им дозволено. В отличие от покойного Адольфа Гитлера мы не достигли еще в своем надменном моральном безразличии того кульминационного пункта, который ставит нас по ту сторону добра и зла. И до тех пор, пока мы хотя бы в малейшей степени сохраним то нравственное чутье, которое позволяет различать добро и зло, применение великих сил нашего века в низменных целях будет в морально-этическом плане совершенно равнозначно колдовству и симонии.

Коль скоро существует возможность создания автоматов в металле или только в чертежах и расчетах, изучение их производства и теории является естественной фазой человеческой любознательности. Мощь человеческого разума сводится на нет, если сам человек ставит какие-то жесткие границы своей пытливости. И все же существуют аспекты автоматизации, которые выходят за рамки узаконенной любознательности и становятся греховными по своей сути. Это можно пояснить на примере технического руководителя особого типа, которого я назвал бы машинопоклонником .

Мне очень хорошо известны машинопоклонники нашего мира с их лозунгами свободного предпринимательства и экономики, основанной на стремлении к наживе. Я думаю, что машинопоклонники могут существовать и существуют и в коммунистическом мире.

Власть и жажда власти – это, к несчастью, реальные силы, которые выступают в разнообразных облачениях. Среди фанатичных жрецов силы встречается немало таких, которые нетерпимо относятся к ограниченным возможностям человечества, и в особенности к ограничениям, связанным с ненадежностью и непредсказуемостью человеческого поведения. Эти обычно скрываемые склонности руководителя можно выявить по облику подчиненных, которых он себе выбирает. Они смиренны, незаметны и готовы выполнить любое его распоряжение; именно поэтому они в общем-то оказываются беспомощными, когда неожиданно перестают быть только механическими исполнителями его воли. Способные проявить огромное усердие и в то же время почти лишенные собственной инициативы, они подобны евнухам в гареме идей, с которыми обвенчан их султан.

Помимо того что машинопоклонник преклоняется перед машиной за то, что она свободна от человеческих ограничений в отношении скорости и точности, существует еще один мотив в его поведении, который труднее выявить в каждом конкретном случае, но который тем не менее должен играть весьма важную роль. Мотив этот выражается в стремлении уйти от личной ответственности за опасное или гибельное решение. Побуждения такого рода проявляются в попытках переложить ответственность за подобные решения на что и на кого угодно: на случай, на начальство, на его политику, которую-де не положено обсуждать, или на механическое устройство, которое якобы невозможно полностью постичь, но которое обладает бесспорной объективностью. Вероятно, мотивы такого же рода движут потерпевшими кораблекрушение, когда они тянут жребий, чтобы определить, кто должен быть съеден первым. Подобными аргументами искусно оперировала защита Эйхмана. Из таких же мотивов исходят и те, кто раздает одним солдатам, исполняющим приговор о расстреле, боевые патроны, а другим – холостые, с тем чтобы каждый солдат так никогда и не узнал, участвовал ли он в убийстве. Несомненно, что подобными же уловками будет пытаться успокаивать свою совесть то высокопоставленное должностное лицо, которое осмелится нажать кнопку первой (и последней) атомной войны. Это старый колдовской трюк, чреватый, правда, трагическими последствиями: после удачного исхода рискованного предприятия приносится в жертву первое встречное живое существо. Как только такой господин начинает сознавать, что некоторые человеческие функции его рабов могут быть переданы машинам, он приходит в восторг. Наконец-то он нашел нового подчиненного – энергичного, услужливого, надежного, никогда не возражающего, действующего быстро и без малейших размышлений!

Подчиненный такого типа выведен Чапеком в его пьесе «R.U.R.». Так же как и раб из «Лампы Аладдина», он ничего не требует. Он не просит каждую неделю выходного дня и не нуждается в телевизоре для своего жилища. Он даже не нуждается в жилище. Но стоит только потереть Лампу, как он появляется из ниоткуда. И если ради ваших целей вы решитесь пуститься в плавание против ветра общепринятой морали, ваш раб никогда не осудит вас, даже не бросит на вас вопрошающего взгляда. Теперь вы свободны плыть, куда вас влечет судьба!

Такая психология свойственна колдуну в полном смысле этого слова. Колдунов такого рода предостерегают не только церковные доктрины, но и органически присущий человечеству здравый смысл, выраженный в легендах, мифах и творениях здравомыслящих писателей. Все они сходятся на том, что колдовство не только грех, ведущий в ад, оно таит в себе опасность для самой жизни на Земле. Это обоюдоострый меч, который рано или поздно пронзит вас.

Здесь уместно вспомнить историю о рыбаке и Джинне из «Тысячи и одной ночи».

Рыбак, забросив сеть вблизи берегов Палестины, выловил закупоренный глиняный кувшин с печатью царя Соломона. Он взламывает печать, и из кувшина вырывается столб дыма, принимающий форму гигантского Джинна. Джинн говорит рыбаку, что некогда он, Джинн, был одним из мятежников, которого великий царь Соломон замкнул в кувшин. Вначале Джинн намеревался вознаградить своего освободителя властью и богатством. Но проходили века, и тогда он решил умертвить первого же смертного, которого он встретит, и прежде всего своего освободителя.

На свое счастье, рыбак оказался находчивым малым, искусно владевшим оружием лести. Играя на тщеславии Джинна, он убеждает его показать, как такое огромное Существо может втиснуться в столь маленький сосуд. Джинн, доказывая это, снова влезает в кувшин. Рыбак тут же запечатывает его, бросает злосчастный кувшин в море и поздравляет себя со спасением. С тех пор он живет, не зная горя.