Норберт Винер - Корпорация «Бог и голем»
- Название:Корпорация «Бог и голем»
- Автор:
- Жанр:
- Издательство:АСТ
- Год:2018
- Город:Москва
- ISBN:978-5-17-108071-6
- Рейтинг:
- Избранное:Добавить в избранное
-
Отзывы:
-
Ваша оценка:
Норберт Винер - Корпорация «Бог и голем» краткое содержание
В своей последней работе «Корпорация „Бог и голем“» Норберт Винер попытался рассмотреть в контексте религиозного мировоззрения проблемы, с которыми может столкнуться человечество по мере развития интеллектуальных машин.
Практически все мировые религии исходят из того, что Бог создал человека. Человек, в свою очередь, создал машину — включая машину мыслящую. И далее в этом ряду встает вопрос: если Божье творение — человек — оказался способен создать «по своему образу и подобию» мыслящую машину, то не окажется ли способна к самовоспроизведению и сама машина? И какие «моральные ловушки» ставит перед человеком все расширяющееся поле взаимодействия с его собственным созданием — искусственным интеллектом?
Корпорация «Бог и голем» - читать онлайн бесплатно ознакомительный отрывок
Интервал:
Закладка:
Не важно, верим мы в Бога и в Его вящую славу — нам попросту не все на этом свете дозволено. Вопреки усилиям покойного мистера Адольфа Гитлера, мы еще не достигли той вершины надменного морального безразличия, с которой способны отрешиться от добра и зла. Пока мы сохраняем хотя бы крупицу умения ощущать моральную дискриминацию, применение великих сил ради простых целей будет морально равнозначным колдовству и симонии.
При наличии возможности конструировать автоматы, будь то в металле или только мысленно, изучение их производства и теории будет естественным проявлением человеческой любознательности, а человеческий разум задыхается, если сам человек ставит жесткие границы своей любознательности. Но все же имеются такие стороны автоматизации, которые выходят за пределы естественной любознательности и греховны по своей сути. Их воплощением можно признать ту особую категорию инженеров и технических руководителей, которых я предлагаю называть машинопоклонниками.
Мне хорошо известны машинопоклонники моего собственного мира с их лозунгами свободного предпринимательства и экономики прибылей. Думаю, такие люди могут существовать и существуют и в зеркальном мире, где лозунгами выступают диктатура пролетариата, марксизм и коммунизм. Власть и жажда власти суть, увы, суровая реальность, способная принимать разнообразные обличия. Среди ревностных жрецов власти немало тех, кто нетерпим к ограниченным возможностям человечества, прежде всего к ограничениям, налагаемым человеческой ненадежностью и непредсказуемостью. Легко опознать такого руководителя по тому, каких подчиненных он себе подбирает. Эти подчиненные робки, смиренны и всецело преданы своему начальнику, а потому обыкновенно оказываются беспомощными, когда вдруг перестают быть придатками его воли. Они способны трудиться усердно и ретиво, но почти лищены собственной инициативы, этакие евнухи в гареме идей, которым повелевает их султан.
Не считая того, что машинопоклонник находит повод для преклонения перед машиной в ее свободе от человеческих ограничений скорости и точности, имеется и другой мотив, который труднее выявить в каждом конкретном случае, но который должен, по-моему, играть весьма важную роль. Это стремление избегать личной ответственности за опасное или гибельное решение и возлагать такую ответственность на кого-то еще — на случай, на начальство и его политику, которую не положено оспаривать, или на механическое устройство, которое якобы невозможно понять до конца, но которое наделено бесспорной объективностью. Подобные мотивы движут потерпевшими кораблекрушение, когда они тянут жребий, решая, кого из них надлежит съесть первым. На тех же доводах умело пытался строить свою защиту покойный мистер Эйхман. Те же мотивы объясняют появление холостых патронов в боеприпасах расстрельных команд. Несомненно, теми же соображениями будет успокаивать свою совесть тот высокопоставленный чиновник, который нажмет кнопку первой (и последней) атомной войны. На самом деле это старый колдовской трюк, чреватый, правда, обильными трагическими последствиями: клятва принести в жертву первое же живое существо, которое увидишь после благополучного возвращения из опасного путешествия.
Едва такой повелитель осознает, что отдельные функции его рабов-людей могут быть препоручены машинам, он приходит в восторг. Наконец-то он нашел себе нового подчиненного — энергичного, услужливого, надежного, никогда не возражающего, действующего быстро и не требующего никакой личной заботы и опеки!
О подобных подчиненных рассказывается в пьесе Чапека «R.U.R.». Раб лампы не выдвигает никаких требований. Он не просит выходной каждую неделю, не хочет поставить телевизор в своем рабском жилище. На самом деле он вовсе не нуждается в жилище, а просто возникает из ниоткуда, стоит потереть лампу. Если достижение ваших целей вынуждает плыть против ветра общепринятой морали, ваш раб никогда вас не осудит, даже не посмеет бросить вопрошающий взгляд. Теперь вы вольны править туда, куда влечет судьба!
Перед нами образ мышления, свойственный колдуну в полном смысле этого слова. Против таких колдунов предостерегают не только церковные доктрины, но и накопленный поколениями здравый смысл, выраженный в легендах, мифах и творениях сознательных мастеров слова. Все они настаивают на том, что колдовство не просто грех, ведущий в преисподнюю; оно подвергает опасности жизнь на этом свете. Оно словно обоюдоострый меч, который рано или поздно нанесет вам глубокую рану.
В сказках «Тысячи и одной ночи» есть история о рыбаке и джинне, которую уместно вспомнить здесь. Рыбак, забросив сеть у побережья Палестины, вытащил из моря глиняный кувшин с печатью царя Соломона на затычке. Он сломал печать, из кувшина повалил дым, а из дыма сформировалась фигура огромного джинна. Это сверхъестественное существо поведало, что принадлежит к числу тех мятежников, которых одолел великий царь Соломон; поначалу оно собиралось вознаградить того, кто его освободит, властью и богатством, но за минувшие столетия озлобилось, решило умертвить первого же смертного, которого встретит, и готово начать со своего освободителя.
К счастью для него, рыбак, судя по всему, не был обделен смекалкой, а также отлично умел льстить. Он сыграл на тщеславии джинна и убедил того показать, как такое огромное существо может поместиться в столь малом сосуде. Джинн забрался обратно в кувшин, а рыбак тут же закупорил сосуд, кинул его в море и поздравил себя со спасением от смерти. С тех пор он жил счастливо.
В других историях встреча главного героя с волшебством происходит уже не по воле случая; в итоге он то оказывается на краю гибели, а то и вовсе терпит полный крах. Юный прислужник из стихотворения Гете «Ученик чародея» чистит волшебную одежду своего хозяина, подметает пол и носит воду; однажды чародей убывает, поручив слуге наполнить бочку водой. В избытке наделенный склонностью к лени, каковая является истинной матерью изобретательности — напомню, что именно лень побудила мальчишку, который присматривал за машиной Ньюкомена [21] Имеется в виду пароатмосферная машина с поршнем, построенная в 1705 г. английским механиком Т. Ньюкоменом. Легенда приписывает честь «привязывания веревки» некоему X. Поттеру, по имени которого впоследствии устройство, управлявшее автоматическим открыванием и закрыванием клапанов, стали называть «поттеровской веревкой».
, привязать веревку от крана к противовесу, и так был изобретен первый автоматический клапан, — паренек припомнил обрывки заклинаний, подслушанные у хозяина, и попытался заставить веник носить воду в бочку. С этим заданием веник справился послушно и эффективно. Но когда вода начала переливаться через край бочки, ученик вдруг сообразил, что не помнит заклинание, которым чародей укрощал веник. Паренек едва не утонул, но тут вернулся «чародей маститый», который изрек нужные слова власти, а затем как следует выбранил ученика [22] Авторская вольность; стихотворение Гете, где изложение ведется от лица ученика, заканчивается назидательным пассажем — мол, духи подчиняются лишь настоящему чародею, а не недоучке; о наказании ученика речи не идет. Сюжет стихотворения и описания действующих лиц изложены по переводу Б. Пастернака.
.
Интервал:
Закладка: