Норберт Винер - Корпорация «Бог и голем»

Люди с умственным складом машинопоклонников часто питают иллюзию, будто высокоавтоматизированный мир станет предъявлять меньше требований к человеческой изобретательности, нежели мир сегодняшний, и заберет у нас необходимость в решении трудных задач — как тот римский раб, он же греческий философ, который думал за своего господина [26] Имеется в виду Эпиктет, один из основоположников стоической философии. . Это явное заблуждение. Механизм, ориентированный на достижение цели, совсем не обязательно будет стремиться к реализации наших целей, если только мы не сконструируем его соответственно — а при таком конструировании мы должны предвидеть все стадии процесса, для управления которым создается механизм; не следует уповать на робкие попытки прогнозирования, полезные лишь до определенной точки, за которой понадобятся, при возникновении новых затруднений, новые прогнозы. Расплата за ошибки прогнозирования велика уже сегодня и значительно возрастет, когда автоматизация осуществится в полной мере.

В наше время вошла в моду идея, будто возможно предотвратить некоторые опасности, в особенности те, которыми чревата ядерная война, при помощи так называемых самоотключающихся устройств. За подобными представлениями стоит гипотеза, что даже в случаях, когда какое-либо устройство функционирует некорректно, существует возможность управлять его неполадками в безопасном режиме. Например, если выходит из строя насос, будет гораздо лучше, чтобы авария ознаменовалась выбросом воды, а не взрывом при избыточном давлении. Когда мы сталкиваемся с опасностью, хорошо нам понятной, применение самоотключающихся устройств вполне оправданно и полезно. Впрочем, они вряд ли пригодятся в ситуациях, когда та или иная опасность еще не распознана. Если, к примеру, имеется некая отдаленная, но глобальная угроза человечеству, сулящая уничтожение, то лишь пристальное и тщательное изучение общественных явлений способно выявить эту угрозу своевременно. Ведь потенциальные угрозы такого рода лишены зримых признаков, по которым их можно опознать. Потому режим самоотключения, пускай он может быть необходимым для предотвращения гибели человечества, ни в коем случае нельзя считать достаточной мерой предосторожности.

С развитием инженерной техники, которая все больше старается и стремится достигать поставленных человеком целей, усиливается потребность в постановке задач для нее способами, отражающими именно человеческое целеполагание. В прошлом неполное и неадекватное восприятие человеческих намерений было относительно безвредным — только потому, что такому восприятию сопутствовали технические ограничения, затруднявшие для нас выполнение операций, которые подразумевали тщательную оценку этих намерений. Это лишь один из множества примеров того, как бессилие человека до сих пор ограждало нас от разрушительного натиска человеческих прихотей.

Иными словами, в прошлом человечество сталкивалось со многими опасностями, но справляться с ними было значительно легче, поскольку во многих случаях угроза проявлялась лишь односторонне. В эпоху, когда величайшей угрозой являлся голод, спасение приходило через увеличение производства пищи — и оказывалось в итоге, что угроза голода не столь уж и велика. При высокой смертности (прежде всего среди детей) и при малой эффективности медицины отдельная человеческая жизнь считалась великой ценностью, а потому людям справедливо предписывалось плодиться и размножаться. Угроза голода оказывала давление, подобное давлению силы тяжести, к которой наши мышцы, кости и сухожилия приспособлены от рождения.

Перемены в напряженности современной жизни, вызванные как появлением новых забот, так и исчезновением старых, во многом подобны новым проблемам космических полетов. Невесомость, присутствующая в космическом корабле, избавляет от воздействия однонаправленной и постоянной силы тяжести, привычной нам по повседневной жизни. Путешественнику на борту космического корабля требуются ручки и перекладины, за которые он будет держаться; пищу и питье нужно помещать в специальные тюбики; необходимы различные приспособления, позволяющие определять свое положение в пространстве — и даже при всем этом, хотя, как считается сегодня, его физиология пострадает несильно, такой путешественник вряд ли будет чувствовать себя настолько удобно, как ему бы хотелось. Сила тяжести — наш друг как минимум ровно в той же степени, в какой она является нашим врагом.

Точно так же в отсутствие голода перепроизводство еды, бесцельность существования и безрассудное расточительство становятся серьезными проблемами. Развитие медицины является одним из факторов, ведущих к перенаселению, а последнее в настоящее время видится страшнейшей из угроз, с которыми сталкивалось и сталкивается человечество. Былые принципы, по которым люди жили так долго — например, «пенни не потратил — пенни приобрел», — уже нельзя считать бесспорно верными.

Мне довелось присутствовать на обеде в кругу врачей. Они непринужденно беседовали между собой и выказывали изрядную самоуверенность, не опасаясь разговоров на, скажем так, деликатные темы. Постепенно беседа свернула на обсуждение возможности решительного наступления на ту болезнь увядания организма, которую еще именуют старостью. Врачи вовсе не считали, что победа над старостью невозможна; наоборот, они были склонны полагать, что однажды — быть может, в сравнительно близком будущем — момент неизбежной смерти можно будет отдалить, не, исключено, что на необозримый срок, а сама смерть окажется лишь игрой случая, как это происходит у гигантских секвой и, кажется, у некоторых рыб.

Я не хочу сказать, что эти врачи были совершенно правы в своих предположениях (по-моему, они и сами согласились бы, что это лишь предположения), однако авторитет ученых, которые придерживаются той же точки зрения — среди них, в частности, есть нобелевский лауреат, — настолько велик, что было бы непозволительно отвергнуть эту идею как не заслуживающую внимания. Пускай данная идея на первый взгляд кажется весьма утешительной, на самом деле она поистине катастрофична, в первую очередь для врачей. Ведь сразу становится понятно, что человечество как вид не способно вынести бесконечного продления всех жизней, которые рождаются на планете. Дело не только в том, что та часть населения, которая не в силах поддерживать собственное существование, намного превзойдет в численности другую часть, от которой зависит ее существование; нет, вдобавок мы окажемся в неоплатном долгу перед людьми прошлого и, как следствие, попросту не сумеем подготовиться к решению новых задач будущего.