Айзек Азимов - Машины и роботы

С точки зрения физики машина – это устройство, которое переносит силу из одной точки, где она прилагается, в другую, где она используется и в этом процессе изменяет свою мощность и направление.

В этом смысле для человеческого существа трудно использовать что-либо, что не является частью его тела, не включая в этот процесс машин. Пару миллионов лет назад, когда еще трудно было решить, перейдена ли уже грань между обезьяной и человеком, существовала практика обделывания камней, и их острые края служили первобытными ножами.

Даже такой заостренный камень можно считать машиной, поскольку сила, которая прикладывается к тупому концу рукой, передается на острый конец и в процессе становится значительнее. Сила, распространяющаяся по большой площади тупого конца, равняется силе, которая поступает на маленький острый. Следовательно, давление (произведение силы на площадь) увеличивается и, без увеличения общей силы, влияет на действие. И тогда камень с острым краем может «вгрызаться» в предмет – в отличие от круглого камня или человеческой руки.

В реальной жизни никто, кроме самых упрямых физиков, не назовет заостренный камень машиной. В действительности мы считаем машинами достаточно сложные устройства и склонны давать им имена, если они не направляются напрямую человеком.

Чем меньше устройство зависит от человека, тем более механическим оно считается. В результате целая отрасль техники занимается конструированием машин, которые все менее и менее требуют человеческого контроля и все более и более обладают чем-то вроде собственной воли. Заостренный камень – это почти часть руки, которую он никогда не покидает. Копье объявляет о своей независимости в тот момент, когда оно выпущено из руки.

Уход от прямого и постоянного контроля за механизмами позволил человеку, даже в примитивном обществе, сделать шаг вперед по дороге экстраполяции и представить себе устройства, еще более независимые и самостоятельные. И тут же возник некий вид фантазий, который кое-кто, дающий этому термину более широкое определение, чем я, назовет научной фантастикой.

Человек передвигается на ногах при помощи прямого и непосредственного контроля собственных действий; верхом на лошади – управляя более сильными мышцами животного при помощи поводьев и собственных пяток; на корабле – используя невидимую силу ветра. Почему бы не пойти дальше, например, к семимильным сапогам, ковру-самолету, самоходным лодкам? Сила, которая применяется в подобных устройствах, называется «волшебной», ею обладают сверхлюди и наделенные трансцендентальной энергией боги и демоны.

Подобные фантазии касаются не только физических возможностей неодушевленных предметов, но и чрезмерно развитых умственных способностей объектов, считающихся неодушевленными. Искусственный интеллект – вовсе не современное понятие.

Греческий бог огня Гефест, согласно «Илиаде», имел в своем дворце помощниц – золотых механических девушек, которые были так же энергичны, подвижны и умны, как и существа из плоти и крови.

А почему бы и нет? В конце концов, если человек-кузнец создает неодушевленный механический предмет из самого обычного железа, почему бы богу-кузнецу не произвести на свет неодушевленный предмет из благородного металла – золота – и не наделить его разумом? Это очень простая экстраполяция, являющаяся второй натурой писателей-фантастов (которые в примитивные времена, в отсутствие науки, являлись сочинителями мифов).

Однако ремесленники-люди, наделенные достаточным интеллектом, тоже в состоянии создавать механические существа. Вспомните Талоса, бронзового воина, созданного Дедалом – Томасом Эдисоном греческих мифов. Талос охранял берега Крита, обходя остров один раз в день и прогоняя прочь чужаков. Жидкость, которая поддерживала в нем жизнь, удерживалась пробкой, находившейся у него в пятке. Когда аргонавты высадились на Крите, Медея при помощи волшебства вытащила пробку, и Талос лишился своей псевдожизни.

(Придать символическое значение этому мифу очень просто. Крит начиная с IV тысячелетия до нашей эры, еще до того как греки появились в Греции, имел военно-морской флот, первый в истории человечества. Флот позволил жителям острова создать империю, включив в нее близлежащие острова и часть материка. Греческие варвары, напавшие на эти земли, до определенной степени являлись поданными этой империи. Воины в бронзовых доспехах охраняли владения империи на своих кораблях в течении двух тысяч лет – но все-таки потерпели поражение. Пробка была вынута, если можно так сказать, когда в 1500 году до нашей эры на острове Тера началось извержение вулкана и наводнение сильно ослабило критскую цивилизацию. Вот тогда и появились греки. Однако тот факт, что миф является отдаленным и искаженным изложением действительных событий, не мешает ему стать напоминанием о том, как устроено воображение человека.) Получается, что с самого начала машина заставила человечество обратить свое внимание на двоякую проблему. Пока машина полностью находится под контролем человека, она является полезной и заметно облегчает нам жизнь. Однако люди знают по собственному опыту (причем уже довольно давно), что технология развивается, машины неминуемо становятся лучше и сложнее, а их усовершенствование постоянно движется в направлении уменьшения контроля человека и увеличения автономности – причем на головокружительной скорости.

Чем меньше человек контролирует машины, тем более пугающими они становятся. Даже в тех случаях, когда этот процесс внешне не заметен или происходит чрезвычайно медленно, не требуется большого ума, чтобы заглянуть в будущее, во времена, когда машины полностью освободятся от контроля людей. Это нас пугает.

А чего мы боимся?

Самым простым и очевидным ответом является следующий: мы боимся, что машины, переставшие нам подчиняться, могут причинить людям вред. В действительности любое технологическое достижение, даже самое фундаментельное, несет в себе двойной аспект «хорошо-плохо», и, следовательно, мы смотрим на него с любовью и страхом.

Огонь вас согревает, дает вам свет, готовит для вас еду, плавит руду – но если он вырвется на свободу, то сжигает и убивает. Ваши ножи и копья убивают ваших врагов (животных и людей) – но если они оказываются в руках ваших врагов, они становятся смертельно опасны для вас. Примеры можно приводить до бесконечности, потому что нет на свете ни одного вида человеческой деятельности, которая, вырвавшись из-под контроля и причинив вред, не вызвала бы у многих тяжелого вздоха и слов: «Вот если бы мы жили простой и добродетельной жизнью наших предков, которые не знали этих новомодных глупостей!»