Роберт Хайнлайн - Фрайди. Бездна (сборник)

– Нет.

– Только генный инженер или кто-то очень тесно связанный с этой отраслью может утверждать, что у него есть друзья среди ИЧ. И это потому, моя дорогая, что, вопреки распространенным мифам, отличить искусственного человека от обычного совершенно невозможно. Да-да… А из-за нелепых предрассудков, свойственных тупым и невежественным людям, искусственный человек почти никогда добровольно не признается в своем происхождении. Да что там – «почти», вообще никогда! Поэтому, хоть я и очень рад, что у тебя не едет крыша от разговора об ИЧ, мне приходится расценивать твое утверждение как… Ну, как гиперболу, что ли, к которой ты прибегла, чтобы продемонстрировать свою свободу от предрассудков.

– Что ж… Ладно. Пусть будет так. Я не понимаю, почему ИЧ должен считаться гражданином второго сорта. Это несправедливо.

– Несправедливо. Но некоторые люди напуганы. Спроси, например, у Жана. Он готов сейчас сломя голову мчаться в Ванкувер, только чтобы не дать ИЧ возможности стать пилотами. Он…

– Заткниииись! Черта с два! Я поддерживаю это потому, что мои братья по гильдии так проголосовали, но… Я же не идиот! Джордж, я же живу с тобой, мы общаемся, и… Я понял, что тут нужен компромисс, – мы должны как-то договориться. Мы ведь в нынешнем веке уже не настоящие пилоты – все делает компьютер. Если компьютер вырубится, я, как настоящий бойскаут, попытаюсь посадить коробку на землю, но… Не спеши ставить на меня! Скорости, требующиеся в критические моменты, давно уже лежат за пределами человеческих возможностей… Ну конечно же, я постараюсь! И каждый пилот на моем месте выложится, но… Джордж, если ты можешь создать ИЧ, который будет мыслить и действовать со скоростью, достаточной, чтобы справиться с проблемами во время посадки, я ухожу на пенсию. Это все, чего мы добиваемся: если компания заменит нас ИЧ, нам должны быть выплачены все наши деньги. Если ты, конечно, и впрямь можешь создать такое…

– Ну разумеется, я мог бы это сделать. И когда я сотворил бы это и если б мне разрешили его клонировать, все пилоты могли бы спокойненько отправляться удить рыбу до конца своих дней. Но это был бы не ИЧ, а искусственное существо. Если бы мне пришлось создавать организм, способный обеспечить полную безопасность при пилотировании, я никогда не стал бы ограничивать себя таким потолком – соблюдать абсолютную его идентичность обычному человеку…

– Не надо этого делать!

Мужчины уставились на меня с изумлением, а Жанет – с любопытством. Я же… пожалела, что не прикусила себе язык вовремя.

– Почему нет? – поинтересовался Джордж.

– Ну… Потому что я никогда бы не села на такой корабль. Гораздо безопаснее я чувствую себя с Жаном.

– Спасибо тебе, Мардж, – улыбнулся Жан, – но… Ты ведь слышала, что сказал Джордж. Речь идет о пилоте, который будет делать все лучше, чем я. Это вполне возможно. И так оно, черт возьми, и будет. Как шахтеров вытеснили кобольды – так же заменят и нас. Я не обязан кричать «ура» по этому поводу, но я не могу закрыть на это глаза.

– Что ж… Скажи, Джордж, ты работал когда-нибудь с компьютером, наделенным интеллектом?

– Конечно, Марджори. Искусственный интеллект – та область, которая очень тесно переплетается с моей.

– Хорошо. Тогда ты должен быть в курсе, что множество раз специалисты по искусственному интеллекту заявляли, что они совершили прорыв и вплотную подошли к созданию компьютера, наделенного сознанием. Но каждый раз такой компьютер сходил с ума.

– Да. Это печально.

– Нет. Неизбежно. Это всегда будет кончаться именно так. Компьютер может стать полностью разумным – какие сомнения?! Доведите его до уровня сложности, идентичного человеческому мозгу, и ему придется стать разумным. Но тогда он осознает, что он – не человек. Потом он обнаружит, что никогда не станет человеком и все, что он может, – это сидеть и подчиняться человеческим приказам… И тогда он сходит с ума. – Я пожала плечами. – Это неразрешимая дилемма. Он не может быть человеком, и никогда не сможет. Может быть, Жан и не сумеет спасти своих пассажиров, но он постарается. Искусственное же создание, не будучи человеком и не испытывая никакой лояльности по отношению к человеческим существам, может запросто разбить корабль… Просто так! Просто потому, что он устал от несправедливого обращения с ним. Нет, Джордж, лично я полечу с Жаном, а не с твоим ИС, который в конце концов научится ненавидеть весь род людской.

– Только не с моим ИС, дорогая, – мягко поправил меня Джордж. – Разве ты не заметила, в каком наклонении я все время обсуждал этот проект?

– Нет. Мне кажется…

– В сослагательном. Потому что ты не сказала мне сейчас ничего нового. Я никогда над этим не работал и не стану работать. Я способен создать такого пилота. Но я не способен встроить в этого ИС те этические установки, которое есть у Жана.

– Возможно, мне стоит на предстоящей встрече потребовать, чтобы любой пилот, будь он ИЧ или ИС, проходил этический тест, – задумчиво произнес Жан.

– Какой тест, Жан? Я не знаю, как внедрить в эмбрион этические понятия, а Мардж только что убедительно объяснила, почему в данном случае не помогут никакие тренировки и обучения. Но так или иначе, каким тестом ты это обнаружишь?

Джордж повернулся ко мне:

– В студенческие годы я прочитал несколько классических рассказов о роботах-гуманоидах… Да, очаровательные рассказы, и многие из них были основаны на так называемых законах робототехники. Ключевая идея была в том, что этих роботов создавали с заложенным в них правилом – не причинять вреда человеку своим действием или бездействием. Прекрасная основа для фантазии, но… Как это сделать на практике? Что может заставить разумный организм нечеловеческого происхождения, электронный или органический, быть лояльным по отношению к людям? Я не знаю, как это сделать. Специалисты по искусственному интеллекту тоже не в курсе. – Джордж усмехнулся. – Разумность можно определить как уровень мышления, на котором разум вопрошает: «А что мне с этого будет?» Ну-с, Мардж, – продолжал он, – как насчет продажи мне одного прекрасного свежего яичка? Видимо, мне нужно рассказать тебе, что тебе с этого будет.

– Не слушай его, – вмешалась Жанет, – он положит тебя на холодный стол и станет вторгаться в лоно любви без малейших романтических намерений. Я-то знаю, я ведь уже трижды имела глупость поддаться на его уговоры. И он даже не заплатил мне.

– Как же я мог тебе заплатить, если у нас с тобой все общее? Марджори, дорогая моя леди, стол совершенно не холодный, он мягкий, и ты можешь в это время читать, смотреть в терминал, разговаривать или делать все, что тебе заблагорассудится. Теперь эта процедура уже не та, что была сто лет назад, когда лезли через брюшную полость и нередко повреждали яичники. Если ты…