Алина Распопова - Мы Люди

По залу пробежался гул разочарования.

– Однако я могу предложить метод, который со стопроцентной вероятностью заставит биоников проявить активность, – продолжил Кларк. – Посмотрите на график. После первого удачного эксперимента мне было предоставлено ещё шесть новых подопытных групп. В каждом случае наблюдалось стабильное увеличение активности, активизировались все поведенческие реакции, эффект оказывался стойким и наблюдается у животных и по сей день.

Зал бушевал. Загорелись сигналы, оповещающие о возникших вопросах, но Кларк продолжил:

– Я хотел бы изложить суть моего метода, его можно сформулировать одним словом: «Опасность». Под угрозой исходящей из вне опасности для жизни животных, они активизировались. Вот демонстрация того, чем закончился этот эксперимент для крыс.

Кларк показал тот ролик, в котором крысы активно нападали на андроид.

– Вы уверены, что это те самые животные, которых вы получили для опытов? – попросил подтвердить Лукас Триав.

– Уверен, каждое животное, как это положено перед любым экспериментом было помечено мною электронным маркером. Вот эти животные в начале опыта, вот они же в конце.

Лукас Триав просиял.

– Поясните нам ещё такой вопрос, правильно ли мы все понимаем, что животные начинают проявлять активность только лишь при возникновении угрозы их безопасности? – спросил старик.

– Абсолютно верно, – подтвердил Кларк. – Другого способа мне найти не удалось.

– Позволю на этом месте прервать докладчика и подвести некоторый итог, – сказал Лукас Триав. – Лабораторные животные-бионики, полученные искусственным путем, способны проявлять активность и не только её, они способны принимать решения и совершать командные действия при возникновении опасности, угрожающей сохранности их жизней. Это означает, что мы получили не только метод, но и ответ на вопрос: «Отчего же наши дети-бионики столь пассивны?». Мы избаловали их, поместили в слишком комфортные условия, в которых детям нет смысла развиваться.

Снова зажглись сигнальные лампы о поступивших вопросах. Люди в зале хотели знать, что же конкретно предлагает сделать комитет.

– Сейчас вы заслушаете по этому поводу следующего докладчика, – ответил Лукас Триав. – Но для начала позволим уважаемому Симону Кларку закончить своё выступление.

– Благодарю вас, – закашлялся Кларк. – Итог всей проделанной мною работы таков: для пробуждения психоэмоциональных реакций биоников необходимо поставить в стрессовые условия, угрожающие сохранности их жизни.

– Это невозможно!

– Вы хотите рисковать жизнями наших детей!

– Вы уничтожите наше будущее!

Зал шумел.

– А вот сейчас время нового докладчика. Скажу сразу, нам пришлось рассматривать многочисленные варианты, от самых простых до невероятных. Но всё осложняется тем, что бионики наши дети. Мы обязаны их не уничтожить, и даже не напугать, а сохранить в целости, вернув им присущие людям качества. Нами были отвергнуты методы, при которых детям угрожала бы действительно смертельная опасность. Только тот метод, о котором вы сейчас услышите, мы выносим на обсуждение, как самый перспективный.

В центре зала возник молоденький паренек.

– Мой возраст сравним с возрастом старших на сегодняшний день биоников, однако я один из тех, кто был рожден естественным путем. Моей специальностью является робототехника, ею я увлекаюсь с детских лет, с той самой поры, когда разобрал и собрал заново своего домашнего андроида. Комитет поставил передо мной задачу создать для биоников андроида-врага. Основными требованиями при этом были: реалистичность исходящей от андроида угрозы и в то же время безопасность. Поддавшись настроениям комитета, я принялся разрабатывать новое устройство, способное напугать биоников, пока не понял, что иду неверным путем. Я предложил комитету способ экономичный, безопасный и в то же время невероятно практичный. О нём я и хочу сейчас рассказать. Итак, в настоящее время все отношения между андроидами и людьми регулируются тремя законами робототехники, а именно:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.

Эти принципы закладываются в цифровое ядро любого современного андроида, а анализатор всех ситуаций, в которые может попасть андроид, закладывается в специальный чип. База данных ситуаций огромна и поведение в каждой из них рассчитывается строго с учетом приведенных трех законов. С полной уверенностью мы можем говорить о том, что случаев неисполнения законов робототехники андроидами на сегодняшний день нет, не было и быть не может. Все программы, управляющие поведением андроидов, составлены таким образом, что ни один из них не способен причинить при таком положении вещей человеку вред. Встроенный анализатор ситуаций не позволит сделать ему это. Что же предлагаю я? Я предлагаю всего лишь немного изменить изложенные выше три закона. Вот как они будут звучать:

1. Робот должен заботиться о своей безопасности.

2. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред, если это не противоречит Первому закону.

3. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому и Второму законам.

То есть я предлагаю поменять законы местами, изменив приоритеты. Смотрите, в этом случае получится, что андроиды получают право заботиться о себе. Они по-прежнему не могут причинить вред человеку, пока тот для андроида безопасен, если же человек выносит приказ, несущий опасность андроиду или же в явном виде человек наносит урон роботу, тот будет иметь право защититься. Это значит, что наши дети получат реального противника. Угрозу, исходящую от андроидов, может спровоцировать небольшой конфликт. Нам останется его только дождаться его.

– Да вы хотите андроидов обратить против людей!

– Вы предлагаете нам развязать войну!

Посыпались гневные возгласы.

– Нет, никакой войны не будет, – уверенно ответил молодой докладчик. – Второй и третий закон не позволят андроидам напасть на людей, они всего лишь будут обороняться.

– Вы хотите превратить машины в социальных существ? Вывести их из разряда механизмов?

– А как иначе? Разве вы не видите, что другого выхода нет! Если вам нужна опасность, то лучшего способа, чем защитная реакция андроидов на действия человека не найти. И в этом проекте есть очень важный плюс – андроиды, благодаря возможности проникать в их электронный мозг, по-прежнему остаются контролируемыми, а их действия будут всего лишь ответной реакцией на действия человека.