Евгений Ищенко - Двуликий электронный Янус

Хотя роботы все чаще заменяют человека на вредных производствах, но, как выяснилось, они сами создают новые опасности. Наиболее распространенные несчастные случаи, связанные с роботами, – это травмы или даже гибель человека, случайно подвернувшегося под механическую руку, когда робот совершает ею неожиданное быстрое движение. Бывает, что робот прижимает человека к стене, перемещаясь или поворачивая свой корпус. Наносятся травмы и тяжелыми деталями или заготовками, которые иногда вдруг выскальзывают из зажима манипулятора.

Конечно, во всех системах роботов предусматривается та или иная блокировка, задача которой – сделать невозможным пребывание человека в рабочей зоне автомата или исключить возможность движений робота, когда поблизости находится человек. Тем не менее несчастные случаи время от времени все же происходят. Их причины – ошибки в программировании, радиопомехи или наводки по электросети, к которым бывают чувствительны управляющие устройства роботов, наконец, неисправности в системе управления и просто неосторожность рабочих, плохо усвоивших технику безопасности.

Наводит на размышления и ситуация, сложившаяся через несколько недель после открытия выставки «Экспо-85» в японском городе Цукуба близ Токио. Многие из демонстрируемых там суперсовременных роботов стали проявлять… симптомы «заболевания». Специалист по электронике профессор Масахиро Мори охарактеризовал это явление как «перенапряжение» и «утомление». Роботы перестали правильно реагировать на команды, издавали неожиданные звуки. По мнению Мори, главной причиной такого расстройства электронных систем послужили микроскопические частицы пыли, забившиеся в сенсорные устройства. Чепуха вроде бы – пыль, а последствия…

Джеймс Зейглер, специалист из Нью-Йоркского центра исследований компании IBM, был заинтригован целой серией необъяснимых неполадок в компьютерной сети, о которых ему докладывали подчиненные. Объяснение им было найдено осенью 1996 года. Сбои в работе компьютеров, утверждает Зейглер, происходят в результате воздействия некоего космического излучения. Может быть, это лучи солнечного происхождения, а может – сверхбыстрые субатомные частицы, возникающие в результате взрывов сверхновых звезд. Нередко приходится иметь дело с нейтронами, которые стирают участок памяти микропроцессора, попадая на него. Иногда это пи-мезоны, очень тяжелые частицы с отрицательным зарядом, которые производят в микропроцессоре маленький взрыв с разрушением атомов.

Неполадки чаще возникают в местах, расположенных высоко над уровнем моря (там больше шансов, что космические лучи не рассеются в атмосфере). Было подсчитано, что в Денвере таких поломок происходит в 338 раз больше, чем в Нью-Йорке. Географическая широта тоже играет роль: чем ближе к экватору, тем космическое воздействие меньше. А как эти вездесущие частицы действуют на электронные мозги роботов? Едва ли благотворно!

Первый случай «убийства» роботом человека произошел в Японии в 1981 году. Инженер нарушил правила техники безопасности – зашел за ограждение робота-фрезеровщика. В поле зрения машины попала новая «деталь» – он схватил человека в свои железные руки, перевернул его, закрепил на столе и распорол фрезой сверху донизу. Этого бы, конечно, не случилось, обладай робот современными способностями – он запросто отличил бы человека от детали и сжалился бы над ним. Но тогда…

До конца апреля 1987 года в Японии было зарегистрировано десять таких прискорбных фактов, из них в четырех случаях виновным оказался сам человек, а в шести – робот, совершивший неожиданное резкое движение. Ежегодно в Японии отмечается 5–6 случаев травм, связанных с роботами. Всего на заводах Японии трудится несколько сотен тысяч роботов, потому о чем вроде бы говорить? Пустяки.

Пожалуй, наиболее жестоко повел себя по отношению к человеку один советский шахматный суперкомпьютер, поразивший летом 1990 года током гроссмейстера, вчистую обыгравшего его. Электрический разряд, который получил шахматист, коснувшись металлической доски, оказался летальным. С тех пор как было открыто электричество, людей частенько било током, но данный инцидент по-своему уникален: состоялся суд, известие о котором вызвало естественное удивление у юристов.

Вот что заявил следователь: «Это был не несчастный случай, а преднамеренное убийство. Компьютер обладал достаточным сознанием и чувством собственного достоинства, чтобы пойти на такой шаг. Он был запрограммирован на победу, и когда этого не удалось сделать мирным путем, он уничтожил соперника». Возможно, несерьезно рассуждать о виновности компьютера, но высказанная точка зрения заслуживает внимания: машина, способная решать сложнейшие задачи, должна отвечать за свои действия.

Нельзя не отметить, что роботы способны наносить здоровью своих живых коллег и косвенный вред: увеличивая угрозу безработицы, они вызывают у рабочих стресс, который ведет к различным заболеваниям. Чаще всего отмечаются язва желудка, сердечно-сосудистые и психические расстройства. Но и создавая новые рабочие места, роботизация может усиливать стрессовое состояние, поскольку рабочий постоянно опасается отстать от темпа, задаваемого компьютеризированным «коллегой».

Однако все не так однозначно. Робот, названный в шутку Джозефиной, был так прилежен и неутомим, что его хозяева не могли и представить, что вскоре произойдет. А Джозефине, похоже, дьявольски надоела однообразная работа (она склеивала швы). Взяв руками-манипуляторами банку с растворителем, она вылила ее содержимое в свое электронное нутро. Это «самоубийство» произошло на одном из предприятий американского штата Огайо в начале 1987 года.

Робота «Доника» взяли «на поруки» те, кто произвели его на свет. До лета 1985 года он работал официантом в эдинбургском ресторане «Кавио». Беспрецедентный юридический казус благополучно разрешен. Все стороны, участвовавшие в деле, удовлетворены решением британской Фемиды. А сам обвиняемый, говорят, начнет новую жизнь.

В деле все было как положено: и повестка о явке, и присяжные, и судья в традиционном белом парике – лорд Дэвидсон. Механический официант обвинялся в том, что побил посуду, пролил вино, сокрушил мебель и вообще вызвал кутерьму в зале, которая кончилась тем, что робот в шляпе и с галстуком-бабочкой потерял не только голос, но и голову. Она просто отвалилась и упала на колени посетителя.

Первый процесс над электронным существом стал ристалищем, на котором столкнулись ресторатор, не пожалевший денег на техническую новинку, и инженерная мысль в лице лондонской компании «Прожектс Барлоу». Хозяин «Кавио» утверждал, что его диковинный работник, приобретенный за 4887 фунтов стерлингов для привлечения клиентуры, обладал прирожденными, так сказать, дефектами. «Нет, – возразил в суде один из создателей «Доника» Д. Фернандо, – наше детище покинуло отчий дом в полном порядке. Просто бизнесмен от общепита приобрел его не новым, а после службы в другом месте, когда он порядком поизносился».