Питер Сингер - О вещах действительно важных. Моральные вызовы двадцать первого века

Скоро ли гуманоиды поселятся в наших домах? Ноэль Шарки, профессор Шеффилдского университета в области искусственного интеллекта и робототехники, прогнозирует, что работающие родители будут охотно пользоваться роботом-няней, и тревожится о том, как отразятся на ребенке эти часы в обществе машины, не способной к эмпатии, пониманию и сочувствию. Еще один законный вопрос — почему мы разрабатываем энергоемких роботов как раз для тех немногих занятий — уход за детьми или престарелыми, — где могут найти работу люди без образования?

В книге «Любовь и секс с роботами» (Love and Sex with Robots) Дэвид Леви идет дальше и допускает, что мы будем влюбляться в теплых, приятных на ощупь роботов и даже заниматься с ними сексом. (Если у этого робота больше одного полового партнера, просто извлеките соответствующие части, подержите их в дезинфицирующем растворе, и готово. Никакого риска подхватить инфекцию, передающуюся половым путем!) Но как отразится на супружеских отношениях присутствие в доме секс-бота? Что мы почувствуем, когда окажется, что супруга проводит слишком много времени в обществе неутомимого робота-любовника?

Еще тревожнее вопрос, хорошо знакомый нам по книгам и кино: не придется ли нам однажды защищать свою цивилизацию от разумных машин, которые мы сами же и создали? Некоторые считают появление сверхчеловеческого искусственного интеллекта неизбежным и ждут, что это случится не позже 2070 года. Они называют этот этап сингулярностью и считают, что он полностью преобразит мир.

Элиезер Юдковский, один из основателей Института сингулярности и исследований искусственного интеллекта, считает, что сингулярность вызовет «взрывообразный рост разумности»: сверхразумные машины начнут создавать еще более разумные машины и так далее, поколение за поколением. Более осторожная в своих прогнозах Ассоциация развития искусственного интеллекта учредила специальную экспертную панель, изучающую то, что называют «возможной потерей контроля над компьютерным интеллектом со стороны человека».

Если это случится, ключевым для цивилизации станет вопрос: будут ли сверхразумные компьютеры дружественными? Не пора ли задуматься, что можно сделать, чтобы наши собственные создания не превратились во врагов?

Впрочем, пока что беспокоиться стоит не о том, что роботы могут причинить вред человеку, а, наоборот, о том вреде, который роботам можем причинить мы. Сейчас они просто вещь, собственность. Но что, если, усложняясь, они начнут испытывать чувства? В конце концов, что такое человеческий мозг, как не очень сложная машина?

Если машины обзаведутся сознанием, будем ли мы считаться с их чувствами? История отношений с единственными из известных нам чувствующих существ, кроме людей, — с животными — не позволяет надеяться, что чувствующие роботы станут для нас не имуществом, а существами, с чьими моральными правами и интересами необходимо считаться.

Ученый-когнитивист Стив Торренс отмечает, что мощные технологические инновации, например автомобили, компьютеры и телефоны, имеют тенденцию распространяться быстро и неконтролируемым образом. Появление в таком масштабе сознательных роботов, которых мы не примем в свой круг существ моральных, может привести к массовому дурному обращению с ними.

Еще сложнее вопрос, как понять, что робот уже обладает сознанием, а не просто имитирует сознание, потому что его так запрограммировали. Тут может помочь хорошее понимание его программного компонента: позволяет ли написанный его разработчиками код имитировать сознание? Если да, нет причин считать такого робота сознательным. Но если он создан с некими способностями, которые случайным образом привели к возникновению сознания, у нас есть все основания считать его действительно сознательным существом. Не исключено, что движение за права роботов зародится именно в этот момент.

ПОЛВЕКА НАЗАД Мартин Лютер Кинг мечтал, что однажды Америка исполнит свое обещание равенства для всех, белых и темнокожих. Сегодня у основателя Facebook Марка Цукерберга тоже есть мечта: дать доступ в Интернет тем пяти миллиардам людей планеты, у которых его еще нет.

Цель Цукерберга может показаться корыстной: увеличить число пользователей Facebook. Но современный мир сталкивается с растущим разрывом в уровне технологий, который для равенства, свободы и стремления к счастью становится тем же, чем было расовое разделение, ставшее причиной протестных выступлений Кинга.

Больше двух миллиардов людей на Земле живут в цифровой эпохе. Им доступна гигантская информационная вселенная, они бесплатно или почти бесплатно общаются с друзьями и семьей, а также с партнерами по работе, с которыми взаимодействуют совершенно новыми способами. Остальные пять миллиардов застряли в эпохе бумажной, в которой выросло мое поколение.

В те времена, если ты хотел что-то узнать, но у тебя не было дорогой энциклопедии (или была, но устаревшая, не включавшая того, что тебя интересует), то ты шел в библиотеку и часами искал необходимую информацию. Чтобы пообщаться с друзьями или коллегами из другой страны, приходилось писать им письма и не меньше двух недель дожидаться ответа. Международные телефонные разговоры были такими дорогими, что мало кто их себе позволял, а мысль о том, что собеседника можно еще и видеть, была из области научной фантастики.

Месяц назад Цукерберг объявил о создании глобального партнерства Internet.org. Оно намерено переселить в цифровую эпоху две трети населения Земли, не имеющие доступа к Интернету. В партнерство вошли семь крупнейших ИТ-компаний, а также некоммерческие организации и местные общины. Понимая, что нельзя предлагать людям выбирать между едой и информацией, партнерство намеренно искать новые, менее затратные способы связать компьютеры в сеть, более эффективное программное обеспечение и новые бизнес-модели.

Основатель Microsoft Билл Гейтс полагает, что в беднейших странах интернет — не предмет первой необходимости. Важнее, по его мнению, справиться с такими проблемами, как малярия и желудочно-кишечные расстройства. Я не могу не восхищаться всем, что Гейтс делает, чтобы снизить смертность от этих болезней, уносящих жизни прежде всего бедняков. И все же его позиция удивительным образом упускает из вида общую картину — способность интернета преобразить жизнь неимущих. Например, имея интернет, фермер сможет узнать прогноз погоды и точнее выбрать подходящее время для сева или найти лучшую цену на свой урожай, а в результате — позволить себе больше санитарно-гигиенической продукции, которая снизит риск желудочно-кишечных инфекций для его детей, или антимоскитных спальных сеток, которые защитят его самого и его семью от малярии.