Мауро Гильен - 2030. Как современные тренды влияют друг на друга и на наше будущее

В 2016 и 2017 гг. собранная Массачусетским технологическим институтом международная исследовательская команда реализовала проект под названием «Моральная машина» – эксперимент для оценки того, как люди разных культурных традиций решают подобные дилеммы. С помощью онлайн-платформы исследователи собрали информацию о почти 40 млн решений в разных дорожных ситуациях, принятых более чем 2 млн человек из 200 с лишним стран и районов мира. Респондентам предлагали ознакомиться с 13 ситуациями, в которых чья-то гибель была неминуема. Одни решения давались проще, чем другие. Например, кому водитель должен отдать предпочтение, домашнему животному или человеку? Следует ли считать спасение большего количество жизней предпочтительным? Однако были и крайне тяжелые моральные и этические дилеммы. Кого лучше спасти: здоровых людей или людей с ограниченными возможностями? Правонарушителя или законопослушного человека? В ходе эксперимента выявилась заметная склонность респондентов спасать людей, а не животных, большее, а не меньшее число жизней, молодых, а не пожилых людей. «Эти три предпочтения можно рассматривать в качестве базы для формирования машинной этики», – делают вывод исследователи.

Как и следовало ожидать, обнаружились и особенности. И мужчины, и женщины были более склонны спасать жизни женщин, причем у женщин это проявлялось более явно. Более религиозные люди предпочитали спасать людей, а не животных. Явные расхождения фиксировались по странам. «Склонность спасать более молодых, а не старых, гораздо менее выражена в странах из восточного кластера [приверженные конфуцианским принципам страны Азии и некоторые мусульманские страны], но гораздо более заметна в странах из южного кластера [Латинская Америка и франкоговорящая Африка]. Аналогичный подход отмечается и в отношении людей с более высоким статусом». Люди из южного кластера демонстрировали «гораздо более слабую склонность к спасению людей, а не животных». Что интересно, «для всех кластеров была общей только (слабая) склонность спасать пешеходов, а не пассажиров, и (умеренная) склонность спасать законопослушных людей, а не правонарушителей». В странах с более индивидуалистскими культурами люди были более склонны спасать молодых, а люди из стран победнее были более толерантны к неосторожным пешеходам, чем к законопослушным пешеходам. Как ни печально, респонденты из стран с заметным экономическим неравенством выражали большую готовность спасать людей, имеющих высокий статус.

Как отмечает соавтор исследования Ияд Рахван, вызывает беспокойство то, что «некоторые из рассматривающих вопрос машинной этики говорят так, будто можно разработать безупречный кодекс для роботов. Из наших же данных видно, что универсальных правил нет». По мнению еще одного соавтора проекта, Эдмонда Авада, «больше людей начали понимать, что ИИ может создавать разные этические проблемы для разных групп людей. Вселяет надежду, что люди интересуются этой идеей». По словам менеджера из немецкого подразделения беспилотных автомобилей Audi Барбары Веге, «нам нужен общественный консенсус по поводу тех рисков, которые мы готовы взять на себя».

Развитие ИИ сопровождается не только вытекающими из проблемы вагонетки моральными дилеммами. Как подчеркивает генеральный директор Sonata Software Шрикар Редди (с которым мы обсуждали эти вопросы в блоге Всемирного экономического форума), нужно разделять деонтологические и телеологические этические стандарты. В первом случае мы делаем упор на намерениях и средствах, во втором – на целях и последствиях. Какой подход лучше? Зависит от технологий и контекста. «Что касается автомобилей-беспилотников, перспектива создания безошибочно функционирующей и вместе с тем эффективной и экологичной транспортной системы вполне может оправдать масштабный сбор данных о вождении при разных условиях, а равно и для экспериментов с ИИ-приложениями». В то же время с учетом печальной истории медицинских экспериментов на безвинных людях проблематично обосновывать телеологически идею проведения медицинских испытаний с использованием больших данных. Здесь более разумным представляется применение деонтологического подхода с упором на намерения и средства.

Становится все сложнее игнорировать этические и моральные дилеммы автоматизации, ИИ и больших данных. «Никогда прежде в истории человечества машине не предоставлялась возможность автономно за долю секунды и без внешнего мониторинга в реальном времени принимать решения о том, кто погибнет, а кто выживет, – заключают авторы проекта «Моральная машина». – Нам предстоит перейти этот рубеж уже в ближайшее время». Делаем ставки. С моей точки зрения, это должно произойти к 2030 г. «Прежде чем мы разрешим машинам принимать решения этического характера, нам нужно провести общемировое обсуждение и изложить наши предпочтения компаниям, которые будут заниматься разработкой моральных алгоритмов, и законодателям, которые будут регулировать их». Проблема заключается в том, что мы не можем автоматизировать или представить в виде алгоритма морально-этическую составляющую автоматизации.

Этот провокационный вопрос задал профессор Школы бизнеса Така при Дартмутском колледже Ричард д'Авени. 3D-принтеры создают объемные объекты посредством последовательного формирования ультратонких слоев материала. В результате получается трехмерная форма. Корректный технический термин для этого процесса – «технология послойной печати». Подобная технология позволяет сократить количество отходов за счет использования точного объема материала для создания самых различных предметов – от пластмассовых деталей до зубных протезов и заменителей человеческих тканей. Как и традиционное производство, этот процесс требует энергии, однако, по словам д'Авени, «от 3D-печати меньше дыма и других токсичных выбросов». Самое большое преимущество 3D-печати заключается в том, что «в результате приближения 3D-принтеров и мини-фабрик к клиентам компании могут сильно сократить транспортные расходы». Мы слишком привыкли к идее о том, что в производстве экономия от масштаба принципиально важна для создания недорогой продукции. Мини-предприятия и гибкие производственные процессы положили начало в 1980-х гг. тренду на ускорение развития и расширение 3D-печати, что идет на пользу окружающей среде. «Мы оставим позади этику одноразового использования XX в., – предсказывает д'Авени. – Люди будут покупать меньше вещей и радоваться тому, что у них есть. Это как раз та перспектива, на которую нас настраивают экологи. Производство меньшего количества товаров при меньших затратах материала позволит нам выбрасывать меньше углекислого газа в атмосферу».