Дэвид Эдмондс - Убили бы вы толстяка? Задача о вагонетке: что такое хорошо и что такое плохо?

Беспилотный автомобиль Google — пример передовой стадии такого развития. В разных городах мира вводятся беспилотные поезда, уже действующие в многочисленных аэропортах. Например, в Копенгагене почти всё контролируется централизованно — компьютерами. Можно представить себе, что какой-нибудь сорвавшийся беспилотный поезд столкнется с проблемой «выбора» — убить пять человек или убить одного, — и что его можно запрограммировать так, чтобы он отвечал на важные качества ситуации.

Машины с искусственным интеллектом — будь они беспилотными поездами или вооруженными роботами — могли бы «вести себя» даже лучше людей. В стрессовых условиях (например, под обстрелом) люди могут столкнуть толстяка, совершив действие, о котором потом, поразмыслив, они могут пожалеть. «Решениям» машины не будет мешать выброс адреналина.

Единственное (!), в чем создатели программного обеспечения должны достичь согласия, так эта сама суть моральных правил…

Когда речь заходит о толстяке, философ желает знать ответ на моральный вопрос: должны ли мы столкнуть его вниз, в посмертное существование? Философа интересуют нормативные (или ценностные) вопросы, например вопрос о том, какой жизнью мы должны жить.

Может ли ему помочь ученый? Ученый здесь понимается в широком смысле — это может быть и психолог, и специалист по нейронаукам. В обычном случае ученый интересуется другими, не нормативными, вопросами. Почему мы даем именно те ответы, которые мы даем? Как мы приходим к нашим суждениям? Что влияет на наше поведение? Шотландский просвещенческий философ Давид Юм (1711–1776) был уверен в том, что между фактом и ценностью есть различие, так что никакое описание того, как мы выносим суждение, не сможет определить то, как мы должны судить. В конце концов если бы оказалось, что у всех нас есть предрасположенность к расизму (или по крайней мере к тому, чтобы членов собственной группы ценить больше чужаков), этим бы еще не подтверждалась приемлемость расизма. Однако с некоторых пор ученые начали исследовать проблему вагонетки и некоторые из них утверждают, что отдельные эмпирические открытия имеют нормативное значение.

Многие исследования по социальной психологии могут расстроить поклонников идеи, будто людьми управляет настоящая команда мечты — разум и благожелательность. Эксперименты, проведенные в 1960‑х годах в Йеле психологом Стэнли Милгрэмом, показали, что многие люди готовы забыть о совести, когда какая-нибудь авторитетная фигура приказывает им совершить дурной поступок — в данном случае они должны были нажимать переключатель, в результате чего другие испытуемые получали электрический разряд [151] Эксперимент, придуманный вскоре после суда в Иерусалиме над нацистским военным преступником Адольфом Эйхманом, должен был показать, насколько дурно будут вести себя люди, если указания им отдает некая авторитетная фигура. Испытуемым говорили, что люди в другой комнате должны заучивать слова. Им приказывали бить учеников электрическим током, если они допускали ошибки в вопросах о словах. В действительности ученики были актерами. Испытуемые могли слышать (ненастоящие) крики и удары учеников по стене, когда те, казалось, приходили в отчаяние. . Эксперименты с тюрьмой, проведенные стэнфордским психологом Филипом Зимбардо, также показали, как дурно могут вести себя люди, когда им дана (условно) законная власть. В ролевой игре некоторые испытуемые взяли на себя роли охранников, тогда как другие — заключенных, а потом их поместили в имитацию темницы. Многие «охранники» в скором времени начали проявлять садистские склонности по отношению к «заключенным».

В другом часто цитируемом эксперименте богобоязненных студентов Принстонской теологической семинарии осведомили о том, что им надо сделать презентацию по притче о добром самаритянине [152] Принстонская теологическая семинария — это образователь-ное учреждение, в котором особое внимание уделяется добродетели милосердия и которое при этом владеет впечатляющими богатствами. В 2011 году его капитал из расчета на одного студента составлял около 1,7 миллиона долларов. . Им надо было перейти через двор в другое здание, и некоторым сказали, что они уже на несколько минут опаздывают. Прежде чем достичь места назначения, они столкнулись с человеком, упавшим на дорожке — он кашлял и стонал от боли. Подавляющее большинство тех, кто думал, будто опаздывает, проигнорировали человека. Некоторые буквально перешагнули через него [153] Darley J. M., Batson C. D. «From Jerusalem to Jericho»: A Study of situational and dispositional variables in helping behavior // Journal of Personality and Social Psychology. 1973. Vol. 27. P. 100–108. . Результат поразил: можно было бы подумать, что люди, думающие о добром самаритянине, поймут, что помочь незнакомому человеку в общем порядке вещей намного важнее пунктуального посещения семинара.

И все же в их поведении можно найти некое рациональное зерно: невежливо заставлять людей ждать. Однако потом было проведено много исследований, показывающих, что наше этическое поведение, судя по всему, связано с бессчетным количеством иррациональных или нерациональных факторов. Например, до того как все стали пользоваться мобильными телефонами, в одном американском исследовании было показано, что, когда испытуемый выходил из общественной телефонной будки, он был намного больше готов помочь обронившему кипу бумаг прохожему, если ранее он нашел какую-нибудь мелкую монету в отсеке для возврата монет. Этот нанокусочек удачи, имеющий ничтожную финансовую величину, оказывал огромное влияние на поступки людей. А еще одно исследование доказало, что на наше поведение влияет запах. Мы добрее к другим, когда находимся рядом с булочной и вдыхаем ее восхитительный аромат. На то, как мы отвечаем на моральные вопросы, касающиеся, к примеру, преступления и наказания, может повлиять и то, на каком столе мы заполняем анкету — на чистом и прибранном или на заляпанном пятнами. Страшно сказать, но вероятность того, что судья вынесет решение об условно-досрочном освобождении заключенного, зависит от того, как давно этот судья поел [154] Danziger S., Levav J., Avnaim-Pesso K. Extraneous Factors in Judicial Decisions // Proceedings of the National Academy of Sciences. April 2011. .