Фрэнк Паскуале - Новые законы робототехники. Апология человеческих знаний в эпоху искусственного интеллекта

Ни одно из таких решений не должно приниматься исключительно – или даже в первую очередь – программистами и корпорациями, разрабатывающими алгоритмы беспилотных автомобилей. Для них требуется участие властей и значительно более широкого спектра экспертов, начиная со специалистов по урбанистке и заканчивая регулирующими ведомствами, полицией и адвокатами. Переговоры всех этих заинтересованных сторон, скорее всего, будут длительными, но такова цена демократического, инклюзивного перехода к новой и более качественной технологии. И это только немногие из этических, правовых и социальных составляющих масштабного перехода к беспилотным автомобилям [65] Чисто технологические проблемы тоже не так-то просто решить. См.: Roberto Baldwin, “Self-Driving Cars are Taking Longer to Build Than Everyone Thought,” Car and Driver, May 10, 2020, https://www.caranddriver.com/features/a32266303/self-driving-cars-are-taking-longer-to-build-than-everyone-thought/. .

Тем не менее некоторые футуристы утверждают, что ИИ обходит саму необходимость наличия профессий. По их мнению, если у нас есть достаточный массив данных для обучения, практически любую человеческую функцию можно заменить роботом. В этой книге мы исходим из прямо противоположного взгляда: в той мере, в какой наша повседневная жизнь оформляется ИИ и машинным обучением (которыми часто управляют далекие крупные корпорации), нам нужно больше профессионалов, причем профессионалов более квалифицированных. Это вопрос утверждения и расширения схем образования и лицензирования, которые у нас уже имеются в таких областях, как медицина и право. Также может потребоваться создание новых профессиональных идентичностей в других критически важных секторах, где существенную роль играет широкое участие общества и в то же время экспертные знания.

Утверждение человеческих ценностей как формы экспертных знаний у некоторых читателей может вызвать раздражение. В настоящий момент наиболее популярным аргументом против проникновения ИИ в управление рабочими местами и городами является не что иное, как принцип демократии. Критики ИИ утверждают, что технические эксперты в таких областях, как машинное обучение и нейронные сети, недостаточно отличаются друг от друга, чтобы представлять людей, на которых воздействует их технология [66] Al Now Institute, Al Now 201g Report, December 2019, 8, 45–47, https://ainowinstitute.org/AI_Now_2019_Report.pdf. . Также они слишком далеки от местных сообществ. То же самое можно сказать и о многих других экспертах. Давно известны выдающиеся активисты, которые обличают безразличных врачей и преподавателей, юристов в «башне из слоновой кости» и ученых, далеких от проблем обывателя. Обратив внимание на предсказания экономистов, указывающие на катастрофические последствия Брексита, британский политик Майкл Гоув заявил, что «народу в этой стране эксперты надоели» [67] Henry Mance, “Britain Has Had Enough of Experts, says Gove,” Financial Times, June 3, 2016, https://www.ft.com/ content/3be49734-29cb-ne6-83e4-abc22d5dio8c. . Когда это ощущение начинает питать популистские кампании по всему миру, становится заметен все больший разлом между политикой и экспертными знаниями, массовыми движениями и бюрократической компетенцией, народной волей и соображениями элиты.

Комментируя подобные тенденции, социолог Джил Эйал утверждает, что экспертные знания и навыки – способ говорить о «пересечении, оформлении и трении между наукой и технологий, с одной стороны, правом и демократической политикой, с другой» [68] Gil Eyal, The Crisis of Expertise (Cambridge, UK: Polity Press, 2019), 20. . В управлении с давних пор известно противоречие, проявляющееся, когда бюрократам приходится принимать сложные решения, в которых учитываются и факты, и ценности. Так, повышение или снижение допустимых норм загрязнения – решение, влекущее определенные медицинские следствия (например, повышение заболеваемости раком легких), экономический эффект (в плане доходности предприятий) и даже культурные следствия (например, в плане жизнеспособности шахтерских районов). Эйал сосредоточивается на демократическом вызове чисто технократическому принятию решений на каждом из фронтов.

В этой книге исследуется принципиально иной вызов, брошенный экспертным знаниям, а именно столкновение различных форм экспертизы. Уважаемые экономисты и эксперты в области ИИ утверждали, что их способы познания и упорядочивания мира должны получить приоритет практически во всех областях, в больницах и школах, центральных банках и военных штабах. Немногие из них столь же откровенны, как бывший исполнительный директор некой технологической компании, который заявил одному генералу: «Вы вообще ничего не понимаете в машинном обучении. Если я проведу в вашей палатке один день, я смогу решить большую часть ваших проблем» [69] По воспоминаниям генерала Рэймонда Томаса (Главное управление войск специального назначения США), который упомянул, что это было сказано ему в июле 2016 г. Эриком Шмидтом, председателем правления Google. См.: Kate Conger and Cade Metz, “ T Could Solve Most of Your Problems’: Eric Schmidt’s Pentagon Offensive,” Xew York Times, May 2, 2020, https://www.nytimes. com/2020/05/02/technology/eric-schmidt-pentagon-google.html. . Однако общая тема многих книг об автоматизации на базе ИИ и экономическом прорыве такова: методы экономики и информатики – всего лишь первые среди равных, то есть среди других форм экспертных знаний. Они предсказывают (и помогают создавать) мир, в котором ИИ и робототехника быстро заменят человеческий труд, поскольку экономика требует более дешевых методов выполнения работ. С этой точки зрения почти все работники со временем разделят судьбу операторов лифтов и кучеров былых времен, то есть им только и останется, что ждать, когда их заменит кто-нибудь, обладающий подходящими данными, алгоритмами и техникой.

Конечно, есть такие области, где экономика и ИИ крайне важны. Бизнес не может работать, не покрывая издержки; касса самообслуживания сломается, если программа сканера не сможет распознать штрих-код товара. Однако на вопросы о том, должна ли существовать определенная фирма и следует ли заменить роботизированным киоском кассира, лишь экономика и информатика ответить не могут. Решение принимается политиками, сообществами и фирмами, причем на основе сложного комплекса ценностей и требований. Такие ценности и требования невозможно свести к уравнениям эффективности и алгоритмам оптимизации, совершенно отличным и абстрагированным от конкретных сообществ. Скорее они выражаются и согласовываются экспертами-людьми, в рамках современных или будущих профессий способных показать, как скрытые, локальные знания работников и менеджеров выражаются в услугах и практиках, заслуживающих сохранения.

Стремиться к противоположному, то есть к высвобождению коммерческих мотивов и мимикрии роботов, нацеленных на то, чтобы колонизировать, заменить или подчинить себе любую форму человеческого труда, – значит радикально реорганизовать общество. Социолог Уилл Дэвис однажды отметил, что «профессия, требующая права на все что угодно, является уже не профессией, а разновидностью эпистемологической тирании» [70] Will Davies, “Elite Power under Advanced Neoliberalism,” Theory, Culture and Society 34, nos. 5–6 (2017): 233. . Сегодня в очень многих спорах об ИИ и робототехнике господствует узкий взгляд, сосредоточенный на эффективности и оптимизации. Моя цель в этой книге – ввести в обсуждение автоматизации намного более широкий список целей и ценностей. Чтобы закрепить этот более содержательный диалог, нам нужно добиться того, чтобы везде, где труд и услуги выражают наши ценности, распределенные экспертные знания соединяли демократическую ценность представительства с когнитивными ценностями точности, эффективности и научного метода [71] Я считаю, что эта интеграция демократических и экспертокра-тических ценностей может стать ключом к решению проблемы разделения между «диггерами» и «левеллерами» в исследованиях науки и технологии, которую отчетливо сформулировал Филип Мировски в своей недавней работе: Philip Mirowski, “Democracy, Expertise and the Post-truth Era: An Inquiry into the Contemporary Politics of STS,” (working paper, version 1.1, April 2020), https://www.academia.edu/42682483/Democracy_Expertise_ and_the_Post-Truth_Era_An_Inquiry_into_the_Contemporary_ Politics_of_STS. .