Мередит Бруссард - Искусственный интеллект [Пределы возможного] [litres]

Короче, алгоритмы не работают объективно, поскольку люди внедрили в них свои стереотипы. Техношовинизм заставляет людей думать, что математические формулы, лежащие в основе программного кода, каким-то образом более справедливы в решении социальных проблемы – но это не так.

Данные системы основаны на анкете из 137 пунктов, которая заполняется во время теста. Результаты фиксируются в линейном уравнении – вроде тех, что вы решали в школе. Затем идентифицируется семь криминогенных потребностей или факторов риска. Среди них «образовательно-профессионально-финансовые дефициты и навыки достижения результата», «антисоциальные или криминальные контакты» и «семейно-брачнодисфункциональные отношения». Все эти характеристики – следствие бедности. А это уже что-то совершенно бредовое.

А тот факт, что в компании Northpointe никто не задумывался о том, что в анкете или результатах есть какие-либо предрассудки, напрямую связан с техношовинистским взглядом на мир. Те, кто верит, что математика и вычислительные мощности «объективны» или «честнее», вероятнее всего, убеждены, что неравенство и расизм можно буквально стереть одним кликом. Они воображают, будто цифровой мир другой, лучше реального и посредством превращения процессов принятия решений в вычисления можно сделать мир рациональнее. В небольших командах близких по духу людей такой тип мышления может показаться нормальным. При этом он не способствует равенству и справедливости.

Я не уверена, что у техноутопистов и либертарианцев получится сделать мир лучше посредством умножения количества используемых технологий. Сделать его удобнее – конечно, однако я не верю в такое видение будущего, где все оцифровано. И дело не только в предубеждениях, но и в поломках. Цифровая техника работает плохо и недолго [137] Bogost, “Why Nothing Works Anymore”; Brown and Duguid, The Social Life of Information. . Со временем телефонные аккумуляторы перестают держать заряд достаточно долго. Компьютеры перестают работать из-за того, что за годы использования жесткий диск заполнился. Автоматические водяные краны перестают распознавать движения рук. Даже лифт в доме, где я живу, – казалось бы, система, изобретенная десятки лет назад и работающая посредством простейшего алгоритма, – постоянно чудит. Я живу в многоэтажном доме, где есть лишь одна лифтовая группа. Все холлы похожи друг на друга. В одном из лифтов что-то не так из-за проводки или блока управления, поэтому каждые несколько недель случается так, что вы нажимаете на кнопку нужного этажа, а лифт везет на этаж выше или ниже. И предсказать это невозможно. Много раз я поднималась на лифте, шла по коридору к «своей» квартире и, пытаясь открыть ее, понимала, что ключ не подходит. Ведь я была не на своем этаже. Подобное случается и с другими жителями дома. Мы болтаем об этом, пока едем в лифте.

Лифты – сложные механизмы, управляемые программами. Существует алгоритм, определяющий, какой лифт на какой этаж поедет и какой из них остановится по ходу. Среди алгоритмов тоже есть степени сложности: в новых лифтах функционируют алгоритмы, оптимизирующие путь следования в любой момент нажатия кнопки. В здании издательства The New York Times в лифтовом холле вы нажимаете на кнопку на консоли управления, и к вам приезжает лифт, который быстрее прочих довезет вас до нужного этажа, опираясь на этажи назначения, указанные другими людьми, следующими в вашем направлении. У лифта всего лишь одна цель, реализацией которой занимаются высококвалифицированные изобретатели, инженеры-конструкторы, инженеры-механики, менеджеры по продажам, маркетологи, дистрибьюторы, гарантийные службы и надзорные органы. И если все эти люди, работающие вместе десятилетиями, не могут заставить лифт в моем доме делать то, что он должен, мне не слишком верится, что другая группа не менее квалифицированных людей в другой цепи разработки и эксплуатации может заставить беспилотный автомобиль выполнять несколько задач одновременно, не убивая при этом ни меня, ни моего ребенка, ни детей, путешествующих на школьном автобусе, ни детей, стоящих недалеко на автобусной остановке.

Такие привычные устройства, как лифты или автоматические смесители воды, на самом деле имеют значение, поскольку служат индикаторами качества работы всей системы в целом. И пока эти штуки не работают как до́лжно, наивно полагать, что волшебным образом заработают другие, более сложные устройства.

О неосознанных предубеждениях программистов говорят давно. В 2009 г. новостной портал Gizmodo сообщил, что процессор в камерах HP плохо справлялся с распознаванием лиц с черной кожей. В 2010 г. игровая приставка Microsoft Kinect не распознавала лица темнокожих игроков при слабом освещении. Когда часы Apple Watch только вышли в свет, в них не было календаря менструального цикла – самый очевидный элемент заботы о женском здоровье. Мелинда Гейтс из Фонда Билла и Мелинды Гейтс прокомментировала это упущение: «Я вообще не покупаю продукцию Apple, однако запустить приложение для контроля здоровья без трекера менструации? Не знаю, как у вас, но у меня всю жизнь были менструации. Это вопиющая ошибка и свидетельство того, что на женщин не обращают никакого внимания». Она также выразила свое мнение относительно очень малого количества женщин, работающих в сфере ИИ: «Когда смотришь на лаборатории и на тех, кто в них работает, можно то тут, то там увидеть единственную женщину. Но мы не найдем в одной лаборатории трех или даже четырех женщин» [138] Hempel, “Melinda Gates Has a New Mission.” . За пределами лабораторий с гендерным балансом на руководящих позициях в технологических фирмах дела обстоят лучше, но все же недостаточно хорошо. Согласно данным о гендерном разнообразии, собранным The Wall Street Journal в 2015 г., в LinkedIn, крупной технологической компании, наивысший процент женщин, работающих на руководящих позициях, – около 30 %. В Amazon, Facebook и Google по 24 %, 23 % и 22 % соответственно. В целом доля женщин на руководящих позициях растет за счет сотрудниц маркетинговых и кадровых отделов. Именно эти подразделения выглядят наиболее сбалансированными с точки зрения пола, равно как и отделы, обеспечивающие работу социальных медиа. Тем не менее власть в технологических компаниях все же принадлежит разработчикам и инженерам, а не маркетологам или кадровикам.

Также имеет смысл поразмышлять о последствиях внезапного и грандиозного обогащения в сообществе программистов. В Кремниевой долине, равно как и в технокультуре в целом, наркотики играют важную роль. Они составляли основу контркультуры 1960-х гг. – от ЛСД до марихуаны, грибов, пейота и синтетических наркотиков. В техноиндустрии наркотики никогда не теряли популярность; годами никому не было дела, что кто-то под кайфом, – главное, чтобы программа была написана вовремя. Сегодня на фоне широкого распространения наркотиков, достигшего небывалых масштабов, встает вопрос о том, насколько представители техноиндустрии способствуют росту популярности и распространению ЛСД, грибов, марихуаны, аяуаски и самодельных стимуляторов, популярных как в Кремниевой долине, так и во всем мире. «На фоне расцветающей культуры стартапов, запущенной неистовыми конкурирующими вице-президентами и адреналиновыми программистами, а также благодаря тому, что вымотанные менеджеры стали искать новый способ прийти в себя, незаконное приобретение лекарств и болеутоляющих на черном рынке стало повседневной частью пейзажа в мире сверкающего фонтана технологий», – писали Хизер Сомервилль и Патрик Мей в 2014 г. в Mercury News для газеты San José [139] Somerville and May, “Use of Illicit Drugs Becomes Part of Silicon Valley’s Work Culture.” .