Мередит Бруссард - Искусственный интеллект [Пределы возможного] [litres]

Внутри сообщества специалистов в области машинного обучения были подвижки в сторону качественно иного понимания алгоритмического неравенства и ответственности. Сообщество вокруг конференции о честности и прозрачности машинного обучения (Fairness and Transparency in Machine Learning) – лидеры в этом вопросе [167] Fairness and Transparency in Machine Learning, “Principles for Accountable Algorithms and a Social Impact Statement for Algorithms.” . Тем временем профессор Латанья Суини из Лаборатории приватности данных при Гарвардском университетском институте количественного социального анализа проводит по-настоящему новаторскую работу с точки зрения понимания потенциала возможностей нарушения приватности больших массивов данных, в частности медицинских. Цель лаборатории состоит в том, чтобы разработать технологии и политику, «гарантирующие защиту приватности при сборе частной (в том числе конфиденциальной) информации для выполнения разных задач» [168] Data Privacy Lab, “Mission Statement”; Sweeney, “Foundations of Privacy Protection from a Computer Science Perspective.” . Кроме того, в Кембридже Лаборатория медиа при МТИ под руководством Джои Ито проводит превосходную работу по трансформации нарратива о расовом и этническом разнообразии в области вычислительной науки, а также способствует запуску систем запроса. Благодаря аналитической работе студента МТИ Картика Динакара, изучавшего феномен человека в контуре управления, профессор Лаборатории медиа МТИ Ияд Рахван начал разрабатывать проблему, обозначенную им как общество в контуре управления машинного обучения , благодаря которой надеется артикулировать моральные проблемы в современных системах ИИ (напоминает проблему вагонетки). В другом проекте, инициированном медиалабораторией МТИ и Центром Беркмана Кляйна в Гарварде и спонсируемом Фондом этики и управления искусственным интеллектом, фокус исследователей обращен к этике и управлению ИИ.

И, конечно же, в эти обсуждения также включаются дата-журналисты, которые продолжают делать свою работу, несмотря на резкую смену контекстов индустрии. Множество невероятных инструментов позволяет проводить хитроумный анализ информации и данных. Так, насколько мне известно, в DocumentCloud, безопасном онлайн-хранилище документов, содержится около 3,6 млн источников, которыми пользуется около 8400 журналистов из 1619 организаций по всему миру. DocumentCloud используют как небольшие, так и крупные новостные агентства со всего света, там можно найти и документы, фигурировавшие в историях вроде «Панамского архива» и те, что опубликовал Сноуден [169] Pilhofer, “A Note to Users of DocumentCloud.” . Число дата-журналистов растет медленно. Ежегодная конференция NICAR для журналистов данных в 2016 г. насчитала немногим больше тысячи человек. Ежегодно вручаются премии – вроде премии в области журналистики данных – за истории, которые внесли наибольший вклад в расследование вычислительных проектов. Есть повод для оптимизма.

В рамках этой книги мы затронули историю и основы современных вычислительных технологий. Размышляя о том, как люди воспринимают компьютеры, я решила отправиться туда, где родилась теория вычислительных машин: в Электротехническую школу Мура при Пенсильванском университете. Именно здесь можно увидеть остатки ENIAC – как предполагается, первого компьютера. В каком-то смысле «дом» этой машины также стал и моей отправной точкой. Я родилась в госпитале почти что за соседней дверью. Будучи выпускниками Пенсильванского университета, мои родители начали встречаться в 1970-х гг. Они много времени проводили вместе в компьютерном центре кампуса – разбирали перфокарты по боксам и затем спускались в компьютерный центр и ждали своей очереди, чтобы вставить их в считывающее устройство и провести статистические эксперименты на большом компьютере. Мама мне когда-то сказала, что если уронить пачку карт, то все кончится, не успев толком начаться: пришлось бы сильно постараться, чтобы собрать их в правильном порядке.

Снаружи здания Мура стоит мемориальный знак, посвященный ENIAC, с информацией, представленной тем же шрифтом, который используется историками для составления мемориальных табличек для домов вроде Бетси Росс. В день моего приезда все шло чинно и мирно. Десятки студентов в темных костюмах и платьях шли мимо меня по тротуару. У некоторых из них можно было заметить папки с надписью «Модель конгресса» [170] Дает возможность студентам попробовать себя в роли конгрессменов США. – Прим. ред. (Model Congress). Несколько молодых людей носили пуховики поверх костюмов. На другом была камуфляжная куртка с мехом по капюшону. Я слышала, как девушка жаловалась подруге, идя по улице в туфлях-лодочках: «Я даже не знаю, как правильно ходить на каблуках». Они все были радостными, чистыми и наслаждались ощущением, будто они взрослые, за которыми на территории кампуса не следит учитель. Я вспомнила, как в студенческие годы роли вроде «Модель ООН» (Model UN) (когда приходилось носить неудобный костюм) и похожие события помогли мне и моим друзьям адаптироваться к взрослой жизни. Одеваться как взрослые и представлять, будто участвуешь в реальных рабочих процессах, – все это помогало нам понять, каково быть взрослым. Полагаю, в скором времени будет возможно заменить такого рода опыт участием в видеоконференциях или онлайн-чатах; однако это будет скучно и плотность информации будет ниже. Сложно представить, что подростки действительно этого захотят.

Поскольку у меня не было пропуска, я подождала около здания, пока студент, у которого была карта доступа, не показался рядом. Он взглянул на меня, понял, что я не несу никакой угрозы, пропустил меня и вернулся к разговору по телефону. Я зашла внутрь и начала блуждать по коридорам. Я прошла мимо лабораторий: опытных моделей, прецизионной обработки, где в каждой были сверлильные станки, 3D-принтеры и прочая механическая утварь разной степени изношенности. Инженеры сурово обращаются с оборудованием. Студент механик-инженер сжалился надо мной и проводил к месту, где располагался ENIAC, – в зал для отдыха учащихся за двойными деревянными дверями на первом этаже. Табличка гласила: «ENIAC, первый в мире электронный полномасштабный цифровой компьютер общего назначения» (ENIAC, The World’s First Electronic, Large-Scale, General-Purpose Digital Computer).

В зале было три деревянных обеденных стола, за которыми работали студенты, и еще три зоны с барными столами и стульями для тех, кто работал самостоятельно. Стол, где расположились компьютер и принтер, был усеян промокарточками Facebook. На карточках говорилось: «Как разработчику Facebook – аспиранту или выпускнику – вам предстоит писать код, который влияет на жизни 1,4 млрд человек по всему миру». Очевидно, компания хотела нанять смышленых людей, способных творить, брать на себя ответственность и решать проблемы. «Единение мира – это задача, требующая усилий каждого из нас» – уверял текст на карточке. Соглашусь: попытка соединения всего мира требует коллективных усилий. Правда, сомневаюсь, что технологии являются единственным решением этой задачи. Именно технологии привели к кризису социальных связей, за которым последовало то, что личное общение в группах и организациях становится важным как никогда. Взаимопонимание и групповая идентичность оказываются наиболее важными при взаимодействии как онлайн, так и офлайн, и не только посредством экранов.