Мередит Бруссард - Искусственный интеллект

Будучи третьекурсницей, я могла создать веб-страницу, запустить веб-сервер и написать код на шести языках программирования. Это было вполне естественным для студента, специализирующегося в математике, компьютерах и программировании. И я была одной из шести женщин на этой специальности в университете, где училось 20 000 студентов. Я знала двух девушек – специалистов по теории вычислительных машин. Остальные три казались мифом. Я ощущала себя изгоем и прекрасно видела причины, заставлявшие женщин бросать науку, технологии, разработки, математику и уходить со STEM-специальностей [3] Science Technology Engineering And Math (STEM) – аббревиатура, обозначающая технические специальности, в которых традиционно наблюдался гендерный перевес. – Прим. пер. . Я также знала, как можно устранить эту «неисправность», однако ни я, ни другие женщины не имели для этого достаточной власти и влияния. Поэтому я перешла на другую специальность.

После окончания колледжа я стала работать программистом. В мои обязанности входило создание симулятора, который, подобно рою пчел, вооруженных винтовками, должен был набрасываться на вновь созданные программы и проверять их на прочность. Работа была хорошей, но не приносила радости. Я снова почувствовала, будто не было вокруг никого, кто бы выглядел, как я, говорил, как я, и интересовался теми же вещами, что и я. Поэтому я оттуда ушла и стала журналистом.

Переместимся на несколько лет вперед: я вернулась в компьютерную науку в качестве дата-журналиста. Журналистика данных – это практика поиска и рассказывания историй посредством цифр. Программирование помогает проводить журналистские расследования. А еще я преподаю в университете, это мне подходит. И гендерный баланс там лучше.

Журналистов учат быть скептиками. Мы часто повторяем: «Если мама говорит, что любит тебя, это необходимо проверять». В течение многих лет я слышала фактически одни и те же обещания о светлом технологическом будущем, однако лично видела, как цифровой мир в точности повторял все нюансы неравенства в реальном мире. Например, процент женщин в пространстве технологических профессий никогда радикально не возрастал. Интернет превратился в новое публичное пространство, однако друзья и коллеги говорят, что именно онлайн они подвергаются харассменту больше, чем когда-либо. Мои подруги, пользовавшиеся сайтами и приложениями для знакомств, рассказывали об угрозах изнасилования и непристойных фотографиях, отправленных им. А тролли и боты превратили Twitter в какофонию голосов.

Тогда я начала серьезно задумываться над обещаниями, данными технокультурой, и стала замечать, как люди говорили о технологиях, не задумываясь о последствиях их внедрения. В конце концов, в основе всего, что мы делаем на компьютере, лежат математические действия, которые имеют свои фундаментальные ограничения, определяющие границы технологий. И, как мне кажется, мы приблизились к этим границам. Американцы достигли той точки развития, когда цифровые технологии с восторгом используются буквально везде – при приеме на работу, во время вождения, при оплате счетов и даже при выборе партнера, а способность критического осмысления новой реальности угасает на глазах.

Восторженные попытки применить компьютерные технологии в каждом аспекте нашей жизни привели к появлению невероятного количества недоработанных технологий. Они усложняют повседневную жизнь вместо того, чтобы делать ее проще. Так, например, поиск номера телефона нового знакомого или актуального адреса электронной почты занимает неожиданно большой объем времени. Проблема в том, что, как и во многих других случаях, вокруг слишком много новых технологий и недостаточно людей для управления ими. Мы перешли от протоколирования к компьютерным системам и при этом избавились от людей, способных содержать информацию в актуальном состоянии. И сегодня, поскольку никто не проверяет точность контактной информации в каждом институциональном справочнике, связаться с людьми оказывается гораздо сложнее. Как журналисту мне приходится общаться со множеством людей, которых я не знаю лично, и связываться с ними стало сложнее и дороже, чем раньше.

Есть поговорка «Когда у тебя в руках молоток, все кажется гвоздями». Компьютеры – это молотки. И пора наконец остановить слепую погоню за цифровым будущим и начать принимать более осознанные решения относительно того, когда и зачем использовать их.

Так появилась эта книга – некоторые размышления, помогающее понять, что могут и что не могут технологии, где технологические достижения пересекаются с человеческой природой. Эта грань похожа на обрыв, за которым нас ждет опасность.

В мире существует множество невероятных технологий: интернет-поисковики, устройства, распознающие вербальные команды, компьютеры, соревнующиеся с людьми в играх вроде Jeopardy! [4] В России выходит на канале НТВ под названием «Своя игра». – Прим. ред. или го. Однако не стоит забывать о том, что как раз благодаря технологиям мы можем решать и определенные проблемы. В рамках моих университетских курсов я среди прочего учу одной фундаментальной вещи, а именно тому, что существуют ограничения. Подобно границам познаваемости в математике и естественных науках, имеются границы возможного применения технологий. Кроме того, существуют и пределы того, как нам следует использовать технологии. Смотря на мир через призму компьютерных наук или пытаясь решить глобальные проблемы только при помощи технологий, мы рискуем совершить известные и ожидаемые ошибки, замедляющие прогресс и усиливающие существующее неравенство. Наша книга посвящена способам понимания внешних ограничений того, на что способны технологии. Осмысление этих рамок поможет нам совершать более качественный выбор и сформировать коллективный диалог относительно применения технологий и того, что следует делать, чтобы сделать мир по-настоящему лучше для всех.

К таким размышлениям меня привела журналистика. Я специализируюсь на разделе журналистики данных под названием вычислительная журналистика, ее также называют анализом алгоритмической ответственности . Алгоритм – это вычислительная процедура с известным результатом; он похож на рецепт, который при выполнении всех шагов приводит к созданию определенного «блюда». Иногда под анализом алгоритмической ответственности понимается процесс написания программы, при помощи которой можно обнаружить алгоритмы, призванные принимать решения за пользователей. А порой подразумевается анализ не слишком качественных технологий или неверно интерпретированных данных, в результате которого мы обнаруживаем проблемную зону.