Мередит Бруссард - Искусственный интеллект [Пределы возможного] [litres]

Ситуация, описанная Бенч с коллегами, кажется актуальной и для кафедры математики Гарварда, альма-матер Минского. «Нынешние и бывшие студенты и члены кафедры – мужчины и женщины – говорят, что недостаток женщин среди преподавателей и студентов обескураживает абитуриентов, – пишет Ханна Натансон в статье Harvard Crimson в 2017 г. – На кафедре женщинам нередко советуют выбирать более легкие предметы; кроме того, взаимодействие кафедры со студентами и простое общение заставляют женщин чувствовать себя некомфортно, ощущать себя центром притяжения излишнего внимания» [71] Natanson, “A Sort of Everyday Struggle.” . На кафедре математики Гарварда также нет ни одной женщины на руководящей должности. Впервые кафедра присвоила женщине звание профессора – высшее в академической системе – лишь в 2009 г. Затем сотрудница перешла в Принстон. После этого только трем женщинам предложили бессрочный контракт профессора, все три отказались.

Бенч с коллегами также описывают, как «позитивная дискриминация» способствует расширению гендерной пропасти в точных науках. В рамках своего исследования они предложили испытуемым – мужчинам и женщинам – пройти математический тест и затем спросили, как те, по собственному мнению, справились. Когда исследователи проверили тест и сверились с тем, как испытуемые оценили свои работы, оказалось, что мужчины уверенно полагали, что справились лучше, чем на самом деле. «Подобная переоценка результатов объясняется их бо́льшим, чем у женщин, стремлением заниматься математикой, – пишут Бенч с коллегами. – Результаты исследования показывают, что гендерная пропасть в точных науках, вероятно, обусловлена не тем, что женщины трезво оценивают свои возможности, но тем, что мужчины переоценивают свои».

В итоге мы имеем небольшую группу мужчин, переоценивающих свои математические способности, которые систематически не допускали и игнорировали женщин и людей с небелым цветом кожи, веками занимаясь разработкой машин. Группу мужчин, желающих превратить научную фантастику в реальность, которые не слишком заботятся о социальных нормах и не верят, что общественные нормы и правила применимы к ним. Тех, кто, прохлаждаясь, не успевает тратить выделяемые государством средства. Тех, кто также с радостью принял идеологическую риторику крайне правых либертарианских анархо-капиталистов.

Что же пошло не так?

Чтобы сделать мир технологий справедливее, необходимо привлечь больше разнообразных мнений при создании технологий. Добиться этого можно посредством банального сокращения количества преград, а также решения проблем а-ля «протекающий трубопровод», заставляющих профессионалов средней руки отказываться от дальнейшего карьерного роста. Мне также кажется, что поможет нестандартное решение: разобраться с нюансами обсуждения цифрового мира. Иллюстрирует сложность обсуждения информатики веб-комикс xkcd Рэнделла Манро. На одной из картинок женщина сидит за компьютером, мужчина стоит позади нее:

– Приложение должно проверять, действительно ли пользователь находится в национальном парке, когда делает фотографию, – говорит мужчина.

– Разумеется, простой запрос в ГИС, – отвечает женщина. – Дай мне несколько часов.

– И проверь, есть ли на фотографии птица, – продолжает мужчина.

– Для этого мне понадобится команда исследователей и пять лет.

«В компьютерном мире бывает непросто объяснить разницу между простым и невозможным в виртуальном мире» – гласит подпись к комиксу [72] См. https://xkcd.com/1425 , and note that the hidden text on the online version of the comic refers to a famous anecdote about Marvin Minsky. .

Поскольку сложно объяснить, почему компьютер затрудняется распознать птицу на изображении или отличить попугая от гуакамоле, нужно больше людей (может, дата-журналистов?), способных перевести сложные технологические темы на простой язык, демистифицировать потайные уголки мира ИИ.

Из-за этих нюансов появилась путаница. На протяжении всей книги мы возвращаемся к идее, что компьютеры отлично справляются с одними задачами и совершенно неприменимы к другим, а социальные проблемы начинаются тогда, когда люди не могут оценить, насколько корректно компьютер выполняет задачу. Движение по комнате, на полу которой разбросаны игрушки, – простейшая задача для человека и очень сложная для компьютера – классический пример моего тезиса. Ребенок, только что научившийся ходить, может пройти по этой комнате, не задев игрушки (если, конечно, решит, что их задевать не стоит). Робот не может этого сделать. Чтобы робот смог пройти по такой комнате, нам нужно запрограммировать его: вписать всю информацию об игрушках и их точные размеры, чтобы он смог вычислить путь. И, если их передвинуть, понадобится обновлять программу. Беспилотные машины, о которых мы поговорим в главе 8, работают примерно как робот в игровой комнате: они постоянно обновляют свою карту мира.

Владельцы питомцев, купившие роботы-пылесосы Roomba, выявили еще кое-какие сложности. Если животное наделает дел на полу, робот непременно развезет их по всему дому. «Честно говоря, мы часто сталкиваемся с этим, – комментирует ситуацию представитель компании-производителя iRobot для Guardian в августе 2016 г. – Мы настоятельно рекомендуем не планировать уборку, если вы знаете, что ваша собака может набедокурить. Поведение животных невозможно точно предсказать» [73] Solon, “Roomba Creator Responds to Reports of ‘Poopocalypse.’” .

К счастью, наш повседневный язык позволяет описывать определенные вещи, не называя их конкретно, и я могу использовать эвфемизмы для отвратительных вещей, которые способны вытворить питомцы. Если я скажу, что моя собака чудесная, но при этом гадкая, вы поймете, что я хочу сказать. Вы можете удержать в голове две противоречивые идеи одновременно и способны догадаться о том, что я подразумеваю под гадостью . В математическом языке не существует подобных эвфемизмов, в нем все крайне четко. Например, в программировании имеется концепт под названием переменная . Переменной присваивается определенное значение, например «х=2», а затем ее можно использовать в процедурах. Существует два типа переменных: изменяемые, которые называются собственно переменными , и неизменяемые – константы . И это предельно ясно для программиста: переменная может быть константой. Для непрограммиста такая запись, скорее всего, не слишком понятна: ведь константа противоположна переменной, то есть изменяемое не равно неизменяемому. Это сбивает с толку.

Проблема терминов не нова. Язык эволюционирует вместе с наукой. Например, в биологии клетки называются так, а не иначе, поскольку Роберту Гуку, открывшему их в 1665 г., они напомнили монастырские кельи [74] И то и другое на английском именуется cells. – Прим. ред . . Проблема наименования особенно актуальна сегодня, в свете динамичного развития технологий. Нам приходится привыкать к новым компьютерным концептам и внедрять различные устройства поразительно часто. Однако всему этому создатели присваивают имена, основанные на уже существующих объектах или концептах.