Клиффорд Пиковер - Искусственный интеллект. Иллюстрированная история. От автоматов до нейросетей

В других экспериментах ИИ-системы неверно классифицировали знаки остановки как знаки ограничения скорости. В ряде работ уже анализировались потенциально опасные изменения, незаметные для человека, такие как подмена нескольких пикселей в изображении. В 2018 г. ученые из Калифорнийского университета в Беркли разработали состязательные примеры для систем распознавания речи. Иными словами, исследователи могли создать форму звуковой волны, почти идентичную реальной, и тем самым обмануть программу преобразования речи в текст, чтобы та превратила аудиосигнал в любую фразу по желанию исследователей.

Опыты с состязательным машинным обучением предполагают манипулирование тренировочными данными в ходе обучения ИИ. Хотя некоторые состязательные примеры можно нейтрализовать, потребовав от ИИ использовать сразу несколько систем классификаторов или запрограммировав их так, чтобы при обучении они не реагировали на состязательные примеры, во многих сферах применения ИИ сохраняются потенциальные риски.

СМ. ТАКЖЕ Смертоносные боевые роботы (1942), Машинное обучение (1959), Этика искусственного интеллекта (1976), Беспилотные автомобили (1984)

Исследования показали:если поместить круглые психоделические пятна в поле зрения ИИ-системы, можно обмануть ее и заставить «думать», что банан – это тостер. Это указывает на возможные риски при использовании ИИ в некоторых сферах.

На протяжении многих лет специалисты по ИИ конструировали самых разных роботов, способных собирать кубик Рубика с помощью компьютерного зрения и физических манипуляций. Оригинальную головоломку в 1974 г. создал венгерский изобретатель Эрнё Рубик (р. 1944); к 1982 г. в Венгрии было продано 10 миллионов таких кубиков (как ни странно, это больше, чем население страны). К настоящему времени, согласно оценкам, в мире продано более 100 миллионов штук.

Кубик Рубика представляет собой конструкцию 3 × 3 × 3 из меньших кубиков, окрашенных таким образом, что каждая из шести граней большого куба имеет свой цвет. Двадцать шесть внешних кубиков снабжены шарнирами, чтобы их можно было вращать. Цель в том, чтобы «собрать» кубик, то есть вернуть его в первоначальное состояние, в котором каждая грань состоит из квадратов одного цвета. Всего существует 43 252 003 274 489 856 000 вариантов расположения маленьких кубиков, и лишь один соответствует исходной позиции. Если бы у вас имелось по одному кубику для каждой возможной раскладки, вы могли бы покрыть ими всю поверхность Земли (включая океаны) примерно в 250 слоев.

В 2010 г. было доказано, что из любой конфигурации кубик можно собрать не более чем за двадцать ходов. В 2018 г. проворный робот под названием Rubik’s Contraption преодолел полусекундный барьер, собрав кубик всего за 0,38 секунды (столько времени в сумме потребовалось на захват изображения, расчеты и физические манипуляции). В этом устройстве, созданном студентом-робототехником из Массачусетского технологического института Беном Кацем и разработчиком программного обеспечения Джаредом Ди Карло, использовались шесть двигателей Kollmorgen ServoDisc и так называемый двухфазный алгоритм Коцембы. (Для сравнения: в 2011 г. мировой рекорд среди роботов составлял 10,69 секунды.) В том же 2018 г. устройство, основанное на глубокой нейросети, научилось собирать кубик Рубика методом обучения с подкреплением без опоры на человеческие знания.

Существует вариация головоломки, которая никогда не появится на полках магазинов, – четырехмерная версия кубика Рубика, или тессеракт Рубика. Общее количество позиций тессеракта Рубика – головокружительная цифра: 1,76 × 10 120. Если бы вращающиеся грани тессеракта меняли положение каждую секунду с момента возникновения Вселенной, они и по сей день не успели бы продемонстрировать все возможные конфигурации.

СМ. ТАКЖЕ Ханойская башня (1883), Обучение с подкреплением (1951), Робот Шейки (1966), ASIMO и друзья (2000)

Патент США № 4378116, выданный Эрнё Рубику в 1983 г.на «пространственную логическую игрушку». На рисунке показано внутреннее устройство кубика.

В 2016 г. исследователи из Стэнфордского университета обучили ИИ-систему предсказывать, умрет ли человек в течение ближайших трех – двенадцати месяцев. Для данной книги этот результат важен как пример широкого спектра задач, которые в ближайшие годы будут решать ИИ и глубокое обучение.

Паллиативная помощь обычно предполагает облегчение боли, стресса и других симптомов пациента со смертельным диагнозом, когда выздоровление невозможно. Знание о том, когда потребуется такая помощь, облегчает жизнь самого пациента, его семьи и медперсонала, а также позволяет определить, в каких случаях паллиативный уход наиболее эффективен. Для создания ИИ под названием Death Algorithm группа ученых из Стэнфорда использовала данные примерно 170 тысяч пациентов, умерших от рака, сердечно-сосудистых, неврологических и других заболеваний. Информация из медицинских карт – включая диагноз, медицинские процедуры, результаты обследований, прописанные препараты и т. д. – использовалась в качестве входных данных для обучения ИИ-системы. Затем глубокая нейросеть тренировалась, корректируя веса нейронов. Нейросеть состояла из входного слоя размерности 13 654 (коды диагнозов и препаратов), 18 скрытых промежуточных слоев (каждый размерности 512) и выходного слоя скалярного типа.

В итоге девять из десяти человек, которым система предсказала смерть в ближайшие три – двенадцать месяцев, действительно умерли в течение этого срока. Кроме того, 95 % из тех, кому алгоритм напророчил более двенадцати месяцев жизни, действительно прожили дольше. Однако врач Сиддхартха Мукерджи в недавней статье в New York Times отмечает: «[Система глубокого обучения] учится, но не может объяснить нам, как именно; она назначает вероятности, но неспособна внятно их обосновать. Подобно ребенку, который осваивает велосипед методом проб и ошибок, а в ответ на просьбу сформулировать правила езды просто уносится вдаль, пожав плечами, алгоритм непонимающе смотрит на нас, когда мы спрашиваем: “Почему?” Это еще один черный ящик – как и сама смерть». И все же разработки предсказателей смерти на основе ИИ продолжаются. В 2019 г. группа экспертов из Ноттингемского университета показала, что машинное обучение превосходит по точности традиционные методы прогнозирования безвременной смерти, основанные на демографических, биометрических, клинических и бытовых факторах.