Мередит Бруссард - Искусственный интеллект [Пределы возможного] [litres]

Со спасательными шлюпками можно провести занимательный тест. Номера шлюпок на борту Мердока были нечетными, на борту Лайтоллера – четными. И, возможно, мужчины выживали также в зависимости от той шлюпки, в которой оказались, ведь Лайтоллер не сажал в шлюпки мужчин. Однако в имеющихся у нас данных не было информации о номерах шлюпок. А это принципиальная проблема. И, к сожалению, закономерность, связанную с номерами шлюпок, невозможно установить до тех пор, пока информация о них не превратится в компьютерные данные, которые машина способна обработать. Компьютер не может выяснить что-то потенциально значимое для нас. Но человек – может.

Мы также видим здесь ошибочную причинно-следственную связь. Ведь если бы мы располагали данными о номерах шлюпок, то могли бы решить, что мужчины, находившиеся в шлюпках с нечетными номерами, имели больше шансов пережить крушение «Титаника». Тогда, опираясь на результаты, нам следовало бы сделать вывод, что впредь все шлюпки должны быть нечетными, ведь это повышает шансы на выживание в критической ситуации. Конечно, это смешно. Не номер шлюпки, но офицер – вот что действительно имело значение.

История двух молодых людей также вносит коррективы в чисто математические расчеты. В художественном бестселлере Уолтера Лорда «Ночь, которую стоит помнить» (A Night to Remember) идет речь о последних часах «Титаника» [100] Lord, A Night to Remember; Brown, “Chronology – Sinking of S. S. TITANIC.” . Лорд рассказывает историю 17-летнего Джека Тейера, севшего на борт в Шербуре, во Франции, после долгих каникул в Европе с родителями. На «Титанике» Тейер познакомился со своим ровесником, пассажиром 1-го класса Милтоном Лонгом. По мере развития катастрофических событий молодые люди помогали пассажирам добираться в безопасные места. К двум часам ночи, когда практически все спасательные шлюпки были спущены на воду, Тейер и Лонг помогали женщинам и детям забраться в них. К 2:15 последние шлюпки исчезли из виду. Корабль кренился на левый борт. Произошел взрыв, взрывная волна вырвалась на шлюпочную палубу. В этот момент повар Джон Коллинз стоял там, держа в руках ребенка, помогая стюарду и женщине из 3-го класса с двумя детьми. Его и других выбросило за борт. Ребенка вырвало из его рук взрывной волной.

Тейер и Лонг видели хаос на палубах. Внезапно везде погас свет – уровень воды на судне достиг котельной в бойлерной № 2. Теперь источником света остались только луна, звезды и фонари шлюпок, удаляющихся от тонущего лайнера. Обрушилась с грохотом вторая дымовая труба. Тейер и Лонг осмотрелись: шлюпки уплыли, а судна, идущего на помощь, видно не было. Они поняли, что пришло время покинуть борт. Друзья пожали друг другу руки и пожелали удачи. Лорд пишет:

Лонг перелезает через поручни, тем временем Тейер залезает на них и начинает расстегивать пальто. Свесившись и держась за поручни, Лонг посмотрел на Тейера и спросил: «Ты идешь, парень?»

«Смелее, я прямо за тобой», – отозвался тот.

Лонг скатился вниз. Спустя 10 секунд Тейер перенес вторую ногу за поручни, собираясь прыгать. Он был в трех метрах над водой. Оттолкнувшись изо всех сил, он прыгнул так далеко, как только мог.

Из двух способов покинуть судно сработал вариант Тейера.

Он выжил, доплыв до ближайшей перевернутой шлюпки и ухватившись за нее вместе с 40 другими пассажирами. Он наблюдал за тем, как «Титаник» переломился пополам, как нос и задняя часть ушли под воду среди обломков. Тейер слышал крики людей. «Похоже на цикад», – подумал он. Наконец, шлюпка № 12 подобрала Тейера и других из ледяной воды. Помощь прибыла спустя несколько часов. До 8:30 утра, пока их не спасла «Карпатия», Тейер дрожал от холода в шлюпке.

Тейер и Лонг были молодыми людьми, одного возраста, со схожими физическими данными, примерно одинакового социального статуса и абсолютно равной возможностью выжить. Разница сказалась в момент прыжка. Тейер прыгнул так далеко от судна, как только мог; Лонг нырнул прямо рядом с кораблем. Лонга затянуло в водоворот, Тейера – нет. Меня смущает другое: что бы ни прогнозировал компьютер относительно будущего Тейера и Лонга, он все равно ошибется. Его прогноз основывается на данных о классе пассажиров, возрасте и поле – но значение имело не это, а разница в прыжках. Компьютер просто в принципе не думает. Случайная смерть Лонга показывает, что прогнозы относительно выживших на «Титанике» никогда не окажутся точными на 100 % и ни один статистический прогноз не будет точен на 100 %, потому что человеческие существа никогда не станут статистикой.

Это подтверждает принцип неоправданной эффективности данных . Пока вас не беспокоит потенциальная дискриминация и беспорядок, кажется, что ИИ работает превосходно. Одной из моих любимых работ, посвященных объяснению мира с точки зрения информатики, является статья исследователей Google Алона Халеви, Питера Норвига и Фернандо Перейра. Они пишут:

В статье «Неоправданная эффективность математики в естественных науках» Юджин Вагнер объясняет, почему многие физические явления можно легко объяснить математическими формулами f = ma или e = mc -62. Тем временем направления науки, так или иначе подразумевающие взаимодействие с человеческими существами, а не с элементарными частицами, считаются менее ясными с точки зрения математики. Экономисты завидуют физикам, поскольку не могут с легкостью моделировать человеческое поведение. Неформальная, неполная грамматика английского языка занимает примерно 1700 страниц. Возможно, в случае с обработкой естественных языков и смежными областями знаний мы вынуждены мириться со сложными теориями и никогда не сможем приблизиться к простоте физических формул. И в таком случае нам нужно перестать поступать так, будто мы действительно собираемся разработать исключительно точные теории, и вместо этого стоит признать сложность мира и воспользоваться тем, что у нас есть: неоправданной эффективностью данных [101] Halevy, Norvig, and Pereira, “The Unreasonable Effectiveness of Data,” 8. .

Данные неоправданно эффективны – звучит интригующе и точно. Это объясняет, почему мы можем создать классификатор, способный с точностью 97 % предсказать смерть пассажиров «Титаника», и почему компьютер может обыграть чемпиона по го. Это также объясняет, почему, когда мы обращаем внимание на то, что именно происходит в момент обучения компьютера, мы понимаем, что машина не учитывает множества случайностей, которые происходят в случае реальных катастроф. Данные действительно эффективны. Однако подход, основанный на данных, не учитывает множества факторов, которые – по мнению людей – оказываются значительными.

Закон и общество пытаются вместить все, что люди узнали о материальном мире. Решения, основанные на данных, редко вписываются в эту сложную систему правил. Бессмысленность данных мы можем наблюдать в случае машинного перевода, голосовых помощников и распознавания рукописей. Слова и их комбинации компьютер не понимает так, как их понимает человек. Поэтому статистические методы распознавания речи и машинного перевода полагаются на вероятности и огромные массивы данных коротких последовательностей слов, или N-граммы. Десятилетиями лучшие умы компании Google работали над этим, им удалось собрать больше данных, чем кому-либо. Архив Google, архив The New York Times , все поисковые запросы, когда-либо заданные системе: в итоге получается, что, когда все это соединяется воедино и вырабатывается зависимость частоты появления тех или иных слов в комбинации, мы имеем дело с неоправданной эффективностью данных. Рассмотрим что-нибудь простое. В N-граммах слово «лодка», скорее всего, появится рядом со словом «вода», а не с электрокаром или лесным клопом, поэтому поисковик соединяет термины и файлы, связанные с лодками и водой, а не с водой и клопами. Люди обычно говорят об одних и тех же вещах, ищут одно и то же, в конце концов, общие знания на то и общие. Машина не учится на самом деле; процесс поисковой обработки попросту вдохновлен человеческим обучением. Если вы когда-нибудь решали математические задачки, вы видели, что это не магия, а всего лишь математика. Компьютеру удастся что-то «понять» достаточно правильно только тогда, когда мы сможем признать, что он в целом «прав», то есть он «поймет», что что-то правильно, на совершенно другом основании.