Ханна Фрай - Hello World. Как быть человеком в эпоху машин

Чтобы дать верный ответ ( What does “buckle” mean? [183]), электронному игроку надо было научиться прорабатывать несколько уровней. Прежде всего компьютеру пришлось бы достаточно хорошо освоить язык, чтобы извлечь какой-то смысл из формулировки задания и понять, что все эти слова: “крепление”, “соединение”, “согнуть”, “деформировать” и “нечаянно продавить” — являются независимыми элементами подсказки. Для алгоритма это уже само по себе большая работа.

Но это только первый шаг. Далее Watson должен был выбрать потенциальные варианты ответа для каждой подсказки. Со словом “крепление” ассоциировались самые разные ответы — зажим, пуговица, штифт, завязки и, в частности, пряжка. Watson должен методично рассмотреть все варианты и сопоставить их с другими подсказками. Вряд ли вы найдете очевидную связь между словами “штифт” и “погнуть” или “деформировать”, а вот пряжка, безусловно, ассоциируется с этими глаголами, поэтому у компьютера больше оснований выбрать этот ответ. В конце концов, собрав воедино все аргументы, Watson должен перейти от слов к делу и выдать однозначный ответ.

Конечно, играть в слова проще, чем разбираться с медицинскими диагнозами, но логическая схема одна и та же. Допустим, вы обратились к врачу с жалобами на беспричинное похудание, боли в животе, да еще с изжогой. Как и в телевизионном шоу, ставится задача определить вероятные диагнозы (ответы), которые объясняли бы симптомы (сведения в вопросе), найти дополнительные аргументы в пользу каждого варианта и, по мере поступления дополнительной информации, отдать предпочтение одному из возможных ответов. В медицине это называется дифференциальной диагностикой. В математике — байесовским выводом . [184]

Не так-то просто было разработать электронного доктора Ватсона, хотя игрок Watson уже существовал и успешно выступил в викторине. Тем не менее IBM объявила о своем намерении заняться медициной и скромничать не стала. Корпорация оповестила весь мир, что Watson исполнит высокую миссию — “искоренит рак”, а рекламировать “один из самых мощных инструментов, когда-либо созданных человечеством”, пригласила известного актера Джона Хэмма.

“Медицинская утопия” должна бы нас воодушевить. Только вот Watson , как вы уже, вероятно, знаете, не выполнил громких обещаний.

Первый престижный контракт был заключен в 2016 году с Онкологическим центром им. М. Д. Андерсона Техасского университета. Ходили слухи, что, несмотря на 62 миллиона долларов инвестиций в разработку технологии [185] [186]и четыре года работы, электронный Ватсон не продвинулся дальше пробных испытаний, которые проводились под жестким контролем. Позже, в сентябре 2017 года, сайт медицинских новостей STAT сообщил, что Watson “не может пока преодолеть первый этап и все еще учится различать формы онкологических заболеваний” [187].

А жаль.

Справедливости ради надо сказать, что были и успехи. В Японии Watson определил у одной пациентки редкую форму лейкемии, при том что врачи не смогли поставить диагноз [188]. А анализы, которые провел Watson , помогли обнаружить пять генов, связанных с заболеванием двигательных нейронов, боковым амиотрофическим склерозом (БАС) [189]. Но в общем и целом программисты IBM не сумели поддержать энтузиазм своего восторженного отдела маркетинга.

Любые попытки создать такую машину всегда вызывают одобрение. Теоретически возможно сделать компьютер, который сможет поставить диагноз — и даже предложить обоснованный план лечения, — и это достойная цель. Но и труднодостижимая. Это гораздо сложнее, чем выиграть в викторине, и несопоставимо сложнее, чем опознать на изображении раковые клетки.

Казалось бы, от уже известных нам алгоритмов распознавания образов, способных видеть рак, до многоцелевой диагностической машины всего один логический шаг, но у тех алгоритмов есть большое преимущество — им предлагают для анализа те самые клетки, которые могут быть причиной болезни. Диагностический компьютер, напротив, получает не первичную, а неоднократно переработанную информацию. Возможно, у пациента покалывает в конечностях, потому что у него возник мышечный спазм, потому что защемило нерв, потому что пациент поднял что-нибудь слишком тяжелое. Или у него кровь в кале, потому что он страдает геморроем, потому что у него запор, потому что он неправильно питается. Для того чтобы поставить верный диагноз, алгоритму (и доктору) надо раскрутить назад всю цепочку, начиная с одного симптома. Что и должен сделать Watson . Невообразимо сложная задача.

А ведь есть и другие трудности.

Помните нейросеть, которая различала волков и собак? Ее легко было обучить. Программистам достаточно было запастись пачкой фотографий с собаками и волками, пометить их и показать компьютеру. Простые данные, не допускающие двоякого толкования. Но, как сказал журналу Массачусетского технологического института MIT Technology Review специалист по компьютерной диагностике, патолог Томас Фукс, “в такой специфической области, как медицина, для того чтобы правильно разметить информацию, которую вы загружаете в компьютер, требуются люди с огромным опытом работы” [190].

При решении узких задач — скажем, когда в биоптатах, взятых для исследования на рак молочной железы, надо отличить “доброкачественное” новообразование от “опасной формы рака” — это еще можно организовать. Но универсальный диагностический компьютер, такой как Watson , должен разбираться практически во всех без исключения диагнозах. Для этого целая армия “дрессировщиков” самого высокого уровня должна в течение долгого времени снабжать машину информацией о пациентах и разнообразных специфических симптомах их заболеваний. Вообще-то этим людям есть чем заняться — например, спасением жизни других людей.

Итак, мы подходим к последнему препятствию. Его преодолеть сложнее всего.

Проблема данных

Родители Тамары Миллз заметили, что она как-то не так дышит, еще когда она была совсем малюткой. К девяти месяцам врачи нашли у нее астму — недуг, которым страдают 5,4 миллиона граждан Великобритании и 25 миллионов американцев [191]. Хотя Тамара была младше большинства своих товарищей по несчастью, в первые годы ее жизни болезнь удавалось контролировать, и она точно так же росла и играла на морском берегу северной Англии, как и другие дети-астматики, — не расставаясь, впрочем, с ингалятором.

В восемь лет Тамара подхватила ужасный свиной грипп. Оказалось, что для ее здоровья это был поворотный момент. Одна за другой пошли легочные инфекции. Иногда во время приступов астмы у нее синели губы. Но сколько Тамара с мамой ни обращались к ее лечащему врачу и в местную больницу, сколько ни жаловались ее родители на то, что она расходует ингаляторы быстрее, чем было бы положено [192], никто из докторов не направил ее к специалисту.