Коллектив авторов - На что похоже будущее? Даже ученые не могут предсказать… или могут?

Так что нам следует быть осторожными в наших футурологических прогнозах. Некоторые технологии намного сложнее, чем кажется большинству из нас. Один из примеров — универсальный искусственный интеллект (УИИ). Именно его хотели создать основоположники теории ИИ в 1950-е гг., а до них — Алан Тьюринг. Они надеялись разработать системы ИИ, которые по своей универсальности и гибкости будут сопоставимы с человеческим сознанием. Решением самых разных проблем должна была заниматься одна — разумеется, исключительно сложная — программа. В ее арсенале должны были быть такие инструменты, как язык, зрение, слух, способность к обучению и творческие способности, которые она бы разумно комбинировала и сочетала друг с другом. К ним должна была добавиться еще и способность контролировать двигательную активность — на случай использования в качестве средства управления роботом. Получается, что эта заветная программа очень сильно отличалась бы от хорошо знакомых нам сейчас однобоких, узкоспециализированных прикладных решений.

Изначально на УИИ возлагались большие надежды. В 1959 г. даже появилась программа, которую назвали «Универсальным решателем проблем», так как она, по сути, могла решить любую проблему, сформулированную в виде иерархий целей и подцелей. (В действительности задача по формулировке проблемы в таком формате возлагалась на программиста. И это была самая трудная часть работы.)

Среди решенных с ее помощью головоломок была, например, задача о миссионерах и людоедах. По условиям задачи три миссионера и три людоеда стоят на одном берегу реки. У них есть одна лодка, вмещающая двух людей. Необходимо перевезти всех шестерых на другой берег реки таким образом, чтобы количество миссионеров никогда не было меньше количества людоедов. Это был настоящий успех — ведь в задачке есть важный нюанс. (Попробуйте решить ее сами, например, используя монеты.) В то время она использовалась в качестве теста на соответствие требованиям ИИ. Поэтому неудивительно, что новость о том, что машина смогла решить задачку, произвела настоящий фурор.

Началась активная работа по усовершенствованию таких систем и расширению их возможностей. Но, как оказалось, добиться поставленных целей было совсем непросто. К концу 1970-х гг. большинство ученых, занимавшихся исследованиями в области ИИ, переключились на значительно более узкие задачи, занявшись, например, разработкой так называемых экспертных систем, призванных ставить диагнозы и (или) выписывать препараты при определенных заболеваниях. Учитывая, что такие системы работали с конкретными знаниями (к примеру, о медицинских диагнозах), работа над ними велась под девизом «перенесем наши знания о мире в системы ИИ».

Сегодня существуют тысячи всевозможных экспертных систем (хотя сам этот термин давно вышел из моды), используемых для решения как сложных, так и самых обычных повседневных задач. Они применяются в самых разных областях — от геологоразведочных работ, машинного перевода и распознавания лиц до поиска ближайшего ресторана индийской кухни. Основная часть исследований в области ИИ в XXI в. посвящена разработке как раз таких узкоспециализированных систем. Но этим все не ограничивается — УИИ сегодня снова считается достойным внимания предметом изучения. (Один из примеров возрождения интереса — модель сознания LIDA, о которой пойдет речь ниже.) Тем не менее ни одна из существующих систем УИИ не является по-настоящему «универсальной» в том значении, которое вкладывал в этот термин Алан Тьюринг.

Однако с этим утверждением вряд ли бы согласились поклонники программы Watson компании IBM. Скорее всего, они бы заявили, что задача создания УИИ уже решена: все-таки в 2011 г. эта программа обыграла двух победителей телевизионной игры-викторины Jeopardy! [10] В России версия игры выходит под названием «Своя игра» на канале НТВ. — Прим. ред. Участники этого состязания не отвечают на сформулированные кем-то другим вопросы — они сами формулируют их на основе полученных от ведущего подсказок (то есть ведущий не обращается к ним с вопросом «Какой город является столицей Франции?», а, например, дает подсказку — «столица, являющаяся тезкой наследницы гостиничной империи»). Чтобы участвовать в такой викторине, нужно уметь нестандартно мыслить, ну или хотя бы выстраивать цепочки ассоциаций.

Многочисленные победы Watson в Jeopardy! — настоящее достижение, которым разработчики могут по праву гордиться. Однако интеллект Watson не имеет ничего общего с нашим. Однажды, например, система совершенно верно определила, что в подсказке шла речь о ноге конкретного спортсмена, но она не смогла понять, что главным фактом об этом человеке в ее базе данных было отсутствие у него одной ноги. После этого программисты пометили слово «отсутствует» как значимое, чтобы эта ошибка не повторилась снова. Но человек, понимающий, насколько важны ноги для спортсменов (да и для обычных людей), просто бы не допустил такую ошибку. Умение определять значимость тех или иных вещей для человека — главный камень преткновения для всех систем УИИ: проще говоря, компьютер не знает, что значит быть человеком.

Таким образом, некоторые амбициозные задачи в области ИИ и УИИ настолько сложные, что, даже если в теории у них и есть решение (все-таки человеческий мозг вряд ли продукт волшебства), на практике их реализовать не получится.

С этим утверждением вряд ли согласятся поборники идеи о «сингулярности» — того воображаемого момента в истории, когда машинный интеллект сравняется с человеческим, а потом благодаря разумному самоусовершенствованию машин быстро перегонит его, и до которого, по мнению некоторых специалистов в области ИИ, осталось не более 20 лет. (Прогнозы разнятся: многие исследователи, занимающиеся разработкой ИИ, предсказывают наступление сингулярности к концу столетия.) И тогда все наши главные проблемы, заявляют некоторые адепты сингулярности, будут решены. Война, бедность, голод, болезни и даже смерть — все это уйдет в прошлое.

Здесь есть с чем поспорить. Например, станет ли кто-нибудь всерьез утверждать, что какая-то система с ИИ сможет распутать тугой узел политических противоречий на Ближнем Востоке? Стоит признать, что мы, люди, пока не очень преуспели на этом поприще. Но вера в то, что ИИ когда-нибудь сможет решить эту проблему, требует слишком фанатичной преданности идеям технологического прогресса, которая чужда многим людям (включая меня): политические и исторические причины существующих конфликтов настолько сложны и замысловаты, что ИИ вряд ли под силу учесть их в полной мере.

Еще один футуристический сценарий, рожденный воображением некоторых сторонников идеи о сингулярности, не сулит ничего хорошего для человечества — роботы в нем берут контроль над всем. Согласно этому сценарию, «сверхразумный» ИИ будет стремиться во что бы то ни стало достичь каких-то собственных целей. В результате мы можем оказаться в весьма невыгодном положении. Причем все может обойтись без причинения вреда людям (хотя и такое развитие событий вполне возможно). Но, подобно тому, как большинство людей не заботит судьба муравьев, сверхразумный ИИ может в итоге причинить нам вред или даже уничтожить нас, если мы встанем у него на пути. Например, ИИ, разработанный для производства скрепок, в будущем может переключиться на человеческие тела, используя их как источник атомов металлов: так, железо в нашей крови может стать сырьем для скрепок.