Коллектив авторов - На что похоже будущее? Даже ученые не могут предсказать… или могут?

Если приведенные свойства квалиа соответствуют действительности, в будущем вполне могут появиться системы ИИ с феноменальным сознанием. Так что ставить точку в обсуждении пока еще рано.

Вопрос о том, является ли ИИ благом или, что важнее, будет ли он благом в будущем, также остается открытым. Упоминавшиеся выше поборники сингулярности отвечают на него решительным «да!». Даже если вы, как и я, сомневаетесь, что сингулярность когда-нибудь наступит, мы вряд ли станем спорить, что во многих областях современные технологии ИИ приносят немало пользы. И в будущем пользы от них будет только больше. Это совершенно очевидно. В этой связи кажется вполне уместным говорить об ИИ как о «благе».

Однако ряд тенденций в развитии ИИ вызывает беспокойство. Над некоторыми из них нам стоит серьезно задуматься уже сегодня. Один из очевидных примеров — угроза для рынка труда: дело не только в сокращении количества самих рабочих мест (на рынке как квалифицированного, так и неквалифицированного труда), но и в снижении требований к квалификации, обусловленном тем, что все больше рутинных операций выполняются машинами. В идеальном сценарии подход к организации труда будет пересмотрен таким образом, чтобы люди могли работать рядом с машинами: люди будут делать то, что могут делать только они, а всем остальным будет заниматься ИИ. Но даже в этом случае найдется немало любителей скучной рутины, которым будет непросто адаптироваться к новым условиям труда. Наверняка появятся новые рабочие места. Но, вероятнее всего, к образованию кандидатов будут предъявляться высокие требования, труднодостижимые для большинства людей — причем даже в самых развитых обществах.

Найдутся те, кто скажет, что без работы можно и обойтись. По их мнению, зарплату смогут заменить некие «универсальные базовые выплаты», право на получение которых будет иметь каждый гражданин. (В ряде стран уже проводятся или планируются пробные программы таких выплат.) Но реализовать эту инициативу не так просто. Где взять налоговую базу, которая позволит обеспечить эту неслыханную социальную щедрость? И что будут делать люди с таким количеством свободного времени? Согласно исследованиям социальных психологов, работа, пускай даже и связанная с неквалифицированным трудом, — это нечто куда большее, чем просто источник дохода.

Еще один яркий пример, а точнее — целая группа примеров, относится к военной сфере. Доставкой бомб к месту сброса уже занимаются беспилотные летательные аппараты (БПЛА), однако за выбор целей по-прежнему отвечают люди. Будущее, где каждый шаг беспилотника полностью автоматизирован, а цели выбираются машинами, может показаться кошмаром. Речь об этом пойдет в главе, написанной Ноэлем Шарки.

Кроме того, существует большая группа примеров применения ИИ в областях, предполагающих сегодня эмпатическое общение между людьми. Значительные средства вкладываются в исследования, посвященные «компьютерам-сиделкам», «компьютерам-компаньонам» и «робоняням».

Если няня-робот — это просто система контроля состояния ребенка, позволяющая отслеживать фазы сна и реагировать на плач, отправляя соответствующие сигналы человеку, то в этом нет ничего плохого. Но если это еще и система обработки естественного языка, которая должна развлекать и обучать малыша, то о пользе говорить уже не приходится. Даже совместный просмотр «Бэмби» с таким помощником может обернуться громадными проблемами: что сможет сказать ребенку няня-робот в момент убийства мамы Бэмби?

Схожим образом использование систем ИИ (будь то автоматизированное слежение или роботы) для выполнения рутинной повседневной работы в домах престарелых не приводит к особым проблемам. Однако участие таких систем в разговорах на личные темы, включая ситуации, вызывающие в памяти пожилых людей яркие эмоции, может принести куда больше вреда, чем пользы. (Разумеется, в идеальном мире такие способы использования ИИ даже бы не рассматривались. Профессиональные сиделки и социальные работники получали бы достойную оплату и пользовались бы куда большим уважением, чем сейчас, а друзья и родственники пожилых людей не ленились навещать своих родных. Но в реальности все иначе. Так что обольщаться не стоит.)

В настоящее время несколько групп специалистов по всему миру размышляют над этими разнообразными проблемами и пытаются выработать практические меры, направленные на то, чтобы с ними справиться, компенсировать их негативные последствия и обеспечить надлежащий контроль. Над этим работает, например, международный комитет под председательством специалиста по робототехнике, в задачи которого входит осуществление мониторинга — и консультирование — в области разработки роботов (таких, как БПЛА) для военного применения. Подобными вопросами занимаются и группы специалистов по ИИ вместе с представителями государственных органов, осуществляющих надзор за использованием больших данных в различных областях с целью выявления проблем, связанных, например, с нарушением неприкосновенности частной жизни.

Таким образом, нас ждут серьезные перемены. Многие разработки в области ИИ, безусловно, существенно облегчат нам жизнь. Но будут среди них и такие, которые приведут к непреднамеренным (хотя иногда и прогнозируемым) последствиям, создающим угрозу для важных составляющих жизни людей. Давать полный карт-бланш на разработку ИИ недопустимо.

Винфрид Хензингер.

Мое детство пришлось на начало 1980-х гг., когда использование вычислительной техники в быту только-только становилось привычным делом. Поэтому нет ничего удивительного в том, что своими навыками машинописи я обязан не им, а механической печатной машинке, да и сама жизнь была совсем другой — никаких автоматов по продаже билетов на вокзалах, никакого интернета, никаких смартфонов. С большинством повседневных задач люди справлялись без помощи компьютеров, а многие вещи, которые мы сегодня воспринимаем как нечто само собой разумеющееся, просто не существовали. Образ жизни современных людей очень тесно связан с компьютерами, и вряд ли можно представить себе его без них. Ученые и политики придумали специальный термин для обозначения технологий, с появлением которых наша жизнь меняется: они называют их «дизруптивными». Выбор термина обусловлен тем, что с внедрением таких технологий в жизни людей наступает новый этап, происходит разрыв с прошлым, а изменения носят всеобъемлющий характер. Я думаю, что в ближайшие 10–20 лет мы станем свидетелями появления очередной дизруптивной технологии — квантовых вычислений.

Давайте сразу уточним один момент: квантовые компьютеры — это не просто очень быстрые компьютеры. Более того, они вообще не имеют ничего общего с обычными компьютерами (которые мы будем в дальнейшем называть «классическими», чтобы отличать их от квантовых) и вряд ли будут применяться для решения тех же самых задач, что и привычные нам компьютеры сегодня. Значение этой технологии совсем в другом — благодаря квантовым компьютерам мы сможем справиться с проблемами, о преодолении которых мы прежде не могли даже мечтать: это класс задач, для решения которых даже самым мощным современным суперкомпьютерам понадобились бы миллиарды лет. С появлением квантовых компьютеров перед нами откроются совершенно новые возможности, в результате чего в нашей жизни, скорее всего, произойдут изменения, которые мы просто не можем спрогнозировать. Чтобы понять, в чем заключаются эти возможности, и представить, как они изменят нашу жизнь, лучше всего начать с азов и рассмотреть базовые принципы работы квантового компьютера. Надеюсь, читатель не будет возражать, если я предварю свой рассказ небольшим экскурсом в квантовую физику.