Коллектив авторов - Что мы думаем о машинах, которые думают [Ведущие мировые ученые об искусственном интеллекте]

Наконец, рассмотрим то, насколько важны человеческие «баги» — наши когнитивные искажения. Например, оптимизм заставляет нас верить, что мы можем добраться до Луны, вылечить все болезни и начать успешный бизнес в ужасном месте, откуда предыдущий арендатор сбежал. Эффект владения заставляет нас высоко ценить то, что мы имеем, что сами придумываем и создаем, даже когда с нами никто не согласен. Но можно ли считать, что при первых признаках неудачи отказываться от любого начинания в пользу того, что кажется более успешным, — всегда оптимальное решение? Упрямые ученые (к примеру, Галилей и Дарвин), которые остаются при своем вопреки общепринятым теориям и проявляют строптивый нрав, — это такой баг, но результат может оказаться гениальным. В значительной мере именно баги делают нас — как и любую форму интеллекта — людьми.

Мыслить — это хорошо. Понимать — лучше. Создавать — лучше всего. Нас окружают все более разумные машины. Проблема заключается в их приземленности. Они думают о том, как сажать самолеты и продавать мне всякие штуки. Они думают о наблюдении и цензуре. Их мышление неполноценно, если не безнравственно. Сообщается, что в прошлом году компьютер прошел тест Тьюринга. Но он прошел его под видом тринадцатилетнего мальчика, что вполне закономерно, учитывая основной род занятий наших инфантильных машин.

Мне бы очень хотелось, чтобы наши машины повзрослели, стали поэтичнее и обзавелись нормальным чувством юмора. Это должно стать арт-проектом столетия, финансируемым правительствами, негосударственными фондами, университетами и бизнесом. У каждого есть личная заинтересованность в том, чтобы сделать наше мышление более глубоким, улучшить понимание и генерацию новых идей. В последнее время мы приняли много идиотских решений, основанных на недостаточной информации, слишком большом количестве информации или неспособности понять, что эта информация означает.

Мы сталкиваемся со множеством проблем, которые приходится решать. Давайте начнем думать. Давайте начнем создавать. Давайте агитировать за то, чтобы у нас было больше фанка, больше соула, больше поэзии и искусства. Давайте отойдем от наблюдения и продаж. Нам нужно больше художников-программистов и художественного программирования. Нашим мыслящим машинам пора повзрослеть, выйти из подросткового периода, который длится уже 40 лет.

В своем одноименном стихотворении (также давшем название эпохальной документальной ленте Адама Кертиса) Ричард Бротиган предрекает будущее, в котором «за всем следят машины благодати и любви», или, иносказательно говоря, «мыслящие» машины. В настоящей работе я использую термин «мыслящие» для обозначения машин, которые мыслят в чисто алгоритмическом и вычислительном плане, — те, что созданы инженерами, а не те, что могли бы быть действительно разумными.

Кертис утверждает, что мы живем в «статичной культуре», которая слишком часто связана с одержимостью копированием и воспроизведением прошлого. Он указывает на то, что эра мыслящей машины приводит скорее к косности, а не к обновлению. Наши жизни все больше записываются, регистрируются и тиражируются; мы стали каннибалами, которыми движет стремление потреблять собственную историю и страх перед нарушением ее устоявшихся норм.

В какой-то мере будущее для нас закрыто, мы закоснели; мы застыли в одной версии самих себя, которая становится все более ограниченной. Благодаря (хотя благодарить тут не за что) таким новомодным инструментам, как рекомендательные сервисы, мы находимся в бесконечной петле обратной связи, построенной по принципу «Люди, которым понравилось это, также выбирают вот это». Мы рискуем еще глубже увязнуть в кертисовской идее you-loop [113] Онлайн-сервис, который создает зацикленные видео. — Прим. пер. , и природа человечности может оказаться искаженной машинами-трудоголиками, из-за которых многие из нас выйдут в тираж. Вопрос Edge указывает на начало следующей главы в истории/эволюции человека; мы стоим на пороге нового понимания людей, новой цивилизации.

Оптимистический подход к вопросу о мыслящих машинах можно найти у ливанско-американской поэтессы Этель Аднан, которая в этом году отмечает свое девяностолетие. По ее словам, мыслящие машины могут мыслить лучше, чем мы, — хотя бы потому что они не будут утомляться так же быстро, как мы. Они также могут ставить вопросы, на которые мы не привыкли отвечать. Этель говорит, что больше всего ее волнует проблема другого порядка. Однажды, рассматривая изображение робота, напоминающего полный доспех средневекового рыцаря, она немедленно представила пожилую женщину, совершенно одинокую, как это часто сейчас бывает с пожилыми людьми, и подумала, что единственный ее друг — такой вот человекоподобный предмет, который умеет помогать по хозяйству и разговаривать, и что эта женщина влюбляется в робота; и тогда Этель расплакалась.

Идея о мыслящих машинах играет важную роль в творчестве еще одного человека искусства — художника Филиппа Паррено, работающего с алгоритмами, которые стали для него заменой кинематографу в качестве модели восприятия времени. В прошлом веке Жиль Делёз в своих сочинениях о повторении и различии в кино сделал акцент на том, что фильм развертывается во времени и состоит из сменяющих друг друга плоскостей движения. Как показывает Паррено, Делёз, отталкиваясь от этой теории, рассматривал механизированное и стандартизированное движение в фильме как средство воспроизведения и репрезентации жизни. Работа Паррено с мыслящими машинами исследует то, как алгоритмы сегодня меняют наше отношение к движениям, ритмам и времени. В терминах Лейбница этот вопрос прозвучал бы так: «Являются ли машины духовными автоматонами?»

Мы можем перейти к нематериальной науке, а затем создать нематериальную мыслимую машину, начав с очень простого руководства по программированию.

Возможно, вопрос (если под вопросом понимать проблему) на самом деле представляет собой ложную проблему? Очевидно, что машины вычисляют, «пишут» стихи, организуют большие объемы информации и т. д. Что-то из этого можно назвать мышлением? (Я мыслю? Но что именно я делаю, когда думаю, что думаю?) Один ответ: я ощущаю муки — дыру в моем «наследственном», гладко текущем дискурсе (внутреннем или внешнем).