Дэниел Клемент Деннет - Разум: от начала до конца. Новый взгляд на эволюцию сознания от ведущего мыслителя современности

Таким образом, человеческое мышление (Дарвин считал его особым явлением и назвал методическим отбором) может ускорить естественный отбор, сосредоточив селективные усилия на восприятии и мотивации специалистов по одомашниванию. Фрэнсис Арнольд не просто выращивает новые белки; она создает интенсивное, направленное их воспроизводство. Это должно насторожить нас: наш удивительный разум не застрахован от причуд и фантазий, которые могут исказить наши проекты, направить их в странном и даже ведущем к саморазрушению направлении. Подобно тому как любители голубей порой разводят птиц с невероятным оперением или заводчики собак создают несчастных инвалидов, «игрушечных собачек», человеческие существа могут – часто с помощью слишком активных помощников – превращать свои умы в гротескные артефакты, беспомощные или даже хуже.

Это предполагает, – но не доказывает, конечно, – что без нас, пользователей машин, критически и проницательно интерпретирующих результаты, компьютеры глубокого обучения могут увеличивать компетентность, значительно обгонять разум животных (в том числе и наш) в области восходящих задач поиска статистических закономерностей, но никогда не смогут достичь понимания (в человеческом смысле). «Ну и что?» – может спросить кто-нибудь. «Компьютерное понимание, развивающееся снизу вверх, сможет поглотить человеческое, превзойдя его своими огромными масштабами и скоростью обучения». Последний прорыв в области искусственного интеллекта, программа глубокого обучения AlphaGo [223] AlphaGo – программа для игры в го, разработанная компанией Google DeepMind в 2015 году. AlphaGo стала первой в мире программой, которая выиграла матч у профессионального игрока в го. В марте 2016 года программа выиграла со счетом 4:1 у Ли Седоля, профессионала 9-го дана (высшего ранга). , победившая Ли Седоля, считавшегося лучшем игроком в го в мире, отвечает многим ожиданиям. Я упоминал Фрэнсис Арнольд и Дэвида Крупа, каждый из которых осуществляет контроль качества в созидательных процессах, руководимых ими с научной и эстетической точек зрения, и именно их мнение определяет дальнейшие направления работы. Они, если можно так выразиться, управляют машинами, которые они создали посредством личного творчества. А программа AlphaGo делает нечто аналогичное самостоятельно, согласно публикациям: она улучшает свои навыки игры, играя тысячи матчей в го сама с собой, внося при этом небольшие поправки в собственные коды, оценивая (вероятные) успехи и используя эти оценки для корректировки ходов во все новых раундах игры. Это уже иной уровень созидания и оценки, он применяется для весьма абстрактной игры, изолированной от шума реального мира и сопутствующих ему проблем, однако AlphaGo учится принимать «интуитивные» решения в ситуациях с небольшим количеством строгих ориентиров, с которыми обычно работают компьютерные программы. Уже почти готов к внедрению самоуправляемый автомобиль, – а эта перспектива еще совсем недавно казалась умозрительной, – так может быть, не так долго осталось и до самоуправляемой научной лаборатории?

Таким образом практические, научные, эстетические мнения имеют шанс скоро уйти на аутсорсинг искусственным специалистам. Если точка зрения Сьюзен Блэкмор [224] Сьюзен Блэкмор (Susan Blackmore, род. 1951) – английский исследователь и популяризатор теории мемов, профессор Плимутского университета, автор многих публикаций и книг. оправданна, право на мнения и суждения уже постепенно перестает быть человеческой прерогативой в цифровом мире популярной музыки и интернет-мемов – тремов , согласно новой терминологии (см. главу 11). Столетиями мемов было слишком много, люди жаловались на обилие мемов со времен изобретения печатного станка и хотели создать какие-нибудь фильтры, чтобы убрать тем или иным способом засоряющие мозг, отнимающие время мемы. Не пытайтесь прочесть все стихи всех поэтов; подождите, пока авторитетный поэт или критик не выпустит антологию, в которую отберет лучшее. Однако какому авторитету можно доверять? Кто понимает ваши вкусы и потребности? Вы можете подписаться на литературный журнал, который публикует обзоры издательств и произведений отдельных поэтов. Однако какому литературному журналу можно доверять? Можно проверить репутацию журнала по публикациям других журналов, которые продаются в киосках. Существует целая индустрия, направленная на удовлетворение нужд разных искателей мемов, и если бизнес идет ко дну, можно попытаться создать новую потребность, которую вы же и будете удовлетворять. Это все известные вещи. Но сейчас мы вступаем в новую эру, когда ценители, законодатели мод и вкусов будут не людьми, а искусственными сущностями. Это не всем понравится, как мы увидим дальше. Но это не остановит иерархические слои дифференциальных репликаторов, их будет все больше, и мы рискуем действительно столкнуться с ситуацией, в которой оказался ученик чародея и его размножающиеся метлы [225] Сюжет впервые появился в балладе Иоганна Вольфганга фон Гёте в 1797 году в балладе «Ученик чародея» – ученик колдуна, забыв останавливающее заклятие, пытается в отсутствии учителя заставить метлу выполнять работу по дому. Все действия метлы превращаются в дурную бесконечность, ученик разрубает ее пополам, но она превращается в две метлы, и так до бесконечности. Спасение приносит вернувшийся колдун, который знает правильное заклятие. Варианты этого сюжета легли в основу мультфильма про Микки-Мауса Уолта Диснея и фильма 2010 года компании Walt Disney Pictures. .

В рекламе IBM программа Watson, «беседуя» с Бобом Диланом, говорит, что может прочесть «800 миллионов страниц текста в секунду». Другая всем известная обучаемая программа, Google Translate, сбросила с дороги системы GOFAI, которые делали попытки «разобрать» и интерпретировать (и, таким образом, понять с помощью бледной жалкой копии человеческого понимания) человеческий язык; переводчик Google Translate работает поразительно быстро, хорошо, – хотя он все еще далек от совершенства, – переводя с языка на язык, однако он полностью паразитирует на корпусе переводов, выполненных людьми-билингвами (и билингвами-добровольцами, приглашенными в качестве информаторов для работы над сайтом). В поисках закономерностей Google Translate просеивает миллионы пассажей, которые уже когда-то были хорошо переведены (достаточно хорошо, чтобы быть размещенными в Сети) и останавливается на наиболее вероятном (возможном) подходящем переводе, не понимая при этом вообще ничего .

Это, конечно, спорное утверждение, которое требует тщательного разбора. Существует анекдот об англичанине, который рассказывает о ноже: «Французы называют эту вещь couteau , итальянцы – cotello , немцы – Messer, а англичане – knife, ножом, и это он и есть!» Самодовольство англичанина является результатом того, что он знает, что такое нож, но не имеет понятия (похоже) о программе Google Translate. На жаргоне когнитивных наук знание англичанина, что такое нож (а также couteau и других слов-синонимов), основано на нелингвистическом знании, физическом знакомстве с ножами, с их способностью резать, с необходимостью их точить, ощущением веса разделочного ножа, с удобством перочинного ножа и тому подобным. Англичанин уважает слово knife , но вряд ли относится с пиететом к слову snath (ручка от косы), даже если и знает, что по-немецки это слово будет Sensenwurf . Но берегитесь. В Google Translate, несомненно, очень много данных по контекстам, в которых может появиться слово «нож», оно соседствует со словами «резать», «острый», «оружие», а также «владеть», «держать», «бросать», «колоть», «разделывать», «строгать», «втыкать» и «хлеб», «мясо», а также «карман», «заточить», «кромка» и многими другими, с их собственными соседями. Не является ли вся эта отсортированная и переваренная информация о содержании лингвистических контекстов чем-то вроде разъяснения слова «нож» в конце концов? Не служит ли она на самом деле чем-то вроде обоснований, которые многие из нас находят для технических терминов, типа «послание РНК» или «бозон Хиггса»? Она направляет процесс перевода по все более надежным каналам. Если вы доверяете Google Translate как переводчику, он вряд ли подведет вас. Демонстрирует ли он серьезный уровень понимания? Многие скажут: НЕТ! Однако если мы утверждаем, что это привычное отрицание есть что-то большее, чем просто вызов машине, должно бы существовать что-то, находящееся за пределами возможностей Google Translate, и чем мог бы оперировать по-настоящему понимающий.