Дэниел Клемент Деннет - Разум: от начала до конца. Новый взгляд на эволюцию сознания от ведущего мыслителя современности

Я назвал этого ученика Верховным алгоритмом. Если такой алгоритм возможен, его изобретение стало бы одним из величайших достижений всех времен. На самом деле, Верховный алгоритм – последнее, что нам придется изобретать, поскольку, как только мы его выпустим на волю, он начнет изобретать все остальное, что еще можно будет придумать. Все, что нам нужно будет сделать, – это предоставить ему достаточное количество данных, и он снабдит нас соответствующим знанием.

Однако осталось неясным, действительно ли он говорит это всерьез, поскольку он отступил:

Ок, кто-нибудь скажет, что машинное обучение может обнаружить статистические закономерности в данных, но никогда не сможет открыть ничего фундаментального, как законы Ньютона. Вероятно, это еще не так, но я готов спорить, что будет.

Это пари, а не гипотеза, которую, как он думает, он может подтвердить серьезными аргументами в своей книге. В любом случае весьма полезно заглянуть в будущее с этой точки зрения, поскольку весьма многие не очень образованные люди в своих кошмарах видят примерно такие перспективы, и это помогает внести долю скептицизма в ужасные предсказания. Мы можем начать с заявления, ответом на которое и стало пари Домингоса. Может ли машинное обучение продвинуться дальше поиска «статистических закономерностей»? Домингос в этом уверен, но на чем основан его «оптимизм»?

Мы уже убедились в великолепной способности байесовских сетей подражать статистическим закономерностям, имеющим значение для организма – его потенциальным возможностям. Разум животных, оснащенный естественным отбором подобной сети, может управлять телами, в которых обитает с потрясающей ловкостью, однако не проявляет особых способностей к созданию нового и адаптации к нему. Это, как я писал, требует инфицирования разума мемами, когнитивными способностями (привычки, способы), разработанными где-то и установленными в мозгах стремлениями, которые глубоко изменяют когнитивную архитектуру мозга, превращая его в разум, по сути. Итак, единственные животные, обладающие этими усовершенствованиями, – наш вид Homo sapiens .

Точно так же, как клетка-эукариот возникла в результате внезапной передачи технологии, во время которой два независимых создания природной проектной лаборатории объединились в приступе внезапного симбиоза, чтобы положить начало гигантскому скачку вперед, человеческий разум, понимающий разум, представляет собой – и должен представлять – продукт симбиоза, объединяющего плоды двух в значительной степени независимых творений лаборатории эволюции. Мы начали этот путь, как я утверждал, с мозгами животных, которые были существенно переработаны под прекрасную базу для мыслительных инструментов, созданных где-то вовне, мемов, и главных среди них – слов. Мы обретаем большинство наших слов бессознательно, то есть никто не приказывает нам в детстве выучивать по семь новых слов в день, и смысл большинства слов – слов, которые нам никто не разъяснял, мы осваиваем постепенно, благодаря бессознательным процессам, которые находят смыслы в наших прошлых с ними опытах. Как только у нас зародились слова, мы смогли начать их использовать, но без особого понимания того, что мы делали. (У всякого слова в вашем лексиконе был первичный токен, первый раз, когда вы его использовали либо на публике, либо во внутреннем монологе или размышлении. Как часто вы осознавали, что впервые произносите новые слова, появившиеся в вашем рабочем словаре, положим, в последние десять лет? Когда-то?) Когда слова стали нашим привычным инструментом, не просто звуками, привязанными к контексту, мы смогли начать использовать их для создания новых смыслов для всего, с чем мы сталкиваемся.

Пока машины глубокого обучения проявляют довольно мало признаков роста подобного рода навыков. Домингос настаивает, что самообучающиеся машины созданы (весьма разумно) для того, чтобы самостоятельно использовать дарвиноподобные, восходящие процессы самосовершенствования. Для программы IBM Watson, победившей в 2011 году чемпионов телевикторины Jeopardy [222] Jeopardy! (дословно «опасное положение») – американская телевизионная игра-викторина, игра заключается в том, что участники отвечают на вопросы, причем каждый вопрос представлен в виде утверждения о некоем предмете, а игрок должен дать свой ответ в форме вопроса, назвав искомый предмет. Кена Дженнигса и Бреда Раттера, слова, которые она связывала в ответах, были не мыслительными инструментами , но просто узлами в многомерном пространстве узлов, не столько мемами, сколько ископаемыми следами человеческих мемов, сохраняющими колоссальные объемы информации о человеческих верованиях и практиках, но не принимающими активного участия в этих практиках. Пока нет, но, может быть, однажды это произойдет. Короче, программа Watson пока не думает, пользуясь словами, о том, что является для нее статистической информацией. Watson может отвечать на вопросы (на самом деле благодаря странным правилам викторины программа может составлять вопросы, на которые подсказки викторины служат ответами. Jeopardy: «Столица штата Иллинойс», участник: «Что такое Спрингфилд?»), но это не беседа.

Именно способность к самоконтролю, готовность подвергнуть паттерны реакций мозга дополнительному раунду (двум, трем или семи раундам) процедуры распознавания паттернов, дает разуму способности к совершению прорывов 102. Сегодняшнее машинное обучение действует в среде, где роли играют умные люди-пользователи , такие как Фрэнсис Арнольд с ее мастерской белков или Дэвид Коуп с экспериментами в области музыкального интеллекта, проектировщики и операторы машин, – они оценивают, улучшают, критикуют, корректируют и удаляют появляющиеся время от времени сомнительные результаты. Они являются критиками, чья деятельность по контролю качества обеспечивает селекцию, могущую в принципе привести эту систему к пониманию, поднять ее от уровня инструмента до уровня коллеги, но это будет гигантский шаг или даже серия гигантских шагов. С этой точки зрения мы можем более отчетливо осознать, что наш зараженный мемами разум служит вместилищем пользователей, критиков необработанных реакций наших животных мозгов, без которых мы были бы такими же бесхитростными существами, как другие млекопитающие, которые прекрасно справляются в привычных условиях, но теряются перед лицом серьезных изменений.

Любопытство сгубило кошку, как известно из одного мема, и любопытство животных, движимое снизу вверх присутствием новизны, является высокорискованным, порой дорогостоящим, но важным свойством многих видов; но только человек обладает любопытством контролируемым, систематическим, способным к предвидению и проверке гипотез, чертой пользователей, сидящей в каждом мозгу, пользователей, способных применять широкие возможности своего мозга для обнаружения статистических закономерностей. Пользовательская иллюзия сознания играет ту же самую роль для каждого из нас, что и интерфейс человекоподобного компьютера Ватсона и других систем глубинного обучения; они представляют собой нечто вроде витрины для талантов, «рынок идей», где оценка в реальном времени и конкуренция могут повысить скорость и разрешающую способность контроля качества.