Дэниел Клемент Деннет - Разум: от начала до конца. Новый взгляд на эволюцию сознания от ведущего мыслителя современности

Таким образом, я утверждаю, что программы глубинного обучения (до настоящего момента) различают , но не замечают . То есть поток данных, который система принимает в себя, не имеет для нее никакого значения, это просто «пища» для «переваривания». Лишенная движения и необходимости заботиться о себе система не имеет других целей, кроме как увеличения запаса обработанной информации. Watson и другие машины глубинного обучения способны, как и мы, усваивать ноу-хау, основанное на статистических закономерностях, но мы извлекаем их из опыта и способны решать , что искать и зачем, в зависимости от текущих целей. Отсутствие практического разума, интеллекта, направленного на достижение различных, меняющихся, самовоспроизводящихся стремлений, – именно это (пока) отличает действительно впечатляющего своими способностями Watson от настоящих людей. Если когда-нибудь Watson достигнет уровня сложности, с которым он сможет вклиниться в пока человеческую прерогативу рассуждений о причинах и оценок смыслов, он наконец перестанет быть инструментом и превратится в коллегу. И тогда сам Watson, а не создатели программы Watson, обретет право отвечать за свои действия.

Осознавание степени и характера зависимости машин глубинного обучения от человеческого понимания заслуживает дальнейшего исследования. В главе 8 мы обсудили уже смелую критику традиционного ИИ: потенциальные создатели разума, игнорирующие проблему добычи энергии и самозащиты, обрекают себя на создание паразитических систем, фатально зависимых от человеческого присутствия, – они лишь инструменты, не коллеги. Сегодня мы наблюдаем, как у систем ИИ появляется определенная степень понимания, постепенно создавая конкуренцию лучшим человеческим способностям, и это просто потрясающе, но и эти системы паразитируют на человеке, полностью завися от используемого ими огромного наследия человеческого разума. Google Translate не смог бы работать без миллионов отличных переводов, легших в основу его функционирования выполненных людьми, а нечеловеческие знания различных фактов в программе Watson также основаны на миллионах страниц, которые она скачивает ежедневно в Интернете. Перефразируя изречение Ньютона, можно сказать, что эти машины стоят на плечах гигантов, используя все достижения разума, полученные в процессе творческого созидания в прошлом.

Я проиллюстрировал свои выводы посредством задания, которое дал моим студентам после победы программы Watson над Дженнингсом и Раттером в викторине Jeopardy . Я предложил им придумать вопросы, которые поставили бы в тупик Watson, но были бы элементарными для Дженнингса и Раттера (да и любого нормального человека). (Следует отметить, что в викторине правила составлены в пользу Watson. Все вопросы, задававшиеся Watson, были вербальными, ему не нужно иметь ни зрения, ни слуха.) И все возможные тупики, так или иначе, на мой взгляд, были бы связаны с воображением.

Часть тела, которую можно нарисовать на земле, используя рогатку, косой крест и кольцо?

Ответ. Что такое ухо?

Животное, которое превращается в огромное количество растений посредством замены одной буквы.

Ответ. Что такое лис и лес?

Цифра между 0 и 9, из которой могут получиться отличный маленький бассейн и присоединенная к нему джакузи.

Ответ. Что такое 8?

У меня есть примеры и получше, но я не буду публиковать их или выкладывать в Интернет, поскольку Watson может скачать их и использовать в будущем! Watson не нужно собственное воображение, – он может использовать чужое. Обратите внимание, что с этой точки зрения Watson глубоко дарвинистское создание: ни Watson, ни естественный отбор не зависят от способности к предвидению или воображению, поскольку они управляются процессами, которые неустанно и бездумно извлекают информацию, – статистические закономерности, которые могут направлять улучшения дизайна из уже произошедших событий. Они слепы по отношению к тем типам событий, которые не касаются их селективных процессов. Конечно, если действительно нет ничего нового под солнцем, то это никак не ограничение, но человеческое воображение, способность представить себе реальность, которую мы не можем увидеть, просто поднявшись на холм повыше, оказалось способным полностью поменять правила игры, позволив нам творить , создавать проекты, возможности для их реализации, и в итоге предприятия и артефакты, которые никак бы не могли возникнуть сами по себе. Сознательный человеческий разум – это не чудо, не нарушение принципов естественного отбора, но новое расширение его возможностей, подъемное устройство, которое корректирует концепцию эволюционного биолога Стюарта Кауфмана [227] Стюарт Кауфман (англ. Stuart Kauffman, род. 1939) – американский врач, биолог-теоретик и исследователь сложных систем; наиболее известен тем, что утверждает, что сложность биологических систем и организмов может быть результатом как самоорганизации и далекой от равновесия динамики, так и дарвиновского естественного отбора. о смежных возможностях : многие области в Пространстве созидания расположены близко к нам , поскольку мы развили способность думать о них и даже искать их, или избегать их. Для Домингоса и других сторонников глубинного обучения остается без ответа вопрос о том, позволит ли изучение достаточно детальной и динамичной теории агентов с воображением и способностью к рассуждениям создать систему (компьютерную программу, Главный алгоритм), готовую генерировать и использовать способности этих агентов, то есть генерировать все морально значимые свойства личности 103.

По моему мнению (по-прежнему), глубинное обучение не сможет дать нам – по крайней мере, в ближайшие пятьдесят лет – ничего похожего на «сверхчеловеческий интеллект», который породил столько тревог (Bostrom, 2014; более ранняя работа Moravec, 1988; Kurzweil, 2005; Chalmers, 2010; см. еще ежегодный вопрос Edge world за 2015 год; а также Katchadourian, 2015).

Ускоряющееся развитие искусственного интеллекта, распространяющегося под флагом глубинного обучения, удивило даже многих специалистов в этой области, не только давнишних комментаторов и критиков, таких как я, к примеру. Это давняя традиция – устраивать хайп вокруг искусственного интеллекта, и многие из нас уже привыкли сомневаться в очередном «революционном прорыве» и понижать его вероятность процентов на 70, или даже больше. Однако, когда такие мастера высоких технологий, как Илон Маск, и ученые мирового уровня, как сэр Мартин Рис и Стивен Хокинг, начинают поднимать тревогу, утверждая, что искусственный интеллект вот-вот приведет нас к катаклизму и полному исчезновению человеческой цивилизации, приходит пора пересмотреть привычки и обуздать подозрения. Я сделал это и пришел к выводу, что мое мнение не изменилось, но стало чуть более осторожным, чем прежде. Я всегда утверждал, что «мощный ИИ» «возможен в принципе», – однако рассматривал его вероятность как не очень высокую, поскольку стоимость такого проекта была бы слишком высока и не давала бы нам ничего, в чем мы бы реально нуждались. Домингос и другие показали мне, что есть и вполне осуществимые возможности (с технической и экономической точек зрения), которые я недооценивал, тем не менее я по-прежнему думаю, что эта задача на порядок сложнее и масштабнее, чем заявляют лидеры общественного мнения, по причинам, указанным в этой главе и в главе 8 (см. пример с Ньюйоркаботом).