Эрик Кандель - Век самопознания. Поиски бессознательного в искусстве и науке с начала XX века до наших дней

Уникальна ли способность к творчеству для человеческого мозга – или же она свойственна всем достаточно сложным устройствам, обрабатывающим информацию? Некоторые ученые, работающие в области искусственного интеллекта, утверждают, что когда компьютеры станут достаточно мощными, им будут доступны проявления творческого интеллекта, обычно ассоциируемые исключительно с людьми, например, способность распознавать лица и умение формулировать новые идеи. Эту точку зрения отстаивает, в частности, изобретатель и футуролог Рэймонд Курцвейл в книге “Сингулярность уже близка”. Курцвейл полагает, что настанет время, когда ученые, создающие программы для подобных компьютеров, построят машины, которые окажутся умнее своих авторов. Эти машины, в свою очередь, будут способны проектировать машины еще умнее себя. Курцвейл считает, что в ближайшие десятилетия информационные технологии смогут охватить значительную часть человеческих знаний. Это приведет к компьютерному суперинтеллекту, который бросит вызов самой природе человеческого мышления.

Важный шаг вперед в этой области был сделан к 2011 году, когда компания Ай-би-эм построила компьютер “Ватсон” (размером с комнату), способный понимать человеческую речь и отвечать на широкий круг вопросов. “Ватсон” принял участие в телевикторине Jeopardy! [“Своя игра”], где от участников требуются не только энциклопедические знания, но и способность понимать двусмысленные вопросы. Компьютер успешно справлялся со сложно построенными вопросами и извлечением из памяти ответов, причем делал это быстрее, чем два чемпиона викторины. Он столкнулся с трудностями лишь тогда, когда дело дошло до связывания неоднозначно сформулированных вопросов с данными в памяти. Способность справляться с неоднозначностью требует понимания тонкостей, а в этом человеческий мозг по-прежнему не знает себе равных.

Тем не менее, “Ватсон” и “Дип блю” поднимают интереснейший вопрос: думают ли сложные вычислительные системы в том психологически точном смысле, в каком думает человек, или просто выполняют исключительно сложные вычисления? Можно ли применять слово “думать” по отношению к машине, или же делать это означало бы смешивать психологическое явление с его компьютерной моделью?

На этот вопрос пока нет однозначного ответа. Философ Джон Серль из Калифорнийского университета в Беркли полагает, что компьютерную программу, какой бы “умной” она ни была, нельзя приравнивать к человеческому разуму. Он предложил интересный мысленный эксперимент “Китайская комната”, демонстрирующий разницу между мышлением компьютерной системы, такой как “Дип блю” или “Ватсон”, и человеческого мозга.

Представим себе комнату, в которой сидит человек. У него имеется список правил, позволяющих находить соответствия между последовательностями символов из одного набора и последовательностями символов из другого набора. В данном случае это записанные иероглифами предложения на китайском языке. Предположим, что человек в комнате не знает китайского. Подбор соответствий между последовательностями из двух наборов для него будет делом чисто формальным – в том смысле, что будет зависеть исключительно от формы символов, а не от их значений. Знание китайского языка от него и не требуется. Представим себе, что этот человек хорошо научился работать с такими последовательностями в соответствии с имеющимся у него списком правил, и всякий раз, когда в комнату передают очередное предложение на китайском, он вскоре выдает в ответ другое предложение, также на китайском. Для человека снаружи, владеющего китайским, символы, передаваемые в комнату, представляют собой вопросы, а получаемые оттуда символы – ответы. Ответы соответствуют вопросам так же хорошо, как если бы в комнате сидел знаток китайского, дающий ответы осмысленно. Но человек в комнате не знает по-китайски ни слова. В комнате происходит лишь обработка последовательностей символов на основании их формы, то есть синтаксиса. Для настоящего же понимания требуется семантика, то есть знание значений символов.

Теперь представим, что вместо человека в “китайской комнате” компьютер, запрограммированный на подбор ответов в соответствии с тем же списком. Серль утверждает, что от этого ничего не изменится. Компьютер, как и человек, будет обрабатывать последовательности символов, исходя из их синтаксиса. Компьютер точно так же не понимает китайского, как и человек в комнате. Именно так, по-видимому, работают такие компьютеры, как “Ватсон”. Хотя он и способен отвечать на широчайший круг вопросов (о политике и поэзии, науке и спорте, даже о том, как готовить спагетти карбонара), нельзя сказать, что он понимает ответы на эти вопросы, точно так же как нельзя сказать, что человек в “китайской комнате” понимает китайский. Хотя “Ватсон”, отвечая на вопросы, демонстрировал такое же поведение, как и соперники, люди понимали, что именно они говорят, а компьютер – нет.

Многие работающие в области искусственного интеллекта и некоторые специалисты по когнитивной психологии, придерживающиеся вычислительной теории психики, полагают, что нельзя провести четкую грань между мышлением и вычислительной обработкой информации. Они считают, что аргументы Серля против вычислительной теории психики основаны не на фактах, а лишь на ощущении, что когда мы понимаем то или иное предложение, мы не просто обрабатываем последовательность символов, а делаем нечто большее. Поскольку Серль не предъявил убедительных экспериментальных данных, опровергающих вычислительную теорию психики, оппоненты утверждают, что его выводы построены на интуиции, а они нередко небезупречны и просто ошибочны.

Но даже не опираясь на интуицию, можно указать между вычислительной деятельностью мозга и работой машин разительные отличия, которые, возможно, не позволяют машинам обрести интеллект, подобный человеческому. Магнус Карлсен (выдающийся норвежский шахматист, в возрасте 21 года игравший наравне с Гарри Каспаровым) утверждает, что компьютеры, играющие в шахматы, ничуть не обладают интуицией. Они настолько быстро оперируют своими огромными запасами памяти, что им не требуется уметь играть ни остроумно, ни красиво, чтобы выигрывать у людей. Они умеют учитывать варианты на 15 ходов вперед и не нуждаются ни в каких уловках. Самые творческие шахматисты, такие как Карлсен, напротив, полагаются на интуитивные суждения о возможном развитии партии и чувствуют происходящее на доске. Поэтому они часто делают не те ходы, которые сделал бы компьютер. В результате шахматистам, которые совершенствуются в стратегии, полагаясь на шахматные программы и базы данных, оказывается трудно играть против таких, как Карлсен: их ходы непросто предсказать.