Даглас Хофштадтер - ГЕДЕЛЬ, ЭШЕР, БАХ: эта бесконечная гирлянда

Вопрос: Будет ли компьютер когда-нибудь сочинять прекрасную музыку?

Возможный ответ: Да, но не скоро. Музыка — это язык эмоций, и до тех пор, пока компьютеры не испытают сложных эмоций, подобных человеческим, они не смогут создать ничего прекрасного. Они смогут создавать «подделки» — поверхностные формальные имитации чужой музыки. Однако несмотря на то, что можно подумать априори, музыка — это нечто большее, чем набор синтаксических правил. Программы-композиторы еще долго не смогут дать новых образцов музыкального искусства. Позвольте мне развить эту мысль. Я слышал мнение, что вскоре мы сможем управлять препрограммированной дешевой машинкой массового производства, которая, стоя у нас на столе, будет выдавать из своих стерильных внутренностей произведения, которые могли бы быть написаны Шопеном или Бахом, живи они подольше. Я считаю, что это гротескная и бессовестная недооценка глубины человеческого разума. «Программа», способная сочинять подобную музыку, должна будет самостоятельно бродить по свету, находя дорогу в лабиринте жизни и чувствуя каждое ее мгновение. Она должна будет испытать радость и одиночество леденящего ночного ветра, тоску по дорогой руке, недостижимость далекого города, горечь утраты после смерти близкого существа. Она должна будет познать смирение и усталость от жизни, отчаяние и пустоту, решимость и счастье победы, трепет благоговейного восторга. В ней должны будут сочетаться такие противоположности, как надежда и страх, боль и торжество, покой и тревога. Неотъемлемой ее частью должно быть чувство красоты, юмора, ритма, чувство неожиданного — и, разумеется, острое осознание магии творческого акта. В этом и только в этом — источник музыкального смысла.

Вопрос: Будут ли чувства запрограммированы явно?

Возможный ответ: Нет. Это было бы смешно. Никакая прямая симуляция эмоций — например, ПАРРИ — не сможет приблизиться к сложности человеческих переживаний, которые косвенно вызваны организацией нашего мозга. Программы или машины разовьют чувства таким же образом, как побочный продукт их структуры и организации, а не путем прямого программирования. Так, никто не напишет подпрограммы «влюбленности», так же как никто не напишет подпрограммы «совершения ошибок.» «Влюбленность» — это описание сложного процесса сложной системы; совсем не обязательно, чтобы в системе был некий отдельный модуль, отвечающий за это состояние.

Вопрос: Сможет ли думающий компьютер быстро вычислять?

Возможный ответ: Может быть, нет. Мы сами состоим из аппаратуры, которая проделывает сложные вычисления, но это не означает, что на уровне символов, там, где находимся «мы», нам известно, как делать те же самые вычисления. Иными словами, нам не удастся загрузить числа в собственные нейроны с тем, чтобы подсчитать, сколько мы должны в бакалейной лавке. К счастью для нас, уровень символов (то есть, мы сами ) не имеет доступа к нейронам, ответственным за мышление, — иначе мы потеряли бы голову. Перефразируя Декарта еще раз,

«Я мыслю; следовательно, у меня нет доступа к уровню, на котором я суммирую.»

Скорее всего, в случае разумной программы ситуация будет аналогична. Программа не должна иметь доступа к цепям, где происходит процесс мышления, — иначе она потеряет ЦП. Говоря серьезно, я думаю, что машина, которая сможет пройти тест Тюринга, будет вычислять так же медленно, как и мы с вами, и по той же причине. Она будет представлять число «два» не как два бита «10», а как некое понятие так же, как это делают люди, — понятие, нагруженное такими ассоциациями, как слова «пара» и «двойка», понятия четности и нечетности, форма числа «2» и так далее. С подобным дополнительным багажом думающая программа станет складывать довольно медленно. Разумеется, мы могли бы снабдить ее, так сказать, «карманным калькулятором» (или встроить его в сам компьютер). Тогда она вычисляла бы очень быстро, но делала бы это точно так же, как человек с калькулятором. В машине было бы две части, надежная, но безмозглая часть и разумная, но ошибающаяся часть. Надеяться на безошибочное действие такой составной системы можно было бы не более, чем на систему, состоящую из машины и человека. Так что, если вам нужны правильные ответы, лучше пользуйтесь исключительно калькулятором и не добавляйте к нему разум!

Вопрос: Будут ли такие шахматные программы, которые смогут выиграть у кого угодно?

Возможный ответ: Нет. Могут быть созданы программы, которые смогут обыгрывать кого угодно, но они не будут исключительно шахматными программами. Они будут программами общего разума и, так же как люди, они будут обладать характером. «Хотите сыграть партию в шахматы?» — «Нет, шахматы мне уже надоели. Лучше давайте поговорим о поэзии…» Приблизительно такой разговор вы сможете иметь с программой, которая будет способна выиграть у кого угодно. Дело в том, что настоящий разум непременно основан на возможности общего обзора — так сказать, запрограммированной способности «выходить из системы» по крайней мере в том объеме, в каком мы сами обладаем такой способностью. С возникновением этой способности вы теряете контроль над программой — она переступает некий порог, и вам остается только расхлебывать заваренную вами кашу.

Вопрос: Будут ли в памяти программы некие места, где будут храниться параметры, управляющие поведением программы, так что, если бы вы забрались внутрь программы и поменяли их, программа стала бы умнее или глупее, более творческой или более заинтересованной в футболе? Короче, сможете ли вы «настраивать» программу, «подкручивая ее ручки» на относительно низком уровне?

Возможный ответ: Нет. Программа будет почти безразлична к изменениям любого данного элемента памяти, так же, как не меняемся и мы, несмотря на то, что тысячи нейронов нашего мозга ежедневно умирают. (!) Однако, если вы зайдете слишком далеко в вашей возне с программой, вы можете ее сломать, точно так же, как если бы вы небрежно провели нейрохирургию человеческого существа. В программе не будет никакого «магического» места, где будет расположен, скажем, ее коэффициент умственного развития. Это будет одной из черт, возникающей на основе низших уровней, и локализовать ее будет невозможно. То же самое верно и в отношении «количества объектов, которое программа может удержать в своей кратковременной памяти», «ее любви к физике» и так далее, и тому подобное.

Вопрос: Можно ли «настроить» какую-нибудь разумную программу так, чтобы она действовала, как я или как вы — или как нечто среднее между нами?

Возможный ответ: Нет. Разумная программа будет так же мало походить на хамелеона, как и человек. Она будет опираться на постоянство своей памяти и не сможет произвольно менять характер. Идея изменения внутренних параметров с тем, чтобы «настроиться на новую индивидуальность» указывает на смехотворную недооценку сложности личности.