Станислав Лем - Молох (сборник)

Китайская комната Сёрла, как и моя puzzle , ничего не предопределяет, ничего не обещает, ничего не предетерминирует, ничего не «решает» раз и навсегда. Еще добавлю (это также слегка относится к делу), что на особом месте в моей библиотеке находится книга 1924 года издания, написанная немецким ДОКТОРОМ (но не медицины), который математически, химически и физически доказал в ней полную невозможность космических полетов и даже получения ракетой ускорения, способного преодолеть гравитацию, чтобы она смогла выйти на околоземную орбиту. Это очень хорошее доказательство, «проведенное исключительно формальными средствами». О нем стоит помнить оппонентам искусственного интеллекта. Основным упреком против моего сведения «тайны китайской комнаты» к головоломке типа PUZZLE является чрезмерное упрощение дела. Ну, сейчас я его усложню. Не картина находится на аверсе PUZZLE ’а, а те строки, произнесенные Отелло, где говорится о том, как он задушил Дездемону. Складывающий кусочки ничего об этом не знает. Он получает два пакета других кусочков в качестве «вопросов» и в качестве «ответов на вопросы». Всё это он видит только произвольно рассыпанными фрагментами картона и должен сложить из них целое благодаря тому, что их зубчики, зарубки и вырезы взаимооднозначно подходят друг другу. После переворачивания составленного видно, что вопросы были такими: «Почему Отелло душит Дездемону?» и «У него были на это какие-то основания?», а ответы соответственно: «Душит по причине ревности» и «Он был введен в заблуждение Яго». Целостность текста, вопросов и ответов должна быть составлена из АНГЛИЙСКИХ фраз, а складывающий их китаец, который ни слова по-английски не знает, благодаря чисто формальному процессу (составлению головоломки) получает сборный текст, сборные вопросы и адекватные ответы на них. Ранее Сёрл несколько вскружил голову тем, кому он описывал свой эксперимент, что это «китайщина» и т. п. Сейчас видно, что в принципе возможно при чисто формальном подходе (тоже складываются куски по их ФОРМЕ, а не по их смыслу) проведение эксперимента. Однако вместе с тем видно, на этот раз уже очень явно, что китаец в «английской комнате» действительно НИЧЕГО не понимает. Итак, КТО же понимает тексты в ОБОИХ случаях, в случае Сёрла и в моем? Конечно, тот, кто весь эксперимент — как первый, так и второй — выдумал, составил и запрограммировал. «Понимание» не находится ни в какой из комнат, ни в той «китайской» с англичанином, ни в «английской» с китайцем, программы же в обоих случаях отличаются друг от друга тем, что в одном случае знаки одного китайского письма ФОРМАЛЬНО приспосабливаются к знакам другого китайского письма, а в моем случае ФОРМАЛЬНО приспосабливаются формы вырезок картона. Разница несущественна, потому что существенным является исключительно поведение складывающего, который и здесь и там ничего не понимает из текста, и не важно, видит ли он текст и не понимает его, не зная китайского, или же не видит текст (китаец), потому что если бы он его видел, ТО ТОЖЕ БЫ НЕ понял, если уж он должен соединять формы, а не символы. Короче говоря, эксперимент вводит нас в заблуждение, при этом Хофштадтер в своей книге ТОЖЕ так считает, но зря усложнил объяснения. Не в том загвоздка, что китайское письмо несравненно труднее было бы приспосабливать к китайскому (НАПИСАННЫЕ буквы для невежды могут восприниматься графически как очень разные, например, латинская буква « f » формально тождественна « F »), но загвоздка в том, что работа всегда асемантично формальна. Следовательно, «понимание» в самих текстах не участвует вообще и a fortiori [119] тем более (лат.) . нет и речи о присутствующем «сознании». Возможен ли искусственный интеллект, покажет будущее. С обсуждаемым « reductio ad absurdum [120] доведение до нелепости (лат.) . » это будущее НЕ ИМЕЕТ НИЧЕГО ОБЩЕГО.

Идея, приведенная в заголовке, посетила меня в ранних 60-х годах, когда я принялся за написание «Суммы технологии» и в связи с этим изучал литературу, посвященную дарвиновской естественной эволюции. Мысль о том, что сама эволюция представляет собой особый способ «выращивания информации», заключенной в генах как матрицах-проектах развития древа Линнея и обеспечивающей саму «суть» или «движущую силу» эволюции, через какое-то время превратилась в моей голове в некую «противоположность». В процессе эволюции может сохраниться только то, что (как организмы определенного вида) ВЫЖИВАЕТ (в «борьбе за существование», которая не обязательно должна быть кровавой битвой), а я подумал, что если бы удалось вместо правила «выживает лучше приспособленное к окружающей среде» ввести правило «выживает то, что точнее ВЫРАЖАЕТ окружающую среду», мы оказались бы на пороге автоматизации познания (эпистемы) тех процессов, которые на протяжении четырех миллиардов лет привели к существованию целой биосферы во главе с человеком. Эта идея захватила меня так, что я включил это «выращивание информации» на правах особого раздела в «Сумму технологии», которую писал в то время. Но затем, когда дело дошло до обновления этой книги, меня охватили различные сомнения относительно возможности осуществления такого «выращивания», и эти сомнения я отразил в следующем издании. Ведь действительно, не все, что представляется как будущие достижения, будет осуществлено даже в перспективе грядущих веков, а то и тысячелетий. В самом деле, естественная эволюция как «выращивание информации о строительстве живых организмов» началась и, без сомнения, действует, имея изначально такой движущий фактор, с которым никоим образом НИЧТО другое справиться не может. Ведь сохраниться и тем самым выжить может только то, что не гибнет; любое несовершенство в проявлениях жизни попадает под гильотину; сегодня мы знаем, что по крайней мере 99 % всех видов, произведенных за миллиарды лет эволюцией, безвозвратно погибли. Эти гекатомбы свидетельствуют о «жестокости» отбора как селекции — что не имеет сил сохраниться, должно погибнуть. Однако какой фактор мог бы запустить движущую силу в этом выдуманном мною «выращивании информации», которому мы должны быть обязаны — хотя бы в очень отдаленном будущем — плодоношению в виде открытий, изобретений или теорий эмпирического характера? То, что смогла сформировать дарвиновская эволюция, возникало сотни тысяч лет под жестоким давлением окружающих условий и межвидовой конкуренции. Что же, однако, могло бы заменить это давление с целью получения активной силы познания?

Сегодня ситуация не такая, какой была тридцать с небольшим лет назад. Уже в то время возникшие компьютеры расплодились, разрослись, их «видовая специализация» шла при этом параллельно с рождением языков программирования. В последнее время из компьютеров как изолированных единиц начали создаваться многочисленные соединения в виде сетей, которые, без сомнения, в грядущие годы будут все гуще оплетать планету. Однако, хотя информационные потоки и ускоряются, и расширяются, все же нет и речи о том, чтобы в какой-либо «имитации нервной сети», которая разрастается в глобальном масштабе, мог блеснуть суверенитет чего-то наподобие сознания. Иначе говоря, компьютеры не являются ни нейронами, ни их эквивалентами, каналы сети не являются аксонами или дендритами: все это вместе взятое остается в абсолютной пассивности, в молчании и в зависимости от людей, которые в отдельные компьютерные единицы, а через них — в глубь сети, вводят программы и управляют ими согласно человеческим желаниям и представлениям. Таким образом, это не ведет к какой-либо форме «выращивания информации», не правда ли? Разумеется, каждый пользователь сети был бы захвачен врасплох и непомерно удивлен, если бы оказалось, что мировая сеть сама, без активных действий отправителей-людей «имеет что-либо для извещения». Эта идея, возможно, хороша для Фантастики ( Science Fiction ), но каждый, кто даже незначительно соприкоснулся с информатикой и перерабатывающей информацию динамикой сети, хорошо знает, что сеть с ним «не заговорит», «не взбунтуется», что она «не станет суверенной» никоим образом — ни таким, который мы могли бы себе вообразить, ни таким, который выходит за пределы нашего воображения. И потому еще раз: следует ли похоронить эту концепцию «выращивания информации» на свалке хлама, на которой покоятся различные флогистоны?