Даглас Хофштадтер - Глаз разума

СЭНДИ: Все зависит от того, что ты имеешь в виду. Мы все слышали вопрос: “могут ли компьютеры думать?” Здесь возможны разные интерпретации (кроме того, множество интерпретаций может быть и у слова “думать”). Все они вертятся вокруг разных значений слов “могут” и “компьютеры”.

ПАТ: Снова словесные игры…

СЭНДИ: Верно. Во-первых, этот вопрос может означать “думает ли какой-нибудь существующий сейчас компьютер?” На этот вопрос я немедленно отвечу решительным “нет”. Этот вопрос может означать “Сможет ли какой-нибудь из существующих на сегодняшний день компьютеров думать, если он будет снабжен соответствующей программой?” Это уже более вероятно, и все же я отвечу “Скорее всего, нет”. Основная трудность здесь упирается в слово “компьютер”. Мне кажется, что оно вызывает образ, который я описывала раньше: комната с кондиционером, и в ней — холодные металлические прямоугольные ящики. Но думаю, что прогресс в компьютерном дизайне вскоре сделает этот образ устаревшим.

ПАТ: Ты не думаешь, что компьютеры в их теперешнем обличье будут с нами долго?

СЭНДИ: Да нет, эти компьютеры будут существовать долго, но будут развиваться и компьютеры нового поколения, которые будут выглядеть совсем по-другому; может быть, они и называться будут по-другому. Возможно, что, как и в случае с живыми организмами, их эволюционное древо будет разветвляться. Будут компьютеры для бизнесменов, для школьников, для научных вычислений, для системных исследований, компьютеры для имитации, компьютеры для космических ракет и так далее. И наконец, будут компьютеры для изучения разума. И я имею в виду именно эти последние — компьютеры, обладающие максимальной гибкостью, компьютеры, запрограммированные на то, чтобы быть максимально разумными. И они вовсе не должны оставаться в традиционной форме. Вполне возможно, что вскоре у них появится некая рудиментарная сенсорная система — сначала, в основном, для зрения и слуха. Они должны быть способны к передвижению, чтобы иметь возможность исследовать окружающее. Они должны обладать физической гибкостью. Короче говоря, они будут больше походить на животных, будут более самодостаточными.

КРИС: Это напоминает мне о роботах R2D2 и С3РО в фильме “Звездные войны”.

СЭНДИ: Я думаю совсем не о них, когда представляю себе разумные машины. Они слишком глупы, не более чем плод воображения кинодизайнера. Правда, у меня и самой нет ясного представления. Но я считаю, что если люди хотят сформировать реалистический образ искусственного интеллекта, им придется отказаться от ограниченного, жесткого образа компьютеров, сформированного тем, что мы имеем на сегодняшний день. Единственное, что всегда будет общего между всеми машинами — это лежащая в их основе механистичность. Это может показаться холодным и жестким — но что может быть более механистичным (и чудесным!), чем действие ДНК, белков и органелл на наши клетки?

ПАТ: Для меня все, происходящее в клетках, кажется “мокрым” и “скользким”, а то, что происходит в машинах — “сухим” и “жестким”. Мое ощущение связано с тем, что компьютеры не совершают ошибок и делают только то, что мы им велим. По крайнем мере, таково мое представление о компьютерах.

СЭНДИ: Любопытно — минуту назад это был образ огня, а теперь ты говоришь о “мокром” и “скользком”. Не чудесно ли, насколько противоречивыми мы можем быть?

ПАТ: Пожалуйста, оставь свой сарказм при себе.

СЭНДИ: Никакого сарказма — я действительно считаю это чудесным.

ПАТ: Это просто пример неопределенности человеческого ума — в данном случае, моего.

СЭНДИ: Верно. Но твой образ компьютеров застрял в наезженной колее. Компьютеры вполне способны на ошибки — и я не имею в виду ошибки на уровне аппаратуры. Вспомни о сегодняшних компьютерах, предсказывающих погоду. Они могут выдавать неверные прогнозы, хотя их программа при этом работает безукоризненно.

ПАТ: Только потому, что в них ввели неверные данные.

СЭНДИ: Вовсе нет! Это происходит потому, что предсказание погоды — слишком сложное дело. Любая подобная программа обязана обходиться ограниченными данными — при этом совершенно верными — и делать выводы на их основании. Иногда прогноз получается ошибочным. Компьютер здесь не отличается от фермера, стоящего на своем поле и глядящего на тучи: “Думаю, что сегодня ночью выпадет снежок…” Мы создаем у себя в голове модели и используем их, чтобы предвидеть, как себя поведет мир вокруг. Мы должны обходиться нашими моделями, какими бы неаккуратными они ни были. А если у кого-то они окажутся слишком неаккуратными, естественный отбор выполет его, как сорную травку — он свалится с обрыва, или что-нибудь подобное. С компьютерами дело обстоит точно так же. Просто так человеческие дизайнеры ускоряют эволюционный процесс, ставя перед собой задачу получения искусственного интеллекта, в то время как природа набрела на это случайно.

ПАТ: Так ты думаешь, что компьютеры будут ошибаться тем меньше, чем умнее они будут становиться?

СЭНДИ: Как раз наоборот. Чем умнее они будут, тем чаще им придется иметь дело с запутанными, как сама жизнь, проблемами, так что они, скорее всего, будут строить все более неаккуратные модели мира. Для меня ошибка — это признак высокого интеллекта!

ПАТ: Ну и ну! Ты меня удивила!

СЭНДИ: Наверное, я и правда необычный защитник машинного интеллекта. В какой-то мере я и сама колеблюсь. Я думаю, что машины не будут разумными по-человечески, пока в них не появится некая биологическая “влажность” и “скользкость”. Я не имею в виду, что они должны быть влажными в прямом смысле слова — это может быть влажность на уровне программы. Но даже если они будут в какой-то степени биологическими, разумные машины будут оставаться машинами. Мы будем их разрабатывать и создавать — или же растить. Мы будем знать, как они работают, — по крайней мере, до известной степени. Возможно, что никто в отдельности не будет способен их понять полностью, но коллективно люди будут понимать, как они работают.

ПАТ: По-моему, ты собираешься съесть один и тот же пирог дважды.

СЭНДИ: Может, ты и права. Я только хотела сказать, что когда искусственный интеллект появится, он будет одновременно механическим и органическим. Он будет обладать той же удивительной гибкостью, которую мы находим в живых механизмах. Да-да, я не оговорилась! Под “механизмом” я понимаю именно “механизм” ДНК, и энзимы действительно совершенно механистичны и надежны. Ты с этим согласна, Пат?

ПАТ: Это верно. Но когда они работают вместе, часто случаются самые неожиданные вещи. Существует так много сложностей и разнообразных моделей поведения, что в результате всей этой механичности получается нечто весьма текучее.