Станислав Лем - Диалоги

ГИЛАС. Как это? Почему?

ФИЛОНУС. Любая сеть обладает ограниченной «проводимостью информации»; этот термин обозначает как величину объема памяти, так и общее количество информации, происходящей все равно изнутри или извне, которая способна обращаться в ее пределах. Как на то указывают экспериментальные и клинические факты, человеческий мозг вполне очевидно обнаруживает эту ограниченность, особенно в конце жизни, в старости (между прочим, потому-то старики и не могут запомнить текущие события, прекрасно помня события прошлого). Даже небольшие гормональные проблемы, вызывающие незначительное понижение порога чувствительности нейронов, способны привести к полной блокировке прохождения импульсов в перегруженном мозгу. Так дело может дойти до сумасшествия, до распада личности, вплоть до необратимых изменений. Недавно открыли некую субстанцию, которая, как предполагается, оказывает вредное воздействие на возбудимость нейронных синапсов и – если ее ввести здоровому человеку – вызывает симптомы шизофрении. Эту субстанцию выделили из крови шизофреников. Учитывая эти данные, можно прийти к заключению, что уже в начале первого «пассажа», то есть после перемещения психических процессов старика в рамки нового мозга, этот новый мозг будет с трудом справляться с освоением процессов и лишь относительно короткое время окажется способен четко функционировать, продолжая усваивать информацию из окружающей среды. Рано или поздно неизбежно появляются симптомы достижения предела информационной проводимости.

ГИЛАС. Ну хорошо, а как же в таком случае с электрической сетью, то есть с мозговым протезом?

ФИЛОНУС. Такой протез можно сконструировать с определенным «запасом», с «функциональным резервом». Однако, как ты уже, наверное, сам догадался, даже речи не может быть о каком-то там «бессмертии», ибо его носителем должен был бы быть мозг бесконечно огромный и бесконечно сложный – чтобы вместить хотя бы только сумму бесконечного (или попросту огромного) количества воспоминаний.

ГИЛАС. То есть вся перспектива, вся эта картина «перемещения» психики – не более чем фикция?

ФИЛОНУС. Нет. Это просто маловероятная, но физически, материально неисключаемая возможность. Я тебе уже говорил накануне, что нам неизвестна верхняя граница сложности систем типа сети. Может быть, при использовании электрического тока и более совершенных, чем сейчас, функциональных единиц, тождественных нейронам, можно было бы сконструировать сеть в десять или сто раз более совершенную, чем человеческая.

ГИЛАС. Отлично. Тогда у нас получился бы «синтетический гений»?

ФИЛОНУС. Посуди сам, если мы изучим общую теорию сети, то с ее помощью мы сможем конструировать сети с произвольными признаками (физически возможными, разумеется; мы не можем построить сеть, действие которой противоречило бы законам Природы). Общее доказательство выдающегося английского математика Тьюринга представляет нам теоретическую возможность создания сети, которая «может абсолютно все», то есть, ясное дело, все, что возможно. В этом смысле возможно в будущем предположить создание сети, способной творить симфонии или рассуждать, каковы могут быть отличные от земных варианты эволюции жизни на непохожих на нашу планетах.

ГИЛАС. Филонус, ты надо мной насмехаешься!

ФИЛОНУС. Друг мой, неужели ты почувствовал себя задетым с точки зрения человеческого достоинства? Но почему тогда тебя не трогает вид подъемного крана, который в десять тысяч раз сильнее тебя, и при этом оскорбляет образ машины, в тысячу раз более понятливой, чем ты? Как энергетическая машина увеличивает силу человека, так информационная машина увеличивает его познавательные способности! Заметь, пожалуйста, что накопление знаний ставит перед нами все более трудные задачи. Математика ХХ века – значительно более сложная и требующая большего напряжения мысли область, чем математика века Х, а наши мозги остаются все такими же, как и мозги людей тысячного года, поскольку математика развивается от десятилетия к десятилетию, в то время как эволюция мозга (то есть расширение его возможностей, улучшение четкости его работы) происходит в темпе, в миллионы раз более медленном. Если сами мы не в состоянии поднять определенную тяжесть, мы строим машину, которая этот груз сдвинет. Если сами мы не в состоянии разрешить определенную интеллектуальную проблему, то мы построим машину, которая эту проблему решит. Я, право же, не понимаю, что в этом унижает человеческое достоинство? Ведь, в конце концов (если ты это имеешь в виду), это мы создадим «синтетического Эйнштейна», а не он – нас!

ГИЛАС. Дело не в этом, дело в том, что такая перспектива, такая картина будущего неотступно создает навязчивое впечатление ненужности человека. Мыслящие машины типа «синтетического гения» не нуждаются в нас, в нашем сотрудничестве, в нашем контроле, как нуждаются в них подъемные краны и паровые молоты.

ФИЛОНУС. Ну и что с того, если они работают на нас?

ГИЛАС. То есть ты считаешь, что машины в будущем станут опережать человека во всех областях?

ФИЛОНУС. Эка хватил! Уже опережают! Любая плохонькая электронная счетная машина справится с заданием, с которым за всю жизнь не справится лучший математик. Существует такой в общем-то смешной и очень наивный миф о заводах будущего как о просторных, заставленных пальмами цехах, полных автоматов, где на центральном пульте стоит человек в белоснежном халате, контролирующий производство... Это (если взять для примера химический завод новой формации) абсолютно невозможно. В новой химической промышленности внимание сосредоточено на реакциях, протекающих с огромной скоростью в раскаленных газах. В этих условиях возникают, именно в области газового пламени, различные ценные химические субстанции, существующие лишь долю секунды. Чтобы их уловить, необходимо поддерживать реакцию, являющуюся их источником, и одновременно непрерывно выводить их из области высокой температуры. Процессы контроля и управления должны происходить за доли секунды, с чем человек не в состоянии справиться, если учесть малые скорости нервных импульсов. А значит, человеку в белом халате нечего делать на этом заводе, пока производство в порядке – под контролем электронного мозга.

ГИЛАС. А если этот мозг сломается, то он его починит.

ФИЛОНУС. Или он, или соответственно настроенный на подобную операцию другой электронный мозг, который выполнит ремонт значительно быстрее и четче.

ГИЛАС. А если и тот сломается?

ФИЛОНУС. А если человек заболеет? Здесь нет никакого regressus ad infinitum , есть только определенная иерархия автоматов, взаимно контролирующих функции, замкнутый круг, который, разумеется, может разомкнуться из-за какой-то неполадки. Сегодня эти дефекты устраняют люди, но завтра?