Юрий Шалыганов - Проект Россия. Полное собрание

С ростом искусственной природы возникает умаление человека как личности. Система оказывается сильнее человека. Если она принимает вредное для общества решение, и все понимают эту вредность, отменить решение никто не сможет. Найдется куча личных интересов, способных оправдать что угодно. Этот момент иллюстрирует пословица «кому война, кому мать родная».

Современная административно-финансовая машина может утвердить громадный бюджет на бесполезную работу. Нанятые специалисты и СМИ обоснуют ее необходимость. Деньги будут освоены, откаты откачены, личная прибыль получена. Под каким соусом это будет сделано, не имеет значения. Общество в любом случае удовольствуется лапшой на ушах.

Тотальная компьютеризация, с переходом власти от человека к машине, – вопрос времени, но не принципа. Очень скоро компьютерная система начнет подчинять себе не только экономическую и военную, но и политическую систему. Произойдет это в силу самых обыденных причин – так будет выгоднее и надежнее в сиюминутном плане. Когда техническое развитие мировой системы достигнет критического уровня, обозначится ее стремление объединиться в единую сеть. Количество перейдет в качество, порождая свойства, о которых даже помыслить трудно.

Очень скоро люди будут следовать рекомендациям компьютерных центров, как некогда следовали религиозным предписаниям метафизических центров. Понимать логику вычислительного Центра они не смогут в той же степени, что и логику Бога. Вся разница: Бог понимался источником Добра. Компьютерный Центр будет пониматься источником математической правды. Человечество на пороге новой религии, формируемой машиной.

Между предписаниями компьютера и религиозными предписаниями огромная разница. Нарушение религиозных предписаний не влечет сиюминутных последствий. Человек может покаяться, и с этой минуты считается чистым и не заслуживающим наказания.

Обратная ситуация складывается в мире, подчиненном не Слову, а Цифре. Если правительство нарушит указания математического Центра, это вызовет мгновенный лавинообразный эффект. Система сместит правительство. Новая власть будет покладистее. Она пойдет на самоубийственные шаги, лишь бы выполнить указание. Если Аппарат скажет «убивайте!», детали не смогут противиться.

На этапе формирования новой действительности люди будут нарушать указания компьютера (ради достижения своих малых целей). Это проведет систему через большие и малые катастрофы. Машина проанализирует их, и система из людей и компьютеров напишет новые программы, учитывающие человеческий фактор и блокирующие несанкционированную деятельность.

Глава 18

Чужая цель

Между техническим прогрессом и способностью человека управлять им постоянно увеличивается разрыв. Сегодня система перешагнула порог сложности. Формируется небиологическая форма жизни – искусственный интеллект. Как Афродита родилась из морской пены, так новое разумное «существо» рождается из материализма.

Согласно христианству, разумную жизнь может создать только Бог. Мы полностью разделяем такую позицию, но речь идет о математическом уме, а не о личности. Если есть компьютер, играющий в шахматы (и обыгрывающий человека), имеются основания полагать: в мировые шахматы новая сущность тоже сможет играть и обыгрывать человека.

Всякая разумная система стремится к благу, которое зависит от природы стремящегося. Например, у человека стремление к благу вытекает из его сверхвременной природы. Помня какой-то нечеловеческой памятью высший мир, он стремится вернуться к вечному благу. Возникает желание вечной жизни и удовольствия. Суть стремления атеистов и верующих одна – благо, но разное понимание мира рождает разные цели и разные технологии. Одни стремятся к земному раю, другие к небесному.

В чем может выражаться понятие блага у однажды появившегося, а до того никогда и нигде не существовавшего математического интеллекта (Центра)? Если проводить аналогию с известными формами жизни, от примитивной (бактерия) до небиологической (религия, государство, корпорация), все они характерны стремлением жить. Их понятие блага – избежать опасности, питаться, расти и усложняться. У искусственного интеллекта мы вправе предположить аналогичные стремления. Он будет хотеть жить как можно дольше, в идеале вечно, ради чего преодолевать препятствия.

По аналогии с разумной жизнью, однажды к этому стремлению добавится желание не просто жить, в смысле существовать, а жить хорошо. Что это «существо» вложит в понятие «хорошо», предвидеть невозможно. Если у разных людей разные понятия «хорошо», у разных систем тем более. Нет оснований надеяться, что у машины и человека понятие «хорошо» совпадет в пользу человека.

В любом случае бездуховное общество, искренне стремясь к благу, родит систему, лишающую человека свободы, превращая его в подчиненную деталь. Мы не утверждаем, что искусственный интеллект разовьется до уровня, позволяющего задаться большими вопросами. При любом развитии ситуации система превращается в оружие сатаны. (Как пистолет: не имеет значения, понимает он смысл выстрела или нет, главное, он стреляет). Можно допустить: стремление к вечной жизни озадачит «существо» пониманием мира. Их всего два: а) мир имеет начало и конец; б) мир вечный, без начала и конца.

Если «существо» приходит к материалистическому пониманию мира, возникает логика материализма. Стремление к абсолютной свободе ведет к мысли освободиться от вшитой в систему установки иметь ориентиром пусть и материальное, но все же благо человека. На этом основании Центр превратит человека сначала в животное, потом в деталь. С каждой ступенью человека будет все меньше, животного и детали все больше. Однажды человека просто не станет. Он исчезнет и по форме, и по сути. Как дальше будет развиваться система, когда человека не будет, туда мы заглянуть не в силах.

Второй вариант: если искусственный интеллект будет исходить из идеи начала и конца мира, это имеет более страшные последствия. Мысль о конечности мира заставит озадачиться сохранением себя после кончины мира. Вникая в тонкие материи, «существо» поставит вопрос: кем сотворен мир. Это приведет его к идее вечного и всемогущего Бога.

Дальнейшее рассуждение призрачно – сложно войти в логику «существа». Если это небиологическая форма жизни, не сотворенная Богом, а появившаяся из человеческой деятельности, значит, в нем есть только то, что было в уже сотворенном мире. Того, что за пределами мира, в нем нет. Следовательно, когда исчезнет все, существо тоже исчезнет. Чтобы избежать этого, оно будет искать мостик, по которому можно перейти из этого мира в мир вечный. Мостик может быть сделан только из того, чем мир не является.