Станислав Лем - Диалоги

Статистика дает основание полагать, что достигнутые таким образом преимущества незначительно преобладают над возникающими одновременно экзистенциальными недостатками – в противном случае это движение от простого к сложному очень скоро бы увязло на месте. Бактерия не является более сложной системой, чем универсальная цифровая машина – новейшего типа, – однако очевидно, что способности к выживанию бактерии нельзя даже и сравнивать с «выживанием» компьютера, помещенного в произвольной среде, поскольку он в принципе не представляет собой самостоятельного гомеостата. Таким образом, специфика задач эволюционного развития определила направление конструкторских ходов эволюции, коренным образом отличных от наших в сфере информационных технологий. Эта в высшей степени несамостоятельность компьютеров, их полная зависимость от сотрудника-человека демонстрирует ошибочность представлений о том, что возможен какой-то «бунт» и как следствие – порабощение человечества машинами в форме «компьютерократии». Эти представления основаны на совершенно ложных, неприменимых в интеллектронике исторических аналогиях из области борьбы за власть, преобладание, социальной устойчивости элиты и т.п. Компьютеры нас не поработят, если мы сами до этого не доведем. А привести к этому состоянию можно двумя способами: намеренно, воплощая стремление управляющих машин, – но тогда возникает банальная с точки зрения социологии и этики проблема, раз обретение компьютерами высшей власти будет зависеть от воли человека; или при полном отсутствии подобных планов и намерений. Поэтому не исключена и такая возможность, что система «люди + компьютеры» постепенно обретет динамическую характеристику, совершенно нами нежелательную и в то же время – по крайней мере первоначально – абсолютно нам неизвестную. Наше воображение, исследуя альтернативные варианты будущего, скованное известными ему из истории моментами, ограничилось представлениями «усилитель интеллекта», «гомункулус» – а также «электронный мудрец» или такой же «черт»; этот последний предполагался особенно одаренным претендентом на роль тирана. Однако действительность радикально отступает от этих наивных, ситуативно беспочвенных моделей. Это не означает, что область сотрудничества людей и информационных машин свободна от потенциальной опасности. Просто эта опасность не содержит никакого «персоналистского» элемента: интеллектуальные системы, если уж нас и поработят, то не как «личности», так или иначе воспроизведенные. В то же время именно потому эта опасность страшнее и более реальна, чем если бы компьютеры в своей эволюции приближались к обретению «персоналистических особенностей». Поскольку тогда по крайней мере одна сторона – а именно компьютеры – действовала бы с полным знанием обстановки: тот, кто стремится к власти, будучи при этом личностью, должен осознавать, что делает! Он действует на основании разработанных планов, этически, может быть, «черных», но все-таки планов, он использует их в стратегии собственного поведения, а значит, было бы возможно это знание, содержание этих планов, каким-то образом из него выделить! И если в результате успешного срастания информационных машин и банков памяти возникнут государственные, континентальные, а потом и планетарные компьютерные сети – а это реальное направление развития, – то вся система, состоящая из людей и этих сетей, может проявлять динамику, не отвечающую надеждам цивилизации. Говоря точнее: система может лечь в дрейф. Потому что каждая большая и сложная система обладает бесчисленными закономерностями; когда же человек реализует системы подобного типа, то он сосредоточен на выгоде, какую принесет ему эта реализация, а о непредвиденных последствиях он в этот момент не знает. Проблема технологий, исторически первых, актуальных сводится к разделению надвое глобального инструментального потенциала. Исстари и до сих пор мы использовали только один вид технологий – направленных на производство энергии или предметов, на транспортировку людей и материалов, одним словом, эти технологии служили нам непосредственно. Их развитие привело к нарушению самовосстанавливающегося равновесия в биосфере, и поэтому следующий шаг в развитии технологий имеет одну исключительную задачу – поддержать это поколебленное равновесие. Таким образом, технологии первой группы служили нам непосредственно, в то время как вторая группа будет этому способствовать лишь косвенно, поскольку их задачей будет не наше благоденствие, а спасение всего земного жизненного пространства.

Аналогом физического труда, выполняемого с использованием технологий, труда по добыче полезных ископаемых и их переработке, их последующей транспортировки на большие расстояния, усилий, необходимых для выталкивания из земной гравитационной «воронки» космических снарядов, энергии для обогрева арктического жилища человека и для охлаждения его экваториального жилья и т.п., – аналогом всего этого является информационная работа, причем важно осознавать, что обе эти работы сходны в физическом смысле: поскольку суть всегда состоит в том, чтобы где-то уменьшилась энтропия за счет ее увеличения в другом месте; к подобной трансакции принуждает нас природа мира, в котором мы существуем. Мы стоим на пороге эры информационных технологий, которые, кроме полезных для нас даров, могут преподнести и дары данайцев. Потому что социально-экономический симбиоз человека и машин в информационном плане может привести к стиранию реальных границ компетенции: взаимовлияние составляющих этого симбиоза может выглядеть таким образом, что уже будет непонятно, кто, собственно, ведущий, а кто – ведомый, или, что то же самое, кто кем правит. Большая и сложная глобальная сеть, которая начнет формироваться, будет обладать очень запутанной структурой собственных закономерностей – мы будем ее успешно строить, предполагая определенные выгоды, несомненно и быстро поддающиеся обнаружению на практике; однако система эта может иметь и другие, невидимые вначале и только поэтому, а не в результате чьего-либо коварства утаенные, – такие динамические черты, что незаметно цивилизация ляжет в дрейф. Повторяю, речь не идет о некоей форме «криптократического» поведения компьютерных сетей; мы также не касаемся уже многократно обсуждаемой угрозы человеческому праву на частную жизнь, вызванной размещением в машинной памяти всех, даже самых интимных данных о каждом индивидууме, – угрозы, которой, если уж она реальна, каким-то образом удалось бы противостоять. Симбиоз машин и людей будет характеризоваться определенным вкладом обеих «сторон» – тем, каков процент их участия в принятии решений, в управлении и контроле. Однако система в целом может иметь динамическую характеристику, неподвластную в своей целостности ни одной из сторон, поскольку никакая система не может себя полностью ни описать, ни контролировать: этот принцип непоколебим. Система не в состоянии создать свой адекватный образ, то есть познать саму себя; благодаря отдельным актам созерцания и обобщения она сможет открыть законы собственного движения, но никогда не сможет обрести полную уверенность, что все законы уже открыты и освоены. Это в состоянии сделать только система более высокого уровня, выполняющая функции контроля над предыдущей. Но организация подобного контроля, которая в сфере информации была бы явным аналогом того разделения, какое сейчас происходит в технологии трудовых процессов, иными словами, создание информатики «второго броска», функционирующей не для нас непосредственно, но только наблюдающей симбиоз людей и машин, чтобы заданное ему равновесие не превратилось в какое-нибудь подобие нежелательного дрейфа, – такая организация может привести к фатальному regressus ad infinitum : или, в свою очередь, следовало бы к контролеру приставить надзирателя еще более высокого уровня, который бы присматривал за контролером: в противном случае возникает вопрос – quis custodiet ipsos custodes ? [44]