Станислав Лем - Молох (сборник)

Эти автоматы, в свою очередь, затрагивают теорию рекуррентных функций и алгоритмов, и в связи с этим они вовлечены в известное доказательство Гёделя, но проследить развитие такой генеалогии компьютеров в пределах данного эссе просто не удастся. Вместе с тем отсутствие только что названной философской перспективы замыкает все развитие компьютеров и теории той информации, которая им подвластна, в своего рода — без колебания использую, может быть, слишком сильную формулировку — техническо-вычислительном гетто. Можно было бы допустить нападки на мою категоричность, ссылаясь на многочисленные работы специалистов computer science, каковым является Джозеф Вейзенбаум, и заканчивая более известным трудом братьев Дрейфусов (возможно, изданным уже и на польском языке).

Дело в том, что книги такого рода (как названные мною) в большей или меньшей степени усилены аргументами «общей теории невозможности приравнивания компьютера к мозгу» или же, наоборот (как неназванные мною книги), происходят из лагеря «компьютерных фидеистов», представляя попытки доказательств, что создание Artificial Intelligence (согласно утверждениям одного из «отцов» — Марвина Минского) осуществимо и уже скоро появится в техническом воплощении. Имеются, наконец, и такие авторы, как Дуглас Хофштадтер, которые находятся (в своих трудах) на некотором распутье; они видят огромные трудности, которые необходимо преодолеть на пути к AI, но одновременно и верят в принципиальную возможность их преодоления (только неизвестно, как и когда).

Однако здесь речь идет не о разрешении проблемы реализации «искусственного интеллекта» в машине и не о том, что следовало бы заняться этой проблемой в первую очередь. Речь идет о том, о чем гласит заголовок. Необходима такая «философия применения компьютеров», которая выходит за рамки спора о различиях и сходствах с человеческим мозгом, так как в этом споре мозг фигурирует как идеальное воплощение разума, как образование, наиболее сложное во всем Космосе, и тем самым как бы настолько универсальное, что должно быть просто изучено как известный и недосягаемый эталон, каковым для молодых людей довоенных лет был «эталонный метр», помещенный в виде палладиево-платинового слитка (с сечением «Х») в Севре под Парижем, и который сегодня уже не является идеальным эталоном измерения длины. И хотя никакого вне— или надчеловеческого мозга мы не знаем, те, кто пользуется услугами компьютеров и обслуживает их в качестве программистов, должны выйти за пределы конструкторских эталонов для более отвлеченного и потому имеющего характер «мета-» размышления, чтобы сквозь очевидную, хотя научно и не разгаданную, модель биологического мозга увидеть будущие или по меньшей мере возможные этапы развития компьютерных технологий. Почти все известные мне эксперты так интенсивно занялись обсуждением «быть или не быть» Artificial Intelligence, что просто ослепли и не видят более фундаментальной проблемы, а именно: заслуживает ли вообще мозг человека, чтобы его называли эталоном «разума», интеллекта и, тем самым, может ли быть «совершенно иной взгляд» на мозг.

Я, позволяя себе еще раз в этом эссе перейти на латынь, скажу, что, по моему мнению, sed tamen potest esse totaliter aliter. [45] однако в целом все может быть иным (лат.) . По крайней мере два типа черт можно выделить в живом и по-своему действующем мозге человека: те, которые являются следами и наследием его очень долгого эволюционно развивающегося пути (и не только в ходе антропогенеза, ведь мозг является палеонтологически значительно более старшим «созданием»), а также те черты, которые составляют его исключительность сейчас как уже типично человеческого приобретения, которое вывело нас за древо обильно разветвленных вариаций гоминидов и тем самым породило homo sapiens sapiens. Здесь же добавлю, что когда-то я написал одному немецкому философу по поводу М. Хайдеггера, что считаю самой большой ошибкой Хайдеггера не его остро критикуемую после Второй мировой войны принадлежность (а также близость его философии) к нацистской партии, а то, что он был философом, ненавидящим технологическое направление развития нашей цивилизации и представляющим себе, что возврат к дотехнологической культуре — это реально возможный путь развития. Я написал тогда моему корреспонденту, что с той минуты, когда много миллионов лет назад возникли Australopithecus, Homo robustus и вскоре — Homo habilis на юге Африки, уже тогда в ходе медленной, исторически последовательной акселерации всей своей биологией они были обречены на изобретение технологии (начиная с эолита и палеолита), поскольку вместе с освобождением верхних конечностей от применения их в качестве опоры при ходьбе, а мозга — от типичных способностей, необходимых животным для выживания, в те времена другого пути (кроме вымирания вида) уже не было.

Я считаю, что каких-то три или два с половиной миллиона лет назад технология стала такой же неотъемлемой собственностью человека, какой стало четыре миллиарда лет назад космическо-планетарное остывание огненной оболочки шара, каковым тогда была планета Земля. Таким образом, на технологию можно сердиться, технологию можно не признавать, к процессу ее развития можно иметь претензии точно так же, как ненавидеть законы термодинамики или держать зло на гравитацию. Явления, подобные законам Природы, в какой-то мере можно приручать, одомашнивать, впрягать в наши дела и работу. Зато писать против них научные труды или воспринимать их как зло — все это несет в себе столько же смысла, сколько дисциплинарное бичевание моря за то, что оно поглотило корабли какого-то тирана. Это нерационально и недостойно философии, которую произвольным способом нельзя отделить от фундамента, каковым является наше бытие.

Скажем, что так оно и есть, но что это может иметь общего с моей философией в вопросе обсуждения сферы споров «про-AI» и «контр-AI»? Вначале следует сказать, что нас ожидает.

Во-первых, мы уже пришли к частичному опережению человеческого мозга компьютером, но не надо это смешивать с какой-то «антропологизацией» компьютеров, словно осталось сделать еще пару шагов вперед в техническом развитии — и они начнут действовать так же, как люди. Я позволю себе процитировать то, что писал более четверти века назад в «Сумме технологии».

«Возникнут и будут разрастаться машинные центры, управляющие производством, товарным оборотом, распределением, а также исследованиями (координация усилий ученых, поддержанная на раннем этапе машинами, то есть вспомогательными компьютерами). Возможны ли между ними конфликтные ситуации? Очень возможны. Конфликты будут возникать в плоскости инвестиционных, исследовательских, энергетических решений, потому что надо ведь будет определять первенство разных действий (…). Такие конфликты надо будет разрешать. Разумеется, это будут делать люди. Очень хорошо. Следовательно, решения будут касаться проблем огромной сложности, и люди — контролеры Координатора (компьютерного. — С.Л. ) должны будут, чтобы разобраться в предоставленном им математическом море, обратиться к помощи других машин, оптимализирующих решение (…). Возможно ли, что машины контролеров, дублирующие работу континентальных машин, дадут другие результаты? Это вполне возможно, поскольку машина (в ходе работы. — С.Л. ) становится как бы «необъективной». Известно, что человек не может не быть пристрастным, почему же машина (компьютер) должна быть пристрастной? Необъективность не должна вытекать из предпочтения (что касается качества), она вытекает из предоставления разнообразного веса противоречащим себе звеньям альтернатив. (Поскольку такие машины, будучи правдоподобными системами, не действуют тождественно.) Ситуация становится все более ясной, если мы выразим ее на языке игр. Машина является как бы игроком, ведущим состязание против некой «коалиции», которая складывается из огромного количества разнообразных группировок: производственных, рыночных, а также транспортных, обслуживающих и т. п.».