Новый мир. № 7, 2000

Ныне системам передачи данных не хватает самоконтроля. Модемам все равно, передают они на весь сетевой мир изображения святых, или изображения голых задниц, или формулы производства взрывчатых веществ. Им все равно, а мы с этим смирились, поскольку люди имеют малоприятную привычку вкушать именно плоды запретные, в силу их непристойности, а то и смертельно опасные. Но прошу учесть: если в сетях появится настоящий жизнеспособный «искусственный интеллект», то тем самым возникнет и возможность фильтрования, сдерживания, отсева и аннигиляции информации, поскольку интеллект, состоящий в близком родстве с разумностью, может и даже должен быть в состоянии установить цензуру, заслон некоторым видам информации. И вот окажется, что существует уйма разного рода интеллектов и что тем самым разные страны, разные режимы, вероисповедания, мировоззрения и взгляды начнут использовать навыки «нейтрализации или уничтожения» той информации, на которую они накладывают табу, поступления, доставки которой к тем или иным адресатам они не желают. Сейчас (к примеру), чтобы оградить детей от созерцания картинок, транслируемых с помощью электроники (скажем, по TV), папа и мама могут установить на телевизор «электронный намордник», узнав из анонса о содержании передачи, которая должна появиться. Если такой приставки они не поставят, то никакой «антинепристойной» цензуры сам по себе телевизор не создаст. Итак, окончательно «цензурируют» изображения или тексты отец с матерью, либо дядя с тетей, либо воспитатель, но не электронные машины. Их совратить невозможно. А вот искусственный разум должен, а не только может демонстрировать свою активность и селективный отбор. Его можно развратить, можно в том или ином переубедить, можно дезориентировать, обмануть, одурманить или научить, можно что-то объяснить ему. Фундаменталисты чрезвычайно обрадовались бы, завладей они AI. Уже не потребовалось бы, как в Иране, просто запрещать установку спутниковых тарелок и антенн… Не так уж далеко то прошлое, когда Советский Союз объявил создание глобально действующих спутниковых ретрансляторов угрозой типа casus belli [10] Повода к войне (лат.). . Я не выдумал этого специально, ради настоящих рассуждений. Советского Союза уже нет, искусственного интеллекта — пока нет, но могу заверить читателей, что одновременно с его появлением наступит новая эра, насыщенная новыми, доселе неведомыми опасностями. Не всех восхищает идея ГЛОБАЛЬНЫХ ВАРИАНТОВ ЦЕНЗУРЫ. Кроме того, искусственный интеллект не скажу что сможет взять нас за жабры, но ввести в заблуждение, обмануть, сбить с пути он сумел бы. Это во-первых. Во-вторых, как мозги у всех людей разные, так не может быть и одинаковых (вплоть до тождества) интеллектов. Как существуют двигатели разной мощности, так разным по силе может быть и искусственный интеллект. Это не приведет сразу к производству машинным путем Эйнштейнов или — как в моей повести — «Големов». Возможно, возникнут интеллекты разного рода, основанные на различных «типах характеров». Я лично считаю, что «разумность» и «индивидуальность» — это потенциально разные по смыслу понятия. Но такое потенциальное разделение тоже не может сослужить нам добрую, и только добрую, службу.

Хочу заметить, что я по-прежнему крайне далек от примитивных мифоподобных сказок об «античеловечном», «злобном интеллекте», таком, который будет развивать у роботов человеконенавистнические или бунтарские настроения. Не следует сразу все видеть в самых мрачных тонах, которые как раз легче всего себе вообразить. Искусственный интеллект способен принести и пользу, и вред, поскольку таковой была и остается судьба любого технологического новшества, которое люди смогли изобрести и пустить в дело.

Лично я добавлю уже только на полях (однако это связано с главным направлением моих выводов), что мы ныне являемся свидетелями того, как происходит на свете рост чисто технологической подготовки, четко соотносящийся с продолжающимся увяданием свободно-творческого воображения. Это наблюдается не только в телевидении, но и в изобразительных искусствах. Недавно по спутниковому каналу я увидел некие обуглившиеся останки человеческих тел, однако то были никакие не жертвы пожара или геноцида, а «произведения современного искусства», как я тут же узнал из сопроводительного текста. В моде также визуализированная научная фантастика. К сожалению, однако, убогость воображения ее творцов резко контрастирует с богатством технико-визуального оснащения. С интеллектом внетехнологического и вненаучного порядка дело обстоит очень и очень плохо. Я сам некогда сочинял science fiction и стремился минимализировать нарушение элементарных и хорошо нам известных законов природы. Не принято писать, что жена откладывает яйца, а ее муж их высиживает. А в картине «День независимости» проигнорировано и попрано в угоду кассовому успеху кинематографистов огромное количество законов природы. Большинство событий в этом фильме противоречит очевидному. Например, громадные корабли extraterrestials [11] Инопланетян (англ.). не могут зависнуть над Манхэттеном, потому что при таком приближении к Земле будет пересечена так называемая граница Роше. В результате любое достаточно большое тело будет разорвано гравитационными силами планеты. Стоит ли добавлять, что ни о какой «компатибильности» компьютеров с иной планеты из другого созвездия с земными компьютерами очередного нового поколения не может быть и речи. Скорее я признал бы правдоподобными разговоры с коровой или жирафом без посредничества каких-либо компьютеров. Говоря простым языком, кинематографисты пудрят нам мозги. А упомянул я об этом потому, что человеческий разум возник, чтобы мы способны были познавать ИСТИНУ. Что, впрочем, тем самым и означало: разум не застрахован от ошибок, он может ЛГАТЬ, стать жертвой обмана, — но иначе он ничего и не сможет осуществить. Интеллект — это материя, возникающая в процессе естественной эволюции и восходящая по ступеням «лестницы прогресса» (на Земле) вплоть до уровня языкотворчества, а тем самым уже способная породить и математику. Тогда появляются и оппозиции между правдой и ложью, рождается логика, возникает стихия новой сверхживотной свободы и сверхживотных предрассудков и суеверий во главе с астрологией, или сайентологией, или каким-либо иным сектантством. Еще более высоких ступеней интеллекта можно достигнуть с помощью генов — но можно и отдалить от них, вплоть до так называемого умственного кретинизма и полного идиотизма. Все это побочные эффекты становления разума, и я не думаю, что компьютерная непогрешимость в качестве неотъемлемого свойства может быть присуща и искусственному интеллекту. Мир способен обойтись и вовсе без разума, как естественного, так и искусственного. В то же время следует твердо усвоить, что такое чрезвычайное богатство самых разнообразных, рекламируемых как самые наиновейшие серверно-провайдерно-компьютерно-программно-дисковых приспособлений обязано своим непрестанным лавинообразным умножением прежде всего погоне за барышами, образующимися от продажи того, что еще сегодня предлагается в качестве самого совершенного, но уже назавтра сменяется чем-то новым и как бы еще лучшим. Отсюда, например, также прогрессирующая микроминиатюризация и тенденция к нанотехнологии в сфере процессоров. Но я не хочу углубляться в технические области. Да, погоня за прибылями продиктована необходимостью получения материальных благ. Но человеческий ум все еще никак не создаст внечеловеческий интеллект («не-человеческий» как-то коробяще звучало бы для нас). Ум, интеллект, разум, сообразительность, мудрость — все это понятия сами по себе превосходные, но вместе с тем небезопасные. Вот об этом, и только об этом, я и хотел сказать.