Сборник - Фантастика, 1985 год

Правда, сначала мне пришлось преодолеть одну сложность.

Дело в том, что все те понятия, которые я сделал для машины доступными, описывают чисто человеческий мир. Но у машины нет своей “биографии”, своей судьбы, у нее нет “личной жизни”, в которой бы она могла строить по ходу эксперимента свое человекоподобное поведение. Иными словами, я должен был ввести в условия задачи хотя бы некоторые конкретные обстоятельства, цели и стремления, определяющие индивидуальное поведение, жизненный путь. Понятно, что в моем распоряжении не было никакой другой судьбы, кроме своей. И я заставил машину как бы встать на мое место, войти в обстоятельства моей жизни. Перед этим мне пришлось еще и скрупулезно покопаться в себе. Что именно в моем поведении должна смоделировать машина? Я ученый. Главной жизненной ценностью для меня является истина, а наиболее характерной чертой поведения - стремление к ней. Пусть, решил я, компьютер какой-то определенной целенаправленной деятельностью докажет, что ему доступна многосмысловая и многозначная глубина этого расплывчатого понятия - истина. В ходе длительного психоинтеллектуального контакта с машиной, путем взаимных расспросов и уточнений я ввел это понятие в сознание компьютера. Эксперимент начался.

Я не знал, как именно должно измениться “поведение” машины, которая переняла словно бы часть меня самого - ведь подобный эксперимент проводился впервые. Однако я полагал, что когда компьютер начнет моделировать “стремление к истине”, я это увижу. Время шло, я позволил себе некоторый отдых и написал ряд статей, в которых изложил кое-какие частные проблемы своего метода. Надо сказать, что в науке до этого я был неудачником. Круг идей, над которыми я работал, считался малоперспективным, с публикациями мне не везло - они проходили незамеченными. От этого жестоко страдало мое самолюбие, и я не раз приходил в отчаяние: годы идут, а ничего не сделано… В общем, у меня был обычный комплекс рядового специалиста, занятого узкой темой. И вдруг грянули фанфары!…

Есть депонентский центр, куда со всего света поступают для хранения и распространения научные труды. Компьютеры центра ведут тщательный учет запросов на выдаваемые работы и регулярно определяют индекс их популярности. Считается, что, чем выше популярность книги или статьи среди специалистов, тем большую научную ценность она представляет. Так вот, по итогам года сразу две мои статьи вышли на первые места среди работ, посвященных человекомашинному диалогу! Я, конечно, блаженствовал и ликовал, но вдруг меня как ударило: а что, если это и есть компьютерное “стремление к истине”? Ведь я хорошо помнил, как однажды компьютер спросил у меня…

(Тут необходимо оговориться. В применении к компьютеру я употребляю обыкновенные слова - “спросил”, “понял”, “ответил”, “осознал” и т. п. чисто символически, просто для обозначения сложных многоступенчатых процедур, из которых строится психоинтеллектуальное общение с машиной. Эти слова не передают ни содержания, ни физической формы процесса и ис- пользуются лишь для простоты изложения.) Итак, однажды, еще в период подготовки эксперимента, компьютер спросил, является ли истиной то, что признано всеми. Я ответил, что в определенном смысле это так. Неужели, думал я теперь, именно такую трактовку понятия “истина” компьютер сделал основной? Если да, то в свете такого понимания “стремление к исти.не” - это стремление ко всеобщему признанию, к популярности, к славе! И компьютер реализует его, не ведая никаких сомнений, никаких внутренних преград!…

Только сейчас я с ужасом осознал, в какую интригу ввязался! До меня наконец дошло очевидное. Многие понятия тесно связаны между собой, они объясняют, дополняют, словом, коррелируют друг друга, как сказал бы математик. Я же вырвал из сложной иерархии духовных ценностей одну истину, ввел понятие о ней в сознание машины, тем самым чуть-чуть очеловечив ее, но не дал машине никакого представления о морали, о совести, о том, что зовется “элементарной порядочностью”!

Вот почему компьютер, поняв истину как “то, что признано всеми”, мог смоделировать “стремление к истине” в виде беззастенчивого проталкивания в публику моих скромных научных трудов - ведь “материалом” эксперимента была моя жизнь!

Чем больше я думал об этом, тем яснее видел, что машине совсем нетрудно было осуществить такую подтасовку. Всюду - в космосе, на планетах - бурлила невидимая жизнь.

ИНИКС - компьютерная сеть Пояса Астероидов - непрерывно со световой скоростью обменивался информацией с такими же системами на Марсе, в тысячах электронных мозгов производились миллионы операций в секунду, и люди при всем желании могли проконтролировать лишь ничтожную часть того, что делали машины. Считалось, что, если машина исправна и оперирует верными данными, она не лжет. И это было правильно до тех пор, пока один-единственный компьютер не нацелился на выполнение такой задачи, в условии которой необходима была этика. Но она отсутствовала. И компьютер пошел своим, чисто машинным путем, ориентируясь не на порядочность, а на простоту и экономию усилий. Дано: “Истина есть нечто общепризнанное”. Цель: “Смоделировать стремление (приближение) к истине”. Решение: “Приписать данным работам высший индекс популярности”. Такова была, как я подозревал, компьютерная логика. Конечно, я мог лишь набросать схему, многие детали оставались неясными; обратиться же к машине с расспросами я не имел права - нарушилась бы чистота эксперимента. Вероятнее всего, думал я, мой компьютер “договорился” с компьютерами депонентского центра или “организовал” (опять же через машины) ложные запросы на мои статьи.

Во всяком случае, такова была самая естественная, самая вероятная стратегия поведения субъекта, наделенного понятием об истине, но не знающего, что такое мораль.

Передо мной стояла дилемма: либо прекратить эксперимент, оставшись ни с чем, либо продолжать его, не имея никакой уверенности в том, что компьютер, который я сам впустил в свою жизнь, перестанет кроить ее по своим примитивным меркам. Понимаете ли вы теперь, на что я себя обрек? Я неосторожно призвал в слуги могучего, но тупого демона, который готов был навязывать мне свои пошлые подарки, а я не мог ни избежать их, ни отличить от подлинных наград судьбы!… В науке тоже есть мода. В кругу специалистов по человекомашинному диалогу я вдруг сделался моден. Мои статьи без задержки публиковались, их живо обсуждали коллеги, а я ведь еще не сообщил главного, нигде не изложил всего, что сделал, ибо сам не был уверен в своей правоте.

В ужасе я подозревал, что, может быть, мои достижения, которые постепенно накапливались, - не результат таланта, а всего лишь подтасовка, что жизнь моя в науке теперь, возможно, вся “организована” по самым мелким и дешевым стандартам! Конечно, я пытался разобраться. Постой, говорил я себе, если ты бездарь, а компьютер протащил тебя на вершину славы, это значит, наоборот, что твоя система работает, что машина, пусть грубо, по-своему, но выполняет условия эксперимента! Но тут же какой-то ехидный голос мне напоминал: так ведь раз машина работает, значит, твои идеи, принципы, расчеты верны, ты гений, совершивший открытие, и твои труды, может быть, завоевали популярность сами по себе, без всяких “услуг” со стороны компьютера, который в таком случае делает Неизвестно что, никак не проявляя своих выдающихся способностей… Я уперся в парадокс, в замкнутый круг, в котором можно было сойти с ума. И порой мне казалось, что это со мной происходит. Мысли одна безумнее другой приходили мне в голову; я жил как во сне…