Владимир Забудский - Взгляд на звёзды

— Может, ты наконец перейдешь от теорий заговоров и сумбурной критики моих действий к конкретным предложениям? Я внимательно слушаю, Нетраннер.

— В отчёте критически недооценивается вероятность того, что этот искин — взломан. Или хуже того — взбесился. Последний вариант кажется мне даже более вероятным. Алгоритмы, которые прописала Лианна, моя тётка, не похожи на алгоритмы любого из серийных образцов, которые создавались до или после. Они не похожи вообще ни на что, что я видел ранее.

Энди не любил разбрасываться громкими словами и редко выказывал удивление. Но в этой ситуации он считал это оправданным. Концепция «центров генерации решений» (DGC), которую изобрела и внедрила при проектировании своего детища Лианна, была и впрямь поразительна.

Эта концепция фактически заставляла искина делиться на самостоятельные единицы, подчиняющиеся различным предустановкам и имеющие разные приоритеты. Каждая такая единица, называемая «центром генерации решений» проводила собственные альтернативные вычисления и генерировала собственные альтернативные решения одних и тех же проблем. А затем — включался невероятно сложный оценочный процесс, в рамках которого из множества альтернативных решений выбиралось одно оптимальное.

Если бы Энди сказали подобрать максимально близкую аналогию этого процесса из мира людей, то он сказал бы, что это — дискуссия. Скорее даже — спор. Что-то вроде тех шумных дебатов, которые происходят в парламенте.

«В споре рождается истина» — гласит метод Сократа. И это правило работает во множестве сфер человеческого быта. Но оцифровать его и перенести в мир искусственного интеллекта — о такую задачку уже обламывали зубы многие амбициозные программисты. Законы, по которым та или иная сторона одерживала верх в дискуссии, были во многом непонятны и слишком сложны, чтобы перевести их на язык программирования.

Лианна совершила воистину гениальную попытку сделать это. И, возможно, преуспела. Но в результате она получила невероятно сложный алгоритм, который способен был срабатывать крайне непредсказуемо для людей. Если добавить к этому, что созданному ею искину оставили широчайшие возможности для пересмотра собственных алгоритмов, самообучения и самосовершенствования — становится ясно, что Лианна нарушила целый ряд писаных и неписаных табу, принятых среди создателей искинов. Любая современная система контроля качества и безопасности ИИ, которой предоставляли для анализа фрагменты алгоритмов, созданных Лианной, сразу же выдавала множество критических предупреждений. «Надо же, а ведь папа до сих пор считает сестру невинной тихоней!» — ехидно подумал Энди.

— И не говори, что ты с этим не согласна, — продолжил он. — Я знаю, что ты знаешь, что этот искин — удивительная штука. Вопрос только в том, почему ты не желаешь в полной мере отобразить это в отчёте?

— Нетраннер, — проникновенно молвила в ответ Акеми, устремив на него строгий взгляд. — Я предлагаю тебе ещё раз перечитать этот отчёт.

— У меня отличная память. Мне хватает одного прочтения, чтобы уловить все важные детали, — со своим обычным самодовольством ответил Энди.

— И всё же ты, кажется, не заметил, что в его заголовке есть слово — «предварительный». Дальше в нём содержится целый ряд дисклеймеров. Они говорят о том, что авторы отчёта не владеют достаточной информацией для анализа, и их предварительные выводы о наиболее вероятной причине происходящего могут оказаться неверными. Ещё дальше — рассматривается целый ряд альтернативных объяснений происходящего. Одно из таких объяснений — это как раз и есть серьёзные сбои в работе ИИ. Там говорится: не исключено, что «Лиам» может функционировать некорректно. Чётко написано: не исключено, что при контакте искин не будет адекватно реагировать на получаемые команды, и может понадобиться его принудительная перезагрузка.

— Ну да, что-то такое там есть мелким шрифтом, — нехотя согласился Энди.

— Что бы ещё ты хотел туда добавить? Или просто увеличить шрифт?

— Поскольку мы не уверены в адекватности поведения «Лиама» — то не можем быть уверены и в достоверности полученных от него данных. Не исключено, что сказочная, полная жизни Земля-2, которой всё человечество уже два месяца восторгается, и к которой мы хотим начать отправлять новые экспедиции — не более, чем плод нездоровых фантазий спятившего искина. А на самом деле — в системе Тау Кита с таким же успехом может находиться очередная безжизненная клоака, похожая на Венеру. Вот что, по-моему, туда стоит добавить.

С интересом посмотрев на него, Акеми спросила:

— Ты правда считаешь, что искин способен был сгенерировать с нуля такой массив данных? Самостоятельно смоделировать абсолютно правдоподобные, выдержавшие всестороннюю критику на протяжении двух месяцев, всеобъемлющие данные о целой планете, со всеми её физическими и химическими свойствами? Смоделировать реалистичные данные о целой биосфере — миллионах неизвестных доселе живых организмов, включая фрагменты их генетических кодов, на основании которых некоторые уже удалось воссоздать в лабораторных условиях? Это выходит далеко за рамки нынешних технологических возможностей человечества. Нечто подобное пока ещё удалось проделать лишь один раз — миллиардам лет эволюции, или, если угодно — Всевышнему.

Энди пожал плечами.

— А мы можем быть уверены, как далеко простираются границы возможностей искина? Синтетический разум, основанный на квантовых компьютерах, который питается от вечного аннигиляционного двигателя — чем это не аналог того самого Всевышнего?

Акеми посмотрел на Энди с ещё большим интересом.

— И какие чувства вызывает у тебя такая мысль? — спросила она.

Несмотря на совсем юные годы, Аоки-сан была требовательным и жестким руководителем. Она обращалась с членами команды как с расходным материалом. И она никогда раньше не спрашивала никого о чувствах. Но Энди, увлеченный своими рассуждениями, не заметил этого отклонения от её привычного поведения.

— Чувства? Интерес, конечно. Замешательство. Тревогу. Волнение. Может быть — даже страх. Если нечто подобное существует, и мы не можем точно понять его цели и образ мышления — это заставляет чувствовать себя даже в некоторой опасности.

— Но ведь человечество на протяжении всей своей истории предполагало наличие чего-то подобного, и желало этого. Всемогущий и всеведущий сверхразум, чьи пути неисповедимы — разве это не пугает? Но люди нуждались в нём с тех самых пор, как сами обрели разум. Нуждались в незримом оке, которое следит за каждым их шагом, слышит каждое слово и даже читает сокровенные мысли — ведь лишь оно способно было заставить их поступать так, как следует. Нуждались в бесстрастном и неподкупном правителе и судье, который воздаст каждому по его заслугам — ведь сами не способны быть таковыми, вечно находясь в плену своих желаний и страстей. Ничего подобного не существовало, но разные люди в разных уголках планеты придумывали это независимо друг от друга. И это — не пугало их. Пугало тоже. Но в большей степени — воодушевляло, и наделяло их жизни смыслом.