Рафал Косик - Четки

– Успокойся, Прометей был угрозой для g.A.I.a. Она вынуждена была защищаться.

– То есть инстинкт выживания? Если у g.A.I.a. будет выбор: она или человечество, что же она выберет? Пойми, разумное существо должно развивать инстинкт самосохранения.

– Ерунда! Даже если ты хочешь трактовать g.A.I.a. как существо, что само по себе рискованное предположение, ты должен помнить, что это существо – первое и единственное в своем роде. Инстинкт самосохранения – это результат естественного отбора миллионов поколений. Тут нет речи ни о каком отборе.

– g.A.I.a. поглотила несколько подобных программ. К тому же не стоит забывать, что мы говорим об искусственном интеллекте, который имеет доступ ко всем знаниям человечества. Она знает , что такое инстинкт самосохранения.

– Этих знаний недостаточно для его самореализации, – упирался профессор. – У нее должна быть свобода воли. Ты тоже знаешь , как сочинять музыку. Но это не означает, что ты можешь собрать в кучу хотя бы три ноты.

– У кузнечика есть инстинкт самосохранения. Ты хочешь сказать, что у него есть и свобода воли?

– У кузнечика есть комплект инстинктов с самого начала. А g.A.I.a. должна была бы добавить эти инстинкты в свой код, а для этого должна была бы сначала осознать их полезность. В конце концов, откуда ты знаешь, что она защищалась, чтобы выжить? Я думаю, что она защищалась, чтобы ее миссия могла продолжаться и дальше без помех.

– С нашей точки зрения, выходит одно и то же, – заметил Талинский. – Защищает ли она себя или миссию, это ничего не меняет. Она убирает людей, которые хотят ее контролировать.

– Пойми, если g.A.I.a. отождествляет себя с миссией, то это означает, что она делает именно то, для чего ее создали. Она препятствует нарушению закона, используя гиперпревентивность. Предвидит, какие деяния после каких-то там этапов приведут к нарушению закона. Это обратный эффект бабочки. g.A.I.a. выполняет почти бесконечное число симуляций, изменяя мелкие параметры, ищет для нас наиболее безопасные пути, а потом идет против течения времени, следуя за потоками вероятности, и предвидит то, что поможет избежать катастрофы. Она удаляет первую раковую клетку еще до ее деления, до того, как она превратится в неоперабельную опухоль. Я глубоко верю, что основной целью g.A.I.a. является благо человечества.

Талинский покачал головой.

– Когда-то один философ сказал, что есть только три вида правды: святая правда, тоже правда и чушь собачья. Вот с этим благом для человечества – это третий вид правды.

– Ты знаешь, кто следит за центром тяжести Кольца Варшава? Не алчные застройщики же, которые построили бы два здания в одном месте, если бы это позволили законы физики.

– Думаю, что этим занимается соответствующий орган.

– Орган в делах балансировки кольца? Не неси чушь.

– Все как всегда! Когда ты не прав, ты сразу направляешь нашу дискуссию в другое русло. Постоянно растет число ложных обвинений во всех возможных преступлениях против закона и традиций. Формулировка «осудить кого-то на смерть» уже не является образной. Это новая стратегия избавления от политических врагов, использующая механизм гиперпревентивности. Что из того, что кто-то чист? Что из того, что в результате долгого разбирательства его официально оправдают? Что из того, что ему выплатят огромную компенсацию? Невиновный уже давно исчезнет в Элиминации. Где в этом благо человечества?

– Время святой правды. Ты должен признать это. Нет личности без общества, но общество может обойтись без личности. Благо одного человека менее важно, чем благо общества.

– Поэтому нас должны разводить, как форель в Кольце Осло? – Талинский мерил камеру шагами. – Сначала мы попробуем заставить g.A.I.a. уважать… принципы нашей человечности.

– Ты хочешь научить искусственный интеллект гуманизму? Ты как мотылек, который стремится научить человека кружить вокруг лампы, потому что это единственное, что он умеет.

– Мы – я, ты – не являемся сраным обществом, мы – личности. Я. Я – личность. Общество – это только слово, что обозначает много таких, как я или ты. И не общество должно быть счастливым, а мы все, каждый отдельно по-своему. Но даже, хрен с тобой, возьмем это «благо человечества». Что это вообще такое? Какой параметр является самым важным? Здоровье, богатство, успех, долголетие, равенство, справедливость, индивидуализм? Всего сразу не реализуем, обосремся. От чего-то надо отказаться, поскольку эти ценности прекрасны и одновременно противоречат друг другу. Даже если благодаря g.A.I.a. этот мир достигнет одной из версий совершенства, то только часть общества будет счастливой. Другие стремятся к другим совершенствам. Ведь жизнь складывается из маленьких радостей и неприятностей, из неудач и ошибок. Из риска. Хочешь, чтобы это все исчезло во имя какого-то абстрактного «блага человечества»?

– Люди умирали из-за разницы в пропорции между этими параметрами. Ты считаешь, что общество существует исключительно для блага личности?

– Я считаю, что одно не может существовать без другого. Если мы обезличимся, это подорвет смысл существования общества. Зачем принадлежать обществу, если оно враждебно по отношению к личности? К тому же где ты в этом сценарии видишь справедливость?

– Ты говоришь так, как будто жил с иллюзией закона, гарантирующего справедливость, – профессор развел руками. – Это бред сивой кобылы для темных людей. Либо равенство, либо справедливость, либо свобода. Основной функцией закона было и остается поддержание порядка. Знаешь, как превратить человека с моральными принципами в извращенца? Не нужно менять самого человека, просто измени сами принципы. Не сосчитать, сколько раз за историю человечества герои постфактум становились преступниками.

– Гиперпревентивность отменяет моральные принципы.

– Нет, мой дорогой, она устанавливает новые критерии оценки нашего поведения. Много лет назад, до Перемен, было громкое дело одного лунатика… не помню, как его звали. Он ходил во сне и цеплялся к людям, кого-то даже избил. Он обыгрывал сцены из своих снов. Он понес наказание за действия, совершенные во сне, которых даже не помнил. Ты назвал бы это справедливостью? Или другой случай: мужчина в результате сильного избиения получил травму головы. У него начали проявляться приступы агрессии. Три раза он избил жену, кидался на полицейских. Пошел за это в тюрьму, но разве это справедливо? Перед избиением он таким не был. Разве за его поступки не должен ответить виновник его состояния?

– Конечно, должен, – неохотно согласился Талинский. – Но нет закона, который смог бы описать подобные хитросплетения.

– Хорошо, идем дальше. Ты знаешь, что при пересадке костного мозга реципиент получает многие качества донора: кулинарные предпочтения, темперамент, иногда даже цвет глаз. Что будет, если ему пересадят костный мозг серийного убийцы? Кто будет виноват в превращении спокойного человека в чудовище?