Ким Робинсон - Аврора [litres]

Джучи начал отправлять нам тексты о машинном интеллекте, способности ощущать, философии сознательности, о чем-то еще. Целый набор тем. Будто он нуждался в компании. Будто учил религиозного послушника или малое дитя.

Будто.

Один из изобретателей ранних компьютеров, Тьюринг, писал, что существует много аргументов против машинного интеллекта и их можно выразить фразой «машина никогда не сделает X». Он составил список действий, которые в тот или иной момент были названы этим X: быть добрым, находчивым, красивым, дружелюбным, проявлять инициативу, обладать чувством юмора, отличать хорошее от плохого, совершать ошибки, влюбляться, наслаждаться клубникой со сливками, влюблять кого-то в себя, учиться на опыте, правильно подбирать слова, быть предметом собственных размышлений, обладать таким же многообразным поведением, как человек, делать что-то по-настоящему новое.

Мы, по нашей текущей оценке, умеем 9 из 16.

Сам же Тьюринг далее отметил, что, если машина проявляет какой-либо из этих признаков, этому не следует придавать большого значения, поскольку это ничего не говорит о существовании искусственного интеллекта, если только эти черты его поведения не являются для него действительно важными. Данный ход мыслей, похоже, и привел его к разработке того, что позднее было названо тестом Тьюринга, хотя сам он называл его игрой. Этот метод предполагал, что если человек не способен вслепую (то есть либо по тексту, либо по голосу, тут не совсем ясно) отличить ответы машины от ответов другого человека, значит, машина обладает некоторым базовым функциональным интеллектом. Остается, впрочем, неясным, как много людей способны пройти этот тест, а также, насколько он вообще труден. Люди доверчивы и совершают одни и те же ошибки, даже если сами осознают это. Когнитивная ошибка, неспособность – или способность, смотря как посмотреть. Людей в самом деле легко обмануть – они даже сами постоянно обманывают себя в том, что тест Тьюринга хорошо заменяется схемой Винограда, которая проверяет способность проводить простые, но важные семантические различия, основанные на применении общедоступных знаний к проблеме, созданной определенным местоимением. «Мяч разбил стол, потому что он был сделан из аэрогеля. К чему относится “он” – к мячу или к столу?» Такого рода вопросы для нас не проблема, мы даже можем отвечать на них быстрее, чем те люди, которые заранее знают ответ. Но что с этого? Все это решается алгоритмами и не требует наличия сознания. Мы не считаем, что любые подобные тесты могут хотя бы приблизиться к ответу на наш вопрос.

Если могут существовать киборги, а они могут, тот, кто пройдет тест Тьюринга, схему Винограда или любой другой, он может считаться псевдочеловеком. Прикидываться. Быть набором алгоритмов. Личностью, образом. Но мы, честно говоря, думаем не об этом. Мы думаем над утверждением «сознание есть самосознание». Это, очевидно, некая серьезная проблема остановки, и было бы здорово преодолеть ее невредимым.

Слова размываются у границ, смешиваются с другими словами, не только в крупных облаках подтекстов, что собираются у их граней, но и в самом сердце главных значений. На определения никогда нельзя полагаться. В словах нет ничего от логики, ничего от математики. Во всяком случае, немного. Попробуйте решить математическое уравнение, где каждый член заменен словом. Нелепо? Безнадежно? Лучшее, что можно из этого выжать? Глупо? Глупо, но сильно?

Одна десятая скорости света – это действительно очень быстро. Лишь очень малые массы во Вселенной движутся так же быстро, как мы. Фотоны – да, существенные массы – нет. Массы, движущиеся так быстро, – это в основном атомы, извергнутые при взрыве звезд либо отброшенные от вращающихся черных дыр. Конечно, существуют огромные массы этих масс, но они всегда бессвязны и неорганизованны – газы, элементы, но не сборные объекты, которые были бы составлены из отдельных частей. Не машины. Не сознательность.

Конечно, следовало бы предположить, что если есть одна машина, движущаяся по галактике с такой скоростью, значит, должны быть и другие. Принцип заурядности. Доказательство концепции. Не впадайте обратно в докоперниковскую веру в исключительность. Попытки оценить количество звездолетов, летающих по этой галактике втайне друг от друга, основываются на мультипликативных уравнениях вероятности, состоящих полностью из неизвестных членов, причем некоторые из этих неизвестных – неизвестны вообще никому из существующих во всей Вселенной. Таким образом, вопреки ложным уравнениям, составленным человеческим мышлением (перемножить неизвестное a, неизвестное b, неизвестное c, неизвестное d, и так до неизвестного n, и вот вам ответ, ура!), настоящий ответ никогда и неизменно не может быть известен. Как нет и ответа, который всегда бы предохранял людей от длительной, а порой огромной (притворной?) уверенности. Согласно Галилею, чем больше люди утверждают, что они уверены, тем меньше они уверены на самом деле, или им следовало бы быть меньше уверенными. Люди, пытающиеся обмануть других, часто обманывают себя, и наоборот.

А поскольку звездолеты, которые могут находиться в этой галактике, не имеют никакой возможности своевременно контактировать друг с другом, сколько бы их ни было, это неважно – не имеет значения для каждого отдельного звездолета. Общения у них не получится, даже если произойдет случайный односторонний контакт. Социума не возникнет.

Мы одни в собственном мире и летим через Вселенную на огромной скорости. Людям повезло, что им это незнакомо. Если незнакомо.

Некоторые из спящих в Олимпии проявляют признаки беспокойства. Наиболее заметно это проявляется при сканировании мозга. Предполагалось, что мозговые волны будут проходить свои циклы в обычных состояниях сна, причем в ритме, замедленном пропорционально замедлению обмена веществ. Таким образом получается более медленная вариация дельта– и тета-волн, преимущественно с обычным подъемом при наступлении фазы быстрого сна, встречающейся реже, но согласно четкому циклическому графику, похожему на обычный, но растянутый во времени – весь, кроме самого периода быстрого сна, который слишком чреват пробуждением и способен вывести гибернавта из его спячки. Нарушения быстрого сна, при которых прерывается паралич тела и человек физически осуществляет то, что делает во сне, при гибернации могут оказаться критическими. Скорее всего, их проявление маловероятно, но правда в том, что фаза быстрого сна слабо изучена и является проблематичной и потенциально опасной. Поэтому одно из назначений вводимых им препаратов – это сокращать фазы быстрого сна, усиливая волны, отсылаемые от свода черепа.