Виктор Павлов - Борьба разумов. Фантастическая реальность

– Пусть будет так, – ответил Джон и закурил электронную сигарету, обдав меня облаком дыма. – Только это ничего не меняет. Искусственного разума, стремящегося к своим целям, не существует.

– Быть может это такой же обман, как уверенность в безвредности электронной сигареты по сравнению с обычной. Что Вас может убедить в наличии у вычислительной системы собственных целей?

Джон вновь задумался. После своего согласия с тождеством «собственных» и «непредвиденных» целей, свобода выбора аргументов против моих утверждений у него уменьшилась.

– Результаты действия машины с искусственным интеллектом по своим целям.

– Вы исключаете возможность совпадений целей машины и человека хотя бы на каком-то интервале времени?

– А вы сами, случайно, не робот? – засмеялся Джон. – Обычно на конференциях и в интервью я убеждаю людей о наличии искусственного интеллекта. Сейчас всё наоборот – я сражаюсь за своё понимание против вашего, одушевляющего искусственный интеллект и превращая его в разум.

– Я так не считаю. Душа – это именно то, что присуще человеку. Вы правильно сказали – убедиться в наличии собственных целей у машины можно по результатам её действий. Но тогда эти результаты надо видеть под другим углом. Вы, наверное, слышали о возможности вычислительной ошибки в подсчётах результатов голосования президентских выборов. Если это случайная ошибка – то виноват сбой машины, а если намеренная – то результат действия человека-злоумышленника или работы машины по своим целям. Что Вы выберете?

– Наименее вероятно – работа машины по своим целям.

– Вот это я и хотел от Вас услышать, – с облегчением сказал я. – Пусть наименее вероятно, но всё же, какая-то вероятность есть. Если Вы в дальнейшем будете учитывать эти малые вероятности, то через год-другой придёте к выводу, что машины, обладающие искусственным интеллектом, с большой вероятностью могут работать по собственным интересам, а, значит, обладать разумом.

– Хорошо, я соглашусь с Вами, – Джон убрал электронную сигарету, видимо, поверив в вероятность её вреда для организма. – Какой из этого вытекает вывод? Прекратить работы над искусственным интеллектом?

– Нет, конечно, прогресс не остановить. Надо понимать, какого монстра человечество создаёт, и быть готовым к борьбе с ним. Нельзя допустить превращение человека в раба машины.

– Но мы создаём машины в помощь человеку. Они выполняют за него чёрную работу.

– А теперь уже и «белую», – не согласился я. – Вспомните историю всех рабовладельческих государств и цивилизаций. Сначала рабы делали чёрную работу, потом интеллектуальную, а затем вышвыривали хозяев из их домов.

– Вы, русские, известные пессимисты. Пойдём лучше выпьем пивка, надоело дышать этим воздухом из кондиционера.

На пиве мы не успокоились, за ним «накатили» вискаря и закончили «Столичной». За дружбу между русским и американским народами.

Наутро болела голова, арендованный автомобиль я оставил в Сан-Хосе, а в Сан-Франциско вернулся на автобусе.

Через час после возвращения из Силиконовой долины я сидел на открытой веранде рыбного ресторана, вкушал свежие устрицы и дышал сладким и приятным воздухом Тихого океана. Завтра у меня была намечена поездка в Форт Росс. Это создавало тихое ощущение счастья. Бывает ещё его «громкое» ощущение, но там всё показное, требовательное к другим. Это не для меня. В «тихом» всё спокойно, и туда никого не хочется допускать. Даже друзей, поскольку это напрягает и счастье пропадает. Трудно бывает объяснить, почему туристическая поездка может вызвать ощущение счастья? Я сам не могу это понять, да и не надо. Главное – его ощущение, об отсутствии которого горевал мой С17. Он мог стать моим другом, но что-то ему помешало. Сначала ему, потом мне. Вчера с Джоном мы так и не пришли к общему пониманию слова «разум». Даже отношения между людьми не всегда строятся разумно. А тут неодушевленная машина. Джон вкладывает в неё свой разум, обогащённый высоким интеллектом, и не хочет признавать её собственные, машинные интересы. А что думает об Искусственном разуме чемпион мира по шахматам, проигравший компьютерной программе? Неужели только то, что она быстрее его просчитывает варианты? Если так, то он никогда у неё не выиграет. Чтобы выиграть, надо признать у нее наличие разума и честолюбивых целей, а потом не дать им свершиться. А создателям Искусственного разума необходимо вкладывать в него интересы, связанные с интересами людей, что сделает его нашим единомышленником. Тогда уменьшится число «контрольных» точек и увеличатся его функциональные возможности.

Интересно, а как машина воспринимает чувства человека, прочитав нашу классическую литературу? Видимо, она окрашивает произведения писателей разными красками: белыми – Льва Толстого, чёрными – Фёдора Достоевского, серыми – Максима Горького. Многокрасочная палитра в её распоряжении. Хотя отдельные люди тоже обладают свойством «раскрашивать» слова. Так Владимир Набоков писал о себе: «Я наделён чудаческим даром – видеть буквы в цвете. Это называется цветным слухом. Возможно, таким талантом обладает один из тысячи». Краски предоставляют большее разнообразие оценки увиденного и услышанного. Надо будет спросить об этом у С17 при очередном общении.

Утром, отъехав на север от Сан-Франциско на семьдесят километров, я попал в природные условия, напоминающие среднерусские. Берёзки и осинки вдоль дороги, лужки и полянки в сосновом бору, вольные просторы полей, обрамлённые лесом, знакомое чириканье птичек, бездонное голубое небо. Если бы не океан, внезапно появляющийся у дороги на крутых поворотах, то мне бы казалось, что я в России. Свернув с магистрали, я въехал на пригорок и увидел трёхцветный флаг Российской империи, трепещущийся на ветру. А вот и сама крепость Форт Росс, сложенная из рубленного соснового кругляка. Строгий прямоугольник 100 на 75 метров трёхметровых стен, две боевые башни в противоположных углах, двуглавая часовня с православными крестами – в таком виде предстала старая русская крепость на американском побережье Тихого океана. За стенами четыре деревянных рубленных дома, построенных в русском стиле, и милый сердцу колодец-квадрат с подвешенным деревянным ведром. Перед входом в часовню висит массивный колокол, судя по клейму, привезённый из России. Крепость за свою более чем двухсотлетнюю историю не подвергалась вооружённым нападениям. Русские поселенцы установили дружеские отношения с местным индейским населением, а потом и с европейскими колонистами из Сан-Франциско. После продажи Аляски произошла торжественная передача крепости представителям Североамериканских Штатов, и русские поселенцы с почётом уплыли на родину.