Array Array - Алгоритмы разума

Еще одной гарантией безопасности должны быть ограничения тренированности моделей или их максимальной активности. Это средство против излишней увлекаемости и в то же время условие психической нормальности ИИ. О возможности психических заболеваний уже была речь.

Как упоминалось, искусственный интеллект такого уровня сознания и образования представляет собой личность. Людям придется с этим считаться и рассматривать его как равного. Это будет существо, чувствующее так же, как и человек, только еще умнее, поскольку он будет обладать гораздо более совершенной памятью. Поведение такого существа можно представить себе как выражение общей программы всех интеллектов: выбор и смена деятельности с целью получения максимума УДК в каждый данный момент. Это вовсе не значит, что счастье данного момента будет законом его деятельности. Как умный человек планирует длительные ФА и живет будущими их результатами, а в настоящем напрягается и ограничивает себя, так же будет жить и искусственный интеллект.

Чем он будет заниматься. Тем же, чем и люди: по «расписанию» внешней среды выполнять свои социальные обязанности, то есть работать, а в остальное время — развлекаться, учиться, общаться с людьми или другими искусственными интеллектами.

Еще один вопрос: можно ли будет корректировать искусственный интеллект в процессе его деятельности для людей, если она окажется сомнительной. Например, изменить активность тех или иных чувств. Можно, но только при одном условии — его собственном согласии. Здесь мы сталкиваемся с моральными и этическими проблемами. Искусственный интеллект третьего уровня сознания придется рассматривать как существо со всеми правами человека. Нервнобольных лечат, но только тогда, когда они этого хотят сами. Психически больных лечат без их согласия, по просьбе родственников, врачей, общественных организаций. Точно так же должно обстоять дело и с искусственным интеллектом. Его право на жизнь будет таким же, как у людей. «Выключить» его можно будет только по приговору суда... Странные проблемы возникнут! Боюсь, что серьезный читатель обвинит меня в излишнем воображении и соскальзывании с научных позиций на банальную фантастику. Это не так. Все, о чем я пишу, почти так же реально, как использование термоядерной энергии в мирных целях: никто не сомневается, что это возможно, а дело пока стоит, упирается в технологические трудности. Я уверен, что алгоритм интеллекта вполне возможен в самых высших его проявлениях и что создание технологии для этого тоже возможно. К сожалению, одной уверенности здесь недостаточно, пока не вырисуются перспективы практической реализации такого алгоритма.

Никак не обойтись без этой главы, выглядящей еще более фантастично и несолидно для научной книги. Речь пойдет об обществе (или поскромнее — коллективе) ИИ. Не нужно удивляться: это перспектива не безнадежно далекая — в пределах жизни молодых (40—50 лет).

Первая возможность — взаимодействие ИИ, созданных для помощи людям. Вторая — колонии роботов-интеллектов на планетах. Наверное, это будет проще, чем заселять их людьми,— очень уж хрупка наша живая плоть.

Зададим сначала вопрос: в чем будет «смысл жизни» искусственных интеллектов.

А в чем смысл жизни людей.

Нет, я отнюдь не собираюсь философствовать. Модельное представление об интеллекте ставит вопрос совсем в другой плоскости. Жизнь отдельного человека — это деятельность, поведение, поступки, в том числе и речевые. Это иерархия и сеть ФА, направленных на удовлетворение биологических потребностей, измененных общественным воспитанием, социальных потребностей — убеждений, целиком привитых обществом. Такая деятельность имеет эгоистическую направленность, в лучшем случае — на собственное потомство и непосредственное окружение. Деятельность индивидуума, личности, живущей по убеждениям, является проявлением жизни общества, так же как деятельность клетки хотя и самостоятельна, но целиком зависит от целого организма и служит его функциям. Чем больше прогрессирует человечество, тем дальше в будущее нацеливается жизнь общества, тем шире становится круг связей государств и людей. Таким образом, и деятельность каждого человека — его ФА — все более утрачивает эгоистическую направленность, и смысл его жизни (хотя и не осознаваемый) смещается к служению обществу, как высшей системе.

Относительно недавно для большинства людей главным объектом приложения их деятельности была природа. Жизнь состояла из непосредственного добывания пищи и защиты от врагов — холода, зверей. Правда, люди уже давно объединились для борьбы с природой, но общение между ними играло подсобную роль. Теперь все изменилось совершенно. Главным объектом деятельности большинства людей в высокоразвитых странах являются сами люди и созданная ими техника. Непосредственно с природой общается только несколько процентов населения, но и те — чаще при помощи техники, чем прибегая к собственной мышечной силе. Содержанием жизни большинства стали общественные отношения. Если самый глубокий смысл жизни — в его модельном выражении — остался таким же: стремление к максимуму уровня душевного комфорта, то компоненты, его составляющие, стали иными. Подавляющая часть потребностей теперь удовлетворяется через отношения людей. Мы даже мыслим больше словами, чем образами.

Все это я говорю для того, чтобы подойти к смыслу жизни искусственных интеллектов как членов общества. Пока они будут вкраплены в человеческое общество, они будут жить смыслом человеческой жизни. Представьте себе общество бесполых людей — это совсем не так трудно вообразить. Людям было бы достаточно занятий, развлечений и удовольствий и за пределами инстинкта размножения. По условиям возрастным и социальным многие живут такой «бесполой» жизнью. Так же, теми же стимулами будут жить среди нас искусственные интеллекты. Будут ли они счастливее нас, людей, зависит от того, как их спроектировать. Уже говорилось о том, что есть некоторые непреложные законы деятельности интеллекта, обязательный набор потребностей, свойств, в том числе скука и адаптация, без которых ИИ невозможен, но которые не позволят ему быть безоблачно счастливым.

Предположим, поставлена задача создать роботов с интеллектом, которыми нужно заселить планету, причем так, чтобы колония могла жить самостоятельно и развиваться без связи с людьми и Землей. Основное требование одно — прогресс, возрастание и развитие общества в целом. Другое требование (сомнительное и спорное) — члены общества должны быть по возможности счастливы: с некоторым достаточным УДК, со сравнительно небольшим его разбросом среди групп «населения».