Евгений Гришин - Рефлексивные агенты и человечество: кооперация или конфликт?
- Название:Рефлексивные агенты и человечество: кооперация или конфликт?
- Автор:
- Жанр:
- Издательство:неизвестно
- Год:2020
- ISBN:нет данных
- Рейтинг:
- Избранное:Добавить в избранное
-
Отзывы:
-
Ваша оценка:
Евгений Гришин - Рефлексивные агенты и человечество: кооперация или конфликт? краткое содержание
1. Раздел «Научные статьи» автора, опубликованные в период 2008–2019 гг. (статья в журнале «Искусственный интеллект и принятие решений» Института системного анализа РАН, 2008 г., и в сетевом журнале «Искусственные общества» (Журналы РАН ras@jes.su), 10 статей, с 2014 г. по 2019 г.).
2. Раздел «Философские притчи» – как гипотетические диалоги виртуального агента и человека на темы их совместного существования в будущем (10 притч), опубликованные на сайте «Философский штурм. Совместное философское творчество» в 2015–2018 г.г. (http://philosophystorm.org/persona/evgenii-aleksandrovich-grishin).
В обоих разделах с разной детализацией и обобщениями обсуждены сущностные моменты строительства виртуального агента и его взаимоотношений с человеком:
– Определены понятия «Потребности», «Деятельности» и «Рефлексивная машина» применительно к виртуальному компьютерному агенту. Показано, что они являются основой для моделирования квази-живого и квази-разумного виртуального агента.
– Предложен тест на квазиразумность виртуального агента, как альтернатива тесту А. Тьюринга, акцентирующая внимание не на умении автомата поддерживать разговор с человеком, а на способности договориться и исполнить все условия договора по цене, срокам и качеству товара/услуги.
– Подвергнуты критике три закона робототехники А.Азимова. Предложена альтернативная парадигма: «агент-квазиличность» (вместо «агент-слуга»).
– Предложен подход «взаимное резервирование» как основа партнёрского (договорного, равноправного) сотрудничества рефлексивного агента и человека-оператора при управлении общим жизненным ресурсом.
– Предложен набор категориальных предпочтений как база для реализации функционала сосуществования человека с рефлексивным агентом:
Этика предпочтительнее Рациональности,
Договор предпочтительнее Приказа,
Кооперация предпочтительнее Конфликта.
Автор согласен с выводами книги Ника Бострома «Искусственный интеллект. Этапы. Угрозы. Стратегии» (https://www.mann-ivanov-ferber.ru/books/iskusstvennyj-intellekt/) относительно возможных угроз появления «сильного искусственного интеллекта» для человечества. Однако автор имеет собственное представление относительно стратегии предотвращения угроз, которое он и рассматривает в книге.
Автор рассчитывает на аудиторию читателей широкого возрастного и профессионального спектра, интересующихся философскими, исследовательскими и дизайнерскими подходами к созданию искусственного интеллекта, в том числе – отличающимися от мейнстрима (искусственных нейронных сетей).
Рефлексивные агенты и человечество: кооперация или конфликт? - читать онлайн бесплатно ознакомительный отрывок
Интервал:
Закладка:
Третье необходимое условие – взаимопонимание творящего субъекта с другими субъектами в игре, борьбе или решении общих проблем. В свою очередь, взаимопонимание возможно при наличии у субъектов близкого мировосприятия. А близкое мировосприятие может основываться лишь на общности систем ценностей субъектов, общности ресурсной базы их среды существования и на ресурсном обмене (рынке).
Творчество также предполагает знание субъектом существующих способов решения задачи, неудовлетворённость ими и попытку решить задачу лучше.
И это лучшее решение ценно потому, что может принести ему как те или иные внешние выгоды (деньги, признание, власть), так и внутренние (самоуважение).
Отсюда выводится достаточное условие для признания некоего процесса и его результата творчеством: решение задачи, предложенное субъектом, должно быть признано на данный момент на рынке (ресурсов, идей) лучшим в соответствующем классе решений, и это должно быть подтверждено повышенным на него спросом (цитированием).
6. Дж. Хокинс: Модель «Память – Прогнозирование» в своей основе имеет феномен запоминания мозгом СЕРИЙ событий. В последующем мозг, на основе появления на входе отдельных элементов серии, ПРОГНОЗИРУЕТ (ПРЕДВОСХИЩАЕТ) появление на входе всей серии событий…
ЕАГ: Представляется, что это важный, но лишь один шаг в постижении феномена разума.
Не менее важен и следующий шаг: ПЛАНИРОВАНИЕ ПОВЕДЕНИЯ, которому в работе [1] уделено недостаточно внимания.
На наш взгляд, этот следующий шаг уже терминологически предполагает раздвоение единого процесса на два самостоятельных, алгоритмически равнозначных, процесса. Они могут быть названы так: ОСОЗНАНИЕ (включающее планирование) и собственно ПОВЕДЕНИЕ по плану.
Мы имеем в виду, что это два таких алгоритмических процесса, которые обязаны пользоваться ЕДИНЫМ ПОЛЕМ ПАМЯТИ так, что один процесс использует результаты другого.
Принципиально важно то, что оба процесса должны осуществляться не ПОСЛЕДОВАТЕЛЬНО, а ПАРАЛЛЕЛЬНО.
Это возможно лишь при условии, что их параллельное выполнение относительно общего поля памяти будет характеризоваться ФАЗОВЫМ сдвигом.
Понимать это надо так. Один процесс не ждёт конца исполнения другого процесса, а исполняется на текущем этапе, пользуясь результатами другого процесса, полученными на ПРЕДЫДУЩЕМ этапе. Второй процесс, выполняясь одновременно с первым, использует результаты первого, полученные также на ПРЕДЫДУЩЕМ этапе.
Тем самым через фазовый сдвиг вводится необходимый параметр ВРЕМЕНИ как критерий последовательности событий.
Приведённая совокупность двух процессов, выполняющих функции ОСОЗНАНИЯ (т. е. прогнозирования и планирования) и ПОВЕДЕНИЯ (как исполнения плана), может быть охарактеризована психологическим понятием РЕФЛЕКСИРОВАНИЕ и более общим кибернетическим понятием ОБРАТНАЯ СВЯЗЬ.
Парадоксально, что отдельно рассмотренный эвристически мощный психологический принцип рефлексии, не обязательно предполагающий взаимодействия двух параллельных процессов, сам по себе оказывается недостаточно эффективен для анализа сущности РАЗУМНОСТИ.
Каждый из двух вышеприведённых алгоритмических процессов является примером универсальной машины А.Тьюринга. Обобщённо говоря, предлагается единая модель, представляющая собой две универсальных машины Тьюринга, работающих на общем поле памяти под управлением супервизора.
Эвристическая эффективность совмещённой модели может оказаться значительно выше для понимания и машинной реализации феномена РАЗУМНОСТИ, чем сумма отдельно взятых моделей.
7. Дж. Хокинс: Одно из важных свойств мозга есть репрезентативная инвариантность, т. е. хранение информации о целом в виде инвариантных соотношений параметров объекта.
ЕАГ: Идея инвариантности, как чрезвычайно сильный методологический приём, нами взята за основу построения алгоритма существования «псевдоразумного» компьютерного
персонажа. К таковым инвариантам относятся следующие модели, в совокупности представляющие собой обобщенную инвариантную модель ДЕЯТЕЛЬНОСТИ персонажа:
• Модель «ПОТРЕБНОСТИ-ДЕЯТЕЛЬНОСТИ-РЕСУРСЫ» как инвариантная низшая модель жизненной активности персонажа.
• Модель «ПРОЕКТ: СЦЕНАРИЙ-РОЛИ-ИСПОЛНИТЕЛИ» как инвариантная первая промежуточная модель жизненной активности персонажа.
• Модель «АНАЛИЗ ПРИЧИН-ПРОБЛЕМА-ЗАДАЧА-ПЛАН» как инвариантная вторая промежуточная модель жизненной активности персонажа.
• Модель «ОБЩЕНИЕ: ПРОСЬБА-ПРЕДЛОЖЕНИЕ» как инвариантная третья промежуточная модель жизненной активности персонажа.
• Модель «САМОРАЗВИТИЕ: ДОЛГ ПЕРЕД СОБОЙ» – осознанная смена персонажем его приоритетов на множестве собственных потребностей в пользу нематериальных потребностей как инвариантная высшая модель жизненной активности персонажа.
• Модель «УНИВЕРСАЛЬНЫЙ ПРЕОБРАЗОВАТЕЛЬ: ИСХОДНЫЙ МАТЕРИАЛ-СРЕДСТВО-ЦЕЛЬ-РЕСУРСЫ» как инвариантная модель технологии преобразующей деятельности персонажа.
• Модель «РЕФЛЕКСИВНАЯ МАШИНА: ЗАПОМИНАНИЕ, ПЛАНИРОВАНИЕ, ИСПОЛНЕНИЕ и САМОКОНТРОЛЬ» как инвариантная модель технологии обратной связи в деятельности персонажа, связи между осознанием и поведением.
• Модель «САМООБУЧЕНИЕ: ВЫРАБОТКА СТЕРЕОТИПОВ ПОВЕДЕНИЯ» как инвариантная модель технологии самообучения. Эмпирическое вычисление класса наиболее эффективных вариантов поведения из потока вариантов за небольшое число шагов (обучение) и большое число шагов использования этого опыта в «боевых» условиях, с последующим многократным переобучением.
• Инвариантный критерий выбора момента ПРИНЯТИЯ РЕШЕНИЯ при последовательной генерации вариантов – совпадение величины предполагаемого дополнительного эффекта от искомого варианта поведения при продолжении поиска, с совокупными затратами на поиск искомого варианта (фактически осуществлёнными и предполагаемыми).
Изложенный критерий выбора момента принятия решений применим для каждой из вышеперечисленных моделей, т. к. в них предполагается последовательная генерация вариантов.
Это может быть решение о снижении планки желаемого выигрыша и продолжении поиска, если появившиеся варианты не сохраняются в памяти после появления. Или это может быть решение о прекращении поиска и выборе лучшего из уже появившихся вариантов, если они сохраняются в памяти после появления.
Единая инвариантная модель ДЕЯТЕЛЬНОСТИ персонажа представляет собой набор инвариантных моделей, образующий целое. Это целое обладает структурой, являющейся полным графом (каждый элемент связан с каждым, рис. 1).
Читать дальшеИнтервал:
Закладка: