Евгений Гришин - Рефлексивные агенты и человечество: кооперация или конфликт?
- Название:Рефлексивные агенты и человечество: кооперация или конфликт?
- Автор:
- Жанр:
- Издательство:неизвестно
- Год:2020
- ISBN:нет данных
- Рейтинг:
- Избранное:Добавить в избранное
-
Отзывы:
-
Ваша оценка:
Евгений Гришин - Рефлексивные агенты и человечество: кооперация или конфликт? краткое содержание
1. Раздел «Научные статьи» автора, опубликованные в период 2008–2019 гг. (статья в журнале «Искусственный интеллект и принятие решений» Института системного анализа РАН, 2008 г., и в сетевом журнале «Искусственные общества» (Журналы РАН ras@jes.su), 10 статей, с 2014 г. по 2019 г.).
2. Раздел «Философские притчи» – как гипотетические диалоги виртуального агента и человека на темы их совместного существования в будущем (10 притч), опубликованные на сайте «Философский штурм. Совместное философское творчество» в 2015–2018 г.г. (http://philosophystorm.org/persona/evgenii-aleksandrovich-grishin).
В обоих разделах с разной детализацией и обобщениями обсуждены сущностные моменты строительства виртуального агента и его взаимоотношений с человеком:
– Определены понятия «Потребности», «Деятельности» и «Рефлексивная машина» применительно к виртуальному компьютерному агенту. Показано, что они являются основой для моделирования квази-живого и квази-разумного виртуального агента.
– Предложен тест на квазиразумность виртуального агента, как альтернатива тесту А. Тьюринга, акцентирующая внимание не на умении автомата поддерживать разговор с человеком, а на способности договориться и исполнить все условия договора по цене, срокам и качеству товара/услуги.
– Подвергнуты критике три закона робототехники А.Азимова. Предложена альтернативная парадигма: «агент-квазиличность» (вместо «агент-слуга»).
– Предложен подход «взаимное резервирование» как основа партнёрского (договорного, равноправного) сотрудничества рефлексивного агента и человека-оператора при управлении общим жизненным ресурсом.
– Предложен набор категориальных предпочтений как база для реализации функционала сосуществования человека с рефлексивным агентом:
Этика предпочтительнее Рациональности,
Договор предпочтительнее Приказа,
Кооперация предпочтительнее Конфликта.
Автор согласен с выводами книги Ника Бострома «Искусственный интеллект. Этапы. Угрозы. Стратегии» (https://www.mann-ivanov-ferber.ru/books/iskusstvennyj-intellekt/) относительно возможных угроз появления «сильного искусственного интеллекта» для человечества. Однако автор имеет собственное представление относительно стратегии предотвращения угроз, которое он и рассматривает в книге.
Автор рассчитывает на аудиторию читателей широкого возрастного и профессионального спектра, интересующихся философскими, исследовательскими и дизайнерскими подходами к созданию искусственного интеллекта, в том числе – отличающимися от мейнстрима (искусственных нейронных сетей).
Рефлексивные агенты и человечество: кооперация или конфликт? - читать онлайн бесплатно ознакомительный отрывок
Интервал:
Закладка:
Исполнение этого проекта может считаться игрой только до тех пор, пока проект не объявлен персонажем-инициатором как игра, или пока он не распознан персонажем-исполнителем как игра. После объявления или распознания (и обнародования) данная игра становится прошлой игрой. У персонажа-инициатора и у персонажа-исполнителя продолжается реальная жизнь, и каждый из них волен начать в ней новую игру с учётом знаний, полученных каждым в предыдущей игре.
Теперь поговорим об игре как самообмане персонажа. Попытаемся выяснить точки перехода от настоящей реальности к самообману и наоборот.
Пока персонаж разрабатывает проект игры самого с собой или обсуждает исполнение роли в чужой игре, он не играет, он живёт.
Когда же персонаж начинает реализовывать игровой план, он играет. Эта точка перехода, как правило, психологически не заметна персонажу. Далее персонаж настолько может оказаться увлечённым игрой, что перестанет отдавать себе отчёт, что он играет. Выход из игры – это факт рефлексии-. персонаж в какой-то момент приходит в себя и признаётся себе, или «будильник» или другой персонаж открывает ему, что он находится в игре (с самим собой или в чужой игре). Что он увлёкся этим самообманом до такой степени, что начал воспринимать его как настоящую реальность. С этого момента у персонажа вновь начинается реальная жизнь. Правда, до того момента, пока он вновь не решит сыграть (сам с собой, с другим или исполнить роль в чужой игре).
Таким образом, для персонажа игра с самим собой начинается после разработки своего игрового проекта или после обсуждения участия в чужом игровом проекте. В течение игры сам факт игры персонажем не осознаётся. Игра прерывается моментом рефлексии, когда персонаж осознаёт, что он играет, и тем самым возвращается к реальной жизни. Далее персонаж решает, продолжить ли ему эту реальную жизнь, или возвратиться к игре.
Вывод: антитеза состояний «жизнь – игра» некоего персонажа
представляется как целое, которое может быть рассмотрено с двух точек зрения: синхронной и диахронной.
С точки зрения синхронной персонаж одновременно и живёт, и играет.
Персонаж живёт, поскольку сознательно (и тайно) разрабатывает проект будущей игры с другими персонажами.
Персонаж одновременно играет (и играют с ним), пока он неосознанно исполняет свой (или чужой) предыдущий игровой план.
В этом – пример реализации принципа дополнительности Н.Бора.
С точки зрения диахронной персонаж последовательно находится в этих состояниях. Сначала он разрабатывает некий игровой проект (план), т. е. живёт. Затем он его (именно этот план) исполняет, т. е. играет\
В этом – реализация принципа метасистемного перехода В.Турчина.
Но переход персонажа из одного состояния в другое в диахронном смысле, а также синхронное соотнесение двух противоположных состояний персонажа описывается моделью Рефлексивной машины (схематически представлено на рис. 2.)

Рис. 2. Синхронно-диахронное представление антитезы «жизнь – игра» и сфер «Осознание» и «Поведение» персонажа.
Отсюда следует, что модель Рефлексивной машины есть инвариант для представления как двух сфер, «Осознание» и «Поведение», так и двух состояний, «Жизнь» и «Игра».
Заключение
Предпринята попытка критического анализа отдельных положений книги Д. Хокинса и С. Блейксли «Об интеллекте».
Приведены аргументы в пользу нецелесообразности отказа от попыток придания машине таких свойственных для человека проявлений, как эмоции, амбиции, потребности.
Описана обобщённая инвариантная модель ДЕЯТЕЛЬНОСТИ компьютерного персонажа, включающая вышеперечисленные свойства. Компьютерная реализация модели показала, что в ней присутствуют признаки «псевдоразумности» во взаимодействии с человеком.
Рассмотрены подходы к содержательной интерпретации разницы понятий «жизнь» и «игра» персонажа.
Предложено рассматривать антитезу состояний «жизнь – игра» персонажа как целое, которое может быть исследовано с двух точек зрения: синхронной и диахронной.
Тогда синхронный срез модели окажется реализацией принципа дополнительности Н.Бора, а диахронный срез – реализацией принципа метасистемного перехода В.Турчина.
В свою очередь, это позволяет рассмотреть соотношение понятий «жизнь» и «игра» персонажа аналогично соотношению понятий «осознание» и «поведение».
Литература
1. Джефф Хокинс и Сандра Блейксли. «Об интеллекте». Вильямс. 2007.
2. Дмитрий Самин. Основы мироздания. Принцип дополнительности. http://bibliotekar. ru/100otj
3. Турчин В.Ф. Феномен науки. Кибернетический подход к эволюции. Изд. 2-е М.:ЭТС. 2000. 368 с. http: _//refaLru/turchin/phenomenon/index.htm
4. http://www.ohran-komplekt.ru/ohran-komplekt-izobretateli/news 2007-11-
09zl6z05zllz659Mmi
Искусственный интеллект и «творчество», «честь», «достоинство»: совместимые понятия или нет?
Аннотация
Предпринята попытка рассмотреть поведенческую сторону творческого процесса как единственно алгоритмизируемую часть применительно к моделированию его при конструировании интеллектуального виртуального персонажа. Анализ важен сточки зрения сравнения возможностей человека и интеллектуального персонажа в их когнитивном и рационально-этическом поведении и взаимодействии в виртуальном (и реальном) мире.
Введение
В последнее время сформировалось историческое и методологическое подразделение естественнонаучных исследований на этапы: классический, неклассический и постнеклассический [1, 2].
Охарактеризуем их в самой общей форме для целей дальнейшего изложения.
Классический этап базируется на механике Ньютона, рассматривающей материальные объекты и силы взаимодействия. Гуманитарная составляющая отсутствует.
Неклассический этап характеризуется междисциплинарностью, допускающей учёт двойственности в моделях мира, а также учёт целесообразной деятельности человека как субъекта, его воздействия на объект посредством орудий труда/исследования для достижения цели.
Постнеклассический этап характеризуется возрастающим интересом к нелинейным, саморазвивающимся, рефлексивным процессам, а также интересом к исследованию феноменологической (духовной) составляющей деятельности человека – механизмов рефлексии ценностей и смыслов его деятельности.
В исследовательском направлении «искусственный интеллект» к настоящему времени главенствует неклассический подход, подтверждением чего является основной акцент на совершенствовании методов распознавания, обучения, представления, накопления и систематизации знаний, логики принятия решений, автоматической генерации программ.
Читать дальшеИнтервал:
Закладка: