Евгений Гришин - Рефлексивные агенты и человечество: кооперация или конфликт?
- Название:Рефлексивные агенты и человечество: кооперация или конфликт?
- Автор:
- Жанр:
- Издательство:неизвестно
- Год:2020
- ISBN:нет данных
- Рейтинг:
- Избранное:Добавить в избранное
-
Отзывы:
-
Ваша оценка:
Евгений Гришин - Рефлексивные агенты и человечество: кооперация или конфликт? краткое содержание
1. Раздел «Научные статьи» автора, опубликованные в период 2008–2019 гг. (статья в журнале «Искусственный интеллект и принятие решений» Института системного анализа РАН, 2008 г., и в сетевом журнале «Искусственные общества» (Журналы РАН ras@jes.su), 10 статей, с 2014 г. по 2019 г.).
2. Раздел «Философские притчи» – как гипотетические диалоги виртуального агента и человека на темы их совместного существования в будущем (10 притч), опубликованные на сайте «Философский штурм. Совместное философское творчество» в 2015–2018 г.г. (http://philosophystorm.org/persona/evgenii-aleksandrovich-grishin).
В обоих разделах с разной детализацией и обобщениями обсуждены сущностные моменты строительства виртуального агента и его взаимоотношений с человеком:
– Определены понятия «Потребности», «Деятельности» и «Рефлексивная машина» применительно к виртуальному компьютерному агенту. Показано, что они являются основой для моделирования квази-живого и квази-разумного виртуального агента.
– Предложен тест на квазиразумность виртуального агента, как альтернатива тесту А. Тьюринга, акцентирующая внимание не на умении автомата поддерживать разговор с человеком, а на способности договориться и исполнить все условия договора по цене, срокам и качеству товара/услуги.
– Подвергнуты критике три закона робототехники А.Азимова. Предложена альтернативная парадигма: «агент-квазиличность» (вместо «агент-слуга»).
– Предложен подход «взаимное резервирование» как основа партнёрского (договорного, равноправного) сотрудничества рефлексивного агента и человека-оператора при управлении общим жизненным ресурсом.
– Предложен набор категориальных предпочтений как база для реализации функционала сосуществования человека с рефлексивным агентом:
Этика предпочтительнее Рациональности,
Договор предпочтительнее Приказа,
Кооперация предпочтительнее Конфликта.
Автор согласен с выводами книги Ника Бострома «Искусственный интеллект. Этапы. Угрозы. Стратегии» (https://www.mann-ivanov-ferber.ru/books/iskusstvennyj-intellekt/) относительно возможных угроз появления «сильного искусственного интеллекта» для человечества. Однако автор имеет собственное представление относительно стратегии предотвращения угроз, которое он и рассматривает в книге.
Автор рассчитывает на аудиторию читателей широкого возрастного и профессионального спектра, интересующихся философскими, исследовательскими и дизайнерскими подходами к созданию искусственного интеллекта, в том числе – отличающимися от мейнстрима (искусственных нейронных сетей).
Рефлексивные агенты и человечество: кооперация или конфликт? - читать онлайн бесплатно ознакомительный отрывок
Интервал:
Закладка:
Полный граф подчёркивает то обстоятельство, что рассмотрение любого из элементов структуры в отдельности, без связей друг с другом, даёт неадекватную (непроявленную) картину понимания существа целого.

Рис. 1.
В то же время представляется допустимым и целесообразным для понимания подхода сгруппировать модели так, чтобы выделить две группы, дуальные по отношению друг к другу с точки зрения их ролей:
• Группа технологических моделей существования персонажа (сфера «материального») и
• Группа моделей жизненной активности персонажа (сфера «нематериального»).
Этот принцип дуальности элементов целого как структурный инвариант сохраняется и при переходе на нижележащий уровень рассмотрения моделей (можно сказать, реализуется «фрактальность» как свойство сохранения структурной инвариантности при изменении масштаба рассмотрения объекта). Так, модель Рефлексивной машины представляет собой принципиально двухсферную структуру, сферу осознания и сферу поведения
В целом, с учётом масштабной инвариантности в модели последовательно реализуется методологический принцип дополнительности Н.Бора.
Рассмотрим иные примеры инвариантностей, уже в сфере языкового общения персонажей.
«Не спрашивай, о чём говорят – говорят о деньгах» – Эмманюэль Тодд (предположительно).
Сделаем попытку повторить подобный метафорический подход применительно к другим сторонам жизненного проявления и взаимодействия персонажей. Акцент сделаем на поиске инвариантностей в интерпретации их жизненных проявлений.
Не спрашивай, о чём (почему):
Говорят– о деньгах (просят деньги или услуги в счёт будущего дохода, или предлагают деньги или услуги за будущие услуги или деньги).
Плачут– жалеют себя (и предлагают другим разделить с ними горе).
Смеются– гордятся собой (и предлагают другим разделить с ними это удовольствие).
• Поют– о любви (желают её подарить, или желают её получить, или и то, и другое).
• Сердятся(оскорбляют) – «мстят» другому за собственное неуважение себя
• Действуют– стремятся к желаемой цели, ища эффективные средства при минимизации затрат ресурсов.
Борются(дерутся, воюют, занимаются политикой, вообще действуют) – добиваются победы над другим с целью заполучения лидерства, ресурсов, услуг. Или с целью пресечения зла, беззакония, несправедливости, угрозы своей безопасности или безопасности общества, основываясь на своём понимании нравственности.
• Даюткому-либо ресурсы, услуги – исполняют свой долг в соответствии с добровольным договором или свой внутренний долг, или покупают безопасность в связи с ультиматумом другого, или ультимативно навязывают в долг ресурсы, услуги другому.
• Даряткому-либо ресурсы, услуги – бескорыстно исполняют долг перед собой, или корыстно провоцируют долг другого перед собой.
• Берут(получают в дар) у кого-либо ресурсы, услуги – воспринимают дающего своим должником (по добровольному договору или в связи с собственным ультиматумом берущего дающему), или готовы себя считать должником дающего (по добровольному договору или в связи с ультиматумом дающего берущему).
• Играют– сознательно ввергают себя в искусственную реальность, в которой быстрее можно проявить себя, имитируя реальную деятельность или борьбу в логическом, этическом или эстетическом отношении.
• Читают(потребляют предметы любого искусства) – сознательно ввергают себя в искусственную реальность, в которой быстрее можно понять другого и соотнести себя с ним.
• Пьют,потребляют наркотики, медитируют, болеют (в спорте, игре, споре) – сознательно ввергают себя в искусственную реальность, в которой можно быстрее (и сильнее) получить удовольствие, бездействуя и испытывая страсти, или получить кратковременный допинг (катализатор) для реальной деятельности.
• Обманывают (играют) – производят ложные движения (произносят лукавые тексты), сознательно ввергая другого в искусственную реальность и провоцируя его на действия, выгодные «обманщику» и невыгодные (или выгодные) его жертве/партнёру. Например:
• Просят деньги (услуги) у партнёра под обещания неочевидного будущего его дохода, или предлагают деньги (услуги) партнёру за его будущие несоразмерные услуги (платежи).
• Льстят – словесным наркотиком усыпляют разум другого (обманно утверждая о достоинствах, богатстве, авторитете, красоте, справедливости… другого) в расчёте на получение своего корыстного интереса.
• Играют на сцене (или в жизни) – произносят тексты и «прикидываются», желая, чтобы зрители поверили им и забыли, что они – просто исполнители.
В свою очередь, зрители – сами желают быть «обманутыми», но иногда «не верят»…
Поиск инвариантов в вышеперечисленном списке проявлений персонажа приводит к следующему. Вычленены смысловые пары как категории, к которым можно свести остальные проявления. Это следующие категории:
Живутили играют (настоящая реальность или искусственная (игровая, виртуальная).
Берут(получают) или дают(дарят), просятили предлагают.
Попытаемся понять, как соотносятся и различаются для персонажа настоящая реальность и искусственная (игровая, виртуальная). Представляется, что основой этому может быть различение понятий быть и казаться , а также понятий жить и играть.
И в той, и в другой реальности персонаж осуществляет ту или иную деятельность.
И в той, и в другой реальности одна и та же деятельность удовлетворяет одну и ту же группу потребностей персонажа (может быть, с разной интенсивностью).
Но:
• Любая деятельность в игровой реальности, в отличие от проявления подобной же деятельности в настоящей реальности, удовлетворяет ещё и дополнительные потребности – потребность в азарте (риске), а также потребность в удовольствии от удачного обмана ! Обман – предумышленное действие персонажа по перевоплощению в исполнителя некоей роли, несвойственной персонажу, по мнению зрителей (партнёров). При этом персонаж испытывает удовольствие от ощущения готовности зрителей (знающих о перевоплощении) поверить в истинность этого действия, или от ощущения успешности обмана, если зрители (партнёры) не догадались о перевоплощении. Иначе говоря, азартная и/или «обманная» деятельность всегда есть игровая реальность ! Здесь реализуются понятия играть (vs жить), а также казаться/прикидываться (vs быть).
Читать дальшеИнтервал:
Закладка: