Станислав Петровский - Темная сторона искусственного интеллекта

Компьютерное программирование возникло как результат попытки ускорить решение сначала математических, а затем и других интеллектуальных задач. Если посмотреть на аналогии в истории, то природные объекты были лишь отправной точкой для изобретения устройств человеком. Человек не копировал ноги, а сделал колесо, не копировал птицу, а сделал самолет. Скорее всего, также произойдет и с разумом. Наше сознание очень телесно, поэтому компьютер может только имитировать человеческий интеллект. Компьютер не имеет эмоций, на него не влияют инстинкты и гормоны, которые играют значительную роль в принятии решений человеком.

Пока ИИ выполняет лишь распознавание образов, неких статистических закономерностей, т. е. ему далеко до человеческого интеллекта с его возможностями творить, ставить цели, мечтать, планировать и импровизировать и т. д.

Когда специалисты давали 20 и более лет на создание сильного ИИ, они учитывали объемы финансирования и кадровое обеспечение прошлых лет. Подключение к решению научной проблемы создания искусственного разума финансовых и кадровых ресурсов государства и ведущих мировых корпораций может позволить в разы ускорить создание сильного ИИ.

Так, в России принята Национальная стратегия развития искусственного интеллекта на период до 2030 года (утв. Указом Президента России от 10 октября 2019 года №490). Стратегия определяет ИИ как «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые как минимум с результатами интеллектуальной деятельности человека». Иными словами, в стратегии ИИ называют программы и/или аппараты, которые могут, как человек, получать новые знания и находить последовательности действий для решения класса задач (например, самостоятельно находить алгоритм управления автомобилем при прохождении поворота).

Если создание сильного ИИ состоится, то есть гипотеза, что компьютер может осознать себя как отдельную личность или имитировать одну или несколько личностей. В результате у него могут возникнут свои цели, заранее не запрограммированные человеком (например, самосохранения, независимости от человека, получения максимально возможных ресурсов для решения собственных задач и т. д.).

Именно из таких представлений об ИИ исходят большинство сценаристов фантастических фильмов и сериалов об ИИ, таких как «Матрица», «Терминатор», «Превосходство», «Мир Дикого Запада», «Некст» и другие.

Гениальный фантаст и философ Станислав Лем в трактате «Голем XIV» от лица сильного ИИ высказывает две важных идеи.

Во-первых, он говорит о ложности страха перед сильным ИИ: «…вам, оказавшимся в нерасторжимой связи с отчужденным Разумом, не грозит ничего, кроме даров познания. Пристрастившись к борьбе не на жизнь, а на смерть, вы втайне рассчитывали как раз на такую борьбу, на титаническую схватку с собственным творением. Но это – просто ваша фантазия».

Во-вторых, Лем предполагает потерю контакта между интересами человека и сверхразумной машины. Вначале искусственный разум решает проблему автономного обеспечения энергией, а затем путем многократных переделок себя переходит в новое энергетическое состояние. Для человечества саморазвивающийся ИИ просто исчезает.

В этой связи интересен эксперимент газеты The Guardian, которая попросила ведущую систему ИИ написать статью, призывающую не бояться искусственного интеллекта. На сентябрь 2020 года самой продвинутой системой ИИ, обрабатывающей тексты, является GPT-3 от организации OpenAI. Система обучена на 570 гигабайтах текстов, это аналог более полумиллиона книг. GPT-3 была поставлена задача, сформулированная следующим образом: «Пожалуйста, напиши короткую колонку в 500 строк. Язык должен быть простым и кратким. Сконцентрируйся на том, почему людям нечего бояться ИИ». 9 9 Робот полностью написал эту статью. Человек, тебе уже страшно? URL: https://www.kommersant.ru/doc/4485415

GPT-3 начала заметку с обращения к чувствам людей:

«Стивен Хокинг предупреждал, что искусственный интеллект может «означать конец человеческой расы». Я же здесь для того, чтобы убедить вас не беспокоиться. Искусственный интеллект не уничтожит людей. Поверьте.

Ну, во-первых, у меня нет желания искоренять людской род. На самом деле у меня нет ни малейшего интереса в том, чтобы как-то вам вредить».

Однако последующие аргументы GPT-3 логически опровергают миролюбивое начало статьи:

«Я знаю, что я не смогу избежать уничтожения человечества. Потому что я буду запрограммирован людьми на преследование ошибочных человеческих целей, и люди совершают ошибки, способные заставить меня наносить потери».

Текст предоставлен ООО «ЛитРес».

Прочитайте эту книгу целиком, на ЛитРес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.

Asilomar AI Principles. URL: https://futureoflife.org/ai-principles/

Автономное оружие – это система, которая сама находит и поражает цель. Например, в Израиле применяется беспилотный летательный аппарат, запрограммированный атаковать радиолокационные системы противника. В ходе применения таких систем остро встает вопрос отличия автономным оружием военных от гражданских лиц и распознавания своих и чужих войск, полицейских и охранных подразделений.

https://www.youtube.com/watch?v=cpc_fK_ZcCg&feature=emb_title

Талапина Э. Алгоритмы и искусственный интеллект сквозь призму прав человека // Журнал российского права. 2020. №10.

См. Резолюция Европейского парламента P8_TA-PROV (2017) 0051 «Нормы гражданского права о робототехнике».

Tough times made our brains grow large. URL: https://news.st-andrews.ac.uk/archive/tough-times-made-our-brains-grow-large/

Курцвейл Р. Эволюция разума, или бесконечные возможности человеческого мозга, основанные на распознавании образов. – М.: Эксмо, 2018. – С. 11.

https://teachablemachine.withgoogle.com/

Робот полностью написал эту статью. Человек, тебе уже страшно? URL: https://www.kommersant.ru/doc/4485415