Анатолий Левенчук - Образование для образованных. 2021

Это может быть биологический вид в эволюции, вид продукта или сервиса в технологической эволюции, вид мастерства в эволюции деятельности.

И как растёт видовое разнообразие и сложность организмов в биологической эволюции, растёт разнообразие и сложность продуктов и сервисов в технологической эволюции, растёт разнообразие и сложность деятельностей и тем самым разнообразность и сложность мастерства в этих деятельностях. Люди на земле владеют всё более и более разными видами мастерства (углубление разделения труда), и эти виды мастерства всё более сложно освоить, для надлежащего уровня требуется 4—10тыс. часов прохождения ступенек в мастерстве от «полный новичок» через «иногда получается» до «настоящий мастер».

МАЛО УЧИТЬСЯ РЕШАТЬ ПРОБЛЕМЫ.

НУЖНО ЕЩЕ И СТАВИТЬ ПРОБЛЕМЫ

Базовый текст декабря 2017 года «Open-endedness: The last grand challenge you’ve never heard of» 59 59 https://www.oreilly.com/ideas/open-endedness-the-last-grand-challenge-youve-never-heard-of написан в соавторстве с Lisa Soros теми же Kenneth O.Stanley и Joel Lehman, которые в 2015 году написали книжку про важность новизны, «Why Greatness Cannot Be Planned: The Myth of the Objective».

В соответствии с подходом бесконечного развития, нужно не просто решать проблемы – ибо сложность и изящество решения при этом ограничено сложностью проблемы. Нужно делать две вещи: 1) порождать проблемы и 2) решать их.

Всё более и более сложные проблемы должны быть не любые, а находящиеся в зоне «ближнего развития» – ни слишком трудные для решения, ни слишком лёгкие (тут в английском используется ещё одно плохо переводящееся слово: goldilocks, означающее в том числе «не горячее, и не холодное, а в самый раз»). Бесконечное развитие требует ступенек, ни слишком низеньких, ни слишком высоких.

В январе 2019 года Stanley (он сейчас возглавляет лабораторию искусственного интеллекта в OpenAI) и Lehman сделали алгоритм бесконечного развития 60 60 https://eng.uber.com/poet-open-ended-deep-learning/ а в марте 2020 года усилили этот алгоритм 61 61 https://eng.uber.com/enhanced-poet-machine-learning/ . Алгоритм порождает своей стратегирующей частью всё более и более сложные рельефы местности (даёт параметры генератору рельефов: «ставит цель»), а затем его решающая часть-робот решает эти проблемы, то есть учится проходить заданные частью целеполагания рельефы. Оказалось, что постепенно наученные через «проблемы в зоне ближнего развития» роботы могут проходить в конечном итоге самые сложные среды, а попытки просто «решить проблему» без этих промежуточных научений, а просто «научиться с нуля», без stepping stones/ступенек проваливаются. Оказывается, без эволюции, без промежуточных ступенек мы не можем научиться чему-то сложному! Обучение какой-то деятельности должно быть многоступенчатым, развитие должно проходить через ступеньки, находящиеся на границе тумана – ни слишком трудные (тогда научение невозможно), ни слишком лёгкие (тогда не будет накоплен опыт).

Для алгоритма бесконечного развития нужно достаточное время, и мы получим удивительные результаты. По большому счёту, эволюция на Земле получила удивительный результат, ибо она как раз реализует такой алгоритм: условия существования Земли ставят всё более и более разнообразные и сложные задачи развивающимся на ней животным и растительным видам, а эти виды достигают удивительного мастерства в решении этих задач. Один из самых интересных моментов тут – это получение биологического интеллекта, затем развитие цивилизации, а сейчас и получение машинного интеллекта. Человечество ставит и ставит себе всё более и более сложные задачи, и научается эти задачи решать.

Этот алгоритм реализуется не только всей Землёй, не только всей цивилизацией, но даже в одном мозге. Автор когда-то задавал вопрос проф. Дж. Гриндеру (одному из основоположников нейролингвистического программирования), считает ли он перспективными «остановку внутреннего диалога» и прочие средства обеспечения «единства сознания», «недуальности». Джон Гриндер отвечал, что не считает: для развития всегда должно быть некоторое противоборство, критика, а хоть и в одном мозге. Единство – это путь к стагнации, а не к развитию/эволюции/прогрессу, как это ни назови. Поэтому даже в одном и том же мозге постановщик проблем должен всё время ставить задачу, а решатель проблем учиться её решать – и так развиваться до бесконечности. Никакой остановки, никакой стагнации, никакого успокоения при достижении «конечной цели». Каждая новая цель, каждая новая ступень сложней предыдущей, цепочка этих ступеней никогда не заканчивается, это и есть жизнь.

А КАК С НАУКОЙ? ТАМ ТОЖЕ БЕСКОНЕЧНОСТЬ РАЗВИТИЯ?

Да, в науке всё то же самое: наука ищет всё более и более точные объяснения того, как устроен мир. SoTA в научных объяснениях постоянно меняется. И эти изменения будут бесконечны. Люди не знали о существовании микробов и вирусов, и поэтому смертность от инфекционных заболеваний (родильная горячка, например, как первое с чем сталкивались буквально при рождении) была запредельно высока. Затем появились объяснения, которые рассказали о микробах и вирусах и их связи с заболеваниями, на основе этих объяснений были выработаны простые, но контринтуитивные предложения по борьбе с болезнями. Родильную горячку победило мытьё рук! Этот рецепт «мойте руки, и не будет родильной горячки» был совсем, совсем неочевиден, пока не было объяснения причин: не рассматривались микробы как причина болезни.

Но можно ли сказать, что всё уже известно про инфекционные болезни? Конечно, нет! Пример пандемии показывает, что неизвестного ещё много. Или даже по-другому: неизвестно, что из известного действительно известно! Может быть, SoTA в знаниях об эпидемиях уже есть, но конкурирующие теории ещё не опровергнуты (или об их опровержении ещё не догадываются, не признают этого, обычное ведь дело в истории!), поэтому текущее SoTA не позволяет выработать хорошие предложения. И защита от эпидемий ограничивается всё тем же мытьём рук и бессмысленными ритуалами типа поливания тротуаров хлоркой (что приносит вред здоровью и честно квалифицируется политиками не как защитная мера, а как «психологический сигнал гражданам»). Наука игнорируется, ибо сама суть науки – это свободное обсуждение теорий, но теории эпидемий обсуждать свободно сегодня нельзя. Например, SoTA в прививках от гриппа и коронавирусов говорит, что ввиду большой изменчивости штаммов прививки оказываются неэффективны. Фармакологические компании, понятно, с этим не согласны. Кто победит в дискуссии, если одной из сторон рты затыкают не учёные своими аргументами и экспериментами, а власти и даже частные СМИ? И ещё в этом участвуют не просто деньги, а очень большие деньги фармацевтического лобби?

Но уже очевидно: двигаясь по этой линии улучшения объяснений жизни (включая тем самым и объяснение болезней) можно надеяться на достаточный объем знаний для получения людьми биологического бессмертия. А дальше уже понятно, что можно будет менять и саму природу человека, почему бы и нет! Для этого не хватает знаний, а их получение – то же бесконечное развитие.