Сергей Шумский - Воспитание машин. Новая история разума

Как и всякий резкий скачок в развитии, становление человеко-машинной цивилизации порождает массу рисков, вызванных неизбежными противоречиями между теми, кто выигрывает, и теми, кто проигрывает от ожидаемых в скором будущем перемен. Мы считаем, что последствия массовой безработицы, связанной с одновременным внедрением роботов во множестве отраслей, можно будет преодолеть за счет введения специальных «налогов на роботов». Гораздо большую опасность, с нашей точки зрения, представляет повышение социального напряжения и уровня агрессии в обществе, разделение человечества на враждующие лагеря, насаждение атмосферы осажденной крепости и новая гонка вооружений – развитие национальных систем полицейского и военного интеллекта, контроль над которыми в конечном итоге может быть утерян, причем с самыми печальными последствиями для всей нашей цивилизации с ее ядерными арсеналами.

Для минимизации этих рисков человеко-машинной цивилизации потребуется гораздо более совершенная, чем нынешняя, система коллективной безопасности, гармонизации групповых интересов и мирного разрешения конфликтов. Должны появиться платформы цифровой демократии, разрешающие все спорные вопросы в реальном времени с учетом мнения всех заинтересованных сторон с гарантированным исполнением решений и соблюдением принятых в обществе социальных норм. Механизмы подавления агрессии и контроля общечеловеческих ценностей должны быть встроены в будущую цифровую инфраструктуру человечества, подобно системам самозащищенности и саморегулирования в современных ядерных реакторах.

Отсюда возникают требования для разработчиков ИИ: они должны создать не просто ИИ человеческого уровня для роботов, заменяющих людей на производстве, но и «ИИ с человеческим лицом», а точнее – с человеческими ценностями и понятиями о жизни. Мы формулируем эту задачу как создание искусственной психики роботов, архитектурно как можно более близкой к человеческой со встроенными общественными инстинктами.

Это возвращает нас к исходной цели разработки ИИ: более глубокое понимание человеческого разума путем создания все более сложных действующих моделей искусственного разума. Соответственно мы попытались представить себе и читателю, как может выглядеть практическая программа по формированию человекоподобной искусственной психики и развитию новой науки машинного воспитания.

Прочертив вчерне план разработки ИИ, мы наконец получили возможность заглянуть в не столь отдаленное будущее, естественно, с разной степенью подробности и уверенности на разных временных масштабах. Мы выделили три фазы развития ИИ: дочеловеческого, человеческого и сверхчеловеческого уровня. В ближайшие годы будут внедряться и развиваться существующие технологии глубокого обучения. Затем произойдет большой скачок, связанный с появлением роботов с искусственной психикой. Начнется период воспитания в роботах человеческой системы ценностей в рамках единой человеко-машинной цивилизации.

В какой-то момент лет через 20–40 машинная компонента вырвется вперед, и долгосрочное планирование развития цивилизации перейдет под контроль искусственных стратегов. Однако если все будет хорошо, управление обществом будет по-прежнему определяться человеческими ценностями, унаследованными машинным разумом. Таким образом, отдаленное будущее человечества будет зависеть от того, какими ценностями в жизни будут руководствоваться наши дети и внуки, то есть во многом – и от нас с вами.

Грейф А. Институты и путь к современной экономике: уроки средневековой торговли. – М.: Издательский дом ВШЭ, 2018. С. 129–131.

Кондратьев Н. Д. Большие циклы конъюнктуры и теория предвидения. Избранные труды. – М.: Экономика, 2002.

Глазьев С. Ю. Теория долгосрочного технико-экономического развития. – М.: ВлаДар, 1993.

Тоффлер Э. Третья волна. – М.: АСТ, 2004.

Всюду в этой книге мы будем пользоваться приблизительными величинами, не гонясь за точностью. Обычными будут оценки с точностью до порядка, в которых 10 n~ 0,3 ÷ 3 × 10 n.

Одна метрическая л. с. равна 735 Вт. С такой мощностью лошадь способна трудиться в течение 8-часового рабочего дня. При этом дневной рацион лошади (около 13 кг сена) = 45 000 ккал/день = 2,2 кВт, то есть ее рабочий КПД составляет примерно 33 %, а с учетом отдыха – втрое меньше. Для неспешно передвигающегося человека рабочий КПД равен 40 % (при мощности спокойной ходьбы 60 Вт). Иными словами, человек перерабатывает свою пищу эффективнее лошади, что неудивительно с учетом разницы в качестве пищи. Зато удельная мощность лошади больше, так как она мощнее нас в 12 раз, а весит всего в 7 раз больше.

Бродель Ф. Материальная цивилизация, экономика и капитализм, XV–XVIII вв. – М.: Весь мир, 2011.

Древесина – 3500 ккал/кг, уголь – 7000 ккал/кг, нефть/газ – 9500 ккал/кг.

Macaulay V. et al. (2005) Single, Rapid Coastal Settlement of Asia Revealed by Analysis of Complete Mitochondrial Genomes. Science 308(5724): 1034–1036.

Общий объем «жадных» до энергии органов – сердца, печени, ЖКТ и мозга – лимитирован, так что мозг мог вырасти только за счет сокращения желудочно-кишечного тракта, так как и сердце, и печень пропорциональны объему остального тела.

Herculano-Houzel S. (2016) The Human Advantage: A New Understanding of How Our Brain Became Remarkable. Cambridge: MIT Press.

Dunbar R. I. M. (1992) Neocortex Size as a Constraint on Group Size in Primates. Journal of human evolution 22(6): 469–493.

Rito T. et al. (2019) A dispersal of Homo Sapiens from Southern to Eastern Africa Immediately Preceded the Out-of-Africa Migration. Scientific reports 9(1): 1–10.

Харари Ю. Н. Sapiens. Краткая история человечества. – М.: Синдбад, 2016.

Даймонд Д. Ружья, микробы и сталь: судьбы человеческих обществ. – М.: АСТ, 2010.

Война и военное дело / Под ред. В. Н. Левичева. – М.: Государственное военное издательство, 1933.

Пашинский В. Пространственно-временная динамика человеческих сообществ разного масштаба. – М.: Товарищество научных изданий КМК, 2011.

Список стран по длине водных путей ( https://ru.wikipedia.org/wiki/).

При рационе 13 кг/день за 365 дней лошади требуется 5 т сена.

Технические данные парусника «Седов» ( http://www.sts-sedov.info/rus/istoriya/teh_dannye/).

Парусные корабли мира ( http://sailhistory.ru/zarozhdenie-gollandskogo-flota-v-xvi-xvii-vv.html).

150 + 60 = 210 Вт при неолите против 60 Вт при палеолите.

Если принять для оценки современный среднемировой уровень теплоснабжения 0,4 кВт/чел. (1,2 × 10 4MДж/чел. в год). Учитывая теплотворную способность дров 15 × 10 3MДж/т, для отопления требуется 0,8 т, или около 1 м 3дров/чел. в год.