Александр Кириченко - Конструирование искусственных нейронных ансамблей (ИНА)

9. Управление произвольно большим количеством нейронных сетей

В нейроконструкторе NeuroPro в отличие от MemBrain добавлены такие разделы, как упрощение нейронной сети и вербализация нейронной сети, с помощью которых удаётся преобразовать полученные при обучении нейронной сети знания в правила продукции.

Работа с нейронными сетями (Neural Networks) предусматривает выполнение таких операций:

– Провести «Анализ сети» (Net Analysis)

– Проверить Архитектурную целостность (Architectural Integrity)

– Провести послойный Анализ (Layer Analysis)

– Отобразить информацию о слоях (Displaying Layer Information)

– Вычислить активацию и выходные сигналы нейронной сети (Calculating the Output)

– Обновить нейросеть (Resetting the Net)

– Экспортировать нейросеть (Exporting a Net)

– Провести анализ структуры экспортируемого CSV файла (Net CSV File)

– Отторгнуть обученную нейросеть от нейропакета

– Объединить обученные нейросети (Merging Nets)

Экспорт нейросети (Exporting a Net) может быть выполнен по-разному. В MemBrain есть возможность экспортировать сетевой список характеристик текущей нейронной сети через файл csv (содержащий значения, разделенные запятыми). Этот файл можно использовать для импорта нейронной сети, созданной и, возможно, обученной с помощью MemBrain, в другое прикладное программное обеспечение. При этом можно выбрать уровень детализации, который вы хотите включить в файл экспорта.

Чтобы экспортировать сеть, выберите . Появится следующий диалог.

Выбор экспортируемых характеристик

Этот диалог позволяет выбрать свойства нейронов и ссылок, которые вы хотите экспортировать в файл. Когда вы сделали свой выбор, нажмите ОК – будет предложено выбрать местоположение и имя файла для сохранения экспортированного файла.

Нейроконструкторы предусматривают выполнение весьма специфических операций. Поэтому в нейропакетах приходится производить установку настроек пакета (Getting Started ›› Short Beginner’s Tutorial ››), позволящую:

– Настроить экран

– Разрешить:

– Использование сетки при работе с графическими объектами

– Выбор объектов

– Удаление объектов

– Копировать / Вставить Активации

– Симуляция запуска / остановки (Auto Think)

Некоторые нейроконструкторы имеют оперативную память нейросетей «Neural Net Stock», которая во время работы позволяет управлять произвольно большим количеством нейронных сетей. Отредактированная нейронная сеть может быть отправлена в хранилище (Stock) или извлечена из него в любой момент во время работы.

Наиболее мощной функцией «Neural Net Stock» (системы управления произвольно большим количеством нейронных сетей) является возможность автоматически использовать наиболее эффективную нейронную сеть из запаса нейронных сетей MemBrain: всякий раз, когда учитель обнаруживает новый минимум сетевой ошибки, он обновляет копию нейронной сети в хранилище, представляя её как более эффективную. Такая функция Neural Net Stok называется акцией и производится под воздействием диспетчера акций (Neural Net Stok Manager). Список сетей в диспетчере всегда представлен в хронологическом порядке, т.е. новая сеть всегда находится в верхней части списка. Neural Net Stok Manager позволяет выполнить следующие функции:

– Добавить текущую сеть

– Заменить текущую сеть (загрузка нетто)

– Очистить контент (запас нейросетей)

– Загрузить контент или его часть из файла

– Сохранить контент в файл.

При объединении обученных нейросетей (Merging Nets, создание единой нейросети) можно объединить различные обученные подсети в одну большую сеть, например в следующем порядке:

a. Открывается первая сеть в MemBrain

b. Добавляется вторая сеть к первой, используя команду меню <���Файл> <���Добавить сеть в текущую сеть …>

c. Переназначаются уже обученные выходные ссылки входных нейронов нижней сети на выходные нейроны верхней сети (Extra Selection (Выберите) выходные нейроны верхней сети. Выберите входные нейроны нижней сети. Затем выберите .

d. Удаляются старые входные нейроны нижней сети (которые больше не связаны) и изменяется тип старых выходных нейронов верхней сети на – произошло объединение двух сетей в одну единую сеть.

Для автоматизации управления нейроконструктором в MemBrain используется язык сценариев (Scripting).

Для ознакомления с возможностями по управлению пакетом с помощью сценариев, в описании пакета MemBrain предусматриваются следующее файлы сценариев:

– Папка «Simple’: ScriptExample.as

– Папка «NetEditor»: Использование NetEditorExample.as

– Папка «TrainValidate»: TrainValidate.as

– Папка «Дополнительно»: MackeyGlass.as

– Папка «SecondsTimer’: UsingSecondsTimerExample.as

– Папка «VoiceRecognition»: VoiceRecognition.as

Кроме того, в описании пакета подробно освещаются следующие вопросы:

– Выполнение сценариев вручную (Executing Scripts Manually)

– Прерывание или приостановка выполнения скрипта (Aborting or Suspending Script Execution)

– Обработка нейронных сетей в скриптах (Handling Neural Nets)

– Компиляция и выполнение сценария командной строки (Command Line Script Execution)

– Синтаксис скрипта (Script Syntax)

– Справочник по командам (Command Reference)

Каждая обученная сеть может быть отторгнута от родительской нейросети процедурой генерации C-кода сформированной нейронной сети.

Чтобы сгенерировать исходный код C из текущей загруженной сети, нужно выполнить команду .

Пакетом будет доложено об успешной генерации кода. Сгенерированный код состоит из следующих двух файлов.

NeuralNetDef. h

NeuralNetDef. c

которые генерируются в каталоге, настроенном как часть конфигурации сгенерированного C-кода (C-Code Generation Configuration).

Эти два файла вместе с библиотекой генерации C-кода MemBrain образуют код, который должен быть включен в ваш собственный процесс сборки программного обеспечения.

Библиотека генерации C-кода (MemBrain C-Code Generation Library), состоит из следующих файлов, которые находятся в подкаталоге C_CODE установочного каталога MemBrain:

NN_Types. h

NeuralNet. c

NeuralNet. h

Neuron. c

Neuron. h

NeuralLink. c

NeuralLink. h

Random. c

Random. h

Отечественный нейроконструктор «NeuroPro» умеет строить многослойные нейронные сети с сигмоидной функцией активации. В отличие от многих других нейропрограмм, NeuroPro умеет показывать структуру используемой нейросети в текстовом виде. Это набор формул, последовательно описывающих все преобразования, происходящие с данными, поступающими на вход сети до самого выхода из сети. Формулы включают в себя каждый слой, каждый нейрон, каждую связь, с уже подставленными (обученными) значениями весов каждой связи. По сути, набор этих формул можно рассматривать как исходный код программы на некоем абстрактном языке программирования. Такое описание позволяет: