Интернаука - Интернаука №16 (часть1) 2020

Журнал «Интернаука»

№ 16 (145), часть 1, 2020 г.

СТАТЬИ НА РУССКОМ ЯЗЫКЕ

ИНФОРМАЦИОННЫЕ ТЕХНОЛОГИИ

МЕТОДЫ ГЛУБОКОГО ОБУЧЕНИЯ ДЛЯ КОМПЬЮТЕРНОГО ЗРЕНИЯ

Бакатова Дина Алматовна

магистрант, Костанайский государственный университет им.А.Байтурсынова, Республика Казахстан, г. Костанай

АННОТАЦИЯ

Глубокое обучение позволяет вычислительным моделям нескольких уровней обработки изучать и пред-

ставлять данные с несколькими уровнями абстракции, имитируя то, как мозг воспринимает и понимает инфор-

мацию, таким образом, неявно захватывая сложные структуры крупномасштабных данных. Глубокое обучение

- это богатое семейство методов, включающее нейронные сети, иерархические вероятностные модели и разно-

образные алгоритмы обучения неконтролируемых и контролируемых функций. Недавний всплеск интереса к

методам глубокого обучения объясняется тем фактом, что они показали, что они превосходят предыдущие со-

временные методы в нескольких задачах, а также обилием сложных данных из разных источников.

Идея о системе имитирующая человеческий

нованные на этих локальных связях между нейро-

мозг явилось толчком для развития нейронных се-

нами и на иерархически организованных преобразо-

тей. Используя взаимосвязанные нейронные клетки

ваниях изображения, найдены в Neocognitron, кото-

в 1943 году появилась модель нейрона Модель

рый описывает, что когда нейроны с одинаковыми

нейрона McCulloch и Pitts, называемая моделью

параметрами применяются к заплатам предыдущего

MCP, внёсшая вклад в развитие искусственного ин-

слоя в разных местах, форма трансляционной инва-

теллекта.

риантности приобретается. Позднее Ян ЛеКун и его

Прорыв в глубоком обучении произошел в 2006

сотрудники разработали Сверточные Нейронные

году, когда Г. Хинтон представил сеть Deep Belief

Сети, используя градиент ошибок и достигая очень

Network, упростил процедуру обучения с помощью

хороших результатов в различных задачах распо-

машин ограниченным движением Больцмана , в то

знавания образов.

время как сети разбили обучение на составляющие

CNN включает три основных типа нейронных

блоки глубокой сети, чтобы уменьшить вычисли-

слоев, а именно: (i) сверточные слои, (ii) объединя-

тельную нагрузку.

ющие слои и (iii) полностью связанные слои. Каж-

Важные вехи в истории нейронных сетей и ма-

дый тип слоя играет свою роль. Каждый слой CNN

шинного обучения, приведшие к эпохе глубокого

преобразует входной объем в выходной объем акти-

обучения. Среди которых появление больших высо-

вации нейрона, что в конечном итоге приводит к

кокачественных общедоступных помеченных набо-

окончательным полностью подключенным слоям,

ров данных, а также расширение возможностей па-

что приводит к отображению входных данных в

раллельных вычислений на GPU, которые позволи-

одномерный вектор признаков. CNN были чрезвы-

ли перейти с CPU на GPU, где обучение позволяет

чайно успешны в приложениях компьютерного зре-

значительно ускорить обучение глубоких моделей.

ния, таких как распознавание лиц, обнаружение

Дополнительные факторы, возможно, также сыгра-

объектов, мощное зрение в робототехнике и авто-

ли меньшую роль, такие как смягчение проблемы

мобили с автоматическим управлением.

исчезающего градиента из-за отрыва от насыщаю-

Архитектура CNN использует три конкретных

щих функций активации, предложение новых мето-

идеи: (а) локальные рецептивные поля, (б) привя-

дов регуляризации, а также появление мощных сред,

занные веса и (в) пространственная подвыборка. На

таких как TensorFlow [1], Theano и Mxnet, которые

основе локального восприимчивого поля каждый

позволяют быстрее создавать прототипы.

блок в сверточном уровне получает входные данные

Глубокое обучение позволило сделать большие

от набора соседних блоков, принадлежащих преды-

успехи в различных областях компьютерного зре-

дущему уровню. Таким образом, нейроны способны

ния, таких как обнаружение объектов, отслеживание

извлекать элементарные визуальные особенности,

движения, распознавание действий, оценка позы

такие как края или углы. Эти признаки затем объ-

человека (и семантическая сегментация.

единяются последующими сверточными слоями для

Методы глубокого обучения и разработки.

обнаружения признаков более высокого порядка.

Сверточные нейронные сети (CNN) были вдохнов-

Кроме того, идея о том, что детекторы элементар-

лены структурой зрительной системы, и в частности

ных признаков, которые полезны для части изобра-

ее моделями. Первые вычислительные модели, ос-

жения, вероятно, будут полезны для всего изобра-

5

Журнал «Интернаука»

№ 16 (145), часть 1, 2020 г.

жения, реализуется концепцией связанных весов.

мым данным и меткам. Они формируются путем

Концепция связанных весов ограничивает набор

сложения RBM и их тренировки. DBN изначально

единиц одинаковыми весами. Конкретно, единицы

использует эффективную послойную стратегию

сверточного слоя организованы в плоскостях. Все

обучения, чтобы инициализировать глубокую сеть,

подразделения самолета имеют одинаковый набор

и, в дальнейшем, точно настраивает все веса вместе

весов. Таким образом, каждая плоскость отвечает за

с желаемыми результатами. DBN - это графические

построение определенной функции. Выходы само-

модели, которые учатся извлекать глубокое иерар-

летов называются картами объектов. Каждый свер-

хическое представление обучающих данных. Прин-

точный слой состоит из нескольких плоскостей, по-

цип послойного обучения без присмотра может

этому в каждом месте можно построить несколько

быть применен к DBN с RBM в качестве строитель-

карт объектов.

ных блоков для каждого уровня].

В целом было показано, что CNN значительно

В процессе обучения DBN есть два основных

превосходят традиционные подходы машинного

преимущества. Во-первых, он решает проблему

обучения в широком спектре задач компьютерного

надлежащего выбора параметров, что в некоторых

зрения и распознавания образов. Их исключитель-

случаях может привести к плохой локальной опти-

ная производительность в сочетании с относитель-

мальности, обеспечивая тем самым надлежащую

ной легкостью в обучении являются основными

инициализацию сети. Во-вторых, нет необходимо-

причинами, объясняющими огромный рост их попу-

сти в помеченных данных, поскольку процесс не

лярности за последние несколько лет.