Содержание к диссертации
Введение
1. Анализ методов и алгоритмов автоматизированного контро ля неоднородных поверхностей из дерева - 9
1.1. Анализ дефектов поверхностей из дерева и методов контроля их качества. 9
1.2. Автоматическая локализация оптико-электронных изображе-ний неоднородных поверхностей 28
1.3. Методы синтаксического распознавания дефектов пиломате-риалов. 37
1.3.1. Характеристика аппарата стохастических атрибутных мета-грамматик 39
1.3.2. Применение структурного метода распознавания неоднород-ностей сложной формы 44
2. Методика и алгоритмы для построения оптико- электронных систем контроля неоднородных поверхностей из дерева 53
2.1. Разработка алгоритмического обеспечения оптико- 53
электронной системы контроля неоднородных поверхностей
2.1.1.Сегментация изображений объектов с неоднородной структурой поверхности- 55
2.1.2.Методы формирования границ областей. Пороговая обработка 63
2.2. Распознавание дефектов неоднородной поверхности 71
2.2.1. Применение нейросетевых технологий в задаче классификации дефектов неоднородных поверхностей 71
2.2.2. Сравнительный анализ алгоритмов обучения нейронных сетей с разработкой методики предварительной обработки измерений- 82
2.2.3. Обучение нейронных сетей методами генетического поиска 87
2.2.4 Анализ формальных свойств стохастических атрибутных метаграмматик- 90
2.2.5. Особенности применения САМ для структурно- параметрического описания вариантов создания информационно-измерительных систем контроля неоднородных поверхностей 93
2.3. Метод и алгоритм синтаксического анализа регулярных сто хастических атрибутных метаграмматик для выбора вариантов- формирования программ контроля 105
3. Реализация алгоритмов обработки изображения автомати- зированной системы оптико-электронного контроля геометри ческих параметров объекта с неоднородной структурой поверхности 107
3.1. Состав оптико-электронной системы контроля геометрическихпараметров объекта с неоднородной структурой поверхности 107
3.2. Алгоритм обработки и анализа изображений в зависимости отусловий в поле измерения с использованием генетического подхода 108
3.2.1. Особенности генетического алгоритма формирования и обу-чения нейронных сетей 108
3.2.2. Разработка программы обучения нейронных сетей на основеэволюционного поиска 114
3.2.3. Критерий точности в определении перепадов яркости изо-бражения для выбора целевой функции генетического алгоритма 117
3.3. Разработка и отладка имитационных программных моделей на основе генетических алгоритмов 120
3.3.1. Разработка имитационных программных моделей «фокуси-ровки внимания». 120
3.3.2. Индивидуальная обработка объектов «Неокогнитрон». 133
3.3.3. Интерфейс программы "Инспектор». 140
3.3.4. Оценка влияния выбора параметров генетического алгоритмана эффективность адаптивной обработки изображения 143
3.4 Классификация дефектов кромки древесностружечной плиты на основе нейросетевых технологий 150
Заключение 154
Список литературы 155
- Автоматическая локализация оптико-электронных изображе-ний неоднородных поверхностей
- Распознавание дефектов неоднородной поверхности
- Алгоритм обработки и анализа изображений в зависимости отусловий в поле измерения с использованием генетического подхода
- Разработка и отладка имитационных программных моделей на основе генетических алгоритмов
Введение к работе
Уровень развития современного производства на сегодняшний день характеризуется не только объемом и ассортиментом выпускаемой продукции, но и показателями ее качества, которые должны соответствовать отечественным и международным стандартам. При этом особое значение придается автоматизации производственных процессов и исключению ручного труда на более трудоемких и ответственных технологических этапах [1-12].
Среди комплекса проблем, которые должны решаться на пути к этой цели, чрезвычайно важное значение приобретает создание теоретических и экспериментальных предпосылок для построения на базе современных ЭВМ промышленных систем обработки визуальной информации: обнаружение объектов, автоматический контроль качества продукции (контроль геометрических параметров, обнаружение дефектов), анализ экспериментальных кривых, графиков, снимков и т. д. Все это позволяет достичь существенно лучших результатов в повышении производительности труда по сравнению с традиционными методами, а наибольший эффект в этом направлении следует ожидать от автоматической обработки изображений, связанных непосредственно с производственными процессами. Методы проектирования подобных систем, исследование их возможностей и областей применения в настоящее время приобретают безусловный интерес [1-5].
Современные требования к качеству выпускаемой древесной продукции обуславливают необходимость ее контроля практически на всех технологических этапах производства. К числу контролируемых величин следует отнести геометрические параметры (ширина, длина), а также распознавание дефектов (сколы, вмятины, риски, выкрашивание углов, обзол, выступ и т.д.), измерение и определение которых в мировой практике все шире осуществляется с помощью оптико-электронных методов. Последние предполагают преобразование оптического сигнала в электрический, ввод его в ПЭВМ и последующую обработку полученного цифрового изображения с целью определения требуемых размеров и распознавания дефектов [10-12].
В случае применения оптико-электронных информационно-измерительных систем (ОЭ ИИС) распознавания дефектов поверхности объектов, основной целью процесса обработки изображения является точное выделение контуров объекта контроля на фоне рабочей сцены [12-16]. Анализ отечественной и зарубежной литературы показывает, что большинство известных алгоритмов обработки изображений, используемых в подобных системах, ориентировано на работу либо с контрастным изображением, либо с изображением, полученным при условиях однородного или структурированного освещения рабочей сцены, что требует, как правило, наличия в составе системы специализированных осветителей, настройка которых зависит от внешних условий освещения, цвета объекта контроля, запыленности воздуха и т.д. [21-24].
К сожалению, в деревообрабатывающей промышленности имеют место ситуации, когда условия производства не позволяют создать необходимые условия освещения рабочей сцены (запыленность воздуха, внешние условия освещения, цвет объекта контроля, неоднородная структура поверхности продукции и т.д.). В таких случаях применение стандартных алгоритмов обработки изображений не дает желаемых результатов [12-23].
Существенный вклад в развитие оптико-электронных систем контроля был внесен Анисимовым Б.В., Кургановым В.Д., Злобиным В.К. Их работы послужили основой для формулировки задачи создания в МВТУ им. Баумана, МАИ.на отдельных предприятиях оборонной промышленности ряда средств контроля поверхностей объектов.
Проблеме фильтрации двумерных сигналов (изображений) посвящены работы известных отечественных ученых Васильева В.Н., Гольденберга Л.М., Гурова И.П., Казаринова Ю.И., Матюшкина Б.Д., Поляка М.Н., Соколова Ю.И., Юрченко Ю.С. и др.
Однако, использование современных сложных алгоритмов обработки изображений часто затруднено из-за необходимости использования специализированной дорогостоящей аппаратной поддержки. Кроме того, известные публикации носят в основном лишь рекламный характер и не раскрывают путей решения проблемы [21-30].
В этой связи научная задача разработки методик и алгоритмов обработки изображений для улучшения эксплуатационных характеристик оптико-электронной информационно-измерительной системы распознавания дефектов состояния поверхности объектов является весьма актуальной.
Целью работы является повышение эффективности функционирования оптико-электронной информационно-измерительной системы распознавания дефектов состояния поверхности объектов.
Объектом исследования диссертационной работы является оптико-электронная информационно-измерительная система распознавания дефектов состояния поверхности объектов.
Предметом исследования диссертационной работы являются элементы математического обеспечения процесса обработки изображения в ОЭ ИИС распознавания дефектов состояния поверхности объектов.
В соответствии с этим в работе решаются следующие основные задачи:
1. Анализ методов и алгоритмов обработки информации в ОЭ ИИС распознавания дефектов состояния поверхности объектов.
2. Разработка математической модели ОЭ ИИС распознавания дефектов состояния поверхности объектов.
3. Разработка алгоритма обработки изображения профиля дефектов состояния поверхности объектов.
4. Разработка методики предварительной обработки измерений, объектов с неоднородной структурой поверхности при высоких помехах и низкой контрастности.
5. Разработка принципов построения автоматизированной системы для оптико-электронной информационно-измерительной системы распознавания дефектов состояния поверхности объектов. 6. Разработка аппаратурного и программного обеспечения и экспериментальное исследование автоматизированного оптико-электронного контроля качества кромки древесностружечной плиты. Методы исследований. Для решения поставленных в работе задач использован аппарат генетических алгоритмов, теории вероятности, математической статистики, обработки и анализа растровых полутоновых изображений, а также теория нейронных сетей.
Научная новизна результатов работы состоит в следующем:
1. Разработана математическая модель ОЭ ИИС распознавания дефектов состояния поверхности объектов , отличающаяся от известных введением вспомогательной цели функционирования системы обработки изображений, что позволило использовать апостериорные оценки изображения объекта, вместо их истинного значения для преодоления непараметрической априорной неопределённости аналитического описания объекта.
2. Разработан алгоритм обработки изображения профиля дефектов поверхности объектов, который в отличие от известных использует процедуру исследования связности, что позволило объединить между собой отрезки, принадлежащие изображению одного и того же дефекта
3. Разработана методика предварительной обработки измерений, отличающаяся от известных введением редукции элементов матрицы оптико-электронного изображения и формированием входного сигнала сокращенной размерности, что обеспечивает повышение качества изображений контролируемых объектов с неоднородной структурой поверхности при высоких помехах и низкой контрастности.
4. Предложен алгоритм синтаксического анализа для распознавания дефектов, отличающийся от известных в выполнении рекурсивной процедуры согласования генерации и последующего грамматического разбора с последовательным предсказанием терминалов в грамматиках всех уровней, кроме самого нижнего, что позволило установить соответствие значений параметров унаследованным атрибутам терминальных или нетерминальных символов отдельных грамматик, входящих в САМ.
5. Разработана модифицированная структура генетического алгоритма обучения нейронной сети, которая отличается от известных способами представления данных нейронной сети в "хромосомах" и стратегией репродукции, что позволило повысить скорость сходимости алгоритма.
Практическая ценность работы заключается в следующем:
1. Разработаны аппаратурное и программное обеспечение и проведено экспериментальное исследование автоматизированного оптико-электронного контроля качества кромки древесностружечной плиты.
2. Разработаны алгоритмы обработки полутоновых изображений автоматизированной системы контроля геометрических параметров стройматериалов, имеющих неоднородную структуру поверхности.
3. Создано программное обеспечение для классификации дефектов кромки древесностружечной плиты на основе нейронной сети, что позволяет производить дефектацию ДСП в режиме реального времени. Первая глава содержит анализ современных методов и систем, нашедших применение для оптико-электронных информационно-измерительных систем распознавания дефектов поверхности объектов. Приведено описание представления информации в ОЭ ИИС.
Показано, что одним из наиболее перспективных путей решения рассмотренной проблемы является построение оптико-электронных систем контроля качества кромки на базе ПЗС (прибор с зарядовой связью) датчиков. Проведен анализ особенностей технологического цикла производства продукции деревообрабатывающей промышленности. Приведены классификация и описание дефектов продукции деревообрабатывающей промышленности.
Ставится задача разработки математического обеспечения оптико-электронной системы контроля качества древесностружечной плиты. Выдвинуты требования, предъявляемые к ОЭ ИИС параметров движущихся объектов.
Представлено математическое описание процесса сегментации изображений.
Во второй главе рассмотрены вопросы разработки технологии построения инструментальных средств для формирования и обучения нейронных сетей на основе адаптивных генетических алгоритмов обработки изображений в зависимости от условий в поле контроля. При генетическом подходе процесс настройки нейронной сети рассматривается как адаптивный процесс, связанный с максимизацией эффективности функционирования нейронной сети, то есть с минимизацией функции ошибки.
Для реализации концепции отбора вводится способ сопоставления (сравнения) различных хромосом в соответствии с их возможностями решения поставленных задач. В целом, разработка генетического алгоритма включает три основных компоненты:
- разработка принципов кодирования и декодирования хромосомы;
- разработка основных генетических операторов;
- разработка общей структуры и процесса генетического поиска. Предложены системные принципы построения инструментальных средств
формирования и обучения нейронных сетей в рамках эволюционной парадигмы.
В работе рассматриваются генетический алгоритм синтеза архитектуры многослойной сети прямого распространения, т.е. определенной числом слоев и числом нейронов в слое.
В третьей главе рассматривается экспериментальная оптико-электронная установка, позволяющая подавать сигнал с выхода ПЗС-датчика на ПЭВМ и обрабатывать его по предложенным алгоритмам.
Представлено влияние выбора параметров генетического алгоритма на эффективность адаптивной обработки изображения, а также результаты классификации дефектов кромки древесностружечной плиты на основе нейросетевых технологий. Предложен комплексный алгоритм обработки и анализа изображений в зависимости от условий в поле измерения с использованием генетического подхода. Приведена методика выбора целевой функции генетического алгоритма, рассмотрены вопросы разработки методики, обеспечивающей эффективное повышение качества изображений контролируемых объектов с неоднородной структурой поверхности при высоких помехах и низкой контрастности на основе curvelet-преобразования. Реализовано программное обеспечение классификации дефектов кромки древесностружечной плиты на основе нейронной сети. Положения, выносимые на защиту:
1. Математическая модель математическая модель ОЭ ИИС распознавания дефектов состояния поверхности объектов.
2. Алгоритмы обработки изображения профиля дефектов состояния поверхности объектов.
3. Методика предварительной обработки измерений, обеспечивающая повышение качества изображений контролируемых объектов с неоднородной структурой поверхности при высоких помехах и низкой контрастности.
4. Алгоритм синтаксического анализа для распознавания дефектов состояния поверхности объектов
5. Модифицированная структура генетического алгоритма обучения нейронной сети.
Реализация результатов работы.
Результаты исследований используют в учебном процессе в Тульском артиллерийском инженерном институте на кафедре радиоэлектроники по следующим дисциплинам: «Устройства приема и преобразования сигналов», «Схемотехника аналоговых электронных устройств»; на кафедре математического, программного и информационного обеспечения АСУ по дисциплинам: "Основы теории управления", "Компьютерная графика".
Апробация работы. Основные положения диссертационной работы докладывались и получили положительные отзывы на 1-х Соломат. чтениях.: Всерос. НТК. (г. Саранск: МГУ, 2002), межвузовской научно-методической конференции посвященной 75-летию Павла Сергеевича Костяева (г. Москва.:МИИТ, 2002), международной научно-практической конференции, (г. Москва: МИК-ХиС, 2003), ежегодных научно-технических конференциях Тульского АИИ (2006 -2008), II Межд. НІЖ «Экологии: образование, наука, промышленность и здоровье» (г. Белгород, 2004), а также на научно-технических семинарах, проводимых на базе Тульского государственного университета.
Публикации. По материалам диссертации опубликовано 19 печатных ра- бот, в том числе патент на полезную модель.
Структура и объем диссертации. Диссертация состоит из введения, трех глав, заключения, изложенных на 165 страницах машинописного текста и включает 81 рисунок, 16 таблиц и список использованной литературы из 172 наименований.
Автоматическая локализация оптико-электронных изображе-ний неоднородных поверхностей
В оптико-электронной системе задача автоматической обработки изображения движущейся в рабочем поле неоднородной поверхности является одной из основных. Правильный выбор конкретных средств реализации оптико-электронной информационно- измерительной системы имеет важное значение, для достижения необходимых технико-экономических показателей систем. Выбранный для дистанционного исследования объект v представим поверхностью zv=Flxv, vJ в вещественном евклидовом пространстве, 111 3 х ,у ,zyE4R ,с началом координат в точке наблюдения. В физическом поле, выбранном для исследований объекта, этой поверхности будет соответствовать трёхмерная функция яркости (светимости) объекта исследований (ОИ) By=Bylxy,yy,zy\. Датчик изображений (ДИ), размещённый в на чале координат, преобразует масштабную проекцию Ву на плоскость его чувствительного элемента в двумерную функцию Ву =Ву (ху,уу), х,уєїїі , т.е. в изображение ОИ в связанной с датчиком системе координат. В общем случае, формируемое датчиком непрерывное изображение объекта By(xy,yyj ограничено полем обзора датчика, В у =Ву (ху ,yy,t)eB -В (х,у,і)єВ, причём область изображений D имеет, как правило, прямоугольную форму. Кроме того, ДИ дискретизирует изображение по времени так, что формируется поток кадров изображений: В =В (x,y,t)- Bn =В (х,у,п), п = 0, 1, ... . Последующая дискретизация В по координатным осям (в датчике и/или в системе автоматической локализации изображений, что уже не принципиально) даёт цифровое представление изображений и их потоков Bn =B(x,y,n), Ву n =Ву (ху,уу,п) . Помимо изображения объекта Ву , область D будет содержать аддитивный шум =(х,у,п) , изображение фона Bb n = ВЬ (х,у,п) , а также может вклю чать изображения других объектов Bjn=Bj(Xj,yi5n) и помех з В jf = В if (х if, у jf, п) , которым в ЧЯ соответствуют приведённое ко входу шумовое поле Н \х, у, t\ и функции яркости В b , В j, В jf 5 «натянутые» на эквивалентные поверхности zk =Fk ixk ,ук I. Таким образом, Вп есть динамическая сцена, ограниченная областью D: где Y {...} - составной оператор объединения изображений. Учтём влияние на датчик управляющих воздействий d(t), неизмеряемых возмущений p{t) и зависимость его характеристик от вектора параметров и подстраиваемых коэффициентов К (У). Тогда математическая модель ДИ может быть представлена оператором отображения: Сложный оператор 3 {...} в целом не является линейным в терминах и определениях линейной алгебры, поскольку при отображении пространств не действует взаимно однозначно, не имеет противоположного оператора 3 и не всегда отвечает свойствам аддитивности и однородности. Нелинейность и неоднозначность действия оператора является одним из потенциальных источников проблем синтеза системы автоматической локализации изображений. То же самое относится и к оператору Y. Вместе с тем, отдельные компоненты операторов могут быть линейными. Задача системы автоматической локализации изображений заключается в выделении на двумерной функции яркости Вп =В(х,у,п)єБ подобласти Ву n =Ву (xy,yy,nJeDy, описывающей объект исследований, а также в определении оценок вектора координат ЄУ,п изображения объекта Ву . Оценки координат получают решением системы уравнений, описывающей, например, моментные характеристики двумерных функций [118, 119]: изображения Ву порядка (p+q) Аналогично (1.8), математическую модель система автоматической идентификации (САИ) объектов в потоках изображений динамических сцен представим оператором отображения L, который, как и (1.8), в целом является существенно нелинейным и взаимно неоднозначным,
непосредственному измерению и для их определения часто используют сглаживание и экстраполяцию полученных оценок координат:где Р - предсказывающий полином порядка к. Тем самым задача синтеза системы автоматической локализации изображений сводится к синтезу оператора (последовательности операторов) L, обеспечивающего выполнение критерия оптимальности Q =min Q или критерия диссипативности системы(1.11), в котором под sc понимают допустимую область сходимости траекторий (в среднем).
Функционал (1.11) может быть положен в основу синтеза L либо при известном Ву , либо при достаточной априорной информации о всех операторах и аргументах в выражениях (1.7) и (1.8), что имеет место в несложных приложениях. В большинстве приложений, ситуация с непараметрической априорной неопределённостью аналитического описания объекта, в потоках изображений динамических сцен, приводит к необходимости использовать апостериорные оценки изображения объекта Bv, п, вместо истинного Bvn. V 5 П При этом следует тем или иным образом оценивать и минимизировать неточные знания о В v п. Для этого введём вспомогательную цель функциониро вания системы обработки изображений, выполнение которой также должен обеспечить синтезируемый оператор L : Qa =Kn (Bv,n Sv,n ) max Kn [BV n , Bn ) sk , (1.13) где К С..) - некоторая векторная или скалярная функция подобия изображений, sk - минимально допустимая величина коэффициента подобия, & — знак эквивалентности (конгруэнтности). Целевые функционалы вида (1.11), (1.13) лежат в основе синтеза фактически любой системы автоматической локализации изображений. Уравнение для оператора отображения системы (1.10) имеет множество решений, многообразие которых определяется, в том числе, полнотой учёта степеней свободы динамической сцены (1.7) и характеристик датчика изображений (1.8). Однако определяющими факторами синтеза оператора L являются используемые методы локализации изображений ОИ и те ограничения на статические и динамические параметры изображений, которые накладывают эти методы. В качестве априорной информации качественного характера примем наиболее общие допущения о двумерных функциях изображений В : размеры изображений объектов Ву п всегда меньше размеров области изображений D; доминирующие фоновые компоненты изображений В h удовлетворительно аппроксимируются постоянными и линейными функциями координат; Вп есть непрерывная, ограниченная функция, хорошо аппроксимируемая линейной суммой единичных функций, взвешенных с коэффициентами, пропорциональными шагу квантования видеосигнала датчика изображения. Учтём, что на практике Вп формируются, как правило растровой развёрткой и, следовательно, могут быть представлены упорядоченными совокупностями одномерных функций яркости b=b (х) или b=bx (у). Будем искать G в виде G{B}:B(y,x) g(y,x,i,j)=B(i,j)=B , (1.14) т.е. свёртки конечных массивов, где в качестве g (...) выступает некоторая маска или импульсная характеристика (ИХ) линейного фильтра. Сформулируем требования к g (...) следующим образом: Первое требование в (1.15) означает повышение отношения сигнал/шум \х после фильтрации, второе и третье требования ослабляют влияние доминирующих фоновых изображений Вь , четвертое и пятое требования исходят из того, чтобы экстремум сигнала отклика фильтра на ограниченный по длительности сигнал изображения объекта соответствовал бы его середине, поскольку, в конечном итоге, нас интересуют именно эти координаты. Передаточная функция и импульсная характеристика фильтра запишутся:
Распознавание дефектов неоднородной поверхности
Многочисленные подходы и приемы, используемые для распознавания, могут быть разделены на два основных метода: синтаксический (структурный) и решающий — теоретический (дискриминантный) [104].
В синтаксическом методе каждый образ выражается в виде компонентов, называемых непроизводными элементами. Описание распознаваемых образов осуществляется с помощью грамматики.
В решающем — теоретическом методе каждый образ представлен вектором признаков, и разделение каждого образа производится путем разделения пространства признаков.
Применение нейросетевых технологий для решения задач классификации рассеивающих объектов требует решения ряда взаимосвязанных задач. Прежде всего, обоснование структуры нейросети, проведение анализа результатов обучения. Для обоснования структуры сети обычно проводится итерационное решение задачи «обучение - коррекция структуры». Существует два основных типа искусственных нейросетей (ИНС) используемых в задаче классификации: ИНС с полностью взаимосвязанными элементами и ИНС блочного типа. При ИНС блочного типа (рис. 2.11) каждый блок является «независимым» потребителем информации. Отдельный блок представляет собой трёхслойный персептрон, настроенный на классификацию своего класса объектов по принципу «свой-чужой». Блок m ИНС с полностью взаимосвязанными элементами представляет собой один трехслойный персептрон, позволяющий произвести настройку на классификацию произвольного количества классов. Основным недостатком ИНС блочного типа является существенное увеличение объема сети при введении нового класса, так как классификатор строится по принципу: один класс - один блок где AN - количество добавочных нейронов, AS - количество добавочных классов объектов, п- количество нейронов в блоке. В тоже время при введении нового класса в ИНС с полностью взаимосвязанными элементами приводит к незначительному увеличению нейронов в слоях по формуле: где N — количество нейронов в сети, к «1. Классификация рассеивающих объектов с использованием ИНС с полностью взаимосвязанными элементами В качестве классификатора рассеивающих объектов выбран трехслойный персептрон. Трехслойный персептрон состоит из элементарных блоков — нейронов (рис. 2.12). Нейрон имеет несколько входных сигналов р и один выходной сигнал а. Параметрами нейрона, определяющими его работу, являются: вектор весов W, пороговый уровень Ъ и вид функции активации/ Наиболее эффективным для классификации дефектов ДСП является персептрон, имеющий три слоя. Структура связей в трехслойном персептроне весьма похожа на структуру классического персептрона Розенблата [6,7]. Имеется один слой нейронов рецепторов и произвольное число слоев ассоциативных нейронов. Нейроны одного и того же слоя друг с другом не связаны, и каждый нейрон связан со всеми нейронами последующего слоя (кроме последнего слоя - его выходы являются выходами сети в целом). Структурная схема трехслойного персептрона представлена на рис. 2.13. Работа многослойного персептрона описывается следующим образом: где индексом і обозначается номер входа, j - номер нейрона в слое, / - номер слоя. Каждый слой рассчитывает нелинейное преобразование от линейной комбинации сигналов предыдущего слоя. Отсюда видно, что линейная функция активации применима только для тех моделей сетей, где не требуется последовательное соединение слоев нейронов друг за другом. Для многослойных сетей функция активации должна быть нелинейной, иначе можно построить эквивалентную однослойную сеть, и многослойность оказывается ненужной. Таким образом, для решения задачи классификации рассеивающих объектов по изображениям функция активации нейрона должна быть нелинейной. Единичная функция активации не имеет первой производной, следовательно, при обучении ИНС с данной функцией активации нейрона нельзя использовать градиентные методы обучения, которые обеспечивают наибольшую эффективность. Следовательно, при классификации рассеивающих объектов по изображениям с использованием трехслойного персептрона необходимо использовать нелинейные функции типа сигмоиды и гиперболического тангенса, которые имеют легко вычисляемую первую производную. Для обучения ИНС используется метод обратного распространения [6], в данном методе ошибка распространяется от выходного слоя к входному, то есть в направлении, противоположном направлению распространения сигнала при нормальном функционировании сети. Задача обучения РЇНС сводится к нахождению функциональной зависимости Y=F(X), где X — входной, a Y -выходной векторы. При обучении для ограниченного пространства поиска решается задача минимизации целевой функции ошибки ИНС методом наименьших квадратов:где aj - значение у-го выхода ИНС, t- - целевое значение у -го выхода, р - числонейронов в выходном слое.
Алгоритм обработки и анализа изображений в зависимости отусловий в поле измерения с использованием генетического подхода
Исходными данными для обучения нейронных сетей являются количество входных и выходных нейронов, набор обучающих примеров. В результате обучения должны быть получены следующие значения: количество скрытых слоев; количество нейронов в каждом скрытом слое; значения весов всех входов для каждого скрытого и выходного нейрона; функции активации для каждого скрытого и выходного нейрона. Процесс обучения нейронной сети с помощью генетического алгоритма разбивается на два этапа. На первом этапе с помощью генетического алгоритма осуществляется поиск общих параметров нейронной сети, а именно: а) количества скрытых слоев и б) нейронов в каждом слое. На втором этапе генетический алгоритм используется для поиска значений: а) всех связей между нейронами и б) функций активации.
Целевая функция, рис. 3.2, представляет собой максимальное для набора примеров относительное отклонение от эталонного значения, выраженное в процентах. Цель применения эволюционной парадигмы - минимизация функции С.
В данной работе предлагалось два способа кодирования / декодирования хромосом. В первом случае разработка структуры хромосомы производится так, чтобы гены в одних и тех же локусах хромосом являлись гомологичными, так как это упрощает выполнение генетических операторов кроссинговера и мутации.
Основными генетическими операторами являются операторы кроссинговера и мутации. Суть их работы показана на рис. 3.3.
Для организации генетического поиска формируется исходная популяция особей. Популяция Пи представляет собой репродукционную группу индивидуальностей, любые из которых могут размножаться, выступая в роли родителей. В работе используется принцип случайного формирования исходной популяции [59,60].
При синтезе архитектуры нейронной сети решается оптимизационная задача на двух уровнях. На первом уровне решается оптимизационная задача, связанная с обучением нейронных сетей. На втором уровне решается задача поиска среди нейронной сетей с различными архитектурами такой сети, которая после обучения имела бы лучшие показатели качества. И на первом и на втором уровне используется один и тот же показатель качества С, рассмотренный выше. На первом уровне цель обучения нейронной сети - достижение минимального значения показателя С, на втором уровне поиск нейронной сети, у которой показатель качества С имеет минимальное значение.
Для реализации этих процедур формируются две выборки примеров, рис.3.4а. При поиске архитектуры нейронной сети процесс декодировки можно рассматривать как переход от хромосомы Hj к нейронной сети, потом производится ее обучение на выборке Vo и определяется оценка его качества с помощью выборки VT. Другими словами множеством фенотипов популяции является множество обученных нейронных сетей с оценками качества Ст.На рис. 3.46 представлен псевдокод алгоритма генетического поиска архитектуры нейронной сети.
Подход, связанный с использованием нейронной сети, отличается от подхода к построению системы принятия решений может на системе продукционных правил и представляется достаточно удобным, так как не требует формирования набора промежуточных дескрипторов и не требует изменения, как набора дескрипторов, так и самой базы продукционных правил при незначительных вариациях в значениях параметров объекта управления. Использование нейронных структур в качестве базовой структуры для хранения информации позволяет стандартизировать процедуры построения системы принятия решений, в основе которых лежит алгоритм обучения нейронных сетей на множестве образов из обучающей выборки. Основной проблемой при этом подходе становится выбор качественного и количественного состава образов из числа имеющихся. Такой выбор должен обеспечить, с одной стороны, высокий процент верных классификаций после обучения нейронной сети, а с другой - со кратить машинные затраты на построение системы, исключив из выборки малозначимые образы, с точки зрения процедуры обучения нейронных сетей.
Предлагаемый в данной работе подход ориентирован на случай, когда число образов в выборке достаточно велико, чтобы позволить алгоритму обучения нейронной сети эффективно «выбраться» из локальных минимумов функции ошибки, манипулируя малой частью выборки. Заметим, что задача слабо структурирована с точки зрения возможности использования каких-либо декомпозиционных приемов типа метода ветвей и границ, поэтому для ее решения используется генетический алгоритм, который при надлежащем выборе параметров сходится к оптимальному или близкому к оптимальному решению.
В ходе обучения параметры нейронной сети настраиваются требуемым образом на множество предъявляемых к запоминанию образов.
В данной работе рассматривается одна из частных схем генетического алгоритма, которая состоит в совмещении процедур случайного и направленного поиска для нахождения оптимального решения. Особенность предложенного на этапе 2 алгоритма состоит в следующем. Рассматривается сразу несколько вариантов решения, которые случайным образом заполняют область допустимых решений задачи. Число объектов (решений) в поколении ограничивается, а порядок замещения объектов основывается на схеме селекции. Вероятность перехода объекта в следующее поколение определяется значением критерия оптимизации.
Процесс «изменение свойств объектов - селекция объектов» продолжается до момента вырождения популяции, т.е. до получения поколения объектов с почти одинаковыми наборами свойств, рис. 3.6.
Таким образом, при поиске решения с помощью генетического алгоритма используется глобальная информация о значении критерия, в то время как сам ход поиска случайным образом зависит от задаваемых параметров алгоритма. Предполагается, что для всех выборок число образов и состав тестирующей выборки одни и те же. Алгоритм повторяется до выполнения некоторого заданного условия, например, когда значение критерия в среднем для отобранного поколения составит некоторый высокий процент от максимального значения. дующем: новая сеть может стать результатом мутации, она будет отличаться от родителей несколькими случайными генами; новые свойства нейронной сети могут появиться в обоих случаях: как в результате объединения родительских признаков, так и в результате мутации. Порядок формирования обучающей выборки представлен на рис. 3.5в.
Разработка основных функций. Разработанная программа синтеза многослойной нейронной сети условно состоит из двух основных частей [54,60]: 1. ввод исходных данных и перевод их из вида, понятного пользователю, во внутренний формат; 2. запуск генетического алгоритма и его выполнение. Вывод результатов на экран, а так же вывод графика оценочной функции. Ввод исходных данных - начальная часть программной системы. Исходными данными для данной программы являются следующие компоненты: количество итераций от 1,6,11,16 до 50; размер родительской популяции от 5 до 50; размер дочерней популяции от 10 до 100; Их можно ввести тремя способами: 1. Создание файла с расширением .dat 2. Используя пункт меню "файл" (открыть файл с данными), при выборе файла из существующего списка программа считывает данные, находящиеся в этом файле. Ввод исходных данных в режиме диалога, при этом данные можно сохранить. Следующим этапом необходимо открыть пункт "Просмотр" "График" для просмотра графической части и выбрать пункт "Работа" для запуска работы алгоритма. Пользователь может наблюдать за изменением лучшей ЦФ (fitness) графическом виде, где отображается зависимость качества синтеза нейронной сети от количества поколений. Разработка интерфейса пользователя. Предложенный программный продукт разработан для операционной системы Windows на языке C++ Builder 4.0. Windows - это операционная система нового поколения для работы на персональных компьютерах. В отличие от программирования для операционной среды MS DOS, программирование под Windows отличается встроенным графическим интерфейсом, благодаря которому значительно облегчается написание программы с удобным для пользователя интерактивным интерфейсом. После запуска программы появляется главное окно с меню, рис. 2.6. Рассмотрим по порядку все пункты меню: Файл "Новый" - создание нового файла исходных данных для задачи синтеза многослойной нейронной сети.
Разработка и отладка имитационных программных моделей на основе генетических алгоритмов
Менеджер образов, рис, 3.14. В этом окне пользователь задаёт все объекты и все их изображения в системе. Каждый объект и каждое изображение имеет название. Изображение имеет тип. Можно добавлять, изменять и удалять объекты целиком, или только их изображения.
Параметры решения, рис. 3.15. Окно используется для просмотра и редактирования нейронных сетей полученных в результате работы алгоритма. Это же окно также можно использовать для обучения единичной нейронной сети. При единичном обучении используются те же параметры обучения, что и для основного цикла программы.
При нажатии на кнопки «Распознать» изображение подаётся на вход нейронной сети, затем заключение нейронной сети выводится на главную консоль в главном окне программы (вся нижняя часть окна).
Пример: "Изображение опознано как Имя Объекта с вероятностью [65.50%], неуверенность [3%]. Неуверенность определяется как дистанция от реального выхода нейронной сети до необходимого: есть три объекта и поданная на вход проекция определила выходной слой как (-1.0, 0.01, 0.89), тогда, учитывая то, что целевым значением было 1.0, вывод алгоритма будет следующим:- изображение опознано как 2-ой объект с вероятностью [1.11%], неуверенность [ 99% ];- изображение опознано как 3-ий объект с вероятностью [98.89%], неуверенность [0.11%].
При нажатии на кнопку «Вставить слой», рис.3.16, создаётся новый слой с числом нейронов равным 0 и вставляется после текущего слоя. Чтобы сделать слой текущим необходимо указать его номер в окошке "Слой". При нажатии на клавишу "удалить слой", удаляется текущий слой.
В таблице текущего слоя содержаться данные о каждом нейроне текущего слоя. Это данные от пороговой функции (сигмоиды) и текущая ошибка ней рона, то есть отклонение значения сигмоиды от необходимого значения относительно последнего варианта последнего обучения.
В кнопке "Обучить" есть две подопции - "Обычное обучение" и "Дообучение". Эти два типа обучения отличаются лишь начальным множителем шага обучения, у "Дообучения" он меньше. В отличие от штатного режима работы алгоритма единичное обучение выполняется не в отдельном потоке, а в основном цикле программы, поэтому возможна некоторая «недорисовака» экрана в моменты большой загруженности процессора.
Перед началом любого обучения происходит генерация обучающей выборки в соответствии с установками алгоритма. Эти установки описываются дальше по тексту. Предназначение оставшихся кнопок определено их названием.ет тип. Можно добавлять, изменять и удалять объекты целиком, или только их изображения.
Параметры решения:окно используется для просмотра и редактирования нейронных сетей полученных в результате работы алгоритма. Это же окно также можно использовать для обучения единичной нейронной сети. При единичном обучении используются те же параметры обучения, что и для основного цикла программы.
Обучение, рис. 3.17. Данный режим задается с помощью окна для установки параметров и запуска генетического алгоритма на исполнение. Параметры расширения набора изображений задаются путём искажения базовых изображений задаваемых вручную в редакторе. Кнопки «Без возмущений» отменяют любые шумовые эффекты. В окне «Проверка» имеется возможность просмотреть воздействие заданного комплекса искажений на изображение. Изображение можно поместить в окошко «До» путём его переноса из окна «Менеджер образов». В рассматриваемом режиме учитываются следующие параметры.
Растровый шум - параметр, определяющий количество точек (растрового зашумления сигнала) со случайными координатами добавляемые ко всем изображениям выборки для обучения либо тестирования сети.
Перемещения - параметр, определяющий максимальный разброс (в процентах) позиции изображения от возможного. Например, нам известно, что поле имеет размер 32x32, и если само изображение, как показано на рисунке имеет размер 20x20, то при установке параметра перемещения на 100% изображение будет смещаться от -6 до 6 пикселов по горизонтали и по вертикали. При этом надо учитывать, что это лишь предельные значения; реальная же величина смещения будет выбрана из данного диапазона. Перенос изображения происходит без искажений. Можно задать различные отношения для горизонтальных и вертикальных перемещений проекции.
Сдвиг - параметр, определяющий максимальный наклон (в процентах) изображения относительно исходного изображения. Аналогично с перемещениями рассчитываются предельные значения для каждого изображения и в этих пределах производиться наклон по горизонтальной, а затем по вертикальной оси.
Дрип - параметр, определяющий размытее краёв изображения, задаётся в процентах. При 100% каждый столбец (горизонтальный дрип) изображения смещается по вертикали на +1, либо на -1 пиксель. Таким образом, задаваемое здесь значение определяет вероятность выбора очередного столбца (горизонтальный дрип) для смещения. Аналогично и для вертикального дрипа.
Каждая проекция по — параметр, определяющий количество изображений получаемых из каждого базового изображения путём его зашумления в процессе работы алгоритма. На рис. 3.18 приведены необходимые пояснения. В исходном состоянии (перед началом работы алгоритма) в этом поле указывается количество копий, которые создаются для каждого базового изображения. Аналогичным образом выполняется исходное задание для тестирующей выборки. В результате создается тестирующая выборка, которая состоит из указанного количества изменённых копий каждой проекцірж установке в этих окнах «1» будет произведено зашумление лишь одного изображения. В результате количество изображений сохранится, но изображения будут искажены. При установке «О» не будет произведено искажение изображений и, тем самым, не будет произведено расширение набора примеров; при этом обучение будет происходить лишь на базовых примерЬк.циклам, по выборкам - данный параметр определяет стратегию подачи изменённых изображений на вход нейронной сети. Ниже на рисунке показано формирование выборки и влияние данного параметра в определении места измененного изображения в общей структуре проекций.
Установка флага "по циклам" подразумевает, что выборка первого порядка происходит по штатному расписанию, то есть по основным изображениям. Далее из полученной выборки первого порядка создаётся выборка второго порядка путём искажения входящих в выборку изображений.
Поясним на примере: пусть согласно рис. 3.19., установлен флаг "по циклам", тогда выборка первого порядка будет следующей. Р1={{АЬ Вь Сі},{А2, Вг, С2},{А3, В3, С3}}. Если бы в параметрах не было задано расширение количества изображений путём искажения, то последовательная подача указанных в выборке изображений на вход сети определило бы один цикл обучения. Таким образом, при установленном флаге "по циклам" выборки второго порядка определятся следующим образом. Для примера указанного на рисунке, для одного из режимов создания выборок алгоритма (случайная выборка):
Этот режим выборок является оптимальным способом обучения, так как обеспечивает постоянное закрепление пройденного материала без нанесения ему фатальных повреждений со стороны новых изображений. Изображения подаются в разнобой, для приведённого примера это достигается установкой флага «Случайный выбор изображения» в разделе «Политика обучения» данного окна.
