Содержание к диссертации
Введение
Глава 1. Анализ методов и алгоритмов распознавания и классификации образов
1.1. Анализ задачи распознавания и классификации образов
1.2. Аналитический обзор методов распознавания и классификации образов
1.3 Построение математической модели системы классификации образов
1.4 Основные задачи решаемые в процессе построения систем классификации
1.5 Задача выявления существенных признаков объекта классификации
1.5.1 Преобразование Фурье
1.5.2 Косинусное преобразование
1.5.3 Вейвлет-преобразование
1.6. Анализ и сравнение алгоритмов выявления классообразующих признаков
1.7. Аналитический обзор нейросетевых алгоритмов классификации образов
1.8. Оценка эффективности работы системы классификации образов
1.9. Постановка задачи исследования
Выводы по первой главе
Глава 2. Применение дискретного вейвлет - преобразования и нейросетей при решении задачи обработки сигналов
2.1. Эффективность применения дискретного вейвлет-преобразования для задачи распознавания и классификации сигналов
2.2. Частотно-временная локализация вейвлет-преобразования
2.3. Принцип применения кратномасштабного анализа
2.4. Ортогональные вейвлеты с компактным носителем
2.5. Применение алгоритма быстрого вейвлет-преобразования
2.6. Нейросетевая структура и ее математическая модель для реализации быстрого вейвлет-преобразования
2.6.1. Алгоритм построения структуры нейросети для реализации вейвлет-преобразования
2.6.2. Построение дискретного вейвлет-базиса для быстрой нейронной сети Выводы по второй главе
Глава 3. Построение и применение вейвлет-фильтров
3.1 Построения метода вейвлет-фильтрации сигнала
3.2 Метод интерполяции вейвлет-коэффициентов после процедуры децимации в процессе восстановления сигнала с помощью интерполяционных многочленов
3.2.1 Метод быстрой интерполяции значений сигнала между отсчетами
3.3 Подбор оптимального набора фильтров
3.4 Алгоритм очистки и восстановления зашумленного сигнала с помощью вейвлет-фильтра Выводы по третьей главе
Глава 4. Построение эффективных неиросетевых алгоритмов для предварительной обработки и классификации сигналов
4.1. Реализация математической модели нейросетевого метода быстрого вейвлет-преобразования
4.2. Разработка эффективного нейросетевого алгоритма для классификации образов с использованием принципов самоорганизации
4.2.1 Оптимальный подбор метрики и нормализация входных векторов
4.2.2 Построение структуры нейронной сети для классификации образов
4.3. Моделирование и исследование производительности алгоритма классификации с использованием дискретного вейвлет-преобразования и гибридной нейронной сети Выводы по четвертой главе
Заключение
Литература
- Построение математической модели системы классификации образов
- Принцип применения кратномасштабного анализа
- Метод интерполяции вейвлет-коэффициентов после процедуры децимации в процессе восстановления сигнала с помощью интерполяционных многочленов
- Разработка эффективного нейросетевого алгоритма для классификации образов с использованием принципов самоорганизации
Введение к работе
Актуальность темы исследования. В настоящее время идет интенсивное развитие многих направлений обработки информации. Научное направление, связанное с построением и применением систем распознавания и классификации образов в настоящее время является одним из самых востребованных.
С прикладной точки зрения решение проблемы классификации образов важно прежде всего потому, что оно открывает возможность автоматизировать многие процессы, которые до сих пор связывали лишь с деятельностью живого мозга. Круг задач, которые могут решаться с помощью систем классификации, очень широк. Сюда относятся не только задачи обработки зрительных и слуховых образов, но и задачи распознавания сложных процессов и явлений, возникающих, например, при выборе целесообразных действий руководителем предприятия или выборе оптимального управления технологическими, экономическими, транспортными операциями. В каждой из таких задач анализируются некоторые явления, процессы, состояния внешнего мира.
Существующие подходы к решению задач обработки и классификации сигналов, основанные на использовании вейвлет-анализа и нейросете- вых методов предложенные и развитые в работах Оссовского С., Редько В.Г., Галушкина А.И., Дорогова А.Ю., Дремина И.Л., Анисимовича К.В., Астафьевой Н.М., Маллата (Mallat S.), Червякова Н.И., Терехова В.А., Васильева В.И, Гадзиковского В.И., Горелика А.Л., Дьяконова В.П., Кохена А. (Cohen A.), Видрова Б. (Widrow B.) и других ученых являются эффективными и во многом превосходят существующие методы. Но все же проблема применения этих методов для совершенствования систем классификации сигналов в том числе и в тех случаях когда сигналы являются нестационарными, зашумленными либо информация о них является неполной недостаточно исследована.
Известно, что нейросети по своей природе представляют собой попытку построения системы, которая в какой-то степени моделирует работу биологических нейронов. Важнейшей особенностью нейросетей является возможность параллельной обработки информации, способность к обучению и обобщению накопленных знаний. Характерной особенностью ней- росетей является возможность реализации с применением технологии сверхбольшой степени интеграции. Это открывает возможность создания специализированного процессора с однородной структурой, способного перерабатывать разнообразную информацию.
При построении систем классификации мы сталкиваемся с обработкой большого количества данных. Иногда, поступающие для классификации объекты содержат помехи, наводки и шум. Для решения данной проблемы применяются различные методы предварительной обработки и очистки сигнала от шума. Высокие результаты получаются в результате применения методов на основе вейвлет-преобразования. Теория вейвлетов дает более гибкую технику обработки сигналов, чем преобразование Фурье. Оно предоставляет возможность анализа сигнала не только по его частотным составляющим, но и локализует их. В процессе построения нейронных сетей применение предварительной обработки сигналов, входящих как в обучающую выборку так и непосредственно в сами классифицируемые сигналы посредством вейвлет-анализа позволяет повысить скорость и качество обучения нейросети.
При использовании вейвлет-анализа для обработки графической информации целесообразно использование методов кратномасштабного анализа и быстрого алгоритма нахождения вейвлет-коэффициентов. Многомасштабное представление дает возможность рассмотрения сигнала на разных уровнях его разложения. В то время как алгоритм быстрого вейв- лет-преобразования позволяет обойти вычисление большого количества интегралов. К тому же существует возможность построения нейросетевой структуры, реализующей алгоритм быстрого вейвлет-преобразования. Данной структурой являются так называемые быстрые нейронные сети.
Таким образом исследования, проведенные в данной работе являются актуальными и практически значимыми.
Соответствие темы диссертации требованиям паспорта специальности ВАК (по техническим наукам). Диссертационная работа выполнена в соответствии с пунктами 1, 3, 5 и 8 паспорта специальности 05.13.18 - «Математическое моделирование, численные методы и комплексы программ» (технические науки) ВАК Министерства образования и науки РФ.
Целью диссертационной работы является повышение скорости и точности работы нейросетевых систем классификации образов посредством предварительной обработкой сигналов с помощью вейвлет-анализа.
Объектом исследования в данной диссертационной работе является цифровая фильтрация в системах классификации образов.
Предметом исследования являются методы и алгоритмы предварительной обработки сигналов в системах классификации образов на основе нейросетевых структур.
Научная задача исследования состоит в разработке методов предварительной фильтрации сигналов посредством вейвлет-преобразования применительно к нейросетевым алгоритмам классификации на основе самоорганизующихся гибридных сетей для увеличения скорости и качества классификации.
При этом были решены следующие частные задачи:
-
Систематизация и анализ методов и алгоритмов распознавания и классификации сигналов.
-
Разработка методов выявления классообразующих признаков объекта классификации.
-
Разработка методов предварительной обработки и очистки сигналов от шума посредством дискретного вейвлет-анализа.
-
Построение математической модели нейросетевой структуры, реализующей быстрые алгоритмы нахождения вейвлет-коэффициентов.
-
Разработка метода интерполяции вейвлет-коэффициентов после процедуры децимации в процессе восстановления сигнала.
-
Разработка эффективного нейросетевого алгоритма классификации на основе самоорганизующихся алгоритмов обучения и методов предварительной вейвлет-фильтрации сигналов.
-
Разработка системы компьютерного моделирования в среде разработки С++, моделирующая алгоритм предварительной обработки сигналов.
Методы исследования. Для решения поставленных в работе задач использованы методы теории искусственных нейронных сетей, вейвлет-анализа, математического моделирования, линейной алгебры, математического анализа, синергетики, системного анализа, дискретной математики, теории автоматического управления, теории вероятностей, численных методов.
Достоверность и обоснованность полученных в диссертационной работе теоретических результатов и формулируемых на их основе выводов обеспечивается строгостью математических выкладок. Достоверность выводов об эффективности предложенных методов обеспечивается проводимым компьютерным моделированием.
Научная новизна работы заключается в следующем:
-
обоснование применения к системам автоматической классификации образов вейвлет-преобразования, обладающего частотно-локальными свойствами и возможностью кратномасштабного анализа сигналов;
-
предложен метод нтерполяции вейвлет-коэффициентов после процедуры децимации при вейвлет-обработке в процессе восстановления сигнала с помощью интерполяционных многочленов.
-
разработан алгоритм нахождения коэффициентов быстрого вейвлет- преобразования на основе применения быстрых (ядерных) нейронных сетей;
-
разработана эффективная модель позволяющая повысить качество работы нейросетевых алгоритмов для классификации образов на основе самоорганизующихся нейросетей, сети прямого распространения и быстрой нейросети реализующей предварительную вейвлет-фильтрацию сигналов;
-
реализация обоих этапов обработки данных (предварительная обработка и классификация) с помощью аппарата искусственных нейронных сетей.
-
разработан комплекс программ в среде разработки С++ для моделирования алгоритма предварительной обработки сигналов посредством вейв- лет-анализа.
Практическая значимость. Практическое использование результатов дает возможность:
-
повысить скорость и качество классификации сигналов благодаря разработанной модели гибридной нейросети на основе самоорганизующихся алгоритмов обучения и методов обработки и очистки сигналов от шума;
-
обеспечить повышение скорости вейвлет-обработки сигналов благодаря ее реализации с помощью нейросетевых методов;
-
производить оба этапа обработки данных (предобработка и классификация) используют одни и те же средства реализации - нейронные сети;
Полученные результаты могут быть использованы в построении эффективных систем обработки сигналов.
На защиту выносятся следующие основные положения:
-
-
Обоснование эффективности применения методов вейвлет- фильтрации для предварительной обработки сигналов (выявления классо- образующих признаков и очистка от шума) поступающих на входы нейронной сети.
-
Метод интерполяции вейвлет-коэффициентов после процедуры децимации в процессе восстановления сигнала с помощью интерполяционных многочленов.
-
Математическая модель и алгоритм нейросетевой реализации быстрого вейвлет-преобразования на основе применения быстрых (ядерных) нейронных сетей.
-
Применение нейросетевых алгоритмов для реализации обоих этапов обработки данных (предобработки и классификации).
-
Комплекс программ в среде разработки С++ для моделирования алгоритма предварительной обработки сигналов.
Апробация результатов работы. Результаты работы были представлены в журнале «Инфокоммуникационные технологии» (г. Самара 2008), в журнале «Успехи современного естествознания» (г. Москва, 2008), в журнале «Фундаментальные исследования» (Москва, 2008), в журнале- сборнике «Математическое моделирование развития северных территорий Российской Федерации» (г. Якутск, 2008), в журнале "Инфокомму- никационные технологии в науке, производстве и образовании (Инфоком- 3)" (г. Кисловодск, 2008), в журнале-сборнике «Информационные технологии в науке, образовании и экономике» (г. Якутск, 2008), в журнале «Актуальные проблемы и инновации в экономике, управлении, образовании, информационных технологиях 2009» (Кисловодск, 2009), в журнале- сборнике «Математическое моделирование развития северных территорий Российской Федерации» (Якутск, 2009), в электронном научном журнале «Вестник Дона» (Ростов-на-Дону, 2012).
Публикации. Основные результаты диссертационного исследования опубликованы в 9 научных работах, в том числе 2 статьи опубликована в научном издании, рекомендованном ВАК РФ для публикации основных результатов диссертаций.
Реализация и внедрение результатов работы. Теоретические и практические результаты диссертационной работы были реализованы в научно-производственном объединении «СайТЭК» для обработки данных химического и микробиологического анализа ингредиентов с помощью спектрального анализа и вейвлет-преобразования получаемых с приборов графиков для проверки соответствий заданным требованиям и вейвлет- обработки цифровых изображений при съемке световым микроскопом.
Объем и структура работы. Диссертационное исследование состоит из введения, четырех глав, заключения, списка литературы, содержащего 112 наименований и 4-х приложений.
Построение математической модели системы классификации образов
Существует большое количество методов и алгоритмов распознавания и классификации. В зависимости от того, физически однородная или неоднородная информация применяется для описания распознаваемых объектов, имеют ли признаки единую или различную физическую природу в общем случае системы распознавания можно разделить на простые и сложные.
Исходя из способа, с помощью которого получена апостериорная информация, сложные системы подразделяются на одноуровневые и многоуровневые.
В случае одноуровневых систем по данным технических средств на основе обработки полученных реализаций непосредственно находят признаки объектов, [13,24] которые в дальнейшем будут использованы для их распознавания. Получение данных о признаках объекта получается с помощью прямых измерений на основе обработки производимых экспериментов. В многоуровневых системах информация о признаках определяется путем косвенных измерений, в результате использования вспомогательных распознающих устройств. На такие устройства попадает предварительно обработанная измерительная информация, в результате образуется информация о признаках распознаваемых объектов, либо промежуточная информация, используемая устройствами следующих уровней, которые формируют информацию о признаках распознаваемых объектов.
По количеству исходной информации о распознаваемых объектах системы распознавания, возможно, разделить на системы без обучения, обучающиеся и самообучающиеся.
Многоуровневые системы четко не разделяются на описанные выше классы, т. к. каждая из частей многоуровневой системы может быть системой без обучения, обучающейся или самообучающейся.
В системах без обучения первоначальных данных достаточно для определения априорного алфавита классов, построения априорного словаря признаков [23] и на основе прямой обработки исходной информации возможность описания каждого класса на языке этих признаков. Т.о. в первом приближении довольно установить решающие границы и решающие правила.
В обучающихся системах первоначальных данных достаточно для определения априорного алфавита классов и построения априорного словаря признаков, но нет необходимого объема для описания классов на языке признаков. Исходные данные, которые необходимы для построения систем с обучением, позволяют определить конкретные объекты, уоторые принадлежат различным классам.
Целью операции обучения является определение разделяющих функций с помощью процесса многократной подачи на входы системы распознавания различных объектов с указанием классов, к которым эти объекты принадлежат.
Распознающие системы, которые обучаются на этапе создания, работают с «учителем». Данный процесс заключается в том, что «учитель» неоднократно предъявляет системе обучающие объекты всех определенных классов и указывает, к каким классам они [23, 24] принадлежат. После чего «учитель» проверяет систему распознавания, исправляя ее ответы до тех пор, пока количество ошибок в среднем не дойдет до желаемого уровня.
Самообучающиеся системы применяются там, где первоначальных данных достаточно лишь для определения словаря признаков, но недостаточно для проведения классификации объектов. В процессе формирования системы на ее входы подают первоначальную совокупность объектов, которые определены значениями своих признаков. Но по причине недостаточного объема первоначальных данных система не имеет установок о том, к какому классу объекты отправной совокупности принадлежат. Данные указания подменяются набором правил, по которым на этапе самообучения система распознавания самостоятельно формирует классификацию, которая может отличаться от естественной, и в дальнейшем ее соблюдает.
Создание обучающихся и самообучающихся систем распознавания определено тем, что на практике довольно часто попадаются ситуации, при которых нет возможности получить полную первоначальную информацию.
Системы распознавания также можно подразделить по характеру информации о признаках распознаваемых объектов на вероятностные, детерминированные, структурные, логические и комбинированные.
В детерминированных системах при построении алгоритмов распознавания применяются геометрические меры близости, которые основаны на измерении расстояний между эталонами классов и распознаваемым объектом. Применение данных методов в общем случае [13] предусматривает существование координат эталонов классов в признаковом пространстве или же координат объектов, которые принадлежат соответствующим классам.
В вероятностных системах применяют методы распознавания, которые основаны на теории статистических решений. Использование вероятностных методов в общем случае предусматривает присутствие вероятностных зависимостей между признаками распознаваемых объектов и классами, к которым отнесены эти объекты.
В логических системах применяют логические методы распознавания, которые основаны на дискретном анализе и исчислении высказываний, которые на нем базируются. Применение логических методов распознавания обуславливает наличие логических связей, которые выражены через систему булевых уравнений. В этих уравнениях переменными являются логические признаки распознаваемых объектов, а неизвестными классы, к которым эти объекты относятся.
Структурные системы для создания алгоритма распознавания применяют специальные грамматики, порождающие языки, которые состоят из предложений. Каждое таких предложений описывает объекты, принадлежащие определенному классу. При применении структурных методов требуется наличие совокупностей предложений, которые описывают все множество объектов, относящихся ко всем [23, 56] классам алфавита классов распознающей системы. Множество предложений должно быть разделено на подмножества соответствующее числу классов системы. Подмножества состоят из предложений, которые описывают объекты, относящиеся к данному классу.
Принцип применения кратномасштабного анализа
Как было отмечено выше, искусственная нейронная сеть - это набор нейронов, соединенных между собой. Передаточные (активационные) функции всех нейронов в сети фиксированы, а веса связей являются изменяемыми параметрами сети. Существует огромное количество нейросетевых структур. Для различных задач можно оптимизировать каждую из них, но результаты, полученные в итоге, могут сильно отличаться. В связи с этой проблемой требуется внимательное рассмотрение структуры сети для рассматриваемой проблемы.
В отличие от обычного вычисления представление знания в нейронных сетях выполняет поиск по содержанию, а не по адресу сохраненных данных. Кроме того, представление знаний осуществляется через приблизительное, а не абсолютно точное соответствие. Представление знаний состоит из сети, весов связей и семантических [45] интерпретаций, присоединенных к активациям узлов. С помощью процесса обучения - подбора значений весов межнейронных соединений сети, достигается обобщение знаний. Функция ошибки, определенная на выходе нейронной сети, или энергетическая функция, определенная при активации элементов сети, характеризует качество нейронной сети в обобщении знаний.
Сеть обучается для того, чтобы для определенного множества входов давать необходимое множество выходов. Каждое входное множество рассматривается как вектор. Обучение происходит путем последовательной подачи входных векторов с одновременной подстройкой весов в соответствии с заданной процедурой. В результате обучения веса сети становятся такими, что каждый входной вектор приводит систему к получению выходного вектора.
Как было отмечено выше, при рассмотрении методов распознавания и классификации, различают алгоритмы обучения с учителем и без учителя. В нейросетях обучение с учителем предполагает, что для каждого входного вектора существует целевой вектор, представляющий собой требуемый выход. При обучении без учителя сеть самостоятельно генерирует возможные выходные результаты.
Разнообразные схемы организации нейронов и их взаимодействия способствовали созданию сетей различных структур. Каждый вид неросети связан с способом подбора весов межнейронных связей.
При решении задачи классификации образов очень важным моментом является умение нейросетевой структуры быстро анализировать вновь поступающую информацию и находить в ней закономерности.
Исходя из вышесказанного, можно сделать вывод, что построение нейронной сети в общем виде происходит в два этапа: выбор архитектуры и подбор весов (обучение) сети. На первом этапе следует выбрать нейроны, которые будут использоваться (число входов, функции активации) и каким способом следует соединить их между собой. На втором этапе происходит обучение [45] выбранной нейронной сети, т.е. подбор таких значений ее весов, чтобы она работала нужным образом.
В применяемых на практике нейросетях число весов может составлять несколько десятков или даже сотен тысяч, вследствие этого обучение -поистине сложный процесс. Для многих структур нейросетей разработаны специальные алгоритмы обучения, которые дают возможность настроить веса нейронной сети [22, 27, 40] определенным образом.
При решении задачи распознавания и классификации образов сеть должна обучаться важнейшим их признакам: геометрическое отображение точечной структуры изображения; относительное местоположение главных элементов образа.
Для классификации графических образов используются нейронные сети с различной структурой. Самыми распространенными являются персептроны.
Однослойный персептрон способен распознавать простейшие образы. Отдельный нейрон вычисляет взвешенную [83] сумму элементов входного сигнала, отнимает значение сдвига и пропускает результат через функцию активации.
Функции активации могут быть различными. В зависимости от значения выходного сигнала принимается решение: входной сигнал принадлежит классу А или В.
Многослойные персептроны дают возможность строить более сложные разделяющие поверхности, и потому более распространены. Но если задача состоит в распознавании сложных, сильно зашумленных объектов, то данного вида сети становятся малоэффективными, т.к. для улучшения результата приходится добавлять слои и увеличивать количество нейронов в каждом слое, что приводит к увеличению времени обучения и скорости работы сети. На рисунке 1.2 приведена структура двухслойной персептронной сети.
Метод интерполяции вейвлет-коэффициентов после процедуры децимации в процессе восстановления сигнала с помощью интерполяционных многочленов
Причем от значение отношения центральной частоты [31, 39] к ширине окна не зависти местоположения центральной частоты. Частотно-временное окно wintwin0) уменьшается при высокой центральной частоте, и
увеличивается при низкой. Схематическое изображение частотно-временных окон преобразования приведено на рис. 2.1.
Величина влияния значений функции в произвольных точках t{ на значения коэффициентов с(а,Ь) обусловливает изменение частотно-временного окна вейвлета. Также наоборот, величина влияния из точки c(ai,bj) на ось t определяет интервал значений функции, которые принимают участие в [1, 29] вычислении данного коэффициента cfa bi). Высокочастотная информация вычисляется на основе малых интервалов сигналов, а низкочастотная - на основе больших.
При классификации графических образов анализируемые сигналы всегда конечны, при вычислении коэффициентов на границах задания сигналов область достоверности выходит за пределы сигналов, и для уменьшения погрешности вычислений [30] сигналы дополняются заданием начальных и конечных условий. 2.3. Принцип применения кратномасштабного анализа
Для разделения сигнала на низкочастотную и высокочастотную составляющие служит кратномасштабный анализ. Как и для быстрого преобразования Фурье для него существует каскадный алгоритм вычислений. Рассмотрим определенную [29, 31] зависимость s(x) на интервале 0 х 1, с равномерным интервалом дискретизации данных Ах = —, представленную измерениями в к точках.
Анализируя эту функцию как ряд с разложением по системе ортонормированных функций (рт,к(х), образованных прямоугольным весовым окном р длительностью Ах = ——, получается уравнение скейлинг-функции: и равен р = 22 . В результате получается единичная норма скейлинг-функции. Прямое преобразование [30] производится по формуле (при сдвиговой ортогональности прямоугольных базисных функций разложения):
В данном случае для дискретного задания функции по интервалам Ах = —, значения коэффициентов максимальной детальности равны
При следующем уровне разложения функции, при т=т-1, скейлинг 1 функция расширяется по х до Т Т Нахождение коэффициентов сш./д может выполняться прямо по (2.7), но при известных значениях коэффициентов стЛ предыдущего уровня он может выполняться последовательно с учетом в формуле итерации: изменения нормировочного множителя
Результат усреднения является приближением исходной зависимости, поэтому скейлинг-функция является также аппроксимирующей и масштабной функцией.
К аппроксимирующим коэффициентам стк выделяются также коэффициенты изменения сигнала в пределах нового интервала усреднения, т.е. коэффициенты разности значений [1, 32, 78] первой и второй половины интервала: которые представляют собой детализирующие коэффициенты. Коэффициенты cm-ix и dm.jik позволяют полностью реконструировать значения коэффициентов более высокого уровня т:
Для реконструкции значений в первоначальных интервалах значение аппроксимирующего коэффициента на первой половине интервала нужно просуммировать с детализирующим коэффициентом, а на второй - вычесть. Для математического описания этой [31] операции вводится функция щ которая имеет сдвиг по координате синхронно со скейлинг-функцией с аналогичной нормировкой амплитудных значений:
В связи со своей формой функция у/ получила название детализирующей функции. С ее применением уравнение (2.8) с входящими в него уравнениями (2.11) приходят к следующей форме:
В итоге коэффициенты вейвлет-разложения раскрывают структуру сигнала на разных масштабах и в разных временных точках. В областях "гладких" значений сигнала коэффициенты [31, 53] детализации d близки к нулю и их можно отбросить, что дает возможность очень эффективно производить сжатие информации в задачах классификации графических образов. Восстановление сигнала возможно по любому масштабному уровню разложения, причем, как это следует из (2.14), все специфики сигнала сохраняются без искажений с временным разрешением первого вейвлета. При выполнении разложения без скейлинг-функции вид детальных особенностей [1, 30] сигнала остается без изменений, но полное восстановление сигнала невозможно.
Без значения о,о о,о(х) при полном разложении сигнал центрируется, при восстановлении по другим масштабам искажается за счет отсутствия коэффициентов ст .
Для распознавания и классификации образов при использовании кратномасштабного анализа разложение сигнала на сумму аппроксимирующих и детализирующих составляющих эффективно производить с использованием ортогональных вейвлетов, которые отличаются возможностью реконструкции как локальных особенностей сигналов, так и сигналов в целом. Именно на таких вейвлетах выполняется быстрое вейвлет-преобразование.
Как было сказано ранее, основным преимуществом использования данного вида вейвлетов в дискретном анализе для распознавания и классификации образов является принципиальная возможность реконструкции сигнала.
Самый распространенный набор дискретных вейвлет-преобразований был описан бельгийским математиком Добеши в конце 80-х годов 20-го столетия. Он основывается на использовании рекуррентных соотношений для нахождения всё более точных выборок [31, 78] неявно заданной функции материнского вейвлета с удвоением разрешения при переходе к следующему масштабу. Интерес к этой области стремительно возрос, что привело к созданию различных потомков исходного семейства вейвлетов Добеши.
Разработка эффективного нейросетевого алгоритма для классификации образов с использованием принципов самоорганизации
При рассмотрении вейвлет-преобразования в качестве банка фильтров, можно считать, что преобразование сигнала вейвлетом представляет собой прохождение сигнала через определенный частотный фильтр и выходы определенных ступеней фильтрации должны представлять собой вейвлет коэффициенты и коэффициенты преобразования масштабирующей функции. Эта идея анализа сигнала путем его пропускания через ряд фильтров получила название субполосного кодирования.
Для осуществления субполосного кодирования, в соответствии с алгоритмом быстрого вейвлет-преобразования, [25, 37] исходный спектр сигнала разделяется на 2 части - высокочастотную и низкочастотную. Высокочастотная часть содержит мельчайшие детали, которые нас и интересуют. Однако низкочастотная часть также может содержать информацию о деталях исходного сигнала, поэтому мы можем снова разделить ее на 2 части и т.д., пока мы не будем удовлетворены количеством частотных полос. Обычно количество полос в результате работы банка фильтров ограничивается объемом исходной информации или возможностями вычислительной техники. Процесс деления сигнала показан на рисунке 3.1. Преимущество этой схемы состоит в том, что нам необходимо создать только 2 фильтра, недостаток - в том, что покрытие спектра сигнала ограничено.
Сигнал Sj передается на фильтры декомпозиции низких и высоких частот, далее с помощью операции децимации і 2 (уменьшения числа частотных составляющих вдвое в соответствии с теоремой Котельникова-Шеннона) -удаление элементов {sn } и {sn } с нечётными номерами, возможно получить [60, 61] коэффициенты аппроксимации на выходе фильтра низких частот и детализирующие коэффициенты на выходе фильтра высоких частот. Т. о., анализ сигнала производится по следующему алгоритму: к сигналу 5 = { применяется низкочастотный фильтр разложения с децимацией для получения сглаженной составляющей А = {Ак}} затем применяем высокочастотный фильтр разложения с децимацией для получения детальных коэффициентов D - {Dk} , которые теряются при сглаживании.
Пройдя данный этап получаем коэффициенты аппроксимации Ах - [Ахк] и детализирующие коэффициенты Д = {Д к} первого уровня разложения. кэффициенты аппроксимации уровня7+1, DJ+X -детализирующие коффициенты уровня у+1, Lo_D - низкочастотный фильтр, Hi_D -высокочастотный фильтр. Lo_D = pmk(x) = p- p(2mx-k), (18) где р - скейлинг функция вейвлета, р - коэффициент ортонормирования, который можно определить по условию Шт,к (х) dx = 1 и равен р = 22 . При прохождении сигнала через высокочастотный фильтр HiD коэффициенты вейвлет-разложения вычисляются как разности значений первой и второй половины интервала т.е. (19)
В результате мы получим [61] полный набор аппроксимирующих и детализирующих коэффициентов, вплоть до уровня декомпозиции j+1. По этому набору коэффициентов мы можем построить вейвлет-спектрограмму сигнала для оценки его особенностей. Схема работы фильтра на этапе разложения приведена на рисунке 3.2.
Теперь перейдем к диаграмме быстрой вейвлет-реконструкции. Используя операцию, обратную децимации - интерполяцию (увеличения частотных составляющих в 2 раза), создаются наборы аппроксимирующих и детализирующих коэффициентов. Данная операция осуществляется путем добавления нулевых компонентов к полученным на этапе разложения. При этом для сигнала s(k) на выходе имеем s (Л) для четных ки s (к) = О для нечетных. Схема работы фильтра на этапе сборки сигнала приведена на рисунке 3.3. Диаграмма понижения уровня коэффициентов аппроксимации выглядит следующим образом:
Понижение уровня коэффициентов [61, 62] аппроксимации означает постепенное приближение к исходному сигналу. Процесс декомпозиции-реконструкции можно представить следующей общей диаграммой вейвлет-преобразований (обозначение / указывает на итерационный характер вычислений): этапах разложения и сборки сигнала. В результате данного процесса исходный сигнал раскладывается на вейвлет-компоненты до определенного уровня декомпозиции. Далее в процессе реконструкции, восстанавливается до приближенного сигнала se s. Величина приближения зависит от уровня декомпозиции и реконструкции (se=s). Нулевой уровень отвечает точному [32] восстановлению сигнала. На данной диаграмме цифры определяют уровень декомпозиции и реконструкции сигнала (нулевой уровень отдельно не указывается, это есть сам сигнал s). Схема работы разложения и сборки сигнала приведена на рисунке 3.4.
Полученные в результате вейвлет-разложения детализирующие D = {Dk} и аппроксимирующие А = {Ак) коэффициенты являются основой для формирования входных данных для нейросети классифицирующей сигналы. Происходит минимизация входного образа нейросети путем исключения малозначимых компонентов сигнала - производится отсечение детализирующих коэффициентов несущих избыточную информацию. В результате объем входных данных нейросети в целом существенно увеличивается, но в тоже время не происходит увеличение самого входного образа. Такой подход позволяет достичь большей информативности входов нейросети (рис. 3.5).
Похожие диссертации на Фильтрация сигналов посредством вейвлет-преобразования в нейросетевых системах классификации образов
-
