Содержание к диссертации
ВВЕДЕНИЕ 3
1. ОБЗОР МЕТОДОВ РАСПОЗНАВАНИЯ СИГНАЛОВ 8
1.1. Вводные замечания 8
1.2. Состояние вопроса 8
1.3. Структура системы распознавания 10
1.3.1. Проблема выделения признаков 11
1.3.2. Обучение с учителем и без учителя 16
1.3.3. Методы распознавания 18
1.4. Искусственные нейронные сети 24
1.5. Программа математического моделирования отражений радиолокационных сигналов от воздушных объектов 29
1.6. Распознавание сигналов в спектральной области 32
1.6.1. Постановка задачи 32
1.6.2. Оценка центральной частоты случайного сигнала 33
1.6.3. Оценка ширины спектра случайного сигнала 38
1.7. Выводы к главе 1 42
2. РАСПОЗНАВАНИЕ СЛУЧАЙНЫХ СИГНАЛОВ КЛАССИЧЕСКИМИ МЕТОДАМИ 44
2.1. Вводные замечания 44
2.2. Создание множества признаков распознавания 45
2.3. Классические методы распознавания сигналов 47
2.3.1. Байесовское решающее правило 47
2.3.2. Метод минимума расстояния 51
2.3.3. Метод ^-ближайших соседей 52
2.3.4. Сравнительный анализ ошибок метода ^-ближайших соседей и метода Байеса 56
2.4. Распознавание случайных сигналов по обобщенным признакам с помощью преобразования Карунена-Лоэва 57
2.4.1. Создание обобщенных признаков с помощью преобразования Карунена-Лоэва 57
2.4.2. Результаты распознавания по обобщенным признакам 60
2.5. Распознавание по признакам с помощью преобразования Фурье 66
2.5.1. Создание признаков с помощью преобразования Фурье 66
2.5.2. Результаты распознания по признакам в базисе Фурье 72
2.5.3. Влияние числа отсчетов признаков ПФ на ВПР 77
2.6. Вычисление собственных значений матриц в пакетах Matlab Mathcad .79
2.7. Выводы к главе 2 82
3. РАСПОЗНАВАНИЕ ВОЗДУШНЫХ ОБЪЕКТОВ НА ОСНОВЕ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ 84
3.1. Вводные замечания 84
3.2. Формирование признаков в задаче распознавания воздушных объектов.84
3.3. Создание множества признаков для воздушных объектов 87
3.4. Выбор структуры ИНС 90
3.5. Обучение ИНС 92
3.5.1. Математическая интерпретация алгоритма ОРО 93
3.5.2. Метод градиентного спуска 97
3.5.3. Метод сопряженных градиентов 100
3.5.4. Свойство обобщения ИНС 104
3.5.5. Обучение с шумом 107
3.6. Зависимость ВПР от изменения ракурса наблюдения воздушного объекта 108
3.7. Сравнение методов распознавания 109
3.8. Сравнение результатов по временным и частотным признакам 110
3.9. Выбор количества нейронов в скрытом слое по максимуму ВПР 112
ЗЛО. Создание двумерных изображений ВО с помощью РЛС 113
3.11. Анализ аппаратной реализации нейросетевых алгоритмов распознавания воздушных объектов 119
3.11.1. Типы нейрокомпьютеров 119
3.11.2. Аппаратные средства нейроускорителей 120
3.11.3. Определение требований для аппаратной реализации НС 121
3.12. Выводы к главе 3 123
ЗАКЛЮЧЕНИЕ 125
СПИСОК ЛИТЕРАТУРЫ 128
ПРИЛОЖЕНИЕ 1 -СПИСОК ОБОЗНАЧЕНИЙ 140
ПРИЛОЖЕНИЕ 2 - ПРИМЕР ИСПОЛЬЗОВАНИЯ ПРОГРАММЫ МАТЕМАТИЧЕСКОГО МОДЕЛИРОВАНИЯ 142
ПРИЛОЖЕНИЕ 3 - ПРОГРАММА ОЦЕНКИ ВЕРОЯТНОСТИ ПРАВИЛЬНОГО РАСПОЗНАВАНИЯ ПО МЕТОДУ ^БЛИЖАЙЦШХССКЗДЕЙ. 146
ПРИЛОЖЕНИЕ 4 - КОПИИ АКТОВ О ВНЕДРЕНИИ РЕЗУЛЬТАТОВ РАБОТЫ... 149
Введение к работе
Актуальность темы. В условиях постоянного роста интенсивности воздушного движения, а также угрозы использования воздушных объектов в целях терроризма и контрабанды особенно актуальна задача повышения уровня безопасности воздушного движения. Исследования в области распознавания образов и развитие радиоэлектронных технологий способствуют созданию многофункциональных РЛС, способных не только обнаруживать воздушные объекты, но и классифицировать их по типу [1].
Современные достижения в области разработки нейропроцессоров могут быть, успешно использованы для решения рассматриваемой задачи. Актуальным является совершенствование структуры нейронных сетей и разработка алгоритмов их адаптации к конкретным условиям решения задачи распознавания. Комплексное решение таких задач позволяет найти наиболее эффективные алгоритмы как с точки зрения повышения вероятности правильного распознавания, так и обеспечения требуемой скорости вычислений.
Большой вклад в развитие теории распознавания и классификации внесли зарубежные ученые: Дуда Р., Харт П., Гонсалес Р., Ту Дж., Фукунага К., Патрик Э., Розенблат, Пейперт, Румельхарт, Хинтон Вильяме, советские и российские ученые: Айзерман С.А., Браверман, Вапник В.Н., Рязанов В.В., Червоненкис, Журавлев Ю.И., Горелик А.Л., Скрипкин В.А., Омельченко В. А., Небабин В.Г., Сергеев В.В, Ширман Я. Д., Галушкин А. И. и другие [1, 2, 5, 6, 17, 38...51, 55, 76, 77]. Их работы посвящены общей теории распознавания образов и применимы к распознаванию сигналов, в конкретном случае распознаванию воздушных объектов.
Цель работы состоит в повышении вычислительной эффективности алгоритмов распознавания воздушных объектов (ВО), определении необходимого числа признаков, используемых при распознавании, оптимизации структуры искусственных нейронных сетей, адаптивном методе обучения с учетом влияния шумов, сопровождающих радиолокационный сигнал при обнаружении и распознавании, изменения угла курса полета воздушных объектов. В работе также решается проблема определения минимально необходимого размера обучающей выборки при обучении. Для достижения данной цели проведены следующие исследования:
1) формализована задача распознавания типов воздушных объектов для систем управлении воздушным движением в зоне аэропорта, разработаны алгоритмы и программы математического моделирования, учитывающие параметры РЛС, условия полета ВО, формирования его дальностных портретов, создания обучающей и контрольной выборок для последующего исследования;
2) изучено влияния размера обучающей выборки на качество распознавания;
3) проведен сравнительный анализ эффективности применения различных признаков для распознавания, решены проблемы преодоления неопределенности дальностного портрета в окне наблюдения;
4) определен оптимальный набор параметров для обучения методом обратного распространения ошибок, оптимизирован уровень шума для адаптации алгоритма обучения к реальным отношениям сигнал-шум при распознавании;
5) определено число ближайших соседей при использовании этого метода распознавания;
6) проведено сравнение различных методов обучения и интерпретированы модельные результаты распознавания искусственными нейронными сетями и методами fc-ближайших соседей по критерию вероятности правильного распознавания (ВПР) и времени выполнения алгоритма;
7) учтено влияние изменения ракурса наблюдения воздушного объекта на эффективность использования различных методов обучения и качество распознавания;
8) выбрана оптимальная структура нейронных сетей для условий решаемой задачи.
Научная новизна диссертации заключается в следующем:
1) формализована задача распознавания типов ВО для систем управлении воздушным движением в зоне аэропорта, разработаны алгоритмы и программы математического моделирования, учитывающие параметры РЛС, условия полета ВО, формирования его дальностных портретов, создания обучающей и контрольной выборок для последующего исследования;
2) изучено влияния размера обучающей выборки на качество распознавания;
3) проведен сравнительный анализ эффективности применения различных признаков для распознавания, решены проблемы преодоления неопределенности дальностного портрета в окне наблюдения;
4) определен оптимальный набор параметров для обучения методом обратного распространения ошибок, оптимизирован уровень шума для адаптации алгоритма обучения к реальным отношениям сигнал-шум при распознавании;
5) определено число ближайших соседей при использовании одноименного метода распознавания;
6) проведено сравнение различных методов обучения и интерпретированы модельные результаты распознавания искусственными нейронными сетями и методом -ближайших соседей по таким параметрам как вероятность правильного распознавания и время выполнения алгоритма;
7) учтено влияние изменения ракурса наблюдения воздушного объекта на эффективность использования различных методов обучения и качество распознавания;
8) выбрана оптимальная структура нейронных сетей для условий решаемой задачи.
Основные положения, выносимые на защиту
1. Экспериментальное определение числа нейронов в скрытом слое ИНС при использовании спектральных признаков дальностных портретов, что позволило упростить структуру ИНС (с исходной структуры 90-90-5 до 30-60-5) практически без уменьшения ВПР объектов.
2. Обоснование выбора параметров при обучении ИНС с учетом реального отношения сигнал-шум и ракурса объектов, что позволило повысить ВПР с 0.91 до 0.96 при изменении ракурса с ± 50° до ± 10° и отношении сигнал- шум 20 дБ.
3. Алгоритмы обучения и распознавания, использующие спектральные ДП, повышают ВПР на 4% и одновременно позволяют устранить их неопределенность в окне наблюдения при отношении сигнал-шум не меньше 15 дБ.
Методы исследований, использованные в диссертационной работе, основаны на статистической теории радиотехнических систем, параметрическом моделировании случайных процессов, численных алгоритмах поиска экстремума, математическом моделировании. Основные числовые результаты получены на основе аналитических и вычислительных математических методов.
Научное и практическое значение. Полученные результаты можно использовать для выбора структуры ИНС, размера обучающего множества, числа отсчетов признаков и метода обучения системы распознавания воздушных объектов. Эти результаты совместно с разработанной программой для исследования сложных сигналов, используемых при распознавании полезно применять в учебном процессе технических вузов по радиотехническим специальностям. Созданная программа оценки ВПР для различных алгоритмов (минимума расстояния, ближайшего соседа, КБС, ИНС) распознавания, может быть, использована для исследования задач распознавания случайных сигналов.
Внедрение научных результатов диссертационной работы произведено в учебный процесс РГРТУ и в перспективные разработки АОЗТ «Рязанская радиоэлектронная компания».
Апробация работы. Результаты работы докладывались на следующих научно-технических конференциях:
1. Международная молодежная научная конференция, посвященная 1000 летаю города Казани Туполевские чтения". 2005, Казань.
2. Двенадцатая международная научно-техническая конференция студентов и аспирантов, 2006, МЭИ, Москва.
3. Всероссийская научно-практическая конференция студентов, молодых учёных и специалистов "Новые информационные технологии в научных исследования и в образовании". 2006, Рязань.
4. Тринадцатая международная научно-техническая конференция студентов и аспирантов, 2007, МЭИ, Москва.
5. Всероссийская научно-практическая конференция студентов, молодых учёных и специалистов "Новые информационные технологии в научных исследования и в образовании". 2007, Рязань.
Публикации. По теме диссертации опубликовано 12 работ. Из них 4 статьи в журналах рекомендованных ВАК РФ для кандидатских диссертаций, 2 статьи в межвузовских сборниках, 6 тезисов докладов.
Структура и объём работы. Диссертационная работа состоит из введения, трех глав, заключения, списка литературы из 144 наименований 4 приложений. Диссертация содержит 150 стр., в том числе 127 стр. основного текста, 36 таблиц и 41 рисунок.
Благодарности. Автор выражает искреннюю признательность своему научному руководителю: д. т. н., проф. Кошелеву В. И. за неоценимую помощь и огромную моральную поддержку, оказанную в процессе работы над диссертацией. Выражаю особую благодарность Руководству РГРТУ и компании ХИТАКО за представление возможности заниматься научной деятельностью в России.
