Введение к работе
Актуальность темы. Процессы, протекающие в технических, экономических, экологических системах, представляют собой объекты с большим количеством внутренних связей, которые находятся в постоянном взаимодействии друг с другом и могут рассматриваться в качестве динамических. Данные, накапливаемые при их изучении, могут представлять собой временные ряды, отражающие процесс развития системы. В связи с этим проблема разработки и совершенствования методов прогнозирования временных рядов, применяемых при изучении сложных динамических систем с целью повышения эффективности их функционирования, является актуальной.
Известные технологии прогнозирования, включающие сплайны и методы, основанные на декомпозиции в ортогональные системы, характеризуются тем, что при увеличении сложности исследуемой системы число используемых коэффициентов при обучении растет экспоненциально (феномен «проклятия размерности»), что значительно ограничивает область применения таких решений. При использовании нейронных сетей необходимо заранее выбрать ее архитектуру или иметь некоторый эвристический метод для ее изменения, однако, даже в этом случае сложно обосновать, что предложенная архитектура сети является оптимальной, так как всегда существует вероятность того, что при обучении сети будет найден локальный минимум.
Метод опорных векторов (SVM) свободен от перечисленных недостатков и позволяет получить уникальное решение при построении прогнозирующей модели. В рамках данного направления были достигнуты успехи в области прогнозирования сложных динамических систем. Большой вклад в развитие теоретических основ SVM внесли отечественные ученые: В. Вапник и А. Червоненкис. Вопросам усовершенствования и модификации работы SVM посвящены труды Б. Босера, И. Гуйона, К. Воронцова, Ю. Лифшица, Б. Шолькопфа, А. Смолы, К. Бишопа, М. Типпинга и др. Задачами оптимизации SVM занимаются В. Вапник, Дж. Платт, Э. Осуна.
На сегодняшний день являются актуальными задачи разработки и совершенствования методов и алгоритмов обучения и поиска входных параметров прогнозирующей модели SVM. Известные методы, применяемые для решения этого вопроса, такие как перекрестная проверка, «выборки с замещением» (bootstrap), методы, базирующиеся на оценке размерности Вапника-Червоненкиса, обладают рядом недостатков, свя-
занных как со скоростью их работы, так и с точностью найденных значений. Решение данных задач позволит повысить точность прогноза, т.е. уменьшить среднеквадратическую ошибку между реальными и прогнозными значениями и увеличить скорость обучения SVM. Кроме того, для повышения качества и стабильности прогнозирования является необходимым исследование методов построения комбинированных прогнозов на основе использования различных SVM-моделей.
Целью диссертационной работы является исследование и разработка методов повышения точности прогнозирования сложных динамических систем путем использования оригинальных методов обучения и подбора входных параметров SVM-модели и построения комбинированных прогнозов.
В соответствии с поставленной целью в диссертационной работе решаются следующие задачи:
-анализ методов прогнозирования временных рядов с возможностью применения SVM в процессе математического моделирования;
исследование методов, применяемых при обучении и подборе входных параметров SVM-модели, а также выявление их особенностей и недостатков;
разработка метода обучения и подбора входных параметров SVM, позволяющего увеличить скорость обучения модели и повысить точность прогноза;
исследование методов оценки эффективности альтернативных SVM-моделей;
-разработка и исследование методов повышения точности и стабильности прогнозирования временных рядов путем интеграции различных SVM-моделей и построения комбинированных прогнозов;
разработка программного обеспечения для прогнозирования временных рядов на основе SVM с учетом поиска входных параметров модели и возможностью построения комбинированных прогнозов;
апробация результатов исследования, проведение вычислительных экспериментов, подтверждающих эффективность предложенных методов и алгоритмов.
Объектом исследования являются физические, природные и промышленные процессы, протекающие в различных динамических системах и представленные в виде временных рядов.
Предметом исследования являются методы и алгоритмы поиска входных параметров SVM-модели и построения комбинированных прогнозов, а также SVM-модели временных рядов различных видов.
Методы исследования. Выполненные исследования базируются на использовании метода опорных векторов, теории вероятностей и математической статистики, теории нелинейных динамических систем и статистического обучения.
Положения, выносимые на защиту:
метод обучения и подбора входных параметров SVM-модели;
критерий Eff для сравнения эффективности альтернативных SVM-моделей;
комбинированный метод прогнозирования на основе итеративного и прямого подходов.
Научная новизна. В работе получены следующие новые научные результаты:
разработан метод обучения и подбора входных параметров SVM, отличающийся от известных тем, что позволяет учитывать текущее состояние динамической системы и требует меньшего времени обучения модели по сравнению с перекрестной проверкой, скользящим контролем и выборкой с замещением;
предложен критерий Eff для сравнения эффективности альтернативных SVM-моделей, учитывающий одновременно как ошибку, так и сложность модели;
предложен комбинированный метод прогнозирования, основанный на интеграции итеративного и прямого подходов, позволяющий снизить среднеквадратическую ошибку SVM-модели на тестовых данных.
Достоверность и обоснованность научных результатов и выводов основаны на адекватности математических моделей, соответствии результатов вычислительных экспериментов реальным данным и подтверждены апробацией результатов диссертационной работы на научно-практических конференциях.
Практическая значимость. Разработаны специализированные алгоритмы обучения и подбора входных параметров SVM-модели, построения комбинированных прогнозов. Данные алгоритмы были реализованы в программном обеспечении, позволяющем осуществлять: формирование обучающих выборок на основе имеющихся временных рядов, их предварительный анализ и коррекцию; формирование и оптимизацию входных параметров SVM-модели и ее обучение; анализ и прогнозирование временных рядов на основе полученной модели.
С помощью разработанного программного обеспечения было проведено прогнозирование реальных и смоделированных временных рядов на основе построенных SVM-моделей вместе с их входными параметрами, основанных на теоретических (полигармонических и хаотических рядах) и реальных данных (процесса флуктуации лазера дальнего инфракрасного диапазона, потребления электроэнергии, колец деревьев).
Получены акты о внедрении результатов диссертационной работы в виде программной библиотеки SVM в Санкт-Петербургском филиале Учреждения Российской Академии Наук «Институт земного магнетизма, ионосферы и распространения радиоволн им. Н. В. Пушкова РАН», Марийском государственном техническом университете и ОАО «Инвестиционная компания «Земля-Инвест».
Публикация результатов. По результатам диссертации опубликовано 7 статей (1 статья в издании из Перечня ВАК для публикации научных результатов диссертаций на соискание ученой степени доктора и кандидата наук), получено 1 свидетельство о государственной регистрации программы для ЭВМ № 2009616227.
Апробация работы. Основные результаты диссертации обсуждались на Всероссийских научно-практических конференциях «Информационные технологии в профессиональной деятельности и научной работе» (Йошкар-Ола, 2007 и 2009), международной научно-технической конференции «Интеллектуальные системы» (AIS'07) и «Интеллектуальные САПР» (CAD-2007) (Дивноморск, 2007), конференции «Технологии Microsoft в теории и практике программирования» (Нижний Новгород, 2007).
Реализация и внедрение результатов работы. Результаты работы внедрены в учебный процесс Марийского государственного технического университета, Санкт-Петербургского филиала Учреждения Российской Академии Наук «Институт земного магнетизма, ионосферы и распространения радиоволн им. Н. В. Пушкова РАН» и производственный процесс ОАО «Инвестиционная компания «Земля-инвест».
Объем и структура работы, Диссертация включает в себя введение, 4 главы, заключение, список литературы из 133 наименований и 3 приложения. Работа изложена на 143 страницах, содержит 57 рисунков и 20 таблиц.
Похожие диссертации на Разработка и исследование методов прогнозирования на основе SVM-моделей
