Содержание к диссертации
Введение
Глава 1. Задача автоматизации анализа и прогнозирования временных рядов 8
1.1. Задача анализа и прогнозирования изменения временных рядов 8
1.2. Инструменты технического анализа 12
1.3. Аппарат нейронных сетей в задаче анализа временных рядов 17
Выводы 27
Глава 2. Разработка системы оперативной поддержки принятия решений на основе технического анализа временных рядов 28
2.1 Модель системы оперативной поддержки принятия решений на основе анализа временных рядов 28
2.2 Применение технического анализа 36
2.3 Тестирование системы поддержки принятия решений 42
2.4 Оптимизация систем поддержки принятия решений 55
Выводы 60
Глава 3. Разработка системы поддержки принятия решений на основе анализа временных рядов с использованием нейросетевого логического базиса 61
3.1. Кластеризация и классификация входных данных и обучение нейронных сетей. 61
3.2. Непрерывное обучение нейронной сети 67
3.3. Блок принятия решений на основе нейронной сети 71
Выводы 76
Глава 4. Результаты разработки 77
4.1. Использованные технологии 77
4.2. Конфигурирование и развертывание системы 91
Выводы 93
Заключение 94
Список источников
- Инструменты технического анализа
- Тестирование системы поддержки принятия решений
- Непрерывное обучение нейронной сети
- Конфигурирование и развертывание системы
Введение к работе
Актуальность темы исследования. Задача анализа и прогнозирования временных рядов актуальна и востребована во многих развивающихся направлениях, таких как:
интеллектуальный анализ данных (data mining);
анализ взаимосвязей экономических данных;
эконометрика финансовых рынков.
Отдельной актуальной задачей является создание электронных систем, предназначенных для автоматизации анализа факторов, влияющих на изменение временных рядов и подачи сигналов пользователю, либо другим системам при возникновении определенных условий.
В настоящее время в связи с развитием сферы информационных технологий, происходит её интеграция в решениях прикладных задач анализа и прогнозирования временных рядов. Одной из наиболее востребованных областей приложения задачи анализа временных рядов являются системы ведения торгов на биржах капиталов. Переход брокеров и бирж на электронные площадки позволил предоставлять конечным пользователям возможность совершения сделок посредством конечных программных терминалов, программных интерфейсов (API) и протоколов, являющихся отраслевыми стандартами (FIX, FIXML), что позволило использовать ЭВМ для реализации систем поддержки принятия решений на основе анализа рынка в реальном времени. Высокая востребованность в решении задачи в данной области определила её как основную область приложения моделей и алгоритмов, разработанных в ходе диссертационного исследования.
В области анализа временных рядов проводят исследования, как частные аналитики, так и отдельные подразделения крупных компаний, что ведет к значительной дифференциации в качественном уровне разработки и недостаточной освещенности вопроса:
крупные разработчики не освещают технические и алгоритмические аспекты разрабатываемых моделей анализа;
частные аналитики обладают недостаточным ресурсом для создания собственных систем анализа и проведения научно-исследовательских разработок.
Сложившаяся ситуация обуславливает необходимость исследования и формализации процессов построения, анализа и оптимизации систем поддержки принятия решений на основе анализа временных рядов с точки зрения технического, алгоритмического и структурного аспекта и подтверждает актуальность и научно-практическую значимость выбранной темы исследования, позволяя сформулировать цели и задачи диссертационной работы.
Цель исследования состоит в разработке моделей и методов реализации систем поддержки принятия оперативных решений на основе трендового анализа временных рядов.
Объектом диссертационного исследования являются системы поддержки принятия оперативных решений на основе трендового анализа временных рядов.
Предметом исследования являются модели технического анализа временных рядов и нейросетевая логическая модель.
В соответствии с поставленной целью работы, определены основные задачи диссертации:
-
разработка модели системы анализа и поддержки принятия решений на основе анализа временных рядов;
-
построение системы, позволяющей реализовать различные модели анализа;
-
разработка алгоритма оценки эффективности и дальнейшей оптимизации системы анализа и поддержки принятия решений;
-
применение аппарата нейронных сетей для анализа временных рядов;
-
экспериментальное исследование разработанных моделей, алгоритмов и методов.
Используемые методы: оптимизации, искусственных нейронных сетей, аппарата математической статистики, системного анализа, вычислительной математики, искусственного интеллекта, финансового менеджмента.
Достоверность полученных результатов обеспечивается следованием принципам системного подхода к анализу процесса; корректной интерпретацией рабочих циклов систем анализа; построением детерминированных моделей и алгоритмов анализа временных рядов, работа которых подтверждается экспериментально применительно к различным наборам тестовых данных.
Научные положения, выносимые на защиту:
-
модель системы поддержки принятия решений на основе анализа временных рядов;
-
алгоритм оценки эффективности и оптимизации системы анализа и поддержки принятия решений;
-
способ применения нейронных сетей, обеспечивающий классификацию временного ряда;
4. алгоритм создания обучающих выборок для нейронной сети;
Научная новизна:
1. предложена модель системы поддержки принятия оперативных решений на основе трендового анализа временных рядов, позволяющая строить модели анализа, применяя различные наборы индикаторов. Новизна модели состоит в универсализации блока принятия решений за счет применения настраиваемых интерпретаторов числовых значений индикаторов;
-
разработан алгоритм оценки эффективности и оптимизации системы анализа и поддержки принятия решений, отличающийся использованием интегрального показателя эффективности, получаемого путем обработки сигналов блока принятия решений для поиска наборов параметров, обеспечивающих наилучший результат;
-
разработан новый алгоритм создания выборок путем выделения и классификации подмножеств значений временного ряда для организации процесса обучения нейронной сети;
-
предложен способ применения нейронных сетей, обеспечивающий классификацию временного ряда, отличающийся использованием данных, получаемых от индикаторов.
Практическая ценность полученных результатов заключается в создании набора инструментов, применимого для построения систем поддержки принятия оперативных решений на основе трендового анализа временных рядов, а так же разработке обучаемой системы анализа, использующей механизм нейронных сетей.
Непосредственную практическую значимость имеют следующие полученные результаты:
-
система многокритериального анализа применима для прогнозирования тренда в различных процессах, представляемых в виде временных рядов;
-
инструменты оценки и оптимизации системы принятия решений на основе анализа временных рядов позволяют решить проблему подбора параметров при изменяющихся внешних факторах;
-
алгоритм выделения обучающих выборок и предложенный способ применения нейронной сети позволяет реализовать систему, автоматически регулирующую отзывчивость на различные факторы на основе их влияния в краткосрочной ретроспективе.
Внедрение результатов. Результаты диссертационной работы внедрены в учебный процесс СПБГЭТУ при преподавании дисциплины «Технологии баз данных» на кафедре автоматизированных систем обработки информации и управления.
Апробация. Основные положения и результаты диссертации докладывались на Международной заочной научно-практической конференции «Технические науки: теоретические и прикладные аспекты» (Новосибирск, 2012); Международной заочной научно-практической конференции «теория и практика актуальных исследований» (Краснодар, 2012); Региональной научно-практической конференции «Молодежь, образование и наука XXI века»
Публикации. Основные теоретические и практические результаты диссертации опубликованы в 6 статьях, в том числе 3 публикации в ведущих рецензируемых изданиях, рекомендованных в действующем перечне ВАК. Доклады доложены и получили одобрение на 3 международных научно-практических конференциях.
Структура и объем диссертации. Диссертация состоит из введения, четырех глав с выводами по каждой из них, заключения, содержит 104 страниц машинописного текста, включая 37 рисунков, 8 таблиц и список литературы из 86 источников.
Инструменты технического анализа
Стохастический индикатор — индикатор технического анализа, который показывает положение текущего значения временного ряда относительно диапазона его значений за определенный период в прошлом. Измеряется в процентах. Согласно толкованию автора индикатора Джорджа Лэйпа, основная идея состоит в том, что при тенденции роста значение очередного элемента имеет тенденцию останавливаться вблизи предыдущих максимумов. При тенденции уменьшения значения, оно имеет тенденцию останавливаться вблизи предыдущих минимумов. Фактически, индикатор демонстрирует расхождение значения текущего элемента относительно значений предыдущих периодов в рамках заданного временного промежутка [45].
Индекс относительной силы RSI — индикатор технического анализа, определяющий силу тренда и вероятность его смены. [45].
Линии тренда — элемент аппарата технического анализа, используемый для выявления тенденций изменения значений. Линии тренда представляют собой геометрическое отображение средних значений анализируемых показателей, полученное с помощью какой-либо математической функции. Выбор функции для построения линии тренда обычно определяется характером изменения данных во времени [45].
Линии Боллипджера — инструмент технического анализа, отражающий текущие отклонения значения. Линии Боллинджсра строится в виде верхней и нижней границы вокруг скользящей средней, но ширина полосы не статична, а пропорциональна среднеквадратичному отклонению от скользящей средней за анализируемый период времени. Эти две линии называются линиями сопротивления и поддержки. Решение на основе анализа линий Боллипджера принимается, когда значение выходит из коридора, либо поднимаясь выше верхней линии, либо пробивая нижнюю линию. Если график значения колеблется между линиями — надежных сигналов нет. Если график цены пересекает линию Bollinger Bands для возврата в нормальное состояние, это «ложный пробой» [45]. Технический анализ является полноценным инструментарием для построения моделей анализа и прогнозирования тренда временного ряда. Однако его применение сопряжено с задачей выбора параметров работы инструментов. При решении данной задачи приходится идти на компромисс между чувствительностью системы и её устойчивости к шуму. Так, применение модели анализа с использованием сигналов пересечений средних скользящих значений, сопряжено с задержкой реакции на изменение тенденции сопоставимой с периодом сглаживания, примспепис же малых периодов сглаживания неизбежно приведет ложным сигналам системы. Для решения данных проблем необходимо разработать систему, позволяющую строить многокритериальную модель анализа, что позволит, интерпретируя сигналы многих индикаторов, давать взвешенный прогноз тенденции.
Искусственный нейрон является математической моделью и имитирует в основные свойства биологического нейрона. Входом искусственного нейрона является некоторое множество сигналов, каждый из которых является выходом другого нейрона. Каждый вход умножается па соответствующий вес связи, эмитируя синапс, и все произведения суммируются, определяя уровень активации нейрона.
На рисунке 2 представлена модель искусственного нейрона. Множество входных сигналов XJ...XN являются входом искусственного нейрона. Эти входные сигналы соответствуют сигналам, приходящим в синапсы биологического нейрона. Каждый сигнал умножается на соответствующий вес UI...UN, И поступает на суммирующий блок, обозначенный . Суммирующий блок производит вычисление алгебраически взвешенной суммы входных сигналов, тем самым определяя выходной сигнал нейрона [40].
Составлено на основании рисунков и данных из [40] Выходной сигнал далее, как правило, подвергается преобразованию активациошюй функцией и дает выходной нейронный сигнал. Активационная функция может относиться к классу линейных, сжимающих, или логическоих функций [40]. Выбор функции активации производится исходя из природы анализируемых данных. В случае дифференциальных (двоичных) данных чаще применяют пороговую функцию, представленную на рисунке 3.
Тестирование системы поддержки принятия решений
Оценка риска. Для оценки риска торговых стратегий самый распространенный показатель - это максимальное проседание. Различают два вида: в первом случае под максимальным проседанием имеют в виду денежное значение крупнейшей (в денежном эквиваленте) последовательности убыточных сделок, во втором случае говорят о величине самого глубокого понижения кривой доходности торгового счета перед достижением нового пика. Далее для количественной оценки введем показатель R = (Атах — Amin)/Pavg ГДС Атах и Amin - локальные экстремумы, достигнутые последовательно и имеющие наибольшую разницу, Pavg — среднее значение цены актива. Оценка прибыли. Большинство критериев эффективности связанны именно с данной оценкой. Среди основных и самых распространенных можно отметить такие показатели, как отношение доход/риск, отношение доходность/капитал, а также показатель полезного действия модели, который рассчитывается как отношение фактической доходности к идеальной (под идеальной доходностью понимают покупку в каждом дне ценового ряда и продажу на каждом его пике). Однако очень часто оценивая прибыль, забывают о таком важном показателе как величина средней сделки, так как только при высоком значении данного показателя система будет устойчива к различным издержкам при реальной торговле (транзакциоппые издержки и проскальзывание), которые часто имеют критическое значение. Для количественной оценки введем показатель е — Y.j i(Pj+i Pj) Tj) I SiU +i — Pl\ rAe Pi Дспа актива в момент і, Pi - цепа актива в момент j-й сделки, Ту - функция, принимающая значение (1) для buy ордера и (-1) для ордера.
Оценка стабильности. К этим показателям чаще всего относят количество сделок на анализируемом участке, процент прибыльных сделок, отношение среднего выигрыша к среднему проигрышу и другие. Далее для количественной оценки введем показатель а = Np/N, где Np — количество прибыльных сделок, N - общее число сделок.
Эти показатели показывают некую стабильность системы. Например, если за весь анализируемый промежуток торговая стратегия совершила всего несколько сделок, то состоятельность всех остальных показателен находится под вопросом из-за малой выборки. Как бы ни были разнообразны оценки эффективности торговых систем, на основании которых принимаются решения о торговле по системе на конкретных активах, в большинстве случаев они являются различными комбинациями динамики изменения прибыли и количества сделок.
Для тестирования моделей были выбраны следующие условия: тестовые данные - 15-ти минутные свечи за 2010-й год; комиссии не применяются; точность котировок составляет 1е-4, поэтому все вычисления будут произведены с той же точностью. Рассмотрим модель, использующую для анализа средние скользящие значения цены актива. Технический индикатор скользящее среднее (Moving Average, МЛ) показывает среднее значение цены инструмента за некоторый период времени, являющийся параметром расчёта. При расчете Moving Average производится математическое усреднение цены инструмента за данный период.
Существует несколько наиболее распространённых типов скользящих средних: простое (его также называют арифметическим), экспоненциальное, сглаженное и взвешенное. Среднее скользящее можно рассчитывать для любого последовательного набора данных, включая цены открытия и закрытия, максимальную и минимальную цепы, объем торгов или значения других индикаторов. Нередко используются и данные самих скользящих средних. Единственное, чем Среднее скользящее разных типов существенно отличаются друг от друга, — это разные весовые коэффициенты, которые присваиваются последним данным. В случае Простого Скользящего Среднего (Simple Moving Average) все значения рассматриваемого периода имеют равный вес. Экспоненциальные и взвешенные скользящие средние (Exponential Moving Average и Linear Weighted Moving Average) делают более весомыми последние значения. Самый распространенный метод интерпретации скользящего среднего цепы состоит в сопоставлении его динамики с динамикой самого ряда. Когда значение поднимается выше значения среднего скользящего, возникает сигнал о тенденции возрастания, а когда она опускается ниже линии индикатора — тенденции убывания. Данная модель анализа с помощью среднего скользящего вовсе не предназначена обеспечить сигнал строго в низшей точке ряда, а выход — строго на вершине. Она позволяет действовать в соответствии с текущей тенденцией: отдавать сигналы вскоре после того, как значения экстремума. Скользящие средние могут применяться также и к индикаторам. При этом интерпретация скользящих средних значений индикаторов аналогична интерпретации ценовых; если индикатор поднимается выше своего среднего значения, значение индикатора растет, если индикатор опускается ниже среднего значения - это означает продолжение его нисходящего движения.
Непрерывное обучение нейронной сети
Библиотека Hibernate представляет собой ORM (англ. Object-relational mapping, рус. Объсктпо-реляциоппос отображение) — технология программирования, которая связывает базы данных с концепциями объектно-ориентированных языков программирования, создавая «виртуальную объектную базу данных». Существуют как коммерческие, так и свободные реализации этой технологии.
В объектно-ориентированном программировании объекты в программе представляют объекты из реального мира. В качестве примера можно рассмотреть адресную книгу, которая содержит список людей с нулём или более телефонов и нулём или более адресов. В терминах объектно-ориентированного программирования они будут представляться объектами класса «Человек», которые будут содержать следующий список полей: имя, список (или массив) телефонов и список адресов.
Суть проблемы состоит в преобразовании таких объектов в форму, в которой они могут быть сохранены в файлах пли базах данных, и которые легко могут быть извлечены в последующем, с сохранением свойств объектов и отношений между ними. Эти объекты называют «хранимыми» (англ. persistent). Исторически существует несколько подходов к решению этой задачи.
Решение проблемы хранения данных существует — это реляционные системы управления базами данных. Использование реляционной базы данных для хранения объектно-ориентированных данных приводит к семантическому провалу, заставляя программистов писать программное обеспечение, которое должно уметь как обрабатывать данные в объектно-ориентированном виде, так и уметь сохранить эти данные в реляционной форме. Эта постоянная необходимость в преобразовании между двумя разными формами данных не только сильно снижает производи і олыюсть, но и создает трудности для программистов, так как обе формы данных накладывают ограничения друг на друга.
Реляционные базы данных используют набор таблиц, представляющих простые данные. Дополнительная или связанная информация хранится в других таблицах. Часто для хранения одного объекта в реляционной базе данных используется несколько таблиц; это, в свою очередь, требует применения операции JOIN для получения всей информации, относящейся к объекту, для се обработки. Например, в рассмотренном варианте с записной книгой, для хранения данных, скорее всего, будут использоваться как минимум две таблицы: люди и адреса, и, возможно, даже таблица с телефонными номерами. Так как системы управления реляционными базами данных обычно не реализуют реляционного представления физического уровня связей, выполнение нескольких последовательных запросов (относящихся к одной «объектно-ориентированной» структуре данных) может быть слишком затратно. В частности, один запрос вида «найти такого-то пользователя и все его телефоны и все его адреса и вернуть их в таком формате», скорее всего, будет выполнен быстрее серии запросов вида «Найти пользователя. Найти его адреса. Найти его телефоны». Это происходит благодаря работе оптимизатора и затратам на синтаксический анализ запроса.
Некоторые реализации ORM автоматически синхронизируют загруженные в память объекты с базой данных. Для того чтобы это было возможным, после создания o6beKT-B-SQL-npco6pa3yiomcro SQL-запроса полученные данные копируются в поля объекта, как во всех других реализациях ORM. После этого объект должен следить за изменениями этих значений и записывать их в базу данных.
Системы управления реляционными базами данных показывают хорошую производительность на глобальных запросах, которые затрагивают большой участок базы данных, но объектно-ориентированный доступ более эффективен при работе с малыми объёмами данных, так как это позволяет сократить семантический провал между объектной и реляционной формами данных.
При одновременном существовании этих двух разных миров увеличивается сложность объектного кода для работы с реляционными базами данных, и он становится более подвержен ошибкам. Разработчики программного обеспечения, основывающегося на базах данных, искали более легкий способ достижения постоянства их объектов.
Разработано множество пакетов, устраняющих необходимость в преобразовании объектов дня храпения в реляционных базах данных. Некоторые пакеты решают эту проблему, предоставляя библиотеки классов, способных выполнять такие преобразования автоматически. Имея список таблиц в базе данных и объектов в программе, они автоматически преобразуют запросы из одного вида в другой. В результате запроса объекта «человек» (из примера с адресной книгой) необходимый SQL-запрос будет сформирован и выполнен, а результаты «волшебным» образом преобразованы в объекты «номер телефона» внутри программы. С точки зрения программиста система должна выглядеть как постоянное хранилище объектов. Он может просто создавать объекты и работать с ними как обычно, а они автоматически будут сохраняться в реляционной базе данных.
На практике всё не так просто и очевидно. Все системы ORM обычно проявляют себя в том или ином виде, уменьшая в некотором роде возможность игнорирования базы данных. Более того, слой транзакций может быть медленным и неэффективным (особенно в терминах сгенерированного SQL). Все это может привести к тому, что программы будут работать медленнее и использовать больше памяти, чем программы, написанные «вручную».
Но ORM избавляет программиста от написания большого количества кода, часто однообразного и подверженного ошибкам, тем самым значительно повышая скорость разработки. Кроме того, большинство современных реализаций ORM позволяют программисту при необходимости самому жёстко задать код SQL-запросов, который будет использоваться при тех или иных действиях (сохранение в базу данных, загрузка, поиск и т. д.) с постоянным объектом.
Конфигурирование и развертывание системы
Применение нейронных сетей для принятия решений в биржевой торговой деятельности рассматривалось другими авторами, написано большое количество статей и работ. Например, в статье «Прогнозирование цен с помощью нейронных сетей»10 нейронную сеть применяют для аппроксимации входной последовательности, результат которой принимается за ожидаемое значение цены актива. Но даже при большой размерности нейронной сети, и, как следствие высокой точности аппроксимации не учитывается тог факт, что при прогнозировании в ходе поступления реальных котировок, изменение цены может проходить внутри тренда в обратном тренду направлении, что может привести к негативному результату. Более интересна для рассмотрения работа «Прогнозирование финансовых рынков с использованием искусственных нейронных сетей» . Автор данной работы предлагает использовать классификатор прогнозируемого движения в виде отрезка [0... 1], однако классифицировать принадлежность фигуры автор так же предлагает по значению котировки.
Одной из задач технического анализа является нахождение паттернов (шаблонов) - устойчивых повторяющихся сочетаний данных цепы, объёма или индикаторов. На основании результатов эксперимента, описанного ранее, показавшего способность персеитропа определять принадлежность временного ряда к классу функций, можно судить и о возможности определения нейронной сетью принадлежности временного ряда к одному из типов тренда.
Конфигурация нейронной сети в данном случае определяется задачей: на основании значений N периодов определить тенденцию ряда. При этом тренд может принадлежать к одному из трех классов: использования временного ряда в качестве входных данных, необходимо произвести их подготовку, поскольку нсрсситропы имеют ограничения в задачах, связанных с инвариантным представлением образов, то есть независимым от их положения па сенсорном иоле и относительно других фигур. Такие задачи возникают, например, если нам требуется построить машину для чтения печатных букв или цифр так, чтобы эта машина могла распознавать их независимо от положения на сіраницс (то есть, чюбы на решение машины не оказывали влияния перенос, поворот, растяжение-сжатие символов), или если нам нужно определить из скольких частей состоит фигура; или находятся ли две фигуры рядом или пет. То есть, фигуру перед анализом необходимо привести к единому виду. В случае с временным рядом -нормализовать. Пусть значения временного ряда содержатся в векторе Р [pi - I3N] тогда: среди значений Р находим наименьшее Pm;n, и производим вычитание его из всех значений Р; = Pi — Pmin среди значений Р находим наибольшее Ртах, и производим деление всех значений на пего, таким образом Pt = -г- —
Таким образом, получаем временной ряд в значениях в пределе [0 ... 1]. На рисунках 29 и 30 представлен пример применения такой обработки. В качестве выходных данных сеть будет предоставлять вектор принадлежности входных данных к одному из классов фигур, образованных временным рядом, где каждый из 3-х элементов вектора представляет собой значение в пределе [0... 1], где 0 - не соответствует, 1 - полностью соответствует одному из ранее оговоренных классов разделения гренда. Такая задача является «естественной» для нейронных сетей типа многослойный персептрон. К примерам решения подобного класса задач можно отнести распознавание письма, образов, отбраковку продукции и т.п.
Поскольку создание обучающих выборок является трудоемкой задачей, поэтому необходимо разработать методику и алгоритм непрерывного обучения нейронной сети, который будет проводить кластеризацию и классификацию входных векторов и использовать их для обучения сети. Для определения принадлежности участков к тому или иному классу можно использовать средние скользящие. С их помощью будет определяться приблизительный участок тренда и направление движения па нем. Каждое пересечение говорит о том, что динамика цены пошла в противоположном направлении. После получения такого сигнала необходимо уточнить границы участка и направление цены внутри него. Направление определяется положением средних скользящих, если линия с длительным периодом сглаживания
