Содержание к диссертации
Введение 4
1 Минимаксное оценивание параметров 10
-
Основные обозначения 10
-
Постановка задачи минимаксного оценивания. Критерии 11
-
Прямая и двойственная задачи. Терминология 13
-
Оценивание параметров линейных моделей 14
-
Модель. Постановка задачи. Критерий 14
-
Минимаксное оценивание в случае известной ковариационной матрицы 17
-
Минимаксное оценивание в случае неизвестной ковариационной матрицы 19
-
Существование "наихудшего" распределения вектора случайных параметров 20
1.5. Оценивание параметров нелинейных моделей 22
-
Модель. Постановка задачи. Критерий 22
-
Оценка параметров модели 23
2 Минимаксное линейное стохастическое программирование в услови
ях неопределённости 29
-
Постановка задачи оптимизации билинейного функционала 29
-
Ошибки оптимизации и неопределённость случайных параметров ... 30
-
Оптимизация по вероятностному критерию 31
-
Случай нормального распределения вектора возмущений с точно заданными характеристиками 31
-
Случай неизвестного распределения вектора возмущений с точно заданными характеристиками 35
-
Случай неизвестного распределения вектора возмущений с неточно заданными характеристиками 37
2.4. О "наихудшем" распределении вектора возмущений 40
-
Постановка задачи 40
-
"Наихудшее" распределение вектора возмущений 40
3 Алгоритмы минимаксной оптимизации 44
3,1, Аналитические методы оптимизации. Виды множеств неопределённости 44
-
Аналитическое представление "наихудших" характеристик закона распределения 46
-
Численные методы оптимизации 49
-
Алгоритм решения двойственной задачи 49
-
Вероятностная оптимизация с линейной функцией потерь .... 51
-
Вероятностная оптимизация с квадратической функцией потерь 53
4 Задачи оценивания и оптимизации 55
4.1. Задачи оценивания и прогнозирования движения летательного аппа
рата в условиях неопределенности 55
-
Минимаксное оценивание параметров линейной модели движения летательного аппарата 56
-
Минимаксное оценивание параметров нелинейной модели движения летательного аппарата 58
-
Прогнозирование движения 61
4.2. Задачи экономической теории в условиях неопределённости 62
-
Задача построения оптимального портфеля ценных бумаг .... 62
-
Задача оценивания параметров трендов макроэкономических показателей 67
4.3. Задача экспертного оценивания в условиях неопределённости 69
Заключение 71
Введение к работе
В диссертационной работе исследуется ряд задач системного анализа и обработки информации, рассматриваются проблемы минимаксного оценивания и оптимизации по вероятностным критериям.
Рассмотрены модели систем, в которых присутствуют наряду с параметрами неконтролируемые возмущения. Параметры х модели в диссертации исследуются с позиций их оценивания и оптимизации. Относительно истинных значений возмущений R часто имеется разнородная информация. Вектор возмущений может быть как случайным, так и детерминированным. Сам процесс выбора или оценки значений параметров стохастической системы должен быть произведён с учетом неопределённости возмущений [3,36,38,-12}. При этом полнота информации играет ведущую роль в выборе методов решения задач оптимизации и оценивания.
Решения проблем оптимизации и оценивания параметров моделей стохастических систем в условиях полной информации о возмущениях модели достаточно широко известны и применяются во многих практических задачах конструирования, оценивания, оптимизации и анализа сложных динамических систем |2,4|. Процесс оптимизации сложных динамических систем с учётом случайной структуры является также самостоятельным направлением в исследовании сложных систем [3,62|.
Обстоятельства отсутствия полной информации о характеристиках возмущений модели, а также возможное присутствие нелинейности существенно осложняют процесс оценивания и определения степени эффективности функционирования стохастических систем.
Для оценивания и оптимизации параметров стохастической системы может быть применен один из двух известных методов: адаптивный или минимаксный. Согласно адаптивному подходу сначала строится статистическая оценка вектора возмущений модели статистически неопределённой системы, после чего становится возможным использование оптимальных методов при условии замены неизвестных характеристик системы их оценками. Согласно минимаксному подходу оценивание и оптимизация параметров производятся так, чтобы они были оптимальны в случае реализации наименее благоприятных возмущений модели. В диссертационной работе используется минимаксный подход.
В результате минимаксного оценивания и оптимизации параметров модели по некоторому априорно выбранному критерию полученные значения параметров являются устойчивыми к допустимым значениям возмущений. Таким образом, минимаксные алгоритмы оптимизации и оценивания являются робастными.
Задачу минимаксного оценивания и оптимизации можно математически предста- вить в виде следующей общей задачи: sup J(x, PR) -> min, (0.1)
РкСР xp-x где x — вектор параметров, принадлежащий множеству ограничений X, Ря — чакон распределения вектора возмущений R. Закон распределения PR принадлежит классу законов распределения V, который содержит все распределения вектора R: Е{Щ — т — задан вектор математического ожидания, cov{f?, R} — V задана ковариационная матрица вектора R. J(x, PR) в (0.1) есть некоторый известный оптимизируемый функционал. Значения данного функционала характеризуют оптимальность выбора значений параметров.
Выбор критерия должен удовлетворять некоторым известным требованиям: [13,24,641-
В диссертации в каждом конкретном случае известно, что рассматриваемый критерий качества обладает необходимыми свойствами.
Заметим, что в задачах теории и практики критерий качества J(x, Pr) может иметь много представлений. В диссертационной работе вид критериев качества ограничен вероятностными критериями вида: J(.X,P;;)=P(/(,#)>7), где Р(А) вероятность события Д f(x, R) — некоторая функция потерь.
В случае, когда критерий J(x,Pr) является стохастическим функционалом при известном распределении PR вектора R, задача была исследована с использованием минимаксных методов в работах В.В. Малышева, М.Н. Красилыцикова, А.Р. Пайкова, А.И. Кибзуна, Ю.С.Кана [16,27,39,90].
В работах Н.Н. Красовского [20], М.Л. Лядова [23], А.Р. Панкова [39], А.И. Ма-тасова [28], Б.Ц. Бахшияна, P.P. Пазирова, П.Е. Эльясберга [3], В.И. Карлова [27] рассматривался случай, когда неопределённость вектора возмущений системы описывается априорно заданными множествами, которым принадлежат его ковариационная матрица и вектор математического ожидания.
Заметим, что использование распространённого среднеквадратического критерия качества не позволяет отвечать на важные вопросы о вероятностных характеристиках получаемых оценок и стратегий оптимизации. Отсюда следует, что задача оценивания параметров по вероятностному критерию, которая решена в диссертации для систем, описываемых линейными регрессионными уравнениями, является актуальной. Решение данной задачи осложнялось присутствием неопределённостей смешанного типа. А именно, вектор возмущений (ошибки наблюдения) модели имел неограниченные неслучайные компоненты и случайные компоненты. Информация о случайных компонентах вектора ошибки наблюдения исчерпывалась некоторым априорно заданным множеством неопределённости. Далее приводится постановка этой задачи. Задача оценивания параметров линейной системы по вероятностному критерию имеет вид: sup Р(\в - х(у)\2 > 7) —> mm, где в — неизвестный векто параметров модели, R - вектор ошибки наблюдений, у — вектор наблюдений, у = Z9 + R, Z — матрица соответствующей размерности, х{-) оператор оценивания.
В диссертации с использованием вероятностного критерия качества также рассматривается задача оптимизации линейной функции потерь. Постановка .задачи приводится ниже.
Задача линейного стохастического программирования в условиях неопределённости: sup ~P{xTR > 7) -> оіїгі,
РдЄР х^х где х - вектор управлений, R — вектор возмущений (в случае модели инвестиционного портфеля, —R есть вектор доходностей активов).
Сами решения, получаемые в результате решения указанных задач, далее называются минимаксными. До настоящего времени минимаксный подход к оптимизации статистически неопределённых систем но вероятностному критерию практически не был разработан. Используемый подход для решения минимаксной задачи в диссертации основан на неравенствах Коши-Буняковского и Чебышёва.
Описанные постановки задач поиска "наихудших" характеристик вектора возмущений могут быть соответственно записаны в следующих видах: Pr(x) eargmax J(x,PR), R(x) Є arg max J(x, Pr), рлєр {m(x),V(x)} Є argmax J(>,PR), где {,-} — множество элементов, m(x) — E{R(x)}, V(x) = cov{R{x), R(x)}.
Посте нахождения наименее благоприятных возмущений выбирается "наилучшее", в смысле критерия J(x, Pr), значение вектора параметров модели: х є argmin max J(x, PR). хЄХ РдЄР
Приведённый алгоритм носит название прямого метода (прямой задачи). Для решения прямой задачи минимаксной оптимизации могут быть использованы различные численные методы. Однако, практически, решение прямой задачи сопряжено со многими трудностями. В качестве недостатков решения прямой задачи можно выделить следующие: применение известных численных методой решения прямой задачи сужает допустимые множества вектора параметров X, а использование метода штрафных функций приводит к появлению эффекта "овражности" оптимизируемого функционала. Решение прямой задачи, как правило, на практике также может быть сопряжено с такими трудностями, как отсутствие гладкости, аналитического выражения прямого функционала. Более подробно недостатки и достоинства численного решения прямой задачи можно найти, например, в [3,42]
Решение же двойственной задачи для рассматриваемых r диссертации проблем не содержит указанных трудностей [42]. Итак, в диссертации решение прямой минимаксной задачи: min max J(x, Рц) при некоторых предположениях ищется с использованием двойственного подхода: raaxmin J(x, Р»}.
Заметим, что в случае известного Рд двойственная задача представляет собой задачу математического программирования, для решения которой в настоящее время разработаны эффективные методы её решения, например [49].
Двойственный метод решения минимаксных задач был развит в работах [42,43].
В диссертации основное внимание уделяется рассмотрению следующих трех проблем из системного анализа и обработки информации.
Первая проблема — оценивание параметров линейных и нелинейных систем в условиях неполной информации о законах распределения ошибок наблюдения.
В диссертационной работе рассматривается задача оценивания параметров линейной системы по вероятностному критерию в присутствии детерминированных неограниченных неслучайных ошибок наблюдения и центрированных случайных возмущений (ошибок наблюдения) с неточно заданной ковариационной матрицей. Решена задача асимптотического минимаксного нелинейного оценивания.
Вторая проблема — оптимизация параметров. В диссертационной работе подробно рассмотрена задача линейного стохастического программирования в условиях неопределённости при линейных ограничениях.
Структура возмущений обычно на практике точно неизвестна. Таким образом, минимаксный подход является адекватным. Актуальность данной проблемы обусловлена теоретической и практической важностью построения управления гложгыми стохастическими системами путём выбора параметров в случае неточной информации о структуре вектора возмущений.
Третья проблема — разработка эффективных численных методов решения указанных первых двух проблем. Подавляющее число работ, связанных с использованием минимаксного подхода в оптимизации, посвящено исследованию прямой задачи (т.е. непосредственному поиску минимума супремума критерия). Практическое применение прямого метода, как было сказано, может быть затруднено степенью сложности решения задачи минимизации функции максимума. Если функцию максимума удается найти аналитически, то поиск минимаксной стратегии является стандартной проблемой математического программирования. Для задачи вероятностной оптимизации, изучаемой в диссертации, явный вид функции максимума найти не удается. Более того, оказывается, что эта функция негладкая, поэтому ее оптимизация стандартными численными методами затруднительна. Актуальной становится разработка иных методов решения минимаксных задач.
Для решения проблемы минимаксной оптимизации в работе разработан алгоритм, основанный на использовании решения двойственной (по отношению к исходной минимаксной проблеме) задачи. Доказана сходимость последовательности решений двойственных задач, которая вырабатывается алгоритмом. В качестве частных случаев получены алгоритмы решения двойственных задач с вероятностными критериями качества для рассмотренных в диссертации проблем.
Итак, в диссертационной работе получены новые математические результаты по следующим направлениям минимаксной обработки информации (минимаксные оп- тимизация и оценивание параметров статистически неопределённых систем): разработка метода минимаксного оценивания параметров линейных моделей по вероятностному критерию в случае, когда вероятностные характеристики шумов (возмущений) полностью неизвестны; развитие асимптотических минимаксных методов оценивания параметров для нелинейных систем наблюдения; аналитический синтез минимаксных стратегий по вероятностному критерию для статистически неопределённых линейных систем;
4} разработка соответствующих численных алгоритмов синтеза минимаксных стратегий на базе теории двойственной оптимизации. Рассмотрены следующие прикладные задачи: оценивание, прогнозирование и оптимизация параметров (координаты, скорость и т.д.) движущихся объектов (летательных аппаратов) в условиях неполной априорной информации; построение оптимального по вероятностному критерию портфеля ценных бумаг при неполной информации о вероятностных характеристиках их эффективно-стей; оценивание параметров трендов макроэкономических параметров экономики страны; теория экспертизы: определение весов экспертных оценок по вероятностному критерию в случае неполной информации. Информация при этом определяется в терминах фон Неймана-Моргенштерна, т.е. веса рассматриваются как смешанные стратегии решения некоторой задачи управления.
Диссертация содержит четыре главы.
В первой главе изучается проблема минимаксного параметрического оценивания многомерной линейной статистически неопределённой модели наблюдений.
Рассматриваются линейная и нелинейная регрессионные модели. Соответствующие минимаксные задачи оценивания решаются с использованием метода, основанным на решении двойственной задачи.
Для оценивания параметров системы, описываемой нелинейной регрессией, используются вероятностная характеристика — дисперсия асимптотической ошибки наблюдения, а для линейной регрессии — вероятностный критерий качества.
Результатом первой главы являются алгоритмы построения минимаксных оценок вектора неизвестных параметров системы.
Во второй главе решена задача минимаксного стохастического программирования в условиях неопределённости. Данная проблема имеет тесную связь с задачей минимаксной оптимизации параметров. В диссертации оптимизируемая функция называется функцией потерь. В качестве функции потерь использовалась следующая линейная функция f(x,R) = RTx, где Н- n-мерный вектор случайных возмущений с законом распределения Рд; х Є X — n-мерный вектор параметров, X — множество допустимых параметров вида X — {х : Ах — а}, а Ф О где А - матрица размера к х n, а - известный n-мерный вектор.
Задача минимаксного оценивания линейной статистически неопределённой системой по вероятностному критерию рассмотрена в работах [39,41].
Третья глава содержит результаты по численному решению двойственных задач проблем, рассмотренных в первых двух главах. Получен алгоритм решения двойственной задачи.
Частным случаем этого алгоритма являются алгоритмы решения двойственных задач оптимизации и оценивания параметров по вероятностным критериям.
В четвёртой главе рассмотрены примеры, иллюстрирующие полученные в диссертации результаты. Все примеры разделены на три области их применения. Первые три примера относятся к областям оценивания и прогнозирования параметров. Следующие два примера могут быть отнесены к областям математической экономики и финансовой математики. Заключительный пример иллюстрирует прикладные результаты из области построения экспертных оценок. Наряду с аналитическими примерами демонстрируются численные примеры и графики.
Основные результаты диссертации опубликованы в работах [34-41,50,51,111].
