Содержание к диссертации
Введение
Глава 1. Принцип инвариантности для процессов частных сумм индексированных мноясествами 25
1.1 Сходимость конечномерных распределений процессов частных сумм 25
1.2 Плотность рандомизированных процессов частных сумм в пространстве С(Л) 28
1.3 Плотность процессов частных сумм в пространстве D[0,l]d 43
Глава 2. Принцип инвариантности для условных эмпирических процессов 49
2.1 Асимптотическая нормальность оценки Надарая и Ватсона 49
2.2 Плотность условных эмпирических процессов 64
2.3 Асимптотическая нормальность оценки аргумента максимума регрессионной функции 74
2.4 Асимптотическая нормальность локально полиномиальных оценок 83
Список литературы 93
- Сходимость конечномерных распределений процессов частных сумм
- Плотность рандомизированных процессов частных сумм в пространстве С(Л)
- Асимптотическая нормальность оценки аргумента максимума регрессионной функции
- Асимптотическая нормальность локально полиномиальных оценок
Введение к работе
Исследование асимптотических свойств различных классов случайных процессов и полей занимает важное место в теории вероятностей и математической статистике. Решение большинства статистических задач, таких как проверка гипотез или построение критических областей, основано на предельных соотношениях для выборочных статистик, то есть а аппроксимации распределений вероятностей одних процессов (полей) другими. Теоремы об асимптотических распределениях в теории вероятностей и математической статистике во многом опираются на теорию слабой сходимости вероятностных мер в метрических пространствах (см., например, [2]), развитие которой связано прежде всего с именами А. Н. Колмогорова, Дж. Дуба, М. Донскера, Ю.В. Прохорова, А.В. Скорохода, В.М. Золотарёва, А. А. Боровкова, Р. Дадли, К. Ферника, Л. Ле Кама, С. Варадарайна и других учёных.
Целью данной диссертационной работы является исследование предельных закономерностей таких объектов, как процессы частных сумм, индексированные множествами, условные эмпирические процессы и ядерные регрессионные оценки, образованных перемешивающимися случайными величинами.
Во многих задачах асимптотической теории изучается поведение определенным образом нормированных сумм случайных величин или случайных векторов в различных функциональных пространствах. Как правило, указанные суммы берутся по конечным множествам индексов растущих в определённом смысле к бесконечности. В наиболее простом случае множества индексов расположены на целочисленной прямой, однако вопросы изучения многомерных структур в статистической физике ([12]) требуют рассмотрения множеств индексов более сложной природы, например, образующих некоторый подкласс множеств на целочисленной решётке Ъа. При изучении эмпирических процессов наряду с понятием индексирующих множеств используется понятие индексирующих функций, когда суммируются не сами случайные элементы, а значения функции от них, принадлежащей определённому классу. Для того, чтобы предельный процесс был задан в удобном для исследования пространстве приходится налагать некоторые ограничения на класс индексирующих функций или индексирующих множеств. Во многих случаях распределение предельного процесса оказывается гауссовским. Поведение выборочных функций гауссовского процесса описано в известной работе [66] в терминах понятия метрической энтропии. Там же дан пример гауссовского процесса, который не является непрерывным при нарушении определённого условия на энтропию.
Общая теория суммирования независимых случайных величин была создана трудами А. Н. Колмогорова, А. Я. Хинчина, Б. В. Гнеденко, Г. Крамера, П. Леви, В. Феллера, В. М. Золотарева, И. А. Ибрагимова, Ю. В. Линни-ка, В. В. Петрова и многих других ученых, см., например, [18]. Суммирование независимых случайных величин естественным образом применяется при изучении свойств процессов с независимыми приращениями, к которым относится, в частности, броуновское движение. Как показывает практика, гипотеза о независимости приращений процесса во многих случаях несостоятельна. При изучении свойств различных стохастических систем, в которых случайные элементы каким-либо образом зависимы, наиболее часто выделяются следующие классы зависимых процессов и полей: мартингалы и близкие им объекты, марковские процессы и поля, процессы и поля с перемешиванием, гиббсовские поля, положительно и отрицательно ассоциированные семейства случайных величин. Достаточно широкий класс зависимых случайных процессов и полей позволяет охватить понятие перемешивания. Так, во многих случаях зависимость случайных процессов, которые образуют регрессию, просто описывается в терминах перемешивания.
Описание перемешивания поля X = {Х(, і Є "Zd} потребует определения некоторых коэффициентов зависимости (т-алгебр IX, V С #. Нас будут интересовать коэффициент сильного перемешивания a(U,V)= sup |cov(I^,Iv)|, ueuyev коэффициент абсолютной регулярности /3(l,V) = ±sup |cov(Itt,Iv,)|, (i,j)6/xJ где верхняя грань берётся по всем разбиениям (Ui)iei и {Vj)jj соответственно IX и V - измеримым, коэффициент (р - перемешивания
Ф{Ч,У) = sup (У)Ци) : U Є U,F(U) >Q,Ve V,F(V) > о)
Об этих и некоторых других коэффициентах перемешивания см. [50].
Введённые коэффициенты перемешивания удовлетворяют следующим неравенствам
2a(U, V) ^ 0(11, V) <
Положим р(Гі,Г2) = inf{||a; - у\\ : х Є Гьу Є Г2}, где ГЬГ2 С Zd и ||ж|| = maxi^i
Основное удобство использования введённых коэффициентов перемешивания состоит в том, что при рассмотрении вместо поля X поля {fi(Xi), і Є Zd}, где {/і, і Є %d} - неслучайные измеримые функции, значения соответствующих коэффициентов перемешивания могут только уменьшиться. Некоторые коэффициенты перемешивания, например, коэффициент линейной корреляции (см. [46]), не удовлетворяют этому свойству.
Напомним, поле X называется m-зависимым, если для любых двух подмножеств Гі,Г2 С Zd таких, что р(Гі,Г2) ^ га, следует независимость сг-алгебр о-х(Гі) и <тх(Г2). Примером последовательности случайных величин, которая является m-зависимой, но не (га — 1)-зависимой, служит процесс скользящего среднего Х( = сцєі Ч h атЄі-т+і, где {єп}пе% - по следовательность независимых случайных величин, (ai,... ,am) - ненуле вая последовательность действительных чисел.
Процесс X называется эе&.т-перемешивающимся, если Ит^-юо ^кт(п) = 0. Связь между введёнными типами перемешивания и зависимости можно изобразить следующей схемой: m-зависимость а^ оо-перемешивание
4 ' if
0с»,оо-перемешивание =Ф- )00-перемешивание => ^оо.оо-перемешивание
В этой схеме отражены лишь те коэффициенты перемешивания, которые рассматриваются в диссертации, однако, существуют и другие коэффициенты перемешивания, например, коэффициент максимальной корреляции, изучавшийся А. Н. Колмогоровым и Ю. А. Розановым.
Результат [48] показывает, что Дх))00-перемешивание случайного строго стационарного поля на Zd эквивалентно т-зависимости.
Существуют примеры из статистической физики, см., например, [16], которые свидетельствуют о том, что требование <>оо)00-перемешивания также является слишком ограничительным.
Имеет место следующий интересный факт. Если для «оо^-перемеши-вающегося гауссовского стационарного процесса не выполнено условие га-зависимости, то для него также не выполнено условие ^7оо,оо-перемешивания (см. 2.1 в [62]). Существует пример стационарного гауссовского процесса, который является аоо,оо-перемешивающимся, но не удовлетворяет условию Ах>,оо-перемешивания (см. [19]).
В работе [49] показано, что для строго стационарных случайных полей, кроме очевидных неравенств а^к(п) < &к)0О(п) и ак,к(п) ^ &к,к(п + 1), существует не так уж много соотношений между коэффициентами перемешивания схк,т(п)- Отметим, что эти коэффициенты с ростом п могут вести себя как любая наперёд заданная невозрастающая числовая последовательность. В работе [9] дан пример случайного поля X, для которого lim„_>oo (Xk,m(n) = 0 При ВСЄХ КОНеЧНЫХ к, ТП И «оо.оо^) = 1/4.
Пример ^о^оо-перемешивающейся последовательности случайных величин может быть построен (см. [2]) при помощи представления числа из единичного отрезка в виде непрерывной дроби. В работе [47] содержится ряд примеров строго стационарных последовательностей зависимых случайных величин, для которых коэффициенты аоо.оо и ^00,00 эквивалентны.
Важно упомянуть результат М. И. Гордина о том, что последовательности перемешивающихся случайных величин могут быть аппроксимированы последовательностями мартингал-разностей, подробное изучение этого вопроса см., например, в [96].
Наряду с перемешиванием для описания зависимости случайного поля используется понятие ассоциированности, см., например, [7, 53]. Зависимость ассоциированного случайного поля описывается с помощью ковари-аций функционалов от удаляющихся бесконечных наборов, образованных элементами случайного поля. Отметим, что не каждое ассоциированное случайное поле обладает перемешиванием и обратно. Эти два подхода для описания зависимости случайных систем взаимно дополняют друг друга и представляют удобные инструменты для исследований.
Во многих ситуациях предпочтительнее рассматривать зависимость между ограниченным и бесконечным наборами элементов случайного поля, когда расстояние между ними растёт. В дальнейшем при изучении асимптотических свойств случайных полей в качестве мер зависимости нами будут рассматриваться коэффициенты перемешивания эе&)0о> к = 1,2, то есть в формуле (1) в качестве Гі будут вовлечены лишь одноточечные и двухточечные подмножества ЪА.
Поясним почему вопрос о получении предельных теорем для перемешивающихся величин весьма тонок. Хорошо известно, что для независимых одинаково распределённых величин с конечной (ненулевой) дисперсией справедлива центральная предельная теорема (ЦПТ). Оказывается, "внесение" в условия этой теоремы сколь угодно малой зависимости может нарушить ЦПТ, как показывают результаты [14, 74].
Имеющиеся работы С. Н. Бернштейна, И. А. Ибрагимова, Ю. В. Линийка, Ю.А. Давыдова, М.И. Гордина, А. В. Булинского, И. Г. Журбенко, П. Дукана, И. Рио, П. Масара, Дж. Дедекера и ряда других авторов содержат результаты о нормальном приближении [б, 8, 17, 52, 54, 59, 63], принцип инвариантности для эмпирических процессов [58, 64, 84], свойства ядерных оценок регрессионных функций [15, 99], моментные неравенства для случайных последовательностей [1, 56], результаты об экстремумах функции регрессии [81, 100].
Пусть X = {Хі,і Є Щ является стационарной последовательностью случайных величин с нулевым средним и конечной дисперсией. Обозначим Sn = ]СГ=і^- Одип из способов (см. [13, 96]) доказательства асимптотической нормальности n~ll2Sn состоит в том, чтобы аппроксимировать Sn последовательностью мартингал-разностей и затем воспользоваться ЦПТ из [41]. При этом необходимо предполагать эргодичность последовательности X и сходимость n~1Var(5'ri) -> а2 > 0 при п —> со.
К сожалению, для изучения стационарных полей этот подход не применим, поскольку возникающие естественным образом cr-алгебры устроены значительно сложнее, чем в одномерном случае. Установление многих предельных теорем для случайных полей основано на методе Стейна [90].
В работе [42] методом Стейна была доказана ЦПТ при условиях зависимости, предполагающих степенное стремление к нулю коэффициентов <2i,oo(n) и а?2,2(п), когда п -» со. Использование ограничений на коэффициент 0*2,2 связано с тем. что для оценки величин, возникающих при использовании метода Стейна, приходится требовать или существование моментов более высоких порядков, чем второй, или вводить дополнительные коэффициенты перемешивания.
Установить ЦПТ для стационарных случайных полей при существовании моментов лишь второго порядка и условии перемешивания в терминах только коэффициента ai)00 удалось Дедекеру. Доказательство основано на развитии идеи Рио ([87]), относящейся к обобщению метода Линдеберга на случай стационарных случайных полей и использовании новых ковариационных неравенств. Чтобы привести формулировку результата [55], нам понадобятся некоторые дополнительные обозначения.
Удобно считать действительное случайное поле X заданным на вероятностном пространстве (Rz , Q3Z , Р), как тождественное отображение X : Rz" -> Rz* и Х{ : Rz" -> R, Х((си) = ш{ для всех и Є Rz". Определим для каждого к Є Zd оператор сдвига Тк : Rz —> Rz такой, что г'-ая координата его образа равна [T&(u;)]j = щ+к, для всех ш Є Rz . Множество А Є 93 z называется инвариантным, если Тк(А) = А для любых к Zd. Наименьшую сг-алгебру всех инвариантных множеств обозначим 3. Случайное поле X называется строго стационарным, если Т^ о Р = Р для всех kZd.
Пусть Г С Zd, положим дГ = {і Є Г : 3j . Г такое, что \ъ — j\ = 1}.
Если Г - конечное подмножество Zd, то обозначим 5(Г) = Х)гєг^'- Введём семейство (Гп)пем конечных подмножеств Zd, удовлетворяющих соотношениям lim ЦГП = +оо и lim (ИГпГ^аГп) = 0. (2)
Напомним, что согласно Ь2-эргодической теореме (см. [12]) последовательность (рГп)_15(Г„) сходится к условному математическому ожиданию Е(Хор)вЬ2.
Приведём теперь результат для перемешивающихся случайных величин, полученный Дедекером.
Теорема 0.1((55]). Пусть X - строго стационарное центрированное случайное поле и EXq < со. Рассмотрим следующие условия:
22 Q2Xo{u)du <оо, (3) здесь QXo(u) = inf{t: Р(|Х0| > t) ^ и} и
5] >1,оо(|*|) < оо. (4)
Пусть справедливо или условие (3), или условие (4), тогда имеет место сходимость (}jrn)-1/2S(rn) -^- Єу/rj, где є ~ N(0,1) не зависит от ц = DjfceZdEP^AP)-
В работе [55] теорема 0.1 получается как следствие более общей ЦПТ, в которой условия зависимости выражены в терминах следующего проекционного критерия: ^\ХкЩк\(Хо)\еЬ\ (5) где %(Х0) = E(X0|a{vf!}), V? = {j Є Zd : j <lex 0}, Jtf = V} П {j Є Zd : \i — j\ ^ г} для і ^ 2, ex обозначает отношение лексикографического порядка между элементами из Ъй'. Утверждение теоремы 0.1 останется верным, если условие (3) или (4) заменить на (5).
Отметим, что случайная величина e^/rj, возникающая в слабом Пределе, не является гауссовской, в отличие от случая когда предполагается эргодичность, то есть независимость сг-алгебр <т(Хо, Xk) и 3 для всех к Є Ъл. Если дополнительно к условиям теоремы 0.1 предположить сходимость к нулю коэффициента 0:2,2, то слабым пределом в утверждении теоремы будет являться нормальная величина с дисперсией г) = X)fcezd^P^o-Xfc)- Как следствие, из теоремы 0.1 получается результат Болтхаузена [42].
После доказательства ЦПТ естественно возникает вопрос о получении плотности процессов частных сумм, индексированных множествами. Глава 1 в основном посвящена изучению вопроса о плотности (теорема 1.1) процессов, индексированных множествами. В разделе 1.2 рассматриваются сглаженные процессы частных сумм, которые определяются на подклассе Л всех борелевских подмножеств единичного куба Iі следующим образом: Zn{A) = n-d'2 Y, bnj{A)Xj, А є Л, n Є N, (6) где для j = (ju ..., jd) единичный куб Cj = (ji - 1, ji] X (jd - l,jd]} bnj(A) = \(nA)C)Cj\ и nA = {nx,x Є А}. Заметим, что в (6) лишь конечное число слагаемых отлично от нуля.
Множитель bnj (А) в соотношении (6) введён для того, чтобы при доказательстве плотности процессов {Zn(A) : А Є Л} не возникали граничные условия на множества из Л (например, их гладкость). Как было замечено в [29], когда Л - класс Вапника-Червоненкиса ([30]), для справедливости принципа инвариантности множители bnj(A) в (6) можно не писать. В некоторых приложениях процессы ndl2Zn{A) рассматриваются как случайные меры множества А. А именно, если каждому j-ому узлу решетки Zd приписать случайную массу Xj, то мера множества А будет определяться как сглаженная сумма масс узлов решетки, попавших в расширение пА.
Отметим, что, когда d = 1 и Л - класс множеств (0}t],t Є [0,1], траектории процесса Zn(A) представляют собой классические непрерывные случайные ломаные с узлами (г'/n, Si/^/n), г = 0,..., п. Сходимость распределений этих случайных ломаных к мере Винера впервые была установлена Донскером для независимых одинаково распределённых случайных величин.
Пусть Л - замыкание Л по псевдометрике cIl(A, В) = \ААВ\, А, В Є Л. Скажем, что имеет место слабый принцип инвариантности, если процессы Zn сходятся по распределению в пространстве С(Л) к процессу y/rjZ при п -> со, где Z - стандартное броуновское движение, не зависящее от случайной величины г). Под упомянутым броуновским движением Z понимается центрированный гауссовский процесс с траекториями из С{Л) такой, что E(Z(A)Z(B)) = \АПВ\ для А, В Є Л. Существование процесса Z установлено в [66] при условии сходимости (которое является в определённом смысле оптимальным) следующего энтропийного интеграла / (e~1\ogN(e^)dL)) de < со, (7) где N(e,A,dL) - наименьшее число открытых шаров радиуса є (в псевдометрике di), образующих покрытие семейства Л. При введённом выше энтропийном условии (7) видим, что Л - компакт и, следовательно, С(Л) -сепарабелыюе пространство.
Асимптотическое поведение процессов {Zn(A) : А Є Л} исследовалось в ряде работ, см., например, [10, 31, 55]. При этом основные мотивы изучения подобного рода объектов связаны с вопросами возникающими при изучении гиббсовских случайных полей.
В случае независимых случайных полей установление предельных соотношений для процессов, индексированных множествами связано, прежде всего, с именами К. Александра, Р. Пайка и Р. Басса, см. [29, 31, 35, 37]. В работе [36] получены закон повторного логарифма и принцип инвариантности для схемы серий независимых случайных величин. Для этого используется результат Скорохода о вложении любой последовательности независимых центрированных случайных величин в броуновское движение. Необходимые и достаточные условия для справедливости принципа инвариантности, когда Л - класс Вапника-Червоненкиса, найдены в [29].
С точки зрения дальнейшего обобщения (см., например, теорему 1.1 и [56]) на случай полей с перешиванием ключевыми являются методы, применяемые в работах [31, 35]. Доказательство плотности семейства распределений Zn основано на установлении сходимости по вероятности к нулю верхней грани абсолютных значений процессов Zn{A) по всем множествам А малой меры, принадлежащих определённому классу. Для этого сначала нужно воспользоваться ограниченностью вполне класса множеств, которому принадлежит А, чтобы построить конечную є-сеть этого класса множеств. Таким образом верхняя грань сведётся к сумме максимумов по конечным наборам множеств из є-сети и верхней грани по всем разностям множеств А и их лучшим приближением из є-сети. Каждое из полученных слагаемых оценивается с помощью неравенства Бернштейна. Вкратце описанный метод, называемый методом метрической энтропии (metric entropy) или цепной реконструкции (chaining), был использован в работе [35] при получении плотности распределений и доказательства функционального закона повторного логарифма для процессов Zn. Основная идея доказательства плотности в статье [31] состоит в приближении исходного процесса некоторым гауссовским процессом так, чтобы их разность, в определённом смысле, была мала. Для этого используются симметризация, усечение, аппроксимация процессами, принимающих дискретные значения, и неравенство Бернштейна. Главное отличие методов получения плотности процессов {Zn(A) : А Є Л} в работах [31, 35] состоит в том, что в [35] процедура усечения величин Xj проводится на каждом этапе цепной реконструкции, тогда как в [31] процедура усечения проводится один раз в самом начале доказательства. Отметим, что результаты работ [31, 35] потребовали привлечения энтропийного условия с включением, которое является более ограничительным, чем (7). А именно, предполагается сходимость интеграла f (s-^(e))1/2^
Как показано в диссертации [77], ограничение на энтропию с включением класса А в (8) существенно для справедливости принципа инвариантности, устанавливаемого в работах [31, 35] для независимых случайных полей из L2. А именно, при замене условия (8) на (7) семейство процессов Zn перестаёт быть плотным в С {А).
В работе [56] для строго стационарных центрированных случайных полей X, зависимость которых выражается в терминах одного из коэффициентов aii00, <>i)00 или v?2,oo> получена плотность семейства {Zn{A) : А Є А] в трёх ситуациях: класс А состоит из параллелепипедов [0,t] = [0,t\] х ... [0,dj, t Є Id, и Е|Хо|р < со при некотором р > 2; класс А удовлетворяет энтропийному условию (7) и Xq - ограниченная величина;
3) для класса А выполнено энтропийное условие (8) и EXq < оо. Плотность семейства {Zn(A) : А Є Л}, установленная в [56], вместе с предыдущим результатом [55] о сходимости конечномерных распределений процессов 5(ГП) и предположением о регулярности множеств класса А приводят, в силу фундаментальной теоремы Прохорова, к принципу инвариантности. Как было показано в работе [78], из условий теоремы 0.1 не следует плотность. А именно, для любого р > 0 построены строго стационарное центрированное случайное поле X такое, что Е|Хо|р < оо и К(Хо\а{Хк,к ф 0}) = 0, а также семейство множеств Л, удовлетворяющее (8), для которых плотность семейства распределений {Zn(A) : А Є А} не имеет места. Таким образом, для установления плотности процессов Zn условие (5) должно быть усилено. Сформулируем основные результаты статьи [56].
Теорема 0.2([56]). Пусть X - строго стационарное поле центрированных случайных величин. Предположим, что Е|Хо|р < со при некотором p> 2 и существует є > 0 такое, что сходится ряд ^^-Voo"W Тогда семейство процессов {Zn([0, ]) : t Є Id} плотно в пространстве непрерывных функций, заданных на {[0, i] : t Є Id}. Согласно результату [14, 74], условие Е|Х0|Р < со, р > 2, по существу, когда зависимость поля выражается в терминах перемешивания. Действительно, в [74] дан пример сильно перемешивающейся стационарной последовательности случайных величин с произвольно быстрым убыванием коэффициентов перемешивания такой, что ЕХд < со и ЦПТ не имеет места. В случае d = 1 в работе [59] установлено, что теорема 0.2 останется верной, если условие (9) ослабить, положив є = 0. Теорема 0.3([5б]). Пусть X - строго стационарное поле, состоящее из ограниченных и центрированных случайных величин. Пусть класс множеств А удовлетворяет энтропийному условию (7). Предположим также, что сходится ряд X^"Vl,oo(fc) Тогда семейство процессов {Zn(A) : А Є А} плотно в пространстве С(А). В [77] установлено, что теорема 0.3 перестаёт быть справедливой, если предположение об ограниченности величин Х{ заменить на существование абсолютных моментов любого порядка. Теорема 0.4([56]). Пусть X - строго стационарное центрированное поле. Пусть энтропия с включением семейства А удовлетворяет соотношению (8). Предположим, кроме того, что справедливо одно из следующих условий: (і) ех04 < со и Efcxj^'WM < ; (ii) Е|Хо|р < со при некотором р>4и <^2,со(&) = 0(к~р-2). Тогда семейство процессов {Zn(A) : А Є А} плотно в пространстве С (А). Вопрос о том, насколько близки предполагаемые в теореме 0.4 условия зависимости к оптимальным, остаётся открытым. В разделе 1.2 (см. также [24]) доказана плотность семейства процессов {Zn(A) : А Є А] для рандомизированных случайных полей, зависимость которых определяется в терминах коэффициентов /?і)7П, т Є N. Процедура рандомизации поля X состоит в его замене на поле єХ, где є - поле Радемахера, не зависящее от X. Напомним, что поле Радемахера є определяется как поле, образованное независимыми случайными величинами, принимающими значения 1 и —1 с равными вероятностями. Таким образом, для класса рандомизированных полей в теореме 1.1 удалось получить плотность процессов Zn при ограничениях, требующих существования некоторого абсолютного момента строго больше второго порядка, условии перемешивания более слабом, чем в теореме 0.4, и условии на энтропию семейства Л близком к (8). В случае решётчатого поля условия зависимости могут быть сформулированы в терминах коэффициентов перемешивания <*i,m, m Є N. Заметим, что в случае рандомизированных случайных полей выполнено равенство К(Хо\сг{Хк, к ф 0}) = 0, которое в случае стационарного поля X влечёт сходимость конечномерных распределений Zn, однако, как было сказано выше, не гарантирует плотность семейства Zn. Также важно отметить, что в теореме 1.1 нами не предполагается строгая стационарность поля X, а требуется лишь одинаковая распределенность элементов случайного поля X. Для доказательства упомянутого результата метод работы [31] обобщается на слабо зависимые поля с помощью, так называемой, техники реконструкции (см., например, [62, 1.2.2]), основанной на результате статьи [39]. Кроме того, применяются различные усечения исходных величин, должные аппроксимации элементов класса Л, а также различные максимальные неравенства. Наряду с вопросом об оптимальности первого индекса в коэффициенте перемешивания <^2,оо для справедливости результата о плотности процессов Zn, возникает также вопрос об оптимальности оо во втором индексе этого коэффициента перемешивания. Ответ на этот вопрос содержится в разделе 1.3 (см. также [23]). Оказывается (теорема 1.7), что процессы частных сумм, индексированные параллелепипедами [0, ], Є Id, плотны в пространстве D[0, l]d при существовании абсолютных моментов порядка строго большего 2d и условии перемешивания, выраженном только в терминах коэффициента ot2d,2d- Иначе говоря, учитывается зависимость между двумя а-алгебрами, порождёнными лишь конечными наборами случайных величин. Упомянутые процессы частных сумм, индексированные параллелепипедами, определяются следующим равенством Zn(t)=n-d/2S{nUtDZd), где t = (tu ..., td) Є Id, Ut = (0, *i]x,..., x(0, td]. В теореме 0.2 для установления аналогичного результата налагаются ограничения на коэффици- ент qji)00) то есть учитывается (г-алгебра, образованная бесконечным набором случайных величин. При определении процессов Zn(t) мы не использовали сглаживание в силу того, что индексирующие множества П^, є /d, образуют класс Вапника-Червоненкиса, и в этом случае, как было замечено в [29], для справедливости плотности сглаживание не требуется. Результат теоремы 1.6 о плотности процессов Zn(t) получен без предположения о стационарности даже одномерных распределений поля X. В теореме 1.7 устанавливается результат аналогичный теореме 1.6 при условиях зависимости, формулируемых в виде неравенств для ковариаций степеней порядка 2d+2 исходных величин. Для установления этого результата о плотности распределений используется техника, аналогичная [51], где доказан принцип инвариантности для положительно зависимых величин, а также моментные неравенства для сумм зависимых мультииндексированных величин, полученные в [1] и [62]. Теория суммирования случайных процессов и полей находит широкое применение при изучении асимптотического поведения статистических оценок различных величин. В Главе 2 исследуются непараметрические оценки, они не требуют такой точной спецификации статистической модели, как в параметрическом случае, однако, как правило, имеют более медленную скорость сходимости. Обратимся к классической задаче оценивания неизвестной плотности наблюдений. Пусть данные Х\,... ,Хп - независимые одинаково распределённые случайные векторы со значениями в Ш1, имеющие общую плотность распределения р. Оценка плотности есть последовательность pi, р2,..., где рп(х) = Рп(х, Х\,..., Хп) является действительнозначной борелевской функцией своих аргументов при каждом п и плотностью на Rd при фиксированных n,Xi,..., Хп. Для определения степени аппроксимации обычно (см. [15]) выбирают L1-расстояние Jn = /Rd \pn(z) — p(z)\dz, выбор которого мотивируется тем, что оно инвариантно относительно монотонных преобразований координатных осей и всегда определено. Все оценки плотности основаны на теореме Лебега о плотностях (см., например, [21, с.387]): WJo(x,h) \0{x,h)\ для почти всех х, где 0(х, h) - замкнутый шар радиуса h с центром в точке х. Выражение под знаком предела в левой части (11) равно Р(ХіЄО(ж,Л))/|0(я?,Л)|, так что его можно аппроксимировать величиной М') = ±±К{*^), (12) где h = hn - последовательность положительных чисел (или последовательность локализующих окон) и К - борелевская функция (ядро), удовлетворяющая условиям К ^ О, fRd K(z) dz = 1. Ядерная оценка (12) плотности была введена Розенблатом и Парзеном ([83, 88]). Объектами изучения главы 2 данной диссертационной работы будут ядерные и связанные с ними оценки. Результат работы [60] состоит в том, что для ядерной оценки все типы сходимости Jn к 0 эквивалентны между собой и равносильны следующим соотношениям на параметр сглаживания h : lim hn = 0, lim n(hn)d = со. (13) п-їоо п-Лоо Таким образом, для того чтобы ядерная оценка обладала хорошими асимптотическими свойствами, естественным представляется выбор последовательности локализующих окон, исходя из условия (13). В работе [61] показано, что ни для какой сколь угодно сложной оценки величина E(Jn) не может убывать с некоторой заданной скоростью при любых р. Асимптотическое разложение ошибки Е( Jn) (при d = 1), найденное в [15, теорема 5.1] для некоторого класса плотностей с хорошими свойствами, влечёт убывание величины E(Jn) со скоростью п-2'5, если последовательность hn выбрать пропорциональной п-1/5. В случае ядерной оценки при выборе ядра Бартлетта (см. [34]) 3(1 - х2)/4ЩхЫ1 (для которого fRK2{z)dz = 3/5 и fRz2K(z)dz = 1/5) справедливо К = (\f f ^dz/ I \p"(z)\dz)2/5n-^. (14) К сожалению, последовательность hn, определяемая в (14) представляет в основном теоретический интерес, поскольку содержит в качестве множителей неизвестную плотность р. Однако найденное асимптотическое разложение величины E(Jn) обосновывает выбор последовательности локализующих окон пропорциональной п-1/5. В дальнейшем при изучении асимптотических свойств ядерных оценок помимо условий (13) нами будет предполагаться ещё и условие lim^oo nh^ < оо. На практике уместно использовать, так называемые, адаптивные оценки (см [15, с. 155]), когда параметр сглаживания является функцией от данных, то есть hn = h{n,X\,... ,Хп). Зависимость от х не допускается, так как в этом случае могут получаться оценки, не являющиеся плотностями в Rd. Вопрос практического выбора оптимальной последовательности hn весьма тонок и не разрешим для всех типов плотностей. Поэтому при изучении асимптотического поведения различных ядерных оценок часто не указывается конкретный выбор hn, а предполагается, что почти наверное с\тп ^ hn ^ С2Тп, где 0 < с\ ^ С2 < со и тп - детерминированная числовая последовательность, причём lim тп + {птп)~1 = 0 и lim пт^ < со. п—Юо п-Юо В разделе 2.1 устанавливается асимптотическая нормальность, так называемой, регрессионной ядерной оценки, возникающей при изучении следующей модели. Пусть S = {(Xf, Yi),i еЩ - строго стационарная последовательность случайных элементов, где Х{ - векторы в Ed, a Yi принимают значения в R. Пусть последовательность S удовлетворяет регрессии У{ = т(Х{)+{, (15) где т - неизвестная функция, {єі, і gZ} - последовательность центрированных случайных величин, не зависящая от {Хі,і Є Щ. Требуется построить асимптотически нормальную оценку т функции т. Как нетрудно видеть, из равенства (15) следует, что т(х) = K(Yi\Xi = х) для всех х Є Rd и і Є Ъ. В работах Надарая [82] и Ватсона [97] независимо была предложена следующая ядерная оценка функции т : Pn,h[X) Эмпирический процесс Надарая-Ватсона тП]/, является широко изучаемым объектом, см., напр., [43], [84], [99]. Одной из причин этого изучения является то, что многие методы финансовой математики, такие как оценивание опционов или управление портфелем, построены на дискретных непараметрических моделях со стохастической волатильностыо. Пусть St обозначает цену акции в момент времени t(t = 1,..., п). Подход Блэка-Шоулса к оценке опционов с дискретным временем основан (см. [72]) на моделировании log St винеровским процессом со сносом fj, и волатильностыо at : Rt = /і + fftyt и log(<7t) = m(log( Для предсказания развития возвратов Rt необходимо построить оценку функции т на основе наблюдаемых прошлых данных - цен актива St или возвратов Rt, которые связаны с at соотношением (17). Использование непараметрических оценок функции т обсуждается в [69]. Следуя [89], введем обозначения 6 = 1/2 \og{Rt - //)2 - E(log М) and et = log \yt\ - E(log \yt\). Тогда видим & = m(&_i - et-i) +Vt + et. (18) Взяв условное математическое ожидание в равенстве (18) относительно события {\og(at-2) = х}, ж Є К, получаем т(х) = Е(&|&-і — et-i = х). В Предыдущих обозначениях (Х(,У{) == (& — 6"i,i+l)- Процесс гаП)/і сводится к суммированию схемы серий случайных величин, поэтому изучение предельных свойств оценки Надарая-Ватсона, введённой в (16) связано с установлением ЦПТ для схемы серий. В работе [100] для последовательности (X, Y), образованной из независимых величин, используя ЦПТ Ляпунова, получена асимптотическая нормальность оценки Надарая-Ватсона. Преимущество (в сравнении с результатом [44]) подхода, который используется в статье [100], состоит в том, что требуется существование абсолютного момента строго больше второго порядка и налагаются лишь локальные в точке х ограничения (такие как дифференцируемость) на функции m(z), E(Y2\X = z) и p(z). Однако, как показывает практика, не всегда корректно, например, при моделировании фондового рынка предполагать независимость последовательности Е. В теореме 2.1 получена, в частности, асимптотическая нормальность rhn,h для последовательности S, зависимость которой выражена в терминах коэффициента aij00-Кроме того, используются предположения лишь о локальном поведении регрессионной функции в окрестности точки х. Показано, каким образом следует выбирать последовательность локализующих окон hn в соответствии с коэффициентами перемешивания, чтобы ядерная оценка имела хорошие вероятностные свойства. Во многих прикладных задачах (например, при оценке величины риска) требуется оценка регрессионной функции m не только в произвольной точке гс, но и в той точке в, где достигается её максимум. Кроме того, представляет интерес непараметрическая оценка величины в = argmax{m(:r),x Є I}, аргумента максимума функции т на некотором отрезке /, где он существует и единственен. Изучению этого вопроса посвящен разделе 2.3. В качестве оценки в берётся любая последовательность вщ^ на которой достигается максимум функции тП)/1(гс) на отрезке /. В силу непрерывно-сти ядра К и компактности множества / оценка вп^ определена корректно. Последовательность тп>п(вП!ь) будет использоваться как оценка величины т{в). Естественно возникает вопрос об измеримости величин вп^. Вообще говоря, эти величины не обязаны быть измеримыми. В [73] был предложен метод построения последовательности измеримых величин 9n>h, удовлетво-ряющих равенству fhn,h{Qn,h) — ніаха;Є7тП)й(а;). Однако, можно поступить иначе. В диссертации часто рассматриваются функции, заданные на Г2, которые не измеримы. Чтобы не беспокоиться о вопросе измеримости возникающих функций, нужно уточнить понятие слабой сходимости (как это было сделано в [65]). Скажем, что последовательность функций n : Q —> L слабо сходится к случайной величине : Q —> L, если для всех ограниченных непрерывных действительнозначных функций ф, заданных на L, где J* ф(1Р = inf{/ ф(1Р :ф^ ф,ф - ^"-измерима}. Описанный выше способ оценивания величин в и т(9) использовался ранее в работе [100], где изучалось асимптотическое поведение оценок 6nh и fhn,h{Qn,h) в предположении независимости последовательности наблюдений S. Целью раздела 2.3 является получение асимптотической нормальности оценки вщи и состоятельности оценки тПуи(9П}},) при условиях зависимости последовательности S, формулируемых только в терминах коэффициентов ipk,oo, к = 1,2. Кроме того, используются только локальные ограничения в окрестности точки в на поведения функций тир. Допускается, что последовательность hn может быть выбрана адаптивным образом, то есть иметь вид hn = /г(п, Si,..., Еп). Установление ЦПТ для оценки вп,н (теорма 2.6) потребовало доказательства пяти вспомогательных теорем и двух лемм. В этих вспомогательных утверждениях получены, в частности, асимптотическая нормальность ядерной оценки производных регрессионной функции и состоятельность оченки максимума регрессионной функции. Отметим, что существуют другие способы оценивания 0, например, в ра-боте [44] была предложена оценка вщь, как решение уравнения тп 1(9п,}і) = 0. Однако, в этом случае для получения состоятельности потребовались предположения о существовании и непрерывности первых производных функций тир на всей прямой. Естественное обобщение оценки Надарая-Ватсона приводит к условным эмпирическим процессам. Пусть, как и ранее, S = {(Х{, Yi), і Є Щ - строго стационарная последовательность случайных элементов, Х% векторы в Rd, а Yi теперь принимают значения в польском пространстве X. Введём регрессионную функцию F(f\x) = E(f{Y)\X = х), здесь / входит в некоторый класс J измеримых функций, отображающих X в R. Для статистической оценки F(f\x), следуя Надарая-Ватсону (см., например, [84]), используют величины ад*) = тк (^) /±к (^), (із) г=1 ^ ' / i=l ^ ' где формально полагают 0/0 = 0, ядро К(-) ^ 0 задано на Rd, h > 0 -параметр сглаживания, / 6 Э', х Є W1 и п Є N. Семейство процессов (19) может применяться для оценивания величин, которые представляют интерес с практической точки зрения: supE(YlYeC\X = х), supE(Y2IYec ~ E2{YlY&c)\X = х) .сєе СЄЄ Эти величины описывают, соответственно, среднее значение и среднеквадратичное отклонение случайной величины Y при попадании в наиболее вероятное множество из класса измеримых множеств С при условии X = х. Заметим, что условная эмпирическая мера получается, если в определении (19) величины Fn(f\x) положить / = 1с, где множество С принадлежит некоторому классу С измеримых множеств. В этом случае мы приходим к оценке условной меры Р(У Є С\Х = х). Легко усматривается сходство оценки Fn(f\x) с обычным эмпирическим процессом Fn(f) = 1Дг]Г]"=1/(Хг), установлению предельных закономерностей которого для зависимых величин уделено большое место в статистической литературе, см., например, [32, 58, 64, 79]. В недавней статье [58] установлен принцип инвариантности для эмпирических процессов в пространстве Z00^), состоящем из функционалов v, заданных на Э^ таких, что |H|j = sup^ej |^(/)| < со. При этом условие на перемешивание случайных величин {Хі, г Є Z} выражено в терминах коэффициента в отличие от предшествующих работ, где вовлекалась зависимость двух бесконечных наборов случайных величин, когда расстояние между ними растёт. Доказательство плотности семейства {y/n(Fn(f) — Е/(Хо)), / Є 3\f основано на технике цепной реконструкции, предложенной в работе [64], и использовании новых максимальных неравенств. Основным объектом изучения в разделах 2.1 и 2.2 является семейство процессов {vn{f), f Є J}, где un(f\x) = yJnhi{Fn{f\x) - F{f\x)). (20) Это семейство исследовалось в ряде работ (см., например, [92, 75, 40]) для случая, когда 2f - некоторый класс множеств и S - последовательность независимых одинаково распределённых случайных величин. Изучение условных эмпирических процессов представляет интерес, в частности, при описании множеств уровней условных распределений. Напомним (см. [84]), для а Є [0,1] множество Ме(а\х) Є С называется условным МІ^-множеством из семейства С соответствующее уровню а, если Ме(а\х) Є argmax{|C| : С Є Є, F(Ic\x) > a}. (21) Аналогично определяются условные множества Ме(а\х), если в формуле (21) величину F{-\x) заменить на Fn(-\x). Следующий процесс а н. yf^{\%(a\x)\ - |Ме(ф)|) может рассматриваться как условная версия обобщённого квантильного процесса, введённого в [68]. В работе [84] для перемешивающихся последовательностей S получен результат, показывающий скорость сходимости по вероятности этого процесса (так называемая, обобщённая аппроксимация Бахадура-Кифера). Установление упомянутого результата потребовало изучение асимптотического поведения процессов ип (Ic) в пространстве /(С), состоящем из функционалов и, заданных на С, таких, что Ці/Це = supCee |^(Яс)| < оо. При доказательстве плотности процессов vn возникают условия на энтропию семейства Є. В разделах 2.1 и 2.2 (см. [25, 27]) получены сходимость конечномерных распределений (теорема 2.1) и плотность семейства (теорема 2.5) {vn{f\x),f Є cF} в пространстве /00^). При этом зависимость между любым набором величин {Н^,... ,E,-t} (здесь 0 < п ^ ъ\ < < г'&) и а-алгеброй сг{Бі,г ^ 0} описывается коэффициентами akt0O{n) и ^,оо(^), введёнными нами ранее. Таким образом, в сравнении с работой [84] рассматривается более широкий класс индексирующих функций и ослабляются условия на перемешивание исходных данных S. Налагаемые условия имеют следующую особенность: чем слабее зависимы наблюдения Н, тем сложнее может быть устроен класс индексирующих финкций 3'. В последнем разделе 2.4 изучается асимптотическое поведение (теорема 2.10), так называемой, локально полиномиальной оценки (изучавшейся ранее в [70, 91]), частным случаем которой является оценка Надарая-Ватсона. Основное отличие упомянутых оценок состоит в том, что локально полиномиальная оценка позволяет учесть не только значения регрессионной функции m(z), но и её поведение (например, выпуклость) в окрестности точки х. Структура работы Работа, объёмом 100 страниц, состоит из введения, двух глав и списка литературы, насчитывающего 100 наименований. Первая глава содержит три раздела. В разделе 1.1 для полноты изложения, следуя работе [55], воспроизводится доказательство сходимости конечномерных распределений процессов частных сумм Zn. При этом, в условиях зависимости фигурируют только коэффициенты аі)00. В разделе 1.2 с помощью техники реконструкции и метода, предложенном в [31], доказывается плотность рандомизированных процессов частных сумм {Zn(A), Є Л} при условии зависимости, выраженном только в терминах коэффициентов /Зі оо. Таким образом, в случае симметризованных полей используются менее ограничительные условия, чем в работе [56], где для доказательства аналогичного результата были вовлечены коэффициенты <^2,оо- В разделе 1.3 устанавливается плотность процессов частных сумм в пространстве D[0,1] , когда зависимость поля описывается в терминах коэффициентов 2d,2d- Этот результат показывает неоптимальность равенства бесконечности второго индекса в коэффициенте ak,i при описании зависимости поля для справедливости плотности семейства процессов {Zn(t),t Є Id}. Вторая глава состоит из четырёх параграфов и, главным образом, посвящена изучению предельного поведения ядерных оценок. В разделе 2.1 (теорема 2.1) устанавливается сходимость конечномерных распределений условных эмпирических процессов {^п(/|ж),/ Є У}, а в разделе 2.2 (теорема 2.5) доказывается плотность этого семейства процессов. При этом, зависимость поля описывается в терминах коэффициентов перемешивания <*і,оо и <2,оо> соответственно. Таким образом, полученные результаты обобщают теоремы 2.2 и 2.3 из [84]. В разделе 2.3 изучаются (теорема 2.7 и 2.8) предельные свойства ядерных оценок производных от функций р(х) и т(х)р(х) и устанавливается (теорема 2.6) асимптотическая нормальность оценки argmax{m(rr), х Є /} в случае его существования и единственности на отрезке /СІ. В формулируемых условиях зависимости последовательности Н используются только коэффициенты у>2,оо- Эти результаты обобщают недавние результаты работ [99, 100]. Последний раздел 2.4 посвящен использованию методов, развитых в предыдущем разделе 2.1, для получения асимптотической нормальности локально полиномиальной оценки, когда зависимость последовательности S описывается только коэффициентами а\і00. Основные результаты диссертации опубликованы в работах автора [24, 23, 25, 26, 27]. Результаты диссертации докладывались автором на Всероссийском симпозиуме по прикладной и промышленной математике (Сочи, 2004 г.), конференции молодых учёных мехмата (МГУ, 2003), на Большом семинаре кафедры теории вероятностей мехмата МГУ (руков. член-корр. РАН, профессор А. Н. Ширяев) в 2006 г., а также на научном семинаре „Асимптотический анализ случайных процессов и полей" (руков. профессора А. В. Булинский, В. И. Питербарг). Автор благодарен своему научному руководителю профессору А. В. Бу-линскому за постановку задач, постоянное внимание к работе и ценные советы. Отметим, что случайная величина e /rj, возникающая в слабом Пределе, не является гауссовской, в отличие от случая когда предполагается эргодичность, то есть независимость сг-алгебр т(Хо, Xk) и 3 для всех к Є Ъл. Если дополнительно к условиям теоремы 0.1 предположить сходимость к нулю коэффициента 0:2,2, то слабым пределом в утверждении теоремы будет являться нормальная величина с дисперсией г) = X)fcezd P o-Xfc)- Как следствие, из теоремы 0.1 получается результат Болтхаузена [42]. После доказательства ЦПТ естественно возникает вопрос о получении плотности процессов частных сумм, индексированных множествами. Глава 1 в основном посвящена изучению вопроса о плотности (теорема 1.1) процессов, индексированных множествами. В разделе 1.2 рассматриваются сглаженные процессы частных сумм, которые определяются на подклассе Л всех борелевских подмножеств единичного куба Iі следующим образом: где для j = (ju ..., jd) единичный куб Cj = (ji - 1, ji] X (jd - l,jd]} bnj(A) = \(nA)C)Cj\ и nA = {nx,x Є А}. Заметим, что в (6) лишь конечное число слагаемых отлично от нуля. Множитель bnj (А) в соотношении (6) введён для того, чтобы при доказательстве плотности процессов {Zn(A) : А Є Л} не возникали граничные условия на множества из Л (например, их гладкость). Как было замечено в [29], когда Л - класс Вапника-Червоненкиса ([30]), для справедливости принципа инвариантности множители bnj(A) в (6) можно не писать. В некоторых приложениях процессы ndl2Zn{A) рассматриваются как случайные меры множества А. А именно, если каждому j-ому узлу решетки Zd приписать случайную массу Xj, то мера множества А будет определяться как сглаженная сумма масс узлов решетки, попавших в расширение пА. Отметим, что, когда d = 1 и Л - класс множеств (0}t],t Є [0,1], траектории процесса Zn(A) представляют собой классические непрерывные случайные ломаные с узлами (г /n, Si/ /n), г = 0,..., п. Сходимость распределений этих случайных ломаных к мере Винера впервые была установлена Донскером для независимых одинаково распределённых случайных величин. Пусть Л - замыкание Л по псевдометрике CIL(A, В) = \ААВ\, А, В Є Л. Скажем, что имеет место слабый принцип инвариантности, если процессы Zn сходятся по распределению в пространстве С(Л) к процессу y/rjZ при п - со, где Z - стандартное броуновское движение, не зависящее от случайной величины г). Под упомянутым броуновским движением Z понимается центрированный гауссовский процесс с траекториями из С{Л) такой, что E(Z(A)Z(B)) = \АПВ\ для А, В Є Л. Существование процесса Z установлено в [66] при условии сходимости (которое является в определённом смысле оптимальным) следующего энтропийного интеграла где N(e,A,dL) - наименьшее число открытых шаров радиуса є (в псевдометрике di), образующих покрытие семейства Л. При введённом выше энтропийном условии (7) видим, что Л - компакт и, следовательно, С(Л) -сепарабелыюе пространство. Асимптотическое поведение процессов {Zn(A) : А Є Л} исследовалось в ряде работ, см., например, [10, 31, 55]. При этом основные мотивы изучения подобного рода объектов связаны с вопросами возникающими при изучении гиббсовских случайных полей. В случае независимых случайных полей установление предельных соотношений для процессов, индексированных множествами связано, прежде всего, с именами К. Александра, Р. Пайка и Р. Басса, см. [29, 31, 35, 37]. В работе [36] получены закон повторного логарифма и принцип инвариантности для схемы серий независимых случайных величин. Для этого используется результат Скорохода о вложении любой последовательности независимых центрированных случайных величин в броуновское движение. Необходимые и достаточные условия для справедливости принципа инвариантности, когда Л - класс Вапника-Червоненкиса, найдены в [29]. С точки зрения дальнейшего обобщения (см., например, теорему 1.1 и [56]) на случай полей с перешиванием ключевыми являются методы, применяемые в работах [31, 35]. Доказательство плотности семейства распределений Zn основано на установлении сходимости по вероятности к нулю верхней грани абсолютных значений процессов Zn{A) по всем множествам А малой меры, принадлежащих определённому классу. Для этого сначала нужно воспользоваться ограниченностью вполне класса множеств, которому принадлежит А, чтобы построить конечную є-сеть этого класса множеств. Таким образом верхняя грань сведётся к сумме максимумов по конечным наборам множеств из є-сети и верхней грани по всем разностям множеств А и их лучшим приближением из є-сети. Каждое из полученных слагаемых оценивается с помощью неравенства Бернштейна. Вкратце описанный метод, называемый методом метрической энтропии (metric entropy) или цепной реконструкции (chaining), был использован в работе [35] при получении плотности распределений и доказательства функционального закона повторного логарифма для процессов Zn. Основная идея доказательства плотности в статье [31] состоит в приближении исходного процесса некоторым гауссовским процессом так, чтобы их разность, в определённом смысле, была мала. Для этого используются симметризация, усечение, аппроксимация процессами, принимающих дискретные значения, и неравенство Бернштейна. Главное отличие методов получения плотности процессов {Zn(A) : А Є Л} в работах [31, 35] состоит в том, что в [35] процедура усечения величин Xj проводится на каждом этапе цепной реконструкции, тогда как в [31] процедура усечения проводится один раз в самом начале доказательства. Отметим, что результаты работ [31, 35] потребовали привлечения энтропийного условия с включением, которое является более ограничительным, чем (7). А именно, предполагается сходимость. где Я (є) = logN1 (є, A,CLL) и Ni(e,A,db) обозначает минимальное число к 1, при котором существуют измеримые множества А{ \А\ , 1 г к такие, что для каждого А Є А найдётся некоторое г, при котором \Af] \ А\1]\ еи А\1] С AC Af\ Заметим, что N(e,A,dL) ІУ7(є,Л, ), поэтому условие (8) влечёт (7). Как показано в диссертации [77], ограничение на энтропию с включением класса А в (8) существенно для справедливости принципа инвариантности, устанавливаемого в работах [31, 35] для независимых случайных полей из L2. А именно, при замене условия (8) на (7) семейство процессов Zn перестаёт быть плотным в С {А). В работе [56] для строго стационарных центрированных случайных полей X, зависимость которых выражается в терминах одного из коэффициентов aii00, i)00 или v?2,oo получена плотность семейства {Zn{A) : А Є А] в трёх ситуациях: 1) класс А состоит из параллелепипедов [0,t] = [0,t\] х ... [0,dj, t Є Id, и ЕХор со при некотором р 2; 2) класс А удовлетворяет энтропийному условию (7) и XQ - ограниченная величина; 3) для класса А выполнено энтропийное условие (8) и EXQ оо. Семейство процессов (19) может применяться для оценивания величин, которые представляют интерес с практической точки зрения: Эти величины описывают, соответственно, среднее значение и среднеквадратичное отклонение случайной величины Y при попадании в наиболее вероятное множество из класса измеримых множеств С при условии X = х. Заметим, что условная эмпирическая мера получается, если в определении (19) величины Fn(f\x) положить / = 1с, где множество С принадлежит некоторому классу С измеримых множеств. В этом случае мы приходим к оценке условной меры Р(У Є С\Х = х). Легко усматривается сходство оценки Fn(f\x) с обычным эмпирическим процессом Fn(f) = 1Дг]Г]"=1/(Хг), установлению предельных закономерностей которого для зависимых величин уделено большое место в статистической литературе, см., например, [32, 58, 64, 79]. В недавней статье [58] установлен принцип инвариантности для эмпирических процессов в пространстве Z00 ), состоящем из функционалов v, заданных на Э таких, что Hj = sup ej (/) со. При этом условие на перемешивание случайных величин {ХІ, г Є Z} выражено в терминах коэффициента /?2,оо в отличие от предшествующих работ, где вовлекалась зависимость двух бесконечных наборов случайных величин, когда расстояние между ними растёт. Доказательство плотности семейства {y/n(Fn(f) — Е/(Хо)), / Є 3\f основано на технике цепной реконструкции, предложенной в работе [64], и использовании новых максимальных неравенств. Основным объектом изучения в разделах 2.1 и 2.2 является семейство процессов {vn{f), f Є J}, где Это семейство исследовалось в ряде работ (см., например, [92, 75, 40]) для случая, когда 2f - некоторый класс множеств и S - последовательность независимых одинаково распределённых случайных величин. Изучение условных эмпирических процессов представляет интерес, в частности, при описании множеств уровней условных распределений. Напомним (см. [84]), для а Є [0,1] множество Ме(а\х) Є С называется условным МІ -множеством из семейства С соответствующее уровню а, если Аналогично определяются условные множества Ме(а\х), если в формуле (21) величину F{-\x) заменить на Fn(-\x). Следующий процесс может рассматриваться как условная версия обобщённого квантильного процесса, введённого в [68]. В работе [84] для перемешивающихся последовательностей S получен результат, показывающий скорость сходимости по вероятности этого процесса (так называемая, обобщённая аппроксимация Бахадура-Кифера). Установление упомянутого результата потребовало изучение асимптотического поведения процессов ип (Ic) в пространстве /(С), состоящем из функционалов и, заданных на С, таких, что Ці/Це = supCee (Яс) оо. При доказательстве плотности процессов vn возникают условия на энтропию семейства Є. В разделах 2.1 и 2.2 (см. [25, 27]) получены сходимость конечномерных распределений (теорема 2.1) и плотность семейства (теорема 2.5) {vn{f\x),f Є cF} в пространстве /00 ). При этом зависимость между любым набором величин {Н ,... ,E,} (здесь 0 п ъ\ г &) и а-алгеброй сг{Бі,г 0} описывается коэффициентами akt0O{n) и ,оо( ), введёнными нами ранее. Таким образом, в сравнении с работой [84] рассматривается более широкий класс индексирующих функций и ослабляются условия на перемешивание исходных данных S. Налагаемые условия имеют следующую особенность: чем слабее зависимы наблюдения Н, тем сложнее может быть устроен класс индексирующих финкций 3 . В последнем разделе 2.4 изучается асимптотическое поведение (теорема 2.10), так называемой, локально полиномиальной оценки (изучавшейся ранее в [70, 91]), частным случаем которой является оценка Надарая-Ватсона. Основное отличие упомянутых оценок состоит в том, что локально полиномиальная оценка позволяет учесть не только значения регрессионной функции m(z), но и её поведение (например, выпуклость) в окрестности точки х. Работа, объёмом 100 страниц, состоит из введения, двух глав и списка литературы, насчитывающего 100 наименований. Первая глава содержит три раздела. В разделе 1.1 для полноты изложения, следуя работе [55], воспроизводится доказательство сходимости конечномерных распределений процессов частных сумм Zn. При этом, в условиях зависимости фигурируют только коэффициенты аі)00. В разделе 1.2 с помощью техники реконструкции и метода, предложенном в [31], доказывается плотность рандомизированных процессов частных сумм {Zn(A), Є Л} при условии зависимости, выраженном только в терминах коэффициентов /Зі оо. Таким образом, в случае симметризованных полей используются менее ограничительные условия, чем в работе [56], где для доказательства аналогичного результата были вовлечены коэффициенты 2,оо- В разделе 1.3 устанавливается плотность процессов частных сумм в пространстве D[0,1] , когда зависимость поля описывается в терминах коэффициентов 2d,2d- Этот результат показывает неоптимальность равенства бесконечности второго индекса в коэффициенте ak,i при описании зависимости поля для справедливости плотности семейства процессов {Zn(t),t Є Id}. Вторая глава состоит из четырёх параграфов и, главным образом, посвящена изучению предельного поведения ядерных оценок. В разделе 2.1 (теорема 2.1) устанавливается сходимость конечномерных распределений условных эмпирических процессов { п(/ж),/ Є У}, а в разделе 2.2 (теорема 2.5) доказывается плотность этого семейства процессов. При этом, зависимость поля описывается в терминах коэффициентов перемешивания і,оо и 2,оо соответственно. Таким образом, полученные результаты обобщают теоремы 2.2 и 2.3 из [84]. В разделе 2.3 изучаются (теорема 2.7 и 2.8) предельные свойства ядерных оценок производных от функций р(х) и т(х)р(х) и устанавливается (теорема 2.6) асимптотическая нормальность оценки argmax{m(rr), х Є /} в случае его существования и единственности на отрезке /СІ. В формулируемых условиях зависимости последовательности Н используются только коэффициенты у 2,оо- Эти результаты обобщают недавние результаты работ [99, 100]. Последний раздел 2.4 посвящен использованию методов, развитых в предыдущем разделе 2.1, для получения асимптотической нормальности локально полиномиальной оценки, когда зависимость последовательности S описывается только коэффициентами а\і00. Основные результаты диссертации опубликованы в работах автора [24, 23, 25, 26, 27]. Основными объектами изучения в настоящем параграфе будут сглаженные процессы частных сумм Zn(A), определённые формулой (6) для всех А из подкласса Л борелевских подмножеств куба Id. Далее будет применяться следующее условие на энтропию (с включением) семейства Л, являющееся несколько более жёстким, чем условие (8). Пусть для некоторой строго убывающей функции д(є), є Є (0,1], такой, что д(є) — со при є — 0+, сходится интеграл Назовём множества А, В Є Ъ([0, l]d) эквивалентными, если di(A, В) = О, а множество классов эквивалентности обозначим . Теоретико множественные операции на вводятся на представителях классов эквивалентности. Тогда йь - метрика на и (, db) - полное метрическое пространство. Так как процессы Zn имеют -непрерывные траектории, то их можно рассматривать непрерывными на . Условие (1.8) позволяет считать семейство А вполне ограниченным подмножеством (, d)- Получаем, что А - замкнутое и вполне ограниченное множество, а значит компакт. Следуя рассуждениям, аналогичным [2, с. 301], может быть показана сепарабельность и полнота пространства С {А). Заметим, что последнее обеспечивает плотность каждой вероятностной меры, заданной на С [А). Для доказательства плотности семейства вероятностных мер, заданных на С (А), необходимо и достаточно проверить справедливость условий теоремы Арцела-Асколи (см., напр., [2, с. 302]). Определим для семейства А экспоненту метрической энтропии г = inf{s 0 : log iVj(e, Л, dL) = 0(s s) при є - 0+}. Убедимся, что при г 1 энтропийное условие (1.8) выполнено. Действительно, по определению величины г имеем (- #(є))1/2 = 0(є-(3г+5 /8). Возьмём д(є) = є -1)/4, тогда при г 1, очевидно, сходится интеграл /0 д(є)є (3г+5М8(Іє. Значит условие (1.8) выполнено. Тем самым условию (1.8) удовлетворяют все классы множеств, рассмотренные в [31]. Приведём примеры некоторых из них. Для семейства Qd всех выпуклых множеств из Id Дадли ([67]) показал, что г = (d — 1)/2. Теперь, пусть J(k,d,M), при к О, М 0, обозначает класс множеств, у которых границы являются образами отображений (d— 1)-мерной сферы на Id, причём это отображение есть диффеоморфизм, имеющий все частные производные порядка к равномерно ограниченные константой М. В этом случае г = (d — ї)/к (см. Дадли) и, кроме того, г 1, если d к + 1. Таким образом, с ростом размерности d порядок гладкости к должен также возрастать. Большой класс семейств множеств включают, так называемые, классы Вапника-Червоненкиса, для них г = 0. В качестве примеров таких классов множеств приведём семейство 9d m многогранников в I , имеющих не более чем т вершин; и Ed - семейство всех эллипсоидов в Id. Теорема 1.1. Пусть поле X является симметричным и образовано одинаково распределёнными случайными величинами (св.) Xj. Пусть А - семейство множеств из [0, l]d, удовлетворяющее энтропийному условию (1.8). Кроме того, пусть выполнены следующие условия (a) EAos со при некотором s 2; Тогда семейство распределений процессов Zn = {Zn(A) : Л Є А} плотно в пространстве С (А). Заметим, что /2г(є) и /2т(є)/д(є) растут со степенной скоростью к бесконечности, когда -4-0- Таким образом, условие зависимости (Ь) предполагает лишь степенную скорость убывания к нулю коэффициентов Рх(п, 1) тп(п)) при п — оо. В статье [55] сходимость конечномерных распределений процессов Zn установлена при условиях, учитывающих а-зависимость лишь тх({і}) и сгх(Г), где р({ },Г) п,п Є N. В то же время условие плотности распре-делний процессов Zn в С(А) использует зависимость crx{{hj}) и "х(Г)і где p({i,j},T) п, п Є N (см. теорему 0.4). В теореме 1.1 получены достаточные условия плотности распределений Zn в терминах коэффициентов вида /?x(n, 1,т) (или ах(п, 1,т) в случае решётчатого поля X, см. теорему 1.2), то есть в (1) в качестве Гі не вовлечены двуточечные подмножества Ъл (а лишь Гі, имеющие Й(Гі) = 1). Разумеется, налагаются также ограничения на моменты поля X и на структуру класса А. В случае ограниченного (сверху или снизу) поля X коэффициенты гех и sex эквивалентны (гех = ае ), то есть рандомизация поля X (рассмотрение вместо него єХ, где є - поле Радемахера, не зависящее от X) делает его симметричным, но не ослабляет зависимость. Доказательство. Для каждого 5 0 рассмотрим семейство множеств Е8 = {А \ В : А, В Є Л и \А \ В\ 5}. Так как iV7(, Es,dL) Ni(e/2,A, di)2, то Е$ удовлетворяет условию (1.8). Следовательно, процесс Z является непрерывным на пространстве (Sj,di). Пусть /D = supx, \f(x)\ для любой действительной функции /, определённой на множестве D. Верхняя грань в Ее сводится к максимуму по конечному множеству функций с числом элементов меньшим или равным N(Jfc). Если д - любая функция, принадлежащая этому множеству, то для неё имеет место dp(g) 25к-1 и Halloo 2тпк-і. Тогда неравенство (2.47) приводит к оценке Завершим доказательство теоремы 2.5. Собирая вместе оценки Е$,г = 1,..., б, из неравенства (2.51) получаем Принимая во внимание определение Н. а также то, что t 1, имеем что вместе с (2.53), (2.42) и (2.43) завершает доказательство теоремы 2.5. Методом доказательства теоремы 2.3 из [29] в работе [84] была получена плотность семейства мер {vn(f\x),f Є У} в пространстве /00 ) при условии перемешивания atoo n) Ьп и условии метрической энтропии с включением H(5r, є, di(-)) є"ь для некоторого 6 Є (0,1), где 2r = {lie, С Є Є} и С - класс измеримых множеств в Rd, d 1. Эти условия включают зависимость двух сг-алгебр, порождённых бесконечными наборами св., в то время как наши условия Bl, В2 позволяют рассматривать одну из этих сг-алгебр, образованной парой св. Кроме того, мы предполагаем только степенную скорость убывания коэффициентов перемешивания. 2.3 Асимптотическая нормальность оценки аргумента максимума регрессионной функции Целью этого раздела является установление асимптотической нормальности непараметрической оценки аргумента максимума в регрессионной функции т(х) = E(Y\X = х), х Є К, где (X, У) - двумерная св., а Y - интегрируемая св. Для аппроксимации функции т(х) будет использоваться оценка Надарая-Ватсона тп (х). Как и ранее, предполагается, что наблюдения св. (X, Y) могут быть описаны строго стационарной последовательностью Н. Зависимость величин последовательности S будет измеряться с ПОМОЩЬЮ Коэффициентов Перемешивания OLk,oo{n) И Pk,oo(n)j к = 1,2. Доказательство основного результата параграфа опирается на ряд вспомогательных теорем, которые представляют самостоятельный интерес. Теоремы, полученные в настоящем параграфе, обобщают недавние результаты работ [99, 100], где были установлены аналогичные утверждения для независимых последовательносей Н. Нам потребуются равномерные по аргументу х из некоторого отрезка /СК оценки разностей р\(х)-р№)(х) и г \(х)— (х). При установлении этих оценок возникают дополнительные ограничения, отличные от А2 и А6, на выбор ядра К. Введём следующее условие. All. Ядро К интегрируемо, fRK(x)dx = 1, и существует непрерывная j-ая производная К с ограниченной вариацией на Ш. Причем limja-i oo \xl+lK {x)\ = 0 для всех I = 0,..., j. Отметим, что ограниченная вариация функции К на R предполагается для обеспечения хороших энтропийных свойств класса функций Изучение энтропийных свойств классов действительных функций инициировано работой [20]. Также об оптимальности требования ограниченной вариации, см., например, [33, 85]. Мы будем предполагать, что на некотором отрезке / существует и единственен максимум т{в) функции т(х). Более того, существует пара вложенных отрезков I С J, удовлетворяющая следующему требованию А12. Функция т(х) ограничена на «/, Зв Є / Ує 0 : т{в) supa.ej.a._ em(a:), т(х) непрерывна в точке в, р(х) отделима от нуля и ограничена на J. Введём оценку 0П)н величины в, как решение уравнения тщі бщь) = suPx/ п,н(х) Заметим, что вщи существует, если ядро К непрерывно. Вопрос об измеримости величин 0П)/і уже обсуждался во введении. Предполагается, если не оговорено противное, что последовательность h такова, что с\тп hn С2Тп, где 0 с\ сг со и тп -детерминированная числовая последовательность, причём тп —у 0, когда п - оо. Сформулируем основной результат данного раздела. Теорема 2.6. Пусть выполнено условие All при j = 0,1,2, К(х) = К{—х) и К{-) 0. Кроме того, предположим, что lim oo х3К(х) — 0, Нт ооХ4! )! = 0, fRx2K{x)dx оо, fRx3\K (x)\dx оо. Пусть справедливо условие А12, X)Li V2,oo(&) оо, и при некотором р 4 имеет место одно из следующих двух условий: Предположим, что функция Е(Уор о = х) является непрерывно дифференцируемой, функции т(х) и р(х) три раза непрерывно дифференцируемы, причём га(2)(0) 0, a \far(Y0\X0 = х) = Е((У0 - га(ж))2Х0 = х) непрерывна в некоторой окрестности точки в. Плотность р{х) ограничена на R. Совместное распределение (Xi,Xk), где к 1, имеет ограниченную на R2 плотность по мере Лебега. Пусть тп таковы, что пт% —у со и пт —оо при п — оо. Тогда имеет место слабая сходимость Доказательство. Согласно следствию 2.2, которое будет получено ниже, и условию А12, из которого вытекает, что функция р отделима от нуля на отрезке J, получаем, что рп С О при всех достаточно больших п на /. Учитывая это, а также то, что функция К два раза непрерывно дифференцируема на / (из условия All), заключаем, что функции mn два раза непрерывно дифференцируемы на I при всех достаточно больших гг.Сходимость конечномерных распределений процессов частных сумм
Плотность рандомизированных процессов частных сумм в пространстве С(Л)
Асимптотическая нормальность оценки аргумента максимума регрессионной функции
Асимптотическая нормальность локально полиномиальных оценок
Похожие диссертации на Принцип инвариантности для случайных процессов и полей с перемешиванием
