Асимптотические методы теории случайных процессов и полей в задачах непараметрической статистики тема автореферата и диссертации по математике, 01.01.05 ВАК РФ

МОСКОВСКИЙ ОРДЩД ЛИШИЛ | ОРДЕНА ОКТЯБРЬСКОЙ РЕВОЛЮЦИИ И ОРДЕНА ТРУДОВОГО КРАСНОГО ЗНАШШ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ 1Ш. Н.В.ЛОМОНОСОВА

Факультет енчислительной натеыатшш и кибернетики

На правах рукописи

Коиакоз Валентин Дггдгриспич

АС1ВДТОТИЧШШЕ МЯГОДЦ ТЕОРИЙ СЛУЧАИШХ ПРОЦЕССОВ И ПОЛЕЗ В ЗАДАЧАХ 1ШАРШгГРйЧЕСК0Я СТАТИСТИКИ

01.01.05 - Теорта вероятностей н ыатеыагнчаская стапгслша

Автореферат дассархацзн ва соискание учашЭ степаШ1 доктора фдггшо-ыатеыатичесаах науп

иоокьв - 1392

Работа выполнена в институте АН СССР

Центральном эконошко-матвматиче ском

официальные огаюнентц: доктор фгаико-математичэских наук,

профессор БЕЛЯЕВ Ю.К., доктор физика-математичзскпх наук, профессор ДАВЫДОВ Ю.А.. доктор физико-математических нвук, профессор ЧИБИСОВ Д.М.

11едущ».я оргшшзация: Институт проблем передачи информации АН СССР.

■ Защита диссертации состоится " ^ " .^щзъщ— в '— часов на заседании специализированного Совета по математике Д.053.05.38 п 4 при МГУ им.М.В.Ломоносова ни адресу: 119899, ГСП, Москва В - 234, Ленинские горы, {¿ГУ, факультет вычислительной математики и кибернетики,

г.удитгфия 686.

С диссертацией молю ознакомиться в библиотеке факультета вычислительной математики и кибернетики МГУ.

Учения секретарь специализированного совета профессор

Н.П.Грифонов

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

~ АктУальностъ темы. Интенсивное развитие математического аппарата непараметрической статистики в последние три десятилетия оказало заметное влияние на тот ее раздел, который сейч ,с принято называть "функциональным оцениванием" или "оцениванием кривых и поверхностей"• Две проблемы привлекли особое внимание исследователей - это оценивание плотности распределения вероятностей и поверхности регрессии. Изучение непараметрических оценок плотности и регрессии имеет большое теоретическое и практическое значение. Из важнейших областей применения этих оценок отметим следующие: непараметрический дискриминантный анализ кластер-анализ, генерирование наблюдений с заданной плотностно распределения, сглаженный бутстреп-ыетод, исследование зависимостей в непараметрических статистических моделях.

Одной из важнейших характеристик, дающих представление о точности оценивания функций, является доверительная полоса. Для построения доверительных полос необходимо изучать распределение максимальных уклонений непараметрических оценок плотности и регрессии. Уклонение является суммой двух членов: "смещения", которое детерминировано, и "случайной ошибки". Для супремума "случайной ошибки" Штутэ (1985) и, в более общей постановке, Девельс и Мейсон (1991) получили результаты типа закона повторного логарифма. Эти результаты позволяют определить уровень, около которого "флуктуируют" значения максимального уклонения. Дальнейшее, более детальное исследование, связано, о изучением распределения максимального уклонения в окрестности этого уровня. Значительная часть диссертации посвящена этому вопросу

Связь задачи изучения уклонений упомянутых оценок с задачей изучения высоких выбросов гауссовских процессов и полей впервые была обнаружена, по-видимому, П.Бикелом и М.Розенйлаттом (1973). Существенный вклад в исследование высоких выбросов гауссовских процессов и полей внесли Ю.К.Беляев, С.Перман, Д.Пикандс, К.Киолс, Х.Ватанабэ, В.И.Питербарг, Г.Линдгрон, П.II.Носко. Как уж'з отмечалось, эти исследования им« ют ьгшюе значение дли нопараметрической статистики при п строении псимгп<л'ичб"ких

дозерительных полос для неизвестной плотности распределения и поверхности регрессии, ибо задача построения доверительных полос сводится к исследованию распредёления максимума гауссовского процесса или Поля. Предельные теоремы для максимальных уклонений непараметрическиз ■ ядерных оценок плотности и регрессии Оыли получены в работах Н.Бикела и М-Розенблптта, М.Черге и П.Рэвоса. П.Гевеоа, М.Вудруфа, М.Розенблатта, X.Ваадль, Э.А.Надарая, Б.Хардле. Статистический интерес представляют те полосы, которые построены при балансе двух составляющих: "смещения" и "случайной ошибки". Упомянутые авторы по существу ограничивались изучением лишь стохастической составляющей уклонения, для многомерных задач, также рассмотренных в диссертации, вопросы изучения распределения максимальных уклонений и скорости сходимости были почти полностью открытыми.'

В1 работе развивается метод исследования высоких выбросов гвуосовских нолей с "большими" трендами; в случае, когда параметрическое множество устроено достаточно просто,- для распределения максимального уклонения таких полей найден новый класс Аппроксимирующих законов, эти законы существенно улучшают точность аппроксимации'.' В применении. к исследованию скорости сходимости распределений максимальных уклонений ядерных оценок плотности и регрессии полученные аппроксимации позволяют перейти от логарифмической по п аппроксимации к степенной и охватить случай оптимального выбора параметра сглаживания. Для различных априорных функциональных классов, которым принадлежит функция плотности или регрессии, найдены оптимальные в минимаксном смысле скорости сходимости в метрике

Целый ряд задач непарамвтрической статистики - изучение «сиштотичестаи. свойств процедур рекуррентного оценивания, задачи, связанные с принципами инвариантности, изучение сходимости частичных суш индуцированных порядковых статистик - приводят к общий схеме последовательности марковских цепей, заданных на уплотняющихся моментах времени и к задаче построения соответствующих, диффузионных аппроксимаций. Важные результаты об интегральных теоремах такого рода получены в работах А.Я.Хинчина, Д.В,Скорокода, Д.Струна и С.Варадвна, А.А.Боровкова, Г.Ш.Лилцера и

А.Н.1!!иряова, они хорошо известии и играют ванную роль при доказательство функциональных' предельных, теорем. Доказательство локальных тэорэи в достаточно общей ситуации трьОует существенно Солее тонкой техники, что, впрочем, хорошо известна даже для сумм независимых случайных величин - оценка "хвостов" характеристической функции. Для решения упомянутых задач нбпарамэтрической статистики в диссертации для естественных достаточно широких классов цепей Маркова получены локальные предельные теоремы о сходимости к предельному диффузионному процессу.

Цель работы. Разработать метода аппроксимации случайных полей "уклонений" непарвмэтрических статистических оценок плотности и регрессии гауссовскими полями. Исследовать асимптотику распределения и поправочные но и члены для вероятности Р( гаах X < Ь) > и) в случае, когда гауссовскоэ поле хи) имеет "йольиой", (т.е. сравнимый по порядку с уровнем и) тренд. Получить предельные теорем;! для распределений максимальных уклонений непареметрических ядерных оценок плотности Г и поверхности регрессии г^ при оптимальном выборе параметра сглаживания 11 и, как следствие, вычислить оптимальныв скорости сходимости в метрике для

различных априорных функциональных классов, которым принадлежит неизвестная плотность Т. Усилить и обобщить на многомерный случай результаты Н.Б.Смирнова об асимптотическом распределении максималышх уклонений гистограмм. Для естественных классов цепей Маркова иолучить локальные предельные теоремы о сходимости к предельному диффузионному процессу, при этом охватить , достаточно широкий круг приложений. Рассмотреть задачу оценивания спектральной плотности как стохастически некорректную по А.Н.Тихонову задачу, показать, что асимптотика регуляризованных оценок может быть получена иа асимптотики функции Грина оператора Штурма-Лиушшш, связанного о нашей задачей.

Общая методика исследований. В диссертации используются ютоды теории вероятностей, функционального анализа, уравнений н честных производных параболического типа. Разработаны новые метода анализа больших выбросов г'ауссоьскцх процессов с трендами и нор.ый матвмшический аппарат для пояуч.лшя локалышх предельны/, тио).»ом о сходимости цепей Маркова к придельному диЗфузиошкму процоС.:у.

- в -

Научная новизна. Впервые получены: аппроксимации случайных полей "уклонений" непараметрических статистически! оценок плотности и регрессии гвуссовскими полями; асимптотические разложения для распределения максимальных уклонении многомерных гистограмм и последовательность сопровождающих распределений с уточненной оценкой остаточного члена; предельные законы и сопровождающие распределения с уточненной оценкой остаточного члена для распределения максимума гауссовского поля с трендом;. пределыше теоремы для распределения максимального уклонения ядерных оценок плотности и регрессии при оптимальном выборе параметра сглаживания; для естественных семейств цепей Маркова, заданных на уплотняющихся Моментах времени, впервые получены локальные теоремы о сходимости к диффузионному процессу; асимптотика рагуляризовшшых оценок Спектральной плотности получена как следствие асимптотики функции (*рина соответствующего оператора Штурма - Лиувилля. Практическая и теоретическая значимость. Полученные в диссертации асимптотические методы анализа случайных процессов и полей позволят развивать научные исследования в теории непараметрического статистического оценивания, в анализе больших выбросов гауссовских случайных полей, в теории стохастических дифференциальных уравнений. Совокупность полученных результатов образует новое направление - стохастический анализ максимальных уклонений непараметрических оценок кривых и поверхностей с применением методов теории гауссовских полей.

Апробация работы. Результаты диссертации докладывались:

- на Международных Вильнюсских конференциях по теории вероятностей и математической статистике (1973,1977,1985 г.г.);

- на В~9Союзных школах-коллоквиумах по теории вероятностей и математической статистике (Бакуриани, 1979,1981,1985,1986 г.г.);

-- на IV Советско-Японском симпозиуме по теории вероятностей и математической статистике (Тбилиси, 1982);

- на первом Всемирном Конгрессе Общества математической статистики и теории вероятностей им. Бернулли (Ташкент,1986 г.);

- на семинаре по теории вероятностей и математической статистике Мзт-иятического института им.В.А.Стеклова (1984,1988 г.г.);

- на семинаре "Асимптотические методы математической статистики"

В МГУ им. N.В.Ломоносова (1980-1990 г.г.);

- на семинаре по теории вероятностей и математической статистике при Ленинградском государственном университете и на семинара Ленинградского отделения Математического института АН СССР (1990 г.);

- на семинара по теории вероятностей и математической статистике при Институте математики и кибернетики АН ЛитССР (1987 г.);

Публикации. Основные результаты диссертации опубликованы в 'работах автора [11 - С221.

Структура и объем работы. Диссертация состоит из введения ц шести глгз, которне разбиты на 23 параграфа, и занимает 274 страницы машинописного текста. . Нумерация определений, лемм,-теорем, следствий и замечаний следующая: первая цифра соответствует номеру главы, вторая - номеру в главе. Список литературы содержит 146 наименований .

СОДЕРЖАНИЕ РАБОТЫ Формулируемые ниже определения, ла юлы, теоремы и следствия имеют те ке номера, что и в диссертации. Нумерация формул самостоятельная.

Во введении дается обзор исследований по тематике диссертации, обоснование актуальности работы, краткая характеристика основных результатов.

В первой главе построены аппроксимации полей "уклонений" непараметрических оценок плотности и регрессии гауссовскими полями.

В п.1.1 приведены .основные определения, обозначения и вспомогательные утверждения, используемые в первой главе диссертации.

В п.1.2 рассматриваются непарвметрические оценки регрессии и плотности распределения, построенные с помощью 3-оСразной последовательности ядер. Для нормированных уклонений этих оценок от истинной плотности или регрессии строятся гауссовские поля, распределение максимума которых аппроксимирует (в смысле метрики Леви-Прохорова) распределение максимума этих нормированных уклонений. В п.1.2 предполагается, что распределение наблюдений сосредоточено в единичном кубе.

- -я -

В п. 1.3 строятся аппроксимации, аналогичные :;.1.2, но для случая распределений с неограниченным носителем.

В п.1.4 получены аппроксимационные теоремы для случая оценок плотности и регрессии типа Розенблатта-Парзена. Приведем типичный агтроксимационный результат этого параграфа. Рассмотрим случайное поле отклонений

1 /2

in(%) = (nhd/02i<t)] [fn(t) - f(t)] , t€l0,1]d,

n

ядерной оценки плотности X (t) = n_,b~d У K((t-X.)/h) от истинной плотности I(t) и рассмотрим также гауссовское поле т)п(в)

т|п(в) = цп(8) + a'1 J К(8-у) <Й.(7), в € 10,h-' ld , о2= J- K2(x)dx ,

где nti(B) = [nhd/o?i(h0)] ,/2J K(y) (l(hs+hy) - i(he)) dy, w(v) -

поле, составленное из 2d независимых версий винеровских полей, каждая версия определена в ■ одном из 2d координатных углов. <йоинячим

Рг(£,х) = Р (ln max f(t) - I* 4 х ),

где Т-параметрическое множество, максимальный корень уравнения

(г%Гса+и/г д,(1) h_d л,/г id"'exp (~12/г) = 1,

Л = det I \tJ | , XtJ = J(fl/0t()K(t) <0/flt^)K(t) dt / JK2(t) dt ,

M') - мера Лебега в Rd. ' Известно, что

1гГ[г In (cd h"ci)j 2 '[2 ln (cd h"d)] "(d-l )ln (21n (cd h~d))

<■ 0 U d In h )~'/г), Ca = (г%)~(&+1)/2 Л,/г.

Теорема 1.1. Пусть Х(Д2,... последовательность независимых одинаково распределенных с плотностью f(x) случайных векторов со пняччниями в I = 10,1Jd. Предположим:

1 ) А - пир I (х) № , В~ '= inf . Г (х) > О

Го.; Г .0.1 Г

?) ('ущос.твует it (0,U такое, что 1(х) удовлетворяет условию

I'o in-д I I порядка г и модуль непрерывности о>?(б) функции К в метрике

F.., попускает оценку <i>2(<3) i С в1 , 0 ю .

3) Частные производные K(u) до порядка d включительно существуют и

ограничены, f K(ii) flu = 1f f |u|2 Kz(u) du < <» .

Тогда для h = n-0, О < 0 < 1/3d(d+1), существуют т(3) и n0 такие,

что при n > nQ

V'j! V - n~T < Vе„.*) < vr< V x + n_T) + ^

Подчеркнем, что при построении аппроксимаций Главы 1 не

накладывается условий, при которых трендом ц(в) мокно пренебречь.

'Напротив, наилучшая (в смысле Стоуна (1982)) скорость сходимости f

к I в метрике I достигается при таком выборе параметра сглаживания

h, при I iTopoM тренд цп(а) не является асимптотически

пренебрежимым. Исследование предельного (при п - ®>) поводе.

вероятности РЛ-»г(т^.х) составляет основное содержание глава 3

настоящей работы.

Вторая глава диссертации посвящена исследованию предельного

поведения распределения максимального уклонения эмпирической

плотности от неизвестной плотности в случае, когда максимум берется

по дискретной, сгущающейся с ростом числа наблюдений п решетке

точек (задача Н.В.Смирнова - П.Ревеса). Доказанные во второй главе

теоремы позволяют получить точную асимптотику ширины традиционных

асимптотических доверительных полос и предложить новые,

асимптотически более узкие доверительные полосы для неизвестной

плотности распределения. Н.В.Смирновым (1950) получена оценка

сверху 0((1п п)~1/г) скорости сходимости в случае аппроксимации

допредельного распределения двойной экспонентой, им же получена

степенная по п аппроксимация, при этом аппроксимирующая .функция

сила зависит от п.

Пусть Х;,Хг,... независимые d-мерные случайные векторы,

одинаково распределенные с плотностью i(x), которую мы будем

предполагать непрерывной на d-мерном интервале 3 = (а{ < xt $

b., 1=1,...,d), причем В~'= min Г(х) > О, А = max f(x) <г <». * 3 3

Пусть 3t (п) - пуассоновская случайная величина со средним и,

Э1(п) не зависит от X,, i = 1,2,3,... . Положим

п 1 31(п)

in(x) = n~'ti-d I K(h"'(x-Xt)), i*(x)-n"'h"d I K(h '(x-Xj)),

-I '

где h - 0, nh - oo при n -» a>, K(x)- ciimv.трпчн.м hj;)..), р;>мк>ч /л«.

вне куба (-1/2,1/2]^, 1 / К(х) ах = 1. Разделим каждое ребро

а-мерного интервала 3 на вп равных частей и образуем в* (1-мерных

интервалов Лп4, 1 = 1,2,___Шберем вп так» чтобы вп- <»,

в^ п-'-» О при п -» «о, и проведем через точки деления гиперплоскости, параллельные соответствующим граням интервала 3. Интервалы Лп1 не

пересекаются и объединение их есть 3. "усть х{, 1 = 1,2,..., -центры интервалов а - й - мерный куб о ребром И и центром х{. Обозначим

М* = шах

,п л

В

*п <»i> - Е fn<Xi>

(D I* (xt))'/2

И, = max

crv -

*« <V - * *„<«!>

(D 1* (xt))'/2

где, очевидно, DI*(x) = Mn(x) + n~'(Efn(x))2.

,В Теореме 2,1 получены теоремы о больших уклонениях для пуассонизированной оценки плотности i*(x), а в Теореме 2.2 - полные асимптотические разложения для вероятности Р Ш*п < 1 + у/1п3, где 1 - корень уравнения

8~d= (г%)~1/г х~'ехр (- х2/2). В Теореме 2.3 получены полные асимптотические разложения для вероятности F (И2п < 1п + у

Теорема 2.4. Положим А. = 1 + yl"', а у е И ,t 1, t » 21n 1 .

^ n n n. П TV TV n

Предположим, что существует такое О > О, что

Ilm nö h* = О, lim п'-° h* = «,

TV 00 TV о»

т . с Л ,, 1 = •,2.....ва, и для некоторой постоянной 0 имеем: в h

Tlt> ТХt Vr 4 УХ УХ

s Тогда для любого е > 0 можно указать такие 0(e) > 0 и C1(E,A,B,d,K(•)), что при выборе з^ = п'/г * 0fE; и при достаточно больших п

вир

V € I-t ,со)

Р<Игп< V - [2 ®<V y/1J - 1]'

Из этой теоремы имеем

Следствие. Существуют положительные постоянные С{ = С(С,В,(1), 1 = 1,2, и номер п0 = п0(А,В.й) такие, что при п > п0

С,1п"'вг1 ( Чгп< 1п + у/1п ) - ехр (-2е~у)| < С2 1п~'вп .

Полученные теоремы даже в одномерном случае усиливают

упоминавшийся выше результат Н.В.Смирнова (1950). Теоремы 2.3 и 2.4 применяются для построения асимптотических доверительных полос для неизвестной плотности распределения. Заметим, что в работах Н.В.Смирнова (1950, 1951 ) и в Теоремах 2.3 и 2.4 исследуется

уклонение не от самой 1(х), а от некоторой еэ аппроксимации 1(х),

построенные доверительные полосы твкке будут "накрывать" 1(х). При исследовании максимальных уклонений ядерных оценок in(x) от f(х) 1 возникает ряд принципиально новых вопросов. Правде всего, в задаче непараметрического оценивания плотности вероятности и регрессии ошибка я;,ерь х оценок является суммой двух членов: "смещения", которое является детерминированным и "случайной ошибки", которая, может быть представлена как стохастический интеграл по эмпирическому процессу. Второй член может быть аппроксимирован центрировании гауссовскшл процессом (впервые такая оппроксимахщя была построена Еикелом и Розенблаттом (1973)). Если "смещение" считать пренебрежимо малым, то гауссовская аппроксимация монет бить использована для анализа качества оценки. На языке ядерных оценок это означает, что параметр сглаживания h выбирают стремящимся к нулю так, что сглаиивания почти не происходит и оценка, грубо говоря, проходит через точки наблюдений. Такой выбор Ii, безусловно, упрощает асимптотический анализ уклонения in(x) от Г (х), по, фактически, при этом исследуется лишь уклонение in(x) от ЕХп(х). В известных нам работах Пикела и Розенблатта (1973), Черге и Равеса

(1975), Ревоса (1971, 1972, 1973), Вудруфа (1967), Розенблатта

(1976), Вандль (1980), Надарая (1972, 1983), Хардле .(198 ),• Лью и Ван Райзгаш (1386) везде присутствуют условия, обеспечи. зодие малую величину сглакивашш, т.е. "отслеживается", фактически, лишь случайная составляющая уклонения. Оптимальный выбор параметра сглахивашш, приводящий к минимуму супремума отклонешм i от I, будучи результатом баланса между смещением и случайной ошибкой, приводит к непренеброкимому смещению, на языке rayccoucKvx аппроксимаций это означает, что мы должны принять во внимание смещение и, поэтому, добавить неисчезопций в пределе тренд к гауссовскому процессу.

Глава 3 посвящено исследование асимптотики Р( шах X(t) ч и )

Го.т)

при Т оо для гауссовских процессов с неисчезащим в пределе трендом и приложению етих результатов к оцениванию плотности в метрике Сформулируем основные'результаты Главы 3.

Пусть X{(t),telO,TJ, . 1=1,2, пара независимых гауссозских процессов EX(Ct) = EX£(t) - n(t), и центрированные процессы Xt(t) -H(t), i-1,2, стационарны. Предположим, что для ковариационной функции rt(t) процесса Х(с t) имеет место следующее разложение

Г«<*Ь 1 " 5 t2 + 3, Vt " Si Ke.t * + Si ** *

o<ts), 1 - 1.2 , t » О . (1)

Определение 3.1. Гауссовское поле X(t) , t e T с Rd , назовем сильно детерминантно невырожденным на T ( sd - невыровденнш ), если V 0 > 0 найдется е > О такое, что для всех t,e с Т , lt-в! > ô

det cov [x(t), Х(в), 'gradX(t), grad X(o), e2X(t)/SttStJt

a2 x(B)/aBtes , î » j, = i.....d, o3 x<t)/sttetjetfc ,

ô3 Х(в)/0в4<Зв^5ва ДИП .iJ.It = 1,...,d] 2 e .

Все производные в дальнейшем понимаются в орздпзквадратичоском

смысле. Полоатм также |Г|Л = геах max {|î{t) !, If (t) I, II" (t)| î,

° ter.e e ee

e - направление, по которому производится дифференцирование.

В Теореме 3.1 получено тождество для распределений максимумов

пары гауссовских процессов с трендами. Это товдество может

рассматриваться как одно из возможных обобщений неравенства

С.Бермана в непрерывном времени.

Теорема 3.2. Пусть для гауссовских процессов Xt(t), t€lO,TJ,

1=1,2, справедливо разложение (1) с \г 1 - Хг 2. Если Xt<t), 1=1,2,

Bd-невнрождены на [ОД] и n(t) € С2[0,т1, то можно указать

постоянные Ь<оо, р>0, е>0 такие, что неравенство |ц|0 < e и

влечет

I Р f max X_(t) < и) - Р Г max X,(t) < ul < 1 1îo.TJ z ' l(o.T] ' J I

г

L [j |(i(t)| dt ♦ 1] erp [- u2 (Up)/?).

о

В дальнейшем <D(z) и *>(z) обозначают функцию распределения и плотность распределе1шя стандартного нормального закона соответственно, *(z) = 1 - Ф(в).

Теорема 3.3. Пусть X(t), t € tO.Tl, ed-невыроаденный гауссовский случайный процесс для ковариационной функции r(t)

которого имеет место (1) с Хг = 1. Предположим Е X(t) ш (i(t) е 02(0,Т). Тогда можно указать постоянные Ь<оо,р>о,е> О, не 'зависящие от Т и такие, что неравенство- |ц|о (eu влечет

Р( max X(t) ^ u ) - «(u - ц(0)) + EUÎ СОД] + Г.,

где|RJ ^ L-T^-expf-u^Hp)/^}, U* IO.TI - число выходов процесса

X(t) за уровень и на отрезке 10,II.

Заметим, что согласно известной формуле Райса т

r EU*[0,T1 = JV(u - и.(в)) {»>(ц' (в)) + ц* (в) Ф(м.' (в))) da. о

Теорема 3.3 дает точные аппроксимации для Р Г max X(t) < ul в.

1 [о.т] '

случае, когда Т фиксировано, а и стремится к бесконечности, в

Теореме 3.4 приведены аппроксимации для тех же вероятностей в

случае, когда как Г, так и и стремятся к бесконечности

согласованным образом, этот случай важен для статистических

приложений к непарвметрическаму оцешгаашт плотности и регрессии.

Теорема 3.4. Пусть U0.T )>, lim T = m, расширяющаяся система

п n-wo "

интервалов и пусть {Xn(t)l, t ç Tn , последовательность гауссовских

процессов вида Xn(t) = ц (t) + X(t), где X(t), 0 $ t < со, -стационарный гауссовский процесс с финитной ковариационной

функцией, diani вирр r(t) = tQ < œ, допускающей разложение (1).

Тогда можно указать постоянные L < s > 0, эе > О и номер nQ

такие, что неравенства Inn|0 < е un, n > nQ, влекут равномерно по я € 1А,+») ), -со < А < -н»

* п

где |П| < L'T^-36 , un з l > j/ln, 1п максимальный корень уравнения г 1 иг

Следствие 3.1. Пусть выполнены условия Теоремы 3.3. Тогда Р f max |X(t)| > ul = *(u - ц(0)) + *(u + ц(0)) + EU* 10,TJ +

tO,T] ' u

EU-Jt 10, TJ + R,

где |R| < L T' exp [- u2(1 + p)/2).

Пусть выполнены условия Теоремы 3.4. Тогда

Pf max |Х it)| < u \ = exp f- EUxn 10,TJ - ElT*n. [0,T Л + R ,

VO.r ] n "-> 1 un " un " J я

n

где |Rj * L-IT*.

Рассмотрим теперь примёнешю сформулировашшх выше теорем к задаче непараметрического оценивания плотности в норме Ьт. Пусть Xf,...,Хп последовательность независимых, одинаково распределенных случайных величин с общей-плотностью Х(х). В качестве оценки *п(х) неизвестной плотности Г(х) рассмотрим

ln[z) = h"'j K[L^I]din(y). где ?п(у) - эмпирическая Функция распределения, h-h(n) - параметр сглаживания и К(х) - ядро, удовлетворяющее некоторым условиям регулярности. Мы будем, исследовать распределение максимального уклонения ?п(х) от Г(х), когда х меняется в некотором конечном интервале (для простоты мы рассмотрим [0,1]). Введем теперь семейства фушсций, которым, по иродпологгсши», будет принадлежать нйша плотность распределения. Определим

^[l.L.r.wJ-Dj Л ]>[Ь.г,ш], г=0,1,2,3,...

где

Dj=>{ x(t): x(t) И ,Vtf 10,1)} ,

ix(t)> sup |xfr,(V) - xfrJ(t")| <Lu(0)}, jt'-t" | * a'

w(Q) - заданий вогнутый модуль непрерывности, ы(0) > е. Нь.гонец, полозам

J(l,L,r,u] П [x(t);[x(t)|o $ Ы], если г > 2

I I.L.U.cj, = J(l,L,1,(j) П {x(t):|x(t)[rovlx' (t)|OT^ и}, если г=1 .

2(l,L,0,u] n [x(t):Jx(t)J ^ Mj , где u(S) i М,бР

для некоторых < ю и О < р ^ 1, если г=0.

(иногда мы будем опускать аргументы и писать просто £ ). Ошибка ядерной_.оценки г

[nh/i(x)J '/г- (ln(x)- f(x)J , -€ 10,11

является суммой двух слагаемых - "смещения" '[nh/f(x)j '/2[Elrt(x)-i(x)J

- IS -

которое детерминировано и "случайной ошибки"

которая является интегралом по эмпирическому процессу. Оптимальный выбор параметра сглаживания является результатом, баланса мекду смещением я случайной ошибкой. Точнее, т скажем, что выбор h оптимален, если

|(nh/f(x)J ,/2[егп(х)-1(х)] |0х(ш h"']

Кек показпцо В.Штутэ (19S2), последнее условие означаот, что f•|0 — порно смешения имоет тот ко порядок, что и асимптотическая (с вероятностью f при п -■> со) величина супремума модуля "случайной спшбкн".

Теорема 3.5. Предположим, что I е г >. 2, K(u) имеет

конечный носитель, К i u,u2,...,ur и существует Kf4,(u). Тогда мокло указать положгэдышо константа С{, 1=1,2, и б такие, что

выбор h = 0f'7~'((ln П/П)'/2), 7(х) а ХГ+,/2 Ш(х), ВЛ9Ч0Т равномерно по у е 1А, ®], -<я А < и и I £ ^

pf max p-?(rJi/№)),/z|f (3)-i(z;)| п ] = exp f - EU*n [0,h~'l -

1[0,П П . nj l rx .

EU"*n, lO,h"')l + Пп,

TV J

где Xn(t) = nn(t) + p"'j K(t-o) dW(3), t € [0,h-,l, W(s) -двусторонний винеровский процесс на (-со,со), u (t)

I /2

p~'[nh/i(lit)] -J" K(u) (i(htthu) - f(ht) )du, ln - максимальный корень уравно!ШЯ

2

(P2 /2%) ,/гф(1) - h, p2=J Кг(и) du , P2 - p-2.J- (к- (u)J du, |Rn| ^ C2 ha .

В качестве прилолгания Теоремы 3.5 мы находим оптшалыше глобальные скорости сходимости для непараметрических оценок плотности в мотргаш Ью. Мы будем рассматривать произвольную! последовательность оценок i *(Х;,...,Х и нас будет интересовать следувдий вопрос: с какой максимальной скоростью последовательность (ап> может стремиться к нулю, удовлетворяя при этом условию

lim Inf sup Pf f sup |f*(x)-X(x)| > а 1 - 0. »»-» t* XeS,. . io.i-j n nJ

Такуп максимальную скорость назовем ' оптимальной скоростью оходимости. - '

Теорема З.б. Пусть 1 ç S (1,Ь,И,ш), г = 0,1,____ Тогда

f*

Г Inn 1 оптимальная скорость сходимости равна -,>-1п , где

т" Чгтг] ^ J -

7(х) - xr* и(х). Эта скорость достигаете, на ядерной оценке плотности ¿п(х) с соответствующим образом подобршшыми К и h . Более того, существуют 0р > О н Ср < и такие, что

25 Л ГЦ* 1 т-'1^) "'/V

Следствие 3.2. Для любого 0 > О существует Cfl < со такое, что

I A f ШП )1/S\

ш ijr BU^ I Л^П(Х,-Г(Х), , 00[n7„[[l¥L],^j } ,

1 - С. •

Содержание Главы 4 составляет обобщение результатов Главы 3 на многомерный случай. Б п.4.1 получено тоздество для вероятности пребывания под уровнем и неоднородного гауссовского поля (Теорема 4.1). В п.4.2 (Теорема 4.2) дана оценка правой части тождества Теоремы 4.1. Для формулировки теоремы введем необходимые определения.

Относительно ковариационных функций рассматриваемых полей X(t)

Судей предполагать выполненными слэдущие условия. Обозначим -(tf - в1), i « 1,2,...,d, а рассмотрим матрицы (двух-, трех- и четырехмерные) чисел .

Аг(*,в) = |Х2 ^(t,e)|- |сот (X't(t),X^e)),l,3»t,.:.,ö|,

Vt.e) - l^.Ufc(t.e)|-|cov а^(»),х;(в)),и,к=1.....

Vt.e) « (X'u{t).X;i(e)).i,J,k,l-1,...,d|.

Определение 4.5. Скажем, что гауссовскоэ поле X(t) принадлежит клиссу К (г,а,г1»о,1,2), если его ковариационная функция r(t,o) имеет CJK душе в разложение при 11 - в! — О .

г(г.в) = 1 - 2 а.2 и<м)?<5-'/21 + i ^^(мк^е^/э! +

1 К.иы^^Н*^^1/*1 ю - «и'). •

I ' . '

причем существуют г < а>, > О, 1 - 0,1,2, а > О так«е, что

Г |х|2 > (Л2<М)х,х) > Г0 |х|2 .

|Аг(*,,В,)'- Аг(гг.в2)| + |в2 г в,|)

¡Л4(*г,а,) - Л4(г2,в2)| < - |о, - В2|а),

где Л,<г,0) - - 1......а.

Для упрощения формулировки т ограничимся случаем простейшего параметрического множества - а-мерного куба г

г = { оЧ г, «т , 1=|,г.....(1 )

Пусть 1=1,2,___,К, все его грани разных размерностей.

Теорема 4.2. Пусть Х0(*>, г е з с ца - пара триядц

дифХ-зрс'н^фуоглх б ср.кв. вй-невырождешшх гауссовских полей с п.н. непрерывными траекториями, принадлежащих классу 1=0,1,2) с

г, < г-0/ шах {|г|: г € з }, ЕЖ0(г) ч = М-С*) € 02(ц),

Л20(М)= Л2., С»*)» Лэ.0(^> = \31{\,%) и внедиагональные

элемента матриц Л4 ^Д) и Л4 ((^г) совпадают . Тогда найдутся константы 1|( < да, р > О, б > О такие, что неравенство |ц|0- $ б и влечет

|Р(шх С и) - Р(1глх Х0К) < и)| * Ь, С Й(ц) + и211].

ехр(-иг(1+р)/2>,

где Л(ц) = ? / |Ц<г)|сП.

В п.4.3 (Теорема 4.3) дано асимптотическое разложение для вероятности большого выброса гауссовского поля с трендом, при этом тренд дает существенный вклад в предельное распределение. ,

В п. 4.4 результаты п. 4.3 распространяются на случай "расширяющегося'' параметрического множества Т (Теорема 4.4).В п.4.Б рассмотрены приложения к задачам непараметрической статистики, точнее, к задаче получения точной , асимптотики распределения максимума уклонения многомерных ядерных оценок плотности и

- te -

регрессии.

. Пусть £(t), t € Rd, - изотропное sd-невыровденное гауссовское поле, триады дифференцируемое в среднем ивадратичоском, ковариационная функция которого p(|t|) допускает разложение

pf|t|)= 1 - \2|t|2/2 + \4\Х\4/А\ + Лб|t|б/61 + h(|t|), |t| - О, (2)

h(|t|)= o(|t|6). Пологам.X0(t> = n(t> + Ç(t).

Теорема 4.3. Пусть для поля X0(t) = p(t) + Ç(t), t e [0,T3d, выполнено условие (2) ц шах Jgrad p(t)| < С u~', С < <» , a пара

t(.[0,T]d

(X0-(t), Х;(t}) удовлетворяет усл9виям Теоремы 4.2. Тогда существует постоянная 1 такая, что

PX((u,tO,T]d) = Е l£(ÍO,T)d) (1 + R), |R| ç Vu,

где t£(lO,TJd) - число локальных максимумов поля Х0(t ), t с (0,T]d,

локащих шие уровня u, Р^ (u,[0,T]d) = Р( max X((t) £ и).

' tefo,rjd

Теорема 4.4 Пусть С0,Т&]а, Ть да npi к -» «>, - система гомотетично распшрящихся кубов, Xfc(t) » + X(t), t €

- последовательность гауссовских полей со средними nfc(t) такими, что max [grad nÈ(t)| < 0 С < а>, поле X(t) таково, что пара t .€ lo.Th]d

(X(t),SQ(t)) удовлетворяет условиям Тоорош 4.2. Положим » 1 + 2/1^, где lj, - наибольшее рэаенио уравнешш

№Г(а*,,/г ik ld-' ехр (-1г/2) V 1 . •

относительно ковариационной Функции r(t) поля X(t) предположим, что сив ф;пштца, т.е. dlam вирр r(t) - t0 < <». Тогда можно указать постоянные s > О, £ > О и L < «> , такие, что неравенство < е

влечет рашюшрпэ по х « liQ, о)

PO^tt) < Uj,,t € 10.ТЛ1Л) - ехр \f2 ik S zd''<i>(z)ùXb(z)-

(t+H,)) + нг.

.где

V?,-tÀ4iU < lO.TJ*: u4 - < z), |R,| < L/uk, |R2| <¿ L od - гора Лебега в R^v

Вез>\и>тьгь, содержащиеся в Теоремах 4.3 и 4.4, применяются

4

затем для получения точных асимптотик распределения максимальных

уклонений непараметрических ядерных оценок плотности и регрессии

при оптимальном выборе параметра сглаживания. Результата подобного

рода содержатся в Теоремах 4.5 - 4.7. Приведем формулировку о„яой

d •

из них. Предположим, что ядро К(х) » П к(х.), где к(х)

1=1

удовлетворяет условиям

k(-x) - к(х), J к(х) dx. = 1, J <к' (х))2- dx » d~' , J(k'(x))z dx - Я.

k(± о») = к' (± ») = к*(± «) = о (3)

Положим nN(a) = [Nhd/a2i(hs)j /К^у)(f(hs+hy) - f(hs))dy.

Теорема 4.5. Пусть X>f...,XK - независимые, одинаково распределенные случайные векторы с плотностью f(x), IN(x) - ядерная

оценка f(x) с ядром К(х). Предположим, что f(x) и К(х) = П к(х.)

удовлетворяют условиям Теоремы 1.1 и, кроме того, к(х)

удовлетворяет условиям (3). Тогда при выборе h. = 1Г3, 0 < 0 < 1/3d(d+1), можно указать такие б > 0, ж > 0, Ct, 1-1,2, что

неравенства |ЦИ30 < s i^, max Jgrad HN(t)| < С u~', 0 < ■», влекут

t е. [о.ьГ1 ]d

равномерно по x € tx0,co) • .

bd/U\))UZ\ts{\) - f(t)| < iy = exp{-(2 % d)_d/2 J<p(z) z*~1 dA^zMHR,)) + R2

где Л№(г) = од { а е ГО,1Г']<* : и^ - цн(з) < г ) + аа { з е

[О,ЬГ1)Л : + (уз) $ г ), <5 С/ия, \Пг\ С2 И* .

Глава 5 посвящена доказательству локальных предельных теорем о сходимости цепей Маркова к диффузионным процессам и различным приложениям этого результата.

Рассмотрим диффузионный процесс в со стохастическим

дифференциалом

= о<г,ур бяь + (Ь(г>у4 + с(г,уг)> dt, уа = х, г € (в',г,к" (4) Относительно коэффициентов предположим:

1) | а^и.х,) - аи(г,х2) | < о - х2|а ,

|с4(1,хт) - С((г,х2)| с |Х, - х2|а ,и=1,2.....а ,а > о,

- го -

О < ¡о , где а(и,х) «. а(и,х) о*(и,х) ( * означает транспонирование, |•| и |- нормы матрицы и вектора соответственно)

2) аир |a(t,x)| < О, , вир |c(t,x)| КО' , С, < <® . t.x ' t.x . 11

3) V в € Rd . e*a(t,x)6 » е |9|2, е > 0, (t.x) е te,t}]«Rd, a(t,x) « a*(t,x) .

4) Матршцы b(t), a(t, • ) и вектор c(t, • ) непрерывно зависят, от t. Рассмотрим линейное однородное уравнею.

х = b(t) х , х « Rû , t ( ÎB.t,). (5)

Пусть <p(t) его решение с начальным условием <р(в) » г. Тогда cp(t) » ъ , где g* - соответствующее' уравнению (Б) отображение за время от в до t, {g* } образуют однопараметрическую группу линейных изоморфизмов пространства Rd. Вввдом

o(t,x) = 0(t,g*/ X) . C(t,X) : C(t,g*f X)

и рассмотрим диффузионный процесс xt

dxt = o(t,xt) cmt + (b(t)xt + c(t,xt))dt . xe = x . \ e (B,tfl. (6)

Коэффициенты уравнения (6) снова удовлетворяют условиям 1) - 4) и, следовательно, существует единственная положительная функция

|V

p(u,t,x,z), 0 < u < t , шляющаяся фундаментальным решением задачи Коши ^

ûp/ôu + Lup = 0, в < u < t , p(u,u,x,z)= B(x-a) , (7)

где - 1/2 (a v,v) + (b(u)x,<?) + (o(u,x),v) ,

v = O/0xf.....0/0xd), â(u,x) = o(u,x) ô*(u,x).

Рассмотрим последовательность разбиений отрезка

(о, в+t J такую, что:

к(п)

5) Д = max AÎnJ - О, У и{п) -> t, , при п со

6) Найдутся B(t,) > 0 и А(Xj) < «> такие,что B(t,) «

A(tf) , V il и 1 < p.q < k(n) .

Y) Найдутся С < ю и т > 0 такие,что /t[n}- l| < С

V и , 1 - 1,2.....k(n)-1.

* Га^-мэтрим, наконец, pt (•) - семейство плотностей в Независящее* от точки (t,x), t ( 10.» ), х € Rd как от параметра. Относительно р. „ (•) предположим:

U!j pt>j (u) u du <- О v(t,i) < 10,ш) . Rd , f pt x(u) utu^ du =

atJ(t,x) , i.J = 1,2.....d .(a(t,x) = o(t,x) o*(t,x)).

9) Э Ф(х) , x 6 Rd , такая, что aup |®(x)| < » ,J |x|4df' Ш(х) dx

X

< w и р4_я (u) ^ «(U) V (t.x);

10) |pt z (u) - ptii) (u)| « |z - y|a ®<u) . a > 0 ; Рассмотрим марковскую цепь с переходной плотностью оа один шаг вида р(в + ... + а'п\в + ... + ,x.z) = (Л^Га/г р8+...*д["^{<г - * - ь(в + + д^) х -

с (в + ... + X) )/ (Д (8)

где b(t) и c(t,x) - те же, что и в (4), а gj - отображение за время

от з + Ь<п}+ ... + А[п> до о + А{п'+ ... ,

соответствующее ломаной Эйлера уравнения (5). Основной результат Главы 5 содержится в следующей теореме.

Теорема 5.1. Пусть последовательность разбиений отрезка 1в,1(] удовлетворяет условиям 5)-7). Рассмотрим последовательность цепей

Маркова х^п;с переходной плотностью за один шаг вида (8), причем семейство плотностей pt •) удовлетворяет условиям 8)-10), а матрицы b(t), a(t,x) и вектор c(t,x) - условиям 1)-4). Тогда

Ilm р(в,в + ... + = p(8.t(,x,y),

/V max

где р(в,^,х,у) -решение задачи Коши для параболического уравнения (5). Сходимость равномерна по компактным подмножествам в ( (B,t): О $ В < t ) « R2d .

В п.5.2 ГлаЕЫ 5 указаны различные приложения основной Теоремы 5.1. Приведем некоторые из них. В п.6.2.2 устанавливается сходимость траекторий частичных сумм индуцированных порядковых статистик. При этом соответствующий результат П.Бхаттачарья (1974) обобщается в ряде направлений: устанавливается сходимость по вариации конечномерных распределений, находятся предельные распределения при одном класса локальных альтернатив, эти результаты обобщаются затем на многомерный случай. В п.5.2.3 указано как применить основную теорему для получения локальных теорем о сходимости процедур стохастической аппроксимации. В монографии М.Б.Невельсона и Р.З.Хасьминского (1972) значительное место уделено исследованию асимптотических свойств процедуры Роббиноа-Монро. В ряде теорем этой монографии (Теорема 6.3 Главы 6, Теоремы 3.2 и 5.2 Главы 8) подытожены различные асимптотические

свойства этой процедуры, в частности, в них показано, что для рекуррентных оценок Хп параметра xQ имеет место слабая сходимость вектора

к вектору (Х(0),X(t,),...,X(tl)), где X(t) - стационарный

гауссовский марковский процесс, удовлетворяющий стохастическому

уравнению,.которое явно выписано, п < п( < ... < п{ - целые числа,

t - lim n,/n . При этом предполагалось, что : эк допредельный, так я-*» • . '

и предельный векторы имеют плотность распределения. Возникает естественный вопрос: имеет ли место сходимость плотностей, т.е. верна ли локальная теорема? Предложения 5.3 и Б.4 Главы Б дают положительный ответ на втот вопрос.

Пусть Y(,Yz,...,Yn - независимые случайные величины (наблюдения), распределенные с плотностью р{у,*0) относительно'меры |i(dy), х0 е R - неизвестный параметр, m((x) » Jy р(у,х)

га2(х) = f(y - га( (х) )2 р(у,х) ji(dy) - математическое ожидание и дисперсия Yt, если значение параметра есть х. Рассмотрим процедуру рекуррентного оценивания

К+, - К = а )"(*«♦» - №>• х0 - const- <9>

Предположим:

1 ) при х ft х0 произведение (raf (х) - га, (xQ))(x-x0) положительно, в( (х) непрерывна, 3 га',(х0) = а и Sa а > 1 , го2(х0) < « .

2) ¡m, (х)| растет не быстрее линейной функции при |х| -» т.

3) плотность p{y,xQ) ограничена, J у5 р(у,х0) dy < к-.

Предложение 5 3. Пусть выдаланеы условия 1) - 3). Тогда процедура (9) асимптотически нормальна и при любых к > О, t{ > О, 1

» 1.....к, п < п, < ... < пА таких, что при ю - « in [nt7nl t( ,

плотность совместного распределения случайных величин

[»"Х,- v.....<г <v vj

сходится при а - » к плотности совместного распределения случайных

величин (X(t ( ).....• ГД0 " стационарный гауссовский

марковский процесс, удовлетворяющий стохастическому уравнению • й X(t) - (1/2 - а а) X(t) dt + a <m2(x0))'/2 d W(t), X(0) = î, t - нормально расцредолена со средним О и дисперсией а2т2(х0)/(2а а

- 1). Сходимость раыю^рна по компактным подмножествам в Rk.

• Последнее приложение, которое мы рассмотрим,относится к локальным принципам инвариантности. Огшшом фукциональные

- гз -

пространства, которые мы будем рассматривать. Пусть DC0.13 -пространство Скорохода d - мерных вектор.-функций, определенных на отрезке 10,1Л - Обозначим через ЕГО,11 равномерное замыкание множества тех функций из 0(0,1], котопые имеют конечное ч^сло скачков, "ричем моменты скачков - рациональные точки. Тогдй Е(0,13, снабженное равномерной нормой, будет сепарабелышм банаховым пространством. Меры Р^Ол и Р, которые мы будем рассматривать, будут иметь носитель, содержащийся в X = В(0,1]. Рассмотрим последовательность цепей Маркова в Rö с. дискретным временем t = 0,1/п,2/п,...,1 , траектории которых начинаются в нуле и переходные плотности которых за один шаг имеют вид:

p(i/n, (i+1 )/n;x,B) = n^ Prt;fVn [п'л (s - х - Ь((1+1)/п) x/n -

c((i+1)/n)/nj ,

где pt(• ) s pt - семейство плотностей, рассмотренное выше, в Теореме 5.1. Пусть yt - положение "марковской частицы" в момент

времени t, t = 1/n, 2/n, ____ 1. Рассмотрим последовательность

случайных элементов пространства ЕЮ, 13

Xn(t) = у1/п , если t « (l/n,(l+1)/n) (10)

Пусть Рд - мера в ECO,13, соответствующая последовательности Хп. В качестве предельной меры Р в ь(0,1) будет рассматриваться мера, порожденная в ЕС0.13 гнуссовским диффузионным процессом в Rd

dxt = o(t) d»t + (b(t) xt + c(t)) at , x0 = 0. . . (11)

Относительно коэффициентов уравнения (11) будем предполагать выполненными следующие условия:

1) матрицы a(t)=ja{J(t)| ,i,J= 1,2.....d, b(t) и вектор c(1i) ,

t e (0,13, непрерывны по" t (напомним, что a(t) = o(t) o*(t) ) .

2) V в с Rd e*a(t)9 > e |9|2, e > 0, t € СО, 13, a(t) = a*(t).

Относительно семейства pt(u) предположим:

3) Jpt(u) du = 0 , Jpt(u) Utu^. du = atJ(t),1,3=1.....d, 3 Ф(х),

x € Rd, такая, что sup |®(x)| < » , J|x|4a+' ®(x) dx < «> и Pt(x) < <5(u) V t € [0,13.

4) Vt € (0,13 pt'(u) имеет конечную невырожденную информационную матрицу Фишера It , причем для некоторых положительных cf и с2 с, |9|2 $ 9*It9 s£ с2 |9| 2.

,5) при каждом фиксированном к, к - 1,...,d, семейство функций

ът (P«)L / (Р4)'/2 равностепенно непрерывно в L_(Rd), а (1 2* семейство функций Bt = £ |(pt)'r(x)| / р2(х) - равномерно

интегрируемо по мера Ф(х) та(йх) ( т<1((1х) - мера Лебега в Нй ). Следующая теорема содержит ответ на вопрос: когда имеет место сходимость по вариации распределений функционалов ~' к Р1~' для I е Лр ? (определение класса Ар и примеры функционалов из содержатся в Главе Б). '

Теорема 5.2. Пусть выполнены условия 1) - 5), Рп, п-ч,2,... и Р - меры в ЕШ, 11. соответствующие случайным процессам (10) и (11). Тогда для любого функционала I € Мр

, var ,

Рпг' - Р-'Х

В последней ГлаБе б настоящей работы рассматривается задача оценивания спектральной плотности как стохастическая некорректно поставленная задача отыскания приближенного ' решения интегрального уравнения фредгольма первого рода. В последнее время интенсивно исследуются различные стохастические варианты метода регуляризации А.Н.Тихонова (В.Н.Вапник (1979), В.Н.Вапшк и А.Р.Стефанюк (1978), А.X.Пергамент (1984) и др.), В идейном плане наш подход ближе к подходу В.Н.Вашшка (1979) и В.Н.Вапника и А.Р.Стефашока (1978), дальнейшее продвижение удается получить путем перехода от интегрального уравнения к дифференциальному уравнению с граничными условиями, которое оказывается уравнением Штурма-Лиувилля, и применения затем асимптотики для функции Грина соответствующего дифференциального оператора (А.Г.Костюченко и И.С.Саргаш (1979)). В рамках, такого подхода естественным образом интерпретируются "сглаженные" оценки спектральной плотности: параметр сглаживания -ото корень квадратный из параметра регуляризации А.Н.Тихонова, а "окно" получается как главный член асимптотики функции Грина некоторого дифференциального оператора, связанного с нашей задачей.

Пусть х(|х ,... - вещественный стационарный в широком смысле

процесс со спектральной функцией Р(А.) и спектральной плотностью

/(X). Задача оценивания 1(Х) по наблюдениям процесса х(,%2,...может

бить рассмотрена как отохастичоская некорректная по А.Н.Тихонову

задача решения уравнения •к

X в(л-1) 1(1) (11 = Р* (М,

о

где. 8(х) » 1, если х > О, 0(х) = О, если х < О и ¿место истинной фушсиди К(л) подальбльня ее оценка I'* по ньСлвдишшм. Рассмотрим оценку Р* вида

- 25 -

\ К

f*(\> = j- in(x) di. , 1я(л.) = (2т. n)-' i | expí-ttj)*,!*

o.

Элементы f í JB с E() где E; - гильбертово пространство о . весом q, элементы F е Е2, Е2 - гильбертово пространство с весом q"", относительно q(A.) предполоким, что q(\) > О, q € С2 ÍO.Ttl . 13 качостве множестаа Я с Е( рассмотрим множество дважды нрпрарнвно дифференцируемых функций'Í(X), А. € [0,х). удовлетворяющих краевым условиям типа Штурма - Лиувилля:

Íí(О) соз а + Г (О) sin а = 0 1 Г (тс) соз р + V (тс) slrip = 0 .

it

Выберем в качестве стабилизатора функционал A(í) = J í2(l) q(J.) di.

о

Дифференцируя по \ уравнение Эйлера для сглаживающего функционала и

сделав замену переменных (подстановку Лиувилля)

\ % ■

ц{А) = с"1 J(q(u))'/2 du, с = f {q(u)}'/2(lu, ufli) - Q(u)f(Л(ц)). o o

Q(H) = {q(\(n)))'/4 ,

придем к уравнению

Lu - С2 C^'Q(H) IyíA.tn)). • (12)

«V ™ o { ,-v r?

где Lu = - и*(Ю + (q(H) + о <y ) u(p) , q(n) = <Г(Ц)/9(М) «

(d ln q(X)/áÁ - d2 ln q(\)/dA2) /q(\), \ = A(¡i), aN - параметр

регуляризации. При этом крвевые условия для переходят в п

краевые условия того же типа для функции и(?„(ц}). Известно, что

решение уравнения (12) с краевыми условиями типа Штурма-Лиувилля имеет вид

и(ц) = L-' le2 c^'Qtii) INa(¡i))l,

где L"' - обратный оператор к L, являющийся интегральным оператором с ядром G(|i,r¡;a~') - функцией Грина оператора L. Основной результат Главы 6 содержится в следующей теореме.

Теорема G.2 Пусть функция q(p) удовлетворяет условиям: ' 1) для |fi - т)| %

¡q(|i) - q(T})| « К (q(|i))a |ц - tj| , О а < 3/2 , К > О ; 2) q(M-) > 1 -

3) при |ц - Til < * q(n) q~'fn) < 0 Тогда для любого 1 и произвольного а > О при N -» ю (т.е. при а^ -О) имеет место асимптотическое равенство '

С(ц,т};сд') = g(H,Tj;a¿') + 0(1) ехр Ч-(А-а) х / ге4-2а

+ 0(1) ехр {-(А-а)|ц-Т}|) / х1 . где в(ц,т);а^') - функция Грина оператора Ltu с "замороженным"(в

точке t) потенциалом: L.u = -и"(Ц) + (q(t) + с2 а~') и(ц), А = (2а

ÍV Л* 1 /2

+ 1) /4 С,/2 , х a fq(n) + величины 0(1) ограничены

равномерно по ц,т) í [0,%] и Оу , принадлежащим достаточно малой окрестности нуля.

Из Теоремы 6.2 следует, что для регуляризованных оценок XH(v) спектральной плотности f(v) справедливо асимптотическое представление:

í„(v) = Фд>,(гО + 0(1) ае~' , (v) + 0(1; aff3-2aj ^.^(v) +

0(1) х~1 ¡¡>я х-1 ív) , (13)

где

тс

= 0 a¿'q"'/4(v)(2 ae)~'jexp {-р <е |ц(г-)-р.(в)|) q3/4(B) о

IW(B) ds , x = ( q(n(v)) + сг )1/г , w 0(1) в (13) ограничены равномерно по г е [О.Ш.а с, q(v) и ^(v) определены выше.

Основные положения диссертации опубликованы в следующих работах:

1. Конаков В.Д. Полные асимптотические разложения для максимального уклонения многомерной емпирической функции плотности, - II Маждународа. Вильнюсская конф. по теории вероятн. и матем. статистике. Тезисы докладов, т.1, Вильнюс, 1977, с. 325-328.

2. Конаков В.Д. Об одной глобальной мере отклонения оценки линии регрессии, - Теория вероятн. и ее применен., 1977, ХХП, 4, о. 873-888.

3. Конаков В.Д. Теорема о больших уклонениях для эмпирической функции плотности, построенной по выборке случайного объема, - в сб."Избранные вопросы теории вероятностей и матем. ькономики", ГУ/':, ротапринт ПЭМИ АН СССР, с. II9-I27.

4. Конаков В.Д. Полные асимптотические разложения для

максимального уклонения эмпирической функции плотности.-Теория вероятн. и ее применен., 1978,' XXIII, 3, с. 495-Б09.

5. Конаксз В.Д. Асимптотические различения для вероятностей больших выбросов гауссовских стационарных последовательностей,

- в сб. "Шгагомерный статистический анализ (математическое обеспечение), 1979, Ротапринт ЦЗШ1 АН СССР, с.116-122.

6. Кононов В.Д. Оценка скорости сходимости распределения максимума модуля недифференцируемого гауссовского процесса,

- в сб. "Многомерный статистический анализ (математическое обеспечение )", 1979, Ротапринт ЦЭМИ АН СССР, c.IOI-ПБ.

7. Конаков В.Д., Питербарг В.И., Скорость сходимости распределений максимальных уклонений для гауссовских процессов и Емпирических плотностей. I, - Теория вероятн. и ео применен., 1982, XXVII, 4, c.707-7¿;4;

8. Коиаков В.Д. Сопровождавшие гауссоЕские шля для "отшюнений" многомерной пепараметряческой регрессии, Теория вероятн. и ее применен., 1982, XXVII, 4, c.8I6-SI7.

9. Конаков В.Д., Питербарг В.И., Скорость сходимости распрадэлешй максималышх уклонений для гауссовских процессов и Егяшрических плотностей. II, - Та орт вероятн. п ее применен., 1983, XXVIII, I, с.164-169.

10.Конаков В.Д. О максимальных уклонениях ' Еьтирпческйй плотности и регрессии. Некоторые общие метода исследования,

- Ргос. бш Inter. Summer School on Problema of Hödel Choice and Parameter Estimation. In Regression Analysis. (Ed.O.Bunke), Humboldt Univ. zu Berlin, 1983, p.106-125.

11 .Конаков В.Д., Халялеев A.A. Уточнение доверительных полос для ■ неизвестной плотности распределения вероятностей (некоторые численные результаты), - Тезисы 11-ой Есесоюзной школы - семинара "Программно-алгоритмическое обеспечение ГЫСА", 1983, Ротапринт ЦЭМИ АН СССР, c.IOO-102.

12.Konakov V.D. Approxlmatlono of deviation fields of some nonparbmetrlc statistical estimates by Gaussian fields. Invariance principles, - Lect. Ilotes Hath., 1983 , 7.1021, p.t 302 - 314.

12^Komko7 7.Б., Pltertarg V.l. un the convergence rate of шх!ли1 deviation distribution for kernel regir •solon eatlratetf,

- J. mitivar. Апй.1., 1984, 15, 3, p. 27? - 294.

- 14.Конаков В.Д., Молчанов O.A. О сходгакзсти марковских цэпай к

- га -

диффузионным процессам, - Теория ьароятн. и матвм. статистика, Киев, 1984, вып.31, с.61-64.

1Ь.Конаков В.Д. Теорема об уклонениях эмпирической меры и ее приложения, - Теория вероятн. и ее применен., 1S84, XXIX, I, C.I&9-I64.

16.Конаков В.Д. Оценивание спектральной плотности как стохастическая некорректная задача, - в сб. "Статистика. Вероятность. Экономика", М.: "Наука", 1985, с.244-257.

17.Конаков В.Д. Локальные предельные теоремы о сходимjати цепей Маркоьа к диффузионным - процессам, - в кн. "Вероятностные распределения и математическая статистика", Ташкент, «АН, 1986, с.277-292.

IS.Konakov V.D. Extrema ol some nonatationary Gaussian ргосэзаее and optimal asymptotic conlldence regions for den3lty function, - 5th Japan - USSR Symp. on Irob. .'i'h., Abstracts of coaraun., Kyoto, 1536, p. 25 - 26.

(y.Konakov V.D. Nonparaaetric density estimation: L^ approach, - Proc. Second Int. Tampere Ooni. In Statlatlca (T.PuklUla and S.Puntanen eds.), Univ. of Tampere, 1987, р.б11-51У.

¿0.Кольцо/ V.D. Maximal deviations of gauaelan processes and empirical density functions, - Proc. of the 1Bt World Cengresb of the Bernoulli Society (1'u.V.Prohorov and V.V.Sazonov edfl.), 1987, v.2, p. 267 -271.

21.Конаков В.Д. Высокий внбросы глацких гауссовских полой, М.: ЦЭ1Ш АН СССР,.Препринт, 1988, 6S с.

22.KonaKov V.D. ^tx-ama of зсше gaussian processee with large trends and density"евtlroation in L№ - norm, - Prob. Th. and Rai. Fields, 199Г, 86, 3, p. 277-304.

.nnac IB ?I 2Э/Ш-91Г. Объем На.я. Тираж ЬОяка.

ШиИ AI! оССР.