Некоторые статистические задачи теории временных рядов тема автореферата и диссертации по математике, 01.01.05 ВАК РФ

На правахрукописи УДК 519.214.8+519.246.3

ОЛЬШАНСКИЙ Кирилл Александрович

НЕКОТОРЫЕ СТАТИСТИЧЕСКИЕ ЗАДАЧИ ТЕОРИИ ВРЕМЕННЫХ

РЯДОВ

01.01.05 - теория вероятностей и математическая статистика

АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата физико-математических наук

Москва, 2004

Работа выполнена на кафедре теории вероятностей механико-математического факультета Московского государственного университета им. М.В. Ломоносова

Научный руководитель: доктор физико-математических наук,

профессор В.И. Питербарг

Официальные оппоненты: доктор физико-математических наук,

главный науч. сотр. В.Д. Конаков

кандидат физико-математических наук, профессор А.А Русаков

Ведущая организация: Институт Проблем Управления

им. В.А. Трапезникова РАН

Защита диссертации состоится " ^^ " 2005 г. в 16 час.

15 мин. на заседании диссертационного совета Д.501.001.85 в Московском государственном университете им. М.В Ломоносова по адресу: 119992, ГСП-2 Москва, Ленинские горы, механико-математический факультет, аудитория 16-24.

С диссертацией можно ознакомиться в библиотеке механико-математического факультета МГУ (главное здание, 14 этаж).

Автореферат разослан

Ученый секретарь Диссертационного совета Д.501.001.85 в МГУ, доктор физико-математических профессор

Т.П. Лукашенко

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность темы.

Настоящая работа состоит из трех глав. Первая и вторая главы посвящены исследованию экстремальных значений стационарных временных рядов в условиях случайного прореживания.

Классическая теория экстремальных значений — асимптотическая теория распределения максимума

Ма = тах^ь—.£„)

п независимых, одинаково распределённых случайных величин — начала развиваться чуть более полувека назад, хотя её корни уходят гораздо глубже в историю математики. В основе теории лежит фундаментальный результат, впервые полученный Фреше и Типпе-том1 и позднее в полной общности доказанный Б.В. Гнеденко2. Результат, о котором идет речь (его часто называют теоремой экстремальных типов или теоремой Гнеденко), описывает все возможные формы распределения Мп в условиях линейных нормировок. Строго говоря, Гнеденко установил, что если Мп имеет невырожденное предельное распределение О(х), т.е.

РЫЛ/П-*„)<*) -A G(t)

(1)

для некоторой последовательности чисел Оп > О, Ьп> то О принадлежит одному из трёх типов (в том смысле, что существуют такие для которых распределение в точности

одно из перечисленных ниже) :

Типы 1,11,и III соответствуют распределениям Гумбеля (Gumbell),

1 Fisher, R.A. and Tippet, L.H.C: Limiting forms of the frequency distribution of the lagest or smallest member ofa sample. Proc. Cambridge Phil. Soc., (1928), 34,

180-190

3Gnedenko B.V.: Sur la distribution limite du terme maximum d'une eerie aleatoire., Ann. Math., (1943), 44, 423-453

- НАЦИОНАЛЬНАЯ ЬИбЛПОТЕКА

¿*W9

Фреше (Frechet) и Вейбула (Weibull) соответственно. В 3 приводится упрощенное доказательство указанной выше теоремы с использованием техники, предложенной де Хааном (de Haan). Данное доказательство построено на использовании теоремы Хинчина о сходимости функций распределения, а также на том факте, что множество функций, возникающих в качестве предела в (1), совпадает с классом устойчивых относительно максимума распределений, т.е. таких функций распределения G, для которых существуют константы такие что

для любых п = 2,3,...

Задача оценки параметра о с использованием выборки независимых так и зависимых случайных величин рассмотрена множеством авторов (см.4 * 6 7 8)

Тсли обозначить за Р{х) маргинальную функцию распределения случайной последовательности {&»}> то легко видеть, что в случае независимых наблюдений

<*) = *»,

а следовательно (1) можно переписать в виде

К«1***») A G{*). (2)

Еели (2) справедливо для некоторых числовых последовательностей {On > 0} И {in}i то говорят, что F принадлежит области притяжения распределения G и пишут F € ■0(0). Известны критерии, дающие необходимые и достаточные условия принадлежности F области притяжения того или иного экстремального типа. Однако

3Leadbetter M.R, Lingren G., Rootrten H.: Extremes and relaned poroperties of random sequences and processes.,Sprtnger Statistics Series. Beriin-Heidelberg-New York: Springer (1983).

4 Hill, B.M.: A simple genegal approach to inference about the tail of a distribution. Ann. Statist., (1975), 3, 1163-1174.

5Haal, P.: On some simple estimates of an exponent of regular variation. Jornal of the Royal Statistical Society, (1982), B44, 37-42.

6Haueler, Б. and Teugeb, J.L.: On the asymptotic normality of Hill's estimator for the exponent or regular variation. Ann. Statist., (1985), 13, 743-756.

7Dekkers, A.L.M. and de Haan, L: On the estimation of the extreme-value index and large quantile estimation. Ann. Statist, (1989), 17, 1795-1832.

8Hsing, Т.: On tail index estimation using dependent data. Ann. Statist, (1991), 10, 1547-1569.

есть некоторые F, для которых не существует распределения экстремального значения, такого что F 6 ¿KG), В этом случае мы может утверждать, что максимум Мп не обладает предельной функцией распределения в условиях линейной нормировки (в качестве примера можно рассмотреть пуассоновскую функцию распределения).

На сегодняшний день классическая теория экстремальных значений полностью сформировалась и имеет множество важных приложений (см. например книгу Е.Дж. Гумбеля9).

В более поздний период, начиная с работ Ватсона (G.S.Watson), Бермана (S.M.Berman), Лойнеса (R.M.Loynee) и Крамера (H.Cramer), возник интерес к расширению классической теории, сперва на случай зависимых последовательностей случайных величин, а затем и на стационарные процессы с непрерывным временем. Развитие пошло в двух направлениях — расширение общей теории на некоторые типы зависимых последовательностей (Ватсон и Лойнес) и создание подробной теории для стационарных последовательностей (Берман, Лидбеттер) и гауссовских процессов с непрерывным временем (Крамер).

Далее Лидбеттер, Лингрен, Рутцен3 объединили эти два направления и сформулировали достаточно полную и общую теорию, включающую уже известные на тот момент результаты для стационарных гауссовских последовательностей и процессов. В частности, Лидбет-тер10 11 расширил классическую теорию на случай стационарных последовательностей (а также на некоторые важные нестационарные случаи), использовав необходимые ограничения на зависимость между далеко отстоящими друг от друга элементами, таким образом, что классические предельные законы распределений остались в силе, как если бы исходная последовательность являлась независимой. При этом условие перемешивания, предложенное Лидбеттером значительно слабее, чем традиционные формы ограничения зависимости, такие как, например, условие сильного перемешивания, впервые предложеное М.Розенблаттом12 в 1956г. для доказательства центральной предельной теоремы для "слабо зависящих" случайных величин.

Приведем определение условия перемешивания, о котором идет

9Gumbel, E.J.: Statistics of Extremes. New York,. Colambia Univ. Ptress.

10Leadbetter M.R.: On extreme values in stationary sequences., (1974), Z. Wahrscheinlichkeit$theorie verw. Gebiete, 28, 289-303.

"Leadbetter M.R.: Extremes and local dependence in stationary sequences., (1983), Z. Wahrscheinlichkeitstheorie verw. Gebiete, 65, 291-306.

12 Rosenblatt, M: A central limit theorem and strong mixing condition Proceeding» or the National Academy of Sciences USA, (1956), 42, 43-47.

речь. Итак, пусть

■»>*») = < «1.-.&. < *»).

где {£«}п>1 — произвольная стационарная в узком смысле случайная последовательность.Для краткости обозначим .„,(»(«) —

.....в) для все* n,íi,...,in,M. Пусть {Un} некоторая

числовая последовательность. Тогда случайная последовательность удовлетворяет условию J?(tln), если существует семейство чисел П, / — 1,2,такое что -0 для некоторой натуральной последовательности {i,,}, í„ = о(п) и если, в тоже время, для произвольного набора целых чисел t"i.....ÍptJU~"tÍqt такого что

1 < »1 < ii... < ip < < j, < n, Ji - ip > I

выполняется неравенство

1 Filr-Mxr-Jii*») - #1.....l< <»nj-

Несмотря на довольно сложное определение, данное условие, как отмечалось ранее, очевидно намного слабее стандартных форм условий перемешивания (таких как сильное перемешивание), поскольку оно подразумевает асимптотическую независимость событий А "от прошлого" и В "от будущего", где Ли В имеют особенную, простую форму

в то время как условие сильного перемешивания требует, чтобы

8i)p 1 Р(А, В) - Р(А)Р{В) О,

при Í -+ оо, где точная верхняя грань берется по всем А € В € <r{<f,íi+ii".)> таким что ; - i ~ Í (ег(.) обозначает -алгебру, порожденную случайными величинами, стоящими в скобках).

Пусть последовательность {ttn}f такая что n{J —иР(м„))& е т конечный положительный предел при п —► 0. Тогда, для достаточно больших п, типична ситуация, когда

где 9 — фиксировано, принадлежит отрезку [0,1] и называется экстремальный индексом. Строго говоря, стационарная случайная последовательность {£,} обладает экстремальным индексом в, если

P(Mn<Un)~¥€

для любого 7 > 0 и любой числовой последовательности {ttn(7)}> такой что

(4)

при П —ЮО.

Экстремальный индекс можно интерпретировать, как меру зависимости членов последовательности {£п}. Если случайные величины ili— tinнезависимы, то 9 = 1. Наоборот, если (я,... сильно зависимы, то 0 fti 0. Полезно также отметить, что если 9 > 0, то величина ff-1 является асимптотическим средним числом превышений уровня {«к} внутри отдельно взятого интервала длины dn = o(n) i при условии, что произошло хотя бы одно такое превышение, а именно

где = о(п) при п-Ьоо.

В современных исследованиях существуют два основных направления в описании экстремального индекса. Первое заключается в отыскании "хороших" оценок для в и исследовании их вероятностных свойств. В свете соотношения (3) достаточно оценить $ и хвост маргинальной функции распределения Б, чтобы оценить хвост распределения максимума Мп. Оцениванию параметра 0 посвящены работы13 14 15

Другим направлением является вычисление в в случаях, когда известна структура зависимости внутри последовательности случайных величин. К сожалению не известны аналитические методы вычисления в за исключением отдельных специальных случаев. На-

3Nandagopalan, S.: Multivariate extremes and estimation of the extremal index. Ph.D. dissertation, Dept. Statist, Univ. North Carplina, Chapel Hill.

14Hsing, Extremal index estimation for a weakly dependent stationary sequence. Ann. Statitt., (1993), 21, 2043-2071.

15Smith, R.L. and Weissman, I: Estimating the extremal index. J. Roy. Statitt.

Soc Scr.B, (1994), 56 512-528.

пример Бермая (Berman)16 показал, что стационарная стандартная гауссовская последовательность имеет $ = 1, если для ковариационной функции г„ = ««/(iitin+l) справедливо rnlogfl —> О при п 00. Позже Рутцен17 вычислил $ для некоторого класса скользящих средних от устойчивых процессов. В общем случае для стационарного процесса найдены различные представления в , которые удобны при работе с цепями Маркова, но тем не менее, тяжело трактуются с практической точки зрения1819. Приводится численный метод определения 8 для стационарных марковских цепей к-того порядка .

Изучением стационарных процессов, наблюдаемых в случайные моменты времени занимался, в частности, Мэсри (E.Masry). Им были получены интересные результаты, касающиеся статистических свойств некоторых непараметрических оценок совместной плотно-

21 22 23 тх

сти , спектральной плотности и ковариации . Идея изучения поведения экстремумов случайных процессов в условиях прореживания принадлежит В.И.Питербаргу. Некоторые результаты по гаус-совским процессам получены в24.

Все результаты, полученные для максимума Ып (как в перечисленных работах, так и в настоящей диссертации), ведут к аналогичным результатам для минимума через очевидное соотношение

В связи с развитием различных приложений, теория экстремальных значений и в настоящее время является объектом многочислен-

"Berman, S.M.: Limit theorem for the maximum term in stationary sequences. Ann. Math. Statist., (1964), 35, 502-516.

"Rootzen, H: Exstremes of moving averages of stable processes. Ann. Probab., (1978), 6 847-869.

18O'Brien G.L.: Extreme values for stationary and Markov sequences., Ann. Probability, (1987), 16 181-191.

19Rootzen, H: Maxima and exeedances of stationary Markov chains. Adv. in Appl. Probab., (1988), 20 371-390

^Yun.S.: The extremal index of a higher-order sationary markov chain., (1998), Ann. Appl Probab., 8, 408-437.

2IMasry E.: Random sampling of continous-parameter stationary processes: stationary properties of joint density estimators., (1988),/ournal of Multivariate Analyst»., 26, 133-165

^Masry E.: Non-parametric covariance estimation from irregularly-spaced data., (1983) Adv. in Appl. Probab. 15, 113-132

33 Many E.: Spectral and probability density estimation from irregularly-observed data. In Time Series Analysis of Irregularly Observed Data (E. Parzen.Ed.), 224-250. Springer-Verlag, New York/Berlin.

24Piterbarg V.I.: Discrete vs continuous time for large extremes of Gaussian processes. Rotterdam (2002). Econometric Institute report, ISSN 1566-7294 ; El 2002-06, 19 p.; 30 cm.

ных исследований, что свидетельствует об актуальности выбранной темы.

В третьей главе рассматривается задача проверки гипотезы о том, что исходная модель представляет собой случайное блуждание против простой альтернативы, где модель является стационарным процессом авторегрессии.

При построении параметрической модели авторегрессии временного ряда Xt, t = 1,2, — , по наблюдениям X = (Xi,...,.ïx)T одним из важных вопросов является вопрос о его стационарнности. На языке параметров авторегрессии это означает, можно ли считать, что все корни его характеристического полинома лежат внутри единичного круга, или же некоторые из них лежат на границе или вне этого круга. Этой проблематике посвящено большое число работ, например, в книге Дж.Д.Гамильтона25 имеется обширная библиография. Наиболее полно развит подход, основанный на исследованиях корреляций, то есть, на теории моментов второго порядка. При этом критериальной статистикой естественно становится оценка минимума квадратов параметров авторегрессии.

Третья глава посвящена классическому подходу к задаче о проверке стационарности, основанному на исследовании отношения правдоподобия. Работ в этом направлении неизмеримо меньше, в первую очередь потому, что задача становится существенно труднее. Рассмотрим модель

где i», i € Z - стационарный случайный процесс. Мы хотим проверить гипотезу, что наша модель представляет собой случайное блуждание,

H: а= 1,

против простой альтернативы

Множество работ посвящено оцениванию параметра а в модели (5) при условии, что {i(J — гауссовский белый шум (см. статью Д.А.Диккей и В.А.Феллера26 и библиографию). Чаще всего исполь-

25Haim!ton J.D. Time Series Analysis. Princeton Univ. Press, Princeton, New Jersey, 1994.

26 Dickey, D.A. and F\ieller, W.A.: Distribution of the estimators for autoregressive time series with a unit root. Journal of American Statistical Association., (1979),

74, 427-431.

зуется оценка минимума квадратов

"ft — уэд »

(б)

которая в тоже время является и оценкой максимального правдоподобия. В совместной работе А.Н.Ширяева и В.Г.Спокойного27 рассмотрена последовательная оценка максимального правдоподобия параметра а :

Л>0,

(7)

где т{А) является конечным марковским моментом r(A) = inf{n>l:¿X?.l>A}.

В случае, когда {ít} — гауссовский белый шум доказывается состоятельность и асимптотическая нормальность в условиях случайной нормировки оценки (7) независимо от истинного значения параметра о. В другой работе тех же авторов28 используется случайная нормировка для доказательства асимптотической нормальности оценки (6) параметра о при в ф ±1. У.-Б.Ноак29 вычислела предельное распределение отношения правдоподобия для модели (5) как в условиях Н, так и в условиях А, но лишь для случая, когда независимы и имеют одинаковое нормальное распределение.

Оказалось, что при неограниченном росте числа наблюдений, Г-Юо, логарифм отношения правдоподобия имеет нетривиальный предел. Это означает, что нестационарную последовательность можно отличить от стационарной гораздо быстрее, чем две стационарные друг от друга, за порядка Т наблюдений в первом случае против порядка Т - во втором. В работе Я.Кормоша и В.И.Питербарга30

Shiryaev, A.N. and Spokoiny, V.G.: On sequential estimation of an autoregressive parameter. Stochtutics Stochastic* Rep., (1997), 60, no. 3-4, 219-240.

2*Shiryaev, A.N. and Spokoiny, V.G. : Statistical experiments and Decisions: Aeymtotic theory. World Scientific Publ., (2000), London, Singapore.

29 Ноак У.-Б. Проверка простой гипотезы при близкой альтернативе в модели временного ряда авторегрессии. Вестник МГУ. Сер. матем., мех. 1988, N4,82-84.

30Кормош Я., Питербарг В. И. Критерий нестационарности гауссовского временного ряда при близкой альтернативе. Проблемы передачи информации, 27, 1991, Вып. 4, 70-75.

этот результат обобщен на случай, когда St - гауссовская стационарная последовательность достаточно произвольного вида, при доказательстве использовалась техника многомерных гауссовских распределений. Исследование в случае произвольного распределения последовательности S требует другого подхода к асимптотическому анализу отношения правдоподобия, основанному на изучении сумм, сходящихся к стохастическим интегралам.

Цель работы.

I) исследование поведения экстремальных значений семейства стационарных процессов авторегрессии с равномерной маргинальной функцией распределения в условиях, как случайного, так и детерминированного прореживания;

II) изучение асимптотики совместного распределения максимума исходной и максимума случайно прореженной произвольной стационарной случайной последовательности;

III) нахождение предельного распределения логарифма отношения правдоподобия для модели (5) в условиях справедливости гипотезы и в случае зависимой и произвольно распределенной последовательности

Научная новизна.

Основные результаты диссертации являются новыми и состоят в следующем:

1. Получены точное значение экстремального индекса и асимптотическое распределение максимума для семейства равномерных процессов авторегрессии в классической нормировке и в условиях, как случайного, так и детерминированного прореживания.

2. Найдено предельное распределение совместного максимума исходной и максимума случайно прореженной стационарной последовательности случайных величин. Доказано, что в случае выполнения двухуровневого перемешивания по Лидбеттеру и дополнительного локального условия рассматриваемые максимумы будут асимптотически независимыми.

3. Получено асимптотическое распределения логарифма отношения правдоподобия для модели (5) в условиях справедливости гипотезы и в случае, когда шум представляет собой стационарный процесс авторегрессии р-ого порядка.

Методы исследования.

В доказательствах результатов диссертации используются методы асимптотического анализа экстремальных значений в случайных последовательностях, метод разбиения выборки на "большие" и "малые" блоки, метод анализа сумм, сходящихся к стохастическим интегралам, а также стандартные аналитические и вероятностные методы:.

Теоретическая и практическая ценность.

Работа носит теоретический характер. Результаты диссертации могут найти применение в области теории вероятностей, асимптотической теории экстремальных значений, теории случайных процессов, теории статистической проверки гипотез и могут быть полезны специалистам, работающим в МГУ, С-П ГУ, МИРАН и других научных и учебных учреждениях.

Апробация работы.

Результаты диссертации докладывались автором на семинаре по асимптотическому анализу случайных процессов и полей под руководством профессоров А.В. Булинского и В.И. Питербарга (Москва, весна 2004г), на Большом Семинаре кафедры теории вероятностей механико-математического факультета МГУ (октябрь 2004г), на семинаре в Институте Проблем Управления РАН (ноябрь 2004г).

Публикации.

К теме диссертации относятся 3 работы, список которых приведен в конце автореферата [1-3].

Структура и объем работы.

Диссертация состоит из введения, трех глав и списка литературы. Каждая из глав содержит по три раздела. Общий объем работы составляет 64 страниц. Список литературы включает 53 наименования.

СОДЕРЖАНИЕ ДИССЕРТАЦИИ

Во введении отражена история вопросов, рассмотренных в диссертации, и приведен обзор результатов, связанных с темой исследования. Кратко излагается содержание работы и формулируются основные результаты.

В первой и второй главах автор использует перемешивание по Лидбетгеру для получения некоторых результатов в условиях прореживания исходной последовательности.

В первой главе исследуется поведение экстремальных значений семейства стационарных процессов авторегрессии с равномерной маргинальной функцией распределения в условиях, как случайного, так и детерминированного прореживания.

Рассмотрим случайную последовательность

Хп — +

где Г - целочисленный параметр, Г > 2 . При этом случайная величина Хо распределена равномерно на отрезке [0,1] (Хо ^ Г/^0,1]), а К) независимы и имеют одинаковое дискретное распределение Р(сп ~ к/г) = 1/г, где к — Г — 1, для любого П > 1. После-

довательность стационарна в узком смысле и имеет равномер-

ную маргинальную функцию распределения при любом допустимом значении параметра г.

Случайным прореживанием назовем случайную последовательность {тп}п>0) такую что — 0 и для любого В ^ 1 приращения ^п ~ Тп — Тп_1 независимы, одинаково распределены на множестве натуральных чисел. Предположим, что вместо {Ал} мы наблюдаем процесс {ХТв,7п}п>() и изучаем поведение максимума новой последовательности

Во втором разделе первой главы мы доказываем справедливость условий перемешивания по Лидбеттеру для {ХГя} и вычисляем коэффициент перемешивания .

Лемма 1. Равномерный процесс авторегрессии удовлетворяет условию Д{и,д) с коэффициентом перемешивания

аП)( = 1Шп(*/п,/>7(1 -р))

для любого фиксированного X > 0, где 11,, = 1 — {х(п), ар —

1/г < 1.

В третьем разделе первой главы мы находим точные значения экстремального индекса для каждой случайной по-

следовательности данного параметрического семейства в условиях

И

случайного прореживания (отсутствие прореживания рассматривается, как частный случай).

Теорема2.Пусть {Хп} -равномерныйпроцессавторегрессии Мп — max^n ХТ,. Тогда справедливо следующееутверждение:

Р(М*< 1-±)->е~** при n -too для любого x>Q, где 8 = 1- Er~tl, А = \fEti.

Во второй главе исследуется асимптотика совместного распределения максимума исходной и максимума случайно прореженной произвольной стационарной случайной последовательности {in}. Рассматривается вектор

(8)

Для произвольных 7i,7a : 0 < 71,73 < оо, выбираем последовательности Ю И {«п} таким образом, что

(9)

n(I-^))->7i>0 (Ю)

при П-+00.

В первом разделе второй главы вводится определение двухуровневого перемешивания по Лидбеттеру для последовательности {in}, а именно, случайная последовательность {(„} удовлетворяет условию и'), если существует семейство чисел {(»„ (}, п,1 = 1,2,..., такое что йП[(. -+ 0 для некоторой натуральной последовательности и если, в тоже время, для произвольного набора целых чисел такого что

1 < »1 < ij... <ip< h- <}q<n, 31 ~*р>1

выполняется неравенство

(Af„,Afn) (maxii.maxir,)

^р 1} I " ^........Ю^ь-АК) |<

Пусть ип = н^ Ли'. Введем некоторого дополнительного условия на последовательность {£„} — локального условия

Во втором разделе второй главы доказываются вспомогательные леммы, в том числе аналог леммы Лидбеттера11 для двух пороговых уровней.

Лемма 4. Пусть {«*} и {«£} -числовыепоследовательности, такие что выполняются условия (9) и (10), и условие ^{uj, uj) справедливо для {£„}, Пусть также последовательность {fcn}, такая что верны соотношения &„{„ — o(n), &»аП||( 0. Тогда

Р(М„ < и1„, Мп < «*) - P**(Md. < ul Md. <t£)-»0

при п оо, где dn гг [п/Аг„], где Мп — max{& | i < n,t £ {tjJ, j €

В третьем разделе второй главы доказывается асимптотическая независимость максимумов (8) при условии, что 7j < 72*

Теорема 3. Пусть {«£}, — числовые последовательности, удовлетворяющие условиям (9) и (10) соответственно. Предположим, что условия J3j(u^,t»5), 1У(ип) выполнены для стационарной в узком смысле последовательности {£я}, где Un = u' A«J. Тогда

Р(М„ < ul Мп < tt®) -4

при n-+00, где (7*-7!)+ = max(7a-7i.0), в Л = l/Eti.

Следствие 6. Пусть f(,) маргинальная функция распределения стационарной в узком смысле последовательности {£„} и F £ D{G)t т.е. для некоторых чисел о„ > Q, 6 Я, П € N « любого х 6 R справедливо

F"(e„at + Ьп)->С(г).

Предположим, что условия ^(ui,«') « /У{«п) выполняются для = 4- tn, «S -впу+6п1 «„ = t£ AttjJ и любых x,j»€R. Тогда

Р( Мп ZW + KM^W + K)-* Gx{y)Gl'x{x), у<х

P{M„<anx + bn,'M<ttny + bn)^Gx(x), у>х

при п-Юо, где А = l/Eti.

В конце второй главы оценивается нижний и верхний предел вероятности Р(Мп < «ii Мп < tijj) для совместного максимума (8) в ситуации, когда условие не выполнено. Рассматривается

пример равномерного процесса авторегрессии, т.е. когда пбК.

Теорема 4. Пусть |ХП} - равномерный процесс авторегрессии u Мп = ma3ci<i<„Xj, М„ = шах^,<пXTt. Тогда

liminfР(Мп < 1--,Ж < > ехр{-8х-\Щу-х)}, р>*>0,

П-*90 П ~ П

limsupP(Af„ < 1 - ¥„ < 1 -

n-too п П

< esp{-fa - ХЦу- х) + у1 ~ 1?)},

в Г *" 1

lim Р(Мп < 1 - Ж„ < 1 - -) = ехр{~9х}, х>у>0, П-+0О n п

где 9= (г- 1)/г, 0 = А = 1/Eh.

Третья глава посвящена классическому подходу к задаче о проверке стационарности, основанному на исследовании отношения правдоподобия. Рассмотрим модель

где jf, t € Z - стационарный случайный процесс. Мы хотим проверить гипотезу, что наша модель представляет собой случайное блуж-

против простой альтернативы

Основной результат третьей главы устанавливает, что в случае произвольного маргинального распределения инновационного шума {i(Jt и даже при наличии авторегрессионных зависимостей в этом шуме, предел отношения правдоподобия в вышеприведенной задаче существует и представляет собой сумму стохастических интегралов.

Предположим, что инновационный шум {ЭД является процессом авторегрессии -го порядка, то есть, удовлетворяет разностному уравнению

¿t + + — + 0|А-р —

где St — независимые одинаково распределенные с плотностью распределения случайные величины, относительно которых ниже мы сделаем несколько предположений, и первое из которых - предположение, гарантирующее выполнение теоремы Донскера для последовательности

Е1: ЕС1 = 0, и для некоторого $ > 0 < оо.

Введем также дополнительные условия на /:

Б2: Функции

Б'

н Б

№+01 /(С1+0

непрерывны по t в нуле и ограничены на любом компакте.

Теорема 5. Пусть выполнены условия Е1 и Е2. Тогда логарифм отношения правдоподобия для проверки гипотезы Н против альтернативы А по наблюдениям Х^^^Хт сходится в условиях гипотезы при Х-+ оо пораспределеиюк

где И^, Щ - пара независмых стандартных винеровских процессов, а* > дисперсия случайнойвеличинШ\, I -ееинформационное количество Фишера,Л = «г2/-I.

Автор выражает глубокую благодарность своему научному руководителю доктору физ.-мат. наук, профессору В.И.Питербаргу за постановки задач и помощь в работе.

Список работ автора по теме диссертации

[1] Булонь П., Ольшанский К.А., Питербарг В.И.: Стационарный временной ряд при близкой нестационарной альтернативе: локально асимптотическое распределение отношения правдоподобия. Проблемы передаxи информации, (1999), 35.2, 75-82. (Ольшанский К.А. обобщил основной результат работы на случай зависимого инновационного шума, а именно на случай ав-торегрессионой зависимости внутри него).

[2] Ольшанский К.А.: Об экстремальном индексе прореженного процесса авторегрессии., Вестник МГУ, Математика и Ме~ ханика, (2004), № 3,17-23.

[3] Ольшанский К.А.: Теорема Лидбеттера для совместного распределения максимумов в условиях случайного прорежива-нвя.,МГУ, Москва, 2004,12стр., рукопись депонирована в ВИНИТИ РАН 11.03.2001 № 419-В2004, УДК 519.214.8

Издательство ЦПИ при механико-математическом факультете МГУ им. М.В.Ломоносова. Подписано в печать

Формат 60 x 90 1 /16. Усл. печ. л.

Тираж 100 экз. Заказ

Лицензия на издательскую деятельность ИД В 04059, от 2О.О2.2ОО1г.

Отпечатано с оригинал-макета на типографском оборудовании механико-математического факультета и Франко-русского центра им. A.M. Ляпунова.

I- "97 О

0.1 Введение.

1 Об экстремальном индексе прореженного процесса авторегрессии.

1.1 Введение.

1.2 Проверка условия Лидбеттера.

1.3 Предельная теорема для максимума равномерного АЫ(1)-процесса в условиях случайного прореживания.

2 Теорема Лидбеттера для совместного распределения максимумов в условиях случайного прореживания.

2.1 Постановка задачи.

2.2 Вспомогательные леммы.

2.3 Предельная теорема для совместного максимума.

3 Стационарный временной ряд при близкой нестационарной альтернативе: локально асимптотическое распределение отношения правдоподобия.

3.1 Постановка задачи и основные результаты.

3.2 Доказательство Теоремы

3.3 Доказательство леммы о сходимости накопленных сумм к стохастическому интегралу.

4 Литература.

Настоящая работа является диссертацией на соискание ученой степени кандидата физико-математических наук и состоит из трех глав. Первая и вторая главы посвящены исследованию экстремальных значений стационарных временных рядов в условиях случайного прореживания.

Классическая теория экстремальных значений — асимптотическая теория распределения максимума п независимых, одинаково распределенных случайных величин — начала развиваться чуть более полувека назад, хотя ее корни уходят гораздо глубже в историю математики. В основе теории лежит фундаментальный результат, впервые полученный Фреше и Типпетом [15] и позднее в полной общности доказанный Б.В. Гнеденко [16]. Результат, о котором идет речь (его часто называют теоремой экстремальных типов или теоремой Гнеденко), описывает все возможные формы распределения Мп в условиях линейных нормировок. Строго говоря, Гнеденко установил, что если Мп имеет невырожденное предельное распределение С(х), т.е. для некоторой последовательности чисел ап > О, то С? принадлежит одному из трех типов (в том смысле, что существуют такие а > 0,6, для которых распределение Н(х) := С (ах + 6) в точности одно из перечисленных ниже) :

Мп = тах(£ь .,£„)

1)

Тип I: Н(х) = ехр(—е х) — оо < х < +оо

Тип II: Н(х) = ехр(-х~а) х > 0, (а > О)

0 х <0

Тип III: Н(х) = ехр(-(-х)а) х < 0, (а > 0)

1 х>0.

Типы I, II и III соответствуют распределениям Гумбеля (Gumbell), Фреше (Frechét) и Вейбула (Weibull) соответственно. В [27] приводится упрощенное доказательство указанной выше теоремы с использованием техники, предложенной де Хааном (de Haan). Данное доказательство построено на использовании теоремы Хинчина (см. [27] стр.7) о сходимости функций распределения, а также на том факте, что множество функций, возникающих в качестве предела в (1), совпадает с классом устойчивых относительно максимума функций распределения, т.е. таких функций распределения G, для которых существуют числа ап > 0 и Ьп, такие что

Gn(anx + bn) =G(x) для любых п = 2,3,. (подробнее см. [27] глава 1).

Задача оценки параметра а с использованием выборки независимых и одинаково распределенных случайных величин рассмотрена множеством авторов. По этой теме можно обратиться к работам: Hill [21], Hall [18], Mason [29], Pickands [40], Davis and Resnick [12], Hausier and Teugels [20], Csorgó and Deheuvels and Mason [11], Smith [47], Beirland and Teugels [5] и Dekkers and de Haan [13]. Оценка а в условиях зависимой выборки была рассмотрена в Hsing [22].

Если обозначить за F(x) маргинальную функцию распределения случайной последовательности {£„}, то легко видеть, что в случае независимых наблюдений

Р(Мп <х) = Fn(x), а следовательно (1) можно переписать в виде

Fn(a~lx + bn) -4G(i). (2)

Если (2) справедливо для некоторых последовательностей {ап > 0} и {Ьп}, то говорят, что F принадлежит области притяжения распределения G и пишут F G D(G). Известны критерии, дающие необходимые и достаточные условия принадлежности F области притяжения того или иного экстремального типа. Однако есть некоторые F, для которых не существует распределения G, такого что F £ D(G). В этом случае мы может утверждать, что максимум Мп не обладает предельной функцией распределения в условиях линейной нормировки (в качестве примера можно рассмотреть пуассоновскую функцию распределения).

На сегодняшний день классическая теория экстремальных значений полностью сформировалась и имеет множество важных приложений (см. например [17]).

В более поздний период, начиная с работ Ватсона (G.S.Watson), Бер-мана (S.M.Berman), Лойнеса (R.M.Loynes) и Крамера (Н.Cramer), возник интерес к расширению классической теории, сперва на случай зависимых последовательностей случайных величин, а затем и на стационарные процессы с непрерывным временем. Развитие пошло в двух направлениях — расширение общей теории на некоторые типы зависимых последовательностей (Ватсон и Лойнес) и создание подробной теории для стационарных последовательностей (Берман, Лидбеттер) и для гауссовских процессов с непрерывным временем (Крамер).

Далее Лидбеттер, Лингрен (G.Lingren), Рутцен (H.Rootzen) в своей совместной работе [27] объединили эти два направления и сформулировали достаточно полную и общую теорию, включающую уже известные на тот момент результаты для стационарных гауссовских последовательностей и процессов. В частности, Лидбеттер (см. [25],[26],[27]) расширил классическую теорию на случай стационарных последовательностей (а также на некоторые важные нестационарные случаи), использовав необходимые ограничения на зависимость между далеко отстоящими друг от друга элементами, таким образом, что классические предельные законы распределения остались в силе, как если бы элементы исходной последовательности являлись независимыми. При этом условие перемешивания, предложенное Лидбетте-ром значительно слабее, чем традиционные формы ограничения зависимости, например такие, как условие сильного перемешивания, впервые пред-ложеное М.Розенблаттом в 1956г. (см. [44]) для доказательства центральной предельной теоремы для "слабо зависящих" случайных величин.

Приведем определение условия перемешивания, о котором пойдет речь. Итак, пусть где {£„}„>! — произвольная стационарная в узком смысле случайная последовательность. Для краткости обозначим -Р», ,.,»„ (и) = ^ ,.,»*„ {и,., и) для всех п, ¿1,г„,м. Пусть {м„} — некоторая числовая последовательность. Тогда случайная последовательность {£„} удовлетворяет условию ¿}(гг„), если существует семейство чисел {(*«,/}, п,1 = 1,2,., такое что ап,1п —> О для некоторой последовательности натуральных чисел {/„}, 1п = о(п) и если, в тоже время, для произвольного набора целых чисел ¿1, .,гр,7*1, .^д, такого что

1 < ¿1 < г2. < гр < < < п, эх -гр>1 выполняется неравенство

Несмотря на довольно сложное определение, данное условие, как отмечалось ранее, очевидно намного слабее условия сильного перемешивания, поскольку оно подразумевает асимптотическую независимость событий А "от прошлого"и В "от будущего", где А и В имеют особенную, простую форму р я

А = Hífc < М, 5 = < «„},

Г=1 S=1 в то время как условие сильного перемешивания требует, чтобы sup | Р{А,В) - Р(А)Р(В) |-> О, при I —>• оо, где точная верхняя грань берется по всем А £ В £ cr(£j,£j+i,.), таким что j — i = I (сг(.) обозначает сг-алгебру, порожденную случайными величинами, стоящими в скобках).

Пусть последовательность {мп}, такая что n( 1 — F(un)) имеет конечный положительный предел при п —> 0. Тогда, для достаточно больших га, типична ситуация, когда

Р(М„ < «„) и Fn\un), (3) где в — фиксировано, принадлежит отрезку [0,1] и называется экстремальным индексом. Строго говоря, стационарная случайная последовательность {£„} обладает экстремальным индексом в, если

Р(Мп < ип) -» е"^ для любого 7 > 0 и любой числовой последовательности {«„(7)}, такой что n[l-FM7))]->7 (4) при п —> оо (см. [26]). Соотношение (4) накладывает определенное ограничение на вид маргинальной функции распределения F. Если F непрерывна, то для достаточно больших п можно положить т) = ь что дает нам равенство в (4) {1? 1 — функция обратная к Г). В любом случае, для того, чтобы для любого 7 > 0 существовала последовательность чисел {ип(7)}, такая что выполняется (4), необходимо и достаточно, чтобы при п —» оо (см. [27]). Данное условие справедливо для любой функции распределения ^ принадлежащей области притяжения любого из трех экстремальных типов. Также очевидно, что если существует {«п(7о)}> удовлетворяющая (4) для некоторого фиксированного 70 > 0, то и для всех 7 > О существуют последовательности {«п(7)}? удовлетворяющие (4) (т.е. если ип(7о) удовлетворяет (4), то можно положить ип(7) = «[«70/7](То))

Экстремальный индекс можно интерпретировать, как меру зависимости членов последовательности {£п}- Если случайные величины £1,., . независимы, то в = 1. Наоборот, если £1, . сильно зависимы, то в « 0. Полезно также отметить, что если 9 > 0, то величина в~1 является асимптотическим средним числом превышений уровня {ип} внутри отдельно взятого интервала длины йп = о{п), при условии, что произошло хотя бы одно превышение внутри данного интервала, а именно где (1п = о(п) при п —У оо (подробнее см. [26]).

В современных исследованиях существуют два основных направления в описании экстремального индекса. Первое заключается в отыскании "хороших" оценок для 0 и исследовании их вероятностных свойств. В свете

1-Г(х)

Ит сьд-^ы) соотношения (3) достаточно оценить в и хвост маргинальной функции распределения .Р, чтобы оценить хвост распределения максимума Мп. Оцениванию параметра 9 посвящены работы [33], [22], [23] и [48].

Другим направлением является вычисление в в случаях, когда известна структура зависимости внутри последовательности случайных величин. К сожалению пока не найден аналитический метод нахождения в для произвольной стационарной последовательности, так что вычисление экстремального индекса для каждой отдельной стохастической модели воспринимается, как несомненная удача. Например Берман (Вегшап [6]) показал, что стационарная стандартная гауссовская последовательность {£„} имеет 9 = 1, если для ковариационной функции гп = сог>(£1,£„+1) справедливо гпк^гг —» 0 при тг —> оо. Позже Рутцен (см.[42] ) вычислил 9 для некоторого класса скользящих средних от устойчивых процессов. В общем случае для стационарного процесса найдены различные представления в (см. [36] и [43]), которые удобны при работе с цепями Маркова, но тем не менее, тяжело трактуются с практической точки зрения. В работе [50] приводится численный метод определения 9 для стационарных марковских цепей &-того порядка.

Изучением стационарных процессов, наблюдаемых в случайные моменты времени занимался, в частности, Мэсри (Е.Маэгу). Им были получены интересные результаты, касающиеся статистических свойств некоторых непараметрических оценок совместной плотности (см.[30]), спектральной плотности (см.[31]) и ковариации (см.[32]). Идея изучения поведения экстремумов случайных процессов в условиях прореживания принадлежит В.И.Питербаргу. Некоторые результаты по гауссовским процессам получены в [41].

В первой и второй главах автор использует перемешивание по Лидбеттеру для получения некоторых результатов в условиях прореживания исходной последовательности.

В первой главе исследуется поведение экстремальных значений семейства стационарных процессов авторегрессии с равномерной маргинальной функцией распределения в условиях, как случайного, так и детерминированного прореживания.

Рассмотрим случайную последовательность

Хп = —Хп-\ + е„, г где г - целочисленный параметр, г > 2 . При этом случайная величина Хо распределена равномерно на отрезке [0,1] (Хо ~ 11[0,1]), а {б„} независимы и имеют одинаковое дискретное распределение Р(еп = к/г) = 1 /г, где к = О,1,г— 1, для любого п > 1. Последовательность {Хп} стационарна в узком смысле и имеет равномерную маргинальную функцию распределения при любом допустимом значении параметра г.

Случайным прореживанием назовем случайную последовательность {т"п}п>(ь такую что то = 0 и для любого п > 1 приращения := — г„1 независимы, одинаково распределены на множестве натуральных чисел. Пусть последовательности {Хп} и {тп} независимы. Предположим, что вместо {Х„} мы наблюдаем процесс {ХГп,тп}п>о и изучаем поведение максимума новой последовательности {ХГп}.

Во втором разделе первой главы мы доказываем справедливость условия перемешивания по Лидбеттеру для {ХТп} и вычисляем коэффициент перемешивания

В третьем разделе первой главы мы находим точные значения экстремального индекса 9 = 1 — Ег~1,1 для каждой случайной последовательности данного параметрического семейства в условиях случайного прореживания (отсутствие прореживания рассматривается, как частный случай). Строго говоря, пусть Мп = maxr.<n XTi, тогда справедливо следующее утверждение:

Р(Мп < 1 при п —> оо для любого х > О, где (9 = 1 — ¿'г-'1, Л = 1 /^¿î.

Во второй главе исследуется асимптотика совместного распределения максимума исходной и максимума случайно прореженной произвольной стационарной случайной последовательности {£„}. Рассматривается вектор

М„,М„) := (max£f,max£ri). (5) г<п г;<п

Для произвольных 7i,72 : 0 < 71,72 < оо, выбираем последовательности {w*} и {и'п} таким образом, что п(1 - F(uln)) 71 > 0, (6) n(l - F(uD) -> 72 > 0 (7) при П -4 оо.

В первом разделе второй главы вводится определение двухуровневого перемешивания по Лидбсттеру для последовательности {£«}? а именно, случайная последовательность {£„} удовлетворяет условию D2(uJt, если существует семейство чисел {£*„,/}, п,/ = 1,2,., такое что аП;/п —>■ 0 для некоторой последовательности натуральных чисел {/«}, ¿п = о(п) и если, в тоже время, для произвольного набора целых чисел ¿1,., ip,ji, такого что

1 < ¿1 < ¿2. < ip < jl. < jq < n, jl -ip> I выполняется неравенство sup I ~

Пусть ип = и\ Л Введем некоторого дополнительного условия на последовательность {£„} — локального условия D'(un): п/к] lim lim sup п V^ Р(£ i > un,t;j > ип) = 0. к->оо оо г—? j=2

Во втором разделе второй главы доказываются вспомогательные леммы, в том числе аналог леммы Лидбеттера для двух пороговых уровней. В третьем разделе второй главы доказывается асимптотическая независимость максимумов (5) при условии, что 71 <72, что является основным результатом второй главы. Пусть {w*}, {и2п} — числовые последовательности, удовлетворяющие условиям (б) и (7) соответственно. Предположим, что условия D'(un) выполнены для стационарной в узком смысле последовательности {<!;„}, где ип = и\ А и2п. Тогда

Р{Мп < 4, Мп < и\) -> е-71-М72-71)+ при п —> оо, где (72 — 7i)+ = max(72 — 71,0), а A = \ jEt\.

В конце второй главы оценивается нижний и верхний предел вероятности Р(Мп < г/^, Мп < и\) для совместного максимума (5) в ситуации, когда условие D'(un) не выполнено. Рассматривается пример равномерного процесса авторегрессии, т.е. частный случай, когда £„ = Хп, п € N.

Все результаты, полученные для максимума Мп (как в перечисленных работах, так и в настоящей диссертации), ведут к аналогичным результатам для минимума через очевидное соотношение тп = min(£i, .,£„) = -max(-fi, .,-£„).

В третьей главе рассматривается задача проверки гипотезы о том, что исходная модель представляет собой случайное блуждание против простой альтернативы, где модель является стационарным процессом авторегрессии.

При построении параметрической модели авторегрессии временного ряда Хг, £ = 1,2,., по наблюдениям X = .,Хт)т одним из важных вопросов является вопрос о его стационарнности. На языке параметров авторегрессии это означает, можно ли считать, что все корни его характеристического полинома лежат внутри единичного круга, или же некоторые из них лежат на границе или вне этого круга. Этой проблематике посвящено большое число работ, например, в [19] имеется обширная библиография. Наиболее полно развит подход, основанный на исследованиях корреляций, то есть, на теории моментов второго порядка. При этом критериальной статистикой естественно становится оценка минимума квадратов параметров авторегрессии.

Третья глава посвящена классическому подходу к задаче о проверке стационарности, основанному на исследовании отношения правдоподобия. Работ в этом направлении неизмеримо меньше, в первую очередь потому, что задача становится существенно труднее. Рассмотрим модель где í £ Z ■ стационарный случайный процесс. Мы хотим проверить гипотезу, что наша модель представляет собой случайное блуждание,

Множество работ посвящено оцениванию параметра а в модели (8) при условии, что {<$*} — гауссовский белый шум (см. [14] и библиографию). Чаще всего используется оценка минимума квадратов

Хг = + £<, ¿ = 1,2,., Хо = ¿о,

8)

Н : а = 1, против простой альтернативы

А: а = 1-1 7>0. которая в тоже время является и оценкой максимального правдоподобия. В работе [45] рассмотрена последовательная оценка максимального правдоподобия параметра с* т^СО у. , ХтгфГ£ ' н >

2^1=1 г—1 где г(/г) является конечным марковским моментом п т(Ь) = тЦп > 1 : > К}.

1=1

В случае, когда — гауссовский белый шум доказывается состоятельность и асимптотическая нормальность в условиях случайной нормировки оценки (10) независимо от истинного значения параметра а. Можно обратиться к работе [46], где те же авторы используют случайную нормировку для доказательства асимптотической нормальности оценки (9) параметра а при а ф ±1. В [3] вычислено предельное распределение отношения правдоподобия для модели (8) как в условиях Н, так и в условиях А, но лишь для случая, когда независимы и имеют одинаковое нормальное распределение.

Оказалось, что при неограниченном росте числа наблюдений, Т —> оо, логарифм отношения правдоподобия имеет нетривиальный предел. Это означает, что нестационарную последовательность можно отличить от стационарной гораздо быстрее, чем две стационарные друг от друга, за порядка Т наблюдений в первом случае против порядка Т2 - во втором. В работе [2] этот результат обобщен на случай, когда - гауссовская стационарная последовательность достаточно произвольного вида, при доказательстве использовалась техника многомерных гауссовских распределений. Исследование в случае произвольного распределения последовательности требует другого подхода к асимптотическому анализу отношения правдоподобия, основанному на изучении сумм, сходящихся к стохастическим интегралам.

Основной результат третьей главы устанавливает, что в случае произвольного маргинального распределения инновационного шума и даже при наличии авторегрессионных зависимостей в этом шуме, результат аналогичен - предел отношения правдоподобия в вышеприведенной задаче существует и представляет собой сумму стохастических интегралов.

Предположим, что инновационный шум в модели (8) является процессом авторегрессии р-го порядка, то есть, удовлетворяет разностному уравнению

St + + . + apSt-p = et, где et — независимые, одинаково распределенные с плотностью распределения f(x) случайные величины, относительно которых ниже мы сделаем несколько предположений, и первое из которых - предположение, гарантирующее выполнение теоремы Донскера для последовательности st :

El: E^i =0, и для некоторого д > 0 E\ei\2+S < оо.

Введем также дополнительные условия на /: Е2: Функции

Pf'(ei + t)2 и r\f"(^ + t)\ /(ei+i)2 ffr + t) непрерывны по t в нуле и ограничены на любом компакте.

Основной целью третьей главы является доказательство следующего результата. Пусть для модели (8) выполнены условия Е1 и Е2. Тогда логарифм отношения правдоподобия для проверки гипотезы Н против альтернативы А по наблюдениям Х\,.,Хг сходится в условиях гипотезы при Т —У оо по распределеию к

7 [Г ~ ^ + ^WWH^W

I + О-2 + 2 yfl

1 + [I!(("2 + [г) ~ + ¥ где - пара независмых стандартных винеровских процессов, а1 дисиерсия случайной величины е\, / - ее информационное количество Фишера, й = сг2/ — 1. Этот результат оформлен в виде теоремы 5 в третьей главе.

Автор выражает глубокую благодарность своему научному руководителю доктору физ.-мат. наук, профессору В.И.Питербаргу за постановки задач и помощь в работе.

Основные результаты диссертации опубликованы в [52], [53] и [51].

1. Биллингсли П. Сходимость вероятностных мер. Издательство "Наука", Главная редация физико-математической литературы, Москва 1977.

2. Кормош Я., Питербарг В. И. Критерий нестационарности гауссовского временного ряда при близкой альтернативе. Проблемы передачи информации, 27, 1991, Вып. 4, 70-75.

3. Ноак У.-Б. Проверка простой гипотезы при близкой альтернативе в модели временного ряда авторегрессии. Вестник МГУ. Сер. матем., мех. 1988, N4, 82-84.

4. Ahtola J. A., Tiao G. С. Parametric inferenec for a nearly nonstationary first-order autoregressive model. Biometrika, 1984, N71, 263-272.

5. Beirland, J. and Teugels, J.L.: Asymptotic normality of Hill's estimator. In Lecture Notes in Statistics, (1989), 51, 148-155, eds. J.Hiisler and R.-D. Reiss, Springer-Verlag.

6. Berman, S.M.: Limit theorem for the maximum term in stationary sequences. Ann. Math. Statist., (1964), 35, 502-516.

7. Boulongne P.: Modèle de type Cagan: distribution limites des estimateurs des parameteurs.

8. Chan N. H., Wei С. Z. Asymptotic inference for nearly nonstationary AR(1) processes. Ann. Statist. 1987, 16, N3, 1050-1063.

9. Chernick M.R.: A limit theorem for the maximum of autoregressive processes with uniform marginal distribution., Ann. Probability, (1981), 9, 145-149.

10. Chernick M.R.: A limit theorem for the maximum of an exponential autoregressive process. SIMS Technical Report 14, Statist. Depart., Standfort Univ.

11. Csorgo, S., Deheuvels, P. Mason, D.M.: Kernel estimates of the tail index of a distribution. Ann. Statist., (1985), 13, 1050-1077.

12. Davis, R.A. and Resnick, S.T.: Tail estimates motivated by extreme value theory. Ann. Statist., (1984), 13, 1050-1077.

13. Dekkers, A.L.M. and de Haan, L: On the estimation of the extreme-value index and large quantile estimation. Ann. Statist., (1989), 17, 1795-1832.

14. Dickey, D.A. and Fueller, W.A.: Distribution of the estimators for autoregressive time series with a unit root. Journal of American Statistical Association., (1979), 74, 427-431.

15. Fisher, R.A. and Tippet, L.H.C.: Limiting forms of the frequency distribution of the lagest or smallest member of a sample. Proc. Cambridge Phil. Soc., (1928), 24, 180-190.

16. Gnedenko B.V.: Sur la distribution limite du terme maximum d'une série aléatoire., Ann. Math., (1943), 44, 423-453.

17. Gumbel, E.J.: Statistics of Extremes. New York,. Colambia Univ. Ptress.

18. Haal, P.: On some simple estimates of an exponent of regular variation. Jornal of the Royal Statistical Society, (1982), B44, 37-42.

19. Hamilton J.D. Time Series Analysis. Princeton Univ. Press, Princeton, New Jersey, 1994.

20. Hausler, E. and Teugels, J.L.: On the asymptotic normality of Hill's estimator for the exponent or regular variation. Ann. Statist., (1985), 13, 743-756.

21. Hill, B.M.: A simple genegal approach to inference about the tail of a distribution. Ann. Statist., (1975), 3, 1163-1174.

22. Hsing, T.: On tail index estimation using dependent data. Ann. Statist., (1991), 19, 1547-1569.

23. Hsing, T.: Extremal index estimation for a weakly dependent stationary sequence. Ann. Statist, (1993), 21, 2043-2071.

24. Jacod J., Shiryaev A.H.: Limit Theorems for Stochastic Processes. SpringerVerlag, Berlin Heidelberg New York, 1987.

25. Leadbetter M.R.: On extreme values in stationary sequences., (1974), Z. Wahrscheinlichkeitstheorie verw. Gebiete, 28, 289-303.

26. Leadbetter M.R.: Extremes and local dependence in stationary sequences., (1983), Z. Wahrscheinlichkeitstheorie verw. Gebiete, 65, 291-306.

27. Leadbetter M.R, Lingren G., Rootzen H.: Extremes and relaned poroperties of random sequances and processes.,Springer Statistics Series. Berlin-Heidelberg-New York: Springer (1983).

28. Loynes R.M.: Extreme values in uniformly mixing stationary stochastic processes., (1965), Ann. Math. Statist., 36, 993-999.

29. Masson, D.M.: Lows of large numbers for sums or extreme values. Ann. Probab., (1982), 10, 754-764.

30. Masry E.: Random sampling of continous-parameter stationary processes: stationary properties of joint density estimators., (1988),Journal of Multivariate Analysis,, 26, 133-165.

31. Masry E.: Non-parametric covariance estimation from irregularly-spaced data., (1983) Adv. in Appl. Probab. 15, 113-132.

32. Masry E.: Spectral and probability density estimation from irregularly-observed data. In Time Series Analysis of Irregularly Observed Data (E. Parzen, Ed.), 224-250. Springer-Verlag, New York/Berlin.

33. Nandagopalan, S.: Multivariate extremes and estimation of the extremal index. Ph.D. dissertation, Dept. Statist, Univ. North Carplina, Chapel Hill.

34. O'Brien G.L.: The maximum term of uniformly mixing stationary processes., Z. Wahrscheinlichkeitstheorie verw. Gebiete, (1974), 30, 57-63.

35. O'Brien G.L.: Limit theorems for the maximum term of a ststionary process., Ann. Probability, (1974), 2 540-545.

36. O'Brien G.L.: Extreme values for stationary and Markov sequences., Ann. Probability, (1987), 15 181-191.

37. Park J.Y. Phillips P.C.B. Statistical inference in regressions with integrated processes: part 2. Econometric Theory, 5, 1989, 95 131.

38. Phillips P.C.B., Durlauf S.N.(1986) Multiple time series regression with integrated processes. Review of Economic Studies, LIII, 473-495.

39. Phillips P.C.B., Perron P. (1988) Testing for unit roots in time series regression. Biometrica, 75, 335-346.

40. Pickands, J: Satistical inference using extreme order statistics. Ann. Statist., (1975), 3 119-131.

41. Piterbarg V.I.: Discrete vs continuous time for large extremes of Gaussian processes. Rotterdam (2002). Econometric Institute report, ISSN 15667294 ; EI 2002-06, 19 p. ; 30 cm.

42. Rootzen, H: Exstremes of moving averages of stable processes. Ann. Probab., (1978), 6 847-869.

43. Rootzen, H: Maxima and exeedances of stationary Markov chains. Adv. in Appl. Probab., (1988), 20 371-390.

44. Rozenblatt, M: A central limit theorem and strong mixing condition Proceedings or the National Academy of Sciences USA, (1956), 42, 43-47.

45. Shiryaev, A.N. and Spokoiny, V.G. : On sequential estimation of an autoregressive parameter. Stochastics Stochastics Rep., (1997), 60, no. 3-4, 219-240.

46. Shiryaev, A.N. and Spokoiny, V.G. : Statistical experiments and Decisions: Asyrntotic theory. World Scientific Publ., (2000), London, Singapore.

47. Smith, R.L.: Estimating tails of probability distributions. Ann. Statist., (1987), 15 1174-1207.

48. Smith, R.L. and Weissman, I: Estimating the extremal index. J. Roy. Statist. Soc Ser.B, (1994), 56 512-528.

49. Watson, G.S.: Extreme values in samples from m-dependent stationary processes., (1954), Ann. Math. Statist., 25, 798-800.