Асимптотические разложения в центральной предельной теореме для квадратичных форм тема автореферата и диссертации по математике, 01.01.05 ВАК РФ

Введение

Обозначения.

1 Асимптотические разложения для квадратичных форм

1.1 Формулировка результатов.

1.2 Доказательство теоремы 1.1.

1.3 Доказательство теоремы 1.

Рассмотрим Х,Хх,Х2,последовательность независимых случайных величин с конечной дисперсией. Пусть {Дг} - последовательность симметричных матриц размерности N х с элементами а^, причем ЛГ, возможно зависит от п или равно оо. Рассмотрим последовательность квадратичных форм N

Яп = — *ЕХуХк). 1

Интерес к задаче изучения асимптотического распределения квадратичных форм обусловлен тем, что квадратичные формы находят непосредственное применение в задачах теории вероятностей и математической статистики: при построении критериев согласия [43], при оценивании спектральной плотности [2], [6], при оценивании параметров стационарных процессов [21], [56]. Отметим, что квадратичные формы образуют важный подкласс обобщенных ^/-статистик. Многие результаты, связанные с изучением асимптотики СУ-статистик, получены сведением ¿/-статистики к квадратичной форме [8, (1989)]. Задача исследования предельного поведения вейвлет-оценки спектральной плотности также сводится к изучению асимптотики квадратичной формы.

Вейвлет-оценки получили широкое распространение в задаче непараметрического оценивания плотности распределения [48, (1992)], [62, (1994)] [62, (1994)], [44, (1996)], спектральной плотности стационарных процессов [53, (1996)], при исследовании поведения нестационарных процессов [26, (1999)]. Вместе с тем, представляется интересным исследование асимптотического поведения вейвлет-оценок плотности случайной величины.

Интерес к исследованию асимптотического поведения квадратичных форм, возникший в 50-е годы (см. [57, (1948)], [37, (1955)], [42, (1955)], [39, (1958)]), был обусловлен появлением приложений и носил частный характер. Как 6олее общая проблема, Колмогоровым была сформулирована задача определения класса всех возможных предельных распределений квадратичной формы. Севастьянов в работе [13, (1961)] показал, что класс предельных распределений для квадратичных форм от гауссовских независимых случайных величин совпадает с классом распределений образованным всевозможными свертками стандартного нормального закона, взвешенного центрального и нецентрального распределения хи-квадрат.

В нашей работе мы ограничимся задачей нормальной аппроксимации квадратичных форм от независимых случайных величин, а именно, изучением скорости сходимости в центральной предельной теореме.

Одной из первых работ в данном направлении, по-видимому, является работа Уиттла [64, (1964)]. Используя метод Бернштейна для изучения асимптотики сумм слабо зависимых случайных величин, Уиттл доказал слабую сходимость последовательности распределений квадратичных форм Qn к нормальному закону, предполагая, что абсолютный момент случайной величины X порядка 4 + 6 конечен, и матрица А имеет тёплицеву структуру.

В работе Ротаря [11, (1973)] был получен ответ на следующий вопрос: являются ли квадратичные формы "инвариантными" относительно некоторого класса распределений? Введем следующие обозначения: L2 = шахх|, $ = YS-Mtf- ПУСТЬ п

3,к=1 где Z2,. - последовательность независимых гауссовских стандартных случайных величин. Обозначим = YTj=i + ¿j = \a<jf\ +

Lj/b„. Для случая maxj e2/b2 —► 0, Ротарь доказал, что величина бп(х) = |Р {Qn < Ь2пх) - Р [Gn< Ь2пх} | сходится к нулю почти для всех значений х, то есть предельное распределение квадратичной формы не зависит от выбора случайных величин Xi, Х2,---

Пусть eg> = о и HAi||2= 1, где ||А>||2= £Ыа*)2- ПУСТЬ ^ ^ ' ^ |а£п)| - собственные числа матрицы {Лп}. В работе Гамкрелидзе, Ротаря [4, (1977)] при условии, что Е\Х\3 < 00, supn < ооиТгА* < ^ была получена оценка sup¿n(a;) < (1 - Ь4:(ТгА1)2)~Ы. X

В [12, (1985)] Ротарь, Шеваршидзе уточнили результат работы [4]. При условии, что Тг А* < \ была получена оценка зир5п(ж) < (1 - 1п(1 - 2Тг х

Будем обозначать через С с индексом (или без) абсолютные положительные константы, необязательно одинаковые. Отметим, что можно привести к виду Сп = ]С£=1 — 1) с помощью ортогонального преобразования матрицы Ап. Тогда неравенство Берри-Эссеена влечет выполнение следующего неравенства 1Л1П) I3 ^ ^ зир |Р{вп/у/У.аг<3„ < х\ - Ф(х)\<СгУ2< Сг

НА

3= где Ф(ж) - функция распределения (ф.р.) стандартного нормального закона, А^ - максимальное по абсолютному значению собственное значение матрицы Ап. Из результатов [4] и [12] следует, что достаточным условием выполнимости центральной предельной теоремы является

ТЙ-> а (Ч

ИЛИ

Отметим, что диагональ матрицы Ап имеет значительное влияние на поведение предельного распределения. Обозначим через = Если ф 0, то аппроксимирующее распределение С} зависит от ЕХ3 и ЕХ4. Например, если ЕХ2 = 1, рассмотрим статистику N д = лг* -1 ) + лг-1 £ х,хк. з=1 1<э^к<ы

Нетрудно видеть, что можно переписать в виде д = лг'(Х»2 - 1г-1ф}ф + -1).

3=1 3=1 3=1

Введем двумерный вектор ^ = (X? — Используя центральную предельную теорему для векторов получим, что имеет предельное распределение (7 следующего вида с = + (^1 + мз/2)2 -1 - ¡4/4, 6 где ¡1к = Е(Х - ЕХ)к.

В 1991 году М1ковЬ в работе [52] независимо от результатов Ротаря показал, что для квадратичной формы с нулевой диагональю от независимых равномерно интегрируемых с квадратом случайных величин тах ЕХр. {|Х-| > М]-► О,

1 <3<п М—>оо условие (1) является достаточным условием сходимости к нормальному закону.

До недавнего времени наилучшей оценкой скорости сходимости в центральной предельной теореме была оценка порядка ХД, которая следует из результатов [4, (1977)] и [12, (1985)].

Для случая с нулевой диагональю в работе Гётце, Тихомирова [34, (1999)] с помощью метода локального секционирования и неравенства симметризации был получен следующий результат аир|р \QnN4агдп < х} - Ф(®)| < (2) где (Зк = Е|Х|\

Пусть > 0. Предположим, что линейная часть квадратичной формы не "доминирует" предельное распределение то есть существует 61 > 0, такое, что равномерно по п

3)

В предположении конечности шестого момента случайной величины X и выполнения условия (3), в работе Гётце, Тихомирова [35, (2002)] была получена оценка зир|р [Яп/у/ЧиЯп < х] - Ф(а;)| < СЙГ2«!^, (4) где а! = (/5| + Уп\\Ап\\-1^)^Ъ

Можно построить пример, показывающий, что оценки (2), (4) оптимальны (см. [34]). Рассмотрим последовательность случайных величин Х^ принимающих значения +1 и —1 с вероятностью Рассмотрим квадратичную форму вида п

Яп = 2 ^ Хък-хХък-к—1

Легко видеть, что матрица А составлена из блоков размерности 2x2 вида ^ ^ , расположенных на диагонали. Норма ||АП||2 равна п. Из определения матрицы Ап следует, что = 1. Действительно, по определению а[п)| = sup рпх||2, 11*11=1 где х - вектор в R2". Тогда, Апх = ., a:2n,^2n-i), откуда следует, что = 1. Применяя оценку (2), получим

G> п - ЕQn)/\/VeiiQn < — Ф(ж) у/п'

Заметим, что случайные величины = X2k-\X2ki к = 1, .,гг, независимы и одинаково распределены. Нетрудно показать, что Р = 0} ~

V «7Г ТЬ см. [10, с. 158]), откуда следует оценка для нижней границы Ап(А)

А (А) > 9L - C8lAll

В дальнейшем нас будет интересовать построение асимптотических разложений для квадратичных форм и уточнение оценок в центральной предельной теореме.

Наряду с исследованиями асимптотического поведения квадратичных форм, нас будет интересовать предельное поведение вейвлет-статистик.

Вейвлет-анализ является одним из удобных инструментов исследования функций в различных пространствах. Основополагающими работами в этой области стали работы Маллат (Mallat)[50, (1989)], Добеши (Daubechies)[27, (1992)], Чуй (Chui)[22, (1992)]. В них авторы развивают теорию построения ортонормальных базисов с заданными свойствами регулярности, которые строятся с помощью сдвигов и растяжений генерирующей функции. Достаточно подробный обзор по вейвлет-анализу содержится в работах Härdle et. al[45, (1997)], Новикова, Стечкина [9, (1998)].

Пусть X, Х\,Х2,. - последовательность одинаково распределенных случайных величин с конечной дисперсией. Пусть X имеет плотность распределения f{x). Линейная вейвлет-оценка была введена в работе Керкячеряна, Пикарда (Kerkyacharian, Picard) [48, (1992)] и Уолтера (Walter) [62, (1994)].

Рассмотрим оценку плотности распределения f(x) оо ii —1 оо fjÁx) = J2 Cjok<Pj0k(x) + Y^ djki/>jk(x). (5) к=—оо j=jo к=— оо где Cj0k = l/n^tiVjoÁXi), djk = - эмпирические вейвлет

- коэффициенты, j\ = ji(n) - уровень аппроксимации. Керкячерян, Пикард применили оценку (5) в задаче непараметрического оценивания плотности распределения. Для функций из класса Бесова s > 0,р > 1 была получена оптимальная оценка среднеквадратичной ошибки в пространстве Lp порядка n~sp^2s+1\

В работах Донохоу, Джонстоуна (Donoho, Johnstone) [28, (1992)], [29, (1994)] было предложено использовать сглаженные нелинейным образом вейвлет-оценки. Нелинейные вейвлет-оценки рассматривались также в работах Холла, Керкячеряна, Пикарда [44, (1996)], Härdle, et. al [45, (1997)]. В книге [45] для шара в пространстве Бесова получена оценка Lp-минимаксного риска порядка loe п\ И/р+1Н/(1+2(,-Ш) х s > га > (1 + 2s)p,

V п ) р а также полностью описаны условия оптимальности минимаксного риска для линейной и нелинейной вейвлет-оценок плотности в шаре пространства Бесова.

В работе Ныоманна [53, (1996)] исследовались нелинейные вейвлет-оценки спектральной плотности на классах Бесова. Были получены асимптотические свойства эмпирических вейвлет-коэффициентов и оптимальное значение скорости сходимости оценки Z/2-риска спектральной плотности / 6 Bp'q, р > 2 порядка n-2s/(2s+l) при ограничениях на кумулянты

00 sup Y, IcumÄ, < где к = 2,3,., 7 > 0. В работе Далхауза (Dahlhaus), Ньюмана и фон Сакса (von Sachs) [26, (1999)] было изучено поведение параметров {a¿(í)}f=1 нестационарного процесса авторегрессии AR(p). Было показано, что среднеквадратичное уклонение нелинейной вейвлет-оценки параметра a¿(£), i = 1,. ,р имеет порядок 1 для широкого класса функций.

Представленный обзор исследований позволяет сделать вывод о значительном развитии задачи нормальной аппроксимации последовательности квадратичных форм от независимых случайных величин. Вместе с тем, представляется закономерной попытка построения асимптотических разложений для квадратичных форм и получения более точных оценок скорости сходимости в центральной предельной теореме. Обзор приложений вейвлет-анализа в теории вероятностей показывает актуальность изучения предельных теорем для вейвлет-оценок. Настоящая работа представляет собой первый опыт по изучению асимптотических разложений в центральной предельной теореме для класса статистик, сводимых к последовательности квадратичных форм (оценки спектральной плотности, статистики т-спейсингов), а также первый опыт по изучению предельного поведения линейных и нелинейных вейвлет-оценок.

В методологическом отношении мы опираемся, с одной стороны, на обширный опыт изучения предельного поведения квадратичных форм ([64], [52], [20], [34], [35]), с другой стороны - на методы, разработанные в теории вейвлет-анализа [27], [50], [45].

Содержание диссертации. Диссертация состоит из введения, трех глав и дополнения. В первой главе доказывается основная теорема. Во второй главе рассматриваются приложения основной теоремы к некоторым статистикам. В третьей главе доказывается состоятельность вейвлет-оценок, поточечная центральная предельная теорема для вейвлет-оценок и центральная предельная теорема для Ь\ - расстояния.

1. П. Биллингсли, Сходимость вероятностных мер, М.:Наука, 1977.

2. Д.Б. Бриллинджер, Анализ временных рядов и теория, М.:Мир, 1980.

3. Л. Деврой, Л. Дьёрфи, Непараметрическое оценивание плотности. L\ подход, М.: Мир, 1988.

4. Н.Г. Гамкрелидзе, В.И. Ротарь, О скорости сходимости в предельной теореме для квадратичных форм, Теория вероятн. и ее примен. XXII (1977), N 2, 404-407.

5. Ф. Гётце, А.Н. Тихомиров, В.А. Юрченко, Асимптотические разложения в центральной предельной теореме для квадратичных форм, Сборник молодых ученых. СыктГУ (отправлено в печать).

6. И.Г. Журбенко, Спектральный анализ временных рядов, М.:Изд. Моск. ун-та, 1982.

7. А.Н. Колмогоров, C.B. Фомин, Элементы теории функций и функционального анализа, М.:Наука, 1977.

8. B.C. Королюк, Ю.В. Боровских, Теория U-статистик, Киев: Наук, думка, 1989.

9. И.Я. Новиков, С.Б. Стечкин, Основы теории всплесков, Успехи математических наук (1998), N 6, 53-127.

10. В.В. Петров, Предельные теоремы для сумм независимых случайных величин, М.:Наука, 1987.

11. В.И. Ротарь, Некоторые предельные теоремы для полиномов второй степени, Теория вероятн. и ее примен. XVTII (1973), N 3, 527-534.

12. В.И. Ротарь, T.JI. Шеваршидзе, Некоторые оценки распределений квадратичных форм, Теория вероятн. и ее примен. XXX (1985), N 3, 549-554.

13. Б.А. Севастьянов, Класс предельных законов распределения квадратичных форм от нормальных случайных величин, Теория вероятн. и ее примен. VI (1961), N 3, 368-372.

14. А.Н. Тихомиров, В.А. Юрченко, Вейвлет-оценки плотностей и В-сплайны, Сборник "Алгебра, дифф.уравнения и теория вероятностей" КНЦ УрО РАН, (2000), 84-107.

15. В.А. Юрченко, Предельные теоремы для вейвлет-оценок, тезисы конференции OFEA (2001), 179-180.

16. В.А. Юрченко, Предельные теоремы для вейвлет-статистик от независимых случайных величин, Вестник Сыктывкарского университета 4 (2001), 85-102.

17. I.B. Alberink and V. Bentkus, Berry-Esseen bounds for von Mises and U-statistics, Preprint 00-011, Universität Bielefeld, 2000.

18. F. Avram, On bilinear forms in Gaussian random variables and Töplitz matrices, Probab. Th. Rel. Fields 79 (1988), 37-45.

19. J. Beirlant and D.M. Mason, On the asymptotic normality of Lp~norms of empirical functional, Math. Methods Statist. 4 (1995), 1-19.

20. V. Bentkus and F. Götze, Optimal rate of convergence in the CLT for quadratic forms, Ann. Probab. 24 (1996), 466-490.

21. N.H. Chan and C.Z. Wei, Asymptotic inference for nearly nonstationary AR(1) processes, Ann. Statist. 15 (1987), 1050-1063.

22. C.K. Chui, An introduction to wavelets, Academic Press, 1992.

23. N. Cressie, On the logarithms of high order spacings, Biometrika 63 (1976), 343-355.

24. N. Cressie, On optimal statistic based in higher order gaps, Biometrika 66 (1979), 619-627.

25. M. Csörgö and L. Horväth, Central limit theorems for Lp-norms of density estimators, Z. Wahrsch. Verw. Gebiete 80 (1988), 269-291.

26. R. Dahlhaus, M. Neumann, and R. von Sachs, Nonlinear wavelet estimation of time-varying autoregressive process, Bernoulli 5 (1999), no. 5, 873-906.

27. I. Daubechies, Ten lectures on wavelets, CBMS-NSF. Regional conference series on applied mathematics (1992).

28. D.L. Donoho and I.M. Johnstone, Minimax estimation via wavelet shrinkage, Technical report, Stanfords University, 1992.

29. D.L. Donoho and I.M. Johnstone, Ideal spatial adaptation by wavelet shrinkage, Biometrika 81 (1994), 425-455.

30. R. Fox and M.S. Taqqu, Central limit theorems for quadratic forms in random variables having long-range dependence, Probab.Th.Rel. Fields 74 (1987), 312-340.

31. Evarist Gine, David M. Mason, and Andrei Yu. Zaitsev, The L^-norm density estimator process, to appear (2002).

32. L. Giraitis and D. Surgailis, A central limit theorem for quadratic forms in strongly dependent linear variables and its application to asymptotical normality of Whittle's estimate, Probab.Th.Rel.Fields 86 (1990), 87-104.

33. F. Götze, A.N. Tikhomirov, and V.A. Yurchenko, Asymptotic expansion in central limit theorem for quadratic forms, VIII Vilnus Conference on Probability, 2002.

34. F. Götze and A.N. Tikhomirov, Asymptotic distribution of quadratic forms, The Annals of Probability 27 (1999), no. 2, 1072-1098.

35. F. Götze and A.N. Tikhomirov, Asymptotic distribution of quadratic forms and application, J.Theor.Prob. 15 (2002), no. 2, 439-491.

36. F. Götze, Asymptotic expansion for bivariate von Mises Junctionals, Z. Wahrsh. verw. Geb. 50 (1979), 333-355.

37. A. Grad and H. Solomon, Distribution of quadratic forms, Ann. Math. Statist. 26 (1955), no. 3, 464-477.39