Оценки скорости сходимости в критериях типа x2 для однородных цепей Маркова тема автореферата и диссертации по математике, 01.01.05 ВАК РФ

ВВЕДЕНИЕ.

ГЛАВА I. ОЦЕНКИ СКОРОСТИ СХОДИМОСТИ РАСПРЕДЕЛЕНИЯ КВАДРАТИЧНОЙ ФОШЫ. ОТ ЧАСТОТ ПЕРЕХОДОВ

§ I. Краткий обзор имеющихся результатов

§ 2. Оценка скорости сходимости распределения статистики.тйпа У к предельному закону.

§ 3. Оценка скорости сходимости распределения статистики типа ^ к предельному, когда матрица переходных вероятностей имеет нулевые элементы ••••••••••

ГЛАВА 2. ОЦЕНКИ СКОРОСТИ СХОДИМОСТИ РАСПРЕДЕЛЕНИЙ t СТАТИСТИК КРИТЕРИЕВ ПРОВЕРКИ.

СЛОЖНОЙ ГИПОТЕЗЫ

§ I. Вспомогательные предложения.

§ 2. Оценки скорости сходимости распределения я/ 2> статистик, когда неизвестные параметры оцениваются по методу максимального правдоподобия по группированным данным . . . •

Представленная диссертационная работа посвящена получению ч оценок скорости сходимости в критериях согласия типа ^ в том случае, корда выборка образует однородную цепь Маркова с конечным числом состояний.

Видимо, не будет ошибкой, если скажем, что среди всех критериев согласия для последовательности независимых испытаний, наи

2. более изученным является критерий ^ К.Пирсона. Пусть имеется независимая выборка объема YV , Xft, . . , ХЛ (I) из генеральной совокупности с распределением

Разобьем множество значений случайной величины X^ на S непересекающихся групп. Вероятность попадания значения случайной величины X, в I; -ую группу находится по заданной функции распределения p.p|Xie I.},L-M, Pj + PS-'Ps"-Будем считать, что все р. >0 , L = . Наблюденные частоты групп J .J обозначим +

Для проверки гипотезы о том, что распределение выборки (I) согласуется с функцией распределения К.Пирсоном была предложена статистика iih^i Л Hi ЛРС определяющая меру отклонения распределения выборки от гипотетического распределения. К.Пирсоном было доказано /637 , что, при

2,

Ц->оо, статистика (2) будет иметь ^ распределение с S~£ степенями свободы при фиксированных S , ^ , ^ ,, р& .

Теорема. Равномерно по ОС, у О

Plxl где

Х fU IL

1 С 2- 1Г , , г гф о

2- j функция ^ распределения с CL степенями свободы.

С.Х.Туманян доказал, что, когда число групп S растет, то при выполнении условия ПШ1 Л П. -—^оо 1 распределение соответ

Г j Ц^ОО ствующим образом нормированной и центрированной статистики (2) ь будет равномерно сходится, при йг^оо% к стандартному нормальному закону Г34,35] .

В последующем рядом авторов исследовалась проблема оценивания скорости сходимости к предельному закону для критерия К.Пирсона. Первый результат был получен С.Г.Эссееном [49] с помощью метода характеристических функций. В последствии оценка С.Г.Эс-сеена была улучшена В.М.Калининым и О.В.Шалаевским [14,15] , которые, применяя метод произвольного параметра, получили следующую оценку ф

Ш) .№

1=1 L где Д/ - число целочисленных точек эллипсоида в (ас.-лр.) у---——^ as. , кг at+at+.** + at =п ,

1, fe о

V - его объем.

Аналогичная оценка была получена Н.К.Аренбаевым [IJ для случая растущего числа групп S . Поскольку другим предельным законом для распределения соответствующим образом центрированной и норм!фованной статистики К.Шфсона в этом случае будет выступать нормальное распределение» то задачу об оценке скорости сходимости к этому закону Н.К.Аренбаев решил LZl , найдя оценку скорости сходимости в центральной предельной теореме для случайных векторов.

Случай вполне определенного гипотетического расцределения встречается в приложениях редко. Значительно чаще встречаются случаи, когда гипотетическое распределение содержит некоторое количество неизвестных параметров, относительно значений которых мы можем судить лишь по тем сведениям, которые могут быть извлечены ^ из самой выборки. При э^гом нам задается функция распределения

F(at96) , Qe® С И , и (I) есть независимая выборка объема П из введенной генеральной совокупности с функцией распределения F[0£, 9) .

Снова разобьем множество значений случайной величины X^ на

S непересекающихся групп J. , Г , наблюдаемые часто» * ты групп обозначим т^,,., »а вероятности попадания значения случайной величины Х£в L группу обозначим р.(0) = = Р{Х. £ I? \ , . Будем предполагать, что при всех&ев,

1. W р. (в) ?> О , С « iTs .

Если бы нам было известно значение параметра О , при котором цроизведена выборка (I), то подставляя это значение в статистику

A- L=i ПрМ) можно проверять согласие мевду эмпирическим и гипотетическим распределениями с помощью критерия К.Пирсона. Когда значение параметра © нам известно, то возникает необходимость применения той или иной оценки параметра Q и все рассуждения следует строить на основе свойств этой оценки.

Р.Фишер [50,51] показал, что предельным распределением для

V2 1 распределения статистики Л ^ / будет 7[ распределение с

S" t~l степенями свободы, когда 6?* есть оценка максимального п. 2 правдоподобия по группированным данным (или оценка минимума ^ ) и находится как решение системы дифференциальных уравнений s ь др. №) у\ —---— = о

L*l Pi® л = Ц.

Что^касается оценки скорости сходимости распределения статистики X п п) к предельному закону, то эту задачу решил Д. Бямбажав [9,10J , обобщив результат В.М.Калинина и О.В.Шалаевско-го на параметрический случай и налагая следующие условия регулярности :

I.

2. Существуют производные д pAQ)

L б р

3. Существует такое J)>0 , что при всех 0е£7 =[&: \B~&o\^j)}, dpjW дв

J. С а'

3 р.Лв),

- L <с дв.двJ з д pLW c ^к '

4. Матрица

I» oL i dpLW имеет ранг г.

Теорема» Равномерно по 02 у О , при выполнении условий регулярности 1-4, при Ц.—оо

S'i'i

Как было замечено еще Д.М.Чибисовым [39] , Г.Черновым, Е.Л.Леманом [48] , применение вместо оценки максимального правдоподобия по группированным данным, другой оценки нарушает результат Р.Фишера и предельное распределение будет отличаться от Л

2. * распределения. Видоизменяя статистику ), в каждом конкретном случае, зависящем от типа оценки, можно добиться того, что предельным законом для распределения видоизмененной статистики будет ^ расцределение £6,12,20Т23] .

Актуальным и естественным является распространение таких исследований и результатов на последовательность зависимых испытаний, в частности, на схему однородных цепей Маркова с конечным числом состояний.

Вводя цепную зависимость,А.А.Марков иллюстрировал это на примере чередования гласных и согласных в русском языке. Эту задачу впоследствии рассматривали многие авторы .

Как показал опыт, не только процесс чередования гласных и согласных, но и множество других, практически реализуемых процессов укладываются в рамки цепной зависимости. Это дало толчок обстоятельному изучению теории цепей Маркова, и в настоящее время она является наиболее исследованным разделом последовательности зависимых испытаний.

Что касается задач статистических исследований для цепей Маркова, то здесь имеется много критериев, аналогичных критериям К.Пирсона и Р.Фишера, и позволяющих проверять как простые, так и сложные гипотезы относительно полученной реализации цепи Маркова. Однако,приведенный выше круг исследований, касающийся оценивания скорости сходимости к предельно*^ ^ распределению, не проведен в случае цепей Маркова.

Представляет самостоятельный интерес получение оценок скорости сходимости в имеющихся критериях согласия ^ для цепей Маркова.

Данная диссертация решает эту задачу. В работе получены аналоги теорем В.М.Калинина, О.В.Шалаевского, Д.Бямбажава для однородных регулярных цепей Маркова. Все результаты получены при условии эргодичности цепи Маркова.

Как известно, выполнимость эргодической теоремы не отрицает возможности наличия в матрице переходных вероятностей нулевых элементов, хотя число состояний у цепи Маркова остается прежним.

2.

При рассмотрении критериев согласия ^ для таких цепей это условие приводит к уменьшению числа степеней свободы у предельного ^ распределения на число нулевых элементов матрицы переходных вероятностей. Такая картина, естественно, не наблюдается в случае последовательности независимых испытаний.

В представленной диссертации оценки получены как для случая положительной матрицы переходных вероятностей, так и для случая, когда в этой матрице имеются нулевые элементы.

Диссертация состоит из введения и двух глав. В обзоре литературы 68 наименований.

1. Аренбаев Н.К-. Асимптотическая оценка скорости схо-димости критерия.Хи-квадрат к предельному, Изв.АН КазССР, сер, физ.-мат.наук, 1976, IS 5, с.56-58.

2. Аренбаев Н.К. Асимптотическое поведение полиномиального распределения. Теория вероятностей и ее применение, 1976, т.XXI, JS 4, с.826-831.

3. Б а ш а р и н Г.П. Об использовании критерия согласияв качестве критерия независимости испытаний. Докл. АН СССР, 1957, т.117, 16 2, с.167-170.

4. Беллман Р.Введение в теорию матриц. М.: Наука,1969. 367 с.

5. Бернштеин. С.Н. Сборник сочинений. М.: Наука,1964. 499 с.

6. Большев Л.Н., Мирвалиев М. Критерий согласия Хи-квадрат для пуасооновского, биномиального и отрицательного биномиального распределений. Теория вероятностей и ее применение, 1978, т.23, J8 3, с.481-494.

7. Боровков А.А. Теория вероятностей. М.: Наука,1976. 352 с,

8. Бямбажав Д. Оценка скорости сходимости распределения статистики типа Хи-квадрат к предельному. -Изв.АН УзССР, сер. физ.-мат.наук, 1980, JS 3,с.14-22.

9. В а л ь ф и ш А.З. Целые точки в многомерных шарах.Тбилиси: Изд. АН ГССР, 1959,-460 с.

10. Джапаридзе К.О., Никулин М.С. Об од-.ном видоизменении стандартной статистики, Пирсона. -Теория вероятностей и ее применение, 1974, т.19, Ш 4, с. 886-888.

11. Калинин Б Л. Специальные функции и предельные свойства вероятностных распределений. Записки научного семинара ЛОМИ АН СССР, 1972, т.26, с.5-87.

12. Калинин В.М., Шалаевский О.В. Хи-квадрат как критерий независимости в таблице сопряженности признаков. Записки научного семинара ЛОМИ АН СССР, 1972, т.26, с.88-117.

13. К а л и н и н В.М., Шалаевский О.В. Хи-квадрат как критерий однородности. Записки научного семинара ЛОМИ АН СССР, 1972, т.26, с.118-123.

14. К е н д а л л М.Дж., С,т ь ю а р т А., Статистическиевыводы и связи. М.: Наука, 1973. -г 899 с.

15. Колмогоров А.Н., Фомин С.В* Элементы теории Функций и,функционального анализа. М.: Наука, 1981. - 542 с.

16. Колмогоров А.Н. Локальная предельная теорема.для. классических цепей Маркова. Изв. АН СССР,сер. мат., 1949, т.13, с.281-300.

17. Крамер Г. Математические методы статистики. М.:Мир, 1975, 648 с.

18. Никулин М.С. Критерий Хи-квадрат для непрерывныхраспределений с параметрами сдвига и масштаба. -Теория вероятностей и ее применение. 1973, т.18, JS 3, с.583-592. .

19. Прохоров Ю.В. Асимптотическое поведение биномиального распределения. Успехи мат. наук, 1953, т.8, Ш 3, с. 135-142.

20. Р а о Р., Линейные статистические методы и их применение. М.: Наука, 1968. -547 с.

21. Романове кий в.И. Статистические задачи, связанные с цепями Маркова. Ташкент: Изд. УеФАН, 1940,- 33 с.

22. Романов с кий В.И. Цепные связи и критерии случайности. Ташкент, Изд. УзФАН, 1940. - 7 с.

23. С а р ы м с а к о в Т.А., Мустафин X. К эргодической теореме для неоднородных цепей Маркова, -Ташкент: Изд. АН УзССР, 1957. 38 с.

24. Сарымсаков Т.А. Основы теории процессов Маркова. М.: Гостехиздат, 1954. - 208 с.

25. Сираждинов С.Х. Предельные теоремы для однородных цепей Маркова. Ташкент: Изд. АН УзССР, 1955,- 83 с.

26. Туманян С.Х. Асимптотическое распределение критерия при одновременном возрастании объема наблюдений и числа групп, Теория вероятностей и ее применение, 1956, т,1, Ш I, с.131-145.

27. Смирнов Н.В., Сарманов О.В., Захаров В.К. Локальная предельная теорема для чисел переходов.в цепи Маркова и ее применение. -Докл,АН СССР, сер, мат.-физика, 1966, т.167, В 6, с.1238-1248.

28. X у а Л о Ген, Метод тригонометрических сумм и его .применения в теорш чисел. М.: Мир, 1964, - 188 с.

29. Л ж у н Кай Лай. Однородные цепи Маркова. М.:Мир, 1964. - 425 с.

30. Чибисов Д.М* Асимптотическое разложение для распределения статистики, допускающей асимптотическое разложение. Теория вероятностей и ее применение, 1972, т.17, Л 4, с. 658-668.

31. Chernoff H,, L e h m a n n E.L. The use ofMaximum-Likelihood Estimates in Chi Square tests for goodness of fit. - Ann. Math. Stat., 1954, v.25, p. 579-586.

32. E s s e n C.G. Fourier analisis of distribution functions. A mathematical study of Laplace Gausian Law.- Acta Mat. 1945, v. 77, p. 1-125.

33. Fisher R.A. On the interpretation pf from contingensy tables and the calculation of P. JRS.1922, v. 85, p. 87.

34. Fisher R.Ar The conditions under which measures the discrepancy between observation and hipo-tesis. JRS, 1924, v, 87, p. 442.

35. Gani J. Some theorems and sufficiency conditions forthe maximum likelihood estimator of an unknown para-meterin a simple Markov Chain. - Biometrica, 1955, v.42, p. 342-359.

36. Gani J. Sufficiency conditions in regular MarkovChains and certain random walks. Biometrica, 1956, v. 43, p. 276-284.

37. G о о d I.J. The likelihood ratio test for MarkoffChains. Biometrica, 1955, v. 42, p. 531-533.

38. Goodman L.A, Exact probabilities and asymptoticrelationship for some statistics from m ~ th order Markov Chains. Ann. Math. Stat,, 1958, v. 29, No 2, p. 476 - 490.

39. Goodman L.A, Asymptotic distributions of "psisquared" goodness of fit criteria for m th orderMarkov Chains. Ann. Math. Stat., 1958, v.29.p.1223- 1233.

40. Goodman L.A. Simplified runs tests and likelihoodratio tests for Markov Chains. Biometrica, 1958, v. 45, P. 181-197.

41. Goodman L,A. On some statistical tests for m thorder Markov Chains, Ann. lath. Stat., 1959, v.30, p. 154-164.

42. Goodman L.A. A note on Stepanow's tests for Mar«kov Chains, Teoria Veroyatnostey i Primenenia, 1959, v. 4 No 1, p. 93-96.

43. H о e 1 F.G, A test for Markov Chains, Biometrica,1954, v. 41r p. 430-433.

44. Landau E, Uber die Anzahl der Gitterpunkte ingewissen Bereihen. Zweite Abhandlung, G.N., 1915, p. 209-243.62» Patankar V,N. The goodness of fit of frequency distributions obtained from stochastic process, -Biometrica, 1954, v.41, p. 450-462.

45. Pearson K. On a criteria that a given system of deviations from the probable in the case of a corre-tated system of variables is such that it can be reasonably supposed to have been arisen from random sampling. Phil. Mag., v. 50, p. 157.

46. Whittle P. Some distribution and moment formulaefor the markov chains. J. Roy. Stat. Soc., ser. B,1955, v. 17, Ho 2, p. 235-242.

47. Б e к т a e в А.К. К проверке гипотез о порядке сложностицепи Маркова. В кн.: ХУ1 школа - коллоквиум по предельным теоремам теории вероятностей и математическойстатистики,: Тез. докл. и сообщений. Бакуриани, 1982, сJII, .

48. Бектаев А.К. Об оценках скорости сходимости в различных критериях проверки гипотез в схеме цепей Маркова. Рукопись Деп. в ВИНИТИ, Ш 1555-84, с.1-32.

49. Бектаев А.К. Об оценках скорости сходимости в критериях проверки сложных гипотез в.схеме цепей Маркова. Докл. АН УзССР, 1984, JS 6, ,с.З-4.

50. А з л а р о в Т.А., Б е к т а е в А.К. Оценка скорости сходимости в.критериях типа Хи-квадрат для схе-. мы цепей Маркова. Докл. АН УзССР, 1984, В 9,с.4-6.