Свойства спектральных распределений случайных матриц высокого порядка тема автореферата и диссертации по математике, 01.01.05 ВАК РФ

На правах рукописи

АЛЕКСЕЕВ НИКИТА ВЛАДИМИРОВИЧ

СВОЙСТВА СПЕКТРАЛЬНЫХ РАСПРЕДЕЛЕНИЙ СЛУЧАЙНЫХ МАТРИЦ ВЫСОКОГО ПОРЯДКА

01.01.05 — теория вероятностей и математическая статистика

АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата физико-математических наук

О ІІІГІ.І

Санкт-Петербург — 2012

005016306

Работа выполнена на кафедре теории вероятностей и математической статистики математико-механического факультета Санкт-Петербургского государственного университета.

Научные руководители

доктор физико-математических наук, профессор

Никитин Яков Юрьевич

доктор физико-математических наук, профессор

Тихомиров Александр Николаевич

Официальные оппоненты доктор физико-математических наук,

профессор

Вершик Анатолий Моисеевич

доктор физико-математических наук, профессор

Розовский Леонид Викторович

Московский государственный университет имени М. В. Ломоносова

Ведущая организация

Защита состоится " _2012 года в часов на заседании

диссертационного совета Д 002.202.01 в Санкт-Петербургском отделении Математического института им. В. А. Стеклова РАН по адресу 191023, Санкт-Петербург, наб. р. Фонтанки, д. 27, к. 311.

С диссертацией можно ознакомиться в библиотеке Санкт-Петербургского отделения Математического института им. В. А. Стеклова РАН по адресу 191023, Санкт-Петербург, наб. р. Фонтанки, д. 27.

Автореферат разослан <іу\{><>ЛА 2012 года.

Ученый секретарь

диссертационного совета Д 002.202.01 доктор физико-математических наук

А. Ю. Зайцев

Общая характеристика работы

Актуальность темы. Теория случайных матриц - активно развивающаяся в последние десятилетия область математики. В начале 50-х годов прошлого столетия Вигнер предложил использовать матрицы большой размерности, элементы которых суть гауссовские случайные величины, для описания дискретной части спектра гамильтониана взаимодействия элементарных частиц тяжелых атомов. В дальнейшем теория случайных матриц нашла применения к физике, химии, информатике, генетике и другим наукам, а исследования спектра случайных матриц продолжили многие другие ученые, в том числе Марченко, Пастур, Гирко, Бай, Синай, Сошников, Гётце, Тихомиров, Тао, Ву [2, 1, 3, б, 11,12]. Значительный прогресс в изучении асимптотики поведения спектра случайных матриц был достигнут буквально в последние годы.

Спектральная теория случайных матриц изучает распределение собственных чисел случайных матриц, размер которых стремится к бесконечности. Пусть \УП - некоторая последовательность случайных матриц, имеющих размер п х п, и - собственные числа матрицы Тогда эмпирическим спектральным распределением матрицы называют меру на множестве комплексных чисел

/Ф4) = : А« е А,г е {1,...,п}}.

В случае, когда спектр вещественный, говорят об эмпирической спектральной функции распределения. Эмпирической спектральной функцией распределения называется функция вещественной переменной х

= : Л< < » € {1,..., п}}.

Если рассматривать эрмитовы случайные матрицы, то все их собственные числа вещественные, и эмпирическое спектральное распределение сосредоточено на вещественной прямой. Если при п, стремящемся к бесконечности, эмпирическое спектральное распределение имеет предел в смысле сходимости почти наверное, то предельное распредление называют асгшптпотическим спектральным распределением.

Мы рассматриваем в качестве матрицы ЛУП произведение

\УП = Х^Х^ • • -Х^Х^Х^ • -ХМ)',

где матрицы Х^ - независимые прямоугольные случайные матрицы размера пи-1 хпк с независимыми элементами, удовлетворяющие некоторым естественным условиям. В этом случае в диссертации доказано, что математическое ожидание эмпирического спектрального распределения слабо сходится к пределу. Этот результат является обобщением результата Марченко-Пастура [2] о спектре выборочных ковариационных матриц. В частных случаях плотность предельного распределения была изучена физиками Жичковским, Пенсоном и другими [17, 10].

Цель работы. Диссертация посвящена изучению асимптотического спектрального распределения случайных матриц. Основная цель — изучение спектра произведений фиксированного числа независимых прямоугольных случайных матриц и степеней квадратных случайных матриц.

Методы исследований. В диссертационной работе применяются метод моментов и метод преобразования Стилтьеса. В исследовании моментов используются методы комбинаторики и комбинаторной топологии. Заметим, что метод моментов был применен еще в работе Вигнера [15]. Технику, связанную с преобразованием Стилтьеса, в спектральной теории случайных матриц впервые применили Марченко и Пастур [2].

Основные результаты.

1. Найден предел математического ожидания эмпирического спектрального распределения для произведения фиксированного числа прямоугольных случайных матриц. Получено описание моментов предельного распределения в терминах т-арных деревьев.

2. Доказано, что производящая функция для последовательности т-арных деревьев удовлетворяет алгебраическому уравнению т-ой степени.

3. Доказано, что эмпирическое спектральное распределение степеней квадратной случайной матрицы сходится к распределению Фусса-Каталана почти наверное.

Научная новизна. Все основные результаты диссертации являются новыми. В ней впервые получены предельные распределения сингулярных чисел степеней и произведений случайных матриц.

Теоретическая и практическая ценность. Диссертация носит теоретический характер. Разработанные в ней методы и подходы могут использо-

ваться для решения близких задач теории случайных матриц. В перспективе полученные результаты могут быть использованы в других разделах математики, таких как алгебраическая геометрия и комбинаторная топология.

Апробация работы. Результаты диссертации докладывались на четырех конференциях: на Первом Северном трехстороннем семинаре (9-11 марта 2009 г., Хельсинки, Финляндия), на конференции по свободной теории вероятностей и случайным комбинаторным структурам (7-9 декабря 2009 г., Билефельд, Германия), на Третьем Северном трехстороннем семинаре (11-13 апреля 2011 г., Институт Эйлера, Санкт-Петербург), на конференции „Случайные матрицы, операторные алгебры и аспекты математической физики" (11-21 апреля 2011 г., международный институт математической физики им. Эрвина Шредингера, Вена, Австрия). Кроме того, работа обсуждалась в Санкт-Петербурге на городском семинаре по теории вероятностей и математической статистике под руководством академика И.А. Ибрагимова (апрель 2011 г. и апрель 2012 г.) и на семинаре "Теория Вероятностей"лаборатории им. П.Л. Чебышева (март и май 2011 г.)

Публикации. Основные результаты диссертации опубликованы в работах [П1]-[П5]. Работы [П1-ПЗ] опубликованы в журналах, рекомендованных ВАК (работа [ПЗ] опубликованав журнале, удовлетворяющем достаточному условиювключепияв переченьВАК:входитв системуцитированияЗрп^ег). Публикации [П4,П5] — это тезисы докладов на международных конференциях.

Структура и объем диссертации. Диссертация состоит из четырех параграфов, заключения и списка литературы. Общий объем диссертации — 81 страница, список литературы содержит 61 наименование.

Содержание работы

Во введении (параграф 1) излагается история вопроса, описывается структура и содержание диссертации.

В параграфе 2 приводятся комбинаторные теоремы. Для всех рассмотренных ансамблей случайных матриц моменты предельных спектральных распределений имеют комбинаторные интерпретации. Так, А>ым

моментом распределения Марченко-Пастура с параметром у = 1 является к-ое число Каталана

Кроме того, к-ый момент распределения Марченко-Пастура с произвольным параметром у задается формулой

к

][>(*, г)»'"1,

г=1

где N(k, г) - числа Нараяна. Наконец, к-ый момент т-го распределения Фусса-Каталана есть число Фусса-Каталана

т?т и\ 1 /гпк + В

РС(т, к) = —;--

х ' ' тк + 1 V к

Все эти числа имеют многочисленные комбинаторные интерпретации и удовлетворяют некоторым комбинаторным тождествам. При доказательстве предельных теорем методом моментов комбинаторные интерпретации играют ключевую роль, а комбинаторные тождества позволяют исследовать свойства предельных распределений. Одним из важных утверждений, доказанных в параграфе 2, является следующая теорема: Теорема 1. Пусть Т(ко, кг,..., кт) - количество (ш + 1)-арных деревьев, у которых число вершин г-го типа есть /с, для всех 0 < г < т. Пусть /(хо,Х1,... ,хт) - производящая функция последовательности Т(ко,кг,..., кт):

со

/(яо> XI, Х2 ■ ■ ■, хт) = ^ ^ Т{кр, кг, к2, ■ ■ ■, кт)х0а х^1 х22 • • • ж^".

Тогда функция /(х0,х\,... ,хт) удовлетворяет функциональному уравнению:

ТП

/(х0,хг,х2,...,хт) = + ^/(х0,хг,х2 . ■. ,1;т)).

г-О

В параграфе 3 рассматривается распределение сингулярных чисел произведения независимых прямоугольных случайных матриц. Основным результатом этого параграфа является обобщение классического результата Марченко-Пастура о предельном спектральном распределении выборочной ковариационной матрицы XX*. Мы рассматриваем произведение

нескольких матриц

= Х«Х<2> • • • Х<т>(Х«Х(2> - • - х(т))*.

Оказывается, что спектральное распределение слабо сходится к предельному. Доказана следующая теорема:

Теорема 2. Пусть п = п0,щ,... ,пт - последовательности натуральных чисел, такие, что для каждого к € {0,1,...,ш} существует ненулевой конечный предел

V п

Ук = 11Ш -гт.

п->оо Пк{П)

Пусть - семейство последовательностей прямоуголь-

ных независимых случайных матриц. Матрица X№ имеет размер Пк-х х Пк, элементы этой матрицы имеют вид п^^х^ц , где суть независимые случайные величины, удовлетворяющие моментному условию

Ех™=0, Е|4*>|2 = 1. (1)

и условию Линдеберга: Уа > О

Ьп{а) = тахп~2 ]Г Е \2Ц\х^ \ > ау/п}'0, п оо. (2)

1 <1,]<П

Обозначим через Ах, Аг,..., Ап собственные числа случайной матрицы = Х«Х® • • • Х^Х^ХЮ • • • Х<т>)*,

и через Рп(х) - математическое ожидание эмпирической спектральной функции распределения

Тогда Рп(х) сходится равномерно по х к некоторой функции распределения С(х) при п оо.

Предельная функция распределения С(х) имеет все .моменты. Мр = хр<№(х), р = 1, 2,... и однозначно определяется ими. Числа Мр имеют простой комбинаторный смысл

мр= Т, Т(ро,р1,...,рт)у?у$'---уПг, (3)

РО+РН-----ЬРт=Р~ 1

где сумма берется по всевозможным наборам натуральных чисел удовлетворяющим равенству

Р0 + Р1 +----ЬРт=Р-1.

а Т(ро, р1,... ,рт) - количество (то 4- 1)-арных деревьев, у которых число вершин г-го типа равно р*.

Кроме описания предельного распределения в терминах моментов, существует описание в терминах преобразования Стилтьеса. Следствие 1. Преобразование Стилтьеса

предельного распределения С(х) удовлетворяет функциональному уравнению

т

1 + - «(я) Ц(1 - ук - укга(г)) = 0. (4)

к=1

Уравнение (4) позволяет исследовать носитель распределения С?(ж), а в некоторых случаях находить плотность распределения в (х). Так, при т = 2) 2/1 = У2 = 1 плотность ро.(х) распределения С(х) может быть выписана (см., например, [17]):

Р2{Х) = —------ 1(0,27/4] (ж). (5)

12тг ХЦз (27+ 3^/81-12а;)1/3

В параграфе 4 рассматривается распределение сингулярных чисел степеней квадратных случайных матриц. Доказана следующая теорема: Теорема 3. Пусть Х(тг) - последовательность случайных матриц. Матрица Х(п) имеет размер п х п, элементы этой матрицы имеют вид тг-1/2а;^-, где Х{} удовлетворяют условию

Ехц = 0, Е |2 = 1 и Е |4 < В < оо. (6)

Обозначим через Ах, Аг,..., Ап собственные числа случайной матрицы

Ч/т(п) = Х(тг)тХ(тг)т*,

и пусть Тп{х) - эмпирическая спектральная функция распределения

= < а:,г € 1,...,п}.

Тогда Рп(х) = Е7гп(.х) сходится к функции распределения Фусса-Каталана С(х) при п —)• оо. Предельная функция распределения С(х) имеет моменты Мр = /к хрй 0{х) всех натуральных порядков р и однозначно ими определяется. Числа Мр являются числами Фусса-Каталана

Мр=-1-(тр + Р). (7)

тр + 1 \ р )

Более того, если случайные величины х^ (ненормированные элементы матрицы Х(п)) имеют все моменты, т.е. удовлетворяют условию

Е \хц\р < Ср < оо, (8)

то имеет место равномерная по х сходимость эмпирической спектральной функции распределения Тп{х) к предельной функции С(х) почти наверное.

Распределения Фусса-Каталана активно изучаются в последние годы, в частности в работах [7, 8, 9, 10, 17].

Как показано в параграфе 4, распределение Фусса-Каталана является предельным не только для эмпирического спектрального распределения степени случайной матрицы, но и для более широкого класса матриц. Именно, верно следующее замечание:

Замечание 4. Как следует из теоремы 2 и теоремы 3, предельные спектральные распределения совпадают в случаях произведения т независимых квадратных матриц (случай уг = У2 = • ■ • = Ут = 1) и степени т квадратных матриц. Распределение Фусса-Каталана является предельным в общем случае. Именно, пусть Х1, Х2,..., Х& - независимые квадратные случайные матрицы с независимыми элементами, удовлетворяющими условиям теоремы 2. Пусть натуральные числа т\, т2, ■.., т-к таковы, что

тг + тп2 +----1-т.к = то. Тогда математическое ожидание эмпирического

спектрального распределения матрицы

:= Х^ХГ • • • X™" (Х^Х^2 • ■ • Х^)*

сходится к распределению Фусса-Каталана с параметром ш.

Список литературы

[1] Гирко B.JI. Круговой закон. // Теория вероятн. и ее примен. — 1984.

- Т. 29, N 4. - С. 669-679.

[2] Марченко В.А., Пастур JI.A., Распределение собственных значений в некоторых ансамблях случайных матриц. // Матем. сб. — 1967. — Т. 72, N 4. - С. 507-536.

[3j Bai Z.D. Circular Law. // Ann. Probab. - 1997. - V. 25, No. 1. - P. 494-529.

[4] Götze F., Tikhomirov A. Rate of convergence in probability to the Marchenko-Pastur law. // Bernoulli. - 2004. - V.10, No.3. - P. 503-548.

[5] Götze F., Tikhomirov A.N. On the Circular Law. // arXiv: math/0702386vl.

[6] Götze F., Tikhomirov A.N. The circular law for random matrices. // Ann. Probab. - 2010. - V. 38, No. 4. - P. 1444-1491.

[7] Liu D.-Z., Song C. , Wang Z.-D., On explicit probability densities associated with Fuss-Catalan numbers. // Proc. Amer. Math. Soc. — 2011.

- V. 139, No.10. - P. 3735-3738.

[8] Liu D.Z., Sun X., Wang Z.D. Fluctuation of eigenvalues for random Toeplitz and related matrices. // arXiv: 1010.3394v2.

[9] Mlotkowski W. Fuss-Catalan numbers in noncommutative probability. // Documenta Math. — 2010. — V. 15. - P. 939-955.

[10] Penson K.A., Zyczkowski K. Product of Ginibre matrices: Fuss-Catalan and Raney distributions. // Phys. Rev. E. — 2011. — V. 83, No. 6.-9 pp.

[11] Sinai Ya.G., Soshnikov A.B. Central Limit Theorem for Traces of Large Random Symmetric Matrices with Independent Matrix Elements. // Boletim. Soc. Brasil. Mat. - 1998. - V. 29, No. 1. - P. 1-24.

[12] Тао Т., Van V. Random matrices: universality of ESDs and the circular law. With an appendix by Manjunath Krishnapur. // Ann. Probab. — 2010. - V. 38, No. 5. - P. 2023-2065.

[13] Tikhomirov A.N. The rate of convergence of the expected spectral distribution function of a sample covariance matrix to the Marchenko-Pastur distribution. // Siberian Adv. Math. — 2009. — V. 19, No. 4. — P. 277-286.

[14] Tikhomirov A.N. On the rate of convergence of the expected spectral distribution function of a Wigner matrix to the semi-circular law. // Siberian Adv. Math. — 2009. - V. 19, No. 3. - P. 211-223.

[15] Wigner E.P. Characteristic vectors of bordered matrices with infinite dimensions. // Ann. Math. — 1955. — V. 62, No. 3. — P. 548-564.

[16] Wigner E.P. On the distribution of the roots of certain symmetric matrices // Ann. Math. - 1958. - V. 67, No. 2. - P. 325-327.

[17] Zyczkowski K., Penson K.A., Nechita I., Collins B. Generating random density matrices // J. Math. Phys. — 2011. — V. 52, No. 6. — 20 pp.

Публикации автора по теме диссертации

Статьи в журналах, рекомендованных ВАК:

[П1] Алексеев Н.В. О сходимости почти наверное спектрального распределения степени случайной матрицы к распределению Фусса-Каталана. // Записки научных семинаров ПОМИ. — 2010. - Т. 384. — С. 21-28.

[112] Алексеев Н.В., Гётце Ф., Тихомиров А.Н. О сингулярном спектре степеней и произведений случайных матриц. // Доклады РАН. — 2010. - Т. 433, N 1. - С. 7-9.

[ПЗ] Alexeev N., Gotze F., Tikhomirov A. Asymptotic distribution of singular values of powers of random matrices. // Lithuanian Math. J. — 2010. — V. 50, No. 2. - P. 121-132.

Другие публикации:

[П4] Alekseev N. Genus expansion for some ensembles of random matrices. // Workshop „Random Matrix, Operator Algebra, and Mathematical Physics Aspects", Vienna, 2011, Abstracts of talks, p. 1.

[П5] Alexeev N. Gaussian random matrices and genus expansion. // Third Northern Triangular Seminar, St. Petersburg, 2011, Programme and Abstracts, p. 5.

Подписано в печать 17.04.2012. Формат 60x84/16 Отпечатано с готового оригинал-макета в типографии ЗАО «КопиСервис». Печать ризографическая. Заказ № 1/0417. П. л. 0.75. Уч.-изд. л. 0.75. Тираж 100 экз.

ЗАО «КопиСервис» Адрес: 197376, Санкт-Петербург, ул. Проф. Попова, д. 3. тел.: (812) 327 5098

61 12-1/1012

САНКТ-ПЕТЕРБУРГСКИЙ ГОСУДАРСТВЕННЫЙ

УНИВЕРСИТЕТ

На правах рукописи

Алексеев Никита Владимирович

Свойства спектральных распределений случайных матриц высокого порядка

01.01.05 - теория вероятностей и математическая

статистика

Диссертация на соискание ученой степени кандидата физико-математических наук

Научные руководители -

д.ф.-м.н., проф. Я.Ю. Никитин д.ф.-м.н., проф. А.Н. Тихомиров

Санкт-Петербург 2012

Содержание

1 Введение 3

2 Комбинаторные теоремы 14

2.1 Основные определения и утверждения......................14

2.2 Перечисление т-арных деревьев..............28

3 Распределение сингулярных чисел произведения независимых прямоугольных случайных матриц 32

3.1 Выборочная ковариационная матрица и распределение Марченко-Пастура............................................32

3.2 Произведение независимых прямоугольных матриц ... 37

3.3 Лемма об усечении......................40

3.4 Доказательство теоремы 2..................49

3.5 Следствия из теоремы 2 и описание предельного распределения. Численные эксперименты.............56

4 Распределение сингулярных чисел степеней квадратных случайных матриц 60

4.1 Формулировка основного утверждения...........60

4.2 Доказательство сходимости 'Е7-п(х) к предельной функции распределения......................63

4.3 Доказательство сходимости Тп(х) к предельной функции распределения почти наверное............. 68

5 Заключение. 72

1 Введение

Теория случайных матриц - активно развивающаяся в последние десятилетия область математики. В начале 50-х годов прошлого столетия Вигнер предложил использовать матрицы большой размерности, элементы которых суть гауссовские случайные величины, для описания дискретной части спектра гамильтониана взаимодействия элементарных частиц тяжелых атомов. Это дало толчок к развитию теории случайных матриц, нашедшей широкое применение в различных областях знаний. Значительный прогресс в изучении асимптотики поведения спектра случайных матриц был достигнут буквально в последние годы.

Спектральная теория случайных матриц изучает распределение собственных чисел случайных матриц, размер которых стремится к бесконечности. Пусть есть некоторая последовательность случайных матриц Wn, имеющих размер п х п. Напомним основные определения.

Определение 1. Комплексное число X называется собственным числом матрицы Wn; если существует такой вектор v G Сп, что

Wnv = Xv.

Определение 2. Эмпирическим спектральным распределением матрицы Wn называют меру на множестве комплексных чисел

цп(А) = -#{i : А» G А, г в {1,..., п}}. п

В случае, когда спектр вещественный, говорят об эмпирической спектральной функции распределения. Эмпирической спектральной функцией распределения называется функция вещественной переменной х

Лг(ж) = -#{г : \ < х, i G {1,..., n}}. n

В дальнейшем мы будем рассматривать в основном эрмитовы случайные матрицы, все собственные числа которых вещественны. Если при п, стремящемся к бесконечности, эмпирическое спектральное распределение имеет предел (по вероятности или почти наверное), то предельное распределение называют асимптотическим спектральным распределением). Кроме того, математическое ожидание Fn{x) = Е Тп{х) может иметь предел.

Принято разделять вопросы спектральной теории случайных матриц на вопросы, относящиеся к глобальному режиму и вопросы, относящиеся к локальному режиму (см. [40, 41, 46]). В глобальном режиме интересуются распределением линейных статистик вида

= — Tr /(W) = [ f(x)dTn(x). п J R

В локальном режиме интересуются распределением так называемых „спейсингов" - расстояний между соседними собственными числами. Более общо, интерес представляет совместное распределение собственных чисел на некотором отрезке длины порядка Различают проблему поведения собственных чисел, когда отрезок лежит внутри носителя (так называемые „bulk statistics"), и проблему поведения

собственных чисел вблизи границы носителя (так называемые „edge statistics", см., например, [20], гл.З, стр.105.)

В случае, если предельное спектральное распределение определяется свойствами симметрии матрицы и младшими моментами элементов матрицы и не зависит от распределений элементов, говорят об универсальном поведении спектрального распределения. Доказательство универсальности является одной из фундаментальных проблем в теории случайных матриц. Аналогичные задачи появляются при доказательстве центральной предельной теоремы и принципа инвариантности. По классификации Ю.В. Линника [9, гл.6, стр. 194 ], такие проблемы относятся к предельным теоремам „собирательного типа".

Первым утверждением такого типа для случайных матриц является теорема о сходимости спектрального распределения матриц из так называемого вигнеровского ансамбля к полукруговому закону Вигне-ра. Пусть Wn - эрмитовы матрицы, элементы которых суть

независимые при i > j случайные величины с нулевым средним и дисперсией а2. Тогда эмпирическая спектральная функция распределения матрицы слабо сходится к распределению с плотностью

д{х) = — \/4а2 -ж21(|ж| < 2а).

2iта

В 1955 году Вигнер [59] доказал эту теорему в предположении, что элементы матрицы имеют распределение Радемахера, т.е. принимают значения 1 и —1 с вероятностью В 1958 году он распространил этот результат [60] на матрицы с субгауссовскими элементами. Позднее бы-

ло показано, что полукруговой закон справедлив, когда распределения элементов матрицы удовлетворяют условию Линдеберга [5].

Следующий результат, который относится к универсальным - это круговой закон. Под круговым законом понимается сходимость эмпирического спектрального распределения случайной матрицы к равномерному распределению в единичном круге комплексной плоскости.

Точнее, предположим, что элементы матрицы = ^к + \/Г-~^г)]к ~ это стандартные комплексные гауссовские величины, причем ^ и ^¿к - независимые центрированные гауссовские величины. Такой ансамбль матриц был введен Жинибром в [32] в 1965 году и им же было показано, что распределение собственных чисел таких матриц слабо сходится к равномерному распределению в единичном круге при неограниченном росте размерности матриц.

Гирко в 1984 году в работе [5] доказал круговой закон для случайных матриц с независимыми элементами с распределением, имеющим ограниченную плотность и конечные первые 4 момента. По мнению многих математиков, доказательство Гирко содержало неточности. В 1997 Бай [22] привел другое доказательство кругового закона для матриц с независимыми элементами с распределением, имеющим совместную плотность вещественной и мнимой частей, а также конечные первые 6 моментов.

Круговой закон без предположения существования плотности у элементов матрицы впервые был доказан в работе Гётце и Тихомиро-

ва [34]. Недавно этот результат был обобщен и уточнен в целом ряде работ, например, статьях Тао и Ву [53] и Гётце и Тихомирова [35].

Еще один классический результат - теорема Марч с н ко - П асту р а [12] - также носит универсальный характер. Пусть X - прямоугольная вещественная случайная матрица размера п х к, все элементы которой независимы. Тогда

1 т = —XX

п

называется выборочной ковариационной матрицей. (Здесь и далее Хт обозначает транспонированную матрицу). Действительно, если рассмотреть столбец матрицы X как выборку значений некоторого случайного признака, то (г^')-ый элемент матрицы есть выборочная ковариация г-го и ^-го признаков.

Матрица XV впервые была рассмотрена Вишартом в 1928 году. Он нашел распределение элементов матрицы в случае, когда элементы матрицы X суть независимые стандартные гауссовские величины.

Марченко и Пастур интересовались предельным поведением собственных чисел матрицы при условии, что пик согласованно стремятся к бесконечности, то есть существует предел Нт^оо | = у Е (О, сю). Из их результатов следует, что математическое ожидание спектрального распределения Рп(х) слабо сходится к предельному распределению, которое определяется своей плотностью

"(х) = + (1 - У~1)ЧУ > 1)*ь (1)

где у есть предел отношения а = (1 — л/у)2, Ъ = (1 + у/у)2, I обозна-

чает индикатор, а ¿о есть дельта-функция Дирака.

Позднее здесь были значительно ослаблены ограничения на элементы матриц, оценена скорость сходимости к предельному распределению как для Рп(х), так и для Тп(х), см., например, [33, 23].

Результаты данного исследования обобщают теорему Марченко-Пастура на случай произведения нескольких независимых прямоугольных матриц и на случай степени квадратной случайной матрицы.

Основными инструментами, позволяющими исследовать асимптотическое спектральное распределение случайных матриц, являются метод моментов и преобразование Стилтьеса. Заметим, что метод моментов был применен еще в работе Вигнера [59].

Во всех рассмотренных задачах предельные распределения имеют компактный носитель. Следовательно, они имеют все моменты и однозначно определяются ими. Кроме того, моменты эмпирического спектрального распределения 7-п{х) легко выражаются через следы степеней матрицы

Г | \/с I ... I 1

мк(п) - / хк<1Тп{х) = 1 ^ 2 ^-—^ = ±Тг\¥к, к > 1. (2)

Ук п п

Во всех рассмотренных случаях моменты предельных распределений имеют комбинаторные интерпретации.

Технику, связанную с преобразованием Стилтьеса, в спектральной теории случайных матриц впервые применили Марченко и Пастур [12]. Напомним определение преобразования Стилтьеса.

Определение 3. Преобразованием Стилтьеса вероятностной меры /1 называется функция

¿(г) = [-

Jжx - г

Преобразование Стилтьеса обладает следующими свойствами:

• Преобразование Стилтьеса однозначно определяет исходную меру. Если р(х) есть плотность меры то

£->0 7Г

• Преобразование Стилтьеса 5(2;) - аналитическая функция в верхней полуплоскости г £ С+;

• ^(г) > 0 при ^ > 0;

• Нт^оо 1ув{и -Ь IV) = —1.

В главе 3 рассматривается распределение сингулярных чисел произведения т независимых прямоугольных случайных матриц. Пусть матрица есть произведение

Wíг = Х^Х^ • • • Х^Х^ХГО • • • Х^)*,

где Х^) - прямоугольная случайная матрица размера хщ с независимыми элементами. (Здесь и далее X* обозначает эрмитово сопряженную матрицу.)

В теореме 2 доказано, что если выполнены довольно слабые предположения относительно матричных элементов и если существуют ненулевые пределы Нтп_^00 = У к, то математическое ожидание функции спектрального распределения Гп(х) имеет некоторый предел Ох).

Предельное распределение описывается своим преобразова-

нием Стилтьеса. Именно, преобразование Стилтьеса предельной меры удовлетворяет уравнению

т

1 + гз(г) - ф) Д (1 - ук - укгз{г)) = 0, (4)

к=1

и является единственным его решением, удовлетворяющим свойствам (3). Это уравнение позволяет найти границы носителя предельной меры а в случае небольших значений т - плотность предельной меры. Соответствующие построения также приведены в главе 3.

В главе 4 рассматривается распределение сингулярных чисел т-ой степени квадратной случайной матрицы. Таким образом, матрица \¥п есть

= Хте(Хт)*,

где матрица X - квадратная матрица размера п х п с независимыми элементами. В данном случае удается доказать не только предельную теорему для математического ожидания спектрального распределения = Е3-п{х), но и доказать, что эмпирическое спектральное распределение Рп{х) сходится к предельному почти наверное (см. теорему 3, стр. 61).

Предельное распределение в данном случае называется т-ым распределением Фусса-Каталана и однозначно определяется своими моментами - числами Фусса-Каталана (см. определение 9, стр. 23). Результаты опубликованы автором совместно с Ф.Гетце и А.Н. Тихомировым в [17] и лично автором в [1]. Кроме того, явная формула для плотности предельного распределения получена в [38].

При доказательстве основных результатов работы был использован метод моментов. Во всех рассмотренных случаях моменты предельных распределений имеют комбинаторные интерпретации. Так, к-ым моментом распределения Марченко-Пастура с параметром у = 1 является к-ое число Каталана СаЬ{к){ом. определение 4, стр. 14). Одна из многочисленных интерпретаций этих чисел говорит, что СаЬ{к) есть количество всевозможных бинарных деревьев на к вершинах (см. определение 8, стр. 21).

Далее, к-ът момент распределения Марченко-Пастура с произвольным параметром у задается формулой 1 Г)уг~1 ■> гДе г) - числа Нараяна (9). Известно, что число бинарных деревьев на п вершинах, к — 1 из которых являются правыми потомками, есть число Нараяна АГ(п, к).

Наконец, /с-ый момент га-го распределения Фусса-Каталана есть число Фусса-Каталана РС(т, &), то есть количество т + 1-арных деревьев (см. определение 11, стр. 26) на к вершинах.

С комбинаторной точки зрения естественным выглядит вопрос: ка-

ково количество т-арных деревьев с заданным числом левых, вторых слева, и так далее, правых потомков? Теорема 1 дает функциональное уравнение для производящей функции этой последовательности. Таким образом, помимо основных результатов - теорем 2 и 3, относящихся к теории случайных матриц, получен чисто комбинаторный вспомогательный результат - теорема 1, представляющая самостоятельный интерес.

Диссертация состоит из введения, трех глав, заключения и списка литературы. Общий объем диссертации - 81 страница, список литературы содержит 61 наименование.

Основные результаты диссертации отражены в публикациях [1, 2, 17, 18, 19] и докладывались на следующих конференциях:

• Первый Северный трехсторонний семинар (9-11 марта 2009 г., Хельсинки, Финляндия);

• Конференция по свободной теории вероятностей и случайным комбинаторным структурам (7-9 декабря 2009 г., Билефельд, Германия);

• Третий Северный трехсторонний семинар (11-13 апреля 2011 г., Институт Эйлера, Санкт-Петербург);

• Конференция „Случайные матрицы, операторные алгебры и аспекты математической физики" (11-21 апреля 2011 г., Международный институт математической физики им. Э. Шредингера,

Вена, Австрия).

Кроме того, работа обсуждалась в Санкт-Петербурге на городском семинаре по теории вероятностей и математической статистике под руководством академика И.А.Ибрагимова (апрель 2011 г. и апрель 2012 г.) и на семинаре по теории вероятностей лаборатории им. П.Л. Чебы-шева при СПбГУ (март и май 2011 г.)

Благодарности.

Автор выражает глубокую признательность и благодарность своим научным руководителям профессорам Якову Юрьевичу Никитину и Александру Николаевичу Тихомирову за постановку интересных задач, ценные советы и внимание к работе.

Автор благодарит администрацию и сотрудников математического факультета университета г. Билефельд за содержательные математические дискуссии, а также за предоставленную возможность проводить численные эксперименты, которые сыграли важную роль при получении результатов диссертации.

Автор признателен Алексею Ананьевскому за обсуждения комбинаторных задач и за существенный вклад, который он внес в доказательство теоремы 1. Автор благодарен администрации и сотрудникам лаборатории им. П.Л. Чебышева за создание уникальной площадки для математического общения аспирантов, а также всему коллективу петербургской вероятностной школы за создание благоприятной научной атмосферы.

2 Комбинаторные теоремы

2.1 Основные определения и утверждения

В этом разделе мы напомним некоторые понятия и утверждения из комбинаторики, которые будут нужны нам в дальнейшем. Большинство из этих понятий широко известны, и их подробные описания можно найти в [11, 14, 7], но некоторые утверждения будут доказаны, вероятно, впервые.

Определение 4. Число

называется п-ым числом Каталана.

Числа Каталана перечисляют фантастическое множество различных структур. Например, в книге Стенли [14] собрано порядка 70 интерпретаций этой последовательности. Те из них, что будут нам необходимы, приведены ниже.

Одним из первых, кто столкнулся с этой замечательной последовательностью, был Леонард Эйлер. Еще в 50-х годах XVIII века он изучал вопрос о количестве триангуляций п-угольника его диагоналями.

Утверждение 1. Количество триангуляций п + 2-уголъника диагоналями есть число Каталана Са£(п).

Совместно с Эйлером эти исследования вели Н.И. Фусс и И.А. фон Зегнер [50], последнему принадлежит рекуррентное соотношение

п

Cat(n + 1 )=Y1 Catik)Cat{n - к), (5)

к=0

с начальными данными Caí(0) = Cat( 1) = 1. Н.И. Фусс сделал некоторые обобщения, о которых речь пойдет ниже.

Задача о подсчете числа слов формального языка заданной длины.

Другая задача, приводящая к числам Каталана, относится к области формальных грамматик.

Определение 5. Пусть А = {o¡i, c¿2, ■ ■ ■, с^} — произвольный конечный набор различных букв. Словом в алфавите А называется произвольная конечная последовательность букв а^а^с^ ¿de a¿ Е А, i = 1 ,...,п. Число п называется длиной слова. Языком над алфавитом А называется произвольное множество слов в алфавите А. Пустое слово имеет длину 0 и может входить или не входить в язык.

Язык Дика - это язык над алфавитом {(,)}, состоящий из всех правильных скобочных структур и пустого слова.

Порядок вычислений в арифметических выражениях задается расстановкой скобок, например,

(7 - 5)-(3 +(19-13)-(2+1)). 15

Если стереть все элементы выражения,