Гармонический анализ на некоторых бесконечномерных классических группах тема автореферата и диссертации по математике, 01.01.01 ВАК РФ

МОСКОВСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ имени М. В. ЛОМОНОСОВА

Механико-математический факультет

На правах рукописи УДК 517.986

ОСИНЕНКО Антон Андреевич

ГАРМОНИЧЕСКИЙ АНАЛИЗ НА НЕКОТОРЫХ БЕСКОНЕЧНОМЕРНЫХ КЛАССИЧЕСКИХ ГРУППАХ

Специальность 01.01.01 - вещественный, комплексный и функциональный анализ

АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата физико-математических наук

5 ДЕК 2013

:к 2013

005541781)

Москва 2013

005541780

Работа выполнена на кафедре теории функций и функционального анализа механико-математического факультета Московского государственного университета имени М. В. Ломоносова

Научный руководитель:

Официальные оппоненты:

Ведущая организация:

доктор физико-математических наук профессор Смолянов Олег Георгиевич

доктор физико-математических наук Неретин Юрий Александрович (ФГБУН "Институт теоретической и экспериментальной физики", ведущий научный сотрудник)

кандидат физико-математических наук Локтев Сергей Александрович (ФГАОУ ВПО "Национальный исследовательский университет "Высшая школа экономики"", доцент факультета математики)

ФГБУН Санкт-Петербургское отделение Математического института имени В.А. Стеклова РАН

Защита диссертации состоится 20 декабря 2013 г. в 16 часов 45 минут на заседании диссертационного совета Д 501.001.85 при Московском государственном университете имени М. В. Ломоносова по адресу: Российская Федерация, 119991, Москва, ГСП-1, Ленинские горы, д. 1, МГУ имени М. В. Ломоносова, механико-математический факультет, аудитория 16-24. С диссертацией можно ознакомиться в Фундаментальной библиотеке МГУ имени М. В. Ломоносова. Автореферат разослан 20 ноября 2013 г.

Ученый секретарь диссертационного совета Д.50,1.001.85 при МГУ, доктор физико-математических наук, профессор

В.Н.Сорокин

Общая характеристика работы

Актуальность темы. Диссертация посвящена исследованию задач теории представлений "больших" групп, в частности, бесконечномерных унитарной и унитарно-симплектической групп, являющихся индуктивным пределом соответствующих конечномерных групп, естественным образом вложенных друг в друга.

Все неприводимые представления таких групп не могут быть классифицированы разумным образом. Одним из подходов к решению этой проблемы является рассмотрение сферических представлений пары1 (G, К) = [К х К, diagR' x К) — представлений группы G, обладающих выделенным .K-инвариантным вектором. В случае рассматриваемых нами групп классы эквивалентности сферических представлений соответствующей (G, К)-пары находятся во взаимно-однозначном соответствии с характерами этой группы — нормированными центральными положительно определенными функциями на ней.

Впервые: возможность работы с такого рода группами была показана в работе Тома2 на примере бесконечной симметрической группы, являющейся индуктивным пределом конечных симметрических групп. Он показал, что множество характеров этой группы параметризуется некоторым подмножеством x x К.

В случае бесконечномерной унитарной группы, рассматриваемом в диссертации, аналогичное описание было получено Войкулеску3 в 1976 году. Он нашел явные формулы для некоторых характеров унитарной группы, однако доказательство того факта, что его список характеров является исчерпывающим, появилось позднее в работах Бойера4 и Вершика и Керова5.

■"G. Olshanski, Unitary representations of infinite-dimensional pairs (G,K) and the formalism of R. Howe, Representations of Lie Groups and Related Topics (A. Vershik and D. Zhclobcnko, eds.), Advanced Studies in Contemporary Math. 7, Gordon and Breach Science Publishers, New York etc., 1990, 269-463

2E. Thoma, Die unzerlegbaren, posüive-definiten Klassenfunktionen der abzählbar unendlichen, symmetrischen Gruppe. Math. Zeitschr.,(1964), 40-61.

3D. Voiculescu, Representations factorielles de type Iii de U(oa), J. Math. Pures et Appl. 55 (1976), 1-20.

Boyer, Infinite traces of AF-algebras and characters of U(oo), J. Operator Theory, 9(1983), 205-236.

5A. M. Вергаик, С. В. Керов, Характеры и фактор-представления бесконечной симметрической группы, ДАН СССР, 257:5(1981), 1037-1040.

Они независимо заметили, что этот факт следует из результата Эдреи6 о двусторонних тотально положительных последовательностях.

В ершик и Керов также предложили для симметрической7 и унитарной8 групп другой подход, основанный на идее приближения экстремальных характеров! нормированными неприводимыми характерами допредельных компактных групп S(n) и U(N) соответственно, позволяющий применять аппарат теории симметрических функций.

Подробное доказательство полноты списка характеров, основанное на асимптотическом методе Вершика и Керова, было дано в большей общности позднее Окуньковым и Ольшанским9. Новые способы доказательства предложены также в недавних работах Петрова10 и Бородина и Ольшанского11 .

Одной из основных задач гармонического анализа на топологической группе К является разложение наиболее естественных представлений данной группы по неприводимым. В случае компактной группы таким представлением является (би)регулярное представление в пространстве L2(K, /1), где (л — мера Хаара на К. Разложение этого представления по неприводимым было получено Петером и Вейлем в 1927 году. Рассматриваемые в диссертации группы не являются локально компактными, инвариантной меры на них нет, поэтому конструкция регулярного представления для них неприменима.

Естественные представления таких групп могут быть получены следующими двумя способами. Во-первых, можно построить представления таких групп: как индуктивный предел при подходящих вложениях регулярных представлений допредельных компактных групп. Во-вторых, можно вложить G/K в некое объемлющее пространство G/K с инвариантной или квазиинвариинтной мерой т, на котором также будет действовать груп-

6А. Edrei, On the generating functions of totally positive sequences II, J. Analyse Math., 2(1952), 104-109.

7A. M. Вершик, С. В. Керов, Асимптотическая теория характеров симметрической группы, Функциональный анализ и его приложения, 15:4(1981), 15-27.

8А. М. Вершик, С. В. Керов, Характеры и фактор-представления бесконечной унитарной группы, ДАН СССР, 267:2(1982), 272-276.

9А. Okounkov, G. Olshanski, Asymptotics of Jack polynomials as the number of variables goes to infinity, Int. Math. Res. Noticcs (1998), no. 13, 641-682.

10L. Petrov, The boundary of the Gelfand-Tsetlin graph: New proof of Borodin-Olshanski's formula and its q-analogue, arXiv:1208.3443.

nA. Borodin and G. Olshanski, The Young bouquet and its boundary. arXiv:1110.4458.

па G. Стандартная конструкция тогда позволяет определить представление; группы G в пространстве L2(G/K, т).

Вторая конструкция впервые была реализована Пикреллом12. Он рассмотрел пару G — limU(2N), К = ИmU(N) х U(N) и построил объемлющее пространство G/K как проективный предел грассманианов, а также определил на этом пространстве семейство мер т3, по которым строятся естественные представления пары (G, К). В дальнейшем Неретин13 перенес эту конструкцию на случай всех десяти (G, К)-пар, которые являются индуктивными пределами десяти классических серий компактных рима-иовых симметрических пространств.

Для бесконечной симметрической группы обе конструкции были реализованы в работе Керова, Ольшанского и Вершика14. Там же, а также в серии работ Бородина и Ольшанского15, была исследована структура спектральных мер получаемых представлений. Для унитарной группы в работе Ольшанского16 было построено более богатое семейство представлений, зависящее от двух комплексных параметров. Для нецелых значений параметров эти представления были исследованы в работе Бородина и Ольшанского17, и было показано, что спектральные меры допускают описание в терминах детерминантных точечных процессов, очень близких к процессам, возникаемым в теории случайных матриц.

Цель работы.

Целью настоящей диссертации является решение некоторых задач гармонического анализа на бесконечномерных классических группах, в частности, исследование естественных представлений бесконечномерных унитарной и уцитарно-симплектической группы, а также связанных с этими задачами проблем.

12D. Pickrcll, Measures on infinite dimensional Grassmann manifold, J. Funct. Anal. 70(1987), 323-356.

13 Yu. A. Noretiu, Hua-type integrals over unitary groups and over projective limits of unitary groups, Duke Math. J. 114(2002), 239-266.

14S. Kcrov.'G. Olshanski, and A. Vcrshik, Harmonic analysis on the infinite symmetric group. Invent: Math. 158 (2004), 551-642.

15A. Borodin, G. Olshanski, Point processes and the infinite symmetric group. Parts I-V, arXiv: math/9804086-98404088, math/9810013-9810014.

leG. Olshanski, The problem of harmonic analysis on the infinite-dimensional unitary group, J. lAinct. Anal. 205 (2003) 464-524.

17A. Borodin and G. Olshanski, Harmonic analysis on the infinite-dimensional unitary group and detorminantal point processes. Ann. Math. 161 (2005), no.3, 1319-1422.

Научная новизна. Результаты диссертации являются новыми.

В диссертации получены следующие основные результаты:

1. Вычислены спектральные меры естественных представлений Тги1 бесконечномерной унитарной группы при целых значениях параметров. На основе этого доказана дизъюнктность данных представлений при различных г и ш.

2. Доказано существование некоторого семейства вероятностных распределений на границе графа ветвления многочленов Якоби. Эти распределения в некоторых частных случаях являются спектральными мерами естественных представлений бесконечномерных классических групп.

3. Вычислены спектральные меры естественных представлений Т2 бесконечномерной унитарно-симплектической группы при целом г.

Методы исследования.

В работе используются различные методы функционального анализа и теории представлений. Для получения результатов, связанных с задачей гармонического анализа на бесконечномерной унитарной и унитарно-симплектических группах, используется асимптотический подход Вершика и Керова, а также формализм, развитый в работе Керова, Ольшанского и Вершика. Для доказательства существования вышеупомянутого семейства мер используется метод аналитического продолжения вырожденных спектральных мер по параметрам.

Теоретическая и практическая ценность. Диссертация носит теоретический характер. Ее результаты и методы могут найти применение в асимптотической теории представлений.

Апробация диссертации. Результаты диссертации докладывались на семинаре кафедры теории функций и функционального анализа "Бесконечномерный анализ и математическая физика" под руководством профессоров О. Г. Смолянова и Е. Т. Шавгулидзе (2009-2013, неоднократно), на семинаре "Представления и вероятность" Независимого Московского университета под руководством профессора Г. И. Ольшанского (2011), на петербургском семинаре по теории представлений и динамическим системам

в ПОМИ РАН под руководством профессора А. М. Вершика (2013) и на Международной молодежной научной конференции "Ломоносов-2012".

Публикации. Результаты диссертации опубликованы в трех статьях в научных журналах, входящих в перечень ВАК. Список работ приведен в конце автореферата [1-3].

Структура диссертации. Диссертация состоит из введения и трех глав. Текст дисертации изложен на 100 страницах. Список литературы содержит 46 наименований.

Содержание работы

Во введении описывается история рассматриваемой проблемы и объясняется происхождение задач, рассматриваемых в диссертации, а также обозначаются основные результаты и методы их получения.

В первой главе диссертации описывается конструкция сферических представлений Тгш бесконечномерной унитарной группы и изучается вопрос разложения этих представлений по неприводимым при целых значениях параметров.

В разделе 1.1 сформулированы основные утверждения, касающиеся характеров бесконечномерной унитарной группы и(оо), которые потребуются в дальнейшем для вычисления спектральных мер представлений Тгш.

Бесконечномерная унитарная группа 17 (оо) = и^>1С/(Лг) является индуктивным пределом унитарных групп {7(АГ), состоящих из унитарных матриц размера N х N. При этом мы отождествляем ^(ЛО с подгруппой в С/(ЛГ -Н 1) тех матриц, которые оставляют неподвижным (/V + 1)-ый базисный вектор.

Экстремальные характеры [/(оо) параметризуются некоторым подмножеством П в К4оо+2, а теорема 1.1.2 утверждает, что произвольный характер является интегралом от экстремальных по некоторой мере на П:

х(Ц) = / хм{и)Р№), иеЩоо).

В этом же разделе вводится основное техническое средство для описания характеров {/(оо) - градуированный граф Гельфанда-Цетлина СТ = иСТдг, вершинами которого на ЛГ-ом этаже являюся упорядоченные наборы А1 > Аг > ... > Адг из N целых чисел. Такие наборы называются

сигнатурами. Две вершины Л € GT„ и v е СТдг+1 соединены ребром (в этом случае мы пишем \ < v или и X Л), если выполнены следующие соотношения перемежаемости:

"1 > Ai > и2 > Аг > ... > vn > Адг > f^+i, естественным образом возникающие в правиле ветвления характеров унитарных групп:

а-<1/

Теорема 1.1.3 утверждает, что характеры !7(оо) находятся во взаимнооднозначном соответствии с системами мер Рдг на этажах ОТдг графа Гельфанда-Цетлина. При этом меры Pn и Pn+i связаны так называемым соотношением когерентности:

cegtjv + i, v>-\ т

где Dirriyv А— размерность неприводимого представления унитарной группы U(N), параметризуемого сигнатурой Л. Теорема 1.1.5 показывает, как спектральная мера Р характера х группы U(оо) может быть восстановлена по соответствующей х системе мер Рдг: Р является слабым пределом образов мер Рм при некоторых вложениях этажей GT,v графа Гельфанда-Цетлина в Г2.

В разделе 1.2 приведена конструкция представления Tzw как индуктивного предела бирегулярных представлений Reg'v компактных групп U (N) и выделенного K-инвариантного вектора £о, лежащего во всех пространствах йдг представлений KegN. Вычисляются коэффициенты агш;лг(А) по характерам £А группы U(N), откуда находится явная формула для соответствующей представлению Tzw когерентной системе мер Pn(\\z,w) на графе Гельфанда-Цетлина.

В разделе 1.3 строится взаимно-однозначное соответствие между коммутантом представления Tzw и множеством ограниченных функций на графе Гельфанда-Цетлина, удовлетворяющим условию

где

\azw(u)\2 Dim^A

¡azu,(A)|2 DimAf+i

Далее показано, что характеристическая функция подграфа

СТ(р, q\г, а) — {А £ GT |Лр > q, \р+1 < q + 1)

Алг-r+i < —s, A> — s — 1} с GTT.

графа Гельфанда-Цетлина удовлетворяет этому условию, и из этого выводится разложение представления Tzw в случае целых z и w в счетную прямую сумму

q~p~z, s—r~l,p>0,r>0

некоторых подпредставлений, которые называются блоками. Каждое из представлений Tpqrs приводимо, и в дальнейшем находятся спектральные меры этих представлений.

В разделе 1.4 строится изоморфизм между множеством К-инвариантных векторов представления Tzw и пространством комплексно-значных функций на графе Гельфанда-Цетлина, удовлетворяющим двум условиям: .

(1.) Псеядогармоиичность: для всех А 6 GUV выполнено соотношение:

/(А) = £/(*)«,,&). (!)

(2) Условие типа Харди: для любого N = 1,2,...

II/II2 := sup £ |/(А)|2<оо.

N —

" AeGTjv

Этой' изоморфизм согласован с разложением на блоки: ЙГ-инвариантные векторы, лежащие в пространстве представления Tpqrs, соответствуют функциям на графе Гельфанда-Цетлина, носитель которых лежит в

GT(p,g;r,e).

С помощью этого изоморфизма в каждом из блоков TpqTS представления Tzw строится К-инвариантный вектор vpqrs, а также находится спектральная мера (Tpqrs сферического представления (TpqTS, vpqrs). Основным результатом первой главы является теорема 1.4.5.

Теорема. Пусть q—p = z, s — г = w, р, г > 0. Тогда в пространстве Hpqrs существует К-инвариантный вектор vpqrs такой, что соответствующая ему функция fpqrsW = в пространстве J-'pqrs функций на GT(p, q\ г, s) равна

/(А) = 1?ДГ/1(А1)/2(А2)/з(Л3),

где

fi( А1) = В_Р;дг+и,+,(А1), /з(А3) = B-nN+z+a(\3), /2(А ) = ад1Я;дг_г_р(А2),

m (~1)|Л| V(N - l)b{N - 2)íp ... (N - p)iP Dimp A

. (iV + Ai)tP(7V + д2 _ 1)Tp _ _ _ (JV + Ap __ p + 1)Tp ,

ntfc = n(n + 1)... (n + к - 1),

a Dn выбраны так, что

Dn N\(N + w + q- 2p)](N + 2 + s - 2r)!(JV -r-p + 2 q + 2s)!

Dn+i y (N + 2z + 2iu)!(jV-r-p)!(AM- w + g)!(iV"-f z + s)!

(2)

Пусть ippqrs(g) — сферическая функция na группе G, соответствующая вектору vpqrs,

typqrsig) —

(Tzw(g)Vpgrs, Vpqrs) _ (Tpgrs (ff)^pgrsT Урдтя)

I ¡^pgrs | P ||upi;rs||2

и Ср^гз ~ спектральная мера на П, соответствующая функции (ррчга.

Тогда носителем меры сгряга является множество (р,д;г,в), и эта мера имеет плотность

У2({^})УЧШ)У2({ф)УЧ{РП) П(1 - # - ю2 П(1 + «П2рП +

относительно меры Лебега на £1(р,д\г,з). Здесь и далее в этой главе, если не оговорено противное, индексы г, к и I мепя?отся в следующих пределах:

1 < г < Р, 1 < ; < 9, 1 <к<г, 1 <1<в в случае неотрицательных дивив пределах:

1 < г < р, 1 <j<q, 1 <к<г, -9+1 <1<э

в случае отрицательного д (случай отрицательного &• рассмативается аналогично), а У(х) для конечного набора чисел х = х\,... ,хп обозначает определитель Вандермонда:

У(х)-= Д (Хг-Х^).

1<<<}<п

В разделах 1.5 и 1.6 преодолевается техническая трудность, связанная с доказательством цикличности построенного в разделе 1.4 вектора Урдгз. Для этого в лемме 1.5.10 показывается, что для любого неотрицательного эрмитова оператора А в коммутанте представления Трдгз выполнено неравенство

) > о,

из которого легко следует цикличность урчгз.

Для доказательства леммы 1.5.10 вводится вспомогательная система мер на графе СТ(р, д;г,в), заданная рекуррентными соотноше-

нием

оя&^М = £ Ю^Мр^А,!/)

Х-.Х^и

и начал ьш.1м условием

(Атш) — 1,

где Ат;п — сигнатура длины р + г, у которой первые р компонент равны а последние г равны —5.

Лемма 1.5.8 утверждает, что образы мер при вложениях гдг носи-

телей СТд/ (р, д; г, а) этих мер в Г1(р, д; г, й) слабо сходятся к некоторой вероятностной мере ЯЛр^тз, абсолютно непрерывной относительно меры Лебега на П(р,д;г,.<!).

Доказательства технических вспомогательных к лемме 1.5.8 лемм 1.5.5, 1.5.6 и 1.5.7 вынесены в раздел 1.6.

В разделе 1.7 результаты разделов 1.1-1.6 применяются для доказательства дизъюнктности представлений при различных г к ш.

Во второй главе, мотивированной задачей гармонического анализа на бесконечномерных классических группах, доказывается существование некоторого семейства вероятностных мер на границе графа ветвления многомерных многочленов Якоби. Эти меры являются аналогом многомерных бета-распределений Эйлера, фигурирующих в интеграле Сельберга, и в

некоторых частных случаях являются спектральными мерами сферических представлений бесконечномерных классических групп.

В разделе 2.1 определяются "элементарные" многочлены Якоби, зависящие от двух вещественных параметров а и Ь:

dcti <i,j<N\plf+N4(xi)] V(x)

(ai, •■.**) = Л g

где — классические многочлены 51коби, ортогональные на отрезке [—1,1] с весовой функцией (1 — х)а{1 + х)ъ, а Л £ Удг, где У^ — множество неотрицательных сигнатур длины /V:

Улг = {Л G Z : Ai > Л2 > ... > A;v > 0}.

многочлены лкоои

1 о

творяют следующему правилу ветвления

Нормированные в единице многомерные многочлены Якоби Ф^' удовле-

18

При этом коэффициенты зависят от параметров а и Ъ и не равны

нулю тогда и только тогда, когда существует такое /х 6 что

Ai > Ц\ > А2 > ... > Адг_1 > HN-I > А

n

АН > "1 > М2 > • ■ • > Млг-1 > "N-1 > 0.

Границей графа ветвления многомерных многочленов Якоби является некоторое замкнутое подмножество $2 множества М2оо+1 = К°° х х Ж.

Как и : в случае графа Гельфанда-Цетлина, существует взаимнооднозначное соответствие между вероятностными мерами на границе Г2 и когерентными системами вероятностных мер на графе Якоби, задаваемое соотношениями

МдГ(А)= [ Моо(<1ы)А%(ы,\)<1и, N = 1,2,..., XeVN, Jn

,SA. Okounkov and G. Olshanski, Limits of BC-type orthogonal polynomials as the number of variables goes to infinity. In: Jack, Hall-Littlewood and Macdonald polynomials. Contemp. Math., 417, pp. 281-318. Amer. Math. Soc., Providence, RI, 2006.

где А) — коэффициенты разложения Ф(х1; ш)... Ф(ждг; ш) по норми-

рованным в единице многомерным многочленам Якоби:

Ф(ж,,;и;)...Ф(здш) = ^ Х)Фах,ь(х1!... ,хм),

\eVri

а Ф(т;ол) при каждом и б П — некоторая функция на отрезке [—1; 1], задаваемая явной формулой. При этом условие когерентности в данном случае записывается в следующем виде:

Млг-хИ = £ МДг(А)А^_1(А,«/).

ЛбУл,

В разделе 2.2 определяется семейство ¿-мер Мдг(А | г,г',а,Ь), где оба параметра г и г' лежат в полуплоскости I):

п {г е С : йег > -(1 + Ь)/2}.

Для получения явной формулы для этих мер используется интеграл Сель-берга

/ ( п ^1 (1 - хг)а* ] У\х)йх1 ...<1хы

СМ Л Лг(Л1+ЯГ(Л2 + ;)Г(1 + з)

В разделе 2.3 формулируется основной результат второй главы — теорема 2.3.1.

Теорема. Предположим, что параметры гиг' лежат а полуплоскости £>. Тогда семейство г-мер {Мдг(А | г,г',а,Ь) : N — 1,2,...} является когерентным.

Из этой; теоремы и упомянутой выше биекции между вероятностными мерами на границе О и когерентными системами вероятностных мер следует, что и случае г' = 3 меры Мдг(А | г,г',а,Ь) определяют некоторую вероятностную меру М00((1ш | г,г',а,Ь) на пространстве П.

В разделе 2.3 доказывается когерентность мер М^ в предположении, что меры Мм когерентны в вырожденном случае, когда параметр г является натуральным числом, а параметр г > г' - вещественным. Это делается в

два этапа: сначала, фиксируя натуральное z, показывается, что можно избавиться от предположения о вещественности z', потом, фиксируя уже z', показывается, что можно избавиться от предположения о натуральности z. При этом па втором этапе доказательства используется слабая версия теоремы Карлсона, утверждающая, что функция, голоморфная в правой полуплоскости Re z > const, имеющая полиномиальный рост на бесконечности и обращающаяся в 0 в целых точках, равна нулю тождественно.

В разделах 2.4-2.6 доказывается когерентность системы мер А | z, г', а, Ь) в вырожденном случае. В случае натурального z — К носителем меры Mjy(А | z,z',a,b) является множество V(K) неотрицательных сигнатур, у которых первая координата Ai не превосходит К. Носителем же предполагаемой соответствующей граничной меры Мж на П будет

П(К) {w = (a,l?,{)efl:a = О,

которое можно отождествить просто с подмножеством [0,1]^. Таким образом, для доказательства когерентности мер Мдг(А | z,z',a,b) оказывается достаточно доказать следующее равенство

MN{\)^ [ М1Х(с1ш)А'н(и, A), iV= 1,2..... \eVN(K), (3)

Juen{K)

где

Mooidu) - const -(У((1 - Л)2,..., (1 - /Зк)2))2

х Д(1 - (1 - Pj)2)s(l - 0j)2b+1 ■ dfr ... <ЦЗК.

В разделе 2.4 доказывается следующая явная формула для Л^(ш,А) для w - е п (К) и А е VN(K):

Л?>,А) = П -Vt\lN) .....Ук),

j=i ^ J

где

1 + (1 - fa)2 _ 1 + tj 1- (1-^)2= l-tj' a /j, — диаграмма, получаемая взятием дополнением к А в прямоугольнике N х К с последующим поворотом на 180°:

ц = (N — \'к,... ,N — А'х).

Для доказательства этой формулы используется дуальное тождество Коши для многомерных многочленов Якоби.

Таким образом, задача доказательства когерентности мер сводится к вычислению интеграла в правой части равенства (3). В разделе 2.5 описывается способ вычисления данного интеграла, основанный на способе, предложенным Каделлом19 для вычисления интеграла от многочлена Джека по многомерному бета-распределению. В разделе 2.6 проделывается оставшаяся техническая работа, необходимая для доказательства равенства (3).

В третьей главе снова изучается задача гармонического анализа и исследуются представления Тг бесконечномерной унитарно-симплектической группы. Показывается, что методы, развиваемые в первой главе диссертации, могут быть применены и в этом случае, хотя соответствующие доказательства становятся более трудоемкими.

В разделах 3.1 и 3.2 приводится краткий обзор утверждений, касающихся унитарно-симплектической группы, аналогичных утверждениям разделов 1,1-1,3 для унитарной группы, а также получено разложение на блоки Грч-

В разделе 3.3 строится /("-инвариантный вектор урч в каждом блоке. Основным результатом этой главы является теорема 3.3.4.

Теорема. Пусть я — р = г, р > 0. Тогда в пространстве Нрч существует К-инвариантный вектор такой, что соответствующая ему функция /Р?(А) — Л>М(А) в пространстве Трч функций на представима в ви-

де

для некоторых и /р^.

Пусть <Ррд(.9) ~~ сферическая функция на группе й, соответствующая вектору урд,

, > (Тг(д)Урд

) _ СТрч(д)Урд,Урд)

" 1Ы12 " 1Ы2 '

и (ТРд спектральная мера на П, соответствующая функции срРЧ.

Тогда носителем меры ард является множество 11(р,д), и эта мера с

19K. W. J. Kadell, The Selberg-Jack symmetric functions. Adv. Math. 130 (1997), 33-102.

точностью до константы, зависящей только от р ид, имеет плотность

п (<* + Ч + 2)2(а{ - П - А)2(2 - Л - А)2 П (1 " ДО2

1<*<]<Р 1<к<1<ч к=1

П (2 + с*04р ¿=1

относительно меры Лебега на И(р, д).

В разделе 3.4 доказывается цикличность построенного вектора ьрд. Доказательство трех технических лемм, требуемых для этого, вынесено в отдельный раздел 3.5.

Автор глубоко благодарен Григорию Иосифовичу Ольшанскому за постановку задач, постоянное внимание к работе и плодотворные обсуждения и Олегу Георгиевичу Смолянову за поддержку на всех этапах подготовки диссертации. Также автор благодарен Вадиму Евгеньевичу Горину и Леониду Александровичу Петрову за ценные замечания во время докладов и неформальных обсуждений работы. Наконец, автор благодарен Фонду "Конкурс Мебиуса" за поддержку во время написания диссертации.

Работы автора по теме диссертации

[1] Осипенко А. А., Гармонический анализ на бесконечномерной унитарной группе. Записки научных семинаров ПОМИ им. В. А. Стеклова РАН, 390(2011), 237-285.

[2] Осипенко А. А., Гармонический анализ на бесконечномерной унитарно-симплектической группе. Записки научных семинаров ПОМИ им. В. А. Стеклова РАН, 403(2012), 118-141.

[3] Ольшанский Г. И, Осиненко А. А. Многомерные многочлены Якоби и интеграл Сельберга. Функциональный анализ и его приложения, 46:4(2012), 31-50.

В работе [3] Г. И. Ольшанскому принадлежит постановка задачи и идея доказательства. Строгое обоснование результатов принадлежит диссертанту. Текст статьи был написан совместно.

Отпечатано в отделе оперативной печати Геологического ф-та МГУ Тираж (00 экз. Заказ №3"?

МОСКОВСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ имени М. В. ЛОМОНОСОВА

Осиненко Антон Андреевич

Гармонический анализ на некоторых бесконечномерных классических группах

Специальность 01.01.01 - вещественный, комплексный и функциональный анализ

Диссертация на соискание ученой степени кандидата физико-математических наук

Механико-математический факультет

На правах рукописи УДК 517.986

04201450266

Научные руководитель: доктор физико-математических наук, профессор О. Г. Смолянов

Москва 2013

Содержание

Введение 2

1 Гармонический анализ на бесконечномерной унитарной группе 11

1.1 Характеры и граф Гельфанда-Цетлина............................11

1.2 Конструкция представлений Тгт....................................18

1.3 Коммутант и разложение на блоки..................................21

1.4 Построение вектора урдгз..............................................28

1.5 Цикличность вектора урдгз............................................43

1.6 Доказательство лемм 1.5.5, 1.5.6 и 1.5.7............................49

1.7 Дизъюнктность........................................................56

2 Многомерные многочлены Якоби и интеграл Сельберга 58

2.1 Ветвление многомерных многочленов Якоби, когерентные системы мер, пространство Г2........................................58

2.2 г-меры..................................................................62

2.3 Формулировка основного результата. Редукция к вырожденному случаю................................................67

2.4 Начало доказательства для вырожденного случая................70

2.5 Интеграл типа Каделла..............................................73

2.6 Окончание доказательства для вырожденного случая............75

3 Гармонический анализ на бесконечномерной унитарно-симплектической группе 78

3.1 Характеры и граф Якоби V..........................................79

3.2 Представления Тг, коммутант и разложение на блоки............81

3.3 Построение вектора урд ..............................................85

3.4 Цикличность вектора урд ............................................90

3.5 Доказательство лемм 3.4.4, 3.4.5 и 3.4.6............................93

Введение

Одной из задач гармонического анализа на топологической группе является разложение наиболее естественных представлений данной группы по неприводимым. В случае компактной группы К и регулярного представления в пространстве Ь2(К) такое разложение было получено в 1927 году Вейлем и Петером. Рассматриваемые в диссертации бесконечномерные унитарная и унитарно-симплектическая группы не являются даже локально

компактными, а двойственные к ним пространства имеют бесконечную размерность.

Бесконечномерная унитарная группа С/(оо) является индуктивным пределом конечномерных унитарных групп, естественным образом вложенных друг в друга. Все неприводимые представления этой группы не могут быть классифицированы разумным образом, поэтому мы будем рассматривать унитарные представления группы [/(сю) х [/(сю), обладающие выделенным циклическим [/(оо)-инвариантым вектором. Такие представления называются сферическими; множество сферических представлений пары (С, К) — ([/(сю) х [/(сю), [/(сю)) находится во взаимно-однозначном соответствии с множеством характеров группы [/(оо) - нормированных центральных положительно определенных функций на [/(оо), при этом неприводимым сферическим представлениям соответствуют экстремальные характеры (т. е. крайние точки множества всех характеров). Таким образом, задача разложения данного сферического представления по неприводимым сводится к задаче разложения характера этого представления по экстремальным. Множество всех экстремальных характеров группы [/(оо) было описано Войкулеску в работе [42], они параметризуются некоторым множеством О, С Ж4оо+2, точное определение которого будет дано ниже. Ольшанским в работе [34] было доказано, что для любого характера \ группы [/(оо) существует и единственна такая вероятностная мера Р на топологическом пространстве Г2, что

Эта мера называется спектральной мерой характера % (или соответствующего ему сферического представления).

Группа [/(сю) не является локально компактной, и инвариантной меры на ней нет, поэтому стандартная конструкция бирегулярного представления не применима. Естественные представления могут быть получены двумя основными способами. Во-первых, можно для каждого N вложить бирегулярное представление И^дг группы [/(./V) х [/(./V) в представление и взять индуктивный предел этих представлений. Предельное представление существенно зависит от цепи вложений : И^дт —»■ а таких вложений слишком много, поэтому основной трудностью этого способа является правильный выбор вложений. Во-вторых, можно вложить С/К в некое большее пространство С/Х, на котором также будет действовать группа С, с инвариантной или квазиинвариантной мерой т. Тогда стандартным образом можно определить представление группы С в пространстве Ь2(С/К,т). Основной трудностью этого метода является необходимость угадать подходящее объемлющее пространство, а также

указать на нем подходящую меру.

Вторая конструкция впервые была реализована в работе Пикрелла [38]. Он рассмотрел пару С = ИшС/(2АГ), К = Ит£/(ЛГ) х С/(ЛГ) и построил объемлющее пространство (7/К как проективный предел грассманианов, а также определил на этом пространстве семейство мер тп5, по которым строятся естественные представления пары ((?, К). В дальнейшем Неретин в работе [30] перенес эту конструкцию на случай всех десяти (С, К)-и&р, которые являются индуктивными пределами десяти классических серий компактных римановых симметрических пространств.

Для бесконечной симметрической группы 5 (оо) обе конструкции были реализованы в работе Керова, Ольшанского и Вершика [23]. В этой работе строится вложение 5 (сю) в пространство так называемых виртуальных перестановок (5, которое является проективным пределом конечных симметрических групп 5П при отображениях рп : Зп —> 5П_ 1, состоящих в удалении п из цикла, который его содержит. Это пространство не является группой, но группа ¿>(оо) действует на нем с двух сторон в силу того, что рп эквивариантно относительно двустороннего действия 5(п — 1). Кроме того, (5 компактно как проективный предел компактных множеств. На 5 (оо) существует мера ("считающая"), инвариантная относительно действия 5(оо) х ¿>(оо), однако эта мера не является конечной, а соответствующее бирегулярное представление является неприводимым. В свою очередь на (5 существует "честный" аналог меры Хаара — вероятностная мера /¿1, инвариантная относительно действия 5(оо) х 5(оо). Кроме того, в работе [23] построено целое семейство мер зависящих от вещественного параметра Ь > 0, деформирующих меру Эти меры являются инвариантными относительно действия группы 5(оо), вложенной в 5(оо) х ¿'(сю) по диагонали, и квазиинвариантными относительно действия всей группы 5(сю) х 5(оо), что дает возможность определить семейство представлений Тг с помощью следующей стандартной конструкции. Если группа С действует справа на пространстве X с мерой ц, квазиинвариантной относительно действия группы, то в пространстве Ь2(Х^) можно определить однопараметрическое семейство унитарных представлений группы С следующим естественным способом:

где

¡1,{йх) производная Радона Никодима. Отметим, что представления Тг имеют выделенный 5(оо) = diag(5(oo) х ¿'(сю))-инвариантный вектор — функция, тождественно равная единице на 6.

При \г\ —> сю представления сходятся к неприводимому бирегулярному представлению ¿"(сю) х 5(оо) в пространстве £2(^(00)), упомянутому выше.

В работе [23] была также рассмотрена задача гармонического анализа на группе 5(оо), состоящая в разложении представлений Т2 по неприводимым, и были найдены спектральные меры этих представлений при целых значения параметра г. В этом случае спектральные меры сосредоточены на конечномерных гранях симплекса Тома. Случай нецелого г был исследован в цикле работ Бородина и Ольшанского [4, 5, 6, 7, 8]. Рассуждения первой главы диссертации опираются на идеи, развиваемые в работе [23], однако случай унитарной группы является более сложным и требует привлечения новых идей.

В случае бесконечномерной унитарной группы обе конструкции были реализованы в работе Ольшанского [34]. Снова объемлющее пространство было построено как проективный предел групп £/(Л0 при некоторых отображениях рдг : и(М) —>■ £/лг-ъ эквивариантных относительно двустороннего действия [/(ЛГ — 1), и на этом пространстве было построено семейство квазиинвариантных мер, с помощью которых было определено двупараметрическое семейство представлений Тгъи. В разделе 1.2 мы приводим только конструкцию этих представлений, реализуемых как индуктивный предел бирегулярных представлений допредельных компактных групп.

Структура спектральных мер представлений Т2Ш существенно зависит от того, являются ли параметры г и и) целыми числами. Основной трудностью в этом случае является построение циклического К-инвариантного вектора; в случае же нецелых параметров выделенный вектор - единичная функция на Ь2(С/К) - является циклическим. Этот случай разобран в работе Бородина и Ольшанского [3]: пространство П, упомянутое выше, вложено в пространство точечных конфигураций на вещественной прямой с двумя выколотыми точками и доказано, что при этом отображении спектральная мера представления Т2У) переходит в детерминантный точечный процесс; найдено корреляционное ядро этого процесса.

Основным результатом первой главы диссертации является получение разложения представлений Т2ги в случае целых параметров. В теореме 1.3.3 доказано, что представление Тгги может быть разложено в прямую сумму счетного числа представлений Трдгз, которые мы называем блоками. При этом в каждом блоке построен циклический /^-инвариантный вектор урдгз и найдена спектральная мера представления (Трдг8,урчг8), доказано, что ее носителем является конечномерная грань д;г, й) множества П.

Реализация представлений Тгу} в виде индуктивного предела представлений групп и(Ы) х II{IV) дает возможность применять технику, предложенную в работах Вершика и Керова [25, 26]. В этих работах они показывают, как результаты Тома и Войкулеску об экстремальных характерах бесконечной симметрической группы и бесконечномерной унитарной группы могут быть получены с помощью аппроксимации этих

характеров характерами допредельных групп ¿>(п) и С/(А/") соответственно. Подробное доказательство, использующее асимптотический метод Вершика и Керова, было дано позднее в работах [21, 32].

Экстремальные характеры II (М) находятся во взаимно-однозначном соответствии с неприводимыми представлениями II(Л/") и параметризуются сигнатурами Л - упорядоченными наборами из N целых чисел Л = (Ах > Аг > ... > Адг); при этом N называется длиной сигнатуры А. Множество всех сигнатур длины N обозначим через СТ/у- Графом Гельфанда-Цетлина называется градуированный граф СТ = и^=0СТдг. Две вершины А 6 СТдг и V е соединены ребром (в этом случае мы пишем А -< у), если

выполнено некоторое соотношение перемежаемости

> Ах > > А2 > ... > ^ > Адг > ^N+1-

Граф Гельфанда-Цетлина возникает естественным образом при рассмотрении ветвления характеров конечномерных унитарных групп:

а: а

и является удобным техническим средством для описания характеров группы £/(оо).

Пусть х - произвольный характер группы II(сю). Ограничивая его на и{ И), получаем нормированный характер группы и {И). Значит, он раскладывается по нормированным экстремальным характерам этой группы:

Хм = рк(х)хх, хм = х\ и(М), N = 1,2,....

АеСТлг

Таким образом, каждому характеру группы [/(сю) соответствует семейство вероятностных мер на Л^-ом этаже графа Гельфанда-Цетлина. При этом меры на А^-ом и N + 1-ом этажах связаны некоторым условием согласованности, называемом условием когерентности. В работе [34] показано, что это соответствие на самом деле является биекцией. Кроме того, там же доказано, что спектральную меру Р характера х можно восстановить, зная семейство мер {-Р/у}, в следующем смысле: Р является пределом образов мер Рдг при некоторых вложениях гдг : СТдт —> £1. Это утверждение является ключевым для вычисления спектральных мер представлений Тгш, так как для когерентных систем, соответствующих характерам Хг-ш, рассматриваемым в первой главе, существует явная формула.

Как уже отмечалось выше, основной трудностью в случае целых г и ш является построение циклического /Г-инвариантного вектора. Предложение 1.4.4 показывает, что /^-инвариантные векторы находятся

во взаимно-однозначном соответствии с функциями на графе ОТ, удовлетворяющим некоторым двум условиям. При этом для построения К-инвариантных векторов в каждом из блоков Трдг8, которые упоминались ранее, необходимо построить функцию, удовлетворяющую тем же двум условиям и сосредоточенную на некотором подграфе q] г, в) С СТ графа Гельфанда-Цетлина. В случае симметрической группы и графа Юнга в работе [23] для построения аналогичных функций существенно использовалась симметрия графа Юнга относительно транспозиций диаграмм Юнга, аналога которой нет в случае унитарной группы, поэтому для требуемого построения функции приходится привлекать новые идеи.

Вторая глава диссертации мотивирована задачей гармонического анализа на "больших" группах и может рассматриваться как продолжение работы Ольшанского [35]. Основной результат этой главы — доказательство существования некоторого семейства вероятностных распределений с бесконечномерным носителем; эти распределения являются аналогом многомерных бета-распределений Эйлера, которые фигурируют в интеграле Сельберга.

Известно, что экстремальные характеры не только бесконечномерной унитарной группы и бесконечной симметрической группы, но также и других бесконечномерных классических групп (равно как и экстремальные сферические функции на бесконечномерных римановых симметрических пространствах компактного типа) зависят от счетного набора непрерывных координат (Тома [40], Вершик и Керов [41], Керов-Окуньков-Ольшанский [21], Пикрелл [39], Окуньков-Олынанский [32], [33]). Будем обозначать (бесконечномерное) пространство экстремальных характеров или сферических функций символом О,. В задаче гармонического анализа возникает семейство спектральных мер на пространстве О — это вероятностные распределения, которые задают разложение так называемых обобщенных регулярных представлений, заменяющих несуществующее регулярное представление [22], [23], [35], [3], [9]. Для унитарной группы это уже известные нам представления ТгУ].

Первым обратил внимание на связь спектральных мер с интегралом Сельберга Керов. Он предпринял первую попытку ее использовать в работах (см. [19, §§11-12], [20, §13]). Связь, о которой идет речь, состоит в следующем: наши спектральные меры зависят от нескольких непрерывных параметров, и когда параметры принимают некоторые особые значения, происходит вырождение: носитель меры становится конечномерным, меру тогда можно задать плотностью, и эта плотность имеет тот же вид, что в интеграле Сельберга. (Похожее явление хорошо известно в теории представлений полупростых групп: при специальных значениях параметров модули Хариш-Чандры или модули со старшим весом вырождаются в конечномерные

модули.)

Отсюда проистекает идея интерпретировать спектральные меры как результат аналитического продолжения вырожденных мер по параметрам. На этой идее построены работы [35], [36], [37], а также и вторая глава диссертации. Мы проводим вычисления для вырожденных мер, а затем экстраполируем результат на общие значения параметров, опираясь на теорему Карлсона о единственности продолжения с целых точек для аналитических функций, удовлетворяющих определенным условиям. (Аналогично, общие модули Хариш-Чандры или модули со старшим весом можно интерпретировать как результат аналитического продолжения по параметрам конечномерных представлений. Это наблюдение было использовано еще 60 лет назад в работе Годемана [15].)

Как и в [35], наш подход к спектральным мерам формально не зависит от конструкции обобщенных регулярных представлений. Известно, что пространство допускает является границей некоторого бесконечного градуированного графа. Это означает, что имеет место биективное соответствие М {Мдг : N = 1,2,...} между вероятностными мерами МнаПи последовательностями {Мдг} вероятностных мер на этажах графа, удовлетворяющих так называемому условию когерентности:

= = 2,3,..., (0.1)

где — некоторые некоторые канонические стохастические матрицы,

связывающие соседние этажи графа (строки матрицы индексируются

вершинами ЛГ-го этажа, а столбцы — вершинами (А/" — 1)-го этажа; сами меры Мдг при этом интерпретируются как векторы-строки).

Тем самым, вопрос о существовании той или иной меры М на П сводится к предъявлению последовательности {Мдг}, удовлетворяющей условию когерентности (0.1). Проверка этого условия нетривиальна и является основным техническим результатом второй главы.

Интересующие нас графы являются графами ветвления многомерных ортогональных многочленов гипергеометрического типа, связанных с классическими системами корней. В [35] рассматривался случай многочленов Джека (он отвечает сист�