Минимальные множества однородных потоков и метрические свойства индуцированных действий тема автореферата и диссертации по математике, 01.01.01 ВАК РФ

МОСКОВСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ им. М. В. Ломоносова

МЕХАНИКО-МАТЕМАТИЧЕСКИЙ ФАКУЛЬТЕТ

На правах рукописи УДК 519.46

КУЛИКОВ Михаил Сергеевич

МИНИМАЛЬНЫЕ МНОЖЕСТВА ОДНОРОДНЫХ ПОТОКОВ И МЕТРИЧЕСКИЕ СВОЙСТВА ИНДУЦИРОВАННЫХ ДЕЙСТВИЙ

Специальность: 01.01.01 - математический анализ

АВТОРЕФЕРАТ

диссертации на соискание ученой степени кандидата физико-математических наук

Москва, 2004 г.

Работа выполнена на кафедре теории функций и функционального анализа механико-математического факультета Московского государственного университета им. М. В. Ломоносова.

Научные руководители: доктор физико-математических наук,

старший научный сотрудник А. Н. Старков

доктор физико-математических наук, профессор А. М. Степин

Официальные оппоненты: доктор физико-математических наук,

профессор А. В. Болсинов

доктор физико-математических наук, профессор Ю. А. Неретин

Ведущая организация: Московский государственный технический

университет им. Н. Э. Баумана

Защита состоится 5 марта 2004 г. в 16 часов 15 минут на заседании диссертационного совета Д.501.001.85 в Московском государственном университете им. М. В. Ломоносова по адресу: 119992, ГСП-2, Москва, Ленинские горы, МГУ, механико-математический факультет, аудитория 16-24.

С диссертацией можно ознакомиться в библиотеке механико-математического факультета МГУ (Главное здание, 14 этаж).

Автореферат разослан 5 февраля 2004 г.

Ученый секретарь диссертационного совета Д.501.001.85 в МГУ доктор физико-математических наук профессор

Т. П. Лукашенко

2004-4 27943

-оощая характеристика работы

Актуальность темы

Настоящая работа относится к динамической теории групп преобразований. Наличие у динамической системы дополнительных симметрии, то есть, тот факт, что она включается в более широкую группу преобразований, позволяет полнее изучить свойства системы. При этом возникает задача исследовать также свойства расширенной группы преобразований.

Простейшими динамическими системами с симметриями считаются потоки на однородных пространствах, индуцированные тривиальным действием стационарной подгруппы. Этот класс потоков изучался в работах Гельфанда и Фомина, Ауслендера, Грина и Хана, Дани, Маргули-са, Мура, Перри, Ратнер, Старкова, Степина, Фюрстенберга, Хедлунда и многих других авторов. Полученные к 2000 году результаты теории однородных потоков изложены в монографии1 А. Н. Старкова.

Имеется гамильтонов вариант теории индуцированных потоков. Предметом изучения в нем являются гамильтоновы системы с однородным конфигурационным пространством. Этот класс включает системы как с максимально неустойчивым (гиперболическим) поведением, так и с преобладанием условно периодических движений. К первому типу относятся потоки геодезических в пространствах постоянной отрицательной кривизны, изученные Д. В. Аносовым в контексте равномерно гиперболических систем2. Второй тип содержит вполне интегрируемые системы с транзитивной группой конфигурационных симметрии. И. В. Ми-китюком и А. М. Степиным получена классификация3 однородных пространств О/К простых компактных групп Ли, для которых все гамиль-тоновы потоки на Т*(О/К) с О-инвариантной функцией Гамильтона вполне интегрируемы с помощью интегралов Нетер.

Минимальные множества геодезических потоков

Одной из основных задач в топологической теории динамических систем является изучение минимальных множеств.

Богатым запасом минимальных множеств обладают потоки геодезических на поверхностях постоянной отрицательной кривизны. Такие по-

Динамические системы на однородных пространствах. М.: ФАЗИС, 1999. Геодезические потоки на замкнутых римановых многообразиях // Труды МИАН,

т. 90, №5, 1967, с. 1-210.

Classification of almost spherical pairs of compact simple Lie groups. Poisson geometry (Warsaw, 1998), pp. 231-241, Banach Center Publ., 51, Polish Acad. Sci., Warsaw, 2000.

верхности можно представить как фактор-поверхности плоскости Лобачевского по действию фуксовых групп.

В то время как для любой неэлементарной фуксовой группы геодезический поток всегда обладает нетривиальным (то есть, отличным от замкнутой орбиты) компактным минимальным множеством, вопрос о существовании нетривиальных некомпактных минимальных множеств был решен совсем недавно4. Там же был предложен в качестве гипотезы критерий существования таких множеств.

Существование минимальных множеств

Известно, что динамическая система на компактном фазовом пространстве всегда обладает минимальным множеством. В работе5 П. Швейцера был задан вопрос: существует ли некомпактное многообразие, на котором имеется поток, не обладающий ни одним минимальным множеством? Гладкие примеры таких потоков были построены только в 1999 году6. Представляет интерес исследование динамических систем без минимальных множеств. Однородный поток на пространстве конечного объема всегда обладает минимальным множеством однако случай бес-

конечного объема не был исследован.

Действия дискретных подгрупп

Свойства дискретной подгруппы Г С SL(2,R) можно изучать, исходя из строения орбит ее естественного действия на плоскости. Например, если Г — решетка (это означает, что Г — дискретная подгруппа и имеет конечный объем), то дискретные Г-орбиты (исключая нулевую точку) существуют в том и только в том случае, когда пространство некомпактно. Известно также (частный случай резуль-

4DAL'BO F., STARKOV A. N. On noncompact minimal sets of the geodesic flow // J. of Dyn. and Contr. Sys., vol. 8, No. 1, 2002, pp. 47-64

'SCHWEITZER P. A. Some problems in foliation theory and related areas // Differential topology (Lect. Notes Math, 652). Rio de Janeiro, 1976, pp. 249-252.

6BENIERE J.-C, MEIGNIEZ G. Flows without minimal set // Erg. Th. and Dyn. Sys., vol. 19, No. 1, 1999, pp. 21-30.

INABA T. An example of a flow on a non-compact surface without minimal set // Erg. Th. and Dyn. Sys., vol. 19, No. 1, 1999, pp. 31-33.

татов Гринберга-Дани7), что естественное действие решетки обладает только дискретными и всюду плотными орбитами. В связи с этим представляет интерес следующий вопрос: существует ли дискретная подгруппа в не являющаяся решеткой, естественное действие которой обладает только дискретными и плотными в орбитами (почти минимальность)? Подобные вопросы мотивируют изучение орбит действий дискретных подгрупп.

Индуцированные действия

К настоящему времени весьма детально исследованы эргодические и топологические свойства потоков на однородных многообразиях конечного объема. Начало этому было положено работой8 А. М. Степина, в которой найдены спектры однородных потоков в случае полупростых групп симметрии. С точки зрения теории динамических систем, представляет интерес изучение групп преобразований, индуцированных нетривиальным действием стационарной подгруппы. Во-первых, это дает возможность распространить результаты об однородных потоках на весьма широкий класс динамических систем и, вместе с тем, обнаружить новые эффекты, которые не проявляются на уровне однородных потоков. Во-вторых, изучение динамических систем, индуцированных сохраняющим меру действием замкнутой подгруппы в группе Ли, может привести к более основательному пониманию закономерностей однородной динамики.

Цель работы

1. Изучить вопрос о существовании минимальных множеств для геодезического и орициклического потоков на поверхностях постоянной отрицательной кривизны.

2. Для индуцированных действий подгрупп в группах Ли получить критерии эргодичности и перемешивания.

7DANI, J.S. Density properties of orbits under discrete groups // J. Ind. Math. Soc. 39 (1975), pp. 189-218.

DANI, J.S., DAM, S.G. Discrete groups with dense orbits // J. Ind. Math. Soc. 37 (1973), pp. 183-195.

ГРИНБЕРГ Л. Дискретные группы с плотными орбитами. В книге: АУСЛЕНДЕР Л., ГРИН Л., ХАН. Ф. ПОТОКИ на однородных пространствах, М.: Мир, 1966.

8Динамические системы на однородных пространствах полупростых групп Ли // Изв. АН СССР, 37 (1973), 1091-1107.

Методы исследования

В работе используются методы и результаты теории функций и функционального анализа, теории динамических систем и теории фуксовых групп.

Научная новизна

Результаты диссертации являются новыми и состоят в следующем.

1. Доказан критерий существования некомпактных (нетривиальных) минимальных множеств геодезического потока. Построен пример орициклического потока, не имеющего ни одного минимального множества.

2. Доказано существование бесконечно порожденной дискретной подгруппы в со свойством почти минимальности;

3. Получены критерии

- эргодичности индуцированных действий подгрупп полупростой и разрешимой (экспоненциальной) группы Ли,

- перемешивания индуцированных потоков.

Теоретическая и практическая значимость

Работа носит теоретический характер. Результаты диссертации могут быть использованы специалистами, работающими в теории динамических систем.

Апробация работы

Результаты диссертации докладывались на семинаре механико-математического факультета МГУ по динамическим системам под руководством академика Д. В. Аносова, профессора А. М. Степина и профессора Р. И. Григорчука (в 1998-2003 гг.), на конференции "Колмогоров-ские чтения" в МГУ (Москва, 1999) и на международных конференциях по динамическим системам: "Динамические системы и эргодическая теория" в Кацивели (Крым, 2000), "Современная теория динамических систем и приложения к теоретической небесной механике" в МИАН (Москва, 2002), "Динамика в пространствах Тейхмюллера и приложения к рациональным бильярдам" в университете Люмини г. Марсель (Франция, 2003).

Публикации

Основные результаты диссертации опубликованы в пяти работах, список которых приведен в конце автореферата. Из работы (4] в диссертацию включены лишь вторая и третья теоремы, принадлежащие диссертанту. Остальные работы выполнены диссертантом без соавторов.

Структура и объем работы

Диссертация состоит из введения, списка обозначений, трех глав и списка литературы; ее общий объем составляет 81 страницу. В диссертации содержится 10 рисунков. Список литературы включает 42 наименования.

Содержание работы

Во введении отражена история вопросов, рассмотренных в диссертации, и приведен обзор результатов, связанных с темой исследования. Кратко излагается содержание работы и формулируются основные результаты.

Первая глава посвящена некомпактным минимальным множествам геодезического потока на поверхностях постоянной отрицательной кривизны. Именно, доказывается гипотеза относительно существования таких множеств, сформулированная в работе [4].

Непустое множество М в топологическом пространстве X называется минимальным относительно непрерывного действия группы О на X, если М замкнуто, О-инвариантно и не содержит собственных замкнутых О-инвариантныхподмножеств.

Известно, что геодезический поток на единичном касательном расслоении к поверхности М постоянной отрицательной кривизны можно представить в виде однородного потока, заданного одно-параметрической подгруппой {з( : 4 € й} на однородном пространстве Г\РЗЬ(2,К) а Т1М, где

и Г — некоторая фуксова группа, то есть дискретная подгруппа в группе РЗЬ(2, К) = 5Ь(2,Е)/{±1}. Более точно, геодезический поток задается формулой

9^9) = Гад«, 9 € РБЦг, К), * е к.

Эта динамическая система обладает богатым запасом минимальных множеств. Тривиальными (то есть, состоящими из единственной траектории) минимальными множествами геодезического потока являются периодические орбиты и орбиты, уходящие на бесконечность (при t —> ±00). Если поверхность M имеет конечную площадь, то периодические орбиты плотны в TlM, а если M вдобавок некомпактна, то в Т1Л/ плотны также и уходящие на бесконечность орбиты. Пример нетривиального (то есть, отличного от замкнутой орбиты) минимального множества, локально несвязного в любой точке, был построен Г. Морсом в 1921 году9. Для этого использовалось геометрическое кодирование геодезических, с последующим построением нетривиального минимального множества для символической динамики с алфавитом {0,1}. В работе [4] решен вопрос о существовании нетривиальных некомпактных минимальных множеств.

Гипотеза Дальбо - Старкова4. Геодезический поток на r\PSL(2,E) обладает нетривиальным некомпактным минимальным множеством тогда и только тогда, когда фуксова группа Г, во-первых, неэлементарна, и во-вторых, обладает параболическим элементом или бесконечно порождена.

В диссертации этот критерий доказан (Теорема 1). Доказательство состоит в обобщении метода построения некомпактного минимального множества для геодезического потока, примененного Ф. Дальбо и А. Н. Старковым, на класс произвольных бесконечно порожденных фук-совых групп. При этом используется геометрическое кодирование с бесконечным (и даже, континуальным) алфавитом.

Во второй главе изучаются орбиты орициклического потока на поверхностях постоянной отрицательной кривизны, а также орбиты естественного действия дискретной подгруппы в тесно связанного с орициклическим потоком. Построены примеры орициклического потока, который не обладает ни одним минимальным множеством (по-видимому, это первый пример такого потока алгебраического происхождения), и естественного действия на плоскости бесконечно порожденной дискретной подгруппы в обладающего только дискретными и всюду плотными орбитами.

Для формулировки результатов понадобятся следующие понятия. Точка х S X называется блуждающей относительно потока <рц, если найдутся такие открытое множество U Э X и число Т > 0, что для

'MORSE H. M. Recurrent geodesies on surface of negative curvature // Trans. Amer. Math. Soc., vol 22 (1921) 1, pp. 84-100.

любого Ь такого, что > Т, выполнено ПС/ = 0. Неблуоюдающее множество потока (рп состоит из всех точек х € X, которые не являются блуждающими.

Орициклический поток на Т1М = Г\РЗЬ(2, К) задается действием однопараметрической подгруппы строго верхнетреугольных матриц [щ ' ¿6 К} формулой

дезическому, орициклический поток не обладает столь богатым запасом минимальных множеств. В случае компактной поверхности М, поток ид минимален, то есть единственным минимальным множеством является все фазовое пространство а для орициклического потока на некомпактной поверхности конечной площади минимальные множества суть периодические орбиты (см, например, работу Г. А. Хедлунда10 или обзор Э. Гиса11). Если же М имеет бесконечную площадь, то ситуация может еще более усугубиться, как показывает

Теорема 2. Существует неэлементарная фуксова группа Г такая, что поток, полученный ограничением на неблуждающее множество орициклического потока на пространстве Г\Р8Ь(2,К), не имеет минимальных множеств.

Более того, оказывается, что бывают орициклические потоки вообще без минимальных множеств:

Теорема 3. Существует фуксова группа Г такая, что орициклический поток на пространстве Г\РЗЬ(2,М) не имеет минимальных мно-

ДЛЯ построения этих примеров используется, в частности, классификация предельных точек фуксовой группы в зависимости от поведения соответствующих орициклов, рассматриваемая в работе12. Именно, предельная точка называется орициклической, параболической или дискретной, если соответствующий ей орицикл в Т^М соответственно плотен

10HEDLUND G. A. Fuchsian groups and transitive horocycles // Duke Math. J., vol. 2, 1936, pp. 530-542.

11 GHYS E. Dynamique des flots unipotents sur les espaces homogenes // Sem. Bourbaki, vol. 1991/92. Asterisque No. 206, (1992), Exp. No. 747, 3, pp. 93-136.

12STARKOV A. N. Fuchsian groups from the dynamical viewpoint // Journal of Dynamical and Control Systems, vol. 1, No. 3, 1995, pp. 427-445.

щ(Гд) = Гдщ, g 6 PSL(2, R), (6E,

где Г — фуксова группа и Щ — ±

противоположность гео-

жеств.

в неблуждающем множестве, периодичен или уходит на бесконечность. Оставшиеся предельные точки называются нерегулярными (соответствующие траектории орициклического потока не замкнуты, но и не плотны в неблуждающем множестве). С помощью геометрического кодирования предельного множества группы Шоттки в работе [13] было дано простое описание подклассов предельных точек, определяющих поведение соответствующих орбит геодезического потока. Что же касается орицик-лического потока, то были построены примеры, показывающие, что тип предельной точки, характеризующий поведение орицикла, не поддается описанию в терминах кодирования, а имеет более сложную зависимость. При этом рассматривались простейшие бесконечно порожденные группы Шоттки второго рода (те, у которых предельное множество является канторовым подмножеством абсолюта).

Основная техническая сложность при построении искомых фуксо-вых групп состоит в доказательстве того, что достаточно обширный класс предельных точек составляют орициклические. Чтобы преодолеть это, во второй главе настоящей работы предлагается техника, позволяющая устанавливать орицикличность предельных точек, при этом область ее применимости значительно шире, чем у методов работы [13]. В частности, появляется возможность рассматривать группы первого рода (это значит, что предельное множество совпадает с абсолютом), для которых нет блуждающих относительно орициклического потока точек в Предложенная техника, в сочетании с использованием

свойства сдвига, о котором говорится в следующем абзаце, позволяет построить группы, существование которых утверждается в теоремах 2 и 3.

Для доказательства теорем 2 и 3 оказывается полезным ввести новый класс предельных точек, обладающих так называемым свойством сдвига (предельная точка обладает свойством сдвига, если замыкание орбиты соответствующего орицикла в пересекается некоторой геодезической при двух различных значениях параметра Следующее предложение показывает, как это свойство может служить препятствием к существованию минимальных множеств.

Предложение. Если все предельные точки фуксовой группы обладают свойством сдвига и имеются нерегулярные предельные точки, то неблуждающее множество fi+ орициклического потока не содержит ищ-минимальных подмножеств.

13DAL'BO F , STARKOV A. N. On classification of limit points of infinitely generated Schottky groups // J. of Dyn. and Contr. Sys., vol. 6, No. 4, 2000, pp. 561-578.

В работе решается сформулированный ранее вопрос о существовании бесконечно порожденной дискретной подгруппы в SL(2, R) такой, что ее естественное действие обладает только дискретными и плотными в К2 орбитами. Высказывалось предположение, что таких групп нет. Оказалось, что такие группы существуют, а именно, с использованием упомянутой выше техники в настоящей работе построен соответствующий пример.

Теорема 4. Существует бесконечно порожденная фуксова группа Г первого рода такая, что ее предельное множество не содержит нерегулярных предельных точек. Поэтому орбиты орициклического потока на пространстве r\PSL(2, R) либо замкнуты, либо всюду плотны, а естественное действие в R2 группы р *(Г) обладает только дискретными и всюду плотными орбитами, где р: SL(2,R) —^PSL(2,R) — проекция.

В третьей главе изучаются группы преобразований, полученные конструкцией Т-индуцирования. Эта конструкция в алгебраическом варианте восходит к Фробениусу и состоит в следующем. Пусть G — связная вещественная группа Ли, и заданы подгруппа F С G и действие Т подгруппы Г С G на пространстве X. Рассмотрим действие группы G х Г в X х G, заданное формулой

(9,7) • (х, go) = (T(i)x, 9907'1), 9,9о € G, 7 6 Г, х € X.

Поскольку действия групп G и Г перестановочны, то на пространстве X Ху G орбит группы Г корректно определено действие 1т группы G, которое, по определению, индуцировано действием Т (кратко — Т-индуцированное действие). Ограничение 1т\р действия /j- на подгруппу F назовем Т-индуцированным действием подгруппы F. Если F — однопараметрическая подгруппа, то It\f называется Т-индуцированным потоком.

Описанная конструкция Т-индуцированного действия, с одной стороны, является обобщением естественного действия на G/Г, а с другой стороны, — частным случаем конструкции действия, построенному по образу коцикла а : X х Г G (подробности см. в Section 2.3 обзора А. В. Катка и Р. Фереса14). Аналогом Т-индуцированного действия в категории унитарных представлений является конструкция индуцированного представления Макки (см. гл. II, §4 в книге Л. Ауслендера, Л. Грина и Ф. Хана15 и §13 в книге А. А. Кириллова16).

14FERES R., КАТОК A. Ergodic Theory and Dynamics of G-spaces, Handbook of dynamical systems, Elsevier Science, 2002.

15Потоки на однородных пространствах, М.: Мир, 1966.

18Элементы теории представлений. М.: Наука, 1978.

Далее сохраняющие меру действия будут рассматриваться только в пространствах Лебега с конечной нормированной мерой.

Предположим дополнительно, что Г замкнута и конечного ко-объема, то есть однородное пространство G/Г обладает конечной мерой цс/г, инвариантной относительно сдвигов слева на элементы G (будем считать Дс/г(С/Г) = 1), и (Х,Х,Цх) — пространство с мерой, которую сохраняет действие Т. Тогда X х т С естественным образом обладает измеримой структурой и конечной /^-инвариантной мерой, причем X Хт G изоморфно как пространство с мерой прямому произведению X X (С/Г), на котором действие является косым произведением с естественным действием группы G на G/Г в качестве базы.

В 1991 году А. М. Степин обнаружил резонансный механизм возникновения неэргодичности индуцированных потоков, который изложен в неопубликованной работе А. М. Степина и А. В. Сафонова. Подход этих авторов применен в диссертации к исследованию общих индуцированных действий. В диссертации доказаны необходимые и достаточные условия эргодичности Т-индуцированных действий для класса подгрупп в группах Ли, охватывающего разрешимые связные подгруппы в полупростых группах и произвольные связные подгруппы разрешимых экспоненциальных (в частности, коммутативных и нильпотентных) групп Ли. Получены необходимые и достаточные условия перемешивания Т-индуцированных потоков.

Очевидными необходимыми условиями эргодичности Т-индуциро-ванного действия являются эргодичность действия Т и однородного фактор-действия F на G/Г. Однако, Т-индуцированное действие может оказаться неэргодичным, даже если эти условия выполнены: в диссертации построены примеры слабоперемешивающего действия решетки и эргодичного действия решетки в полупростой группе, индуцирующих неэргодичные потоки, хотя однородные фактор-потоки в обоих случаях эргодичны.

Полученные результаты удобно формулировать, используя следующее

Определение. Сохраняющее меру действие Т группы О называется допустимым по отношению к действию Т ее замкнутой подгруппы Г (кратко Г-допустимым), если существует Т-инвариантное измеримое разбиение £ такое, что Г-действия и Т/£ изоморфны.

Теорема 5. Пусть О — связная полупростая группа, Т — сохраняющее меру действие подгруппы ГС О конечного ко-объема и F С О — связная разрешимая подгруппа, естественное действие которой на О/Г эргодично.

Тогда для эргодичности Т-индуцированного F-действия необходимо и достаточно, чтобы было эргодичным ограничение Т\р на подгруппу F любого Т-допустимого действия Т группы G.

Будем говорить, что подгруппа F группы Ли G удовлетворяет условию (Е), если для всех операторов Ad(/), / € F, единица является единственным собственным значением, равным по модулю единице, где Ad — присоединенное представление.

Заметим, что если G — коммутативная, нильпотентная или экспоненциальная разрешимая группа Ли (то есть, группа, для которой экспоненциальное отображение алгебры Ли в группу Ли является гомеоморфизмом; в этом случае для всех операторов Ad(<j), g € G, единица является единственным собственным значением, равным по модулю единице), то условие (Е) выполнено для любой ее подгруппы F.

Теорема 6. Пусть G — связная группа Ли, Т — сохраняющее меру действие подгруппы Г С G конечного ко-объема, F С G — связная подгруппа, удовлетворяющая условию (Е), естественное действие которой на G/T эргодично.

Тогда для эргодичности Т-индуцированного F-действия необходимо и достаточно, чтобы было эргодичным ограничение Т\р на подгруппу F любого Т-допустимого действия группы G.

Более того, если Т-индуцированное F-действие неэргодично, то найдется Т-допустимое G-действие Т на нетривиальном (то есть, на содержащем множество промежуточной между 0 и 1 меры) пространстве с мерой, ограничение которого на F тривиально (то есть для всех / G F, преобразование T(f) тождественно (mod 0)).

Утверждения про необходимость в теоремах 5 и б справедливы для любой подгруппы F в произвольной связной группе Ли G. С другой стороны, для произвольной группы G утверждение про достаточность, вообще говоря, неверно, и в диссертации построен соответствующий контрпример.

Центральным моментом в доказательстве теорем об индуцированных действиях является лемма о редукции, выявляющая резонасный механизм возникновения неэргодичности (см. работу [17]). Для формулировки этой леммы введем следующие обозначения. Пусть для замкнутой подгруппы Г конечного ко-объема в связной группе Ли G задано сохраняющее меру действие Т на пространстве (X, X, Цх)- Для произвольной

17STEPIN A. M. On Three Problems About Dynamical Systems Related to Lattices and Homogeneous Spaces // J. of Dyn. and Contr. Sys. 9 (2), p. 257-264, 2003.

нормальной подгруппы U С G рассмотрим подгруппу Гу = TU и семейство 2t(X', U) измеримых подмножеств A G X таких, что для любой последовательности 7„€Г сходим о-сГ^Ъ к единице в GJU влечет

ßx{T(jn)A Л Л) -)• 0, п-> оо,

где

Лемма (о редукции). Семейство 2l(i/,T) является Т-инвариантной С -алгеброй множеств, порожденной некоторым измеримым Т-инвари-антным разбиением Фактор-действие Т/£ подгруппы Г продолжается до непрерывного действия Tu подгруппы Гц, причем Тц- индуцированное действие 1тц группы G изоморфно фактор-действию It J (^{U), где £({7) — разбиение на эргодические компоненты для Т-индуцирован-ного действия 1т\и подгруппы U. При этом Ти\и тривиально.

В доказательстве леммы используется принцип двойственности, примененный К. Муром18 и А. М. Степиным8 при изучении спектральных свойств однородных потоков.

Из редукционной леммы следует, что в общем случае вопрос об эргодичности Т-индуцированного действия может быть сведен к ситуации, когда однородное фактор-действие подгруппы F на G/Г изометрично.

Для однородного F-потока на G/Г сильное перемешивание эквивалентно слабому и является необходимым условием слабого и сильного перемешиваний Т-индуцированного F-потока на X Х-т G.

Теорема 7. Пусть G — связная группа Ли, Т — действие подгруппы Г С G конечного ко-объема на пространстве Лебега с конечной мерой и F = {/t}teK С G — однопараметрическая подгруппа такая, что однородный F-поток на G/Г сильно перемешивает.

Тогда Т-индуцированный F-поток сильно (слабо) перемешивает тогда и только тогда, когда сильным (соответственно, слабым) перемешиванием обладает ограничение Т\р на F любого Т-допустимого действия Т группы G.

В работе изучаются также и индуцированные представления, являю -щиеся линейным вариантом индуцированных действий.

Пусть имеется непрерывное унитарное представление р : Г U(/f) подгруппы Г в сепарабельном гильбертовом пространстве Н. Тогда р-индуцированное представление группы опреде-

18MOORE С. С. The Mautner phenomenon for general unitary representations. // Pacific J. Math, 1980, vol. 86, No. 12, pp. 154-169.

лено следующим образом: ¿*(С,Я) — гильбертово пространство (совпадающих почти всюду классов) функций у?, определенных на группе (7 со значениями в Я, которые измеримы и удовлетворяют для всех 7 € Г соотношению <р(97-1) = р(7)у(з) для почти всех д 6 <3, а скалярное произведение в Н) определено как (<р, ^¿¡{в.н) —

/ (</3(5))1/'(5))я ф*с/г(<?Г); элемент 5 действует на функцию у 6 с/г

^(С?, Я) по формуле [(.РЫ<Ж9') = е С.

Определение. Пусть р : Г -)• ЩЯ) — унитарное представление замкнутой подгруппы Г С С в гильбертовом пространстве Я. Представление р: С? -»■ и (Я') группы Г С б в гильбертовом пространстве Н' называется р-допустимым, если Я' С Я — р-инвариантное подпространство и ограничение р|г представления р на подгруппу Г совпадает с подпредставлением представления р группы Г в подпространстве Я'.

Теорема 8. Пусть О — связная полупростая группа, р — унитарное представление подгруппы ГС О конечного ко-объема в гильбертовом пространстве и ¥ С. О — связная разрешимая подгруппа, естественное действие которой на О/Т эргодинно.

Тогда для того, чтобы р-индуцированное представление подгруппы ¥ не имело ненулевых инвариантных векторов в 1%(Сг,Н), необходимо и достаточно, чтобы не имело ненулевых инвариантных векторов ограничение на ¥ любого р-допустимого представления группы О.

Теорема 9. Пусть О — связная группа Ли, р — унитарное представление подгруппы Г С О конечного ко-объема в гильбертовом пространстве и ¥ С. О — связная подгруппа, удовлетворяющая условию (Е), естественное действие которой на О/Т эргодично.

Тогда для того, чтобы индуцированное представление подгруппы ¥ не имело ненулевых инвариантных векторов в необходимо и достаточно, чтобы не имело ненулевых инвариантных векторов ограничение на ¥ любого допустимого представления группы О.

Более того, если р-индуцированное представление 1р\р подгруппы ¥ имеет ненулевой инвариантный вектор в Ь^(0,Н), то найдется р-допустимое представление р группы О в нетривиальном (то есть, отличном от подпространстве такое, что для

всех /б-Р1, где Ия' — тождественный оператор на пространстве Н'.

Благодарности

Автор выражает глубокую благодарность своим научным руководителям доктору физико-математических наук А. Н. Старкову и профессору А. М. Степину за постановку задач, помощь и постоянное внимание к работе и академику Д. В. Аносову за плодотворные обсуждения и ценные замечания. Автор благодарит организаторов конференции "Динамические системы и эргодическая теория" в Кацивели (Крым, 2000) и Математический Институт (IRMAR) Университета-1 города Ренн (Франция) за гостеприимство.

Список публикаций по теме диссертации

[1] KULIKOV M. Ergodidty and mixing of T-induced flows // The International Conference and Workshop 'Dynamical Systems and Ergodic Theory', Abstracts, August 21-30, Katsiveli (Crimea, Ukraine), 2000, p. 21.

[2] КУЛИКОВ М. С. Эргодичность и перемешивание Т-индуцированных потоков // Успехи Математических Наук, 2001, т. 56, вып. 1 (337), с. 167-169.

[3] КУЛИКОВ М. С. Метрические свойства Т-индуцированных действий// Рукопись депонирована в ВИНИТИ от 23.09.2003, №1720-В2003, 26 с.

|4] KULIKOV M. S., STARKOV A. N. 'Minimal sets of the geodesic and horocycle flows'// Journal of Dynamical and Control Systems, Vol. 10 (2004), No. 1, pp. 129-130. (Диссертанту принадлежат вторая и третья теоремы.)

[5] КУЛИКОВ М. С. Группы типа Шоттки и минимальные множества орициклического и геодезического потоков // Математический Сборник, т. 195, №1, 2004, с. 37-68.

Издательство ЦПИ при механико-математическом факультете МГУ им. М.В. Ломоносова. Подписано в печать

Формат 60x90 1/16. Усл. печ. л. 1,0

Тираж 100 экз. Заказ ^

Лицензия на издательскую деятельность ИД В 04059, от 20.02.2001г.

Отпечатано с оригинал-макета на типографском оборудовании механико-математического факультета и Франко-русского центра им. А.М. Ляпунова.

1-2496

РНБ Русский фонд

2004-4 27943

Оглавление

Введение

Список обозначений

1 Минимальные множества геодезического потока 16 1.1 Используемые понятия и обозначения.

1.1.1 Фуксовы группы.

1.1.2 Геодезический и орициклический потоки.

1.1.3 Предельные точки и их классификация

1.2 Группы типа Шоттки.

1.2.1 Определение групп типа Шоттки.

1.2.2 Кодирование предельных точек групп типа Шоттки

1.3 Большие геодезические.

1.4 а-минимальные множества.

1.5 Доказательство гипотезы Дальбо-Старкова.

2 Орициклические потоки и линейные действия дискретных групп

2.1 Предельные точки со свойством сдвига.

2.2 Техника прыжков I.

2.2.1 Группы с парами равных полуокружностей.

2.2.2 Группы с парами симметричных полуокружностей

2.2.3 Метод доказательства орицикличности точек

2.2.4 Прыжки первого и второго рода.

2.3 Орициклический поток без минимальных подмножеств неблуждающего множества. $ 2.4 Техника прыжков II.

2.4.1 Составные прыжки.

2.4.2 Конечно-порожденные группы с парами равных полуокружностей

2.4.3 Крокодилы.

2.5 Орициклический поток без минимальных множеств

2.6 Бесконечно-порожденная группа первого рода без нерегулярных точек.

3 Метрические свойства Т-индуцированных действий

3.1 Используемые понятия и обозначения.

3.1.1 Однородные пространства групп Ли.

3.1.2 Действие на пространстве с мерой и сопряженное ему представление.

3.1.3 Надстройка над однородным пространством и индуцированное действие.

3.1.4 Индуцированное представление.

3.1.5 Сопряженность индуцированных представлений и действий

3.1.6 Точки Лебега измеримых отображений.

3.2 Критерии эргодичности и перемешивания.

3.3 Доказательство критериев эргодичности и перемешивания

3.4 Доказательство вспомогательных лемм.

3.4.1 Редукция к действию подгруппы Гц

3.4.2 Свойства индуцированных действий

3.4.3 Разрешимая подгруппа полупростой группы.

3.4.4 Подгруппа со свойством Маутнера.

3.4.5 Перемешивающий однородный поток.

3.5 Примеры.

3.5.1 Слабо перемешивающее действие, индуцирующее неэргодичное.

3.5.2 Неэргодичное Т-индуцированное действие.

3.5.3 Эргодичное действие решетки в полупростой группе, индуцирующее неэргодичное.

3.6 Неподвижные векторы индуцированных представлений

3.7 Полнота меры точек Лебега

Настоящая работа относится к теории динамических систем и групп преобразований. В первых двух главах изучаются вопросы топологической динамики, а в третьей главе речь пойдет о метрической теории, в которой изучаются группы преобразований с инвариантной мерой.

Первая глава работы посвящена изучению некомпактных минимальных множеств геодезического потока на поверхностях постоянной отрицательной кривизны. В частности, доказывается гипотеза относительно существования таких множеств, сформулированная Ф. Дальбо и А. Н. Старковым.

С точки зрения теории однородных динамических систем, геодезический поток на единичном касательном расслоении Т1М к поверхности М постоянной отрицательной кривизны можно представить в качестве однородного потока, заданного однопараметрической подгруппой {gt: t G R} на однородном пространстве r\PSL(2,R) = Т1М, где и Г — некоторая фуксова группа, то есть дискретная подгруппа в группе PSL(2,R) = SL(2,R)/{±1}. Более точно, геодезический поток определяется формулой

Дадим определения минимального и неблуждающего множеств для произвольного непрерывного потока на топологическом пространстве X. Множество F С X называется минимальным относительно потока (или ^-минимальным), если F замкнуто, непусто и «^-инвариантно и для любой точки х € F замыкание ее орбиты совпадает с F: = F. Точках G Л' называется блуждающей относительно потока^, если найдутся такие открытое множество U Э х и число Т > О, что для любого t, такого что |£| > Т, выполнено <ptU f\U = 0. Неблуждающее множество

9t{Tg) = Гggu g € PSL(2, R), t e R. потока ipz состоит из всех точек х £ X, которые не являются блуждающими.

Геодезический поток па r\PSL(2, R) обладает богатым запасом минимальных множеств. Тривиальными (то есть, состоящими из единственной траектории) минимальными множествами геодезического потока являются периодические орбиты и орбиты, дивергентные в обе стороны (то есть, уходящие на бесконечность при t ±00). Например, если поверхность М имеет конечную площадь, то периодические орбиты плотны в Т1М, а если М вдобавок некомпактна, то в ТгМ плотны также и дивергентные в обе стороны орбиты. Пример нетривиального (то есть, отличного от замкнутой орбиты) минимального множества, локально несвязного в любой точке, был построен в работе Г. Морса [23]. Для этого использовалось геометрическое кодирование геодезических, с последующим построением нетривиального минимального множества для символической динамики с алфавитом {0,1} (подробности см. в книге В. X. Готтшалка и Г. А. Хсдлупда [14, Appendix]).

В то время, как для любой неэлементарной (то есть, не содержащей абелеву подгруппу конечного индекса) фуксовой группы Г геодезический поток всегда обладает нетривиальным компактным минимальным множеством, вопрос о существовании нетривиальных некомпактных минимальных множеств был решен положительно только в 2002 году в работе Ф. Дальбо и А. Н. Старкова [9]. Именно, такие множества были построены для групп с параболическими элементами (в частности, для Г = SL(2, Z)), а также для некоторого специального класса бесконечно-порожденных групп Шоттки. При этом основным было построение минимального множества символической динамической системы с бесконечным алфавитом, получающейся в результате геометрического кодирования геодезических. Там же был предложен в качестве гипотезы критерий существования таких множеств, который доказан в настоящей работе:

Теорема 1 (Гипотеза Дальбо-Старкова). Геодезический поток на T\PSL(2, R) обладает нетривиальным некомпактным минимальным множеством тогда и только тогда, когда фуксова группа Г неэлемен-тпарпа и обладает параболическим элементом или бесконечно порождена.

Доказательство состоит в обобщении метода построения некомпактного минимального множества для геодезического потока из работы [9] на класс произвольных бесконечно-порожденных фуксовых групп.

Во второй главе изучаются орбиты орициклического потока па поверхностях постоянной отрицательной кривизны, а также орбиты линейного действия на плоскости дискретной подгруппы в SL(2,R), тесно связанного с орициклическим потоком. Построены примеры орицикличе-ского потока, который не обладает ни одним минимальным множеством, и линейного действия на плоскости бесконечно-порожденной дискретной подгруппы в SL(2, R), обладающего только дискретными и всюду плотными орбитами.

Наличие минимальных множеств является важным свойством динамической системы. Например, одно из доказательств Г. А. Маргулиса гипотезы Оппснгейма-Давенпорта существенно используется тот факт, что у возникающей в ходе доказательства однородной динамической системы всякое замкнутое инвариантное множество содержит минимальное подмножество (см. [7], [22]).

Как, например, следует из леммы Цорна, всякий поток на компактном многообразии обладает минимальным множеством. Однако для некомпактных многообразий это уже, вообще говоря, неверно. Вопрос о существования потоков без минимальных множеств можно считать почти классическим с 1970-х годов. В [16] было построено двумерное слоение в R3 без минимальных множеств. В том примере, чтобы обеспечить столь нетривиальную динамику, присутствовали листы с бесконечным числом концов и нетривиальной голономией, то есть, существенно использовалась двумерность слоения. Таким образов, внимание было привлечено к случаю потоков. В частности, в работе [35] спрашивалось, существует ли замкнутое многообразие, на котором имеется ноток, не обладающий пи одним минимальным множеством.

Гладкие примеры таких потоков были построены недавно в работах [5] и [18]. В настоящей работе, по-видимому, впервые приведен пример такого потока алгебраического происхождения (теорема 3 ниже). Именно, поток без минимальных множеств можно построить в классе орициклических потоков.

Орицигслический поток на ТХМ = r\PSL(2,R) задается действием однопараметрической подгруппы строго-верхних треугольных матриц {щ : t G R} по формуле дезическому, орициклический поток не обладает столь богатым запасом минимальных множеств. В случае компактной поверхности М, поток иа минимален, то есть единственным ttR-мииимальиым множеством является все фазовое пространство Т1 А/, а для орициклического потока на и«(Г$) = Гдии д € PSL(2,R), t € R, противоположность гсонекомпактной поверхности конечной площади и^-минимальныс множества суть периодические орбиты (см, например, работу Г. А. Хедлун-да [15] или обзор Э. Гиса [13]). Если же М имеет бесконечную площадь, то ситуация может еще более усугубиться:

Теорема 2. Существует ?элементарная фуксооа группа Г, такая что поток, полученный ограничением на нсблуждающсс множество орициклического потока на пространстве r\PSL(2, R), не имеет минимальных множеств.

Более того, оказывается, что бывают орициклические потоки вообще без минимальных множеств:

Теорема 3. Существует фуксова группа Г, такая что орицикличе-ский поток на пространстве r\PSL(2, R) не имеет минимальных множеств.

Для построения этих примеров используется классификация предельных точек фуксовой группы в зависимости от поведения соответствующих орициклов (определение и классификацию предельных точек и связь с поведение орбит орициклического потока см. в пункте 1.1.3), рассматриваемой в работе Ф. Дальбо и А. Н. Старкова [8]. В [8] в терминах геометрического кодирования предельного множества группы Шоттки было дано простое описание подклассов предельных точек, определяющих поведение соответствующих орбит геодезического потока. Что же касается орициклического потока, то были построены примеры, показывающие, что тип предельной точки, характеризующий поведение орицикла, не поддается описанию в терминах кодирования, а имеет более сложную зависимость. При этом рассматривались простейшие бесконечно-порожденные группы Шоттки второго рода (то есть, предельное множество которых является канторовым подмножеством абсолюта). Другие интересные примеры групп Шоттки, обладающих предельными точками определенного типа, имеются в работах П. Николлса [26], [27] и П. Ни-коллса и П. Уотермана [29].

Для доказательства теорем 2 и 3 оказывается полезным ввести новый класс предельных точек, обладающих так называемым свойством сдвига (см. раздел 2.1). Следующее предложение показывает, что выполнение этого свойства для всех предельным точек является препятствием к существованию минимальных множеств:

Предложение. Если все предельные точки фуксовой группы обладают свойством сдвига и имеются нерегулярные предельные точки, то неблуждающее множество fi+ оригщклического потока не содерэ/сит и-^-минимальных подмноо/сеств.

Основная техническая сложность при построении искомых фуксовых групп состоит п доказательстве того, что достаточно обширный класс предельных точек состоит из орициклических точек (которые автоматически обладают свойством сдвига). Чтобы преодолеть это, во второй главе настоящей работы развита так называемая "техника прыжков", позволяющая устанавливать орицикличиость предельных точек; при этом область ее применения значительно шире методов работы [8]. В частности, появляется возможность рассматривать группы первого рода (то есть, предельным множеством которых является весь абсолют), для которых нет блуждающих относительно орициклического потока точек в r\PSL(2,R), в то время как методы в статье [8] позволяли работать только со специальным классом групп Шоттки второго рода. Эта техника, в сочетании с использованием свойства сдвига, и позволяет построить группы, искомые в теоремах 2 и 3. Ей находится также и другое применение, о котором речь пойдет ниже.

Геометрию заданной дискретной подгруппы Г С SL(2, R) можно изучать, исходя из строения орбит ее естественного линейного действия на плоскости R2. Например, если Г — решетка (то есть, Г — дискретная группа и r\SL(2, R) имеет конечный объем), то дискретные Г-орбиты (исключая нулевую точку) существуют в том и только в том случае, когда пространство r\SL(2, R) некомпактно. Известно также, что линейное действие решетки обладает только дискретными и всюду плотными орбиты. В работе [8] был задан следующий вопрос:

Существует ли дискретная подгруппа в SL(2, R), не являющаяся решеткой, линейное действие которой на плоскости обладает только дискретными и плотными в R2 орбитами?

Можно показать, что ввиду двойственности орициклического потока и соответствующего линейного действия дискретной подгруппы, это эквивалентно вопросу о существовании бесконечно-порожденной фуксовой группы первого рода, предельное множество которой не содержит нерегулярных предельных точек. В [8] высказывалось предположение, что таких групп не существует (хотя группа, частично удовлетворяющая этим требованиям, приведена в [8, Theorem 5.4]). Неожиданно оказалось, что такие группы существуют, а именно, с использованием "техники прыжков" в настоящей работе построен соответствующий пример.

Теорема 4. Существует бесконечно-порожденная (а потому, не являющаяся решеткой) фуксова группа Г первого рода, такая что се предельное множество не содержит нерегулярных предельных точек. Поэтому орбиты орициклического потока па пространстве r\PSL(2, R) либо замкнуты, либо всюду плотны, а естественное линейное действие в R2 группы р'1 (Г) обладает только дискретными и всюду плотными орбитами, где р : SL(2,R) PSL(2, R) — проекция.

В третьей главе изучаются метрические свойства так называемой конструкции Т-индуцирования. Доказаны необходимые и достаточные условия эргодичности Т-индуцированных потоков (и более обще, Т-ин-дуцированных действий связных подгрупп) для некоторого класса подгрупп в группах Ли, охватывающего разрешимые связные подгруппы в полупростых группах и произвольные связные подгруппы в разрешимых экспоненциальных (в частности, коммутативных и нильпотентных) группах Ли. Кроме того, доказаны необходимые и достаточные условия перемешивания Т-индуцированных потоков для однопараметриче-ских подгрупп в произвольных связных группах Ли.

К настоящему времени весьма детально исследованы эргодические (в частности, спектральные) и топологические свойства потоков на однородном пространстве конечного объема, которые индуцированы тривиальным действием стабилизатора (подробное изложение теории однородных потоков см. в книге А. Н. Старкова [33]). С точки зрения динамической теории групп преобразований, представляет интерес изучение свойств общих Т-индуцированных потоков, для которых имеется нетривиальное действие Т стабилизатора. Во-первых, это даст возможность распространить результаты об однородных потоках на весьма широкий класс динамических систем и, вместе с тем, обнаружить новые эффекты, которые не проявляются на уровне однородных потоков. Во-вторых, изучение динамических систем, индуцированных сохраняющим меру действием замкнутой подгруппы Г группы Ли G, может привести к более основательному пониманию эффектов и закономерностей однородной динамики и их места в общей теории. Некоторые вопросы, связанные с Т-индуцированными действиями, рассмотрены в работе А. М. Стёпина [36].

Конструкция Т-индуцированного действия состоит в следующем. Пусть G — связная вещественная группа Ли, и заданы подгруппа F С G и действие Т на пространстве X подгруппы Г С G. На X xG рассмотрим действие группы G х Г, заданное формулой

9,7)' (х,9о) = (Г(7)х,рро7"1)» 9,9О е G,7 G Г, х G А'.

Поскольку действия групп G и Г перестановочны, то на пространстве Л' хт G орбит группы Г корректно определено действие 1т группы G, которое назовем действием, индуцированным при помои^и действия Т (кратко — Т-индуцированным действием). Ограничение действия It на подгруппу F назовем Т-индуцированным действием подгруппы F. Если F — однопараметрическая подгруппа, то It\f называется Т-индуцированным потоком.

Конструкция Т-индуцированного действия, с одной стороны, является обобщением однородного действия на G/Г, так как в этом случае индуцирующее действие Т стабилизатора Г тривиально, и потока-надстройки над преобразованием S (в этом случае G = R, а индуцирующее действие решетки Г = Z определяется по формуле T(k) = Sk), а с другой стороны, — частным случаем конструкции действия, построенного по образу коцикла а : Л' х Г G (подробности см. в [12, Sec. 2.3]), так как в нашем случае а(х,~/) = 7. Аналогом Т-индуцированного действия в категории унитарных представлений является конструкция индуцированного представления Макки (см. [2, Гл. II, §4], [20, §13]).

Предположим далее, что Г замкнута и конечного ко-объема, то есть однородное пространство G/Г обладает конечной мерой /*с/г> инвариантной относительно сдвигов слева на элементы G (будем считать iiG/r{G/Y) = 1), и (Х,Х,цх) — пространство Лебега с конечной нормированной мерой цх, ^х(Х) = 1, которая инвариантна относительно Т. Тогда А' Хт G естественным образом обладает измеримой структурой и конечной /^-инвариантной мерой, причем А' х^ G изоморфно как пространство с мерой прямому произведению X х (С/Г), на котором действие 1т является косым произведением с однородным действием группы G на G/Г в качестве базы.

Очевидными необходимыми условиями эргодичности Т-индуцированного действия It\f подгруппы F С G являются эргодичность действия Т и однородного фактор-действия F на G/Г. Однако, Т-индуци-рованное действие может оказаться неэргодичным, даже если эти условия выполнены (см. пример в пункте 3.5.1), даже в случае полупростой группы G (см. пункт 3.5.3).

Полученные результаты удобно сформулировать при помощи следующего определения:

Определение. Сохраняющее конечную меру действие Т группы G на пространстве Лебега X' называется допустимым по отношению к действию Т ее замкнутой подгруппы Г (кратко Т-допустимым), если X' — фактор-пространство пространства X, полученное факторизацией по измеримому Т-инвариантному разбиению £ пространства X, и ограничение Т|г действия Т на подгруппу Г совпадает с фактор-действием T/lI действия Т.

Теорема 5. Пусть G — связная полупростая группа, Т — действие подгруппы Г С G конечного ко-объема на пространстве Лебега с копечной мерой, и F С G — связная разрешимая подгруппа, однородное действие которой па GJГ эргодичпо.

Тогда для эргодичности Т-индуцированного F-действия па Х^х? G необходимо и достаточно, чтобы било эргодичным ограничение Т\р на подгруппу F любого Т-допустимого действия Т группы G.

Пусть 65 — алгебра Ли группы G, и ехр : (5 —» G — экспоненциальное отображение алгебры Ли в группу Ли. Элемент х 6 С5 называется эрго-дическим, если для любой замкнутой подгруппы Г конечного ко-объема заданный подгруппой {exp(ta) : t € R} однородный поток на G/Г эрго-дичен.

Следствие. Пусть G — связная полупростая группа, Т — эргодическое действие подгруппы Г С G конечного ко-объема па пространстве Лебега с конечной мерой, и F = {exp(far) : t € R} С G — однопараметрическая подгруппа, порожденная эргодическим элементом х € 65.

Тогда Т-индуцированный поток It\f эргодичен.

О действиях (в том числе, не только однородных) замкнутых подгрупп в полупростых группах см. работу А. М. Стёпина [34].

Определение. Скаэ/сем, что подгруппа F группы Ли G удовлетворяет условию (Е), ссли для всех операторов А<!(/), / € F, единица является единственным собственным значением, равным по модулю единице, где Ad : G —> Aut(C5) — присоединенное представление.

Заметим, что если G — коммутативная, нильпотентная или экспоненциальная разрешимая группа Ли, то это условие выполнено для любой ее подгруппы F (говорят, что разрешимая группа Ли G экспоненциальна, если для всех операторов Ad(#), g G G, единица является единственным собственным значением, равным по модулю единице).

Теорема 6. Пусть G — связная группа Ли, Т — действие подгруппы Г С G конечного ко-объема па пространстве Лебега X с конечной мерой, F С G — связная подгруппа, удовлетворяющая условию (Е), однородное действие которой па G/Г эргодичпо.

Тогда для эргодичности Т-индуцированного F-действия на X хт G необходимо и достаточно, чтобы было эргодичным ограничение Т\р па подгруппу F любого Т-допустимого действия Т группы G.

Более того, если Т-индуцированное F-действие не эргодичпо, то найдется Т-допустимое G-действие Т на нетривиальном (то есть, на содерэ/сащем множество промежуточной между 0 u 1 меры) пространстве с мерой, ограничение которого на F тривиально (то есть, для всех f € F преобразование T(f) тоэ/сдествепно (mod 0)).

Замечание. Как следует из доказательства, утверждения о необходимости теорем 5 и G справедливы для любой подгруппы F в произвольной связной группе Ли G.

С другой стороны, для произвольной группы G утверждения о достаточности теорем 5, б, вообще говоря, неверно (см. пример в пункте 3.5.2). Из леммы о редукции 11 следует, что в общем случае вопрос эргодичности Т-индуцировапного действия может быть сведен к ситуации, когда заданное подгруппой F однородное действие на G/Г изоморфно однородному действию квазиунипотентной группы.

Теоремы 5 и G имеют аналоги в виде критерия существования неподвижных векторов для индуцированных представлений (см. раздел 3.G).

Для однородного F-потока на С/Г сильное перемешивание эквивалентно слабому (это следует, например, из того, что спектр эргодиче-ского однородного потока является суммой точечного и счетнократного Лебеговского спектра (одна из компонент может отсутствовать) [6, Th. G.2J) и является очевидным необходимым условием слабого и сильного перемешиваний Т-индуцированного F-потока на А' хт G.

Теорема 7. Пусть G — связная группа Ли, Т — действие подгруппы Г С G конечного ко-объема на пространстве Лебега с конечной мерой, F = С G — однопараметрическая подгруппа, такая что однородный F-поток на G/Г сильно перемешивает.

Тогда Т-индуцированный F-поток на X XxG сильно (слабо) перемешивает тогда и только тогда, когда сильным (соответственно, слабым) перемешиванием обладает ограничение Т\р на F любого Т-допу-стимого действия Т группы G.

Результаты работы докладывались на семинарах по динамическим системам механико-математического факультета Московского государственного университета в 1998-2003 гг., на Колмогоровских чтениях (1999), и на международных конференциях в Кацивели (Украина, 2000), в МИ АН (Москва, 2002) и в Марселе (Франция, 2003).

Содержание диссертации опубликовано в работах [37], [38], [39], [40], [41], [42].

Автор выражает глубокую благодарность своим научным руководителям А. Н. Старкову и А. М. Стспину за постановку задач, помощь и постоянное внимание к работе, а также Д. В. Аносову за плодотворные обсуждения и цепные замечания. Автор благодарит Математический Институт (IRMAR) Университета-1 города Рейн (Франция) за гостеприимство в течении визита (февраль-март 2002 года), состоявшегося в рамках программы обмена между Независимым Московским Университетом и CNRS (Франция), в течении которого была получена часть результатов настоящей работы.

Список обозначений

Z — кольцо целых чисел R — поле вещественных чисел

R" — n-мерное линейное вещественное пространство

С — поле комплексных чисел

Re 2 — вещественная часть комплексного числа 2

Im z — мнимая часть комплексного числа z z — число, комплексно-сопряженное комплексному числу 2

Е — замыкание множества Е

GjГ, Г\G — однородные пространства правых и левых классов смежности элементов группы G по подгруппе Г а] — наибольшее не превосходящее вещественного числа а целое число Н2 — плоскость Лобачевского effl2 — абсолют (бесконечно удаленная прямая плоскости Лобачевского) diag(ai,.,а„) — диагональная матрица с элементами а\, ., ап на диагонали

SL(n, R) — группа преобразований R" (вещественных матриц пхп) с единичным определителем

Iso+tH2) = PSL(2,R) = SL(2,R)/{±1} — группа сохраняющих ориентацию изометрий Н2, изоморфная группе рассматриваемых с точностью до знака матриц из SL(2, R)

М = Н2/Г — поверхность постоянной отрицательной кривизны, полученная факторизацией по действию фуксовой группы Г

ТЧй2 = PSL(2, R) — множество единичных касательных векторов к Н2 Т1М = T\PSL(2, R) — множество единичных касательных векторов к поверхности М

7Г: TJH2 -> Т1М, 7г: PSL(2,R) r\PSL(2,R) - проекция dist(*, •) — гиперболическое расстояние (/(•, •) — евклидово расстояние diam(-) — диаметр множества по отношению к евклидовому расстояния

Л = Л(Г) — предельное множество фуксовой группы Г (с. 19) Л л — множество орициклических предельных точек (с. 19) Ad — множество дискретных предельных точек (с. 19) A,rr — множество нерегулярных предельных точек (с. 19) Ас — множество конических предельных точек (с. 20) Аа — множество предельных точек со свойством сдвига (с. 34) геодезический поток (с. 18) я — (сжимающийся) орициклический поток (с. 18)

0((v) — орицикл в Н2 с центром £ € ОТ2, проходящий через точку v €

Н2

О^(и) — орицикл в Т1!!2, соответствующий 0^(v) lnt(0^(u)) — внутренность орицикла 0^(v) Vis, Vis+ : Т'Н2 —» ЗН2 — визуальные отображения (с. 19) Q — неблуждающее множество геодезического потока (с. 20) неблуждающее множество орициклического потока (с. 20) fi = 7r-1(fi) — прообраз при проекции тт множества Q

А — A(II, D) — алфавит для выбранных Шоттковых системы образующих II и (фундаментальной области D фуксовой группы (с. 22)

X = А'(Л) — пространство правых допустимых последовательностей в алфавите А (с. 23) а : X —>• А — геометрическое кодирование предельных точек (с. 24) В — множество больших геодезических (с. 27)

Y = Y(A) — пространство двусторонних допустимых последовательностей в алфавите А (с. 28) а : Y —> В — геометрическое кодирование больших геодезических (с. 28) c(S) — евклидов центр полуокружности S (с концами на вещественной прямой) (с. 36) r(S) — евклидов радиус полуокружности S (с. 36) Int(S), Ext(S) — внутренность и внешность полуокружности S Is — инверсия относительно полуокружности S h(Si,S2) — автоморфизм, переводящий полуокружность S\ в полуокружность 5г, имеющий полуокружность Si в качестве изометрической (с. 36)

S(h) — изометрическая окружность автоморфизма h (с. 36) Ad : G —> Aut(0) — присоединенное представление группы Ли G схр : (5 —> G — экспоненциальное отображение алгебры Ли 0 в группу Ли G

M(F) — нормальная подгруппа Мура для подгруппы F (с. G4) ААВ = (Л\£)и(£\Л) - симметрическая разность множеств An В

•>*)// — скалярное произведение в (комплексном) гильбертовом пространстве Я

U(#) — группа унитарных преобразований гильбертова пространства Я

L2(X) = L2(А", /I) — гильбертово пространство (классов эквивалентности) квадратично-интегрируемых (по мере /х) комплексно-значных функций, определенных на А'

L2(X, Я) — гильбертово пространство функций, определенных на X и принимающих значения в гильбертовом пространстве Я, квадрат нормы которых интегрируем

5 = Т — изоморфные действия S и Т Т\р — ограничение действия Т па подгруппу F Fix(p(F)) — множество векторов, неподвижных относительно действия элементов подгруппы F при представлении р

X хт G — пространство орбит диагонального действия подгруппы в группе G, соответствующее действию Т (с. 58)

1т — действие группы Ли, индуцированное действием Т замкнутой подгруппы (с. 59) lp — представление группы Ли, индуцированное представлением р замкнутой подгруппы (с. 59)

L?p(G, Я) — гильбертово пространство, в котором определено индуцированное представление ip (с. 59)

Ид- — тождественное преобразование пространства А' A'/f — фактор-пространство пространства Лебега А' по измеримому разбиению f

Yf — фактор-действие действия Т на пространстве X по измеримому Т-инвариантиому разбиению f

21 (T,U) — специальная ст-подалгебра измеримых множеств, определенная по действию Т и нормальной подгруппе U (с. 63)

L(p, U) — специальное подпространство, определенное по представлению р и нормальной подгруппе U (с. 66)

Bs{xо) — открытый шар радиуса 5 с центром в точке xq Гу = ГU — замыкание группы ГС/, где Г — подгруппа, a U — нормальная подгруппа (с. 63)

1. лпанасов Б. Н. Геометрия дискретных групп и многообразий. Москва, "Наука", 1991.

2. Ауслендер J1., Грин JI., Хлн. Ф. Потоки на однородных пространствах, М.: Мир, 19GG.

3. Бердон А. Геометрия дискретных групп. М.: Наука, 198G.

4. Dani S. G., Margulis G. A. Values of quadratic forms at primitive integral points. // Invent. Math. 98 (1989), No. 2, pp. 405-424.

5. Dal'bo F., Starkov A. N. On classification of limit points of infinitely generated Schottky groups // J. of Dyn. and Contr. Sys., vol. 6, No. 4, 2000, pp. 561-578.

6. Dal'bo F., Starkov A. N. On noncompact minimal sets of the geodesic flow // J. of Dyn. and Contr. Sys., vol. 8, No. 1, 2002, pp. 47-G4.

7. Dal'bo F., Starkov A. N. Correction to: "On classification of limit points of infinitely generated Schottky groups" // J. of Dyn. and Contr. Sys., готовится к печати.

8. Dal'bo F., Starkov A. N. Correction to: "On noncompact minimal sets of the geodesic flow" // J. of Dyn. and Contr. Sys.,готовится к печати.

9. Feres R., Каток A. Ergodic Theory and Dynamics of G-spaces, Handbook of dynamical systems, Elsevier Science, 2002.

10. Ghys E. Dynamique des flots unipotents sur les espaces homogenes // Sem. Bourbaki, vol. 1991/92. Asterisque No. 20G, (1992), Exp. No. 747, 3, pp. 93-13G.

11. Gottschalk YV. H., Hedlund G. A. Topological dynamics. N.Y.: AMS Col. Pub., Vol. 36. AMS, Providence, R. I., 1955.

12. HEDLUND G. A. Fuchsian groups and transitive horocycles // Duke Math. J., vol. 2, 1936, pp. 530-542.

13. Hector. G. Quelque example dc feuilletages especes rares. // Ann. Inst. Fourier, Grenoble vol. 26, No. 1, 1976, pp. 239-264.

14. Хелгасон С. Дифференциальная геометрия и симметрические пространства. М.: Мир, 1964.

15. Inaba Т. An example of a flow on a non-compact surface without minimal set // Erg. Th. and Dyn. Sys., vol. 19, No. 1, 1999, pp. 31-33.

16. Каток С. Б. Фуксовы группы. М.:"Факториал Пресс", 2002.

17. Кириллов А. А. Элементы теории представлений. М.: Наука, 1978.

18. Корнфельд И. П., Синай Я. Г., Фомин С. В. Эргодиче-ская теория. М.: Наука, 1980.

19. Куликов M. С. Метрические свойства Т-иидуцированных действий // Рукопись депонирована в ВИНИТИ от 23.09.2003, №1720-В2003.

20. Куликов М. С. Группы типа Шоттки и минимальные множества орициклического и геодезического потоков // Математический Сборник., т. 195, вып. 1, 2004, с. 37-68.

21. Kulikov М. S., Starkov А. N. 'Minimal sets of the geodesic and horocycle flows'// Journal of Dynamical and Control Systems, Vol. 10 (2004), No. 1, pp. 129-130.