Геометрия вещественных подмногообразий и действий вещественных групп на комплексных областях тема автореферата и диссертации по математике, 01.01.01 ВАК РФ

На правах рукописи

ии^4Ь'45б4

Кружилин Николай Георгиевич

Геометрия вещественных подмногообразий и действий вещественных групп на комплексных областях

01.01.01. - математический анализ

Автореферат диссертации на соискание ученой степени доктора физико-математических наук

1 з и;..? 21:9

Москва - 2008

003464564

Работа выполнена в Математическом институте им.В.А.Стеклова РАН.

Официальные оппоненты:

доктор физико-математических наук, профессор Белошапка Валерий Константинович

доктор физико-математических паук, профессор Знаменский Сергей Витальевич,

доктор физико-математических наук, профессор Ивашкович Сергей Михайлович

Ведущая организация: Сибирский федеральный университет.

Защита состоится марта 2009 года в "(Ч-Ь^асов на заседании диссертационного совета Д 002.022.01 при Математическом институте им.В.А.Стеклова РАН по адресу: 117966, Москва, ул. Губкина, 8.

С диссертацией можно ознакомиться в научной библиотеке Математического института им. В.А.Стеклова РАН.

Автореферат разослан "2.(з " ОгуеС^АслР 2003:ода.

Ученый секретарь диссертационного совета Д 002.022.01, доктор физико-математических наук,

профессор В.А.Ватутин

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность темы

Построение комплексных дисков и семейств комплексных дисков с предписанным граничным поведением является одним из мощных и широко используемых инструментов многомерного комплексного анализа, применение которого нередко позволяет свести многомерные задачи к одномерным задачам на построенных дисках. Классическим примером использования комплексных дисков в многомерных задачах является "КогЛтшШБЗайг" Ф. Хартогса, которое описывает в терминах комплексных дисков оболочки голоморфности областей комплексного пространства, так что феномен принудительного аналитического продолжения во всей полноте может быть изложен на языке семейств голоморфных дисков. Комплексные диски используются при решении граничных задач, изучении СП-многообразий, исследовании инвариантных метрик, анализе граничных свойств голоморфных отображений, в симплектической геометрии и в других областях комплексного анализа и геометрии.

В диссертации семейства комплексных дисков возникают в двух контекстах.

Один из них - это аналитические диски с краем на предписанной (чаще всего, двумерной) поверхности. Нередко семейство таких дисков образует Леви-плоскую поверхность. Эта задача в различных постановках рассматривалась Э.Бедфордом, Б.Гаво, В. Клингенбергом, Я. Элиашбергом, Н. В. Щербиной, Дж. Томас-синн, Б. Стенсонес, 3. Слодков.ским, Л. Лемпертом и другими авторами. Широко известен результат М. Громова 1 о существовании комплексного диска с границей на лагранжевом торе, ставший одним из первых указаний на глубокие связи многомерного комплексного анализа и симплектической геометрии. Результаты, полученные в этом направлении важны для описания полиномиальных оболочек и оболочек голоморфности, для понимания топологии псевдовыпуклых областей и многообразий Штейна, в симплектической и контактной геометрии.

С г ото V, Inve.nl. Ма1Л., 82 (1985), 301-347

К настоящему времени наиболее хорошо изучен случай вещественной сферы, вложенной в границу строго псевдовыпуклой области, первые результаты для которого были получены Э. Бедфордом и Б. Гаво 2.

Вторая ситуация - это диски, подклеиваемые к CR-подмно-гообразию комплексного пространства. Систематическое изложение этой конструкции было проведено в классической работе Э. Бишопа 3, и с тех пор такие диски стали одним из основных технических средств при работе с CR-подмногообразиями, анализе их геометрии и изучении свойств CR-отображешш таких многообразий, использовавшимся М. Бауэнди и JI. Ротшильд, А.Тумановым, Ж.-М.Трепро, А.Боггесом, Б.Иорике и другими авторами. Исследование свойств таких дисков остается актуальным для CR-геометрии.

CR-отображения и CR-многообразия возникают как аппарат также в разделах диссертации, посвященных исследованию голоморфных отображений и классификации комплексных областей и многообразий, на которых действуют вещественные группы Ли большой размерности. Примерами таких областей являются области Рейнхарта и трубчатые области, относящиеся к фундаментальным областям комплексного анализа. Области Рейнхарта были введены К. Рейнхартом как естественные области сходимости многомерных рядов Лорана, а интерес к трубчатым областям, по-видимому, берет начало с работ С. Бохнера конца 1930х гг. 4, связанных с его исследованиями по гармоническому анализу. С тех пор такие области рассматривались огромным числом авторов либо как объекты, естественно возникающие в тех или иных задачах, либо как относительно широкие классы модельных многомерных областей простой геометрической структуры.

Первые результаты по отображениям и, в частности, автоморфизмам этих областей были получены в классических работах К. Рейнхарта 5 по определению групп биголоморфных автоморфизмов (двумерных) шара и полидиска. Важные результаты в двумерном случае были доказаны П. Тулленом в 1930 гг. Начиная с 1960х гг. этими вопросами занимались И. Наруки,

2Е. Bedford, В. Gaveau, Amer. J. of Math., 105 (1983), 975-1009

3E. Bishop, Duke. Math. J., 32 (1965), 193-216

4S. Bochner, Ann. of Math., 39 (1938), 14-19

5K. Reinhardt, Math. Ann., 83 (1921), 211

Т. Сунада, Д. Барретт, Э. Бедфорд, Дж. Дэдок, П. Яиг, С. Шнми-зу, С. Пинчук, Ф. Вертело, М. Ландуччи и другие авторы.

Как хорошо известно, в отличие от одномерного случая, задача о биголоморфной классификации многомерных областей комплексного пространства является трансцендентно сложной. В этой связи представляют несомненный интерес результаты о биголоморфной классификации в пределах достаточно обширных семейств областей специального вида. Такого рода результаты для полных ограниченных областей Рейнхарта были установлены П. Тулленом (в размерности 2)6 и Т. Сунадой 7. Для трубчатых областей первые результаты этого рода были получены в 1980х гг. А. Кодамой 8 и П. Янгом 9.

Собственные отображения или конечные разветвленные накрытия являются классом отображений, вызывающих пристальный интерес специалистов по комплексному анализу. Основная часть результатов по собственным отображениям областей комплексных пространств относится к гладким областям. Области Рейнхарта здесь интересны именно тем, что в этом классе можно получать содержательные результаты, не накладывая арпиорно-го условия гладкости границы. Такого рода результаты, начиная с 1980х гг., обсуждали Д. Барретт 10, С. И. Пинчук-Ф. Вертело 11, М. Ландуччи-А. Спиро 12 и другие авторы.

Основным примером комплексного многообразия с очень большой (бесконечномерной) группой голоморфных автоморфизмов является комплексное пространство С", п ^ 2. Вопрос о возможности характерпзацни С™ его группой автоморфизмов ставился рядом авторов и, в частности, С. Кранцем. Оказалось, что ответ на этот вопрос дается с помощью классификации комплексных многообразий с действием групп 11п и 5£/п. Заметим, что действия этих групп на вещественных многообразиях уже несколько десятков лет вызывают интерес у специалистов по математической физике и геометрии.

6P. Thullen, Math. Ann., 104 (1931), 244-255

7T. Sunada, Math. Ann., 235 (1978), 111-128

8A. Kodama, Sei. Rep. Kanazawa Univ. 29 (1984), 91-95

9P. Yang, Amer. J. Math. 104 1982, 1005-1024

10D. Barrett, Comm. Math. Helv. 59 1984, 550-564

nF. Berteloot, S.Pinchuk, Math. Z. 219 1995, 343-356

12M. Landucci, A.Spiro, Complex Variables: Theory and Appl. 29 1996, 9-25

Цель работы

Разработка техники подклейки комплексных дисков к СК-под-многообразиям комплексных и почти комплексных пространств и применение этой техники к исследованию аналитических свойств СII- м 11 о го о б р аз I ш. Изучение действия вещественных групп Ли голоморфных автоморфизмов областей комплексного пространства и СК-орбит этих действий, использование полученных результатов для анализа биголоморфных и собственных отображений областей.

Научная новизна

Основными результатами диссертации являются следующие:

Теорема 1.1 о существовании Леви-плоской гиперповерхности с краем па двумерной сфере общего положения, вложенной в границу строго псевдовыпуклой области в С2.

Теорема 1.3 о псевдоголоморфных дисках, лежащих в СЖ-гн-перповерхности с нулевой формой Леви в почти комплексном многообразии.

Теорема 2.3 о связи между голоморфной и аффинной эквивалентностью произвольных двумерных трубчатых областей.

Теорема 2.7, описывающая группы биголоморфных автоморфизмов п-мерных гиперболических областей Рейнхарта.

Критерий эквивалентности гиперболических областей Рейнхарта (предложение 2.1) и критерий существования собственных отображений между ограниченными двумерными областями Рейнхарта (следствие 3.1 из теоремы 3.1), сводящие эти вопросы к аффинной эквивалентности логарифмических диаграмм областей.

Теорема 4.1 о характеризации пространства С2 своей группой биголоморфных автоморфизмов.

Все эти результаты являются новыми. Они приведены в диссертации с полными доказательствами.

Теоретическая и практическая ценность

Диссертация носит теоретический характер. Ее результаты и методы могут быть использованы в ряде разделов многомерного комплексного анализа и геометрической теории функций.

Методы исследования

В диссертации используются методы комплексного анализа и теории групп Ли.

Апробация работы

Результаты работы докладывались и обсуждались в Московском государственном университете им. М. В. Ломоносова на семинаре А. Г. Витушкина по многомерному комплексному анализу, в Математическом институте РАН на Общсинститут-ском семинаре по математике и ее приложениям и на семинаре Отдела комплексного анализа под руководством академика А. А. Гончара, члена-корреспондента РАН Е. М. Чирки и проф. А. И. Аптекарева, на семинаре кафедры анализа факультета математики университета Рура в Бохуме под руководством проф. А. Хаклберри, института математики университета Гумбольдта в Берлине, центра математики Австралийского национального университета в Канберре, на семинаре по геометрическому анализу Лаборатории П. Пенлеве университета Лилля, на семинаре Института Миттаг-Леффлера (Стокгольм) в рамках семестра многомерного комплексного анализа и па ряде других семинаров, а также на международных конференциях, в том числе

— Международная конференция "Геометрический анализ и его приложения" (Волгоград, 2004),

— Международная конференция по многомерному комплексному анализу и теории особенностей памяти Б.В. Шабата (Красноярск, 2007),

— Международная конференция "Актуальные вопросы комплексного анализа" (Хорезм, 2008), — Международная конференция "Комплексный анализ и его приложения" (Краснодар, 2005)

— Международная конференция SCV2004 (Пекин, 2004),

— Международная конференция по комплексному анализу NORD AN 2008 (Аландские о-ва, 2008).

Структура диссертации

Диссертация состоит из введения и четырех глав, разбитых на параграфы. Общий объем диссертации составляет 242 страницы. Список литературы содержит 94 наименования.

Публикации

Основные результаты диссертации опубликованы в работах автора [1]-[9], список которых приводится в конце автореферата.

СОДЕРЖАНИЕ РАБОТЫ

Глава 1 посвящена задачам о подклейке комплексных дисков к вещественным подмногообразиям комплексных пространств.

Одна из этих задач - характеризация комплексной структуры оболочки голоморфности и полиномиальной оболочки вещественной двумерной сферы в двумерном комплексном пространстве.

В то время как задача характеризации полиномиальной оболочки одномерных кривых в комплексном пространстве в общем решена 13, аналогичные задачи для подмножеств более высокой размерности далеки от решения. Одним из наиболее хорошо известных общих результатов в этом направлении можно считать теорему М. Громова 14 о существовании комплексных дисков с границей на произвольном лагранжевом торе из С".

Еще одним случаем, в котором удается получить результаты для сколько-нибудь общей постановки задачи является двумерная сфера в С2. Хорошо известно, что такая сфера должна иметь "большую" (по крайней мере, трехмерную) полиномиальную оболочку и "большую" оболочку голоморфности 15. Оказывается, что для некоторого достаточно обширного открытого подмножества вложений сферы в С2 (а именно, для сфер, лежащих на границе строго псевдовыпуклой области), возможно описание этих оболочек.

Как известно, двумерное подмногообразие С2 общего положения вполне вещественно всюду, за исключением дискретного множества точек, в которых касательная к подмногообразию комплексная, и которые невырождены в следующем смысле: в подходящих локальных координатах в их окрестности подмногообразия задаются уравнением вида

z2 = zlzx+1{zl + z\) + o{zl), (1)

где 0 ^ 7 < ос. Невырожденные точки делятся на гиперболические и эллиптические.

Для компактной двумерной вложенной в С2 поверхности общего положения разность между числом эллиптических и гиперболических точек равна ее эйлеровой характеристике 16.

13См., к примеру, Е. М. Чирка, Комплексные аналитические множества, М., "Наука", 1985

14М. Gromov, Op. cit.

15См., к примеру, S. Nemirovski, Turkish J. Math., 27 (2003), 161-172

Еще Э. Бишоп 17 установил, что в окрестности эллиптической точки двумерная поверхность £> С С2 является краем Леви-плос-кой гиперповерхности, расслаивающейся на попарно непересекающиеся голоморфные диски вложенные в С2, с краями на S. Это семейство дисков представляет собой локальную оболочку голоморфности S, равно как и ее локальную полиномиальную оболочку.

В окрестности же гиперболической точки, как и в окрестности вполне вещественной точки такие локальные оболочки тривиальны и совпадают с самой поверхностью.

Глобальное описание оболочки голоморфности и полиномиальной оболочки поверхности общего положения в С2 представляет значительные трудности. Сколько-нибудь разобранным здесь является только случай сферы. Однако и тут для произвольного вложения ситуация неясна.

На сфере общего положения имеются по крайней мере две эллиптические точки, так что и ее полиномиальная оболочка и оболочка голоморфности включают в себя два (малых) Леви-плоских участка, расслоенных на голоморфные диски с границами на нашей поверхности. Для дальнейшего обсуждения структуры оболочек напомним общие сведения о подклейке голоморфных дисков к поверхностям.

Пусть S - ориентируемая вполне вещественная поверхность гладкости С2 в двумерном комплексном многообразии M, a D -погруженный в это многообразие голоморфный диск, ориентированный край которого 7 = 3D лежит на Е. Рассмотрим расслоение над M, слой которого над точкой х G M - это многообразие ориентированных вполне вещественных двумерных подпространств касательного пространства ТХ(М). Ограничение этого расслоения на D тривиально, и потому кривая

l*(t)=Tx{t)(Z), x(t) G 7,

задает некоторый элемент фундаментальной группы многообразия вполне вещественных плоскостей в С2. А поскольку это многообразие стягивается на ориентированный лагранжев грассма-ниан А^, то для 7* определен соответствующий индекс Маслова 2>r G 2Z. Отметим, что он не зависит от выбора ориентации на X.

16S. Webster, Comm. Math. Helv. 60 1984, 193-216

17E. Bishop, Op. cit.

Число х мы назовем индексом подклейки D к £.

Если к ^ 1. то D принадлежит непрерывному (2х—1)-мерному семейству голоморфных дисков с краями на Е. Доказательства различных вариантов этого утверждения проводились разными авторами. Мы будем использовать следующую формулировку этого результата, по существу данную Ф. Форстнеричем 18 :

Предложение 1.1. Пусть голоморфный диск D вложен в С2, край его лежит на вполне вещественной поверхности £ гладкости С3 и индекс подклейки равен 1. Тогда для всякой С3-близкой к S поверхности Е* существует однопараметрическое семейство попарно непересекающихся вложенных в С2 голоморфных дисков Dt, близких к D в классах Са(0 < а < 2) и с краями на Е*, причел1 всякий близкий к D голоморфный диск с краем на Е* принадлежит этому семейству.

Под "близким" здесь подразумевается диск, край которого может быть запарамстризован отображением окружности, близким к фиксированной параметризации dD.

Как показал Е.М. Чирка 19, если для голоморфного образа D = /(А) открытого диска А С С множество D \ D лежит на вполне вещественной поверхности класса Ск+а (к € N, 0 < а < 1), то / продолжается на А до отображения той же гладкости. Этот результат позволяет не уточнять гладкость вложения D в формулировке предложения 1.1.

Комплексные диски, возникающие в окрестности эллиптической точки, вложены в С2 и подклеены ко вполне вещественной части поверхности с индексом подклейки 1. Согласно вышеизложенным результатам всякий такой диск включен в одно-параметрическое семейство дисков с аналогичными свойствами. Естественно возникает стремление продолжать построение Леви-плоской поверхности, используя рассуждения типа открытости-замкнутости. Однако сразу же видны и препятствия к осуществлению такой схемы: из любой последовательности построенных дисков должно быть возможно извлечь сходящуюся подпоследовательность (для этого нужно по крайней мере иметь равномерную оценку сверху на площади подклеенных дисков), предельные диски должны быть также вложены (или хотя бы погружены) в

18F. Forstneric, Ann. Inst. Fourier (Grenoble) 37 (1987), 1-44

19E. M. Чирка, Мат. Сб. 117 (1982), 291-336

С2 и, если граница такого диска подклеена не только ко вполне вещественной части поверхности, но и проходит через комплексные точки, то нужно уметь продолжать конструкцию и в этой ситуации. На данный момент в общей ситуации эти трудности не преодолены и существуют примеры, показывающие, что семейства голоморфных дисков, подклеенных к сфере общего положения и стартующие от разных эллиптических точек могут не объединяться в единое семейство даже когда сфера вложена в С2 незаузленным образом20.

В случае двумерной сферы, лежащей на границе строго псевдовыпуклой области, все эти проблемы решаются. Оболочкой голоморфности такой сферы S оказывается Леви-плоская гиперповерхность с краем S. Подобные результаты при дополнительных условиях на сферу и область были получены в Э. Бедфордом, В.Гаво 21, и М.Громовым 22. Весьма общую ситуацию рассмотрели Э.Бедфорд и В.Клннгенберг 23, потребовавшие, чтобы все точки, в которых касательные к сфере комплексные, были невы-рожденны и чтобы в окрестности любой гиперболической точки сферу можно было в некоторых голоморфных координатах задать уравнением вида (1) без остаточных членов, а величина arccos(l/(27)) была рационально соизмеримой с тг. Заметим, что эти условия не являются условиями общего положения.

Основным результатом Главы 1 является следующая теорема.

Теорема 1.1. Пусть U - строго псевдовыпуклая область в С2, a S - вложенная, в dU двумерная сфера гладкости С , вполне вещественная всюду, за исключениель конечного числа невырожденных точек, из которых К гиперболических и К + 2 эллиптических.

Тогда существуют:

1) такая гладкая область W С К3^!,^,^) с границей диф-феоморфной S, что пересечение всякой линии уровня функции с W представляет собой дизъюнктное объединение конечного числа областей, гомеоморфных дискам и что хз является функцией Морса HaW с К + 2 экстремумалш и К седловыми точками;

20 J. Е. Fornaess, D. Ma, Int. Math. Res. Not. 1995, 17-22

21E. Bedford, В. Gaveau, Op. cit.

22 M. Gromov, Op. cit.

23E. Bedford, W. Klingenberg, J. Amer. Math. Soc. 4 (1991), 623-646

2) непрерывное инъективное отображение Ф: W —> U, гомео-морфно отображающее dW на S так, что экстремумы и сед-ловые точки хз переходят соответственно в эллиптические и гиперболические точки S, и переводящее связные компоненты множеств {х GW: £3 = const} в гладкие голоморфные диски.

При этом Ф(И/) является оболочкой голоморфности S, а также оболочкой S относительно алгебры A(W), т.е., в случае полиномиальной выпуклости U, полиномиальной оболочкой S.

Тот факт, что гиперповерхность Ф (И7) - это оболочка S относительно A{W) и, для подходящих областей, полиномиальная оболочка, был в рассматриваемом контексте также впервые отмечен автором диссертации.

Несмотря на, казалось бы, весьма специальную постановку задачи, из существования Леви-плоской поверхности с границей на заданной сфере (в частности, в ситуации, рассмотренной Бедфордом и Клингенбергом) многими авторами был получен ряд интересных и нетривиальных следствий, относительно полиномиальной выпуклости и полиномиальных оболочек компактов из С2, а также топологии двумерных многообразий Штейна. Мы приводим здесь простое следствие из утверждения теоремы о том, что построенная поверхность является оболочкой S относительно алгебры A(U).

Следствие 1.1. Пусть Д с С - единичный диск, U - строго псевдовыпуклая область в С2 и }: Д —» U - голоморфное отображение, причем /(<9Д) - гладкая жорданова незаузленная стягиваемая кривая па dU. Тогда f - вложение.

В Теореме 1.1 мы не накладываем никаких условий на комплексные точки, кроме невырожденности, и, таким образом, полученный результат имеет место для открытого подмножества множества 2-мерных сфер общего положения, вложенных в С2. Основными моментами доказательства являются предложение 1.7 о гладкости подклеенного к S голоморфного диска, проходящего через гиперболическую точку, и предложение 1.9, которое в контексте доказательства играет роль теоремы единственности для таких дисков. Вывод этих утверждений занимает значительную часть главы.

В §§ 1 и 2 обсуждаются общие и в основном ранее известные результаты о подклейке голоморфных дисков ко вполне вещественным поверхностям и излагается схема доказательства теоремы 1.1. Основной объем доказательства разбит на несколько предложений, формулируемых в § 2 и доказываемых в §§ 3-9. Окончание доказательства также изложено в § 2.

В §§ 3—6 доказываются предложения 1.2-1.5 о дисках, подклее-ных ко вполне вещественной части сферы, и о структуре предельного множества последовательности таких дисков. Предложения 1.6-1.8 в §§ 7-8 анализируют случай предельной комплексной кривой, проходящей через гиперболическую точку п устанавливают ее регулярность в нужном нам смысле.

Наконец, в предложении 1.9 (§ 9) возникают два семейства подклеенных голоморфных дисков, границы которых подходят к гиперболической точке с двух сторон. Оказывается, что предельные аналитические множества совпадают. В ходе доказательства мы переходим от вещественной поверхности с гиперболической комплексной точкой в С2 к паре вполне вещественных поверхностей в 4-мерном почти комплексном пространстве и к псевдоголоморфным кривым, подклеенным к этим поверхностям, и используем результат о положительности индексе пересечения псевдоголоморфных кривых.

В §§ 10-11 мы доказываем предложения 1.10 и 1.11, обеспечивающие возможность продолжения семейства комплексных дисков через гиперболическую точку.

Ситуация с (псевдо)голоморфными кривыми, подклеенными к паре пересекающихся вполне вещественных поверхностей, адекватна анализу в окрестности гиперболической точки, но может казаться несколько экзотической с общей точки зрения многомерного комплексного анализа. Более привычна нередко возникающая в разнообразных задачах ситуация комплексных кривых (дисков), подклеиваемых к одному подмногообразию, наделенному некоторой комплексной структурой. Чаще всего в таком контексте обсуждают и используют классические дисках Бишопа: малые комплексные диски, подклеенные к порождающему СК-подмногообразию комплексного пространства.

Напомним, что СИ,-подмногообразием называется подмногообразие п-мерного комплексного пли почти комплексного многообразия, касательное пространство к которому в каждой точке со-

держит нетривиальное комплексное подпространство постоянной размерности. Подмногообразие называется порождающим, если касательное пространство в каждой точке (рассматриваемое как вещественное подпространство С") порождает все С".

В то время как для вещественных подмногообразий комплексных многообразий диски Бишопа можно на данный момент отнести к испытанному инструментарию многомерного комплексного анализа, соответствующая теория для почти комплексных пространствах до недавнего времени практически отсутствовала. Результаты, изложенные в §§ 12-14 Главы 1, представляют собой разработку некоторых аспектов такой теории. Для этой разработки естественно потребовалось провести изучение свойств CR-подмногообразш"! почти комплексных многообразий и, в частности, исследовать роль формы Леви такого подмногообразия.

В § 12 доказывается существование бишоповских дисков для порождающего CR-подмногообразия Е почти комплексного многообразия (M, J) (теорема 1.2). Грубо говоря, показано, что эти диски параметризуются так же, как в случае стандартной комплексной структуры. Доказательство основано на изотропных растяжениях локальной системы координат и аналогично данному Ж.-К. Сикоравом 24 доказательству теоремы Ниенхёйса-Вольфа о существовании малых псевдоголоморфных дисков, касательных к данному направлению.

Основной нашей задачей в этой области является исследование геометрии псевдоголоморфных бишоповских дисков в терминах формы Леви CR-подмногообразия. Мы начнем с Леви-плоского случая. В § 13 показано, что такая гиперповерхность содержит псевдоголоморфные диски, проходящие в любом наперед заданном комплексном касательном направлении.

Теорема 1.3. Пусть Г — вещественная гиперповерхность в почти комплексном многообразии (M, J) с формой Леви тождественно равной нулю во всех точках Г. Пусть Ю> = {£ G С : |С| < 1}. Тогда в каждой точке р G Г для всякого направления v G Яр(Г) существует J-голоморфный диск f : В —> M, для которого /(0) = р, df (0)(<9/dReÇ) = v и /(В) С Г.

Sikorav, in: Holomorphic curves in symplectic geometry, Birkhâuser, Boston, 1994

Тем самым дается утвердительный ответ на вопрос С. М. Иваш-ковича-Ж.-П. Розе. 25. Теорема 1.3 вместе с примером Иваш-ковпча-Розе вещественной гиперповерхности в вещественно 6-мерном почти комплексном многообразии, имеющей тождественно нулевую форму Леви, но не содержащей комплексных гиперповерхностей и потому минимальной в смысле А. Туманова, показывает, что теорема Ж.-М. Трепро-А. Туманова 26 о дисках Бишопа, заполняющих одностороннюю окрестность неминимальной гиперповерхности, не имеет места в почти комплексном случае.

В § 14 рассматривается случай CR-подмногообразия Е с ненулевой формой Леви; доказано, что соответствующие диски Бишопа заметают подмногообразие, у которого Е составляет открытое подмножество края (теорема 1.4). Это почти комплексный аналог теорем Д. Хилла-Дж. Тайани 27. и А. Боггеса 28, но доказательство в почти комплексном случае требует несколько другого подхода, так как тензор Нийенхёйса (тензор кручения) почти комплексной структуры оказывает большое влияние на геометрию формы Леви вещественного многообразия: не всегда возможно даже использовать CR-подмногообразие стандартного комплексного пространства в качестве модели для CR-подмногообразия почти комплексного пространства. Возникающие трудности преодолеваются использованием (в § 12) неизотропных растяжений в подходящей системе координат. Если CR-размерность Е равна 1, то неизотропные растяжения позволяют представить пару (Е, J) как малую деформацию пары (Eo,Jst), где Eq - квадратичное подмногообразие, форма Леви которого относительно Jsi совпадает с формой Леви Е относительно J. Это и позволяет доказать в теореме 1.4 наличие нужных нам дисков Бишопа специального вида.

В последующих главах диссертации также рассматриваются вполне вещественные и CR-поверхности, в том числе Леви-плос-кне и строго псевдовыпуклые гиперповерхности. Там они играют роль математического аппарата, используемого при решении поставленных задач. CR-подмногообразия возникают как орбиты

25S. Ivashkovich, J.-P. Rosay, Ann. Inst. Fourier (Grenoble), 54 (2004), 23872435

26J.-M. Trépreau, Invent. Math. 83 (1990), 951-964; A. E. Туманов, Mam. Сборник 181 (1986), 583-592

27D. Hill, G. Taiani, Ann. Sc. Norm. Sup. Pisa 5 (1978), 327-380

28A. Bogges, Michigan Mat. J. 30 (1983), 183-189

действия вещественных групп Ли биголоморфными преобразованиями и анализ СЯ-структуры этих подмногообразий позволяет делать выводы о структуре самих групп и о действии этих групп, что в свою очередь оказывается важно для понимания геометрии соответствующих комплексных областей и многообразий и для исследования их голоморфных отображений.

В Главе 2 диссертации рассмотрены биголоморфные отображения и задача эквивалентности для двух классических семейств областей многомерного комплексного анализа: областей Рейнхар-та и трубчатых. Эти области характерны тем, что на них действуют большие естественные абелевы группы симметрий (размерности п для области из С"), так что область по существу может быть охарактеризована заданием некоторого вещественно п-мерного объекта (базы трубчатой области и логарифмической диаграммы области Рейнхарта).

В главе рассмотрены тесно связанные между собой задача описания полных групп автоморфизмов и задача биголоморфной классификации областей из обсуждаемых классов. Они решаются в случае гиперболических областей Рейнхарта из С" и произвольных трубчатых областей из С2.

В этой связи напомним некоторые определения. Областью Рейнхарта в С" называется область, содержащая вместе с произвольной точкой (Сь • • •) Сп) все точки вида (е201^,. • •, егвп(п), где 9\,..., 9п - вещественные числа. Таким образом, область Рейнхарта однозначно задается своей проекцией на М™, переводящех! £1, • • •, С» в точку Ю!) ■ • • > |Сп|- Рассмотрев отображение К™ в К", возникающее при переходе от координат точек положительного октанта к их логарифмам, мы получаем логарифмическую диаграмму области Рейнхарта, являющуюся подобластью Мп.

На всякой области Рейнхарта эффективно действует покоординатными поворотами п-мерный тор Т™.

Область в С" называется трубчатой, если вместе с каждой точкой (х\ + ...х(1 + г'у°) этой области принадлежат все точки (х1 -Ьгу®,... хп + гу°), где - произвольные действительные числа. Трубчатая область однозначно определяется своей проекцией на у-плоскость, которая называется базой трубчатой области.

Группа автоморфизмов трубчатой области АаЬ(Та) всегда содержит подгруппу вещественных сдвигов. Эта подгруппа изоморфна К".

Область (комплексное многообразие) называется гиперболической, если полуметрика Кобаяси в ней является метрикой. Всякая ограниченная область является гиперболической, хотя обратная импликация неверна. Группа голоморфных автоморфизмов гиперболического многообразия является вещественной группой Ли.

В § 1 обсуждаются абелевы группы автоморфизмов гиперболических комплексных многообразий. В частности, там показано (теорема 2.1), что если на гиперболическом многообразии эффективно действует п-мерная вещественная абелева группа Ли, то она связна и является максимальной абелевой подгруппой группы голоморфных автоморфизмов многообразия. Поскольку максимальные торы в группах Ли сопряжены, отсюда сразу же следует (предложение 2.1), что если гиперболические области Рей-нхарта биголоморфно эквивалентны, то между ними существует биголоморфное отображение "мономиальиого" вида

Г! _ \ ГХпп

•т ~ лпЧт1 • • • Ьп

(2)

(которому соответствует аффинное отображение логарифмических диаграмм).

Аналогичный результат для трубчатых областей оказывается более сложным по формулировке и доказательству, поскольку максимальные некомпактные абелевы подгруппы групп Ли не обязательно сопряжены. Анализ удалось провести только в размерности 2. В качестве предварительного результата в §2 мы устанавливаем теорему 2.2, утверждающую, что за исключением девяти явно описываемых серий областей (к иримеру, трубчатая область с базой = {0 < у\ < 7Г, 0 < у2 < 7?} переводится отображением ср — (ехр^ехр^) в трубчатую область О." — {0 < у\ < оо, 0 < г/2 < оо}) две двумерные гиперболические трубчатые области голоморфно эквивалентны тогда и только тогда, когда их базы (а значит, и они сами) аффинно эквивалентны. Доказательство проводится путем исследования структуры

группы Ли автоморфизмов двумерной трубчатой области. Случай группы автоморфизмов размерности 2 тривиален, размерности 5 и 6 были по существу ранее рассмотрены С. Шимизу 29, а более высокую размерность группы автоморфизмов имеют только трубчатые области над внутренними областями парабол, которые все аффинно эквивалентны. Так что в действительности приходится анализировать только области с 3-мерной и 4-мерной группой голоморфных автоморфизмов. Анализ показывает, что биголоморфное отображение между трубчатыми областями либо переводит действие Ж2 сдвигами вдоль вещественных направлений в прообразе в действие, сопряженное сдвигам в образе, либо образ этого действия можно явно проинтегрировать и описать возможные инвариантные трубчатые области.

Несколько более пристальное изучение структуры групп голоморфных автоморфизмов позволяет проинтегрировать их действие и в остальных случаях. Это приводит к теореме 2.5, сформулированной и доказанной в §4 и описывающей группы голоморфных автоморфизмов двумерных гиперболических трубчатых областей.

Теорема 2.5. Пусть D - гиперболическая трубчатая область е С2 с основанием fL Тогда либо все гололюрфные автоморфизмы D аффинные, либо D аффинно эквивалентна трубчатой области с базой, имеющий один из перечисленных ниже видов:

1- (г/2 > у?};

2. 0/1 >0, У2 >0};

3. {0 < г/i <тг, 0 < У2 < оо};

4. {0 < у! < тг, 0 < у2 < 7Г>;

5- (а) {г/2 > -lnsin(j/i), 0 < ух < тг};

(b) {у2 < -lnsin(2/i), 0 < ух < тг};

(c) {-lnsin(î/i) <у2< -lnsin(yi) + s, 0 < ух < 71-}; s > 0;

6. (а) {у2 > еУ1} ;

(b) {0 <y2

(c) {еУ1 < у2 < he^}-, h > 1.

Все неаффшшые автоморфизмы перечисленных областей имеют несложное описание.

29S. Shimizu, Amer. J. Math. 122 (2000), 1289-1308

Ранее, помимо классических случаев трубчатых областей эквивалентных шару и бидиску, в двумерном случае были описаны только автоморфизмы областей над выпуклой базой, не содержащей прямых (Бедфорд-Дэдок 30, Шимизу 31 ).

Теорема 2.3, доказываемая в §3, по формулировке почти совпадает с теоремой 2.2, однако она уже ие накладывает никаких ограничении на двумерные трубчатые области.

Теорема 2.3. Пусть две связные трубчатые области в С2 голоморфно эквивалентны. Тогда они либо аффинно эквивалентны, либо обе входят (поые аффинных преобразований) в один из следующих пяти списков областей:

1. (а) область Tq2 , где П2 = {0 < yi, 0 < у2};

(b) область Тп< , где íí2 = {0 < Vi < к, 0 < т/г};

(c) область Тп" , где П2 = {0 < j/i < тг, 0 < т/2 < л-};

2. (а) область Tq3 , где Q3 = {0 < у\ < ж, - Insin(yi) < 1/2}; (b) область TQ> , где Í23 = {eyi < у2};

3. (а) область ТЬ., где fi* = {0 < у\ < тг, у2 < — lnsin^)}; (b) область Tq+ , где Г2+ = {0 < 7/2 < еш };

4. (а) область Тц3, где Qs — {0 < у\ < к, — lnsin^) < у2 <

— 1113111(2/!) + s}, 0 < s; (b) область T&h, где üh = {eVl < У2 < heVl}, h = es ;

5. (а) область Tqp¡ , где flpi = (0 < уг}\

(b) область Tqsí , где flst — {0 < у2 < я-}.

Доказательство опирается на то наблюдение, что соответстау-ющее биголоморфное отображение, как правило, биголоморфно переводит друг в друга также две вспомогательные гиперболические трубчатые области, либо две гиперповерхности, так что мы можем апеллировать либо к § 3, либо к теории CR-отображений вещественных гиперповерхностей. Интересно, что по сравнению с теоремой 2.2 в списке исключений появляется только одна новая (и очевидная) позиция: области с базами {0 < yi < 1 и {О < уг < оо}).

§§5-7 посвящены описанию групп автоморфизмов гиперболических областей Рейнхарта в С". Это классическая задача, первые продвижения в решении которой были получены

30Е. Bedford, J. Dadok, J. Reine Angew. Math. 361 (1985), 162-173

31 S. Shimizu, Amer. J. Math. 122 (2000), 1289-1308

К. Рейпхартом. Рейнхарт описал группы автоморфизмов шара и полидиска, показав, что они состоят из дробно-линейных преобразований 32. В 1931 г. П. Туллен 33 нашел группы автоморфизмов всех полных ограниченных областей Рейнхарта в С2. Оказалось, что они практически всегда состоят из линейных отображений. Исключение составляют области, с точностью до растяжений по отдельным переменным и перестановок координат совпадающие с шаром, бидиском или одной из областей

ма = {(Сь С2) е С2: ICxl2 + |С2|2/а < 1}, а ^ 0,а ф 1,

иногда называемых областями Туллена. Группа автоморфизмов Ма, как показал Туллен, состоит из отображений

Ci=eie4Ci-a)(l-äCi)-\

где |а| < 1, а 0Ь02 € Ш.

Позднейшие авторы также рассматривали только области, содержащие начало координат (то есть неподвижную точку действия тора Тп). В 1978 г. Т. Сунада 34 описал группы автоморфизмов всех ограниченных и содержащих начало координат областей Рейнхарта в Сп.

Теорема 2.7, сформулированная в § 7, показывает, что полное описание автоморфизмов возможно и для областей Рейнхарта, не содержащих начала координат Кроме того, вместо ограниченности областей достаточно выполнения более слабого условия их гиперболичности. Пример "экспоненциальной" области {(СьСг) 6 С2: K2I > exp|(if2}, который, несмотря на свою простоту, по-видимому, не был известен предыдущим авторам, показывает, что в этом случае даже у двумерных областей могут быть автоморфизмы нового типа, а именно, отображения

Ci=Ci+b, С2 = C2exp(2bCi + |Ь|2)-

Явное описание автоморфизмов при такой постановке задачи затрудняется к тому же следующим обстоятельством: если область

32К. Reinhardt, Ор. cit.

33Р. Thullen, Ор. cit.

34Т. Sunada, Ор. cit.

не пересекается с какими-то из координатных гиперплоскостей, то некоторое отображение "мономиалыюго" вида может определять замену координат (С) —* (С')> н в новых переменных (С') мы также получаем область Рейнхарта. Однако автоморфизм, имеющий простой вид в координатах (£), в новой системе координат будет выражаться, вообще говоря, более сложным образом. Поэтому в теореме 2.7 говорится о существовании некоторой системы координат в которой формулы преобразований из связной компоненты единицы группы автоморфизмов оказываются относительно простыми.

Теорема 2.7. Пусть М с С™ - гиперболическая область Рейнхарта. Пусть р, 1 ^ р ^ п, - наименьшее целое число, обладающее следующим свойстволг. существуют такие целые числа ^ з ^ ^ ^ Р и Н < К2 <•••< Кг ^ п,

п~Кг — р — г, и вещественные числа а^к (1 ^ ] ^ 5, в < к ^ р), что, положив после некоторой замены переменных вида (2) VI = (Спри 2 ^ г и V, = г при з > г

и обозначив через М' пересечение М с координатной плоскостью переменных (Ск,+1, • ■ • > Скг 5 Слг^+11 • • • ? Сп) лш можем задать М как множество точек С" для которых < 1 при 1 и

......................................................... ем'

\ Ы П«в1 (1 - Ы2)"»''2 ехр(- Ыч?) 1

Тогда компонента единицы 0°(М) группы голоморфных автоморфизмов М - представляет собой группу преобразований вида

у[ = (А\У1 +Ь1)(с\У1 + с^)-1,

Кг+1 = ^81 + 1 ("51+1 + ^1+1)1 21

«¿+1 = иа+1Ьв+1 П^Д^

где ^^ ^ ^ - матрица порядка Kj—Kj-1 + 1 с определителем

единица, унитарная относительно эрмитовой формы

а и^ - унитарная матрица. Всякий бигололюрфный автоморфизм М является композицией автоморфизма из С(М) и би-голоморфного автоморфизма вида (2).

Из этого описания несложно получить интересное следствие (следствие 2.1): если гиперболическая область Рейнхарта не пересекается с координатными гиперплоскостями, то все ее автоморфизмы имеют мономиальный вид.

Основная часть доказательства теоремы 2.7 проводится в §§ 5-б; доказательство сводится к изучению алгебры Ли У группы голоморфных автоморфизмов области Рсйпхарта, то есть алгебры Ли полных вещественных векторных полей с голоморфной (1,0)-компонентой. Рассуждения в этих параграфах не используют глобальных систем координат, так что, строго говоря, описывается структура группы голоморфных автоморфизмов произвольного гиперболического многообразия с эффективным действием п-мерного вещественного тора.

Доказательство основано на выделении подходящих подалгебр с$ и на исследовании орбит этих подалгебр, являющихся однородными СТ1-.многообразиями. Используя известные результаты теории СП-многообразий, мы можем установить те или иные свойства соответствующих подалгебр или доказать отсутствие подалгебр с теми или иными свойствами, а также строить новые подалгебры <3 с теми же орбитами.

Первый шаг здесь заключается в приведении к диагональному виду присоединенного представления группы Тп в комплексифи-кации

сде

(что соответствует блочно-диагональному представлению в с двумерными ортогональными блоками). Как показано в § 5, если соответствующая пара базисных векторов из Й?, то есть

Е 0 0 -1

векторных полей на многообразии, комплексно линейно зависима в каждой точке, то мы имеем дело с прямым произведением (п — 1)-мерного многообразия аналогичной структуры на единичный диск. Если же такая пара полей почти всюду комплексно линейно независима, то существует два полных векторных поля, соответствующих однопараметрическим подгруппам поворотов из Т", которые выражаются через первую пару с постоянными комплексными коэффициентами.

В § б, рассматривая скобки базисных векторных полей, мы показываем, что система пар базисных векторов из распадается на несколько групп, отвечающих за "тулленовские" и "экспоненциальные" части окончательных формул для автоморфизмов. В § 7 эти векторные поля явно интегрируются в подходящей системе координат, что и приводит к описанию из теоремы 2.7.

Популярной задачей многомерного комплексного анализа является изучение собственных голоморфных отображений, которые, как показано еще Реммертом, можно также эквивалентно определять как конечные разветвленные голоморфные накрытия. В Главе 3 диссертации рассматриваются собственные голоморфные отображения между областями Рейнхарта, неоднократно привлекавшие внимание различных авторов. В Главе 3 эта задача полностью решается для ограниченных областей Рейнхарта в С2.

Так же, как и в случае биголоморфных отображений, собственные отображения областей Рейнхарта могут иметь "мономиаль-ный" вид. Вопрос о существовании мономиального собственного отображения между областями решается на уровне аффинных отображений их логарифмических диаграмм и, но существу, пе относится к комплексному анализу. В диссертации выясняется, между какими областями Рейнхарта возможны "немономи-альные" собственные отображения и каков вид этих отображений. Заметим, что в свете результатов Главы 2 ответ на второй вопрос для биголоморфных отображений очевиден: всякое "немономиальное" отображение между гиперболическими областями Рейнхарта представляет собой комбинацию "мономиального" биголоморфного отображения между этими же областями с "немономиальным" автоморфизмом области-образа или области-прообраза.

Небиголоморфиые собственные отображения изучать сложнее. К примеру, немономиальные собственные отображения существуют, если обе области - бидиски. В этот случае одна из компонент отображения будет содержать конечное произведение Бляшке с хотя бы одним нулем вне начала координат.

Для анализа возможных ситуаций мы прежде всего заметим, что собственное отображение исходных областей продолжается до собственного голоморфного отображения между их оболочками голоморфности 35. Переход к псевдовыпуклым областям оказывается существен для доказательства, поскольку оно будет опираться на связность границ областей и и выпуклость их логарифмических диаграмм. Более того, отображение голоморфно продолжается в окрестность границы области-прообраза вне координатных гиперплоскостей и является там почти всюду локально биголоморфным. Таким образом, на значительной части границы имеются локально заданные действия двух вещественно гг-мерных абелевых групп, соответствующих действию тора Т2 в образе и в прообразе. Если собственное отображение немономи-ально, то эти действия - разные, и в двумерном случае нетрудно показать, что либо рассматриваемая часть границы состоит из двух или трех Леви-плоских участков, либо она является связной сферической гиперповерхностью (предложение 3.2).

Леви-плоский и сферический случай разбираются в §§2 и 3, соответственно, а итоговый результат формулируется в теореме 3.1 из §1. Он представляет собой перечень семейств пар областей, между которыми возможны немономиальные собственные отображения и явное описание самих этих отображений. В сферическом случае (семейства (iv)-(vi) из теоремы 3.1) исследуемое отображение можно представить в виде суперпозиции трех отображений специального вида: двух мопомиальпых отображений и автоморфизма некоторой промежуточной области Рейнхарта. В Леви-плоском случае полученные формулы для собственного отображения включают в себя конечные произведения Бляшке от некоторой комбинации переменных.

Анализ Леви-плоского случая начинается с рассмотрения слоений на граничных гиперповерхностях обеих областей Рейнхарта. Их листы — комплексные кривые, которые переводятся

35Н. Kerner, Arch. Mat. 11 (1960), 44-49

друг в друга рассматриваемым собственным отображением. В результате мы приходим к серьезным ограничениям на вид рассматриваемого отображения и можем указать некоторые семейства голоморфных кривых внутри каждой из областей, переходящие одно в другое. Ограничение нашего отображения на кривую из области-прообраза оказывается собственным отображением одномерной области, так что появление произведений Бляшке в итоговых формулах совершенно естественно.

В сферическом случае возникает почти всюду определенное отображение между сферическими гиперповерхностями. Существует всего четыре подкласса рейнхартовых областей с такими границами. Переходя к универсальным накрывающим границ, мы получаем СЛ-отображение между двумя областями над строго псевдовыпуклой сферой. При этом в каждой из областей действует своя дискретная группа скольжения, и эти группы скольжения связаны некоторым отображением, индуцированным отображением гиперповерхностей. Точнее, спроецировав естественным образом каждую из подгрупп скольжения на дискретную подгруппу А^В2 (группы бпголоморфных автоморфизмов шара), мы получим гомоморфизм между этими дискретными подгруппами, причем (лемма 3.2) образ этого гомоморфизма имеет конечный индекс, что отражает конечнолистность собственного отображения.

Поскольку СП-отображения сферических поверхностей задаются дробно-линейными автоморфизмами сферы, задача решается разбором возможных случаев, определяемых видом универсальных накрывающих и соотношением между группами скольжения. Оказывается (предложение 3.3), что если собственное отображение немономиально, то области на самом деле могут быть только из двух подклассов и их анализ приводит нас к желаемому результату.

Из Теоремы 3.1 непосредственно вытекают два интересных результата о существовании собственных отображений: если между двумя ограниченными областями Рейнхарта существует собственное голоморфное отображение, то между ними существует и элементарное собственное отображение (следствие 3.1); если ограниченная области Рейнхарта может быть небиголоморфно отображена в себя, то она имеет Леви-плоский тип и относится к одному из семейств (1)-(ш) из теоремы 3.1 (следствие 3.2).

Глава 4 исследует n-мерные комплексные многообразия, на которых эффективно действует унитарная группа Un или специальная унитарная группа SUn. Интерес к таким действиям мотивирован вопросом о характеризации пространства С2 (п ^ 2) своей группой автоморфизмов. На этот вопрос положительно отвечает теорема 4.1, сформулированная в § 1.

ТЕОРЕМА 4.1. Пусть М - связное комплексное многообразие размерности п. Допустим, что группы биголоморфных автоморфизмов Aut(M) и Aut(<Cn) с компактно-открытой топологией изоморфны как топологические группы. Тогда М биголо-морфно эквивалентно С".

Этот результат является непосредственным следствием описания всех n-мерных комплексных многообразий, на которых возможно эффективное действие Un, которому посвящены §§ 1-6.

В § 2 найдены все возможные размерности орбит Un-действия на М. Оказывается (см. предложение 4.1), что орбита может быть точкой (и тогда у Un есть неподвижная точка в М). вещественной гиперповерхностью в М, комплексной гиперповерхностью М, или совпадать с М (так что М однородное).

Многообразия, допускающие действие с неподвижной точкой были описаны В. Каупом 36.

В §3 классифицируются многообразия с действиями Un, все орбиты которых - вещественные гиперповерхности. Такое многообразие оказывается либо шаровым слоем в С", либо многообразием Хопфа, либо фактором одного из этих многообразий по действию дискретной подгруппы центра Un (Теорема 4.2).

В §4 рассматривается ситуация, когда каждая орбита - это вещественная или комплексная гиперповерхность в М и доказывается, что орбит, являющихся комплексными гиперповерхностями не более двух. Более того, такие орбиты должны быть биголоморфно эквивалентны CPn_1 и возникают в результате сопроцесса в начале координат, примененного С" или к шару в Сп, или добавления гиперплоскости оо С CP™ к внешности шара в С™, или применением ст-процесса в одной точке к СРП, или, наконец, как фактор-пространства этих примеров по действию дискретной подгруппы центра Un (теорема 4.3).

36W. Каир, Invent. Math. 3 (1967), 43-70

Наконец, в § 5 рассматривается однородный случай. В этом случае многообразие должно быть эквивалентно фактору многообразия Хопфа по действию дискретной подгруппы центра (теорема 4.4).

Объединение в теореме 4.5 ранее известного результата о действиях с неподвижной точкой с теоремами 4.2-4.4 дает полный список связных многообразий размерности п ^ 2, допускающих эффективное действие [/„ биголоморфными преобразованиями.

Теорема 4.5. Пусть М — связное комплексное многообразие разлгерности п ^ 2, на котором 17п эффективно действует биголоморфньши преобразованиями. Тогда М биголоморфно эквивалентно одному из следующих многообразий37:

• Вп

• С",

• СРП.

• срп/гт.

В последующих параграфах аналогичная задача описания многообразий, допускающих эффективное действие, решается для группы Яип.

Действия Бип на вещественных многообразий были предметом пристального анализа, мотивированного важностью действий Зип как для физики, (в особенности при малых п), так и для различных областей математики; известны различные результаты по классификации таких действий. К примеру, были найдены все вещественные компактные ориентируемые многообразия размерности 2п, допускающие 5(/п-действие при п ^ 5. Однако ранее не существовало классификации для случая действий ¿"С/,, биголоморфными преобразованиями на комплексных многообразиях.

З73десь М2 — многообразие Хопфа, СРП и Вд получаются из проективного пространства и шара применением ст-процесса в одной точке, а 5")ОС — внешность шара с подклеенной бесконечно удаленной гиперплоскостью

В § 7 рассматривается простейший случай действий с неподвижной точкой. В этом случае М эквивалентно единичному шару Вп С С™, или С", или СР" (предложение 4.7).

Далее в работе рассматриваются действия без неподвижных точек. В §8 описываются орбиты таких действий (теорема 4.5). Оказывается, что всякая орбита является вещественной или комплексной гиперповерхностью в М.

В § 9 мы показываем, как склеить орбиты друг с другом. В случае, когда все орбиты - вещественные гиперповерхности, мы показываем, что при п ^ 3 многообразие с таким действием эквивалентно шаровому слою в С", многообразию Хопфа или факторам этих многообразий по действию дискретной подгруппы центра ип. Однако при п = 2 ситуация интереснее вышеуказанных многообразий, и в классификацию входят также шаровые слои <32я в С2, снабженные нестандартной комплексной структурой, которая унаследована от нестандартной комплексной структуры на СР2 \ {0}, описанной X. Росси (теорема 4.7).

В ситуации, когда имеется хотя бы одна орбита - комплексная гиперповерхность, мы показываем, что в М не более двух таких орбит. Они биголоморфно эквивалентны СР"-1 и при п > 3 должны быть результатом сг-процесса в начале координат, произведенного в С™ или в шаре в С", или результатом присоединения гиперплоскости оо С СР" к внешности шара в С", или ст-процесса в одной точке из СР", или факторами одного их этих примеров по действию дискретной подгруппы центра IIп. При п = 2 в классификацию также входит внешность шара из С2\{0}, наделенная нестандартной комплексной структурой, к которой присоединена гиперплоскость оо С СР2 (Теорема 4.8).

Полная классификация дается в теореме 4.9 объединением предложения 4.7 с теоремами 4.7 и 4.8.

Теорема 4.9. Пусть М — связное комплексное многообразие размерности п > 2, на котором 811п эффективно действует биголоморфными преобразованиями. Тогда М бигололюрфно эквивалентно одному из следующих многообразий:

. В",

• С",

• СР".

M2/zm,

R (при n = 2)

cir/z m,

er,oo (npun = 2)

Список публикаций автора по теме диссертации

[1] Н. Г. Кружилин, "Автоморфизмы гиперболических областей Рейн-харта", Изв. АН СССР Сер. мат., 52:1 (1988), 16-40.

[2] Н. Г. Кружилин П. А. Солдаткин, "Аффинная и голоморфная эквивалентность трубчатых областей в С2", Мат. заметки, 77:5 (2004), 670-682.

[3] Н. Г. Кружилин П. А. Солдаткин, "Голоморфная эквивалентность трубчатых областей в С2", Труды МИАН, 253 (2006), 101-111.

[4] N. Kruzhilin, A. Isaev, "Proper holomorphic maps between Reinhardt domains in C2", Michigan Math. J., 54:1 (2006), 33-63.

[5] N.Kruzhilin, A.Isaev, "Effective actions of the unitary group on complex manifolds", Canad. J. Math., 54:6 (2002), 1254-1279.

[6] N. Kruzhilin, A. Isaev, "Effective actions of SUn on complex n-dimensional manifolds", Illinois J. Math., 48:1 (2004), 37-57.

[7] H. Г. Кружилин, "Голоморфные автоморфизмы двумерных гиперболических трубчатых областей", УМН, 59:5 (2004), 155-156.

[8] N. Kruzhilin, A. Sukhov, "Pseudoholomorphic discs attached to CR-submanifolds of almost complex spaces", Bull. Sci. Math., 129 (2005), 398-414.

[9] H. Г. Кружилин, "Двумерные сферы на границах строго псевдовыпуклых гиперповерхностей в С2", Изв. АН СССР Сер. мат., 55:6 (1984), 1194-1237.

Содержание

Введение.

Глава 1. Комплексные диски, подклеенные к вещественным подмногообразиям

1. Подклейка голоморфных дисков к поверхностям.

2. Схема доказательства теоремы.

3. Доказательство предложения 1.2.

4. Доказательство предложения 1.3.

5. Доказательство предложения 1.4.

6. Доказательство предложения 1.5.

7. Доказательство предложения 1.7.

8. Доказательство предложения 1.8.

9. Доказательство предложения 1.9.

10. Доказательство предложения 1.10.

11. Доказательство предложения 1.11.

12. Существование и локальная параметризация дисков Бишопа для

СЯ-подмногообразий почти комплексных многообразий.

12.1. Почти комплексные многообразия.

12.2. Бишоповские диски и уравнение Бишопа.

12.3. Решение обобщенного уравнения Бишопа.

13. Гиперповерхности с нулевой формой Леви.

14. Многообразия с ненулевой формой Леви.

14.1. Случай СЯсИтЕ = 1.

14.2. Случай СКсИтЕ >1.

Глава 2. Биголоморфная классификаций трубчатых областей и областей

Рейпхарта.

1. Коммутативные группы автоморфизмов гиперболических комплексных многообразий.

2. Аффинная и голоморфная эквивалентность гиперболических трубчатых областей в С

2.1. Трехмерная группа автоморфизмов.

2.2. Трехмерная группа с одномерным коммутантом.

2.3. Трехмерная группа с двумерным коммутантом.

2.4. Четырехмерная группа автоморфизмов.

3. Голоморфная эквивалентность трубчатых областей без условия гиперболичности

4. Автоморфизмы двумерных трубчатых областей.

5. Области Рейнхарта и предварительные сведения об их автоморфиз

6. Собственные вектора операторов ad Lj, отвечающие чисто мнимым собственным значениям.

7. Связи между собственными векторами операторов ad Lj.

8. Автоморфизмы областей Рейнхарта.

Глава 3. Собственные отображения областей Рейнхарта.

1. Общие сведения.

2. Предварительные результаты.

3. Леви-плоский случай.

4. Сферический случай.

Глава 4. Комплексные п-мерные многообразия с действием групп Un и

1. Схема классификации.

2. Размерности орбит.

3. Случай орбит — вещественных гиперповерхностей.

4. Случай орбит — комплексных гиперповерхностей.

5. Однородный случай.

6. Характеризация Сп.

7. Случай SUn--действия с неподвижной точкой.

8. Описание орбит.

9. Классификация действий без неподвижных точек.

Список публикаций автора по теме диссертации.

Построение комплексных дисков и семейств комплексных дисков с предписанным граничным поведением 5шляется одним из мощных и широко используемых инструментов многомерного комплексного анализа. Его популярность можно объяснить тем, что таким образом многие многомерные задачи удается свести к задачам,на построенных дисках, то есть одномерным. Классическим примером использования комплексных дисков в многомерных задачах является "Kontinшtatssatz" Ф. Хартогса, которое описывает в терминах комплексных дисков оболочки голоморфности областей комплексного пространства, так что феномен принудительного аналитического продолжения во всей полноте может быть изложен на языке семейств голоморфных дисков. Комплексные диски используются при решении граничных задач, изучении СП-многообразий, исследовании инвариантных метрик, анализе граничных свойств голоморфных отображений, в симплектической геометрии и в других областях анализа и геометрии.

В диссертации семейства комплексных дисков возникают в двух контекстах.

Один из них - это аналитические диски с краем на предписанной (чаще всего, двумерной) поверхности. Нередко семейство таких дисков образует Леви-плоскую поверхность. Эта задача в различных постановках рассматривалась Э.Бедфордом, Б.Гаво, В. Клингенбергом, Л. Лемпертом, Н. В. Щербиной, Дж. Томассини, Б. Стенсонес, 3. Слодковским и другими авторами. Широко известен результат М. Громова о существовании комплексного диска с границей на лагранжевом торе, ставший одним из первых указаний на глубокие связи многомерного комплексного анализа и симплектической геометрии. Результаты; полученные в этом направлении важны для описания полиномиальных оболочек и оболочек голоморфности, для понимания топологии псевдовыпуклых областей и многообразий Штейна, в симплектической и контактной геометрии.

Наиболее хорошо изучен на данный момент случай вещественной сферы, вложенной в границу, первые результаты для которого были получены Э. Бедфордом и Б. Гаво .

Вторая ситуация - это диски, подклеиваемые к СЯ-подмногообразию комплексного пространства. Систематическое изложение этой конструкции было проведено в классической работе Э. Бишопа и с тех пор такие диски стали одним из основных технических средств при работе с СП-подмногообразиями, анализе их геометрии и изучении свойств СЯ-отображений таких многообразий, возникавшими в работах М. Бауэнди и Л. Ротшильд,

А.Туманова, Ж.-М.Трепро, А. Боггеса, Б.Йорике и других авторов. Исследование свойств таких дисков остается актуальным для С11-геометрии.

С11-отображения и С11-многообразия возникают как инструмент в частях диссертации, посвященных исследованию голоморфных отображений и классификации комплексных областей и многообразий, наделенных действием больших групп Ли. Примерами таких областей являются области Рейнхарта и трубчатые области, относящиеся к фундаментальным областям комплексного анализа. Области Рейнхарта были введены К.Рейнхартом (1921) как естественные области сходимости многомерных рядов Лорана,- а интерес к трубчатым областям, по-видимому, берет начало с работ С. Бохнера конца 1930х гг., связанных с его исследованиями по гармоническому анализу. С тех пор эти классы областей рассматривались огромным числом авторов либо как естественные объекты в тех или иных задачах, либо как широкие, но в тоже время относительно просто геометрически устроенные модельные многомерные области.

Первыми работами по отображениям и, в частности, автоморфизмам, этих областей можно считать с классические работы К. Рейнхарта по определению групп биголоморфных автоморфизмов (двумерных) шара и полидиска. Важные результаты в двумерном случае были получены П. Тулленом в 1930е годы. Начиная с 1900х гг. этими вопросами занимались И. Наруки, Т. Суиада, Д. Барретт, Э. Бедфорд, Дж. Дэдок, П. Янг, С. Шимизу и другие авторы.

Как хорошо известно, в отличие от одномерного случая, задача о биголо-морфной классификации многомерных областей комплексного пространства является трансцендентно сложной. В этой связи представляют несомненный интерес результаты о классификации для достаточно обширных специальных классов областей. Такого рода результаты для полных ограниченных областей Рейнхарта были получены П. Тулленом (в размерности 2; 1931) и Т. Сунадой (1978). Для трубчатых областей первые результаты этого рода были доказаны только в 1980х гг. А. Кодамой, П. Янгом и С. Шимизу.

Собственные отображения или конечные разветвленные накрытия являются классом отображений, вызывающих пристальный интерес специалистов по комплексному анализу. Основная часть результатов по собственным отображениям областей комплексных пространств относится к гладким областям. Области Рейнхарта здесь интересны именно тем, что в этом классе можно получать содержательные результаты, не накладывая арниорного условия гладкости границы. Такого рода результаты, начиная с 1980х гг., обсуждали Д. Барретт, С. И. Пинчук, Ф. Вертело, М. Лапдуччи, А. Спиро и другие авторы.

Основным примером комплексного многообразия с очень большой (бесконечномерной) группой голоморфных автоморфизмов является комплексное пространство Сп, п 2. Вопрос о возможности характеризации С" его группой автоморфизмов ставился рядом авторов и. в частности, С. Крант-цем. Ответ на этот вопрос, как показано в диссертации, дается с помощью классификации комплексных многообразий с действием групп 1/п и Бип. Заметим, что действия этих групп на вещественных многообразиях давно уже несколько десятков лет вызывают интерес у специалистов по математической физике и геометрии.

Целью диссертационной работы является разработка техники подклейки комплексных дисков к С11-подмногообразиям комплексных и почти комплексных пространств и применение этой техники к исследованию аналитических свойств СП-многообразий, а также изучение действия вещественных групп Ли голоморфных автоморфизмов областей комплексного пространства и СИ-орбит этих действий, использование полученных результатов для анализа биголоморфных и собственных отображений областей.

Диссертация состоит из настоящего введения и четырех глав, разбитых на параграфы.

1. Bishop Е., "Differentiable manifolds in complex Euclidean space", Duke Math. J., 32, №1, 1965, 1-22.

2. Webster S., "The Euler and Pontrjagin numbers of an rc-manifold in C2", Comm. Mat. H civ., 60, №2, 1985, 193-216.

3. Bedford E., Gaveau В., "Levi flat hypersurfaces in C2 with prescribed boundary: stability", Ann. Sc. Super. Mat. Pisa, 9, №4, 1982, 529-570.

4. Bedford E., "Envelopes of holomorphy of certain 2-spheres in C", Amer. J. of Math., 105, №4, 1983, 975-1009.

5. Gromov M., "Pseudo holomorphic curves in symplcctic manifolds", Invent Math., №2, 1985, 307347.

6. Bedford E., Klingenberg W., "On the envelope of golomorphy of a 2-sphere in C2", J. Amer. Math. Soc., 4 (1991), 623-646.

7. Kenig C., Webster S., "The local hull of golomorphy of a surface in the space of two complex variables", Invent Math., 67, №1, 1982, 1-21.

8. Eliashberg Ya, "Filling with holomorphic discs and its applications", Geometry of low-dimensional manifolds, 2 (Durham, 1989), London Math. Soc. Lecture Note Ser., 151, Cambridge Univ. Press, Cambridge, 1990, 45-67.

9. Forstneric F., Stout E. L., "A new class of polynomially convex sets", Ark. Mat., 29 (1991), 51-62.

10. Щербина H. В., "О полиномиальной оболочке вложенной в С2 сферы", Матем. залгетки, 49, №1, 1991, 127-134.

11. Ерошкин О. Г., "Об одном топологическом свойстве края аналитического подмножества строго псевдовыиуклой области в С2", Матем. заметки, 49, №5, 1991.

12. Forstneric F., "Stability of analytic discs with boundaries in totally real submanifold of C2", Ann. Inst. Fourier., 37, №1, 1987, 1-44.

13. Чирка E. M., "Регулярность границ аналитических множеств", Матем. сб., 117, №3, 1982, 291-336.

14. Nienhuis A., Wolf W. В., "Some integration problems in almost complex and comple manifolds", Ann. Math., 77, №3, 1963, 424-489.

15. Burde G., Zieshang H., "Knots", 1985.

16. McDufF D., "The local behavior of holomorphic curves in almost complex 4-manifolds", J. Differential Geom., 34 (1991), 143-164.

17. Alinhac S., Baouendi M. S., Rothshild L. P., "Unique continuation and regularity at the boundary for holomorphic functions", Duke Math. J., 61, №2, 1990, 635-677.

18. Boggess A., "The extension of CR functions to one side of a submanifold of Cn", Michigan Math. J., 30 (1983), 183-189.

19. Boggess A., Pitts J., "СД-extension near a point of higher type", Duke Math. J., 52 (1985), 67-102.

20. Gaussier H., Sukhov A., "Estimates of the Kobayashi-Royden metric in almost complex manifolds", Bull. Soc. Math. France, 133 (2005), 259-273.

21. Gromov M., "Pseudo-holoinorphic curves in symplectic manifolds", Invent. Math., 82 (1985), 307347.

22. Hill D., Taiani G., "Families of analytic discs in C" with boundaries on a prescribed CR submanifold", Ann. Scuola Norm. Sup. Pisa CI. Sci., 5 (1978), 327-380.

23. Ivashkovich S., Rosay J.-P., "Schwarz-type lemmas for solutions of 9-inequalities and complete hyperbolicity of almost complex manifold", Ann. Inst. Fourier., 54 (2004), 2387-2435.

24. Sikorav J.-C., "Some properties of holomorphic curves in almost complex manifolds", Holomorphic Curves in Symplectic Geometry, eds. M.Audin, J.Lafontaine,, Birkhauser, 1994, 165 189.

25. Trépreau J.-M., "Sur le prolongement holomorphe des fonctions CR définies sur une hypersurface réelle dans C"", Invent. Math., 83 (1986), 583-592.

26. Dadok J., Yang, P., "Automorphisms of tube domains and spherical tube hypersurfaces", Arner. J. Math., 107 (1985), 999-1013.

27. Dini G., Selvaggi Primicerio A., "Proper holomorphic mappings between generalized pseudoellip-soids", Ann. Mat. Pura ed Appl. (IV), 158 (1991), 219-229.

28. Kerner H.,, "Über die Forsetzung holomorpher Abbildungen", Arch. Math., 11 (1960), 44-49.

29. Kim K.-T., Landucci M., Spiro, A., "Factorization of proper holomorphic mappings through Thullen domains", Pac. J. Math., 189 (1999), 293-310.

30. Landucci M., "Proper holomorphic mappings between some nonsmooth domains", Ann. Mat. Pura ed Appl. (IV), 155 (1989), 193-203.

31. Landucci M., Spiro A., "Proper holomorphic maps between complete Reinhardt domains in C2", Complex Variables: Theory and Appl., 29 (19.96), 9-25.

32. Лобода A.B., "Всякая голоморфно-однородная трубка в С2 имеет аффинно-однородное основание", Сибирск. мат. журн., 42 уг 2001, 1335-1339.

33. Nomizu К., Sasaki Т., Affine Differential Geometry, Cambridge University Press, Cambridge, 1994.

34. Shimizu S., "Automorphisms of bounded Reinhardt domains", Japan. J. Math., 15 (1989), 385414.

35. Соддаткин П.А., "Голоморфная эквивалентность областей Рейнхарта в С2: , Изв. РАН Сер. Мат., 66:6 (2002), 187-222.

36. Spiro A., "Classification of proper holomorphic maps between Reinhardt domains in C2' , Math. Z., 227 (1998), 27-44.

37. Ахиезер Д. II., "О гомотопической классификации комплексных однородных пространств", Труды Моск. мат. общ., 35 (1979 1-19.).

38. Akhiezer D. N., "Homogeneous complex manifolds", Several Complex Variables IV, Encycl. Math. Sei., 10, Springer-Verlag., 195-244.

39. Andersen E., Lempert L., "On the group of holomorphic automorphisms of C™", Invent. Math., 110 (1992), 371-388.

40. Goto M., Grosshans F., Semisimple Lie algebras, Marcel Dekker, 1978.

41. Hochschild G., The structure of Lie groups, Holden-Day, 1965.

42. Isaev A.V., Krantz S.G.,, "On the automorphism groups of hyperbolic manifolds", J. Reine Angew. Math., 534 (2001), 187-194.

43. Каир W., "Reelle Transformationsgruppen und invariante Metriken auf komplexen Räumen", Invent. Math., 3 (1967), 43-70.

44. Винберг Э.Б., Онищик A.Jl., Семинар по группам Ли и алгебраическим группам, Наука, М., 1988.

45. Greene R.E., Krantz S.G., "Characterization of complex manifolds by the isotropy subgroups of their automorphism groups", Indiana Univ. Math. J., 34 (1985), 865-879.

46. Ганнинг P., Росси X., Аналитические функции многих комплексных переменных, Мир, М., 1969.

47. Hsiang W.C., Hsiang W.Y., "Some results on differentiable actions jour Bull. Amer. Math. Soc.", 72 (1966), 134-138.

48. Hsiang W.Y., "On the principal orbit type and P. A. Smith theory of SU(p) actions", Topology, 6 (1967), 125-135.

49. Klimyk A., Schmüdgen K.„ Quantum groups and their representations, Texts and Monographs in Physics, Springer-Verlag, Berlin, 1997.

50. Krüger A., "Homogeneous Cauchy-Riemann structures", Ann. Scuola Norm. Sup. Pisa CI. Sei. (4), 18 (1991), 193-212.

51. Кружилин Н.Г., Лобода A.B., "280-282.", Докл. АН СССР, 271 (1983).

52. Mukoyama К., "Smooth SU(p, q)-actions on (2p + 2q — l)-sphere and on the complex projective (p + q- 1)-space", Kyushu J. Math., 55 (2001), 213-236.

53. Nagano Т., "Transformation groups with (n — l)-dimensional orbits on non-compact manifolds", Nagoya Math. J., 4 (1959), 25-38.

54. Rossi H., "Attaching analytic spaces to an analytic space along a pseudoconcave boundary", Proc. Conf. Complex Analysis (Minneapolis, 1964), Springer-Verlag, 1965, 242-256.

55. Rossi H., "Homogeneous strongly pseudoconvex hypersurfaces", Proc. Conf. Complex Analysis Rice Univ. (Houston, 1972), Rice Univ. Studies, 59:1, 1973, 131-145.

56. Uchida F., "Smooth actions of special unitary groups on cohomology complex projective spaces", Osaka J. Math., 12 (1975), 375-400.

57. Bochner S., Ann. of Math., 39 (1938), 14-19.

58. Kodama A,, Sei. Rep. Kanazawa Univ., 29 (1984), 91-95.

59. Чирка E.M., Комплексные аналитические множества, Наука, M., 1985.

60. Nemirovski S., Turkish J. Math., 27 (2003), 161-172.