О свойствах предельных множеств пространственных отображений тема автореферата и диссертации по математике, 01.01.01 ВАК РФ

Московский государственный университет имени М. В. Ломоносова Механико-математический факультет

На правах рукописи УДК 517.98

Дорофеев Максим Александрович

О СВОЙСТВАХ ПРЕДЕЛЬНЫХ МНОЖЕСТВ ПРОСТРАНСТВЕННЫХ ОТОБРАЖЕНИЙ

специальность 01.01.01 — математический анализ

АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата физико-математических наук

Москва 2009

003464260

Работа выполнена на кафедре математического анализа Механико-математического факультета Московского государственного университета имени М.В.Ломоносова.

Научный руководитель:

доктор физико-математических наук, профессор

Валериан Иванович Гаврилов

Официальные оппоненты: доктор физико-математических наук,

профессор

Владимир Николаевич Сорокин (МГУ имени М. В. Ломоносова)

кандидат физико-математических наук, старший научный сотрудник Алексей Владимирович Субботин (ОАО РКК "Энергия")

Московский технический университет связи и информатики

Ведущая организация:

Защита диссертации состоится 27 марта 2009 г. в 16 час. 40 мин. на заседании диссертационного совета Д.501.001.85 при Московском государственном университете имени М.В. Ломоносова по адресу: Российская Федерация, 119991, Москва, ГСП-1, Ленинские горы, д. 1, МГУ, механико-математический факультет, ауд. 16 - 24.

С диссертацией можно ознакомиться в библиотеке механико-математического факультета МГУ имени М.В. Ломоносова (Главное здание, 14 этаж).

Автореферат разослан 27 февраля 2009 г.

Учёный секретарь диссертационного совета Д.501.001.85 при МГУ, доктор физико-математических наук, профессор

И.Н. Сергеев

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность темы

Теория предельных множеств, к которой принадлежит настоящая диссертация, оформилась как самостоятельная область комплексного анализа на рубеже 19-го и 20-го веков и плодотворно и активно развивается по настоящее время. Определяющий вклад в теорию был внесен отечественными математиками и математиками Московского университета. Итоги достижений в теории и ее приложениях в определенные этапы ее развития подведены в широко известных в нашей стране и за рубежом монографиях И.И.Привалова1, К.Носиро2, Э. Коллингвуда и А. Ловатера3, А. Ловатера4.

С самого момента своего создания теория предельных множеств впитывает в себя идеи и методы из многих параллельно развивающихся областей комплексного анализа (например, теории распределения значений аналитических функций) и других математических дисциплин (теории функций действительного переменного, функционального анализа, геометрии и топологии), принося, со своей стороны, в них плодотворные приложения и получая дальнейшее развитие (см., например, С.М.Никольский5).

На первых этапах развития теории (до середины 20-го века), когда были получены теперь уже классические ее основополагающие результаты, основной интерес был сосредоточен на изучении граничного поведения функций вдоль путей и ограниченных ими областей, подходящих к границе некасательным образом; это же требовалось для приложений теории.

При этом одним из вопросов, представляющим интерес было изучение множества особых точек функции, т.е. таких точек, для которых найдутся хотя бы два несовпадающих предельных множества по различным областям подхода. В частности, было установлено, что множества особых точек не только имеют лебегову меру нуль, но

'Привалов И. И. Граничные свойства аналитических функций. М.-Л., 1950.

2Носиро К. Предельные множества. М.: ИЛ, 1963, 252 с.

3Коллингвуд Е. Ф., Ловатер А. Дж. Введение в теорию предельных множеств: М. Мир, 1970.

4Ловатер А. Граничное поведение аналитических функций. Итоги науки и техники. Математический алализ.- ВИНИТИ, 1973, т.10, с. 90-259.

5Никольский С. М. Граничные свойства функций, определенных на области с угловыми

точками: Мат. сб., 1956, т. 40 (82), с. 303-318.

и являются собственными подмножествами множества меры нуль. Для характеристики множества особых точек Е.П. Долженко6 были введены понятия пористого и а—пористого множества, а еще более тонкой характеристикой этого множества явилось понятие совершенного а—пористого множества, введенное C.B. Колесниковым7. Им было дано полное дескриптивное описание угловых особых множеств на плоскости. Для случая пространственных отображений этот результат был обобщен Ю.А. Шевченко8.

Начиная с третьей четверти 20-го века, отчасти в связи с открывающимися возможностями приложений теории к алгебраическим проблемам (анализ структур предельных множеств дискретных групп и другим), значительно возрос интерес к изучению граничного поведения функций при касательном подходе к границе.

Строение предельных множеств функций по криволинейным углам и путям изучалось в работах В.И. Гаврилова и др.9, М.М.Мирзояна10, Д.К. Ранга11, в этом же направлении получены результаты в работе А. Хассана12.

Дальнейшему развитию данного направления в теории предельных множеств посвящена настоящая диссертация.

Автором также рассматриваются приложения полученных результатов для предельных множеств дискретных групп, а именно, фуксовых групп.

При изучении эргодических свойств действия фуксовой группы на границе оказалось, что описание таких свойств удобно производить в терминах различного рода подмножеств предельного множества

"Долженко Е.П. Граничные свойства произвольных функций: Известия АН СССР, сер. матем., 1967, т. 31, № 1, с. 3-14.

тКолесников C.B. Об особых граничных точках аналитических функций: Математические заметки, 1980, т. 28, № 6, с. 809-819.

'Шевченко Ю.А. О граничном поведении произвольных функций, определенных в полупространстве: Математические заметки, 1989, т. 46, выл. 5, с. 80-88.

9Гаврилов В.И., Канатников А.Н., Кравцев C.B., Симушев A.A. Теоремы о максимальности для пространственных отображений и некоторые приложения: ДАН СССР, 1986, т. 289, № 4, с. 780-784.

10Мирзоян M. М. О теоремах максимальности для произвольных v мероморфиых функций по касательным направлениям: ДАН Арм. ССР, 1978, т. 66, № 4, с. 200-204.

"Rung D.C. Meier type theorems for genera! boundary approach and a-porous exceptional sets: Pacif. J. Math., 1978, v. 76, № 1, pp. 201-213.

1гХассан Абду Аль-Рахман О предельных множествах вдоль произвольных граничных путей: ДАН СССР, 1981, т. 260, № 4, с. 777-780.

рассматриваемой группы. В этом направлении автором уточнен результат C.B. Кравцева13, характеризующий множество точек Гарнетт фуксовой группы и получена характеристика множества точек Гарнетт фуксовых групп в пространстве Е".

Цель работы

Целью работы является изучение видов особых точек на границе плоских и пространственных областей, порождаемых предельными множествами функций и отображений в топологические пространства при различных типах касательных подходов к границе, и в приложении новых результатов к теории дискретных групп.

Методы исследования

В работе используются методы математического анализа и теории функций комплексного переменного.

Научная новизна

Результаты диссертации являются новыми и получены автором самостоятельно. Основные результаты диссертации состоят в следующем:

1. Доказана характеристика множества особых точек на границе плоских и пространственных областей, порождаемых предельными множествами отображений в топологические пространства вдоль обобщенных углов и обобщенных круговых областей, определяемых стандартным видом касательного подхода к границе. Установлена ее неулучшаемость в классе ограниченных непрерывных функций нескольких действительных переменных.

2. Даются некоторые характеристики множества всех особых точек в случае других функций подхода.

3. Рассмотрены приложения полученных результатов для предельных множеств дискретных групп; в частности, уточнена структура широко известного множества точек Гарнетт фуксовых групп на плоскости.

13Кравцев C.B. Метрические и категорные свойства подмножеств предельного множества фуксовой группы: Успехи матем.наук, 1984, т.39, вып. 6, с. 197-198.

Теоретическая и практическая ценность

Диссертация носит теоретический характер. Ее результаты и методы могут быть использованы специалистами в области мтематического анализа и теории функций комплексного переменного.

Апробация диссертации

Результаты диссертации докладывались

1. на научно-исследовательском семинаре "Предельные множества"под • руководством д.ф.-м.н., профессора В.И. Гаврилова в МГУ, неоднократно, 1994-2009 гг.;

2. на межкафедральном семинаре МГИЭМ под руководством д.ф.-м.н., профессора В.Л. Попова, Москва, неоднократно, 1999-2009 гг.;

3. на международной конференции "Вопросы функционального анализа и математической физики", Баку, 1999 г.;

4. на международном симпозиуме "Ряды Фурье и их приложения", Ростов-на-Дону, 1999 г.;

5. на 16-ой международной конференции "Математика. Компьютер. Образование", г. Пущино, январь, 2009 г.

Публикации

Основные результаты диссертации опубликованы в четырех работах, список которых приведен в конце автореферата ([1] - [4]).

Структура и объем работы

Диссертация состоит из введения, двух глав и списка литературы. Текст диссертации изложен на 78 страницах. Список литературы содержит 56 наименований.

КРАТКОЕ СОДЕРЖАНИЕ РАБОТЫ

Введение. Во введении дана краткая историческая справка и сформулированы ключевые результаты, полученные автором.

Глава 1. В первой главе "Характеристика множества особых граничных точек произвольной функции"автором рассматривается произвольный, в том числе и касательный, подход к граничным точкам по различным семействам криволинейных углов. Изучаются также

произвольные отображения К" в регулярное локально компактное пространство со счетной базой. Рассматриваются также свойства совершенных сг-пористых множеств, связанные со свойствами множества особых точек пространственных отображений.

В параграфе 1 приведены некоторые необходимые определения и вспомогательные результаты.

В параграфе 2 рассматривается случай комплекснозначной функции /, определенной в С+. Изучается касательный подход по криволинейным углам, определяемым окружностями. Доказано, что в этом случае множество особых точек функции / является сг-пористым и является подмножеством совершенного сг-пористого множества. Тот же результат справедлив и в случае аналитической функции.

В параграфе 3 рассматриваются произвольные отображения в локально компактное хаусдорфово топологическое пространство со счетной базой. Предельные множества рассматриваются по областям [/, являющимися внутренностью эллипсоида и областям V, являющимися криволинейными углами, образованными двумя эллипсоидами. Показано, что множество всех 1/У-особых точек является совершенным сг-пористым, т.е. доказана следующая

Теорема 1.3.6. Для произвольной функции /: —> Р множество Е(/), является совершенным сг-пористым.

Также верна обратная

Теорема 1.3.11. Пусть множество Е С сЖ+ является совершенным сг—пористым. Тогда существует неотрицательная, ограниченная и непрерывная в функция д, для которой Ецу(д) = Е.

Данную теорему можно обобщить на произвольное локально компактное метрическое пространство со счетной базой, содержащее хотя бы одно множество, гомеоморфное отрезку.

Теорема 1.3.12. Для того, чтобы множество Е С сЖ+ было 11У-особым множеством некоторого отображения (а также [7У-особым множеством некоторого непрерывного, ограниченного отображения) Р положительного полупространства М+ в произвольное локально компактное метрическое пространство со счетной базой, содержащее хотя бы одно множество, гомеоморфное отрезку, необходимо и достаточно, чтобы это множество Е являлось совершенным сг-пористым.

Полученные в этом параграфе результаты обобщают результаты теорем Ю.А. Шевченко в пространстве на случай, когда области подхода функции касаются границы.

В четвертом параграфе диссертации изучаются произвольные функции подхода и предельные множества по различным задаваемым ими семействам.

Опишем эти семейства функций подхода. Пусть в = Л(£) определена, непрерывна и строго возрастает на отрезке [0,1], причем в = Л(£) < £ при 0 < £ < 1, 'а также Л(0) = 0, к(1) = 1. Такая функция называется функцией подхода. Для построения областей рассматривается обратная функция £ = //(в). Используемые в работе семейства функций получаются преобразованиями сжатия функции /¿(я) относительно координатных осей. Полученные три семейства получаются с помощью трех типов сжатия. А именно, сжатие относительно оси £ с параметром а, т.е. ¿^(а, й) = а/х(в), сжатие относительно оси в с параметром а, т.е. ц2(0,5) = ц(аз) и сжатие относительно обеих осей с взаимнообратными параметрами, в) = а/х(в/а). Параметры

предполагаются рациональными и положительными.

В пространстве К" рассматриваются круговые и угловые области, т.е. такие, проекции которых на Ж" лежат в соответствующем (п — 1)—мерном шаре. А именно, для заданной функции подхода рассмотриваются следующие области:

А; = Д-(£, С, щ, а, Ь) = {(х°; хп) 6 1Г | | € Я-1 (*>; п *") ) ; (я0; *») е Ц С, }, V; = же./к.м) = {(*°;*п) е М" | а,хп) < - < №(Ь,®П)},

Яг = = {(х°;х") е Е" I |а;0 -£| < н{а,хп)},

где г = 1,2,3 и 0 < а < Ь.

Для каждой из этих областей и произвольной точки £ £ Ж", предельной, для данного множества, можно рассмотреть предельные множества С(/,£, £), и множества особых точек Езт — Дзг(/); где 5, Т— области вида Д-, У{, <Эг-

Доказана следующая

Теорема 1.4.6. Для любой функции подхода h и любого отображения /: Е" —>■ Р, где Р — регулярное локально компактное топологическое пространство со счетной базой, множества д,, Ед^, EaiVh •S'QiVd Eq1Qi> ЕуjVi являются совершенными а—пористыми.

В качестве следствия теоремы 1.4.6 получен следующий результат

Следствие 1.4.13. Если функция подхода h(t) имеет в точке О первый порядок касания с осью t, то множество особых точек отображения /: R" У, где Y — регулярное локально компактное топологическое пространство со счетной базой, относительно семеств QiQu QiVi, ViVi, AiAi, AiQi, AiVi при г = 1,2,3 является совершенным ст-пористым.

Еще одним следствием теоремы 1.4.6 является следующая теорема, которая обощает результат C.B. Колесникова и дополняет, тем самым, результат параграфа 2.

Теорема 1.4.14. Для функции / : С+ —> С множество особых точек в случае подхода по криволинейным углам, образованным окружностями является совершенным сг-пористым.

Далее автором показано, что в случае ограниченных и непрерывных функций в R" данная характеристика является неулучшаемой.

Теорема 1.4.15. Пусть множество Е С сЖ" является совершенным а—пористым. Тогда существует неотрицательная, ограниченная и непрерывная в R" функция д, для которой Eq1q1 — Eq,vi = Eqxaj = EaîV, = Evj v, = EaiA^ = E.

Глава 2. Во второй главе "Характеристика множества точек Гарнетт" рассматриваются приложения результатов к изучению предельных множеств дискретных групп, в частности, предельных множеств фуксовых групп. Уточняется структура широко известного множества точек Гарнетт фуксовых групп на плоскости, а именно, доказано, что множество точек Гарнетт произвольной фуксовой группы на плоскости является совершенным а—пористым. Этот результат обобщается на случай фуксовых групп в R", т.е. когда фуксова группа является подгруппой мебиусовых преобразований.

Благодарности

Автор благодарит своего научного руководителя профессора Валериана Ивановича Гаврилова за постановку задачи, постоянное внимание к работе и поддержку, а также сотрудников кафедры математического анализа.

Список литературы

[1] Дорофеев М.А. Характеристика множества особых граничных точек произвольной функции для случая касательного подхода. Доклады РАН, 2009, т. 424, № 6, с. 732-733 (журнал входит в перечень ведущих рецензируемых научных журналов и изданий, в которых должны быть опубликованы основные научные результаты диссертаций на соискание ученой степени доктора и кандидата наук).

[2] Дорофеев М. А. Об особых граничных точках функций. Материалы международной конференции "Вопросы функционального анализа и математической физики", Баку, изд. "Чашыоглы", 1999, с. 260-268.

[3] Дорофеев М.А. Характеристика множества точек Гарнет фуксовой группы, действующей на полуплоскости. Международный симпозиум "Ряды Фурье и их приложения", тезисы докладов, Ростов-на-Дону, 1999, с. 58-59.

[4] Дорофеев М. А. О некоторых множествах особых граничных точек функции в пространстве. Тезисы международной конференции "Математика. Компьютер. Образование", Пущино, вып. 16, изд-во "Регулярная и хаотическая динамика", Москва-Ижевск, 2009, с. 22.

Издательство ЦПИ при механико-математическом факультете МГУ имени М. В. Ломоносова

Подписано в печать -19. О2,09 Формат 60x90 1/16. Усл. печ. л. Тираж /00 экз. Заказ {{

Отпечатано с оригинал-макета на типографском оборудовании механико-математического факультета

Введение.

Глава 1. Характеристика множества особых граничных точек произвольной функции.

§1. Основные понятия и определения.

§2. Особые граничные точки комплекснозначных функций.

§3. Некоторые свойства совершенных <т-пористых множеств в!3.

§4. Особые точки пространственных отображений для различных функций подхода.

Глава 2. Характеристика множества точек Гарнетт.

В настоящее время теория граничных свойств функций весьма обширна и разветвлена. Различные ее разделы связаны с теорией потенциала, теорией тригонометрических рядов, теорией интегрирования, теорией распределения значений аналитических и мероморфных функций, теорией однолистных и конфорных отображений, теоретико-множественной топологией, функциональным анализом и теорией меры.

Основы теории граничных свойств аналитических функций были заложены работами П.Пенлеве ([48,49]) и П. Фату [42] в конце 19-го в начале 20-го века.

Общими и внутренними свойствами функций, определенных в некоторой области являются хорошо определенные граничные свойства. Плодотворным методом исследования многих граничных задач является теория предельных множеств. Основателем теории предельных множеств является П.Пенлеве, который в 1895 г. [48] первым дал название — область неопределенности и определение новому математическому понятию множества предельных точек функции в граничной точке ее области определения. Это множество теперь называется предельным множеством функции в рассматриваемой точке. Пенлеве ввел в рассмотрение предельные множества для наглядной характеристики поведения аналитической функции вблизи ее особой точки в терминах свойств множества всех ее предельных значений в этой точке, а также для классификации особенностей функции в терминах этих предельных множеств.

Существенное развитие эта теория получила в первую треть 20-го века, прежде всего благодаря работам Данжуа [40], Каратеодори [39], Лузина и Привалова [19], Ф. и М. Риссов [54], Голубева [7], Неванлинны [22], Гросса [44], Плеснера [50].

После некоторого затишья, длившегося примерно до 1950 г., теория граничных свойств стала вновь развиваться, используя новые идеи и методы и распространилась на новые объекты. С этого времени появились сотни работ, посвященных разным аспектам теории.

Из крупных работ русских авторов, посвященных теории граничных свойств аналитических функций необходимо прежде всего упомянуть монографии И.М.Привалова "Интеграл СаисЬу"и "Граничные свойства аналитических функций" ([26], [27]).

Классические основы теории граничных свойств излагаются в книге Г.М. Голузина "Геометрическая теория функций комплексного переменного" (главы 9, 10 [8]).

Монографии К. Носиро "Предельные множества"[25] и Э. Коллингвуда и Л.Ловатера "Теория предельных множеств"[15] посвящены результатам, полученным после 1950 г. и в значительной мере дополняют друг друга.

Этой же тематике посвящена монография В.В.Голубева "Однозначные аналитические функции с совершенным множеством особых точек"[7], изданная в 1961 г. вместе с двумя другими его работами. В этой работе В.В. Голубев получил результаты, часть которых позже передоказывалась рядом автором — иногда даже в более слабой-форме. Им, в частности, было показано, что для любого континуума К комплексной плоскости и любой точки С окружности Г существует функция f(z), аналитическая и однолистная в круге D С С, множество всех предельных значений которой в точке С совпадает с К: C(D,(,f) = К. В работах Н.Н.Лузина [19] и И.И.Привалова ([27],[28]) (1918 г. и позже), посвященных граничным теоремам единственности для аналитических функций, были развиты методы, ставшие общепринятыми в теории граничных предельных множеств. С помощью этих методов в 1927 г. А.И.Плеснер [50] установил следующее замечательное утверждение: для мероморфной в D функции f(z) почти в каждой точке ( Е Г или существует предел по любому углу V^, образованному хордами круга D с концами в или предельное множество функции f(z) в точке £ по любому такому углу является расширенной комплексной плоскостью. Отсюда следует, что для мероморфной функции f:D—$ С множество Eyv{f) всех VV-особых точек, т.е. таких точек, для которых найдутся хотя бы два несовпадающих предельных множества по различным углам, имеет меру нуль. Для произвольных комплекснозначных функций f{z), z Е D, Э. Коллингвудом (1955 г.) [45] было показано, что множество Evv (/). имеет первую беровскую категорию на Г, т.е. представимо в виде конечной или счетной суммы множеств, нигде не плотных на Г. Граничные свойства функций на областях с углами и угловыми точками рассмотрены

C.М.Никольским ([23],[24]). Е.П.Долженко для произвольных функций был получен существенно более сильный результат (1967 г.) ([10],[11]). Именно, для произвольного отображения / полупространства Ж в сепарабельное метрическое пространство множество Eyvif) представимо в виде счетного объединения пористых множеств типа Gs, откуда следует, что Eyvif) всегда имеет первую бэровскую категорию и (п — 1)-мерную лебегову меру нуль. С другой стороны, им доказано, что для всякого а—пористого множества Е С Г существует такая ограниченная аналитическая функция f(z), г Е

D, что Е С Eyvif) > и что Для всякого с-пористого множества типа Fa существует ограниченная аналитическая функция f(z), z Е D, для которой Е = Eyvif)- С.В. Колесников (1980 г.) ([13],[14]) показал, что необходимым и достаточным условием для совпадения множества Е С <9С+ с УК-особым множеством некоторой комплекснозначной функции f(z), определенной в С+ (а также УК-особым множеством некоторой ограниченной аналитической в С+ функции /(я)), является условие где каждое множество Fk С <ЭС+ замкнуто, a p(Fk) — множество всех его нетривиальных точек пористости. Тем самым было дано полное дескриптивное описание УУ-особых множеств отбражений /: С+ —> С. Отметим, что методы последней работы существенно опираются на двумерность С+ и не обобщаются на n-мерный случай. Отметим также, что во всех рассмотренных работах множества максимальности подходят к границе некасательным способом.

Строение предельных множеств функций комплексного переменного,

00

1) к=1 определенных в круге, по криволинейным углам и путям изучали В.И.Гаврилов [3], S. Jamashita, Ж.С.Оганесян, D.С. Rung [55] и др.

В работе Е.П.Долженко [11] его результаты для аналитических функций были распространены на случай отображений n-мерных областей с гладкой границей в произвольное сепарабельное метрическое пространство.

Множества введенные С.В. Колесниковым, определенные условием (1), получили в дальнейшем название совершенных сг-пористых ([13],[14]).

Развитие этого направления изучения особых граничных точек функции имеет, таким образом, в настоящее время, три направления, которые могут между собой пересекаться. Это, во-первых, изучение строения предельных множеств функций по криволинейным углам, т.е. при касательном подходе к границе. Во-вторых, распространение результатов, полученных для аналитических функций на случай других классов функций и пространственных отображений топологических пространств. И, в-третьих, изучение связи совершенных сг-пористых множеств с различными множествами особых точек функций.

В первом направлении уже упоминались работы ([3],[55]), а также в работах ([4],[5],[20],[29]), где рассмотрены произвольные функции подхода.

Во втором направлении Ю.А. Шевченко изучал W-особые точки произвольных отображений полупространства R™, (n ^ 2) в локально компактное хаусдорфово топологическое пространство со счетной базой ([30],[31]). Им было доказано, что в этом случае множество Evv(f) особых точек отображения является совершенным сг-пористым. В этом же направлении получены результаты в работах ([29],[55]), где рассматривались отображения R™ в сферу Римана и случай произвольной функции подхода, работа [20], где изучен случай криволинейных углов, образованных степенными функциями ta при а ^ 1. Более общий случай рассмотрен в работах ([4],[5]). В них изучаются произвольные функции подхода и произвольные отображения пространства R" в регулярное топологическое пространство со счетной базой, при этом, в частности, доказано, что для некоторых семейств углов, задаваемых этими функциями подхода множество особых граничных точек рассматриваемых отображений является ст-пористыми и в некоторых случаях имеют тип G§a.

К третьему направлению можно отнести работы ([36],[43]), а также работы ([30],[31]). Ю.А.Шевченко, в частности, было доказано, что для любого совершенного сг-пористого множества из Ж™ существует неотрицательная, ограниченная и непрерывная в М" функция, для которой это множество является множеством W-особых точек. Также им получен более общий результат для случая произвольного локально компактного метрического пространства со счетной базой, содержащего хотя бы одно множество, гомеоморфное отрезку.

Результаты диссертации можно отнести одновременно к трем направлениям. Автором рассматривается прооизвольпый, в том числе и касательный, подход к граничным точкам по различным семействам криволинейных углов. Изучаются также произвольные отображения R" в регулярное локально компактное пространство со счетной базой. Рассматриваются также свойства совершенных сг-пористых множеств, связанные со свойствами множества особых точек пространственных отображений.

Этим вопросам посвящена глава 1 диссертации. В первом параграфе этой главы приведены некоторые необходимые определения и вспомогательные результаты.

Во втором параграфе рассматривается случай комплекснозначпой функции /, определенной в С+. Изучается касательный подход по криволинейным углам, определяемым окружностями. Доказано, что в этом случае множество особых точек функции / является сг-пористым и является подмножеством совершенного сг-пористого множества. Тот же результат справедлив и в случае аналитической функции.

В третьем параграфе рассматриваются произвольные отображения М+ в локально компактное хаусдорфово топологическое пространство со счетной базой. Предельные множества рассматриваются по областям U, являющимися внутренностью эллипсоида и областям V, являющимися криволинейными углами, образованными двумя эллипсоидами. Показано, что множество всех UV-особых точек является совершенным ст-пористым теорема 1.3.6). Доказана также следующая

Теорема 1.3.11. Пусть множество Е С является совершенным а—пористым. Тогда существует неотрицательная, ограниченная и непрерывная в функция д(х), для которой Euv{g) = Е.

Данную теорему можно обобщить на произвольное локально компактное метрическое пространство со счетной базой, содержащее хотя бы одно множество, гомеоморфное отрезку.

Теорема 1.3.12. Для того, чтобы множество Е С было С/У-особым множеством некоторого отображения (а также UV-осовът множеством некоторого непрерывного, ограниченного отображения) F положительного полупространства R+ в произвольное локально компактное метрическое пространство со счетной базой, содержащее хотя бы одно множество, гомеоморфное отрезку необходимо и достаточно, чтобы это множество Е являлось совершенным сг-пористым.

Полученные в этом параграфе результаты обобщают результаты Ю.А. Шевченко в пространстве М^. в том случае, когда области подхода функции касаются границы.

В четвертом параграфе диссертации изучаются произвольные функции подхода и предельные множества по различным задаваемым ими семействам.

Опишем эти семейства функций подхода. Пусть s = h(t) определена, непрерывна и строго возрастает на отрезке [0,1], причем s = h(t) < t при 0 < t < 1, а также h(0) = 0, h(l) = 1. Такая функция называется функцией подхода ([4],[5],[29],[55]). Для построения областей рассматривается обратная функция t = /i(s). Используемые в работе семейства функций получаются преобразованиями сжатия функции /i(s) относительно координатных осей. Полученные три семейства получаются с помощью трех типов сжатия. А именно, сжатие относительно оси t с параметром а, т.е. /ii(a, s) = afi(s), сжатие относительно оси s с параметром а, т.е. s) = [i(as) и сжатие относительно обеих осей с взаимнообратными параметрами, (a, s) = aji{sfa). Параметры предполагаются рациональными и положительными.

В пространстве М" рассматриваются круговые и угловые области, т.е. такие, проекции которых на лежат в соответствующем (п — 1)-мерном шаре.

В.И. Гавриловым и другими авторами ([4],[5]) рассматривались семейства функций подхода первых двух типов. Доказано, что в случае отображения / полупространства R" в локально компактное топологическое пространство со счетной базой окрестностей и предельным множеством по двум парам областей множества особых точек отображения /, соответствующие этим областям являются сг-пористыми типа Gsa

Автором усилен этот результат для случая всех шести пар областей, образуемых тремя семействами функций подхода. А именно, доказано, что во всех шести случаях множество особых точек отображения / будет являтся не только сг-пористым типа Gsa, но и совершенным сг-пористым.

В этой же работе для случая предельных множеств для одного из видов областей, задаваемых функциями подхода второго типа множество особых точек такого же как и выше отображения / является сг-пористым типа Gsa при условии выпуклости вниз функции подхода и выполнении для нее определенного условия, не ограничивающего ее порядок малости в точке 0, а предполагающие определенную регулярность ее поведения.

В диссертации для четырех из шести возможных типов пар областей, задаваемых семействами функций подхода второго типа, доказано, что для упомянутого отображения / и выпуклой вниз функции подхода множества особых точек относительно этих четырех типов областей являются совешенными сг-пористыми.

Для случая областей, определенных семействами третьего типа получены результаты для некоторых частных случаев функций подхода.

В этом же параграфе дается полное дескриптивное описание шести классов множеств особых точек в случае отбражения М" в R. А именно, доказано, что множество Е С является совершенным сг-пористым в том и только том случае, когда существует неотрицательная, ограниченная и непрерывная в М" функция д, для которой одно из шести типов множеств особых точек функции д и функции подхода первого типа совпадает с Е.

Данный результат обобщается для случая непрерывного отображения R" в локально компактное банахово пространство.

С использованием теоремы 1.4.6 получен результат, обобщающий результат работы С.В. Колесникова о том, что множество W-особых точек функции /: С+ —Ь С является совершенным сг-пористым. Как было указано выше прямое обобщение доказательства С.В. Колесникова позволило получить лишь одностороннее включение множества особых точек в случае подхода по криволинейным углам, образованным двумя окружностями. Поскольку функция, задающая параболу, является функцией подхода, удовлетворяющей условиям теоремы 1.4.6, то множество особых точек для функции /: С+ —> С при подходе по областям, заключенным между двумя параболами, является совершенным сг-пористым. Тем самым получено полное усиление упомянутого результата С.В. Колесникова (теорема 1.4.14).

Отмстим также результат, связанный с подходом по семействам областей, порожденных гладкими кривыми (следствие 1.4.13). Доказано, что если функция подхода h{t) имеет в точке 0 первый порядок касания с осыо t, то множество особых точек отображения /: —у У, где

Y — регулярное локально компактное топологическое пространство со счетной базой относительно подхода по семействам областей любого из рассматриваемых типов является совершенным сг-пористым.

Во второй главе диссертации рассматриваются приложения результатов первой главы к изучению предельных множеств фуксовых групп.

Фуксова группа является дискретной группой голоморфных преобразований (открытого) круга К на сфере Римана, т.е. круга или полуплоскости на комплексной плоскости. Чаще всего в качестве К берут верхнюю полуплоскость или единичный круг.

В первом случае элементы фуксовой группы являются дробно-линейными преобразованиями с действительными коэффициентами, и фуксова группа представляет собой не что иное, как дискретную подгруппу группы PSL2. Во втором случае элементы фуксовой группы являются дробно-линейными с псевдоунитарными матрицами. Понятие фуксовой группы послужило основой для теории автоморфных функций, созданной А. Пуанкаре и Ф.Клейном ([51],[52]).

Фуксова группа, сохраняющая какую-либо точку в замыкании круга К или прямую в смысле геометрии Лобачевского, называется элементарной. Если Г — неэлементарная фуксова группа, то множество А(Г) предельных точек орбиты точки х £ К, лежащее на граничной окружности дК, не зависит от ж и называется предельным множеством группы Г.

Одной из центральных задач теории фуксовых групп является задача изучения предельных множеств таких групп.

При изучении эргодических свойств действия фуксовой группы на границе единичного круга выяснилось, что описание таких свойств удобно производить в терминах множеств орициклических предельных точек, точек Гарнетт и других подмножеств предельного множества рассматриваемой группы. Эти подмножества оказалось естественным выделять в соответствии с тем, каким образом Г-орбиты точек единичного круга приближаются к точкам предельного множества группы Г.

С.В. Кравцевым в работах ([16],[17]) было доказано, что множество точек Гарнетт произвольной фуксовой группы преобразований на сфере Римана является сг-пористым.

В диссертации показано, что данный результат допускает усиление, а именно множество точек Гарнетт произвольной фуксовой группы является совершенным сг-пористым. Доказательство этого результата основано на теореме 1.4.6.

В диссертации также рассмотрены фуксовы группы в пространстве Кп. В этом случае фуксову группу можно определить как группу мебиусовых преобразований, для которой существует инвариантный шар, в котором эта группа действует разрывно, т.е. неподвижные точки фуксовой группы лежат на границе инвариантного шара. Автором доказано, что в этом случае множество точек Гарнетт произвольной фуксовой группы является совершенным сг-пористым.

Основные результаты автора опубликованы и докладывались на международных конференциях ([32] - [35]).

В заключении автор пользуется случаем выразить глубокую благодарность своему научному руководителю профессору В.И. Гаврилову за постановку задачи, постоянное внимание к работе и поддержку.

1. Бердон А. Геометрия дискретных групп. М.: Наука, 1986. — 299 с.

2. Гаврилов В. И. О множестве угловых граничных значений нормальных мероморфных функций: ДАН СССР, 1961, т. 141, № 3, с. 525-526.

3. Гаврилов В. И. Пределы по непрерывным кривым и по последовательностям точек мероморфных и обобщенных мероморфных в единичном круге функций: Вестник МГУ, сер. матем. 1964, № 1, с. 14-55.

4. Гаврилов В. И., Канатников А.Н., Кравцев С. В., Симушев А. А. Теоремы о максимальности для пространственных отображений и некоторые приложения: Математички Весник, 1986, т. 38, с. 437-450.

5. Гаврилов В. И., Канатников А.Н., Кравцев С. В., Симушев А. А. Теоремы о максимальности для пространственных отображений и некоторые приложения: ДАН СССР, 1986, т. 289, № 4, с. 780-784.

6. Гарнетт До/с. Ограниченные аналитические функции. М.: Мир, 1984.

7. Голубев В. В. Однозначные аналитические функции. Автоморфные функции. Физматгиз, М., 1961.

8. Голузин Г. М. Геометрическая теория функций комплексного переменного. М.: Наука, 1966.

9. Доло/сенко Е. П. О граничных теоремах единственности и о поведениии аналитических функций вблизи границы: Докл. АН СССР, 1959, т. 129, № 1, с. 23-26.

10. Доло/сенко Е. П. Граничные свойства аналитических и гармонических функций: Дис. канд. физ.-мат. наук, М., 1964.

11. Доло/сенко Е.П. Граничные свойства произвольных функций: Известия АН СССР, сер. матем., 1967, т. 31, № 1, с. 3-14.

12. Хассан Абду Аль-Рахман О предельных множествах вдоль произвольных граничных путей: ДАН СССР, 1981, т. 260, 4, с. 777-780.

13. Шевченко Ю.А. О граничном поведении произвольных функций, определенных в полупространстве: Математические заметки, 1989, т. 46, вып. 5, с. 80-88.

14. Шевченко Ю.А. Граничные свойства многомерных отображений: Дис. канд. физ.-мат. наук, М., 1991. — 76 с.

15. Дорофеев М. А. Об особых граничных точках функций. Материалы международной конференции "Вопросы функционального анализа и математической физики", Баку, изд. "Чашыоглы", 1999, с. 260-268.

16. Дорофеев М. А. О некоторых множествах особых граничных точек функции в пространстве. Тезисы международной конференции "Математика. Компьютер. Образование", вып. 16, Пущино, 2009, с. 22.

17. Abdu Al-Rahman Hassan., Gavrilov V. I. The set lindelof points for mero-morphic functions: Математички Весник, т. 40(1988), с. 181-184.

18. Beardon A. F. Fundamental domains for Klainian groups: Ann. Math. Studies, 1974, № 79, pp. 31-41.

19. Beardon A. F., Nicholls P. J. Ford and Dirichlet regions for Fuchsian groups: Canad. J. Math., 1982, v. 34, № 4, pp. 806-815.

20. Caratheodory C. Vorlesungen liber reele Funktionen, Leipzig, 1927.