Глобальная динамика каскадов Морса-Смейла на 3-многообразиях тема автореферата и диссертации по математике, 01.01.02 ВАК РФ

005004524

Починка Ольга Витальевна

ГЛОБАЛЬНАЯ ДИНАМИКА КАСКАДОВ МОРСА-СМЕЙЛА НА З-МНОГООБРАЗИЯХ

Специальность 01.01.02 - дифференциальные уравнения, динамические системы и оптимальное управление

Диссертация на соискание ученой степени доктора физико-математических наук

Научный консультант: доктор физико-математических наук, профессор Гринес В. 3.

- 1 ЛЕН 2011

НИЖНИЙ НОВГОРОД, 2011

005004524

Работа выполнена на кафедре теории функций Нижегородского государственного университета им. Н.И.Лобачевского

Научный консультант:

Доктор физико-математических наук, профессор В.З. Гринес (Нижний Новгород)

Официальные оппоненты:

доктор физико-математических наук, профессор А.Ю. Жиров (пгт. Монино Щелоковского р-на Московской обл.)

доктор физико-математических наук, профессор С.Ю. Пилюгин (г. Санкт-Петербург)

доктор физико-математических наук, профессор Е.А. Сатаев (г. Обнинск Московской обл.)

Ведущая организация:

Математический институт им. В.А. Стеклова Российской академии наук

Защита состоится 22 декабря 2011 г. в 14 часов 30 минут на заседании диссертационного совета Д 212.166.06 в Нижегородском государственном университете имени Н. И. Лобачевского по адресу: 603950, г. Нижний Новгород, пр. Гагарина, 23, корп. 2, конференц-зал.

С диссертацией можно ознакомиться в фундаментальной библиотеке Нижегородского Государственного университета им. Н.И. Лобачевского (603950, г. Нижний Новгород, пр. Гагарина, 23)

С текстом автореферата можно ознакомиться на официальном сайте Нижегородского Государственного университета им. Н.И. Лобачевского http://www.unn.ru

Автореферат разослан

Ученый секретарь диссертационного совета

(В.И. Лукьянов)

Общая характеристика работы

Предмет исследования. Настоящая диссертация лежит в русле современных проблем качественной теории динамических систем, восходящих к классическим работам А. Пуанкаре, A.M. Ляпунова, И. Бендиксона, Дж. Бнркгофа и се тематика является традиционной для Нижегородской школы теории нелинейных колебаний, основанной академиком A.A. Андроновым. Диссертация посвящена актуальным вопросам исследования структурно устойчивых динамических систем с конечным неблуж-даюшим множеством на З-многообразиях. Среди решаемых в диссертации проблем первостепенное место занимает топологическая классификация таких каскадов и, тесно связанные с ней проблемы глобальной динамики, среди которых основное место занимает проблема существования гладкой (глобальной) функции Ляпунова, свойства которой наиболее тесно связаны с динамикой системы и проблема включения каскада в топологический поток. Содержание диссертации охватывает исследования автора, начатые в 1999 году.

Актуальность темы. Динамические системы, исследуемые в диссертации являются моделями, адекватно описывающими многочисленные процессы с регулярным поведенном в естествознании и технике. Как оказалось, несмотря па отсутствие хаотического поведения траекторий, динамика блуждающих траекторий таких систем может быть весьма сложной, что связано как с возможностью существования гетеро-клинических пересечений инвариантных многообразий, так и с возможностью дикого вложения последних в несущее пространство. Это приводит к необходимости введения принципиально новых типов топологических инвариантов, контролирующих тонкие свойства систем, которые различают классы топологической сопряженности. На пути построения таких инвариантов возникают актуальные проблемы глобальной динамики, тесно связанные с существованием глобальных функций Ляпунова с прогнозируемыми свойствами и условиями включения каскада в топологический поток.

Диссертация является логическим продолжением результатов выдающихся математиков Нижегородской школы динамических систем, основанной A.A. Андроновым. Отправной точкой исследований диссертации является понятие грубой системы (системы дифференциальных уравнений в ограниченной части плоскости, не меняющей своих качественных свойств при малых изменениях правых частей), введенное в 1937 году A.A. Андроновым и Л.С. Понтрягиньш в работе "Грубые системы // Докл. АН СССР. 1937. Т. 14. Л"» 5. 247-250.", где они также указали необходимые и достаточные условия для того, чтобы система была грубой. В этом же году Е.А. Леонтович и А.Г. Майер1 сформулировали утверждение о том, что для некоторого класса дифференциальных уравнений, по аналогии с грубыми системами, существует конечное число траекторий, полностью определяющих качественную структуру разбиения фазового пространства на траектории. В 1939 году А.Г. Майер2 ввел понятие грубого преобразования окружности в окружность и установил возможные типы таких прсобразова-

1 Леонтович Е.А., Майер А.Г. О траекториях, определяющих качественную структуру разбиения сферы на траектории // Докл. АН СССР. 1937. Т. 14. № 5. 251-257.

2Майер А.Г. Грубое преобразование окружности в окружность // Уч. Зап. ГГУ. 1939. Горький. Изд-во ГГУ. вып. 12. 215-229.

ний. В 1955 году в работе Е.А. Леонтович и А.Г. Майера3 были найдены необходимые и достаточные условия топологической эквивалентности потоков с конечным числом особых траекторий на плоскости и двумерной сфере. Обобщением этих результатов явилась топологическая классификация грубых потоков на поверхностях, полученная М. Пейкшото4.

Фундаментом для этого явились идеи А. Пуанкаре и И. Бендиксона, связанные с выделением тех траекторий, взаимное расположение которых однозначно задает качественную структуру разбиения фазового пространства динамической системы на траектории. Тот факт, что грубые потоки имеют лишь конечное число гиперболических состояний равновесия, конечное число замкнутых гиперболических траекторий и не содержат сепаратрис, соединяющих седловые состояния равновесия, а также незамкнутых устойчивых по Пуассону траекторий позволил свести задачу топологической классификации грубых потоков на поверхностях к комбинаторной проблеме. Утверждение об отсутствии сепаратрис, соединяющих седловые состояния равновесия, было доказано в основополагающей работе Андронова и Понтрягина, отсутствие же незамкнутых устойчивых по Пуассону траекторий у грубых потоков на плоскости и сфере непосредственно следует из топологии этих многообразий, а для потоков на ориентируемых поверхностях большего рода этот нетривиальный факт был доказан вначале А.Г. Майером для грубых потоков без состояния равновесия на двумерном торс, а затем — М. Пейкшото5 для грубых потоков на ориентируемых поверхностях любого рода.

У потоков (каскадов) на многообразиях размерности большей двух (соответственно, большей единицы) возможно наличие гомоклинических траекторий. А. Пуанкаре6 обнаружил сложную структуру множества траекторий, принадлежащих се окрестности, затем Д. Биркгоф7 исследовал двумерные сохраняющие площадь отображения и доказал наличие бесконечного множества периодических орбит в окрестности гомоклинической точки. Принципиальным примером, пролившим свет на отличие структурно устойчивых потоков (каскадов) на многообразиях размерности большей двух (большей единицы) от структурно устойчивых потоков на поверхностях, явился структурно устойчивый диффеоморфизм двумерной сферы, обладающий бесконечным множеством периодических орбит. Этот пример был построен С. Смейлом8 в 1961 году и получил название "подкова Смейла". Второе важнейшее открытие сделал Д.В. Аносов9 в 1962 году, установив структурную устойчивость геодезического потока на римановом многообразии отрицательной кривизны. Затем он ввел и доказал структурную устойчивость чрезвычайно важного класса систем, названных им У-системами и получивших позднее название потоков и диффеоморфизмов Аносова.

3Леонтович Е.А., Майер А.Г. О схеме, определяющей топологическую структуру разбиения на траектории // Докл. АН СССР. 1955. Т. 103. № 4. 557-560.

4Peixoto М. On the classification of flows on two-manifolds // Dynamical systems Proc. Symp. held at the Univ.of Bahia. Salvador. Brasil. 1971. M.Peixoto (ed.) N.Y.London: Acad, press. 1973. 389-419.

5Peixoto M. Structural stability on two-dimensional manifolds // Topology. 1962. V. 1. № 2.101-120.

Peixoto M. Structural stability on two-dimensional manifolds (a further remarks) // Topology. 1963. V. 2. № 2. 179-180.

6H. Poincare. Les methodes nouvells de la mecanique celeste, III. Paris. 1899.

7G. Birkhoff. On the periodic motions of dynamics // Acta math. 1927. V. 50. 359-379.

8Смеил С. Структурно устойчивый дифференцируемый гомеоморфизм с бесконечным числом периодических точек // Тезисы доклада на симпозиуме по нелинейным колебаниям. 1961. Киев. Институт математики АН УССР. 1-3; или Труды международного симпозиума по нелинейным колебаниям. 1963. Киев. Изд-во АН УССР. Т. II. 365-366.

9Аносов Д.В. Грубость геодезических потоков на компактных римановых многообразиях отрицательной кривизны // Докл. АН СССР. 1962. Т. 145. № 4. 707-709.

Обобщая это понятие, С. Смейл10 ввел в рассмотрение класс систем (систем, удовлетворяющих аксиоме А) с гиперболической структурой нсблуждающего множества, являющегося замыканием множества периодических точек. Нсблуждающсс множество систем из этого класса допускает разложение на конечное число замкнутых инвариантных базисных множеств, на каждом из которых система действует трап-зптнвно. Динамика системы на нетривиальном базисном множестве (но являющемся периодической орбитой или неподвижной точкой) сходна с поведением диффеоморфизма на неблуждающем множестве в примере "подкова Смейла".

Следует отметить, что первоначально, по аналогии с двумерной ситуацией, С. Смейл" в 19G0 году выделил в качестве претендента на множество всех структурно устойчивых потоков па многообразиях размерности большей двух класс потоков с конечным множеством гиперболических состояний равновесия, замкнутых траекторий и трансверсальньш пересечением устойчивых и неустойчивых многообразий этих траекторий. Позже С. Смейлом и Ж. Палнсом12 было доказано, что эти потоки действительно являются структурно устойчивыми, но уже в 1962 году сам же С. Смейл понял, что они не исчерпывают множества всех структурно устойчивых потоков (достаточно рассмотреть поток, являющийся надстройкой над диффеоморфизмом "подкова Смейла", который является структурно устойчивым потоком со счетным множеством периодических движений). Однако, в силу важности таких потоков, как с точки зрения приложений так и в силу того, что эти потоки обладают свойствами глубокой взаимосвязи динамики с топологией фазового пространства (в частности, для них имеют место неравенства Морса, установленные С. Смейлом) класс таких потоков подвергся весьма пристальному изучению, получив специальное название потоков Морса-Смейла. Чуть позже по аналогии с потоками был выделен класс дискретных динамических систем Морса-Смсйла, для которых неблуждающее множество гиперболично и конечно, а устойчивые и неустойчивые многообразия различных периодических точек пересекаются трансверсально.

Основной результат диссертации состоит в нахождении полной системы топо логических инвариантов для сохраняющих ориентацию диффеоморфизмов Морса-Смейла, заданных на гладких замкнутых ориентируемых 3-многообразиях. Как уже было упомянуто это направленно имеет большую предысторию, которую идейно можно описать следующим образом.

Класс эквивалентности потока Мореа-Смейла на окружности однозначно определяется числом его неподвижных точек. Для каскадов на окружности полный топологический инвариант содержится в работе А.Г. Майера 1939 года и состоит нз числа периодических орбит и числа вращения Пуанкаре. В 1955 году Е.А. Леонто-вич и А.Г. Майер в качестве полного топологического инварианта ввели схему потока с конечным числом особых траекторий на двумерной сфере. В 1971 году М. Пейк-шото формализовал понятие схемы Леонтович-Майера и доказал, что для потока на произвольной поверхности полным топологическим инвариантом является класс изоморфности ориентируемого графа, вершины которого находятся во взаимно однозначном соответствии с состояниями равновесия и замкнутыми траекториями, а

10Smale S. Differentiable dynamical systems // Bull. Amer. Math. Soc. 1967. V. 73. № 6. 747-817 (Пер. на рус. яз.: Смейл С. Дифференцируемые динамические системы // Успехи мат. наук. 1970. Т. 25. № 1. 113-185.)

uSmale S. Morse inequalities for a dynamical systems. Bull. Am. math. Soc. I960. V. 66. 43-49. [Русский перевод: сб. Математика. 1967. T. 11. No 4. 79-87.]

12Palis J. On Morse-Smale dynamical systems /,/ Topology. 1969. V. 8. -V» 4. 385-404.

Palis J., Smale S. Structural stability Theorems // Proceedings of the Institute on Global Analysis. American Math. Society. 1970. V. 14. 223-231 (Пер. на рус. яз. Теоремы структурной устойчивости // Математика. 1969. Т. 13. .V 2. 145-155.)

ребра соответствуют некоторым компонентами связности инвариантных многообразий состояний равновесия и замкнутых траекторий, при этом изоморфность графов включает в себя сохранение выделенных специальным образом подграфов13.

Хотя неблуждающее множество систем Морса-Смейла состоит из конечного множества периодических траекторий, блуждающее множество потока (каскада) на многообразии размерности большей двух (большей единицы) устроено, вообще говоря, значительно сложнее, чем в соответствующих динамических системах на многообразиях меньшей размерности. Это связано с возможностью пересечения устойчивых и неустойчивых многообразий седловых периодических траекторий. Так в работе В. Афраймовича и JI. П. Шильникова14 доказано, что ограничение потоков Морса-Смейла на замыкание множества гетероклинических траекторий сопряжено с надстройкой над топологической марковской цепью. Однако, для диффеоморфизмов поверхностей с конечным числом гетероклинических орбит, инварианта, подобного графу Пейкшото и оснащенного информацией о гетероклинических пересечениях, оказалось достаточно для описания полного топологического инварианта (А.Н. Безденежных, В.З. Гринес15). Аналогично для потоков с конечным числом особых траекторий на 3-многообразиях в качестве полного топологического инварианта вновь использовались конструкции, подобные схеме Леонтович-Майера и фазовой диаграмме С. Смейла (С.Ю. Пилюгин16, Я.Л. Уманский17). Классификационные результаты на языке графов Пейкшото и диаграмм Смейла имеются и в размерности п > 3: для потоков на сфере §™, в предположении, что эти потоки не имеют замкнутых траекторий и гетероклинических пересечений (С.Ю. Пилюгин); для градиентно-подобных диффеоморфизмов на М", все седловые точки которого имеют индекс Морса, равный единице (Гринес В.З., Гуревич Е.Я., Медведев B.C.18).

Таким образом, для всех упомянутых выше систем Морса-Смейла основным моментом для выделения класса топологической сопряженности (эквивалентности) являлось указание асимптотического направления инвариантных многообразий неподвижных точек и периодических орбит. Благодаря работам Д. Пикстона19, X. Бонат-ти и В.З. Гринеса20 стало ясно, что этой информации недостаточно для классифи-

13В работе "Ошемков A.A., Шарко В.В. О классификации потоков Морса-Смейла на двумерных многообразиях // Матсм. Сборник. 1998. Т.189. No. 8. 93-140. " была замечена неточность инварианта Пейкшото, связанная с тем, что изоморфизм графов не различает неэквивалентного расслоения на траектории областей ограниченных двумя периодическими орбитами.

14Афраймович В. С., Шильников Л. П. Об особых множествах систем Морса-Смейла // Труды ММО. 1973. Т. 28. 181-214.

15Безденежных А.Н., Гринес В.З. Динамические свойства и топологическая классификация градиентиоподобных диффеоморфизмов на двумерных многообразиях // Методы качественной теории дифференц. уравнений. Межвуз. темат. сб. научн. тр. под ред. Е.А. Лентович-Андроновой. Горький. Часть 1. 1985. 22-38; Часть 2. 1987. 24-32.

Гринес В.З. Топологическая классификация диффеоморфизмов Морса-Смейла с конечным множеством гетероклинических траекторий па поверхностях // Матем. заметки. 1993. Т. 54. вып. 3. 3-17.

16Пилюгин С.Ю. Фазовые диаграммы, определяющие системы Морса-Смейла без периодических траекторий на сферах// Дифференциальные уравнения. 1978. Т. 14. № 2. 245-254.

17Уманский Я.Л. Необходимые и достаточные условия топологической эквивалентности трехмерных динамических систем Морса-Смейла с конечным числом особых траекторий // Мат. сб. 1990. Т. 181. № 2. 212-239.

18Гринес В.З., Гуревич Е.Я. О диффеоморфизмах Морса-Смейла на многообразиях размерности большей трех // Доклады академии наук. 2007. Т. 416. No 1. 15-17.

Гринес В.З., Гуревич Е.Я., Медведев B.C. Граф Пейкшото диффеоморфизмов Морса-Смейла на многообразиях размерности большей трех // Труды математического института им. В.А. Стеклова. 2008. Т. 261. 61-86.

19Pixton D. Wild unstable manifolds // Topology. 1977. V. 16. № 2. 167-172.

20Bonatti Ch., Grines V. Knots as topological invariant for gradient-like diffeomorphisms of the

кации каскадов Морса-Смейла на 3-многообразиях. Причиной столь неожиданного эффекта оказалась возможность "дикого" поведения сепаратрис ссддовых точек. А именно, как выяснилось, замыкание сепаратрисы может отличаться от самой сепаратрисы всего одной точкой, но не являться при этом даже топологическим подмногообразием. Впервые диффеоморфизм с дикими сепаратрисами был построен Д. Пикстоном в 1977 году. Он использовал кривую Артина-Фокса для реализации инвариантных многообразий седловой неподвижной точки. Как показали X. Вонат-ти и В.З. Гршюс, в классе диффеоморфизмов Морса-Смейла трехмерной сферы с неблуждающим множеством, состоящим из четырех неподвижных точек: седла, одного источника и двух стоков, существует счетное множество топологически несо-нряженных. При этом полным топологическим инвариантом является тип вложения сепаратрис седловой неподвижной точки.

Эффективным инструментом, позволяющим различать тип вложения сепаратрисы является переход к пространству орбит части блуждающего множества, содержащего эту сепаратрису. При этом структура пространства блуждающих орбит является необходимой информацией в топологическом инварианте наряду с информацией об асимптотическом направлении инвариантных многообразий седловых периодических точек. Этой идеей связан цикл работ по топологической классификации диффеоморфизмов Морса-Смейла на 3-многообразиях российских и французских математиков X. Бонатти, В.З. Гринсса, B.C. Медведева, Е. Пеку, О.В. Починки. В упомянутой серии работ была решена задача топологической классификации диффеоморфизмов Морса-Смейла на 3-многообразиях, не имеющих либо гетероклшш-ческих точек, либо гетероклинических орбит. Основным результатом настоящей диссертации является полная топологическая классификация произвольных сохраняющих ориентацию диффеоморфизмов Морса-Смейла на замкнутых ориентируемых 3-многообразиях.

Дикое вложение сепаратрис седловых точек создает препятствие к включению диффеоморфизма Морса-Смейла / Е MS(Mn) в поток, то есть к существованию топологического потока Хг на Мп такого, что / является сдвигом на единицу времени вдоль траекторий потока X'. Из работ Ж. Палиса и С. Сыейла, в которых доказана структурная устойчивость диффеоморфизмов Морса-Смейла, следует, что для любого многообразия Мп существует открытое в Diff1 (AIn) множество диффеоморфизмов Морса-Смейла, включающихся в топологический поток. В работе Ж. Палиса также найдены необходимые условия включения диффеоморфизма / Морса-Смейла в топологических поток. Там же показано, что при п = 2 эти условия являются достаточными и поставлена задача обобщения этого результата на случай большей размерности. В настоящей диссертации разработана методика построения каскадов Морса-Смейла на 3-многообразиях, удовлетворяющих всем условиям Палиса, но не включающихся ни в какой топологический поток.

Эффект дикого заузлпвания сепаратрис был использован Д. Пикстоном в качестве контраргумента к утверждению о существовании энергетической функции Морса у любого каскада Морса-Смейла. Энергетическая функция динамической системы — это гладкая функция Ляпунова (функция, убывающая вдоль траекторий системы вне цепно рекуррентного множества и постоянная на цепных компонентах), не имеющая критических точек, отличных от цепно рекуррентного множества. К. Кон-ли21 в 1978 году доказал существование непрерывной функции Ляпунова у любой

sphere S3 // Journal of Dynamical and Control Systems (Plenum Press, New York and London). 2000. V. 6. № 4. 579-602.

21C. Conley. Isolated Invariant Sets and Morse Index // CBMS Regional Conference Series in Math. 1978. V. 38.

динамической системы и этот результат получил название фундаментальной теоремы динамических систем. В основе теоремы К. Конли лежит теория глобальных аттракторов и репеллеров, последовательное выделение которых позволяет построить непрерывную функцию Ляпунова. В настоящей диссертации для произвольных каскадов Морса-Смейла на п-многообразиях (п > 1) построена гладкая функция Ляпунова. Построенная функция является функцией Морса и ее регулярные линии уровня трансверсальны инвариантным многообразиям периодической точки в некоторой ее окрестности. Автором доказано, что такие функции, названные функциями Морса-Ляпунова, являются типичными среди гладких функций Ляпунова для диффеоморфизма Морса-Смейла / : Мп —> Мп.

Первые результаты по построению энергетической функции принадлежат С. Смейлу22, который в 1961 году доказал существование энергетической функции Морса у градиентно-подобного потока (потока Морса-Смейла без замкнутых траекторий). К. Мейер23 в 1968 году обобщил этот результат и построил энергетическую функцию Морса-Ботта для потока Морса-Смейла. Работа К. Мейера индуцировала М. Шуба24 и Ф. Такенса25 на выдвижение гипотезы о том, что энергетической функцией Морса обладают любые диффеоморфизмы Морса-Смейла. Первый результат в этом направлении принадлежит Д. Пикстону, который в 1977 году построил энергетическую функцию Морса для диффеоморфизмов Морса-Смейла на поверхностях. Там же он сконструировал, упоминавшийся выше как пример Пикстона, диффеоморфизм на 3-сфере, не обладающий энергетической функцией, и доказал, что такой эффект в этом примере связан с диким вложением сепаратрис седловых точек.

В настоящей диссертации найдены условия существования энергетической функции у любого диффеоморфизма Морса-Смейла / : М3 —> М3. Оказалось, что эти условия связаны с типом вложения одномерных аттракторов и репеллеров, состоящих из замыканий инвариантных многообразий седловых периодических точек. Факт существования функции Ляпунова и отсутствия энергетической функции приводит к понятию функции Ляпунова с минимальным числом критических точек, которая в диссертации названа квази-энергетической. Выделен содержательный класс каскадов Морса-Смейла на 3-многообразиях, не обладающих энергетической функцией, для которых построена квази-энергетическая функция.

Цель работы. Работа направлена на решение актуальных проблем, связанных с глобальным исследованием важного класса структурно устойчивых дискретных динамических систем на 3-многообразиях с конечным неблуждаюшим множеством. Приоритетной целью работы является получение полной системы топологических инвариантов, которые однозначно определяют класс топологической сопряженности и допускают реализацию, позволяющую моделировать системы с прогнозируемыми свойствами. Топологическая классификация неразрывно связана с исследованием глобальной динамики системы и вложения в объемлющее многообразие сепаратрис ее седловых периодических точек. Поэтому целью диссертации является также каноническое описание глобальной динамики произвольного каскада Морса-Смейла, нахождение критериев ручного вложения сепаратрис, а также выявление препятствий включению каскадов в поток. Одним из эффективных инструментов исследования глобальной динамики динамической системы является функция Ляпунова.

22Smale S. On gradient dynamical systems // Ann. Math. 1961. 199-206.

23K. R. Meyer. Energy functions for Morse-Smale systems // Amer. J. Math. 1868. V. 90. 1031-1040.

24M. Shub. Morse-Smale diffeomorphism are unipotent on gomology // Dynamical Systems. 1973. 489-491. (M. Peixoto, ed.). Academic Press, New York.

25F. Takens. Tolerance stability // Dynamical Systems. Warwick. 1974 (A. Manning, ed.). 293-304. Springer, Berlin-Heidelberg-New York. 1975.

Целью диссертации является построение гладкой функции Ляпунова для каскадов Морса-Смсйла, свойства которой тесно связаны с динамикой системы. А именно, нахождение необходимых и достаточных условий существования и построение энергетической функции, то есть функции Ляпунова, множество критических точек которой совпадает с неблуждающим множеством диффеоморфизма, а также построение квази-энергетической функции, то есть функций Ляпунова с минимальным числом критических точек.

Методы исследования. В диссертации разработаны новые методы исследования динамических систем Морса-Смсйла, основанные на применении классических методов качественной теории, алгебраической топологии и дифференциальной геометрии. Они позволяют описать топологические инварианты, появляющиеся в результате представления динамики произвольного диффеоморфизма Морса-Смейла в виде аттрактор-репеллер и исследовать характеристическое пространство блуждающих орбит, вместе с вложенными в него проекциями двумерных сепаратрис седло-вых периодических точек, образующими нетривиальные геометрические объекты — гетероклшшческие ламинации. Для решения проблемы реализации каскадов Морса-Смейла эффективно используется, разработанный в диссертации метод перестройки замкнутых 3-многообразий вдоль существенно вложенных подмногообразий. При построении гладких функций Ляпунова существенно применяется теория Морса и методы сферических перестроек.

Научная новизна. Диссертация посвящена развитию важного направления в теории динамических систем на многообразиях — нахождению и исследованию топологических инвариантов, определяющих глобальное поведение траекторий каскадов на гладких замкнутых ориентируемых 3-многообразнях. Все полученные в диссертации результаты являются новыми и коротко могут быть сформулированы следующим образом:

1. Введены и изучены новые топологические инварианты диффеоморфизмов, принадлежащих классу МБ(М3) сохраняющих ориентацию диффеоморфизмов Морса-Смейла, заданных на замкнутых ориентируемых 3-многообразиях Л/3. Построение инвариантов основано на представлении глобальной динамики диффеоморфизма / € Л/5 (Л/3) в виде "источник - сток", где под источником и стоком понимаются дуальные репеллер и аттрактор. Предъявлены все возможные такие представления и связанные с ними пространства орбит (характеристические пространства), принадлежащих дополнению к аттрактору и репеллеру, вместе с вложенными в них образами сепаратрис седловых периодических -точек в силу естественной проекции.

2. Для диффеоморфизмов класса А/5(Л/3) получены критерии ручного вложения сепаратрис седловых точек в окрестности узловой точки. Введена операция перестройки характеристических пространств вдоль тора и бутылки Клейна, с помощью которой изучается топология трехмерных характеристических пространств, в частности доказано, что каждая компонента связности такого пространства является простым многообразием, фундаментальная группа которого допускает эпиморфизм в группу Ъ. Исследованы препятствия включению таких диффеоморфизмов в топологический поток. Разработана методика построения каскадов Морса-Смейла на 3-многообразиях, удовлетворяющих необходимым условиям Палиса включения в топологический поток, но не включающихся ни в какой топологический поток.

3. Для каскада / 6 Л/5(Л/3) доказано существование согласованной системы

окрестностей, являющейся одним из основных технических инструментов топологической классификации. Построение такой системы использует структуру изученных в диссертации характеристических пространств. Свойства построенной в диссертации системы принципиально отличаются в окрестности гетеро-клинических кривых от свойств трубчатых семейств Ж. Палиса и С. Смейла, используемых ими при доказательстве структурной устойчивости диффеоморфизмов Морса-Смейла.

4. Найдены необходимые и достаточные условия топологической сопряженности каскадов класса МЗ(М3). А именно, введено понятие схемы Sf диффеоморфизма / € Л/5(Л/3), которая содержит информацию о периодических данных каскада, топологии вложения и пересечения в фазовом пространстве двумерных инвариантных многообразий ссдловых периодических точек. Для этого использовано характеристическое пространство, соответствующее одномерному аттрактору-репеллеру и введенное в диссертации понятие гетероклинической ламинации, являющейся компактным объединением попарно непересекающихся торов и бутылок Клейна с конечным, пустым или счетным множеством выколотых точек. Доказано, что диффеоморфизмы /,/' е МБ(М3) топологически сопряжены тогда и только тогда, когда их схемы Б/' эквивалентны.

5. Решена проблема реализации. На основе свойств схемы Я/ выделено множество й абстрактных схем, содержащее схемы всех диффеоморфизмов из МБ (А!3). По каждой абстрактной схеме 5 6 5 построен диффеоморфизм /5 6 Л/5(А/3), схема которого эквивалентна данной. Решение этой проблемы позволяет моделировать структурно устойчивые динамические системы с прогнозируемыми свойствами.

6. Для произвольного диффеоморфизма из класса М8(Мп) построена гладкая функция Ляпунова, являющаяся функцией Морса, что явлется существенным усилением фундаментальной теоремы динамических систем для каскадов Морса-Смейла.

7. Доказано, что необходимые и достаточные условия существования энергетической функции (функции Ляпунова, не имеющей критических точек, отличных от периодических) у диффеоморфизма / е МБ(М3) связаны с типом вложения одномерных аттракторов и репеллеров. Получен критерий существования динамически упорядоченной энергетической функции для диффеоморфизмов класса Л/5(83), не имеющих гетероклинических кривых. Выделен содержательный класс каскадов Морса-Смейла на 3-многообразиях, не обладающих энергетической функцией, для которых построена квази-энергетическая функция (функция Ляпунова с минимальным числом критических точек).

Теоретическая и практическая значимость. Работа носит теоретический характер. Полученные в ней результаты и разработанные методы могут быть применены в теории гладких динамических систем при исследовании конкретных трехмерных неавтономных периодических по времени систем дифференциальных уравнений, а также четырехмерных потоков, с помощью изучения отображения последования на секущей к траекториям потока. В частности, эти результаты могут найти применение в исследованиях, проводимых в Математическом Институте им. В,А. Стеклова РАН, Петербургском отделении Математического Института РАН, Московском Государственном Университете им М.В. Ломоносова, Нижегородском Государственном

Университете им. Н.И. Лобачевского, НИИ прикладной математики и кибернетики ННГУ, других высших учебных заведениях и научных центрах.

Апробация работы. По теме диссертации были сделаны следующие доклады на международных конференциях:

• на международных конференциях по дифференциальным уравнениям и динамическим системам (Суздаль 2000, 2002, 2004, 2008, 2010);

• на международной конференции, посвященной столетию А. А. Андронова (Нижний Новгород 2001);

• на международных конференциях "Дифференциальные уравнения и их приложения" (Саранск 2002 - 2010);

• на международной конференции, посвященной столетию А. Н. Колмогорова (Москва 2003);

• на объединенной международной научной конференции "Новая геометрия природы" (Казань 2003);

• на международной конференции "Динамика, бифуркация и хаос" (Н. Новгород 2005);

• на международной конференции "Тихонов-100" (Москва 2006);

• на международной конференции "Dynamics, Topology and Computations" (Bcdlcwo (Poland) 2006);

• на международной конференции, посвященной И.Г. Петровскому (Москва 2006, 2007, 2011);

• на интернациональном конгрессе "Nonlinear Dynamical Analysis-2007" (Санкт-Питербург 2007);

• на международной конференции "Laminations and Group Actions in Dynamics" (Москва 2007);

• на международной конференции "Differential Equations and Topology", посвященной Л.С. Понтрягину (Москва 2009).

По теме диссертации были также сделаны следующие доклады:

• на семинарах кафедры высшей математики Нижегородской Сельскохозяйственной академии (2002 - 2011 руководитель проф. В. 3. Гринес);

• на научном семинаре отдела дифференциальных уравнений МИАН (2003, 2008, 2011, руководитель акад. Д. В. Аносов и проф. Ю. С. Ильяшенко);

• па научном семинаре МГУ по теории динамических систем (2003, руководители акад. Д. В. Аносов и проф. А. М. Степан);

• на научном семинаре отдела дифференциальных уравнений НИИ прикладной математики и кибернетики при Нижегородском государственном университете (2003, 2008, руководитель проф. Л. П. Шилышков);

• на научном семинаре МГУ по динамическим системам (2004, руководитель проф. Ю. С. Ильяшенко);

• на научном семинаре кафедры дифференциальных уравнений механико-математического факультета ННГУ (2009 - 2011, руководители проф. Л. М. Лерман и проф. А. Д. Морозов);

• на научном семинаре кафедры теории функций механико-математического факультета ННГУ (2008 - 2011, руководитель проф. М. О. Сумин).

Структура и объем диссертации. Основные главы диссертации предваряются введением, общей характеристикой работы и заканчиваются списком литературы. Содержание диссертации изложено в четырех главах. Первая глава диссертации посвящена детальному изучению свойств диффеоморфизмов из класса МБ(Мп), состоящего из сохраняющих ориентацию диффеоморфизмов Морса-Смейла /, заданных на замкнутых ориентируемых п-многообразиях М", п > 1. Изучается вложение и асимптотическое поведение инвариантных многообразий периодических точек и структура их пространств орбит. Описывается общая концепция изучения динамики диффеоморфизмов Морса-Смейла, которая во многих случаях позволяет решить проблему топологической классификации и реализации диффеоморфизмов Морса-Смейла. Во второй главе диссертации сформулированы и доказаны критерии ручного вложения как одномерных так и двумерных сепаратрис седловых точек диффеоморфизма / е Л/5(Л/3) в бассейн стока (источника). Введено понятие перестройки трехмерных характеристических пространств вдоль гладко вложенных в нее торов и бутылок Клейна, позволяющее изучать топологию трехмерных характеристических пространств. Разработана методика построения каскадов Морса-Смейла на 3-многообразиях, удовлетворяющих всем условиям Палиса, но не включающихся ни в какой топологический поток. В третьей главе приводится полная топологическая классификация (включая реализацию) каскадов Морса-Смейла на 3-многообразиях. Значительная часть третьей главы посвящена построению согласованной системы окрестностей, являющейся существенным техническим моментом при построении сопрягающего гомеоморфизма и реализации. В четвертой главе для диффеоморфизмов Морса-Смейла на 3-многообразиях вводится понятие функции Ляпунова, энергетической и квази-энергетической функции. Устанавливается факт существования функции Морса-Ляпунова для любого диффеоморфизма / € А/5(А/") и типичность в пространстве функций Ляпунова для /. Доказываются необходимые и достаточные условия существования динамически упорядоченной энергетической функции для диффеоморфизмов класса МБ(М3). Для содержательного класса каскадов Морса-Смейла на 3-многообразиях, не обладающих энергетической функцией, строится квази-энергетическая функция.

Объем диссертации — 235 страниц, количество рисунков — 43, наименований литературы — 94. Основные утверждения диссертации составляют теоремы 1.3, 2.2, 2.3, 3.1, 3.4, 3.5, 4.1, 4.4 и 4.7.

Публикации. Всего по теме диссертации автором опубликовано 18 работ, из них 11 — в изданиях, рекомендованных ВАК (см. список публикаций ниже). Все основные результаты диссертации являются новыми и принадлежат автору. В работах, выполненных с В.З. Гринесом и Ф. Лауденбахом, диссертанту принадлежат формулировки и доказательства результатов, включенных в диссертацию, В.З. Гринес являлся научным консультантом, Ф. Лауденбах осуществлял консультации по топологическим вопросам.

Финансовая поддержка. Диссертация выполнена при финансовой поддержке грантов РФФИ 05-01-00501-а, 08-01-00547-а, 08-01-064-д, 11-01-12056-офи-м, гранта 9686.2000.1 Президента РФ ведущим научным школам н гранта правительства Российской Федерации 11.G34.31.0039.

Краткое содержание и основные результаты

Определение 1.1. Диффеоморфизм f : Мп —> Мп, заданный на гладком замкнутом (компактном без края) связном п-многообразии (п > I) Мп называется диффеоморфизмом Морса-Смейла, если

1) неблуждающее множество Qj конечно и гиперболично;

2) многообразия \V£, И™ пересекаются трансверсалъно для любых периодических точек р, q.

В настоящей диссертации рассматривается класс MS(Mn) сохраняющих ориентацию диффеоморфизмов Морса-Смсйла / : Мп —> AI", заданных на ориентируемых многообразиях Мп. В первой главе приводятся с доказательством необходимые для топологической классификации свойства диффеоморфизмов Морса-Смейла и описываются конструкции, которые будут использоваться для введения топологических инвариантов.

Пусть / 6 MS(Mn). Согласно определению 1.1, неблуждающее множество П/ диффеоморфизма / состоит из конечного числа периодических точек (П/ = Perj). Гиперболическая структура множества Пj приводит к существованию у каждой периодической точки р £ Qj периода тр инвариантных многообразий: устойчивого и неустойчивого Wp, определяемых в топологических терминах следующим образом:

W' = {xeMn : lim d(fnm'(x),p) = 0},

= : lim d(f~amp(x),p) = 0},

где d — метрика на Mn. При этом dim = п — qp (dim Wp = qp), где qp — число отрицательных собственных значений матрицы Якоби \Р (индекс Морса). Да-

лее для любого подмножества Рей/ будем обозначать через Wp (Wp) объединение неустойчивых (устойчивых) многообразий всех точек из множества Р. Компонента связности lsp (£р) множества Wp \ р (dim \Vp \ р) называется сепаратрисой точки р. Число ир, равное +1, если отображение /"''Iну сохраняет ориентацию и равное —1, если отображение ¡т' |ц-« меняет ориентацию, называется типом ориентации точки р. Тройка чисел (mp,qp, vp) = (mop,4op,vot) называется периодическими данными точки р (орбиты Ор).

Точка р называется седлом, если 0 < qp < п п называется узлом в противном случае, при этом р называется стоком (источником), если qp = 0 (qp — п). Поскольку диффеоморфизм / сохраняет ориентацию, то для узловых точек тип ориентации всегда равен +1, тогда как для седловых точек допустимы оба типа ориентации.

Для q е {0,..., п} обозначим через йя множество периодических точек с индексом Морса q и через kf — число периодических орбит диффеоморфизма / 6 MS(Mn).

Динамические свойства и топологический тип диффеоморфизмов Морса Смейла во многом определяются свойствами вложения и взаимного расположения инвариантных многообразий периодических точек. Особую роль в этих вопросах играет

исследование асимптотических свойств инвариантных многообразий седловых периодических точек. Согласно С. Смейлу имеет место следующее утверждение.

Утверждение 1.13. Пусть / е МЯ(Мп). Тогда

(1) мп = и К'

(2) является гладким подмногообразием многообразия Мп, диффеоморфным ц^ип и^ ЛЮ({0{1 периодической точки р е П/;

(3) с1((£) \ ир) = и IV" для любой неустойчивой (устойчивой) сепаратрисы периодической точки р е Г2/.

Согласно пункту (2) утверждения 1.13, является гладким qp-

подмногообразием многообразия Мп для любой периодической точки р диффеоморфизма / е М5(Мп). Тогда отображение /]и™ : является диффеоморфизмом. Более того, класс топологической сопряженности диффеоморфизма /т"]и'« полностью определяется индексом Морса и типом ориентации ир точки р. Именно, согласно теореме о локальной топологической классификации гиперболических неподвижных точек диффеоморфизма отображение /т" локально сопряжено в точке р линейному диффеоморфизму аЯр^р : К" —► К", заданному формулой а„^„г(х ь. ..,£„) = {ур ■ 2хъ 2х2,..., 2хЯр, ■ х-31~1,...,

В дальнейшем будем называть отображение ач,и : К" К" каноническил1 диффеоморфизмом. Кроме того, будем обозначать через а, а^ ограничения канонического диффеоморфизма на Охх... г,, Охч+1... хп и называть диффеоморфизмы а* и каноническим растяжением, каноническим сжатием, соответственно.

Предложение 1.1. Пусть / е М5(А/"). Тогда для любой периодической точки р е О/ диффеоморфизм '• ^р ^р топологически сопряжен с канониче-

ским растяжениел1 аЯр1/р : К5'' —>■ Вя'р посредством гомеоморфизма <р™ : ->■ \Ур, который является диффеоморфизмом всюду, кроме точки р.

В случае, когда периодическая точка диффеоморфизма / е Мв{Мп) является седловой, информативным становится не только вложение в оъемлющее пространство ее инвариантных многообразий, но и вложение /-инвариантной окрестности ее орбиты.

Для д 6 {1,...,п- 1}, < € (0,1] положим = {(гь...,жп) еГ : (ж? + ... + хч)(х1+1 + • • • + х1) < и Щ = Заметим, что множество М1Ч является инвариантным относительно канонического диффеоморфизма а?,„, имеющего единственную неподвижную седловую точку в начале координат О с неустойчивым многообразием \Уо = Ох;... I, и устойчивым многообразием И^ = Охч+\... хп.

Определение 1.2. Пусть / 6 МЗ(Мп). Окрестность седловой точки а € П/ назовем линеаризующей, если существует гомеоморфизм : Л^ —» Л/*,„> сопрягающий диффеоморфизм с каноническим диффеоморфизмом

7Па — 1

Окрестность Ыо„ = 0 /*С(ЛГСГ), оснащенную отображением составлен-к=0

ним из гомеоморфизмов : /^ЛУ Л^.,,, /с = 0,..., та — 1, 6ус)е>1 называть

линеаризующей окрестностью орбиты, Оа.

Предложение 1.2. Любая седловая точка (орбита) диффеоморфизма / 6 МЯ(Мп) обладает линеаризующей окрестностью.

Согласно пункту (1) утверждения 1.13, инвариантные многообразия периодических точек диффеоморфизма / е М5{Мп) являются подмногообразиями многообразия Мп. Тем не менее, замыкание инвариантного многообразия седловой точки может иметь сложную топологическую структуру. Это явление может иметь как динамическую, так и чисто топологичекую природу. Первый случай соответствует

ситуации, когда сепаратриса седловой точки участвует в гстероклшшческих пересечениях.

Определение 1.3. Если eri,cr2 различные периодические седловые точки диффеоморфизма / 6 AIS(Mn), для которых П Wф 0, то пересечение П называется гетероклиническим. При этом:

• в случае dim^l7^ П И™) > 0, компонента связности пересечения W^ П W" называется гетероклиническим многообразием, а в случае dim(\V^n\V^2) = 1, гетероклинической кривой;

• а случае dimfll7^ П И™ ) = 0, пересечение П XV* является счетным множеством и каждая точка этого .множества называется гетероклинической точкой, а орбита гетероклинической точки называется гетероклинической орбитой.

Определение 1.4. Диффеоморфизм f S MS(Mn) называется градиентно-подобным, если из условия W^ П U™ ф 0 для различных точек ctj, а^ 6 ii/ следует, что dim IV^ < dim .

Геометрическая интерпретацию последнего определения состоит в том, что диффеоморфизм / е MS(Mn) является градиснтно-подобным тогда и только тогда, когда он не имеет гетероклшшческнх точек.

Согласно пункту (3) утверждения 1.13, замыкание сепаратрисы седловой точки, участвующей в гстероклшшческом пересечении, не имеет структуры топологического многообразия. Напротив, замыкание сепаратрисы седловой точки, не имеющей гетероклинических пересечений, является топологически вложенным многообразием. Именно, имеет место следующее утверждение.

Предложение 1.4. Пусть f е MS(Mn) и о — седловая точка / такая, что неустойчивая сепаратриса не имеет гетероклинических пересечений. Тогда

Cl( С)\(^и<7) = м,

где ш — стоковая периодическая точка. При этом, если qa = 1, то cl(P^) есть топологически вложенная дуга в Мп, если qa > 2, то cl{£") есть топологически вложенная в А/" сфера §я°.

По пункту (2) утверждения 1.13, iuaVio — гладкое подмногообразие многообразия Мп. Однако, многообразие cl((") может оказаться диким в точке ш.

Определение 1.5. Сепаратрису £" седловой точки а, не участвующую в гетероклинических пересечениях, будем называть ручной или ручно вложенной в А/™, если замыкание является подмногообразием многообразия Мп, в противнолг

случае будем называть сепаратрису I% дикой или дико вложенной в А/".

Определение 1.6. Диффеолюрфизм / € MS(Mn) называется диффеоморфизмом "источник-сток" или "северный полюс-южный полюс", если его неблуждающее множество состоит из одного стока и одного источника.

Предложение 1.9. Если диффеоморфизм / 6 MS(Mn) не имеет седловых точек, то

1) } — диффеоморфизмом "источник-сток";

2) пространство блуждающих орбит диффеоморфизма / гомеолюрфно Sn_1 xS1;

3) все диффеоморфизмы "источник-сток" топологически сопряжены между собой при фиксированном п и многообразие Мп гомеоморфно п-мерпой сфере §".

Как следует из предложения 1.9, диффеоморфизмы "источник-сток" имеют тривиальную динамику: все точки, отличные от неподвижных точек, являются блуждающими и движутся под действием диффеоморфизма от истопника к стоку. Топологическая сопряженность всех таких диффеоморфизмов следует из гомеоморфности их пространств блуждающих орбит. При изучении более сложных диффеоморфизмов Морса-Смейла удается представить динамику диффеоморфизма в аналогичном виде, но под "источником" и "стоком" уже понимаются, по возможности просто устроенные (с топологической точки зрения), инвариантные замкнутые множества, одно из которых А является притягивающим, а другое R — отталкивающим множеством.

Если пространство орбит V = V//, где V = Мп \(Ли R), поддается описанию, то это создает предпосылки для решения задачи топологической классификации в рамках данного класса диффеоморфизмов.

Поскольку диффеоморфизм / € MS(Mn) является структурно устойчивым и его базисные множества совпадают с периодическими орбитами, то на множестве периодических орбит существует отношение порядка, согласованное с отношением частичного порядка -<:

Ор<Ог Ws0p П ф 0.

Определение 1.7. Нумерацию периодических орбит Oi,..., Oks диффеоморфизма / € MS(Mn) назовем динамической, если она удовлетоворяет следующим условиям:

1) если qd < qOj, то г < j;

2) если qoi < Яо¡, то Oi -< Oj.

Предложение 1.10. Для любого диффеоморфизма / 6 MS(Mn) существует динамическая нумерация периодических орбит.

Для каждой периодической орбиты Ot положим пц = то(, <?; = <7съ vi = voii W? = W'Di и W? =

Для i = 1,..., kf — 1 положим

г k;

A = U w!> Vi = Mn\(AiURi).

j=1 j-i+l

Положим Vi = Vi/f и обозначим через pt : Vi ->• Ц — естественную проекцию. Будем называть многообразие Ц характеристическим многообразием и его пространство орбит Vi характеристическим пространством. Заметим, что характеристическое пространство Ц не является связным в общем случае. Обозначим через V,1,. .., V[' — компоненты связности пространства V*.

Теорема 1.3. Пусть / 6 MS{Mn). Тогда

1) множество Д- (Я,) является аттрактором (репеллером) диффеоморфизма /

> */

и имеет захватывающую окрестность Mi С (J Wj {Mi С U W") такую, что

j=l j=i+l

Mi\int f(Mi) (Mi\int f~1(Mi)) является фундаментальной областью ограничения диффеоморфизма / на Vi;

2) проекция pt : V; —» Vi является накрытием, индуцирующим структуру гладкого замкнутого п-многообразия на пространстве орбит Vi и отображение щ, состоящее из нетривиальных гомоморфизмов г) ; : 7ri(ty) -> Ъ, j = 1,..., г*;

3) если dim Л; < (п — 2) fdim Я; < (п — 2)), то репеллер Rt (аттрактор At) является связным и, если dim (A; U Л;) < in — 2), то многообразия Vi, Vi связны и отображение : ^(Vi) —> Ъ является эпиморфизмом.

Тем самым, для выбранной нумерации периодических орбит диффеоморфизма / G MS(Mn) мы предъявляем kf — 1 различных представлений диффеоморфизма / в виде "источник-сток".

Принципиальное отличие диффеоморфизмов Морса-Смсйла, заданных на трехмерных многообразиях по сравнению с аналогичными потоками или диффеоморфизмами на двумерных многообразиях обусловлено возможностью дикого вложения сепаратрис седловых точек. Во второй главе сформулированы и доказаны критерии ручного вложения как одномерных так и двумерных сепаратрис. Оказывается, что тип вложения одномерной (двумерной) сепаратрисы полностью определяется классом эквивалентности соответствующего ей узла (тора) в многообразии S2 xS1. Кроме того, устанавливается, что необходимым условием включения градиентно-подобного диффеоморфизма в топологический поток на З-многообразни является ручная вложенность пучков одномерных сепаратрис. Приводятся примеры диких пучков и конструкция градиентно-подобного каскада Морса-Смейла на сфере S3 по любому пучку одномерных дуг, инвариантному относительно канонического сжатия.

Пусть V — замкнутое гладкое ориентируемое 3-многообразие, фундаментальная группа которого допускает нетривиальный гомоморфизм jj : îti(V) Ъ. Далее под обозначением (V, будем понимать многообразие V, оснащенное гомоморфизмом

V

Определение 2.1. Многообразия и (V7,^,) назовем эквивалентными,

если существует, гомеоморфизм ф : V —v V' такой, что ily,V* ~ Vy

Определение 2.2. Гладкие подмногообразия â С. и а' С (V',rjf,) назовем

эквивалентными, если существует гомеоморфизм ф : V —> V', осуществляющий эквивалентность многообразий (F, f/^) и и переводящий à в а!.

Определение 2.3. Гладкое подмногообразие â С (V,rjv) назовем ту -существенным, если i(â))) ф 0, где г\ : â V — отображение включения.

Проиллюстрируем данные определения на примере многообразия S2 х §'.

Представим многообразие S2 х S1 как пространство орбит (К3 \ 0)/as3+l. Естественная проекция _t : R3 \ О —> S2 х S1 является накрытием и индуцирует эпиморфизм : 7Ti(S2 х S1) Ъ. Положим -у0 = {Oxf), А0 = P^xSl(Ox 1X2)), где Oxf. Тогда 7о (А0) — г]'2 ^-существенный узел (тор) в многообразии (S2 х .,)•

Определение 2.4. Узел (тор) 7 (Л) в многообразии (S2 х S1, г)* _ ) назовем три-

виалънъш, если он эквивалентен узлу (тору) (Ад).

Предложение 2.3. Узел 7 (тор X) в многообразии (S2 х S1,^ ) является тривиальным, если и только если существует его трубчатая окрестность N(7) {N(\)) в многообразии S2 х S1 такая, что многообразие (S2 х S1) \ N(7) ((S2 х S1) \ N(А)) гомеоморфно заполненному тору (паре заполненных торов).

Заметим, что понятие тривиального узла (тора) п предложение 2.3 очевидным образом переносятся на любое многообразие (V, г/.), эквивалентное многообразию (S'xS1,!^).

Пусть / € MS(M3) ист — седловая точка / такая, что неустойчивая сепаратриса £" не участвует в гетероклинических пересечениях. Тогда, по предложению 1.4, d(C) \ (£" U <т) = {ш}, где и — стоковая точка и cl(t%) является топологически вложенной дутой (сферой) для g„ = I (да = 2). Однако, многообразие c?(Ç) может оказаться диким в точке ш, то есть замыкание cl(£%) не является подмногообразием многообразия Л/3.

Теорема 2.1. Пусть / 6 MS(M3), и — стоковая точка и Ç - одномерная

(двумерная) сепаратриса седла а такая, что cl(£%) = U cr U и. Сепаратриса является ручно вложенной в М3 тогда и только тогда, когда существует гладкий 3-шар С W®, содержащий и и такой, что сепаратриса £иа пересекает dDw в единственной точке (по единственной окружности).

Положим = \ u>)/fm!. Обозначим через рЛ.а : И" \ш —► естественную

проекцию, которая является накрытием и индуцирует эпиморфизм : тгi(TV')

Z. Положим Р^ = piV> (£"). Тогда многообразие (И^, т?1(.,) эквивалентно многообразию

(§2 х В1,г)'г и пространство орбит £" является ^„-существенным узлом, если q„ = 1 или тором, если qa = 2.

Теорема 2.2. Пусть / £ AIS(M3), и — стоковая точка и £ча — одномерная (двумерная) сепаратриса седла а такая, что cl(i%) = i^UaUcj. Сепаратриса является ручно вложенной в М3 тогда и только тогда, когда узел (тор) является тривиальным в W^.

Определение 2.5. Будем говорить, что диффеоморфизм f € MS(AIn) включается в топологический поток, если существует топологический поток X* на Мп такой, что / является сдвигом на единицу времени вдоль траекторий потока X

Пусть / € MS(M3) — граднентно-подобный диффеоморфизм. Тогда замыкание cl £ любой одномерной неустойчивой сепаратрисы £ седловой точки <т диффеоморфизма / гомеоморфно отрезку, который состоит из этой сепаратрисы и двух точек: а и некоторого стока и. Пусть Lw — объединение неустойчивых одномерных сепаратрис седловых точек, которые содержат и в своих замыканиях. Поскольку гомеоморфно К3 и множество L^ U ш является объединением простых дуг с единственной общей точкой и, то, по аналогии с пучком дуг в R3, мы назовем L^ Uw пучком одномерных неустойчивых сепаратрис. Существуют различные типы вз +1-инвариантных пучков дуг в R3: ручные, дикие и умеренно дикие.

Определение 2.6. Пучок неустойчивых одномерных сепаратрис Lu 1)ш назовем эквивалентным пучку F¡¡, из к дуг в К3, если существует гомеоморфизм hш : W^ —> R3 такой, что Uoi) = Fk.

Определение 2.7. Пучок неустойчивых одномерных сепаратрис L^Uw назовем ручным, если он эквивалентен стандартнолщ (состоящему из прямолинейных лучей с общей точкой О) пучку дуг в К3.

Аналогично определяется ручной пучок устойчивых одномерных сепаратрис.

Лемма 2.5. Пусть градиентно-подобный диффеоморфизм f е AIS(M3) включается в топологический поток. Тогда все пучки его одномерных сепаратрис являются ручными.

Обозначим через Gk(§3), k > 1 множество градиентно-подобных диффеоморфизмов / на 3-сферс таких, что множество П/ состоит из неподвижных точек, при этом f!o состоит из (к + 1)-го стока ш0,. ■ ■ ,ojk, fij состоит из к седел <ть... ,<rh, fi2 = 0 и Пз состоит из одного источника а.26

Теорема 2.3. Пусть Fk

°з,+1 -инвариантный пучок дуг в ]R3 гладких всюду, кроме общей точки О. Тогда существует диффеоморфизм fF € Gh(B3), для которого пучок U wo эквивалентен пучку Fk.

Из леммы 2.5, теоремы 2.2 и определения ручного пучка дуг получаем следующий факт.

Утверждение 2.2. Если пучок F^ в теореме 2.3 не является ручным (эквивалентным стандартному), то диффеоморфизм fF не включается в топологический поток.

2еЕсли к = 0, то iU состоит в точности из одного стока и одного источника, все диффеоморфизмы с таким неблуждающим множеством включаются в топологический поток.

В третьей главе приводится полная топологическая классификация (включая реализацию) каскадов Морса-Смсйла на 3-многообразиях с помощью топологического инварианта, названного схемой диффеоморфизма. В первом разделе для любого диффеоморфизма / е МЗ(М3) доказывается существование согласованной системы окрестностей орбит седловых периодических точек диффеоморфизма Морса-Смсйла, которое является ключевым техническим моментом при доказательстве классификационных результатов.

Напомним, что для t е (0,1] мы положили Я{ = {(xj,х2, хз) 6 К3 : x^(xl + xfj < t}, Я! = {(хьх2,хз) £ К3 : (ij + x2)xj < i} и для q € {1,2} положили Яя = Яч.

Определим в окрестности Яу пару трансверсальных слоений J-J*, Т{ следующим образом:

•Г = U {(^ь^г.^з) еМ,2 (,х2,хз) = (с2,с3)},

= U ((ib^^l^Mi : xi=ci}.

cieOxi

Определим в окрестности Л/j пару трансверсальных слоений /J, следующим образом:

(J ((^'Жг^з) еМ,2 : г3 = с3},

сзбОхз

•^2= U {(Sl,S2,Z3) еЛ/i,2 : (хьх2) = (сьс2)}.

(С1,С2)еОХ112

Заметим, что для q € {1,2}, множество Я^ является инвариантным относительно канонического диффеоморфизма который переводит слои слоения в слои этого же слоения. В силу предложения 1.2, любая седловая точка а диффеоморфизма / 6 MS(l\i3) обладает линеаризующей окрестностью Na, оснащенной гомеоморфизмом ¡i„ : Na —»■ Яя„, сопрягающим диффеоморфизм /т"|лг„ с каноническим диффеоморфизмом Слоения J^, индуцируют посредством гомеоморфизма /"""-инвариантные слоения F", F® на линеаризующей окрестности

Линеаризующая окрестность Noa = U fk(Na) орбиты О,, оснащена парой /-

к=о

mCT-l m^—1

инвариантных трансверсальных слоений Fq^ = |J fk(F£), F^ = |J fk{F§) и

k=0 "

отображением цо^, составленным из гомеоморфизмов ¡iaj~k : fk(Na) Яя„, к = О, - 1.

Пусть £>1,..., Okj — динамическая нумерация периодических орбит диффеоморфизма / е MS(M3) и седловые орбиты Ок„+\, ■ ■ ■, Ofc2 оснащены линеаризующими окрестностями Nok0+l, • ■ •, А'о^-

• для любой седловой орбиты О,- положим JVj = iV0j, F" = F^,, = Ffc. и

• для любого t 6 (0,1) положим TV' = Nq. и N} = Ni\

• для любой точки x G Ni будем обозначать через F™x {F'tX) единственный слой слоения F" (Ff), проходящий через точку х.

Для любого диффеоморфизма / 6 MS(M3) множество Я = W^ Г) либо пусто, либо состоит из не более чем счетного множества гетероклинических кривых. Если множество Н не пусто, то существует его /-инвариантная окрестность N(H) С

А/3, оснащенная /-инвариантным С1,1-слоениеы б, состоящим из двумерных дисков, трансверсальных Я.

Определение 3.1. Пусть / € А/5(А/3). Набор Nf линеаризующих окрестностей Л^с0+1, • • •, N¡¡2 седловых орбит диффеоморфизма / назовем согласованной системой окрестностей, а слоения Р", Р?, С (г = к0 + 1,..., Агз), согласованными, если выполняются следующие условия:

1) для любого г = + 1,..., слоения Р", Р" имеют класс гладкости С1,0,-

2; если П = 0 для ¿! < г2, то Л^ П = 0;

если И" П ЩфЪи ЦЧ = 1?,:2, то (F¿lI П^)с ^ и Л Лу С ^ „ для х 6 (Л^ П ЛУ;

4) если IV? ^ 0 ¿ля %\<кх < г2, то для любой точки х 6 (Л^ПТУ,-ПЛГ(Я)) и слоя Сх слоения в, проходящего через точку х, выполняются условия: Р^ х П вх = ппи ^ пОх = П (ЛГ,а П7У(Я)).

Теорема 3.1. Для любого диффеоморфизма / е Л/5(Л/3) существует согласованная система окрестностей.

Во втором разделе доказывается, что класс эквивалентности схемы диффеоморфизма / б МЗ(М3) является полным топологическим инвариантом.

Представим динамику произвольного диффеоморфизма Морса-Смейла / : М3 —> Л/3 в виде "источник-сток" следующим образом. Положим А/ = П0 и , Л/ =

и и V} = Л/3 \ (Л/ и Я/). Тогда = А,, = Я*,, V/ = Ук1 и из теоремы 1.3 следует, что множество A¡ (Я/) является связным аттрактором (репеллером) диффеоморфизма /, множество V/ является связным характеристическим многообразием. Кроме того, характеристическое пространство V/ = V/// является связным гладким замкнутым ориентируемым многообразием, на котором естественная проекция р) : V; —> V; индуцирует эпиморфизм : я"! (V/) 2, ставящий в соответствие гомотопическому классу [с] 6 ^{У}) замкнутой кривой с С V/ целое число п такое, что поднятие кривой с на V/ соединяет точку х с точкой /"(г). В силу предложения 3.1, многообразие V} является простым. Положим Ш} = Р^УУ^ \ А¡) и Шу = рДИ$2 \ Я/). В силу предложения 3.2, множества и являются з-ламинацией и м-ламинацией, соответственно, на многообразии (V/,»?/)- Из условия трансверсальности пересечения инвариантных многообразий периодических точек диффеоморфизма Морса-Смейла следует, что ламинации и пересекаются трансверсально.

Определение 3.2. Набор в; = (1/),^,^, ЭД^) назовем схемой диффеоморфизма / 6 МЗ(М3).

Определение 3.3. Схемы 5/ и Бр диффеоморфизмов /,/' б Л/5(Л/3) назовем эквивалентными, если существует гомеоморфизм ф : V/ V// со следующими свойствами:

V V, =

2) ф(Щ) = Щ, и ф(Щ) = Щ.

Теорема 3.2. Диффеоморфизмы Морса-Слтйла /,/' е Д/5(Л/3) топологически сопряжены тогда и только тогда, когда их схемы эквивалентны.

В третьем разделе изучается топология трехмерных характеристических пространств Ц, г = 1, — 1, которая являются ключом к решению проблемы реализации. Заметим, что для г = 1 ,...,к0 многообразие Ц является объединением устойчивых многообразий стоков без стоков и, следовательно, каждая компонента связности многообразия Ц гомеоморфна §2 х 81. Аналогично для г = /г2,.. •, к/ — 1 каждая компонента связности многообразия VI гомеоморфна 82 х В1, поскольку многообразие для таких г является объединением неустойчивых многообразий ис-

точников без источников. Для г = fco + 1,..., — 1 многообразие Vj имеет, вообще говоря, более сложную топологическую структуру, для понимания которой полезно следущее наблюдение: Vi = Vi-i \ (И™ \ О,) U (IV® \ £>,-), то есть многообразие V\ получается из многообразия удалением из него множества IV" \ О; и добавлением к полученному многообразию множества \Vf\Oi- Для того, чтобы описать соответствующий переход от многообразия к многообразию Ц нам понадобится операция перестройки гладкого ориентируемого З-многообразия V, фундаментальная группа которого допускает нетривиальный гомоморфизм т)^ : тг^К) -4 Z.

Пусть И>+1 С (V,rj) — ^-существенный тор и N(W+ ¡) с V — его трубчатая окрестность. Тогда многообразие AT(VV+i)\VV+i состоит из двух компонент связности, каждая из которых дпффеоморфна многообразию int У \ 7f, где У = В2 х S1 и 7f, = ({О} х S1) с У. Пусть (3 — меридиан заполненного тора У и £уу+1 •' (с' ^(VV+i) \ VV+i) -> (У \т) х §° — диффеоморфизм, для которого ^([С^С/З х {±1})]) = 0. Определение 3.4. Будем говорить, что пространство Vyy+i = (V" \ VV+1) U^

(int У х S°) получено перестройкой многообразия V вдоль тора VV+i.

Аналогичным образом вводится перестройка многообразия (V,-q^) вдоль гц-существенной бутылки Клейна >V_i, основанная на том, что трубчатая окрестность Ar(>V_i) бутылки Клейна VV_! без самой бутылки Клейна является связной и дпффеоморфна многообразию int У \ .

Дифференциальные структуры многообразий V\W„, и € {+1,-1} и У индуцируют посредством естественной проекции р^ : (V \ VV„) U (int У х S°) —¥ V^ структуру гладкого ориентируемого З-многообразия без края на пространстве V^j . Операция перестройки определена корректно, то есть не зависит (с точностью до диффеоморфизма) от выбора трубчатой окрестности N(\V„) поверхности VV„ и диффеоморфизма Cw • Эпиморфизм п. индуцирует единственное отображение i)- , состоящее из

нетривиальных гомоморфизмов в группу Z на фундаментальной группе каждой компоненты связности многообразия Т]. и такое, что г). (\р. (с)]) = Т77([с]) для любой

замкнутой кривой с С (К \ VV„).

Положим (V,t)-)yj = (1/уу ,77- ) и будем называть множество 7™, = р. (7л х

§°) следом перестройки вдоль поверхности W„. Очевидно, что каждая компонента

связности следа 7^, является 17., -существенным узлом. " 4v„

Операция перестройки вдоль ^-существенного тора или ^-существенной бутылки Клейна естественным образом обобщается на случай, когда многообразие V состоит из конечного числа компонент связности V1,..., Vr и отображение г)^ состоит из нетривиальных гомоморфизмов »7 : 7rl(V'1) Z,...,: 7Ti(V_r) —► Z, результат этой перестройки также обозначается через (V,?7-= (V^, ,77. ).

Предложение 3.1. Для любого диффеоморфизма / € MS(M3) и номера г = ко + 1,..., ki многообразие (Vi_j, fy-i) эквивалентно многообразию (Vj, ^Jjj/. , а след

перестройки эквивалентен многообразию Более того, каждая компо-

нента связности характеристического пространства Ц, г = 1,..., kj — 1 является простым многообразием27

27Утвсрждение о простоте каждой компоненты связности характеристического пространства VJ, а = 1,..., kf - 1 следует из работы "Bonatti Ch., Paoluzzi L.// Topology. 2008. V. 47. P. 71-100", где оно доказано методом, отличным от приведенного в настоящей диссертации.

Обобщим операцию перестройки следующим образом. Рассмотрим канонический диффеоморфизм ahl, : R3 R3, заданный формулой ait„(x1,x2,x3) = (v • 2xi,v ■ и каноническое сжатие и = а^ц«. Пространство орбит канонического сжатия Wf^ = (Wq \ 0)/asl u является тором при и = +1 и бутылкой Клейна при v = —1. Множество Я\ = {(xi,x2,x3) 6 R3 : х\(х\ + х\) < 1} является инвариантным, Ы° = М \ Wq и — (Л?)/а1,к является трубчатой окрестностью поверхности VVj1,,. Естественная проекция р^ : Я( является накрытием, ко-

торое индуцирует эпиморфизм : Z. Обозначим через пару

трансверсальных слоений на Я"слои которых являются проекциями относительно рЛа слоев слоений F', J^, соответственно. Пусть X С VVf„ — не более, чем счетное множество точек и Z — объединение всех слоев слоения проходящих через точки множества X. Положим = \ X, Я^х = Я^ \ Z, = \ Z

Определение 3.5. Компактное множество Wä С (V,r]f) назовем s-лалшнацией, если оно состоит из конечного числа ns компонент линейной связности \V',...,\V£ , каждая из которых является гладким подмногообразием, при

¡-1

этом компонента W' является замкнутым множеством и {cl U'/V^i*) с U

3=1

для г > 1. Более того, для каждого г = 1,..., ns существуют трубчатая окрестность N{W'') множества Щ, числа ruf G N, v' G {—1, +1}, множество Х° С W® „» и гомеоморфизм ¡Щ : Л^(И^) Л^.д-? со следующими свойствами:

1) ^'{W') = VVj^»^. и ^((cj) = mj • г)^ (АЯИ)) для любой замкнутой кривой с С N(W?);

2) для j < г и любого слоя V слоения ^'^д? пересечение ßSj{N{Wf) П (j±l)~l{V)) либо пусто, либо является подмножеством слоя слоения Т^, х, .

Аналогичным образом определяется и-ламинация W" С (V", 17 ) с помощью канонического диффеоморфизма а2,„ : R3 К3, заданный формулой а2^(х ¡,х2,х3) = (и ■ 2xi,2x2,u • 5X3), канонического растяжения = а2,„пространства орбит канонического растяжения \V2l/ = {Wq \ 0)/а%„ и его трубчатой окрестности

= (ЛГ2"Ж„ где Я2 = {{хих2,х3) е R3 : (х} + xj)x23 < 1} и Я? = Яг \ W&.

i

Предложение 3.2. Для г = k0 + 1,..., множество Wf = |J W-t является

j=k o+l

s-ламинацией на лтогообразии

Рассмотрим каноническое растяжение = alt„\w«. Пространство орбит канонического растяжения = (Wq \ 0)/а^ является парой узлов при и = +1 и узлом при v = -1. Множество = (Я^/а^ является трубчатой окрестностью Wf„, где Я" = М \ Естественная проекция р : Я" Nyv является накрытием, которое индуцирует отображение п , состоящее из нетривиальных гомоморфизмов в группу Z на фундаментальной группе каждой компоненты связности многообразия Я^). Обозначим через Qsl u слоение на Я^, слои которого являются проекциями

относительно р. слоев слоения -i.i'

Определим диффеоморфизм : Я^ \ Wf^ \ VV£„ формулой Ci,^ =

n*

Пусть W = U W? - s-ламннацпя на многообразии Поскольку повсрх-

ность TVj замкнута, то гомеоморфизм /i* можно считать диффеоморфизмом. Перестройку многообразия (V,rj ) вдоль поверхности И" посредством диффеоморфизма CiVf = /xîIa'(iv'î)\iî'» назовем перестройкой вдоль первой поверхности s-ламинации. Для г = 1,..., пе — 1 положим ÏV? = Р^.ЛЩ+i и П G-)), где G\ — объединение

»V.-1

слоев G слоения Q{„ таких, что р. (W' \ U7^) Пр ..,(G) ф 0. Положим W* = |J IV,8.

¡=1

Множество W" вновь является s-ламинацисй на многообразии (V, которую

мы будем называть производной от s-ламинации W'.

Предложение 3.3. Для i = fco + 2,..., ki производная от s-ламинации Wf эквивалентна ламинации W'_j.

„

Определение 3.6. Пусть W" = (J И7/ — s-ламинация на многообразии (V,T], ).

i-1 F Будел1 говорить, что многообразие Цу, получено перестройкой многообразия V вдоль s-ламинации W", если оно получено из V последовательным применением ns операций перестройки вдоль первых поверхностей производных ламинаций.

Обозначим через ri- индуцированное этой операцией отображение, состоящее

lw»

из нетривиальных гомоморфизмов в группу Z на каждой компоненте связности и положим {V,i).)yf, = {Ущ„г)., )■ Аналогичным образом определяется перестройка

1 '.V1

многообразия (V", ту^) вдоль и-ламинации W".

Непосредственно из предложений 3.1 и 3.3 получаем следующий результат. Теорема 3.3. Для г = fc0 + l> • • •, fci каждая компонента связности многообразия {Vi,t)i\Y, диффеоморфна S2 х §'.

Четвертый раздел посвящен решению проблемы реализации. Оно основывается на трех принципиальных взаимосвязанных фактах, касающихся схемы Sj и составляющих теорему 3.3 и предложения 3.1, 3.2. Оказывается, что выполнение этих трех необходимых свойств является достаточным условием, выделяющим множество S абстрактных схем, каждая из которых является схемой некоторого диффеоморфизма из MS{M3).

Определение 3.7. Набор S = iV, rj^, Ws, W") называется абстрактной схемой, если:

1)V — простое многообразие, фундаментальная группа которого допускает эпиморфизм г/., : 7Ti(V) —> Z;

2) W5 и W" — трансверсально пересекающиеся s-ламинация и и-ламинация, соответственно, на многообразии (К, т?^);

3) каждая компонента связности многообразия, полученного перестройкой многообразия V вдоль s-ламинации Ws (и-ламинации W") гомеоморфна S2 х S1.

Теорема 3.5. Для любой абстрактной схемы S существует диффеоморфизм fs G M S {AI3), схема которого эквивалентна схеме S.

В четвертой главе для произвольных каскадов Морса-Смейла на «-многообразиях (n > 1) построена гладкая функция Ляпунова. Более того, построенная функция является функцией Морса и ее регулярные линии уровня трапсверсальны инвариантным многообразиям периодической точки в некоторой ее окрестности. Функция с такими свойствами, названа функцией Морса-Ляпунова. Доказано, что такие функции являются типичными среди гладких функций Ляпунова для диффеоморфизма Морса-Смейла / : Мп —> Мп. Далее вводится понятие динамически упорядоченной энергетической функции и исследуются условия ее существования для диффеомор-

физма / € МЗ(М3). Факт существования функции Ляпунова и отсутствия энергетической функции приводит к понятию функции Ляпунова с минимальным числом критических точек, которая в диссертации названа квази-энергетической. Выделен содержательный класс каскадов Морса-Смейла на 3-многообразиях, не обладающих энергетической функцией, для которых построена квази-энергетическая функция.

Поскольку неблуждающее множество диффеоморфизма / е А/5(А/П) конечно, то естественно искать его функцию Ляпунова в классе функций Морса, что приводит к следующему определению.

Определение 4.3. Функция Морса кр : Мп —> К называется функцией Ляпунова для / 6 МЗ{Мп), если:

1) <р(/(х)) < ¡р(х) для любого х £ П/;

2) ¡р(/(х)) = 1р(х) для любого х 6 П/.

Предложение 4.1. Пусть у : Мп -»• К — функция Ляпунова для диффеоморфизма / 6 Л/5(Л/П). Тогда

1) —<р — гладкая функция Ляпунова для

2) если р — периодическая точка диффеоморфизма /, то <р(х) < <р(р) для любого х € \р и <р(х) > <р(р) для любого х 6 \ р;

3) еелир — периодическая точка диффеоморфизма /, тор — критическая точка функции (р;

4) индекс критической точки р равен сКтИ^.

В силу предложения 4.1, периодические точки диффеоморфизма / являются критическими точками функции Ляпунова <р, индекс <р в точке р е равен размерности неустойчивого многообразия При этом любая периодическая точка р является максимумом ограничения <р на и минимумом ограничения ¡р на Н7'®.

Предложение 4.2. Если периодическая точка р является невырожденным максимумом (минимумом) ограничения функции Ляпунова <р> для диффеоморфизма / 6 Л/5(ЛГ) на неустойчивое (устойчивое) инвариантное многообразие точки р, то это многообразие трансверсалъно ко всем регулярным множествам уровня <р в некоторой окрестности точки р.

Локальное свойство, сформулированное в предложении 4.2, полезно для построения (глобальной) функции Ляпунова.

Определение 4.4. Функция Ляпунова (р : Мп -4 К для диффеоморфизма / е МЗ(Мп) называется функцией Морса-Ляпунова, если каждая периодическая точка р является невырожденным максимумом (соотв. минимумом) ограничения на неустойчивое (соотв. устойчивое) многообразие (соотв. 1У£).

Функция Морса-Ляпунова существует в окрестности любой периодической орбиты диффеоморфизма / е МЗ(Мп). Справедлив и факт существования глобальной функции Морса-Ляпунова для любого диффеоморфизма / е А/5(Л/П).

Теорема 4.1. Для любого диффеоморфизма Морса-Смейла / б Л/5(Л/") существует функция Морса-Ляпунова.

Теорема 4.2. Среди гладких функций Ляпунова для диффеоморфизма / 6 Л/5(Л/") функции Морса-Ляпунова образуют открытое всюду плотное, а, следовательно, массивное множество в С™'-топологии.

Согласно предложению 1.10 существует динамическая нумерация орбит диффеоморфизма /: 0\,..., Окр используя которую, мы дадим следующее определение.

Определение 4.5. Пусть орбиты диффеоморфизма / 6 Л/5(Д/П) имеют динамическую нумерацию: Оь..., Окг Функцию Морса-Ляпунова <р> для диффеоморфизма / назовем динамически упорядоченной, если (р(0{) = г для г € {1,..., к/}.

Построения в теореме 4.1 можно провести таким образом, что результирующая

функция будет динамически упорядоченной функцией Морса-Ляпунова для диффеоморфизма / е МЗ{Мп).

Пусть / е Д/5(Л/3). Из теоремы 1.3 следует, что для каждого г = 1,..., кг множс-

г

ство = и Щ- является аттрактором, то есть обладает захватывающей окрестно-

3 = 1 '

стью Л/,-, где Mi компактное множество такое, что /(Л/;) С М А/* (Л/,- — /-сжимаема) и |~) фк{М{) = Л;. Обозначим через с; число компонент связности аттрактора Л;, чс-

Л>0

рез Г; — ЧИСЛО седловых точек И через 3,- — число стоковых точек В Л;. Положим <7; = Сг + Г( - 5;.

Определение 4.6. Захватывающая окрестность М, аттрактора Л; называется ручечной, если:

1) А/,- состоит из с,- компонент связности, каждая из которых является ру-чечным телом;

2) для каждой седловой точки а £ О; пересечение состоит в точности из одного двумерного диска.

Сумму дм. родов компонент связности А/,- назовем родом ручечной окрестности.

Заметим, что для каждого г = 1,..., ко число равно нулю, аттрактор Д является нульмерным (так как состоит из с; стоковых точек) и обладает ручечной окрестностью А/; рода = 0, состоящей из с,- попарно непересекающихся трехмерных шаров. Для каждого i = к0 + 1,... ,кх аттрактор Д содержит одномерную компоненту связности, в силу чего (допуская некоторую вольность) мы будем далее называть его одномерным.

Предложение 4.3. Каждый одномерный аттрактор Л; диффеоморфизма / 6 А/5(А/3) обладает ручечной окрестностью А/; рода дИ, > <?;.

Определене 4.7. Ручечную окрестность А/,- одномерного аттрактора Л; назовем тесной, если ди = р,-. Одномерный аттрактор Л;, обладающий тесной окрестностью М; назовем тесно вложенным.

По определению репеллер для диффеоморфизма / есть аттрактор для Кроме того, динамическая нумерация орбит 01,..., диффеоморфизма / индуцирует динамическую нумерацию орбит ($¡,...,0^ диффеоморфизма /_1 следующим образом: (Э{ = О^-;. Тогда одномерный репеллер называется тесно вложенным, если он является тесно вложенным одномерным аттрактором для /-1 относительно индуцированной динамической нумерации орбит.

Теорема 4.3. Если диффеоморфизм / € А/5(А/3) обладает динамически упорядоченной энергетической функцией, то все его одномерные аттракторы и репеллеры являются тесно вложенными.

Определение 4.8. Тесная захватывающая окрестность Мг одномерного аттрактора Л, называется строго тесной, если А/,- \ Л,- диффеоморфно дМ1 х (0,1]. Одномерный аттрактор Ai, обладающий строго тесной окрестностью М^ называется строго тесно вложенным.

Теорема 4.4. Если все одномерные аттракторы и репеллеры диффеоморфизма / е А/5(А/3) являются строго тесно вложенными, то / обладает динамически упорядоченной энергетической функцией.

В следующей теореме устанавливается критерий существования динамически упорядоченной энергетической функции для диффеоморфизма Морса-Смейла без гетероклшшческих кривых, заданного на сфере §3.

Теорема 4.5. Диффеоморфизм Морса-Смейла / : В3 —> §3 без гетероклиниче-ских кривых обладает динамически упорядоченной энергетической функцией тогда

и только тогда, когда каждый его одномерный аттрактор и репеллер является тесно вложенным.

Определение 4.10. Назовем функцию Морса-Ляпунова у : М" -> Л квазиэнергетической для диффеоморфизма Морса- Смейла / : Мп -> Мп, если она имеет наименьшее возможное число критических точек среди всех функций Морса-Ляпунова для /.

Обозначим через V класс (класс Пикстона) диффеоморфизмов Морса-Смейла / : §з чье неблуждающее множество состоит в точности из четырех неподвижных точек: одного источника а, одного седла <т и двух стоков и ш2. Для каждого целого числа к > 0 обозначим через Т>к множество диффеоморфизмов / € V, для которых аттрактор Аг обладает ручечной окрестностью Р+ рода к, граница которой является поверхностью Хегора для 83.

В силу теоремы 4.5, любой диффеоморфизм / 6 То обладает энергетической функцией, тогда как любой диффеоморфизм из класса 7>к, к > 0, не имеет энергетической функции.

Теорема 4.7. Каждая квази-энергетическая функция диффеоморфизма / £ Т3! имеет в точности шесть критических точек.

Список публикаций

[1] Pochinka О. On topological conjugacy of the simplest Morse-Smale diffeomorphisms with a finite number of heteroclinic orbits on S3 // Progress in nonlinear science. 2001. V. 1. 338-345.

[2] Починка О.В. О топологической сопряженности простейших диффеоморфизмов Морса-Смейла с конечным числом гетероклинических орбит на многообразии S3 // Труды СВМО. 2002. Т. 3-4. No 1. 138-142.

[3] Починка О.В. Классификация неградиентноподобных диффеоморфизмов с конечным числом гетероклинических орбит на 3-многообразиях // Труды СВМО. 2003. Т. 5. No 1. 104-109.

[4] Гринес В.З., Починка О.В. Структура предельного множества сепаратрис диффеоморфизмов Морса-Смейла на 3-многообразиях // Труды СВМО, 2004. Т. 6. No 1, 32-39.

[5] Гринес В.З., Починка О.В. Классификация диффеоморфизмов Морса-Смейла с цепочкой из трех седел на 3-многообразиях // Труды СВМО. 2005. Т. 7. No 1. 5965.

[6] Починка О.В. О связи диффеоморфизмов с пространствами орбит // Труды Всероссийской научной конференции "Нелинейные колебания механических систем". 2005. 186-188.

[7] Pochinka О. Classification of diffeomorphisms with a chain of three saddles on 3-manifold // Dynamics, bifurcations and chaos, 2005. 35-37.

[8] Гринес B.3., Починка О.В. О существовании энергетической функции диффеоморфизмов Морса-Смейла на 3-многообразиях // Труды СВМО. 2007. Т. 9. No 1. 15-23.

[9] Гринес В.З., Лауденбах Ф., Починка О.В. Энергетическая функция для градиентно-подобных диффеоморфизмов на 3-многообразиях // ДАН. 2008. Т. 422. No 3. 299-301.

[10] Pochinka О. Diffcomorphisms with mildly wild frame of separatriccs // Univcrsi-tatis Iagclonicae Acta Mathematica. Fasciculus XLVII. 2009. 149-154.

[11] Grines V., Laudenbach F., Pochinka O. Self-indexing function for Morse-Smale diffcomorphisms on 3-manifolds // Moscow Math. Journal. 2009. No 4. 801-821.

[12] Гринес B.3., Лауденбах Ф., Починка О.В. Квази-энергстичсская функция для диффеоморфизмов с дикими сепаратрисами // Математические заметки. 2009. Т. 86. No 2. 175-183.

[13] Grines V., Pochinka О. Energy Functions for Dynamical Systems // Regular and Chaotic Dynamics. 2010. V. 15. No. 2-3. 187-195.

[14] Grines V., Pochinka O. On topological classification of Morsc-Sinale diffeomor-phisms // Dynamics, Games and Science II DYNA2008 in honor of Mauricio Peixoto and David Rand. University of Minho. 2010. 403-424.

[15] Починка О.В. Полный топологический инвариант для диффеоморфизмов Морса-Смейла на 3-многообразиях // Труды СВМО. 2011. Т. 13. No 2. 17-24.

[16] Гринес В.З., Лауденбах Ф., Починка О. О существовании энергетической функции для диффеоморфизмов Морса-Смейла на 3-многообразиях // ДАН. 2011. Т. 440. No 1. 7-10.

[17] Починка О.В. Необходимые и достаточные условия топологической сопряженности каскадов Морса-Смейла на 3-многообразиях // Нелинейная динамика. 2011. Т. 7. No 2. 227-238.

[18] Починка О.В. Классификация диффеоморфизмов Морса-Смейла на 3-многообразиях // ДАН. 2011. Т. 440. No 6. 34-37.

Подписано в печать 20.09.2011 г. Формат 60x84 1/16. Бумага офсетная. Печать офсетная. Усл. печ. л. 2. Заказ № 585. Тираж 100 экз.

Отпечатано с готового оригинал-макета в РИУ ННГУ им. Н.И. Лобачевского. 603000, г. Нижний Новгород, ул. Б. Покровская, 37

Введение. Общая характеристика работы

1 Свойства каскадов Морса-Смейла на п-многообразиях

1.1 Вспомогательные сведения из теории динамических систем

1.2 Вложение и асимптотическое поведение инвариантных многообразий периодических точек

1.2.1 Представление объемлющего многообразия объединением инвариантных многообразий периодических точек.

1.2.2 Вложение инвариантных многообразий периодических точек в объемлющее многообразие.

1.2.3 Топологические инварианты, связанные с вложением инвариантных многообразий периодических точек в объемлющее многообразие.

1.2.4 Линеаризующая окрестность.

1.2.5 Асимптотическое поведение инвариантных многообразий периодических точек.

1.3 Представление динамики в виде "источник-сток".

1.3.1 Диффеоморфизмы "источник-сток"

1.3.2 Локальная функция Морса-Ляпунова.

1.3.3 Аттракторы и репеллеры.

Критерии ручного вложения сепаратрис и условия включение в поток для каскадов Морса-Смейла на 3-многообразиях

2.1 Вложения в 3-многообразие, фундаментальная группа которого допускает нетривиальный гомоморфизм в группу

2.1.1 Свойства ^-существенного тора.

2.1.2 Критерий тривиальности -существенного узла (тора)

2.2 Вложение сепаратрис в 3-многообразие.

2.2.1 Поведение ручной сепаратрисы в окрестности стока

2.2.2 Критерий ручного вложения сепаратрис в 3-многообразие

2.3 Построение каскадов на S3, не включающихся в топологический поток.

2.3.1 Построение пучков дуг в!3.

2.3.2 Необходимое условие включения трехмерного каскада в топологический поток.

2.3.3 Построение каскада на 3-сфере с заданным пучком одномерных сепаратрис.

3 Топологическая классификация каскадов Морса-Смейла на 3-многообразиях

3.1 Согласованная система окрестностей.

3.2 Необходимые и достаточные условия топологической сопряженности

3.2.1 Основы построения сопрягающего гомеоморфизма

3.2.2 Доказательство классификационной теоремы

3.3 Топология трехмерных характеристических пространств

3.3.1 Перестройка вдоль тора и бутылки Клейна.

3.3.2 Перестройка вдоль ¿-ламинации.

3.4 Реализация.

4 Построение гладкой функции Ляпунова для каскадов Морса-Смейла

4.1 Глобальная функция Морса-Ляпунова.

4.1.1 Необходимые сведения из теории Морса.

4.1.2 Общие свойства функции Ляпунова.

4.1.3 Существование и типичность функций Морса

Ляпунова

4.2 Динамически упорядоченная энергетическая функция

4.2.1 Необходимые условия существования

4.2.2 Построение.

4.2.3 Критерий существования на трехмерной сфере

4.2.4 Пример диффеоморфизма Морса-Смейла, обладающего энергетической функцией, одномерные аттрактор и репеллер которого не являтся строго тесно вложенными.

4.3 Квази-энергетическая функция для диффеоморфизмов

Пикстона.

4.3.1 Свойства ручечной окрестности рода

4.3.2 Построение квази-энергетической функции для диффеоморфизма / £ Т>\.

Предмет исследования. Настоящая диссертация лежит в русле современных проблем качественной теории динамических систем, восходящих к классическим работам А. Пуанкаре, A.M. Ляпунова, И. Бендиксона, Дж. Биркгофа и ее тематика является традиционной для Нижегородской школы теории нелинейных колебаний, основанной академиком A.A. Андроновым. Диссертация посвящена актуальным вопросам исследования структурно устойчивых динамических систем с конечным неблуждаю-шим множеством на 3-многообразиях. Среди решаемых в диссертации проблем первостепенное место занимает топологическая классификация таких каскадов и, тесно связанные с ней проблемы глобальной динамики, среди которых основное место занимает проблема существования гладкой (глобальной) функции Ляпунова, свойства которой наиболее тесно связаны с динамикой системы и проблема включения каскада в топологический поток. Содержание диссертации охватывает исследования автора, начатые в 1999 году.

Актуальность темы. Динамические системы, исследуемые в диссертации являются моделями, адекватно описывающими многочисленные процессы с регулярным поведением в естествознании и технике. Как оказалось, несмотря на отсутствие хаотического поведения траекторий, динамика блуждающих траекторий таких систем может быть весьма сложной, что связано как с возможностью существования гетеро-клинических пересечений инвариантных многообразий, так и возможностью дикого вложения последних в несущее пространство. Это приводит к необходимости введения принципиально новых типов топологических инвариантов, контролирующих тонкие свойства систем, которые различают классы топологической сопряженности. На пути построения таких инвариантов возникают актуальные проблемы глобальной динамики, тесно связанные с существованием глобальных функций Ляпунова с прогнозируемыми свойствами и условиями включения каскада в топологический поток.

Диссертация является логическим продолжением результатов выдающихся математиков Нижегородской школы динамических систем, основанной A.A. Андроновым. Отправной точкой исследований диссертации является понятие грубой системы (системы дифференциальных уравнений в ограниченной части плоскости, не меняющей своих качественных свойств при малых изменениях правых частей), введенное в 1937 году A.A. Андроновым и Л.С. Понтрягиным в работе [2], где они также указали необходимые и достаточные условия для того, чтобы система была грубой. В этом же году Е.А. Леонтович и А.Г. Майер [50] сформулировали утверждение о том, что для некоторого класса дифференциальных уравнений, по аналогии с грубыми системами, существует конечное число траекторий, полностью определяющих качественную структуру разбиения фазового пространства на траектории. В 1939 году А.Г. Майер [52] ввел понятие грубого преобразования окружности в окружность и установил возможные типы таких преобразований. В 1955 году в работе Е.А. Леонтович и А.Г. Майера [51] были найдены необходимые и достаточные условия топологической эквивалентности потоков с конечным числом особых траекторий на плоскости и двумерной сфере. Обобщением этих результатов явилась топологическая классификация грубых потоков на поверхностях, полученная М. Пейкшото [65].

Фундаментом для этого стали идеи Пуанкаре-Бендиксона, связанные с выделением тех траекторий, знание и взаимное расположение которых однозначно задает качественную структуру разбиения фазового пространства динамической системы на траектории. Тот факт, что грубые потоки имеют лишь конечное число гиперболических состояний равновесия, конечное число замкнутых гиперболических траекторий и не содержат сепаратрис, соединяющих седловые состояния равновесия, а также незамкнутых устойчивых по Пуассону траекторий позволил свести задачу топологической классификации грубых потоков на поверхностях к комбинаторной проблеме. Утверждение об отсутствии сепаратрис, соединяющих седловые состояния равновесия, было доказано в основополагающей работе Андронова и Понтрягина, отсутствие же незамкнутых устойчивых по Пуассону траекторий у грубых потоков на плоскости и сфере непосредственно следует из топологии этих многообразий, а для потоков на ориентируемых поверхностях большего рода этот нетривиальный факт был доказан вначале А.Г. Майером для грубых потоков без состояния равновесия на двумерном торе, а затем — М. Пейкшото [63], [64] для грубых потоков на ориентируемых поверхностях любого рода.

При переходе к потокам (каскадам) на многообразиях размерности большей двух (соответственно большей единицы) становится возможным существование гомоклинических пересечений инвариантных многообразий седловых периодических движений, что приводит к существованию счетного множества периодических траекторий. Первым, кто обнаружил сложную структуру множества траекторий, принадлежащих окрестности гомоклинической траектории, был А. Пуанкаре [80]. Затем Д. Бирк-гоф [9] исследовал двумерные сохраняющие площадь отображения и показал, что наличие гомоклинических пересечений влечет существование бесконечного множества периодических орбит. Первым феноменом, пролившим свет на принципиальное отличие структурно устойчивых потоков (каскадов) на многообразиях размерности большей двух (большей единицы) от структурно устойчивых потоков на поверхностях, явился пример структурно устойчивого диффеоморфизма двумерной сферы, обладающего бесконечным множеством периодических орбит. Этот пример был построен С. Смейлом [86] в 1961 году и получил название "подкова Смейла". Второе важнейшее открытие сделал Д.В. Аносов [3] в 1962 году, установив структурную устойчивость геодезического потока на римано-вом многообразии отрицательной кривизны. Затем он ввел и доказал структурную устойчивость чрезвычайно важного класса систем, названных им У-системами и получивших позднее название потоков и диффеоморфизмов Аносова. Обобщая это понятие, С. Смейл [88] ввел в рассмотрение класс систем с гиперболической структурой неблуждающего множества, являющегося замыканием множества периодических точек. Неблуждающее множество систем из этого класса допускает разложение на конечное число замкнутых инвариантных базисных множеств, на каждом из которых система действует транзитивно. Динамика на нетривиальном базисном множестве (не являющемся периодической орбитой) обладает свойствами, во многом сходными с поведением диффеоморфизма на неблуждающем множестве в примере "подкова Смейла".

Следует отметить, что первоначально, по аналогии с двумерной ситуацией, С. Смейл [84] в 1960 году выделил в качестве претендента на множество всех структурно устойчивых потоков на многообразиях размерности большей двух класс потоков с конечным множеством гиперболических состояний равновесия, замкнутых траекторий и трансверсальным пересечением устойчивых и неустойчивых многообразий этих траекторий. Позже С. Смейлом и Ж. Палисом [60], [62] было доказано, что эти потоки действительно являются структурно устойчивыми, но уже в 1962 году сам же С. Смейл понял, что они не исчерпывают множества всех структурно устойчивых потоков (достаточно рассмотреть поток, являющийся надстройкой над диффеоморфизмом "подкова Смейла", который является структурно устойчивым потоком со счетным множеством периодических движений). Однако, в силу важности таких потоков, как с точки зрения приложений так и в силу того, что эти потоки обладают свойствами глубокой взаимосвязи динамики с топологией фазового пространства (в частности, для них имеют место неравенства Морса, установленные С. Смейлом) класс таких потоков подвергся весьма пристальному изучению, получив специальное название потоков Морса-Смейла. Чуть позже по аналогии с потоками был выделен класс дискретных динамических систем Морса-Смейла, для которых неблуждающее множество гиперболично и конечно, а устойчивые и неустойчивые многообразия различных периодических точек пересекаются трансверсально.

Основной результат диссертации состоит в нахождении полной системы топологических инвариантов для сохраняющих ориентацию диффеоморфизмов Морса-Смейла, заданных на гладких замкнутых ориентируемых 3-многообразиях. Как уже было упомянуто это направление имеет большую предысторию, которую идейно можно описать следующим образом.

Класс эквивалентности потока Морса-Смейла на окружности однозначно определяется числом его неподвижных точек. Для каскадов на окружности полный топологический инвариант содержится в работе А.Г. Майера 1939 года и состоит из числа периодических орбит и числа вращения Пуанкаре. В 1955 году Е.А. Леонтович и А.Г. Майер в качестве полного топологического инварианта ввели схему потока с конечным числом особых траекторий на двумерной сфере. В 1971 году М. Пейкшото формализовал понятие схемы Леонтович-Майера и доказал, что для потока на произвольной поверхности полным топологическим инвариантом является класс изоморфности ориентируемого графа, вершины которого находятся во взаимно однозначном соответствии с состояниями равновесия и замкнутыми траекториями, а ребра соответствуют некоторым компонентами связности инвариантных многообразий состояний равновесия и замкнутых траекторий, при этом изоморфность графов включает в себя сохранение выделенных специальным образом подграфов1.

Хотя неблуждающее множество систем Морса-Смейла состоит из конечного множества периодических траекторий, блуждающее множество потока (каскада) на многообразии размерности большей двух (большей единицы) устроено, вообще говоря, значительно сложнее, чем в соответствующих динамических системах на многообразиях меньшей размерности. Это связано с возможностью пересечения устойчивых и неустойчивых многообразий седловых периодических траекторий. Так в работе В. Афраймовича и Л. П. Шильникова [1] доказано, что ограничение потоков Морса-Смейла на замыкание множества гетероклинических траекторий

ХВ работе [59] была замечена неточность инварианта Пейкшото, связанная с тем, что изоморфизм графов не различает неэквивалентного расслоения на траектории областей ограниченных двумя периодическими орбитами. сопряжено с надстройкой над тополгической марковской цепью. Однако, для диффеоморфизмов поверхностей с конечным числом гетерокли-нических орбит, инварианта, подобного графу Пейкшото и оснащенного некоторой дополнительной информацией, оказалось достаточно для описания полного топологического инварианта (А.Н. Безденежных, В.З. Гринес [6], [7], [8], [27]). Аналогично для потоков с конечным числом гетероклинических траекторий на 3-многообразиях в качестве полного топологического инварианта вновь использовались конструкции, подобные схеме Леонтович-Майера и фазовой диаграмме С. Смейла (С.Ю. Пилюгин, Я.Л. Уманский [66], [93]). Классификационные результаты на языке графов Пейкшото и диаграмм Смейла имеются и в размерности п > 3: для потоков на сфере §п, в предположении, что эти потоки не имеют замкнутых траекторий и гетероклинических пересечений (С.Ю. Пилюгин [66]); для градиентно-подобных диффеоморфизмов на Мп, все седловые точки которого имеют индекс Морса, равный единице (Гринес В.З., Гуревич Е.Я., Медведев B.C. [28], [29]).

Таким образом, для всех упомянутых выше систем Морса-Смейла основным моментом для выделения класса топологической сопряженности (эквивалентности) являлось указание асимптотического направления инвариантных многообразий неподвижных точек и периодических орбит. Благодаря работам Д. Пикстона [67], X. Бонатти и В.З. Гринеса [10] стало ясно, что каскады Морса-Смейла на 3-многообразиях не вписываются в концепцию выделения каркаса из инвариантных многообразий неподвижных точек и периодических орбит. Причиной столь неожиданного эффекта оказалась возможность "дикого" поведения сепаратрис седловых точек. А именно, замыкание сепаратрисы может отличаться от самой сепаратрисы всего одной точкой, но не являться при этом даже топологическим подмногообразием. Впервые диффеоморфизм с дикими сепаратрисами был построен Д. Пикстоном в 1977 году. Он использовал кривую Артина-Фокса для реализации инвариантных многообразий сед-ловой неподвижной точки. Как показали X. Бонатти и В.З. Гринес, в классе диффеоморфизмов Морса-Смейла трехмерной сферы с неблуждающим множеством, состоящим из четырех неподвижных точек: седла, одного источника и двух стоков, существует счетное множество топологически несопряженных. При этом полным топологическим инвариантом является тип вложения сепаратрис седловой неподвижной точки.

Эффективным инструментом, позволяющим различать тип вложения сепаратрисы является переход к пространству орбит части блуждающего множества, содержащего эту сепаратрису. При этом структура пространства блуждающих орбит является необходимой информацией в топологическом инварианте наряду с информацией об асимптотическом направлении инвариантных многообразий седловых периодических точек. Этой идеей связан цикл работ [12]-[18], [35]—[37], [40], [68]—[79] по топологической классификации диффеоморфизмов Морса-Смейла на 3-многообразиях российских и французских математиков X. Бонатти, В.З. Гринеса, B.C. Медведева, Е. Пеку, О.В. Починки. В упомянутой серии работ была решена задача топологической классификации диффеоморфизмов Морса-Смейла на 3-многообразиях, не имеющих либо гетерокли-нических точек, либо гетероклинических орбит. Основным результатом настоящей диссертации является полная топологическая классификация произвольных сохраняющих ориентацию диффеоморфизмов Морса-Смейла на замкнутых ориентируемых 3-многообразиях.

Дикое вложение сепаратрис седловых точек создает препятствие к включению диффеоморфизма Морса-Смейла / G MS(Mn) в поток, то есть к существованию топологического потока Хг на Мп такого, что / является сдвигом на единицу времени вдоль траекторий потока Хь. Из работ [60], [62], в которых доказана структурная устойчивость диффеоморфизмов Морса-Смейла, следует, что для любого многообразия Мп существует открытое в Dif fl(Mn) множество диффеоморфизмов Морса-Смейла, включающихся в топологический поток. В работе [60] также найдены следующие необходимые условия включения диффеоморфизма / Морса-Смейла в топологических поток, состоящие в том, что множество Qf совпадает с множеством Fix/ неподвижных точек; ограничение диффеоморфизма / на каждое инвариантное многообразие любой неподвижной точки р G Qy сохраняет его ориентацию; если для различных седловых точек p,q G £lf пересечение П W™ непусто, то каждая его компонента связности не является замкнутым множеством. Там же показано, что при п = 2 эти условия являются достаточными и поставлена задача обобщения этого результата на случай большей размерности. В настоящей диссертации разработана методика построения каскадов Морса-Смейла на 3-многообразиях, удовлетворяющих всем условиям Палиса, но не включающихся ни в какой топологический поток. Это явление сильно контрастирует с ситуацией на двумерных многообразиях и подчеркивает нетривиальность проблемы Ж. Палиса [60] о нахождении условий, гарантирующих возможность включения диффеоморфизма в топологический поток.

Эффект дикого заузливания сепаратрис был использован Д. Пиксто-ном в качестве контраргумента к утверждению о существовании энергетической функции Морса у любого каскада Морса-Смейла. Энергетическая функция динамической системы — это гладкая функция Ляпунова функция, убывающая вдоль траекторий системы вне цепно рекуррентного множества и постоянная на цепных компонентах), не имеющая критических точек, отличных от цепно рекуррентного множества. К. Конли [22] в 1978 году доказал существование непрерывной функции Ляпунова у любой динамической системы и этот результат получил название фундаментальной теоремы динамических систем. Функция Ляпунова стала мощнейшим аппаратом, позволяющим строить фильтрацию для систем удовлетворяющих аксиоме А и условию отсутствия циклов, следствием из существования которой является ^-устойчивость динамической системы. В основе теоремы К. Конли лежит теория глобальных аттракторов и репеллеров, последовательное выделение которых позволяет построить непрерывную функцию Ляпунова. Такой подход принципиально не годится для построения гладкой функции Ляпунова.

В настоящей диссертации для произвольных каскадов Морса-Смейла на п-многообразиях (п > 1) построена гладкая функция Ляпунова. Более того, построенная функция является функцией Морса и ее регулярные линии уровня трансверсальны инвариантным многообразиям периодической точки в некоторой ее окрестности. Функция с такими свойствами, названа функцией Морса-Ляпунова. Автором доказано, что такие функции являются типичными среди гладких функций Ляпунова для диффеоморфизма Морса-Смейла / : Мп —У Мп.

Первые результаты по построению энергетической функции принадлежат С. Смейлу [85], который в 1961 году доказал существование энергетической функции Морса у градиентно-подобного потока (потока Морса-Смейла без замкнутых траекторий). К. Мейер [54] в 1968 году обобщил этот результат и построил энергетическую функцию Морса-Ботта для потока Морса-Смейла. Работа К. Мейера индуцировала М. Шуба [90] и Ф. Такенса [91] на выдвижение гипотезы о том, что энергетической функцией Морса обладают любые диффеоморфизмы Морса-Смейла. В качестве аргумента, подтверждающего гипотезу предполагалось перейти к надстройке и применить результат К. Мейера о существовании энергетической функции потока. Построенная таким способом гладкая функция действительно не возрастает вдоль траекторий диффеоморфизма, но может иметь критические точки вне его неблуждающего множества, то есть является гладкой функцией Ляпунова. Единственный результат для диффеоморфизмов в этом направлении принадлежит Д. Пикстону, который в 1977 году построил энергетическую функцию Морса для диффеоморфизмов Морса-Смейла на поверхностях. Там же он построил, упоминавшийся выше как пример Пикстона, диффеоморфизм на 3-сфере, не обладающий энергетической функцией, и доказал, что такой эффект в этом примере связан с диким вложением сепаратрис седловых точек.

В настоящей диссертации показано, что условия существования энергетической функции у любого диффеоморфизма Морса-Смейла / : М3 —>• М3 связаны с типом вложения глобальных аттракторов и репеллеров. С этой целью автором диссертации предъявлены все возможные представления диффеоморфизма / в виде "источник-сток", где под источником-стоком понимается дуальная пара глобальный репеллер-аттрактор. Введена нумерация этих пар, индуцированная отношением порядка на множестве периодических орбит, согласующимся с частичным порядком С. Смейла и являющимся неубывающей функцией индекса Морса. Такой порядок назван динамическим, а функция Морса-Ляпунова, принимающая на периодической орбите значение, равное номеру этой орбиты названа динамически упорядоченной. Установлено, что существование динамически упорядоченной энергетической функции у каскада Морса-Смейла на 3-многообразии накладывает ограничения на тип вложения его одномерных аттракторов (репеллеров), которые легли в основу понятия "тесно вложенный аттрактор (репеллер)". При этом, тесная вложенность одномерных аттракторов (репеллеров) является критерием существования динамически упорядоченной энергетической функции у диффеоморфизмов Морса-Смейла без гетероклиниче-ских кривых на 3-сфере. На произвольных 3-многообразиях М3 такая функция построена при более сильных ограничениях: одномерные аттракторы (репеллеры) являются строго тесно вложенными.

Факт существования функции Ляпунова и отсутствия энергетической функции приводит к понятию функции Ляпунова с минимальным числом критических точек, которая в диссертации названа квазиэнергетической. Выделен содержательный класс каскадов Морса-Смейла на 3-многообразиях, не обладающих энергетической функцией, для которых построена квази-энергетическая функция.

Цель работы. Работа направлена на решение актуальных проблем, связанных с глобальным исследованием важного класса структурно устойчивых дискретных динамических систем на 3-многообразиях с конечным неблуждаюшим множеством. Приоритетной целью работы является получение полной системы топологических инвариантов, которые однозначно определяют класс топологической сопряженности и допускают реализацию, позволяющую моделировать системы с прогнозируемыми свойствами. Топологическая классификация неразрывно связана с исследованием глобальной динамики системы и вложения в объемлющее многообразие сепаратрис ее седловых периодических точек. Поэтому целью диссертации является также каноническое описание глобальной динамики произвольного каскада Морса-Смейла, нахождение критериев ручного вложения сепаратрис, а также выявление препятствий включению каскадов в поток. Одним из эффективных инструментов исследования глобальной динамики динамической системы является функция Ляпунова. Целью диссертации является построение гладкой функции Ляпунова для каскадов Морса-Смейла, свойства которой тесно связаны с динамикой системы. А именно, нахождение необходимых и достаточных условий существования и построение энергетической функции, то есть функции Ляпунова, множество критических точек которой совпадает с неблуждающим множеством диффеоморфизма, а также построение квази-энергетической функции, то есть функций Ляпунова с минимальным числом критических точек.

Методы исследования. В диссертации разработаны новые методы исследования динамических систем Морса-Смейла, основанные на применении классических методов качественной теории, алгебраической топологии и дифференциальной геометрии. Они позволяют описать топологические инварианты, появляющиеся в результате представления динамики произвольного диффеоморфизма Морса-Смейла в виде аттрактор-репеллер и исследовать характеристическое пространство блуждающих орбит, вместе с вложенными в него проекциями двумерных сепаратрис седловых периодических точек, образующими нетривиальные геометрические объекты — гетероклинические ламинации. Для решения проблемы реализации каскадов Морса-Смейла эффективно используется, разработанный в диссертации метод перестройки замкнутых 3-многообразий вдоль существенно вложенных подмногообразий. При построении гладких функций Ляпунова существенно применяется теория Морса и методы сферических перестроек.

Научная новизна. Диссертация посвящена развитию важного направления в теории динамических систем на многообразиях — нахождению и исследованию топологических инвариантов, определяющих глобальное поведение траекторий каскадов на гладких замкнутых ориентируемых 3-многообразиях. Все полученные в диссертации результаты являются новыми и коротко могут быть сформулированы следующим образом:

1. Введены и изучены новые топологические инварианты диффеоморфизмов, принадлежащих классу М5(М3) сохраняющих ориентацию диффеоморфизмов Морса-Смейла, заданных на замкнутых ориентируемых 3-многообразиях М3. Построение инвариантов основано на представлении глобальной динамики диффеоморфизма / Е М5(М3) в виде "источник - сток", где под источником и стоком понимаются дуальные репеллер и аттрактор. Предъявлены все возможные такие представления и связанные с ними пространства орбит (характеристические пространства), принадлежащих дополнению к аттрактору и репеллеру, вместе с вложенными в них образами сепаратрис седловых периодических точек в силу естественной проекции.

2. Для диффеоморфизмов класса М5(М3) получены критерии ручного вложения сепаратрис седловых точек в окрестности узловой точки. Введена операция перестройки характеристических пространств вдоль тора и бутылки Клейна, с помощью которой изучается топология трехмерных характеристических пространств, в частности доказано, что каждая компонента связности такого пространства является простым многообразием, фундаментальная группа которого допускает эпиморфизм в группу Ъ. Исследованы препятствия включению таких диффеоморфизмов в топологический поток. Разработана методика построения каскадов Морса-Смейла на 3-многообразиях, удовлетворяющих необходимым условиям Палиса включения в топологический поток, но не включающихся ни в какой топологический поток.

3. Для каскада / Е М5(М3) доказано существование согласованной системы окрестностей, являющейся одним из основных технических инструментов топологической классификации. Построение такой системы использует структуру изученных в диссертации характеристических пространств. Свойства построенной в диссертации системы принципиально отличаются в окрестности гетерокли-нических кривых от свойств трубчатых семейств Ж. Палиса и С. Смейла, используемых ими при доказательстве структурной устойчивости диффеоморфизмов Морса-Смейла.

4. Найдены необходимые и достаточные условия топологической сопряженности каскадов класса М5(М3). А именно, введено понятие схемы Sf диффеоморфизма / 6 М5'(М3), которая содержит информацию о периодических данных каскада, топологии вложения и пересечения в фазовом пространстве двумерных инвариантных многообразий седловых периодических точек. Для этого использовано характеристическое пространство, соответствующее одномерному аттрактору-репеллеру и введенное в диссертации понятие гете-роклинической ламинации, являющейся компактным объединением попарно непересекающихся торов и бутылок Клейна с конечным, пустым или счетным множеством выколотых точек. Доказано, что диффеоморфизмы /, /' е М5(М3) топологически сопряжены тогда и только тогда, когда их схемы эквивалентны.

5. Решена проблема реализации. На основе свойств схемы 5/ выделено множество ¿> абстрактных схем, содержащее схемы всех диффеоморфизмов из М5(М3). По каждой абстрактной схеме 5 6 5 построен диффеоморфизм fs £ М5(М3), схема которого эквивалентна данной. Решение этой проблемы позволяет моделировать структурно устойчивые динамические системы с прогнозируемыми свойствами.

6. Для произвольного диффеоморфизма из класса М5'(МП) построена гладкая функция Ляпунова, являющаяся функцией Морса, что явлется существенным усилением фундаментальной теоремы динамических систем для каскадов Морса-Смейла.

7. Доказано, что необходимые и достаточные условия существования энергетической функции (функции Ляпунова, не имеющей критических точек, отличных от периодических) у диффеоморфизма / 6 М5(М3) связаны с типом вложения одномерных аттракторов и репеллеров. Получен критерий существования динамически упорядоченной энергетической функции для диффеоморфизмов класса М5(§3), не имеющих гетероклинических кривых. Выделен содержательный класс каскадов Морса-Смейла на 3-многообразиях, не обладающих энергетической функцией, для которых построена квази-энергетическая функция (функция Ляпунова с минимальным числом критических точек).

Теоретическая и практическая значимость. Работа носит теоретический характер. Полученные в ней результаты и методы могут быть применены в теории гладких динамических систем при исследовании конкретных трехмерных неавтономных периодических по времени систем дифференциальных уравнений, а также четырехмерных потоков, с помощью изучения отображения последования на секущей к траекториям потока. В частности, эти результаты могут найти применение в исследованиях, проводимых в Математическом Институте им. В,А. Стек-лова РАН, Петербургском отделении Математического Института РАН, Московском Государственном Университете им М.В. Ломоносова, Нижегородском Государственном Университете им. Н.И. Лобачевского, НИИ прикладной математики и кибернетики ННГУ, других высших учебных заведениях и научных центрах.

Апробация работы. По теме диссертации были сделаны следующие доклады на международных конференциях:

• на международных конференциях по дифференциальным уравнениям и динамическим системам (Суздаль 2000, 2002, 2004, 2008, 2010);

• на международной конференции, посвященной столетию А. А. Андронова (Нижний Новгород 2001);

• на международных конференциях "Дифференциальные уравнения и их приложения" (Саранск 2002 - 2010);

• на международной конференции, посвященной столетию А. Н. Колмогорова (Москва 2003);

• на объединенной международной научной конференции "Новая геометрия природы" (Казань 2003);

• на международной конференции "Динамика, бифуркация и хаос" (Н. Новгород 2005);

• на международной конференции "Тихонов-100" (Москва 2006);

• на международной конференции "Dynamics, Topology and Computations" (Bedlewo (Poland) 2006);

• на международной конференции, посвященной И.Г. Петровскому (Москва 2006, 2007, 2011);

• на интернациональном конгрессе "Nonlinear Dynamical Analysis-2007" (Санкт-Питербург 2007);

• на международной конференции "Laminations and Group Actions in Dynamics" (Москва 2007);

• на международной конференции "Differential Equations and Topology", посвященной JI.С. Понтрягину (Москва 2009).

По теме диссертации были также сделаны следующие доклады:

• на семинарах кафедры высшей математики Нижегородской Сельскохозяйственной академии (2002 - 2011 руководитель проф. В. 3. Гринес);

• на научном семинаре отдела дифференциальных уравнений МИАН (2003, 2008, 2011, руководитель акад. Д. В. Аносов и проф. Ю. С. Ильяшенко);

• на научном семинаре МГУ по теории динамических систем (2003, руководители акад. Д. В. Аносов и проф. А. М. Степин);

• на научном семинаре отдела дифференциальных уравнений НИИ прикладной математики и кибернетики при Нижегородском государственном университете (2003, 2008, руководитель проф. Л. П. Шильников);

• на научном семинаре МГУ по динамическим системам (2004, руководитель проф. Ю. С. Ильяшенко);

• на научном семинаре кафедры дифференциальных уравнений механико-математического факультета ННГУ (2009 - 2011, руководители проф. Л. М. Лерман и проф. А. Д. Морозов);

• на научном семинаре кафедры теории функций механико-математического факультета ННГУ (2008 - 2011, руководитель проф. М. О. Сумин).

Структура и объем диссертации. Основные главы диссертации предваряются введением и общей характеристикой работы и заканчиваются списком литературы. Содержание диссертации изложено в четырех главах. Первая глава диссертации посвящена детальному изучению свойств диффеоморфизмов из класса М5(МП), состоящего из сохраняющих ориентацию диффеоморфизмов Морса-Смейла /, заданных на замкнутых ориентируемых п-многообразиях Мп, п > 1. Изучается вложение и асимптотическое поведение инвариантных многообразий периодических точек и структура их пространств орбит. Описывается общая концепция изучения динамики диффеоморфизмов Морса-Смейла, которая во многих случаях позволяет решить проблему топологической классификации и реализации диффеоморфизмов Морса-Смейла. Во второй главе диссертации сформулированы и доказаны критерии ручного вложения как одномерных так и двумерных сепаратрис седловых точек диффеоморфизма / € М5(М3) в бассейн стока (источника). Введено понятие перестройки трехмерных характеристических пространств вдоль гладко вложенных в нее торов и бутылок Клейна, позволяющее изучать топологию трехмерных характеристических пространств. Разработана методика построения каскадов Морса-Смейла на 3-многообразиях, удовлетворяющих всем условиям Палиса, но не включающихся ни в какой топологический поток. В третьей главе приводится полная топологическая классификация (включая реализацию) каскадов Морса-Смейла на 3-многообразиях. Значительная часть третьей главы посвящена построению согласованной системы окрестностей, являющейся существенным техническим моментом при построении сопрягающего гомеоморфизма и реализации. В четвертой главе для диффеоморфизмов Морса-Смейла на 3-многообразиях вводится понятие функции Ляпунова, энергетической и квази-энергетической функции. Устанавливается факт существования функции Морса-Ляпунова для любого диффеоморфизма / (Е М5(МП) и типичность в пространстве функций Ляпунова для /. Доказываются необходимые и достаточные условия существования динамически упорядоченной энергетической функции для диффеоморфизмов класса М5(М3). Для содержательного класса каскадов Морса-Смейла на 3-многообразиях, не обладающих энергетической функцией, строится квази-энергетическая функция.

Объем диссертации — 235 страниц, количество рисунков — 43, наименований литературы — 94. Основные утверждения диссертации составляют теоремы 1.3, 2.2, 2.3, 3.1, 3.2, 3.5, 4.1, 4.4 и 4.7.

Публикации. Всего по теме диссертации автором опубликовано 18 работ, из них 11 — в изданиях, рекомендованных ВАК. Все основные результаты диссертации являются новыми и принадлежат автору. В работах, выполненных с В.З. Гринесом и Ф. Лауденбахом, диссертанту принадлежат формулировки и доказательства результатов, включенных в диссертацию, В.З. Гринес являлся научным консультантом, Ф. Лауден-бах осуществлял консультации по топологическим вопросам.

Финансовая поддержка. Диссертация выполнена при финансовой поддержке грантов РФФИ 05-01-00501-а, 08-01-00547-а, 08-01-064-д, 11-01-1205б-офи-м, гранта 9686.2006.1 Президента РФ ведущим научным школам и гранта правительства Российской Федерации 11.G34.31.0039.

Формулировка результатов

Определение 1.1. Диффеоморфизм / : Мп —» Мп, заданный на гладком замкнутом (компактном без края) связном п-многообразии (п>1) Мп называется диффеоморфизмом Морса-Смейла, если

1) неблуждающее множество конечно и гиперболично;

2) многообразия \Ур, пересекаются трансе ер сально для любых периодических точек р, q.

В настоящей диссертации рассматривается класс М5(МП) сохраняющих ориентацию диффеоморфизмов Морса-Смейла / : Мп —> Мп, заданных на ориентируемых многообразиях Мп. В первой главе приводятся с доказательством необходимые для топологической классификации свойства диффеоморфизмов Морса-Смейла и описываются конструкции, которые будут использоваться для введения топологических инвариантов.

Пусть / е М5(МП). Согласно определению 1.1, неблуждающее множество Q,f диффеоморфизма / состоит из конечного числа периодических точек = Рег/). Гиперболическая структура множества Qf приводит к существованию у каждой периодической точки р & периода тПр инвариантных многообразий: устойчивого У/р и неустойчивого определяемых в топологических терминах следующим образом: где d — метрика на Мп. При этом dim W* = п — qp (dim = qp), где qp — число отрицательных собственных значений матрицы Якоби дем обозначать через Wp (Wp) объединение неустойчивых (устойчивых) многообразий всех точек из множества Р. Компонента связности isp (ip) множества Wp\p (dim Wp\p) называется сепаратрисой точки р. Число

W* = {xeMn : lim d(fnm*(x),p) = 0}, W" = {xeMn : lim d(f-nm*(x),p) = 0} индекс Морса). Далее для любого подмножества Р С Г2/ буг/р, равное +1, если отображение /Шр\шри сохраняет ориентацию и равное — 1, если отображение /тр\\у» меняет ориентацию, называется типом ориентации точки р. Тройка чисел (тр, ир) = (тор, Яор, Vор) называется периодическими данными точки р (орбиты Ор).

Точка р называется седлом, если 0 < < п и называется узлом в противном случае, при этом р называется стоком (источником), если Яр — 0 = п). Поскольку диффеоморфизм / сохраняет ориентацию, то для узловых точек тип ориентации всегда равен +1, тогда как для седловых точек допустимы оба типа ориентации.

Для д Е {0,., п} обозначим через множество периодических точек с индексом Морса q и через к/ — число периодических орбит диффеоморфизма / е М5(МП).

Динамические свойства и топологический тип диффеоморфизмов Морса Смейла во многом определяются свойствами вложения и взаимного расположения инвариантных многообразий периодических точек. Особую роль в этих вопросах играет исследование асимптотических свойств инвариантных многообразий седловых периодических точек. Согласно С. Смейлу имеет место следующее утверждение.

Утверждение 1.13. Пусть / Е М5(МП). Тогда

1) мп= и реП/

2) ]¥р является гладким подмногообразием многообразия Мп, диффеоморфным Ж^1111 ^р для любой периодической точки р Е

3) с1(£р) \ {£рУр) = и И7^ для любой неустойчивой (устойчивой) сепаратрисы £^ (£*) периодической точки р Е

Согласно пункту (2) утверждени 1.13, \¥р является гладким qp-подмногообразием многообразия Мп для любой периодической точки р диффеоморфизма / Е М5(МП). Тогда отображение : И^ —у И^ является диффеоморфизмом. Более того, класс топологической сопряженности диффеоморфизма /Шр|ж» полностью определяется индексом Морса и типом ориентации ир точки р. Именно, согласно теореме о локальной топологической классификации гиперболических неподвижных точек диффеоморфизма отображение /Шр локально сопряжено в точке р линейному диффеоморфизму ая „ : Мп —> Мп, заданному формулой 1' • • •' хп) = {ур ' 2^1, 2x2, • • •, ир - , ,.,

В дальнейшем будем называть отображение : Мп —>• каноническим диффеоморфизмом. Кроме того, будем обозначать через а^, ограничения канонического диффеоморфизма на Ох\. хд, Охч+\. хп и называть диффеоморфизмы а^ а^ каноническим растяжением, каноническим сжатием, соответственно.

Предложение 1.1. Пусть f Е М5(МП). Тогда для любой периодической точки р Е Г2/ диффеоморфизм /тр|ру« : Жр —>• И^ топологически сопряжен с каноническим растяжением : К9р -» М9р посредством гомеоморфизма ^ : Жр —)■ который является диффеоморфизмом всюду, кроме точки р.

В случае, когда периодическая точка диффеоморфизма / Е М5(МП) является седловой, информативным становится не только вложение в оъемлющее пространство ее инвариантных многообразий, но и вложение /-инвариантной окрестности ее орбиты.

Для д Е {1,., п — 1}, ^ Е (0,1] положим Щ — {(а?!,., хп) Е Мп : {х\ + . . + Хц)(Хц+1 +. . + х1) < и Л/^1 = Заметим, что множество является инвариантным относительно канонического диффеоморфизма имеющего единственную неподвижную седловую точку в начале координат О с неустойчивым многообразием = Ох\. хч и устойчивым многообразием ЦГд — Охя+\. хп.

Определение 1.2. Пусть / Е М5(МП). Окрестность Л^ седловой точки а Е Qf назовем линеаризующей, если существует гомеоморфизм ца : Ыа —>> сопрягающий диффеоморфизм /т<т|лга с каноническим диффеоморфизмом аЯ(Г1 Уа [д^. та-1

Окрестность Иоа = и /^(Л^), оснащенную отображением цоа, к=О составленным из гомеоморфизмов '■ —> к =

О,.,та — 1, будем называть линеаризующей окрестностью орбиты

Оа.

Предложение 1.2. Любая седловая точка (орбита) диффеоморфизма / Е М5(МП) обладает линеаризующей окрестностью.

Согласно пункту (1) утверждения 1.13, инвариантные многообразия периодических точек диффеоморфизма / Е М5(МП) являются подмногообразиями многообразия Мп. Тем не менее, замыкание инвариантного многообразия седловой точки может иметь сложную топологическую структуру. Это явление может иметь как динамическую, так и чисто топологичекую природу. Первый случай соответствует ситуации, когда сепаратриса седловой точки участвует в гетероклинических пересечениях.

Определение 1.3. Если (J\,o<i различные периодические седловые точки диффеоморфизма f £ MS(Mn), для которых W^ П W" ф 0, то пересечение W® П называется гетероклиническим. При этом:

• в случае dim(W* П W%2) > 0, компонента связности пересечения

П называется гетероклиническим многообразием, а в случае dim(H/'^i П W%2) = 1, гетероклинической кривой;

• в случае dim(VK®i П W%2) — 0; пересечение W^flW" является счетным множеством и каждая точка этого множества называется гетероклинической точкой, а орбита гетероклинической точки называется гетероклинической орбитой.

Определение 1.4. Диффеоморфизм f Е MS(Mn) называется градиентно-подобным, если из условия W® П W"2 ф 0 для различных точек <7i,<72 £ П/ следует, что dim W" < dim W" .

Геометрическая интерпретацию последнего определения состоит в том, что диффеоморфизм / (Е MS{Mn) является градиентно-подобным тогда и только тогда, когда он не имеет гетероклинических точек.

Согласно пункту (3) утверждения 1.13, замыкание сепаратрисы седловой точки, участвующей в гетероклиническом пересечении, не имеет структуры топологического многообразия. Напротив, замыкание сепаратрисы седловой точки, не имеющей гетероклинических пересечениях, является топологически вложенным многообразием. Именно, имеет место следующее утверждение.

Предложение 1.4. Пусть / £ MS(Mn) и а — седловая точка f такая, что неустойчивая сепаратриса не имеет гетероклинических пересечений. Тогда с/(С) \ К и сг) = м, где ш — стоковая периодическая точка. При этом, если qa = 1, то есть топологически вложенная дуга в Мп, если > 2, то с1(£%) есть топологически вложенная в Мп сфера Б*1".

По пункту (2) утверждения 1.13, и а — гладкое подмногообразие многообразия Мп. Однако, многообразие с1(£%) может оказаться диким в точке и>.

Определение 1.5. Сепаратрису ¿^ седловой точки а, не участвующую в гетероклинических пересечениях, будем называть ручной или ручно вложенной в Мп, если замыкание с1(£%) является подмногообразием многообразия Мп, в противном случае будем называть сепаратрису 1иа дикой или дико вложенной в Мп.

Определение 1.6. Диффеоморфизм / 6 М5(МП) называется диффеоморфизмом "источник-сток" или "северный полюс-южный полюс", если его неблуждающее множество состоит из одного стока и одного источника.

Предложение 1.9. Если диффеоморфизм / £ МЗ(Мп) не имеет седловых точек, то

1) / — диффеоморфизмом "источник-сток";

2) пространство блуждающих орбит диффеоморфизма / гомеоморф-но §п1 х В1;

3) все диффеоморфизмы "источник-сток" топологически сопряжены между собой при фиксированном п и многообразие Мп гомеоморфно п-мерной сфере §п.

Как следует из теоремы 1.9, диффеоморфизмы "источник-сток" имеют тривиальную динамику: все точки, отличные от неподвижных точек, являются блуждающими и движутся под действием диффеоморфизма от источника к стоку. Топологическая сопряженность всех таких диффеоморфизмов следует из гомеоморфности их пространств блуждающих орбит. При изучении более сложных диффеоморфизмов Морса-Смейла удается представить динамику диффеоморфизма в аналогичном виде, но под "источником" и "стоком" уже понимаются, по возможности просто устроенные (с топологической точки зрения), инвариантные замкнутые множества, одно из которых А является притягивающим, а другое Л — отталкивающим множеством.

Если пространство орбит V = У//, где У = Мп \ (А и Д), поддается описанию, то это создает предпосылки для решения задачи топологической классификации в рамках данного класса диффеоморфизмов.

Поскольку диффеоморфизм f £ М8{Мп) является структурно устойчивым и его базисные множества совпадают с периодическими орбитами, то на множестве периодических орбит существует отношение порядка, согласованное с отношением частичного порядка

Определение 1.7. Нумерацию периодических орбит 0\,. ,Ок{ диффеоморфизма / £ М5(МП) назовем динамической, если она удо-влетоворяет следующим условиям:

1) если д^ <Яо3, то1 <

2) если д0г < qoj, то 0{ -< О у

Предложение 1.10. Для любого диффеоморфизма / £ М5(МП) существует динамическая нумерация периодических орбит.

Заметим, что существуют нумерации периодических орбит диффеоморфизма / е М5(МП), сохраняющие отношение частичного порядка -<, отличные от динамической. Везде далее мы будем предполагать, что орбиты диффеоморфизма / £ М5(МП) динамически упорядочены. Для каждой периодической орбиты 0{ положим т^ = то,, д^ = д^, щ = ио0

Для I — 1, — 1 положим г

А = Щ = и У1 = Мп\(Аг и ДО.

3 =1 3=г+1

Положим Уг = У{// и обозначим через рг : У{ —> У{ — естественную проекцию. Будем называть многообразие У{ характеристическим многообразием и его пространство орбит У{ характеристическим пространством. Заметим, что характеристическое пространство У{ не является связным в общем случае. Обозначим через У^,. ,У[г — компоненты связности пространства У^.

Теорема 1.3. Пусть / <Е М5(МП). Тогда

1) множество А{ (Ri) является аттрактором (репеллером) диффеоi морфизма / и имеет захватывающую окрестность Mi С U WJ (Мг С

3 = 1 kf

J Wj1) такую, что Mi \ int f(Mi) (Mi \ int f l{Mi)) является фун-j=i+1 даментальной областью ограничения диффеоморфизма f на Vi;

2) проекция рг Vi Vi является накрытием, индуцирующим структуру гладкого замкнутого п-многообразия на пространстве орбит Vi и отображение rji, состоящее из нетривиальных гомоморфизмов 7]^ : ni(V/) Z, j = 1,., гц

3) если dim А{ < (п — 2) (dim Ri < (п — 2)), то репеллер Ri (аттрактор Ai) является связным и, если dim (Ai U Ri) < (n — 2), mo многообразия Vi, Vi связны и отображение г)г : TiiiVi) —> 7L является эпиморфизмом.

Тем самым, для выбранной нумерации периодических орбит диффеоморфизма / £ MS(Mn) мы предъявляем kf — 1 различных представлений диффеоморфизма / в виде "источник-сток".

Для q = 0,., п обозначим через kq — число всех периодических орбит с индексом Морса, меньшим или равным q. Для j = fco + 1, • • •, kn-\ положим W?{ = pt(W] П Vi) и Щ = pt(Wf П V{).

Как будет ясно из дальнейшего, характеристические пространства играют важную роль при решении задачи топологической классификации диффеоморфизмов Морса-Смейла. В частности, они являются топологическими инвариантами в следующем смысле. Пусть диффеоморфизмы Морса-Смейла /, /' : Мп —у Мп топологически сопряжены посредством гомеоморфизма h. Тогда выбранная нумерация периодических орбит диффеоморфизма / индуцирует нумерацию периодических орбит диффеоморфизма f следующим образом 0\ = h(Oi) и имеет место следующий факт.

Утверждение 1.31. Индуцированная сопрягающим гомеоморфизмом h нумерация периодических орбит диффеоморфизма f является динамической и для любого г = 1, — 1 существует гомеоморфизм hi '■ V{ —>■ V( со следующими свойствами:

V ^.(M) = rf{[hiic)]) для любой замкнутой кривой с Е V^;

2) = и hiiWl= W'% для любого j = k0 + 1,., кп.ъ

Принципиальное отличие диффеоморфизмов Морса-Смейла, заданных на трехмерных многообразиях по сравнению с аналогичными потоками или диффеоморфизмами на двумерных многообразиях обусловлено возможностью дикого вложения сепаратрис седловых точек. Во второй главе сформулированы и доказаны критерии ручного вложения как одномерных так и двумерных сепаратрис. Оказывается, что тип вложения одномерной (двумерной) сепаратрисы полностью определяется классом эквивалентности соответствующего ей узла (тора) в многообразии S2xS1. Кроме того, устанавливается, что необходимым условием включения градиентно-подобного диффеоморфизма в топологический поток на 3-многообразии является ручная вложенность пучков одномерных сепаратрис. Приводятся примеры диких пучков и конструкция градиентно-подобного каскада Морса-Смейла на сфере S3 по любому пучку одномерных дуг, инвариантному относительно канонического сжатия.

Пусть V — замкнутое гладкое ориентируемое 3-многообразие, фундаментальная группа которого допускает нетривиальный гомоморфизм Vy '■ ^liY) Далее под обозначением (V,rj ) будем понимать многообразие V, оснащенное гомоморфизмом г/ .

Определение 2.1. Многообразия и (V7, г}^,) назовем эквивалентными, если существует гомеоморфизм ф : V —У V' такой, что

Ф* = %

Определение 2.2. Гладкие подмногообразия а С (V,rjv) и а' С (V',ri ) назовем эквивалентными, если существует гомеоморфизм ф : V —> V', осуществляющий эквивалентность многообразий (V", гу^) и (У',^,) и переводящий а в а'.

Определение 2.3. Гладкое подмногообразие а С (V", 77^) назовем гц-существенным, если 77^(^(71-1(а))) ф 0, где ih : а —>■ V — отображение включения.

Проиллюстрируем данные определения на примере многообразия §2 х

S1.

Представим многообразие S2 х S1 как пространство орбит (Е3 \ 0)/а1+1. Согласно теореме 1.1, проекция : R3 \ О —> S2 х S1 является накрытием и индуцирует эпиморфизм 77^ 1 : 7Ti(§2 х S1) —> Ъ.

Положим % = (Oacf), А0 = (Oxix2)), где Ох\. Тогда <% (А0) 77®2 §1 -существенный узел (тор) в многообразии (§2 х ).

Определение 2.4. Узел (тор) 7 (Л) в многообразии (§2 х §1) назовем тривиальным, если он эквивалентен узлу (тору) (Ао).

Предложение 2.3. Узел 7 (тор X) в многообразии (82 х 81, ) является тривиальным, если и только если существует его трубчатая окрестность ^(7) (ЛГ(Л)) в многообразии §2 х такая, что многообразие (§2 х 81) \ N(7) ((82 х 81) \ ]У(Л)) гомеоморфно заполненному тору (паре заполненных торов).

Заметим, что понятие тривиального узла (тора) и критерий 2.3 очевидным образом переносятся на любое многообразие (V", г).), эквивалентное многообразию (§2 х §1)

Пусть / € М5(М3) и а — седловая точка / такая, что неустойчивая сепаратриса £% не участвует в гетероклинических пересечениях. Тогда, по предложению 1.4, с1(£%)\(£%иа) = {и;}, где и» — стоковая точка и с1(£%) является топологически вложенной дугой (сферой) для да = 1 (да = 2). Однако, многообразие с1(£%) может оказаться диким в точке и, то есть замыкание с1(£%) не является подмногообразием многообразия М3.

Теорема 2.1. Пусть / е М5(М3); ш — стоковая точка и — одномерная (двумерная) сепаратриса седла а такая, что с1(£%) = £иа и а и со. Сепаратриса £иа является ручно вложенной в М3 тогда и только тогда, когда существует гладкий 3-шар С И7^, содержащий и и такой, что сепаратриса пересекает дИ^ в единственной точке (по единственной окружности).

Положим 1У® = (И^ \ со)//т!. Обозначим через р. 8 : \ ш -» И^ естественную проекцию, которая является накрытием и индуцирует эпиморфизм г} : 7Г1(И^) —>• Z. Положим Iй = р^3{£„). Из теоремы 1.1 и предложения 1.6 следует, что многообразие (И^,?7-в) эквивалентно многообразию (§2 X §1) и пространство орбит £иа является существенным узлом, если = 1 или тором, если ца = 2.

Теорема 2.2. Пусть / <Е М5(М3); ш — стоковая точка и £и„ — одномерная (двумерная) сепаратриса седла а такая, что с1(£%) — £% и а и со. Сепаратриса £иа является ручно вложенной в М3 тогда и только тогда, когда узел (тор) £™ является тривиальным в И^.

Определение 2.5. Будем говорить, что диффеоморфизм f 6 М5"(МП) включается в топологический поток, если существует топологический поток X1 на Мп такой, что / является сдвигом на единицу времени вдоль траекторий потока Хь.

Пусть / 6 М5(М3) — градиентно-подобный диффеоморфизм. Согласно предложению 1.4, замыкание с1 £ любой одномерной неустойчивой сепаратрисы t седловой точки а диффеоморфизма / гомеоморфно отрезку, который состоит из этой сепаратрисы и двух точек: а и некоторого стока ш. Пусть Ьш — объединение неустойчивых одномерных сепаратрис седловых точек, которые содержат ш в своих замыканиях. Поскольку W% гомеоморфно R3 (см. пункт (2) утверждения 1.13) и множество Ьш U ш является объединением простых дуг с единственной общей точкой ш, то, по аналогии с пучком дуг в R3, мы назовем Lu U ш пучком одномерных неустойчивых сепаратрис. Существуют различные типы пучков дуг в R3: ручные, дикие и умеренно дикие.

Определение 2.6. Пучок неустойчивых одномерных сепаратрис Ьшиш назовем эквивалентным пучку Fk из к дуг в R3; если существует гомеоморфизм hu : W^ —> R3 такой, что U ш) = F^.

Определение 2.7. Пучок неустойчивых одномерных сепаратрис Lw U uj назовем ручным, если он эквивалентен стандартному пучку дуг в R3.

Аналогично определяется ручной пучок устойчивых одномерных сепаратрис.

Лемма 2.5. Пусть градиентно-подобный диффеоморфизм f G MS(M3) включается в топологический поток. Тогда все пучки его одномерных сепаратрис являются ручными.

Обозначим через G^(S3), к > 1 множество градиентно-подобных диффеоморфизмов / на 3-сфере таких, что множество Çîf состоит из неподвижных точек, при этом Г2о состоит из (к + 1)-го стока с^о, • • •, состоит из к седел а\,., о-*;, — 0 и Q^ состоит из одного источника а?

Теорема 2.3. Пусть Fk — а| +1-инвариантный пучок дуг в R3 гладких всюду, кроме общей точки О. Тогда существует диффеоморфизм fF G Gk(S3), для которого пучок LWo Uwo эквивалентен пучку F^.

Из леммы 2.5, теоремы 2.3 и определения ручного пучка дуг получаем следующий факт.

Утверждение 2.2. Если пучок Fk в теореме 2.3 не является ручным, то диффеоморфизм fF не включается в топологический поток.

В третьей главе приводится полная топологическая классификация (включая реализацию) каскадов Морса-Смейла на 3-многообразиях с помощью топологического инварианта, названного схемой диффеоморфизма. В первом разделе для любого диффеоморфизма / G М5(М3) доказывается существование согласованной системы окрестностей орбит сед

2Если к = 0, то П/ состоит в точности из одного стока и одного источника, все диффеоморфизмы с таким неблуждающим множеством вкладываются в топологический поток (см. теорему 1.9). ловых периодических точек диффеоморфизма Морса-Смейла, которое является ключевым техническим моментом при доказательстве классификационных результатов.

Напомним, что для £ Е (0,1] мы положили = {(^1,ж2,жз) £ К3 : х\(х\ + х2ъ) < £}, Щ = {(хъх2,х3) Е М3 : (х\ + х\)х\ < ¿} и для ц Е {1,2} положили Ы] = Мя.

Определим в окрестности М\ пару трансверсальных слоений Т[ следующим образом: г = У {(жьж2,жз) Е М,2 : (х2,х3) = (с2,с3)},

С2,с3)е0х2х3 и {(^'^»жз) Е м,2 : Ж1 = Сх}.

С1€Ох1

Определим в окрестности Л/г пару трансверсальных слоений Т2, следующим образом: и {(^Ь^^з) е М,2 : ^з = с3}, сгеОхг

2= У {(жьж2,®з) € М,2 : (Х1,Х2) = (сь С2)}сг ,с2)€Оа;1а;2

Заметим, что для д Е {1,2}, множество Л/^ является инвариантным относительно канонического диффеоморфизма который переводит слои слоения Т^ [Т8^) в слои этого же слоения. В силу предложения 1.2, любая седловая точка и диффеоморфизма / Е М5(М3) обладает линеаризующей окрестностью А^, оснащенной гомеоморфизмом \ха : N0 —>• МЧа) сопрягающим диффеоморфизм $ТПа\и<7 с каноническим диффеоморфизмом ^а,иа\яч<г- Слоения индуцируют посредством гомеоморфизма д"1, /Ша -инвариантные слоения ^^ на линеаризующей окрестности АГСТ.

Линеаризующая окрестность А^ = и /Ч-^сг) орбиты Оа к=о оснащена парой /-инвариантных трансверсальных слоений ^ = тпа — 1 —1 и = и и отображением ¡1оа, составленным из с=0 * /г=0 гомеоморфизмов ца1~к '• —>• Л/"9ст, к = 0,., та — 1.

Пусть О1,., — динамическая нумерация периодических орбит диффеоморфизма / Е М5(М3) и седловые орбиты С^о+ь • • •, @к2 оснащены линеаризующими окрестностями -А/^ ,., А^2.

• для любой седловой орбиты 0{ положим А^ = А^, = ^ , .Р/ = ^г и ^ = т;

• для любого £ Е (0,1) положим N1 = №0г и Щ =

• для любой точки х Е Л^ будем обозначать через Р?х (Р?х) единственный слой слоения Р^ (Р/), проходящий через точку х.

Для любого диффеоморфизма / Е М5(М3) множество Н — И7^ П И7^ либо пусто, либо состоит из не более чем счетного множества гете-роклинических кривых. Если множество Н не пусто, то существует его /-инвариантная окрестность N(11) С М3, оснащенная /-инвариантным С1'1-слоением С, состоящим из двумерных дисков, трансверсальных Н.

Определение 3.1. Пусть / £ М5(М3). Набор Nf линеаризующих окрестностей ., седловых орбит диффеоморфизма / назовем согласованной системой окрестностей, а слоения .Р/, РУ", С (г = + ., къ), согласованными, если выполняются следующие условия:

1) для любого г = + 1,. •, слоения .Р", .Р/ имеют класс гладкости С1,0;

2) если П = 0 для н < г2; то П = 0;

3) еслиЦ?^ П\У» Я12, то ПЛУ с ^ « (Р^ПЛУ С для х Е (Л^ П ЛУ ; если И7? П И7^ ф 0 для н < < %2, то для любой точки х Е (Л^ П Л^- П М(Н)) и слоя Сх слоения С, проходящего через точку х, выполняются условия: Р? х П = (Р? х П (Л^ П N(11)) и Р£х Г) йх = (F-íXn(Ni2nN(H)).

Теорема 3.1. Для любого диффеоморфизма / Е М5(М3) существует согласованная система окрестностей.

Во втором разделе доказывается, что класс эквивалентности схемы диффеоморфизма / Е М5(М3) является полным топологическим инвариантом.

Представим динамику произвольного диффеоморфизма Морса-Смейла / : М3 —М3 в виде "источник-сток" следующим образом.

Положим А1 = по и У/^, Л/ = ^з и и V) = М3 \ (А/ и Я/). Из раздела 1.3 следует, что А/ = Я/ = V/ = Тогда из теоремы 1.3 следует, что множество А/ (Д/) является связным аттрактором (репеллером) диффеоморфизма /, множество Vf является связным характеристическим многообразием. Кроме того, характеристическое пространство V} = является связным гладким замкнутым ориентируемым многообразием, на котором естественная проекция : V/ —V/ индуцирует эпиморфизм г)/ : 7Г1 (V/) —>■ ставящий в соответствие гомотопическому классу [с] £ я^ОК/О замкнутой кривой с С V/ целое число п такое, что поднятие кривой с на V] соединяет точку х с точкой ¡п(х). В силу предложения 3.1, многообразие V/ является простым. Положим = \ А/) и = рДИ*^ \ Я/). В силу предложения 3.2, множества и являются ¿-ламинацией и г£-ламинацией, соответственно, на многообразии (У/,77/). Из условия трансверсальности пересечения инвариантных многообразий периодических точек диффеоморфизма Морса-Смейла следует, что ламинации и Шу пересекаются трансверсально.

Определение 3.2. Набор Sf = назовем схемой диффеоморфизма / £ М5(М3).

Определение 3.3. Схемы 5/ и 5/' диффеоморфизмов /, /' £ М5(М3) назовем эквивалентными, если существует гомеоморфизм ф : V/ —У V/' со следующими свойствами:

1) "Л, = г}гф*;

2) фЩ) = Щ, и ф(Щ) = Щ,.

Теорема 3.2. Диффеоморфизмы Морса-Смейла /, /' £ МЗ(М3) топологически сопряжены тогда и только тогда, когда их схемы эквивалентны.

В третьем разделе изучается топология характеристических пространств % = 1, — 1, которая являются ключом к решению проблемы реализации. Заметим, что для г = 1,.,&о многообразие Уг является объединением устойчивых многообразий стоков без стоков и, следовательно, по теореме 1.1 и предложению 1.6, каждая компонента связности многообразия "Ц гомеоморфна §2 х Аналогично для г — — 1 каждая компонента связности многообразия У{ гомеоморфна §2 х 81, поскольку многообразие Ц, для таких г является объединением неустойчивых многообразий источников без источников.

Для i = ко + 1,., — 1 многообразие V¿ имеет, вообще говоря, более сложную топологическую структуру, для понимания которой полезно следущее наблюдение: V¿ = V¿i \ (W" \ Oí) U (W/ \ Oí), то есть многообразие Vi получается из многообразия 1 удалением из него множества W\Oi и добавлением к полученному многообразию множества Wf \ О i. Для того, чтобы описать соответствующий переход от многообразия Vi-1 к многообразию V¿ нам понадобится операция перестройки гладкого ориентируемого 3-многообразия V, фундаментальная группа которого допускает нетривиальный гомоморфизм r¡v : 7Ti(V") —> Ъ.

Пусть VV+i С (V,r¡— ^-существенный тор и iV(VV+i) С V — его трубчатая окрестность. Тогда многообразие iV(>V+i) \ VV+i состоит из двух компонент связности, каждая из которых диффеоморфна многообразию int Y \ где Y = D2 х S1 и 7. = ({О} х S1) С Y. Пусть ß -меридиан заполненного тора Y и : (c¿ \ W+i) —У (Y\Af) х S0 диффеоморфизм, для которого ^([С^1 {ß х {ü})]) = 0.

Определение 3.4. Будем говорить, что пространство Vy^ = (V\

4 л г» А

W+i) U^ (int Y х Su) получено перестройкой многообразия V вдоль тора VV+i.

Аналогичным образом вводится перестройка многообразия (V,r)9) вдоль Т}^ -существенной бутылки Клейна Wi, основанная на том, что трубчатая окрестность iV(VVi) бутылки Клейна W 1 без самой бутылки Клейна является связной и диффеоморфна многообразию int Y \ 7^.

Дифференциальные структуры многообразий V \ W¡,, v G {+1, — 1} и Y индуцируют посредством естественной проекции р^ : (У \ VV¡,) U (int Y х S°) —y Vyy структуру гладкого ориентируемого 3-многообразия без края на пространстве Vyy . Операция перестройки определена корректно, то есть не зависит (с точностью до диффеоморфизма) от выбора трубчатой окрестности N(WU) поверхности VV¡, и диффеоморфизма Суу . Эпиморфизм г), индуцирует единственное отображение г). , состоящее из нетривиальных гомоморфизмов в группу Z на фундаментальной группе каждой компоненты связности многообразия rj. и такое, что

VWu

77. ([р . (с)]) = г], ([с]) для любой замкнутой кривой с с (V \ W»).

VWu Wl/ V

Положим (V,r]v)yy = (Vyy ,r¡v ) и будем называть множество 7^ =

VVj/ v p. (7y x S°) следом перестройки вдоль поверхности Wu. Очевидно, что каждая компонента связности следа 7уу является r¡. -существенным узлом.

Операция перестройки вдоль 77^-существенного тора или существенной бутылки Клейна естественным образом обобщается на случай, когда многообразие V состоит из конечного числа компонент связно

А Л сти V ,., Vr и отображение гц состоит из нетривиальных гомоморфизмов г)^ : ^(У1) —у Z,., : K\(Vr) Z, результат этой перестройки также обозначается через (F, уу = (Vyy iVy. )•

Предложение 3.1. Для любого диффеоморфизма f G М5(М3) и номера i = ko + 1,. ,к\ многообразие (V¿i, 77^) эквивалентно многообразию (Vi,r].)^s, а след перестройки эквивалентен многообразию

WTVi- Кроме того, каждая компонента связности характеристического пространства V¿, г = 1, — 1 является простым многообразием.3

Обобщим операцию перестройки следующим образом. Рассмотрим канонический диффеоморфизм а^ : R3 —М3, заданный формулой q>\,v{x\ 1 х2, жз) = и каноническое сжатие af v = cl\,v\w¿

Пространство орбит канонического сжатия Wf „ = (Wq \ 0)/а\^ является тором при г/ = +1 и бутылкой Клейна при v = —1. Множество Л/i = {(^1,^2,^3) G M3 : + £3) < 1} является ai^-инвариантным, Л/i \ и Л/*1;1/ = (A/^/ai^ является трубчатой окрестностью поверхности VVf^. Естественная проекция pÑ¡¡ : —Л/^ является накрытием, которое индуцирует эпиморфизм : —У Ъ.

Л Л ' Л

Обозначим через T{v, пару трансверсальных слоений на слои которых являются проекциями относительно p^s слоев слоений Т^-, соответственно. Пусть X С VVfj, — не более, чем счетное множество точек и Z — объединение всех слоев слоения Tiv, проходящих через точки множества X. Положим = W{tV \ X, Áf^x = ÁÍ{íU \ Z, Т{^х = \ Z и

Н^х = К \ Z

Определение 3.5. Компактное множество Ws С (V,Vy) назовем s-ламинацией, если оно состоит из конечного числа ns компонент линейной связности Wf,., , каждая из которых является глад

3 Утверждение о простоте каждой компоненты связности характеристического пространства Vi, i = 1,., kf — 1 следует из работы [19], где оно доказано методом, отличным от приведенного в настоящей диссертации. ким подмногообразием, при этом компонента ТУ/ является замкнуг-1 тым множеством и (с/ ТУ/ \ ТУ/) С и с1 для г > 1. Более того,

3 = 1 для каждого % — 1,., п8 существуют трубчатая окрестность ТУ (ТУ/) множества ТУ/, числа ш- еМ, и- 6 { — 1, 4-1}, множество Х- С и гомеоморфизм /¿| : ТУ (ТУ/) —> Л/*/^ Хз со следующими свойствами: !) £1(^7) = Щ„. х. и г}, ([с]) = т\ ■ 7] (Аг?([с])) для любой замкнуг г 1,1/8 г той кривой с С ТУ (ТУ/); для ] < г и любого слоя V слоения х* пересечение Д?(ТУ(ТУ|) П (/¿|)1(Х>)) лг^бо пусто, либо является подмножеством слоя слоения

-те

Аналогичным образом определяется и-ламинация ши с (v, с помощью канонического диффеоморфизма а2,„ : К3 —И3, заданного формулой й2, 1/(^1, = • 2жх, 2х2, и • канонического растяжения <22 ^ = пространства орбит канонического растяжения

УУ2 ¡/ = (ТУ"о \ 0)/а%и и его трубчатой окрестности = СЛ/гОЛ^, где'Л/г - {(®1, ®2, ®з) € м3 : (яг? + х\)х\ < 1} и = ЛГ2 \

Предложение 3.2. Для г = ко + 1,., к\ множество = г и ТУД является в-ламинацией на многообразии (Т^,^)

Рассмотрим каноническое растяжение = ах^ру«. Пространство орбит канонического растяжения УУ" = (ТУ$ \ О)/^^ является парой узлов при и = +1 и узлом при и = —1. Множество Л/^ = (N1) / о>1,1/ является трубчатой окрестностью УУ"„, где Л/*" = Л^х \ ТУ^. Естественная проекция рЙи : Л/"" —> Л/^ является накрытием, которое индуцирует отображение , состоящее из нетривиальных гомоморфизмов в группу й на фундаментальной группе каждой компоненты связности многообразия Л/у. Обозначим через слоение на Л/"/^, слои которого являются проекциями относительно р^ слоев слоения

Определим диффеоморфизм : Я{и \ УУ^ —> \ УУ"„ формулой

С^ = Р^АР.ф^щУ ■

Пусть = и ТУ/ — в-ламинация на многообразии (V, г).). Посколь-¿=1 ^ ку поверхность И^ замкнута, то гомеоморфизм можно считать диффеоморфизмом. Перестройку многообразия (V,?вдоль поверхности \¥{ посредством диффеоморфизма = назовем перестройкой вдоль первой поверхности в-ламинации. Для г = 1,., п3 — 1 положим и 0^1,V п &!))> ГДе — объединение слоев (7 слоения С?* таких, что \ ]¥{) П ф 0- Положим У И^5. Множество вновь является й-ламинацией на мног=1 гообразии которую мы будем называть производной от вламинации

Предложение 3.3. Для г = ко -+- 2,., к\ производная от вламинации эквивалентна ламинации W|1. па л

Определение 3.6. Пусть = У — э-ламинация на многог=1 образии Будем говорить, что многообразие Ущ3 получено перестройкой многообразия V вдоль в-ламинации если оно получено из V последовательным применением п8 операций перестройки вдоль первых поверхностей производных ламинаций.

Обозначим через ту. индуцированное этой операцией отображение, состоящее из нетривиальных гомоморфизмов в группу Ъ на каждой компоненте связности и положим {У,г]Ащ3 = (К^,,7?- ). Аналогичную ным образом определяется перестройкой многообразия (V", 77 ) вдоль и-ламинации

Непосредственно из предложений 3.1 и 3.3 получаем следующий результат.

Теорема 3.3. Для % — ко + 1,., к\ каждая компонента связности многообразия диффеоморфна 82 х 81.

Четвертый раздел посвящен решению проблемы реализации. Оно основывается на трех принципиальных взаимосвязанных фактах, касающихся схемы 5/. Первый факт (предложение 3.1) состоит в том, что характеристическое пространство V/ является простым многообразием. Второй факт (предложение 3.2) утверждает, что множества являются ламинациями на многообразии V} в смысле определения 3.5 и их пересечение является трансверсальным. Третий факт (теорема 3.3) связан с введенным в диссертации понятием перестройки многообразия вдоль ламинации и устанавливает, что результатом такой перестройки является многообразие, состоящее из конечного числа копий §2 х 81. Оказывается, что выполнение этих трех необходимых свойств является достаточным условием, выделяющим множество <5 абстрактных схем, каждая из которых является схемой некоторого диффеоморфизма из М5(М3).

Определение 3.7. Набор 5 = (V, Щи) называется абстрактной схемой, если:

1) V — простое многообразие, фундаментальная группа которого допускает эпиморфизм гц : 7Г1(У) —> Ъ;

2) и Ши — трансверсально пересекающиеся в-ламинация и иламинация, соответственно, на многообразии (V

3) каждая компонента связности многообразия, полученного перестройкой многообразия V вдоль в-ламинации (и-ламинации Ши) го-меоморфна 82 х 81.

Обозначим через ¿> множество абстрактных схем. Из теоремы 3.3 и предложений 3.2, 3.1 получаем следующее утверждение.

Теорема 3.4. Схема Sf любого диффеоморфизма / Е М5(М3) принадлежит множеству ¿>.

Теорема 3.5. Для любой абстрактной схемы 5 Е £ существует диффеоморфизм /5 Е М5(М3); схема которого эквивалентна схеме 5.

В четвертой главе для произвольных каскадов Морса-Смейла на п-многообразиях (п > 1) построена гладкая функция Ляпунова. Более того, построенная функция является функцией Морса и ее регулярные линии уровня трансверсальны инвариантным многообразиям периодической точки в некоторой ее окрестности. Функция с такими свойствами, названа функцией Морса-Ляпунова. Доказано, что такие функции являются типичными среди гладких функций Ляпунова для диффеоморфизма Морса-Смейла / : Мп —> Мп. Кроме того, вводится понятие динамически упорядоченной энергетической функции и исследуются условия ее существования для диффеоморфизма / Е М5(М3). Факт существования функции Ляпунова и отсутствия энергетической функции приводит к понятию функции Ляпунова с минимальным числом критических точек, которая в диссертации названа квази-энергетической. Выделен содержательный класс каскадов Морса-Смейла на 3-многообразиях, не обладающих энергетической функцией, для которых построена квазиэнергетическая функция.

Поскольку цепно рекуррентное множество диффеоморфизма / Е MS(Mn) конечно, то естественно искать его функцию Ляпунова в классе функций Морса, что приводит к следующему определению.

Определение 4.3. Функция Морса р : Мп —> R называется функцией Ляпунова для f Е MS(Mn), если:

1) ip(f(x)) < р{х) для любого х £ Q/;

2) p(f(x)) = <р(х) для любого х Е Г2/.

Предложение 4.1. Пусть <р : Мп R — функция Ляпунова для диффеоморфизма / Е MS(Mn). Тогда

1) —ip — гладкая функция Ляпунова для /-1;

2) еслир — периодическая точка диффеоморфизма f, то <р(х) < <р(р) для любого х 6 Wp \р и ср(х) > <р(р) для любого х £ W\ р;

3) еслир — периодическая точка диффеоморфизма f, тор — критическая точка функции <р;

4) индекс критической точки р равен dim Wp .

В силу предложения 4.1, периодические точки диффеоморфизма / являются критическими точками функции Ляпунова (р, индекс <р в точке р Е £lf равен размерности неустойчивого многообразия Wp. При этом любая периодическая точка р является максимумом ограничения <р на Wp и минимумом ограничения ip на Wp.

Предложение 4.2. Если периодическая точка р является невырожденным максимумом (минимумом) ограничения функции Ляпунова <р для диффеоморфизма f 6 MS(Mn) на неустойчивое (устойчивое) инвариантное многообразие точки р, то это многообразие трансверсально ко всем регулярным множествам уровня ip в некоторой окрестности точки р.

Локальное свойство, сформулированное в предложении 4.2, полезно для построения (глобальной) функции Ляпунова.

Определение 4.4. Функция Ляпунова р : Мп —>■ R для диффеоморфизма f Е MS(Mn) называется функцией Морса-Ляпунова, если каждая периодическая точка р является невырожденным максимумом (соотв. минимумом) ограничения на неустойчивое (соотв. устойчивое) многообразие У/^ (соотв. И).

Согласно лемме 1.2, функция Морса-Ляпунова существует в окрестности любой периодической орбиты диффеоморфизма / 6 М5(МП). Справедлив и факт существования глобальной функции Морса-Ляпунова для любого диффеоморфизма / Е М5(МП).

Теорема 4.1. Для любого диффеоморфизма Морса-Смейла / Е М5(МП) существует функция Морса-Ляпунова.

Теорема 4.2. Среди гладких функций Ляпунова для диффеоморфизма / Е М5(МП) функции Морса-Ляпунова образуют открытое всюду плотное, а, следовательно, массивное множество в С00-топологии.

Согласно предложению 1.10 существует динамическая нумерация орбит диффеоморфизма /: 0\,., Окп используя которую, мы дадим следующее определение.

Определение 4.5. Пусть орбиты диффеоморфизма / Е М5(МП) имеют динамическую нумерацию: 0\,.,0кг Функцию Морса-Ляпунова (/? для диффеоморфизма f назовем динамически упорядоченной, если ср(С?{) = г для г Е {1,., &/}.

Используя технику доказательства теоремы 4.1, нетрудно построить динамически упорядоченную функцию Морса-Ляпунова для любого диффеоморфизма / Е М5(МП).

Пусть / Е М5(М3). Из теоремы 1.3 следует, что для каждого г г = множество А^ = [] является аттрактором, то есть 1 обладает захватывающей окрестностью где М{ компактное множество такое, что f(Mi) С гп£ М{ — /-сжимаема) и Р) = А{. к> о

Обозначим через С{ число компонент связности аттрактора через г^ — число седловых точек и через — число стоковых точек в А{. Положим Сг + Гг

Определение 4.6. Захватывающая окрестность М\ аттрактора Аг называется ручечной, если:

1) Мг состоит из С{ компонент связности, каждая из которых является ручечным телом;

2) для каждой седловой точки а Е О г пересечение П М{ состоит в точности из одного двумерного диска.

Сумму дм родов компонент связности М{ назовем родом ручечной окрестности.

Заметим, что для каждого г = 1,., ко число д^ равно нулю, аттрактор Аг является нульмерным (так как состоит из стоковых точек) и обладает ручечной окрестностью М^ рода ^ = 0, состоящей из с^ попарно непересекающихся трехмерных шаров (это следует, например, из леммы 1.2). Для каждого г = ко + 1,., кх аттрактор А{ содержит одномерную компоненту связности, в силу чего (допуская некоторую вольность) мы будем далее называть его одномерным.

Предложение 4.3. Каждый одномерный аттрактор А{ диффеоморфизма f Е М5(М3) обладает ручечной окрестностью М{ рода дм > д^.

Определене 4.7. Ручечную окрестность М{ одномерного аттрактора Аг назовем тесной, если дм. = д

Одномерный аттрактор А{, обладающий тесной окрестностью М^ назовем тесно вложенным.

По определению репеллер для диффеоморфизма / есть аттрактор для /-1. Кроме того, динамическая нумерация орбит Ох,., Ок} диффеоморфизма / индуцирует динамическую нумерацию орбит 0\,., Ок/ диффеоморфизма /-1 следующим образом: Ог = Ок}-г- Тогда одномерный репеллер называется тесно вложенным, если он является тесно вложенным одномерным аттрактором для /-1 относительно индуцированной динамической нумерации орбит.

Теорема 4.3. Если диффеоморфизм / £ М5'(М3) обладает динамически упорядоченной энергетической функцией, то все его одномерные аттракторы и репеллеры являются тесно вложенными.

Определение 4.8. Тесная захватывающая окрестность М{ одномерного аттрактора А{ называется строго тесной, если М{ \ А{ диф-феоморфно дМ1 х (0,1]. Одномерный аттрактор А{, обладающий строго тесной окрестностью М{ называется строго тесно вложенным.

Теорема 4.4. Если все одномерные аттракторы и репеллеры диффеоморфизма / Е М5(М3) являются строго тесно вложенными, то / обладает динамически упорядоченной энергетической функцией.

В следующей теореме устанавливается критерий существования динамически упорядоченной энергетической функции для диффеоморфизма Морса-Смейла без гетероклинических кривых, заданного на сфере В3.

Теорема 4.5. Диффеоморфизм Морса-Смейла / : §3 —> В3 без гетероклинических кривых обладает динамически упорядоченной энергетической функцией тогда и только тогда, когда каждый его одномерный аттрактор и репеллер является тесно вложенным.

Определение 4.10. Назовем функцию Морса-Ляпунова ср : Мп —>■ М квази-энергетической для диффеоморфизма Морса-Смейла / : Мп —У Мп, если она имеет наименьшее возможное число критических точек среди всех функций Морса-Ляпунова для /.

Обозначим через V класс (класс Пикстона) диффеоморфизмов Морса-Смейла / : §3 —у §3, чье неблуждающее множество состоит в точности из четырех неподвижных точек: одного источника а, одного седла а и двух стоков и Ш2- Для каждого целого числа к > О обозначим через Тк множество диффеоморфизмов / € V, для которых аттрактор Аз обладает ручечной окрестностью Р+ рода к, граница которой является поверхностью Хегора для

В силу теоремы 4.5, любой диффеоморфизм / £ ?о обладает энергетической функцией, тогда как любой диффеоморфизм из класса Тк, к > О, не имеет энергетической функции.

Теорема 4.Т. Каждая квази-энергетическая функция диффеоморфизма / Е имеет в точности шесть критических точек.

1. Афраймович В. С., Шильников JT. П. Об особых множествах систем Морса-Смейла // Труды ММО. Т. 28. 1973. 181-214.

2. Андронов А.А., Понтрягин JI.C. Грубые системы // Докл. АН СССР. 1937. Т. 14. № 5. 247-250.

3. Аносов Д.В. Грубость геодезических потоков на компактных рима-новых многообразиях отрицательной кривизны // Докл. АН СССР. 1962. Т. 145. № 4. 707-709.

4. Аносов Д.В. Грубые системы // Тр. мат. ин-та им. В.А. Стеклова АН СССР. 1985. Т. 169. 59-93.

5. Artin Е., Fox R. Some wild cells and spheres in three-dimensional space // Ann. Math. 1948. V. 49. 979-990.

6. G. Birkhoff. On the periodic motions of dynamics // Acta math. 50 (1927). 359-379.

7. Bonatti Ch. Grines V. Knots as topological invariant for gradient-like diffeomorphisms of the sphere S3 // Journal of Dynamical and Control Systems (Plenum Press, New York and London). 2000. V. 6. № 4. 579602.

8. C. Bonatti, V. Grines, V. Medvedev, E. Pecou. Three-manifolds admitting Morse-Smale diffeomorphisms without heteroclinic curves // Topology and its Applications. 2002. V. 117. 335-344.

9. Bonatti Ch., Grines V., Medvedev V., Pecou E. Topological classification of gradient-like diffeomorphisms on 3-manifolds // Topology. 2004. № 43. 369-391.

10. Bonatti Ch., Grines V., Pecou E. Two-dimensional links and diffeomorphisms on 3-manifolds // Ergodic Theory and Dynam. Systems. 2002. V. 22. № 3. 687-710.

11. Бонатти Xp., Гринес В.З, Починка О.В. Классификация диффеоморфизмов Морса-Смейла с конечным множеством гетероклинических орбит на 3-многообразиях // Труды Института Математики Стеклова. 2005. Т. 250. 5-53.

12. Бонатти Хр., Гринес В. 3., Починка О. В. Классификация диффеоморфизмов Морса-Смейла с конечным множеством гетероклинических орбит на 3-многообразиях // ДАН. 2004. Т. 396. No 4. 439-442

13. Бонатти Хр., Гринес В., Починка О. В. Классификация простейших не градиентно-подобных диффеоморфизмов на 3-многообразиях // Современная математика и ее приложения. Институт кибернетики АН Грузии. 2003. Т. 7. 43-71.

14. Bonatti Ch., Grines V., Pochinka О. Classification of Morse-Smale diffeomorphisms with the chain of saddles on 3-manifolds // Foliations 2005. World Scientific. Singapore. 2006. 121-147.

15. Bonatti Ch., Paoluzzi L.// Topology. 2008. V. 47. P. 71-100.

16. Борисович Ю. Г., Близняков H. М., Израилевич Я. А., Фоменко Т. Н. Введение в топологию // М. Наука. Физматлит. 1995. 416 с.

17. Чернавский А.В. О работах JI.B. Келдыш и её семинара // Успехи математических наук. 2005. Т. 60. № 4. 11-36.

18. С. Conley. Isolated Invariant Sets and Morse Index // CBMS Regional Conference Series in Math. 1978. V. 38.

19. Daverman R. and Venema G. Embeddings in Manifolds // American Mathematical society. Providence, Rhode Island. Graduate studies in Mathematics. 2009. V. 106.

20. H. Debrunner, R. Fox. A mildly wild imbedding of an n-frame // Duke Math. Journal. 1960. V. 27. 425-429.

21. Дубровин Б.А., Новиков С.П., Фоменко А.Т. Современная геометрия // М.: Наука. 1979. 760 с.

22. Фоменко А. Т. Дифференциальная геометрия и топология. Дополнительные главы // Регулярная и хаотическая динамика. 1999. 252 с.

23. Гринес В.З. Топологическая классификация диффеоморфизмов Морса-Смейла с конечным множеством гетероклинических траекторий на поверхностях // Матем. заметки. 1993. Т. 54. вып. 3. 3-17.

24. Гринес В.З., Гуревич Е.Я. О диффеоморфизмах Морса-Смейла на многообразиях размерности большей трех // Доклады академии наук. 2007. Т.416. N. 1. 15-17.

25. Гринес В.З., Гуревич Е.Я., Медведев B.C. Граф Пейкшото диффеоморфизмов Морса-Смейла на многообразиях размерности большей трех // Труды математического института им. В.А. Стеклова. 2008. Т. 261. 61-86.

26. В.З. Гринес Ф. Лауденбах, О. Починка. Энергетическая функция для градиентно-подобных диффеоморфизмов на 3-многообразиях // ДАН. 2008. Т. 422. No 3. 299-301.

27. V. Grines, F. Laudenbach, О. Pochinka. Self-indexing function for Morse-Smale diffeomorphisms on 3-manifolds // Moscow Math. Journal. 2009. No 4. 801-821.

28. В.З. Гринес, Ф. Лауденбах, О. Починка. Квази-энергетическая функция для диффеоморфизмов с дикими сепаратрисами // Математические заметки. 2009. Т. 86. вып. 2. 175-183.

29. В.З. Гринес, Ф. Лауденбах, О. Починка. О существовании энергетической функции для диффеоморфизмов Морса-Смейла на 3-многообразиях // ДАН. 2011. Т. 440. No 1. 7-10.

30. Глобальные аттрактор и репеллер диффеоморфизмов Морса-Смейла // Труды математического института им. В.А. Стеклова. 2010. Т. 271. 111-133.

31. В.З. Гринес, О.В. Починка. Структура предельного множества сепаратрис диффеоморфизмов Морса-Смейла на 3-многообразиях // Труды СВМО. 2004. Т. 6. No 1. 32-39.

32. Гринес В.З., Починка О.В. Классификация диффеоморфизмов Морса-Смейла с цепочкой из трех седел на 3-многообразиях // Труды СВМО. 2005. Т. 7. No 1. 59-65.

33. Гринес В. 3., Починка О. В. Классификация диффеоморфизмов Морса-Смейла с цепочкой из трех седел на 3-многообразиях // Труды СВМО. 2005. Т. 7. No 1. 59-65.

34. В.З. Гринес, О.В. Починка. О существовании энергетической функции диффеоморфизмов Морса-Смейла на 3-многообразиях // Труды средневолжского математического общества. 2007. Т. 9. No 1. 15-23.

35. V. Grines, О. Pochinka. On topological classification of Morse-Smale diffeomorphisms. // Dynamics, Games and Science II DYNA2008 in honor of Mauricio Peixoto and David Rand. University of Minho. 2010. 403-424.

36. V. Grines, O. Pochinka. Energy Functions for Dynamical Systems // Regular and Chaotic Dynamics. 2010. V. 15. No. 2-3. 187-195.

37. Harrold O.G., Griffith H.C., Posey E.E. A characterization of tame curves in three-space // Trans. AMS. 1955. V. 79. 12-34.

38. Хирш M. Дифференциальная топология // Москва. 1979. 281 с.

39. Hurewicz W. Uber den sogenannte n Produksatz der Dimensionstheorie 11 Math. Ann. 1930. V. 102. 305-312.

40. Hurewicz W., Wallman H. Dimension Theory // Princeton University Press. Princewton. NJ. 1984.

41. Katok A., Hassenblatt B. Introduction to the Modern Theory of Dynamical Systems // Encyclopedia of Math, and its Appl. Cambridge University Press. 1994.

42. Келдыш JI.В. Топологические вложения в евклидово пространство // Москва. Наука. Труды математического института им В.А. Стек-лова. 1966. Т. 81.

43. Косневски Ч. Начальный курс алгебраической топологии // Москва. Мир. 1983. 304 с.

44. Куратовский К. Топология // Москва. Мир. 1966. Т. 1. 606 с. Т. 2. 623 с.

45. Леонтович Е.А., Майер А.Г. О траекториях, определяющих качественную структуру разбиения сферы на траектории // Докл. АН СССР. 1937. Т. 14. № 5. 251-257.

46. Леонтович Е.А., Майер А.Г. О схеме, определяющей топологическую структуру разбиения на траектории // Докл. АН СССР. 1955. Т. 103. № 4. 557-560.

47. Майер А.Г. Грубое преобразование окружности в окружность // Уч. Зап. ГГУ. 1939. Горький. Изд-во ГГУ. вып. 12. 215-229.

48. В. Mazur. A note on some contractible 4-manifolds // Annals of Mathematics. 1961. V. 73. No 1. 221-228.

49. K. R. Meyer. Energy functions for Morse-Smale systems // Amer. J. Math. 1968. V. 90. 1031-1040.

50. Дж. Милнор, А. Уоллес. Дифференциальная топология // Москва. Мир. 1972. 280 с.

51. Дж. Милнор. Теория Морса // Издательство "Платон". 1969. 184 с.

52. Moise Ed. Е. Geometric Topology in Dimensions 2 and 3 // SpringerVerlag. 1977.

53. Починка О.В. Классификация неградиентноподобных диффеоморфизмов с конечным числом гетероклинических орбит на 3-многообразиях // Труды СВМО. 2003. Т. 5. N0 1. 104-109.

54. Починка О. В. Классификация неградиентноподобных диффеоморфизмов с конечным числом гетероклинических орбит на 3-многообразиях // Труды СВМО. 2003. Т. 5. No 1. 104-109.

55. Починка О. В. Новые геометрические инварианты диффеоморфизмов Морса-Смейла // Труды объединенной международной научной конференции "Новая геометрия природы". Казань. 2003. 149-153.

56. Pochinka О. Classification of diffeomorphisms with a chain of three saddles on 3-manifold // Dynamics, bifurcations and chaos. 2005. 35-37.

57. Починка О. В. О связи диффеоморфизмов с пространствами орбит // Труды Всероссийской научной конференции "Нелинейные колебания механических систем". 2005. 186-188.

58. Pochinka О. Classification of diffeomorphisms with a chain of three saddles on 3-manifold // Dynamics, bifurcations and chaos. 2005. 35-37.

59. Починка О.В. О связи диффеоморфизмов с пространствами орбит // Труды Всероссийской научной конференции "Нелинейные колебания механических систем". 2005. 186-188.

60. О. Pochinka. Diffeomorphisms with mildly wild frame of separatrices // Universitatis Iagelonicae Acta Mathematica. Fasciculus XLVII. 2009. 149-154.

61. О. Починка. Необходимые и достаточные условия топологической сопряженности каскадов Морса-Смейла на 3-многообразиях // Нелинейная динамика. 2011. Т. 7. No 2. 227-238.

62. О. Починка. Классификация диффеоморфизмов Морса-Смейла на 3-многообразиях // ДАН. 2011. Т. 440. No 6. 34-37.

63. Н. Poincare. Les methodes nouvells de la mecanique celeste. Ill // Paris. 1899.

64. Прасолов В.В. Элементы комбинаторной и дифференциальной топологии // Москва. Издательство МЦНМО. 2004. 353 с.

65. Прасолов В.В. Элементы теории гомологий // Москва. Издательство МЦНМО. 2004.

66. Robinson С. Dynamical Systems: stability, symbolic dynamics, and chaos // Studies in Adv. Math. Sec. edition. CRC Press. 1999. 506 p.

67. Smale S. Morse inequalities for a dynamical systems // Bull. Am. math. Soc. 1960. V. 66. 43-49. Русский перевод: сб. Математика. 1967. 11:4. 79-87.]

68. Smale S. On gradient dynamical systems // Ann. Math. 1961. 199-206.

69. Smale S. Dynamical systems and the topological conjugacy problem for diffeomorphisms // Proc. Internat. Congress Math. Uppssala. 1963. 490

70. Smale S. Differentiable dynamical systems // Bull. Amer. Math. Soc. 1967. V. 73. № 6. 747-817 (Пер. на рус. яз.: Смейл С. Дифференцируемые динамические системы // Успехи мат. наук. 1970. Т. 25. N2 1. 113-185.)

71. Л.П. Шильников, А.Л. Шильников, Д.В. Тураев, Л. Чуа. Методы качественной теории в нелинейной динамике // Институт компьютерных исследований. Москва-Ижевск. 2003. 428 с.

72. М. Shub. Morse-Smale diffeomorphism are unipotent on gomology // Dynamical Systems. 1973. 489-491. (M. Peixoto ed.). Academic Press. New York.

73. F. Takens. Tolerance stability in Dynamical Systems // Warwick. 1974. (A. Manning ed.). 293-304. Springer. Berlin-Heidelberg-New York. 1975.

74. Терстон У. Трехмерная геометрия и топология // МЦНМО. Москва. 2001. 310 с.

75. Уманский Я. Л. Необходимые и достаточные условия топологической эквивалентности трехмерных динамических систем Морса-Смейла с конечным числом особых траекторий // Мат. сб. 1990. Т.181. № 2. 212-239.

76. F. Waldhausen. On irreducible 3-manifolds which are sufficiently large // Annals of Math. 1968. V. 87. 56-88.496.