Некоторые теоремы жесткости в анализе и геометрии тема автореферата и диссертации по математике, 01.01.01 ВАК РФ

На правах рукописи

Коробков Михаил Вячеславович

НЕКОТОРЫЕ ТЕОРЕМЫ ЖЕСТКОСТИ В АНАЛИЗЕ И ГЕОМЕТРИИ

01.01 01 — математический анализ

АВТОРЕФЕРАТ

диссертации на соискание ученой степени доктора физико-математических наук

ии344Ь

Новосибирск - 2008

1 8 СЕЧ 2008

003446153

Работа выполнена в Институте математики им С. Л Соболева Сибирского отделения Российской академии наук

Научный консультант:

доктор физико-математических наук, профессор Копылов Анатолий Павлович

Официальные оппоненты:

доктор физико-математических наук, профессор Пономарёв Станислав Петрович,

доктор физико-математических наук, профессор Сабитов Иджад Хакович, доктор физико-математических наук, профессор Семёнов Владимир Иосифович

Ведущая организация:

Волгоградский государственный университет

Защита состоится А6 ок-Тя вря 2008 г в А5г. на заседании диссертационного совета Д003 015.03 при Институте математики им С. Л Соболева СО РАН по адресу 630090, Новосибирск, пр Акад Копйога, 4

С диссертацией можно ознакомиться в библиотеке Института математики им С Л Соболева СО РАН

Автореферат разослан 2>сентября 2оо8г.

Ученый секретарь , / *

диссертационного совета <Л/ 1ЛГутман А Е

'' /!

Общая характеристика работы

Цель работы. Целью работы является получение теорем жесткости для С1-гладких решений и . й с Е" К"' дифференциальных соотношений вида

бу£к в п, (1)

где К — подмножество пространства ЕтХп вещественных т х п-матриц, а символом £)« обозначена матрица дифференциала отображения и. Также диссертация направлена на получение критерия однозначной определенности областей в евклидовых пространствах метрикой на границе, индуцированной внутренней метрикой области.

Постановка задач и актуальность темы диссертации.

Анализ требований гладкости в классических теоремах нередко служит плодотворным источником идей для современной математики, порождая подчас магистральные направления ее развития Приведем два ярких примера Согласно классической теореме Лиувилля, если / • П Е" является конформным отображением класса С3 области П с М", то / представляет собой сужение на О некоторого мебиусова преобразования Стремление максимально ослабить требования гладкости в этой теореме привело Ю Г. Решетняка к следующему замечательному результату (см [21], [23]) всякое отображение / О —> Еп, принадлежащее соболевскому классу IV* 1ос(П, Мп) и удовлетворяющее дифференциальному соотношению

£/(х) £ Е+50(п) для почти всех (нв.) я £ П, (2)

является либо постоянным отображением, либо сужением на А некоторого мебиусова отображения Здесь символом В/(х) обозначается обобщенный дифференциал, а символом 50 (п), как и принято, обозначается множество ортогональных матриц с определителем 1, соответственно символом М+50(п) обозначено множество матриц вида АД где А ^ О, А е 50(п)

Отметим, что условия гладкости в теореме Решетняка были еще более ослаблены Т Иванцом и Г Мартином в статье [28], где они для случая четных размерностей п = 21 доказали справедливость процитированного результата в предположении / 6

Ю Г Решетняк получил также глубокие результаты об устойчивости в теореме Лиувилля, более точно, об устойчивости класса конформных

(мебиусовых) отображений в классе отображений с ограниченным искажением [23]. Класс этих отображений, являющихся неоднолистным аналогом квазиконформных отображений, также был введен Ю Г Решет-няком, который установил и их основные нетривиальные свойства, такие как открытость, изолированность и т д , см [21]. Отображения с ограниченным искажением быстро стали чрезвычайно популярным объектом исследования не только отечественных, но и зарубежных математиков (назвавших такие отображения квазирегулярными, см., например, монографию [41]) В свою очередь, методы теории отображений с ограниченным искажением нашли многочисленные приложения в геометрической теории функций, теории нелинейных уравнений с частными производными, механике сплошной среды и пр. (см , например, монографию [29]). В связи с вопросами устойчивости особо следует отметить многочисленные работы А. П. Копылова (см , например, [13], [14]), который впервые предложил общую концепцию в изучении феномена устойчивости классов отображений, позволившую исследовать на устойчивость, помимо конформных, другие интересные для анализа и приложений классы отображений (таких, как многомерные голоморфные отображения, решения эллиптических систем д у. с частными производными и др ) А. П. Копыловым предложена также концепция устойчивости для классов липшицевых отображений (отправной точкой которой послужили работы Ф Джона [30]—[32] по устойчивости изометрий), этой теме посвящен ряд работ его учеников (см , например, [9], [10]).

Тематика, о которой шла речь, имеет важные приложения не только в анализе, но и в геометрии Так, квазиконформные отображения имеют глубокую связь с построенными Ю Г. Решетняком изотермическими системами координат в двумерных пространствах Александрова ограниченной кривизны [22] Из более современных работ, связывающих квазиконформный анализ и геометрию, отметим статью [26], посвященную квазиконформным структурам на многообразиях.

Вторым примером, когда изучение требований гладкости в классической теореме жесткости порождает целые направления в геометрии и в анализе, является следующая теорема Если / . 5„ —> Е"+1 есть С2-гладкое изометрическое погружение п-мерной сферы »?„, то множество /(5„) конгруэнтно Бп Поскольку в определении изометрического погружения участвуют лишь первые производные, естественно было предположить, что процитированная теорема останется верной и для С1-гладких отображений Однако эта долго стоявшая гипотеза была опровергнута Дж Нэшом [39] и Н Кейпером [36], которые доказали,

что для любого е > 0 существует С1-гладкое изометрическое вложение сферы в шар радиуса е пространства Еп+1 Более точно, Дж. Нэш и Н Кейпер установили, что всякое С1-гладкое локально Ь-липшицево погружение (вложение) / V —п-мерного риманова пространства V с п < к и Ь < 1 можно аппроксимировать в С-норме последовательностью С1-гладких изометрических погружений (вложений).

Методы построения таких «патологических» погружений (вложений) были затем развиты М Громовым [7], который назвал их «выпуклым интегрированием» (см также [18])

Используя метод выпуклого интегрирования, последние годы ряд известных зарубежных математиков (Дж Болл, Ст Мюллер, Вл Шве-рак, Б Кирхейм и др , см , например, [38], из отечественных специалистов в данном направлении успешно работал М. А. Сычев [42]) изучали следующую проблему каким условиям должно удовлетворять множество К С К"1*", чтобы дифференциальное соотношение

имело нетривиальные липшицевы решения к . Й С 1" -) К"*7

Обзор результатов о лишницевых решениях соотношения (3) сделан в относительно недавней работе [33] Из последних достижений в данной тематике, не вошедших в [33], упомянем красивые результаты, полученные венгерским математиком Л Секельхиди с соавторами [34], [27] для случая размерностей п = т = 2 В частности, в работе [34] доказано, что гапк-1 выпуклая оболочка множества значений градиента всякого лип-шицева отображения V (1 С К2 К2 является связным множеством (определение гапк-1 выпуклой оболочки см , например, в [38]) При доказательстве результатов в работе [34] используются как классические результаты Ю. Г. Решетняка [21], так и новый элегантный метод разделяющих квазиконформных кривых, разработанный Л Секельхиди

В настоящей диссертации вопрос о решениях дифференциального соотношения (3) исследуется в классической постановке — для С1-гладких функций Опишем, наконец, один из тех феноменов жесткости, которые изучается в данной работе Известен классический результат, что если С2-гладкая функция V = у(х, ¿), определенная в области П С И2, удовлетворяет дифференциальному уравнению гамильтонова типа

где (р IE -> М — С1-гладкая функция, то через каждую точку г 6 О проходит прямая линия (характеристика), на которой градиент Dv = const

Dv{x) £ К для п в х € П

(3)

vt = v(vx) в П,

(4)

Поскольку в уравнении (4) участвуют только первые производные функции V, естественно возникает вопрос, сохранится ли указанное свойство, если предполагать только лишь С1-гладкость отображения v и, соответственно, лишь непрерывность функции цР Стремление к наиболее естественной постановке вопроса приводит к следующей более общей проблеме.

Проблема 1. Пусть С1-гладкая функция v Ü -4 К области П с К2 обладает свойством

Int ¿МП) = 0, (5)

где символом Int обозначена внутренность множества Будет ли тогда выполнено следующее утверждение существует не более чем счетное множество Е такое, что для каждой точки z € ft, удовлетворяющей условию

Dv(z) i Е, (б)

найдется прямая линия L Э z такая, что Dv = const на компоненте связности множества Lf\Sl, содержащей точку z?

(Отметим, что не более чем счетное исключительное множество Е появляется уже в С2-гладком случае, поэтому такая формулировка естественна ) На примере процитированных выше результатов мы видим, как драматически может меняться ситуация с решениями дифференциальных соотношений при уменьшении гладкости Поэтому интуитивно складывается ощущение, что ответ в Проблеме 1, вообще говоря, должен быть отрицательный. Это ощущение владело и западными специалистами Приведем один характерный пример. В недавней работе [35] Я Колар и Я Кристенсен пытались доказать, что непостоянная С1-гладкая функция v • R2 —> Е с компактным носителем обладает свойством Dv(M2) = С1 Int £>v(ß2), где символом С1 обозначено замыкание множества Это свойство, очевидно, является тривиальным следствием положительного ответа на вопрос в Проблеме 1. Но авторы [35] даже и не пытаются ставить такую проблему, а свой результат они доказывают только при дополнительных предположениях на модуль непрерывности градиента Dv (типа гёльдеровости).

На примере приведенного результата Я. Колара и Я. Кристенсена видно, что решение Проблемы 1 помогает получить информацию о множестве значений градиента функции v. Возникает

Проблема 2 Каким условиям должно удовлетворять множество К С KmXn, чтобы дифференциальное соотношение

имело нетривиальные С1-гладкие решения V 0с1"-> Кга ?

Фактически, поставленная проблема состоит в изучении аналитических и геометрических свойств множеств значений градиента С1-гладких отображений Геометрические свойства множеств значений градиента всюду дифференцируемых (негладких) отображений изучались ранее, например, в работах [37|, [15], [10]

Одна из принципиальных трудностей, которые возникают при исследовании Проблемы 1 (и Проблемы 2 для случая п — 2, т = 1) при переходе от С2 к (71-гладкости, заключается в том, что для С1-гладких функций в общем случае не выполняется условие теоремы Сарда Напомним, что в применении к скалярным функциям двух переменных классическая теорема Сарда звучит следующим образом

Теорема Сарда Пусть V ■ А Ж — С2-гладкая функция на области ОсК2 Тогда справедливо равенство

Здесь и в дальнейшем символом Zv обозначается множество критических точек функции v, т. е Zv — {z € П | Dv(z) = 0}

Как показал Уитни [43], условие С2-гладкости в данном результате опустить нельзя. А именно, Уитни построил С'-гладкую функцию v (0,1)2 —» К со следующим свойством: множество критических точек Zv содержит дугу, па которой v ф const

Однако некоторые аналоги теоремы Сарда справедливы и для функций, не имеющих требуемой степени гладкости Хотя равенство (8) тогда может уже и не выполняться, Дубовицким [8] были получены некоторые результаты о строении множеств уровня для случая пониженной гладкости (см. также [25])

Другим направлением исследований было обобщение теоремы Сарда для пространств Гельдера, Соболева, а также для пространств функций, удовлетворяющих условию Липшица (см , например, [25])

Авторы цитированной статьи [35] также устанавливают апалог теоремы Сарда при сделанных ими предположениях.

Получение аналога теоремы Сарда для случая Проблемы 1 (без добавочных предположений на модуль непрерывности градиента) является первым шагом к ее решению

Dv(x) е К для всех х € П

(7)

measti(Zv) = 0

(8)

В последней главе 6 настоящей диссертации исследуется иной феномен жесткости — геометрического характера Тематика, которой посвящена указанная глава, хотя и является сравнительно молодой (она отдаленно восходит к процитированному результату Нэша - Кейпера), но непосредственно связана также с классическими задачами, имеющими двухсотлетнюю историю Отправной точкой можно считать известную теорему Коши об однозначной определенности выпуклого многогранника своей разверткой. В дальнейшем проблемами однозначной определенности выпуклых поверхностей внутренней метрикой занимались Минковский, Гильберт, Вейль, Бляшке, Кон-Фоссен и другие известные математики. Но наибольших успехов в этом направлении добились академик А. Д. Александров и его ученики. Упомянем ставшую уже классической теорему А. В Погорелова об однозначной определенности ограниченной замкнутой выпуклой поверхности в В3 ее внутренней метрикой (см , например, [20]). Этот результат был обобщен на случай выпуклых гиперповерхностей в1"Е П. Сенькиным [24]. Наиболее впечатляющий результат — об устойчивости в теореме А. В Погорелова — был получен Ю. А. Волковым [6], нашедшим явную оценку деформации выпуклой поверхности в зависимости от изменения ее внутренней метрики.

В связи с успешным развитием теории однозначной определенности выпуклых поверхностей возник естественный вопрос- можно ли получить подобные результаты для невыпуклых поверхностей? Отдельные результаты для случая повышенной гладкости были получены (см., например, работы [1], [40], где доказаны теоремы жесткости для некоторого класса поверхностей в предположениях аналитичности и С4-гладкости соответственно). Однако в целом в свете процитированных результатов Нэша - Кейпера ответ на этот вопрос представлялся весьма пессимистичным В самом деле, согласно указанным результатам всякая С1-гладкая поверхность в К" не является однозначно определенной (в классе всех таких поверхностей) своей внутренней метрикой.

Адекватный подход к проблеме однозначной определенности для невыпуклого случая был найден А П. Копыловым [11] (см. также обзорную статью [12]). В подходе А. П. Копылова задача (в несколько упрощенной формулировке) ставится следующим образом

Проблема 3. Пусть и л V — две области в Еп (п ^ 2), внутренние метрики которых продолжаются по непрерывности в замыкания этих областей. Предположим, что границы этих областей изометричны в относительных метриках, т. е. метриках, индуцируемых на границах внут-

рентами метриками областей. Выяснять, являются ли сами области евклидово изометричлыми (т. е конгруэнтными).

Данная проблема включает в себя упомянутую задачу об однозначной определенности выпуклых поверхностей как частный случай. В предложенном А. П. Копыловым подходе возникает также целый ряд новых и очень интересных задач, в исследовании которых в разное время принимали участие А. Д. Александров, А. В. Кузьминых, В. А. Александров, М. К. Боровикова и др. (см., например, обзорную статью [12]). Оказалось, что однозначная определенность областей относительными метриками их границ имеет место не только в классическом случае, когда их дополнения — ограниченные выпуклые множества, но, например, и в следующих случаях: область II строго выпуклая, область V любая (А. Д. Александров); область ¡7 выпуклая и отличная от полупространства, область V любая (А. В. Кузьминых); области V и V ограничены и обладают кусочно гладкими границами (В. А. Александров), области и и V обладают непустыми ограниченными дополнениями и С1-гладкими границами, причем п ^ 3 (В. А. Александров) и др.

Однозначная определенность в классе областей с аналитическими границами изучалась в [2] Интересные результаты по однозначной определенности областей условием локальной изометричности их границ в относительных метриках были получено в работах [17], [5], [4] Новым и многообещающим является предложенный в [12] подход к однозначной определенности конформного типа

Однако во всех перечисленных результатах, в соответствии с формулировкой Проблемы 3, предполагалось, что внутренние метрики областей и я V продолжаются по непрерывности в замыкания этих областей. Возникает следующий вопрос: нельзя ли отказаться от этого предположения и получить результаты об однозначной определенности, справедливые для всех областей, без каких бы то ни было априорных предположений о регулярности?

Хотя далеко не каждая область удовлетворяет предположениям о регулярности в формулировке Проблемы 3, но зато абсолютно любая область Р С Е" допускает продолжение по непрерывности своей внутренней метрики на свою хаусдорфову границу1. Возникает следующая модификация исходной Проблемы 3.

1Получить которую можно, пополнив область V по Хаусдорфу (относительно внутренней метрики) и удалив из полученного пополнения точки самой области

Проблема 4 Пусть и и V — две области в I" (п ^ 2) Предположим, что хаусдорфовы границы этих областей изометричиы в относительных метриках Выяснить, являются ли евклидово изометричными сами области

По данной проблеме был опубликован результат В А Александрова [3] для случая, когда границы областей и, V суть полиэдры, а также результат А П Копылова для ситуации, когда п = 2 и область ¿7 — ограниченная и выпуклая, V — любая [12] В личном сообщении автору А П Копылов также сообщил решение этой задачи для случая, когда область и строго выпукла, V — любая

В настоящей работе получено полное решение проблем 1, 3-4, а также получен ряд результатов по проблеме 2

Основные результаты диссертации.

1. Найдены необходимые и достаточные условия на непрерывную функцию ц> 1 -4 Е с тем, чтобы уравнение гамильтонова типа на плоскости г;* = имело нетривиальные (т е неаффинные) С1-гладкие решения Доказано, в частности, что функция <р (а рпоп предполагаемая лишь непрерывной) должна быть дважды дифференцируема почти всюду

2 Полностью изучен случай произвольной вещественной С1-гладкой функции V двух переменных, у которой внутренность множества значений градиента пуста В этом случае установлено, что линии уровня градиентного отображения являются прямолинейными отрезками Отсюда выведено, что множество значений градиента функции у локально представляет собой кривую, которая имеет в каждой точке касательные в некотором слабом смысле, и направление этих слабых касательных меняется как функция ограниченной вариации В то же время удалось построить вещественную С1-гладкую функцию двух переменных, у которой множество значений градиента является дугой, не имеющей касательной (в обычном смысле) ни в одной точке

3. Установлен аналог теоремы Сарда для С1-гладких функций двух переменных

4 Результаты 1-3 перенесены на случай С1-гладких отображений V П с 1П -4 Кт, множество значений градиента которых одномерно

5 Найдены необходимые и достаточные условия однозначной определенности областей в М" метрикой хаусдорфовой границы, индуцированной внутренней метрикой области, при этом на области не налагается никаких априорных требований регулярности.

Научная новизна. Все основные результаты диссертации являются новыми.

Теоретическая и практическая ценность. Работа носит теоретический характер Результаты и методы работы могут быть использованы для дальнейших исследований дифференциальных соотношений с частными производными и при изучении жесткости римановых многообра^ зий Результаты диссертации также могут быть включены в спецкурсы для студентов и аспирантов, специализирующихся в области анализа и геометрии

Методы исследования. Одним из основных методов для решения поставленных задач является концепция изэнтропических решений дифференциальных уравнений, введенная в [19] Определение изэнтропиче-ского решения можно получить из классического (данного академиком С H Кружковым [16]) определения энтропийного решения, если в последнем знак неравенства заменить знаком равенства (см также [51]) В диссертации также активно применяется аппарат теории функций вещественных переменных В частности, используется теорема Сарда, точнее, ее аналог для С1-гладких функций, доказанный в главах 2, 5 Для получения результатов последней главы 6 используется техника теории однозначной определенности областей относительными метриками их границ (см. [12])

Апробация работы. Результаты работы докладывались в Оксфорде (в январе 2007 в Математическом Институте на семинаре Applied Analysis and Mechanics), в Лозанне (Швейцария, XX Rolf Nevanlmna Colloquium, с 8 по 13 августа 2005), в Мадриде (Испания, International Congress of Mathematicians, 22-31 августа 2006), в Бендлево (Польша, на конференциях Self-similar solutions in nonlinear PDEs, с 4 no 9 сентября 2005 г, Analysis and Partial Differential Equations Conference, 1923 июня 2006, Geometric Analysis and Nonlmear PDEs Conference, 3-10 июня 2007), в Лоте над Рохановым (Чехия, на конференциях 35th Winter School in Abstract Analysis 2007, 13-20 января 2007; и на 36th Winter School in Abstract Analysis 2007, 12-19 января 2008), в Слупске (Польша, в Институте математике на семинаре кафедры анализа и топологии, в сентябре 2005 и в июне 2006), в Новосибирске (на Общеинститутском ce-

минаре Института математики СО РАН, на семинаре отдела геометрии и анализа Института математики СО РАН; на Международной школе-конференции по анализу и геометрии, посвященной 75-летию академика Юрия Григорьевича Решетняка, с 23 августа по 2 сентября 2004 г., на Международной конференции «Математика в современном мире», посвященной 50-летию Института математики СО РАН, 17-23 сентября 2007)

Публикации. Основные результаты по теме диссертации опубликованы в форме статей в ведущих отечественных журналах [44]—[53].

Структура и объем диссертации. Диссертация состоит из шести глав, включая введение, указателя терминов, предметного указателя и литературы. Она изложена на 160 страницах текста, набранного в ре-дакционно-издательской системе ЖГеХ2е, библиография содержит 91 наименование

Содержание диссертации.

Общая структура диссертации. Диссертация разбита на главы, которые в свою очередь подразделяются на параграфы Основные результаты каждой главы (теоремы и их следствия) явным образом сформулированы в первых параграфах главы. Нумерация всех результатов (теорем, лемм, следствий), а также определений и замечаний сквозная внутри параграфа и состоит из трех цифр первая цифра — номер главы, вторая — номер параграфа и третья — порядковый номер внутри параграфа Нумерация формул двойная- первая цифра — номер главы, а вторая — порядковый номер внутри главы. (Нумерация формул и утверждений в автореферате не совпадает с нумерацией в диссертации )

Глава 1. Введение

В данной главе приведена характеристика основных результатов работы, а также определения и обозначения, используемые далее на протяжение всей диссертации Укажем некоторые из используемых далее обозначений, еще не поясненных выше Символом Оу~~1(А) обозначается прообраз = {ж £ П | = Л} Областью мы называем открытое связное множество Всюду в дальнейшем Сопу Е — выпуклая оболочка множества Е, сИтЕ1 — размерность множества Е, теаБ(^) — мера Лебега множества Е, Нк(Е) — /¡-мерная мера Хаусдорфа множества Е Символом а Ь мы обозначаем скалярное произведение векторов а,Ь Символом сотрг Е обозначается компонента связности множества Е, содержащая точку г

Пусть Q ffi" —> En — изометрическое преобразование пространства К™ (не обязательно линейное) Тогда для х G Еп символом Qx мы будем обозначать значение отображения Q в точке х (обычно так пишут для линейных отображений Q, но по техническим причинам нам будет удобно так писать и для аффинных отображений)

Глава 2. Об одном аналоге теоремы Сарда для Сг-гладких функций «:ficR4l

Основным результатом главы является следующая

Теорема 1. Пусть v ft —> Ж — С1-гладкая функция на области ft С R2 Предположим, что 0 ф. Clint, Dv(ft) Тогда выполнено равенство measv(Zu) = О

Результаты данной главы опубликованы в работе [44]

Глава 3. О необходимых и достаточных условиях на кривую для того, чтобы она являлась множеством значений градиента С1-гладкой функции v fl С I2 I

В третьей главе найдены необходимые и достаточные условия на непрерывную кривую, чтобы она была множеством значений градиента вещественной С1-гладкой функции двух переменных Доказано, что у этой кривой имеются касательные в некотором слабом смысле, и направление этих слабых касательных меняется как функция ограниченной вариации (см ниже Теорему 7) В то же время, такая кривая не обязательно будет регулярной в классическом смысле у нее может не существовать касательных (в обычном смысле) ни в одной точке (Теорема 4) В качестве приложения указанных результатов получены необходимые и достаточные условия на непрерывную функцию ¡р с тем, чтобы уравнение (4) имело нетривиальные (т. е неаффинные) С1-гладкие решения В последнем уравнении производные vt, vz лишь непрерывны и, как может показаться сначала, это соотношение не может дать ничего больше естественного свойства непрерывности функции (р Оказалось, однако, что функция ip должна быть локально липшицевой на открытом множестве полной меры, а ее производная на этом множестве должна иметь локально ограниченную вариацию (Теорема 5). В частности, <р должна быть дважды дифференцируема почти всюду

Аналитические условия на кривую содержатся в следующем утверждении

Теорема 2. Пусть 7 • й —> К2 — непрерывное инъектявное отображение (дуга), и пусть v ft -> К — С1-гладкая функция на области ft С Е2

Предположим, что выполнены следующие включения■

С 7(К), (9)

7(7) С (10)

где J — некоторое связное подмножество К. Тогда 7 обладает следующим свойством

(Г1) для каждой точки ыо £ J существует окрестность V = У(щ) и непрерывная слева функция I V Е ограниченной вариации такие, что после соответствующей линейной ортонормированной замены координат в плоскости К2 имеет место следующая формула

«2-0

72{и)\ии1=ъ(и)1(и)\%- I 71(«)<й(«), (И)

«г

где интеграл понимается в смысле Лебега- Стилтьеса по полуоткрытому интервалу иг), и используется стандартное обозначение /(и)

/ы - /(«0.

Теорема 2 допускает обращение

Теорема 3. Пусть 7 . Е Е2 — непрерывное отображение, не постоянное ни на каком интервале. Пусть, далее, на некотором связном множестве 7 С отображение 7 обладает свойством (Г\) Тогда найдутся область П С Е2 и функция у £ С1 (П) такие, что выполнены включения (9)-(10) Более точно, существует функция и{г) € С {О) такая, что справедливы равенства = у (и (г)) при г £ И, и(С1) = У.

Теоремы 2,3 позволяют построить несколько характерных примеров

Теорема 4. Существуют дуга (непрерывное инъективное отображение) 7 Е Е2, не имеющая касательной ни в одной точке и Е Е (в частности, 7 не спрямляема ни на каком интервале), и С1-гладкая функция V П 1 области П с Е2 такие, что Х)у(П) = 7(Ж).

Далее рассмотрен случай, когда кривая 7 является графиком некоторой непрерывной функции ¡р ■ Ж -» Ж, т е у (и) = (и,<р(и)). В этом случае включения (9)-(10) для функции V = ь(х, ¿) эквивалентны следующим соотношениям

= У К) в П, (12)

3 С «„(П) (13)

Теорема 5. Пусть v П —> К — С1-гладкая функция в области (1 С I2, удовлетворяющая соотношениям (12)-(13), где tp = <p(u) — непрерывная функция из К в М Тогда ip обладает следующим свойством

(Гг) Существует замкнутое относительно интервала J множество F нулевой меры, такое, что функция удовлетворяет условию Липшица локально на U = J \F. Более того, функция ip дифференцируема на U всюду за исключением не более чем счетного множества точек Еа<и с U Далее, если формально доопределить производную <р' на весь интервал J по правилу

<р'(и) , u£ U\E„tu,

<p'(u) — I ton v>'(r) , ueE^u,

r \ / 1 7" —HI—0

oo , u € F,

то полученная функция tp' будет иметь локально ограниченную вариацию на U Кроме того, для любой точки щ £ J найдется ее окрестность V = V(uo) и число a € Е такие, что функция }_Q V Л J —> Е будет являться функцией ограниченной вариации на V

Отсюда видно, что «плохая» дуга из Теоремы 4 не может быть графиком некоторой непрерывной функции ip Справедлива обратная к Теореме 5

Теорема 6. Пусть непрерывная функция <р R —>• К обладает свойством (Г2) на некотором интервале J С К Тогда найдутся область О С I2 и функция v(x,t) <Е С1(П) такие, что выполнены соотношения (12)-(13)

Обозначим через MP1 множество прямых линий плоскости Е2, проходящих через точку 0, т е RP1 есть одномерное проективное пространство. Иногда мы будем естественным образом отождествлять прямую из ШР1 с вектором из К2, параллельным этой прямой

Определение 1. Пусть 7 • В —> Ж2 — непрерывное отображение (кривая), не постоянное ни на каком интервале Будем говорить, что прямая р £ ЕР1 является а-касательной справа к кривой 7 в точке uq (обозначается р = 7+(«о)), если для любой последовательности и„ п0 + О, такой, что

|7(«)-7("о)| .

sup sup рт^г-т—rr < 00,

" «е[«о,и„] ГУМ ~ 7("о)

имеет место сходимость (понимаемая в естественном смысле)

7Ы ~ 7Ы ; 1тЮ -7Ы1

Аналогично вводится понятие а-касательной 7L (ыо) слева в точке щ и просто о-касательной j'(uq) в точке ио Очевидно, что если кривая 7 имеет обычную касательную в точке, то эта касательная будет также и а-касательной Однако обратное утверждение неверно (это следует, например, из Теоремы 4 и сформулированной ниже Теоремы 7)

Теорема 7. Пусть 7 : R Е2 — непрерывное инъективиое отображение (дуга), и пусть v П К — С1-гладкая функция на области П С Ж2 Предположим, что выполнены включения (9)-(10) Обозначим a = inf J, b = sup J. Тогда, помимо свойства (Г1), дуга 7 обладает также следующим свойством•

(Г3) для каждой точки щ € J существует окрестность V = V(tio) и непрерывная слева функция I V -> R ограниченной вариации таг кие, что после соответствующей линейной ортонормированной замены координат2 в плоскости R2 справедливы следующие равенства

VuGFnJ\{6} 7;(u) = (l,Z(u + 0)), Vu G VT\J\{a} 7l(u) = (l,f(u)),

(14)

т. e , вышеупомянутые односторонние a-касательные существуют и параллельны векторам (1, ¿(и + 0)), (l,i(u)) соответственно3. Таким образом, 7'+(и) непрерывна справа в каждой точке и 6 J\{b}, а (и) непрерывна слева в каждой точке u G <7 \ {о}, причем j'+(u) = (u) = 7'(u) для всех точек u Е (а, Ь) гДе исключительное множество Еа не более чем счетно

Результаты главы 3 получены в неразрывном соавторстве с Е Ю. Пановым и опубликованы в работах [50]—[53]

Глава 4. Свойства С1-гладких функций о : il С R2 R, множество значений градиента которых нигде не плотно

В данной главе исследована более сложная проблема- случай произвольной С1-гладкой функции v • П С К2 —> Ж, у которой внутренность множества значений градиента пуста Этот случай сведен к рассмотренному в предыдущей главе (см. Теоремы 9, 10). При этом получен

23десь окрестность V, функция I и замена координат — те же самые, о которых шла речь в свойстве (Гг)

3Мы обозначаем через i(u + 0) соответствующий односторонний предел функции I

положительный ответ в Проблеме 1 (Теорема 8). В качестве одного из следствий, доказана справедливость утверждения процитированной выше теоремы Я Колара и Я Кристенсена для произвольной С1-гладкой функции V двух переменных, носитель которой является непустым компактным множеством (без дополнительных предположений на модуль непрерывности градиента)

Теорема 8. Пусть v . П Е — С1-гладкая функция на области П С К2 Предположим, что

Int Dv(ü)-0. (15)

Тогда для любой точки z G П, такой, что meas Dv~1(Dv(z)) = 0, найдется прямая L = L(z) Э z такая, что compZ(L П П) = compz Dv~1(Dv(z)).

Следствие 1. Пусть v : R2 —)• Е — непостоянная С1-гладкая функция с компактным носителем Тогда Dv(R2) = C1 IntDu(E2)

Напомним, что носителем функции v . К" —» R называется замыкание множества {z G К" | v(z) ф 0}

Теорема 9. Пусть v . П —> Е — С1-гладкая функция на области ÍÍ С В2. Предположим, что справедливо равенство (15) Тогда для любой точки zo G П найдутся ее открытая связная окрестность По, непрерывные функции и А2о -> К, 7 Е -» Е2 такие, что функция 7 непостоянна ни на каком интервале, и Dv(z) = 7{u(z)) при z £ По

Из Теоремы 9 и результатов предыдущей главы непосредственно вытекает следующий результат.

Теорема 10. Пусть выполнены условия Теоремы 9. Тогда функция у обладает свойствами (Г1) и (Гз) из Теорем 2, 7 на множестве J = и(П0)

Результаты главы 4 опубликованы в работах [45], [46].

Глава 5. Свойства С1-гладких функций » • П С К" 4 Ет, множество значений градиента которых одномерно

В данной главе получены аналоги предыдущих результатов для С1-гладких отображений v . П С Е" —> Ет, множество значений градиента которых одномерно В частности, найдены необходимые и достаточные условия на кривую в Emxn, чтобы она была множеством значений градиента С1-гладкой функции г Í! С IM Em, Показано, что у этой кривой имеются касательные в слабом смысле, эти касательные являются гапк-1-матрицами, и направление этих касательных есть функция

ограниченной вариации (Теорема 16) Также доказало, что в этом случае для функции V справедливо утверждение теоремы Сарда (Теорема 17), а множества уровня градиентного отображения Dv ■ П -> Етх" суть гиперплоскости (см Теорему 11).

Определение 2. Множество Е С Шк называется *-одномерным, если для любого линейного отображения L : 1^ 4 I2 образ Ь(Е) является нигде не плотным множеством в Ж2, т е. IntL(E) = 0.

В случае, когда Шк есть плоскость (те к = 2), »-одномерность множества Е эквивалентна тому, что топологическая размерность Е не превосходит 1 Далее, при произвольных размерностях к если ~Н2(Е) = О, то множество Е »-одномерно Однако, если к > 2, то в пространстве Шк существуют множества, гомеоморфные отрезку из Ж, но не являющиеся »-одномерными. К таким множествам относятся, например, графики кривых Пеано

Теорема 11. Пусть v • П Жт — С1-гладкая функция на области О С Еп. Предположим, что множество Dv(Q) *-одномерно Тогда для любой точки х £ П такой, что meas Dv~1(Dv(x)) = 0, найдется гиперплоскость Н = Н(х) Э х такая, что comp,(ЯП П) = comp,,. Dv~1(Dv(х))

Следствие 2. Пусть v П ->■ Жто — С1-гладкая функция на области S1 С 1" Предположим, что множество Dv(íl) *-одномерно Тогда для любой точки жо £ П найдутся ее открытая связная окрестность fío» непрерывные функции и : По Ж, 7 • Е —> Ет*" такие, что функция 7 непостоянна ни на каком интервале, и Dv(x) = 7(u(x)) при ж £ По

Для векторов о £ Rm, b £ R" символом a®í> обозначим mxn матрицу

(«А) . = 1, ,m

з = 1,

Теорема 12. Пусть v . П E,n — Сх-гладкая функция на области П С Ж™. Предположим, что множество Dv(Q) *-одномерно, По — подобласть П, а непрерывные функции и . По —> Ж, 7 : К —> RmXn удовлетворяют условиям Следствия 2 Тогда 7 обладает следующим свойством на интервале J = и (По).

(МГх) существует непрерывная слева функция I = (íi,. , ln) J->S(0,1) локально ограниченной вариации такая, что Vé 6 5(0,1) V[s1,s2] С J

32-0 «i

(16)

где интегрирование ведется в смысле Лебега-Стилтьеса по полуоткрытому интервалу [si, S2), а 5(0,1) есть единичная сфера в Еп

Более того, если u(x) = s Е J и measu~l(s) = 0, то гиперплоскость Н(х) из Теоремы 11 ортогональна вектору l(s)

Справедлива обратная к Теореме 12

Теорема 13. Пусть 7 Е Rmxn — непрерывная функция, непостоянная ни на каком интервале Предположим, что функция 7 имеет свойство (МГ1) на связном подмножестве J С Е. Тогда существует область ftcl", С1-гладкая функция v • ü Mm и непрерывная функция u Í2 R такие, что Dv(x) = 7(14(2;)) для u(Q) = J.

Следующие теоремы посвящены изучению функциональной зависимости частных производных Рассмотрим сначала случай веществен-нозначных функций (тп = 1) Предположим, что для непрерывной функции 7 = (71, .., 7„) • Е Е" выполнено соотношение

7i(s) — s» (17)

тогда дуга 7 является графиком некоторой непрерывной функции из Е в В"-1 Из Теоремы 12 можно вывести, что кривая 7 в этом случае имеет регулярность в классическом смысле

Теорема 14. Пусть v П -> Е — С1-гладкая функция в области Í2 С Е", удовлетворяющая соотношениям

w о dv / dv \ г,

где 7 = 7(s) — непрерывнее функция из Е в Еп со свойством (17) Положим J — д^-(П). Тогда для каждого j = 2,...,п координатная функция 7j обладает свойством (Г2) из Теоремы 5 на интервале J.

Теорема 14 допускает обращение при п = 2 (см Теорему 6), при п > 2 это уже неверно Если мы рассмотрим случай вектор-функций (т > 1), то ситуация существенно меняется можно рассчитывать только на регулярность, описанную в предыдущих параграфах данной главы

Теорема 15. Пусть 7 1 э s 4 (t«j(s)) £ Kmxn есть непрерывное отображение,

7п (s) = s, (18)

и пусть г ÍÍ 4 1т - С1-гладкая функция области fiel" Предположим, что выполнены соотношения

Vt = l, ,т Vj — 1, . ,n = вП (19)

Обозначим J = Тогда выполнены утверждения теорем 11 и 12,

т е 7 обладает свойством (МГх) на J, а множества уровня градиентного отображения Dv суть гиперплоскости

Обращаем внимание читателя на то, что в теоремах 15, 14 мы не предполагаем, что множество Dv(íl) ^-одномерно

Хотя кривые 7 из Теоремы 12 могут не иметь касательной в классическом смысле ни в одной точке, они имеют некое слабое подобие касательных в каждой точке.

Обозначим символом Кр"-1 вещественное (п — 1)-мерное проективное пространство, т е ЕР"-1 есть множество прямых линий пространства Ж", проходящих через точку 0 Иногда мы будем естественным образом отождествлять прямую из ЕРП-1 с ненулевым вектором из Жп, параллельным этой прямой Следующее определение является обобщением на многомерный случай Определения 1

Определение 3. Пусть 7 Ж -> Emxn — непрерывное отображение (кривая), не постоянное ни на каком интервале Будем говорить, что прямая р е ЕР"-1 является о-касателъной справа к кривой 7 в точке so (обозначается р = 7„+(so)), если для любой последовательности

s„-> s0 + 0, удовлетворяющей условию sup„ supse[s0isi/] i^ffb^ijl < 00' найдется последовательность векторов а„ £ Ет такая, что имеет место сходимость ¿fcfcfcj - av ® / 0, где / € 5(0,1) есть вектор, параллельный прямой р.

Аналогично вводится понятие а-касательной (so) слева в точке So и просто о-касательной 7¿.(so) в точке so Очевидно, что если кривая 7 имеет обычную касательную в точке, и эта касательная является rank-1 матрицей а ® Ь, то у этой кривой будет также существовать и (т-касательная, параллельная вектору Ь Однако обратное утверждение неверно

Теорема 16. Предположим, что условия Теорем 11-12 выполнены Обозначим J = u(üо), a = mí J, b = sup J Тогда помимо свойства (МГх) функция 7 обладает также следующим свойством

(МГз) существует непрерывная слева функция I — (h,.. ,ln) J 5(0,1) локально ограниченной вариации такая4, что

VsEJ\{b} 7;+(5) = /(5 + 0), VsEJ\{a} 7¿Js)=l(s),

т е указанные о-касательные существуют и параллельны векторам l(s + 0), I (s) соответственно Таким образом, (s) непрерывна справа в каждой точке s Е J \ {Ь}, а 7¿._(s) непрерывна слева в каждой точке s Е J \ {а}, причем (s) = (s) = ia (s) для всех точек s Е (а, Ь) \ Еа, где исключительное множество Еа не более чем счетно. Более того, имеет место включение Еа с Еи, где Eu = {s Е J | meas u~1(s) > 0}

Для функции v Í2 С —t Ета будем обозначать через Zv множество критических точек Zv = {ж 6 П | гапк£)и(ж) < тп} Следующий результат является многомерным обобщением Теоремы 1

Теорема 17. Пусть v Q -> Rm — С1-гладкое отображение области Í1 С I", для которого выполнены предположения Теорем 11 или 15 (т е множество Dv(Í2) *-одномерно или частные производные функции v удовлетворяют уравнениям (19)). Тогда

meast>(Zv)=0. (20)

Напомним, что в классической теореме Сарда для функций v : П С К" Rm для справедливости равенства (20) требуется С-гладкость, где г = max(0, п — тп) + 1.

Результаты главы 5 являются дальнейшим развитием идей, опубликованных в работах [44]-[46], [53]

4Здесь функция I — та же самая, о которой шла речь в свойстве (МГ1)

Глава 6. Однозначная определенность областей в К" метрикой границы, индуцированной внутренней метрикой области

Сначала напомним необходимые определения теории однозначной определенности областей (см., например, [12])

Определение 4. Пусть {/ — область в К", п ^ 2, и ри — ее внутренняя метрика5 Пополним метрическое пространство (II, ри) по Хау-сдорфу Отождествляя точки построенного пополнения, соответствующие точкам области и, с самими этими точками и удаляя их из пополнения, мы получим метрическое пространство (дн11,рн,и)> совокупность дн11 элементов которого называется хаусдорфовой границей области 17, а Рн,и ~ относительной метрикой ее хаусдорфовой границы Расстояние в этой метрике между элементами х,у 6 с?#£/ будем обозначать также |ж -

Пусть 17, V — области в К". Будем говорить, что отображение / : дн11 —> 8цУ является изометрией (в относительных метриках) хау-сдорфовых границ областей II,V, если отображение / биективно и \/х, у € дд[1 справедливо равенство \х — у\н,и = |/(ж) — 1(у)\ну, при наличии такой изометрии будем говорить также, что хаусдорфовы границы областей 17,V изометричны в относительных метриках

Определение 5. Будем говорить, что область 17 С Ж" однозначно определяется относительной метрикой своей хаусдорфовой границы, если каждая область V С К", хаусдорфова граница которой изомет-рична в относительных метриках аналогичной границе области [/, сама изометрична [I (в евклидовых метриках).

Определение 6. Пусть II — область в К" такая, что Ж" \ II есть непустое выпуклое множество Тогда хаусдорфова граница дцИ называется замкнутой выпуклой поверхностью в Ж", а соответствующая метрика рн,и — внутренней метрикой указанной поверхности

В условиях последнего определения в том случае, когда С11У ф М", хаусдорфова граница дни совпадает с обычной границей 317, и сформулированное определение эквивалентно обычному понятию замкнутой выпуклой поверхности и ее внутренней метрики. Но оно охватывает также вырожденный случай, когда С\Т7 = Ж", и потому нам удобно им пользоваться.

5Напомним, что расстояние по внутренней метрике области и между точками х,у £ II равно инфимуму длин кривых, лежащих в С/ и соединяющих х, у

Для области U обозначим Fu — U \ C1 Conv dU, а через Ut будем обозначать компоненты связности открытого множества Ufllnt Conv dU

Теорема 18. Пусть U — область в Е". Тогда справедливы следующие утверждения

(I) Если dim Conv dU<п, то область U не является однозначно определенной в том и только том случае, когда dU = Conv dU, dim dU—n — 1, и djiU не является однозначно определенной замкнутой выпуклой поверхностью (в классе всех замкнутых выпуклых поверхностей в Е")

(И) Если dimConvdU = п, то область U не является однозначно определенной в том и только том случае, когда существует неизометрич-ная ей область V, семейство изометрических отображений Q, Еп —> R" и гомеоморфизм в dFjj -4- dFy со свойствами•

(IIa) Для каждой компоненты U, справедливо равенство QtU, = V, Это же равенство справедливо и для каждой компоненты V,

(IIb) Включение х £ U П dUt выполняется тогда и только тогда, когда справедливо включение Qtx £ V П dVx; далее, в случае выполнения этих включений справедливо также равенство в(х) = Q,x

(IIc) Гомеоморфизм в является изометрией во внутренних метриках замкнутых вьшуклых поверхностей dFu, dFy

Из Теоремы 18 непосредственно вытекает

Следствие 3. Пусть область U С R" удовлетворяет хотя бы одному из следующих двух условий-

1) область U ограничена;

2) n ^ 3 и множество En \ U ограничено

Тогда область U однозначно определяется относительной метрикой своей хаусдорфовой границы

Я благодарен своему научному консультанту профессору А. П Ко-пылову Его вклад в мое развитие как математика, а также постоянная поддержка неоценимы Я особо признателен академику Ю. Г Решет-няку, пробудившему во мне интерес к современному анализу Также я особо благодарен профессору Е Ю. Панову, который предложил концепцию изэнтропических решений дифференциальных уравнений, явившуюся красивым и эффективным инструментом для решения включенных в диссертацию задач. Наконец, благодарю всех остальных своих старших коллег, которые в разное время делились со мною своими соображениями по поводу задач, включенных в диссертацию. В А Александрова,

С. К. Водопьянова, А. В. Грешнова, Н. С. Даирбекова, А. А. Егорова, Н Н. Романовского, М. А. Сычёва.

Работа выполнена при поддержке РФФИ (гранты 02-01-01009-а, 05-01-00482-а, 08-01-00531-а), грантов Президента РФ для поддержки молодых кандидатов наук (МК-3778.2004.1, МК-5366.2008.1) и ведущих научных школ РФ (НШ-311.2003.1, НШ-8526.2006.1, НШ-5682.2008 1), гранта Фонда содействия отечественной науке для молодых кандидатов, Междисциплинарного интеграционного проекта СО РАН (№ 117, 2006) и грантов Лаврентьевского конкурса молодежных проектов СО РАН. Часть работы была выполнена во время моего визита в Международный Банаховский Центр в Бендлево (Польша), и я благодарен всем сотрудникам этого центра и, особенно, академику ПАН профессору Б. Боярскому за гостеприимство.

Литература

[1] Александров А. Д. Об одном классе замкнутых поверхностей // Ма-тем сборник 1938. Т. 4, № 46 С 69-77.

[2] Александров В. А Об областях, однозначно определяемых относительной метрикой своей границы, в: Тр. Ин-тпа математики/АН СССР. Сиб. отд-ние. 1987. Т. 7- Исследования по геометрии и математическому анализу С. 5-19

[3] Александров В. А. Однозначная определенность областей с нежор-дановыми границами // Сиб. мат журн. 1989. Т. 30, № 1. С. 3-12.

[4] Александров В. А. Об изометричности многогранных областей, границы которых локально изометричны в относительных метриках // Сиб мат журн. 1992. Т. 33, № 2. С. 3-9.

[5] Боровикова М. К. Об изометричности многоугольных областей, границы которых локально изометричны в относительных метриках // Сиб мат журн. 1992. Т. 33. № 4. С. 30-41.

[6] Волков Ю А. Оценка деформации выпуклой поверхности в зависимости от изменения ее внутренней метрики, в: Укр. геометр, сб. Харьков: Изд-во ХГУ, 1968. Вып 5/6. С. 44-69.

[7] Громов М. Дифференциальные соотношения с частными производными М.: «Мир», 1990.

[8] Дубовицкий А. Я. О строении множеств уровня дифференцируемых отображений п-мерного куба в ¿-мерный куб // Изв. Акад. Наук СССР. Сер. Мат. 1957 Т 21. С. 371-408.

[9] Егоров А А. Об устойчивости классов аффинных отображений // Сиб мат журн 1995 Т 36, № 5 С 1081-1095

[10] Егоров А А , Коробков М В. Устойчивость классов липшицевых отображений, теорема Дарбу и квазивыпуклые множества // Сиб мат журн. 2000 Т 41, № 5. С 1046-1059

[11] Копылов А П О граничных значениях отображений, близких к изометрическим // Сиб мат. журн 1984 Т 25, № 3. С. 120-131.

[12] Копылов А П Об однозначной определенности областей в евклидовых пространствах // Современная математика Фундаментальные направления 2007 Т. 22 С 139-167

[13] Копылов А П Устойчивость в С-норме классов отображений // Новосибирск «Наука», 1990.

[14] Копылов А П Устойчивость в С'-норме классов решений систем линейных уравнений с частными производными эллиптического типа // Сиб мат журн 1998 Т. 39, № 6 С 1304-1321

[15] Коробков М В Об одном обобщении тёоремы Дарбу на многомерный случай // Сибирский мат журн. 2000 Т 41, К« 1 С. 118-133.

[16] Круокков С Н. Квазилинейные уравнения первого порядка со многими независимыми переменными// Матем сборник. 1970 Т 81, № 2 С 228-255

[17] Кузьминых А В. Об изометричности областей, границы которых изометричны в относительных метриках // Сиб мат журн 1985 Т 26, № 3 С 91-99

[18] Мишанев Н М, Элиашберг Я М Введение в /¿-принцип М МЦ-НМО, 2004

[19] Панов Е10 Обобщенные решения задачи Коши для квазилинейных законов сохранения Дисс канд физ -мат. наук Москва МГУ, 1991

[20] Погорелое А В. Внешняя геометрия выпуклых поверхностей М «Наука», 1969.

[21] Решетняк Ю Г Пространственные отображения с ограниченным искажением Новосибирск «Наука», 1982

[22] Решетняк Ю. Г. Двумерные многообразия ограниченной кривизны // Геометрия-4- Нерегулярная риманова геометрия - М., 1989. -С 8-189 - (Итоги науки и техники Соврем пробл математики Фундам направления, Т 70)

[23] Решетняк Ю Г. Теоремы устойчивости в геометрии и анализе. Новосибирск. Изд-во Института математики СО РАН, 1996

[24] Сенькин Е. П. Неизгибаемость выпуклых гиперповерхностей, в. Укр геометр, сб Харьков- Изд-во ХГУ, 1972. Вып 12 С. 131-152

[25] Bojarski В , Hajlasz Р, Strzelecki P. Sard's theorem for mappings in Holder and Sobolev spaces // Manuscripta Math 2005. V 118. P 383397

[26] Donaldson S K., Sullivan D. P. Quasiconformal 4-manifolds // Acta Math 1989. V. 163, № 3-4. P. 181-252.

[27] Faraco D, Szekelyhidi L Tartar's conjecture and localization of quasiconvex hulls in R2x2. Max-Planck-Institute for Mathematics in the Sciences. 2006. Preprint № 60 http //www.mis mpg de/jump/pubhcations.html

[28] Iwamec T, Martin G. Quasiregular mappings in even dimensions // Acta Math 1993 V. 170, № 1. P 29-81.

[29] Iwamec T, Martin G. Geometric function theory and nonlinear analysis. Oxford Mathematical Monographs. New York. The Clarendon Press Oxford University Press, 2001.

[30] John F. Rotation and strain // Comm. Pure Appl Math. 1961. V. 14, №3 P. 391-413

[31] John F. On quasi-isometric mappings I // Comm. Pure Appl. Math. 1968 V 21, № 1. P 77-110

[32] John F. On quasi-isometric mappings. II // Comm Pure Appl. Math 1969. V. 22, № 2. P. 265-278.

[33] Kirchheim В., Mutter S., Sverak V. Studying nonlinear PDE by geometry in matrix space. In Geometric analysis and Nonlinear partial differential equations S. Hildebrandt and H Karcher, Eds SpringerVerlag 2003. P. 347-395.

[34] Kirchheim В., Szekelyhidi L On the gradient set of Lipschitz maps Preprint № 16, MPI-MIS. 2007.

[35] Kolar J., Knstensen J Gradient Ranges of Bumps on the Plane // Proceedings of the AMS 2005 V 133, № 5 P. 1699-1706

[36] Kuiper N H. On C^-isometric imbeddings I // Nederl. Akad Wetensch Proc. Ser A. 1955 V. 58 P. 545-556.

[37] Mal $ J. The Darboux property for gradients // Real Anal Exchange 1996/97 V 22, № 1 P 167-173.

[38] Muller S Variational Models for Microstructure and Phase Transitions. Leipzig Max-Planck-Institute for Mathematics in the Sciences, 1998 (Lecture Notes, № 2 http //www.mis.mpg de/jump/publications html)

[39] Nash J С1 isometric imbeddings // Ann of Math 1954 V 60 P 383396.

[40] Nienberg L Rigidity of a class of closed surfaces In Nonlinear Problems (Proc Sympos , Madison, Wis , 1962) Univ. of Wisconsin Press, Madison, Wis , 1963 P 177-193

[41] Rickman S Quasiregular mappings Vol 26 of Ergebnisse der Mathematik und ihrer Grenzgebiete (3) [Results in Mathematics and Related Areas (3)] Berlin. Springer-Verlag, 1993.

[42] Sychev M A A few remarks on differential inclusions // Proc R Soc Edinb , Sect A, Math 2006 V. 136, № 3 P 649-668.

[43] Whitney H A function not constant on a connected set of critical points // Duke Math. J 1935 V 1 P. 514-517.

Работы автора по теме диссертации.

[44] Коробков М В Об одном аналоге теоремы Сарда для С1 -гладких функций двух переменных / / Сиб. мат журн 2006 Т 47, № 5 С 1083-1091.

[45] Коробков М В Свойства С1-гладких функций, образ градиента которых является нигде не плотным множеством // Докл. АН 2006 Т 410, № 5 С. 596-598

[46] Коробков М.В Свойства С1-гладких функций, множество значений градиента которых является нигде не плотным множеством // Сиб. мат журн 2007. Т. 48, № 6 С 1272-1284

[47] Коробков М В Необходимые и достаточные условия однозначной определенности плоских областей // Доклады Академии Наук. 2007 Т 416, № 4 С 443-445

[48] Коробков МБ Пример С1-гладкой функции, множество значений градиента которой является дугой, не имеющей касательной ни в одной точке // Сиб. мат. журн 2008. Т 49, № 1. С 134-144.

[49] Коробков М В Необходимые и достаточные условия однозначной определенности плоских областей // Сиб мат. журн 2008. Т. 49, №3 С 548-567

[50] Коробков М В, Панов ЕЮ К теории изэнтропических решений квазилинейных законов сохранения // Современная математика и ее приложения 2005 Т 33 С 69-78

[51] Коробков М В, Панов Е Ю. Об изэнтропических решениях квазилинейных уравнений первого порядка // Матем сборник 2006. Т. 197. № 5 С 99-124.

[52] Коробков М.В., Панов Е.Ю О необходимых и достаточных условиях на кривую для того, чтобы она являлась образом градиента С1-гладкой функции // Докл АН. 2006 Т. 410, № 4 С. 449-452

[53] Коробков М.В., Панов Е.Ю О необходимых и достаточных условиях на кривую для того, чтобы она являлась образом градиента С1-гладкой функции // Сиб мат журн. 2007 Т 48, № 4. С. 789-810

Коробков Михаил Вячеславович

Некоторые теоремы жесткости в анализе и геометрии

Автореферат диссертации на соискание ученой степени доктора физико-математических наук

Подписано в печать 11 07 08 Формат 60x84 1/16

Уел печ. л 1,8 Уч -изд л 1,5. Тираж 90 экз. Заказ № 109

Отпечатано в ООО «Омега Принт» 630090, Новосибирск, пр Лаврентьева, 6

1 Введение

§1 Общая характеристика результатов работы.

§2 Основные обозначения

2 Об одном аналоге теоремы Сарда для С1 -гладких функций гОсЕЧ!

§1 Формулировка основного результата главы.

§2 Доказательство основного результата главы.

3 О необходимых и достаточных условиях на кривую для того, чтобы она являлась множеством значений градиента С1-гладкой функции г; : с к2 —>• Ж

§1 Необходимые и достаточные условия (в аналитической форме) на кривую для того, чтобы она являлась образом градиента

С1 -гладкой функции.

§2 Необходимые и достаточные условия на функцию </? для существования нетривиальных С1-гладких решений уравнения г^ =

§3 Существование и непрерывность касательных

§4 Изэнтропические решения дифференциальных уравнений

§5 Доказательства основных результатов.

4 Свойства С1-гладких функций V : Г2 С К2 —> К, множество значений градиента которых нигде не плотно

§1 Краткий обзор результатов главы.

§2 Доказательства основных результатов.

5 Свойства С1-гладких функций V : С К" —Мт, множество значений градиента которых одномерно

§1 Свойства множеств уровня градиентного отображения.

§5 Аналог теоремы Сарда.

§6 Доказательства основных результатов.

6 Однозначная определенность областей

§1 Определение основных понятий.

§2 Краткий обзор результатов главы.

§3 Предварительные сведения и обозначения.

§4 Граничные интервалы: инвариантность и трансверсальность

§5 Инвариантность видимой части касательного конуса.

§6 Согласованность картин, видимых различными наблюдателями

§7 Вырожденный случай.

§8 Эквивалентность граничных интервалов

§9 Доказательство основной Теоремы 6.2.1.

Указатель терминов

Предметный указатель

В диссертации установлены теоремы жесткости для С1-гладких решений V : С —у Мт дифференциальных соотношений вида где К — подмножество пространства Ешхп вещественных т х п-матриц. Также в диссертации получен критерий однозначной определенности областей в евклидовых пространствах метрикой на границе, индуцированной внутренней метрикой области.

§1 Общая характеристика результатов работы

Анализ требований гладкости в классических теоремах нередко служит плодотворным источником идей для современной математики, порождая подчас магистральные направления ее развития. Приведем два ярких примера.

Согласно классической теореме Лиувилля, если / : —^ Мп является конформным отображением класса С3 области Г2 с Мп, то / представляет собой сужение на О, некоторого мёбиусова преобразования. Стремление максимально ослабить требования гладкости в этой теореме привело Ю. Г. Решетняка к следующему замечательному результату (см. [36], [38]): всякое отображение принадлежащее соболевскому классу И^1ос(П,Мп) и удовлетворяющее дифференциальному соотношению является либо постоянным отображением, либо сужением на О, некоторого мёбиусова отображения. Здесь символом И/(х) обозначается обобщенный дифференциал, а символом 50(п), как и принято, обозначается множество ортогональных матриц с определителем 1, соответственно символом М+50(п) обозначено множество матриц вида А А, где А > О, Л Е 50(п).

Ву ек в Г2,

1.1)

Df{x) е ж+5,0(тг) для почти всех (п.в.) х е о,

1.2)

Отметим, что условия гладкости в теореме Решетняка были еще более ослаблены Т. Иванцом и Г. Мартином в статье [57], где они для случая четных размерностей п = 21 доказали справедливость процитированного результата в предположении / £ И^1ос(Г2, Мп). (Данный порядок интегрирования является точным, при р < п/2 в работе [57] предъявлен контрпример непостоянного 1Ур1ос(Г2, Мп)-решения соотношения (1.2), которое не является мёбиусовым.) Конечно, такое усиление потребовало привлечения новых методов, таких, как теория Ходжа для дифференциальных форм с интегрируемыми коэффициентами, которая была развита в работе [53].

Ю. Г. Решетняк получил также глубокие результаты об устойчивости в теореме Лиувилля, более точно, об устойчивости класса конформных (мё-биусовых) отображений в классе отображений с ограниченным искажением [38]. Класс этих отображений, являющихся неоднолистным аналогом квазиконформных отображений, также был введен Ю. Г. Решетняком, который установил и их основные нетривиальные свойства, такие как открытость, изолированность и т. д., см. [36]. Отображения с ограниченным искажением быстро стали чрезвычайно популярным объектом исследования не только отечественных, но и зарубежных математиков (назвавших такие отображения квазирегулярными, см., например, монографию [75]). В свою очередь, методы теории отображений с ограниченным искажением нашли многочисленные приложения в геометрической теории функций, теории нелинейных уравнений с частными производными, механике сплошной среды и пр. (см., например, монографию [58]). Наиболее сильным и красивым достижением в теории отображений с ограниченным искажением за последние два десятилетия, является, по-видимому, результат К. Астала [45], [46], [49] об искажении площадей плоскими квазиконформными отображениями, с помощью которого был решен ряд долго стоящих проблем (см., например, [47]). В последние годы стала развиваться также теория отображений с конечным искажением (см., например, [59], [48]), которая берет начало от красивого результата С. К. Водопьянова и В. М. Гольдштейна [9] (см. также [11]) о непрерывности и монотонности таких отображений. Этими же авторами установлена глубокая связь между квазиконформными отображениями и изоморфизмами соболевских пространств (см. [11]).

Стоит сказать, что техника Ю. Г. Решеняка по исследованию собственно устойчивости в теореме Лиувилля, в отличие от других методов теории отображений с ограниченным искажением, медленнее «осваивается» западными учеными, вероятно, ввиду высокой нетривиальности. Лишь сравнительно недавно стали появляться на Западе статьи на эту тему (см., например,

55]). Впрочем, следует упомянуть о ранних работах Ф. Джона [60]—[62] по устойчивости изометрических преобразований. Однако несомненное лидерство в исследованиях по теории устойчивости конформных отображений, построенной в основном работах М. А. Лаврентьева, П. П. Белинского, Ю. Г. Ре-шентняка (библиографию см. в [38]), принадлежит отечественной школе. Отметим тонкие результаты В. И. Семенова [40]-[41] получившего явные оценки устойчивости, Н. С. Даирбекова [13]—[14], доказавшего для отображений с ограниченным искажением аналог теоремы Хартогса и исследовавшего его на устойчивость. Особо следует отметить многочисленные работы А. П. Копыло-ва (см., например, монографию [20], а также последующие работы [21]-[25]), который впервые предложил общую концепцию в изучении феномена устойчивости классов отображений, позволившую исследовать на устойчивость, помимо конформных, другие интересные для анализа и приложений классы отображений (таких, как многомерные голоморфные отображения, решения эллиптических систем д. у. с частными производными и др.). А. П. Копы-ловым предложена также концепция устойчивости для классов липшицевых отображений (согласующаяся с упомянутыми работами Ф. Джона), этой теме посвящен ряд работ его учеников (см., например, [16], [17]).

Тематика, о которой шла речь, имеет важные приложения не только в анализе, но и в геометрии. Так, квазиконформные отображения имеют глубокую связь с построенными Ю. Г. Решетняком изотермическими системами координат в двумерных пространствах Александрова ограниченной кривизны1 [37]. Из более современных работ, связывающих квазиконформный анализ и геометрию, отметим уже упомянутую статью [53], посвященную квазиконформным структурам на многообразиях.

Еще одним примером, когда изучение требований гладкости в классической теореме жесткости порождает целые направления в геометрии и в анализе, является следующая теорема (связанная с именами Д. Гильберта и С. Кон-Фоссена): Если / : —Мп+1 есть С2 -гладкое изометрическое погружение п-мерной сферы единичного радиуса, то множество /(5П) конгруэнтно Бп. (По поводу распространения этой теоремы на случай изометрических погружений класса С1,а см. работу Ю. Ф. Борисова [7].) Поскольку в определении изометрического погружения участвуют лишь первые производные, естественно было предположить, что процитированная теорема останется верной и для С1 -гладких отображений. Однако эта долго стоявшая гипотеза была опровергнута Дж. Нэшом [73] и Н. Кейпером [68], которые доказали, что для любого е > 0 существует С1-гладкое изометрическое вложение сферы 5П в х3а это открытие Ю. Г. Решетняк удостоился премии РАН им. Н. А. Лобачевского. шар радиуса е пространства Mn+1. Более точно, Дж. Нэш и Н. Кейпер установили, что всякое С1-гладкое локально L-липшицево погружение (вложение) / : V —>• Жк n-мерного риманова пространства Vcn<kw.L< \ можно аппроксимировать в С-норме последовательностью С1-гладких изометрических погружений (вложений).

Методы построения таких «патологических» погружений (вложений) были затем развиты М. Громовым [12], который назвал их «выпуклым интегрированием» (см. также [31]).

В последние десятилетия метод выпуклого интегрирования наиболее активно использовался в анализе для построения нетривиальных липшицевых решений v : с М.п —> дифференциальных соотношений вида

Dv(x) Е К для п.в. х Е (1.3) где К — заданное компактное подмножество пространства Mmxn вещественных т х п матриц, a Q есть область в ]Rn. (Напомним, что в силу теоремы Степанова-Радемахера дифференциал Dv(x) произвольного липшицева отображения v : Г2 —М771 определен для почти всех всех х Е £1.) Вместе с отысканием точных решений соотношения (1.3) важную роль играет нахождение так называемых аппроксимационных решений, т.е. последовательностей vu липшицевых функций таких, что sup IIDivlli^fi) < °°> dist(Dvv(x),K) —» 0 для п.в. х Е £1. (1.4) v

Будем говорить, что дифференциальное соотношение (1.3) имеет только тривиальные точные решения, если каждая липшицева функция v : Q Rm, удовлетворяющая (1.3), является аффинной. Аналогично будем говорить, что соотношение (1.3) имеет только тривиальные аппроксимационные решения, если для каждой последовательности липшицевых функций vv : Cl —> Mm, удовлетворяющих (1.4), найдется матрица А Е К и подпоследовательность vv , такие, что Dv^ —> А п.в. в Г2. Сформулированные задачи являются интересными даже для конечных множеств К (так называемая проблема к-градиентов), причем их сложность и богатство вариантов быстро возрастает вместе с мощностью К.

Приведем несколько характерных примеров (их подробное обсуждение можно найти, например, в [70]).

1. Простейший случай — когда К состоит из двух элементов, К = {А, В}. Тогда если rank(A — В) > 2, то соотношение (1.3) имеет только тривиальные (аппроксимационные и точные) решения [50] (доказательство этого факта опирается на теорему Ю. Г. Решетняка [36] о слабой сходимости якобианов). Если же rank(A — В) = 1, то можно построить не аффинное точное решение v соотношения (1.3).

2. Пусть К = {Ai, А.2) и предположим, что гапк(Д-—Aj) > 2 при г ф j. Тогда соотношение (1.3) имеет только тривиальные (аппроксимационные и точные) решения [77] (доказательство существенно опирается на результаты Ю. Г. Решетняка [36] по теории отображений с ограниченным искажением).

3. Пусть К = {А\, А2, A3, А4} и предположим, что гапк(А — Aj) > 2 при г ф j. Соотношение (1.3) снова имеет лишь тривиальные точные решения [52] (авторы [52] также довольно искусно применяют результаты Ю. Г. Решетняка [36]). Однако здесь уже могут быть нетривиальные аппроксимационные решения. В работе [80] установлено

Предложение 1.1.1. Рассмотрим диагональные 2x2 матрицы А\ = —A3 = diag(—1, —3), А2 = —А4 = diag(—3,1) и положим К = {Ai, А2, A3, А4}. Тогда существует удовлетворяющая (1.4) последовательность липшицевых отображений vu, таких, что vu 0 на Q.

Используя данную конфигурацию из четырех матриц (которая теперь носит название конфигурация Тартара), С. Мюллер и Вл. Шверак [71]—[72] построили неожиданный пример эллиптического уравнения со всюду нерегулярным решением. А именно, ими был доказан следующий результат.

ТЕОРЕМА 1.1.2. Существует гладкая строго квазивыпуклая2 функция (р : е2х2 4 1 с \D2cp\ < const в М2 такая, что уравнение div DtpiVw) = 0 имеет слабое решение которое не является С1-гладким ни в каком открытом подмножестве О.

Этот результат был высоко оценен математическим сообществом: С. Мюллер и Вл. Шверак были председателями секции на Международном математическом конгрессе в Берлине в 1998 г., которая была посвящена развиваемой ими теории.

4. Проблема пяти градиентов. Используя метод выпуклого интегрирования и альтернативный подход, связанный с теоремой Бэра о категориях, Д. Прайс (D. Preiss) и Б. Кирхейм недавно доказали ([64, Глава 4], см. также [63]), что при n,m > 2 существует множество К = {А\, А2, Аз, А*, Л5} С Mmxn, такое, что гапк(Д- — Aj) > 2 при i ф j, но в то же время соотношение (1.3) имеет нетривиальные (неаффинные) решения.

2Введение в теорию квазивыпуклых множеств и функций см., например, в [70].

5. Пусть К = SO(n) («проблема одного кольца», или «one-well problem»). Тогда соотношение (1.3) имеет лишь тривиальные (асимптотические и точные) решения — это легко выводится из результатов Ю. Г. Решетня-ка [36], [38]. к

6. Пусть К = (J 50(2) Д-, det Д- > 0 («проблема к-колец»). Тогда, если г=1

VJF7, G Е К rank(F — G) ф 1, то соотношение (1.3) имеет лишь тривиальные асимптотические и точные) решения [78]. Вопрос о том, верно ли аналогичк ное утверждение для К = У SO(n)Ai при размерности п > 3, является г=1 открытым даже в случае к = 2.

Более полный обзор результатов о липшицевых решениях соотношения (1.3) сделан в относительно недавней работе [65]. Из последних достижений в данной тематике, не вошедших в [65], упомянем красивые результаты, полученные венгерским математиком JI. Секельхиди с соавторами [66], [54] для случая размерностей п = т = 2. В частности, в работе [66] доказано, что rank-1 выпуклая оболочка множества значений градиента всякого липшицева отображения v : Q С М2 —> R2 является связным множеством (определение rank-1 выпуклой оболочки см., например, в [70]). При доказательстве результатов в работе [66] используются как классические результаты Ю. Г. Решетняка [36], так и новый элегантный метод разделяющих квазиконформных кривых, разработанный J1. Секельхиди.

В настоящей диссертации вопрос о решениях дифференциального соотношения (1.3) исследуется в классической постановке — для С1-гладких функций. Опишем, наконец, один из тех феноменов жесткости, которые изучается в данной работе. Известен классический результат, что если С2 -гладкая функция v = v(x,t), определенная в области Q С М2, удовлетворяет дифференциальному уравнению гамильтонова типа vt = <f(vx) в О, (1.5) где ip : Ш —> Ж — С1-гладкая функция, то через каждую точку z Gfi проходит прямая линия (характеристика), на которой градиент Dv = const (см., например, [34, §55]). Поскольку в уравнении (1.5) участвуют только первые производные функции v, естественно возникает вопрос, сохранится ли указанное свойство, если предполагать только лишь С1 -гладкость отображения v и, соответственно, лишь непрерывность функции <pl Стремление к наиболее естественной постановке вопроса приводит нас к следующей более общей проблеме.

Проблема 1. Пусть С1-гладкая функция V : о —>■ м. области £1 с ж2 обладает свойством где символом Int обозначена внутренность множества. Будет ли тогда выполнено следующее утверждение: существует не более чем счетное множество Е такое, что для каждой точки z G удовлетворяющей условию найдется прямая линия L Э z такая, что Dv = const на компоненте связности множества L ПО,, содержащей точку z?

Отметим, что не более чем счетное исключительное множество Е появляется уже в С2 -гладком случае, поэтому такая формулировка естественна.) На примере процитированных выше результатов мы видим, как драматически может меняться ситуация с решениями дифференциальных соотношений при уменьшении гладкости. Поэтому интуитивно складывается ощущение, что ответ в Проблеме 1, вообще говоря, должен быть отрицательный. Это ощущение владело и западными специалистами. Приведем один характерный пример. В недавней работе [67] Я. Колар и Я. Кристенсен пытались доказать (усиливая результаты своих предшественников), что непостоянная С1 -гладкая функция v : R2 —>■ Ж с компактным носителем обладает свойством Dv(M?) = С1 Int Dv(№?), где символом С1 обозначено замыкание множества. Это свойство, очевидно, является тривиальным следствием положительного ответа на вопрос в Проблеме 1. Но авторы [67] даже и не пытаются ставить такую проблему, а свой результат они доказывают только при дополнительных предположениях на модуль непрерывности градиента Dv (типа гельдерово-сти). Видимо, тут сказалось то обстоятельство, что Я. Кристенсен, работая в Оксфорде в тесном контакте с упомянутыми Дж. Боллом и Б. Кирхеймом, хорошо знал те осложнения, которые может приносить уменьшение гладкости на единицу. Упомянутое ощущение до некоторой степени довлело и над его чешским соавтором Я. Коларом, и над некоторыми другими чешскими математиками (например, на конференции 35th Winter School in Abstract Analysis 2007 в Лоте над Рохановым, Чехия, М. Зеленый (М. Zeleny) в личной беседе с автором настоящей диссертации поведал о бывшем у него убеждении, что для общего случая С1 -гладких функций результат Колара - Кристенсе-на неверен, и он некоторое время пытался даже построить соответствующий контрпример).

Int Dv(ü) = 0,

1.6)

Dv(z) £ Е,

1.7)

5. Пусть К — SO(n) («проблема одного кольца», или «one-well problem»). Тогда соотношение (1.3) имеет лишь тривиальные (асимптотические и точные) решения — это легко выводится из результатов Ю. Г. Решетня-ка [36], [38]. к

6. Пусть К — [J SO(2)Ai, det Д- > 0 («проблема &-колец»). Тогда, если 1

V.F, G G К rank(F — G) Ф 1, то соотношение (1.3) имеет лишь тривиальные асимптотические и точные) решения [78]. Вопрос о том, верно ли аналогичк ное утверждение для К = |J SO(n)Ai при размерности п > 3, является г=1 открытым даже в случае к = 2.

Более полный обзор результатов о липшицевых решениях соотношения (1.3) сделан в относительно недавней работе [65]. Из последних достижений в данной тематике, не вошедших в [65], упомянем красивые результаты, полученные венгерским математиком J1. Секельхиди с соавторами [66], [54] для случая размерностей п = т = 2. В частности, в работе [66] доказано, что rank-1 выпуклая оболочка множества значений градиента всякого липшицева отображения v : Q, С R2 —> К2 является связным множеством (определение rank-1 выпуклой оболочки см., например, в [70]). При доказательстве результатов в работе [66] используются как классические результаты Ю. Г. Решетняка [36], так и новый элегантный метод разделяющих квазиконформных кривых, разработанный JI. Секельхиди.

В настоящей диссертации вопрос о решениях дифференциального соотношения (1.3) исследуется в классической постановке — для С1-гладких функций. Опишем,, наконец, один из тех феноменов жесткости, которые изучается в данной работе. Известен классический результат, что если С2 -гладкая функция v — v(x,t), определенная в области О с!2, удовлетворяет дифференциальному уравнению гамильтонова типа

Щ = <p(vx) в О, (1.5) где ц) : К —У Ж. — С1-гладкая функция, то через каждую точку z Е. П проходит прямая линия (характеристика), на которой градиент Dv = const (см., например, [34, §55]). Поскольку в уравнении (1.5) участвуют только первые производные функции v, естественно возникает вопрос, сохранится ли указанное свойство, если предполагать только лишь С1-гладкость отображения v и, соответственно, лишь непрерывность функции ip? Стремление к наиболее естественной постановке вопроса приводит нас к следующей более общей проблеме.

На примере приведенного результата Я. Колара и Я. Кристенсена видно, что решение Проблемы 1 помогает получить информацию о множестве значений градиента функции V. Возникает

Проблема 2. Каким условиям должно удовлетворять множество К с Штхп, чтобы дифференциальное соотношение

В диссертации установлено, что ответ в Проблеме 1 оказался все-таки положительным. Доказательству этого результата, одного из центральных в настоящей диссертации (см. Теорему 4.1.1), а также его многочисленным приложениям к исследованию Проблемы 2, посвящены главы 2-5. Опишем вкратце их содержание.

В главе 2 для С1-гладких функций двух переменных доказывается некоторый аналог теоремы Сарда, который является основным инструментом для последующих глав. Прежде чем приводить точную формулировку нашего результата, сделаем краткий исторический экскурс. Напомним, что в применении к скалярным функциям двух переменных классическая теорема Сарда [76] (см. также [44]) звучит следующим образом. теорема Сарда. Пусть V : £1 —> ж. — С2-гладкая функция на области П с!2. Тогда справедливо равенство

Здесь и в дальнейшем символом Zv обозначается множество критических точек функции v = т.е. Zv = {{x,t) £ | vx(x,t) = vt(x,t) = 0}.

Как показал Уитни [81], условие С2-гладкости в данном результате опустить нельзя. А именно, Уитни построил С1 -гладкую функцию v : (0,1)2 —> Ж со следующим свойством: множество критических точек Zv содержит дугу, на которой v ф const.

Впоследствии примеры подобного рода строились и другими математиками; наиболее простую конструкцию, принадлежащую Гринбергу [56], мы приведем в конце главы 2.

Однако некоторые аналоги теоремы Сарда справедливы и для функций, не имеющих требуемой степени гладкости. Хотя равенство (1.9) тогда может уже и не выполняться, Дубовицким [15] были получены некоторые результаты о строении множеств уровня для случая пониженной гладкости (см. также [51]).

Dv(x) G К для всех х € О-имело нетривиальные С1-гладкие решения v : Q с к" —> ж7" ?

1.8) measi^Zu) = 0.

1.9)

Другим направлением исследований было обобщение теоремы Сарда для пространств Гель дера, Соболева, а также для пространств функций, удовлетворяющих условию Липшица (см., например, [51]).

В главе 2 настоящей работы для теоремы Сарда установлен аналог иного рода. Основным результатом этой главы является следующая теорема. Пусть v : il —> m — С1-гладкая функция на области о с м2. Предположим, что3

О £ ClintDv{9).

Тогда выполнено равенство (1-9).

Результаты главы 2 опубликованы в работе [82].

В третьей главе найдены необходимые и достаточные условия на непрерывную кривую, чтобы она была множеством значений градиента вещественной С1 -гладкой функции двух переменных. Доказано, что у этой кривой имеются касательные в некотором слабом смысле, и направление этих слабых касательных меняется как функция ограниченной вариации (см. ниже Теорему 3.3.2). В то же время, такая кривая не обязательно будет регулярной в классическом смысле: у нее может не существовать касательных (в обычном смысле) ни в одной точке (Теорема 3.1.6). В качестве приложения указанных результатов получены необходимые и достаточные условия на непрерывную функцию (р с тем, чтобы уравнение (1.5) имело нетривиальные (т.е. неаффинные) С1-гладкие решения. В последнем уравнении производные vt, vx лишь непрерывны и, как может показаться сначала, это соотношение не может дать ничего больше естественного свойства непрерывности функции (р. Оказалось, однако, что функция ip должна быть локально липшицевой на открытом множестве полной меры, а ее производная на этом множестве должна иметь локально ограниченную вариацию (Теорема 3.2.1). В частности, ср должна быть дважды (sic!) дифференцируема почти всюду.

Основным методом для решения указанных задач в главе 3 является, помимо упомянутой теоремы сардовского типа, теория изэнтропических решений дифференциальных уравнений, введенных в [33]. Определение изентро-пического решения можно получить из классического (данного академиком С.Н. Кружковым [27]) определения энтропийного решения, если в последнем знак неравенства заменить знаком равенства (см. также [89]).

Результаты главы 3 получены в неразрывном соавторстве с Е. Ю. Пановым и опубликованы в работах [88], [89], [90], [91].

3Здесь и в дальнейшем значение градиента (0,0) 6 R2 мы обозначаем упрощенным символом 0.

В главе 4 исследована более сложная проблема: случай произвольной С1-гладкой функции 1; : О с I2 4 1, у которой внутренность множества значений градиента пуста. Этот случай был сведен к рассмотренному в предыдущей главе (см. Теоремы 4.1.4, 4.1.5). При этом получен положительный ответ в Проблеме 1 (Теорема 4.1.1). В качестве одного из следствий, доказана справедливость утверждения процитированной выше теоремы Я. Колара и Я. Кристенсена для произвольной С1-гладкой функции у двух переменных, носитель которой является непустым компактным множеством (без дополнительных предположений на модуль непрерывности Иу). Результаты главы 3 опубликованы в работах [83], [84].

Наконец, в главе 5 получены аналоги предыдущих результатов для С1-гладких отображений и : П с Кп М.т, множество значений градиента которых одномерно. В частности, найдены необходимые и достаточные условия на кривую в Ктхп, чтобы она была множеством значений градиента С1-гладкой функции у : Г2 с Мп —> Мт. Показано, что у этой кривой имеются касательные в слабом смысле, эти касательные являются гапк-1-матрицами, и направление этих касательных есть функция ограниченной вариации (Теорема 5.4.2). Также доказано, что в этом случае для функции у справедливо утверждение теоремы Сарда (Теорема 5.5.1), а множества уровня градиентного отображения Иу : О —> Мпгхп суть гиперплоскости (см. Теорему 5.1.1). Результаты главы 5 являются дальнейшим развитием идей, опубликованных в работах [82]—[84], [91].

Перечисленные выше результаты дают некоторую информацию об аналитических и геометрических свойствах множеств значений градиента С1-гладких отображений. Геометрические свойства множеств значений градиента всюду дифференцируемых (негладких) отображений изучались ранее, например, в работах [69],[26], [17].

В последней главе 6 настоящей диссертации исследуется иной феномен жесткости — геометрического характера. Тематика, которой посвящена указанная глава, хотя и является сравнительно молодой (она отдаленно восходит к процитированному результату Нэша - Кейпера), но непосредственно связана также с классическими задачами, имеющими двухсотлетнюю историю. Отправной точкой можно считать известную теорему Коши об однозначной определенности выпуклого многогранника своей разверткой. В дальнейшем проблемами однозначной определенности выпуклых поверхностей внутренней метрикой занимались Минковский, Гильберт, Вейль, Бляшке, Кон-Фоссен и другие известные математики. Но наибольших успехов в этом направлении добились академик А. Д. Александров и его ученики. Упомянем ставшую уже классической теорему А. В. Погорелова об однозначной определенности ограниченной замкнутой выпуклой поверхности в М3 ее внутренней метрикой (см., например, [35]). Этот результат был обобщен на случай выпуклых гиперповерхностей в Мп Е. П. Сенькиным [42]. Наиболее впечатляющий результат — об устойчивости в теореме А. В. Погорелова — был получен Ю. А. Волковым [10], нашедшим явную оценку деформации выпуклой поверхности в зависимости от изменения ее внутренней метрики.

В связи с успешным развитием теории однозначной определенности выпуклых поверхностей возник естественный вопрос: можно ли получить подобные результаты для невыпуклых поверхностей? Отдельные результаты для случая повышенной гладкости были получены (см., например, работы [1], [74], где получены теоремы жесткости для некоторого класса поверхностей в предположениях аналитичности и С4-гладкости соответственно). Однако в целом в свете процитированных результатов Нэша - Кейпера ответ на этот вопрос представлялся весьма пессимистичным. В самом деле, согласно указанным результатам всякая С1-гладкая поверхность в Кп не является однозначно определенной (в классе всех таких поверхностей) своей внутренней метрикой.

Адекватный (и неожиданно простой!) подход к проблеме однозначной определенности для невыпуклого случая был найден А. П. Копыловым [18] (см. также обзорную статью [19]). В подходе А.П. Копылова задача (в несколько упрощенной формулировке) ставится следующим образом.

Проблема 3. Пусть и иУ — две области в Мп (п > 2), внутренние метрики которых продолжаются по непрерывности в замыкания этих областей. Предположим, что границы этих областей изометричны в относительных метриках, т. е. метриках, индуцируемых на границах внутренними метриками областей. Выяснить, являются ли сами области евклидово изометричными (т.е. конгруэнтными).

Данная проблема включает в себя упомянутую задачу об однозначной определенности выпуклых поверхностей как частный случай. В самом деле, допустим, что дополнения рассматриваемых областей V и V ограничены, выпуклы и имеют непустую внутренность. Тогда очевидно, что границы 311, ЬУ суть замкнутые выпуклые поверхности, а определенная только что относительная метрика совпадает с внутренней метрикой этих поверхностей. Тем самым вопрос в Проблеме 3 в данном частном случае эквивалентен класси-. ческой задаче.

Прежде чем двинуться дальше, поясним на простейших примерах, какие новые эффекты могут возникать при решении Проблемы 3. Дело в том, что относительная метрика на границе dU определяется как продолжение по непрерывности внутренней метрики области U. Соответственно, относительная метрика на границе dU зависит не только и не столько от самой границы dU, сколько от области U.

Возьмем единичную (п — 1)-мерную сферу Sn-i в пространстве Мп. Что будет относительной метрикой на этой сфере? Ответить на этот вопрос . невозможно, так как относительная метрика на сфере зависит от соответствующей области U со свойством dU = Sn!. (1.10)

Имеется ровно две возможности, описанные в следующих двух примерах.

Пример 1.1.3. Пусть область U = Шп \ В(0,1) есть дополнение к замыканию единичного шара 5(0,1) С Ш1. Очевидно, что формула (1.10) выполнена. Тогда относительная метрика на сфере Sni совпадает с ее внутренней метрикой, и однозначная определенность в Проблеме 3 имеется при п > 2 (это доказано в [3] с использованием теорем Погорелова - Сенькина) и отсутствует при 71 = 2.

Поясним последнее утверждение (касающееся случая п = 2). Итак, пусть U есть дополнение к замыканию единичного круга. В качестве V возьмем бесконечную область, граница которой — эллипс длиной 27г. Относительная метрика на dU, dV совпадает с внутренней метрикой этих кривых (см. выше), и, так как эти кривые имеют одну и ту же длину 2тг, то они изометричны в относительных метриках.

Пример 1.1.4. Пусть теперь U = -0(0,1). Очевидно, что формула (1.10) снова выполнена. Тогда относительная метрика на сфере Sn-\ будет, конечно, совпадать с евклидовой метрикой. В этом случае однозначная определенность в Проблеме 3 будет при всех п >2 [18].

В условиях Примера 1.1.4 допустим, что п > 3. Возьмем С1-изгибание сферы i (о существовании которого говорится в теореме Нэша - Кейпера), и обозначим его Поверхность будет границей некоторой ограниченной области V. Поверхности Sn-\ и S'nl изометричны в своих внутренних метриках. Но они не изометричны в относительных метриках! Относительная метрика на S^-i может быть устроена довольно сложно, но она, во всяком случае, не будет тождественно совпадать с евклидовой метрикой, поскольку область V невыпукла.

В предложенном А. П. Копыловым подходе возникает целый ряд новых и очень интересных задач, в исследовании которых в разное время принимали участие А. Д. Александров, А. В. Кузьминых, В. А. Александров, М. К. Боровикова и др. (см., например, обзорную статью [19]). Оказалось, что однозначная определенность областей относительными метриками их границ имеет место не только в классическом случае, когда их дополнения — ограниченные выпуклые множества, но, например, и в следующих случаях: область и строго выпуклая, область V любая (А. Д. Александров, см. [2]); область и выпуклая и отличная от полупространства, область V любая [28]; области и и V ограничены и обладают кусочно гладкими границами [2]; области и и V обладают непустыми ограниченными дополнениями и С1-гладкими границами, причем п > 3 [3] и др.

Однозначная определенность в классе областей с аналитическими границами изучалась в [4]. Интересные результаты по однозначной определенности областей условием локальной изометричности их границ в относительных метриках были получено в работах [28], [8], [6]. Новым и многообещающим является предложенный в [19] подход к однозначной определенности конформного типа.

Однако во всех перечисленных результатах, в соответствии с формулировкой Проблемы 3, предполагалось, что внутренние метрики областей V и V продолжаются по непрерывности в замыкания этих областей. Возникает следующий вопрос: нельзя ли отказаться от этого предположения и получить результаты об однозначной определенности, справедливые для всех областей, без каких бы то ни было априорных предположений о регулярности?

Хотя далеко каждая область удовлетворяет предположениям о регулярности в формулировке Проблемы 3, но зато абсолютно любая область [/ с 1" допускает продолжение по непрерывности своей внутренней метрики на свою хаусдорфову границу4. Возникает следующая модификация исходной Проблемы 3.

Проблема 4. Пусть II иУ —две области в Мп (п > 2). Предположим, что ха-усдорфовы границы этих областей изометричны в относительных метриках. Выяснить, являются ли евклидово изометричными сами области.

По данной проблеме был опубликован результат В. А. Александрова [5] для случая, когда границы областей ¡7, V суть полиэдры, а также результат А. П. Копылова для ситуации, когда п — 2 и область V — ограниченная и

4Получить которую можно, пополнив область С/ по Хаусдорфу и удалив из полученного пополнения точки самой области. выпуклая, V — любая [19]. В личном сообщении автору А. П. Копылов также сообщил решение этой задачи для случая, когда область U строго выпукла, V — любая.

В обсуждаемой главе 6 настоящей работы получено полное решение Проблемы 4 (см. Теорему 6.2.1). Полученный результат, конечно, содержит как частный случай все предыдущие результаты по решению Проблемы 3. Выражаясь несколько огрубленно, доказанная в диссертации Теорема 6.2.1 сводит задачу об однозначной определенности областей относительными метриками их границ к к упомянутой вначале классической задаче об однозначной определенности выпуклых поверхностей. Можно добавить также, что Теорема 6.2.1, в некотором роде, является синтезом примеров 1.1.3-1.1.4. Она показывает, что если границы областей U, V изометричны в относительных метриках, то часть границы U изгибается как выпуклая поверхность (в классе выпуклых поверхностей; эта часть границы есть dFjj в обозначениях Теоремы 6.2.1), а часть границы сохраняет жесткость (это границы подобластей Ui в обозначениях Теоремы 6.2.1).

По результатам главы 6 опубликованы статьи [85], [87].

Настоящая работа разбита на 6 глав (включая введение) и список литературы из 91 наименования.

Результаты работы докладывались в Оксфорде (в январе 2007 в Математическом Институте на семинаре Applied Analysis and Mechanics, руководимом профессором Джоном Боллом, председателем Международного математического союза 2002-2006 гг.), в Лозанне (Швейцария, XX Rolf Nevanlinna Colloquium, с 8 по 13 августа 2005), в Мадриде (Испания, International Congress of Mathematicians, August 22-31, 2006), в Бендлево (Польша, на конференциях Self-similar solutions in nonlinear PDEs, с 4 по 9 сентября 2005 г.; Analysis and Partial Differential Equations Conférence, 19-23 June 2006; Géométrie Analysis and Nonlinear PDEs Conférence, 3-10 June 2007), в Лоте над Рохановым (Чехия, на конференциях 35th Winter School in Abstract Analysis 2007, from January 13 to January 20, 2007; и на 36th Winter School in Abstract Analysis 2007, from January 12 to January 19, 2008), в Слупске (Польша, в Институте математике на семинаре кафедры анализа и топологии, в сентябре 2005 и в июне 2006), в Новосибирске (на Общеинститутском семинаре Института математики СО РАН; на семинаре отдела геометрии pi анализа Института математики СО РАН; на Международной школе-конференции по Анализу и Геометрии, посвященной 75-летию академика Юрия Григорьевича Решетняка, с 23 августа по 2 сентября 2004 г.; на Международной конференции «Математика в современном мире», посвященной 50-летию Института математики СО РАН,

17-23 сентября 2007).

Я благодарен своему научному консультанту профессору А. П. Копыло-ву. Его вклад в моё развитие как математика, а также постоянная поддержка неоценимы. Я особо признателен академику Ю. Г. Решетняку, пробудившему во мне интерес к современному анализу. Также я особо благодарен профессору Е. Ю. Панову, который предложил концепцию изентропических решений дифференциальных уравнений, явившуюся красивым и эффективным инструментом для решения включенных в диссертацию задач. Я благодарен профессорам Я. Колару и Я. Кристенсену, чья статья послужила толчком для получения результатов главы 4. Я благодарен профессору В. А. Александрову, проторившему своими исследованиями нелегкий путь в тогда еще только зарождавшейся теории однозначной определенности областей. Я также особо благодарен за поддержку С. К. Водопьянову, чья энергия и удивительная научная работоспособность являются для меня труднодостижимым идеалом. Наконец, благодарю всех остальных своих старших коллег, которые в разное время делились со мною своими соображениями по поводу задач, включенных в диссертацию: Н. С. Даирбекова, М. А. Сычева, А. А. Егорова, А. В. Грешнова, Н. Н. Романовского.

Работа выполнена при поддержке РФФИ (гранты 02-01-01009-а, 05-01-00482-а, 08-01-00531-а), грантов Президента РФ для поддержки молодых кандидатов наук (МК-3778.2004.1, МК-5366.2008.1) и ведущих научных школ РФ (НШ-311.2003.1, НШ-8526.2006.1, НШ-5682.2008.1), гранта Фонда содействия отечественной науке для молодых кандидатов, Междисциплинарного интеграционного проекта СО РАН (№ 117, 2006) и грантов Лаврентьевского конкурса молодежных проектов СО РАН. Часть работы была выполнена во время моего визита в Международный Банаховский Центр в Бендлево (Польша), и я благодарен всем сотрудникам этого центра, и, особенно, академику ПАН профессору Б. Боярскому за гостеприимство.