О следах дифференцируемых функций на группах Карно тема автореферата и диссертации по математике, 01.01.01 ВАК РФ

На правах рукописи

ПУПЫШЕВ Илья Михайлович

О СЛЕДАХ ДИФФЕРЕНЦИРУЕМЫХ ФУНКЦИЙ НА ГРУППАХ КАРНО

01.01.01 — математический анализ

АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата физико-математических наук

Новосибирск — 2006

Работа выполнена в Институте математики им. С. Л. Соболева СО РАН

Научный руководитель:

доктор физико-математических наук, профессор Водопьянов Сергей Константинович

Официальные оппоненты:

доктор физико-математических наук, профессор Демиденко Геннадий Владимирович

доктор физико-математических наук, доцент Клячин Алексей Александрович

Ведущая организация:

Российский университет дружбы народов

Защита состоится 5 октября 2006 года в 16: 00 часов на заседании диссертационного совета Д 003.015.03 при Институте математики им. С. Л. Соболева СО РАН (630090, г. Новосибирск, проспект Академика Коптюга, 4).

С диссертацией можно ознакомиться в библиотеке Института математики им. С. Л. Соболева СО РАН.

Автореферат разослан Ц августа 2006 года.

Ученый секретарь диссертационного совета

А. Е. Гутман

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

АКТУАЛЬНОСТЬ ТЕМЫ. В конце 30-х годов прошлого века в широко известной серии работ С. Л. Соболев определил понятие обобщенной производной и исследовал классы функций, имеющих обобщенные производные класса Ьр до заданного порядка. Для этих классов, получивших названия пространств Соболева он установил теоремы вложения, которые нашли многочисленные применения в теории дифференциальных уравнений и других областях математики. В дальнейшем в работах С. М. Никольского, О. В. Бесова, И. Стейна и других математиков была развита теория вложения классов функций.

Необходимость введения пространств с обобщенным дифференцированием была продиктована задачами теории уравнений в частных производных. Постановка краевых задач для дифференциальных уравнений приводит к необходимости интерпретировать граничные значения или следы функций на множествах меньшей размерности.

Существует несколько различных подходов к определению следов. Один из них основан на теореме Лебега о дифференцировании. В этом случае след функции на множестве ненулевой емкости определяется как предел средних значений функции по шарам, радиусы которых стремятся к нулю. Другой способ определения следов основан на интегральных представлениях функций. Ещё один подход использует приближение функций из рассматриваемых пространств гладкими функциями. В этом случае следом функции называется предел последовательности следов гладких функций, сходящихся к данной функции в норме исходного пространства.

Вопрос корректной постановки краевой задачи приводит к задаче описания пространства следов для данного функционального пространства. При этом желательно иметь обратимую характеристику следов.

Вопросы вложения функциональных пространств разных измерений изучались еще С. Л. Соболевым (см. монографию [15]). Он доказал теоремы вложения пространств И^(МП) в £9(Кт). Эти результаты были точными в шкале однако не были обратимыми.

Впервые полное описание следов функций из пространств Соболева 1Ур((7), где (3 — область в Ж" с достаточно гладкой границей, было получено при р = 2 Н. Ароншайном [22] и независимо от него Л. Н. Сло-

бодецким [16]. В работе Э. Гальярдо [26] получены обратимые характеристики следов для пространства И7^ (С), 1 < р < оо, в области (3 с липшицевой границей.

Описанию следов функций из пространств где 1 < р < оо,

2 > 0 — целое, на линейных подпространствах Кт, где 0 < т < тг — целое, посвящены работы многих математиков: Н. Ароншайна, Л. Н. Сло-бодецкого, Э. Гальярдо, П. И. Лизоркина [10], С. В. Успенского [20] и др. В окончательном виде задача решена в работах О. В. Бесова [2,3], и результат можно записать в виде

И#Кп)|и- = ££р(Кт), где 0 = I — (п — т)/р > 0.

Пространства В^д были определены в работах О. В. Бесова и получили название пространств Бесова.

Задача описания следов функций из пространств Бесова Вр<д(Еп), где а > 0, 1 ^ р, д < оо, в окончательном виде была решена О. В. Бесовым [3]. Этой работе предшествовали результаты О. В. Бесова, С. М. Никольского (для д = оо — см. книгу [12, гл. 6]), М. Тейблсона [34], В. И. Буренкова [24] и др. Результат кратко можно записать в виде

££ч(К")|Кт - В£ч(Мт), где (3 = а - (п - т)/р.

Аналогичным образом описываются следы функций из пространств Вр^(О) и Яр (С) == В1р>00(С) на неплоских подмножествах С?, где С — область в Мп с гладкой границей. Наиболее важен случай, когда рассматриваются следы функций на границе <9С? области <3. В различных случаях при 1 < р < оо такие результаты для многообразий Г"* гладкости не меньшей I установлены Э. Гальярдо, Н. Ароншайном, В. М. Бабичем и Л. Н. Слободецким [1], О. В. Бесовым, С. М. Никольским [13] (для #£(С)), Л. Н. Слободецким [17], С. В. Успенским [20]. В этих случаях следы также характеризуются в терминах пространств Бесова:

= я£р(гт), = я£,(Гт), где/3 = 1-(п-т)/р > 0.

Шкала пространств Соболева вкладывается в шкалу пространств бесселевых потенциалов ££(МП), где а > 0 — действительное число,

1 < р < оо. Задача описания следов бесселевых потенциалов на Кт, где 0 < т < п — целое, решена в работах И. Стейна [33], Н. Ароншай-на, Ф. Муллы и П. Шептыцкого [23], П. И. Лизоркина [11] и других математиков. Результат состоит в том, что

(Кп)|цп. = ££р(Жт), где (3 = а - (п - т)/р > 0.

Для областей С? с Кп, границы которых содержат углы, изучение подобных вопросов было начато С. М. Никольским для пространств Нр и продолжено Г. Н. Яковлевым [21] (для плоской области), М. Ю. Ва-сильчиком, В. И. Вуренковым, В. Г. Мазьей, С. В. Поборчим и другими математиками.

Обратимая характеристика наборов следов функций вместе с их производными из пространств и В1рч(С) на липшицевых мно-

гообразиях Г"1, где I — (п — т)/р 6 (0, оо) \ предложена О. В. Бесовым [4,5] (случай 1 = 1 был исследован ранее Э. Гальярдо). Она приводится в терминах многочленов типа многочленов Тейлора. Подобные многочлены использовались еще X. Уитни [35] при характеризации следа I раз непрерывно дифференцируемой функции на произвольном замкнутом множестве (см. также книгу И. М. Стейна [18]).

В работе [31] А. Йонссон и X. Валлин комбинируют подход X. Уитни с подходом О. В. Бесова. Они изучили следы функций из пространств бесселевых потенциалов 1 < р < оо, и Бесова Врч, 1 < р, д < оо, 0 = а — (п — с1)/р 6 (0, оо), заданных во всем пространстве К", на замкнутых множествах Г"* С К" хаусдорфовой размерности й, 0 < (1 < п, с некоторыми условиями регулярности (в современной литературе такие множества называются множествами Альфорса). Они определили обобщенные пространства Бесова в терминах которых описа-

ли следы функций при (3 £ N. В случае ¡3 € N описание следов было приведено через аппроксимационную характеристику. Для построения оператора продолжения авторы модифицировали подход Уитни.

Для пространств Соболева в плоских и пространственных областях с кусочно-гладкими нелипшицевыми границами вопросы описания граничных значений изучались в работах Г. Н. Яковлева, В. Г. Мазьи, В. Г. Мазьи и С. В. Поборчего, М. Ю. Васильчика и др.

С. К. Водопьянов использовал модифицированный подход Уитни для описания граничных значений функций из пространств Соболс-

ва (С?) и Никольского //¿>((7), заданных в произвольной области евклидова пространства [6]. Преимущество этого метода состоит в том, что он применим к любой области, независимо от гладкости ее границы.

Однако, многие вопросы в теории вложения функциональных пространств остаются открытыми. Одно из направлений для исследований — изучение пространств в областях с нерегулярными границами. Другое направление — более сложные геометрии, отличные от евклидова пространства. Важный класс таких геометрий представляют пространства Карно — Каратеодори и, в частности, группы Карно.

Сумма квадратов горизонтальных векторных полей алгебры Ли группы Карно представляет собой субэллиптический оператор. Субэллиптические операторы удовлетворяют условиям гипоэллиптичности Л. Хёрмандера и, следовательно, обладают тем важным свойством, что обобщенное решение краевых задач с гладкой правой частью для такого оператора представляет собой гладкую функцию. В настоящее время теория субэллиптических уравнений интенсивно развивается. Многие задачи, решение которых известно для уравнений эллиптического типа, все еще остаются открытыми в субэллиптической теории.

Проблемы корректной постановки и разрешимости краевых задач для субэллиптических уравнений приводят нас к задаче описания следов функций классов Соболева на группах Карно.

Обобщение классических результатов на случай более общих геометрий сопряжено с определенными трудностями. Многие фундаментальные теоремы анализа, справедливые в евклидовом пространстве, либо не выполняются на группах Карно, либо их доказательство требует новых методов.

В работе [25] Д. Даниелли, Н. Гарофало и Д. М. Нхеу изучают следы функций из пространства (Г2), 1 < р < оо, где Г2 — область в пространстве Карно — Каратеодори, на множествах Альфорса. Авторы доказывают теоремы о следах и продолжении, а также приводят примеры множеств Альфорса на группах Карно, определяя соответствующую меру Альфорса. Так, множеством Альфорса будет граница области П класса С2 двухступенчатой группы Карно, если рассмотреть на ней определенную специальным образом периметрическую меру. В качестве следствия авторы получают теорему о граничных значениях функций из пространства Соболева где Г2 — ограниченная об-

ласть двухступенчатой группы Карно с границей класса С2.

По-прежнему остаются актуальными и вопросы продолжения для гладких и липшицевых функций при различных условиях. В серии недавних работ Ч. Феффермана [27] получены некоторые обобщения классической теоремы Уитни. В работах А. А. Клячина и В. М. Миклю-кова [8,9] была рассмотрена задача продолжения функций с ограничениями на градиент. В этом случае задача может быть сведена к проблеме продолжения липшицевых функций в псевдометрическом пространстве. Полученные авторами результаты былVI применены к проблемам разрешимости краевых задач для уравнений с частными производными.

ЦЕЛЬ РАБОТЫ. Целью данной работы является описание следов гладких функций и функций из пространств Соболева 1Ур, определенных на группах Карно и в областях групп Карно.

МЕТОДИКА ИССЛЕДОВАНИЯ. В работе используются методы гармонического анализа и теории функциональных пространств, геометрии пространств Карно — Каратеодори и функционального анализа.

НАУЧНАЯ НОВИЗНА. Все основные результаты, полученные в диссертации, являются новыми и снабжены строгими доказательствами.

ТЕОРЕТИЧЕСКАЯ И ПРАКТИЧЕСКАЯ ЦЕННОСТЬ. Результаты работы имеют теоретическое значение. Методы и результаты работы могут быть применены в теории функциональных пространств при исследовании свойств дифференцируемых функций, в теории субэллиптических уравнений.

АПРОБАЦИЯ РАБОТЫ. Результаты диссертации докладывались на ХЫУ Международной научной студенческой конференции «Студент и научно-технический прогресс» (Новосибирск, 2006 г.), на VIII конференции по функциональным пространствам (Бедлево, Польша, 3-7 июля 2006 г.), на семинарах Новосибирского государственного университета (руководитель профессор С. К. Водопьянов), на семинаре Института математики СО РАН им. С. Л. Соболева (руководитель академик Ю. Г. Решетняк).

ПУБЛИКАЦИИ. Результаты диссертации опубликованы в работах [36-44].

ОБЪЕМ И СТРУКТУРА ДИССЕРТАЦИИ. Диссертация состоит

из введения, пяти глав и списка литературы из 74 наименований.

СОДЕРЖАНИЕ РАБОТЫ. Во введении обосновывается актуальность темы диссертации, дается краткий обзор истории и современного состояния изучаемых проблем и приводится краткое изложение содержания диссертации.

В первой главе диссертации приводятся основные определения и обозначения и ссылки на известные результаты, которые будут использоваться в работе.

Глава 1 состоит из четырех параграфов. В § 1.1 приводятся основные определения, касающиеся групп Карно. Здесь же определяются основные функциональные пространства — Лебега Ьр, Соболева IV},, бесселевых потенциалов Ь™.

Группой Карно называется связная односвязная группа Ли С, алгебра Ли которой градуирована и нильпотентна:

д = V, Ф ... © Ут, [VI, Ц] = У^-и, 3 < т, [Уг,Ут] = 0.

Пусть N — топологическая размерность группы С, и Х\,Х2, ■ ■. — левоинвариантные векторные поля на С, образующие базис алгебры Ли д. Если 6 то число будем называть степенью поля X». Если I = (¿1,..., гдг) — мультииндекс, то через X1 мы будем обозначать дифференциальный оператор X1 — Х[1... Х'^. Отличие от евклидова пространства состоит прежде всего в том, что дифференциальные операторы не коммутируют. Нам удобно фиксировать лексико-графический порядок для записи операторов. При этом однородный порядок дифференциального оператора X1 определяется с учетом степеней векторных полей: ¿{I) — (¿ггг + ... + ¿лгг'лг- Хаусдорфова размерность группы С N

равна Ф = ^ <и.

¿=1

Существование меры Лебега па группе позволяет нам стандартным образом определить на ней и в ее подобластях пространства Лебега Ьр и Соболева \Ур. Норма в пространстве Соболева И^П) в области П С С задается формулой

И/1к<п)= £ Нл'/Нмп).

где XJf — обобщенная производная функции / в области П, т. е. функция д такая, что для любой функции <р класса Co°(fi) выполняется равенство

Jg(x)(p(x)dx = J f{x){XJYV{x)dx, n о

где для оператора XJ = Xfl ... Xjf мы обозначили символом (XJ)* сопряженный ему оператор (—1 ... Х[х, а | J\ — j\ + ... + jw-

В § 1.2 приводятся известные результаты о следах функций из пространств Соболева Wp на группах Карно, полученные в работах Д. Да-ниелли, Н. Гарофало и Д. М. Нхеу [25] и других математиков. В § 1.3 приведены известные интегральные неравенства Гёльдера, Минковско-го, Харди, которые используются при получении интегральных оценок. В § 1.4 приводятся формулировки интерполяционной теоремы Марцин-кевича и теоремы о комплексной интерполяции функциональных пространств.

Вторая глава работы посвящена обобщению на группах Карно классических теорем о продолжении типа Уитни (см. [35] или книгу И. Стей-на [18]) для пространств С1 и Lip(7) дифференцируемых функций [36, 37]. Основные результаты главы — теоремы 2.2, 2.3 и 2.4.

Глава 2 состоит из трех параграфов. В §2.1 приводятся определение многочлена Тейлора [29] на группах Карно и известные оценки для остатков в формуле Тейлора. Выводится явная формула для коэффициентов многочлена Тейлора через производиые функции.

В §2.2 определяются пространства Липшица Lip(7) функций, заданных на всей группе G и на произвольном замкнутом множестве F, и приводится формулировка теоремы 2.2.

Определение. Пусть к ^ О — целое и к <7 < к + 1. Набор функций {/j}d(j)<gfc, заданных на F, принадлежит пространству Липшица Lip (7, F), если существует константа М, для которой выполняются неравенства (для всех d(J) ^ к)

|/j(x)| ^ М; |ЯЛх, у)\<Мр {y~1x)''~d{J) для любых х, у € F. (1)

Здесь р — однородная норма на группе G, a Rj(x, у) — fj(x)—Pj(x, у) — остаток многочлена тейлоровского типа, построенного по набору {fj},

где вместо производных X"1 }{у) участвуют соответствующие функции /^(у) из набора. Нормой набора {/./} в этом пространстве назовем наименьшую постоянную М, для которой выполняются неравенства (1). В случае .Р = С элементом пространства 1Лр(7, С) будем называть функцию / = /о, так как тогда функции // однозначно определяются равенством fJ = X7/.

Теорема 2.2. Существует линейный непрерывный оператор продол-

т. е. для любого набора функций 6 Ор (7, Р) существует

функция / = 6 Ьдр(7,С) такая, что

где С не зависит от множества Р.

В §2.2.1 приводятся основные определения. В §2.2.2 доказана лемма 2.2 о многочленах тейлоровского типа. В § 2.2.3 сформулирована и доказана лемма 2.3 о разбиении типа Уитни открытого множества с непустой границей да конечнократный набор шаров {-&;}, радиусы которых сравнимы с расстоянием до границы. По этому набору шаров строится разбиение единицы В § 2.2.4 определяется оператор про-

должения Ек : 1лр(7, Р) —* 1лр(7,С), а в §2.2.5 доказывается теорема 2.2. В § 2.2.6 сформулирована и доказана теорема 2.3, которая является обобщением теоремы 2.2 на случай пространств Липшица с более общим модулем непрерывности.

В § 2.3 сформулирована и доказана теорема 2.4, обобщающая классическую теорему Уитни [35] для функций класса С1. Для I = 1 на группах Гейзенберга соответствующий результат был получен в работе [30].

Теорема 2.4. Пусть набор функций {¡^заданных на Р, удовлетворяет следующим условиям:

1) (/уС®)! ^ М, ¿(с/) < к, на любом компактном подмножестве множества Г;

2) RJ{x,у) = о(р(у~гх)к~'1^) в том смысле, что для любых е > 0

и х б Р1 существует 6 = 6(е,х) > 0, такое, что для всех х,у е Р, удовлетворяющих условиям р(х~1х) < 3 и р{х~1у) < 5, выполняется неравенство у)| ^ £р(у~г. Тогда оператор Ек из теоре-

мы 2.2 задает продолжение набора функций {/.;} на всю группу С. Продолженная функция / = ({/./}) принадлежит классу Ск (С), т. е. для всех й(,/) ^ к существуют непрерывные производные причем

Третья глава посвящена описанию граничных значений функций из пространств Соболева (где I > 0 — целое) и Никольского Н^И)

(где I > 0 — нецелое), заданных в произвольной области О группы Карно [38,39]. Основные результаты главы — теорема 3.3 о продолжении с границы в область и теорема 3.4 о продолжении функций за границу области определения.

В этой главе для продолжения функций используется модификация метода Уитни, предложенная С. К. Водопьяновым [6]. Метод основан на новых эквивалентных нормировках пространств дифференцируемых функций в областях, в которые явным образом входят геометрические характеристики области определения, а именно — с каждым функциональным пространством, заданным в некоторой области, ассоциируется своя внутренняя метрика области, и эквивалентная норма пространства определяется в терминах этой метрики. Таким образом, вместо области и ее границы рассматривается соответствующее метрическое пространство, пополненное по внутренней метрике элементами несобственной границы, которая и будет областью определения граничных значений, или следов, функции.

Глава 3 состоит из трех параграфов. В §3.1 определяются функциональные пространства и //^(П). Определения эквивалентны стандартным и отличаются от них тем, что вместо класса эквивалентных функций в качестве элемента пространства рассматривается его представитель, непрерывно дифференцируемый достаточное количество раз.

Определение. Пусть к > 0 — целое число, I € (к, к + 1], а = I — к. Функция /, заданная в области 0 С С, имеющая в П все непрерывные производные Х'7/ порядков с£(.7) < к, принадлежит пространству Я^о(П), если I — нецелое (соответственно У^^ДП), если I — целое), если

конечна норма

£ sup ¡XJ/(x)l *f £ «Ф

Ä-6"' Á^zfcb p(y x)a

Здесь y(x, y) — кратчайшая горизонтальная кривая, соединяющая точки х и у. Если I — целое, то а — 1, и определение означает, что производные XJf порядка l — l удовлетворяют в Г2 условию Липшица.

В §3.1.1 определяются внутренние a-метрики в области (7. В §3.1.2 в терминал внутренних метрик определяются пространства Lip(¿,íía) и доказывается их эквивалентность соответствующим пространствам И&(П) и ЛЦП) (теорема 3.1).

Определение. Пусть к > 0 — целое число, I £ {к, к + 1), а — I — к. Функция /, определенная в области Г2 и имеющая производные XJ f однородных порядков d(J) < к, принадлежит пространству Lip(í,íía), если конечна норма

где Rj(x,y) — остаток тейлоровского разложения функции XJf(x), d{J) ^ к, в окрестности точки у, a cía,n — внутренняя a-метрика в области Г2.

В §3.2 получено описание граничных значений функций из рассматриваемых пространств. В §3.2.1 определяется пополнение области ÍÍ по внутренней а-метрике. В §3.2.2 описаны пространства граничных значений Lip(¿,díía), областью определения которых является a-граница dfla — Úa \ fl области О, и доказано существование оператора следа tr¡ : Lip(¿, íla) —*■ Lip(¿,дГ1а) (теорема 3.2). Оператор следа tri строится следующим образом: функция и ее производные продолжаются по непрерывности на пополнение Úa, а затем рассматривается ограничение полученного набора функций на дГ1а.

В §3.2.3 доказана теорема 3.3 о продолжении. Для построения оператора продолжения ext* : Lip(1,дПа) —> Lip(¿, Qa) снова используется разбиение Уитни.

Теорема 3.3. Пусть U — произвольная область в G. Существует линейный ограниченный оператор продолжения

ext к ■ Lip(/, д£1а) —► Lip(Z,,f2a), 1 е (fc, к + 1], а = I — к,

такой, что композиция tri о extfc является тождественным отображением.

В § 3.3 доказана теорема 3.4 о достаточных условиях продолжения функций из пространств W^fl) и за границу области опреде-

ления.

Теорема 3.4. Пусть k ^ 0 — целое число, I € (к, к + 1], а ~ I — к. Пусть fi — область в G, и пусть внутренняя а-метрика da,a(x,y) локально эквивалентна в области fi а-метрике р(у~1х)а, т. е. существуют константы М, г > 0 такие, что для любых точек х,у ей, удовлетворяющих неравенству р(у~1х) < г, выполняется неравенство da,zi(x,y) ^ Мр(у~1х)а. Тогда существует линейный ограниченный оператор продолжения

extfc : —* И^ОС) при l 6 N (а = 1) или

extfc : Я^(П) - при I <£ N (а б (0,1)).

Четвертая глава работы посвящена вопросу описания следов функций из пространств Соболева (I > О — целое, 1 < р < оо), заданных на всей группе Карно G, на d-множествах Альфорса F, где I — (Q — d)/p > 0 — нецелое (см. [40]). В этой же главе рассматриваются вопросы описания граничных значений и продолжения за границу области функций классов Соболева W^(fi), заданных в ограниченной области с гладкой границей на двухступенчатой группе Карно [40,41].

Определение. Пусть 0 < d < Q. Замкнутое множество F называется d-множеством Альфорса, если существует такая мера ц, заданная на F, что для некоторого го > 0 имеем

ц (В{х, г)) ^ Cird, xeG, г г$ г0,

fi(B{x,r)) ^ C2rd, xeF, г < го,

где В{х, г) — {у : р(х~1у) < г} — шар в норме р, а С\ и Ci — некоторые константы.

Следы функций из пространств Соболева характеризуются в терминах обобщенных пространств Бесова В^(^), 0 = I — (С} — й)/р, элементами которых являются наборы функций {/,/}, заданных на множестве F, а норма задается формулой

Е (ши+( //

¿С"7)«* р(у-1х)<1

где г./(г, у) = fJ(x)—PJ{x,y) — остаток многочлена тейлоровского типа, а (1 — ¿-мера Альфорса на множестве Р.

Основные результаты главы — теорема 4.1 о следах и теорема 4.2 о продолжении, из которых непосредственно вытекает обратимая характеристика следов функций из пространств Соболева, заданных на всей группе Карно (теорема 4.3), теорема 4.4 о продолжении за границу области и теорема 4.5 о граничных значениях функций классов Соболева в ограниченной области двухступенчатой группы Карно с гладкой границей. Теоремы являются обобщением результатов А. Йонссона и X. Валлина [31] (для евклидова пространства) и Д. Даниелли, Н. Га-рофало и Д. М. Нхеу [25] (для пространств Карно — Каратеодори при ¿=1).

Глава 4 состоит из шести параграфов. В §4.1 приводятся свойства (¿-мер Альфорса: доказаны предложение 4.1 об эквивалентности различных ¿-мер Альфорса на одном и том же множестве (¿-мерной мере Хаусдорфа и лемма 4.1 об интегрировании по ¿-мере Альфорса.

В §4.2 рассматриваются ядра Весселя ^(х) и пространства бесселевых потенциалов (С), а > 0, которые при целых а совпадают с пространствами Соболева. Без доказательства приводятся некоторые свойства ядра Бесселя (см. [28]) и бесселевых потенциалов. Доказаны оценки для ядра Бесселя Ja(x) и его производных при р(х) —* 0 или р(х) оо.

Определение. Пусть 1 <р<ооиа>0. Функция /(х), заданная на группе С, принадлежит пространству бесселевых потенциалов ££ (С), если она представляется в виде

}{х) = д * — / За(у~1х)д{у)йу

для некоторой функции д е Ьр{0), где ^ е С°°(С\{0}) — ядру Бесселя на группе С. Норма функции / в этом пространстве определяется как

= НяНьрСо-

В § 4.3 сформулирована и доказана теорема 4.1 о следа х функций из пространств Соболева и бесселевых потенциалов.

Теорема 4.1. Пусть 1<р<оо, 0<с1<С}, 0 = а-(<2 — й)/р, к < 0 < к + 1, где к ^ 0 — целое число, и пусть /х — й-мера на множестве Алъфорса Е. Тогда для всех / е

||{/Л</(./)<*:||вй^) < С||/11х.«(с)>

где производные X3/ определены ц-п. в. для <¿(.7) ^ к, а константа С зависит только от а, 0, ц, д,,р, С} и геометрических и алгебраических характеристик группы С.

При доказательстве теоремы используются интерполяционная теорема Марцинкевича (см. [19]) и теоремы о комплексной интерполяции (см. [19,28]).

В § 4,4 сформулирована и доказана теорема 4.2 о продолжении для пространств Соболева.

Теорема 4.2. Пусть 1 < р < оо, пусть /3, с1 и к — такие оке, как е теореме 4.1, и пусть I > 0 — целое число, 0 = I — {(^ — й)/р. Пусть Р — (1-множество Альфорса с в,-мерой ц. Тогда существует линейный оператор

Е : В^) -

такой, что для любого набора функций / = {/Л^Кь 6 имеем

!) 11^/11 и«(С) ^ ^И^Ив^(г)' где С зависит только от I, 0, ц, <1, р, ф и характеристик группы С;

2) Ef — продолжение / в том смысле, что функции XJ{Ef) совпадают /л-п.в. с для всех ^ к.

При доказательстве теоремы 4.2 используется модификация метода Уитни для пространств с интегральными нормами, предложенная

А. Йонссоном и X. Валлином (31]. На основе разбиения Уитни открытого множества на шары строится соответствующий оператор продолжения, и доказывается, что продолженная функция принадлежит пространству Соболева.

В §4.4.1 определяется оператор продолжения Е : —>

В §4.4.2 доказаны вспомогательные леммы 4.4-4.6, содержащие оценки для продолженной функции и ее производных. В § 4.4.3 приведено доказательство теоремы 4.2, и сформулирована теорема 4.3.

Теорема 4.3. Пусть Р — (1-множество Алъфорса с <1-мерой ¡л на группе Карно С, 0 < й < <2. Пусть 1 < р < оо, I > 0 — целое, и ¡3 — I — — й)/р > 0 — нецелое. Тогда

Операторы следа и продолжения — линейные и ограниченные.

В § 4.5 сформулирована и доказана теорема 4.4 о продолжении функций из пространств Соболева заданных в ограниченной (е, 5)-области Г2 на двухступенчатой группе Карно, за границу области определения [41], обобщающая теорему П. Джонса о продолжении [32] для областей евклидова пространства. Случай 1 — 1 рассмотрен в работе А. В. Грешнова [7] для общих групп Карно.

Определение. Пусть Г2 С С — открытое связное множество на группе Карно С, и пусть е,6 > 0. Говорят, что П — (е, <5)-область, если для любых точек х, у е П таких, что р(у~1х) < 6, существует кривая 7 С соединяющая точки х и у, такая, что выполняются следующие соотношения ((е,<5)-условия):

Г

Здесь /(7) — длина кривой 7, а с1(г,д$1) — М р(г~гЬ).

Примером (е, <5)-областей на двухступенчатых группах Карно являются ограниченные области с границами класса

С2.

Теорема 4.4. Пусть Q — ограниченная (г, 5)-область на двухступенчатой группе Карно G, и пусть 1<р^оо, I > 0 — целое. Тогда существует оператор продолжения

ext : W^ü) ->

норма которого зависит только от е, 5, I, р, Q, радиуса области Г1 и характеристик группы G.

Доказательство теоремы основано на разбиениях Уитни области Я и дополнительной области (cfi)° и установлении соответствия между шарами внутри и вне области. Этому посвящен §4.5.1, в котором доказан ряд вспомогательных лемм. В § 4.5.2 на основе разбиения Уитни строится оператор продолжения ext : Wp(fi) •—> Wp(G) и доказывается его ограниченность. В § 4.5.3 изучается возможность аппроксимации функций классов Соболева гладкими функциями. Доказательство теоремы 4.4 использует неравенство Пуанкаре для функций классов Соболева, которое для двухступенчатых групп Карно было получено Е. А. Саженковой [14].

В § 4.6 сформулирована теорема 4.5 о следах функций из пространств Соболева W^(fi), заданных в ограниченной области fi с границей класса С2 на двухступенчатой группе Карно.

Теорема 4.5. Пусть fi С G — ограниченная область с границей класса С2 на двухступенчатой группе Карно G, ß — (Q — I)-мерная мера Хаусдорфа на дП. Пусть 1 < р < оо, и I > 0 — целое. Тогда

Операторы следа и продолжения — линейные и ограниченные.

Утверждение теоремы следует из теорем 4.3, 4.4 и некоторых фактов, установленных в работах других математиков.

Пятая глава посвящена приложениям теорем о следах к вопросам разрешимости краевых задач для уравнений с частными производными. В качестве примера рассматривается краевая задача для полисубгармонического уравнения

Г Е Cj (XJ)*XJu = 0, х € П;

< d(JHl

( = fJ, d{J) < l - 1, {ipj} €

в ограниченной области Г2 с границей класса С2 на двухступенчатой группе Карно С. Вариационным методом (см. книгу С. Л. Соболева [15]) доказывается существование и единственность слабого решения этой задачи в классе Н'^П) (теорема 5.1).

Теорема 5.1. Существует единственное слабое решение данной задачи в классе И^П). Этим решением является функция, на которой достигается минимум функционала

среди всех функций и £ ТУ^П), удовлетворяющих краевым условиям задачи.

Список литературы

[1] Бабич В. М., Слободецкий Л. Н. Об ограниченности интеграла Дирихле // Докл. АН СССР. - 1956. - Т. 106, X» 4. - С. 604-607.

[2] Бесов О. В. О некотором семействе функциональных пространств. Теоремы вложения и продолжения // ДАН СССР. — 1959. — Т. 126. — С. 1163-1165.

[3] Бесов О. В. Исследование одного семейства функциональных пространств в связи с теоремами вложения и продолжения // Тр. МИАН СССР. - 1961. - Т. 60. - С. 42-81.

[4] Бесов О. В. Поведение дифференцируемых функций на негладкой поверхности // Тр. МИАН СССР. - 1972. - Т. 117. - С. 3-10.

[5] Бесов О. В. О следах на негладкой поверхности классов дифференцируемых функций // Тр. МИАН СССР. - 1972. - Т. 117. -С. 11-21.

[6] Водопьянов С. К. Формула Тейлора и функциональные пространства: Учеб. пособие / Новосиб. ун-т. Новосибирск, 1988. — 96 с.

<*(•/)<» п

[7] Грешков А. В. Продолжение дифференцируемых функций за границу области на группах Карно // Тр. Ин-та математики / РАН. Сиб. отд-ние. - 1996. - Т. 31. - С. 161-186.

[8] Клячин А. А., Миклюков В. М. Пространственноподобные гиперповерхности и задача о продолжении функций с ограничениями на градиент // ДАН СССР. - 1991. - Т. 320, № 4. - С. 781-784.

[9] Клячин А. А., Миклюков В. М. Следы функций с пространственно-подобными графиками и задача о продолжении при ограничениях на градиент // Матем. сб. — 1992. — Т. 183, № 7. — С. 49-64.

[10] Лизоркин П. И. Граничные свойства функций из «весовых» классов // Докл. АН СССР. - 1960. - Т. 132, № 3. - С. 514-517.

[11] Лизоркин П. И. Характеристика граничных значений функций из Ьтр{Еп) на гиперплоскостях // Докл. АН СССР. — 1963. — Т. 150, № 5. - С. 984-986.

[12] Никольский С. М. Приближение функций многих переменных и теоремы вложения. — М.: Изд-во «Наука», Главная редакция Физико-математической литературы, 1969. — 480 с.

■ [13] Никольский С. М. Свойства некоторых классов функций многих переменных на дифференцируемых многообразиях // Мат. сб. — 1953. - Т. 33 (75), № 2. — С. 261-326.

[14] Саженкова Е. А. Интегральные представления на двуступенчатых группах Карно // Международная конференция «Функциональные пространства, теория приближений, нелинейный анализ», посвященная столетию академика С. М. Никольского (Москва, 23-29 мая 2005 г.): Тез. докл. — М.: Математический институт им. В. А. Стек-лова РАН, 2005. - С. 196.

[15] Соболев С. Л. Некоторые применения функционального анализа в математической физике. — Новосибирск: Изд-во СО АН СССР, 1962. — 255 с.

[16] Слободецкий JT. Н. Пространства С. Л. Соболева дробного порядка и их приложения для дифференциального уравнения в частных производных // Докл. АН СССР. — 1958. - Т. 118, № 2. - С. 243246.

[17] Слободецкий Л. Н. Оценки в Lp решений эллиптических систем // Докл. АН СССР. - 1958. - Т. 120, № 3. - С. 616-619.

[18] Стейн И. М. Сингулярные интегралы и дифференциальные свойства функций. — пер. с. англ. — М.: Изд-во «Мир», 1973. — 342 с.

[19] Стейн И. М., Вейс Г. Введение в гармонический анализ на евклидовых пространствах. — пер. с. англ. — М.: Изд-во «Мир», 1974. — 331с.

[20] Успенский С. В. Свойства классов WT с дробной производной на ' дифференцируемых многообразиях / /Докл. АН СССР. — 1960. — Т. 132, № 1. - С. 60-62.

[21] Яковлев Г. Н. Граничные свойства, функций класса на областях с угловыми точками // Докл. АН СССР. — 1961. — Т. 140, №1. - С. 73-76.

[22] Aronszajn N. Boundary value of functions with finite Dirichlet integral, Confer, partial cliff, equat. Studies in eigenvalue problems. Univ. of Kansas. — 1955.

[23] Aronszajn N., Mulla F., Szeptycki P. On spaces of potentials connected with LP spaces // Ann. Inst. Fourier. - 1963. — V. 13. — P. 211-306.

[24] Burenkov V. I. Imbedding and continuation for classes of differentiable functions of several variables defined on the whole space // Progress in Math. New York, Plenum Press. — 1968. — V. 2. — P. 73-161.

[25] Danielli D., Garofalo N., Nhieu D.-M. Non-doubling Ahlfors measures, perimeter measures, and the characterization of the trace spaces of Sobolev functions in Carnot-Carath6odory spaces. Purdue University, preprint, 2002. - 102 p.

[26] Gagliardo E. Caratterizzazione delle trace sulla frontiera relative ad alcune classi di funzioni in n variabili // Rend. Sem. Matem. univ. di Padova. - 1957. - V. 27. - P. 284-305.

[27] Fefferman C. A sharp form of Whitney's extension theorem. // Annals of Math. — 2005. — V. 161, № 1. - P. 509-577.

[28] Folland G. B. Subelliptic estimates and function spaces on nilpotent Lie groups // Ark. Math. - 1975. - V. 13. — P. 161-207.

[29] Folland G. В., Stein E. M. Hardy spaces on homogeneous groups. — Princeton, New Jersey, 1982. — 284 p.

[30] Franchi В., Serapioni R., Serra Cassano F. Rectifiability and perimeter in the Heisenberg group // Math. Ann. — 2001. — V. 321, № 3. -P. 479-531.

[31] Johnsson A., Wallin H. Function Spaces on Subsets of Rn, — Mathematical Reports, 1984, V. 2. — P. 1-221.

[32] Jones P. W. Quasiconformal mappings and extendability of functions in Sobolev spaces // Acta Math. — 1981. — V. 147. -- P. 71-88.

[33] Stein E. M. The characterization of functions arizing as potentials, II // Bull. Amer. Math. Soc. - 1962. - V. 68. - P. 577-582.

[34] Taibleson M. H. On the theory of Lipschitz spaces of distributions on Euclidean n-space, I // J. Math. Mech. - 1964. - V. 13. — P. 407-480.

[35] Whitney H. Analytic extensions of difFerentiable functions defined in closed sets // TVans. Amer. Math. Soc. - 1934. — V. 36. — P. 63-89.

РАБОТЫ АВТОРА ПО ТЕМЕ ДИССЕРТАЦИИ

[36] Водопьянов С. К., Пупышев И. М. Теоремы типа Уитни о продолжении функций на группах Карно // Докл. АН. — 2006. — Т. 406, № 5. — С. 586-590:

[37] Водопьянов С. К., Пупышев И. М. Теоремы типа Уитни о продолжении функций на группах Карно // Сиб. мат. журнал. — 2006. — Т. 47, № 4. - С. 731-752.

[38] Водопьянов С. К., Пупышев И. М. О граничных значениях дифференцируемых функций, заданных в произвольной области группы Карно Ц Докл. АН. — 2006. - Т. 408, № 3. — С. 1-5.

[39] Водопьянов С. К., Пупышев И. М. О граничных значениях дифференцируемых функций, заданных в произвольной области группы Карно // Мат. труды. — 2006. — Т. 9, № 2. — С. 1-24.

[40] Водопьянов С. К., Пупышев И. М. Следы пространств Соболева на множествах Альфорса групп Карно. — Новосибирск, 2006. — 65 с. — (Препринт/РАН. Сиб. отд-ние. Ин-т математики; № 172).

[41] Пупышев И. М. Продолжение функций классов Соболева за границу области на группах Карно. — Новосибирск, 2006. — 23 с. — (Препринт/РАН. Сиб. отд-ние. Ин-т математики; № 173).

[42] Пупышев И. М. О следах бесселевых потенциалов на группах Карно // Международная конференция «Функциональные пространства, теория приближений, нелинейный анализ», посвященная столетию академика С. М. Никольского (Москва, 23-29 мая 2005 г.): Тез. докл. — М.: Математический институт им. В. А. Стеклова РАН, 2005. - С. 178.

[43] Пупышев И. М. Теоремы типа Уитни о продолжении функций на группе Карно // Международная школа-конференция «Комплексный анализ и его приложения», посвященная памяти профессора И. П. Митюка, (Краснодар, 11-17 сентября 2005 г.): Тез. докл. — 2005. - С. 93-96.

[44] Пупышев И. М. О следах пространств Соболева на множествах Альфорса групп Карно // Материалы ХЫУ Международной научной студенческой конференции «Студент и научно-технический прогресс»: Математика. — Новосибирск: Изд-во НГУ, 2006. — С. 22-23.

Пупышев Илья Михайлович

О СЛЕДАХ ДИФФЕРЕНЦИРУЕМЫХ ФУНКЦИЙ НА ГРУППАХ КАРНО

Автореферат диссертации на соискание ученой степени кандидата физико-математических наук

Подписано в печать 07.08.06. Формат 60 х 84 1/16. Усл. печ. л. 1,5. Уч.-изд. л. 1,5. Тираж 80 экз. Заказ № 99.

Отпечатано и ООО «Омега Принт» пр. Лаврентьева, 6, 630090 Новосибирск

Введение

История вопроса.

Содержание диссертации.

1 Обозначения и предварительные сведения 18 ® 1.1 Группы Карно и функциональные пространства

1.2 О следах функций из пространств Соболева па группах Карно

1.3 Интегральные неравенства.

1.4 Интерполяционные теоремы.

2 Теоремы типа Уитни о продолжении дифференцируемых функций

2.1 Формула Тейлора на группах Карно

2.1.1 Свойства дифференциальных операторов.

2.1.2 Формула Тейлора.

2.2 Теоремы типа Уитни для пространств Липшица

2.2.1 Пространства Липшица.

2.2.2 Свойства многочленов тейлоровского тина на группах

Карно.

2.2.3 Декомпозиция Уитни.

2.2.4 Оператор продолжения.

2.2.5 Доказательство теоремы о продолжении.

2.2.6 Теорема о продолжении для пространства Липшица с модулем непрерывности более общего вида.

2.3 Обобщение классической теоремы Уитни ф на группах Карно.

3 О граничных значениях дифференцируемых функций

3.1 Пространства и Н^П).

3.1.1 Внутренние метрики

3.1.2 Эквивалентные нормировки.

3.2 Граничные значения дифференцируемых функций.

3.2.1 Пополнение метрических пространств

3.2.2 Существование оператора следа.

3.2.3 Существование оператора продолжения

3.3 Продолжение дифференцируемых функций за границу области определения.

4 Следы функций из пространств Соболева на множествах Альфорса групп Карно

4.1 О (¿-мерах Альфорса.

4.2 Ядро Бесселя и бесселевы потенциалы.

4.3 Теорема о следах.

4.4 Теорема о продолжении.

4.4.1 Декомпозиция Уитни и оператор продолжения.

4.4.2 Леммы

4.4.3 Доказательство теоремы о продолжении.

4.5 Продолжение функций классов за границу области.

4.5.1 Леммы

4.5.2 Оператор продолжения.

4.5.3 Аппроксимация С°°-гладкими функциями.

4.6 Граничные значения функций классов \Ур(И).

5 Краевая задача для полисубгармонического уравнения

История вопроса

В конце 30-х годов прошлого века в широко известной серии работ С. Л. Соболев определил понятие обобщенной производной и исследовал классы функций, имеющих обобщенные производные класса Ьр до заданного порядка. Для этих классов, получивших названия пространств Соболева \У1р, он установил теоремы вложения, которые нашли многочисленные применения в теории дифференциальных уравнений и других областях математики. В дальнейшем в работах С. М. Никольского, О. В. Бесова, II. Стейиа и других математиков была развита теория вложения классов функций.

Необходимость введения пространств с обобщенным дифференцированием была продиктована задачами теории уравнений в частных производных. Постановка красных задач для дифференциальных уравнений приводит к необходимости интерпретировать граничные значения или следы функций на множествах меньшей размерности.

Существует несколько различных подходов к определению следов. Один из них основан на теореме Лебега о дифференцировании. В этом случае след функции па множестве ненулевой емкости определяется как предел средних значении функции по шарам, радиусы которых стремятся к нулю. Другой способ определения следов, впервые предложенный 15 работе Н. Ароншайна, Ф. Муллы и П. Шеитыцкого [48|, основан на интегральных представлениях функций. Ещё один подход использует приближение функций из рассматриваемых пространств гладкими функциями. В этом случае следом функции называется предел последовательности следов гладких функций, сходящихся к данной функции в норме исходного пространства.

Вопрос корректной постановки краевой задачи приводит к задаче описания пространства следов для данного функционального пространства. При этом желательно иметь обратимую характеристику следов.

Вопросы вложения функциональных пространств разных измерений изучались еще С. Л. Соболевым [37] (см. также монографию |38|). Он доказал теоремы вложения пространств ТКр(Кп) в Ьч{Ш.т). Дополнения к теоремам вложения Соболева были получены в работах В. И. Кондрашова, В. П. Ильина и Э. Гальярдо. Эти результаты были точными в шкале Ьч, однако не были обратимыми.

Впервые полное описание следов функций из пространств Соболева \Ур(С), где (7 — область в К" с достаточно гладкой границей, было получено при р = 2 Н. Арон-шайном [47] и независимо от него В. М. Бабичем и Л. Н. Слободецким ¡1], Л. II. Сло-бодецким [39]. В работе Э. Гальярдо [61] получены обратимые характеристики следок для пространства \¥р((?), 1 ^ р < со, в области С с лишшщсвой границей.

Описанию следов функций из пространств 11^(МП), / > 0 — целое, 1 < р < оо, на линейных подпространствах Мт, где 0 < т < п — целое, посвящены работы многих математиков: II. Ароншайна, Л. Н. Слободецкого, Э. Гальярдо, П. И. Лизоркина [25[, С. В. Успенского [43] и др. В окончательном виде задача решена в работах О. В. Бесова [2,3|, и результат можно записать в виде

Мп)к- = В^р(Шт), где /3 = I — (п — т)/р > 0.

Пространства были определены в работах О. В. Бесова и получили название пространств Бесова.

Задача описания следов функций из пространств Бесова Вр(](Шп), 1 ^ р, д ^ оо, а > 0, в окончательном виде была решена О. В. Бесовым [3]. Этой работе предшествовали работы многих математиков, содержащие частные результаты: О. В. Бесова, С. М. Никольского (для д = оо — см., например, книгу [31, гл. 0|), М. Тейблсона [71], В. II. Буренкова [50] и других. Результат кратко можно записать в виде

В;Л{Кп)|г» = В^(Шт), где р = а-{п- т)/р > 0.

Эти результаты были обобщены на случай анизотропных пространств С. М. Никольским (для q = оо, [32]) и О. В. Бесовым ( [2], см. также книгу С. М. Никольского [31, гл. б[).

Аналогичным образом описываются следы функций из пространств \Ур(С), В1р ч(С7) и #¿(6?) = В'^О) на неплоских подмножествах (7, где С7 — область в М™ с гладкой границей. Наиболее важен случай, когда рассматриваются следы функций на границе ОС области С. В различных случаях при 1 < р < оо такие результаты для многообразий Гт гладкости не меньшей I установлены Э. Гальярдо, Н. Ароншайном, В. М. Бабичем и Л. Н. Слободецким, О. В. Бесовым, С. М. Никольским [32] (для //£(£)), Л. Н. Слободецким [40] (для т = п~ 1), С. В. Успенским [43| (для

ИДО, 1-{п- т)/р € (0, оо) \ N и для I, I - {п - тп)/р е (0, оо) \ М). В работах В. П. Ильина [22], В. В. Шанькова [44], А. Ионссона [64] рассмотрены многообразия меньшей гладкости г > I — (п — т)/р > 0. В этих случаях следы также характеризуются в терминах пространств Бесова:

У1(С)= В^р(Тт), |р. = В^(Тт), где (5 = I - (п - тп)/р > 0.

Шкала пространств Соболева вкладывается в шкалу пространств бесселевых потенциалов Ьр(Е"), где а > 0 — действительное число, 1 < р < оо. Задача описания следов бссселевых потенциалов па К"1, где 0 < гп < п — целое, решена в работах II. Стейна [70], П. И. Лизоркина [26], Н. Ароншайна, Ф. Муллы и П. Шептыцко-го [48]. Результат состоит в том, что

1Г)[Кт = В^р{Жт), где Р = а-(п- т)/р > 0.

Основой для этих результатов послужили работы Э. Гальярдо [61] и Н. Ароншайна и К. Смита [49]. Обобщение на анизотропные классы получено П. И. Лизоркиным [27] (подробнее см. в книге С. М. Никольского [31, гл. 9[).

Для областей С С М™, границы которых содержат углы, изучение подобных вопросов было начато С. М. Никольским [33] для пространств Н1р и продолжено Г. Н. Яковлевым [45] (для плоской области), В. Г. Мазьей, С. В. Поборчим, М. К). Ва-сильчиком, В. И. Буренковым и другими математиками.

Обратимая характеристика наборов следов функций вместе с их производными из пространств \VjXG) и В1 (й) на линшицевых многообразиях Гт, где 1—(п—т)/р € (0, оо)\М, предложена О. В. Бесовым [4,5] (случай I = 1 был исследован ранее Э. Гальярдо [61]). Она приводится в терминах многочленов типа многочленов Тейлора. Подобные многочлены использовались еще X. Уитни [74] при характеризации следа I раз непрерывно дифференцируемой функции на произвольном замкнутом множестве (см. также книгу И. М. Стейна [41]).

В работах [65—67] А. Йонссон и X. Валлин комбинируют подход X. Уитни с подходом О. В. Бесова. Они изучили следы функций из пространств бесселевых потенциалов Ьр, 1 < р < оо, и Бесова Вс*л, 1 < р, <7 < оо, /? = а—(п—(1)/р Е (0, оо), заданных во всем пространстве Е", на замкнутых множествах Г^ С К™ хаусдорфовой размерности (1, 0 < (1 < п, с некоторыми условиями регулярности (в современной литературе; такие множества называются множествами Альфорса). Они определили обобщенные пространства Бесова (Р*), в терминах которых описали следы функций при /3 ^ N. В случае ¡3 £ N описание следов было приведено через аппроксимационную характеристику. Для построения оператора продолжения авторы модифицировали подход Уитни [74] (см. также [41]).

Существует много частных результатов для пространств Соболева, заданных в области с кусочно-гладкой нелиншицевой границей. Предполагается, что граница области представляет собой кусочно-гладкую, нерегулярную поверхность с нулевыми углами (пики или гребни). В этом случае описание граничного поведения функции существенно зависит от геометрии области. В работах Г. Н. Яковлева [46|, В. Г. Ма-зьи [28], В. Г. Мазьи и С. В. Поборчего [29,30], М. 10. Васильчика были получены результаты для пространства 1 < р < оо, заданного в плоской области, на границе этой области. М. 10. Васильчик получил описание следов функций из 11^(6') вместе с производными для I ^ 1,1 < р < оо и плоской области (7, имеющей внешний или внутренний пик (нулевой угол) па границе [7,8], а также исследовал некоторые случаи областей в К™ при п ^ 3 с пулевыми углами на границе, в частности, случай вершины внешнего пика и некоторые виды гребней при I = 1, 1 < р < оо [6[.

С. К. Водопьянов использовал модифицированный подход Уитни для описания граничных значений функций из пространств Соболева IV^(С) и Никольского 11^(0), заданных в произвольной области евклидова пространства [9-11,72,73]. Преимущество этого метода состоит в том, что он применим к любой области независимо от гладкости ее границы.

Однако, многие вопросы в теории вложения функционал!,пых пространств остаются открытыми. Одно из направлений для исследований — изучение пространств в областях с нерегулярными границами. Другое направление — более сложные геометрии, отличные от евклидова пространства. Важный класс таких геометрий представляют пространства Карно — Каратеодори и, в частности, группы Карно.

Сумма квадратов горизонтальных векторных полей алгебры Ли группы Карно представляет собой субэллинтический оператор. Субэллиптические операторы удовлетворяют условиям гипоэллиптичиости Л. Хёрмандера [63] и, следовательно, обладают тем важным свойством, что обобщенное решение краевых задач с гладкой правой частью для такого оператора представляет собой гладкую функцию. В настоящее время теория субэллингических уравнений интенсивно развивается. Многие задачи, решение которых известно для уравнений эллиптического типа, все еще остаются открытыми в субэллиитической теории.

Проблемы корректной постановки краевых задач для субэллингических уравнений приводят нас к задаче описания следов пространств Соболева на группах Карно.

Обобщение классических результатов на случай более общих геометрий сопряжено с определенными трудностями. Многие фундаментальные теоремы анализа, справедливые в евклидовом пространстве, либо не выполняются на группах Карно, либо их доказательство требует новых методов.

В работе [56] Д. Даниелли, Н. Гарофало и Д. М. Нхеу изучают следы пространства 1 < р < оо, где П — область в пространстве Карно — Каратеодори, на множествах Альфорса. Авторы доказывают теоремы о следах и продолжении, а также приводят примеры множеств Альфорса на группах Карно, определяя соответствующую меру Альфорса. Так, множеством Альфорса будет граница области О класса С2 двухступенчатой группы Карно, если рассмотреть на ней определенную специальным образом периметрическую меру. В качестве следствия авторы получают теорему о граничных значениях функций пространства Соболева (11), где П — ограниченная область класса С2 двухступенчатой группы Карно. В работе [54] доказано, что это утверждение верно и для областей класса С1'1.

По-прежнему остаются актуальными и вопросы продолжения для гладких и лии-шнцевых функций при различных условиях. В серии недавних работ Ч. Феффер-мана [57) получены некоторые обобщения классической теоремы Уитни. В работах А. А. Клячина и В. М. Миюпокова [23,24] была рассмотрена задача продолжения функций с ограничениями на градиент. В этом случае задача может быть сведена к проблеме продолжения липшицевых функций в псевдометрическом пространстве. Полученные авторами результаты были применены к проблемам разрешимости краевых задач для уравнений с частными производными.

Содержание диссертации

Диссертация содержит 152 страниц и состоит из введения, пяти глав и списка литературы из 74 наименований.

1. М., Слободецкий Л. Н. Об ограниченности интеграла Дирихле // Докл. АН СССР. - 1956. - Т. 100, № 4. - С. 001-007.

2. Бесов О. В. О некотором семействе функциональных пространств. Теоремы вложения и продолжения // ДАН СССР. 1959. - Т. 120. - С. 1103-1105.

3. Бесов О. В. Исследование одного семейства функциональных пространств в связи с теоремами вложения и продолжения // Тр. МИЛН СССР. — 1901. — Т. 00. С. 42-81.

4. Бесов О. В. Поведение дифференцируемых функций на негладкой поверхности // Тр. МИ АН СССР. 1972. - Т. 117. - С. 3-10.5| Бесов О. В. О следах на негладкой поверхности классов дифференцируемых функций // Тр. МИАН СССР. 1972. - Т. 117. - С. 11-21.

5. Васильчик М. 10. О следах функций из пространств Соболева 1Vх, определенных в областях с иелиишицевой границей // Тр. Ин-та Математики / РАН. Сиб. отд-ние. — 1989. — Т. 14: Совеременные проблемы геометрии и анализа. — С. 9—45.

6. Васильчик М. 10. Граничные свойства функций из пространства Соболева, определенных в плоской области с угловыми точками // Сиб. мат. жури. — 1995. — Т. 30, т. С. 787-804.

7. Водопьянов С. К. Формула Тейлора и функциональные пространства: Учеб. пособие / Новосиб. ун-т. Новосибирск, 1988. — 96 с.

8. Водопьянов С. К. Изонериметрические соотношения и условия продолжения дифференцируемых функций // Докл. АН СССР. 1987. - Т. 292, № 1. -С. 11-15.

9. Водопьянов С. К. Внутренние геометрии и пространства дифференцируемых функций / Функциональный анализ и математическая физика. — Новосибирск, 1987. С. 18-38.

10. Водопьянов С. К. ¿р-теория потенциала и квазиконформные отображения на однородных группах / Современные проблемы геометрии и анализа. Новосибирск: Наука, Сиб. отд., 1989. С. 45-89.

11. Водопьянов С. К., Кудрявцева Н. А. Нелинейная теория потенциала для пространств Соболева на группах Карно // Сиб. маг. журн. (в печати).

12. Водопьянов С. К., Гольдштейп В. М., Латфуллип Т. Г. Критерий продолжения функций класса Ь\ из неограниченных плоских областей // Сиб. мат. журн. 1979. Т. 20, № 2. - С. 410-419.

13. Водопьянов С. К., Грешнов А. В. О продолжении функций ограниченной средней осцилляции на пространствах однородного типа с внутренней метрикой // Сиб. мат. журнал. 1995. - Т. 30, № 5. - С. 1015-1048.

14. Водопьянов С. К., Пупышев И. М. Теоремы типаУитни о продолжении функций на группах Карно // Докл. АН. 2000. - Т. 400, № 5. - С. 580-590.

15. Водопьянов С. К., Пупышев И. М. Теоремы тина Уитни о продолжении функций на группах Карно // Сиб. мат. журнал. — 2000. — Т. 47, № 4. С. 731-752.

16. Водопьянов С. К., Пупышев И. М. О граничных значениях дифференцируемых функций, заданных в произвольной области группы Карно // Докл. АН. — 2000. Т. 408, Л* 3. - С. 1-5.

17. Водопьянов С. К., Пупышев И. М. О граничных значениях дифференцируемых функций, заданных в произвольной области группы Карно // Мат. труды. — 2006. Т. 9, № 2. - С. 1-24.

18. Водопьянов С. К., Пупышев И. М. Следы пространств Соболева на множествах Альфорса групп Карно. — Новосибирск, 2000. — 65 с. — (Препринт/РАН. Сиб. отд-ние. Нн-т математики; Л"2 172).

19. Грешнов А. В. Продолжение дифференцируемых функций за границу области на группах Карно // Тр. Ип-та математики / РАН. Сиб. отд-ние. 1996. Т. 31. С. 161-186.

20. Ильин В. II. Свойства некоторых классов дифференцируемых функций многих переменных, заданных в п-мерной области // Тр. МИАН СССР. — 1962. — Т. 66.- С. 227-363.

21. Клячин А. А., Миклюков В. М. Пространственноподобные гиперповерхности и задача о продолжении функций с ограничениями на градиент // ДАН СССР. — 1991. Т. 320, № 4. - С. 781-784.

22. Клячин А. А., Миклюков В. М. Следы функций с нростраиствеппоподобными графиками и задача о продолжении при ограничениях па градиент // Матем. сб. 1992. - Т. 183, № 7. - С. 49-64.

23. Лизоркин П. И. Граничные свойства функций из «весовых» классов // Докл. АН СССР. 1960. - Т. 132, Л"2 3. - С. 514-517.

24. Лизоркин П. И. Характеристика граничных значений функций из Ьтр(Еп) па гиперплоскостях // Докл. АН СССР. 1963. - Т. 150, № 5. - С. 984-986.

25. Лизоркин П. И. Неизотропные бесселевы потенциалы. Теоремы вложения для пространства Соболева Ь'р1. с дробными производными // Докл. АН СССР.- 1966. Т. 170, № 3. - С. 508-511.

26. Мазья В. Г. О функциях с конечным интегралом Дирихле в области с вершиной пика на границе // Зап. научи, семинаров ЛОМИ. — 1983. — Т. 126. — С. 117-137.

27. Мазья В. Г., Поборчий С. В. О следах функций с суммируемым градиентом в области с вершиной пика па границе // Матем. заметки,— 1989. — Т. 45, №1. — С. 57-65.

28. Мазья В. Г., Поборчий С. В. Следы функций из пространств Соболева на границе области с пиком // Современные проблемы геометрии и анализа. Новосибирск: Наука, 1989. С. 9-45.

29. Никольский С. М. Приближение функций многих переменных и теоремы вложения. — М.: Изд-во «Наука», Главная редакция Физико-математической литературы, 1969. 480 с.

30. Никольский С. М. Свойства некоторых классов функций многих переменных на дифференцируемых многообразиях // Мат. сб. — 1953. — Т. 33 (75), Л"2 2. — С. 261-326.

31. Никольский С. М. Граничные свойства функций, определенных на области с угловыми точками // Мат. сб. I. - 1956. - Т. 40(82), № 3. - С. 303 318; II. -1957. - Т. 44(86), Л"« 1. - С. 127-144; III. - 1958. - Т. 45(87), № 2. - С. 181-194.

32. Пунышев И. М. Продолжение функций классов Соболева за границу области на группах Карпо. — Новосибирск, 2006. — 23 с. — (Препринт/РАН. Сиб. отд-ние. Ин-т математики; Л*2 173).

33. Романовский II. Н. Интегральные представления и теоремы вложения для функций, заданных на группах Гейзенберга // Докл. АН. — 2002. — Т. 382, Ко 4. — С. 456-459.

34. Соболев С. Л. Об одной теореме функционального анализа // Матем. сб. — 1938. Т. 4, № 3. - С. 471-497.

35. Соболев С. Л. Некоторые применения функционального анализа в математической физике. — Новосибирск: Изд-во СО АН СССР, 1962. — 255 с.

36. Слободецкий JI. Н. Пространства С. Л. Соболева дробного порядка и их приложения для дифференциального уравнения в частных производных // Докл. АН СССР. 1958. - Т. 118, № 2. - С. 243-246.

37. Слободецкий Л. Н. Оценки в Ьр решений эллиптических систем // Докл. АН СССР. 1958. - Т. 120, № 3. - С. 616-619.

38. Стейн И. М. Сингулярные интегралы и дифференциальные свойства функций. — пер. с. англ. М.: Изд-во «Мир», 1973. — 342 с.

39. Стейн И. М., Вейс Г. Введение в гармонический анализ на евклидовых пространствах. — пер. с. англ. — М.: Изд-во «Мир», 1974. — 331 с.

40. У< ;пенский С. В. Свойства классов W* с дробной производной на дифференцируемых многообразиях // Докл. АН СССР. 1960. - Т. 132, JV« 1. - С. 60-62.

41. Шаньков В. В. Оператор усреднения с переменным радиусом и обратная теорема о следах // Сиб. мат. журн. 1985. - Т. 26, № 6. - С. 141-152.

42. Яковлев Г. Н. Граничные свойства функций класса па областях с угловыми точками // Докл. АН СССР.- 1961. Т. 140, М. - С. 73-76.

43. Aronszajn N., Mulla F., Szeptycki P. On spaces of potentials connected with Lp spaces // Ann. Inst. Fourier. 1963. - V. 13. - P. 211-306.49| Aronszajn N., Smith К. T. Theory of Bessel potentials. I // Анн. Inst. Fourier. — 1961. V. 11. - P. 385-475.

44. Burenkov V. I. Imbedding and continuation for classes of differentiable functions of several variables defined on the whole space. — Progress in Math. — New York, Plenum Press. 1968. - V. 2. - P. 73-161.

45. Calderón A. P. Intermediate spaces and interpolaton, the complex method // Studia Math. 1964. - V. 24. - P. 113-190.

46. Capogna L., Garofalo N. Boundary behavior of non-negative solutions of subelliptic equations in NTA domains for Carnot-Carathéodory metrics // Journal of Fourier Anal, and Appl. 1998. - V. 4, № 4-5. - P. 403-432.

47. Capogna L., Garofalo N. Ahlfors regularity of the perimeter measure for minimally smooth hypersurfaces in Carnot-Carathéodory spates. — Preprint, 2002.

48. Capogna L., Garofalo N. Ahlfors regularity in Carnot-Carathéodory spaces (to appear).

49. Capogna L., Garofalo N., Nhieu D.-M. Properties of sub-elliptic harmonic measures. Part II: General Hormander type operators. — Preprint, 2001.

50. Danielli D., Garofalo N., Nhieu D.-M. Non-doubling Ahlfors measures, perimeter measures, and the characterization of the trace spaces of Sobolev functions in Carnot-Carathéodory spaces. — Purdue University, preprint, 2002. — 102 p.

51. Fefferman C. A sharp form of Whitney's extension theorem. // Annals of Math. — 2005. V. 161, № 1. - P. 509-577.

52. Folland G. B. Subelliptic estimates and function spaces on nilpotent Lie groups // Ark. Math. 1975. - V. 13. - P. 161-207.

53. Folland G. B., Stein E. M. Hardy spaces oil homogeneous groups. — Princeton, New Jersey, 1982. 284 p.

54. Franchi B., Serapioni II., Serra Cassano F. Rectifiability and perimeter in the Heisenberg group // Math. Arm. 2001. - V. 321, № 3. - P. 479-531.

55. Gagliardo E. Caratterizzazione delle trace sulla frontiera relative ad alcune classi di funzioni in n variabili // Rend. Sem. Matem. univ. di Padova. — 1957. — V. 27. — P. 284-305.

56. Garofalo N., Nhieu D.-M. Lipschitz continuity, global smooth approximations and extension theorems for Sobolev functions in Carnot-Carathéodory spaces // J. Anal. Math. 1998. - V. 74. - P. 67-97.

57. Hörmander L. Hypoelliptic second-order differential equations // Acra Math. — 19G7.- V. 119. P. 147-171.

58. Johnsson A. Besov spaces on submanifolds of R™ // Analysis. — 1988. — V. 8. — P. 225-269.

59. Johnsson A. The trace of potentials on general sets // Ark. Mat. — 1979. — V. 17.- P. 118.

60. Johnsson A., Wallin II. A Whitney extension theorem in Lp and Besov spaces // Ann. Inst. Fourier. 1978. -V. 28. - P. 139-192.

61. Johnsson A., Wallin H. Function Spaces on Subsets of R". Mathematical Reports, 1984, V. 2. P. 1-221.

62. Jones P. W. Quasiconformal mappings and extendability of functions in Sobolev spaces // Acta Math. 1981. - V. 147. - P. 71-88.

63. Monti R., Morbidelli D. Regular domains in homogeneous groups. — Preprint, 2001.

64. Stein E. M. The characterization of functions arizing as potentials, II // Bull. Amer. Math. Soc. 1962. - V. 68. - P. 577-582.

65. Taibleson M. H. On the theory of Lipschitz spaces of distributions on Euclidean n-space, I // J. Math. Mech. 1964. - V. 13. - P. 407-480.

66. Whitney H. Analytic extensions of differentiable functions defined in closed sets // Trans. Amer. Math. Soc. 1934. - V. 36. - P. 63-89.