Полулинейные вырождающиеся эллиптические уравнения тема автореферата и диссертации по математике, 01.01.02 ВАК РФ

МОСКОВСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ имени М.В.ЛОМОНОСОВА

Механико-математический факультет

На правах рукописи УЛК 517.956

НГУЕН МИНЬ ЧИ

0034-66437

ПОЛУЛИНЕЙНЫЕ ВЫРОЖДАЮЩИЕСЯ ЭЛЛИПТИЧЕСКИЕ

УРАВНЕНИЯ

01.01.02 Дифференциальные уравнения

АВТОРЕФЕРАТ диссертации на соискание учёной степени доктора физико-математических наук

э 2009

Москва 2009

003466437

Работа выполнена в Ханойском математическом институте Вьетнамской академии наук, Вьетнам

Официальные оппоненты: академик РАН

доктор физико-математических наук профессор Маслов Виктор Павлович

Ведущая организация: Математический институт

им. В.А.Стеклова РАН

Защита диссертации состоится 24 апреля 2009 года в 16ч. 40мин. на заседании диссертационного совета Д 501.001.85 при Московском государственном университете имени М.В. Ломоносова по адресу: 119991, ГСП-1, РФ, Москва, Ленинские горы, МГУ им.М.В.Ломоносова, механико-математический факультет, аудитория 16-24.

С диссертацией можно ознакомиться в библиотеке механико-математического факультета МГУ им.М.В.Ломоносова (Главное здание, 14 этаж).

Автореферат разослан 20 марта 2009 года

доктор физико-математических наук профессор Агранович Михаил Семенович

доктор физико-математических наук профессор Радкевич Евгений Владимирович

Ученый секретарь диссертационного совета Д 501.001.85 при МГУ доктор физико-математических наук профессор

И.Н.Сергеев

I. ОБШАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность темы диссертации. С ранних исследований дифференциальных уравнений с частными производными, теория эллиптических уравнений играла важную роль. В первой половине прошлого века крупные результаты в теории линейных и нелинейных эллиптических уравнений были достигнуты в великолепных работах (см. обзорную статью [1]). Центральными задачами в теории эллиптических уравнений и эллиптических систем были качественные проблемы решений (в том числе, свойство дифферен-цируемости и аналитичности решений) и теория краевых задач. Многими свойствами эллиптических операторов обладают и широкие классы линейных вырождающихся эллиптических операторов, которые изучаются интенсивно с середины 50-60 годов до настоящего дня. Гладкость решений общих линейных уравнений хорошо описана в классах гипоэллиптических операторов. Хорошо известны необходимые и достаточные условия гипоэллиптичности операторов с постоянными коэффициентами. Для операторов с переменными коэффициентами известны только отдельные достаточные условия, позволяющие устанавливать гипоэллиптичность различных классов операторов. В работах Егорова [2] и Хёрмандера [3] был обнаружен очень важный подкласс гипоэллиптических операторов, а именно класс субэллиптических операторов, которые охватывают почти все гипоэллиптические операторы с простыми характеристиками. Важную роль в исследовании операторов с кратными характеристиками играют работы Хёрмандера [4], Групгана [5], Хелффера и Нурига [6], Джшшоли и Трева [7].

[1] Н. Brezis, F. Browder, Adv. Math. 135 (1998), 76-144.

[2] Ю. В. Егоров, УМН, 2 (1975), 57-114, 57-104.

[3] L. Hormander, Ann. Math. Studies, 91 (1979), 127-207.

[4] L. Hormander, Acta Math., 119 (1967), 147-171.

Свойство аналитичности решений общих нелинейных эллиптических уравнений изучалось с начала двадцатого века. Эта проблема является одной из 23 знаменитых гипотез Гильберта. Она была решена Бернштейном для одного эллиптического уравнения второго порядка с двумя переменными. Затем к концу 50 годов многие математики, в том числе, Жеврей, Жиро, Радо, Леви, Петровский, Моррей, Фридман, развили этот результат до полной общности. Установлено, что решение эллиптической системы любого порядка с любым числом переменных аналитично, если правая часть анали-тична. В последующих годах исследование в этом направлении сосредоточено на общие линейные уравнения. Обзор результатов по проблеме аналитичности содержится в статьях Волевича и Олейник [8], и Трева [9]. Общие краевые задачи для линейных эллиптических уравнений изучились в работах Бернштейна, Лебега, Шаудера, Вишика, Олейник, Шапиро, Лолатияского, Аг-мона, Дуглиса и Ниренберга, Браудера, Аграновича, Кальдерона, Лионса и Мадженеса. Краевые задачи для нелинейных эллиптических уравнений исследовались в работах Лерэ и Шаудера, Ниренберга, Гельфанда, Браудера, Похожаева, Лерэ и Лионса, Сер-рина, Ладыженской, Амбросетти и Рабиновича, Эванса, Брезиса и Ниренберга, Скрупника, Гильбарга и Трудингера. Однако, как видно из выше обзора, недостаточное внимание уделяется теории нелинейных вырождающихся эллиптических уравнений. Поэтому

[5] В. В. Грушин, Матем. сб., 84 (1971), 163-195.

[6] В. Helffer, J. Nourrigat, Hypoellipticite Maximal pour des Operateurs Polynomes de Champ de Vecteur, Birkhauser, (1985), 275 p.

[7] A. Gilioli, F. Treves, Amer. J. Math., 96 (1974), 367-385.

[8] Л. П. Волевич, О. А. Олейник, В кн. Избранные труды И. Г. Петровского, М.: Наука, 1986.

[9] F. Treves, В кн. Prog. Nonlinear Differential Equations Appl., 69, Birkhauser Boston, 2006.

актуально продвинуть изучение в этом направлении.

Цель работы. Целью настоящей работы является построение теории полулинейных вырождающихся эллиптических уравнений. На основе имеющейся теории нелинейных эллиптических и линейных вырождающихся эллиптических уравнений, исследуются бесконечная дифференцируемость, аналитичность, регулярность по Жеврею решений, существование и несуществование решений краевых задач для этих уравнений, а также проблемы регулярности решений вплоть до границы.

Общие методы исследований. В диссертации используются методы априорных оценок, методы поднятия векторных полей на группу Ли, теория псевдодифференциальных операторов, метод построения параметрикса, методы последовательной оценки производных, основанные на интегральных представлениях, а также методы нелинейного функционального анализа.

Научная новизна. Результаты диссертации являются новыми и состоят в следующем:

• Установлены достаточные условия гипоэллиптичности для широких классов полулинейных вырождающихся эллиптических операторов.

• Изучены необходимые условия гипоэллиптичности.

• Найден новый подход к доказательству аналитичности нелинейных эллиптических уравнений.

• Впервые рассмотрен вопрос об аналитичности, регулярности по Жеврею решений полулинейных вырождающихся эллиптических уравнений.

• Разработан новый метод для изучения аналитичности решений, в результате чего получены теоремы об аналитической

ГИПОЭЛЛИПТИЧНОСТИ, 5-ГИПОЭЛЛИПТИЧ1ЮСТИ многих классов полулинейных операторов.

• Установлены теоремы об существовании и несуществовании решений краевых задач для полулинейных уравнений. Впервые найдены критические показатели рассматриваемых задач.

• Изучена гладкость решений вплоть до границы. Многие результаты являются новыми и для линейных вырождающихся эллиптических уравнений.

Практическая и теоретическая ценность. Диссертация носит теоретический характер. Полученные результаты могут найти применение в теории дифференциальных уравнений с частными производными, дифференциальной геометрии, математической биологии.

Апробация работы. Установленные в диссертации результаты, по мере их получения, докладывались и обсуждались на следующих конференциях и семинарах:

1. Семинар на механико-математическом факультете Московского Государственного Университета по спектральной теории под руководством профессоров Ю.В.Егорова и В.А.Кондратьева, 1990, Москва, Россия.

2. Семинар в институте математики имени Стеклова по теории функций под руководством профессора С.И.Похожаева, 1994, Москва, Россия.

3. Конференция "Две недели по нелинейному анализу", 1997, Торино, Италия.

4. Конференция по теории уравнений в частных производных, 1998, Гумма, Япония.

5. Международная конференция по микролокальной теории и системам дифференциальных уравнений в комплексной области, 1998, Киото, Япония.

6. Семинар на математическом факультете университета Токио по анализу под руководством профессора К. Катаоки, 1999, Токио, Япония.

7. Международная конференция по теории уравнений в частных производных и их применения, 2000, Ханой, Вьетнам.

8. Международная конференция по теории уравнений в частных производных и спектральной теории, 2000, Клаушал, Германия.

9. Международная конференция по микролокальной теории и системам дифференциальных уравнений в комплексной области, 2001, Киото, Япония.

10. Первая международная конференция по абстрактному и прикладному анализу, 2002, Ханой, Вьетнам.

11. Вторая международная конференция по абстрактному и прикладному анализу, 2005, Кюньон, Вьетнам.

12. Международная конференция по прикладной математике, 2005, Даежон, Ю. Корея.

Публикация. Основные результаты диссертации опубликованы в 28 работах, список которых приводится в конце автореферата.

Структура и объем работы. Диссертация изложена на 324 страницах и состоит из введения, восьми глав. Список литературы содержит 228 наименований.

II. КРАТКОЕ СОДЕРЖАНИЕ РАБОТЫ

Во введении работы дан краткий обзор главных результатов и исторического развития в теории эллиптических и линейных вырождающихся эллиптических уравнений, которые имеют близкое отношение к теме диссертации. Здесь введено общее содержание каждого параграфа диссертации.

В первой части работы исследуется бесконечная дифференци-руемость решений вырождающихся эллиптических уравнений. Она состоит из двух глав.

В главе 1 изучаются необходимые условия гипоэллиптичности вырождающихся эллиптических операторов методом построения негладких (неограниченных) решений соответствующих однородных уравнений. Она состоит из трёх параграфов. В параграфе 1.1

вводятся основные определения и приводятся короткие необходимые сведения об гипергеометричеких функциях Гаусса и Аппеля. Ниже номера определений и теорем взяты из диссертационной работы.

Определение 1.1.5. Линейный оператор P(x,D) называется ги-поэллиптическим в области Q, если из / 6 Х>'(Г2) и P(x,D)f € С°°(П) вытекает, что / € С°°(П).

Наряду с определением 1.1.5 можно рассматривать и более широкое понятие гипоэллиптичности:

Определение 1.1.6. Оператор P(x,D) называется слабо гипоэл-липтическим в области П, если можно найти такое целое положительное число М, что из / € СМ{П) и Р(х, D)f € C°°(Q) следует, что / G С°°(П).

Определение 1.1.7. Пусть е > 0. Оператор P(x,D) порядка m называется гипоэллиптическим с потерей е производных в области П, если для любого вещественного числа 5 из / € P'(fi) и D)f Е tff0C(Q) вытекает, что / €

Определение 1.1.8. Оператор P[x,D) с коэффициентами из -Д(П), (Gs(fi)) называется аналитически гипоэллиптическим (s-ги-поэллиптическим) в области fi, если из / 6 ü'(fi) и Р(ж, Р)/ 6 A(Ü),(P(x,D)f б Gs(ft)) вытекает, что / € Л(Г2),(/ е Gs{fi)), соответственно.

Определение 1.1.10. Оператор P(x,D) называется расширенно аналитически гипоэллиптическим (расширенно s-гипоэллиптичес-ким) в области П, если из / € С°°(П) и P(x,D)f <Е (P{x,D)f 6 G'(ii)) следует, что / € A(Q) (/ <Е Gs(tt)).

С развитием теории дифференциальных уравнений в частных производных мощная теория псевдодифференциальных операторов

была введена в работах Маслова [10], и Кона, Ниренберга [11]. Понятие гипоэллиптичности можно естественно обобщить для них.

Наконец, введём понятие, обобщающее определение пространства функций по Жеврею Gs(fi). Говорят, что последовательность {Lfcjfcij, состоящая из положительных чисел, удовлетворяет условию монотонности если для некоторой константы С справедлива оценка

rWfc_i (г = 1,2..., А = 1,2,...).

В дальнейшем изложении мы всегда налагаем условие монотонности на последовательность {Ljfe}^!-

Определение 1.1.11. Пусть заданы две последовательности Ьк и Lk, состоящих из положительных чисел. Говорят, что функция F(x,y), определённая на х f^i принадлежит пространству C(Lk',Qi\Lk]&2), если F(x,y) Е C°°(iii х Пг) и для любого компакта А' в fit х 0-2 существуют такие константы что

д\°Ш р(х,у)

max

(х,у)ек

дхадуР

для всех мульти-индексов а и ß.

s г r-lQl+l3l г т

^ LaC-2 L\a\L\0\

Передём к нелинейным операторам. Пусть (ж, ra)|Q|^m бйхЙи Ф(ж, <9л)|а|^т - нелинейный дифференциальный оператор в Q порядка то, действующий по правилу

: f{x) —* Цх,да]{х))1а^П1

где Ф(х, ra)w<ra 6 х fi).

[10] В. П. Маслов, Теория Возмущений и Асимптотические Методы, М., МГУ, 1965.

[11] J. J. Kohn, L. Nirenberg, Comm. Pure Appl. Math., 18 (1965), 269-305.

Определение 1.1.12. Нелинейный оператор Ф(х, с?а)|а|<т называется гипоэллиптическим (аналитически гипоэллиптическим, 5-гипоэллидтическим) в области если можно найти такое число

м € 2+> что из / е см(п) и Ф(ж,аа/)1аКт €

следует, что / е С^)), соответственно.

Как правило, вместо линейного оператора или уравнения будем просто писать оператор или уравнение. Определения расширенно аналитической гипоэллиптичности и расширенно з-гипоэллиптич-ности для нелинейных операторов повторяются дословно, как и в линейном случае.

В параграфе 1.2 построены неограниченные решения однородного уравнения с конечным вырождением. Рассматривается оператор Джилиоли - Трева на плоскости

где а, Ь, с € С, 11е а • Р1е Ь ^ 0; к - положительное число и — ^ — йхкщ,Х2 = ^ — 1ахкщ. Получены следующие главные результаты:

Теорема 1.2.1. Пусть к - нечётное. Если 11еа < 0 и Кеб > 0, то

») у) = О если Ые/З >

ш) СЙ^Й?У) • = 0 ее*« йеа >

Если 11е а < 0, Яе 6 < 0 и а Ф Ь, то

Если Ле а < 0, то

шИ) = 0.

Явные формулы функций имеются в диссертации. Эти выражения не приводятся здесь ввиду их громозкости. Только отметим, что все они не ограничены в некоторой окрестности начала координат. Поэтом)' имеем:

Следствие 1.2.3. Если либо Re а < 0, Reö > О, с = —(k + l)(b — a)N, либо Rea < О, Reö > О, с = ((&+ 1 )N + k)(b — a), где N - целое неотри-цателъпое число, либо Rea < О, Reö < О, то G^bc не гипоэллиптично (не аналитически гипо эллиптично, не s-гипоэллиптично).

Теорема 1.2.2. Пусть к - нечётное. Если Re о < О и Reö > О, то

•л па*ра*АЛ(-. ,Л = _ __ Ra.igJ(x,j/)

J [ ,у) к'с дх '

») Gl%+l)(b_a)F°kit(Xty) = о если Reß > -|±f-

Ш) Ga£{b_a)F^(x,у) = О если Rea > -£±f.

Если Re а < О, Re Ь < О и а ф Ь, то

üü) ^ÄJ'W) =0.

Если Rea < 0, то

üüi) GZKT'^V) =0.

Следствие 1.2.4. Если либо Rea < 0,Reö > 0,с — —((к + l)iV + 1)(6-а), либо Rea < 0,Reö > 0,с = (&+1)(&-а)(ЛЧ1), где N - целое неотрицательное число, либо Rea < 0,Reö < 0, то оператор G^ не является гипо эллиптическим (аналитически гипо эллиптическим, s-гипо эллиптическим).

Теорема 1.2.3. Пусть к - чётное и Rea < 0,Reö > 0. Если с=(к + 1)(6 - a)N + (2fc+1Xb~fl), где N - целое число, то

у) = 0, Gl'bcF^\x, у) = 0. Если с = (к + 1)(6 — a)N + а^, где N - целое число, то У) = Аакьс6(х,у), у) =

Следствие 1.2.5. Допустим, что к - чётное и Rea < 0,Reö > 0. Если с — (к + 1){Ь — a)N + г$е jv - целое число, то оператор

ОЙ не является гипо эллиптическим (аналитически гипо эллиптическим, s-гипоэллиптическгш).

В параграфе 1.3 построены неограниченные решения сравнительно нового класса уравнений с бесконечным вырождением. Изучается дифференциальный оператор на плоскости, имеющий вид

С?а,б = Ю2Ю1 + i (сИИ"4 + (ф) - Ь{х))\х\~*) (1.3.1)

где функция е-1/'1' доопределена нулём при х = 0, а коэффициенты

а(х),Ь(х),с(х) заданы следующим образом а а(х) = а+ € С если

х > 0, а_ € С если х < 0; Ъ := b(x) = Ь+ € С если х > 0, 6_ G

С если х < 0; с := с(х) — с+ G С если х > 0, с_ € С если х < 0 и

д д д д 2)i = ^-i6(a;)sign(a,-)ixi-VA_,^2 = — -ia(a-) sign(x)|x-r2e"Ä—.

Предположим, что Rea+ • Rea_ • Re6+ • Reb_ Ф 0. Установлены следующие главные результаты:

А) Случай Re а+ < 0, Re а_ < 0, Re Ь+ > 0, Re > 0.

Теорема 1.3.1. Пусть Rea+ < 0, Rea- < 0,Reb+ > 0, > 0. Тогда оператор Gcab не является гипоэллиптическим при

— к, :— — I,

а_|_ — ' а_ — Ь-или при

—= —к — 1, —= —I ~

а+ — о+ а_ — 0-

где к и ( - целые неотрицательные числа. Более того, ь^а,ъ ~

В) Случай Re а+ < 0, Re а_ < 0, ReЬ+ < 0, Re ¿>_ < 0.

Теорема 1.3.2. Пусть Rea+ < 0, Деа_ < 0, < 0, ЯеЬ_ < 0. Тогда оператор не является гипоэллиптическим. Более того, имеют место СсаЬЕ1ь{х,у) = 0 в случае отсутствия резонанса (а+ ф Ь+,а_ фЬ-.), Оса ЬНсаЬ = 0 при а+ = £>+,а_ ф = 0 при а+ ф

6+,а_ = Ь_, и С£>аЯ£(ж, у) — 0 при наличии резонанса а+ = Ь+)а_ =

-11 -

С) Случай Re а+ < 0, Re а- < О, Re 6+ > О, Re Ь- < О.

Теорема 1.3.3. Пусть Rea+ < 0,Rea- < 0, Reb+ > 0, ДеЬ_ < О, и целое отрицательное число. Тогда оператор Gcab не является гипоэллиптическим. Более того, G°abDcab{x, у) = 0 в случае отсутствия резонанса (а- фЬ- ), и G°abY£b(x>y) = О при наличии резонанса

са- = Ь-).

Отметим, что как и в теореме 1.2.1 все функции в теоремах 1.2.2 - 1.3.3 явно выписываются в диссертации.

Глава 2 посвящена изучению достаточных условий гипоэллипти-чности вырождающихся эллиптических уравнений. Она состоит из пяти параграфов.

В параграфе 2.1 вводятся определения, обозначения, сведения, необходимые в будущем изучении. Через {Xj}j=l будем обозначать систему вещественных полей в области Q С К". Пусть t - мульти-порядок, т. е. последовательность Будем писать

XL — PCi ■ • • [X^XJ ... ], X1 — XL1 • • ■ Xw,

и г = |i| (длина мульти-порядка г.). Введём следующие условия:

Условие (Н),: существует такое целое неотрицательное число I, что коммутаторы порождают все пространство R™ в каждой

точке области Q..

Условие (K)J1: для любого г ^ d, любого вещественного числа s и всякого компакта К в Q существует такая постоянная С, что к

WXJWs ^ + ll/lb), Щ = i,fe С?{К).

3=1

Условие (K')f: для любого i < d, любого вещественного числа s и всякого компакта К в Q существует такая постоянная С, что

I\XJ\\s ^ с(£ ||Xj-1/lli+} + II/II*), V|t| = i,f € C?{K). }

Условие (К\: Если векторные поля удовлетворяют условию

(К)^ для всех (I, то говорим, что они удовлетворяют условию (К)^

Условие (К')^ Если векторные поля удовлетворяют условию

(К')]1 для всех й, то говорим, что они удовлетворяют условию (К')]Р По системе можно построить оператор вида

Ят := ^о^Х*

и его полулинейное возмущение

ет := ет(ж, да) : / —» дт{хх £>)/ + Ф(ж, Х7)11|<т_ь

где «(.(а^Ф^,^)!^™-! - бесконечно дифференцируемые функции. Условимся, что X1 есть единичный оператор при |б| = 0.

Определение 2.1.2 (Хелффер-Нуриг [6]). Пусть <5 € (0,1]. Говорят, что С?т(х, V) является максимально ¿-гипоэллиптическим оператором в области П, если для каждого компакта К в О существует такая константа С, что

£ и^'/Им) < ^)/Ио+»/и?)

для всех / €

Определение 2.1.4. Пусть 1 ^ р ^ оо. Лля каждого целого неотрицательного числа тп обозначим через З™]^1 множество

всех таких функций /, что для любого компакта К в О, выполнено неравенство \\Х1Дщк) < оо. Положим ^^'"'(П) =

Пространства и^^(О) будут

обозначены просто через ^^^"'(П) и ¿^^"'(П).

Определение 2.1.6. Оператор фт(сс,/?) называется расширенно максимально гипоэллиптическим по системе в области О,

если для любого натурального числа тп\ € из / €

ди(®, е ¿С'™"1*") что /6

Определение 2.1.7. Нелинейный оператор <Эт(х,да) называется расширенно максимально гипоэллиптическим по системе в если найдётся такое целое неотрицательное число М, что для любого натурального числа тщ € из / € См(Г2),@т/ 6 51ос (") следует, что / € 51ос (Г2).

В параграфе 2.2 доказывается гипоэллиптичность полулинейного оператора второго порядка. Получена следующая теорема

Теорема 2.2.2. Пусть система {Х,-}^=1 удовлетворяет условию (Н)[ в О. и Ф(.т, То, 71,..., Ть) - бесконечно дифференцируемая функция. Тогда нелинейный оператор

к

Щх, ХУ + ф(ж- ■■■>

3 = 1

является расширенно максимально гипоэллиптическим по системе {Х/}^=1. В частности, он гипоэллиптичен.

Для установления выше теоремы мы используем метод априорных. оценок и наличие параметрикса линейной части оператора

Замечание 2.2.1. В теореме 2.2.2 очень важно, что является полулинейным. Иначе теорема может быть неверной. Например, рассмотрим оператор в К2

Фи = Х^и + (Х|и)2,

где Хг = щ, Х2 = Легко видеть, что

Ф(Н2т+1) = (2т + 1)2(2т)2х$"-2 е С°°(Е2)

для всех т £ Однако |х2|2т+1 £ С2"1^2)^00^2). Следовательно, оператор Ф негипоэллиптичен в К2. По выше контрпримеру можно построить анологичные контрпримеры и в последующих главах.

■_ 14 -

В параграфе 2.3 рассматриваются линейный оператор

к

1=1 И<2т-1

где а1(х) € С°°(Г2); и его нелинейное возмущение

д°) : / —» Р2т(х, В)/ 4- Ф(ж, Х'Ям^т-г-Получены следующие главные результаты

Теорема 2.3.2. Пусть система удовлетворяет условиям

(Н)[ и (К)]3ш (или (К'))3т; в Тогда для каждого компакта К е О, к каждого вещественного числа в найдётся такая постоянная С(й, К) = С, что

£ <с(\\р2тЛ\1 + Ц/115); v/eс?[к).

Иными словами, Ргт - максимально |-гипоэллиптичен.

Отметим, что если I — 2, то требуется только условие (Н)2 так как в этом случае выполнение условия (Н)2 влечёт за собой условие

(К)2-

Теорема 2.3.3. Пусть векторные поля удовлетворяют

условиям (Н), и (К)?"* (или {К,)^т) в П. Тогда Р2т является

гипо эллиптическим оператором с потерей производных.

Теорема 2.3.4. Пусть векторные поля {Х^=1 удовлетворяют условиям {Н)[ и (К)[ в Г2. Тогда Р2т является расширенно максимально гипо эллиптическим оператором по системе

Теорема 2.3.6. Пусть система удовлетворяет условиям

(Н)} и (К)1 (или (К')^ в Если функция Ф(х, т^^гт-! бесконечно дифференцируема, то нелинейный оператор Фгт является гипоэллип-тическим оператором. Более того, он расширенно максимально ги-поэллиптичен по системе

Далее, изучаем гипоэллиптичность операторов Р4, Ф4 без требования выполнения условия (К)^

Теорема 2.3.12. Пусть векторные поля удовлетворяют

условию (Н)3 в П, и заданы такие функции а,Ь,с € Со°(Г2), что а <Ь < с. Тогда для каждого целого числа г существуют такие операторы Тг и Б?, что

ТТЬРц = а/ 4- 5Г • с, гдеТг,8т - сглаживающие операторы порядков А,г, соответственно.

Теорема 2.3.13. Пусть система {Х^=1 удовлетворяет условию (Н)3 в Г2. Допустим, что / 6 р 6 (1, оо) и Р4/ = д. Тогда

a) Если д € а > 0, то / е Ы(П).

b) Если д € Ла,10С(П), а > 0, то / € Ла+|Дос(П).

c) Ясли д € то / € Л| 1ос(П).

й)Еслид е Р € (1,оо),т = 0,1,..., то

Теорема 2.3.14. Пусть система удовлетворяет условию

(Н)3 в Г2. Если функция Ф(х, Т^^з бесконечно дифференцируема, то Ф4 является нелинейным гипоэллиптическим оператором. Более того, он расширенно максимально гипо эллиптичен по системе

ти * п.

Заметим, что в линейном случае результаты этого параграфа можно обобщить и для псевдодифференциальных операторов. В параграфе 2.4 изучается уравнение

*й(/> (2-4-8)

где С^ьс - оператор, рассмотренный в параграфе 1.2. Построим фундаментальные решения оператора Рассмотрим отдельно

случай, когда к - чётное и к - нечётное.

A) Случай к - нечётное.

Определение 2.4.1. Назовём параметры а,Ь,с,к допустимыми, если с ф ±[Щк + 1)(6 - а)], с ф + 1) + к]{Ь - а), где N -

целое число.

Теорема 2.4.1. Пусть а,Ь,с,к допустимые параметры. Тогда

°кЬсЕкЬс{^ У,и,у) = ё(х~и,у-у).

На основе теоремы 2.4.1 доказаны следующие теоремы:

Теорема 2.4.2. С^ьс является слабо гипоэллиптическим оператором тогда и только тогда, когда параметры а, Ь, с, к допустимы.

Отметим, что доказательство в диссертации выше теоремы отличается от доказательства предложенного Джилиоли и Тревом в [7].

Теорема 2.4.5. Пусть т > 2к + 3, параметры а, 6, с, к допустимы и Ф - бесконечно дифференцируемая функция. Тогда каждое Ст(0,)-решение уравнения (2.4.8) принадлежит С°°(Г2). В частности, нелинейный оператор Ф^ гипо эллиптичен.

B) Случай к - чётное.

Теорема 2.4.3. Следующая формула имеет место

Ск!2Щк+1)+кЕк2Щк+1)+к(х'У'и>'°) = 6{х-и,у-у), где N-целое число.

Используя теорему 2.4.3 можно доказать следующую теорему:

Теорема 2.4.6. Пусть гп>2к + ЗиФ- бесконечно дифференцируемая функция. Предположим, что / € Ст(0) является решением уравнения (2.4.8), где а = Ь = —1, с = 2Ы(к + 1) + к, N - целое число. Тогда f € Нелинейный оператор ^¿¡^(Л+^+А гипоэллип'т-иче'н-

Снова, формулы для '¡!, ^2^(к+1)+к в теоРемах 2.4.1, 2.4.3 не приводятся здесь ввиду их сложности.

В параграфе 2.5 изучается гипоэллиптичность оператора выражение которого уже выписывалось в параграфе 1.3. Через преобразование Фурье конструированы параметриксы для рассматриваемого уравнения. Гладкость решений отсюда и вытекает. Как побочный продукт получаем также локальная разрешимость и локальная неразрешимость рассматриваемого уравнения. Показаны следующие теоремы:

Теорема 2.5.1. Допустим, что Rea+ < 0, Reo— < 0, Reb+ > О, Reb- > 0. Тогда Gcab не является гипоэллиптическим оператором (локально разрешимым) тогда и только тогда, когда а+сД = к, а с2ь = ^ или а+-Ъ+ ~ ~ •'ч а °-Ь- = —' — к и I - целые

неотрицательные числа.

Теорема 2.5.2. Допустим, что Rea+ > 0, Rea- > 0,Reb+ > О, Reb- > 0. Тогда Gcaь является негипоэллиптическим, локально неразрешимым в начале координат

Теорема 2.5.3. Пусть Rea+ > 0, Rea- < 0,ДеЬ+ > 0, Reb- < 0. Тогда Gca ь всегда является и гипоэллиптическим и локально разрешимым в начале координат

Теорема 2.5.4. Пусть Rea+ < Q,Rea~. > 0,Reb+ > 0,Reb- > 0. Тогда Gcab не является гипоэллиптическим, локально разрешимым в начале координат

Отметим, что остальные возможности сочетания знаков а, b, с удовлетворяющих условию Re а+ ■ Re а_ ■ Re b+ ■ Re b- ф 0, попадают в одну из ситуаций аналогичных случаям описываемым теоремами 2.5.1 - 2.5.4.

Переходим к описанию второй части работы. Она занимается изучением аналитичности решений полулинейных вырождающихся эллиптических уравнений. Метод, использованный в исследовании эллиптических уравнений, обобщается для достижения результатов.

Настоящий метод впервые применяется для изучения полулинейных вырождающихся эллиптических уравнений. Предложенный метод, который будет проведён по индукции, основан на три главных этапах. Первый этап заключается в нахождении точного или даже приблизительного фундаментального решения главной (линейной) части изучаемого уравнения. С найденным фундаментальным решением можно написать интегральную формулу представления решения через нелинейную часть уравнений. Эта интегральная формула будет содержать два слагаемого: интегралы в области и на границе. На втором этапе оценим производные нелинейной части, зная в предположении индукции оценки младших производных решений. На заключительном этапе определяем подходящую метрику и функциональное пространсрво. Часто, выбор метрики будет за-висить от свойства найденного на первом этапе фундаментального решения. Теперь по выбранной метрике, для данной точки окружаем её некоторой фигурой, которую подберём как проше как можно. Во всех ситуяциях, где мы изучаем, в качестве фигуры достаточно выбрать квадрат или куб с пропоциональными сторонами. Используя формулу представления выведённую на первом этапе можно выразить высшие производные решений в данной точке через сумму интегралов в области и на границе выбранной раньше нами фигуры. Как правило, интеграл по области хорошо оценивается. Главная трудность, которая отсутствует при изучении эллиптических уравнений, заключается в оценке интеграла на границе. Чтобы бороться с ней, нужно интегрировать по частям. При интегрировании по частям существенно используются специфики исследуемого уравнения. Это и есть центральная причина выбора простой фигуры (если граница фигуры состоит из прямых или плоских поверхностей, то легко интегрировать по частям). Выбор удобных пространств зависит от выкладок проделанных в этом месте. Кроме того, чтобы

оценить подынтегральные функции, нужно выбрать фигуру в зависимости от точки, которую она окружает. В конце концов, мы хотим установить оценки высших производных решений, которые удовлетворяли условиям леммы Фридмана. Применение этой леммы даёт нам нужные результаты. Теперь приступим к описанию четырёх глав содержащихся в этой части.

Глава 3 касается аналитичности решений нелинейных эллиптических уравнений. Она состоит из трёх параграфов. В параграфе 3.1 устанавливаются некоторые леммы Фридмана.

В параграфе 3.2 определены пространства Гёльдера с весом и перечислены их свойства. Отметим, что эти пространства хорошо улавливают характеристические поведения решений эллиптических уравнений вблизи границы.

В параграфе 3.3 вводятся оценки полученные Дуглисом - Нирен-бергом. Эти оценки, которые можно считать априорными оценками в введённых в предыдущем параграфе пространствах Гёльдера с весом, играют очень важную роль в дальнейшем исследовании.

В параграфе 3.4 исследуется следующее уравнение

|а|=т

(3.4.1)

С учётом оценок Дуглиса - Ниренберга доказана следующая теорема:

Теорема 3.4.1. Предположим, что Аа,В € С{1/£_2;П, СУ1}. Пусть / бесконечно дифференцируемое решение уравнения (3.4.1), которое в свою очередь является эллиптическим в /, т. е.

|а|=т

для всех (х,£) 6 ^ х (М™\0). Тогда / €Е В частности,

если 13

аналитические функции (э-функции), то / является таковой же функцией.

Здесь результат является известным, но метод для его получения улучшается. Как видно из доказательства, продемонстрированного в этом параграфе, аналитичность решений эллиптических систем по Дуглису - Ниренбергу, которые в общем случае не являются эллиптическими даже в смысле Петровского, тоже можно получить.

Глава 4 посвящена изучению бесконечной дифференцируемое™, аналитичности и регулярности по Жеврею решений уравнения

*»(/) = (4-1-1)

где к, h € Z+, / - f{x, у), = {(а, /?, 7) <= Z* : а + /3 < т, km > 7 > а + (1 + к)Р — т}, Mik = + 1х2кщ - оператор Мизохаты, и

М2к = Мы ° • • ■ О Мщ .

v

ft-раз

Она состоит из трёх параграфов. В параграфе 4.1 построено фундаментальное решение оператора М^..

В параграфе 4.2 доказана следующая теорема:

Теорема 4.2.1. Пусть т > 4к2 + 6к + h + 1, и f является Ст(й)-решением уравнения (4.1.1). Тогда f - бесконечно дифференцируемая функция в Нелинейный оператор Ф^ гипо эллиптичен в Q.

В параграфе 4.3 установлена следующая теорема:

Теорема 4.3.1. Пусть f - бесконечно дифференцируемое решение уравнения (4.1.1) и Ф € C{Ln-t-2\£l\Ln-t-2\С*4} для каждого целого числа t € [0, h(2k 4- 1)]. Тогда / 6 С{Ьп_^(2к+1)-2',Щ- В частности, если Ф является аналитической функцией (s-функцией по Жеврею), то нелинейный оператор Ф^ расширенно аналитически гипо эллиптичен (расширенно s-гипоэллиптичен).

При доказательстве выше теоремы, некоторые геометрические свойства найденного в параграфе 4.1 фундаментального решения существенно используются. Объединяя теоремы 4.2.1 и 4.3.1 имеем

Теорема 4.3.2. Пусть Ф является аналитической функцией (s-функцией по Жеврею). Тогда Ф^ аналитически гипоэллиптичен (s-гипо эллиптичен).

Глава 5 изучает аналитичность и регулярность по Жеврею решений уравнений (2.4.8). Она содержит два параграфа.

В параграфе 5.1 доказываются теоремы об аналитичности и регулярности по Жеврею решений полулинейных уравнений, являющихся линейным возмущением модельного оператора Грушина на плоскости.

В параграфе 5.2 получены следующие теоремы:

A) Случай к - нечётное.

Теорема 5.2.1. Пусть параметры а,Ь,с,к допустимы (см. определение 2.4.1 на странице 16), / - С00 -решение уравнения (2.4.8) иФб C{Ln_t_2;íí|£n-<-2;C3} для каждого t Е [0,2к + 2]. Тогда f Е С{Ьп-2к-4',^}- В частности, если Ф является s-фунщией (или аналитической функцией), то Ф^ расширенно s-гипо эллиптичен (или расширенно аналитически гипо эллиптичен).

Объединяя теоремы 5.2.1 и 2.4.5 имеем

Теорема 5.2.2. Пусть т >2k-r3, параметры а, Ь, с, к допустимые, Ф 6 C{Ln-t-2\ í2|Ai-<-2¡ С3} для каждого t & [0,2k + 2] и f является Ст {Sí)- решением уравнения (2.4.8). Тогда f € C{Ln-2k-i\£2}- В частности, если Ф является s-функцией (или аналитической функцией), то Ф^ s-гипо эллиптичен (или аналитически гипо эллиптичен).

B) Случай к - чётное.

Теорема 5.2.3. Пусть т > 2fc + 3 и Ф Е C{Ln-t~2; Щ^п-г-г', С3} для каждого t € [0, 2к+2]. Тогда всякое Ст(С1)-решение уравнения (2.4.8), где Ь = —а,с = —a(2N(k -f 1) + к), принадлежит С{Ьп-2к-4\Щ- В частности, если Ф является s-функцией (или аналитической функцией), то s-гипо эллиптичен (или аналитически гипоэ-ллиптичен).

Теоремы данного параграфа покрывают результаты предыдущего параграфа. Поэтому при доказательстве мы останавливаем ся только на главных моментах. Здесь существенно используются оценки гипергеометрических функций, напоминатых в главе 1.

Глава 6 касается полулинейного уравнения типа Кона-Лапласа на группе Гейзенберга. Она содержит три параграфа.

В параграфе 6.1 вводится оператор Кона-Лапласа на группе Гейзенберга. Группа Гейзенберга Н" (порядка п) есть Е2гг+1 с операцией умножения

(г, ¿) о = (г + г', г + - - г/)) или

{х,у^)о(х\у',г') = {х + х',у + у',г + 1'+ 2{ух'-ху')),

где оло' = = Для любых и, ш' € С"; а,Ь Е М™.

Определяем векторные поля

4+2ущ- 2а4

которые образуют базис лево инвариантных векторных полей на Н". Далее, введём комплексные векторные поля

% - |(Х, - пщ = ± + ¡4д. = 1<х, + IV,) - ± - ¡4

В специальном базисе, оператор Кона-Лапласа имеет диагональный вид с элементами £пд на диагонали. Здесь £пд является дифференциальным оператором второго порядка, имеющим вид

СпЛ = ¿(^ + ад) + № = ¿(X? + + ¡АТ; А € С.

¿=1 .7=1

Следовательно, изучение свойств оператора сведётся к исследованию свойств оператора Сп\. В настоящей главе изучаем регулярность по Жеврею решений уравнения

Ф(п,А)/ = Аг,л/ + Цх, у, г, /, ..., ¿1/,..., 2П/) - 0. (6.1.3)

Стоит заметить, что на группе Гейзенберга оператор Кона-Лапласа вырождается в каждой точке. Значение Л называется допустимым, если ±А ф п,п + 2,п + 4,....

В параграфе 6.2 построено фундаментальное решение и исследованы некоторые его свойства при допустимых значениях Л. На основе полученного фундаментального решения определён оператор потенциала и выведена интегральная формула представления решений. Будем считать, что О. <е Оь

В параграфе 6.3 использованием свойств и установленных в параграфах 6.1 и 6.2 формул доказывается регулярность по Жеврею решений изучаемого уравнения. Получены следующие теоремы:

Теорема 6.3.1. Пусть I > 2п + 4 и параметр А допустим. Предположим, что / является (С1)-решением уравнения (6.1.3) иФ(х,у,г,/М..МЛ11,-ЛпЛ е С^Пу хСад),5 > 2. Тогда / € Нелинейный оператор Ф(пд) э-гипоэллиптичен при в > 2.

Доказательство теоремы 6.3.1 состоит из теорем 6.3.2 и 6.3.3.

Теорема 6.3.2. Пусть I > 2п + 4 и параметр А допустимый. Пред-

I {X ■ У

положим, что / является 51 3=1 (П)-решением уравнения (6.1.3) и

Цх,Ух!М,...,%п1Л11,-ЛпЛ е сх с2™+1).

Тогда / 6 С°°(0,). Нелинейный оператор Ф(П)а) гипоэллиптичен.

Теорема 6.3.3. Пусть параметр А допустим и / является С°°(П)-решением уравнения (6.1.3), Ф € С5,5 > 2. Тогда f € Не-

линейный оператор Ф(п,Л) расширенно в-гипоэллиптичен при в > 2.

Наконец, третья часть настоящей работы посвящена исследованию глобальных свойств решений полулинейных уравнений.

Рассматривается следующая краевая задача:

1а,ди - си + д{х, у, г, и) := Ахи + |ж|2аД^ + \х\20а2и ~си + д(х, у,г,и) = 0 в п, (7.1.1)

и = О на дй, (7.1.2)

где

О < с = с(х, у, г) Е С°'к(й), д(х, у, г, 0) = О, д(х, у, ¿) € С(П х К), а,/? > 0,а + /3 > 0,1 > 7 > О,

(х1,...,хп1,у1,...,уп,,г1,...,гпз) = (х,у, г) е 1Г1+П2+Пз =: И*

и - ограниченная область с гладкой границей в Отметим,

что здесь уравнения могут иметь коэффициенты, не принадлежащие пространствам бесконечно дифференцируемых или аналитических функций. Это и понятно потому что в настоящей части мы заинтересуемся нетолько бесконечно дифференцируемыми или аналитическими решениями но и решениями имеющими низкую гладкость. Вместе, главы 7 и 8 показывают, что явление критического показателя, присущее краевой задаче для эллиптических уравнений, тоже наблюдается в краевой задачи для вырождающихся эллиптических уравнений. Однако, здесь критический показатель меньше, чем тот в эллиптическом случае. Кроме размерности обьёмляю-щего пространства он зависит также от порядка вырождения исследуемых уравнений. Теперь передём к описанию отдельных глав в настоящей части.

В главе 7 изучается существование нетривиальных решений краевой задачи (7.1.1) - (7.1.2). Настоящая глава состоит из двух параграфов.

В параграфе 7.1 доказываются теоремы вложения пространств Соболева с весом, присоединённых с вырождающимися эллиптическими уравнениями.

Определение 7.1.1. Через ^ р < оо, мы обозначим со-

ди , ,ади . ]вди вокупность всех таких функции и € ТР (и), что |а;| \х\ е

I/ (С1) для всех i = 1,П1, У = 1, пг, I = 1,Пз. Мы определяем норму в этом пространстве следующим образом

Пространство 5Р0(Г2) определяется как замыкание подпространства С,] (П) в пространстве ¿^(Л).

Теорема 7.1.1. Допустим, что 1 < р < N := щ +Пг(о; +1) + пз(/3 + 1). Тогда

5Р0 (П) С (П)

(?ля каждого достаточно малого положительного числа т.

Доказательство теоремы 7.1.1, использующее только неравенство Гёльдера, по своей идее напоминает доказательство теоремы вложения классического пространства Соболева, предложенное Гальярдом и Ниренбергом в [12] и [13].

Теорема 7.1.3. Пусть 1 ^ р < N. Тогда вложение в

йу

Ь^-р (П) является компактным для каждого достаточно малого положительного числа т.

Теорема 7.1.4. Допустим, что р> N. Тогда С С0 (П).

[12] Е. ва^агск., Шс. Ма1;., 8 (1959), 24-51.

[13] Ь. №гепЬе^, Апп. Бс. Иогт. Ива, 13 (1959), 115-162.

В параграфе 7.2 вариационым принципом доказываются теоремы об существовании нетривиальных решений в пространствах, изученных в предыдущем параграфе. Для удобства вместо (х,у,г), &х&у&г будем писать Х,6.Х. В этом пункте предполагаем, что функция д(Х, £) имеет только полиномиальный рост по Ь.

Определение 7.2.2. Функция и € называется слабым ре-

шением краевой.задачи (7.1.1) - (7.1.2), если тождество

имеет место для каждой функции <р £ Cq° (Г2).

Сделаем следующие предположения на д(Х, t) Ых g{X,t) € С{й х R) и д(Х, 0} - 0.

(<7)2 Для некоторого р 6 (1, и некоторой положительной константы С справедливо неравенство |g(X, t)\ < С (1 + |tjp). {д)з д{Х, t) = o(t) при t —► 0 равномерно по X G Ü. (д)4 Пт^оо 2Щ& — оо или lim^-ro s2Lil — qq равномерно по X ей.

(д)5 Если |i| > А для некоторого числа А, то

где рь е [0,1).

- нечётная функция по

Теорема 7.2.9. Допустим, что д(х,у,г,1) удовлетворяет условиям {д)\ — {д)ь- Тогда краевая задача (7.1.1) -(7.1.2) всегда имеет слабое нетривиальное решение.

= 0

Теорема 7.2.10. Допустим, что д(х,у,г^) удовлетворяет условиям (д) 1 — (д)б- Тогда краевая задача (7.1.1) - (7.1.2) имеет бесконечно много слабых нетривиальных решений.

Далее, изучаем влияния добавления линейного члена в правой части уравнения (7.1.1). Более подробно, рассмотрим краевую задачу

Ьа,0и + й{х, у, г)и + д(х, у, г, и) = 0 в П, (7.2.18)

и = 0 на ЭП, (7.2.19)

где с1 - неотрицательная функция. Соответствующая проблема на собственные значения

1>адъ{х, у, г) + \й{х, у, г)у{х, у, г) = 0 в П, у = 0 на 80,

обладает последовательностью собственных значений 0 < А1 < Л2 ^ Аз ^ • • •. Получены следующие теоремы:

Теорема 7.2.11. Пусть Х\ > 1, д удовлетворяет условиям (<7)1 — (д)5 и Нт^оо = оо (Ит<__00 = оо). Тогда краевая задача (7.2.18) - (7.2.19) имеет нетривиальное решение и > 0(и < 0) вПП{(0,у)}.

Теорема 7.2.12. Если д удовлетворяет условиям (д)\ — (д)б и А; ^ 1 < А;+1, то краевая задача (7.2.18) - (7.2.19) имеет бесконечно много нетривиальных решений.

Последная глава уделяет внимание проблеме несуществования нетривальных решений краевой задачи, рассмотренной в предыдущей главе и вопросу об гладкости собственных функций вблизи границы. Она состоит из двух параграфов. В параграфе 8.1 установлены обобщённые тождества Похожаева. Отсюда вытекают теоремы об несуществовании нетривиальных решений.

Теорема 8.1.1 (Обобщённое тождество Похожаева [14]). Пусть u(x,y,z) - решение краевой задачи (7.1.1) - (7.1.2), где с — О, g(x,y,z,t) = g(t), которое принадлежит H2(Q). Тогда имеет место тождество

Ja m 2m 2щ Jdn \duj

где

dz = dzi...d:rni,dy = dyi...dyn2,dz = d^.-.d^,

i>aß = (x, ux) + (a + 1) (y, Vy) + (ß + 1 )(z, vz),

n¡ пг щ

(я, Vx) = E XiUXi, (y, Vy) = J2 VjVyp (z, Vz) = E ZlV i=l j=l 1=1 Tli П2 г?з

ы2 = E ki2, w2 = E ы2> Ki2 = E Ki2-i=i j=i i=i

Определение 8.1.1. Область называется La,e - звёздной по отношению к началу координат (0,0), если неравенство Va*® > 0 выполняется почти всюду на 9Í2.

На основе теоремы 8.1.1 можно получить следущую теорему:

Теорема 8.1.2. Пусть Q - Laß-звёздная область по отношению к началу координат и g(t) = Aí+ |í¡7í, где A ^ 0,7 > Тогда краевая задача (7.1.1) - (7.1.2) не имеет нетривиальных решений в Я2(Г2).

Пусть теперь ф(х\) G С00^1), ф{х\) ф 0 при х\ ф 0,^(a'i) прини-

<Рф{ 0)

мает действительные значения, —г—— = 0 для любого п.

ахi

[14] С. И. Похожаев, ДАН СССР, 165 (1965), 36-39.

- 29 -

Рассмотрим следующую краевую задачу:

Ьфи + д(и) = + Ф2Ыд^2 + 9{и) = о в П, (8.1.15)

и = 0 на (8.1.16)

fi С К2 - ограниченная область с гладкой границей, содержащая начало координат.

Теорема 8.1.3. Пусть и{х) - решение краевой задачи (8.1.15) -(8.1.16), которое принадлежит Н2(£1). Тогда и(х) удовлетворяет тождеству:

[ {{(3 + 1) G (и) - ^д (и) и} dxxdx2 J п ^

= (f^) + Ф2М4) {ъ-Ч + Рх2м2} ds

f f Он \ ^

+ У (®i0'(a?i№(®i) -РФ2{Х1)) (-—) dxidx2

для любого р > 0.

Определение 8.1.2. Область Q называется Lp - звёздной по отношению к началу координат, если неравенство

(zi.i/i + (/? + 1) х2м2) > 0

выполняется почти всюду на dfl. Область Q называется L00 - звёздной по отношению к началу координат, если Г2 является Lg - звёздной для любого (3 > 0.

Теорема 8.1.4. Пусть область £1 - Ьд- звёздна по отношению началу координат и

• {P + 2)G(t) - fs(f)i < 0 при Хф 0.

• ху. ф'{х0 > (0+1)ф(х1) в Q.

Тогда не существует нетривиальное решение и £ Н2 (Г2) для краевой задачи (8.1.15) - (8.1.16).

Теорема 8.1.5. Пусть область Q - Ьд- звёздна по отношению к началу координат и

• (Р + 2) G (t) - (t) t < 0 при t> 0.

Ф'Ы > (p + l)ф{х{) в П. Тогда не существует нетривиальное положительное решение и G Н2 (Í2) для краевой задачи (8.1.15) - (8.1.16).

Пусть ф(хi) = e-lXll_i,(á > 0) и g{t) = Лt + \t\4, где Л < О, 7 > 0. Можно показать, что для любого 7 > 0 найдётся такое число г(7,6), что краевая задача (8.1.15) - (8.1.16) не имеет нетривиальных решений и € Н2 (Í2), где ü = {(xi, Х2) : х2 + х\ < г2(7, 5)}.

В параграфе 8.2 исследуется гладкость собственных функций краевой задачи вблизи границы путём использования найденных в первой части фундаментальных решений. Как указано Джерисоном, вопрос об регулярности вблизи границы решений краевой задачи для вырождающихся эллиптических уравнений очень сложен и он имеет глубокую связь с свойствами решений краевой задачи для эллиптических уравнений в области с нерегулярными границами (см. [15]). Эта проблема ожидает много интересных исследований и полное его изучение будет требовать применения новых техник. Получена следующая главная теорема:

Теорема 8.2.2. А) Предположим, что

• Gkfiu+Xa(x,y)u = 0 в П, где а(х,у) € С00 (Ü) и U G Oj o

(П).

• Если (0,у) 6 д£1, то существует такая окрестность 0(0, у), что 0(0, у) П д£1 — линия (х,у), где —cj < a?i < C\ .

Тогда и е С°°(0 (0,у) DÍÍ).

[15] В. А. Кондратьев, Труды Моск. матем. о-ва, 16 (1967), 209-292.

В) Предположим, что

• Gk,oU+Xa(x, у)и — 0 в Ü, где а(х, у) Е С°° (П) aae S\0 (Г2).

• Если (О, у) € ЗГ2, то существует такая окрестность 0(0,у), что 0(0, у) П ЭП = {(k + 1 )2(у - £)2 + x2fc+2 = (fc + I)2} П дП.

Тогда и € Сх(0 (О, у) fifi).

Отметим, что для иллюстрации полученных результатов в диссертации, приводятся примеры (в некотором случае контрпримеры) в почти каждой главе.

В заключение автор выражает глубокую благодарность профессорам Ю.В.Егорову и В.А.Кондратьеву за внимание и поддержку к работе.

III. ПУБЛИКАЦИИ АВТОРА ПО ТЕМЕ ДИССЕРТАЦИИ

[1] Н. М. Чи, О свойстве глобальной гипоэллиптичности одного дифференциального оператора высокого порядка, Дифф. Уравн., 26 (1990), 687-692.

[2] Н. М. Чи, Гипо эллиптические псевдодифференциальные операторы четвертого порядка с неинволютивным характеристическим множеством, Вестн. МГУ, (1990), 71-73.

[3] Ю. В. Егоров, Н. М. Чи, Максимально гипо эллиптические операторы с неинволютивным характеристическим множеством, ДАН СССР, 314 (1990), 1059-1061.

Главная теорема принадлежит Ю. В. Егорову и Н. М. Чи. Кроме того, Ю. В. Егорову принадлежат леммы 2, 3, 8; Н. М. Чи принадлежат леммы 1, 4, 5, 6, 7.

[4] Н. М. Чи, О свойстве глобальной гипоэллиптичности одного дифференциального оператора, Матем. Зам., 49 (1991), 147-149.

[5] Ю. В. Егоров, Н. М. Чи, 05 классе максимально гипоэллипти-ческих операторов, Труды Сем. Петровского, 17 (1994), 3-26.

Ю. В. Егорову принадлежат доказательства теоремы 2, лемм 2, 7; Н. М. Чи принадлежат доказательства теоремы 1, лемм 3-6.

[6] Н. М. Чи, Об уравнении Грушина, Матем. Зам., 63 (1998), 95-105,

[7] Н. М. Чи, Некоторые примеры негипоэллиптических бесконечно вырождающихся эллиптических дифференциальных операторов, Матем. Зам., 71 (2002), 567-580.

[8] М. Calanchi, L. Rodino, N. М. Tri, Solutions of logarithmic type for elliptic and hypoelliptic equations, Ann. Univ. Ferrara, XLI (1997), 111-127.

M. Calanchi принадлежат доказательства теорем 1.1, 1.2, предложения 1.4; L. Rodino принадлежат доказательства теоремы 2.1, предложения 2.2, леммы 2.3; Н. М. Чи принадлежат доказательства леммы 3.1, теоремы 3.2.

[9] N. M. Tri, Critical Sobolev exponent for degenerate elliptic operators, Acta Math. Vietnam., 23 (1998), pp. 83-94.

[10] N. M. Tri, Semilinear perturbations of powers of the Mizohata operator, Comm. Part. Diff. Equat. 24 (1999), 325-354.

[11] N. M. Tri, On the Gevrey analyticity of solutions of semilinear perturbations of powers of the Mizohata operator, Rend. Sem. Mat. Univ. Politec. Torino, 57 (1999), 37-57.

[12] N. M. Tri, Remark on non-uniform fundamental solutions and non-smooth solutions of some classes of differential operators with double characteristics, J. Math. Sci. Univ. Tokyo , 6 (1999), 437-452.

[13] N. M. Tri, Non-smooth solutions for a class of infinitely degenerate elliptic differential operators, Vietnam J. Math., 28 (2000), pp. 159-172.

[14] N. M. Tri, A note on necessary conditions of hypoellipticity for some classes of differential operators with double characteristics, Kodai Math. J., 23 (2000), 281-297.

[15] N. M. Tri, On the analyticity and Gevrey regularity of solutions of semilinear partial differential equations with multiple characteristics, Microlocal Analysis and PDE in the Complex Domain, RIMS, 1159 (2000), 62-73, the University of Kyoto.

[16] M. Mascarello, L. Rodino, N. M. Tri, Partial differential operators with multiple sympletic characteristics, Partial differential equations and spectral theory (Clausthal, 2000), Oper. Theory Adv. Appl., 126 (2000), pp. 293297, Birkhauser Verlag Basel, Switzerland.

Теорема 2.1 принадлежит M. Mascarello, L. Rodino, H. M. Чи.

[17] N. M. Tri, On local properties of some classes of infinitely degenerate elliptic differential operators, Rend. Sem. Mat. Univ. Politec. Torino, 59

(2001), 277-288.

[18] N. M. Tri, On the Gevrey regularity of solutions of a class of semilinear elliptic degenerate equations on the plane, J. Math. Sci. Univ. Tokyo , 9

(2002), 217-255.

[19] N. Т. С. Thuy, N. М. Tri, Some existence and non-existence results for boundary value problem (BVP) for semilinear elliptic degenerate operators, Russ. J. Math. Phys., 9 (2002), 366-371.

N. Т. C. Thuy принадлежит доказательство предложения 2; H. М. Чи принадлежат доказательства леммы 1, теорем 1, 2.

[20] N. М. Tri, Gevrey regularity of solutions of semilinear hypoelliptic equations on the plane, Microlocal Analysis and Related Topics, RIMS, 1261 (2002), 140-149, the University of Kyoto.

[21] N. M. Tri, New argument for the Gevrey regularity of soiutions of nonlinear elliptic PDES, Russ. J. Math. Phys., 10 (2003), 353-358.

[22] N. M. Tri, On the Gevrey analyticity of solutions of semilinear Kohn - Laplacian on the Heisenberg group, Proceedings of the International Conference on "Abstract and Applied Analysis", edited by N. M. Chuong, L. Nirenberg, W. Tutschke, World Scientific, 2004, 335-353.

[23] N. M. Tri, On local properties of elliptic degenerate semilinear partial differential operators, Proceedings of the Hanoi Conference on Partial Differential Equations and Their Applications, pp. 41-55, 2000.

[24] N. M. Chuong, T. D. Ke, N. V. Thanh, N. M. Tri, Non-existence theorems for boundary value problems for some classes of semilinear degenerate elliptic operators, Proceedings of the Hanoi Conference on Partial Differential Equations and Their Applications, pp. 185-190, 2000.

N. M. Chuong, T. D. Ke, N. V. Thanh принадлежат доказательства леммы 1, теорем 1-3; Н. М. Чи принадлежат доказательства леммы 2, теорем 4-6.

[25] N. М. Chuong, L. Q. Thing, N. М. Tri, Theory of Partial Differential Equations, Vietnam Science and Technique Publisher, 1995, книга на Вьетнамском языке.

N. М. Chuong, L. Q. Trung принадлежат главы 1, 4, 5, 6; H. М. Чи принадлежат главы 2, 3.

[26] N. М. Chuong, Н. Т. Ngoan, L. Q. Trung, N. М. Tri, Partial Differential Equations, Vietnam Education Publisher, 2000, книга на Вьетнамском языке.

N. M. Chuong, Н. Т. Ngoan, L. Q. Trung принадлежат главы 1, 4, 5, 6; H. М. Чи принадлежат главы 2, 3.

[27] V. Т. Т. Hien, N. М. Tri, Analyticity of solutions of sernililnear equations with double characteristics, Journal of Mathematical Analysis and Applications, 337 (2008) 1249-1260.

V. Т. T. Hien принадлежат доказательства лемм 1, 2, теоремы 2, предложения 1; Н. М. Чи принадлежат доказательства теорем 1, 3, 4, 5, леммы 3.

[28] N. М. Tri, Semilinear hypoelliptic operators with multiple characteristics, Trans. Amer. Math. Soc., 360 (2008), 3875-3907.

Подписало в печать /в.ОЗ.ОЗ Формат 60x90 1/16. Усл. печ. л. Тираж /20 экз. Заказ /6

Отпечатало с оригинал-макета на типографском оборудовании механико-математического факультета МГУ имени М. В. Ломоносова

ЧАСТЬ 1. БЕСКОНЕЧНАЯ ДИФФЕРЕНПИРУЕМОСТЬ

РЕШЕНИЙ.

ГЛАВА 1. НЕРАВНОМЕРНО ФУНДАМЕНТАЛЬНЫЕ

РЕШЕНИЯ И НЕОГРАНИЧЕННЫЕ РЕШЕНИЯ ОДНОРОДНЫХ ЛИНЕЙНЫХ ВЫРОЖДАЮЩИХСЯ ЭЛЛИПТИЧЕСКИХ УРАВНЕНИЙ.

1.1. Основные определения, гипергеометрические функции.

1.2. Случай конечного вырождения.31'

1.3. Случай бесконечного вырождения.

ГЛАВА 2. ГЛАДКОСТЬ РЕШЕНИЙ ПОЛУЛИНЕЙНЫХ

ВЫРОЖДАЮЩИХСЯ ЭЛЛИПТИЧЕСКИХ УРАВНЕНИЙ.

2.1. Вспомогательные утверждения.

2.2. Полулинейное уравнение типа Хёрмандера.

2.3. Полулинейные гипоэллиптические уравнения высшего порядка.

2.4. Полулинейное уравнение типа Джилиоли-Трева.

2.5. Уравнение с бесконечным вырождением.

ЧАСТЬ 2. АНАЛИТИЧНОСТЬ РЕШЕНИЙ.

ГЛАВА 3. НОВОЕ ДОКАЗАТЕЛЬСТВО АНАЛИТИЧНОСТИ И РЕГУЛЯРНОСТИ ПО ЖЕВРЕЮ РЕШЕНИЙ ЭЛЛИПТИЧЕСКИХ УРАВНЕНИЙ.

3.1. Леммы Фридмана.

3.2. Пространство Гёльдера с весом.

3.3. Оценки Дуглиса-Ниренберга.

3.4. Новый аргумент в доказательстве аналитичности и регулярности по Жеврею решений.

ГЛАВА 4. АНАЛИТИЧНОСТЬ И РЕГУЛЯРНОСТЬ ПО ЖЕВРБЮ РЕШЕНИЙ ПОЛУЛИНЕЙНЫХ УРАВНЕНИЙ ТИПА МИЗОХАТЫ.

4.1. Фундаментальное решение и формула представления.

4.2. Бесконечная дифференцируемость решений.

4.3. Аналитичность и регулярность по Жеврею.

ГЛАВА 5. АНАЛИТИЧНОСТЬ И РЕГУЛЯРНОСТЬ ПО ЖЕВРЕЮ РЕШЕНИЙ ПОЛУЛИНЕЙНЫХ УРАВНЕНИЙ ТИПА ДЖИЛИОЛИ-ТРЕВА.

5.1. Модельное уравнение типа Грушина на плоскости.

5.2. Уравнение типа Джилиоли-Трева.

ГЛАВА 6. АНАЛИТИЧНОСТЬ И РЕГУЛЯРНОСТЬ ПО

ЖЕВРЕЮ РЕШЕНИЙ ПОЛУЛИНЕЙНЫХ

УРАВНЕНИЙ КОНА-ЛАПЛАСА НА

ГРУППЕ ГЕЙЗЕНБЕРГА.

6.1. Полулинейное уравнение Кона-Лапласа.

6.2. Фундаментальное решение оператора

Кона-Лапласа.

6.3. Регулярность по Жеврею решений.

ЧАСТЬ 3. ГЛОБАЛЬНЫЕ СВОЙСТВА РЕШЕНИЙ.

ГЛАВА 7. СУЩЕСТВОВАНИЕ НЕТРИВИАЛЬНЫХ РЕШЕНИЙ КРАЕВОЙ ЗАДАЧИ ДЛЯ ПОЛУЛИНЕЙНЫХ ВЫРОЖДАЮЩИХСЯ ЭЛЛИПТИЧЕСКИХ УРАВНЕНИЙ.

7.1. Теоремы вложения типа Соболева.

7.2. Теоремы об существовании решений.

ГЛАВА 8. НЕСУЩЕСТВОВАНИЕ НЕТРИВИАЛЬНЫХ РЕ

ШЕНИЙ КРАЕВОЙ ЗАДАЧИ И РЕГУЛЯРНОСТЬ

РЕШЕНИЙ ВБЛИЗИ ГРАНИНЫ.

8.1. Обобщённые тождества Похожаева и теоремы об несуществовании решений.

8.2. Гладкость решений краевой задачи вблизи границы.

1. С ранних исследований дифференциальных уравнений с частными производными, теория эллиптических уравнений играла важную роль (см. Пуанкаре [164], Гильберт [116], Бернштейн [59] и Бре-зис-Браудер [71]). Центральными задачами в теории эллиптических уравнений и эллиптических систем были проблемы гладкости решений (свойство бесконечной дифференцируемости и аналитичности решений) и теория краевых задач. Не случайно, что эти проблемы связаны с 2 задачами из 23 задач Гильберта (см. [34], Олейник [31], Миранда [154] и Ерезис и Браудер [71]). В первой половине прошлого века крупные результаты в теории линейных и нелинейных эллиптических уравнений были достигнуты в великолепных работах (см. Петровский [163], Вишик [3], Лопатинский [23], Де Джорджи [84], Агмон, Дуглис, и Ниренберг [46], [47], Браудер [73], .). Многими свойствами эллиптических операторов обладают и широкие классы вырождающихся эллиптических (в. э.) операторов, которые изучаются интенсивно с середины 50-60 годов до настоящего дня. Мы коротко напомним главные результаты и историческое развитие в теории вырождающихся эллиптических уравнений, которые имеют близкое отношение к теме диссертации.

2. Бесконечная дифференцируемость решений. Теория гипоэллип-тических дифференциальных операторов берущая своё начало в работах Колмогорова [138], Вейля [226], Шварца [179] и Хёрмандера [118] является одним из важнейших разделов общей теории дифференциал-ных уравнений с частными производными. Основной задачей этой теории является выяснение структуры символов гипоэллиптических операторов. Грубо говоря, оператор P(x,D) с бесконечно дифференцируемыми коэффициентами является гипоэллиптическим оператором если из бесконечной дифференцируемости правой части вытекает бесконечная дифференцируемость обобщённых решений. Гипоэллип-тическими являются все эллиптические операторы. Для гипоэллиптических операторов с постоянными коэффициентами хорошо известны необходимые и достаточные условия. Оператор (в М") с постоянными коэффициентами Р(И) гипоэллиптичен тогда и только тогда существуют константы (7, в > 0 что для всех мульти-индексов а = (аь., ап) справе-длива оценка где £ Е Шп,С ^ |£|. Найменьшее число s (всегда достигается) в (0.0.1) называется показателем гипоэллиптичности оператора P(D). Имеется также некоторая формула для вычисления показателя гипоэллиптичности (см. Шилов [44]). Он оказывается рациональным и не меньше, чем единицу. Для операторов с переменными коэффициентами известны только отдельные достаточные условия, позволяющие устанавливать гипоэллиптичность различных классов операторов. Если оператор Р(х, D) имеет постоянную силу и при любом фиксированном х = хо £ ii оператор с постояными коэффисиентами P{xq1D) гипоэллиптичен, то гипоэллиптичен и оператор P(x,D). Однако, условие посто янной силы не является необходимым, например для уравнения в работе Колмогорова [138] в явном виде было найдено фундаментальное решение, которое является бесконечно дифференцируемой функцией вне диагонали. Отсюда следует, что оператор К гипоэллиптичен. Поэтому, естественно возникла задача об нахождении достаточных условий гипоэллиптических операторов, не обладающих постоянной силой. Трев [195], [196] и Хёрмандер [119] (см. также Егоров [16] и Тэйлор [193]) впервые доказали гипоэллиптичность операторов с медленно меняющейся силой, т. е. операторы удовлетворяющие следующим условиям:

Как сразу видно, класс операторов с медленно меняющейся силой обобщает класс операторов с постоянной силой. С развитием теории

0.0.1) з дифференциальных уравнений в частных производных, мощное понятие псевдодифференциальных операторов были введено в работах Маслова [24], и Кона, Ниренберга [133]. Понятие гипоэллиптичности можно естественно обобщить для них. Результаты об гипоэллиптиче-с'ких псевдодифференциальных операторах с медленно меняющейся силой получены в работах Хёрмандера [120] и Егорова [14]. Позже в работах Хёрмандера [121], [124] и Егорова [15], [16] был обнаружен очень важный подкласс гипоэллиптических операторов, а именно класс субэллиптических операторов, которые охватывают почти все гипоэ-ллиптические операторы с простыми характеристиками. Однако, до настоящего времени мы знаем ещё не много о структуре гипоэллиптических операторов с кратными характеристиками. Эта проблема привлекает большое внимание специалистов (см., например, Хёрмандер [122], Олейник и Радкевич [32], Кон [135], Шёстранд [182], Буте де Монвель, Григис и Хелффер [67], Фефферман и Фонг [92], Маскарело и Родино [148], . и ссылки там же). Фундаментальную роль в исследовании таких операторов сыграла работа Хёрмандера [122] о гипоэллиптичности оператора вида к

Р(х, D) = X? + Х0 + с(х), (0.0.2) i=i где с(х) G С°°(П) a Xq,Xi, . ,Xk - гладкие вещественные векторные поля в О и ранг алгебры Ли, порожденной полями Xq, ., X& равен размерности пространства R" в каждой точке О. Ротшильдом и Стей-ном [176] построен параметрикс для оператора (0.0.2). Большой цикл по гипоэллиптичности оператора вида

P(x,D) = at(x)X\ где i — (¿1,., ¿г) - мулти-порядок, XL = Xtl. .Xir, |t| = г, ц принимают значение от 1 до к, составляют работы Хелффера и Нурига [114] и Ротшильда [175]. Грушин [11] - [13] расмотрел гипоэллиптичность квазиоднородных операторов. Он впервые заметил дискретное явление: гипоэллиптичность семейства операторов нарушена на дискретном множестве параметров. Простейшим примером такого явления является множество операторов, зависящих от одного комплексного параметра А, на плоскости д2 д2 д

Оператор Gi,a является гипоэллиптическим тогда и только тогда, когда А ф 2N + 1, где N - целое число. Дальнейшим изучением дискретных явлений для множества операторов с конечным вырождением занимаются многие математики, в том числе Джилиоли и Трев [105], Меникофф [151], [152], Маскарело и Родино [147], Шёстранд [181] -[183], Хёрмандер [123], . и ссылки там же. Федий [36] и последовательно Моримото [156], и Моримото и Мориока [157] рассмотрели гипоэллип-тические операторы с бесконечым вырождением. Недавно, Хосиро [126] и Ягджан и Рейсиг [172] обнаружили дискретное явление для множества операторов с бесконечным вырождением.

2. Аналитичность решений. Свойство аналитичности решенй нелинейных эллиптических уравнений изучалось с начала двадцатого века. Эта проблема является одной из 23 знаменитых гипотез Гильберта. Она была решена Берштейном [59] для одного эллиптического уравнения второго порядка с двумя перемеными. Затем к концу 50 годов многие математики, в том числе, Жеврей [104], Жиро [107], Радо [171], Берштейном [61], Леви [142], Петровский [163], Моррей [158], Фридман [98], развили этот результат до полной общности. Установлено, что решение эллиптической системы любого порядка с любым числом переменных аналитично, если правая часть аналитична. В последующих годах исследование в этом направлении сосредоточено на линейные аналитически гипоэллиптические уравнения с аналитическими коэффициентами. Обзор результатов по проблеме аналитичности, полученных до 1940 г., содержится в статье Бернштейна и Петровского [2], до 1969 г. - в статье Олейник [31], до 1986 г., в статье Волевича и Олейник [8]. Грубо говоря, линейный оператор Р(х, Л) с аналитическими коэффициентами является аналитически гипоэллиптическим (з-гипоэллиптическим), если из аналитичности (в-регулярности по Жеврею) правой части следует аналитичность (я-регулярпость по Жеврею) решений. Здесь предполагаем, что в Е [1,оо). Из выше сказанного очевидно, что линейные эллиптические операторы с аналическими коэффициентами являются аналитически гипоэллиптическими. Аналитичность решений эллиптических псевдодифференциальных уравнений и систем доказана в работах Кре и Буте де Монвел:я [68] и Волевича [7]. Условие эллиптичности являет ся необходимым для аналитической гипоэллиптичности только в двух случаях. Петровский [163] (см. также [125], [16]) показал, что для линейных дифференциальных операторов с постоянными коэффициентами условие эллиптичности является и необходимым для аналитической гипоэллиптичности. Если Р{0) - гипоэллиптический оператор то он является бо-гипоэллиптическим, где во - показатель гипоэллиптичности Р{Р). Каннай [131] установил, что для обыкновенных дифференциальных операторов с аналитическими коэффициентами, условие эллиптичности также является необходимым для аналитической гипоэллиптичности. Однако, это условие не является необходимым в более общих ситуяциях. Мизохата [155] исследовал аналитичность решений линейных уравнений первого парядка с комплексными коэффициентами. Оператор, изучаемый Мизохатой, можно считать оператором Коши-Римана с вырождением. Трев [197] г [199] изучает необходимые и достаточные условия для аналитической гипоэллиптичности в классе операторов главного типа. В случае дифференциальных операторов главного» типа с аналитическими коэффициентами имеется достаточное условие аналитической гипоэллиптичности, формулируемое в терминах главного символа исходного оператора. В случае операторов, имеющих кратные характеристики, вопрос об условиях аналитической гипоэллиптичности существенно усложняется. Грушин [11] - [13] доказал аналитичность решений эллиптических уравнений вырождающихся на некотором подмногобразии. Для класса операторов, рассмотренных Грушиным в [11], необходимое условие для аналитической гипоэллиптичности оказывается и достаточным. Дериджи и Зуйли [85], [86], [228] рассмотрели регулярность по Жеврею решений уравнений типа суммы квадратов Хёрмандера. В течение некоторого времени считают, что для опраторов типа суммы квадратов Хёрмандера условие гипоэллиптичности также является условием аналитической гипоэллиптичности. Однако, Бауенди и Галауик [51] показали что оператор +х2— + — в М3 дх2 ду2 дг2 не является аналитически гипоэллиптическим. Этот оператор являет ся я-гипоэллиптическим только при э > 2. Трев [200] и Тартакофф [190] независимо друг от друга установили аналитическую гипоэллиптич-ность операторов, возникающих при изучении 5-задачи Неймана, частным случаем которых является оператор Кона - Лапласа на группе Гейзенберга. Окази [170] и Родино [174] опровергнули гипотезу Шварца, приведя пример аналитически гипоэллиптического оператора не являющегося д-гипоэллиптическим при в > во, где во есть некоторое вещественное число больше, чем единицу. Крист [80], [81] и Бове и Тартакофф [69] установили некоторые результаты на оптимальные показатели в я-гипоэллиптичности. Недавно, Трев [202] выдвинул гипотезу об аналитической гипоэллиптичности дифференциальных операторов второго порядка. Обзор по этой теме до сего дня имеется в [70], [203]. Хотя результаты в изучении аналитической гипоэллиптичности и я-гипоэллиптичности линейных дифференциальных операторов не до-стигнули совершенного уровня, но они уже являются достаточно тонкими. Однако, до настоящего времени изучение аналитически гипоэ-ллиптических и з-гипоэллиптических нелинейных операторов остаётся совсем не тронутым (не давно вышла работа Тартакоффа и Зангитари [192] на эту тему).

4. Краевые задачи. Интенсивное изучение краевых задач, между прочим, также связано с одной из гипотез Гильберта. Результаты в этом направлении громадны, так что невожмозно дать краткий обзор. Общие краевые задачи для линейных эллиптических уравнений изучились в многих работах, см. например Бернштейн [60], Лебег [143], Шаудер [177], Вишик [3], Олейник [30], Шапиро [180], Лопатин-ский [23], Агмон, Дуг лис, и Ниренберг [46], [47], Браудер [73], Шехтер [178], Агранович [1], Кальдерон [77], Лионе и Мадженес [144], Вишик и Грушин [4], . и ссылки там же. Краевые задачи для нелинейных эллиптических уравнений исследовались в работах Лерэ и Шаудера [140], Ниренберга [161], Гельфанда [9], Браудера [74] - [75], Похожаева [165] - [167], Лерэ и Лионса [141], Серрина [184], Ладыженской [22], Амбросетти и Рабиновича [48], Эванса [90], Брезиса и Ниренберга [72], Скрупника [185], Гильбарга и Трудингера [106], . и ссылках там же. Среди многих средств для изучения нелинейных краевых задач вариационный метод занимает особое место. Здесь именно мы сделаем ударение только на использование такого метода в исследовании нелинейных краевых задач. В работе Похожаева [166] рассматривает ся следующая краевая задача: г

Аи + ир = 0 в П и > О в п (0.0.3) 0 где 1<p<oohîî - ограниченная область с гладкой границей в Мп. Похожаев показал что если п = 2,1 < р - любое или п > 3,1 < р < то задача (0.0.3) всегда имеет решение. Однако, если п>3,р> и ÎÎ звёздная то задача (0.0.3) не имеет решений. При п > 3 показатель ро = играет очень важный роль в задаче (0.0.3) и называется критическим для задачи (0.0.3). Оно тесно связано с критическим значением q'o = в теореме вложения Соболева. Напомним, что если п = 2, то пространство Щ(£1) всегда вложено в ¿^(iî). Если п > 3, то пространство Щ(0) вложено в тогда и только тогда, когда 1 ^ р

Если 3 ^ п, 1 ^ р < Ро, то вложение является компактным. Задача (0.0.3) тоже связана с проблемой нахождения найлучшей константы в теореме вложения Соболева (см. Аубин [50] и Таленти [188], [189]). Амбросетти и Рабинович [48] изучили краевую задачу типа (0.0.3) но с ир замененным на up+f(x,u). Если 1 < р < и f(x,u) - хорошое возмущение, то у них также имеется теорема об существовании решений. А если fix,и) - нечётное, то существуют даже бесконечно много решений. Отметим, что в рассмотренных случаях компактность вложения влечёт за собой выполнение условий типа Палея - Смейля. В последние 30 лет специалисты начали рассмотреть краевые задачи для в. э. уравнений. Максимальный принцип, неравенство Харнака и гладкость слабых решений для гипоэллиптического оператора типа суммы квадратов Хёрмандера изучаются в работах Вони [64] - [66]. В работе Джерисона [127] рассмотрена задача Дирихле для линейных уравений Грушина и вещественных уравений Кона - Лапласа на группе Гейзен-берга. Как заметил Джерисон, вопрос об гладкости решений вблизи границы очень сложен и имеет глубокую связь с проблемой регулярности решений краевой задачи для эллиптических уравнений в негладких областях, изучаемых в работах Кондратьева [19], [20], Кондратьева и Олейник [21], Назарова и Пламеневского [29], Козлова, Мазьи и Россманна [139], . и ссылках там же. Эта проблема ожидает много интересных исследований и полное его изучение будет требовать применения новых техник. Немножко спустя, Джерисон и Ли [128] изучили проблему Ямабэ на группе Гейзенберга. Заметим, что эта проблема касается краевой задачи для нелинейных в. э. у. Теорема вложения пространств Соболева с весом присоединенных с в. э. операторами доказана в работе Капогна, Даниели и Гарофало [78]. Задача Дирихле для вещественного полулинейного оператора Кона - Лапласа на группе Гейзенберга исследуется в работе Гарофало и Ланконели [103]. Краевые задачи для полулинейных гипоэллиптических операторов типа суммы квадратов Хёрмандера рассмотрены Су [227] и Томас [194]. Недавно, критический показатель для краевой задачи для уравнения смешанного типа Трикоми обнаруживается в работе Лупо и Пауне [145]. Задача Дирихле для систем в. э. уравнений изучается в работах Чыонга и Кэ [82], [83]. Наконец, локальная разрешимость полулинейных в. э. уравнений рассматривается в ра-боте Грамчев и Родино [108]. Теперь передём к краткому описанию содержания диссертации.

5. Настоящая работа посвящена изучению полулинейных вырождающихся эллиптических уравнений. Она состоит из введения, трёх частей с восьмью главами и литературы.

В первой части исследуется бесконечная дифферепцируемость решений в. э. у. Она состоит из двух глав.

В главе 1 изучаются необходимые условия гипоэллиптичности в. э. операторов методом построения негладких (неограниченных) решений соответствующих однородных уравнений. Она состоит из трёх параграфов.

В параграфе 1.1 вводятся основные определения об пространстве функций Жеврея, гипоэллиптичности, аналитической гипоэллиптичности, я-гипоэллиптичности (по Жеврею). Такие понятия обсуждают ся в пункте I для линейных операторов, а в пункте II для нелинейных операторов. В пункте III этого параграфа приводятся короткие необходимые сведения об гипергеометричеких функциях Гаусса и Аппеля.

В параграфе 1.2 построены неограниченные решения однородного уравнения с конечным вырождением. В пункте I докажем • вспомогательные леммы. В пункте II этого параграфа формулируются и доказываются главные результаты. Отметим, что неограниченные решения однородного уравнения Кона - Лапласа на группе Гейзен-берга были конструированы Фолландом и Стейном в [94].

В параграфе 1.3 построены неограниченные решения однородного уравнения с бесконечным вырождением. Для семейств рассмотренных здесь операторов даются неограниченные решения во всех случаях где гипоэллиптичность нарушена. В этом параграфе предварительно доказываются вспомогательные леммы. Затем в пункте I формулируют ся главные теоремы. В пунктах II и III приводятся доказательства результатов, сформулированных в пункте I. Отметим, что из построения негладких решений в параграфах 1.2 и 1.3 вытекают не только необходимые условия для гипоэллиптичности но и необходимые условия для аналитической гипоэллиптичности и s-гипоэллиптичности для изучаемых классов в. э. операторов.

Глава 2 посвящена изучению достаточных условий гипоэллиптичности в. э. у. . Она состоит из пяти параграфов.

В параграфе 2.1 вводятся необходимые сведения об максимально 5-гипоэллиптичности операторов, построенных из заданных вещественных полей. Сформулируются условия Н, (Н)|, (K)f, (K')f. Конструкция поднятия векторных полей Ротшилдом и Стейном в [176] тоже напоминается.

В параграфе 2.2 доказывается гипоэллиптичность полулинейного оператора второго порядка, являющегося обобщением оператора типа суммы квадрата, рассмотренного Хёрмандером в [122]. Для получения результатов мы используем метод априорных оценок и наличие пара-метрикса линейной части изучаемого оператора.

В параграфе 2.3 изучается максимально ö-гипоэллиптичность в. э. у. высшего порядка, построенных из заданных вещественных полей. В пункте I этого параграфа доказываются максимально j-гипоэллипти-чность рассмотренных операторов при выполнении условий (Н)ь (K)f. Прямым методом установлены априорные оценки в этом случае. Отметим, что если I = 2, то требуется только условие (Н)2, так как в этом случае выполнение условия (Н)2 влечёт за собой условие (K)5j. В пункте II доказывается максимально ^-гипоэллиптичность операторов четвёртого порядка при выполнении только условия (Н)з. Сначала выведены априорные оценки для гипоэллиптичности рассмотренных операторов. Затем на основе только что доказанного можно установить максимально ^-гипоэллиптичность использованием техникой поднятия векторных полей, введенной в параграфе 2.1. Для иллюстрации полученных резултатов приведены примеры в обоих случаях.

В параграфе 2.4 методом использования фундаментального решения доказывается бесконечная дифференцируемость решений полулинейного уравнения, главная часть которого суть линейный оператор, рассмотренный Джилиоли и Тревом в [105]. Отметим, что даже для линейного случая это новое доказательство отличается от доказательства предложенного Джилиоли и Тревом.

В параграфе 2.5 изучается сравнительно новый класс уравнений с бесконечным вырождением. Через преобразование Фурье конструированы параметриксы для рассматриваемого уравнения. Гладкость решений: отсюда „вытекает. Как побочный продукт получаем также локальная разрешимость и локальная неразрешимость рассматриваемого уравнения.

Переходим к описанию второй части работы. Она занимается изучением аналитичности решений полулинейных в. э. у. Метод, использованный в исследовании эллиптических уравнений обобшается для достижения результатов. Настоящий метод впервые применяется для изучения полулинейных в. э. у. Предложенный метод, который будет проведён по индукции, основан на три главных этапах. Первый этап заключается в нахождении точного или даже приблизительного фундаментального решения главной (линейной) части изучаемого уравнения. С найденным фундаментальным решением можно написать интегральную формулу представления решения через нелинейную часть уравнений. Эта интегральная формула будет содержать два слагаемого: интегралы в области и на границе. На втором этапе оценим производные нелинейной части, зная в предположении индукции оценки младших производных решений. На заключителпном этапе определяем подходящие метрику и функциональное пространсрво. Часто, выбор метрики будет зависить от свойства найденного на первом этапе фундаментального решения. Теперь по выбранной метрике, для данной точки окружаем её некоторой фигурой, которую подберём как проше как можно. Во всех ситуяциях, где мы изучаем, в качестве фигуры достаточно выбрать квадрат или куб с пропоциональными сторопами.

Используя формулу представления выведенную на первом этапе можно выразить высшие производные решений в данной точке через сумму интегралов в области и на границе выбранной раньше нами фигуры. Как правило, интеграл по области хорошо оценивается. Главная трудность, которая отсутствует при изучении эллиптических уравнений, заключается в оценке интеграла на границе. Чтобы бороться с ней, нужно интегрировать по частям. При интегрировании по частям существенно используются специфики исследуемого уравнения. Это и есть центральная причина выбора простой фигуры (если граница состоит из прямых или плоских поверхностей, то легко интегрировать по частям). И выбор удобных пространств зависит от выкладок проделанных в этом месте. Кроме того, чтобы оценить подынтегральные функции, нужно выбрать фигуру в зависимости от точки, которую она окружает. В конце концов, нам хотелось установить оценки высших производных решений, которые удовлетворяли условиям леммы Фридмана. Применение этой леммы даёт нам нужные результаты. Теперь приступим к описанию четырёх глав содержащихся в этой части.

Глава 3 касается аналитичности решений нелинейных эллиптических уравнений. Здесь результаты хотя являются известными, но метод для их получения улучшается. Мы следуем методу Фридмана, но на заклютительном этапе применяем новый аргумент.

Глава 3 состоит из трёх параграфа. В параграфе 3.1 устанавливаются некоторые леммы Фридмана. Заметим, что здесь некоторые формулировки оригинальных лемм Фридмана улучшаются. Приведём доказательство очень важной леммы Фридмана (на самом деле, следствие 3.1.1), которое отсутствует в работах [97], [98] Фридмана.

В параграфе 3.2 определены пространства Гёльдера с весом и перечислены его свойства. Отметим, что эти пространства хорошо улавливают характеристические поведения решений эллиптических уравне-т ний вблизи границы.

В параграфе 3.3 вводятся оценки полученные Дуглисом - Ниренбер-гом в [87]. Эти оценки, которые можно считать априорными оценками в введённых в предыдущем параграфе пространствах Гёльдера с весом, играют очень важную роль в дальнейшем исследовании.

В параграфе 3.4 используя оценки Дуглиса - Ниренберга в предыдущем параграфе представляем новый аргумент в доказательстве аналитичности решений нелинейных эллиптических уравнений. Как видно из доказательства продемонстрированного в этом параграфе, аналитичность решений эллиптических систем по Дуглису - Ниренбергу, которые в общем случае не являются эллиптическими даже в смысле Петровского, тоже можно получить.

Глава 4 посвящена изучению бесконечной дифференцируемости, аналитичности и регулярности по Жеврею решений полулинейных в. э. у., главная часть которых является степенью оператора рассмотренного Мизохатой в [155]. Она состоит из трёх параграфа.

В параграфе 4.1 построено фундаментальное решение оператора, являющегося степенью оператора Мизохаты.

В параграфе 4.2 доказывается гипоэллиптичность исследуемого уравнения в этой главе.

В параграфе 4.3 устанавливаяется аналитичность и регулярность по Жеврею решений изучаемого уравнения в этой главе. Некоторые геометрические свойства фундаментального решения найденного в параграфе 4.1 существенно используются при доказательстве.

Глава 5 изучает аналитичность и регулярность по Жеврею решений полулинейных уравнений, главной частью которых служит оператор Джилиоли - Трева введённый в главе 1. Она содержит два параграфа.

В параграфе 5.1 доказываются теоремы об аналитичности и регулярности по Жеврею решений полулинейных уравнений, являющихся линейным возмущением модельного оператора Грушина на плоскости. Здесь существенно используются оценки гипергеометрических функций, напоминатых в главе 1.

В параграфе 5.2 устанавливаются теоремы об аналитичности и регулярность по Жеврею решений общего полулинейного уравнения типа

Джилиоли - Трева.

Глава 6 касается полулинейного уравнения типа Кона-Лапласа на группе Гейзенберга. Она содержит три параграфа.

В параграфе 6.1 вводится оператор Кона-Лапласа на группе Гейзенберга. Стоит заметить, что на группе Гейзенберга оператор Кона-Лапласа вырождается в каждой точке.

В параграфе 6.2 построено фундаментальное решение и исследованы некоторые его свойства. На основе полученного фундаментального решения определён оператор потенциала и выведена интегральная формула представления решений.

В параграфе 6.3 использованием свойств и установленных в параграфах 6.1 и 6.2 формул доказывается регулярность по Жеврею решений изучаемого уравнения.

Наконец, третья часть настоящей работы посвящена исследованию глобальных свойств решений полулинейных в. э. у. Она содержит две главы. В этой части изучаем краевую задачу для полулинейных в. э. у. в ограниченной области. Отметим, что в отличие от в. э. у. рассмотренных в предыдущих частях, здесь уравнения могут иметь коэффициенты, не принадлежащие пространствам бесконечно дифференцируемых или аналитических функций. Это и понятно потому что в настоящей части мы заинтересуемся нетолько бесконечно дифференцируемыми или аналитическими решениями но и решениями имеющими низкую гладкость. Вместе, главы 7 и 8 показывают, что явление критического показателя, присущее краевой задаче для эллиптических уравнений, тоже наблюдается в краевой задачи для в. э. у. Однако, здесь критический показатель меньше, чем тот в эллиптическом случае. Кроме размерности обьёмляющего пространства он зависит также от порядка вырождения исследуемых уравнений. Теперь передём к описанию отдельных глав в настоящей части.

В главе 7 изучается существование нетривиальных решений краевой задачи полулинейных в. э. у. Эта глава состоит из двух параграфа.

В параграфе 7.1 доказываются теоремы вложения пространств Соболева. с весом, присоединённые с в. э. у. Главное доказательство, использующее только неравенство Гёльдера, по своей идее напоминает доказательство теоремы вложения классического пространства Соболева, предложенное Гальярдом и Ниренбергом в [102] и [162]. Подчёркиваем, что пространства, изучаемые в настоящем параграфе, могут не обладать бесконечно дифференцируемым весом. Поэтому доказательства, имеющиеся в некоторых дригих работах, в общем случае не применяются здесь.

В параграфе 7.2 вариационым принципом доказываются теоремы об существовании нетривиальных решений в пространствах, изученных в предыдущем параграфе. Если нелинейное возмущение дополнительно обладает свойством нечётности, то задача имеет много решений. В пункте I перечислаем теоремы Амбросетти и Рабиновича в [48] об критических значениях нелинейного функционала в Банаховом пространстве. В пункте II на основе установленных теорем вложения в параграфе 7.1 и перечисленных теорем в предыдущем пункте доказаны теоремы об существовании и наличии много решений нашей задачи.

Последная глава уделяет внимание проблеме несуществования не-тривальных решений краевой задачи, рассмотренной в предыдущей главе и вопросу об гладкости собственных функций вблизи границы. Она состоит из двух параграфа.

В параграфе 8.1 установлены обобщённые тождества Похожаева. Отсюда вытекают теоремы об несуществовании нетривиальных решений. Особенно отметим, что для уравнений с бесконечным вырождением рассморенных в первой части, если нелинейная часть имеет суперлинейный рост, то краевая задача может не иметь нетривиального решения.

В параграфе 8.2 исследуется гладкость собственных функций краевой задачи вблизи границы путём использования найденных в первой части фундаментальных решений. В пункте I установлены существование последовательности собственных функций и их свойства. В пункте II через обобщённое преобразование Кельвина, при некоторых геометрических условиях на границы доказывается их гладкость вблизи границы.

В заключение автор выражает глубокую благодарность профессору Ю. В. Егорову за постоянное внимание и большую помощь в работе, профессорам В. А. Кондратьеву, В. П. Маслову и С. И. Похожаеву за поддержки и внимание к работе.

1. М. С. Агранович, Эллиптические сингулярно интегро-дифферен-циальные операторы, УМН, 20 (1965), 3-120.

2. С. Н. Бернштейн, И. Г. Петровский, О первой краевой задаче (задаче Дирихле) для уравнения эллиптического типа и свойствах функций, удовлетворяющих этим уравнениям, УМН, 8 (1941), 8-26.

3. М. И. Вишик, О сильно эллиптических системах уравнений, Матем. сб., 29 (1951), 615-676.

4. М. И. Вишик, В. В. Грушин, Эллиптические краевые задачи, вырождающиеся на подмногообразии границы, ДАН СССР, 190 (1970), 255-258.

5. В. С. Владимиров, Уравнения Математической Физики, М., 1976.

6. Л. П. Волевич, Об общих системах дифференциальных уравнений, ДАН, 132 (1960), 20 23.

7. Л. П. Волевич, Псевдодифференциальные операторы с голоморфными символами и классы Жевре, Труды Моск. матем. о-ва, 24 (1971), 43-68.

8. Л. П. Волевич, О. А. Олейник, Об аналитичности решений систем уравнений с частными производными, В кн. Избранные труды И. Г. Петровского, М.: Наука, 1986.

9. И. М. Гельфанд, Некоторые проблемы в теории квази-линейных уравнений, УМН, 14 (1959), 87-158.

10. И. М. Гельфанд, Г. Е. Шилов, Обобщённые Функции, Вып. 1, 2, 3, Физматгиз, 1958.

11. В. В. Грушин, Об одном классе гипоэллиптических операторов, Матем. сб., 83 (1970), 456-483.

12. В. В. Грушин, Об одном классе эллиптических псевдодифференциальных операторов, вырождающихся на подмногобразии, Матем. сб., 84 (1971), 163-195.

13. В. В. Грушин, Гипоэллиптические дифференциальные уравнения, Матем. сб., 88 (1972), 501-521.

14. Ю. В. Егоров, Гипо эллиптические псевдодифференциальные операторы, Труды Моск. матем. об-ва, 16 (1967), 99-108.

15. Ю. В. Егоров, О су б эллиптических операторах, УМН, 2 (1975), 57-114, 57-104.

16. Ю. В. Егоров, Линейные Дифференциальные Уравнения Главного Типа, Москва, Наука, 1984, 360.

17. Ю. В. Егоров, В. А. Кондратьев, О задаче с косой производной, Матем. сб., 78 (1969), 148-176.

18. А. Н. Колмогоров, С. В. Фомин, Элементы Теории Функций и Функционального Анализа, Москва, Наука, Физматгиз, 1981.

19. В. А. Кондратьев, Краевые задачи для эллиптических уравнений в областях с коническими и угловыми точками, Труды Моск. матем. о-ва, 16 (1967), 209-292.

20. В. А. Кондратьев, Особености задачи Дирихле для эллиптических уравнений второго порядка в окрестности ребра, Дифф. уравн., 13 (1977), 2026-2032.

21. В. А. Кондратьев, О. А. Олейник, Краевые задачи для уравнений с частными производными в негладких областях, УМН, 38 (1983), 3-76.

22. О. А. Ладыженская, Краевые Задачи Математической Физики, Наука, 1973.

23. Я. Б. Лопатинский, Об одном способе приведения граничных задач для системы дифференциальных уравнений эллиптического типа к регулярным интегральным уравнениям, Укр. мат. журн., 5 (1953), 123-151.

24. В. П. Маслов, Теория Возмущений и Асимптотические Методы, М., МГУ, 1965.ЛИТЕРАТУРА 307

25. В. П. Маслов, Канонический оператор на Лагранжевом многообразии и регуляризатор для псевдо-дифференциальных операторов и разностных схем, ДАН СССР, 195 1970, 551-554.

26. В. П. Маслов, Операторные Методы, М., Наука, 1973.

27. С. Г. Михлин, Курс Математической Физики, Наука,1968.

28. С. Г. Михлин, Линейные Уравнения в Частных Производных, Москва, Высшая школа, 1977.

29. С. А. Назаров, Б. А. Пламеневский, Эллиптические Задачи в Областях с Кусочно Гладкой Границей, Наука, Москва, 1991.

30. О. А. Олейник, О свойствах решений некоторых краевых задач для уравнений эллиптического типа, Матем. сб., 30, (1952), 695-702.

31. О. А. Олейник, К девятнадцатой проблеме Гильберта, В кн.: Проблемы Гильберта, М.: Наука, (1969), 206-208.

32. О. А. Олейник, Е. Б. Радкевич, Уравнения второго порядка с неотрицательной характеристической формой, Итоги Науки. Мат. анализ. -М.:ВИНИТИ, 1971.

33. И. Г. Петровский, Лекции об Уравнениях с Частными Производными, Физматгиз, 1961.

34. Проблемы Гильберта, М.:Наука, 1969.

35. С. Л. Соболев, Некоторые Применения Функционального Анализа в Математической Физике, -Л.: Издательство ЛГУ,1950.

36. В. С. Федий, О одном условии гипоэллиптичности, Матем. сб., 85 (1971), 18-48.

37. Н. М. Чи, О свойстве глобальной гипоэллиптичности одного дифференциального оператора высокого порядка , Дифф. Уравн., 26 (1990), 687-692.

38. Н. М. Чи, Гипоэллиптические псевдодифференциальные операторы четвертого порядка с неинволютивным характеристическим множеством, Вестн. МГУ, (1990), 71-73.

39. Ю. В. Егоров, Н. М. Чи, Максимально гипо эллиптические операторы с неинволютивным характеристическим множеством, ДАН СССР., 314 (1990), 1059-1061.

40. H. M. Чи, О свойстве глобальной гипоэллиптичности одного дифференциального оператора, Матем. Зам., 49 (1991), 147-149.

41. Ю. В. Егоров, H. М. Чи, Об классе максимально гипоэллипти-ческих операторов, Труды Сем. Петровского, 17 (1994), 3-26.

42. H. М. Чи, Об уравнении Грушина, Матем. Зам., 63 (1998), 95-105.

43. H. М. Чи, Некоторые примеры негипоэллиптических бесконечно вырождающихся эллиптических дифференциальных операторов, Матем. Зам., 71 (2002), 567-580.

44. Г. Е. Шилов, Математический Анализ, Второй специальный курс, Наука, 1965.

45. М. А. Шубин, Псевдодифференциальные Операторы и Спектральная Теория, Москва, Физматгиз, Наука, 1978.

46. S. Agmon, A. Douglis, L. Nirenberg, Estimates near the boundary for solutions of elliptic partial differential equations satisfying general boundary conditions, I; Comm. Pure Appl. Math., 12 (1959), 623-727.

47. S. Agmon, A. Douglis, L. Nirenberg, Estimates near the boundary for solutions of elliptic partial differential equations satisfying general boundary conditions, II, Comm. Pure Appl. Math., 17 (1964), 35-92.

48. A. Ambrosetti, P. Rabinowitz, Dual variational methods in critical point theory and applications, Journal of Functional Analysis, 14 (1973), 349-381.

49. P. Appel, J. Kampé de Fériet, Functions Hyperg¿métriques et Hyper-sphériques. Polynomes d'Hermite, Gauthier-Villars, 1926, 434.

50. T. Aubin, Problème isopérimètriques et espaces de Sobolev, J. Diff. Geom., 11 (1976), 573-598.

51. M. S. Baouendi, C. Goulaouic, Nonanalytic-hypoellipticity for some degenerate elliptic operators, Bull. A. M. S., 78 (1972), 483-486.

52. J. Barros-Neto, I. M. Gelfand, Fundamental solutions of the Tricomi operator, Duke Math. J., 98 (1999), 465-483.

53. J. Barros-Neto, I. M. Gelfand, Fundamental solutions of the Tricomi operator1., Duke Math. J., 117 (2003), 385-387.

54. J. Barros-Neto, I. M. Gelfand, Fundamental solutions of the Tricomi operator

55. I, Duke Math. J., 128 (2005), 119-140.ЛИТЕРАТУРА sog

56. H. Bateman, A. Erdelyi, Higher Transcendental Functions, vol. I, McGraw-Hill, New York, 1953, 302.

57. R. Beals, Solutions fondamentales exactes, Journées Équations aux dérivées partielles, Saint-Jean-de-Monts (1976), 11-19.

58. R. Beals, A Note on fundamental solutions, Comm. Part. Diff. Equat., 24 (1999), 369-376.

59. R. Beals, P. Greiner, Calculus on Heisenberg Manifolds, Annals of Math. Study, Princeton University Press, 119 (1988), 194.

60. S. Bernstein, Sur la nature analytique des solutions des équations aux dériveés partielles du second ordre, Math. Ann., 59 (1904), 20-76.

61. S. Bernstein, Sur la généralisation du problème de Dirichlet, I, II, Math. Ann., 62 (1906), 253-272; 69 (1910), 82-136.

62. S. Bernstein, Démonstration du thérème de Hilbert sur la nature analytique des solutions des équations du type elliptique sans l'emploi des series normales, Math. Z., 28 1928, 330-348.

63. I. Birindelli, I. Capuzzo Dolcetta, A. Cutri, Indefinite semi-linear equations on the Heisenberg group: A priori bounds and existence, Comm. Part. Diff. Equat., 23 (1998), 1123-1157.

64. P. Bolley, J. Camus, B. Helffer, Sur une classe d'opérateurs partiellement hypoelliptiques, J. Math. Pures Appl., 55 (1976), 131-171.

65. J. M. Bony, Principe du maximum dans les espaces de Sobolev, C. R. Acad. Sei. Paris, 265 (1967), 333-336.

66. J. M. Bony, Sur la régularité des solutions du problem de Dirichlet pour les opérateurs elliptiques dégénérés, C. R. Acad. Sei. Paris, 267 (1968), 691-693.

67. J. M. Bony, Principe du maximum, inégalité de Harnak et unicité du problème de Cauchy pour les opérateurs elliptiques dégénérés, Ann. Inst. Fourier Grenoble, 19 (1969), 277-304.

68. L. Boutet de Monvel, A. Grigis, B. Helffer, Parametrixes d'operateurs pseudodijferentiels a caractéristiques multiples, Asterique, 34-35 (1976), 93121.

69. L. Boutet de Monvel, P. Krée, Pseudodifferential operators and Gevrey classes, Ann. Inst. Fourier Grenoble, 27 (1967), 295-323.

70. A. Bove, D. Tartakoff, Optimal non-isotropic Gevrey exponent for sums of squares of vector fields, Comm. Part. Diff. Equat., 22 (1997), 1263-1282.

71. A. Bove, Gevrey hypo-ellipticity for sums of squares of vector fields: some examples, Contemp. Math., 368 (2005), 41-68.

72. H. Brezis, F. Browder, Partial differential equations in the 20th century, Adv. Math. 135 (1998), 76-144.

73. H. Brezis, L. Nirenberg, Positive solutions of nonlinear elliptic equations involving critical Sobolev exponents, Comm. Pure Appl. Math., 36 (1983), 437-477.

74. F. Browder, Estimates and existence theorems for elliptic boundary value problems, Proc. Nat. Acad. Sc. USA, 45 (1959), 365-372.

75. F. Browder, Nonlinear elliptic boundary value problems, Bull. Amer. Math. Soc., 69 (1963), 862-874.

76. F. Browder, Fixed point theory and nonlinear elliptic problems, Bull. Amer. Math. Soc., 9 (1983), 1-39.

77. L. Caffarelli, J. J. Kohn, L. Nirenberg, J. Spruck, The Dirichlet problem for nonlinear second order elliptic equations, II, Comm. Pure Appl. Math., 38 (1985), 209-252.

78. A. P. Calderon, Boundary value problems for elliptic equations, Proceedings of the joint Soviet-American symposium on partial differential equations, Novosibirsk Acad. Sci. USSR, 1963, pp. 1-4.

79. L. Capogna, D. Danielli, N. Garofalo, An Embedding theorem and the Har-nack inequality for nonlinear subelliptic equations, Comm. Part. Diff. Equat., 18 (1992), 1765-1794.

80. L. Cattabriga, L. Rodino, L. Zanghirati, Analytic-Gevrey hypoellipticity for a class of pseudo-differential operators with multiple characteristics, Comm. Part. Diff. Equat. , 15 (1990), 81-96.

81. M. Christ, A necessary condition for analytic hypoellipticity, Math. Research Letters, 1 (1994), 241-248.

82. M. Christ, Intermediate optimal Gevrey exponents occur, Comm. Part. Diff. Equat., 22 (1997), 359-379.

83. N. М. Chuong, Т. D. Ке, Existence of solutions for a nonlinear degenerate elliptic system, Electron J. Differential Equations, 93 (2004), 1-15.

84. N. M. Chuong, T. D. Ke, Existence results for a semilinear parametric problem with Grushin type operator, Electron J. Differential Equations, 94 (2005), 1-12.

85. E. DeGiorgi, Sulla differenziabilita, e I'analiticita delle estremali degli inte-grali multipli regolari, Mem. Accad. Sc. Torino, C. Sc. Fis. Mat. Natur., 3 (1957), 25-43.

86. M. Derridj, Unprobleme aux limites pour une classe d'operateurs du second ordre hypoelliptiques, Ann. Inst. Fourier Grenoble, 21 (1971), 99-148.

87. M. Derridy, C. Zuily, Regularite Gevrey des operateur de Hormander, J. Math. Pures Appl., 57 (1973), 309-336.

88. A. Douglis, L. Nirenberg, Interior estimates for elliptic systems of partial differential equations, Comm. Pure Appl. Math., 8 (1955), 503-538.

89. Yu. V. Egorov, V. A. Kondratiev, On Spectral Theory of Elliptic Operators, Birkhauser, Basel Boston - Berlin, 1996.

90. Yu. V. Egorov, Y. Ilyasov, On multiple solutions for elliptic boundary value problem with two critical exponents, To appear (2006).

91. L. C. Evans, Classical solutions of fully nonlinear, convex, second order elliptic equations, Comm. Pure Appl. Math., 35 (1982), 333-363.

92. E. B. Fabes, С. E. Kenig, R. P. Serapioni, The local regularity of solutions of degenerate elliptic equations, Comm. Part. Diff. Equat., 7 (1982), 77-116.

93. C. Fefferman, D. Phong, The uncertainty principle and sharp Garding inequalities, Comm. Pure and Appl. Math., 34 (1981), 285-331.

94. G. B. Folland, J. J. Kohn, The Neumann Problem for the Cauchy-Riemann Complex, Annals of Math. Study, Princeton University Press, 75 (1972), 146p.

95. G. B. Folland, E. M. Stein, Estimates for the дь complex and analysis on the Heisenberg group, Comm. Pure Appl. Math., 27 (1974), 429-522.

96. G. B. Folland, Subelliptic estimates and function spaces on nilpotent Lie groups, Arkiv Mat., 13 (1975), 161-207.

97. G. В. Folland, Applications of analysis on nilpotent groups to partial differential equations, Bull. Amer. Math. Soc., 83 (1977), 912-930.

98. A. Friedman, On classes of solutions of elliptic linear partial differential equations, Proc. Amer. Math. Soc., 8 (1957), 433-442.

99. A. Friedman, On the regularity of the solutions of non-linear elliptic and parabolic systems of partial differential equations, J. Math. Mech., 7 (1958), 43-59.

100. A. Friedman, Partial Differential Equations, New York: Holt, Rinehart and Winston, 1969.

101. К. O. Friedrichs, The identity of weak and strong extensions of differential operators, Trans. Amer. Math. Soc., 55 (1944), 132-151.

102. К. O. Friedrichs, On the differentialibility of the solutions of linear elliptic differential equations, Comm. Pure Appl. Math., 6 (1953), 299-326.

103. E. Galiardo, Ulteriori proprietà di alcune classi di funzioni in piu variabili, Ric. Mat., 8 (1959), 24-51.

104. N. Garofalo, E. Lanconelli, Existence and nonexistence results for semilinear equations on the Heisenberg group, Indiana Univ. Math. J., 41 (1992), 71-98.

105. M. Gevrey Sur la nature analytique des solutions des équations aux dériveés partielles, Ann. Éc. N. Sup., 35 (1918), 127-190.

106. A. Gilioli, F. Treves, An example in the solvability theory of linear PDE's, Amer. J. Math., 96 (1974), 367-385.

107. D. Gilbart, N. S. Trudinger, Elliptic Partial Differential Equations of Second Order, Springer, 1997, 517p.

108. G. Giraud, Sur la problème de Dirichlet généralise; équations non linéaires à m variables, Ann. Èc. N. Sup., 43 (1926), 1-128.

109. T. Gramchev, L. Rodino, Gevrey solvability of partial differential operators with multiple characteristics, Boll. U. M. I., Sez В (1999), 65-120.

110. P. C. Greiner, E. M. Stein, Estimates for the d-Neumann problem, Math. Notes, 19, Princeton University Press, Princeton, New Jersey, 1971.

111. A. Grigis, L. Rothschild, A criterion for analytic hypoellipticity of a class of differential operators with polynomial coefficients, Ann. Math., 118, (1983) 443-460.

112. N. Hanges, A. A. Himonas, Singular solutions for a class of Grushin type operators, Proc. Amer. Math. Soc., 124 (1996), 1549-1557.

113. B. Helffer, Theorie Spectrale pour des Operateurs Global Elliptiques, Uni-versidade Federal de Pernambuco, Notas de Curso, 1981.

114. B. Helffer, Conditions nécessaires d'hypoanalyticité pour des opérateurs invariants à gauche homogènes sur un groupe nilpotent gradué, J. Diff. Equat., 44 (1982), 460-481.

115. B. Helffer, J. Nourrigat, Hypoellipticite Maximal pour des Operateurs Polynomes de Champ de Vecteur, Birkhauser, (1985), 275 p.

116. B. Helffer, L. Rodino, Opérateurs différentiels ordinaires intervenant dans l'étude de l'hypo-ellipticité, Bolletino U. M. I., 14-B (5) (1977), 491-522.

117. H. Hilbert, Uber das Dirichletsche prinzip, Jahresbericht Deut. Math.-Ver. VIII (1900), 184-188.

118. E. Hopf, Ubër den funktionalen insbesondere den analytischen Charakter der lösungen elliptischer differentialgleichungen zweiter Ordnung, Math. Z., 34, (1931), 194-233.

119. L. Hörmander, On the theory of general partial differential equations, Acta Math., 94, (1955), 161-248.

120. L. Hörmander, Hypoelliptic differential operators, Ann. Inst. Fourier Grenoble, 11 (1961), 477-492.

121. L. Hörmander, Pseudodifferential operators and hypoelliptic equations, Proc. Symp. Pure Math., 10 (1966), 138-183.

122. L. Hörmander, Psedo-differential operators and non-elliptic boundary problems, Ann. Math., 83 (1966), 129-209.

123. L. Hörmander, Hypoelliptic second-order differential operators, Acta Math., 119 (1967), 147-171.

124. L. Hörmander, A class of hypoeliptic pseudodifferential operators with double characteristics, Math. Ann, 217 (1975), 165-188.

125. L. Hörmander, Subelliptic operators, Seminar on Singularities of Solutions of Linear Partial Differential Equations. Ann. Math. Studies, 91 (1979), 127-207, Princeton University Press, Princeton, New Jersey.

126. L. Hörmander, The Analysis of Linear Partial Differential Operators, I-IV, Springer-Verlag Berlin Heidelberg, 1983, 1985.

127. T. Hoshiro, Some examples of hypoelliptic operators of infinitely degenerate type, Osaka J. Math., 30 (1993), 771-782.

128. D. Jerison, The Dirichlet problem for the Kohn Laplacian on the Heisenberg group, II, Journal of Funt. Anal., 43 (1981), 224-257.

129. D. S. Jerison, J. M. Lee, The Yamabe problem on CR manifolds , J. Diff. Geom., 25 (1987), 167-197.

130. H. Lewy, Uber den analytischen charakter der lösungen elliptischer differentialgleichungen, Göttingen. Nach., (1927), 178-186.

131. К. Kajitani i S. Wakabayashi, Propagation of singularities for several classes of pseudo-differential operators, Bull. Sc. Math., 115 (1991), 397-449.

132. Y. Kannai, An unsolvable hypoelliptic differential equations, Isr. J. Math., 9 (1971), 306-315.

133. J. J. Kohn, L. Nirenberg, Non-coercive boundary value problems, Comm. Pure Appl. Math., 18 (1965), 443-492.

134. J. J. Kohn, L. Nirenberg, An algebra of pseudo-differential operators, Comm. Pure Appl. Math., 18 (1965), 269-305.

135. J. J. Kohn, Pseudo-differential operators and non-elliptic problems, Pseudodifferential operators, С. I. M. E. Stresa (Italy), 1968, 157-165.

136. J. J. Kohn, Pseudo-differential operators and hypo-ellipticity, Proc. Symp. Pure Math., 23 (1973), 61-69.

137. J. J. Kohn, Subelliptic estimates, Proc. Symp. Pure Math., 35 (1979), 143152.

138. J. J. Kohn, Hypoellipticity at points of infinite type, Contemp. Math., 251, Amer. Math. Soc., Providence, RI, 251 (1998), 393-782.

139. A. H. Kolmogorov, Zufällige Bewegungen, Ann. of Math., 35, (1934), 116117.

140. V. A. Kozlov, V. G. Mazya, J. Rossmann, Elliptic Boundary Value Problems in Domain with Points Singularities, Matli. Surveys Monographs, 52 (1997), Amer. Math. Society.

141. J. Leray, J. P. Schauder, Topologie et équations fonctions fonctionelles, Ann. Sei. Ее. Norm. Sup., 51 (1934), 43-78.

142. J. Leray, J. L. Lions, Quelques résultat de Visik sur les problèmes elliptiques nonlinéaires par les méthod de Minty-Browder, Bull. Soc. Math. Fr., 93 (1965), 97-107.

143. H. Lewy, Neuer beweis des analytischen characters des lösundgen elliptischer differentialgleichungen, Math. Ann., 101 (1929), 605-619.

144. H. Lebesgue, Sur le probleme de Dirichlet, Rend. Cire. Mat. Palermo, 24 (1907), 371-402.

145. J. L. Lions, E. Magenes, Problèmes aux limites non homogenes et applications, 3 vol. -Paris: Dunod, 1968.

146. D. Lupo, K. Payne, Critical exponents for semilinear equations of mixed elliptic-hyperbolic and degenerate type, Comm. Pure Appl. Math., LVI (2003), 403-424.

147. M. Mascarello, Su alcune funzioni speciali che intervengono nello studio dell'ipoellitticita, Rend. Sem. Mat. Univ. Politec. Torino, 36 (1977-1978), 343-349.

148. M. Mascarello, L. Rodino, A class of pseudodifferential operators with multiple non-involutive characteristics, Ann. Scoula Norm. Sup. Pisa, Ser. IV, 8 (1981), 575-603.

149. M. Mascarelo, L. Rodino, Partial Differential Equations with Multiple Characteristics, Academie-Verlag, 1997, 352 p.

150. V. P. Maslov, The characteristics of pseudodifferential operators and difference schemes, Actes Congrès Intern. Math, 2 (1970), 755-769.

151. A. Melin, Free systems of vector fields, Seminair Goulaouic Schwartz, (1977/1978), 7pp, École Polytech., Palaiseau, 1978.

152. A. Menikoff, Some examples of hypoelliptic partial differential equations, Math. Ann., 221 (1976), 176-181.

153. A. Menikoff, Psedo-differential operators with double characteristics, Math. Ann., 231 (1977), 145-180.

154. G. Metivier, Analytic hypoellipticity for operators with multiple characteristics, Comm. Part. Diff. Equat., 6 (1980), 1-90.316 ЛИТЕРАТУРА

155. С. Miranda, Partial Differential Equations of Elliptic Type, Springer-Verlag, 1970, 370.

156. S. Mizohata, Solutions nulles et solutions non analytiques, J. Math. Kyoto Univ., 1 (1962), 271-302.

157. Y., Morimoto, On the hypoellipticity for infinitely degenerate semi-elliptic operators, J. Math. Soc. Japan, 30 (1978), 327-358.

158. Y. Morimoto, T. Morioka, The positivity of Schrôdinger operators and the hypoellipticity of second order degenerate elliptic operators, Bull. Sc. Math., 121 (1997), 507-547.

159. С. B. Morrey On the analyticity of the solutions of analytic nonlinear systems of partial differential equations I, II, Amer. J. Math., 80 (1958), 198218, 219-237.

160. С. B. Morrey, Multiple Integrals in the Calculus of Variations, Berlin -Heidelberg New York: Springer - Verlag, 1966.

161. С. B. Morrey, L. Nirenberg, On the analiticity of the solutions of linear elliptic systems of partial differential equations, Comm. Pure Appl. Math., 10 (1957), 271-290.

162. L. Nirenberg, On nonlinear elliptic partial differential equations and Holder continuity, Comm. Pure Appl. Math., 6 (1953), 103-156.

163. L. Nirenberg, Elliptic partial differential equations, Ann. Sc. Norm. Pisa, 13 (1959), 115-162.

164. I. G. Petrovskii, Sur l'analyticite des solutions des systèmes d'équations différentielles, Matem. Sbornik (N. S.), 5(47) (1939), 3-70.

165. H. Poincare, Sur les équation aux derivées partielles de la physique mathématique, Amer. J. Math., 12 (1890), 211-294.

166. S. I. Pokhozaev, The boundary value problem for equation Au = и2, Russian Dokl. Akad. Nauk SSSR, 138 (1961), 305-308.

167. S. I. Pokhozaev, Eigenfunctions for the equation Au + Af(u) = 0, Russian Dokl. Akad. Nauk SSSR, 165 (1965), 33-36.

168. S. I. Pokhozaev, The solvability of nonlinear equations with odd operators, Funk. Analiz i Prilozhenie, 1 (1967), 66-73.

169. P. R. Popivanov, Construction of solutions of pseudo-differential equations with given singularities, C. R. Acad. Bulgare Sei., 34 (1981), 165-167.

170. P. R. Popivanov, Microlocal hypoellipticity of some classes of differential operators, Annuaire Univ. Sofia. Fac. Math. Mec., 79 (1989), 301-311.

171. T. Okaji, Gevrey hypoellipticity operators which are not C°°-hypoelliptic, J. Math. Kyoto Univ., 28 (1988), 311-322.

172. T. Rado, Das Hilbertsche theorem über den analytishen charakter der lösungen der partiellen differentialgleichungen zweiter Ordnung, Math. Z., 25 (1926), 514-589.

173. M., Reissig, K., Yagdjan, An interesting connection between hypoellipticity and branching phenomena for certain differential operators with degeneracy of infinite order, Rend. Mat. Appl., 15 (1995), 481-510.

174. L. Rodino, Gevrey hypoellipticity for a class of operators with multiple characteristics, Asterique, 89-90 (1981), 249-262.

175. L. Rodino, On linear partial operators with multiple characteristics, Teubner-Texte zur Mathematik, 112 (1989), 238-249.

176. L. P. Rothschild, A criterion for hypoellipticity of operators constructed from vector fields, Comm. Part. Diff. Equat., 4 (1979), 247-320.

177. L. P. Rothschild, E. M. Stein, Hypoelliptic differential operators and nilpotent groups, Acta Math., 137 (1976), 247-320.

178. J. P. Schauder, Über linear elliptische differentialgleichungen zweiter Ordnung, Math. Z., 38 (1934), 257-282.

179. M. Schechter, Various types of boundary conditions for elliptic equations, Comm. Pure Appl. Math., 13 (1960), 407-425.

180. L. Schwartz, Theorie des Distributions I, II, Hermann, 1950, 1951.

181. Z. Shapiro, On general boundary problems for equations of elliptic type, Из. Акад. Наук СССР, 17 (1953), 539-562.

182. J. Sjöstrand, A class of pseudo-differential multiple characteristics, C. R. Acad. Sei. Paris, Ser A., 275 (1972), 817-819.

183. J. Sjöstrand, Parametrices for psedodifferential operators with multiple characteristics, Arkiv Mat., 12 (1974), 85-130.318 ЛИТЕРАТУРА

184. J. Sjôstrand, Propagation of singularities for with multiple involutive characteristics, Ann. Inst. Fourier Grenoble, 27 1976, 141-155.

185. J. Serrin, The problem of Dirichlet for quasilinear elliptic differential equations with many independent variables, Philos. Trans. Roy. Soc. London., 264 (1969), 413-496.

186. I. V. Skrypnik, Methods of analysis of nonlinear elliptic boundary value problems, Trans. Math. Monographs, 139 (1991).

187. E. M. Stein, Singular Integrals and Differentiability Properties of Functions, Princeton, New Jersey: Princeton University Press, 1970.

188. K. Taira, On a class of hypoelliptic differential operators with double characteristics, J. Math. Soc. Japan, 45 (1993), 391-419.

189. G. Talenti, Best constant in Sobolev inequality, Ann. Mat. Рига Appl., 110 (1976), 353-372.

190. G. Talenti, Elliptic equations and rearrangements, Ann. Scuola Norm. Sup. Pisa, 3 (1976), 697-718.

191. D. Tartakoff On the local real analiticity of solutions to and the B-Neumann problem, Acta. Math., 145 (1980), 177-204.

192. D. Tartakoff, Gevrey and analytic hypoellipticity, Microlocal Analysis and Spectral Theory (Lucca, 1996), NATO Adv. Sci. Inst. Ser С Math. Phys. Sci. 490, Kluwer Acad. Publ., Dordrecht, (1997), 39-59.

193. D. Tartakoff, L. Zanghirati Local real analiticiti of solutions for sums of squares of nonlinear vector fields, J. Diff. Equat., 213 (2005), 341-351.

194. M. Taylor, Pseudodifferential Operators, Princeton: Princeton University Press, 1981.

195. B. Thomas, Viscosity solutions on Grushin type planes, Illinois J. Math., 46 (2002), 893-911.

196. F. Treves, Opérateurs différentiels hypo-elliptiques, Ann. Inst. Fourier Grenoble, 9 (1959), 1-73.

197. F. Treves, An invariant criterion of hypoellipticity, Amer. J. Math., 63 (1961), 645-688.

198. F. Treves, Hypoelliptic equations of principal type, sufficient conditions and necessary conditions, Comm. Pure Appl. Math., 24 (1971), 631-670.

199. F. Treves, A new method of proof of the subelliptic estimates, Comm. Pure Appl. Math., 24 (1971), 71-115.

200. F. Treves, Analytic hypoellipticity for partial differential equations of principal type, Comm. Pure Appl. Math., 24 (1971), 537-567.

201. F. Treves Analytic hypo-ellipticity of a class of pseudo-differential operators with double characteristics and application to the 8—Neumann problem, Comm. Part. Diff. Equat., 3 (1978), 745-642.

202. F. Treves Pseudo-Differential Operators and Fourier Integral Oprators, Plenum Press, 1982.

203. F. Treves, Symplectic geometry and analytic hypo-ellipticity of differential equations, La Pietra 1996, Proceed. Sympos. Pure Math. A. M. S., 65 (1999), 201-219.

204. F. Treves, Symplectic geometry and anahjticity of solutions of second order partial differential equations, в печати, (2006).

205. N. M. Tri, Critical Sobolev exponent for degenerate elliptic operators, Acta Math. Vietnam., 23 (1998), pp. 83-94.

206. N. M. Tri, Semilinear perturbations of powers of the Mizohata operator, Comm. Part. Diff. Equat. 24 (1999), 325-354.

207. N. M. Tri, On the Gevrey analyticity of solutions of semilinear perturbations of powers of the Mizohata operator, Rend. Sem. Mat. Univ. Politec. Torino, 57 (1999), 37-57.

208. N. M. Tri, Remark on non-uniform fundamental solutions and non-smooth solutions of some classes of differential operators with double characteristics, J. Math. Sci. Univ. Tokyo , 6 (1999), 437-452.

209. N. M. Tri, Non-smoothxsolutions for a class of infinitely degenerate elliptic differential operators, Vietnam J. Math., 28 (2000), pp. 159-172.

210. N. M. Tri, A note on necessary conditions of hypoellipticity for some classes of differential operators with double characteristics, Kodai Math. J., 23 (2000), 281-297.

211. N. M. Tri, On local properties of elliptic degenerate semilinear partial differential operators, Proceedings of the Hanoi Conference on Partial Differential Equations and Their Applications, pp. 41-55, 2000.

212. N. M. Tri, On local properties of some classes of infinitely degenerate elliptic differential operators, Rend. Sem. Mat. Univ. Politec. Torino, 59 (2001), 277-288.

213. N. M. Tri, On the Gevrey regularity of solutions of a class of semilinear elliptic degenerate equations on the plane, J. Math. Sci. Univ. Tokyo , 9 (2002), 217-255.

214. N. M. Tri, Gevrey regularity of solutions of semilinear hypoelliptic equations on the plane, Microlocal Analysis and Related Topics, RIMS, 1261 (2002), 140-149, the University of Kyoto.

215. N. M. Tri, New argument for the Gevrey regularity of solutions of nonlinear elliptic PDES, Russ. J. Math. Phys., 10 (2003), 353-358. '

216. M. Calanchi, L. Rodino, N. M. Tri, Solutions of logarithmic type for elliptic and hypoelliptic equations, Ann. Univ. Ferrara, XLI (1997), 111-127.

217. N. M. Chuong, L. Q. Trung, N. M. Tri, Theory of Partial Differential Equations, Vietnam Science and Technique Publisher, 1995.

218. N. M. Chuong, H. T. Ngoan, L. Q. Trung, N. M. Tri, Partial Differential Equations, Vietnam Education Publisher, 2000, Book in Vietnamese.

219. N. Т. C. Thuy, N. M. Tri, Some existence and non-existence results for boundary value problem (BVP) for semilinear elliptic degenerate operators, Russ. J. Math. Phys., 9 (2002), 366-371.

220. N. M. Tri, V. Т. T. Hien, Gevrey regularity of solutions of semilinear equations with double characteristics, Preprint of Institute of Mathematics, 2005, Hanoi, Vietnam.

221. N. M. Tri, Non-linear hypoelliptic operators, Preprint of Institute of Mathematics, 2006, Hanoi, Vietnam.

222. S. Wakabayashi, M. Suzuki, Microhypoellipticity for a classes of pseudodifferential operators with double characteristics, Funkciaj Ekvacioj, 36 (1993), 519-556.

223. H. Weyl, The method of orthogonal projection in potential theory, Duke Math. J., 7 (1940), 411-444.

224. C. J. Xu, Semilinear subelliptic equations and Sobolev inequality for vector fields satisfying Hormander condition, Chinese Journal of Contemporary Mathematics, 15 (1994), 183-192.

225. Условие звёзности 291, 295Фм.-й 195 Критический показатель 292r0 = k + 2,Fktx(x,y,u,v) 196 Собственные значения 298