Исследование пространств Соболева в областях с особенностями тема автореферата и диссертации по математике, 01.01.01 ВАК РФ

Введение.

1. Предварительные сведения

§ 1.1. Обозначения и определения.

§ 1.2. Функции с обобщёнными производными

§ 1.3. Классы областей.

§ 1.4. Плотность гладких функций в пространствах Соболева

§ 1.5. Неравенство Пуанкаре и эквивалентные нормы в пространствах

Соболева.

§ 1.6. О продолжении функций за пределы области определения.

§ 1.7. Теорема вложения Соболева

§ 1.8. Теоремы о компактности.

2. Продолжение функций, определённых в областях, зависящих от параметров

§ 2.1. Оценки нормы оператора продолжения во внешность и внутрь малой области

§ 2.2. Продолжение с нулевыми граничными условиями

§ 2.3. О наилучшем операторе продолжения из малой области

§ 2.4. Внутренность тонкого цилиндра

§ 2.5. Сглаживающий оператор

§ 2.6. Продолжение во внешность тонкого цилиндра.

§ 2.7. Операторы продолжения для некоторых областей, зависящих от параметров.

Комментарии к главе

3. Граничные значения функций с первыми производными из

Ер в областях, зависящих от параметров.

§ 3.1. Следы на малых и больших компонентах границы

§ 3.2. Пространство следов для тонкого цилиндра

§ 3.3. Неравенства для функций, определённых на цилиндрической поверхности

§ 3.4. Норма в пространстве ТИ^ для внешности п-мерного цилиндра, р < п —

§ 3.5. Внешность цилиндра, случай р > п —

§ 3.6. Зависящая от £ норма в пространстве Т\¥р для внешности цилиндра ширины е, р = п —

Комментарии к главе

4. Продолжение функций во внешность области с вершиной пика на границе

§ 4.1. Интегральные неравенства для функций в областях с пиками

§ 4.2. Внешний пик. Оператор продолжения: Vp(Q) V^CT(Rn), lp<n

§ 4.3. Случай lp = n

§ 4.4. Внешний пик. Продолжение при 1р > п —

§ 4.5. Внутренние пики

§ 4.6. Оператор продолжения: V?'(Rn), q<p

Комментарии к главе

5. Теоремы вложения для пространств Соболева в областях с внешними пиками.

§ 5.1. Оценки производных функции, усреднённой по части переменных.

§ 5.2. Непрерывность оператора, вложения: Q) Lq(Q) для области с внешним пиком

§ 5.3. О компактности оператора, вложения: V^J(iî) —)> Lq(Q)

§ 5.4. Теоремы вложения для возмущённых пиков.

§ 5.5. Некоторые контрпримеры к теоремам вложения для пространств

Соболева

§ 5.6. Разрешимость задачи Неймана для эллиптических уравнений высокого порядка.

Комментарии к главе

6. Граничные значения функций из пространств Соболева в некоторых нелипшицевых областях

§ 6.1. Шаровые покрытия открытого множества, связанные с лишшщевой функцией.

§ 6.2. Следы функций, определённых в области между двумя липшицевыми графиками

§ 6.3. Области, дополнительные к областям между липшицевыми графиками

Комментарии к главе

7. Граничные следы функций из пространств WjJ (П) в областях с пиками.

§ 7.1. Следы функций с градиентом из L\

§ 7.2. Пространство TWUQ), р> 1, для области с внешним пиком

§ 7.3. Граничные значения функций из И7^ (П) для области О С К" с внутренним пиком, р £ (1, п — 1)

§ 7.4. Внутренний пик, случай р—п —

Пространства функций с производными из Ьр, называемые пространствами Соболева, занимают важное место в различных областях современного анализа, например, в теории дифференциальных уравнений в частных производных, теории аппроксимации, теории потенциала. Начиная с тридцатых годов, указанные функциональные классы интенсивно изучались, и к настоящему моменту многие проблемы, связанные с ними, уже решены. Была построена более или менее завершённая теория пространств Соболева, на, всём евклидовом пространстве или на областях с регулярной границей, нашедшая отражение в книгах С. Л. Соболева [63], Ч. Б. Морри [113], И. М. Стейна [66], Р. А. Адамса [77], О. В. Бесова, В. П. Ильина и С. М. Никольского [8], С. М. Никольского [52], Ю. Г. Решетняка [59], В. М. Гольдштейнаи Ю. Г. Ре-шетняка [20], В. Г. Мазья [37], Д. Р. Адамса и Л. И. Хедберга [76], В. И. Бу-ренкова [83] и других. Однако современное состояние теории пространств Соболева в областях с негладкой границей нельзя назвать удовлетворительным. В настоящей диссертации делается попытка частично заполнить этот пробел.

Диссертация содержит семь глав. В первой главе приводятся предварительные сведения. Здесь, как правило без доказательств, но с необходимыми ссылками и комментариями формулируются используемые далее известные факты из теории пространств Соболева. В этой главе дан также краткий обзор результатов по продолжению функций из классов Соболева за пределы области определения с сохранением класса и обзор некоторых обобщений классической теоремы вложения Соболева. Приведённые в первой главе сведения служат материалом для ссылок в последующих главах.

Главы 2 и 3 посвящены изучению пространств Соболева в областях, завися щих от малых или больших параметров таким образом, что гргшица области теряет гладкость при стремлении указанных параметров к своим предельным значениям. Естественно ожидать, что при этом "хорошие" свойства пространств Соболева вырождаются. Нас интересует скорость вырождения оператора продолжения во внешность области и оператора сужения на границу области, т.е. мы должны выявить зависимость подходящих характеристик этих операторов (на,пример, их норм) от упомянутых выше параметров. Такой анализ интересен не только сам по себе: он оказывается полезным при обосновании формальных асимптотик решений краевых задал для дифференциальных уравнений в сингулярно возмущённых областях (см. книгу В. Г. Мазья, С. А. Назарова и Б. А. Пламеневского [105]).

В частности, для малого положительного параметра е мы даём в главе 2 точные двусторонние, зависящие от е оценки нормы оператора продолжения, переводящего функции из пространства Соболева на малой n-мерной области диаметра е или на тонком цилиндрическом //-мерном слое ширины е в функции из пространства Соболева на всём R". Эти оценки используются в главе 4 при построении ограниченного оператора продолжения, переводящего функции из пространства Соболева на области с внешним пиком в весовое пространство Соболева на R," с оптимальным весом.

Глава 3 содержит (среди прочих результатов) точные двусторонние, зависящие от малого положительного параметра оценки нормы оператора сужения на границу, действующего в пространстве Соболева первого порядка на внутренности или внешности малой области а также на внутренности или внешности тонкого цилиндра. Эти оценки используются в последующих главах при исследовании граничных следов функций из пространств Соболева в нелипшицевых областях.

В главах 4-7 изучаются свойства пространств Соболева в областях, имеющих особенности на границе. В частности, такими особенностями могут быть изолированные пики, направленные как внутрь области, так и в её внешность. Предметом нашего исследования являются теоремы ^вложения пространств Соболев;! в пространство Lp и некоторые другие функциональные пространства (включая выяснение условий полной непрерывности операторов вложения), теоремы о продолжении функций из пространств Соболева за пределы области определения и описание граничных значений функций с градиентом из L}).

Эти теоремы с помощью известных рассуждений общего характера приводят к условиям разрешимости краевых задач для уравнений в частных производных и к описанию структуры спектра соответствующих дифференциальных операторов (см. О. А. Ладыженская и Н. Н. Уральцева [29], Д. Гилбарг и Н. Трудингер [16], В. Г. Мазья [37]). Некоторые приложения упомянутых теорем к теории дифференциальных уравнений в частных производных рассматриваются в § 5.6 и в § 7.5.

Перечислим основные результаты работы. Пусть Q - область в Rn, т.е. открытое связное множество. При 1 < р < оо и натуральном I обозначим через Vj(ÍÍ) пространство Соболева., состоящее из определённых в О функций с конечной нормой

INv^íí) = J2k=0 llvHU„w

Здесь VfcU означает градиент порядка к функции и. Будем говорить, что Í1 принадлежит классу EVp, если существует линейный непрерывный оператор

Е : V¡(ü) -> ^'(R»), который является оператором продолжения, т.е. Ей = и для всех u G V^(íi).

Во второй главе исследуются операторы продолжения, действующие в пространствах Соболева на. областях класса EV^, зависящих от малых или больших параметров таким образом, что предельные области не принадлежат классу EVjr Нас интересует скорость вырождения этих операторов при стремлении упомянутых параметров к своим предельным значениям. В частности, в этой главе устанавливаются двусторонние оценки норм произвольных операторов продолжения

E:Vi(ü£)^V'(Gg), и F:Vi(Ge\Tie)-+Vl(Ge). (1)

Здесь е - малый положительный параметр, и < д < сю,

0£ = {ех : х £ ß}, Ge — {дх : х 6 G}, ile С Ge,

QnG- ограниченные области в Rw, G содержит начало координат. В случае д — ос полагаем Ge = Ii". Получены следующие результаты.

1°. Пусть R" \ Q £ EVI ж ПУСТЬ dist(fie,Rn \ Ge) > се, где dist означает расстояние между множествами и с > 0 - постоянная, не зависящая от "сингулярных" параметров t, д. Тогда существует линейный оператор продолжения F, норма которого ограничена равномерно относительно с, д.

2°. Если О (Е EVL то верно соотношение

-"/?min {д"1р,еп1р-1} при 1р<п, inf||E||~ { £~lmm{gl, | logе\{1~р)/р} при 1р = п, ruin {¿У" /р,1} при 1р > п.

Символ ~ означает эквивалентность, равномерную относительно £, д.

При условии il £ EVp в гл. 2 изучается также оператор продолжения £ : V'(£ls) —> Vp^R") с минимальной нормой. В случае (I — 1 )р < п получена асимптотика такой нормы при ¿: —> +0. В частности, показано, что если р = 2. I = 1, п > .3, то любой оператор) продолжения £ удовлетворяет условию f sn(n — 2) cap 1

11 11 " V mesn(ii) J e' и существует линейный оператор продолжения £, для которого sn(n — 2) cap

OV/2 1 + о(1)

If II < mesn(i2)

Здесь sn - площадь сферы Sn~ '. cap - ёмкость Винера в Rra и of 1) - положительная бесконечно малая при е —> +0.

Аналогичные результаты доказаны для операторов продолжения во внешность и внутрь тонкого цилиндрического слоя. Положим {(y,z) G R"+s : у/е G о; С R", г € Rs} ,

Cre = {{y,z) Е Rn+S : у/q G <7 С R\ Rs} , где ui ~ ограниченная липшицева область и д ограниченная область, содержащая начало координат. Пусть е означает малый положительный параметр, 1L С G„, и пусть Е, F - произвольные операторы продолжения, указанные в (1). Тогда приведённые выше утверждения 1° и 2° верны и для цилиндрических слоёв iL, Ge.

Сформулируем основные результаты третьей главы. Пусть О С R" -ограниченная липшицева область. Через TV J (ft) обозначим пространство следов и | функций и £ V* (О) на границе dil области О. По определению

Ц/ЦтУрЧ^) = inf{IMk;'(fi) : м|вп = /}•

Согласно теореме Гальярдо [91] пространство Т}']1 (ft) совпадает с Li(dil), а при р G (1, ос) пространство TVp(il) совпадает с пространством Tp(dQ) функций на Ш с конечной нормой (//«,« ^-^iH^)1''где dsx,dsy - элементы площади поверхности dil. Предположим, что Qe -липшицева область, зависящая от малого положительного параметра е таким образом, что предельная область lime»o Qe не является липшицевой. Тогда эквивалентные нормы

II • 11хурнМ И II ' Р е (Л00)?

II • llrv'/iii,) И II • IUi(0iis) могут не быть равномерно эквивалентными относительно е. В третьей главе мы находим явно определяемую, зависящую от с норму функции на, dils. которая эквивалентна норме || • \\-pv1 (ns) равномерно относительно £ для некоторых областей, зависящих от параметров. К числу таких областей относятся, в частности, малые области и тонкие (ширины е) цилиндры или их внешности.

Пусть il С Rn - ограниченная односвязная липшицева область. Для малого положительного е положим ilr — {ж G R" : х/е G О}. Оказывается, что норма i I,/' 117 'V71 {Q г ) равномерно относительно е эквивалентна норме f)P,aae = a(e)\\f\\bp{dnE) + ( if \f(x) - f(y)\pQ£(x,y)dsxdsy] ' ,

J J diiexdns / где dsXldsy - элементы площади поверхности сШ£, а(е) = с1 ^ а весовая функция Qe определена равенством

2-п-р^ если если р= 1 при г = \х — у\.

Норма ||/||7'yi(Rre\j2 ) также эквивалентна (равномерно относительно е) норме (f)P,aae, где

Г mт{е(1-р)/р, е(1~п)/р}, если рфп, а^ ~~ 1 (е| log е\){1~р^р, если р = п,

Qe(x,y) = 0 при р — 1 и Qe(x,y) = Г2~п~р при pG (1, оо).

Пусть Qe - тонкий цилиндр вида iîE — и>е х R1 С Rra, где п >2, шг = {у G R"-1 : у¡е G oj} и а; С R71-1 - односвязная липшицева, область с компактным замыканием. Тогда следовая норма ||/||г V'^fi«,) равномерно относительно £ эквивалентна норме (f)p,diîc- если а(е) — £1^р, г2~п~Рх(г/£) при р G (1, оо), Qe{x,y)=< s1 пх(г/е) при р = 1.

Здесь х ~ характеристическая функция интервала (0,1) и г = \х — у|.

Для внешности тонкого цилиндра норма Ц/Цуу^цг,^) оказывается эквивалентной (равномерно относительно е) норме (f)Ptaue при f тЦе'1"^', если р ф п - 1, о(£) = ^ (£|1оё£|)(1^')/?, если р=п- 1 и г 0, если р = 1,

Qe(x,y) г2~п-р, если р £ (1, п — 1), r2-ni' + e2(2-n)r-1(log(l + r/£))~p, если р = п - 1, г2-п-р + е2(2-п)гп-2-Р^ еспи р ç ^ оо).

Во всех перечисленных выше случаях существует оператор продолжения: Ту1(П£) (или ^(К^а-)), норма которого ограничена равномерно относительно е. Этот оператор линеен при р > 1 и нелинеен при р = 1.

Четвёртая глава посвящена продолжению функций из классов Соболева, определённых в областях, имеющих изолированные пики на границе. Типичной областью с вершиной внешнего пика на границе является область

П = {х = {у, г) е Кп : г € (0,1), \у\ < <р(г)}, п > 2, (2) h.z

Vi /

Рис. 1 где Iр - функция из С'3 ([0,1]), удовлетворяющая условиям * И(ол] > ^(0) = <¿>'(0) = 0, функция (0,1] Э z Н> ipiz)/z не убывает, а кроме того, <p(2z) < const <f(z) при 2 G (0,1/2] (см. рис. 1).

Нетрудно построить примеры, показывающие, что Q $ EV> при р < ос', п > 2, а также R2 \ И EV^ в плоском случае при р > 1. С другой стороны, по теореме продолжения П. Джонса [100] имеем R" \ il f EV^ если п > 2, 1<р<оои/=1,2,.

Пусть а - ограниченная неотрицательная измеримая функция на R", которая отделена от нуля во внешности любого шара, с центром в начале координат. Обозначил! через Vj ^(R") весовое пространство Соболева с нормой ll«llvji<r(R") = 2^к=о II^^H^iR")

Это пространство, очевидно, шире, чем V^(Rn}. Оказывается, что при подходящем выборе веса <т существует линейный непрерывный оператор продолжения: Vp{ii) —> Vp CT(Rn). В гл. 4 описан оптимальный выбор а. Именно, перечисленные требования на функцию tp выбраны здесь для простоты формулировок. На самом деле их можно существенно ослабить. для того чтобы существовал линейный непрерывный оператор продолжения: Vp(Q.) —>- ), достаточно, а если <т(х) зависит только от |х| и не убывает вблизи \х\ =0, то и необходимо, чтобы неравенство

Т(х) < const (<^(|а;|)/|а;|)т!1,^(п-1)/р}, 1р ф п - 1, выполнялось в окрестности начала координат с постоянной, не зависящей от х. В случае 1р = п — 1 некоторые дополнительные ограничения (не исключающие, впрочем, степенные пики) накладываются на функцию (р. В этом случае указанное неравенство заменяется неравенством а(х) < const (^(|Ж|)/|х|)'|1о§(^(|х|)/|Ж!)|(1-р)/р.

В четвёртой главе также найдены точные условия на параметры />, с/, L п и функцию ^ обеспечивающие существование линейного непрерывного оператора продолжения: Vp'(fi) —> V^R") при q < р. Если lq ф п — 1, то существование такого оператора оказывается равносильным неравенству

1 / zß \ "/(/»-I) dz

•<« = i Ы Т < - С) где l/q - 1/р = l(ß - 1 )/(ß(n - 1) + 1) при lq < п - 1 и l/q — 1/р = (га — 1)(/3 — 1)/гар при lq > га — 1.

В случае lq = п — 1 в подынтегральную функцию In(ß) следует добавить множитель | log(c^(2:)/^)|7, где

7 = (1 - 1/д)/(1/р- 1/9), /? = (rcjp - q)l(q(n - 1))

Пусть - плоская область, определённая в (2). Сформулируем некоторые результаты о продолжении функций из области R2 \ Q, также полученные в гл. 4. Если а - такая весовая функция, что 0"|r2\q = 1 и а(х) < const(lp(z)/z)1 при х = (у, г) е О и всех достаточно малых г, то существует линейный непрерывный оператор продолжения: V/ (R2 \ О) —у Vp' (R2). Последнее нера-венст'во необходимо для существования указанного оператора продолжения, если <т(х) зависит только от гг при х <Е Q и не убывает. В частности, имеем R2\ÜG evf.

Предположим для определённости, что замыкание области ÍÜ при п = 2 содержится в круге {ж (Е R.2 : < 2} и рассмотрим плоскую область D -{х : х 6 R2 \ О, jх| < 2}. Оказывается, что существование ограниченного линейного оператора продолжения: Vp(D) —У при 1 < q < р < оо равносильно неравенству (3), где и = 2, 1/q 1/р ={l~ 1 /р)(13 - 1 )/{3 + 1).

В пятой главе изучается непрерывность и компактность вложений

Vlp(ü) С Lq(tt), V¿(Ü) СОДП (ü) для области с вершиной внешнего пика на границе. Сформулируем полученные здесь результаты на примере типичной области О, определённой в (2) и изображённой на рис. 1. Легко убедиться, что для таких областей теорема вложения Соболева неверна.

Мы покалываем, что при р < q < оо неравенство г \1/q / Г1 rC-i)W(P-i) \ i-i/p пактности того же оператора необходимо и достаточно, чтобы равносильно непрерывности оператора вложения: V^(fi) —> а для ком

1/9 / Г1 7(l-l)p/(p-l) \ lim

-г-1*) (/ ,(>-„/„-»■^

Кроме того, оператор вложения: Х'ДО) —С(О), р > 1. компактен одновременно с его непрерывностью, и это имеет место тогда и только тогда, когда о

В гл. 5 рассматриваются также примеры малых возмущений пиков вблизи вершины. "Улучшим" пик О двумя способами, положив {.г = (е, 1)} и = О и {.г : |я| < е}.

Выясняется, что операторы вложений для предельного соболевского показателя q = пр(п — 1р)~1. lp < п, вырождаются с разной скоростью в том смысле, что их нормы, вообще говоря, не эквивалентны равномерно относительно £ при е —у +0.

В шестой главе изучается пространство TV J (Ш следов функций и Е Vp (Q,) для некоторого класса областей, допускающих особенности на границе типа нулевых рёбер, 2тг-рёбер, а также касание гиперповерхностей в точке как показано на рис. 2, 3. Для таких областей теорема Гальярдо [91] может нарушаться. Сформулируем основные результаты шестой главы.

Пусть g - область в R"-1. Предположим, что ip2 - функции на. g. удовлетворяющие условию Липшица (т.е. — v?i(£)| < const |х — для всех ж, £ G g и i = 1, 2), а также условиям < с/?2 на g и <р\ = Lp2 на 3g. Рассмотрим область

П = {х = (y,z) € R" :УеС, ZE (Ыу),Ыу))} , п > 2- (4)

Уп-1

Рис. 2

Рис. 3

Нижнюю и верхнюю части дО, обозначим через £"1 и £2 соответственно, т.е. = {(2/,<Му)): г = 1,2, ср. рис. 2). Пусть р €Е (1, оо) и пусть / - функция на ¿Ш, локально суммируемая на <5^ и £2- Тогда / £ ТУр1^) в том и только в том случае, если правая часть следующего соотношения конечна и, более того, / |/(у, ¥»2 (у)) - /(у, VI (у)) Г г; 2 г=1

1/0*0-/(01' dsxds£ r.feSirii-iK^MC»^)} k-ei

1 /р n+p—2 где х = (у, г), £ = <1вх,с1з£ - элементы площади поверхности 5"! и р = Ф2 — фу, А ~ положительная постоянная (которая может быть выписана явно), зависящая только от п и постоянной Липшица для функции <р и

М(у,г/) =тах{у>(у), (¿>(г/)}.

Знак ~ означает эквивалентность норм. Аналогичный результат имеет место для р = 1:

2 /' интуцп) /, 1 \ку,му)) - яу,мушу с1зхс1з£ £ Ц !./•(•'•)• /(О!

Предположим, что область С из определения (4) ограничена и лшппицева. Тогда пространство Т1у (К" \ р е (1, оо), описывается соотношением р

1у а пространство ТУ/(К" \ 12) совпадает с 1/1 (ЗГ2).

В седьмой главе изучается пространство следов ТУр(Щ в случае, когда область имеет вершину внешнего или внутреннего пика на границе. Выясняется, что для таких областей граничные значения функций из (П) характеризуются конечностью нормы

1 = ( [ Iпх)\1>(1(х)сьх + 11 \/(х) - тт^.м»^

Jdii ./¿дПхдО

1 /р 1 где <1 и Ц - неотрицательные весовые функции, а с/л,,, (¡яс элементы площади поверхности дИ.

Опишем полученные в седьмой главе результаты на примере области О, определённой в (2) при п > 2. Пусть / - функция на ОН с носителем в малой окрестности вершины пика. Тогда / £ ТV^ Ш), р £ (1,оо), в том и только в том случае, если Ц/Ц^зо < оо, где 0 < q(x) < const <p'(z), \x tf-n-P при |г-С| <M(z,C), zX e (0,1), = \ n 0 в остальных случаях, x = (y,z),£ = (г/, С) и M(z,() = max{<p(2),¥>(C)}. При этом норма ¡/¡„.дн эквивалентна, норме Ц/Цт!^1 (íí) •

Необходимым и достаточным условием принадлежности функции / пространству TVp (Rn \ Q) является неравенство Щ/Ц^аа < ос, в котором p{z)l~p при 1 < р < п - 1, . {v{z)\\og(v{z)lz)\y~P при р = п- 1, íp(z)2~n при р > п — 1 и Q(x, () ф 0 только если z1 ( G (0,1). Для таких пар £ díl весовая функция Q определяется следующим образом. В случае р < п — 1

2 — п—р

Той же формулой значение Q(x, £) определяется и в случае р > п — 1, ¡ж — < M(z, £). Наконец, если — > M(z7 £), то и

МО)2 П, Р>п- 1.

Норма l/ljp^n с такими весами q, Q эквивалентна норме ||/||yy-i(Rr,\írr При р = п — 1 на функцию ip накладываются некоторые дополнительные условия.

Определенная на дО, функция / с носителем в малой окрестности начала координат принадлежит пространству XV",1 (Щ тогда и только тогда, когда. ffl/|||i,<?n < ос., где

0 < q(x) < const

M(z, C)1n при z, с e (o, i), ¡z - d < M(z, C), [Ов остальных случаях.

Кроме того, нормы ||/||ryi(fi) 11 III/III 1,an эквивалентны.

Большое влияние на автора оказала совместная работа с профессором В. Г. Мазья. Она способствовала более широкому и глубокому пониманию изучаемого предмета, за что автор приносит В. Г. Мазья свою искреннюю благодарность.

Автор благодарен Ю. В. Нетрусову и Ю. К. Демьяновичу за обсуждения и полезные советы.

Исследования автор;! были частично поддержаны РФФИ грантом 96—01 00481 и КР грантом ЫУУ-ЗОО.

Основные результаты диссертации опубликованы в работах [38-46], [5356], [107-109], [116] а также в монографии [110].

Основные результаты главы 7 были анонсированы в заметке [107] и доказаны в работах [43], [45]. Они также изложены в книге [110], гл. 7.

В случае р = 2 теоремы 7.2, 7.3 и 7.4.2 получены в статье В. Г. Мазья [36] с использованием аппарата преобразования Фурье.

При р > 1 гранитные значения функции класса \¥р (О) в областях с пиками были также получены в работе М. Ю. Васшшчика [13]. В указанной работе применялась подходящая заменой переменной, сводящая описание пространства следов функций из 1Ур(£2), сосредоточенных в окрестности вершины пика, к исследованию граничных следов функций из некоторого весового класса \¥р в стандартном цилиндре (или его внешности).

1. Альфорс Л., Лекции по квазиконформным отображениямМир, М. 1969, 132 с.

2. Бабич В. М., К вопросу о распространении функций, Успехи Мат. Наук 8 (1953), 111-113.

3. Бабич В. М., Слободецкий Л. Н., Об ограниченности интеграла, Дирихле, Докл. АН СССР 106 (1956), 604-607.

4. Бесов О. В., К теории вложения и продолжения классов дифференцируемых функций, Мат. заметки 1 (1967), N 2, 235-250.

5. Бесов О. В., Интегральные представления функций и теоремы вложения для области с условием гибкого рога, Тр. МИАН СССР 170 (1984), 12-30.

6. Бесов О. В., О компактности вложений весовых прост,ранет,в Соболева на области с нерегулярной границей, ДАН 376 (2001), 727-732.

7. Бесов О. В., Ильин В. П., Естественное расширение класса областей в теоремах вложения, Мат. сб. 75 (1968), 483 495.

8. Бесов О. В., Ильин В. П., Никольский С. М., Интегральные представления функций и теоремы вложения, Наука, М., 1996, 480 с.

9. Бирман М. Ш., Соломяк М. 3. Спектральная теория самосопряжённых операторов в гильбертовом пространстве, Изд. ЛГУ, Л. 1980, 264 с.

10. Буренков В. И., Интегральное представление Соболева и формула Тейлора, Тр. МИАН СССР 131 (1974), 33-38.

11. Буренков В. И., Об одном способе продолжения дифференцируемых функций, Тр. МИАН СССР 140 (1976), 27-67.

12. Буренков В. И., Горбунов А. Л., Точные оценки минимальной нормы операторов продолжения для пространств Соболева, Изв. РАН, 61 (1997), 1-44.

13. Васильчик М. К)., О следах функций, из пространств Соболева И7., определённых в областях с нелипшицевой границей, Современные проблемы геометрии и анализа, Тр. Ин-та мат. (Новосибирск) 14 (1989), 9-45.

14. Водопьянов С. К., Гольдштейн В. М., Критерий устранимости множеств для пространств квазиконформных и квазиизометрическихотображений, Сиб. мат. журн. 18 (1977), N 1, 48-68.

15. Водопьянов С. К., Гольдштейн В. М., Латфуллин Т. Г., Критерий продолжения функций класса Ь\ из неограниченных плоских областей, Сиб. мат. журн. 20 (1979), 416-419.

16. Гилбарг Д., Трудингер Н., Эллиптические дифференциальные уравнения с частными производными второго порядка, Наука, М., 1989, 463 с.

17. Глобенко И. Г., Некоторые вопросы теории вложения для областей с особенностями на границе, Мат. сб. 57 (1962), 201-224.

18. Глушко В. П., Об областях, звёздных относительно шара, Докл. АН СССР 144 (1962), 1215-1216.

19. Гольдштейн В. М., Продолжение функций с первыми обобщёнными производными из плоских областей, Докл. АН СССР 257 (1981), 268-271.

20. Гольдштейн В. М., Решетняк Ю. Г., Введение в теорию функций с обобщёнными производными и квазиконформные отображения, Наука, М., 1983, 285 с.

21. Гольдштейн В. М., Ситников В. Н., О продолжении функций класса Шр через гёльдеровы границы, Труды семинара С. Л. Соболева, Новосибирск, 1 (1982), 31-43.

22. Ильин В. П., К теореме вложения для предельного показателя, Докл. АН СССР 96 (1954), 905-908.

23. Ильин В. П., Свойства некоторых классов дифференцируемых функций многих переменных, заданных в п-мерной области, Тр. МИАН СССР 66 (1962), 227-363.

24. Ильин В. П., Интегральные представления дифференцируемых функций и их применение к вопросам продолжения функций классов И^(С), Сиб. мат. журн. 8 (1967), 573-586.

25. Ильин В. П., О существовании и об оптимальном выборе значений параметров в неравенствах, гарантирующих справедливость теорем вложения, Зап. научи, семинаров ЛОМИ АН СССР 111 (1981), 63-87.

26. Кондратов В. И., О некоторых свойствах функций из пространства 1Р, Докл. АН СССР 48 (1945), 563-566.

27. Курант Р., Гильберт Д., Методы математической физики. Т. 2, Госте-хиздат, М.-.Л., 1945, 620 с.

28. Лабутин Д. А., Интегральное представление функций и вложение пространств Соболева на областях с нулевыми углами, Мат. заметки 61 (1997), N 2, 407-425.

29. Ладыженская О. А., Ураяьцева Н. Н., Линейные и квазилинейные уравнения эллиптического типа, Наука, М., 1973, 576 с.

30. Лионе Ж.-Л., Мадженес Э., Неоднородные граничные задачи и их приложения, Мир, М., 1971, 372 с.

31. Мазья В. Г., Классы облает,ей и теоремы вложения функциональных пространств, Докл. АН СССР 133 (1960), 527-530.

32. Мазья В. Г., В-проводимость и т.еоремы, вложения некоторых функциональных пространств в пространство С, Докл. АН СССР 140 (1961), 299-302.

33. Мазья В. Г., О задаче Неймана в облает,ях с нерегулярными границами, Сиб. мат. журн. 9 (1968), 1322-1350.

34. Мазья В. Г., О непрерывности и ограниченности функций из пространств С. Л. Соболева, Проблемы мат. анализа, JL, 1973, вып. 4, 46-77.

35. Мазья В. Г., О суммируемости по произвольной мере функций из пространств С. Л. Соболева-Л. Н. Слободецкого, Зап. научи, семинаров ЛОМИ АН СССР 92 (1979), 192-202.

36. Мазья В. Г., Функции с конечным интегралом, Дирихле в области с вершиной пика на границе, Зап. научн. семин. ЛОМИ АН СССР 126 (1983), 117-137.

37. Мазья В. Г., Пространства С. Л. Соболева, изд-во ЛГУ, Л., 1985, 415 с.

38. Мазья В. Г., Нетрусов Ю. В., Поборчий С. В., Граничные значения функций из пространств Соболева в некоторых нелипшицевых областях, Алгебра и Анализ 11 (1999), вып. 1, 141-170.

39. Мазья В. Г., Поборчий С. В., О продолжении функций из пространств Соболева во внешность и внутрь малой области, Вестник Ленингр. ун-та 17 (1984), N 7, 27-32.

40. Мазья В. Г., Поборчий С. В., О продолжении функций из пространств Соболева во внешность области с вершиной пика на границе, Докл. АН

41. СССР 275 (1984), 1066-1069.

42. Мазья В. Г., Поборчий С. В., Продолжение функций из классов Соболева во внешность области с вершиной пика на границе I, Czech. Math. Journ. 36 (1986), N 111, 634-661.

43. Мазья В. Г., Поборчий С. В., Продолжение функций из классов Соболева во внешность области с вершиной пика на границе II, Czech. Math. Journ. 37 (1987), N 112, 128-150.

44. Мазья В. Г., Поборчий С. В., О следах функций с суммируемым градиентом в области с вершиной пика на границе, Матем. заметки 45 (1989), N 1, 57-65.

45. Мазья В. Г., Поборчий С. В., Следы, функций из пространств Соболева на малых и больших компонентах границы, Матем. заметки 45 (1989), N 4, 69-77.

46. Мазья В. Г., Поборчий С. В., Следы функций из пространств Соболева на границе облает,и с пиком, Современные проблемы геометрии и анализа, Тр. Ин-та мат. (Новосибирск) 14 (1989), 182-208.

47. Мазья В. Г., Поборчий С. В., Следы функций из пространств Соболева на границе тонкого цилиндра, Тр. Тбил. мат. ин-та им. А. М. Размадзе 99 (1995), 17-36.

48. Мазья В. Г., Шапошникова Т. О., Мультипликаторы в пространствах дифференцируемых функций, изд-во ЛГУ, Л., 1986, 404 с.

49. Нетрусов Ю. В., Множества особенностей функций из пространств типа Бесова и Лизоркина-Трибеля, Тр. МИАН СССР 187 (1989), 162177.

50. Нетрусов Ю. В., Спектральный, синтез в пространствах гладких функций., Докл. Рос. Акад. Наук 325 (1992), 923 925.

51. Нетрусов Ю. В., Спектральный синтез в пространстве Соболева, порожденном интегральной метрикой, Зап. научи, семин. ПОМИ РАН 217 (1994), 217- 234.

52. Никольский С. М., Свойства некоторых -классов функций многих переменных на дифференцируемых многообразиях, Матем. сб. 33 (1953), 261-326.

53. Никольский С. М., Приближение функций многих переменных и, теоремы вложения, Наука, М., 1977, 456 с.

54. Поборчий С. В., О следах функций класса на границе тонкого цилиндра, ЛГУ, Л. (1989), 1-43, Деп. в ВИНИТИ, N 4432-89.

55. Поборчий С. В., О разрешимости задачи Неймана в области с пиком, В кн. Новые подходы к решению дифференциальных уравнений (Тр. III Всесоюзной конференции), М.,1991, с. 106.

56. Поборчий С. В., О разрешимости задачи Неймана для эллиптических уравнений высокого порядка, Вестник С-Петербург. ун-та 3 (1998), N 15, 63-66.

57. Поборчий С. В., Некоторые контрпримеры к теоремам вложения для пространств Соболева, Вестник С-Петербург. ун-та 4 (1998), N 22, 51-60.

58. Решетняк Ю. Г., Некоторые интегральные представления дифференцируемых функций, Сиб. мат. журн. 12 (1971), N 2, 420-432.

59. Решетняк Ю. Г., Интегральные представления дифференцируемых функций в областях с негладкой границей, Сиб. мат. журн. 21 (1980), N 6, 108-116.

60. Решетняк Ю. Г., Пространственные отображения с ограниченным искажением, Наука, Новосибирск, 1982, 286 с.

61. Рудин У., Функциональный анализ, Мир, М., 1975, 445 с.

62. Смирнов В. И., Курс высшей математики, Т. 5, Наука, М., 1959, 665 с.

63. Соболев С. Л., О некоторых оценках, относящихся к семействам функций, имеющих производные, интегрирумые с квадратом, Докл. АН СССР 1 (1936), 267-270.

64. Соболев С. Л., Об одной теореме функционального анализа, Мат. сб. 4 (1938), 471-497.

65. Соболев С. Л., Некоторые применения функционального анализа в математической физике, Изд-во ЛГУ, Л., 1950, 255 с.

66. Соболев С. Л., Плотность функций с компактным носителем в пространстве I™, Сиб. мат. журн. 4 (1963), N 3, 673-682.

67. Стейн й, М., Сингулярные интегралы и дифференциальные свойства функций, Мир, М., 1973, 344 с.

68. Степанов В. Д., Двухвесовые оценки для интегралов Римама-Лиувилля, Изв. Акад. Наук СССР сер. мат. 54 (1990), 645-656.

69. Успенский С. В., О теорем,ах вложения для весовых классов, Тр. МИАН СССР 60 (1961), 282-303.

70. Фаддеев Д. К., Вулих Б. 3., Уральцева Н. Н., Избранные главы анализа и высшей алгебры, Изд-во ЛГУ, Л., 1981, 200 с.

71. Файн Б. Л., О продолжении функций из анизотропных пространств С. Л. Соболева, Тр. МИАН СССР 170 (1984), 248-272.

72. Файн Б. Л., О продолжении функций из пространств Соболева для нерегулярных областей с сохранением показателя гладкости, Докл. АН СССР 285 (1985), 296-301.

73. Шварцман П. А., Теоремы продолжения с сохранением локально полиномиальных приближений, Яросл. ун-т, Ярославль, 1986, 1-154, Деп. в ВИНИТИ, N 6457-86.

74. Яковлев Г. Н., Докл. АН СССР 140 (1961), N 1, 73-76.

75. Яковлев Г. Н., Задача Дирихле для области с нелипшицевой границей, Диффер. уравн. 1 (1965), N 8, 1085-1098.

76. Adams D. R., A trace inequality for generalized, potentials, Studia Math. 48 (1973), 99 105.

77. Adams D. R., Hedberg L. I., Function Spaces and Potential Theory, Springer, Berlin Heidelberg New York, 1996.

78. Adams R. A, Sobolev Spaces, Academic Press, New York, 1975, 268 p.

79. A »moil S., Lectures on Elliptic Boundary Value Problems, Van Nostrand, Princeton, 1965.

80. Anzelotti G., Giaquinta M., BV-functions and traces, Rend. Semin. Mat. Univ. Padova 60 (1979), 1-21.

81. Aronszajn N., Boundary values of functions with finite Dirichlet integral, Conf. partial diff. eq., Studies in eigenvalue problems, Univ. of Kansas 1955, Techn. Report N 14, 77-94.

82. Bojarski В., Remarks on Sobolev imbedding inequalities, Proceedings of the conference on Complex Analysis, Joensuu, 1987, Lecture Notes in Mathematics 1351, Springer, Berlin-New York, 1988, 52-68.

83. Buckley S., Koskela P., Sobolev-Poincare implies John, Math. Research Letters 2 (1995), 577-594.

84. Burenkov V. I., Sobolev spaces on domains, Teubner-Texte zur Mathematik, Stuttgart-Leipzig, B. 137, 1998, 312 p.

85. Calderon A. P., Lebesgue spaces of differentiable functions and distributions, Partial Differential Equations, Proc. Sympos. Pure Math. 4, 33-49, Arner. Math. Soc., Providence, Rhode1 Island, 1961.

86. Calkin J. W., Functions of several variables and absolute continuity I, Duke Math. J. 6 (1940), 170-185.

87. Seng-Kee Chua, Extension theorems on weighted Sobolev spaces, Indiana Univ. Math. J. 41 (1992), 1027-1076.

88. Seng-Kee Chua, Weighted Sobolev inequalities on domains satisfying the chain condition, Proc. Amer. Math. Soc. 117 (1993), 449-457.

89. J. Deny and J.-L. Lions, Les espa.ee du type de Beppo Levi, Ann. Inst. Fourier 5 (1953-1954), 305-370.

90. Fraenkel L. E., Formulae for high derivatives of composite functions, Marli. Proc. Camb. Phil. Soc. 83 (1978), 159-165.

91. Fraenkel L. E., On regularity of the boundary in the theory of Sobolev spaces, Proc. London Math. Soc. 39 (1979), 385 427.

92. Gaglia.rdo E., Caratterizzazioni delle tracce sulla frontiera relative ad alcune classi di funzioni in piu variabilis Rend. Sem. Mat. Univ. Padova 27 (1957), 284-305.

93. GagliardoE., Proprietä, di alcune classi di funzioni in piii variabili, Ric. Mat. 7 (1958), 102-137.

94. GagliardoE., Ulteriori proprietä di alcune classi di funzioni in piu variabilis Ric. Mat. 8 (1959), 24-51.

95. Gol'dshtein V. M., Vodop'yanov S. K., Prolongement des formations de classe Llp et, applications quasi conform.es, C. R. Acad. Sei. Paris 290 (1980), 453-456.

96. Hajlasz P., Koskela P., Isoperimetric inequalities and imbedding theorems in irregular domains, J. London Math. Soc. 58 (1998), N 2, 425-450.

97. Hardy G. H., Littlewood J. E., Some properties of fractional integrals I, Math. Zeit. 27 (1927), 565-606.

98. Hestenes M. R., Extension of the range of a differentiable function, Duke Math. J. 8 (1941), 183-192.

99. Hurri Syrjänen R., An improved Poincare inequality, Proced. Amer. Math. Soc. 120 (1994), 213-232.

100. John F., Rotation and strain, Comm. Pure Appl. Math. 14 (1961), 391-413.

101. Jones P. J., Quasiconformal mappings and extendability of functions in Sobolev spaces, Acta Math. 147 (1981), 71-88.

102. Kilpelainen T., Maly J., Sobolev inequalities on sets with irregular boundaries, Preprint 205, Univ. Jyväskylä (1998), 1 15.

103. Levi B., Sul prinzipio di Dirichlet, Rend. Palermo 22 (1906), 293-359.

104. Lichtenstein L., Eine elementare Bemerkung zur reelen Analysis, Math. Z. 30 (1929), 794-795.

105. Maz'ya V. G., Naza.rov S. A., Plamenevsky B. A., Asirnptotische Theorie elliptischer Randwertaufgaben in singular gestörten Gebieten, Academic Verlag, Berlin, B.l 1991, B.2 1992.

106. Maz'ya V. G., Nctrusov Yu. V., Some counterexamples for the theory of Sobolev spaces on bad domains, Potential Analysis 4 (1995), 47-65.

107. Maz'ya V. G., Poborchi S. V., On traces of functions in Sobolev spaces on, the boundary of a domain with a peak, Preprint MD 88-01-VGM-SVP, Univ. Maryland (1988), 1-7.

108. Maz'ya V. G., Poborchi S. V., Imbedding theorems for Sobolev spaces in domains with crisps, Preprint LiTH-MATR, 92 1:L Linköping Univ. (1992), 1-34.

109. Maz'ya V. G., Poborchi S. V., Extension of functions in Sobolev spaces on parameter dependent domains, Math. Nachr. 178 (1996), 5-41.

110. Maz'ya V. G., Poborchi S. V., Differentiable functions on bad domains, World Scientific, Singapore New Jersey London Hong Kong, 1998, 504 p.

111. Meyers N. G., Serrin J., H = W, Proc. Nat. Acad. Sei. USA 51 (1964), 1055-1056.

112. Morrey C. B., Functions of several variables and absolute continuity II, Duke Math. J. 6 (1940), 187-215.

113. Morrey C. B., Multiple Integrals in the Calculus of Variations, SpringerVerlag, Berlin Heidelberg New York, 1966, 506 p.

114. Nikodym O., Sur une classe de fonctions considérées dans l'étude du problème de Dirichlet, Fundam. Math. 21 (1933), 129-150.

115. Nirenberg L., On elliptic partial deferential equations, Ann. Scuola Norm. Sup. Pisa 13 (1959), N 3, 115-162.

116. Poborchi S. V., Sobolev spaces for domains with cusps, Operator Theory: Advances and Applications, Berkhäuser Verlag, Basel 109 (1999), 175-185.

117. Reilich F., Ein Satz über mittlere Konvergenz, Math. Nachr. 31 (1930), 30-35.

118. Tonelli L., Sulla quadratura delle superficie, Atti Reale Accad. Liricei 6 (1926), 633-638.

119. Whitney H., Analytic extensions of differentiable functions defined in closed sets, Trans. Amer. Math. Soc. 36 (1934), 63-89.

120. Whitney H., Functions differentiable on the boundaries of regions, Ann. of Math. 35 (1934), 482-485.