Некоторые классы сингулярных операторов с нестандартными особенностями ядер и символов тема автореферата и диссертации по математике, 01.01.01 ВАК РФ

У

РОССИЙСКАЯ АКАДЕМИЯ НАУК УРАЛЬСКОЕ ОТДЕЛЕНИЕ ИНСТИТУТА МАТЕМАТИКИ И МЕХАНИКИ

На правах рукописи

УДК 517.98, 517.547

003054031

КАРАПЕТЯНЦ АЛЕКСЕЙ НИКОЛАЕВИЧ

НЕКОТОРЫЕ КЛАССЫ СИНГУЛЯРНЫХ ОПЕРАТОРОВ С НЕСТАНДАРТНЫМИ ОСОБЕННОСТЯМИ ЯДЕР И СИМВОЛОВ

01.01.01 - математический анализ

Автореферат диссертации на соискание ученой степени доктора физико - математических наук

Екатеринбург, 2007

\

Диссертационная работа выполнена на кафедре Дифференциальных и интегральных уравнений Ростовского государственного университета

Научный консультант:

доктор физико-математических наук, профессор Симоненко Игорь Борисович

Официальные оппоненты:

доктор физико-математических наук, профессор Гольдман Михаил Львович

доктор физико-математических наук, профессор Пламеневский Борис Алексеевич

доктор физико-математических наук, профессор Солдатов Александр Павлович

Ведущая организация:

Санкт-Петербургское отделение Математического института им. В.А. Стеклова РАН

Защита состоится 5 апреля 2007 г. в 11:00 на заседании диссертационного совета Д 004.006.02 в Институте математики и механики Уральского отделения РАН по адресу: Россия, 620219, г. Екатеринбург, ГСП-384, ул. С. Ковалевской, 16.

С диссертацией можно ознакомиться в библиотеке Института математики и механики Уральского отделения РАН.

Автореферат разослан " " СРе&рСЫ-^ 2007 г.

Ученый секретарь диссертационного

совета Д 004.006.02, к.ф.-м.н. /. А

Л Н.Ю. Антонов

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Связь работы с крупными научными программами (проектами) и темами Часть исследований по теме диссертации выполнена соискателем в Центре исследований в Мексике (Centro de Investigación у de Estudios Avanzados) при поддержке

1. Международного научного гранта Соломона Лефшеца (Postdoctoral Lefschetz Research Fellowship, 1998-2001).

2. Научного гранта "Operadores у espacios de analisis complejo" Мексиканского Национального Совета по Науке и Технологиям (CONACyT, грант № 35521-Е).

Основная часть диссертации была выполнена в Ростовском государственном университете на кафедре дифференциальных и интегральных уравнений при поддержке грантов Российского фонда фундаментальных исследований:

1 "Методы обращения операторов типа потенциала и функциональные пространства дробной гладкости" (РФФИ 98-01-00261-А, исполнитель)

2. "Операторы типа потенциала с особенностями ядер или символов на многообразиях, аппроксимативные обратные операторы и функциональные пространства, связанные с такими операторами"(РФФИ 04-01-00862-А, исполнитель)

3. "Интегральные операторы с каноническими ядрами, сингулярные интегральные операторы на банаховых пространствах и порождаемые ими алгебры"(РФФИ 06-01-00297-А, руководитель).

За новизну и актуальность исследований соискатель был удостоен

1. Почетного звания-награды "Национальный исследователь"(награда Мексиканской Национальной Системы Исследователей, членский номер SNI 21424, Мексика, Мехико, июль 2001 г.)

2. Награды международного научного общества ISAAC (International Society for Analysis Applications and Computations, Германия, Берлин, август 2001 г.)

3. Награды В. Потанина (дважды) для молодых научно - педагогических работников ведущих вузов Российской Федерации (Россия, Ростов-на-Дону, апрель 2003 г., Краснодар, апрель 2006 г.).

Цель и задачи исследования. Развитие новых методов исследования свойств операторов в банаховых (гильбертовых) пространствах в зависимости от свойств их ядер и (или) символов в качественно новых, ранее не изученных или мало изученных ситуациях. Разработка новых эффективных методов исследования операторов Теплица с неограниченными символами, решение открытых фундаментальных проблем для таких операторов Исследование свойств ограниченности сингулярных интегральных операторов с осциллирующими символами и с осцилляцией в ядрах. Применение результатов исследования отдельных операторов к описанию алгебр операторов в случае, когда коэффициенты допускают однородные разрывы и для которых классические, ранее используемые методы неприменимы.

актуальность темы. Исследованию операторов Теплица, Хан-келя и других в пространствах типа Бергмана, Харди посвящено большое количество работ. В равной степени это относится и к *- алгебрам таких операторов. Наиболее активно эта тематика развивается в последние два десятилетия, однако многие интересные вопросы этой теории остаются открытыми или малоизученными В частности, большинство работ по данной тематике относится к случаю ограниченных символов и применяемая в них техника плохо работает или не применима совсем в случае неограниченных символов. В то же время, в отличие от известных результатов для пространств Харди, неограниченные символы могут порождать ограниченные и даже компактные операторы в пространствах Бергмана. Отметим также, что исследование отдельных сингулярных интегральных операторов с особенностями на многообразиях

меньшей размерности является естественным продолжением тематики изучения операторов типа потенциала, исследованию которых посвящены работы многих авторов. В этом контексте возникают так называемые операторы скрученной свертки, для которых многие классические методы коммутативного гармонического анализа, вообще говоря, не применимы. Подробнее к этим вопросам вернемся при изложении основного содержания работы.

Основные научные результаты I. Разработаны эффективные методы исследования свойств ограниченности, компактности и принадлежности идеалам Шаттена операторов Теплица в весовых пространствах Бергмана со специальными, вообще говоря, неограниченными символами. Эти специальные случаи будем отождествлять с эллиптическим, параболическим и гиперболическим пучком геодезических в диске. В рамках настоящего исследования получены следующие основные результаты.

На основе специальных представлений для весовых пространств Бергмана на единичном диске и верхней полуплоскости получены интегральные представления спектрального типа для операторов Теплица, а также формулы для символов Березина этих операторов и для символа Березина композиции операторов Теплица.

Приведены достаточные условия ограниченности, а в эллиптическом случае и компактности соответствующих операторов Теплица в весовых пространствах Бергмана в терминах некоторых средних (контра-вариантного) символа оператора Теплица. При дополнительных ограничениях на упомянутые выше средние установлена необходимость данных условий.

Исследована зависимость свойств ограниченности (компактности) оператора Теплица в весовом пространстве Бергмана от изменения параметра веса Например, показано, что свойство ограниченности (компактности) сохраняется при уменьшении параметра веса. С использованием метода стационарной фазы и на основе полученных ранее представлений для оператора Теплица приведены примеры операторов Теплица,

для которых нарушается свойство ограниченности (компактности) при увеличении параметра веса.

В эллиптическом случае (теплицевых операторов с радиальными символами) аналогичные результаты получены в контексте исследования принадлежности операторов Теплица идеалам Шаттена на пространствах Бергмана

II. С использованием полученных ранее результатов и применением асимптотических методов, в частности метода Лапласа, исследовано предельное поведение спектра операторов Теплица в весовых пространствах Бергмана при увеличении параметра веса к бесконечности Установлена связь между предельным множеством спектров и свойствами (контра-вариантного) символа оператора Теплица в каждом из трех упомянутых выше случаев (эллиптическом, параболическом и гиперболическом). Именно, доказаны следующие основные результаты.

В случае непрерывных символов показано, что предельное множество совпадает с образом контравариантного символа, а в наиболее интересном кусочно - непрерывном случае установлено, что предельное множество состоит из образа контравариантного символа с добавлением прямолинейных сегментов, соединяющих односторонние пределы. Тем самым установлена аналогия с так называемым принципом соответствия Березина, который связывает предельное поведение квантовой характеристики оператора Теплица (именно символа Березина или ковариант-ного символа) со свойствами (контравариантного) символа этого оператора

В параболическом случае также изучено влияние различных типов осцилляций символа на формирование соответствующего предельного множества

Для неограниченных непрерывных символов установлено, что предельное множество всегда содержит образ символа и само содержится в существенном образе символа, при этом приведены различные примеры, иллюстрирующие всевозможные соотношения в указанных выше вложениях. Приведены также примеры операторов Теплица, для кото-

рых предельное множество - диск D, вся плоскость С, связное, несвязное множество и пр.

III. Осуществлено исследование связи между компактностью оператора Теплица с неограниченным символом, действующим в весовом пространстве Бергмана на единичном диске, и убыванием соответствующего преобразования Березина при приближении к границе диска В рамках этого исследования получены следующие основные результаты

Описаны весовые аналитические пространства функций с ограниченной средней осцилляцией по отношению к лебеговой мере в гиперболической метрике Бергмана на единичном диске. Характеризация функций из этих пространств дается в терминах преобразования Березина.

На основе упомянутого выше описания в терминах преобразования Березина приведена характеризация компактных операторов Теплица в весовых пространствах Бергмана на единичном диске с (неограниченными, вообще говоря) символами, имеющими ограниченную среднюю осцилляцию в гиперболической метрике Бергмана. Аналогичные результаты установлены для так называемых радиальных операторов, в частности - для операторов Теплица с радиальными символами

IV Исследована алгебра фредгольмовых символов для С* - алгебр двумерных сингулярных интегральных операторов, коэффициенты которых локально моделируются однородными функциями, имеющими разрывы на единичной окружности как первого, так и второго рода В рамках данного исследования получены следующие основные результаты.

Исследованы псевдодифференциальные операторы на окружности специального вида, определенные в терминах операторов свертки на окружности, возникающих при представлении двумерного преобразования Фурье в полярных координатах Показана связь таких псевдодифференциальных операторов с точностью до компактного оператора с классическими объектами анализа - сингулярными интегральными операторами на окружности.

На основании полученной выше связи описана алгебра фредгольмовых символов для модельной С* - алгебры двумерных сингулярных ин-

тегральных операторов, действующих в 1?(К2) с однородными нулевой степени символами и разрывными коэффициентами Эти коэффициенты имеют разрывы (как первого, так и второго рода) на лучах, исходящих из начала координат, и их поведение в начале координат моделируется однородной разрывной функцией.

Указанные выше результаты применяются к описанию алгебр фред-гольмовых символов для С* - алгебр сингулярных интегральных операторов с изолированными разрывами коэффициентов, когда коэффициенты вблизи точек разрыва моделируются однородными функциями, сужения которых на окружность имеют кусочно-непрерывные и даже слабо осциллирующие разрывы.

V. Исследованы свойства ¿''(К") —¥ Ь9(К") ограниченности (1 ^ р ^ ? ^ оо) для некоторого класса операторов свертки с осциллирующими символами и ядрами и с особенностями ядер на сфере и на бесконечности. Исследованы также свойства /^(Е") £9(К") ограниченности для операторов скрученной свертки с теми же ядрами и проведено сравнение свойств 1^(КП) —> £9(КП) ограниченности соответствующих операторов. В рамках данного исследования получены следующие основные результаты.

Исследованы свойства ограниченности для операторов свертки (операторов типа потенциала) с осциллирующей экспонентой в символе. Приведены достаточные условия —»■ ограниченности и (при дополнительных предположениях на характеристическую часть символа) установлена необходимость этих условий Исследован вопрос о представимости функции соответствующим потенциалом с некоторой плотностью из (Еп) и получены формулы обращения в рамках пространств £Р(КП).

Исследованы свойства /¿'(К") —>■ Ь9(Е") ограниченности для операторов скрученной свертки с тем же ядром и осуществлено сравнение свойств ограниченности операторов свертки и скрученной свертки

Исследованы свойства ЬР(Ш1) —> Ьч(Кп) ограниченности для оператора скрученной свертки, определенного в общей постановке, когда зада-

ется поведение ядра. Осуществлено сравнение полученных результатов с результатами для операторов свертки с ядрами, имеющими аналогичное поведение.

Основные положения, выносимые на защиту. Научная

новизна. Основные результаты, выносимые на защиту являются новыми, получены лично автором и состоят в следующем:

Дана характеризация поведения основных свойств (ограниченности, компактности) операторов Теплица со специальными (контравари-антными) символами, связанными с тремя типами гиперболической геометрии в диске в весовых пространствах Бергмана на единичном диске в зависимости от изменения параметра веса.

Получена связь между предельным поведением спектра оператора Теплица в весовом пространстве Бергмана при стремлении параметра веса к бесконечности и свойствами (контравариантного) символа оператора Теплица в случаях непрерывного и кусочно - непрерывного символа специального вида.

В терминах преобразования Березина приведена характеризация компактных операторов Теплица в весовых пространствах Бергмана с символами, имеющими ограниченную среднюю осцилляцию в гиперболической метрике Бергмана по отношению к лебеговой мере на единичном диске.

Получено представление с точностью до компактного оператора для псевдодифференциального оператора в Ь2(Т) на окружности специального вида Е(Х)~1а(1р,ш)Е(Х) с гладким символом а((р,ш) (где Е(А) -оператор сферической свертки с ядром (—<£ш+гО)~гЛ_1) в терминах проекторов, связанных с сингулярным интегральным оператором на окружности.

Получены необходимые и достаточные условия 1У(Шп) —¥ ¿9(ЕП) ограниченности для оператора свертки с символом и с ядром,

имеющим особенность на сфере и осциллирующим на бесконечности, и достаточные условия 1Р{Мп) —>■ ¿9(КП) ограниченности для оператора скрученной сверки с тем же ядром.

Апробация результатов диссертации. Отдельные части диссертации докладывались на международном конгрессе Американского и Мексиканского математических обществ (Дентон, Техас, США, май 1999 г), трижды на последовательных международных научных школах по анализу: "Анализ: Север-Юг"в Мексике (Куернавака, Мексика, апрель 1999 г; Мехико, Мексика, апрель 2000 г; Мехико, Мексика, апрель 2001 г.), на V международном конгрессе по инженерии и системам (Мехико, Мексика, июнь 2001 г), на международной конференции "Международная школа по анализу и теории операторов"IWOTA-Portugal 2000 (Фаро, Португалия, сентябрь 2000 г.), на международном конгрессе "Международного общества анализа и прикладных вычислений "ISAAC 2001 (Берлин, Германия, август 2001 г), на ежегодном научном семинаре "Show те"в университете Вашингтона (Сант Луис, Миссури, США, ноябрь 2001 г.), на Ежегодной Математической Конференции (Сан Диего, Калифорния, США, январь 2002 г), на 27 - й весенней школе в университете Арканзаса (Файеттевиль, Арканзас, США, апрель, 2002 г.), на конференции "150 лет в математике"в университете Вашингтона в Сант Луисе (Сант Луис, Миссури, США, октябрь 2003 г.), на международной школе по геометрии и анализу, посвящённой памяти Н.В. Ефимова (Абрау-Дюрсо, Россия, сентябрь 2004 г.), на конференции "Математическая гидродинамика' модели и методы", посвященной 70 - летию профессора В.И. Юдовича (Ростов-на-Дону, Россия, октябрь 2004 г.), на международной конференции в Математическом институте им. В.А. Стекло-ва РАН "Функциональные пространства, теория аппроксимаций и нелинейный анализ", посвященной 100-летию академика С.М. Никольского (Москва, Россия, май 2005 г), на международной конференции в институте математики им. А. Размадзе "Функциональные пространства, интегральные преобразования и приложения к псевдодифференциальным уравнениям "(Тбилиси, Грузия, сентябрь 2005 г.), на международной конференции "Гармонический анализ и приложения Ш"(Цахкадзор, Армения, сентябрь 2005 г.), на международной конференции в МГУ "Тихонов и современная математика"(Москва, Россия, июнь 2006 г.), на междуна-

родной конференции в математическом институте Эйлера ПОМИ им. В.А Стеклова PAH "15th. St.Petersburg summer meeting in mathematical analysis"(C. Петербург, Россия, июль 2006 г.), на международной конференции "Аналитические методы анализа и дифференциальных уравнений", AMADE-2006 (Минск, Беларусь, сентябрь 2006 г).

С сообщениями о результатах, вошедших в диссертационную работу автор неоднократно выступал на различных семинарах научных учреждений России, Белоруссии, Мексики, США. В том числе на семинарах Центра исследований и продвинутого обучения (Мехико, Мексика, январь 1999 г., февраль 2000 г., май 2001 г., рук. профессор Э. Рамирез), на семинарах отделения анализа факультета естественных наук Автономного университета Мексики (Мехико, Мексика, июнь 2001 г., июль 2001 г, рук профессор X. Ескивель), на семинаре по анализу на факультете математики в университете Арканзаса (Файеттевиль, Арканзас, США, октябрь 2001 г., рук профессор Д. Хавинсон), на математическом коллоквиуме на факультете математики в университете Арканзаса (Файеттевиль, Арканзас, США, ноябрь 2001 г., рук. профессор Д. Луекинг), на семинаре факультета математики университета Говарда (Вашингтон, США, апрель 2002 г., рук. профессор Кора Садоски), на семинаре по гармоническому анализу на факультете математики университета Миссури (Коламбия, Миссури, США, октябрь 2003 г., рук. профессор М. Мит-реа), на семинаре по функциональному анализу на факультете математики университета Миссури (Коламбия, Миссури, США, ноябрь 2003 г., рук профессор Ю Д. Латушкин), на городском Минском семинаре им Ф.Д. Гахова (Минск, Беларусь, ноябрь 2005 г., рук. профессора А.А. Кил-бас, Э.И. Зверович), на заседаниях Ростовского математического общества (Ростов-на-Дону, Россия, май 2003 г., апрель 2005 г., рук. профессор В.И. Юдович), многократно на семинарах кафедры дифференциальных и интегральных уравнений Ростовского государственного университета (рук профессора С.Г. Самко и Н.К Карапетянц), на семинаре кафедры математического анализа Ростовского государственного университета (ноябрь, 2005 г., рук. профессор Ю Ф Коробейник), на семинаре ИММ

УрО РАН (июнь, 2006 г., рук. чл.-корр РАН Ю.Н Субботин), на семинаре по комплексному и линейному анализу ПОМИ им. В.А. Стеклова РАН и С Петербургского госуниверситета (рук. чл.-корр РАН С.В Кис-ляков и профессор В П. Хавин), на семинаре по функциональному анализу и приложениям научного Центра математики и прикладной математики Технического высшего института Португалии (Лиссабон, Португалия, ноябрь 2006 г., рук. профессор Ф.-О. Э Шпек), на семинаре по гармоническому анализу и приложениям математического факультета университета Алгарве (Фаро, Португалия, декабрь 2006 г., рук профессор С Г Самко).

публикации. Все результаты, приведенные в диссертации, опубликованы в работах [1] - [25]. Основные результаты диссертации опубликованы в работах [6] [7] [8] [11], [13], [14] [15] [17], [18], [19], [20], [21], [22], [23], [24]. См. также обзорную работу [25]

Основные результаты диссертационной работы, выносимые на защиту, получены соискателем самостоятельно В текст диссертации для полноты изложения и без доказательств включены результаты, принадлежащие соавторам соискателя или полученные совместно с соавторами. В диссертации не содержатся результаты кандидатской диссертации соискателя.

Структура и объем диссертации. Диссертация состоит из введения, общей характеристики работы, пяти глав, включающих 29 разделов, выводов и комментариев к каждой главе, заключения, библиографического списка, включающего список использованных источников и список работ соискателя и 6 приложений Объем диссертации - 280 страница машинописного текста. Список использованных источников и список работ соискателя на 19 страницах содержат 139 и 25 наименований соответственно. Объем приложений - 13 страниц

Примеры, моделирующие различные эффекты, использованные во второй главе диссертации, были подобраны и соответствующие компьютерные вычисления и иллюстрации были выполнены О.Н. Грудской при подготовке статей [13] - [15]. Частично они приведены и в автореферате

ОСНОВНОЕ СОДЕРЖАНИЕ

Основной целью диссертации является изучение свойств ограниченности и компактности, спектральных свойств некоторых классов линейных операторов, действующих в банаховых пространствах, а также зависимости этих свойств от поведения символов или ядер данных операторов. Также, в случае теплицевых операторов, мы изучаем изменение указанных свойств в динамике, то есть в зависимости от изменения параметра веса весового пространства, в котором эти операторы действуют Исследуется также вопрос фредгольмовости для С* - алгебры двумерных сингулярных интегральных операторов специального вида.

В настоящее время имеется большое количество работ, посвященных исследованию теплицевых и ханкелевых операторов, а также их модификаций в пространствах типа Бергмана, Харди, Дирихле. Теплицевы операторы с гладкими (или непрерывными) символами, действующие в весовых пространствах типа Бергмана на единичном диске ЕР в С или в шаре в С", естественно возникают в контексте задач математической физики. То же самое в равной степени относится и к С* - алгебрам таких операторов. Упомянем только некоторые, близкие к данной теме задачи математической физики В первую очередь это квантовая деформация алгебры непрерывных функций на диске (Б. КЬтек, А. ЬезтеютН, 1992) и принцип квантования Ф.А. Березина, в частности, на гиперболической плоскости.

Для каждого А > — 1 оператор Теплица Т^ с (контравариантным) символом а = а(г) действует в весовом пространстве Бергмана1 на единичном диске

Та(А) : / б Л|(ГО) —► В^а/ е .4* (О).

В процедуре квантования Ф.А Березина каждому оператору Теплица сопоставляется его символ Березина (или ковариантный символ) а\, и

1 Весовое пространство Бергмана Дд(Ю>) является замкнутым подпространством весового

с весом 1/тг(А +1)(1 — |г|2)А, полученным замыканием в Ьд(И') множества аналитических функций, а Вд^ ортогональный (весовой) проектор Бергмана пространства на

принцип соответствия (применительно к нашей ситуации) означает, что

lim йЛ(г) = a(z), гбВ (1.1)

А->оо

для гладких символов а = a(z). Указанный предельный переход допускает трактовку и в более широком смысле.

В этой связи возникает важная проблема: изучение изменения различных свойств оператора Та ^ (ограниченность, компактность) в динамике при изменении параметра веса А, а также изучение поведения спектра этих операторов при А —> оо и формирования предельного множества в соответствии со свойствами символа а. При этом мы не ограничиваемся гладкими символами

Не представляется возможным получить достаточно полный ответ на указанную выше проблему в рамках общего класса (даже гладких) символов. В то же время недавно исследованные случаи коммутативных "-алгебр теплицевых операторов на единичном диске подсказывают, что достаточно полный ответ на данную проблему можно дать в рамках специальных классов теплицевых операторов

В этом исследовании гармонично связаны между собой три ингредиента: структура пространства Бергмана, коммутативные алгебры теплицевых операторов и гиперболическая геометрия в диске Известно, что не существует коммутативных С* - алгебр теплицевых операторов в пространствах Харди (за исключением тривиального случая скалярных операторов). Однако, такие алгебры существуют в контексте пространств Бергмана, и в нашем конкретном случае эти алгебры непосредственно связаны с тремя типами гиперболической геометрии на диске.

Как показано Н.Л. Василевским (2003), все случаи коммутативных *-алгебр операторов Теплица на единичном диске классифицируются пучком (гиперболических) геодезических следующих трех типов (тонкие линии на рисунке 1) геодезические, пересекающиеся в одной точке (эллиптический пучок), параллельные геодезические (параболический пучок) и непересекающиеся геодезические, т.е. все геодезические, ортогональные заданной (гиперболический пучок).

Рисунок 1 - Эллиптический, параболический и гиперболический пучки

Ограниченные символы, являющиеся постоянными на циклах, т.е. траекториях ортогональных геодезическим, формирующим пучок, в каждом случае порождают коммутативную "-алгебру операторов Теплица. Кроме того, это свойство коммутативности не зависит от гладкости символов, которые могут быть просто измеримыми или даже мерами Коммутативность в совокупности со специальным изоморфизмом пространства Бергмана позволяет свести изучаемые операторы к изучению операторов умножения в гильбертовых пространствах 1\, Ь2(К_|_) и Ь2(Ш) соответственно в эллиптическом, параболическом и гиперболическом случаях Это отражено в диссертации в соответствующих представлениях спектрального типа, которые, по - существу, позволяют детально изучать отдельные операторы и получать несомненно больше информации, чем в случае оператора Теплица с произвольным символом.

Такая изящная связь с классическими объектами анализа также является мотивацией данного исследования теплицевых операторов со специальными символами.

Заметим, что биголоморфная инвариантность ядра Бергмана позволяет сводить исследование к модельным ситуациям в каждом из трех случаев Например, в модельной эллиптической ситуации геодезическими, формирующими пучок, являются евклидовы радиусы, а соответствующие циклы - концентрические окружности (см. рисунок 2).

Рисунок 2 - Эллиптический случай

При изучении параболического и гиперболического случаев мы переходим к реализации гиперболической плоскости через верхнюю полуплоскость и, таким образом, рассматриваем операторы Теплица (действующие в весовых пространствах Бергмана на верхней полуплоскости) с символами, зависящими только от у = Im z и от в = arg z соответственно

Кратко остановимся на истории вопроса. Пространства типа Бергмана и вопросы ограниченности и компактности операторов с каноническими ядрами, в частности - операторов Теплица, действующих в этих пространствах, интенсивно изучались особенно в течение последних лет. Современная теория этих пространств естественно сочетает теорию функций комплексного переменного, функциональный анализ и теорию операторов и затрагивает многие разделы анализа такие, как теория приближений, теория потенциала, гиперболическая геометрия и уравнения в частных производных. Пионерские работы в этом направлении принадлежат С. Бергману (1933) и М.М. Джрбашяну (1945). Не претендуя на полноту изложения, упомянем следующих авторов S Axler, D Zheng, К. Zhu, G. McDonald, С. Sundberg, В. Korenblum, К. Stroethoff, Z. Cuckovic, H Hedenmalm, работы которых наиболее близки к задачам настоящего исследования. Однако, тематика исследования зависимости свойств ограниченности и компактности (спектральных свойств) от изменения параметра веса в литературе ранее не затрагивалась.

Отметим также, что в работах указанных выше авторов (да и в литературе по этой тематике в целом) в основном изучались теплицевы операторы с ограниченными символами. Методы исследования основывались на преобразовании Березина и тауберовых теоремах, и, вообще говоря, неприменимы к изучению операторов Теплица с неограниченными символами. Важной чертой операторов Теплица в пространствах Бергмана является то, что в отличие от известных результатов для операторов Теплица в пространствах Харди, существуют неограниченные символы, порождающие ограниченные и даже компактные операторы в пространствах Бергмана.

Мы начинаем изложение со случая операторов Теплица с радиальными символами в весовых пространствах Лд(О). Это, как было отмечено, модельная ситуация для эллиптического случая. Ключевым моментом является тот факт, что оператор Теплица Т^ с радиальным символом а = а(г), действующий в Лд(О), унитарно эквивалентен оператору умножения на последовательность = R\Ta^R*^, действующему в

l\. Последовательность 70:д = {7а,\{п)}п£%+ (2+ = N U {0}) задается равенством

где В (а, 6) - Бета функция. Здесь измеримая функция а = а(г) такова, что интегралы (1.2) имеют смысл.

Аналогично, в случае операторов Теплица с символами, зависящими от у = Imz и 9 = arg z, действующих в весовых пространствах Лд(П) (модельные случаи для указанных выше параболического и гиперболического случаев), соответствующий оператор Теплица унитарно эквивалентен оператору умножения на некоторую функцию 7а<\1 = R\Ta^ R\, действующему в £2(К+) и L2(R).

Приведем некоторые утверждения первой главы в эллиптическом случае, то есть в случае операторов Теплица в Дд(Ш') с радиальными символами Аналогичные утверждения получены в параболическом и гиперболическом случаях.

Как уже отмечалось, приводятся представления спектрального типа для оператора Теплица, а также формулы для функции Вика оператора Теплица и для символа Березина оператора Теплица и композиции теп лицевых операторов.

В терминах средних (контравариантного) символа

*$(») = £ - г)Х<1г, В^(з) = £ йт, з = 2,3,...,

(1.3)

условия ограниченности и компактности оператора Теплица в .А^(О) сформулированы в следующей теореме.

Теорема 1.1 Пусть а(л/г) Е Ь1(0,1). Вели для некоторого Ао 6 [0, оо) и некоторого ] 6 N функция допускает следующее представле-

ние

й(г) = 0((1-гУ^), г-» 1, (1.4)

то соответствующий оператор Теплица Та ограничен в ^(О) для каждого А £ [0, оо]. Если при указанных условиях имеет место представление

5й„М=°((1-гУ+Ао). (1-5)

то соответствующий оператор Теплица Т^' компактен в -4д(0) для каждого А £ [0, оо].

Если либо а(г) ^ 0 либо В^^(г) ^ 0 почти всюду для некоторых ] — 3о ^ 1 и А1 ^ 0, то указанные выше условия также являются необходимыми для ограниченности и соответственно компактности оператора Теплица Т^1 в Л^(О). Также установлено, что в случае неотрицательного символа (или неотрицательных средних символа) соответствующий оператор Теплица ограничен (компактен) или неограничен (не является компактным) во всех весовых пространствах Бергмана одновременно

Следующее утверждение устанавливает частичный порядок, в котором выполняются условия приведенной выше теоремы.

Теорема 1.2 1. Предположим, что условие (1.4) (условие (1.5)) выполняется для ] = Уо и некоторого Ао- Тогда условие (1.4) (условие (1.5)) выполняется для ] = ]о + 1 и того же Ао.

2. Предположим, что условие (1-4) (условие (1-5)) выполняется для ] — Уо и некоторого Ао- Тогда условие (1-4) (условие (1.5)) выполняется для ] = Уо при Ао, замененным на А1 ^ Ао-

Обращаясь к нашей основной задаче - исследованию динамики свойств оператора Теплица, отметим сначала следующий результат.

Теорема 1.3 Пусть а(^/г) € Ьг(0,1) и оператор Т^ ограничен (компактен) в Лдо(Ю) для некоторого \о £ [0, сю). Тогда оператор Т^ ограничен (компактен) в «4д(В) для каждого А € [0, Ао].

Для символа а — а{г) обозначим через В (а) множество тех А, для которых оператор Теплица Т* ограничен в соответствующем весовом пространстве Бергмана. Аналогично, через К(а) обозначим множество тех А, для которых оператор Теплица Т* компактен Множества В(а) и К(а) могут иметь следующий вид (также могут быть пустыми).

(г) [0, оо), (гг)[0,А0), (ш)[0,Ао]. (1.6)

Мы показываем, что все указанные возможности могут быть реализованы. Для реализации этих ситуаций мы строим семейство специальных символов Эти результаты получены с использованием метода стационарной фазы.

Во многих вопросах теории операторов разделение идеала компактных операторов на специальные классы играет существенную роль. Основное внимание уделяется идеалам Шаттена, среди них классу операторов Гильберта-Шмидта В диссертации в эллиптическом случае также проведено исследование принадлежности идеалам Шаттена на весовых пространствах Бергмана, и доказаны результаты, аналогичные приведенным выше. Не останавливаясь подробно на соответствующих результатах, отметим, например, что если для радиального символа а = а(г) имеем Та(Ло) € Б™, тогда Та(А) 6 для всех (р, А) € [р0, оо) X [О, А0].

Пример 1 4 Оператор Та ^ с неограниченным осциллирующим символом

a(r) = (1 — r2)_^sin(l — г2)~а, а> 0, 0 </3 < 1

принадлежит классу для всех А^О, а>0и0</3<1.

Этот пример показывает во-первых, то, что неограниченные символы могут порождать компактные (и даже принадлежащие идеалам Шатте-на) операторы, а, во - вторых то, что для реализации указанных выше "нестандартных"ситуаций требуется достаточно специальное исследование.

Во второй главе мы переходим к изучению поведения спектра операторов Теплица при стремлении параметра веса к бесконечности.

Определим Моо(а) как множество всех z £ С, для которых существует последовательность комплексных чисел {zn}neN такая, что

(i) для каждого п S N существует An ^ 0 такое, что zn £ sp ,

(ii) limn-too An = +00, (iii) z — limn-^oo zn-

Будем писать Moo(a) = Нтд^+оо spTjA' и называть Moo(a) (частичным) пределом семейства {spTi^}.\>o- В случае когда Л пробегает дискретное множество с единственной предельной точкой - бесконечностью, приведенное выше определение совпадает с определением частичного предельного множества, веденным R. Hagen, S. Roch, В. Silbermann (2001).

Обратимся теперь к формулировкам некоторых результатов второй главы. Во всех трех случаях (эллиптическом, параболическом и гиперболическом) результаты формулируются одинаково, в то время как доказательства различны. Здесь мы будем формулировать общие для этих случаев утверждения.

Отметим, что указанный выше принцип соответствия Ф.А. Березина (1.1) фактически означает, что рассматривая ковариантный символ (символ Березина, символ Вика) в предельном переходе "восстанавливаем1^ контравариантный ) символ оператора Теплица.

Один из основных результатов диссертации в определенном смысле является аналогом этого свойства для наших трех случаев.

Теорема 2.5 Для оператора Теплица Т^ с символом а, непрерывным на области определения вплоть до границы, справедливо

lim sp = sp al. (2.1)

А-»+оо

Наиболее эффектно это утверждение соотносится с эллиптическим случаем, в котором спектр дискретен при каждом А, но в пределе формируется в непрерывную линию - образ символа а. Проиллюстрируем этот эффект на примере символа a(r) = (1 + (^г — 1 )г2)4 для двух значений А: А = 5 и А = 100 (см. рисунок 3).

Рисунок 3 - Последовательность 7„ л = {7а,л(")}пег+ Для А = 5 и А = 100 Приведем также аналогичный пример в гиперболическом случае:

-2t в

рассмотрим непрерывный символ (гипоциклоид) а(в) = |е + е" """ и соответствующий спектр при следующих значениях А : 0, 5, 12 и 200 (см. рисунок 4).

("V

ч\

'J

Рисунок 4 - Функция 7„ д для непрерывного символа а(в) ■— ^ при следующих А . О, 5, 12 и 200

' не-

совершенно новые эффекты возникают при рассмотрении символов, не являющихся непрерывными. Предположим, что символы являются кусочно - непрерывными (ограниченными) функциями, имеющими

разрывы во внутренних точках соответствующих областей определения. Пусть точки разрыва пронумерованы j = 1,2... , m, а 13(а) - прямолинейные отрезки в С, соединяющие соответствующие односторонние пределы символа а.

Теорема 2.6 Для оператора Теплица Т^ с кусочно - непрерывным символом а справедливо

lim spTa(A) = Rangeai J | Il/» | .

A->+oo \ , !

V=1 J

Возникновение прямолинейных сегментов, соединяющих односторонние пределы в точках разрыва символа вполне типично в теории операторов Теплица с кусочно - непрерывными символами, действующих в пространствах Харди или Бергмана. Принципиальное отличие нашего случая состоит в следующем В упомянутой выше ситуации операторов Теплица с кусочно-непрерывными символами прямолинейные сегменты возникают в существенном спектре оператора Теплица. В нашем случае тенденция формирования прямолинейных сегментов возникает при больших значениях Л, и сами по себе сегменты появляются только в предельном множестве.

Для иллюстрации этого факта рассмотрим в гиперболическом случае кусочно-непрерывный символ а = а(в), имеющий шесть скачков, образ которого совпадает с двумя концентрическими окружностями, пробегаемыми против часовой стрелки попеременно с интервалом 2я-/3 (см. рисунок 5).

Рисунок 5 - Функция 7„д для А = 70, А = 500 и предельное множество М„(о)

В случае операторов Теплица с ограниченными символами Ф А. Бе-резиным установлено, что для каждого Л > — 1 справедливо

sp TaW С conv(ess-Rangea). (2.2)

Для ограниченных символов кроме априорной информации (2.2) мы, очевидно, имеем

lim sp Та^ = Moo (а) С conv (ess-Range а). (2 3)

Л-++00

В то же время структура множества Моо(а) внутри conv (ess-Range а) может быть существенно различной. Например, приводятся символы, реализующие следующие ситуации

M ^(а) = Rangea, Moo(a) = conv(ess-Rangea),

Mqo (a) С д conv (Range a), Moo (a) = д conv (Range a), Moo(a) = conv(Rangeo).

Для неограниченных символов выделим следующее утверждение.

Теорема 2.7 Если символ оператора Теплица Т^ - непрерывная на области определения суммируемая функция, то

Rangea С Моо(а) С conv(Rangea).

В случае неограниченных символов приведен ряд примеров, иллюстрирующих различные ситуации, в том числе и то, что каждое из указанных выше вложений может быть заменено равенством.

Отметим, что спектральные свойства операторов Теплица в пространствах Бергмана на областях в С изучались, например, в работе S. Axler, J. Conway, G. McDonald (1982). Однако предельное поведение спектров оператора Теплица исследовано впервые.

Перейдем к изложению результатов третьей главы. Как уже отмечалось, имеется большое количество работ, посвященных применению преобразования Березина Это мотивируется непосредственной связью с

математической физикой и некоммутативной геометрией. Преобразование Березина является важной составляющей гармонического анализа в силу ковариантности по отношению к аналитическим преобразованиям. Оно играет роль преобразования Пуассона с той разницей, что интегрирование по границе заменено на интегрирование по области. Преобразование Березина эффективно используется в различных контекстах, начиная с пространств Харди (К. Stroethoff, 1999) и включая пространства Баргмана-Сегала (С A. Berger, L.A. Coburn, 1986), и, по - существу, используется в постановке (аналитических) пространств Блоха и пространств с ограниченной средней осцилляцией (К Zhu, 1987) Однако, наиболее успешно преобразование Березина используется при изучении операторов в пространствах Бергмана. По - видимому, впервые символ Березина (ковариантный символ) с такой целью использовался в работах Бергера и Кобурна.

Имеется ряд недавних работ, посвященных исследованию связи между убыванием преобразования Березина оператора Теплица (а также конечных сумм произведений теплицевых операторов) на границе единичного диска и компактностью самого оператора. Для положительных символов такое исследование было начато в работах К. Zhu (1988), D. Lueking (1987), для ограниченных символов проводилось в работе S. Axler, D. Zheng (1998), а для радиальных символов в работе N. Zorboska (2003). Фактически, сама фундаментальная проблема было сформулирована в работе S. Axler, D Zheng. Упомянем также исследования M. Englis (1999), в которых указанная выше задача решена в случае ограниченных симметричных областей.

Вопрос характеризации компактных теплицевых операторов в терминах преобразования Березина представляется наиболее важным, однако, в случае неограниченных символов эта задача остается открытой В третей главе мы решаем указанную задачу для операторов Теплица в весовых пространствах Бергмана с символами из весового ВМОд(В) (т.е. с неограниченными, вообще говоря, символами). Актуальным и представляющим самостоятельный интерес является описание самих весовых

пространств ВМОд(О), определенных в терминах гиперболической метрики Бергмана.

Пространства ВМО и VMO в метрике Бергмана впервые появились в работе К. Zhu (1987) в контексте единичного диска в С и далее изучались в работе D. Bekolle, С.А. Berger, L.A. Coburn (1990) в случае ограниченных симметричных областей. Тем не менее аналитические пространства ВМО практически не изучены по сравнению с вещественной теорией ВМО

Обратимся сначала к вопросу характеризации пространств функций с ограниченной средней осцилляцией на D по отношению к лебеговой мере в гиперболической метрике Бергмана на единичном диске. Напомним, что элемент длины в метрике Бергмана dlp связан с евклидовым элементом длины dl соотношением dlp = у/ds^dl, где в частности для единичного диска имеем ds2 = а расстояние между

двумя точками в метрике Бергмана определяется формулой

. 1, 1 + K(w)| 1, ll-zûJl + lz-H ^ .„ .

2 l-|a^(w)| 2 \l-zw\-\z-w\

где w —)• a? (vu) - преобразование Мебиуса, переводящее точку z в начало координат. Пространство ВМОд(О), 1^р<оо, —1<Л<оо определяется как множество измеримых на D функций ip, для которых полунорма

IMI#,bmo$(d) = "*(') ~

конечна. Приведем ряд результатов по характеризации функций из ВМОд (D). Отметим, например, что преобразование Березина функции из ВМОд(О) удовлетворяет условию Липшица в метрике Бергмана:

Теорема 3.8 Если tp G ВМО^(В), 1 ^ р < оо, -1 < А < оо, то

В следующей теореме приводится характеризация функций из ВМОд(®) в терминах преобразования Березина.

Теорема 3.9 Для локально интегрируемой на D функции следующие условия эквивалентны.

1 функция фх ограничена и <р 6 ВМОд(Р);

2 функция фх ограничена и supzgD{[|^|PA(2:)]p — < оо;

3. функция |<р|Рл ограничена.

Описание пространств функций с ограниченной средней осцилляцией в терминах преобразования Березина вполне естественно с точки зрения комплексного анализа и геометрии соответствующего пространства. Однако, существует альтернативный подход к описанию пространств с ограниченной средней осцилляцией - следуя традициям теории вещественного переменного описание дается в терминах средних по гиперболическим дискам: D(z, г) = {w 6 D : P(z,w) < г} С D в метрике Бергмана с (гиперболическим) центром в точке г и (гиперболическим) радиусом г. Именно в таких терминах (при А = 0) вводились и изучались пространства аналитических функций с ограниченной средней осцилляцией в упомянутых выше работах авторов К. Zhu, D Bekolle, С.A Berger, L.A Coburn. Упомянем, что в работе N. Zorboska (2003) безвесовое пространство BMOg(D) вводилось в контексте упомянутой выше задачи о связи между компактностью оператора Теплица в безвесовом пространстве Бергмана и убыванием преобразования Березина. Однако, описание этих пространств не приводится в том объеме, в котором приводим его мы, а лишь ограничивается необходимыми для указанной задачи результатами

Полученные в диссертации результаты для пространств ВМОд(О) находят приложение к решению упомянутой выше фундаментальной проблемы о связи между компактностью оператора Теплица и убыванием соответствующего преобразования Березина tpx(z) при приближении к границе диска.

Оператор Теплица Т^ в Л2(В) является локально компактным оператором по крайней мере в случае символа у, непрерывного на D

(здесь мы используем локальный принцип И Б. Симоненко, 1964). Другими словами, компактность оператора Т,£ зависит от поведения символа Iр(г) при г и фактически (в случае непрерывного символа) эквивалентна равенству нулю символа на границе диска. С другой стороны, для таких операторов имеет место соотношение (р(г) = <р\{г), г £ сШ>. Более того, для ограниченной гармонической функции (р с учетом свойства среднего легко проверить, что ¡р(г) = ф\{г), г € В. Таким образом, связь между компактностью оператора Теплица и убыванием его преобразования Березина при приближении к границе диска становится очевидной для хороших символов.

Как было отмечено, сначала мы рассматриваем операторы Теплица Тф^ с символами <р из ВМОд(В)(э ВМОд(В)), действующие в весовых пространствах Бергмана ,4д(В) Основным результатом в этом исследовании является следующая теорема:

Теорема 3.10 Если <р £ ВМОд(В) и ¡р\(г) -> 0 при г —ЭШ>, то оператор ТуР компактен в .4д(В).

Слабая сходимость (нормированных) когерентных состояний в весовом пространстве Бергмана обеспечивает справедливость обратного утверждения.

Заметим также, что существуют примеры некомпактных операторов, преобразование Березина которых стремится к нулю на границе Например, для (унитарного) оператора отражения Т/(г) = /(—г), действующего в (безвесовом) пространстве Бергмана И2 (В), преобразование Березина имеет вид Т(г) ~ и, очевидно, Т(г) -»• 0, г ->• сШ>.

Не останавливаясь подробно, отметим, что аналогичные результаты получены для так называемых "радиальных"операторов в весовых пространствах Бергмана Л2 (Ш>) Радиальные операторы - это не обязательно теплицевы операторы, но в случае оператора Теплица радиальность означает, что (контравариантный) символ такого оператора - радиальная функция на единичном диске Таким образом, с учетом биголоморфной инвариантности ядра Бергмана для Л2 (В), мы, в частности, решаем указанную задачу в рамках эллиптического случая операторов Теплица

Заметим, наконец, что характеризация компактных операторов в терминах преобразования Березина находит непосредственное приложение к описанию коротких точных последовательностей, ассоциированных с алгебрами теплицевых и ханкелевых операторов с ограниченными символами. Этой тематике в различных постановках посвящены работы S. Axler, D. Zheng, (1998), M. English (1999), К Guo, D. Zheng (2002), D. Suarez (2004), H. Upmeier (1983), C.A. Berger, L.A. Coburn (1979), С A. Berger, L.A. Coburn, A. Koranyi (1980), N. Salinas (1988), N. Salinas, A J.-L Sheu, H Upmeier (1998).

Исследование отдельных операторов специального вида может пролить свет на описание *-алгебр некоторых общих операторов, чему и посвящена четвертая глава диссертации

Исследованию алгебр многомерных сингулярных интегральных операторов с коэффициентами, имеющими разрывы в конечном числе изолированных точек, посвящены работы многих авторов. Принципиальный вклад в исследование таких алгебр псевдодифференциальных операторов сделан в работах Б А Пламеневского и его учеников. Он развил многомерную теорию в случае, когда точки разрыва моделируются однородной нулевой степени функцией, чье сужение на единичную окружность непрерывно. В рамках этого подхода, применением преобразования Меллина по радиальной переменной псевдодифференциальный оператор с гладким однородным символом а(х, £) сводится к семейству операторов

S(A)_1a(í,w)í;(Á), (4.1)

действующих в пространстве L2(TT"-1) на единичной сфере Т"-1. Здесь А £ К, оператор Е{А) (для случая п = 2) задается формулой

E(\)u{t) = —Г(1 + гА)е^г-л) [ {-tu + i0)~lX~lu{<jj)du, и € С°°(Т) 2тт Jj

(4.2)

где, как обычно, (т ± для т € R, ц € С понимается в смысле распределений Далее строится исчисление с использованием классической техники псевдодифференциальных операторов и гармонического анализа на сфере.

В диссертации применяется иной (альтернативный) подход, позволяющий свести алгебру псевдодифференциальных операторов (4.1) к алгебре операторов, порожденной классическими объектами - сингулярными интегральными операторами на окружности с коэффициентами. Это позволяет даже в случае непрерывных коэффициентов существенно упростить описание алгебры и проливает свет на истинную природу рассматриваемых операторов, связывая их с хорошо изученными классическими объектами, исследования которых восходят к работам С.Г Мих-лина, И.М. Гохберга, Н.Я. Крупника и других авторов Указанный метод позволяет исследовать принципиально новые классы операторов и порождаемые ими алгебры. В этом исследовании мы используем локальный принцип И.Б Симоненко (1964) при локализации конкретных операторов и далее "алгебраический"вариант локального принципа, приведенный в работах R Douglas (1972) и J. Varela (1974), соединяя вместе локальные описания.

Сначала приводится краткое самодостаточное описание необходимой части теории Б.А. Пламеневского в двумерном случае, используя альтернативный подход. Здесь основной результат приводится в следующей теореме.

Теорема 4.11 Оператор bA(ß) = ^_1(A)b(w)E(A)) где b(t) е С(Т), допускает представление

ЬА(П) = Ь(й)^т + К-*)*3! + KW>

где К{А) - компактный оператор, Pj = j(/±5t) - проекторы Сегё, связанные с одномерным сингулярным интегральным оператором (Sfu)(t) =

/т тУ

При доказательстве этой теоремы по-существу используется техника предельных операторов, развитая в работах Б В. Ланге, В.С Рабиновича (1986).

Этот результат связывает основные ингредиенты теории Б.А Пламеневского с классическими объектами и немедленно приводит к основным утверждениям в двумерном случае. В частности, отметим следую-

щее представление для оператора (4 1).

E(X)~la(t, ш)Е[Х) = a(t, it)P^ + a(t, -it)P,f + K(\), (4.3)

где a(t,ui) e C°°(T X T) и K(A) - компактный оператор. Например, теперь очевидно, что существенная норма E(X)~la(t, lj)E(X) определяется соотношением |||.E(A)_1a(t, w)E(A)||| = sup(iiW)eVj_2 |a(i, w)|, где У2,2 = {(i,w±(i)) € t x t : u>±(t) = ±îî} - кокасательное расслоение в точке t.

Пусть А обозначает С* - подалгебру L°°(T), содержащую алгебру С(Т), и пусть H (Л) - алгебра однородных нулевой степени функций на Ж2, чьи сужения на окружность Т принадлежат алгебре А Обозначим через Т1 = Ф (Н(А), H [Л)) С* - алгебру операторов в 1/2(К2), порожденную операторами вида

a{x)I, b(D) = F~lb(£,)F, a,bçH{A). (4 4)

Как было отмечено выше, в нашем подходе распространяем результаты Б.А. Пламеневского ( т.е когда А = С(Т) ) в двумерном случае на более общую ситуацию, допуская, чтобы упомянутые сужения были кусочно - непрерывными или даже имели разрывы второго рода Остановимся на модельном случае алгебры с кусочно - непрерывными разрывами, другими словами, рассмотрим алгебру

= Ф(Я(РС(Т)),Я(С(Т))).

Ключевым моментом в технике Б А Пламеневского является тот факт, что алгебра % — Ф(Н(А),Н(А)) изометрически изоморфна подалгебре С* - алгебры © непрерывных по супремум норме ограниченных оператор - функций U = U(А), определенных на R (А 6 R) со значениями в алгебрах <3д = Фд(Л, .4), порожденных следующими операторами, действующими в L2(Т) :

a(t)I, ЬД(П) = £^(А)-16(ш)£;(А), а, Ь в А.

Полученное нами представление (4.3) в совокупности с теорией одномерных сингулярных интегральных операторов и с соответствующими результатами этой теории немедленно приводят к следующему результату в модельной ситуации.

Теорема 4.12 Алгебры &\ = Фд(РС(Т), С(Т)) совпадают при всех А е К с алгеброй

б1-7г(РС(Т),5т),

порожденной одномерными сингулярными интегральными операторами с кусочно-непрерывными коэффициентами. Алгебра бх содержит идеал 1С компактных в 1?(Т) операторов, неприводима, и фактор-алгебра ©1 = И(РС(Т), 5т)/£ некоммутативна. В частности, коммутатор двух операторов Е(\)~1а^,ш)Е(\), вообще говоря, некомпактен, а оператор Е(\)~1а(1;,ш)Е(\) компактен если и только если а(£,а>)|у22 = 0.

Для построения фактор-гомоморфизма

зут : ЩРС{Т), 5Т) —» Бутбь

который мы здесь не приводим в силу ограничения объема, по-существу используется теория двух проекторов, то есть описание алгебры, порожденной двумя проекторами, полученное в работах Н.Л. Василевского и других авторов.

Теперь обращаясь к одной из основных задач данного исследования-описанию алгебры П\ = Ф(Я(РС(Т)),Я(С(Т))), имеем.

Теорема 4.13 Алгебра изометрически изоморфна подалгебре алгебры Сь(К, И(РС(Т), £т)) непрерывных ограниченных на Е функций со значениями в алгебре 71(РС(Т), 5т). Изоморфное вложение

а-.Их —>С6(М, 7г(РС(Т),5т))

определяется следующим отображением порождающих элементов алгебры

а : а(х)1 —>• а(4)7, А 6 К,

сг : Р-^Р —4 + Ъ(-И)Ру + К{А), А е К,

где К{А) = Е~1(\)Ь(ио)Е(Х) — Ь(г£)Р^ — Ь(—И)Р.- компактный оператор, а(х) 6 Я(РС(Т)) и 6(0 6 Я(С(Т)).

В качестве примера рассмотрим двумерный псевдодифференциальный оператор в L2(R2) :

(ЛЫ) (х) = [ е*а{х, (4 5)

¿ъ у®2

с кусочно - гладким символом а(х,£) е Н(РС(Т)) ® Н(С(Т)). Пусть для определенности Л = {ti, Î2, ■.., ffc} - множество точек разрыва на Т. Обозначим через Т± две дизъюнктные копии окружности, разрезанной в точках tp, 1 ^ р ^ к множества Л При этом каждая точка tp множества Л порождает точки + 0 и tp — 0 на Т±.

С учетом указанных выше результатов получаем, что условия

a(t, it) ф 0, te Т+, a{t, -it) ф 0, t€ Т_, a(tv + 0,iip)a(tp — 0,— iip)(l — х) + a(tp — 0,itp)a(tp + 0, — itp)x ф О,

для каждого tp € Л и х € [0,1], а также

Ind (o(t, + o(t, -ît)Pf ) = 0

являются необходимыми для обратимости оператора А.

Наконец, в кусочно - непрерывном случае общим и основным объектом исследования является С* - алгебра 1Z = Ф(РС(Е2, С), #(С(Т))), порожденная операторами

A = a(x)I, а(х) е РС(Ё2,£), (4.6)

6(0) = i-^COi", & G Я(С(Т)), (4.7)

действующими в L2(R2). Здесь R2 обозначает одноточечную компакти-фикацию R2 точкой оо, и С - объединение прямолинейных интервалов, выходящих из начала координат (исключая само начало координат). Функции а(х) непрерывны на R2 \ (С U {0}), имеют односторонние предельные значения в каждой точке х € С к в начале координат локально эквивалентны однородным нулевой степени функциям ha(x).

Для описания алгебры фредгольмовых символов Sym7£ = 71 = 1Z/IC алгебры TZ используется стандартный локальный принцип И.Б Си-моненко в следующей формулировке. Пусть Z = {al, а(х) S C(R2)}.

Каждый оператор а/ £ Z коммутирует с операторами вида (4.6) и коммутирует с операторами вида (4.7) с точностью до компактного слагаемого Таким образом, алгебра 2 = Е/К. = .2 является центральной коммутативной подалгеброй алгебры % = 7Ъ/К.. Для каждого хо € М2 обозначим через 3Хй максимальный идеал алгебры 2, соответствующий точке хо, и через 1(хо) обозначим односторонний замкнутый идеал 11, порожденный идеалом 1Ха

Тогда алгебра 72(жо) = К/Лръ) является локальной алгеброй в точке жо 6 ®2, и естественное отображение

1гха ■ П —> % —)■ Щхь)

отождествляет локально эквивалентные в точке х$ элементы алгебры 72.

В данной ситуации имеются три типа локальных алгебр, соответствующих точкам непрерывности, точкам разрыва, принадлежащим С, началу координат. Непрерывный случай очевиден. Случай точки из С рассматривается при помощи упомянутой выше теории о двух проекторах. Наконец, локализация и дальнейшее описание в начале координат осуществляется с использованием полученного ранее описания модельной алгебры Пх = Ф(Я(РС(Т)), Я(С(Т))).

Аналогичные результаты получены для С* - алгебры сингулярных интегральных операторов с коэффициентами, которые в начале координат моделируются (локально эквивалентны) однородными функциями, имеющими слабо осциллирующие разрывы на окружности.

В заключительной пятой главе продолжается исследование зависимости свойств операторов от поведения символов или ядер этих операторов, в частности от осцилляции символов или осцилляции в ядрах операторов. Также изучается влияние особенностей ядер операторов, локального и глобального поведения этих ядер на картину ограниченности Здесь мы рассматриваем операторы свертки на К", а также некоторые осцилляторные операторы с осцилляцией в ядре специального вида, за-

висящей от внешней переменной - так называемые операторы скрученной свертки.

Рассмотрим хорошо известный оператор типа потенциала

с гладкой характеристикой в = в(х). Ядра таких операторов имеют особенности в начале координат и на бесконечности. Для в(х) = 1 символом I" является функция 7а|£|_а, где 7а - некоторый нормировочный множитель. Известно, что оператор If ограничен из i7(En) в Lq(Е") если и только если показатели р, q, а удовлетворяют условию Соболева, т.е. 1/q = 1/р — Rеа/п и 0 < Rea < n (р ^ 1, р ф п/Rea). Это условие также является достаточным для ограниченности из Z^R") в L9(Rn) при указанных р, д.

Начиная с работ А.П Кальдерона, А. Зигмунда (1956), И Стейна (1957), С Г Самко (1976) и других, теория операторов типа потенциала, имеющих особенности в начале координат и на бесконечности, развивалась интенсивно в работах многих авторов. Упомянем монографии С.Г. Самко (1984) и С.Г. Самко, A.A. Килбаса, О.И Маричева (1987) (см. также более поздние издания). Многие аспекты теории этих операторов к настоящему времени достаточно хорошо изучены Естественным продолжением изучения таких операторов является исследование операторов типа потенциала с особенностями ядер на некотором многообразии в R", в частности на сфере. Эти операторы естественно возникают в конкретных задачах математической физики. Не претендуя на полноту изложения, упомянем работы A. Miyachy (1980), R. Strichartz (1970), S. Thangavelu (1993), в которых такие операторы возникали и исследовались в рамках задачи Коши для волнового уравнения. В частности, в работах A. Miyachi рассматривались операторы с символами х(|£1ЖГ"е'Ю, 0 ^ а < п (ядра этих операторов имеют, вообще говоря,

особенность на сфере) Здесь х(1Ш £ Cg°(R") и х(|£|) = 1 для |£| ^ 2, X(lfl) = 0, при |£| ^ 1.

Мы начинаем исследование с изучения операторов А"/ = * /, где Па,а(я) обозначает распределение, являющееся (обратным) преобра-

0 < Re а < п.

зованием Фурье символа ma>Q.(|í|) = Условия на харак-

теристическую часть символа, фукцию а(|ж|) будут приведены в тексте Эти операторы для (п + 1)/2 < Rea < п имеют вид

AZf(x) = [ Па,«Ы f(x - у) dn(y), f 6 S(R"). (5.1) J R"

При добавлении осциллирующего множителя в мультипликатор (т.е. при замене символа потенциала Рисса на символ существенно

меняется картина ограниченности Ядра С1а,а(х), вообще говоря, имеют особенности на единичной сфере Т"-1 в R" (порядка (1 — и

на бесконечности и являются гладкими в Rn \Tn_1. В частности, множество пар (1/р, l/<¡>), для которых соответствующий оператор ограничен из LP (¡R") в L9(Rn), имеет положительную (плоскую) лебегову меру (при Rea 0).

В качестве следующего шага в направлении исследования зависимости свойств ограниченности от осцилляции добавим осцилляцию специального вида в ядро оператора Аа(— Пусть 0 - невырожденная кососимметрическая пхп вещественная матрица, п - четное (всюду ниже, исследуя операторы скрученной свертки, будем считать, что п -четное).

Итак, рассматриваем оператор скрученной свертки Taf = Qa х /, Па(х) = Q.\¡a(x), который для (n + l)/2 < Rea < п задается равенством

T<*f(x) = [ ВД f(x - у) d»(y), f 6 S(R"). (5.2)

J R"

Заметим, что в литературе иногда отождествляют R" с С"/2 и при этом вместо (<Эх,у) используют Im(х,у), считая х,у G С"/2, понимая под символом (х, у) скалярное произведение в С™/2. Такое обозначение мотивируется желанием подчеркнуть природу скрученной свертки и ее связь с гармоническим анализом на группе Гейзенберга.

Поясним интерес к изучению операторов скрученной свертки Операторы вида

ТкМ*)= f K{x-yy*^<pWtiv), ¥>eS(Rn), (5 3) JBn

частным случаем которых являются операторы скрученной свертки, естественным образом возникают при изучении сингулярных интегральных операторов на многообразиях меньшей размерности. Упомянем, например, исследования D.H. Phong, Е М. Stein (1986), F.Ricci, Е.М. Stein (1987). Интерес, проявленный нами к операторам скрученной свертки, обусловлен также и тем, что эти операторы естественно возникают в гармоническом анализе. В частности, как было отмечено выше, скрученные свертки возникают при изучении сверок на группе Гейзенберга, а также в исчислении Вейля псевдодифференциальных операторов, определяя формулу для символа композиции операторов. Одна из основных открытых задач, связанных с исследованием операторов вида (5 3), состоит в получении для них Z^R") —Lq(Rn) - оценок. В случае ядер вида К(х) = ^рг-) 0 < ц ^ п, с гладкими характеристиками в(х), ограниченность операторов вида (5 3) в 1^(КП) достаточно хорошо изучена для широкого класса фазовых функций Ф(х, у). Так, например, в работе D.H. Phong, Е М. Stein (1986) получены L^R") i^(Rn) - оценки для оператора (5.3) с ядром типа Кальдерона-Зигмунда в случае вещественной билинейной формы Ф(ж, у), а в работе F.Ricci, Е М. Stein (1987) получены Z7(R") —> Z^R") - оценки для случая, когда Ф(х,у) полином в Rn X R".

По видимому, L^R") —> Lq(R") - оценки для таких операторов ранее не изучались. Естественно, что изучение операторов вида (5 3) по - существу отличается от исследования сверточных операторов, когда Ф(х,у) = Ф(х — у). В первую очередь это обусловлено тем, что анализ Фурье, техника Mq(Rn) - мультипликаторов и другие хорошо развитые методы гармонического анализа не применимы в данной ситуации Кроме того, операторы вида (5.3), вообще говоря, не обладают свойством симметрии относительно линии двойственности l/p+1/ç = 1. Так, в работах A.M. Mantero и M Cowling (1982, 1985) показано, что существует оператор скрученной свертки, ограниченный в при р G (1,2] и

неограниченный в Z^R71) при р > 2.

Локально оператор вида скрученной свертки имеет характеристи-

ки сверточного оператора. Этому подтверждение - теорема М. Cowling (1981), в которой доказано, что оператор скрученной свертки и оператор свертки с одним и тем же компактно сосредоточенным ядром ограничены или не ограничены в L^E") (1 ^ р ^ оо) одновременно. С другой стороны, в глобальной части такого оператора доминируют черты ос-цилляторного интеграла, что вносит существенные изменения в картину ограниченности. Таким образом, оператор скрученной свертки комбинирует черты сингулярных интегральных операторов, доминирующих в "локальной части"оператора и осцилляторных интегралов, доминирующих в "глобальной"части оператора

Вернемся теперь к изложению результатов диссертации. Далее мы продолжаем исследование свойств L^E") —> L9(E") ограниченности для более общих операторов скрученной свертки, когда особенности ядра на сфере, на бесконечности (и в нуле) вводятся независимо. Именно, исследуется оператор скрученной свертки

ICa'^f(x) = [ kaAy{\y\)el^f(x - y)drty), f е S(R"), (5 4) J R"

с ядром

едм-", \у\ < л,

W,7(bl) = 6(М) (1 - М2 + гоу-1, 1 - 6 < \у\ < 1 + S, , c(M)Ma"V4 М > N,

где 0 < Re 7, Re a < n, < /3 < 1,/3 ф 0, -1,..., +1, V < 1-й,

1+8 < N характеристики а, 6, с удовлетворяют некоторым естественным условиям (например, с(оо) ф О, Ь{ 1) ф 0 и d(0) ф 0).

Заметим, что L^E") -> L9(Rn) - оценки для операторов типа потенциала

К"Лу{х) = f kaJ,n{\y\yMf(x - y)d»(y), f 6 S(En), (5 5) J R"

исследовались в работе Д Н. Карасева, В.А. Ногина (2003), где при определенных значениях параметров была описана С характеристика оператора К"'Р'"1 (то есть дано точное описание пар (1 /р, 1 /д), для которых

этот оператор ограничен из L^R") в Lq(R™)). Также, некоторые модификации оператора вида (5.5) исследовались в работе соискателя и Д Н. Карасева, В А. Ногина (2003). Это позволяет проводить сравнения свойств ограниченности операторов К0'^'1, /Са,/3,7.

Перечислим основные результаты пятой главы. Приводится интегральное представление для оператора А" и также для соответствующего оператора скрученной свертки, исследуются свойства ядра, а также доказываются некоторые вспомогательные утверждения. Поскольку оператор А" изначально возник в контексте изучения операторов типа потенциала, мы исследуем задачу представимости функции / потенциалом A%tp с некоторой £ i7(M") и решаем задачу обращения в рамках пространств L^R"). Далее, строится С - характеристика оператора Л" при некоторых предположениях на характеристическую часть а(|ж|). Приводятся достаточные условия U'(R") L9(Rn) ограниченности.

Переходя к изучению операторов скрученной свертки мы сначала доказываем некоторые общие утверждения, представляющие самостоятельный интерес. В частности, приведен аналог леммы JI. Хермандера для операторов, инвариантных относительно сдвига

Далее, приводятся достаточные условия 1^(ЕП) —> Lq(Rn) ограниченности оператора Та. С учетом точности оценок для оператора А" при определенных а(|ж|) (в частности, при а(|х|) = 1), последний результат позволяет продемонстрировать разницу в картине L^R") —>■ Lq(R") ограниченности операторов свертки и скрученной свертки. Естественно, что множество точек (1/р, 1/д), для которых оператор Та ограничен из ¿^(R") в Lq(Rn) значительно массивнее, чем С характеристика оператора А". Кроме того, например, оператор Та всегда ограничен в L2(Rn), в то время как это имеет место для Аа только при Rea = 0.

Наконец, получены Ьр(Шп) —>■ L9(R") - оценки для оператора скрученной свертки и приводится сравнение картины ограниченности оператора скрученной свертки /С"''3,7 и оператора свертки Ка>Р'7. Приведены примеры, когда £(Ка'Р'"/) состоит из одной точки или = 0, в то время как mes£(/CQ,,|0''r) > 0 для всех а,/3 и 7.

Список публикаций соискателя

[1] Каралетянц А.Н., Ногин В.А. Описание функций из анизотропных пространств комплексного порядка и его приложение // Доклады РАН. - 1996. - Т. 351, № 1. - С. 13 - 15.

[2] Карапетянц А.Н., Ногин В.А. Комплексные степени эллиптических дифференциальных операторов второго порядка в пространствах LP // Доклады РАН - 1998. - Т. 358, № 1. - С. 10 - 12.

[3] Карапетянц А.Н., Ногин В.А. Характеризация функций из анизотропных пространств комплексного порядка // Известия Вузов Математика. - 1998. - Т. 432, № 5. - С. 24 - 30

[4] Карапетянц А Н., Ногин В А Обращение операторов типа потенциала с ядрами, имеющими особенности на сфере // Известия Национальной Акад. Наук Армении. - 1999 - Т 1. - С. 57 - 71.

[5] Karapetyants A.N , Ramirez Е de A. On the inversion of potential type operators with kernels having singularities on a sphere // Pract Calc. Appl. Anal. - 2000. - T. 3. - C. 141 - 160

[6] Карапетянц A.H., Ногин В.A. L— характеристика некоторых операторов типа потенциала с осциллирующими символами и особенностями ядер на сфере // Доклады РАН - 2000 - Т. 370, № 3 - С 300 - 302.

[7] Karapetyants A.N On Lp — Lq boundedness for convolutions with kernels having singularities on a sphere // Studia Mathematica. - 2001. - T. 144, №2,-С 121-134.

[8] Karapetyants A N., Rabinovich V.S., Vasilevski N.L. On algebras of two dimensional singular integral operators with homogeneous discontinuities in symbols // Integral Equations Operator Theory. - 2001. - T. 40, № 3 - C. 278 - 308.

[9] Karapetyants A.N., Nogin V A. On L- characteristic of some potential type operators with oscillating symbols and singularities of the kernels on a sphere // Acta Mathematica Hung. - 2001. - T. 92, № 1-2. - С. 1 - 9.

[10] Karapetyants A.N., Ramirez E. de A. Lp — Lq boundedness for some convolution and twisted convolution operators // Proceedings of IWOTA-Portugal 2000 in the series "Operator Theory Advances and Applications "of Birkauser Verlag. - 2003. - Т. 142. - С 133 - 145

[11] Karapetyants A.N., Ramirez E. de A A boundedness result for twisted convolution // Mathematische Nachrighten - 2003. - T. 250, № 3 - C. 58-70

[12] Grudsky S.M , Karapetyants A.N., Vasilevski N.L. Toeplitz operators on the unit ball in C" with radial symbols //J. Operator Theory. - 2003. -T. 49, № 2. - C. 325 - 346

[13] Grudsky S.M., Karapetyants A.N., Vasilevski N.L. Dynamics of properties of Toeplitz operators with radial symbols // Integral Equations Operator Theory. - 2004. - T. 50, № 2. - C. 217 - 253.

[14] Grudsky S.M., Karapetyants A.N., Vasilevski N.L Dynamics of properties of Toeplitz operators on the upper half plane: hyperbolic case // Bol. Soc. Mat. Mexicana (3). - 2004 - T 10, № 1. - C. 119 - 138.

[15] Grudsky S.M., Karapetyants A N., Vasilevski N L. Dynamics of properties of Toeplitz operators on the upper half plane: parabolic case // J. Operator Theory. - 2004. - T. 52, № 1. - С 185 - 214.

[16] Карапетянц A.H., Голиков A.B., Преобразование Березина и радиальные операторы на весовых пространствах Бергмана на единичном диске // Владикавказский математический журнал. - 2005. - Т. 7, № 2 - С. 55 - 63.

[17] Карапетянц А.Н. Характеризация функций из весового пространства ВМО^(Щ на единичном диске // Известия вузов Северо - кавказский регион. Естественные науки. Приложение. - 2005 - №. 9. -С. 8 - 17

[18] Карапетянц А.Н. Теплицевы операторы с ВМО символами на весовых пространствах Бергмана и преобразование Березина // Известия

вузов. Северо - кавказский регион Естественные науки Спецвыпуск Псевдодифференциальные уравнения и некоторые проблемы математической физики - 2005. - С 78 - 82.

[19] Карапетянц А Н., Ногин В.А. Ьр — Ьд- оценки для оператора скрученной свертки с ядром, имеющим особенности на сфере и в начале координат // Известия Вузов Математика - 2006. - Т 2. - С. 72 -75.

[20] Карапетянц А.Н. Описание весовых пространств ВМО\(3) в терминах средней осцилляции в метрике Бергмана. Известия вузов Северо

- кавказский регион Естественные науки. - 2006. - № 1. - С. 15 - 19.

[21] Карапетянц А.Н., Ногин В А. Оценки для операторов скрученной свертки с особенностями ядер на сфере и в начале координат // Дифференциальные уравнения. - 2006 - Т. 42. - № 5. - С. 674 -683.

[22] Карапетянц А Н. Теплицевы операторы с радиальными символами на весовых пространствах Бергмана на единичном диске // Вестник Южного научного центра РАН. - 2006. - Т. 2, № 1. - С. 3 - 9.

[23] Карапетянц А.Н. Пространство ВМОд(О), компактные операторы Теплица с ВМОд(О) символами на весовых пространствах Бергмана и преобразование Березина // Известия вузов. Математика - 2006 -№. 8. - С. 76 - 79.

[24] Карапетянц А.Н. О функциях, представимых потенциалом с символом, осциллирующим на бесконечности // Известия вузов. Северо -кавказский регион. Естественные науки. Приложение - 2006. - №. 7.

- С. 22 - 33.

[25] Василевский Н.Л., Грудский С.М., Карапетянц А.Н Динамика свойств теплицевых операторов на весовых пространствах Бергмана // Сибирские электронные математические известия. - 2006. - Т. 3. - С. 362 - 383

Печать цифровая. Бумага офсетная. Гарнитура «Тайме». Формат 60x84/16. Объем 1,7 уч -изд -л. Заказ № 33 Тираж 100 экз. Отпечатано в КМЦ «КОПИЦЕНТР» 344006, г Ростов-на-Дону, ул. Суворова, 19, тел. 247-34-88

ВВЕДЕНИЕ

Цель и задачи исследования

Основные научные результаты.

Основные положения, выносимые на защиту.

Апробация результатов диссертации.

Публикации.

Структура и объем диссертации.

1 ОПЕРАТОРЫ ТЕПЛИЦА В ВЕСОВЫХ ПРОСТРАНСТВАХ БЕРГМАНА. ОГРАНИЧЕННОСТЬ, КОМПАКТНОСТЬ

1.1 Постановка задач, история вопроса и предварительные сведения

1.2 Теплицевы операторы с радиальными символами в пространствах Ад (В): эллиптический случай.

1.2.1 Виковский символ и спектральное разложение для оператора Теплица.

1.2.2 Ограниченность и компактность операторов Теплица с радиальными символами в пространствах А^(В)

1.2.3 Идеалы Шаттена 5д на пространстве .Ад(В)

1.3 Теплицевы операторы с символами, зависящими от у = \mz в Ад(П) : параболический случай.

1.3.1 Виковский символ и некоторые интегральные представления для оператора Теплица.

1.3.2 Ограниченность операторов Теплица с символами, зависящими от у = \mz в пространствах Ад (П)

1.4 Теплицевы операторы с символами, зависящими от в = argz в Ад(П) : гиперболический случай.

1.4.1 Виковский символ и некоторые интегральные представления для оператора Теплица.

1.4.2 Ограниченность операторов Теплица с символами, зависящими от 0 = arg z, в пространствах Лд(П)

1.5 Краткие выводы и комментарии к главе 1.

2 ОПЕРАТОРЫ ТЕПЛИЦА В ВЕСОВЫХ ПРОСТРАНСТВАХ БЕРГМАНА. ПРЕДЕЛЬНЫЕ СВОЙСТВА СПЕКТРА

2.1 Постановка задач, история вопроса и предварительные сведения

2.2 Эллиптический случай.

2.2.1 Непрерывные символы.

2.2.2 Кусочно-непрерывные символы.

2.2.3 Неограниченные символы.

2.3 Параболический случай.

2.3.1 Непрерывные символы.

2.3.2 Кусочно-непрерывные символы.

2.3.3 Осциллирующие символы.

2.3.4 Неограниченные символы.

2.4 Гиперболический случай.

2.4.1 Непрерывные символы.

2.4.2 Кусочно-непрерывные символы.

2.4.3 Неограниченные символы.

2.5 Краткие выводы и комментарии к главе 2.

3 ОПЕРАТОРЫ ТЕПЛИЦА В ВЕСОВЫХ ПРОСТРАНСТВАХ БЕРГМАНА С ВМОд(О) - СИМВОЛАМИ И ПРЕОБРАЗОВАНИЕ БЕРЕЗИНА

3.1 Постановка задач, история вопроса и предварительные сведения

3.2 Описание пространства ВМО$(©).

3.2.1 Некоторые результаты для функций из ВМОд(О).

3.2.2 Характеризация функций из ВМОд(В) в терминах преобразования Березина.

3.3 Пространство ВМО^г(Ю>): описание ВМОд(Р) в терминах средних.

3.4 Компактные операторы Теплица в Д|(В) с В МО J (О) символами и преобразование Березина.

3.5 Компактные радиальные операторы в *4д(В) и преобразование Березина.

3.6 Краткие выводы и комментарии к главе 3.

4 СИНГУЛЯРНЫЕ ИНТЕГРАЛЬНЫЕ ОПЕРАТОРЫ С ОДНОРОДНЫМИ РАЗРЫВАМИ В КОЭФФИЦИЕНТАХ. ФРЕДГОЛЬМОВОСТЬ

4.1 Постановка задач, история вопроса и предварительные сведения

4.2 Оператор Е(\) и представление двумерного преобразования Фурье.

4.3 Основное представление для оператора b\(£t) = Е(Х)~1Ь(ш)Е(Х) и описание "координатных"алгебр бд = Фл(С(Т), С(Т))

4.4 Описание алгебры фредгольмовых символов в случае кусочно-непрерывных разрывов в коэффициентах.

4.4.1 Модельная алгебра Пх = Ъ{Н(РС(Т, А)), Н(С(Т)))

4.4.2 Описание алгебры 11 = Ф(РС(Е2, С), Н(С(Т)))

4.5 Описание алгебры фредгольмовых символов в случае слабо осциллирующих разрывов в коэффициентах.

4.5.1 Модельная алгебра П2 = Ф(Я(50(Т, А)), #(С(Т)))

4.5.2 Описание алгебры П = Ф(50(М2, £), Н(С(Щ

4.6 Краткие выводы и комментарии к главе 4.

5 ОПЕРАТОРЫ СВЕРТКИ И СКРУЧЕННОЙ СВЕРТКИ С ЯДРАМИ, ИМЕЮЩИМИ ОСОБЕННОСТИ НА СФЕРЕ И ОСЦИЛЛИРУЮЩИМИ НА БЕСКОНЕЧНО

5.1 Постановка задач, история вопроса и предварительные сведения

5.2 Интегральные представления для операторов свертки А® и скрученной свертки Т".

5.3 Некоторые свойства ядер оператора свертки А® в специальных случаях.

5.4 Представимость функции потенциалом и формула обращения.

5.5 1/{Шп) L9(Kn) оценки для оператора свертки

5.6 Некоторые общие результаты об операторах скрученной свертки

5.7 1/(Шп) Lq(Rn) оценки для оператора скрученной свертки Та.

5.8 L9(Kn) оценки для оператора скрученной свертки К.

5.9 Сравнение С - характеристик операторов Ка,в,,у и /Са,/3;

5.10 LQ(Rn) оценки для оператора скрученной свертки с ядром, имеющим особенности на сфере.

5.11 Ьд(Жп) - оценки для оператора скрученной свертки с ядром, имеющим особенность на бесконечности

5.12 Краткие выводы и комментарии к главе 5.

Основной целью диссертации является изучение свойств ограниченности и компактности, спектральных свойств некоторых классов линейных операторов, действующих в банаховых пространствах, а также зависимости этих свойств от поведения символов или ядер данных операторов. Также в случае теплицевых операторов мы изучаем изменение указанных свойств в динамике, то есть в зависимости от изменения параметра веса весового пространства, в котором эти операторы действуют. Исследуется также вопрос фредгольмовости для С* - алгебры двумерных сингулярных интегральных операторов специального вида.

В настоящее время имеется большое количество работ, посвященных исследованию теплицевых и ханкелевых операторов, а также их модификаций в пространствах типа Бергмана, Харди, Дирихле. Тепли-цевы операторы с гладкими (или непрерывными) символами, действующие в весовых пространствах типа Бергмана на единичном диске в С или в шаре в С1, естественно возникают в контексте задач математической физики. То же самое в равной степени относится и к С* - алгебрам таких операторов. Упомянем только некоторые, близкие к данной теме задачи математической физики. В первую очередь это квантовая деформация алгебры непрерывных функций на диске (S. Klimek, A. Lesniewski [84]) и принцип квантования Березина [3], [4], [55], в частности, на гиперболической плоскости.

Для каждого Л > — 1 оператор Теплица Т^ с (контравариант-ным) символом а = a(z) действует в весовом пространстве Бергмана Дд(В) на единичном диске. В процедуре квантования Березина (см. например, [4]) каждому оператору Теплица сопоставляется его символ Березина (или символ Вика) ад, и принцип соответствия (применительно к нашей ситуации) означает, что lim алМ = a{z), z € В

А->оо для гладких символов а = а(г). Указанный предельный переход допускает трактовку и в более широком смысле (см. [80]).

В этой связи возникает важная проблема: изучение изменения различных свойств оператора Т^ (ограниченность, компактность) в динамике при изменении параметра веса Л, а также изучение поведения спектра этих операторов при Л -4 оо и формирования предельного множества в соответствии со свойствами символа а. При этом мы не ограничиваемся гладкими символами.

Не представляется возможным получить достаточно полный ответ на указанный выше вопрос в рамках общего класса (даже гладких) символов. В то же время недавно изученные случаи коммутативных *-алгебр теплицевых операторов на единичном диске подсказывают, что достаточно полный ответ можно дать в рамках следующих трех классов символов теплицевых операторов. Напомним в этой связи (см. [130], [131]), что все известные классы коммутативных *-алгебр операторов Теплица на единичном диске классифицируются пучком (гиперболических) геодезических следующих трех типов (см. рисунок 1): геодезические, пересекающиеся в одной точке (эллиптический пучок), параллельные геодезические (параболический пучок) и непересекающиеся геодезические, т.е. все геодезические, ортогональные заданной (гиперболический пучок). Ограниченные символы, являющиеся постоянными на циклах, т.е. траекториях ортогональных геодезическим, формирующим пучок, в каждом случае порождают коммутативную *-алгебру операторов Теплица. Кроме того, это свойство коммутативности не зависит от гладкости символов, которые могут быть просто измеримыми или даже мерами.

В диссертации развиты методы исследования операторов Теплица с, вообще говоря, неограниченными символами указанного выше вида. Отметим, что большинство работ по операторам Теплица в пространствах типа Бергмана относятся к случаю, когда символ такого оператора - ограниченная функция. Поэтому развитие новых методов, эффективных в случае неограниченных символов, является актуальным и по существу необходимым для дальнейшего развития теоретических основ данной проблемы.

В контексте настоящего исследования заметим, что в последнее время имеется большое количество работ, посвященных применению преобразования Березина. Это мотивируется непосредственной связью с математической физикой и некоммутативной геометрией. Преобразование Березина является важной составляющей гармонического анализа в силу ковариантности по отношению к аналитическим преобразованиям. Оно играет роль преобразования Пуассона с той разницей, что интегрирование по границе заменено на интегрирование по области. Преобразование Березина эффективно используется в различных постановках, начиная с пространств Харди (см., например, К. Stroethoff [123]) и включая пространства Баргмана-Сегала (см. С. A. Berger, L. A. Coburn [58]), и, по - существу, используется в контексте (аналитических) пространств Блоха и пространств с ограниченной средней осцилляцией (см., например, К. Zhu [136]). Однако, наиболее успешно преобразование Березина используется при изучении операторов в пространствах Бергмана. По

- видимому, впервые символ Березина (ковариантный символ) с такой целью использовался в работах [58], [59].

Имеется ряд недавних работ, посвященных исследованию связи между убыванием преобразования Березина оператора Теплица (а также конечных сумм произведений теплицевых операторов) на границе единичного диска и компактностью самого оператора. Для положительных символов такое исследование было начато в работах К. Zhu [133], D. Lueking [87], для ограниченных символов проводилось в работе S. Axler, D. Zheng [51], а для радиальных символов - в работе N. Zorboska [138]. Фактически сама фундаментальная проблема была сформулирована в работе S. Axler, D. Zheng. В этой связи упомянем работу этих авторов [52], посвященную применению характеризации компактных операторов в терминах преобразования Березина, и работу М. Englis [72], в которой указанная выше задача решена в случае ограниченных симметричных областей.

Вопрос характеризации компактных теплицевых операторов в терминах преобразования Березина представляется наиболее важным, однако, в случае неограниченных символов эта задача остается открытой. В этом направлении мы решаем указанную задачу для операторов Теплица в весовых пространствах Бергмана с символами из весового ВМОд(О) (т.е. с неограниченными, вообще говоря, символами). Актуальным и представляющим самостоятельный интерес является описание самих весовых пространств ВМОд(Р), определенных в терминах гиперболической метрики Бергмана.

Пространства ВМО и VMO в метрике Бергмана впервые появились в работе К. Zhu [136] в контексте единичного диска в С и далее изучались в работе D. Bekolle, С. A. Berger, L. A. Coburn [54] в случае ограниченных симметричных областей. Тем не менее, аналитические пространства ВМО практически не изучены по сравнению с вещественной теорией функций с ограниченной средней осцилляцией.

Заметим, наконец, что характеризация компактных операторов в терминах преобразования Березина находит непосредственное приложение к описанию коротких точных последовательностей, ассоциированных с алгебрами теплицевых и ханкелевых операторов с ограниченными символами. В этой связи отметим упомянутые выше работы [52], [72], работы К. Guo [77], К. Guo, D. Zheng [78], D. Suarez [124], а также более ранние работы Н. Upmeier [126]-[128], в которых строится теория фредгольмовости для С* - алгебры операторов Теплица с непрерывными символами на ограниченных симметричных областях и которые, в свою очередь, являются продолжением работ С. A. Berger, L. A. Coburn [56], С. A. Berger, L. A. Coburn, A. Koranyi [57]. Аналогичные задачи исследовались в работах N. Salinas [107],[108], N. Salinas, A. J.-L. Sheii, Н. Upmeier [109] в случае строго псевдовыпуклых областей.

Исследованию алгебр многомерных сингулярных интегральных операторов с коэффициентами, имеющими разрывы в конечном числе изолированных точек, посвящены работы многих авторов. Принципиальный вклад в этом направлении сделан в работах Б.А. Пламеневского и его учеников (см., например, работы Б.А. Пламеневского и В.Н. Се-ничкина [23], [24], [25], [26], монографию [27] и имеющиеся там ссылки, а также недавнюю работу [28], посвященную дальнейшему развитию данной тематики). В частности, была развита многомерная теория в случае, когда коэффициенты моделируются однородными функциями с непрерывными сужениями на сферу. Применением преобразования Меллина по отношению к радиальной переменной псевдодифференциальный оператор в Ь2(Шп) сводится к семейству псевдодиференциальных операторов специального вида, действующих на пространстве L2(T) на единичной сфере. Далее строится символическое исчисление с использованием классической техники псевдодифференциальных операторов и гармонического анализа на сфере.

Мы применяем иной (альтернативный) подход в двумерной ситуации, позволяющий свести упомянутую алгебру псевдодиференциаль-ных операторов специального вида к алгебре операторов, порожденной классическими объектами - сингулярными интегральными операторами на окружности с коэффициентами. Это позволяет даже в случае непрерывных коэффициентов существенно упростить описание алгебры и проливает свет на истинную природу рассматриваемых операторов, связывая их с хорошо изученными классическими объектами, исследования которых восходят к работам С.Г. Михлина [21], [92], И.М. Гохбер-га, Н.Я. Крупника [13] и других авторов. Указанный метод позволяет исследовать принципиально новые классы операторов и порождаемые ими алгебры. В этом исследования мы используем локальный принцип И.Б. Симоненко [40], [41] при локализации конкретных операторов и далее "алгебраический"вариант локального принципа, приведенный в работах R. Douglas [69] и J. Varela [129], соединяя вместе локальные описания.

В течении последних лет методы вещественного гармонического анализа интенсивно развивались в рамках исследования ограниченности осцилляторных интегралов и операторов типа потенциала.

Начиная с работ А.П. Кальдерона, А. Зигмунда (см., например, [63]), [64]), И. Стейна ([115], [116], [117]), теория операторов типа потенциала, имеющих особенности в начале координат и на бесконечности, получила развитие в работах С.Г. Самко [31], [33], [34], [36], [111] (см. также киги С.Г. Самко [112], С.Г. Самко, А.А. Килбаса, О.И. Мариче-ва [38] и обзорные статьи В.А. Ногина, С.Г. Самко [97], [98], С.Г. Самко [110]). Далее в качестве естественного обобщения осуществлялось исследование операторов с особенностями ядер на некотором многообразии вЕп, в частности - на сфере. Эти операторы естественно возникают в конкретных задачах математической физики. Не претендуя на полноту изложения, упомянем работы A. Miyachy [93], [94], [95], R. Strichartz [120], S. Thangavelu [125] (см. также обзорную работу [97]).

Особый интерес представляют осцилляторные интегралы и среди них - операторы типа скрученной свертки, которые естественным образом возникают при изучении сингулярных интегральных операторов на многообразиях меньшей размерности (см., например, [101], [105], [118], [119], [125] и имеющиеся там ссылки). В частности, скрученные свертки возникают при изучении сверток на группе Гейзенберга, а также в исчислении Вейля псевдодифференциальных операторов, определяя формулу для символа композиции операторов (см. [90], [119]).

Локально оператор вида скрученной свертки имеет характеристики сверточного оператора. Этому подтверждение - теорема М. Коулинга ([66]), в которой доказано, что оператор скрученной свертки и оператор свертки с одним и тем же компактно сосредоточенным ядром ограничены или не ограничены в (Rn) (1 ^ р ^ оо) одновременно. С другой стороны, в глобальной части такого оператора доминируют черты ос-цилляторного интеграла, что вносит существенные изменения в картину ограниченности. Таким образом, оператор скрученной свертки комбинирует черты сингулярных интегральных операторов, доминирующие в "локальной части "оператора и осцилляторных интегралов (псевдодифференциальных операторов), проявляющиеся в "глобальной"части.

Одна из основных открытых задач, связанных с исследованием таких операторов, состоит в получении для них LP(Rn) -4 Lq(Rn) -оценок. Оценкам в Z^(Rn) посвящены работы [101], [105], тем не менее i/(Mn) —t LQ(Rn) оценки для таких операторов ранее не рассматривались. Естественно, что изучение этих операторов по существу отличается от исследования сверточных операторов. В первую очередь, это обусловлено тем, что анализ Фурье, техника Mg(Rn) - мультипликаторов и другие хорошо развитые методы гармонического анализа неприменимы в данной ситуации (см. [67], [88], [89]).

Перечисленные выше исследования составляют пять глав диссертации. Вспомогательные сведения приведены в приложениях.

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

СВЯЗЬ РАБОТЫ С крупными научными программами (проектами) и ТЁМАМИ. Часть исследований по теме диссертации выполнена соискателем в Центре исследований в Мексике (Centro de Investigacion у de Estudios Avanzados) при поддержке:

1. Международного научного гранта Соломона Лефшеца (Postdoctoral Lefschetz Research Fellowship, 1998-2001).

2. Научного гранта "Operadores у espacios de analisis complejo" Мексиканского Национального Совета по Науке и Технологиям (CONACyT, грант № 35521-Е).

Основная часть диссертации была выполнена в Ростовском государственном университете на кафедре Дифференциальных и интегральных уравнений при поддержке грантов Российского фонда фундаментальных исследований:

1. "Методы обращения операторов типа потенциала и функциональные пространства дробной гладкости"(РФФИ 98-01-00261-А, исполнитель)

2. "Операторы типа потенциала с особенностями ядер или символов на многообразиях, аппроксимативные обратные операторы и функциональные пространства, связанные с такими операторами "(РФФИ 04-01-00862-А, исполнитель)

3. "Интегральные операторы с каноническими ядрами, сингулярные интегральные операторы на банаховых пространствах и порождаемые ими алгебры"(РФФИ 06-01-00297-А, руководитель).

За новизну и актуальность исследований соискатель был удостоен

1. Почетного звания-награды "Национальный исследователь" (награда Мексиканской Национальной Системы Исследователей, членский номер SNI 21424, Мексика, Мехико, июль 2001 г.)

2. Награды международного научного общества ISAAC (International Society for Analysis Applications and Computations, Германия, Берлин, август 2001 г.)

3. Награды В. Потанина (дважды) для молодых научно - педагогических работников ведущих вузов Российской Федерации (Россия, Ростов-на-Дону, апрель 2003 г.; Краснодар, апрель 2006 г.). цель и задачи исследования. Развитие новых методов исследования свойств операторов в банаховых (гильбертовых) пространствах в зависимости от свойств их ядер и (или) символов в качественно новых, ранее не изученных или мало изученных ситуациях. Разработка новых эффективных методов исследования операторов Теплица с неограниченными символами, решение открытых фундаментальных проблем для таких операторов. Исследование свойств ограниченности сингулярных интегральных операторов с осциллирующими символами и с осцилляцией в ядрах. Применение результатов исследования отдельных операторов к описанию алгебр операторов в случае, когда коэффициенты допускают однородные разрывы и для которых классические, ранее используемые методы не применимы.

Основные научные результаты I. Разработаны эффективные методы исследования свойств ограниченности, компактности и принадлежности идеалам Шаттена операторов Теплица в весовых пространствах Бергмана со специальными, вообще говоря, неограниченными символами. Эти специальные случаи будем отождествлять с эллиптическим, параболическим и гиперболическим пучком геодезических в диске. В рамках настоящего исследования получены следующие основные результаты.

На основе специальных представлений для весовых пространств Бергмана на единичном диске и верхней полуплоскости получены интегральные представления спектрального типа для операторов Теплица, а также формулы для символов Березина этих операторов и для символа Березина композиции операторов Теплица.

Приведены достаточные условия ограниченности, а в эллиптическом случае и компактности соответствующих операторов Теплица в весовых пространствах Бергмана в терминах некоторых средних (контра-вариантного) символа оператора Теплица. При дополнительных ограничениях на упомянутые выше средние установлена необходимость данных условий.

Исследована зависимость свойств ограниченности (компактности) оператора Теплица в весовом пространстве Бергмана от изменения параметра веса. Например, показано, что свойство ограниченности (компактности) сохраняется при уменьшении параметра веса. С использованием метода стационарной фазы и на основе полученных ранее представлений для оператора Теплица приведены примеры операторов Теплица, для которых нарушается свойство ограниченности (компактности) при увеличении параметра веса.

В эллиптическом случае (теплицевых операторов с радиальными символами) аналогичные результаты получены в контексте исследования принадлежности операторов Теплица идеалам Шаттена на пространствах Бергмана.

II. С использованием полученных ранее результатов и применением асимптотических методов, в частности метода Лапласа, исследовано предельное поведение спектра операторов Теплица в весовых пространствах Бергмана при увеличении параметра веса к бесконечности. Установлена связь между предельным множеством спектров и свойствами (контравариантного) символа оператора Теплица в каждом из трех упомянутых выше случаев (эллиптическом, параболическом и гиперболическом). Именно, доказаны следующие основные результаты.

В случае непрерывных символов показано, что предельное множество совпадает с образом контравариантного символа, а в наиболее интересном кусочно - непрерывном случае установлено, что предельное множество состоит из образа контравариантного символа с добавлением прямолинейных сегментов, соединяющих односторонние пределы. Тем самым установлена аналогия с так называемым принципом соответствия Березина, который связывает предельное поведение квантовой характеристики оператора Теплица (именно символа Березина или кова-риантного символа) со свойствами (контравариантного) символа этого оператора.

В параболическом случае также изучено влияние различных типов осцилляций символа на формирование соответствующего предельного множества.

Для неограниченных непрерывных символов установлено, что предельное множество всегда содержит образ символа и само содержится в существенном образе символа, при этом приведены различные примеры, иллюстрирующие всевозможные соотношения в указанных выше вложениях. Приведены также примеры операторов Теплица, для которых предельное множество - диск В, вся плоскость С, связное, несвязное множество и пр.

III. Осуществлено исследование связи между компактностью оператора Теплица с неограниченным символом, действующим в весовом пространстве Бергмана на единичном диске, и убыванием соответствующего преобразования Березина при приближении к границе диска. В рамках этого исследования получены следующие основные результаты.

Введены и описаны весовые аналитические пространства функций с ограниченной средней осцилляцией по отношению к лебеговой мере в гиперболической метрике Бергмана на единичном диске. Характеризация функций из этих пространств дается в терминах преобразования Березина.

На основе упомянутого выше описания в терминах преобразования Березина приведена характеризация компактных операторов Теплица в весовых пространствах Бергмана на единичном диске с (неограниченными, вообще говоря) символами, имеющими ограниченную среднюю осцилляцию в гиперболической метрике Бергмана. Аналогичные результаты установлены для так называемых радиальных операторов, в частности - для операторов Теплица с радиальными символами.

IV. Исследована алгебра фредгольмовых символов для С* - алгебр двумерных сингулярных интегральных операторов, коэффициенты которых локально моделируются однородными функциями, имеющими разрывы на единичной окружности как первого, так и второго рода. В рамках данного исследования получены следующие основные результаты.

Исследованы псевдодифференциальные операторы на окружности специального вида, определенные в терминах операторов свертки на окружности, возникающих при представлении двумерного преобразования Фурье в полярных координатах. Показана связь таких псевдодифференциальных операторов с точностью до компактного оператора с классическими объектами анализа - сингулярными интегральными операторами на окружности.

На основании полученной выше связи описана алгебра фредгольмовых символов для модельной С* - алгебры двумерных сингулярных интегральных операторов, действующих в L2(K2) с однородными нулевой степени символами и разрывными коэффициентами. Эти коэффициенты имеют разрывы (как первого, так и второго рода) на лучах, исходящих из начала координат, и их поведение в начале координат моделируется однородной разрывной функцией.

Указанные выше результаты применяются к описанию алгебр фредгольмовых символов для С* - алгебр сингулярных интегральных операторов с изолированными разрывами коэффициентов, когда коэффициенты вблизи точек разрыва моделируются однородными функциями, сужения которых на окружность имеют кусочно-непрерывные и даже слабо осциллирующие разрывы.

V. Исследованы свойства —)> Lq(Rn) ограниченности (1 ^ р q ^ оо) для некоторого класса операторов свертки с осциллирующими символами и ядрами и с особенностями ядер на сфере и на бесконечности. Исследованы также свойства Z/(Rn) —у Lg(Rn) ограниченности для операторов скрученной свертки с теми же ядрами и проведено сравнение свойств i/(Rn) —у Lq(Rn) ограниченности соответствующих операторов. В рамках данного исследования получены следующие основные результаты.

Исследованы свойства ограниченности для операторов свертки (операторов типа потенциала) с осциллирующей экспонентой в символе. Приведены достаточные условия I/(Rn) -> Lq(Rn) ограниченности и (при дополнительных предположениях на характеристическую часть символа) установлена необходимость этих условий. Исследован вопрос о представимости функции соответствующим потенциалом с некоторой плотностью из LPiW1) и получены формулы обращения в рамках пространств Z/(Rn).

Исследованы свойства Z^K") -у Ьд(Шп) ограниченности для операторов скрученной свертки с тем же ядром и осуществлено сравнение свойств ограниченности операторов свертки и скрученной свертки.

Исследованы свойства i/(Mn) -» L9(Rn) ограниченности для оператора скрученной свертки, определенного в общей постановке, когда задается поведение ядра. Осуществлено сравнение полученных результатов с результатами для операторов свертки с ядрами, имеющими аналогичное поведение.

Основные положения, выносимые на защиту. Научная новизна. Основные результаты, выносимые на защиту являются новыми, получены лично автором и состоят в следующем:

Дана характеризация поведения основных свойств (ограниченности, компактности) операторов Теплица со специальными (контравари-антными) символами, связанными с тремя типами гиперболической геометрии в диске в весовых пространствах Бергмана на единичном диске в зависимости от изменения параметра веса.

Получена связь между предельным поведением спектра оператора Теплица в весовом пространстве Бергмана при стремлении параметра веса к бесконечности и свойствами (контравариантного) символа оператора Теплица в случаях непрерывного и кусочно - непрерывного символа специального вида.

В терминах преобразования Березина приведена характеризация компактных операторов Теплица в весовых пространствах Бергмана с символами, имеющими ограниченную среднюю осцилляцию в гиперболической метрике Бергмана по отношению к лебеговой мере на единичном диске.

Получено представление с точностью до компактного оператора для псевдодифференциального оператора в L2(T) на окружности специального вида Е(\)~1а((р,ш)Е(\) с гладким символом a(ip,u) (где Е(А) - оператор сферической свертки с ядром (—рш + гО)-гЛ-1) в терминах проекторов, связанных с сингулярным интегральным оператором на окружности.

Получены необходимые и достаточные условия Lq(W1) ограниченности для оператора свертки с символом и с ядром, имеющим особенность на сфере и осциллирующим на бесконечности, и достаточные условия i7(Rn) Ьч(Жп) ограниченности для оператора скрученной сверки с тем же ядром.

Апробация результатов диссертации. Отдельные части диссертации докладывались на международном конгрессе Американского и Мексиканского математических обществ (Дентон, Техас, США, май 1999 г.), трижды на последовательных международных научных школах по анализу: "Анализ: Север-Юг"в Мексике (Куернавака, Мексика, апрель 1999 г.; Мехико, Мексика, апрель 2000 г.; Мехико, Мексика, апрель 2001 г.), на V международном конгрессе по инженерии и системам (Мехико, Мексика, июнь 2001 г.), на международной конференции "Международная школа по анализу и теории операторов "IWOTA-Portugal 2000 (Фаро, Португалия, сентябрь 2000 г.), на международном конгрессе "Международного общества анализа и прикладных вычис-лений"ISAAC 2001 (Берлин, Германия, август 2001 г.), на ежегодном научном семинаре "Show те"в университете Вашингтона (Сант Луис, Миссури, США, ноябрь 2001 г.), на Ежегодной Математической Конференции (Сан Диего, Калифорния, США, январь 2002 г.), на 27 - й весенней школе в университете Арканзаса (Файеттевиль, Арканзас, США, апрель, 2002 г.), на конференции "150 лет в математике"в университете Вашингтона в Сант Луисе (Сант Луис, Миссури, США, октябрь 2003 г.), на международной школе по геометрии и анализу, посвящённой памяти Н.В. Ефимова (Абрау-Дюрсо, Россия, сентябрь 2004 г.), на конференции "Математическая гидродинамика: модели и методы", посвященной 70 - летию профессора В.И. Юдовича (Ростов-на-Дону, Россия, октябрь 2004 г.), на международной конференции в Математическом институте им, В.А. Стеклова РАН "Функциональные пространства, теория аппроксимаций и нелинейный анализ", посвященной 100-летию академика С.М. Никольского (Москва, Россия, май 2005 г.), на международной конференции в институте математики им. А. Размадзе "Функциональные пространства, интегральные преобразования и приложения к псевдодифференциальным уравнениям "(Тбилиси, Грузия, сентябрь 2005 г.), на международной конференции "Гармонический анализ и приложения

Ш"(Цахкадзор, Армения, сентябрь 2005 г.), на международной конференции в МГУ "Тихонов и современная математика" (Москва, Россия, июнь 2006 г.), на международной конференции в математическом институте Эйлера ПОМИ им. В.А. Стеклова РАН "15th. St.Petersburg summer meeting in mathematical analysis"(C. Петербург, Россия, июль 2006 г.), на международной конференции "Аналитические методы анализа и дифференциальных уравнений", AMADE-2006 (Минск, Беларусь, сентябрь 2006 г.).

С сообщениями о результатах, вошедших в диссертационную работу автор неоднократно выступал на различных семинарах научных учреждений России, Белоруссии, Мексики, США. В том числе на семинарах Центра исследований и продвинутого обучения (Мехико, Мексика, январь 1999 г., февраль 2000 г., май 2001 г., рук. профессор Э. Ра-мирез), на семинарах отделения анализа факультета естественных наук Автономного университета Мексики (Мехико, Мексика, июнь 2001 г., июль 2001 г., рук. профессор X. Ескивель), на семинаре по анализу на факультете математики в университете Арканзаса (Файетте-виль, Арканзас, США, октябрь 2001 г., рук. профессор Д. Хавинсон), на математическом коллоквиуме на факультете математики в университете Арканзаса (Файеттевиль, Арканзас, США, ноябрь 2001 г., рук. профессор Д. Луекинг), на семинаре факультета математики университета Говарда (Вашингтон, США, апрель 2002 г., рук. профессор Кора Садоски), на семинаре по гармоническому анализу на факультете математики университета Миссури (Коламбия, Миссури, США, октябрь 2003 г., рук. профессор М. Митреа), на семинаре по функциональному анализу на факультете математики университета Миссури (Коламбия, Миссури, США, ноябрь 2003 г., рук. профессор Ю.Д. Латушкин), на городском Минском семинаре им. Ф.Д. Гахова (Минск, Беларусь, ноябрь 2005 г., рук. профессора А.А. Килбас, Э.И. Зверович), на заседаниях Ростовского математического общества (Ростов-на-Дону, Россия, май 2003 г., апрель 2005 г., рук. профессор В.И. Юдович), многократно на семинарах кафедры дифференциальных и интегральных уравнений Ростовского государственного университета (рук. профессора С.Г. Самко и Н.К. Карапетянц), на семинаре кафедры математического анализа Ростовского государственного университета (ноябрь, 2005 г., рук. профессор Ю.Ф. Коробейник), на семинаре ИММ УрО РАН (июнь, 2006 г., рук. чл.-корр. РАН Ю.Н. Субботин), на семинаре по комплексному и линейному анализу ПОМИ им. В.А. Стеклова РАН и С. Петербургского госуниверситета (чл.-корр. РАН С.В. Кисляков и профессор В.П. Ха-вин), на семинаре по функциональному анализу и приложениям научного Центра математики и прикладной математики Технического высшего института Португалии (Лиссабон, Португалия, ноябрь 2006 г., рук. профессор Ф.-О. Э. Шпек), на семинаре по гармоническому анализу и приложениям математического факультета университета Алгарве (Фа-ро, Португалия, декабрь 2006 г., рук. профессор С.Г. Самко).

ПУБЛИКАЦИИ. Все результаты, приведенные в настоящей диссертации, опубликованы в работах [140] - [164]. Основные результаты диссертации опубликованы в работах [145] [146] [147] [150], [152], [153] [154] [156], [157], [158], [159], [160], [161], [162], [163]. См. также обзорную работу [164].

Основные результаты диссертационной работы, выносимые на защиту, получены соискателем самостоятельно. В текст диссертации для полноты изложения и без доказательств включены результаты, принадлежащие соавторам соискателя или полученные совместно с соавторами. В совместной работе [145] (подробный вариант [148]) автору принадлежит результат об ограниченности оператора с осциллирующим символом (без характеристики), который в более общем виде также содержится в единоличной работе соискателя [146]. В работе [147] соискателю принадлежит результат об основном представлении псевдодифференциалыюго оператора на окружности и следствия, описание алгебры фредгольмовых символов для "модельных"алгебр в случаях кусочно-непрерывных и слабо осциллирующих коэффициентов и часть результатов об описании локальных алгебр. В работе [150] соавтору принадлежит вспомогательная теорема 2.1 (приводится в приложении D). В работах [152]-[154] автору принадлежат результаты относительно принадлежности идеалам Шаттена (раздел 1.2.3 в диссертации) в эллиптическом случае, теоремы о представлении операторов Теплица в терминах символа Березина и об ограниченности операторов Теплица в параболическом и гиперболическом случаях случаях, а также теоремы о поведении спектра оператора Теплица с непрерывным и кусочно-непрерывным символом. Разделы первой главы диссертации, посвященные эллиптическому случаю, за исключением упомянутого выше раздела 1.2.3, написаны на основании единоличной работы соискателя [161]. В работе [160] (краткий текст [158]) соавтору принадлежат результаты параграфа 4 этой работы. Эти результаты приводятся в п. 5.9 диссертации для полноты изложения и не выносятся на защиту.

Структура и объем диссертации. Диссертация состоит из введения, общей характеристики работы, пяти глав, включающих 29 разделов, выводов и комментариев к каждой главе, заключения, библиографического списка, включающего список использованных источников и список работ соискателя, и 6 приложений. Объем диссертации - 280 страниц машинописного текста. Список использованных источников и список работ соискателя на 19 страницах содержат 139 и 25 наименований соответственно. Объем приложений - 13 страниц.

Основные результаты главы опубликованы в работах [144], [145], [146], [148], [149], [150], [158], [160], [163]; см. также работы [140], [141], [142], [143], в которых опубликованы результаты по теме настоящей главы, не включенные в текст диссертации в силу ограничения объема.

Заметим, что до настоящего момента исследовались LPfRn) —>• i7(Rn) оценки для операторов скрученной свертки, а исследование I/(Rn) -у Lg(Rn) ограниченности осуществлено впервые в работах соискателя. Отметим также, что скрученные свертки по своей природе объединяют черты сверточных операторов и осцилляторных интегральных операторов, что вносит дополнительный интерес в изучение таких операторов. В то же время указанный факт означает, что классические методы анализа Фурье и теории мультипликаторов не применимы для изучения операторов скрученной свертки, что влечет существенные трудности в изучение таких операторов.

Ограниченность в LP(Rn) операторов скрученной свертки с ядром, чье преобразование Фурье совпадает с символом x(l£|)mi,a(|£|) рассматривалась в [102]. Такой оператор отличается от оператора с компактно сосредоточенным ядром на достаточно хороший оператор и согласно результатам [66] имеет те же свойства LPfW1) —> LPfW1) ограниченности, что и соответствующий оператор свертки.

ЗАКЛЮЧЕНИЕ

Основные научные результаты диссертации

I. Исследованы некоторые классы теплицевых операторов со специальными, вообще говоря, неограниченными символами, действующих в весовых пространствах Бергмана. Эти классы связаны с тремя типами гиперболической геометрии в диске - эллиптическим, параболическим и гиперболическим. Для таких операторов получены интегральные представления спектрального типа, изучены свойства ограниченности, а в эллиптическом случае также компактности и принадлежности идеалам Шаттена на весовых пространствах Бергмана. Особое внимание уделено исследованию динамики (изменения) свойств ограниченности (и компактности) в зависимости от изменения параметра веса соответствующего весового пространства Бергмана.

Вопрос зависимости основных свойств - ограниченности, компактности, принадлежности идеалам Шаттена - от изменения параметра веса изучается впервые. Относительно самой постановки задачи - динамики свойств в зависимости от изменения параметра веса - в современной литературе можем отметить только один частный результат об одновременной ограниченности (компактности) операторов Теплица в весовых пространствах Бергмана в случае, когда символ оператора - положительная функция.

Указанные результаты включены в первую главу диссертации и опубликованы в работах [151], [152], [153], [154], [161].

II. На основе полученных в первой главе результатов продолжено исследование зависимости спектральных свойств операторов Теплица в весовых пространствах Бергмана от изменения параметра веса. Изучено предельное поведение спектра оператора Теплица при увеличении параметра веса к бесконечности, и установлена связь между предельным множеством спектров и свойствами (контравариантного) символа оператора Теплица в каждом из трех упомянутых выше случаев: эллиптическом, параболическом и гиперболическом. В определенном смысле установлен аналог с так называемым принципом соответствия в методе вторичного квантования Ф.А. Березина. Приведен ряд иллюстрирующих примеров конкретных теплицевых операторов.

Как и выше, отметим, что вопрос о предельном поведении спектра оператора Теплица в весовых пространствах Бергмана при увеличении параметра веса и связь между структурой предельного множества и свойствами исходного (контравариантного) символа оператора Теплица изучаются впервые.

Указанные результаты включены во вторую главу диссертации и опубликованы в работах [152], [153], [154].

III. Установлена связь между компактностью оператора Теплица в весовом пространстве Бергмана с символом, имеющим ограниченную среднюю осцилляцию в гиперболической метрике Бергмана по отношению к лебеговой мере на единичном диске, и убыванием соответствующего преобразования Березина при приближении к границе диска. Особое внимание уделено описанию классов символов - пространств с ограниченной средней осцилляцией в метрике Бергмана. Аналогичная задача решена для так называемых радиальных операторов, в частности, - для операторов Теплица с символами, отвечающими эллиптическому случаю в весовых пространствах Бергмана.

Указанные результаты включены в третью главу диссертации и опубликованы в работах [155], [156], [157], [159], [162].

IV. Описана алгебра фредгольмовых символов для С* - алгебры двумерных сингулярных интегральных операторов, действующих в L2(R2), с однородными нулевой степени символами и разрывными коэффициентами. Упомянутые разрывы коэффициентов локально моделируются (локально эквивалентны) однородными нулевой степени функциями, чьи сужения на окружность имеют кусочно - непрерывные или даже слабо осциллирующие разрывы.

Разработанный эффективный метод позволяет в двумерном случае исследовать принципиально новые классы операторов и порождаемые ими алгебры. Принципиально новым в этом исследовании является наличие разрывов у коэффициентов (точнее у их сужений на окружность).

Указанные результаты включены в четвертую главу диссертации и опубликованы в работе [147].

V. Исследованы свойства If(Rn) -)> ограниченности (1 < р ^ q ^ оо) для операторов свертки с осциллирующими символами и с особенностями ядер на сфере и на бесконечности. Исследованы также свойства lp (Mn) -* L^(Rn) ограниченности для операторов скрученной свертки с теми же ядрами и для более общих операторов скрученной свертки. Осуществлено сравнение свойств ограниченности операторов свертки и скрученной свертки.

Заметим, что до настоящего момента исследовались Lp(Rn) —у Z^(Rn) оценки для операторов скрученной свертки, а исследование Z^(Rn) —> L9(Rn) ограниченности осуществлено впервые.

Указанные результаты включены в пятую главу диссертации и опубликованы в работах [144], [145], [146], [148], [149], [150], [158], [160], [163]; см. также работы [140], [141], [142], [143], в которых опубликованы результаты по теме настоящей главы, не включенные в текст диссертации в силу ограничения объема.

Рекомендации по практическому использованию результатов

Методы и результаты диссертации могут быть использованы в теоретических исследованиях по теории операторов в банаховых и гильбертовых пространствах и по теории функциональных пространств, в частности. пространств аналитических функций, возникающих в анализе. Развитые методы могут быть использованы при исследовании свойств ограниченности, компактности, спектральных свойств операторов с каноническими ядрами, в частности, теплицевых, ханкелевых операторов и их модификаций в пространствах типа Бергмана, Дирихле, а также при исследовании алгебр таких операторов: при исследовании алгебр сингулярных интегральных операторов с конечным числом изолированных особенностей коэффициентов в двумерном и также многомерном случае. Дальнейшее развитие полученных результатов в этой области исследования может одновременно происходить в нескольких направлениях: более общие области (симметричные ограниченные области, строго выпуклые области и пр.), другие функциональные пространства, новые классы операторов, многомерные аналоги, в частности пространства на полидиске. Также результаты диссертации могут быть использованы при исследовании свойств ограниченности операторов типа потенциала с особенностями ядер и (или) символом на некоторых множествах нулевой меры и при обращении и описании образа для таких операторов; при изучении свойств ограниченности операторов типа скрученной свертки и их модификаций. В этом направлении наиболее важным и актуальным представляется развитие тематики исследования интегральных операторов на многообразиях меньшей размерности.

Полученные результаты могут быть использованы научными коллективами Уфимского научного центра РАН, С. Петербургского отделения математического института им. Стеклова, института математики НАН Армении, института математики им. А. Размадзе АН Грузии, Ростовского, Воронежского, Казанского, Одесского, Ереванского университетов, а также другими научными коллективами, ведущими исследования в областях гармонического анализа - методов вещественного и комплексного переменного, примыкающих к основным направлениям диссертации.

1. Березин Ф.А. Виковский и антивиковский символы операторов // Матем. сборник. 1971. - Т. 84. - С. 578-610.

2. Березин Ф.А. Ковариантный и контравариантный символы операторов // Известия АН СССР. Математика. -1972. Т. 6. - С. 1117-1151.

3. Березин Ф.А. Квантование // Известия АН СССР. Математика. -1974. Т. 8. - С. 1109-1165.

4. Березин Ф.А. Метод вторичного квантования. М.: Наука. - 1986. -320 с.

5. Березин Ф.А., Шубин М.А. Уравнение Шрёдингера. М.: МГУ. -1983. 392 с.

6. Василевский H.JL Об алгебрах, порожденных двумерными интегральными операторами с ядром Бергмана и кусочно непрерывными коэффициентами, II // Известия вузов. Математика. - 1986. -Т. 286, № 3. - С. 33 - 38.

7. Василевский H.JI. Алгебры, порожденные многомерными сингулярными интегральными операторами и коэффициентами, допускающими разрывы однородного типа // Матем. сборник. 1986. - Т. 129, № 1. - С. 3 - 19.

8. Василевский Н.Л. Об общем локальном принципе для С* алгебр // Известия вузов. Северо кавказский регион. Естественные науки. Спецвыпуск. Псевдодифференциальные уравнения и некоторые проблемы математической физики. - 2005. - С. 34-42.

9. Гарнет Дж. Ограниченные аналитические функции. М: Мир. -1984. - 469 с.

10. Гельфанд И.М., Шилов Г.Е. Обобщенные функции и действия над ними. М: Физматгиз. - 1958. - 440 с.

11. Гельфанд И.М., Шилов Г.Е. Обобщенные функции. Пространства основных и обобщенных функций. М.: Физматгиз. - 1958. - 307 с.

12. Гохберг И.Ц., Крупник Н.Я. Об алгебре, порожденной одномерными сингулярными интегральными операторами с кусочно-непрерывными коэффициентами // Функциональный анализ и его приложения. 1970. - Т. 4, № 3. - С. 26 - 36.

13. Гохберг И.Ц., Крупник Н.Я. Введение в теорию одномерных сингулярных интегральных операторов. Кишинев: Штиинца. 1973. -426 с.

14. Градштейн И.С., Рыжик И.М. Таблицы интегралов, рядов и произведений. 5-е изд. М.: Физматгиз. - 1971. - 1108 с.

15. Джрбашян М.М. О каноническом представлении функций, меро-морфных в единичном круге // Доклады АН Арм. ССР, 1945. -Т.З, № 1. - С. 3 - 9.

16. Джрбашян М.М. О проблеме представимости аналитических функций // Сообщ. Института матем. и мех. АН Арм. ССР. 1948. - Т. 2. - С. 3-40.

17. Заволженский М.М., Ногин В.А. Аппроксимативный подход к обращению потенциалов Рисса // Доклады АН СССР. 1992. - Т. 324., №4.-С. 738- 741.

18. Ланге Б.В., Рабинович B.C. Псевдодифференциальные операторы на W1 и предельные операторы // Матем. сборник. 1986. - Т. 129, № 2. - С. 175 - 185.

19. Лизоркин П.И. Обобщенное лиувиллевское дифференцирование и функциональные пространства Lrp(En). Теоремы вложения // Матем. сборник. 1963. - Т. 60, № 3. С. 325 - 353.

20. Лизоркин П.И. Обобщенное лиувиллевское дифференцирование и метод мультипликаторов в теории вложений классов дифференцируемых функций // Труды МИАН СССР. 1969. - Т. 105. - С. 89 -167.

21. Михлин С.Г. Лекции по линейным интегральным уравнениям. М.: Наука. - 1959. - 232 с.

22. Михлин С.Г. О мультипликаторах интегралов Фурье // Доклады АН СССР. 1956. - Т. 109. - С. 701 - 703.

23. Пламеневский Б.А., Сеничкин В.Н. О спектре С* алгебр, порожденных псевдодифференциальными операторами с изолированными особенностями символов // Доклады АН СССР. 1981. - Т. 261, № 6. - С. 1304 - 1306.

24. Пламеневский Б.А., Сеничкин В.Н. Об индексе псевдодифференциальных операторов с изолированными особенностями символов в Мп // Доклады АН СССР. 1982. - Т. 286, № 1. - С. 36 - 39.

25. Пламеневский Б.А., Сеничкин В.Н. О спектре С* алгебр, порожденных псевдодифференциальными операторами с разрывными символами // Известия АН СССР. Сер. матем. 1983. - Т. 47, № 6. - С. 1263 - 1284.

26. Пламеневский Б.А., Сеничкин В.Н. О спектре С* алгебр псевдодифференциальных операторов с особенностью в символах // Mathematische Nachrighten. 1985. Т. 121. - С. 231 - 268.

27. Пламеневский Б.А. Алгебры псевдодифференциальных операторов. М: Наука. - 1986. - 256 с.

28. Пламеневский Б.А., Сеничкин В.Н. Представления * алгебр псевдодифференциальных операторов на кусочно гладких многообразиях // Алгебра и анализ. - 2001, Т. 13, вып. 6. - С. 124-174.

29. Постников А.Г. Тауберова теория и ее приложения // Труды МИАН СССР. 1979. - Т. 144. - С. 325 - 346.

30. Рабинович B.C. Сингулярные интегральные операторы на сложных контурах и псевдодифференциальные операторы // Матем. заметки.- 1995. Т. 58, № 1. - С. 67 - 85.

31. Самко С.Г. О пространствах риссовых потенциалов // Известия АН СССР. Сер. матем. 1976. - Т. 40, № 5. - С. 1143 - 1172.

32. Самко С.Г. Об основных функциях, исчезающих на заданном множестве и о делении на функции // Матем. заметки. 1977. - Т. 21, № 5. - С. 677 - 689.

33. Самко С.Г. О характеризации образа Ia{Lp) дробных интегралов (риссовых потенциалов) // Известия АН СССР. Сер. матем. 1977.- Т. 12. С. 329 - 334.

34. Самко С.Г. Обобщенные риссовы потенциалы и гиперсингулярные интегралы; их символы и обращение // Доклады АН СССР. 1977.- Т. 232, JV® 3. С. 528 - 531.

35. Самко С.Г. Классы Cx{Rn) и мультипликаторы в пространстве Ia(Lp) риссовых потенциалов // Изв. Сев.-Кав. научн. центра высш. школы. Сер. естеств. наук. 1977. - Т. 115, № 3. - С. 13 - 17.

36. Самко С.Г. Обобщенные риссовы потенциалы и гиперсингулярные интегралы с однородными характеристиками; их символы и обращение // Труды МИАН СССР. 1980. - Т. 156. - С. 157 - 122.

37. Самко С.Г. О плотности в пространств Фу типа Лизоркина // Матем. заметки. 1982. - Т. 31, № 6. - С. 855 - 865.

38. Самко С.Г., Килбас А.А., Маричев О.И. Интегралы и производные дробного порядка и некоторые их приложения. Минск: Наука и техника. - 1987. - 688 с.

39. Самко С.Г., Костецкая Г.С. Абсолютная интегрируемость интегралов Фурье // Вестник РУДН. Сер. матем. 1994. - № 1. - С. 138 -168.

40. Симоненко И.Б. Новый общий метод исследования линейных операторных уравнений типа сингулярных интегральных уравнений// Доклады АН СССР. 1964. - Т. 158, Ж 4. - С. 790 - 793.

41. Симоненко И.Б. Новый общий метод исследования линейных операторных уравнений типа сингулярных интегральных уравнений, I // Изв. АН СССР. Сер. матем. 1965. - Т. 29, Ж 3. - С. 567- 586.

42. Симоненко И.Б. Новый общий метод исследования линейных операторных уравнений типа сингулярных интегральных уравнений, II // Изв. АН СССР. Сер. матем. 1965. - Т. 29, Ж 4. - С. 757 - 782.

43. Симоненко И. Б. Локальный метод в теории одномерных сингулярных интегральных уравнений с кусочно-непрерывными коэффициентами. Нетеровость. Ростов н/Д: Изд-во Рост, ун-та, 1986. - 56 с.

44. Стейн И.М. Сингулярные интегралы и дифференциальные свойства функций. М.: Мир. - 1973. - 342 с.

45. Стейн И.М., Вейс Г. Введение в гармонический анализ на евклидовых пространствах. М.: Мир. - 1974. - 366 с.

46. Федорюк М.В. Метод перевала. М.: Наука. - 1977. - 368 с.

47. Abramowith М., Stegun I.A. Handbook of mathematical functions: with formulas, graphs, and mathematical tables. New York : Dover Publications. - 1965.

48. Ahern P., Flores M., Rudin W. An invariant volume-mean-value poperty // J. Funct. Anal. 1993. - T. 111. - C. 380 - 397.

49. Axler S., Conway J., McDonald G. Toeplitz operators on Bergman spaces // Can. J. Math. 1982. - T. 34. - C. 466-483.

50. Axler S., Cuckovic Z. Commuting Toeplitz operators with harmonic symbols // Integral Equations Operator Theory. 1991. - T. 14 - C. 1-12.

51. Axler S., Zheng D. Compact operators via the Beresin transform // Indiana Univ. Math. J. 1998. T. 47, № 2. - C. 387-400.

52. Axler S., Zheng D. The Beresin transform on the Toeplitz algebra // Studia Mathematica. 1998. - T. 127, № 2, - C. 113-136.

53. Bak J.-G., McMichael D., Oberlin D. U> Lq estimates off the line of duality // J. Austral. Math. Soc. (Series A). - 1995. - T. 58. - C. 154 -166.

54. Bekolle D., Berger C.A., Coburn L.A., Zhu К. BMO in the Bergman metric on bounded symmetric domains // J. Funct. Anal. 1990. - T. 93. - C. 310 - 350.55j Berezin F.A. General concept of quantization // Commun. Math. Phys. 1975. - T. 40. - C. 153 - 174.

55. Berger C.A., Coburn L.A. Wiener-Hopf operators on U2 // Integral Equations Operator Theory. 1979. - T. 2. - C. 139 - 173.

56. Berger C.A., Coburn L.A., Koranyi A. Operateurs de Wiener-Hopf sur les spheres de Lie // C.R. Acad. Sci. Paris. 1980. - T. 290. - C. 989 -991.

57. Berger C.A., Coburn L.A. Toeplitz operators and quantum mechanics // J. Funct. Anal. 1986. - T. 68. - C. 273 299.

58. Berger C.A., Coburn L.A. Toeplitz operators of the Seagal-Bargmann space // Trans. Amer. Math. Soc. 1987. - T. 301. - C. 813 - 829.

59. Bergman S. Uber die kernfunctionen eines bereiches und verhalten am rande, I // J. Reine Agnew. Math. 1933. - T. 169. - С. 1 - 42.

60. Bergman S. The kernel function and conformal mapping (second, revised edition) // Mathematical Surveys and Monographs, 5, AMS. -Providence, RI. 1970. - 120. c.

61. Boman J. Saturation Problem and Distribution Theory // Lect. Notes Math. 1971. - T. 187. - C. 249 - 266.

62. Calderon A.P. Singular integrals // Bull. Amer. Math. Soc. 1966. -T. 72. - C. 426 - 465.

63. Calderon A.P., Zigmund A. On singular integrals // Amer. J. Math. -1956. T. 78. - C. 289 - 309.

64. Costabel M. An inverse for the Gohberg-Krupnik symbol map // Proc. Royal Soc. Edinburgh 1980. Т. 87A. - C. 153 - 165.

65. Cowling M. A remark on twisted convolution // Rend. Circ. Mat. Palermo. 1981. - T 2. - C. 203 - 209.

66. Cowling M., Mantero A.M. Examples of twisted convolution operators // Lect. Notes Math. 1982. - T. 908. - C. 210 - 216.

67. Djrbashian A.E., Shamoian F.A. Topics in the theory of APa spaces. Teubner-Texte zur Mathematik, 105. Leipzig: BSB B.G. Teubner Verlagsgesellschaft. - 1988.

68. Douglas R.G. Banach algebra techniques in operator theory. New York: Academic Press. - 1972. - 216 c.

69. Duren P., Schuster A. Bergman spaces. Mathematical Surveys and Monographs, 100. -Providence, RI. - 2004. - 318 c.

70. Englis M. Functions invariant under the Berezin transform // J. Funct. Anal. 1994. - T. 121. - C. 233 - 254.

71. Englis M. Compact Toeplitz operators via Berezin transform on bounded symmetric domains // Integra Equations Operator Theory. -1999. T. 33. - C. 426 - 455.

72. Fefferman C., Stein E.M. Characterization of bounded mean oscillation // Bull. Amer. Math. Soc. 1971. - T. 77. - C. 587 - 588.

73. Fefferman C., Stein E.M. Hp spaces of several variables // Acta Math. 1972. - T. 129. - C. 137 - 193.

74. Ferguson S., Sadosky C. Characterization of bounded mean oscillation on the polydisc in terms of Hankel operators and Carleson measures // J. D'Analyse Math. 2000. - T. 81. - 239 - 267.

75. Grudsky S.M., Vasilevski N.L. Bergman-Toeplitz operators: radial component influence // Integral Equations Operator Theory. 2001. -T. 40, № l.-C. 16-33.

76. Guo К. Toeplitz operators and algebras on Dirichlet spaces // Chin. Ann. of Math. 2002. - Т. 23B, № 3. - C. 385 - 396.

77. Guo K., Zheng D. Toeplitz algebra and Hankel algebra on the harmonic Bergman space // J. Math. Anal. Appl. 2002. - T. 276. - C. 213 - 230.

78. Hagen R., Roch S., Silbermann B. C*-algebras and numerical analysis.- New York, Basel: Marcel Dekker, Inc. 2001. - 376 c.

79. Hedenmalm H., Korenblum В., Zhu K. Theory of Bergman spaces. -New York: Springer Verlag, Inc. 2000. - 286 c.

80. Hormander L. Estimates for translation invariant operators in Lp spaces // Acta Mathematica 1960. - T. 104. - C. 93 - 140.

81. Karasev D.N., Nogin V.A. On boundedness of some potential-type operators with oscillating kernels // Mathematische Nachrighten 2005.- T. 274, № 5. C. 554 - 574.

82. Korenblum В., Zhu K. An application of Tauberian theorems to Toeplitz operators // J. Operator Theory. 1995. - T. 33. - C. 353 - 361.

83. Klimek S., Lesniewski A. Quantum Rieman surfaces I. The unit disk // Commun. Math. Phys. 1992. T. 146. - C. 103 - 122.

84. Lacey M., Ferguson S. A characterization of product BMO by commutators // Acta Mathematica 2002. - T. 189, № 2. - C. 143 -160.

85. Li H., Lueking D. H. BMO on strongly pseudoconvex domains: Hankel operators, duality and д estimates // Trans. Amer. Math. Soc. - 1994. -T. 346, J№ 2. - C. 661 691.

86. Lueking D. H. Trace ideal criteria for Toeplitz operators // J. Funct. Anal. 1987. - T. 73, № 2. - C. 345 - 368.

87. Mantero A.M. Asymmetry of twisted convolution operators // J. Funct. Anal. 1982. - T. 47. - C. 7 - 25.

88. Mantero A.M. Asymmetry of convolution operators on the Heisenberg group // Boll. Un. Mat. Ital. A (6). 1985. - T. 4, № 1. - C. 19 - 27.

89. Mauceri G., Picardello M., Ricci F. Twisted convolution, Hardy spaces and Hormander multipliers // Rend. Circ. Mat. Palermo. 1981. T. 2. - C. 191 - 202.

90. McDonald G., Sundberg C. Toeplitz operators on the disc // Indiana University Math. J. 1979. - T. 28. - C. 595 - 636.

91. Mikhlin S.G., Proessdorf S. Singular integral operators. Berlin, Heidelberg: Springer Verlag. - 1986. - 528 c.

92. Miyachi A. On some estimates for the wave equation in Lp and Hp // J. Fac. Sci. Univ. Tokyo, Sec. IA. 1980. - T. 27, № 7. - C. 331 - 354.

93. Miyachi A. On some singular Fourier multipliers // J. Fac. Sci.Univ. Tokyo, Sec IA. 1981. - T. 28, № 2. - C. 262 - 515.

94. Miyachi A. Notes on Fourier multipliers for Hp, BMO and the Lipschitz spaces // J. Fac. Sci. Tokyo, Sec. IA. 1983. - T. 80, № 2. - C. 221 -242.

95. Muller C. Spherical harmonics, Vol. 17 of Lect. Notes Math. Berlin: Springer Verlag. - 1966.

96. Nogin V.A., Samko S.G. Method of approximating inverse operators and its application to inversion of potential type integral transforms // Integral Transforms and Special Functions. 1999. Т. 1, № 2. - С. 1 -14.

97. Nogin V.A., Samko S.G. Some applications of potentials and approximative inverse operators in multidimensional fractional calculus // Fract. Calc. Appl. Anal. 1999. - T. 2, № 2. - C. 205 - 228.

98. Nogin V.A., Soukhinin E.V. Function spaces connected with Klein-Gordon integral transforms // Integral Transf. and Special Funct. 1998. - T. 7, № 3-4. - C. 265 - 278.

99. Oberlin D.M. Convolution estimates for some distributions with singularities on the light cone // Duke Math. J. 1989. - T. 50, № 3. - C. 747 - 757.

100. Phong D.H., Stein E.M. Hilbert integrals, singular integrals, and Radon transforms. I. // Acta Mathematica. 1986. - T. 157. - C. 99 -157.

101. Pini R. A multiplier result for twisted convolution // Boll. Un. Mat. Ital. В (7). 1992. - Т. 6, № 1. - С. 67 - 78.

102. Rabinovich V.S., Roch S., Silbermann B. Fredholm theory and finite section method for band dominated operators // Integral Equations Operator Theory. 1988. - T. 30. - C. 452 - 495.

103. Ramirez E. de A., Vasilevski N.L. Algebras of singular integral operators generated by three orthogonal projections // Integral Equations Operator Theory. 1996. - T. 25. - C. 277 - 288.

104. Ricci F., Stein E.M. Harmonic analysis on nilpotent groups and singular integrals I. Oscillatory integrals // J. Funct. Anal. 1987. -T. 73. - C. 179 - 194.

105. Rudin W. Function theory in the unit ball of Cn. Fundamental Principles of Mathematical Sciences, 241. New York, Berlin: Springer-Verlag. - 1980. - 455 c.

106. Salinas N. The д formalism ana the С* -algebra of the Bergman n-tuple // J. Operator Theory. 1989. - Т. - C. 325 - 343.

107. Salinas N. Applications of С* algebras and operator theory to proper holomorphic mappings // Proc. of the 1988 AMS Summer Research Institute on Operator Algebras and Operator Theory, Symp. Pure Math.

108. Salinas N., Sheu A. J.-L., Upmeier H. Toeplitz operators on pseudoconvex domains and foliation C*-algebras // Annals of Mathematics. 1989. - T. 130. - C. 531 - 565.

109. Samko S.G. Inversion theorems for potential type integral transforms in Rn and on 5n1 // Integral Transfer ms and Special Functions. 1993. - Т. 1, № 2. - C. 145 - 163.

110. Samko S.G. A new approach to the inversion of the Riesz potential operator // Fract. Calc. Appl. Anal. 1998. - Т. 1, № 3. - C. 225 - 245.

111. Samko S.G. Hypersingular integrals and their applications. Internat. Series "Analytical Methods and Special Functions", Vol. 5. London: Taylor к Frances. 2002.

112. Stein E.M. Localization of summability of multiple Fourier series // Acta Mathematica. 1948. - T. 100. - C. 93 - 147.

113. Stein E.M. Interpolation of linear operators // Trans. Amer. Math. Soc.- 1956. T. 83. - C. 482 - 492.

114. Stein E.M. Note on singular integrals // Proc. Amer. Math. Soc. -1957. T. 8. - C. 250 - 254.

115. Stein E.M. The characterization of functions arising as potentials. I // Bull. Amer. Math. Soc. 1961. - T. 67. - C. 102 - 104.

116. Stein E.M. The characterization of functions arising as potentials. II // Bull. Amer. Math. Soc. 1962. - T. 68. - C. 577 - 582.

117. Stein E.M. Oscillatory integrals in harmonic analysis // Ann. Math. Stud. 1986. - T. 112. - C. 307 - 355.

118. Stein E.M. Harmonic analysis: real-variable methods, orthogonality, and oscillatory integrals. Princeton: Princeton University Press. - 1993.- 695 c.

119. Strichartz R. Convolutions with kernels having singularities on a sphere // Trans. Amer. Math. Soc. 1970. - T. 148. - C. 469 - 471.

120. Stroethoff K., Zheng D. Toeplitz and Hankel operators on Bergman spaces // Trans. Amer. Math. Soc. 1992. - T. 329, № 2. - C. 773 - 794.

121. Stroethoff K. Compact Toeplitz operators on Bergman spaces // Math. Proc. Camb. Philos. Soc. 1998. - T. 124, № 1. - C. 151 - 160.

122. Stroethoff K. Algebraic properties of Toeplitz operators on the Hardy space via the Berezin transform // Contemp. Math. 232, AMS. -Providence, RI. 1999.

123. Suarez D. The Toeplitz algebra on the Bergman space coincide with its commutator ideal // J. Operator Theory. 2004. - T. 51. - C. 105 -114.

124. Thangavelu S. Lectures on Hermite and Laguerre expansions // Mathematical Notes 42. Princeton: Princeton University Press. - 1993.- 214 c.

125. Upmeier H. Toeplitz operators on bounded symmetric domains // Trans Amer. Math. Soc. 1983. - T. 280. - C. 221 - 237.

126. Upmeier H. Toeplitz С* agebras on bounded symmetric domains // Ann. Math. - 1984. - T. 119. - C. 549 - 576.

127. Upmeier H. Fredholm indices for Toeplitz operators on bounded symmetric domains // Amer. J. Math. 1988. - T. 110. - C. 811 -832.

128. Varela J. Duality of С* algebras // Memories Amer. Math. Soc. -1974. T. 148. - C. 97 - 108.

129. Vasilevski N.L. Bergman space structure, commutative algebras of Toeplitz operators and hyperbolic geometry // Integral Equations Operator Theory. 2003. - T. 46. - C. 235 - 251.

130. Vasilevski N.L. Toeplitz operators on the Bergman spaces: inside-the-domain effects // Contemporary Mathematics. 2001. - T. 289. - C. 79 -146.

131. Zheng D.C. Hankel operators and Toeplitz operators on the Bergman space // J. Funct. Anal. 1989. - T. 83. - C. 98 - 120.

132. Zhu K. Positive Toeplitz operators on weighted Bergman space // J. Operator Theory. 1988. - T. 20. - C. 329 - 357.

133. Zhu K. Operator theory in function spaces. Monographs and textbooks in pure and applied mathematics. New York: Marcel Dekker. - 1990. -254 c.

134. Zhu K. Spaces of holomorphic functions in the unit ball. Graduate texts in Mathematics. Springer. - 2004. 268 c.

135. Zhu K. VMO, ESV, and Toeplitz operators on the Bergman space // Trans. Amer. Math. 1987. - T. 302. C. 617 646.

136. Zhu К. BMO and Hankel operators on Bergman spaces // Pacific J. of Math. 1992. - T. 155. - C. 377 - 395.

137. Zorboska N. The Beresin transform and radial operators // Proc. Amer. Math. Soc. 2003. - T. 131, № 3. - C. 793 - 800.

138. Zorboska N. Toeplitz operators with BMO symbols and the Berezin transform // IJMMS. 2003. - T. 46. - C. 2929 - 2945.

139. Список публикаций соискателя

140. Карапетянц А.Н., Ногин В.А. Описание функций из анизотропных пространств комплексного порядка и его приложение // Доклады РАН. 1996. Т. 351, № 1. - С. 13 - 15.

141. Карапетянц А.Н., Ногин В.А. Комплексные степени эллиптических дифференциальных операторов второго порядка в пространствах LP // Доклады РАН. 1998. - Т. 358, № 1. - С. 10 - 12.

142. Карапетянц А.Н., Ногин В.А. Характеризация функций из анизотропных пространств комплексного порядка // Известия вузов. Математика. 1998. - Т. 432, № 5. - С. 24 - 30.

143. Карапетянц А.Н., Ногин В.А. Обращение операторов типа потенциала с ядрами, имеющими особенности на сфере // Известия Национальной Акад. Наук Армении. 1999. - Т 1. - С. 57 - 71.

144. Karapetyants A.N., Ramirez Е. de A. On the inversion of potential type operators with kernels having singularities on a sphere // Fract. Calc. Appl. Anal. 2000. - T. 3. - C. 141 - 160.

145. Карапетянц A.H., Ногин В.А. L— характеристика некоторых операторов типа потенциала с осциллирующими символами и особенностями ядер на сфере // Доклады РАН. 2000. - Т. 370, № 3. - С. 300- 302.

146. Karapetyants A.N. On Lp — Lq boundedness for convolutions with kernels having singularities on a sphere // Studia Mathematica. 2001.- T. 144, № 2. C. 121 - 134.

147. Karapetyants A.N., Rabinovich V.S., Vasilevski N.L. On algebras of two dimensional singular integral operators with homogeneous discontinuities in symbols // Integral Equations Operator Theory. 2001.- T. 40, № 3. C. 278 - 308.

148. Karapetyants A.N., Nogin V.A. On L- characteristic of some potential type operators with oscillating symbols and singularities of the kernels on a sphere // Acta Mathematica Hungarica. 2001. - T. 92, № 1-2. -С. 1 - 9.

149. Karapetyants A.N., Ramirez E. de A. A boundedness result for twisted convolution // Mathematische Nachrighten. 2003. - T. 250, № 3. - C. 58 - 70.

150. Grudsky S.M., Karapetyants A.N., Vasilevski N.L. Toeplitz operators on the unit ball in Cn with radial symbols // J. Operator Theory. 2003.- T. 49, № 2. C. 325 - 346.

151. Grudsky S.M., Karapetyants A.N., Vasilevski N.L. Dynamics of properties of Toeplitz operators with radial symbols // Integral Equations Operator Theory. 2004. - T. 50, № 2. - C. 217 - 253.

152. Grudsky S.M., Karapetyants A.N., Vasilevski N.L. Dynamics of properties of Toeplitz operators on the upper half plane: hyperbolic case // Bol. Soc. Mat. Mexicana (3). 2004. - T. 10, № 1. - C. 119 - 138.

153. Grudsky S.M., Karapetyants A.N., Vasilevski N.L. Dynamics of properties of Toeplitz operators on the upper half plane: parabolic case // J. Operator Theory. 2004. - T. 52, № 1. - C. 185 214.

154. Карапетянц А.Н., Голиков А.В., Преобразование Березина и радиальные операторы на весовых пространствах Бергмана на единичном диске // Владикавказский математический журнал. 2005. - Т. 7, № 2. - С. 55 - 63.

155. Карапетянц А.Н. Характеризация функций из весового пространства ВМО^(Щ на единичном диске // Известия вузов. Северо кавказский регион. Естественные науки. Приложение. - 2005. - №. 9. -С. 8 - 17.

156. Карапетянц А.Н., Ногин В. A. Lp—Lq оценки для оператора скрученной свертки с ядром, имеющим особенности на сфере и в начале координат // Известия вузов. Математика. - 2006. - Т. 2. - С. 72 -75.

157. Карапетянц А.Н. Описание весовых пространств ВМО\(Щ в терминах средней осцилляции в метрике Бергмана. Известия вузов. Северо кавказский регион. Естественные науки. - 2006. - JVfi 1. - С. 15 -19.

158. Карапетянц А.Н., Ногин В.А. Оценки для операторов скрученной свертки с особенностями ядер на сфере и в начале координат / / Дифференциальные уравнения. 2006. - Т. 42. - № 5. - С. 674 -683.

159. Карапетянц А.Н. Теплицевы операторы с радиальными символами на весовых пространствах Бергмана на единичном диске // Вестник Южного научного центра РАН. 2006. - Т. 2, № 1. - С. 3 - 9.

160. Карапетянц А.Н. Пространство ВМОд(В), компактные операторы Теплица с символами на весовых пространствах Бергмана и преобразование Березина // Известия вузов. Математика. 2006.1. Ж 8. С. 76 - 79.

161. Карапетянц А.Н. О функциях, представимых потенциалом с символом, осциллирующим на бесконечности // Известия вузов. Северо кавказский регион. Естественные науки. Приложение. - 2006. -Ж 7 - С. 22 - 33.

162. Василевский H.JL, Грудский С.М., Карапетянц А.Н. Динамика свойств теплицевых операторов на весовых пространствах Бергмана // Сибирские электронные математические известия. 2006. - Т. 3. - С. 362 - 383.

163. Основные понятия теории Березина

164. М? = {ч>,ч>)п= / \(<P,<Pu)n\2dv>,1. Jnили, что одно и то же, для любых <р\, <р2 G Н справедливо1. JCI

165. Определим изоморфное вложение v : % —> ь2{0) по правилу

166. V:ipen^f = /М = (<р, <ры)н е L\Q).

167. Согласно приведенному выше равенству, имеем {<pi,<p2)n = (/ъ /2)L2(ft)> где fa{uj) = fu(<T).

168. Пусть h2{tt) = v(u) С ь2(п). Функция / G L2(ft) принадлежит если и только если (/, fa)= f{a) Для всех а £ Оператор1. Р/Н = (vu^)<Hf(tW(t) Jnявляется ортогональным проектором L2(Q) на %2(Q).

169. Пусть /w(t) = = {ipu,<pt)ui и £0, является образом в %2(Sl) системы когерентных состояний тогда

170. Р№ = </, Ш«1) = mftHd»(t).j л

171. Функция a(w), и £ ^ называется анти-виковским (или контравари-антным) символом оператора Т : % Н, если

172. VTV-%m = Ра(ш)Р = Ра(и)1\Щ(1) : ?{2(П) —> П2(П),или если оператор VTV~l\y2(^ является оператором Теплица

173. Та{ш) = Ра(ш)1\Н2Щ : Н2(П) —► Н2(П)с символом а (о;).

174. Для оператора Твведем функцию Вика(Т(Р<Г1 У") г оa{oj,cr) = —-г1, и, a £ П.р<т,<ри)

175. Если оператор Т имеет анти виковский символ, то есть VTV~l = для некоторой функции а = а(и), то(Та fa, 1и)щ0) ~ аш, а) = -, и, veil1. Ja, Ju>)I?(SI)и

176. Taf){u) = a(t)f(t)ft(u,)dn(t) = [ a(t)ft(uj)dn(t) [ f(a)fa(t)d»(a) Jn, Jo, Jtt f(a)d»(cT) f a(t)ft(L>)fa(t)dn(t) = JQ JQ f(a)d»(a) [ a(t)fa(t)W)4t) =1. Jtt \Jai jw) l2{u) Jtt

177. J^a(co,a)f(a)fUJ(a)dfi{a) = (a(u, •)/,

178. Виковский и анти виковский символы оператора Т : % —% связаны преобразованием БерезинааИ = Упй(г) Mt)1. Ja\fu(t)№t) '

179. Здесь уместно отметить, что для оператора Теплица

180. ТаИ = Ра(и)1\щп) ■ К2(П) —► Ч2(П)с символом а = а(со) справедливо

181. Taf<j,fu)L2{n) = {afaJu)L2{Sl)'

182. Следовательно, преобразование Березина оператора Теплица совпадает с преобразованием Березина самого (контравариантного) символа:ад = ом,то есть с символом Вика оператора Теплица.

183. В диссертации при рассмотрении теплицевых операторов будем употреблять выражения "символ Вика"и "символ Березина"как синонимы.

184. Метрика Бергмана на единичном диске и некоторые вспомогательные утверждения

185. Заметим, что |a;z(w)| = tanh/?(£, w). Так, что гиперболический диск D(z,r) = {w € Ю> : (3(z,w) < г} С D имеет евклидов радиус1.Ы2) tanhr (1—tanh2r)z т-гl-jzptanhV И еВКЛИДОВ ЦШТР (l-.tanhV ПОЛОЖИМ1. D(*,r)|A = dnx(w).1. JD(z,r)

186. Для фиксированного г > 0 следующие величины сравнимы: \D(z, г)|А ~ 1+

187. D(*,r)|0 2, где в соответсвии с вышесказанным,г./ м f 1 / \ /(1-U|2)tanhr\21. D *,r lo / dn(w) = \ ; .1. JD(z,r) V 1 \z\ tanh г )

188. Ниже приведем ряд используемых в диссертации вспомогательных утверждений.

189. Утверждение В1 Для каждого z € D и г > 0 имеют место неравенства

190. С'1 < \kx(w)\2\D(z,r)\x < С, w € D(z,r). (В1)

191. Это утверждение непосредственно следует из приведенных выше соотношений и явного выражения для приведенного в приложении С.

192. Утверждение В2 (80., лемма 2.12). Пусть г, s, R положительные величины. Существует С > 0 такое, что для всех z, w Е В имеем

193. C~l{ 1 \z\2) < |1 - zw\ ^ С{1 - \z\2), f3(z, w) ^ г, С^РМк ^ ^ C\D(z,r)\\, 0(z,w)^R.

194. Как следствие, для аналитической на В функции </?, и 0 Е R, О^рСоо, 0<г<оо имеем1 (1 - нУ"2ЬН№Н, (В2)1. JD{z,r)где С зависит только от р, г, /3.

195. Утверждение ВЗ (80., лемма 2.17). Для измеримой на В функции ср следующие соотношения эквивалентны1. sup{|<^(2:) <p(w)| : (3(z,w) < s} < оо,|<р(г) <p(w)I ^ w) + 1), elD,

196. Весовые пространства Бергмана и операторы Теплица

197. Если / 6 Дд(В), то f{z) = В^ f(z), поэтому справедливо поточечное равенство1. М = h /(^2+ЛФлМ, * € в.h (1 zwy+A

198. Для функции а = a(z) Е £д(В) оператор Теплица с символом а не обязательно ограниченный, но определенный на плотном в Д2(В) множестве (ограниченных аналитических функций), имеет вид:

199. Та(А) : / Е А1(Щ <Л)а/ Е Л1(В).

200. Как было отмечено выше, для оператора Теплица Т^ с символом а = a(z) преобразование Березина (или символ Березина оператора тМ) совпадает с преобразованием Березина a\(z) символа этого оператора:

201. TlX})x(z) = СЛ", = <■akXz, kXz)X = ax(z), z E В,где1. Mа= / f(z)u(z)dp\(z) J3- скалярное произведение в Дд(В), а функции

202. Н = **(«;) = „уУ;,^ , z,w ев1. WK\lz, -jiuk©)являются соответственно когерентным состоянием и номированным когерентным состоянием.

203. Пусть {еп,\{г)} ~ ортонормированный базис в А2(В). Весовое ядро Бергмана представимо в видеоо

204. Kx(z,w) = ^2en^(z)en,x(w), z,weB, п=Опричем данное представление не зависит от выбора ортонормированного базиса.

205. Пусть Z+ = NU{0} и {еП)д(z)}nez+ ~ стандартный базис в *4д(В) : en,\{z) = dn,\zn} neZ+,1 /Г(п + Л + 2)ап \ — —. = \ / —=Г7Г-:—— , п (Е .

206. П,А л/(А + l)B(n + 1, Л + 1) V Г(Л + 2)п!

207. Выбрав этот базис, легко получить явное выражение для ядра Бергмана, приведенное выше. Используя порождающее свойство ядра Бергмана в «4.д(В), легко вычислить его норму:-)IUj(d) = = (1 М2ГА/21> z е в.

208. Таким образом, нормированное когерентное состояние kx(w) имеет видi к12)1+л/2Ечжчл(»)>п=0и для z 6 В, / <Е справедливо (/,*£) д = (1 \z\2)1+x/2f(z).

209. Преобразование Березина любого ограниченного (не обязательно теплицева) оператора А в «4д(В) может быть представлено в виде:со

210. Ax(z) = (Akxz,kxz)а = (1 И2)2+А £ dn,xdk,x(Aen^ek,x)xznzk.п,к=О

211. Здесь K\(z,w) = " весовое ядро Бергмана для Л2(П). Соответствующие когерентное состояние и нормированное когерентное состояние имеют вид:у (iu-z)A+2 (w-z)2+x

212. Аналогично предыдущему, для функции (символа) а = a(z) Е 1/д(П) оператор Теплица Т^ определяется на плотном в А2 (П.) множестве следующим образом Т^ : / 6 *42(П) —> B^af е Лд(П).

213. Поскольку в тексте диссертации случаи диска и полуплоскости исследуются отдельно, одинаковые обозначения для меры, ядра Бергмана и пр. не вносят затруднения при чтении диссертации.

214. Интерполяционная теорема Стейна и лемма об аналитичности интеграла по параметру

215. Лемма D2 (112., лемма 1.31) Пусть функция f(x,z) аналитична по z в области D С С для почти всех х £ © С Мп и допускает суммируемую мажоранту: \f(x,z)\ ^ F(x) £ L1^). Тогда интеграл J^f(x,z)d^i{x) является аналитической в D функцией.

216. Пространства Лизоркина основных и обобщенных функций на Rn, классы Am(R+), Cm'A(R+) и винеровское кольцо W0(Rn)

217. Vkg(x)\ ^ c(k) J^max + щ}.^, ® е К" \ {0}.

218. Пусть Wo(Mn) обозначает винеровское кольцо, т.е. класс преобразований Фурье функций из L^(Rn).

219. Теорема Е2 (62., [39]) 1. Пусть f Е CN(W), N = [|] + 1 и существуют с> 0, 5 > 0 такие, что \Vkf(x)\ ^ ф|"Н*:|} < N. Zbato / G W0(Mn).

220. Пусть f € CN(W \ {0}), N = §. + 1 имеет компактный носитель и \Vkf(x)\ ^ c\x\s~^: х е Шп \ {0}, 0 ^ \k\ ^ N. Тогда / G Wo(!n).

221. Введем пространство слабо осциллирующих на бесконечности функцийт

222. WW G Cm(R+) : \</>M(t)\ ^СГк, fc = 0,1,., m}.

223. Непосредственными вычислениями с учетом теоремы Михлина о мультипликаторах (81., [20], [22]) можно проверить, что если ф(г) е Am(R+), т > [|], то ф(\х\) € M$(Rn), 1 < р < оо. Например, функция ф(г) = cos In г принадлежит Ат(Ж+) для любого т G N.

224. А. + 1,1,.,ш справедливы оценки ^ Ctx~k, причем вслучае целого А при к = А последнее условие должно быть заменено1. Обозначения к главе 5

225. Для формулировки основных результатов главы 5 введем следующие точки и множества на (1 /р, 1 Jq)- плоскости. Символ (Л, В,., К) обозначает открытый многоугольник в Е2 с вершинами в точках А, В,., К, а множество Л, В,., К. его замыканием. Обозначим

226. Л = (1,1-М), В = (l-^iy^-T)^ (1,0), F =1 +1. Р 1 Р-,1 +fl 1) р (I + В*"Reft О = ^ V п - Г 72 — 11., ^ г ~ 12 + п-1 п(п—1)' 2/' ^ | 41,1-/3),/?>0.

227. Введем также множества L*(a,n) = Л7, N', N, А, Е. \ ({Л'} U {Л}), L3(7,n) = [0,L,Lf,0f]\({L'}u{L}),

228. M,Q',Q., —(п — 1)/2 < /3 < 0,

229. M,g/,o/,o,g.\({Q/}u{g}), o<^<i,1. A',M,A) U (A', A), Re a =

230. F',M,F)UF',F., 0 < Rea < {F}, Rea = 0.

231. N',A',E,A,N}\{{A}U{A'}), ^Rea<n,

232. N',A',E,A,N)U(N',A')U(A,N)UN',N., Rea = 2±i,

233. ЛГ', A', Q', M, Q, A, N) U (JV', A') U (Л, JV) U J\T', N.,1.(a,n) = <f <Rea<

234. JV', А', M, A, TV) U (iV', A') U (A, TV) U TV', N., Re a = §,

235. N', P\ M, P, N) U N', P>. U [P, N] U (N', N), 0 < Re a < §, ^ {0',0), Rea = 0.

236. Здесь, как обычно, символом X' обозначаем точку, двойственную к X.