Пространства граничных значений и линейные отношения, порожденные дифференциальными выражениями тема автореферата и диссертации по математике, 01.01.01 ВАК РФ

На правах рукописи 005018335

Брук Владислав Моисеевич

ПРОСТРАНСТВА ГРАНИЧНЫХ ЗНАЧЕНИЙ И ЛИНЕЙНЫЕ ОТНОШЕНИЯ, ПОРОЖДЕННЫЕ ДИФФЕРЕНЦИАЛЬНЫМИ ВЫРАЖЕНИЯМИ

Специальность 01.01.01 - вещественный, комплексный и функциональный анализ

Автореферат

диссертации на соискание ученой степени доктора физико-математических наук

1 9 ДПР 2012

Воронеж - 2012

Работа выполнена в Саратовском государственном техническом университете имени Гагарина Ю. А.

Официальные оппоненты:

Баскаков Анатолий Григорьевич, доктор физико-математических наук, профессор, Воронежский государственный университет, заведующий кафедрой математических методов исследования операций;

Мирзоев Карахан Агахан оглы, доктор физико-математических наук, профессор, Московский государственный университет, профессор кафедры математического анализа;

Сакбаев Всеволод Жанович, доктор физико-математических наук, доцент, Московский физико-технический институт (государственный университет), доцент кафедры высшей математики

Ведущая организация:

Белгородский государственный национальный исследовательский университет

Защита состоится 22 мая 2012 г. в 15 часов 10 минут на заседании диссертационного советаД212.038.22 при Воронежском государственном университете по адресу: 394006, Воронеж, Университетская пл., 1, ауд. 335.

С диссертацией можно ознакомиться в научной библиотеке Воронежского государственного университета.

Автореферат разослан Ю апреля 2012 г.

Ученый секретарь

диссертационного совета Д 212.038.22 доктор физико-математических наук,

профессор Ю. Е. Гликлих

Общая характеристика работы

Актуальность темы. В диссертации рассматриваются линейные операторы и отношения, порожденные различными дифференциально-операторными уравнениями или интегральными уравнениями с неван-линновской мерой. Дифференциально-операторные уравнения содержат спектральный параметр в виде произведения на неотрицательную операторную функцию, либо как аргумент неванлинновской операторной функции. Главную роль при исследовании этих операторов и отношений играют так называемые абстрактные пространства граничных значений, определяемые и изучаемые в диссертации.

При изучении линейных дифференциальных уравнений операторы появляются, например, следующим образом. Пусть I - дифференциальное выражение, являющееся левой частью однородного дифференциального уравнения. Выбирается некоторое банахово или гильбертово пространство и минимальный оператор Lq определяется как замыкание оператора, заданного выражением I на финитных функциях. Оператор L с максимальной областью определения - это замыкание оператора I/, заданного равенством L'y = 1{у\ на всех функциях у, к которым применима операция I, причем у, 1[у] принадлежат заданному пространству. Если выражение ¿является формально самосопряженным, а выбранное пространство -гильбертово, то оператор Lq симметрический. Отметим, что достаточно часто встречается ситуация, когда с дифференциальным уравнением ассоциируются не операторы, а линейные отношения.

При исследовании операторов или отношений, порожденных дифференциальными выражениями, возникает задача: выделить те граничные условия, которые определяют оператор или отношение L (Lq С L С L) с некоторыми заданными свойствами. Среди этих свойств можно отметить, например, такие, как обратимость L или L—XE (АеС), фредгольмовость L, существование заданной асимптотики s-чисел, самосопряженность или диссипативность L в случае симметричности оператора Lq и т.д.

Пусть оператор Lq симметрический. В классической теории расширений симметрических операторов описание самосопряженных, диссипа-тивных, аккумулятивных расширений сводится к нахождению изометрий и сжатий, действующих из одного дефектного подпространства симметрического оператора в другое. В работах М.И. Вишика1 и М.Ш. Бирмана2

1Вишик М.И. Об общих краевых задачах для эллиптических дифференциальных уравнений / М.И. Вишик // Тр. Моск. матем. об-ва. - 1952. - Т. 1. - С. 187-246.

2Бирман M. III. К теории самосопряженных расширений положительно определенных операторов / М.Ш. Бирман // Матем. сб. - 1956. - Т. 38. - № 4. - С. 431-450.

различным классам расширений положительно определенного оператора А ставятся в соответствие некоторые операторы в подпространстве ker А*. Однако в применении к дифференциальным уравнениям эти операторы только в некоторых отдельных случаях удается преобразовать в операторы, определяющие граничные условия.

Описание в терминах граничных условий самосопряженных расширений L симметрического оператора Lq, порожденных обыкновенным дифференциальным выражением I, было дано в работах М. Г. Крейна3. Однако применение результатов М.Г. Крейна к выражениям с частными производными или к дифференциально-операторным выражениям затруднено в связи с тем, что минимальные операторы, порожденные такими выражениями, имеют бесконечные дефектные числа. Для различных конкретных классов дифференциальных выражений граничные значения строились многими авторами (М. Г. Крейн, М. И. Вишик, М. Ш. Бирман, Ф. С. Рофе-Бекетов, М. Л. Горбачук, В. И. Горбачук, А. Н. Кочубей, Л. И. Вайнерман, В. А. Михайлец, О. Г. Сторож, В. М. Брук и др.). Эти результаты изложены, например,в монографиях В.И. Горбачук, М. Л. Горба-чука4, В. Э. Лянце, О. Г. Сторожа5, Ф. С. Рофе-Бекетова, А. М. Холькина6.

Как отмечено выше, одной из основных целей при описании расширений дифференциальных операторов с помощью граничных условий является получение в их терминах теорем о спектральных свойствах различных краевых задач. Поэтому желательно иметь некоторую универсальную конструкцию, охватывающую достаточно большой класс линейных операторов и отношений и позволяющую делать выводы о спектральных свойствах расширений этих операторов или отношений на основании свойств операторов (отношений), входящих в граничные условия, определяющие эти расширения. Такой конструкцией может служить абстрактное пространство граничных значений.

Отметим, что попытки построения теории расширений в терминах абстрактных граничных условий, приводящих в случае дифференциального оператора непосредственно к краевым задачам, предпринимались

3Крейн М. Г. Теория самосопряженных расширений полуограниченных эрмитовых операторов и ее приложения, I, II / М.Г. Крейн // Матем. сб. - 1947. - Т. 20. - № 3. - С. 431-495; Т. 21. - № 3. -С. 365-404.

4Горбачук В. И. Граничные задачи для дифференциально-операторных уравнений / В. И. Горбачук, М. JI. Горбачук. Киев: Наукова Думка, 1984.

5Лянце В.Э. Методы теории неограниченных операторов / В. Э. Лянце, О. Г. Сторож. Киев: Наукова Думка, 1983.

6Rofe-Beketov F. S. Spectral Analysis of Differential Operators. Interplay between Spectral and Oscillatory Properties / F. S. Rofe-Beketov, А. M. Khol'kin. World Sei. Monogr. Ser. Math., Singapore, 7, 2005.

ранее в работах Дж. Кэлкина7 (см. также Н. Данфорд, Дж. Шварц8), А. В. Штрауса9. Однако законченные результаты удавалось получать лишь для операторов с конечными дефектными числами.

Пусть в линейное дифференциально-операторное уравнение спектральный параметр Л входит в виде его произведения на весовую неотрицательную операторную функцию, либо в виде аргумента неванлин-новской операторной функции. Такие уравнения возникают, например, при решении методом разделения переменных уравнения колеблющейся нагруженной струны (см. монографию Ф. Аткинсона10, с. 19). Различные задачи, связанные с такими уравнениями, изучались в книге Ф. Аткинсона (глава 9), в статьях В. И. Когана и Ф.С. Рофе-Бекетова11, Ф.С. Рофе-Бекетова12, С. А. Орлова13, С. Ли14 и других авторов.

В этих работах использовались методы теории функций, метод гнездящихся матричных кругов (С. А. Орлов), а в статье С. Ли на матричные коэффициенты наложены требования, исключающие появление линейного отношения. Граничные задачи, порожденные дифференциально-операторным уравнением с неотрицательным операторным весом, не были включены в теорию линейных операторов и отношений в гильбертовом и банаховом пространствах, т.е. с такими задачами не связывались операторы или отношения в каких-либо пространствах. Отметим, что в статьях А. Плейеля15 и К. Бенневитца16 рассматривались линейные отношения, порожденные парой дифференциальных операторов со скалярными коэффициентами. Однако этот случай не охватывает дифференциально-операторные уравнения с неотрицательным операторным весом. Более того, дифференциальные выражения, изучаемые в работах15,16, охваты-

7Calkin J.W. Abstract symmetric boundary conditions / J.W. Calkin // Trans. Amer. Math. Soc. -1939. V. 45. - № 3. - P. 369-442.

8Данфорд H. Линейные операторы. Спектральная теория / Н. Данфорд, Дж. Шварц. М.: Мир, 1966.

9Штраус А. В. Некоторые вопросы теории расширения симметрических несамосопряженных операторов / А. В. Штраус // Тр. 2-й науч. конф. мат. кафедр пед. ин-тов Поволжья. Куйбышев: Куйбышевский пед. ин-т. - 1962. - Хш- 1. - С. 121-124.

10Аткинсон Ф. Дискретные и непрерывные граничные задачи / Ф. Аткинсон. М.: Мир, 1968.

uKogan V. I.On Square-integrable Solutions of Symmetric Systems of Differential Equations of Arbitrary Order / V. I. Kogan, F. S. Rofe-Beketov // Proc. Roy. Soc. Edinburgh. Sect. A. -1975. - V. 74. - № 1P. 5-40.

12Rofe-Beketov F. S. Square-integrable Solutions, Self-Adjoint Extensions and Spectrum of Differential Systems / F.S. Rofe-Beketov//Diff.Eq.Proc.Int.Conf.on Differ.Eq.-Uppsala, 1977.- P.169-178.

13Орлов С. А. Гнездящиеся матричные круги, аналитически зависящие от параметра, и теоремы о инвариантности рангов радиусов предельных матричных кругов / С. А. Орлов // Известия АН СССР. Серия матем. - 1976. - Т. 40. - X' 3. - С. 593-644.

14Lee S.J. Formally Self-Adjoint Systems of Differential Operators / S.J. Lee // J. of Math. Analysis and Appl. - 1976 - V. 55. - P. 90-101.

15PleijelA. A Survey of Spectral Theory for Pairs of Ordinary Differential Operators / A.Pleijel // Lecture Notes Math. - 1975. - V. 448. - P. 256-272.

16Bennewitz C. Spectral Theory for Pairs of Differential Operators / C.Bennewitz // Arkiv for matematik.- 1977.-V. 15. - № 1,-P. 33-61.

ваются дифференциально-операторными выражениями с неванлиннов-ской функцией, а также интегральным уравнением с неванлинновской операторной мерой, рассмотренными в диссертации.

Цель работы:

построение абстрактных пространств граничных значений, позволяющих делать выводы о свойствах расширений операторов или отношений на основании граничных условий, определяющих эти расширения;

включение в теорию линейных операторов и отношений в банаховом и гильбертовом пространствах дифференциально-операторных уравнений со спектральным параметром, входящим в уравнение в виде произведения на неотрицательную операторную весовую функцию или в виде аргумента неванлинновской операторной функции;

включение в теорию линейных операторов и отношений в банаховом и гильбертовом пространствах интегральных уравнений с неванлинновской мерой;

изучение возникающих при таком включении операторов и отношений с помощью построенных абстрактных пространств граничных значений.

Методика исследований. Основным средством решения поставленных задач являются методы теории операторов в банаховом и гильбертовом пространствах.

Научная новизна. Основные результаты диссертации являются новыми не только для отношений, порожденных дифференциальными выражениями с весовой функцией, но и для операторов, порожденных этими выражениями без весовой функции. Перечислим эти результаты.

1. Введено пространство граничных значений замкнутых линейных операторов и отношений, приспособленное для описания обратимых сужений, изучены свойства этого пространства и в терминах абстрактных граничных значений дано описание спектра, получены условия фредгольмо-вости и разрешимости. Кроме того, в терминах абстрактных граничных условий получены условия резольвентной сравнимости сужений и расширений линейных операторов и отношений, исследована зависимость асимптотики .5-чисел резольвент от асимптотики в-чисел операторов, входящих в абстрактные граничные условия.

2. Введено пространство граничных значений симметрических операторов и отношений, изучены свойства этого пространства. В терминах абстрактных граничных значений дано описание различных классов расширений (диссипативных, самосопряженных и других).

3. Получено описание обобщенных резольвент симметрических операторов и отношений с помощью абстрактных граничных условий, содер-

жащих операторы, голоморфно зависящие от спектрального параметра.

4. Определены линейные отношения, порожденные различными дифференциально-операторными уравнениями в пространстве Lp(H,A(t)\a,b), где t —» A(t) - неотрицательная операторная функция в гильбертовом пространстве Н. Дано описание пространств Lp(H,A(t)-,a,b) (р ^ 1). Определяются также линейные отношения, порожденные интегральным уравнением с неванлинновской мерой.

5. Для введенных линейных отношений построены пространства граничных значений. С их помощью описаны различные классы расширений и сужений этих отношений. Получены условия обратимости и фредголь-мовости рассматриваемых отношений, дано описание спектра.

6. Установлено, что если рассматриваемые линейные отношения обратимы, то операторы, обратные к таким отношениям, являются интегральными. В терминах граничных значений дается критерий голоморфности семейств таких операторов. Получены формулы обобщенных резольвент симметрических отношений. Основные результаты являются новыми как в конечномерном случае, так и в случае отсутствия операторного веса (т.е. в случае, когда A(t) = Е - тождественный оператор).

Теоретическая и практическая ценность. Результаты диссертации имеют, в основном, теоретическую ценность. Они используются математиками, проводящими свои исследования в теории линейных операторов и отношений и в теории дифференциальных уравнений (см., например, монографии4,5,6). Эти результаты могут также применяться для изучения конкретных задач математической физики.

Апробация работы. Результаты диссертации докладывались на следующих конференциях: Международная конференция по теории характеристических функций линейных операторов (Ульяновск, 1997); Международная конференция по теории операторов и ее приложениям (Ульяновск, 2001); Международная конференция по дифференциальным уравнениям (Львов, 2006); Воронежская зимняя математическая школа (Воронеж, 2006, 2007, 2008, 2009, 2010, 2011, 2012); Воронежская весенняя математическая школа (Воронеж, 2007); Международная конференция "Современный анализ и приложения" (Одесса, 2007); Международная конференция "Дифференциальные уравнения и смежные вопросы" (Москва, МГУ, 2007); Международная математическая конференция В. Я. Скоро-богатько (Дрогобыч, 2007); Саратовская зимняя математическая школа (Саратов, 2008, 2010); Международная конференция "Дифференциальные уравнения, функциональные пространства, теория приближений" (Новосибирск, 2008); Международная конференция "Современные про-

блемы математики, механики и их приложений "(Москва, МГУ, 2009); Международная конференция по функциональному анализу (Львов,2010); Десятая Международная Казанская летняя научная школа-конференция (Казань,2011)¡Крымская осенняя математическая школа КРОМШ(Крым, 2006, 2007, 2008, 2009, 2010, 2011).

Публикации. Результаты диссертации опубликованы в работах [1-25], из которых работы [1 - 17] соответствуют списку ВАК. В статье [8] второму соавтору принадлежит указание на пример из задач термомеханики пластин, который может быть сведен к рассматриваемому в статье уравнению. Этот пример в диссертацию не включен.

Структура и объем диссертации. Диссертация состоит из введения, четырех глав, приложения и списка литературы, состоящего из 135 наименований. Общий объем диссертации 299 страниц.

Краткое содержание работы

Необходимые сведения о линейных отношениях приведены в приложении А. Линейным отношением Т между банаховыми пространствами Вх, В2 называется любое линейное многообразие Т С В1 х В2. Ниже использованы обозначения: {-, ■} - упорядоченная пара; Т>(Т) - область определения, И(Т) - область значений отношения Т; кег Т - множество таких элементов х е Вь что пара {х, 0} £ Т\ р(Т) (при Вг = В2) -резольвентное множество отношения Т, т.е. множество точек Л 6 С, для которых отношение (Т — ЛЕ)~г является ограниченным всюду определенным оператором; Е - тождественный оператор.

Во введении сформулированы основные цели исследования и основные положения, выносимые на защиту, дано краткое описание работы по главам, представлен краткий обзор работ, примыкающих к тематике диссертации.

Первая глава посвящена абстрактным пространствам граничных значений. Предварительно в разд. 1.1 определяются голоморфные семейства подпространств. Под семейством подпространств (замкнутых) понимается функция \ —>Т(\) (А £ V с С), значениями которой являются подпространства (замкнутые) Т(А) с где © - банахово пространство.

Определение 1.1. Семейство подпространств А —> Т(\) С ЯЗ, определенное в окрестности точки \0 £ С, называется голоморфным в точке Ао, если существует, такое банахово пространство Z и такое голоморфное в окрестности точки До семейство ограниченных линейных операторов Ф(А) : Ъ —+ ЯЗ, что при каждом фиксированном А оператор Ф(А) отображает взаимно однозначно Z на подпространство

Т(А). Семейство А—>Т(А) называется голоморфным в обмети П, если оно голоморфно в каждой точке, принадлежащей П.

Замкнутое линейное отношение является подпространством декартова произведения 03 = 0$1 х 2$г, где 051, 03 2 - банаховы пространства. Поэтому определение голоморфности семейства подпространств естественным образом распространяется на семейство замкнутых линейных отношений. Это определение обобщает соответствующее определение для семейств замкнутых операторов из монографии Т. Като17.

В разд. 1.1 устанавливается ряд свойств голоморфных семейств, в частности, дается положительный ответ на вопрос, поставленный в книге Т. Като17 (с. 462), о справедливости теоремы единственности для голоморфных семейств замкнутых операторов. Другими словами, пусть замкнутые операторы Т^А) и Т2(А) действуют из банахова пространства ©1 в банахово пространство ЯЗг и удовлетворяют двум условиям: (¡) семейства А—>Т\(Х) и А—>Т2(А) голоморфны в (связной) области Г2; (п) 7\(АП) = Т2(Хп) Для последовательности {Ап}, Ап е О, сходящейся к точке Ао 6 такой, что Ао ф Хп для всех п.

Верно ли, что ТЦА) = Т2(А) для всех А € П ?

В книге17 устанавливается справедливость теоремы единственности в случае, когда ОЗх = ОЗг, семейства операторов ТДА), Тг(А) имеют непустые резольвентные множества для каждого А € П, и отмечается, что ответ на этот вопрос неясен в общем случае.

Положительный ответ на вопрос Т. Като дается в следующей теореме, где рассматриваются голоморфные семейства подпространств.

Теорема 1.2. Пусть семейства подпространств Т\(А) и А) удовлетворяют условиям (¡), (11) и подпространство Т(Х0) — ТДАо) = Гг(Ао) допускает прямое дополнение в пространстве 55. Тогда 7\(А) = Тг(А) для всех точек X, достаточно близких к точке Ао.

Доказательство теоремы 1.2 основано на следующем утверждении.

Теорема 1.1. Пусть А—>Т(А) - семейство подпространств, определенное в некоторой окрестности точки Ао- Предположим, что подпространство Т{Ао) допускает прямое дополнение в пространстве 03, т.е. существует такое подпространство 9? С 03, для которого справедливо разложение в прямую сумму 03 = Т(Ао)+91. Семейство подпространств Т(А) является голоморфным в точке Ао тогда и только тогда, когда для всех точек X, достаточно близких к Ао, пространство 03 раскладывается в прямую сумму своих подпространств 03 = Т(А)+9Т

17Като Т. Теория возмущений линейных операторов / Т. Като. М.: Мир, 1972.

и семейство проекторов Р(\) пространства на Т(Х) параллельно 9Т является голоморфным в Лц.

В разд. 1.2.1 вводится пространство граничных значений (ПГЗ), приспособленное для описания обратимых отношений и операторов.

Пусть Q5i, ЗЗ2, В'2 - банаховы пространства, Т - замкнутое линейное отношение, Т С 251 х 232, 5: Т —► By х Вг - линейный оператор. Обозначим 8k — Pk<5, где pk - естественная проекция By хВ2 на Дь, т.е. рк{хi, 2:2} = ггь, Хк 6 Вк, к = 1,2 (подобные обозначения используются и далее).

Определение 1.2. Четверка (В\, 82,61,62) называется пространством граничных значений (ПГЗ) или граничной четверкой для замкнутого отношения Т, если выполняются условия: а) 62 непрерывны на Т (на Т норма пространства ©1 х ®г); б) отображение 6:Т —> By х сюръективно; в) сужение ¿1 на КегТ является взаимно однозначным отобраокением на By.

Здесь КегТ - множество пар вида {х, 0} G Т. Обозначим Т0 = kcr 5,

j>S = S2 (JxlKerг)-1. (1)

Между отношениями Т со свойством То С Т С Г и отношениями 9 G Bi х В2 существует взаимно однозначное соответствие, определяемое равенством 5Г = в. Обозначаем Т = Тд. Таким образом, STg = в.

Пусть 5$2 ~ банаховы пространства и S - линейное отношение, 5 С iB'j х ОЗ^. Следующие условия приведены в статье А.Г. Баскакова18: 1) S замкнуто; 2) ker S = {0}; 3) dim ker S < oo; 4) отношение S корректно; 5) ker S - замкнутое дополняемое подпространство в iB'x; 6) 7Z(S) = TZ(S)-, 7) 7Z(S) - замкнутое дополняемое в подпространство; 8) 7Z(S) - замкнутое подпространство в Я3'2 конечной коразмерности; 9) 7Z(S) = 10) отношение S непрерывно обратимо.

Теорема 1.7. Пусть 1Z(T) = <В2- Отношение Тд тогда и только тогда удовлетворяет условию к (1 ^ fc ^ 10, к ф 5, к ф1), когда тому же условию удовлетворяет отношение в — Ф5. Если ker Г допускает дополнение в то kerTg и ker(# — Ф^) одновременно удовлетворяют условию к = 5. Пусть к = 7. Если 7l(Tg) - замкнутое дополняемое в ©2 подпространство, то 11(6 — Ф^) - такое же подпространство в В2', обратное утверждение верно, когда 1Z(To) дополняемо в ОЗг-

В разд. 1.2.2 устанавливается, что если отношения ву и 02 "близки" в определенном смысле, то отношения Tgl, Тв2 обладают рядом одинаковых свойств. Обозначим N = (в — Ф^)-1. Отношения Л/* и в однозначно опре-

18 Баскаков А. Г. Спектральный анализ дифференциальных операторов с неограниченными операторными коэффициентами, разностные отношения и полугруппы разностных отношений / А. Г. Баскаков // Известия РАН. Серия матем. - 2009. - Т. 73. - № 2. - С. 3-68.

деляют друг друга (если ЛГ и в связаны последним равенством, пишем в — в(М)). Из теоремы 1.7 следует, ЧТО отношения И Tgyjj одновременно являются или нет операторами. При условии, что Л Є р(Тв(щ), положим R^ = (Тд(Щ — ХЕ)-1.

В теоремах 1.11, 1.13 предполагается, что в определении 1.2 231 = ©2 = В\ — Вг = В, пространства 23, В гильбертовы и Л4 •' В —» В (к = 1,2) - ограниченные всюду определенные операторы. Через sn(V) (п = 1,2,...) обозначены s-числа вполне непрерывного оператора У, т.е собственные числа оператора \/ЇЛУ; символом <5Р (р 1) обозначен идеал Неймана-Шэттена в кольце ограниченных линейных операторов (©оо состоит из всех вполне непрерывных операторов).

Теорема 1.11. Пусгпъ X Є р{Тв(Мч)) п р{Тв(М2))- ДM того, чтобы оператор R^ — Rf' Є <3Р, необходимо и достаточно, чтобы оператор М - Л/г Є &р, где 1 ^ р < оо.

Следствие 1.9. Если оператор Л/Ї — Л/"2 вполне непрерывен, то существенные спектры отношений Tgyj-^ и Т^ду совпадают.

Теорема 1.13. Пусть X Є р(Тв(Мі)), ¿t Є р(Тв{щ), резольвента R^ является вполне непрерывным оператором и lim nas„(R^)=a (а>0).

п—»оо

Для выполнения равенства Иттга5п(Я^2')=а достаточно, чтобы М\—N2 был вполне непрерывным оператором и \imnasn(J\íi — Л/2) = 0.

п—»оо

Из теорем 1.11,1.13 вытекают соответствующие утверждения из работ В. И. Горбачук, М. JI. Горбачука, В. А. Кутового, В. А. Михайлеца, относящиеся к дифференциально-операторным уравнениям эллиптического и гиперболического типов (см. монографию4).

В разд. 1.2.3 устанавливается, что граничные условия, голоморфно зависящие от параметра, приводят к голоморфному семейству отношений. Пусть 93i= С82, 6 : Т —> В\ х В2 - линейный оператор, 6k = рк6 и (ßi, В2,6\, ¿2) - граничная четверка для отношения Т. Положим

¿к{Х){уі,У2-Ху1}=6к{у\,У2}, к = 1,2, {2/1,2/2} Є Т,

Ф(А) = S2(X) (<5і(А) Ікег(г-Аіг))-1, її = кет6,. Предположим, что семейства линейных отношений в(Х) С ßi х ß2 и Т(А), где TQ — ХЕ С Т( А) СТ-ХЕ, связаны равенством 0(А) = 5(Х)Т{Х).

Теорема 1.18. Пусть АоЄр(Ті) и отношение Т_1(Ао) (или отношение (0(Ао)—Ф(Ао))-1) является ограниченным всюду определенным оператором. Для голоморфности семейства А—>Т_1(А) в окрестности точки Ао необходимо и достаточно, чтобы семейство X—>(б(А)— Ф(А))-1 было голоморфным в той otee окрестности.

В разд. 1.2.4 дано описание спектра отношения Тд, состоящего из таких пар {t/i,у2} S Г С ©1 х Si, что 6{yi,y2} € в.

Теорема 1.20. При А £ p(Ti) справедливы следующие утверждения:

1) область значений Л.(Тд — ХЕ) замкнута в том и только том случае, когда область значений 1Z(6 — Ф(А)) замкнута;

2) dim ^Вх/ЩТо - ХЕ) = dim В2/Щв - Ф(А));

3) dimker(Tfl - ХЕ) = dimker(6> - Ф(Л)).

Следствие 1.11. Пусть отношение в замкнуто и X £ р(Т\). Для принадлежности точки X точечному спектру <?р(Тд) отношения Тд необходимо и достаточно, чтобы ker(0 — Ф(А)) ф {0}. Точка X принадлежит остаточному спектру crr(Tg) (непрерывному спектру crc(Tg)) тогда и только тогда, когда отношение (в — Ф(А))-1 является неплотно определенным (плотно определенным и неограниченнъш) оператором. Точка X принадлежит резольвентному множеству р(Тд) в том и только том случае, когда (в — Ф(А))-1 является ограниченным всюду определенным оператором.

В разд. 1.3 вводится пространство граничных значений для описания расширений симметрических операторов и отношений и в терминах абстрактных граничных условий описываются различные свойства расширений этих операторов и отношений. Отметим, что основная часть результатов разд. 1.3 с полными доказательствами изложена в монографии4.

В разд. 1.3.1 дается определение ПГЗ симметрического отношения. Пусть Sj - гильбертово пространство со скалярным произведением (•, ■) и нормой ||-||; 7i - другое гильбертово пространство со скалярным произведением (•, •)gr и нормой ||-|| ; So - замкнутое симметрическое линейное отношение, So С Sj х Sj. Пусть Г : Sq —> Н х Й - линейный оператор, Tk=pkT : S*0->H {к =1,2).

Определение 1.4. Тройка (?-£, Ti, Г2) называется пространством граничных значений (ПГЗ) симметрического отношения So или граничной тройкой для So, если выполняются условия: а) отображение Г: So —> Н х Н сюръективно; б) для любых пар {у, у'}, {z,z'} е Sq справедлива "формула Грина":

(;y',z)-(y,z') = (Y',Z)gr-(Y,Z')gr,

где Y = Гх{г/, у'}, У' = Т2{у, у'}, Z = Гф, z'}, Z' = T2{z, z'}.

Замечание. Определение 1.4 дано в работе автора19. Независимо ана-

19Брук В. М. Об одном классе краевых задач со спектральным параметром в граничном условии / В. М. Брук // Матем. сборник. - 1976. - Т. 100. - № 2. - С. 210-216.

логичное определение приведено в статье А.Н. Кочубея20. В этих работах рассматривался случай, когда Бо - оператор.

Из свойств а), б) следует, что Г {у, у'} = 0 в том и только том случае, когда пара {у, у'} € б'о- В определении 1.4 не требуется, чтобы граничные отображения Г к Бц И (к = 1,2) обладали какими-либо свойствами непрерывности. Тем не менее условия а), б) влекут непрерывность Г*.

Теорема 1.22. Оператор Г является непрерывным и взаимно однозначным отображением 9Тд0+91д0 наНхН (1тАо^О).

В теореме 1.22 символом 01л обозначено множество упорядоченных пар вида {г,Хг}, где г € 9ТА; 91Л = Я © 11{Бо - АЕ) = кег(5д - ЛЕ) -дефектное подпространство отношения Бо, 1тЛ^0.

Теорема 1.23. Для симметрического отношения Бо тогда и только тогда существует граничная тройка, т.е. гильбертово пространство Й и операторы Тк-Б^-^'Н (к = 1,2), удовлетворяющие условиям а), б) определения 1.4, когда отношение Бо имеет равные дефектные числа.

Обозначим через Бд такое линейное отношение, что Бд С Бд и ГБд = в, где в - линейное отношение, в С Н х Н. Очевидно, 5о С Бд. Из теоремы 1.22 следует, что отношения Бд (¿>о С Бе а Бо) и в (в С О. х Н) однозначно определяют друг друга.

Теорема 1.24. Линейные отношения Бд и 9 одновременно являются или нет диссипативными (аккумулятивными, симметрическими, максимальными диссипативными, максимальными аккумулятивными, максимальными симметрическими, самосопряженными).

Из теоремы 1.24 и работ Ф. С. Рофе-Бекетова, М. Л. Горбачука, А. Н. Кочубея, М. А. Рыбак (см.6,4) о представлении самосопряженных, диссипа-тивных, аккумулятивных отношений вытекает следующее утверждение.

Теорема 1.25. Для любого сжатия К в пространстве Н сужение отношения на множество пар к & Бд, удовлетворяющих условию

(К-Е)Г2}1 + ЦК + Е)Г1Н = 0, (2)

или

{К - Е)Г2Н - 1{К + Е)ГгН = 0, (3)

представляет собой максимальное диссипативное (максимальное аккумулятивное соответственно) расширение отношения Бо- Обратно, всякое максимальное диссипативное (максимальное аккумулятивное) расширение отношения Бо является сужением отношения Бд на множество пар Лб^о, удовлетворяющих (2), (3) соответственно, причем

20Кочубей А.Н. О расширениях симметрических операторов и симметрических бинарных отношений / А. Н. Кочубей // Матем. заметки. - 1975. - Т. 17. - № 1. - С. 41-48.

сжатие К определяется расширением однозначно. Максимальные симметрические расширения отношения 5о описываются условиями (2), (3), в которых К - изометрический оператор. Эти условия задают самосопряженные расширения тогда и только тогда, когда оператор К унитарный. Общий вид диссипативных (аккумулятивных) расширений отношения ¿>о задается соответственно условиями

К(Г2Н + ¿ГхЛ) = Г2Л - гТхЛ, Г2Л + гГх е Т>(К)\

К{Г2Д - гГхЛ) = Г2/г + гГхЛ, Г2/г - гГгЛ €

где К - линейный оператор, для которого ЦЛ'хЦ^ < ||х||гг при всех х е Т>(К). Диссипативное (аккумулятивное) расширение является симметрическим тогда и только тогда, когда К - такой линейный оператор, что \\Кх\\дТ = ||х||гг.

Пусть Б (к) ~ расширение отношения 5о> определяемое граничным условием (2) или (3). В разд. 1.3.2 находится связь между спектральными свойствами максимального диссипативного (аккумулятивного) расширения отношения 5о и соответствующего граничного оператора К. Доказывается, что если операторы К и Ко "близки" в определенном смысле, то отношение обладает теми же свойствами, что и Соответ-

ствующие утверждения аналогичны теоремам 1.11, 1.13.

В разд. 1.3.3 устанавливается связь между обобщенными резольвентами симметрического отношения и краевыми задачами со спектральным параметром в граничном условии. Рассмотрим следующую краевую задачу

у'= + (4)

(Л-(А) - Е)У - %{К{\) + Е)У = 0, (5)

где {у, у'} е £3, {У, У'} = Г {у,у'}, / 6 Л, А е С, 1шА > 0, А ->А"(А) -голоморфная в верхней полуплоскости операторная функция в пространстве Н такая, что ||А"(А)|| ^ 1.

Теорема 1.30. Между классом краевых задач (4), (5) и обобщенными (■регулярными) резольвентами Яд отношения 5о существует взаимно однозначное соответствие, определяемое равенством

= (3(к(\)) ~ АЕ)'1.

В разд. 1.3.4 определение 1.4 распространяется на более общий случай. При изучении операторов и отношений, порожденных дифференциальными выражениями, часто встречается ситуация, когда Г отображает

Sq на x H+ (или на Н+ х Н-), где Н+, Н- - соответственно пространства с позитивной и негативной нормой относительно гильбертова пространства W. Поэтому было введено следующее определение.

Определение 1.5. Четверка (H~,'H+,Г1,Г2) называется пространством граничных значений (ПГЗ) симметрического отношения Sq, если: а) отображение Г : Sq —> 7lL х Н+ аоръективно\ б) для любых пар {y,y'},{z,z'} € Sq справедлива "формула Грина" из определения 1.4.

В диссертации устанавливается, что этот случай достаточно просто сводится к определению 1.4, если использовать стандартные операторы, осуществляющие изометрию между пространствами 7i+, % и П., 7Î-.

В заключение разд. 1.3.4 рассматривается связь между различными абстрактными пространствами граничных значений. Позитивное пространство граничных значений, введенное в статье А. Н. Кочубея21, является граничной тройкой в смысле определения 1.4. Если тройка (Ti, Г2) является граничной в смысле определения 1.4, то при любом невещественном Л четверки {H,iï, ГьГ2), (7i,7i,r2,ri) граничные (в смысле определения 1.2) для отношения Sq—\E. Пространства граничных значений из работ В. А. Михайлеца22, О. Г. Сторожа23, JI. И. Вайнермана24 могут быть сведены к граничной четверке из определения 1.2. Абстрактная вторая формула Грина из статьи Н.Д. Копачевского25 укладывается в схему определений 1.4, 1.5.

Глава 2 посвящена линейным отношениям, порожденным дифференциальным выражением с ограниченными операторными коэффициентами и неотрицательной операторной функцией t—>A(t), а также дифференциальным выражением с неванлинновской операторной функцией.

В разд. 2.1 дается описание пространства Lp(H,A{t)\a,b) (р ^ 1). Пусть H - сепарабельное гильбертово пространство со скалярным произведением (•, •); t^A{t) - сильно измеримая наконечном или бесконечном интервале (а, Ь) функция, значениями которой являются такие ограниченные операторы в пространстве Н, что для любого х Ç H и при почти всех t € (а, Ь) выполняется неравенство (A(t)x, х) > 0. Предполагается, что норма ||.4(-)|| - суммируемая функция на каждом отрезке [а, ¡3] С (а, Ъ).

21Кочубей А.Н. О расширениях положительно определенного симметрического оператора/ А. Н. Кочубей // Докл. АН УССР. Сер. А. - 1979. - № 3. - С. 168-171.

22Михайлец В. А. Спектры операторов и граничные задачи / В. А. Михайлец // Спектральный анализ дифференциальных операторов. Киев, 1980. - С. 106-131.

23Сторож О. Г. О расширениях симметрических операторов с неравными дефектными числами / О. Г. Сторож // Матем. заметки. - 1984. - Т. 36. - № 5. - С. 791-796.

24Вайнерман Л. И. О расширениях замкнутых операторов в гильбертовом пространстве / Л. И. Вайнерман // Математические заметки. - 1980. - Т. 28. - № 6. - С. 833-842.

25Копачевский Н.Д. Об абстрактной формуле Грина для смешанных краевых задач и ее приложениях / Н.Д. Копачевский // Spectral and Evolution Problems. - 2011. - V. 21. - Issue 1. Simferopol, 2011. C. 2-39.

На множестве непрерывных и финитных на интервале (а, Ь) функций у со значениями в пространстве Н введем полунорму

Отождествляя с нулем те функции у, для которых рр(у) = 0, а затем производя пополнение, получим банахово пространство, обозначаемое В = Lp(H, A(t);a,b). Элементами В являются классы эквивалентности; при этом функции у, z принадлежат одному классу, если рv(y — z) = 0. Чтобы излишне не усложнять терминологию, класс функций с представителем у обозначаем тем же символом, а про функцию у будем говорить, что у принадлежит В. Равенства между функциями из В понимаются как равенства соответствующих классов эквивалентности.

Пусть g0(t) = kerA(t), H(t) = He Q0(t), A0(t) - сужение A{t) на H(t). Тогда оператор действующий в H(t), имеет обратный A^l(t)

(вообще говоря, неограниченный). Через (ffr(t)} (—00 < г < 00) обозначим гильбертову шкалу пространств, порожденную оператором Оператор Aü(t) допускает расширение Ao{t) : #-a(i) —> Hi-a(t), которое непрерывно и взаимно однозначно отображает H-a(t) на #i_Q(i). Обозначим через Ä(t) оператор, определенный на Я_а(£) © Go(t), равный A0(t) на H-a(t) и нулю на Qo(і).

Теорема 2.1. Пространство В = LP(H, A(t)\а, Ь) состоит из элементов (т.е. классов функций), представители которых есть функции вида t->À^1/p(t)V(t)h(t), где hGLp(H;a,b), V(t) -ортопроектор H на H{t).

Пространство L,2{H,A(t)\a,b) является гильбертовым со скалярным

произведением (y,z)= / (A(t)y(t),z(t))dt, где y,z Є L2(H,A(t)-,a,b).

В разд. 2.2 рассматриваются отношения, порожденные на отрезке [а, Ь\ функцией А и дифференциальным выражением

При фиксированном £ коэффициенты этого выражения являются ограниченными линейными операторами в гильбертовом пространстве Н, причем оператор ро(£) имеет всюду определенный ограниченный обратный при почти всех і Є [а, 6]. Предполагается, что функции р^1 ,р\,...,рг сильноизмеримы, функция Цро^ОЦ ограничена, а функции ||рі(-)||,-, ||рг(-)11 суммируемы на [а, £>].

Сопряженное выражение I* при дифференцируемых коэффициентах Рк имеет вид

1 ^ р < оо.

а

Ы =Po(t)y(r) +Pl{t)y[T-l) + ... +Pr(t)y.

m = (-1 гтм{г) + (-і Y'\p\m[r-l)+...+p*{t)z.

Сопряженное выражение I* можно рассматривать как квазидифференциальное. Квазипроизводные г^ для Г определим равенствами г'0' =Ро^, г1Ч = _(г[*-Ч)' +р*кг (к = 1,...,г). Тогда 1*{г) =

Пусть Л), Л) - операторные решения уравнений

¿дМ = 'Ы ~ = О, ОД = - = о

соответственно, удовлетворяющие начальным условиям о,А) =

где А е С, ¿0 6 [а, 6], V - символ Кронекера, j, к = 1,..., г. Обозначим через А), А) операторные однострочные матрицы У(Ь,Х) = (У1(Ь,Х),...,УГ(Ь,Х)), 2(4, А) = (2г(4, А), ...,2Р(4, А)).

В разд. 2.2.1 устанавливаются свойства функций У, ¿?, необходимые для изучения линейных отношений, порожденных выражениями I, Г. Максимальное и минимальное отношения, порожденные выражением I и функцией Л в пространстве В = Ьр(Н,Л^)\а,Ь) (р ^ 1), вводятся в разд. 2.2.2 следующим образом. Пусть I/ - множество упорядоченных пар {у, /} € ВхВ, для каждой из которых существует пара {г/, /}, отождествленная в В х В с {у,/} и удовлетворяющая условиям: а) у имеет на [о, Ь] абсолютно непрерывные производные у^ до порядка г — 1 включительно; б) 1[у]^) = АЦ)/(Ь) почти всюду. Замыкание отношения V обозначим Ь и назовем максимальным отношением, порожденным выражением I и функцией А. Минимальное отношение Ьо определим как сужение Ь на множество функций у е £>(■£/) со свойствами а), б), для которых у№(а)=у№(Ь) = 0 (к = 0,1, ...,г — 1). Аналогично определяются максимальное Л и минимальное Ло отношения, порожденные выражением Г и функцией А в пространстве В* (р=£ 1). В разд. 2.2.2 устанавливается ряд свойств введенных отношений. Доказывается, что отношения Ьо, Ло замкнуты и £,* = Л. Основную роль в доказательствах играет лемма 2.2, для формулировки которой введем следующие обозначения.

Через <Зо (до) обозначим множество таких элементов с 6 Нг (с 6 НТ), что функция £ —> А(1)У{Ь, 0)с (4 —> .4(4)2(4, 0)с соответственно) равна нулю почти всюду. Положим <3 = Яг © <2о и 0 = #г 0 Оо. Введем в <5 и <5 соответственно нормы ||с||_, ||с||1:

аь р V

А1/р(8)У(з,0)с ^ к\\с\\, сея, к>0, (6)

\\с\\*_=^^А1/<,(з)г(в,0)с^(1^ <к||с||,с€<3, к>0, р-'+я-1^. (7)

Пополнение С} (С2) по норме (6) (по норме (7)) обозначим С}- (<5- соответственно). Доказывается, что замена в формуле (6) (в формуле (7)) У(й, 0)

на y(s, Л) (Z(s, 0) на Z(s, А)) приводит к тому же множеству (Q-соответственно) с эквивалентной нормой. Пространства, сопряженные к <3_ и обозначим Q+ = (Q-)*, Q+ = (Q-)* ■ Справедливы включения Q+ С Q, Q+ С Q. Через Y(-,X)c (с £ Q-) обозначаем элемент из В, к которому сходится последовательность {У(-, Х)^}, если {c,i} сходится к с в пространстве <5_.

Лемма 2.2. Отношение L—XE состоит из множества пар {у, /} £ В х В, для каэюдой из которых существует такая пара {у,/}, отождествленная в В х В с {j, /}, что

y(t)=Y(t,X)cx + F(t), (8)

где с\ € Q-, F(t) = Y(t,X)J Z*(s,X)A(s)f(s)ds, J - операторная

J a

матрица порядка г, у которой на побочной диагонали стоят тождественные операторы Е, а остальные элементы равны нулю.

В разд. 2.2.3 дается описание операторов, являющихся обратными к обратимым сужениям отношения L — XE. Наиболее просто описание таких операторов выглядит в следующем ПГЗ. Каждой паре {у, /}eL — АЕ, представленной в виде (8), поставим в соответствие пару граничных значений по формулам

f} = y'x=[z*(s!X)A(s)f(s)ds е Q+, 6Lil{y, f} = cx+(l/2)jy'x е Q_. J а

Доказывается, что четверка (Q_, Q+, ¿¿д(А), 6^2(Х)) является ПГЗ в смысле определения 1.2 для L — XE. Пусть А—»¿(А) - семейство таких линейных отношений, что Lq—XE <zL(X)c.L — ХЕ. Положим 5ь(Х)Ь(Х) = в(Х). Тогда в(Х) С Q- х Q+. Обозначим Ь~\Х) = R(X) и в'^Х) =М(А).

Теорема 2.4. Отношение R(А) тогда и только тогда является оператором, когда отношение М(А) является оператором. В этом случае оператор R(X) интегральный

Л( А)/= [bKL(t,s,X)A(s)f(s)ds, J а

где Kb(t, s, А) = Y(t, X)(M(X)—(\/2)sgn(s — t)J)Z*(s, А). Оператор R{ X) а) замкнут, б) плотно определен, в) всюду определен в том и только том случае, когда этими свойствами обладает оператор М(А).

Теорема 2.6. Пусть при некотором А0 отношение R(X0) (или М(А0)) из теоремы 2.4 является ограниченным всюду определенным оператором. Семейство А—>Д(А) тогда и только тогда голоморфно в точке Ао, когда семейство А—>М(А) голоморфно в той же точке. При этом R(X)

и М(Х) являются в некоторой окрестности точки Ао ограниченными всюду определенными операторами.

Кроме того, в разд. 2.2.3 в терминах граничных значений описывается спектр сужений максимального отношения. Для функции у, к которой применима операция I, обозначим у = со!(у, у',..., у^-1'). Если и = (щ,..., ит) - какая-либо система функций, то и - матрица со столбцами иэ = 1 ,...,т. Отметим, что оператор А) непрерывно и взаимно отображает НГ на Нг. Наиболее просто описание спектра выглядит в следующем ПГЗ. Предположим, что ¿о = а. Обозначим С}ь = У(Ь, 0)JQ+■ Используя последнее равенство, введем в С}ь норму пространства <3+. Каждой паре {у, /} € Ь, представленной в виде (8) при А = 0, поставим в соответствие пару граничных значений

М2/,/}=со е д_, ~52,ь{у,1}=У(ъ,0)1 [ )Д(в)/(в)йведь.

«/а

Если Со € <3 (т.е. {у,/} е V), то ¿1,а{2/,/} = у (а), 32,ь{у, /} = у(Ь) -У(Ь, 0)у(а). Пусть пара {у, /} е Ь. Тогда пара {у, / — Ау} € Ь - АЕ1. Поставим в соответствие каждой такой паре пару граничных значений по формулам 61]а(\){у,/ - А у} = ¿^Ду,/}, <МА){у,/ - Ау} = ¿2,ь{у,/}-Доказывается, что четверка (<Э_, С}ь, ¿1,а(А), <Ь,ь(А)) при любом АбС является ПГЗ для отношения Ь—ХЕ в смысле определения 1.2. Оператор, соответствующий (1) и обозначаемый здесь Фо(А), имеет вид

Ф0(А) = А У (Ь, 0) ^ /* г*(а, 0) Д(з)У(а, А)Л».

«/ а

Если со € б? (т.е. {у, /}€£'). ™ Ф0(А) = ?(Ь, А) - 0).

Пусть в С С}-х фь и Ьо - линейное отношение, состоящее из таких пар {у,/} е Ь, что {¿1>а{у,/}Аь{г/,/}} € б. Заменив в следствии 1.11 Ф(А) на Фо(А), получим для произвольной точки А € С необходимые и достаточные условия принадлежности точки А точечному спектру ор(Ьд), остаточному спектру аТ(Ьв), непрерывному спектру ас(Ьд) или резольвентному множеству р{Ьд). Отметим, что если в теореме 1.7 заменить Фг на Фо(А), то получатся условия, при которых отношение Ьд—ХЕ обладает свойствами, перечисленными в теореме 1.7.

В разд. 2.3 рассматривается формально самосопряженное выражение на конечном или бесконечном интервале (а, Ь) и изучаются линейные отношения, порожденные этим выражением и функцией Л в пространстве Н = Ь2(Н,Л(1)\а,Ь). Обозначим через I дифференциальное выражение порядка г (г = 2п, п = 1,2,... или г = 2п + 1, п = 0,1,2,...):

fc=l

(k=0

Выражение / рассматривается как квазидифференциальное. При фиксированном t коэффициенты I - ограниченные самосопряженные операторы в Я, причем p0(t) (при г = 2п) и qo(t) (при г — 2п + 1) имеют ограниченные обратные почти всюду, функция до сильно дифференцируема при r = 2n+ 1. Предполагается, что нормы функций р^1, Pq1Qo, qoPolQo (при r = 2n), q'0 (при г = 2п+1) и нормы остальных коэффициентов суммируемы на любом отрезке [а, /3] С (a, b). Конец а называется регулярным, если а >—оо, можно взять а = а и функция ||Д(-)|| суммируема на любом отрезке [а, 0\ С [а, Ь). В противном случае конец а называется сингулярным. Аналогично определяются регулярность и сингулярность конца Ь.

Пусть Wj(t, А)-операторное решение уравнения l[y] = \A(t)y (АеС), удовлетворяющее начальным условиям: W^k~l\to,X) = 5jkE (j,k = l,..., г). Однострочную матрицу (W\(t, А),..., Wr(t, А)) обозначим W(t, А). Для выражения I порядка 2п или 2п + 1 используем соответственно матрицы J2n(t) или J2n+i(i), где J2n{t) ~ операторная матрица порядка 2п, на побочной диагонали которой в первых п строках стоят —Е, в последних п строках стоят Е, а остальные элементы равны нулю; J-m+iit) ~ операторная матрица порядка 2п + 1, у которой на пересечении (п + 1)-строки и (п + 1)-столбца стоит 2iqo(t), остальные элементы - такие же, как в матрице J2n{t)-

В разд. 2.3.2 определяются максимальное и минимальное отношения, порожденные выражением I и функцией Л в случае регулярных концов. Пусть V - множество упорядоченных пар {у, /} е Н X Н, для каждой из которых существует пара {y,f}, отождествленная в НхН с {y,f} и удовлетворяющая условиям: а) квазипроизводные функции у существуют, абсолютно непрерывны до порядка г — 1 включительно; б) ЧуШ) = почти всюду. Замыкание отношения L' обозначим L

и назовем максимальным отношением, порожденным выражением I и функцией Л. Минимальное отношение Lq определим как сужение L на множество функций у € V(L') со свойствами а), б) и y'ik\a) = ylk]'(b) = О

В том же разделе доказывается, что отношение L0 симметрическое, замкнутое и Lq = L. Доказательства основаны на лемме 2.10, для формулировки которой введем следующие обозначения. Пусть Q0 - множество таких элементов с 6 Яг, что функция W(-,0)c отождествлена с нулем в

пространстве Н, Q = Hr © Qq. Зададим в Q норму гь, 2\1/2

<7||с|| (с € Q, 7 > 0). (9)

Пополнение Q по этой норме обозначим Q-. Доказывается, что замена в (9) W(s, 0)с на W(s, А)с приводит к тому же множеству Q_ с эквивалентной нормой. Q- можно рассматривать как пространство с негативной нормой относительно Q. Соответствующее пространство с позитивной нормой обозначим Q+.

Лемма 2.10. Отношение L—XE состоит из множества пар {у, /} 6 Н х Н, для каждой из которых существует такая пара {у, /}, отождествленная в Н х Н с {у, /}, что

y(t) = W(t, А)сд + F(t), (10)

где сх € Q_, F(t) = W(t,X)J~l{t0) f W*{s, X)A(s)f(s)ds.

J a

Основным результатом разд. 2.3.3 являются теоремы об описании обобщенных резольвент симметрического отношения Lq. Напомним, что обобщенная резольвента отношения Lq называется х-регулярной, если она порождается J-самосопряженным расширением в J-пространстве S) D Нив качестве Sj можно выбрать такое пространство, что Jo©H является пространством Понтрягина Пх. Если х = 0, то обобщенная резольвента называется регулярной.

Теорема 2.18. Пусть оба конца интервала (а,Ь) регулярны. Всякая обобщенная резольвента R\ (ImA ф 0) отношения L0 в окрестности А0 точки Ао является в этой окрестности интегральным оператором

Rxg= [ЬK(t, s, X)A(s)g(s)ds (g 6 H) (11)

J a

с ядром K(t, s, X) = W(t, A)(M(A) - (l/2)sgn(a -1) J-\t0))W*{s, А), где M(A) : Q+ —► Q- - ограниченный оператор при каждом фиксированном A G Ло, причем операторная функция А—>М(А) голоморфна в Ло-Обратно, если X —> М(А) - голоморфная в окрестности Л0 точки А0 операторная функция, значения которой - ограниченные операторы из Q+ в Q-, то семейство операторов Яд, определенное равенством (11), является обобщенной резольвентой отношения Lq в окрестности Ло точки Ао-

Теорема 2.19. Обобщенная резольвента R\ х-регулярна в том и только том случае, когда операторная функция

М(А, ц) = (А - РГ\М(Х) - ЛГ(ц))~

- {М*{ц) + 2"17-1(^о))1а(о(А>/г)(М(А) -

- (М*М - 2-17г-1(^о))1<об(А,м)(М(А) +

умеет не более х отрицательных квадратов в Ло и отрицательная часть спектров операторов Г^(Ао,Ао), К(А0,А0) состоит из х\ < к собственных значений (с учетом кратности).

Здесь оператор 1а/з(А, ц) :<5_—><5+ определяется равенством Гр

1ац{Х^)х= / ц)А(з)\¥{з, Х)хйа, х € <3_.

¿а

Следствие 2.6. Если обобщенная резольвента порождается самосопряженным расширением с выходом в гильбертово пространство, то (1тА)_1(М(А) - М*(А)) ^ 0 (1тА ф 0).

В разд. 2.3.4 получено описание диссипативных, аккумулятивных и других расширений минимального отношения. Пусть пара {у, /} 6 Ь имеет вид (10) с А = 0. Введем граничные значения формулами

г2{г/, /} = У0 = [ w*(s, о)Л(в)/(*)<гв е

и а

Т1{у, П = Уо = со + (1/2)Л_1(^о)Уо € <Э-

Отметим, что если в (10) Со £ <5 (т.е. {у, /} £ Ь'), то

Уо = 2-\Ш-\Ь, 0)у(Ь) + И0)у(а)),

Уо = Л(«о)(Й?-1(Ь,0)у(6) - И^МЖа)).

Доказывается, что четверка (<5-, £?+, Гь Г2) является ПГЗ в смысле определения 1.5. Отсюда и из теоремы 1.25 получаем описание диссипативных, аккумулятивных и других расширений отношения Ь0.

В разд. 2.3.5 доказывается формула регулярных обобщенных резольвент в случае, когда концы интервала (а, Ь) сингулярны. Минимальное и максимальное отношения в этом случае определяются следующим образом. Пусть Ь'0 - множество упорядоченных пар {у, /} ёНхН, для каждой из которых существует пара {у, /}, отождествленная в Н хН с {у, /} и удовлетворяющая условиям: а) функция у финитна; б) квазипроизводные у И функции у существуют, абсолютно непрерывны до порядка г — 1 включительно; в) %](£) = А(£)/(£) почти всюду. Замыкание отношения Ь'0 обозначим Ьо и назовем минимальным отношением, порожденным выражением I и функцией А. Отношение Ь*{) назовем максимальным.

Пусть последовательность отрезков [ап, Ьп] такова, что [ап, Ьп] с (о, Ь) и ап а, Ьп —> Ь при п —> оо. Через <5_(п) обозначим пространство,

построенное на отрезке [ап, Ьп] так же, как пространство с нормой (9) построено на (а, Ъ) в случае регулярных концов. Пусть - проективный предел пространств <3_(п), <3+ = (<3-)*-

Теорема 2.2 ЪВсякая регулярная обобщенная резольвента Я \ (ІшЛ^О) отношения Ьо является интегральным оператором

с ядром K(t,s, А) = W{t,\)(M{\) - (l/2)sgn(s - i) J~1(io))H/*(s, Л), где

М(Л): <5+ —> С?- - непрерывный оператор при каждом фиксированном Л (1тЛ ф 0) такой, что М{А) = М*(А) и (1т\)~Чт(М(\)х, х) ^ 0 для всех х 6 С}+. Операторная функция А—>М(\)х голоморфна для любого х € <3+ при 1тА ф 0. Интеграл (12) сходится по крайней мере слабо в пространстве Н.

Отметим, что в скалярном случае при отсутствии весовой функции формула регулярных обобщенных резольвент для дифференциальных операторов четного порядка получена А. В. Штраусом26.

В разд. 2.4 рассматривается дифференциальное выражение, являющееся суммой формально самосопряженного выражения и неванлиннов-ской функции. Пусть СоЭС\М\ (а, Ь)-конечный или бесконечный интервал и А} —- функция, определенная на (а, Ь) х Со, принимающая значения в множестве ограниченных операторов в сепарабельном гильбертовом пространстве Н и удовлетворяющая следующим условиям: (а) существует такое множество То С (а, Ь), что мера множества (а, Ь) \2о равна нулю и для каждой точки множества Со найдется не зависящая от £ еХо окрестность, в которой функция А—>Сд(£) голоморфна; (Ь) Сд(£)=Сд(<); (с) 1тСд(£)/1тА является неотрицательным оператором при всех £ е 2о и всех А таких, что 1шА=/0; ((1) при любом А 6 Со функция >Сд(£) локально интегрируема по Бохнеру в равномерной операторной топологии.

Обозначим = МО = (1тА)_Ыл(0 (1тЛ Ф Предель-

ным переходом функцию А—>ад(£) можно определить для любого А е СоВ работе27 доказано, что нормы в пространствах = £,2(Н,а\^);а,Ь) эквивалентны. Зафиксируем некоторое Ао € С и положим Н = Нд0,

В разделах 2.4.1, 2.4.2 доказывается ряд свойств функции {i,A}—> C\(t) и свойств решений уравнения 1х[у\ = — C\{t)y = 0, необходимых

26Штраус А. В. Об обобщенных резольвентах и спектральных функциях дифференциальных операторов четного порядка / А. В. Штраус // Известия АН СССР. Серия матем. -1957. - Т. 21. - № 6. - С. 785-808.

"Khrabustovsky V. I. On the Characteristic Operators and Projections and on the Solutions of Weil Type of Dissipative and Accumulative Operator Systems. 1. General case. /V. I. Khrabustovsky // Journal of Math. Physics, Analysis, Geometry. - 2006. - V. 2. - № 2. - P. 149-175.

(12)

A(t) = aXo(t).

для изучения отношений, связанных с выражением /д. Минимальные отношения Lq(X), порожденные выражением 1\ в пространстве Н, определяются так же, как отношение Lq, порожденное формально самосопряженным выражением I. Отношения Lq(Л) называются максимальными. В случае регулярных концов интервала (а, Ь) доказывается, что L,*(A) = ¿(А), где отношение Ь(А) определяется так же, как отношение L, порожденное выражением I.

Теорема 2.24. Семейства X—*Lq(X) и А —>1<5(А) голоморфны на Со-

Теорема 2.26. При любом А 6 Со для любых пар {уа,д} € ¿о (А)

rb

выполняется равенство 1т(д,у0)л = — I (A\(t)yo(t),y0(t))dt.

Ja

В разделах 2.4.3, 2.4.4 рассматривается семейство обратимых отношений Ь(А), где Lq(X) с Ь(А) С L(А). Доказывается, что операторы L_1(A) интегральные. В случае непрерывной обратимости L(А) устанавливается критерий голоморфности семейства А—>i_1(A). Выделены голоморфные семейства непрерывно обратимых отношений L(А) со свойством: для всех пар {у, /} € L(X) (ImA > 0) выполняется неравенство

пЬ

1т(/, 2/)н ^ — / (A\(t)y(t),y(t))dt. Такие семейства порождают харак-Ja

теристический оператор из работы В. И. Храбустовского27.

В главе 3 изучаются линейные отношения, порожденные интегральным уравнением с неванлинновской мерой. В этой главе предполагается, что Н - конечномерное гильбертово пространство. Пусть t —> V(t), {¿, А}—>Z\(t) - функции со значениями в множестве линейных операторов в Я, где te (а, Ь), А 6С0, C0I>C\R. Предполагается, что эти функции удовлетворяют условиям: (а) для каждой точки из Со имеется независящая от t G (а, Ь) окрестность, в которой функция X^Z\(t) голоморфна; (б) Z{(t) = Z-X(t)\ (в) операторная функция t —> \mZ\(t)/lmX является неубывающей на (а, 6) при всех А таких, что ImA ф 0; (г) функции t —> ReZi(t), t—*V(t) имеют ограниченную вариацию на любом отрезке [a,ß] с (а, Ь).

Конец а назовем регулярным, если: а > — оо; функция {t, А} —> Z\[t) определена на [а, Ь) х Со и удовлетворяет условиям (а), (б), (в) с заменой интервала (а, Ь) на [а, 6); функция t—>V{t) определена на интервале [а, Ь); функции t—*V{t), t—>ReZj(t) имеют ограниченную вариацию на любом отрезке [а, ß] С [а, Ь). Конец а назовем сингулярным, если он не является регулярным. Аналогично определяются регулярность и сингулярность конца Ь. Далее полагаем üq = а, если конец а сингулярен. Если же конец а регулярен, то фиксируем некоторое а0 < а и полагаем Z\(t) = Z\(a),

•p(i) = V(a) при ao < t < а. Аналогично определяется число b0 для конца b. Также полагаем Z\(t) = Z\(b), V{t) = V(b) при b < t < bo в случае регулярного конца b.

Для функции t—>Vx(t) = (ImA)_1ImZ\(t) символом Уд обозначим меру, порожденную этой функцией. Предельным переходом меру Уд можно определить для любого А € Со- Зафиксируем некоторое Ао 6 С0 и положим Уд0 = V. На множестве непрерывных и финитных на интервале (оо, 6о) функций введем квазискалярное произведение равенством гЬа _

(х,у)у = I ((dV)x(t),y(t)). Отождествляя с нулем те функции у, для

Ja0

которых (у, j/)v = 0, а затем производя пополнение, получим гильбертово пространство, обозначаемое Н = ¿2(Я, dV] а, Ь). Доказывается, что пространство Н не зависит от выбора точки Ао G Со в следующем смысле: замена меры V = Уд0 на меру Уд (A S Со) приводит к тому же множеству Н с эквивалентной нормой.

Рассмотрим интегральное уравнение

y{t) = х0 -iJ fdV{s)y{s) - U fdZx{s)y(s) -ijf (dV)/(s), (13)

J to J to J to

где i0£fl, a0<t0<b0, a0<t<b0, f £H, J - оператор в Я со свойствами J2 = E, J* = J, интеграл берется по полуоткрытым справа интервалам.

К уравнению (13) могут быть сведены интегро-дифференциальные уравнения с интегралами Стилтьеса (см.28,29). Уравнение (13) охватывает дифференциальные уравнения с сильными особенностями (например, типа 5 функций) в коэффициентах. Систематическое изучение таких уравнений началось с работы А. М. Савчука и А. А. Шкаликова30. Уравнение (13) охватывает также дифференциальные уравнения, имеющие интеграл Дирихле с неположительной мнимой частью и голоморфные по спектральному параметру коэффициенты (Ф. С. Рофе-Бекетов12); в частности, уравнения с левой частью, являющейся разностью двух формально самосопряженных дифференциальных выражений, одно из которых умножается на спектральный параметр (А. Плейель15, С. Бенневитц16, В. И.Храбустовский31). В случае, когда функция t —» Z\{t) абсолютно

28Покорный Ю. В. Осцилляциониая теория Штурма-Лиувилля для импульсных задач / Ю. В. Покорный, M. Б. Зверева, С. А. Шабров // Успехи матем. наук. - 2008. - Т. 63. - № 1. - С. 111-154.

29Кац И. С. О спектральных функциях струны / И. С. Кац, М. Г. Крейн // Дискретные и непрерывные граничные задачи [Ф. Аткинсон]. Дополнение 2. М.: Мир, 1968. - С. 648-737.

30Савчук А. М. Операторы Штурма-Лиувилля с сингулярными потенциалами / А. М. Савчук, А. А. Шкаликов // Матем. заметки. - 1999. - Т. 66. - № 6. - С. 897-912.

3IKhrabustovsky V.l. Expansion in Eigenfunctions of Relations Generated by Pair of Operator Differential Expressions / V. I. Khrabustovsky // Methods of Functional Analysis and Topology. - 2009. - V. 15. - № 2. - P. 137-151.

непрерывна, (13) сводится к дифференциальному уравнению с неванлин-новской функцией. Такие уравнения рассматривались в работах С. А. Орлова13, В. И. Храбустовского27.

В разд. 3.2 устанавливается существование и единственность решения уравнения (13), изучаются свойства решений, в частности, устанавливается аналог формулы Лагранжа. В разд. 3.3 вводятся семейства максимальных и минимальных отношений, порожденных как уравнением (13), так и сопряженным уравнением. Отношение L(A) (A S Со) определим как отношение, состоящее из упорядоченных пар {у, /} G H х Н, для каждой из которых найдется такая пара {у,/}, отождествленная в H х H с {у, /}, что при всех t G (ao,bo) справедливо равенство (13). Отношение L(А) назовем максимальным отношением, порожденным уравнением (13). Обозначим через ¿о(А) (А € Со) отношение, состоящее из пар {У! /} € Нх Н, для каждой из которых найдется такая пара {у, /}, отождествленная в H х H с {y,f}, что функция у финитна на (а, 6) и при всех t S (ао,£>о) справедливо равенство (13). Замыкание Lq(X) отношения L'0(А) назовем минимальнъш отношением. Аналогично определяются максимальное Л(А) и минимальное Л0(А) отношения, порожденные сопряженным уравнением. Доказывается, что ¿¡$(А) = Л(А), L*{А) = Л0(Л); устанавливается голоморфность семейств A—+L(A), A—>L0(A).

В разд. 3.4 рассматриваются непрерывно обратимые отношения Ь(\) со свойством Lo(A) С L(А) С L(А). Доказывается, что операторы L_1(A), являются интегральными. Рассматриваются последовательность функций {Vn} и соответствующая последовательность (L„(A)} непрерывно обратимых сужений максимальных отношений Ln(А). Устанавливается достаточное условие, при котором сходимость (в определенном смысле) последовательности {Vn} влечет сходимость в равномерной операторной топологии последовательности

В разд. 3.5 полученные результаты применяются к доказательству постоянства дефектных чисел однородного интегрального уравнения, соответствующего (13) в случае самосопряженности меры, порождаемой функцией V. В качестве следствия получены результаты Ф.С. Рофе-Беке-това12 и С. А. Орлова13 о постоянстве дефектных чисел некоторых дифференциальных уравнений. В разд. 3.6 рассматриваются дифференциальные уравнения с сингулярными потенциалами из работы А. М. Савчука и А. А. Шкаликова30. Такие дифференциальные уравнения получаются из (13) при специальном подборе функций V и Z\. Как следствие из полученных в разд. 3.4 результатов устанавливается утверждение из статьи30 о возможности аппроксимации в смысле равномерной резольвентной схо-

димости операторов, порожденных уравнением с потенциалом-распределением, операторами, порожденными таким же уравнением, но с гладким потенциалом.

Глава 4 посвящена линейным отношениям, порожденным неотрицательной операторной функцией А и дифференциальными выражениями с неограниченными операторными коэффициентами. В разд. 4.1 на отрезке [а, Ь] рассматривается дифференциально-операторное выражение эллиптического типа 1[у] = —у" + A(t)y, где операторная функция i—>A(i) удовлетворяет следующим условиям: (aj) при каждом фиксированном t £ [а, Ь] оператор A(i) положительно определен и самосопряжен в Н; (6j) операторы A(t) имеют не зависящую от t область определения V(A(t))= V{A); (bj) для любого элемента хе.Т>(А) функция t —> A(t)x сильно непрерывно дифференцируема на [а,Ь].

Зафиксируем какую-либо точку to G [а, Ь]. Пусть {Нт} (—1 т ^ 1) -гильбертова шкала пространств, порожденная оператором A(to). Через A+(i) обозначим оператор, отображающий непрерывно и взаимно однозначно Н на Н-\ и являющийся расширением A(t).

В разд. 4.1.1 доказано существование функции Грина G(t,s,А) задачи

l+[y](t) - AA(t)y(t) = A(t)f(t), у'(а) = у'{Ь) = О,

где Z+[y] = —у" 4- A+(f)y, -Д(-)/(-) ^ Li{H\ О, b). Эти результаты обобщают соответствующие утверждения из работы Г. И. Лаптева32. Обозначим C/i(t, А) = G(t, a, A), U2(t, А) = G(t, Ь, A), U(t, А) = (U^t, A), U2(t, А)). По той же схеме, что и в разделе 2.2.2, с помощью функции U строятся пространства Q_, Q- и Q+ = (Q-)*-

Функция Грина применяется для описания в разд. 4.1.2 отношений, порожденных в пространстве В = Lp(H,A(t);a,b) (р > 1) выражением I и функцией А. Пусть L' - отношение, состоящее из пар {у, /} S В х В, для каждой из которых существует пара {у, /}, отождествленная в В х В с {у, /} и обладающая свойствами: (i) у сильно непрерывно дифференцируема в пространстве Я на отрезке [а, 6]; (ii) у' абсолютно непрерывна вЯ-i; (iii) l+[y](t)=A(t)f(t) при почти всех t. Замыкание отношения L' обозначим через L и назовем максимальным отношением. Минимальное отношение ¿о определим как сужение отношения L на множество таких функций у € В со свойствами (i), (ii), (iii), что у{а) = у'(а) = у{Ь) = у'(Ь) = 0.

32Лаптев Г. И. Сильно эллиптические уравнения второго порядка в гильбертовом пространстве / Г. И. Лаптев // Литовский матем. сборник. - 1968. - Т. 8. - № 1. - С. 87-99.

Лемма 4.4. Отношение Ь — ХЕ состоит из множества пар {у, /} £ В х В, для каждой из которых существует такая пара {у,/}, отождествленная в В х В с {у,/}, что

у = и{г,Х)сх + Р, (14)

где с\

е<2_, = [ С(М,А)Д(5)/(5)£гз

¿а

В разд. 4.1.3 рассматриваются отношения ДА) со свойством Д С ¿(А) СЬ. Доказывается, что если отношение (ДX) — XЕ)-1 является оператором, то этот оператор интегральный. Устанавливается критерий голоморфности функции А —> (ДА) — АЕ)'1. Описание спектра сужений максимального отношения дано с помощью следующего ПГЗ. Каждой паре {у,/} £ Д представленной в виде (14) при А = 0, поставим в соответствие пару граничных значений по формулам

ЫУ,/}=со £ Г2{у,/} = [Ьи*(з,0)А(з)/(з)с1з £ <?+. (15)

¿а

Если Со £ <3 (т.е. {у, /} £ V), то

Г1{у,П = {-у'(а),у'(Ь)}, Г2{у,П = {у(а}ьи(а,0)у'(а),у(ЬУи(Ь,0)у'(Ь)}.

Для любой пары {у, / — А у} еЬ — X Е положим Г(А){?/, / — Л?/} = Г{у, /}. Четверка (<£_, Г^А), Г2(А)) является ПГЗ для отношения Ь — XЕ. Пусть Ф(А) = Г2(А)(Г!(А) |кег(£-АВ))_1 : Я- -<?+• Тогда

Ф(Х) = Х[ и*(з,0)Л(з)и(з,Х)дз. (16)

./а

Сужение Ф(А) на С~) совпадает с оператором, задаваемым матрицей /[/1(а,А)-У1(а,0) и2(а,Х)-и2(а,0)\

\и,(ьу х) - щ6,0) и2(ъ, А) - и2(ь, оу •

Между отношениями в С <5- х <5+ и отношениями Ь со свойством ¿о С Ь С I существует взаимно однозначное соответствие, определяемое равенством ТЬ = в. Обозначаем Ь — Ь§. Из следствия 1.11 получаем описание спектра отношения Ьгде участвует оператор Ф(А), определенный равенством (16). Из теоремы 1.7 вытекают условия, при которых отношение Ьц—ХЕ обладает свойствами, перечисленными в этой теореме.

В разд. 4.1.4 отношения Ь, Ьо рассматриваются в гильбертовом пространстве Н = Ь2(Н,А(Ь)\а,Ь). В этом случае отношение Д является симметрическим и Ь*0 = Ь. Пространство является негативным относительно <3- Соответствующее позитивное пространство <5+ = <5+-Четверка (<3_, Гь Г2) является граничной для симметрического отношения Ьо в смысле определения 1.5. Это позволяет с использованием

теоремы 1.25 дать описание диссипативных, аккумулятивных и других расширений отношения Ьо. Отметим, что в случае отсутствия операторного веса -4(£), граничные значения (в иной форме, чем в (15)) для выражения эллиптического типа строились в работах М. Л. Горбачука, Л. И. Вайнермана и автора (см. монографию4). Описание обобщенных резольвент отношения Ьо приведено в следующей теореме.

Теорема 4.10. Всякая регулярная обобщенная резольвентаЯ\ (1тА^0) отношения Ьо является интегральным оператором

Яд/=/ т,Х)в-1(Х)и*(з,Х)+С*(зХ^))Л(8)^з, (17)

а

где в(Х) = во(Х) — Ф(А), 80(Х) С С?- х <2+ и X —> ва{Х) - голоморфное при 1тА ф 0 семейство, значениями которого являются максимальные аккумулятивные отношения при 1тА > 0 и максимальные дисси-пативные отношения при 1тА < 0, причем #о(А) = $о(А). Обратно, если X —> $о(А) - семейство линейных отношений с указанными выше свойствами, то семейство операторов Ы\ вида (17) является обобщенной резольвентой отношения Ьо, при этом Я\ = (Ьб/0(А) — ХЕ)~1.

В разд. 4.2 на конечном или бесконечном интервале (а, Ь) рассматривается выражение гиперболического типа 1[у] = у"+А(Ь)у+д(Ь)у, где операторная функция А удовлетворяет условиям (ах), (61), (вх); значениями функции q являются такие замкнутые симметрические операторы с областью определения 2?(?(<)) Э Т>(А1^)), что при любом х е Т>(А1/2^)) функция 4—сильно непрерывна. Результаты, полученные для выражений гиперболического типа, в основном, аналогичны соответствующим результатам для выражений с ограниченными операторными коэффициентами.

В разд. 4.3 рассматриваются отношения, порожденные в пространстве В = Ьр(Н,Л(Ь)]0,Ь) (р ^ 1, Ь < оо) выражением первого порядка /[?/] = у' — А\у, где А1 - генератор полугруппы [/ класса Со в гильбертовом пространстве Н.

На множестве Н+ = Т>(Авведем норму графика А*. Через Я_ обозначим пространство с негативной нормой относительно Я+, Я. Тогда оператор А1 расширяется до оператора Ах, непрерывно отображающего Я в Я_. Обозначим 1[у} = у' — А\у.

Пусть Ь' - отношение, состоящее из пар {у, /} € В х В, для каждой из которых существует пара {у,/}, отождествленная в В х В с {у, /} и обладающая свойствами: (1) у принимает значения в Я и абсолютно непрерывна в Я_;(н) 1[у](£)=А(£)/(1) при почти всех £ € (О, Ь). Замыкание отношения И обозначим через Ь и назовем максимальным отношением.

Минимальное отношение Lq определим как сужение отношения L на множество таких функций у£В со свойствами (i), (ii), что y(0) = y(b) =0.

Так же, как в разделе 2.2.2, строятся пространства <3_, Q~ и Q+ = (Q_)*. При этом используется функция U, являющаяся решением интегрального уравнения

U(t, Х)х = U(t)x + \ f U(t- s)Â(s)U(s, X)xds (х е H, X £ С).

Jo

Лемма 4.17. Отношение L — XЕ состоит из множества таких паР {y>f} 6 В х В, для каждой из которых существует пара {y,f}, отождествленная в В х В с {у, /} и удовлетворяющая равенству y(t) = U(t,X)cx + F(t),

где с\ Е Q-, F{t) = f U(t- s, X)Â(s)fis)ds.

Jo

Как и в предыдущих разделах, лемма 4.17 позволяет определить граничные пространства, с помощью которых в терминах граничных условий можно описывать фредгольмовость, обратимость и другие свойства линейных отношений, перечисленные в теореме 1.7. При этом можно взять граничные значения, имеющие на парах {y,f} S L' вид &\{у, /} = 2/(0), 52{y,î} = y(b)-U(b)y(0). Если теперь положить -yi(А){у, f-Xy} = ¿i{y,f}, 72(A) {?/,/ - А г/} = ô2{y, /}, то оператор Ф(А) в следствии 1.11 равен Ф(А) = £/(&, А) — U(b).

В заключение разд. 4.3 рассматривается дифференциальное выражение 1{у\ = у' — А\у без весовой функции (т.е. A(t) = Е). Линейное отношение L является оператором, а граничные значения для функций у S D(L') можно взять такими: 6\у = у(0), 62у = у(Ъ).

Публикации по теме диссертации

1. Публикации из списка ВАК

1. Брук В. М. Об одном классе краевых задач со спектральным параметром в граничном условии / В. М. Брук // Математический сборник. -1976. - Т. 100. - № 2. - С. 210-216.

2. Брук В. М. О расширениях симметрических отношений / В. М. Брук // Математические заметки. - 1977. - Т. 22. - № 6. - С. 825-834.

3. Брук В. М. О линейных отношениях в пространстве вектор-функций / В. М. Брук //Математические заметки,- 1978,- Т. 24.- № 4,- С. 499-511.

4. Брук В. М. О максимальной диссипативности дифференциального оператора высокого порядка с неограниченным операторным коэффициентом / В.М.Брук // Дифференциальные уравнения, 1984. - Т. 20. -№ 11. - С. 1986-1989.

5. Брук В.М. О характеристической функции линейного отношения /

B. М. Брук // Известия ВУЗов. Математика. - 1986. - № 8. - С. 9-13.

6. Брук В.М. О спектре дифференциальных операторов в пространстве вектор-функций / В.М.Брук // Известия ВУЗов. Математика. -1989. - № 8. - С. 15-21.

7. Брук В.М. О теореме единственности для голоморфных семейств операторов / В. М. Брук // Математические заметки. - 1993. - Т. 53. -№ 3,- С. 155-156.

8. Брук В. М. О спектре операторов, связанных с равномерно корректными задачами / В.М.Брук, В. А. Крысько // Дифференциальные уравнения. - 2004. - Т. 40. - № 10. - С. 1417-1418.

9. Bruk V. М. On Spaces of Boundary Values for Relations Generated by a Formally Selfadjoint Expression and a Nonnegative Operator Function / V. M. Bruk // Journal of Mathematical Physics, Analysis, Geometry. - 2006.

- V. 2. - № 3. - P. 268-277.

10. Bruk V. M. Generalized Resolvents of Symmetric Relations Generated on Semi-Axis by a Differential Expression and a Nonnegative Operator Function / V. M. Bruk // Journal of Mathematical Physics, Analysis, Geometry. - 2006.

- V. 2. - № 4. - P. 372-387.

11. Брук В. M. О спектре линейных отношений, связанных с равномерно корректными задачами / В.М.Брук // Дифференциальные уравнения. - 2007. - Т. 43. - № 1. - С. 21-27.

12. Брук В. М. Об обратимых линейных отношениях, порожденных равномерно корректной задачей и неотрицательной операторной функцией / В. М. Брук // Известия ВУЗов.Математика.- 2007,- № 1,- С. 3-9.

13. Брук В.М. Об обратимых сужениях отношений, порожденных дифференциальным выражением и неотрицательной операторной функцией / В. М. Брук // Математические заметки. - 2007. - Т. 82. - № 5. -

C. 652-664.

14. Брук В. М. Об обобщенных резольвентах линейных отношений, порожденных неотрицательной операторной функцией и дифференциальным выражением эллиптического типа / В. М. Брук // Известия ВУЗов. Математика, - 2008.- № 11. ~ С. 12-26.

15. BrukV. М. On Linear Relations Generated by Nonnegative Operator Function and Degenerate Elliptic Differential Operator Expression / V. M. Bruk // Journal of Mathematical Physics, Analysis, Geometry. - 2009. - V. 5. - № 2.

- P. 123-144.

16. Брук В. M. О числе линейно независимых, квадратично интегрируемых решений дифференциальных уравнений / В. М. Брук // Вестник ВГУ. Серия: Физика, Математика. - 2011. - № 1. - С. 100-106.

17. Bruk V. M. On Linear Relations Generated by a Differential Expression and by a Nevanlinna Operator Function / V. M. Bruk // Journal of Mathematical Physics, Analysis, Geometry. - 2011. - V. 7. - № 2. - P. 115-140.

2. Другие публикации

18. Брук В. М. Об обобщенных резольвентах симметрических отношений в пространстве с индефинитной метрикой / В. М. Брук // Функциональный анализ. - 1984. - № 22 - Ульяновск: Ульяновский пединститут, 1984. - С. 29-34.

19. Брук В. М. Об обратимых сужениях замкнутых операторов в банаховых пространствах / В.М.Брук // Функциональный анализ. - 1988.

- № 28. - Ульяновск: Ульяновский пединститут, 1988. - С. 17-22.

20. Брук В. М. О краевых задачах, связанных с голоморфными семействами операторов / В. М. Брук // Функциональный анализ. - 1989.

- № 29. - Ульяновск: Ульяновский пединститут, 1989. - С. 32-42.

21. Брук В. М. О голоморфных семействах линейных отношений /

B. М. Брук // Функциональный анализ. -1992. - № 33. - Ульяновск: Ульяновский пединститут, 1992. - С. 24-28.

22. Брук В. М. Диссипативные и обратимые отношения, порожденные неотрицательной операторной функцией и дифференциальным выражением эллиптического типа / В. М. Брук // International Scientific Journal. Spectral and evolution problems. - 2007. - V. 17. - Simferopol: Taurida National V. Vernadsky University, 2007. - P. 18-21.

23. Брук В. M. О спектре линейных отношений / В. М. Брук // Современные методы теории функций и смежные проблемы: материалы Воронежской зимней математической школы. - Воронеж: Воронежский государственный университет, 2009. - С. 30-31.

24. Брук В. М. О резольвентной сравнимости граничных задач для линейных отношений / В. М. Брук // International Scientific Journal. Spectral and evolution problems. - 2010. - V. 20. - Simferopol: Taurida National V. Vernadsky University, 2010. - P. 84-90.

25. Брук В. M. О линейных отношениях, порожденных дифференциальным выражением с неванлинновской функцией / В. М. Брук // Труды математического центра имени Н.И. Лобачевского. - Т. 43. - Теория функций, ее приложения и смежные вопросы. - 2011 - Казань: Изд-во Казанского матем. об-ва, Изд-во Казанского гос. университета, 2011. -

C. 62-64.

Брук Владислав Моисеевич

ПРОСТРАНСТВА ГРАНИЧНЫХ ЗНАЧЕНИЙ И ЛИНЕЙНЫЕ ОТНОШЕНИЯ, ПОРОЖДЕННЫЕ ДИФФЕРЕНЦИАЛЬНЫМИ ВЫРАЖЕНИЯМИ

Автореферат

Подписано в печать 20.03.2012 Формат 60x84 1/16

Бум. офсет. Усл. печ. л. 2,0 Уч.-изд. л. 2,0

Тираж 100 экз. Заказ 09

ООО «Издательский Дом «Райт-Экспо»

410031, Саратов, Волжская ул., 28 Отпечатано в ООО «ИД «Райт-Экспо» 410031, Саратов, Волжская ул., 28, тел. (8452) 90-24-90

0.1 Введение.

1 Пространства граничных значений

1.1 Голоморфные семейства линейных отношений

1.2 Пространство граничных значений для описания обратимых отношений

1.2.1 Граничные отображения и описание различных типов сужений максимального отношения.

1.2.2 Резольвентная сравнимость сужений максимального отношения и асимптотика ¿-чисел

1.2.3 Граничная четверка для голоморфных семейств линейных отношений

1.2.4 Описание спектра сужений максимального отношения.

1.3 Пространство граничных значений для описания расширений симметрических отношений

1.3.1 Граничные отображения и описание диссипативных расширений

1.3.2 Резольвентная сравнимость расширений симметрического отношения и асимптотика ¿-чисел

1.3.3 О краевых задачах со спектральным параметром в граничном условии, связанных с обобщенными резольвентами.

1.3.4 Некоторые обобщения и замечания.

2 Выражения с ограниченными операторными коэффициентами

2.1 Пространство Ьр(Н, А(£); а, Ь)

2.2 Линейные отношения, порожденные формально несамосопряженными дифференциальными выражениями.

2.2.1 Решения дифференциальных уравнений с песамосопряжеипой левой частью.

2.2.2 Максимальные и минимальные отношения,порожденные несамосопряженными выражениями

2.2.3 Обратимые сужения максимального отношения.

2.3 Линейные отношения, порожденные формально самосопряженными дифференциальными выражениями.

2.3.1 Решения дифференциальных уравнений с формально самосопряженной левой частью.

2.3.2 Максимальное и минимальное отношения в регулярном случае

2.3.3 Обобщенные резольвенты минимального отношения.

2.3.4 Описание диссипативных и аккумулятивных расширений минимального отношения.

2.3.5 Обобщенные резольвенты минимального отношения в сингулярном случае.

2.4 Линейные отношения, порожденные дифференциальными выражениями с неванлинновской функцией.

2.4.1 Операторы, порожденные неванлинновской функцией.

2.4.2 Решения дифференциальных уравнений с неванлинновской функцией

2.4.3 Семейства максимальных и минимальных отношений в регулярном случае.

2.4.4 Семейства максимальных и минимальных отношений в сингулярном случае.

2.4.5 Характеристический оператор.

3 Интегральные уравнения с неванлинновской мерой

3.1 Основные предположения и обозначения.

3.2 Решения интегральных уравнений.

3.3 Семейства максимальных и минимальных отношений.

3.4 Обратимые сужения семейства максимальных отношений.

3.5 Индексы дефекта некоторых интегральных и дифференциальных уравнений

3.6 Дифференциальные уравнения с сингулярными коэффициентами

4 Выражения с неограниченными операторными коэффициентами

4.1 Линейные отношения, порожденные выражениями эллиптического типа

4.1.1 Функция Грина

4.1.2 Максимальное и минимальное отношения.

4.1.3 Обратимые сужения максимального отношения.

4.1.4 Описание обобщенных резольвент.

4.2 Линейные отношения, порожденные выражениями гиперболического типа

4.2.1 Решения дифференциально-операторных уравнений гиперболического типа.

4.2.2 Максимальное и минимальное отношения.

4.3 Линейные отношения, порожденные выражениями первого порядка

Общая характеристика работы

В диссертации рассматриваются линейные операторы и отношения, порожденные различными дифференциально-операторными уравнениями или интегральными уравнениями с неванлинновской мерой. Дифференциально-операторные уравнения содержат спектральный параметр в виде произведения на неотрицательную операторную функцию, либо как аргумент неванлинновской операторной функции. Главную роль при исследовании этих операторов и отношений играют так называемые абстрактные пространства граничных значений, определяемые и изучаемые в диссертации.

При изучении линейных дифференциальных уравнений операторы появляются, например, следующим образом. Пусть I - дифференциальное выражение, являющееся левой частью однородного дифференциального уравнения. Выбирается некоторое банахово или гильбертово пространство и минимальный оператор Lq определяется как замыкание оператора, заданного выражением I на финитных функциях. Оператор L с максимальной областью определения - это замыкание оператора L1, заданного равенством L'y = 1[у] на всех функциях у, к которым применима операция I, причем у, 1[у] принадлежат заданному пространству. Если выражение / является формально самосопряженным, а выбранное пространство -гильбертово, то оператор Lq симметрический. Отметим, что достаточно часто встречается ситуация, когда с дифференциальным уравнением ассоциируются не операторы, а линейные отношения.

При исследовании операторов или отношений, порожденных дифференциальными выражениями, возникает задача: выделить те граничные условия, которые определяют оператор или отношение L (Lq С Le L) с некоторыми заданными свойствами. Среди этих свойств можно отметить, например, такие, как обратимость L или L—XE (Л6С), фредгольмовость

L, существование заданной асимптотики s-чисел, самосопряженность или диссипативность L в случае симметричности оператора Lq и т.д.

Пусть оператор Lq симметрический. В классической теории расширений симметрических операторов описание самосопряженных, диссипатив-ных, аккумулятивных расширений сводится к нахождению изометрий и сжатий, действующих из одного дефектного подпространства симметрического оператора в другое. В работах М. И. Винтика |46| и М.Ш. Бирмана [9| различным классам расширений положительно определенного оператора А ставятся в соответствие некоторые операторы в подпространстве ker А*. Однако в применении к дифференциальным уравнениям эти операторы только в некоторых отдельных случаях удается преобразовать в операторы, определяющие граничные условия.

Описание в терминах граничных условий самосопряженных расширений L симметрического оператора Lq, порожденных обыкновенным дифференциальным выражением I, было дано в работах М.Г. Крейна [75]. Однако применение результатов М. Г. Крейна к выражениям с частными производными или к дифференциально-операторным выражениям затруднено в связи с тем, что минимальные операторы, порожденные такими выражениями, имеют бесконечные дефектные числа. Для различных конкретных классов дифференциальных выражений граничные значения строились многими авторами (М. Г. Крейн, М. И. Вишик, М.Ш. Бирман, Ф. С. Рофе-Бекетов, М. JI. Горбачу к, В. И. Горбачу к, А. Н. Кочубей, JI. И. Вайнерман, В. А. Михайлец, О. Г. Сторож, В. М. Брук и др.). Эти результаты изложены, например, в монографиях В. И. Горбачук. М. JI. Гор-бачука [51|, |124|, В.Э. Ляттце, О. Г. Сторожа [81|, Ф.С. Рофе-Бекетова, A.M. Холькитта |93|, |135|. Вопросы, связанные с обратимостью дифференциальных операторов, рассматривались в книге А. А. Дезина [60].

Как отмечено выше, одной из основных целей при описании расширений дифференциальных операторов с помощью граничных условий является получение в их терминах теорем о спектральных свойствах различных краевых задач. Поэтому желательно иметь некоторую универсальную конструкцию, охватывающую достаточно большой класс линейных операторов и отношений и позволяющую делать выводы о спектральных свойствах расширений этих операторов или отношений на основании свойств операторов (отношений), входящих в граничные условия, определяющие эти расширения. Такой конструкцией может служить абстрактное пространство граничных значений.

Отметим, что попытки построения теории расширений в терминах абстрактных граничных условий, приводящих в случае дифференциального оператора непосредственно к краевым задачам, предпринимались в работах Дж. Кэлкина [117] (см. также Н.Данфорд, Дж. Шварц [59]), А. В. Штрауса [108]. Однако законченные результаты удавалось получать лишь для операторов с конечными дефектными числами.

Пусть в линейное дифференциально-операторное уравнение спектральный параметр Л входит в виде его произведения на весовую неотрицательную операторную функцию. Такие уравнения возникают, например, при решении методом разделения переменных уравнения колеблющейся нагруженной струны (см. монографию Ф. Аткинсона [4, с. 19]). Различные задачи, связанные с такими уравнениями, изучались в книге Ф. Аткинсона [4, глава 9], в статьях В. И. Когана и Ф. С. Рофе-Бекетова [67], [130], Ф. С. Рофе-Бекетова [134], С. А. Орлова [87], С. Ли [132] и других авторов.

В этих работах использовались методы теории функций, метод гнездящихся матричных кругов (С.А.Орлов), а в статье С. Ли па матричные коэффициенты наложены требования, исключающие появление линейного отношения. Граничные задачи, порожденные дифференциально-операторным уравнением с неотрицательным операторным весом, не были включены в теорию линейных операторов и отношений в гильбертовом и банаховом пространствах, т.е. с такими задачами не связывались операторы или отношения в каких-либо пространствах. Отметим, что в статьях А. Рлейеля [133] и К. Бенневитца [112] рассматривались линейные отношения, порожденные парой дифференциальных операторов со скалярными коэффициентами. Однако этот случай не охватывает дифференциально-операторные выражения с неотрицательным операторным весом. Более того, дифференциальные выражения, изучаемые в работах [133], [112], охватываются дифферетщиалыю-операторными выражениями с певан-линновской функцией, а также интегральным уравнением с неванлин-новской операторной мерой, рассмотренными в диссертации.

Цель работы: построение абстрактных пространств граничных значений, позволяющих делать выводы о свойствах расширений операторов или отношений на основании граничных условий, определяющих эти расширения; включение в теорию линейных операторов и отношений в банаховом и гильбертовом пространствах дифференциально-операторных уравнений со спектральным параметром, входящим в уравнение в виде произведения на неотрицательную операторную весовую функцию или в виде аргумента неванлинновской операторной функции; включение в теорию линейных операторов и отношений в банаховом и гильбертовом пространствах интегральных уравнений с неванлинновской мерой; изучение возникающих при таком включении операторов и отношений с помощью построенных абстрактных пространств граничных значений.

Научная новизна. Основные результаты диссертации являются новыми не только для отношений, порожденных дифференциальными выражениями с весовой функцией, но и для операторов, порожденных этими выражениями без весовой функции. Перечислим эти результаты.

1. Введено пространство граничных значений замкнутых линейных операторов и отношений, приспособленное для описания обратимых сужений, изучены свойства этого пространства и в терминах абстрактных граничных значений дано описание спектра, получены условия фредгольмо-вости и разрешимости. Кроме того, в терминах абстрактных граничных условий получены условия резольвентной сравнимости сужений и расширений линейных операторов и отношений, исследована зависимость асимптотики з-чисел резольвент от асимптотики й-чисел операторов, входящих в абстрактные граничные условия.

2. Введено пространство граничных значений симметрических операторов и отношений, изучены свойства этого пространства. В терминах абстрактных граничных значений дано описание различных классов расширений (диссипативных, самосопряженных и других).

3. Получено описание обобщенных резольвент симметрических операторов и отношений с помощью абстрактных граничных условий, содержащих операторы, голоморфно зависящие от спектрального параметра.

4. Определены линейные отношения, порожденные различными дифференциально-операторными уравнениями в пространстве Ьр(Н,Л{Ь)\а,Ь), где £ —> Л{Ь) - неотрицательная операторная функция в гильбертовом пространстве Н. Дано описание пространств Ьр(Н,Л^)]а,Ь) (р ^ 1). Определяются также линейные отношения, порожденные интегральным уравнением с неванлинновской мерой.

5. Для введенных линейных отношений построены пространства граничных значений. С их помощью описаны различные классы расширений и сужений этих отношений. Получены условия обратимости и фредголь-мовости рассматриваемых отношений, дано описание спектра.

6. Установлено, что еспи рассматриваемые линейные отт-гатттения обратимы, то операторы, обратные к таким отношениям, являются интегральными. В терминах граничных значений дается критерий голоморфности семейств таких операторов. Получены формулы обобщенных резольвент симметрических отношений. Основные результаты являются новыми как в конечномерном случае, так и в случае отсутствия операторного веса (т.е. в случае, когда Л{Ь) — Е - тождественный оператор).

Теоретическая и практическая ценность. Результаты диссертации имеют, в основном, теоретическую ценность. Они используются математиками, проводящими свои исследования в теории линейных операторов и отношений и в теории дифференциальных уравнений (см., например, монографии [51], [124], [93], [135], [81]). Эти результаты могут также применяться для изучения конкретных задач математической физики.

Апробация работы. Результаты диссертации докладывались на следующих конференциях: Международная конференция по теории характеристических функций линейных операторов (Ульяновск, 1997); Международная конференция по теории операторов и ее приложениям (Ульяновск, 2001); Международная конференция по дифференциальным уравнениям (Львов, Украина, 2006); Воронежская зимняя математическая школа (Воронеж, 2006, 2007, 2008, 2009, 2010, 2011, 2012); Воронежская весенняя математическая школа (Воронеж, 2007); Международная конференция "Современный анализ и приложения" (Одесса, 2007); Международная конференция "Дифференциальные уравнения и смежные вопросы" (Москва, МГУ, 2007); Международная математическая конференция В. Я. Скоробогатько (Дрогобыч, Украина, 2007); Саратовская зимняя математическая школа (Саратов, 2008, 2010); Международная конференция "Дифференциальные уравнения, функциональные пространства, теория приближений" (Новосибирск, 2008); Международная конференция "Современные проблемы математики, механики и их приложений "(Москва, МГУ, 2009); Международная конференция по функциональному анализу (Львов, 2010); Десятая Международная Казанская летняя научная школа-конференция (Казань, 2011); Крымская осенняя математическая школа КРОМШ (Крым, 2006,2007,2008, 2009, 2010, 2011).

Публикации. По теме диссертации опубликовано 25 работ ([15] - [35], [113]-[116]), из которых 17 ([15] - [17], [19], [20], [22], [25], [26], [28]-[31], [35], [113]-[116]) входят в список ВАК.

Структура и объем диссертации. Диссертация состоит из введения, четырех глав, приложения и списка литературы, состоящего из 135 наименований.

1. Азизов Т. Я. К теории расширений изометрических и симетрических операторов в пространствах с индефинитной метрикой / Т. Я. Азизов. Воронежский государственный университет. - Воронеж, 1982. -32 с. - Библиогр.: с. 31. - Деп. в ВИНИТИ 09.06.82, № 3420-82.

2. Азизов Т. Я. Основы теории линейных операторов в пространствах с индефинитной метрикой / Т. Я. Азизов, Ф. С. Иохвидов. М.: Наука, 1986. 352 с.

3. Арлинский Ю.М. Позитивные пространства граничных значений и секториальные расширения неотрицательного симметрического оператора /Ю.М. Арлинский // Украинский математический журнал. 1988. - Т. 40. - № 1. - С. 8-14.

4. Аткинсон Ф. Дискретные и непрерывные граничные задачи / Ф. Ат-кинсон. М.: Мир, 1968. 750 с.

5. Ахиезер Н. И. Теория линейных операторов в гильбертовом пространстве / Н. И. Ахиезер, И. М. Глазман. М.: Наука, 1966. 544 с.

6. Баскаков А. Г. Спектральный анализ дифференциальных операторов с неограниченными операторными коэффициентами, разностные отношения и полугруппы разностных отношений / А. Г. Баскаков // Известия РАН, Серия матем. -2009. Т. 73. - № 2. - С. 3 - 68.

7. Баскаков А. Г. Спектральный анализ линейных отношений и вырожденные полугруппы операторов / А. Г. Баскаков, К. И. Чернышов // Матем. сборник. 2002. - Т. 193. - № 11. - С. 3 - 42.

8. Березанский Ю. М. Разложение по собственным функциям самосопряженных операторов / Ю. М. Березанский. Киев: Наукова Думка, 1965. 798 с.

9. Бирман М. Ш. К теории самосопряженных расширений положительно определенных операторов / М. Ш. Бирман // Матем. сборник. 1956. - Т. 38. - № 4. - С. 431 - 450.

10. Бродский М. С. Треугольные и жордановы представления линейных операторов / М.С. Бродский. М.: Наука, 1969. 288 с.

11. Брук В. М. Диссипативные расширения дифференциального оператора эллиптического типа / В.М. Брук // Функциональный анализ.- 1974. № 3. - Ульяновск: Ульяновский пединститут, 1974. -С. 35 - 43.

12. Брук В. М. Об обобщенных резольвентах и спектральных функциях дифференциальных операторов четного порядка в пространстве вектор-функций / В. М. Брук // Матем. заметки. 1974. - Т. 15. -№ 6. - С. 945 - 954.

13. Брук В. М. Некоторые вопросы спектральной теории дифференциального уравнения второго порядка с переменным неограниченным операторным коэффициентом / В. М. Брук // Матем. заметки. -1974. Т. 16. - № 5. - С. 813 - 822.

14. Брук В. М. О числе линейно независимых, квадратично интегрируемых решений систем дифференциальных уравнений /В.М. Брук // Функциональный анализ. 1975. - № 5. - Ульяновск: Ульяновский пединститут, 1975. - С. 25 - 33.

15. Брук В. М. Об одном классе краевых задач со спектральным параметром в граничном условии / В. М. Брук // Матем. сборник. -1976. Т. 100. - К« 2. - С. 210 - 216.

16. Брук В. М. О расширениях симметрических отношений / В. М. Брук //Матем. заметки.-1977.-Т. 22,- № 6.- С.825-834.

17. Брук В. М. О линейных отношениях в пространстве вектор-функций / В. М. Брук // Матем. заметки.-1978. Т. 24. - № 4. - С. 499 - 511.

18. Брук В. М. Об обобщенных резольвентах симметрических отношений в пространстве с индефинитной метрикой /В.М. Брук // Функциональный анализ. 1984. - № 22. - Ульяновск: Ульяновский пединститут, 1984. - С. 29 - 34.

19. Брук В. М. О максимальной диссипативности дифференциального оператора высокого порядка с неограниченным операторным коэффициентом / В. М. Брук // Дифференциальные уравнения. 1984.- Т. 20. № 11. - С. 1986 - 1989.

20. Брук В. М. О характеристической функции линейного отношения / В. М. Брук // Известия ВУЗов. Математика. -1986,- № 8.- С.9 13.

21. Брук В. М. Об обратимых сужениях замкнутых операторов в банаховых пространствах / В. М. Брук // Функциональный анализ.1988.-№ 28,-Ульяновск: Ульяновский пединститут, 1988,- С. 17-22.

22. Брук В. М. О спектре дифференциальных операторов в пространстве вектор-функций / В. М. Брук // Известия ВУЗов. Математика.1989. 8. С. 15-21.

23. Брук В. М. О краевых задачах, связанных с голоморфными семействами операторов / В. М. Брук // Функциональный анализ. 1989.- № 29. Ульяновск: Ульяновский пединститут, 1989. - С. 32 - 42.

24. Брук В. М. О голоморфных семействах линейных отношений /B. М. Брук // Функциональный анализ. 1992. - № 33. - Ульяновск: Ульяновский пединститут, 1992. - С. 24 - 28.

25. Брук В. М. О теореме единственности для голоморфных семейств операторов / В. М. Брук // Матем. заметки. 1993. - Т. 53. - № 3,C. 155 156.

26. Брук В. М. О спектре операторов, связанных с равномерно корректными задачами / В. М. Брук, В. А. Крысько // Дифференциальные уравнения. 2004. - Т. 40. - № 10. - С. 1417 - 1418.

27. Брук В. M. О спектре линейных отношений, связанных с равномерно корректными задачами / В. М. Брук // Дифференциальные уравнения. 2007. - Т. 43. - № 1. - С. 21 - 27.

28. Брук В. М. Об обратимых линейных отношениях, порожденных равномерно корректной задачей и неотрицательной операторной функцией / В. М. Брук // Известия ВУЗов. Математика. 2007. - № 1. -С. 3-9.

29. Брук В. М. Об обратимых сужениях отношений, порожденных дифференциальным выражением и неотрицательной операторной функцией / В. М. Брук // Матем. заметки. 2007. - Т. 82. - № 5. -С. 652-664.

30. Брук В. М. Об обобщенных резольвентах линейных отношений, порожденных неотрицательной операторной функцией и дифференциальным выражением эллиптического типа / В. М. Брук // Известия ВУЗов. Математика. 2008. - № 11. - С. 12 - 26.

31. Брук В. М. О спектре линейных отношений / В. М. Брук // Современные методы теории функций и смежные проблемы. Материалы Воронежской зимней математической школы. Воронеж: Воронежский государственный университет, 2009. - С. 30 - 31.

32. Брук В. М. О резольвентной сравнимости граничных задач для линейных отношений / В. М. Брук // International Scientific Journal. Spectral and evolution problems. 2010. - V. 20. - Simferopol: Taurida National V. Vernadsky University, 2010. - P. 84 - 90.

33. Брук В. М. О числе линейно независимых, квадратично интегрируемых решений дифференциальных уравнений / В. М. Брук // Вестник ВГУ. Серия: Физика, Математика.-2011.1.-С. 100-106.

34. Бурский В.П. Методы исследования граничных задач для общих дифференциальных уравнений / В.П. Бурский. Киев: Наукова Думка, 2002. 316 с.

35. Вайнерман Л. Й. Про існування функцій розподілу диференціального рівняння другого порядку з операторними коефіцізнтами /JI. Й. Вайнерман // Доповіді АН Украінськоі PCP. 1972. - № 1. -С. 3-5.

36. Вайнерман Л. И. Краевые задачи для сильно эллиптического уравнения второго порядка в гильбертовом пространстве / Л. И. Вайнерман // Кибернетика. 1973. - № 6. - С. 143-144.

37. Вайнерман Л. И. Самосопряженные граничные задачи для сильно эллиптических и гиперболических уравнений второго порядка в гильбертовом пространстве / Л. И. Вайнерман // Доклады АН СССР. 1974. - Т. 218. - № 4. - С. 745-748.

38. Вайнерман Л. И. Диссипативные граничные задачи для дифференциального уравнения второго порядка с неограниченным переменным операторным коэффициентом / Л. И. Вайнерман // Украинский матем. журнал. 1974. - Т. 16. - № 4. - С. 530 - 534.

39. Вайнерман Л. Й. Еліптичне рівняння другого порядку з необмеженим операторним коефіцізнтом що вироджуэться /Л. Й. Вайнерман // Доповіді АН Украінськоі PCP.-1977.- JV® 3.— С. 195 198.

40. Вайнерман Л. И. Вырождающееся эллиптическое уравнение второго порядка в гильбертовом пространстве / Л. И. Вайнерман // Дифференциальные уравнения. 1978. - Т. 14. - № 3. - С. 482 - 491.

41. Вайнерман Л. И. Вырождающееся эллиптическое уравнение с переменным операторным коэффициентом / Л. И. Вайнерман // Украинский матем. журнал. 1979. - Т. 31. - № 3. - С. 247 - 255.

42. Вайнерман Л. И. О расширениях замкнутых операторов в гильбертовом пространстве / Л. И. Вайнерман // Матем. заметки. 1980. -Т. 28. - № 6. - С. 833 - 842.

43. Верник А. Н. Обобщенные резольвенты и спектральные функции бесконечномерного аналога оператора дифференцирования Крейна-Феллера / А. Н. Верник, Д. 3. Ильязова // Известия ВУЗов. Математика. 1986. - № 4. - С. 20 - 26.

44. Вишик М. И. Об общих краевых задачах для эллиптических дифференциальных уравнений / М. И. Вишик // Труды Моск. матем. общества. 1952. - Т. 1. - С. 187 - 246.

45. Войтицкий В. И. Многокомпонентные задачи сопряжения и вспомогательные абстрактные краевые задачи / В. И. Войтицкий, Н. Д. Ко-пачевский, П. А. Старков // Современная математика. Фундаментальные направления. 2009. - Т. 34. - С. 5 - 44.

46. Горбачук В. И. О некоторых классах граничных задач для уравнения Штурма-Лиувилля с операторным потенциалом / В. И. Горбачук, М. Л. Горбачук //Украинский матем. журнал. 1972.- Т. 24.-№ 3. - С. 291 - 305.

47. Горбачук В. И. О спектре самосопряженных расширений минимального оператора, порожденного уравнением Штурма-Лиувилля с операторным потенциалом / В. И. Горбачук, М. Л. Горбачук //Украинский матем. журнал, 1972,- Т. 24,- № 6. - С. 726 - 734.

48. Горбачук В. И. Граничные задачи для дифференциально-операторных уравнений / В. И. Горбачук, М. Л. Горбачук. Киев: Наукова Думка, 1984. 284 с.

49. Горбачук В. И. Теория расширений симметрических операторов и граничные задачи для дифференциальных уравнений / В. И. Горбачук, М. Л. Горбачук, А. Н. Кочубей // Украинский матем. журнал. -1989. Т. 41. - № 10. - С. 1299 - 1313.

50. Горбачук М. Л. Самосопряженные граничные задачи для дифференциального уравнения второго порядка с неограниченным операторным коэффициентом / М. Л. Горбачук // Функцион. анализ и его прил. 1971. - Т. 5. - № 1. - С. 10 - 21.

51. Горбачук М. Л. Диссипативные расширения дифференциальных операторов в пространстве вектор-функций / М. Л. Горбачук, А. Н. Кочубей, М. А. Рыбак // Докл. АН СССР. 1972. - Т. 205.- № 5. С. 1029 - 1032.

52. Горбачук М. Л. О резольвентной сравнимости граничных задач для операторного уравнения Штурма-Лиувилля / М. Л. Горбачук,В. А. Кутовой // Функцион. анализ и его прил. 1978. - Т. 12. - № 4. - С. 68 - 69.

53. Гохберг И.Ц. Основные положения о дефектных числах, корневых числах и индексах линейных операторов / И.Ц. Гохберг, М. Г. Крейн // Успехи матем. наук. 1957. - Т. 12. - № 2. - С. 43 - 118.

54. Гохберг И. Ц. Введение в теорию линейных несамосопряженных операторов в гильбертовом пространстве / И. Ц. Гохберг, М. Г. Крейн. М.: Наука, 1965. 448 с.

55. Гохберг И. Ц. Две теоремы о растворе подпространств банахова пространства / И. Ц. Гохберг, А. С. Маркус. Успехи матем. наук. -1959. - Т. 14. - № 5. - С. 135 - 140.

56. Данфорд Н., Линейные операторы. Спектральная теория / Н. Дан-форд, Дж. Шварц. М.: Мир, 1966. 1064 с.

57. Дезин А. А. Общие вопросы теории граничных задач / А. А. Дезин. М.: Наука, 1980. 208 с.

58. Деркач В. А. Граничные отношения и вейлевские семейства / В. А. Деркач, М. М. Маламуд, X. де Сноо, С. Хасси // Докл. РАН. -2004. Т. 399. - № 2. - С. 151 - 156.

59. Дьяченко М. И., Ульянов П. Я. Мера и интеграл / М. И. Дьяченко, П. J1. Ульянов. М.: Факториал, 1998. 160 с.

60. Иосида К. Функциональный анализ / К. Иосида. М.: Мир, 1967. -624 с.

61. Като Т. Теория возмущений линейных операторов / Т. Като. М.: Мир, 1972. 740 с.

62. Кац И. С. О спектральных функциях струны / И. С. Кац, М. Г Крейн // Дискретные и непрерывные граничные задачи Ф. Ат-кинсон]. Дополнение 2. / М.: Мир, 1968. С. 648 - 737.

63. Коган В. И. О квадратично интегрируемых решениях симметрических систем дифференциальных уравнений произвольного порядка / В. И. Коган, Ф. С. Рофе-Бекетов // Препринт, АН УССР. -Харьков, 1973. С. 1 - 60.

64. Колмогоров А. Н. Элементы теории функций и функционального анализа / А. Н. Колмогоров, С. В. Фомин. М.: Наука, 1972. 496 с.

65. Копачевский Н.Д. Об абстрактной формуле Грина для смешанных краевых задач и ее приложениях / Н.Д. Копачевский // Spectral and Evolution Problème. 2011.-V.21,-Issue 1. Simferopol,2011.- С. 2-39.

66. Копачевский H. Д. Абстрактная формула Грина для тройки гильбертовых пространств, абстрактные краевые и спектральные задачи / Н. Д. Копачевский, С. Г. Крейн // Украинский матем. вестник. -2004. Т. 1. 1. - С. 69 - 97.

67. Кочубей А. Н. О расширениях симметрических операторов и симметрических бинарных отношений / А. Н. Кочубей // Матем. заметки. 1975. - Т. 17. - № 1. - С. 41 - 48.

68. Кочубей А. Н. О спектре самосопряженных расширений симметрического оператора / А. Н. Кочубей // Матем. заметки. 1976. - Т. 19. - № 3. - С. 429 - 434.

69. Кочубей А. Н. О расширениях положительно определенного симметрического оператора / А. Н. Кочубей // Докл. АН УССР. Сер. А. -1979. № 3. - С. 168 - 171.

70. Кочубей А. Н. Одномерные точечные взаимодействия / А. Н. Кочубей / Украинский матем. журнал. 1989. - Т. 41. - № 10. - С. 13911395.

71. Крейн М. Г. Теория самосопряженных расширений полуограниченных эрмитовых операторов и ее приложения / М. Г. Крейн // Матем. сборник. -1947. Т. 20. - № 3. - С. 431-495; Т. 21.3.-С. 365-404.

72. Крейн М. Г. Проблема моментов Маркова и экстремальные задачи / М. Г. Крейн, А. А. Нудельман. М.: Наука, 1973. 552 с.

73. Крейн С. Г. Линейные дифференциальные уравнения в банаховом пространстве / С. Г. Крейн. М.: Наука, 1967. 464 с.

74. Лаптев Г. И. Сильно эллиптические уравнения второго порядка в гильбертовом пространстве / Г. И. Лаптев // Литовский матем. сборник. 1968. - Т. 8. - № 1. - С. 87 - 99.

75. Лаптев Г. И. Граничные задачи для дифференциальных уравнений в гильбертовом пространстве с переменным самосопряженным оператором / Г. И. Лаптев // Доклады АН СССР. 1968. - Т. 179. -№ 2. - С. 283 - 286.

76. Лионе Ж,-Л. Неоднородные граничные задачи и их приложения / Ж.-Л. Лионе, Э. Мадженес. М.: Мир, 1971. 372 с.

77. Лянце В. Э. Методы теории неограниченных операторов / В. Э. Лянце, О. Г. Сторож. Киев: Наукова Думка, 1983. 212 с.

78. Михайлец В. А. О разрешимости и полноте системы собственных и присоединенных функций несамосопряженных граничных задач для операторного уравнения Штурма-Лиувилля / В. А. Михайлец // Доклады АН СССР. 1974. - Т. 218. - № 2. - С. 284 - 286.

79. Михайлец В. А. Спектры операторов и граничные задачи / В. А. Михайлец // Спектральный анализ дифференциальных операторов. Киев: Наукова Думка, 1980. - С. 106 - 131.

80. Наймарк М. А. О самосопряженных расширениях второго рода симметрического оператора / М. А. Наймарк // Известия АН СССР. Серия матем. 1940. - Т. 4. - № 1. - С. 53 - 104.

81. Наймарк М. А. Спектральные функции симметрического оператора / М. А. Наймарк // Известия АН СССР. Серия матем. 1940. - Т. 4. - № 3. - С. 277 - 318.

82. Наймарк М. А. Линейные дифференциальные операторы / М. А. Наймарк. М.: Наука, 1969. 528 с.

83. Орлов С. А. Гнездящиеся матричные круги, аналитически зависящие от параметра и теоремы об инвариантности рангов радиусов предельных матричных кругов / С. А. Орлов // Известия АН СССР. Серия матем. 1976. - Т. 40. - № 3. - С. 593 - 644.

84. Покорный Ю. В. Осцилляционная теория Штурма-Лиувилля для импульсных задач / Ю. В. Покорный, М. Б. Зверева, С. А. Шабров // Успехи матем. наук. 2008. - Т. 63. - № 1. - С. 111 - 154.

85. Рицнер В. С. Теория линейных отношений / В. С. Рицнер; Воронежский государственный университет. Воронеж, 1982. - 150 с. -Библиогр.: с.148 - 149. - Ден. в ВИНИТИ 20.02.82, № 846-82.

86. Рофе-Бекетов Ф. С. Самосопряженные расширения дифференциальных операторов в пространстве вектор-функций / Ф. С. Рофе-Бекетов //Докл. АН СССР 1969. - Т. 184,- № 5,- С. 1034-1037.

87. Рофе-Бекетов Ф. С. О самосопряженных расширениях дифференциальных операторов в пространстве вектор-функций / Ф. С. Рофе-Бекетов // Теория функций, функциональный анализ и их приложения. 1969. - Т. 8. - С. 3 - 24.

88. Рофе-Бекетов Ф. С. Числовая область линейного отношения и максимальные отношения/ Ф. С. Рофе-Бекетов // Теория функций, функциональный анализ и их приложения. 1985. - Т. 44. - С. 103 - 112.

89. Рофе-Бекетов Ф. С. Спектральный анализ дифференциальных операторов / Ф. С. Рофе-Бекетов, А. М. Холькин. НАН Украины. Мариуполь, 2001. 332 с.

90. Рудин У. Функциональный анализ / У. Рудин. М.: Мир. 1975. -448 с.

91. Руссаковский Е. М. Матричная задача Штурма-Лиувилля со спектральным параметром в граничных условиях / Е. М. Руссаковский // Функциональный анализ и его прил.-1993.-Т. 27.1.- С. 86-87.

92. Савчук А. М. Операторы Штурма-Лиувилля с сингулярными потенциалами / А. М. Савчук, А. А. Шкаликов // Матем. заметки. -1999. Т. 66. - № 6. - С. 897 - 912.

93. Савчук А. М. Операторы Штурма-Лиувилля с потенциалами-распределениями / А. М. Савчук, А. А. Шкаликов // Труды Московского матем. общества. 2003. - Т. 66. - С. 159 - 212.

94. Сторож О. Г. О расширениях симметрических операторов с неравными дефектными числами / О. Г. Сторож // Матем. заметки. -1984. Т. 36. - № 5. - С. 791 - 796.

95. Талюш М. О. Типова структура дисипативних операторів/ М. О. Та-люш //Доп. АН УРСР. Серия А. 1973.- № 11. - С. 993 - 996.

96. Хартман Ф. Обыкновенные дифференциальные уравнения / Ф. Хартман. М.: Мир, 1970. 720 с.

97. Хилле Е., Филлипс Р. Функциональный анализ и полугруппы / Е. Хилле, Р. Филлипс. М.: ИЛ, 1962. 830 с.

98. Храбустовский В. И. Спектральная матрица периодической симметрической системы с вырождающимся весом на оси / В. И. Храбустовский // Теория функций, функциональный анализ их приложения. 1981. - Т. 35. - С. 111 - 119.

99. Храбустовский В. И. Спектральный анализ периодических систем с вырождающимся весом на оси и полуоси / В. И. Храбустовский // Теория функций, функциональный анализ их приложения. 1985.- Т. 44. С. 122 - 133.

100. Шефер X. Топологические векторные пространства / X. Шефер. М.: Мир, 1971. 360 с.

101. Штраус А. В. Обобщенные резольвенты симметрических операторов / А. В. Штраус // Известия АН СССР. Серия матем. 1954. - Т. 18. -№1.- С. 51 - 86.

102. Штраус А. В. Об обобщенных резольвентах и спектральных функциях дифференциальных операторов четного порядка / А. В. Штраус// Известия АН СССР. Серия матем. -1957. Т. 21. - № 6. - С. 785 - 808.

103. Штраус A.B. Некоторые вопросы теории расширения симметрических несамосопряженных операторов / А. В. Штраус // Труды 2-й научной конф. матем. кафедр пед. институтов Поволжья. Куйбышев: Куйбышевский пед. институт, 1962. - Вып. 1. - С. 121 - 124.

104. Штраус А. В. Об однопараметрических семействах расширений симметрического оператора / А. В. Штраус // Известия АН СССР. Серия матем. 1966. - Т. 30. - № 6. - С. 1325 - 1352.

105. Штраус А. В. О расширениях и характеристической функции симметрического оператора / А. В. Штраус // Известия АН СССР. Серия матем. 1968. - Т. 32. - № 1. - С. 186 - 207.

106. Arens R. Operational Calculus of Linear Relations / R. Arens // Pacif. J. Math. 1961. - V. 11. - № 1. - P. 9 - 23.

107. Bennewitz С. Spectral Theory for Pairs of Differential Operators / C. Bennewitz // Arkiv for matematik.- 1977,- V. 15. № 1,- P. 33-61.

108. Bruk V. M. On Spaces of Boundary Values for Relations Generated by a Formally Selfadjoint Expression and a Nonnegative Operator Function / V. M. Bruk // Journal of Mathematical Physics, Analysis, Geometry. 2006. - V. 2. - № 3. - P. 268 - 277.

109. Bruk V. M. Generalized Resolvents of Symmetric Relations Generated on Semi-axis by a Differential Expression and a Nonnegative Operator Function / V. M. Bruk // Journal of Mathematical Physics, Analysis, Geometry. 2006. - V. 2. - № 4. - P. 372 - 387.

110. Bruk V. M. On Linear Relations Generated by Nonnegative Operator Function and Degenerate Elliptic Differential Operator Expression / V. M. Bruk // Journal of Mathematical Physics, Analysis, Geometry. -2009. V. 5. - № 2. - P. 123 - 144.

111. Bruk V. M. On Linear Relations Generated by a Differential Expression and by a Nevanlinna Operator Function / V. M. Bruk // Journal of Mathematical Physics, Analysis, Geometry. 2011. - V." 7. - № 2. -P. 115 - 140.

112. Calkin J. W. Abstract Symmetric Boundary Conditions / J. W. Calkin // Trans. Amer. Math. Soc. 1939. - V. 45. - № 3. - P. 369 - 442.

113. Coddington E. A. Extension Theory of Formally Normal and Symmetric Subspaces / E. A. Coddington // Mem. Amer. Math. Soc. 1973. -V. 134. - P. 1 - 80.

114. Cross R. Multivalued Linear Operators / R. Cross. New York: Dekker, 1998.

115. Derkach V. A. Generalized Resolvents and the Boundary Value Problems for Hermitian Operators with Gaps / V. A. Derkach, M. M. Malamud // Journal of Functional Analysis. 1991. - V. 95.1. P. 1 - 95.

116. Derkach V. Boundary Relations and Their Weil Families / V. Derkach, S. Hassi, M. Malamud, H. de Snoo // Trans, of the American Math. Soc.- 2006. V. 12. - №12. - P. 5351 - 5400.

117. Dijksma A. Self-adjoint Extensions of Symmetric Subspaces / A. Dijksma, H. S. V. de Snoo // Pacific J. Math. 1974. - V. 54. -№ 1,- P. 71 - 100.

118. Favini A. Degenerate Differential Equations in Banach Spaces / A. Favini, A. Yagi. New York: M. Dekker, 1998. (Monogr. Textbooks Pure Appl. Math. V. 215.)

119. Gorbatchuk V. I. Boundary Value Problems for Differential-Operator Equations / V.l. Gorbatchuk, M.L. Gorbatchuk. Dordrecht-Boston-London: Kluwer Acad. Publ., 1991.

120. Goriunov A. Regularization of Singular Sturm-Liouville Equations / A. Goriunov, V. Mikhailets // Methods of Functional Analysis and Topology. 2010. - V. 16. - № 2. - P. 120 - 130.

121. Khrabustovsky V.l. Expansion in Eigenfunctions of Relations Generated by Pair of Operator Differential Expressions / V. I. Khrabustovsky // Methods of Functional Analysis and Topology. 2009. - V. 15. - № 2.- P. 137-151.

122. Klotz L. P. Generalized Resolvents and Spectral Functions of a Matrix Generalization of the Krein-Feller Second Order Derivative / L. P. Klotz, H. Langer // Math. Nachr. 1981.- V. 100,- P. 163-186.

123. Kogan V. I. On Square-integrable Solutions of Symmetric Systems of Differential Equations of Arbitrary Order / V. I. Kogan, F. S. Rofe-Beketov // Proc. Roy. Soc. Edinburgh. Sect. A. 1975,- V. 74. №1. -P. 5 40.

124. Krein M. G. Some Propositions on Analytic Matrix Functions Related to the Theory of Operators in the Space 11^. / M. G. Krein, H. Langer // Acta Sei. Math. (Szeged). 1981. - V. 43. - № 1-2. - P. 181 - 205.

125. Lee S. J. Formally Self-adjont Systems of Differential Operators / S. J. Lee //J. Math. Anal. Appl.- 1976.-V. 55. 1.-P. 90-101.

126. Pleijel A. A Survey of Spectral Theory for Pairs of Ordinary Differential Operators / A. Pleijel // Lecture Notes Math. 1975. - V. 448. - P. 256 -272.

127. Rofe-Beketov F. S. Square-integrable Solutions, Self-Adjoint Extensions and Spectrum of Differential Systems / F. S. Rofe-Beketov // Differential Equations. Proc. Intern. Conf. on Differ. Eq. Uppsala, 1977. - P. 169 - 178.

128. Rofe-Beketov F. S. Spectral Analysis of Differential Operators. Interplay between Spectral and Oscillatory Properties / F. S. Rofe-Beketov, A. M. Khol'kin. World Sei. Monogr. Ser. Math. 7. Singapore, 2005.