Об одном классе многозначных отображений с некомпактными образами тема автореферата и диссертации по математике, 01.01.01 ВАК РФ

На правах рукописи

Гельман Алексей Борисович

Об одном классе многозначных отображений с некомпактными образами

01.01.01 — вещественный, комплексный и функциональный анализ

Автореферат

диссертации на соискание ученой степени кандидата физико-математических наук

ВОРОНЕЖ - 2010

004602949

Работа выполнена на кафедре алгебры и топологических методов анализа Воронежского государственного университета

Научный руководитель: доктор физико-математических наук,

профессор Обуховский Валерий Владимирович

Официальные оппоненты: доктор физико-математических наук,

Ведущая организация: Российский университет дружбы народов

Защита состоится 23 марта 2010 года в 15 часов на заседании диссертационного совета Д 212.038.22 при Воронежском государственном университете по адресу, г. Воронеж, 394006, Университетская пл., 1.

С диссертацией можно ознакомиться в научной библиотеке Воронежского государственного университета.

Автореферат разослан «17» февраля 2010 г.

Ученый секретарь диссертационного совета доктор физико-математических наук.

профессор Каменский Михаил Игоревич

кандидат физико-математических наук, Схенюхин Леонид Витальевич

профессор

Общая характеристика работы

Актуальность темы. Исследование новых классов нелинейных задач, построение и изучение разрешимости адекватных им классов операторных уравнений и включений, традиционно включается в нелинейный функциональный анализ. При изучении вопросов, связанных с разрешимостью различных нелинейных уравнений и включений, важную роль играют качественные методы, в частности, принципы неподвижных точек, принципы продолжения решений по параметру и топологические методы. В настоящее время существуют нелинейные задачи (теория экстремальных задач, математическая экономика, вариационные неравенства и т.д.) для исследования которых широко используется теория многозначных отображений.

Существенное место в теории многозначных отображений занимает исследование неподвижных точек, которые в различных задачах могут интерпретироваться как оптимальные стратегии, равновесные цены, оптимальные решения, точки покоя обобщенных динамических систем и т.д. Теоремы о неподвижных точках многозначных отображений используются также в теории дифференциальных уравнений и включений, при изучении вариационных неравенств и в других разделах современной математики.

Современная теория неподвижных точек многозначных отображений была построена в работах С. Какутани, С. Эйленберга и Д. Монтгомери, А. Гранаса, И. Яваровского, А.Д. Мышкиса, С.Б. Надлера, Л. Гурневи-ча, Ю.Г. Борисовича, Б.Д. Гельмана, В.В. Обуховского, Ю.Е. Гликлпха, М.И. Каменского и многих других. Отметим, что некоторые результаты работы Воронежской школы в этом направлении приведены в монографиях 1 . В настоящий момент теория неподвижных точек многозначных

1Kamcnskii М., Obukhovskii V-, Zecca P. Condensing Multivalued Maps and Semilinear Differential Inclusions in Banach Spaces/ De Gruyter Ser. in Nonlinear Analysis and Appl. 7, Walter de Gruytcr, Berlin-New York. - 2001. Борисович Ю.Г., Гельман Б.Д., Мышкис А.Д., Обуховский В.В. Введение в теорию многозначных отображений и дифференциальных включений/ М: КомКнига (УРСС). -2005.

отображений с выпуклыми компактными образами развита также хорошо, как и теория однозначных отображений.

Однако, в большинстве существующих теорем, кроме принципа многозначных сжимающих отображений, предполагается, что образы многозначного отображения являются компактами. Изучение неподвижных точек многозначных отображений с некомпактными образами представляет значительную трудность и не может проводиться традиционными методами.

Цель работы. Целью работы является выделение нового специального класса многозначных отображений с некомпактными образами ( /г-вполне непрерывных многозначных отображений) и доказательство теорем существования неподвижных точек для многозначных отображений из этого класса.

Методы исследования. В работе используются методы функционального анализа и теории многозначных отображений.

Научная новизна. К главным можно отнести следующие результаты диссертации:

1. Изучение нового класса многозначных отображений с некомпактными образами (Л-вполне непрерывных отображений).

2. Доказательство теорем о неподвижных точках /г-вполпе непрерывных отображений;

3. Применение полученных теорем к проблеме существования решений следующих задач: уравнений с сюръективными операторами на сферах банаховых пространств; неравенств в банаховом пространстве с конусом; вопросу о существовании квазинеподвижных точек однозначных отображений.

4. Построение нового топологического инварианта - относительной топологической степени вполне непрерывного отображения (относительно фиксированного отображения и фиксированного множества).

Все основные результаты диссертации являются новыми.

Достоверность полученных результатов подтверждается математическими методами исследования. Все основные результаты диссер-

тацин доказаны.

Практическая и теоретическая значимость. Работа носит теоретический характер. Ее результаты могут применяться в теории многозначных отображений, теории дифференциатьных уравнений, теории управляемых систем и математической экономике.

Аппробация работы. Основные результаты работы докладывались на международных научных конференциях: Колмогоровскпе чтения "Общие проблемы управления и их приложения "(ОПУ-2009), г. Тамбов, Тамбовский госуниверситет, - 2009 год.

На Воронежских зимних математических школах: "Современные методы теории функций и смежные проблемы. (ВЗМШ-2007)". Воронеж, ВГУ, -2007 год; "Современные методы теории функций и смежные проблемы. (ВЗМШ-2009)". Воронеж, ВГУ, - 2009 год. Отчетные конференции ВГУ, 2008-2009 годы. На семинаре В.В. Обуховского ( 2008-2009 годы).

Структура и объем работы. Работа состоит из введения, пяти разбитых на пункты параграфов (первый из них называется нулевым) и списка литературы. Нулевой параграф работы является вспомогательным, он содержит необходимые в дальнейшем сведения из теории многозначных отображений и теории неподвижных точек. Библиография содержит 48 наименований.

Публикации. Основные результаты диссертации опубликованы в работах [1] - [8]. Из совместной работы [4] в диссертацию вошли только принадлежащие автору результаты. Работа [8] соответствует списку ВАК РФ.

Содержание работы

Во введении обоснована актуальность темы диссертации, приведен обзор исследований по ее тематике, изложены основные результаты, полученные в работе.

В первом параграфе диссертации вводится и изучается новый класс многозначных отображений. Эти отображения имеют выпуклые замкну-

тые, но некомпактные образы.

Пусть У - подмножество нормированого пространства Е, Су (У) -множество непустых замкнутых выпуклых подмножеств в У. Функция /г : Су(У) х Су(У) —> И и оо - квазиметрика Хаусдорфа на множестве Су(У). В квазиметрическом пространстве (Си(У),к) естественно определяется структура топологического пространства. Будем обозначать £и(У) множество Су(У) снабженное этой топологией.

Любое многозначное отображение ^ : X —> Сь(У) порождает однозначное отображение ^ •' X —> €у(У), где ^(х) = Е(х) € Су(У).

1.2.1. Определение. Будем говорить что многозначное отображение F является 1г-непрерывным, если:

(1) отображение порожденное отображением F, является непрерывным.

Если кроме условия (1) отображение удовлетворяет следующиму условию:

(2) для любого ограниченного множества Ос! множество $(£)) является компактным множеством в £у(Е),

то будем говорить что многозначное отображение Р является к-впол-не непрерывным.

Пусть Е - банахово пространство, X - метрическое пространство, А -ограниченное подмножество пространства X, Г : X —> Су(Е) - /г-вполне непрерывное многозначное отображение.

1.3.1. Теорема. Для любого е > 0 существует непрерывное отображение /£ : Л —> Е такое, что:

(a) множество /Е(А) является компактным;

(b) х), Г(х)) < £ для любой точки х € А.

Пусть Т - ограниченное выпуклое замкнутое подмножество банахова пространства Е, Р : Т —> Су{Е) - многозначное Н-вполне непрерывное отображение. Справедлива следующая теорема о "почти"неподвижной точке.

1.4.1. Теорема. Если Е(х)^]Т ^ 0 для любой точки х бТ, то для любого е > 0 существует точка х£ € Т такая, что р(хе,Е(хе)) < £.

Однако, при выполнении условий теоремы 1.4.1 многозначное /i-внолпс непрерывное отображение может не иметь неподвижных точек. В работе доказано, что в некоторых специальных случаях существование неподвижных точек можно установить.

Пусть Y - метрическое пространство, Е - банахово пространство, U -ограниченное открытое выпуклое подмножество Е, / : U —* У - вполне непрерывное отображение, Ф : Y —> Cv(E) - Л-непрерывное многозначное отображение. Тогда F = Ф о / : U —> Cv{E) является /i-вполне непрерывным отображением.

1.4.3. Теорема. Пусть выполнено одно из следующих двух условий:

(1) для любой тонки х 6 U множество Ф(х) компактно в слабой топологии;

(2) множество U компактно в слабой топологии.

Если существует такое открытое выпуклое множество V С V С U, что для любого х € dU пересечение F(x) f]V ^ 0, то многозначное отображение F имеет неподвижную точку.

Для изучения неподвижных точек многозначных /i-вполне непрерывных отображений также может быть применена топологическая степень.

Пусть Е - банахово пространство, U С Е - ограниченное открытое множество, F : U —> Cv(E) - Л-вполне непрерывное отображение. Обозначим Ф(х) = x—F(x) многозначное векторное поле, порожденное отображением F. Пусть существует такое е > 0, что для любой точки х € dU справедливо неравенство p(x,F(x)) > е. В силу теоремы 1.3.1 существует компактное отображение f£:U—>E такое, что p(fe(x),F(x)) < е. Пусть <ре(х) = х — f£(x). Очевидно, что tpe:(х) ф 0 для любого х е dU.

1.5.1. Определение. Топологической степенью deg{$,dU) векторного поля Ф будем называть deg(ip€,dU).

Имеет место следующая теорема.

1.5.3. Теорема. Пусть существует такое е > О, что для любой точки х б dU справедливо неравенство р(х, F(x)) > е и deg(Ф, dU) ^ 0. Тогда для любого 5 > 0 существует точка xs £ U такая, что p(xs,F{xs)) < 5.

Справедлива также следующая теорема.

1.5.4. Теорема. Пусть существуют вполне непрерывные отображения /ь/2 : dU Е такие, что выполняются следующие условия:

(1) h и f2 являются непрерывными сечениями F;

(2) х ф f\{x), х ф /2(2;) для любой точки х е dU.

Если 7(г — fi,dU) ф ~у(г — f2,dU), то отображение F имеет неподвижную точку на dU.

В пункте 1.6 доказанные теоремы применяются для изучения одного специального класса многозначных отображений. У этих отображений образами точек являются аффинные подпространства.

Пусть X - линейно связное метрическое пространство, Е - банахово пространство. Обозначим Aff(E) - множество всех аффинных подпространств пространства Е, т.е. М € Aff(E), тогда и только тогда, когда существует замкнутое подпространство L С Е такое, что М = x0+L, где £() фиксированная точка из Е. Пусть F : X —► Cv(E) - /г-непрерывное многозначное отображение такое, что для любой точки х G X образ F(x) является аффинным подпространством в Е, т.е. F : X —> Aff(E).

Имеет место следующая теорема о неподвижных точках таких отображений.

Пусть U - ограниченное открытое выпуклое множество в рефлексивном банаховом пространстве Е, F : dU —> Aff(E) - h-вполне непрерывное многозначное отображение.

1.6.3. Теорема. Пусть размерность dimF(x) > 1 для любой точки х е dU. Если существует такое открытое выпуклое множество V С V С U, что для любого х е dU пересечение F(x) р) V Ф 0, то многозначное отображение F имеет неподвижную точку xt 6 dU.

Опираясь на теорему о нечетном поле можно доказать следующую теорему.

Пусть U - симметричное относительно нуля, ограниченное, открытое множество в пространстве Е. Пусть dU - линейно связное множество, а отображение F : dU —► Aff(E) - /i-вполне непрерывно.

1.6.4. Теорема. Пусть размерность dimF(x) > 1 для любой точки

х € dU. Если для любой точки х G 8U справедливо равенство Е(—х) — —F{x), то многозначное отображение F имеет неподвижную точку х, е dU.

В заключение параграфа доказанные теоремы применяются для изучения разрешимости операторных уравнений с сюръективнымп операторами на сфере банахова пространства.

Пусть Е\,Е2- банаховы пространства, а : D(a) с Е\ —* Е2 - замкнутый линейный сюръективный оператор. Число

и -in _,mf{||ar|| \ хеЕъа{х) = у} а I = SUP(-й-м-)

уеЕ2 ||У ||

называется нормой многозначного отображения а~1.

Пусть xq Е D(a) - некоторая точка, Sr(x0) - сфера радиуса R с центром в xq, f : Sr(x0) —> Е2 - вполне непрерывное отображение.

1.7.3. Теорема. Пусть Е\ - рефлексивное банахово пространство и Кег(а) ф {0}. Если существует такое число к > ||а_1||, что для любой точки х 6 Sr(xq) справедливо неравенство ||а(яо) ~~ /(^)|| < f > то уравнение а(х) = f(x) имеет решение.

Опираясь на теорему 1.6.4 можно также доказать другие теоремы о разрешимости уравнения а(х) = f{x).

Второй параграф диссертации посвящен изучению проблемы существования неподвижных точек у многозначных отображений из некоторого подкласса множества /i-вполне непрерывных отображений.

Пусть Е - банахово пространство, множество XcE,f:X-^>E-пепрерывное отображение. Пусть К - фиксированное замкнутое выпуклое подмножество в Е.

2.1.1. Определение. Точка xt 6 X называется неподвижной точкой / относительно множества К, если х* G f(x*) + К. В дальнейшем, такие точки будем называть К-неподвижными точками отображения /. Множество К-неподвижных точек отображения f будем обозначать Fix(f,K). Если f - вполне непрерывное отображение, то многозначное отображение F = f + К является h-вполне непрерывным отображением.

2.1.4. Теорема. Пусть U - ограниченное открытое выпуклое подмножество банахова пространства Е, / : U —> Е - вполне непрерывное отображение. Пусть множество К выпукло замкнуто и компактно в слабой топологии. Если существует такое открытое множество V С V С U, что для любого х € U пересечение {¡{х) + К) р| V Ф 0, то множество Fix(f,K) ф 0.

2.1.7. Теорема. Пусть U С Е - выпуклое ограниченное открытое множество, f : dU Е - вполне непрерывное отображение, К С Е - неограниченное выпуклое замкнутое множество. Если существует, такая точка щ € К, что для любой точки х S dU выполнено включение f(x) + щ Е U, то отображение f имеет К-неподвижные точки на дU.

Второй раздел второй главы диссертации посвящен применению теорем о существовании /íT-неподвижных точек к проблеме существований решений неравенств в банаховом пространстве. Хорошо известно, что в банаховых пространствах с помощью конуса можно ввести структуру полуупорядоченного пространства и поставить задачу о разрешимости неравенств. Некоторые результаты о существовании решений у систем нелинейных неравенств получены М.А. Красносельским, Ж.-П. Обеном и И. Экландом, В.И. Опойцевым, S. Karamardian и др.

В монографиях В.И. Опойцева были доказаны некоторые теоремы о существовании решений систем неравенств в пространствах Rn и С[ац. Там же была поставлена проблема доказательства общей теоремы для произвольного банахова пространства с конусом. Решению этой проблемы и посвящен данный раздел работы.

Пусть X С Е, К - конус в Е, f : X Е - вполне непрерывное отображение. Будем изучать следующие неравенства:

f{x) < х. (2.1)

Очевидно, что любое решение неравенства (2.1), это - /^-неподвижная точка отображения /.

Опираясь на теоремы существования .^-неподвижных точек, получим следующее утверждение.

2.2.2. Теорема. Пусть и с Е - выпуклое ограниченное открытое множество, / : ди —» Е - вполне непрерывное отображение. Если существует такая точка щ € К, что топологическая степень векторного поля ц>{х) = х — /(х) — щ не равна нулю, то неравенство (2.1) имеет решение на 011.

Если конус К С Е является мшшэдральным, то для любого х & Е единственным образом определяются элемент х+ = эир{х,0} и х- = эир{—х,0}, модулем элемента х называется |х| = х+ + х_. Очевидны следующие неравенства х < х+ < |х|.

Пусть в пространстве Е задан мшшэдральный конус К такой, что выполнено следующее условие:

(I) для любых элементов х,у € Е из неравенства |х| < |?/| вытекает неравенство ||х|| < ||?/||.

Условие (I) выполнено для конусов положительных векторов в пространствах Яп, С[ац и

Рассмотрим отображение р : Е —> К, р(х) = х+. Если конус К такой, что выполняется условие (I), то отображение р является непрерывным.

Пусть и С Е - выпуклое ограниченное открытое множество, содержащее нуль пространства Е, ди - граница множества II, 5 = 311 Р| К. Обозначим

К* ~ {ф £ Е* | ф(х) > 0 для любого х £ К}.

2.2.7. Теорема. Пусть Е - банахово пространство, К С Е - мини-эдральный конус, удовлетворяющей свойству (I). Пусть / : £ —» Е -вполне непрерывное отображение, удовлетворяющее условию: для любой точки х £ 5 существует ненулевой функционал ф € К* такой, что ф(х)ф(х — р(/(х)) > 0. Тогда существует точка хо 6 5, являющаяся решением неравенства (2.1).

В работе получены некоторые следствия из этой теоремы.

Пусть К с Я" - конус положительных векторов, 5^(0) - сфера радиуса Я с центром в нуле пространства Яп, 5 = 5л(0) П^- Обозначим |х| = ([х1|, • • • , \хп\) - модуль вектора в Я".

2.2.8. Теорема. Пусть / = (Д, /2, ...,/„) : 5 —> Яп - непрерывное отображение, удовлетворяющее следующему условию:

для любой точки х = (х1,х2,—,х„) 6 5 существует такой вектор Ь Е К, что скалярное произведение (Ь,х) > 0 и (Ь, ]/(я)|) < (Ь,х). Тогда неравенство (2.1) имеет решение на множестве 5.

Рассмотрим еще одно следствие из теоремы 2.2.7, которая является обобщением теоремы, полученной в монографии В.И. Опойцева.

2.2.9. Теорема. Пусть / = (/ь/2,...,/«) : 5 —* Яп ~ непрерывное отображение, удовлетворяющее следующему условию: для любой точки х = (Х1,Х2, ...,хп) 6 5 существует номер ¿о такой, что х^ > 0 и £¿0 — 1к(х)- Тогда неравенство (2.1) имеет решение на множестве 5.

В диссертации получены также некоторые следствия теоремы 2.2.7 для случая пространств С[<а,Ь] и где р > 1.

Третий параграф диссертации посвящен приложению теорем существования /Г-неподвижных точек к проблеме существования квазинеподвижных точек. Следуя С. Уламу приведем некоторые определения.

Пусть X - топологическое пространство, / : X —> X - непрерывное отображение, т = {^pa}aeJ, 'Ра '■ X —> Я, семейство непрерывных функций на X.

Точка х0 е X является квазинеподвижной точкой отображения / ( относительно семейства г ), если (ра(/(хо)) = <£>а(хо) Для любого а £ 3.

Изучение квазинеподвижных точек непрерывных отображений представляет интерес в тех случаях, когда существование неподвижной точки установить трудно или невозможно, но достаточно знать, что <£>а(/(хо)) = <Ра(хо) Для некоторых наборов непрерывных функций на X.

Пусть Е - банахово пространство, [/СЁ- ограниченное открытое подмножество, / : и —► Е - непрерывное отображение. Пусть т = {Уа}ае./ ~ семейство линейных непрерывных функционалов на пространстве Е.

Обозначим Ка = Кег<ра С Е, а КТ = Кепра.

Точка х0 является квазинеподвижной точкой отображения / относительно семейства г, тогда и только тогда, когда она является Кт-

неподвижной точкой этого отображения.

Применяя к этой проблеме результаты §2, получим следующее утверждение.

3.1.3. Следствие. Пусть V - выпуклое ограниченное открытое множество в банаховом пространстве Е, / : 81] —> Е - вполне непрерывное отображение, т = {</>а}ае7 - семейство линейных непрерывных функционалов на пространстве Е. Если существует такая точка щ £ КТ, что для любой точки х £ 811 выполнено включение /(х) + щ € II, то отображение / имеет на 811 квазинеподвижную точку относительно этого семейства.

Рассмотрим теперь случай, когда / является некомпактным отображением.

Пусть Е - банахово пространство, Ь - замкнутое подпространство в Е, Е\ = Е/Ь — фактор-пространство, 7г : Е —► Е\ - естественная проекция на фактор-пространство.

3.2.4. Теорема. Пусть X - выпуклое открытое подмножество банахова пространства Е, / : X —» Е - непрерывное отображение. Пусть семейство т = {¡ра Е Е* \ а £ .7} таково, что композиция 7г • / : X —> Е[КТ является компактным отображением. Если существует такое е > 0, что 11£(/(Х)) с X — КТ, то отображение / имеет квазинеподвижную точку относительно этого семейства.

Рассмотрим приложение теоремы 3.2.4 к изучению квазинеподвижных точек оператора Урысона (оператора суперпозиции).

Пусть / : [а, Ь] х Я1 —► Я1 - непрерывная функция двух переменных. Эта функция порождает оператор Урысона (суперпозиции) / : С[ац —► С[а,ь]- Пусть па отрезке [а, Ь] задано конечное число точек {¿¿}"=1. Эти точки определяют непрерывные линейные функционалы ¡/^ : С[а,Ь] —» Я1, щ(х) = Таким образом определено семейство линейных непрерывных функционалов т = {«/^Щ-

3.2.5. Теорема. Если существуют такие числа с £ (0,1) и (1 > О, что для любых (£, х) £ [а, 6] х Я1 справедливо неравенство,

\№,х)\ < с\х\ + с?,

то существует такая непрерывная функция х*, чтох„{и) = f{ti,x*(ti) для любого г = 1,..., п.

Четвертый параграф диссертации посвящен построению нового топологического инварианта вполне непрерывных векторных полей. Основными в этом параграфе являются понятие /Г-неподвижной точки и понятие (/, /^-подчиненных отображений.

В работах Ю.Г. Борисовича был введен и изучен топологический инвариант - относительное вращение (степень) вполне непрерывных векторных полей. В монографии М.А. Красносельского и П.П. Забрейко были рассмотрены некоторые абстрактные идеи построения различных обобщений этого понятия. Предложенный в диссертации подход охватывает как частный случай конструкцию Ю.Г. Борисовича и развивает идеи, предложенные в монографии М.А. Красносельского и П.П. Забрейко.

Пусть X - метрическое пространство, Е - банахово пространство, К - замкнутое выпуклое подмножество в Е, f : X Е - непрерывное компактное отображение.

4.1.1. Определение. Непрерывное компактное отображение g : X -Е называется (/, К) -подчиненным, если для любой точки х G X выполнено включение g(x) — f(x) £ К.

Пусть Fix(f, К) - множество /С-неподвижных точек отображения /. Обозначим X = W{Fix{f,K)). Пусть Ux - непустое ограниченное открытое в индуцированной топологии подмножества X.

Пусть д : dUx Е - непрерывное компактное (/, /^-подчиненное отображение без неподвижных точек. Пусть U с Е ограниченное открытое в Е множество такое, что: Ux = U f]X: dUx = dU f] X.

Тогда существует вполне непрерывное отображение д : U —> Е такое, что: отображение д является (/, /Q-подчиненным отображением и д(х) = д(х) для любого х 6 dUx-

Рассмотрим вполне непрерывное векторное поле (р : dU —> Е, ф(х) = х — д(х). Это поле также не имеет неподвижных точек на dU, следова-

телыго определена топологическая степень deg{(p,dU).

4.2.3. Определение. Относительной топологической степенью поля ip = г — д : dUx —■> Е относительно множества К и отображения / будем называть степень deg((p,dU), где ф = i — g. Обозначать эту степень будем deg^fjq(^,dUx).

4.2.4. Предложение. Определение deg^fjq((p,d(/x) корректно, т.е. не зависит от выбора продолжения g и выбора окрестности U.

Изучим свойства введенной топологической степени.

Пусть <?(b<7i : dUx —> Е - вполне непрерывные (/,/^-подчиненные отображения без неподвижных точек.

4.2.7. Теорема (Гомотопическая инвариантность). Пусть компактные поля <Ро = г— до и tpi = i — gi являются (/,К)-гомотопными, тогда degif,К)(<Ро, 9UX) = deg(Sjq{ipi,dUx).

Аналогично свойствам обычной топологической степени имеет место теорема о существовании неподвижной точки.

4.2.9. Теорема. Пусть g : Ux Е - компактное непрерывное (/, К)-подчиненное отображение. Если

deg(f,K){i-g,dUxг) ^ О,

то отображение g имеет в Ux неподвижную точку.

В работе изучаются и другие свойства введеной степени.

Публикации автора по теме диссертации

1. Гельман А.Б. Об одной проблеме Улама/ А.Б. Гельман // Труды матем. ф-та. Воронеж, ун-т. - 2005. - N 9. - С. 32-39.

2. Гельман А.Б. О неравенствах в банаховом пространстве/ А.Б. Гельман // Труды матем. ф-та. Воронеж, ун-т. - 2006. - N 10. - С. 42-48.

3. Гельман А.Б. О существовании /Г-неподвижпых точек/ А.Б. Гельман // Современные методы теории функций и смежные вопросы. Материалы Воронежской зимней математической школы. Воронеж: изд-во ВГУ. - 2007. - С. 57.

4. Гельман А.Б. Об одном обобщении относительного вращения/А.Б. Гельман, Б.Д. Гельман //Вестник ВГУ, серия физика, математика. -2007. N1. - С. 130-134.

5. Гельман А.Б. Об одном классе многозначных отображений с некомпактными образами/ А.Б. Гельман // Вестник ВГУ, серия физика, математика. - 2008. - В. 1. - С. 162-169.

6. Гельман А.Б. О разрешимости уравнений с сюръективными операторами/ А.Б. Гельман // Современные методы теории функций и смежные вопросы. Материалы Воронежской зимней математической школы. Воронеж: изд-во ВГУ. - 2009. - С. 44.

7. Гельман А.Б. Об /i-вполне непрерывных отображениях/ А.Б. Гельман// ВестНик Тамбовского университета. Серия: Естественные и технические науки. - 2009. - Т. 14, вып. 4. - С. 689.

8. Гельман А.Б. Неподвижные точки h-вполне непрерывных многозначных отображений и неравенства в пространствах с конусом/ А.Б. Гельман// Вестник РУДН. Серия: Математика. Информатика. Физика. - 2009. - № 4. - С. 5-13.

Работа [8] соответствует списку ВАК РФ.

Подписано в печать 16.02.10. Формат 60x84 '/¡ь. Усл. печ. л. 0,93. Тираж ВО экз. Заказ 198

Отпечатано с готового оригинала-макета в типографии Издательско-полиграфического центра Воронежского государственного университета. 394000, Воронеж, ул. Пушкинская, 3.

Основные обозначения

Введение

§0. Некоторые сведения из теории многозначных отображений и теории неподвижных точек

0.1. Некоторые сведения из теории многозначных отображений 25 0.2. Некоторые сведения из теории неподвижных точек и теории топологической степени.

§1. Неподвижные точки h-вполне непрерывных многозначных отображений

1.1. Метрика Хаусдорфа. Пространство €v(Y).

1.2. h-вполне непрерывные многозначные отображения. Основные свойства.

1.3. Однозначные компактные аппроксимации h-вполне непрерывных отображений

1.4. Неподвижные точки /i-вполне непрерывных отображений

1.5. Топологическая степень и неподвижные точки.

1.6. Об одном классе /^-непрерывных отображений

1.7. Уравнения с сюръективными операторами на сфере.

§2. Неподвижные точки отображений относительно фиксированного множества

2.1. Определение и простейшие свойства ^-неподвижных точек

2.2. О неравенствах в пространствах с конусом.

§3. Квазинеподвижные точки

3.1. Существование квазинеподвижных точек у вполне непрерывных отображений

3.2. Существование квазинеподвижных точек у некомпактных отображений

§4. Об одном обобщении понятия относительного вращения

4.1. О (/, /^-подчиненных отображениях.

4.2. Относительная топологическая степень.

Исследование новых классов нелинейных задач, построение и изучение разрешимости адекватных им классов операторных уравнений и включений, традиционно включается в нелинейный функциональный анализ.

При изучении вопросов, связанных с разрешимостью различных нелинейных уравнений и включений, важную роль играют качественные методы, в частности, принципы неподвижных точек, принципы продолжения решений по параметру и топологические методы.

В настоящее время существуют нелинейные задачи (теория экстремальных задач, математическая экономика, вариационные неравенства и т.д.) для исследования котоорых широко используется теория многозначных отображений. Интерес к теории многозначных отображений особенно усилился в последние годы в связи с важными приложениями этих отображений к теории игр. теории оптимального управления, математической экономики и математической физики.

Существенное место в теории многозначных отображений занимает исследование неподвижных точек, которые в различных задачах могут интерпретироваться как оптимальные стратегии, равновесные цены, оптимальные решения, точки покоя обобщенных динамических систем и т.д. Теоремы о неподвижных точках многозначных отображений возникают также в теории дифференциальных уравнений и включений, при изучении вариационных неравенств и в других разделах современной математики.

Современная теория неподвижных точек многозначных отображений была построена в работах С. Какутани [43], С. Эйленберга и Д. Монтгомери [38], А. Гранаса [39], И. Яваровского [42], А.Д. Мышкиса [29], С.Б. Надлера [47], JI. Гурневича [40], Ю.Г. Борисовича, Б.Д. Гельмана. В.В. Обуховского, Ю.Е. Гликлиха, М.И. Каменского и многих других. Отметим, что некоторые результаты работы Воронежской школы в этом направлении приведены в обзоре [4]. В настоящий момент теория неподвижных точек многозначных отображений с выпуклыми компактными образами развита также хорошо, как и теория однозначных отображений.

Однако, в болыпенстве существующих теорем, кроме принципа многозначных сжимающих отображений (см., например, [47]), предполагается, что образы многозначного отображения являются компактами. Изучение неподвижных точек многозначных отображений с некомпактными образами представляет значительную трудность и не может проводиться традиционными методами.

Целью работы является выделение нового специального класса многозначных отображений с некомпактными образами ( /г-вполне непрерывных многозначных отображений) и изучение неподвижных точек многозначных отображений из этого класса.

К главным результатам диссертации можно отнести следующие:

1. Определение нового класса многозначных отображений с некомпактными образами (/г-вполне непрерывных отображений).

2. Доказательство теорем о неподвижных точках /г-вполне непрерывных отображений;

3. Применение полученных теорем к проблеме существования решений следующих задач: уравнений с сюръективными операторами на сферах банаховых пространств; неравенств в банаховом пространстве с конусом; вопросу о существовании квазинеподвижных точек однозначных отображений.

4. Построение нового топологического инварианта - относительной топологической степени вполне непрерывного отображения (относительно фиксированного отображения и фиксированного множества).

Содержание диссертации.

Работа состоит из введения, пяти разбитых на пункты параграфов (первый из них называется нулевым) и списка литературы. Нулевой параграф работы является вспомогательным, он содержит необходимые в дальнейшем сведения из теории многозначных отображений и теории неподвижных точек.

В первом параграфе диссертации вводится и изучается новый класс многозначных отображений. Эти отображения имеют выпуклые замкнутые, но некомпактные образы. Для отображений из этого класса удается доказать теоремы о неподвижных точках, которые в конце параграфа применяются к изучению разрешимости операторных уравнений с сюръективными операторами вида а(х) = f(x). Опишем содержание этого параграфа подробнее.

Пусть X - метрическое пространство, Cv(X) - множество непустых замкнутых выпуклых подмножеств в X. Функция h : Cv(X) х Cv(X) — R U со - квазиметрика Хаусдорфа на множестве Cv(X). В квазиметрическом пространстве (Cv{Y),h) естественно определяется структура топологического пространства. Будем обозначать £г>(У) множество Cu(Y) снабженное этой топологией.

Очевидно, что любое многозначное отображение F : X —> Cv(Y) порождает однозначное отображение $ : X —» <Lv(Y), где $(х) — F(x) Е €v(Y).

Пусть F : X —» Cv(E) - некоторое многозначное отображение. 1.2.1. Определение. Будем говорить что многозначное отображение F является h-непрерывным, если:

1) отображение порожденное отображением F, является непрерывным.

Если кроме условия (1) отображение $ удовлетворяет следующиму условию:

2) для любого ограниченного множества D С X множество 3(D) является компактным множеством в £v(E)} то будем говорить что многозначное отображение F является h-впол-не непрерывным.

Пусть Е - банахово пространство, X - метрическое пространство, F : X —» Cv(E) - h-вполне непрерывное многозначное отображение. Пусть А - ограниченное подмножество пространства X.

1.3.1. Теорема. Для любого е > 0 существует непрерывное отображение f£:A—>E такое, что: a) множество f£(A) является компактным; b) p(f£{x), F(x)) < е для любой точки х € А.

Доказанная теорема применяется для доказательства теорем о неподвижных точках h-вполне непрерывных отображений.

Пусть Т - ограниченное выпуклое замкнутое подмножество банахова пространства Е, F : Т Cv(E) - многозначное /г-вполне непрерывное отображение. Справедлива следующая теорема о 11 почти "неподвижной точке.

1.4.1. Теорема. Если F(x) f]T ф 0 для любой точки х G Т, то для любого е > 0 существует точка хе G Т такая, что p(xS) F(xe)) < s.

Однако, при выполнении условий теоремы 1.4.1 многозначное /г-вполне непрерывное отображение может не иметь неподвижных точек. В работе доказано, что в некоторых специальных случаях существование неподвижных точек можно установить.

Пусть У - метрическое пространство, Е - банахово пространство, U -ограниченное открытое выпуклое подмножество Е, f : U ■—> У - вполне непрерывное отображение, Ф : У —> Cv{E) - /г-непрерывное многозначное отображение. Тогда F = Ф о / : U —► Си(Е) является /г-вполне непрерывным отображением.

1.4.3. Теорема. Пусть выполнено одно из следующих двух условий:

1) для любой точки х £ U множество Ф(х) компактно в слабой топологии;

2) множество U компактно в слабой топологии.

Если существует такое открытое выпуклое множество V с V С U, что для любого х е dU пересечение F(x) р| V ф 0, то многозначное отображение F имеет неподвижную точку.

Для изучения неподвижных точек многозначных /i-вполне непрерывных отображений также может быть применена топологическая степень.

Пусть Е - банахово пространство, U С Е - ограниченное открытое множество, F : U —Cv(E) - /г-вполне непрерывное отображение. Обозначим ФО) — x—F{x) многозначное векторное поле, порожденное отображением F. Пусть существует такое £ > 0, что для любой точки х G 8U справедливо неравенство р(х, F(x)) > е. В силу теоремы 1.3.1 существует компактное отображение f£ : U Е такое, что p(fe(x)) F(x)) < s. Пусть (f>s(x) — х — f£(x). Очевидно, что ip£(x) ф 0 для любого х 6 dU.

1.5.1. Определение. Топологической степенью deg(&,dU) векторного поля Ф будем называть deg(ipe)dU). Имеет место следующая теорема.

1.5.3. Теорема. Пусть существует такое £ > 0, что для любой точки х Е dU справедливо неравенство p(x,F(x)) > £ и dcg(Q,dU) ф 0. Тогда для любого 5 > 0 существует точка х§ Е U такая, что р(х5, F(xs)) < 6.

Справедлива также следующая теорема.

1.5.4. Теорема. Пусть существуют вполне непрерывные отображения /ь/г : dU —> Е такие, что выполняются следующие условия:

1) f\ и /2 являются непрерывными сечениями F;

2) х т^ fi(x), х ф /2(ж) для любой точки х 6 dU.

Если 7(2 — /1, dU) 7^7(2 — /2,9U), то отображение F имеет неподвижную точку на dU.

В пункте 1.6 доказанные теоремы применяются для изучения одного специального класса многозначных отображений. У этих отображений образами точек являются аффинные подпространства.

Пусть X - линейно связное метрическое пространство, Е - банахово пространство. Обозначим Aff(E) - множество всех аффинных подпространств пространства Е, т.е. М е Aff(E), тогда и только тогда, когда существует замкнутое подпространство L С Е такое, что М = хо+L, где xq фиксированная точка из Е. Пусть F : X —> - /i-непрерывное многозначное отображение такое, что для любой точки х 6 X образ F(x) является аффинным подпространством в Е, т.е. F : X —» Aff(E).

1.6.2. Лемма. Пусть Y - метрическое пространство, F : Y — Aff(E) - h-вполне непрерывное отображение. Тогда существует метрическое пространство X, вполне непрерывное отображение g :Y X и h-непрерывное многозначное отображение Ф : X —> Aff(E) такие, что F = Ф о g :Y Aff(E).

Имеет место следующая теорема о неподвижных точках таких отображений.

Пусть U - ограниченное открытое выпуклое множество в рефлексивном банаховом пространстве Е) F : dU —» Aff(E) - h-вполне непрерывное многозначное отображение.

1.6.3. Теорема. Пусть размерность dimF(x) > 1 для любой точки х 6 dU. Если существует такое открытое выпуклое множество V С V с U, что для любого х dU пересечение F{x) Р) V ф 0, то многозначное отображение F имеет неподвижную точку х* € dU.

Опираясь на теорему о нечетном поле можно доказать следующую теорему.

Пусть U - ограниченное открытое множество в пространстве Е с линейно связной границей, содержащее нуль пространства Е и симметричное относительно нуля, т.е. если х G С/, то и точка —х € U. Пусть F : dU —Aff(E) - h-вполне непрерывное многозначное отображение.

1.6.4. Теорема. Пусть размерность dimF(x) > 1 для любой точки x G dU. Если для любой точки х 6 dU справедливо равенство F{—x) = —F{x), то многозначное отображение F имеет неподвижную точку

В заключение параграфа доказанные теоремы применяются для изучения разрешимости операторных уравнений с сюръективными операторами на сфере банахова пространства.

Пусть Ei,Ei - банаховы пространства, а : D(a) С Е\ —» Е2 - замкнутый линейный сюръективный оператор. Число называется нормой многозначного отображения а-1.

Пусть xq £ D(a) - некоторая точка, Sr(x0) - сфера радиуса R с центром в хо, f : Sr(x0) —> Е2 - вполне непрерывное отображение.

1.7.3. Теорема. Пусть Е\ - рефлексивное банахово пространство и Кег(а) Ф {0}. Если существует такое число к > ||а-1||, что для любой точки х Е Sr(xq) справедливо неравенство ||а(я;о) — < j, то уравнение а(х) — f(x) имеет решение.

Эта теорема уточняет теорему о разрешимости уравнения (1.1), доказанную в [23].

Опираясь на теорему 1.6.4 можно доказать бесконечномерную версию теоремы Борсука-Улама (см.[20]).

Пусть Sr(0) С Ei - сфера радиуса R с центром в нуле, / : Sr(0) —» Е2 - вполне непрерывное нечетное отображение.

1.7.4. Теорема. Если Кег(а) ф {0}, то уравнение а(х) = f{x) имеет решение. х* 6 dU.

Цо-41= sup( inf{||a;|| I х g Еъа(х) = у} уеЕ2

Второй параграф диссертации посвящен изучению проблемы существования неподвижных точек у многозначных отображений из некоторого подкласса множества /г-вполне непрерывных отображений.

Пусть Е - банахово пространство, множество X С Е) f : X Е -непрерывное отображение. Пусть К - фиксированное замкнутое выпуклое подмножество в Е.

2.1.1. Определение. Точка х* Е X называется неподвижной точкой f относительно множества К, если х* Е f(x*) + К. В дальнейшем, такие точки будем называть К-неподвижными точками отображения /. Множество К-неподвижных точек отображения f будем обозначать Fix(f, К).

2.1.2. Лемма. Пусть f - вполне непрерывное отображение, тогда многозначное отображение F — f+К является h-вполне непрерывным отображением.

2.1.4. Теорема. Пусть U - ограниченное открытое выпуклое подмножество банахова пространства Е, f : U —> Е - вполне непрерывное отображение. Пусть множество К выпукло замкнуто и компактно в слабой топологии. Если существует такое открытое множество V с V с U, что для любого х Е U пересечение (f(x) 4- К) П V ф 0, то множество Fix(f,K) ф 0.

Для изучения проблемы существования ./^-неподвижных точек отображения / может быть применена теория топологической степени.

2.1.7. Теорема. Пусть U С Е - выпуклое ограниченное открытое множество, f : dU —» Е - вполне непрерывное отображение, К С Е - неограниченное выпуклое замкнутое множество. Если существует такая точка щ е К, что для любой точки х е dU выполнено включение f(x) + щ £ U, то отображение f имеет К-неподвижные тючки на dU.

Второй раздел второй главы диссертации посвящен применению теорем о существовании Х-неподвижных точек к проблеме существований решений неравенств в банаховом пространстве. Хорошо известно, что в банаховых пространствах с помощью конуса можно ввести структуру полуупорядоченного пространства (см., например, [27]) и поставить задачу о разрешимости неравенств. В случае конечномерных пространств теоремы существования решений линейных неравенств обычно формулируются как необходимые и достаточные условия (см., например, [33]). Некоторые результаты о существовании решений у систем нелинейных неравенств получены в [27], [30], [31], [32], [45] и др.

В монографиях [31], [32] были доказаны некоторые теоремы о существовании решений систем неравенств в пространствах Rn и С[ац. Там же была поставлена проблема доказательства аналогичной теоремы для произвольного банахова пространства с конусом. Решению этой проблемы и посвящен данный раздел работы.

Пусть X С Е, К - конус в Е, / : X —» Е - непрерывное отображение. Будем изучать следующие неравенства: f{x) < х. (2.1)

Очевидно, что любое решение неравенства (2.1), это - if-неподвижная точка отображения /.

Опираясь на теоремы существования i^-неподвижных точек, получим следующую теорему.

2.2.2. Теорема. Пусть U с Е - выпуклое ограниченное открытое множество, f : dU Е - вполне непрерывное отображение. Если существует такая точка uq £ К, что топологическая степень deg(</?, dU) векторного поля ip(x) — х — f{x) — щ не равна нулю, то неравенство (2.1) имеет решение на dU.

Если конус К С Е является миниэдральным, то для любого х £ Е единственным образом определяются элемент х+ = sup{:r, 0} и х- = sup{—ж,0}. Тогда модулем элемента х называется = х+ + Очевидны следующие неравенства х < х+ < \х\.

Пусть в пространстве Е задан миниэдральный конус К такой, что выполнено следующее условие:

I) для любых элементов х,у Е Е из неравенства \х\ < \у\ вытекает неравенство ||ж|| < ||?/||.

Очевидно, что это условие (I) выполнено для конусов положительных векторов в пространствах Rn, и L^aby

Рассмотрим отображение р : Е —» К, р(х) = х+. Если конус К такой, что выполняется условие (I), то отображение р является непрерывным и положительно однородным.

Пусть U С Е - выпуклое ограниченное открытое множество, содержащее нуль пространства Е, dU - граница множества U, S = dU р) К. Обозначим

К* = {ф е Е* | ip(x) > 0 для любого х Е К}.

2.2.7. Теорема. Пусть Е - банахово пространство, К С Е - миниэдральный конус, удовлетворяющей свойству (I). Пусть f : S —> Е - вполне непрерывное отображение такое, что для любой точки х £ S

16 существует ненулевой функционал ф Е К* такой, что — p(f(x)) > 0. Тогда существует точка Е S, являющаяся решением неравенства (2.1).

Рассмотрим некоторые следствия из этой теоремы.

Пусть К С Rn - конус положительных векторов, Sr(0) - сфера радиуса R с центром в нуле пространства Rn, S = Sr(0) Р) if. Обозначим (|a;i|, • • • , \хп\) - модуль вектора в Rn.

2.2.8. Теорема. Пусть f = (Д, /2,., /п) : S —> Rn - непрерывное отображение, удовлетворяющее следующему условию: для любой точки х = (^i, хп) € S существует вектор Ъ Е К такой, что скалярное произведение (Ь,х) > 0 и (6, \f{x)\) < (b,x). Тогда неравенство (2.1) имеет, решение на множестве S.

Рассмотрим еще одно следствие из теоремы 2.2.7, которая является обобщением теоремы, полученную в [32] (гл.5, теор. 2.1).

2.2.9. Теорема. Пусть f = (/1,/2, •■•,/п) : S —> Rn - непрерывное отображение, удовлетворяющее следующему условию: для любой точки х = (xi,x2, ■■■,хп) Е S существует номер io такой, что Xj0 > 0 и Xi0 > fi0(x). Тогда неравенство (2.1) имеет решение на множестве S.

Рассмотрим еще одно следствие из теоремы 2.2.7.

Пусть К - конус положительных функций в пространстве ЦДе р > 1. Пусть 5д(0) - сфера радиуса R в пространстве S — Sr(0) р| К, f : S —» вполне непрерывное отображение.

2.2.11. Теорема. Если для любой функции х Е S существует измеримое множество А С [а, 6] такое, что x(t)dt / (x{t)-p(f(x)){t))dt > 0, А А то существует функция х* G S для которой неравенство f(x*)(t) < х* (t) справедливо для почти всех t Е [a, b].

Тритий параграф диссертации посвящен приложению теорем существования /^-неподвижных точек к проблеме существования квазинеподвижных точек. Следуя [36] приведем некоторые определения.

Пусть X - топологическое пространство, / : X —> X - непрерывное отображение, г = {^a}aeJi Ра X —» R, семейство непрерывных функций на X.

Будем говорить, что точка хо € X является квазипеподвижной точкой отображения / ( относительно семейства т ), если ipa(f(xo)) = <ра(%о) для любого a Е J.

Изучение квазинеподвижных точек непрерывных отображений представляет интерес в тех случаях, когда существование неподвижной точки установить трудно или невозможно, но достаточно знать, что ipa(f(xо)) = (ра(хо) для некоторых наборов непрерывных функций на X. Задача существования квазинеподвижных точек представляет интерес даже в случае, когда X является подмножеством банахового пространства, а (ра -непрерывные линейные функционалы.

Пусть Е - банахово пространство, U С Е - ограниченное открытое подмножество, / : U —► Е - непрерывное отображение. Пусть т = {iPa}aeJ ~ семейство линейных непрерывных функционалов на пространстве Е.

Обозначим Ка = Kerifa С Е, а КТ = f] Kertpa. Очевидно, что aeJ множество Кт является подпространством в Е.

Точка является квазинеподвижной точкой отображения / относительно семейства т, тогда и только тогда, когда она является Кт-неподвижной точкой этого отображения.

Применяя к этой проблеме результаты §2, получим следующее утверждение.

3.1.3. Следствие. Пусть U - выпуклое ограниченное открытое множество в банаховом пространстве Е, / : dU Е - вполне непрерывное отобраэюение, г = {(f>a}aeJ ~ семейство линейных непрерывных функционалов на пространстве Е. Если существует такая точка щ £ КТ, что для любой точки х € dU выполнено включение f{x) + щ £ £/, то отображение f имеет на 8U квазинеподвижную точку относительно этого семейства.

Рассмотрим теперь случай, когда / является некомпактным отображением.

Пусть Е - банахово пространство, X - подмножество в Е, f : X —> Е - непрерывное отображение. Пусть L - замкнутое подпространство в Е. Пусть Е\ = E/L — фактор-пространство, 7Г : Е —» Е\ - естественная проекция на фактор-пространство.

3.2.2. Определение. Непрерывное отображение f : X —» Е будем называть L-компактным, если композиция отображений тг • f является компактным отображением, т.е. 7г(f(X)) - компакт.

Справедлива следующая теорема.

3.2.3. Теорема. Пусть X - открытое выпуклое подмножество банахова пространства Е, L - замкнутое подпространство в Е. Пусть f : X —> Е - L-компактное отображение. Если существует £ > О такое, что Ue(f(X)) С X — L, то отображение f имеет L-неподвижную точку.

Применяя теорему 3.2.3 к проблеме квазинеподвижных точек получим следующее утверждение.

3.2.4. Теорема. Пусть X - выпуклое открытое подмножество банахова пространства Е, f : X Е - непрерывное отображение. Пусть семейство г = {сра Е Е* | а Е J} таково, что композиция 7г ■ / : X —> Е/КТ является компактным отображением. Если существует такое £ > 0, что U£(f(X)) С X — КТ, то отображение f имеет квазинеподвижную точку относительно этого семейства.

Рассмотрим приложение теоремы 3.2.4 к изучению квазинеподвижных точек оператора Урысона (оператора суперпозиции).

Пусть / : [a, b] х R1 —» R1 - непрерывная функция двух переменных. Эта функция порождает оператор Урысона (суперпозиции) / : С[ад —■> С[а,ь\- Пусть на отрезке [а, Ъ] задано конечное число точек {ti}f=1. Эти точки определяют непрерывные линейные функционалы щ : С[а,Ь] R1, ipi(x) = x{ti). Таким образом определено семейство линейных непрерывных функционалов т =

3.2.5. Теорема. Если существуют такие числа с Е (0,1) и d > О, что для любых (t,x) Е [a, b] х R1 справедливо неравенство, f{t,x)\<c\x\ + d, то существует такая непрерывная функция ж*, что x*{ti) = f(U, x*(ti) для любого i = 1, .,п.

Четвертый параграф диссертации посвящен построению нового тодологического инварианта вполне непрерывных векторных полей. Основными в этом параграфе являются понятие if-неподвижной точки и понятие (/, /^-подчиненных отображений.

В работах Ю.Г. Борисовича [1], [2] был введен и изучен топологический инвариант - относительное вращение (степень) вполне непрерывных векторных полей. Это понятие нашло глубокие применения при построении топологической степени уплотняющих и предельно компактных векторных полей (см., например, [44]), в теории положительных операторов (см., например, [28]) и других разделах современной математики. В монографии [28] были рассмотрены некоторые абстрактные идеи построения различных обобщений этого понятия.

Предложенный подход охватывает как частный случай конструкцию Ю.Г. Борисовича и развивает идеи, предложенные в [28].

Пусть X - метрическое пространство, Е - нормированное пространство, К - замкнутое выпуклое подмножество в Е, f \ X Е - непрерывное компактное отображение.

4.1.1. Определение. Непрерывное компактное отображение д : X —> Е называется (/, К)-подчиненным, если для любой точки х £ X выполнено включение g{x) — f(x) £ К.

Пусть Е - банахово пространство, / : Е —> Е - вполне непрерывное отображение. Пусть К - выпуклое замкнутое подмножество в Е, Fix(f, К) - множество К-неподвижных точек отображения /. Предположим, что множество Fix(f,K) ф 0. Обозначим X = co(Fix(f, К)). Пусть Ux - непустое ограниченное открытое в индуцированной топологии подмножество X (относительно открытое подмножество).

Пусть д : dUx —» Е - непрерывное компактное (/, К)-подчиненное отображение без неподвижных точек. Пусть U с Е ограниченное открытое в Е множество такое, что: а) Ux = U(\X\ б) dUx = dUftX.

Тогда существует вполне непрерывное отображение д : U —;► Е, удовлетворяющее условиям: отображение д является (/, Х)-подчиненным отображением; д{х) = д(х) для любого х Е dTJx

Рассмотрим вполне непрерывное векторное поле ф : dU —> ср{х) = х — д(х). Это поле также не имеет неподвижных точек на dU, следовательно определена топологическая степень йед{ф,ди).

4.2.3. Определение. Относительной топологической степенью поля ср = г — g : dUx —> Е относительно множества К и отображения f будем называть степень дед{ф) dTJ), где ф — % — д. Обозначать эту степень будем deg^^((p,dUx)

4.2.4. Предложение. Определение deg(f:K){<P,dUx) корректно, т.е. не зависит от выбора продолжения g и выбора окрестности U.

Изучим свойства введенной топологической степени.

Пусть go,gi : dUx Е — вполне непрерывные (f,K)~подчиненные отображения без неподвижных точек.

4.2.7. Теорема (Гомотопическая инвариантность). Пусть компактные поля ipo = i — go и ipi = i — gi являются (/, К)-гомотопными, тогда deg{f}K)((po,dUx) = deg^iK)(ipi,dUx).

Аналогично свойствам обычной топологической степени имеет место теорема о существовании неподвижной точки.

4.2.9. Теорема. Пусть д : Ux Е - компактное непрерывное (/, К)-подчиненное отображение. Если deg(ftK)(i - g, dUx) ф О, то отображение g имеет в Ux неподвижную точку.

Пусть К\ С К - непустое выпуклое замкнутое подмножество Е. Обозначим Х\ = co(Fix(f,Ki)). Очевидно, что Х\ С X. Пусть Ux - непустое ограниченное относительно открытое подмножество X, a Ux1 ~ Ux п Хъ Пусть dUXl = д(ух п Хг) ф 0.

4.2.8. Теорема (принцип сужения отображения). Если непрерывное компактное отображение g : dUx —> Е является (/, К\)-подчиненным отображением и не имеет неподвижных точек, то deg^K){i ~ 9, dUx) = degu,Kl{i - g, dUXl).

Пусть выпуклое замкнутое множество К содержит нуль пространства Е, f : Е —» Е - вполне непрерывное отображение, Fix(f) - множество неподвижных точек отображения /. Очевидно, что Fix(f) С Fix(f, К) С X. Так как К содержит нуль пространства Е, то / является (/, /^-подчиненным отображением. Пусть Ux — непустое ограниченное относительно открытое подмножество X такое, что отображение / не имеет неподвижных точек на dUx.

4.2.10. Теорема. Пусть g : dUx —> Е является (/, К)-подчиненным отображением. Если x-f(x)\\>\\f(x)-g(x)\\ для любой точки х Е dUx, то deg{LK)(i - g, dUx) = degu,K){i - /, dUx).

4.2.11. Пример (относительное вращение). Пусть Е - банахово пространство, f : Е Е - нулевой оператор, т.е. f(x) = 0 для любого х Е Е. Пусть К - выпуклое замкнутое подмножество в Е. Тогда X = Fix(f, К) = К. Пусть Uk - непустое ограниченное открытое подмножество К. Пусть g : 8Uk Е — вполне непрерывное (/, Х)-подчиненное отображение не имеющее неподвижных точек. В этом случае условие (/, ./^-подчиненности эквивалентно тому, что g : dUx —> К. Тогда определена относительная топологическая степень deg^^^i — g^dUx)-, совпадающая с относительной топологической степенью (вращением), введенной в работах Ю.Г. Борисовича [1], [2].

1. Борисович Ю.Г. Об одном применении понятия вращения векторного поля/ Ю.Г. Борисович // Докл. АН СССР. - 1963. - Т. 153, № 1. - С. 1215.

2. Борисович Ю.Г. Об относительном вращении компактных векторных полей в линейных пространствах/ Ю.Г. Борисович // Тр. семинара по функц. анализу. Воронежск. ун-т. 1969. - N 12. - С.3-27.

3. Борисович Ю.Г. Введение в топологию /Ю.Г. Борисович и др. М: Высшая школа. - 1980.

4. Борисович Ю.Г. Топологические методы в теории неподвижных точек многозначных точек многозначных отображений/Ю.Г.Борисович, Б.Д.Гельман, А.Д.Мышкис и др.//Успехи мат. наук. 1980. - Т.35, N 1. - С. 59-126.

5. Борисович Ю.Г. Введение в теорию многозначных отображений./Ю.Г.Борисович, Б.Д.Гельман, А.Д.Мышкис и др. Воронеж: Изд-во ВГУ. - 1986.

6. Борисович Ю.Г. Многозначные отображения./Ю.Г.Борисович, Б.Д.Гельман, А.Д.Мышкис и др.// Итоги науки и техн. ВИНИТИ. Мат. анализ. 1982. - Т. 19. - С. 127-229.

7. Борисович Ю.Г. Многозначный анализ и операторные включения./Ю.Г.Борисович, Б.Д.Гельман, А.Д.Мышкис и др.// Современные проблемы математики. Итоги науки и техн. ВИНИТИ. Новейшие достижения. 1986. - Т. 29. - С. 151-211.

8. Борисович Ю.Г. О новых результатах в теории многозначных отображений./Ю.Г.Борисович, Б.Д.Гельман, А.Д.Мышкис и др.// Итоги науки и техн. ВИНИТИ. Мат. анализ. 1987. - Т.25. - С. 121-195.

9. Борисович Ю.Г. Введение в теорию многозначных отображений и дифференциальных включений/Ю.Г. Борисович, Б.Д. Гельман, А.Д. Мышкис и др. М: КомКнига (УРСС). - 2005.

10. Борсук К. Теория ретрактов/ К. Борсук. М: Мир. - 1971.

11. Вулих Б.З. Введение в теорию полуупорядоченных пространств/Б.3. Вулих. М: Физматлит. - 1961.

12. Гельман А.Б. Об одной проблеме Улама/ А.Б. Гельман // Труды матем. ф-та. Воронеж, ун-т. 2005. - N 9. - С. 32-39.

13. Гельман А.Б. О неравенствах в банаховом пространстве/ А.Б. Гельман // Труды матем. ф-та. Воронеж, ун^г. 2006. - N 10. - С. 42-48.

14. Гельман А.Б. О существовании Х-неподвижных точек/ А.Б. Гельман // Современные методы теории функций и смежные вопросы. Материалы Воронежской зимней математической школы. Воронеж: изд-во ВГУ. 2007. - С. 57.

15. Гельман А.Б. Об одном обобщении относительного вращения/А.Б. Гельман, Б.Д. Гельман //Вестник ВГУ, серия физика, математика. -2007. N1. С. 130-134.

16. Гельман А.Б. Об одном классе многозначных отображений с некомпактными образами/ А.Б. Гельман // Вестник ВГУ, серия физика, математика. 2008. - В. 1. - С. 162-169.

17. Гельман А.Б. О разрешимости уравнений с сюръективными операторами/ А.Б. Гельман // Современные методы теории функций и смежные вопросы. Материалы Воронежской зимней математической школы. Воронеж: изд-во ВГУ. 2009. - С. 44.

18. Гельман А.Б. Об Л,-вполне непрерывных отображениях/ А.Б. Гельман// Вестник Тамбовского университета. Серия: Естественные и технические науки. 2009. - Т. 14, вып. 4. - С. 689.

19. Гельман А.Б. Неподвижные точки /г-вполне непрерывных многозначных отображений и неравенства в пространствах с конусом/ А.Б. Гельман// Вестник РУДН. Серия: Математика. Информатика. Физика. 2009. - № 4. - С. 5-13.

20. Гельман Б.Д. Бесконечномерная версия теоремы Борсука-Улама/ Б.Д. Гельман// Функциональный анализ и его приложения. 2004. -Т.38, N 4. - С. 1-5.

21. Гельман Б.Д. Непрерывные сечения и аппроксимации многозначных отображений/ Б.Д. Гельман // Вестник ВГУ, серия физика, математика. 2002. - В. 2. - С. 50-55.

22. Гельман Б.Д. Непрерывные аппроксимации многозначных отображений и неподвижные точки/ Б.Д. Гельман // Матем. заметки. -2005. Т.78, в.2. - С. 212-222.

23. Гельман Б.Д. Операторные уравнения и задача Коши для вырожденных дифференциальных уравнений/ Б.Д. Гельман //Вестник ВГУ. Серия мат., физ. 2007. - В.2. - С. 86-91.

24. Гликлих Ю.Е. Неподвижные точки многозначных отображений с невыпуклыми образами и вращение многозначных векторных полей/ Ю.Е. Гликлих // Сб. тр. аспирантов мат. фак. Воронеж, ун-т. 1971.- N1. С.30-38.

25. Иоффе А.Д., Тихомиров В.М. Теория экстремальных задач./А.Д. Иоффе, В.М. Тихомиров М: Наука. - 1974.

26. Иохвидов И.С. О лемме Ки-Фаня, обобщающей принцип неподвижной точки А.Н.Тихонова/ И.С. Иохвидов // ДАН СССР. 1964. -Т. 159. - С. 501-504.

27. Красносельский М.А. Положительные решения операторных уравнений/ М.А. Красносельский. М: Физ.-мат. лит. - 1962.

28. Красносельский М.А., Забрейко П.П. Геометрические методы нелинейного анализа/ М.А. Красносельский, П.П. Забрейко. М: Наука.- 1975.

29. Мышкис А.Д. Обобщения теоремы о точке покоя динамической системы внутри замкнутой траектории/ А.Д. Мышкис // Матем. сб. -1954. Т. 34(76), N3. - С. 525-540.

30. Обен Ж.-П., Экланд И. Прикладной нелинейный анализ/ Ж.-П. Обен, И. Экланд. Москва: Мир. - 1988.

31. Опойцев В.И. Равновесие и устойчивость в моделях коллективного поведения/ В.И. Опойцев. М: Наука. - 1977.

32. Опойцев В.И. Нелинейная системостатика/ В.И. Опойцев. М: Наука. - 1986.

33. Рокафеллар Р. Выпуклый анализ/ Р. Рокафеллар. М: Мир. - 1973.

34. Реповш Д. Теория Э. Майкла непрерывных селекций. Развитие и приложения./Д.Реповш, П.В.Семенов.// Успехи матем. наук. 1994.- Т. 54, N 6. С. 49-80.

35. Треногин В.А. Функциональный анализ/ В.А.Треногин. М: Наука.- 1980.

36. Улам С. Нерешенные матаматические задачи/ С. Улам. М: Наука,- 1964.

37. Aubin J.-P. Differential inclusions. Set-valued maps and viability theory/J.-P.Aubin, A.Cellina. Grundlehren math. Wiss. - 1984. - V. 264, N 14.

38. Eilenberg S. Fixed point theorems for multivalued trasformations/S.Eilenberg, D.Montgomery// Amer. J. Math. v. 68.- P. 214-222.

39. Granas A. Sur la notion du degre topologique pour une certaine classe de transformations multivalentes dans les espaces de Banach/ A. Granas // Bull. Acad. Polon. sci. Ser. sci. math., astron. et phys. 1959. - V. 7, N 4. - P. 191-194.

40. Gorniewicz L. Topological Fixed Point Theory of Multivalued Mappings/ L. Gorniewicz. Kluwer Acad. Publ. Dordrecht-Boston-London. - 1999.

41. Hu S. of Multivalued Analysis, v.l: Theory./ S. Hu, N.S. Papageorgiou.- Kluwer Acad. Publ. Dordrecht-Boston-London. 1997.

42. Jaworowski J.W. Theorem on antipodes for multi-valued mappings and a fixed point theorem/ J.W. Jaworowski // Bull. Acad. Polon. sci. Ser. sci. math., astron. et phys. 1956. - N 4. - P. 187-192.

43. Kakutani S. A generalization of fixed point theorem/ S. Kakutani // Duke Math. J. 1941. - N 8. - P. 457-459.

44. Kamenskii M. Condensing Multivalued Maps and Semilinear Differential Inclusions in Banach Spces/ M.Kamenskii, V.Obukhovskii, P.Zecca. -De Gruyter Ser. in Nonlinear Analysis and Appl. 7, Walter de Gruyter, Berlin-New York. 2001.

45. Karamardian S. Existence of solutions of certain systems of non-linear inequalities/ S. Karamardian // Nimerische Mathematic. 1968.- v.12, N 4. - P.327-334.

46. Michael E. Continuous selections, 1/ E. Michael // Ann. of Math. 1956. - V.63, N 2. - P. 361-382.

47. Nadler S.B. Multi-valued contraction mappings/ S.B. Nadler // Pasif. J. Math. 1969. - V. 30, N 2. - P. 475-488.

48. Repovs D. Continuous Selections of Multivalued Mappings/ D. Repovs, P.V. Semenov. Mathematics and Its Applications, Kluwer, Dordrect. -1999. - v.455.