Квазидифференциалы в пространствах Канторовича тема автореферата и диссертации по математике, 01.01.01 ВАК РФ

На прлвлх р\ копией УДК Я17.98

БАСАЕВА ЕЛЕНА КАЗБЕКОВНА

Квазидифференциалы в пространствах Канторовича

01.01.01 — математический анализ

АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата физико-математических наук

Москва, 2004

2007 ~ *

I_

/зтзе

На правах рукописи УДК 517.98

БАСАЕВА ЕЛЕНА КАЗБЕКОВНА

Квазидифференциалы в пространствах Канторовича

01.01.01 — математический анализ

АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата физико-математических наук

Москва, 2004

Работа выполнена в Институте прикладной математики и информатики ВНЦ РАН и РСО-А.

Научный руководитель: доктор физ.-мат. наук, профессор

Кусраев Анатолий Георгиевич

Официальные оппоненты: доктор физ.-мат. наук, профессор

Магарил-Ильяев Георгий Георгиевич; кандидат физ.-мат. наук, доцент Протасов Владимир Юрьевич

Ведущая организация: Новосибирский государственный

университет

Защита состоится « 9 » 2004 г. в 15.30 на заседании

диссертационного совета К 212.203.04 по физико-математическим наукам при Российском университете дружбы народов по адресу: г. Москва, ул. Орджоникидзе, 3, ауд. 495а.

С диссертацией можно ознакомиться в библиотеке Российского университета дружбы народов.

Автореферат разослан « ¿Л 2004 г.

Ученый секретарь Диссертационного совета канд. физ.-мат. наук. 'С/ / Куценко И.Л.

1. Общая характеристика работы

Актуальность темы. Негладкий анализ — раздел современного анализа, изучающий недифференцируемые функции аналитическими средствами — на сегодняшний день вполне сложившееся и быстро развивающееся направление математики, имеющее многочисленные приложения к математическому моделированию разнообразных задач современного естествознания. Традиционным полем приложений негладкого анализа является теория экстремальных задач.

В исследованиях общих негладких оптимизационных задач значительное внимание принято уделять поиску удобных локальных выпуклых аппроксимаций для достаточно широких классов функций и множеств. Разными авторами изобретено множество локальных выпуклых аппроксимаций: производные У. Дини и Ж. Адамара, конусы Ж. Адамара, Г. Бу-лигана и Ф. Кларка, субдифференциал Ф. Кларка и субдифференциал Ж. Пено, шатры В. Г. Болтянского, контейнеры Дж. Варги, аппроксимация первого порядка Л. Нойштадта, ЛМО-аппроксимации Е. С. Левитина, А. А. Милютина и Н. П. Осмоловского, верхние выпуклые (нижние вогнутые) аппроксимации Б. Н. Пшеничного, — вот далеко не полный перечень используемых аппроксимаций. Вместе с тем нет универсального, пригодного для любых классов задач, типа локальной аппроксимации. Различные локальные выпуклые аппроксимации дополняют друг друга, причем для изучения разных конкретных классов задач могут оказаться более удобными любые из имеющихся типов локальных аппроксимаций.

Тот факт, что субдифференциал характеризует локальное поведение выпуклой функции играет ключевую роль в современном выпуклом анализе, становление которого связано с именами В. Фенхеля, Ж.-Ж. Моро, Р. Т. Рокафеллара, А. Д. Иоффе и В. М. Тихомирова. В начале 1970-х годов началось интенсивное изучение выпуклых операторов со значениями в упорядоченных векторных пространствах. В этот период произошел синтез методов выпуклого анализа с теорией упорядоченных векторных пространств. Итоги этого периода подведены в обзорах А. М. Ру-бинова [УМН.-1977.-Т. 32, вып. 4.-С. 113-174] и С. С. Кутателадзе [УМН—1979.—Т. 34, № 1.—С. 167-196]. Первое монографическое изложение локальной теории выпуклых операторов имеется в книге Г. П. Аки-лова и С. С. Кутателадзе [Упорядоченные векторные пространства.— Новосибирск: Наука, 1978]; современное состояние теории представлено в монографии А. Г. Кусраева и С. С. Кутателадзе [Субдифференциалы. Теория и приложения. Ч. I, И.—Новосибирск: Наука, 2002-2003].

Одной из наиболее простых аппроксимаций недифференцируемых функций служит (односторонняя) производная по направлениям. Выпуклая функция /, определенная в окрестности некоторой точки Хо £ К", имеет одностороннюю производную /'(хо)к в точке хо по каждому направлению /1 € X, вычисляемую по формуле

При этом функция И /'(хо)/г сублинейна и допускает линеаризацию в следующем смысле: существует компактное выпуклое множество Д СМП, называемое субдифференциалом / в точке хо и обозначаемое символом д/{хо), такое, что

/'(яо)Л = зир{<%) : у е £>} (Л € Кп),

где (• | •) — обычное скалярное произведение в К".

Существуют и невыпуклые функции, локальное поведение которых может описываться производной по направлениям или субдифференциалом. В работах А. Д. Иоффе, В. М. Тихомирова и Б. Н. Пшеничного был введен класс локально выпуклых функций, т. е. функций имеющих в точке сублинейную производную по направлениям. Однако такой класс функций не является векторным пространством, так как не выдерживает умножения на отрицательные числа. Но можно «симметризо-вать» определение локально выпуклой функции, рассмотрев односторонние производные по направлениям, представимые в виде разности двух сублинейных функций. Полученный при этом класс функций называют классом квазидифференцируемых функций. Как видно, квазидифферен-цируемость функции / в точке жо означает, что существует производная по направлениям /'(гго) и существуют два компактных выпуклых множества И С К" и £>' с М" (называемых соответственно субдифференциалом и супердифференциалом / в точке хо) такие, что

/'(®о)Л = 8ир{<%> : у € £>} - 8ир{<%) : у € £>'} (Л. € ИТ).

Этот подход оказывается весьма эффективным, так как приводит к достаточно широкому классу функций и в то же время допускает весьма развитую аналитическую технику.

Квазидифференцируемые функции ввели и изучали В. Ф. Демьянов, Л. Н. Полякова и А. М. Рубинов. Систематическое изложение квазидифференциального исчисления в конечномерном случае с многочисленными

примерами и приложениями имеется в книгах В. Ф. Демьянова и Л. В. Васильева {Недифференцируемая оптимизация.—М.: Наука, 1981], В. Ф. Демьянова и А. М. Рубинова [Основы негладкого анализа и квазидифференциальное исчисление.—М.: Наука, 1990].

Целью диссертации является распространение квазидифференциального исчисления на операторы, действующие из векторного пространства в произвольное /^-пространство, а также, исследование приложений, построенного исчисления, к векторнозначным экстремальным задачам.

Методы исследования. В работе используются методы теории пространств Канторовича, теории сублинейных операторов, а также двойственность Минковского и дезинтегрирование.

Научная новизна и основные результаты, выносимые на защиту. В работе получены следующие новые результаты:

(1) Понятие квазидифференциала и соответствующее исчисление распространены на случай операторов, действующих в произвольные К-пространства. Получены новые формулы для вычисления квазидифференциалов произведения, супремума и инфимума, качественно отличающиеся от своих скалярных аналогов.

(2) Введено понятие дифференцируемости по Адамару операторов, действующих в /^-пространства, а также рассмотрена порядковая непрерывность производной Адамара по направлению. Доказаны теоремы о производной по направлениям и квазидифференциале композиции.

(3) С помощью техники дезинтегрирования устанавлено, что в специальных случаях выполняется аналог классического «цепного правила» — квазидифференциал суперпозиции равняется суперпозиции квазидифференциалов. В качестве следствий, в некоторых специальных случаях получены формулы для вычисления квазидифференциалов бесконечных суммы, супремума, инфимума и интегрального оператора.

(4) Сформулированы необходимые условия идеального экстремума в векторных квазидифференцируемых программах с ограничениями в виде неравенства.

(5) Найдены необходимые условия идеального экстремума в векторных квазидифференцируемых программах с ограничениями в виде вхождения переменной в фиксированное множество.

(6) Получены необходимые условия обобщенного экстремума в векторных квазидифференцируемых программах с ограничениями.

Практическая ценность. Работа носит теоретический характер. Разработанные в ней методы могут быть использованы специалистами в

области выпуклого и негладкого анализа, а также теории экстремальных задач.

Апробация работы. Основные результаты диссертации докладывались на семинаре «Алгебра и анализ» в Северо-Осетинском госуниверситете им. К. Л. Хетагурова; на I и II международных конференциях «Порядковый анализ и смежные вопросы математического моделирования» (Владикавказ, 2003 и 2004); включены в монографию А. Г. Кусраева и С. С. Кутателадзе «Субдифференциалы. Теория и приложения». 4.IL— Новосибирск, 2003); включены в «Отчет о деятельности Российской академии наук в 2003 г. Основные результаты в области естественных, технических, гуманитарных и общественных наук».

Результаты диссертации опубликованы в работах [1-5].

2. Краткое содержание работы

Во введении обосновывается актуальность темы, формулируется цель работы, дается литературный обзор по изучаемому вопросу, приводится краткое содержание диссертации.

Первая глава носит вспомогательный характер и содержит обзор необходимых для дальнейшего изложения сведений о пространствах Канторовича, продолжении линейных операторов, пространстве опорных множеств, операторах Магарам. Излагаемые в этой главе факты не являются новыми и включены для полноты изложения.

Вторая глава содержит квазидифференциальное исчисление операторов, действующих в /^-пространства. Введено понятие квазидифференциала, приведены правила для вычисления квазидифференциалов сложных отображений (§§2.1-2.3). В некоторых специальных случаях с помощью техники дезинтегрирования получены формулы для вычисления квазидифференциалов суммы и супремума произвольного числа квази-дифференцируемых операторов, а также интеграла (§2.4).

Пусть X — векторное пространство, а Е — некоторое Х-пространство. Обозначим Е' := Е U {+оо}. Рассмотрим отображение f : X Е" и точку хо из алгебраической внутренности core (dorn (/)) его эффективной области dorn (/) := {х G X : f(x) < +00}. Если для некоторого h е X существует предел

f(xü)h-.= o-limf{X0 + ah)-f{X0\

а|0 а

то его называют (односторонней) производной или производной Дини / в точке хо по направлению Л. Допустим, что в точке хо существует производная /'{хо)Ь по любому направлению Л € X. Тогда возникает отображение /'(хо) : X Е, которое называют также (односторонней) производной по направлениям или производной Дини в точке хо. В этой ситуации говорят также, что отображение / дифференцируемо по направлениям в точке хо-

Говорят, что оператор / квазидифференцируем в точке хо, если / дифференцируем по направлениям в точке хо и отображение /'(хо) X —» Е квазилинейно, т. е. представимо в виде разности двух сублинейных отображений.

Совокупности всех сублинейных и квазилинейных операторов, действующих из X в Е обозначаем ЗЫ(Х, Е) и <2Ь(Х, Е) соответственно. Если отображение / квазидифференцируемо в точке Хо, то /'(жо) допускает представление в виде разности сублинейных операторов р, д е ЗЫ(.Х, Е), т. е.

/'(®о)Л = эир 5(Л) - вир Т(Л) = р(Л) - д{Ь) (Л е X). яе Эр теэ<7

Очевидно, что указанное представление в виде разности сублинейных операторов неединственно (достаточно прибавить кри? произвольный сублинейный оператор).

В силу двойственности Минковского, квазилинейному оператору /'(жо)отвечает элемент [др, £?#], который называют квазидифференциалом / в точке хо и обозначают символом 'Df(xo)^ Здесь через [др, <Эд] обозначен класс эквивалентности, содержащий пару (др, дд). Опорные множества др и дд принято называть соответственно субдифференциалом_я супердифференциалом функции / в точке х0 и обозначать д/(хо) и д/(хо). Итак,

:= ШЫ,д/Ы] := [дрМ] € [Садя)],

где [СБДХ, £)] — модуль опорных множеств, состоящий из классов [др, дц\ эквивалентных пар опорных множеств (¿>р, дд).

Примерами квазидифференцируемых отображений, очевидно, являются выпуклые и вогнутые, а также дифференцируемые отображения. Еще более широкий класс квазидифференцируемых отображений составляют разности выпуклых операторов.

Пусть ОгШ(.Е) — алгебра ортоморфизмов в Е. Приведем основные формулы исчисления квазидифференциалов отображений, действующих в ¿^-пространство.

(1) Пусть операторы /i,...,/n : X —» Е квазидифференцируемы в точке хо € ПГ=1 соге (dorn (/г)). Тогда их сумма / := /1 + ... + /„ также квазидифференцируема в этой точке и справедливы равенства:

Vf(x о) = Vh (reo) + • • • + Vfn(xQ) =

t=i i=i

(2) Пусть оператор / : X -» Е квазидифференцируем в точке г0 е core (dorn (/)) и А € Orth(E). Тогда оператор \f : х ^ Xf(x) также квазидифференцируем в этой точке и

V(Xf){x0) = XT>f(xо) = [\+df(x0) + \~df(so), A+df(x0) + \-Qf(x0)j.

(3) Пусть отображения f : X —> E' и g : X Orth(JS)* квазидиф-ференцируемы в жо € core (dorn (/)) П core (dorn (<?)). Тогда отображение gf : X —» Е', действующее по правилу gf : х ь-> g(x)f(x), также квази-дифференцируемо в этой точке и справедлива формула Лейбница

ЧэЛЫ = g{xo)Vf{x0) + Vg(xo)f{xo).

Правила квазидифференцирования супреума, инфимума и композиции сформулируем в форме двух теорем.

Теорема 1. Пусть операторы fi,..., /п : X —» Е' квазидифференци-руемы в точке Xq £ П"=1core (dorn (fi)). Тогда супремум g:= fx V ... V /„ и инфимум h:= fi A ... A /„ также квазидифференцируемы в этой точке и справедливы формулы:

п _

шы= U ЕЦш^+Езлы),

(ai,...,a„)er„(x0)fc=l tyk

n n

9g(xo) = dfk{xo), dh{xo) - Üfkixo), fc=1 k=1 n

dh(x o) = U ak (dfk(x0) + ]T dfi( ®o)),

(ab...,an) <= Д„(х0)Ы /^fc

где

Г„(жо):=Гп(жо;/ь...,/п):= j(ai,...,<*„) : afc € Orth+(£),

n n

^a* = 7ß, ^2akfk(xo) = /(so) [• fc=i fc=i ^

Д„(х0):= Д„(х0;/ь...,/„):= j(ab...,an): ак € Orth +(Е),

п п *

= IE, о) = д(хо)

к=1 ¿=1 J

Пусть Е и F ~ некоторые ЛГ-пространства. Рассмотрим отображение д : Е —♦ F , дифференцируемое по направлениям в точке во € core (dorn (д)). Возьмем направление и € Е и элемент d £ F. Предположим, что для любой последовательности (еп) С Е, еп I 0, имеет место соотношение

inf sup

m6N 0<Q<l/m

g{e0 + au') - g(e0)

a

= 0.

Тогда d называют производной Адамара g в точке ео по направлению и и обозначают g'(eo)u := d. Заметим, что если существует производная Адамара, то существует и производная Дини (в той же точке по тому же направлению) и их значения совпадают. Таким образом, производную Адамара д в точке ео по направлению и можно определить формулой

// ч . * д{ео + cm') ~ д{ео)

д{ео)и:= mf sup —----.

meN 0<а<1 /т а

Если производная Адамара д'{ео)и существует для каждого направления и € Е, то говорят, что отображение д дифференцируемо по Адамару в точке ео.

В рассматриваемой ситуации (в отличие от скалярного случая Е = К" и F = М) дифференцируемость по Адамару отображения g не гарантирует непрерывности производной по направлениям д'(ео)(-)- Непрерывность производной по направлениям будем понимать в следующем смысле.

Отображение <р : Е F называют то-непрерывньш в точке щ G Е, если для любой последовательности (е„) С Е, еп | 0, выполняется

inf sup |<р(и) - <р{щ)\ = 0. »eN|u-u0|<e„

Теорема 2. Пусть X — векторное пространство, Е и F — К-пространства. Пусть отображение / : X —» Е квазидифференцируемо

в точке хо £ core (dorn (/)), а отображение д : Е -» F* квазидиф-ференцируемо и одновременно дифференцируемо по Адамару в точке ео := f(xо) € core (dorn (g)), причем производная g'(eо)(-) mo-непрерывна. Предположим, сверх того, что квазидифференциал Vg(eо) определяется парой порядково ограниченных в L~(E,F) опорных множеств dg(eо) и 9д(ео). Тогда отображение до / квазидифференцируемо в точке хо- £сли dg{eo) U dg{eo) С [Ль Л2] для некоторых Ai, Л2 S L~(E, F), то квазидифференциал

U Э(Рс), ¡J 9(РС)

ceag(en) сеаэ(е0)

где

Рс(хо) ~ (С-Ai) sup 5(жо) + (Л2 - С) sup Т(х0).

sedf(xo) теадхо)

Говорят, что возрастающий сублинейный оператор Р : Е —> Р удовлетворяет условию Магаром, если для любых е € Е+ и € Р+ из равенства Р(е) = щ + и2 следует существование таких е^ег е 2?+, что е = ех + ег и Р(ег) = и; (I := 1, 2). Возрастающий порядково непрерывный сублинейный оператор, удовлетворяющий условию Магарам, называют сублинейным оператором Магарам. Линейный оператор Магарам — это порядково непрерывный положительный оператор, сохраняющий порядковые отрезки (Т([0, е]) = [0,Те]).

Применение техники дезинтегрирования к исчислению квазидифференциалов дает новый класс формул, некоторые из них приведем ниже.

Теорема 3. Пусть выполнены условия теоремы 2 и, сверх того, общая нижняя граница А% и общая верхняя граница Л2 множеств дд(ео) и дд{ео) входят в полосу, порожденную линейным оператором Магарам. Тогда квазидифференциал композиции до/ может быть вычислен по формулам

Шл ° /)(®о) = ШзЫ о 7Г - л) о (2/(Жо) X а/ы),

Цд ° /)Ы = фдЫ о 7г - л) о (а/(®0) х а/(х0)),

где линейные операторы тг:ЕхЕ—*ЕиА:ЕхЕ^>Р определяются формулами 7г(е1,е2) := б! - е2 (еие2 € Е) и Л(аьа2) := Л!(ах) - Л2(а2) (аьа2 € £)•

Приведем несколько важных следствий теоремы 3.

(1) Пусть f : X ~> Е' — квазидиффереицируемое в точке х0 отображение и Т : Е -* F - регулярный порядково непрерывный оператор такой, что |Т| — оператор Магарам. Тогда То f также квазидифференцируемо в точке хо и

V(Tof)(xo) = ToVf(xQ) =

= [т+ odf(x0) + T- Odf(x0), T+ Odf(x0) +T- odfixo)].

(2) Если в (1) T : E —> F — линейный оператор Магарам, то формула для вычисления квазидифференциала упрощается:

О(То/)(х0)= [Гоа/Ы, Todfixo)).

(3) Рассмотрим вопрос о квазидифференцируемости бесконечной суммы. Зафиксируем непустое множество А. Пусть li(A,E) пространство всех о-суммируемых семейств элементов Е, индексированных посредством А. Возьмем семейство отображений fa:X—>E (а € А), и пусть xq € core (dorn (/Q)) для всех (а € А). Будем говорить, что это семейство равностепенно квазидифференцируемо в точке хо по направлению h е X, если существует убывающая к нулю последовательность (с„(-)) С l\ (А, Е) такая, что

sup

0<£<1/п

/а(Я0 + th) - fa(Xo)

< с„(а) (а € A, n € N).

Пусть отображение / : X —* Е' определено равенством

fix) = Ш (хеХ), ае А

где fa:X-*E(a€ А) — некоторое о-суммируемое семейство отображений. Предположим, что xq е core (dorn (/а)) для всех а € А и семейство (/<*)<*€А равностепенно квазидифференцируемо по направлениям в точке хо- Если для любого а £ А существуют ра,Яа & Sbl(X, 2?) такие, что fa(xо) = Ра - Яа (<* € А) И при ЭТОМ (pa(h))Q£A, {qa(h))a£А £ М А £) для любого Л 6 X, то отображение / квазидифференцируемо в точке хо и справедлива формула

Р/(х0) = о) :=

а€ А

аеА абА

(4) Пусть семейство (fQ : X -* Е')аеа и точка хо удовлетворяют всем условиям следствия (3). Тогда отображения fag

/(*) ■■= V /«<*)■ 9(х) := Д /а(®)

абА абА

квазидифференцируемы в точке хо и для Vf(xо) = [ö/(x0),ö/(a;o)] и Vg{xо) = [9ö(xo), дд(хo)j имеют место представления аналогичные формулам теоремы 1.

Третья глава диссертации посвящена приложениям построенного квазидифференциального исчисления к экстремальным задачам. Приведены необходимые условия идеального экстремума в векторных ква-зидифференцируемых программах с ограничениями в виде неравенства (§ 3.1), вхождения переменной в фиксированное множество (§ 3.2) и необходимые условия обобщенного экстремума (§3.3).

Рассмотрим векторную программу (С,/), т. е. многоцелевую экстремальную задачу х € С, f(x) —> inf, где С С X — некоторое множество, а / : X —> Е — отображение, предполагаемое в дальнейшем квазидиффе-ренцируемым в нужной точке core (dorn (/)). Точка xq £ С — идеальный локальный инфимум в программе х & С, f(x) —> inf, если существует множество U С X такое, что 0 € core С/ и f(xо) = inf{/(rc) : х € СП(хо + £/)}.

Пусть отображение f : X —> Е* квазидифференцируемо в точке xq € core (dorn (/)). Если xq — идеальный локальный оптимум в безусловной векторной программе f(x) —> inf, то df{xо) С df(xo) или, что то же самое, Vf(x0) > 0.

Пусть теперь С := {х £ X : д(х) < 0}, причем отображения / и д квазидифференцируемы в нужной точке. Такую программу мы будем обозначать символом (д, /). Введем необходимое для дальнейшего условие квазирегулярности.

Пусть F — еще одно /^-пространство. Рассмотрим отображения / : X —*Е и д : X F . Векторную программу (д, /) называют квазирегулярной в точке хо € core (dorn (5)), если выполнены условия:

(а) существуют сублинейный оператор Магарам г : F —> Е и поглощающее множество U С X такие, что для любого ж € яо + ¡^ выполняется Kxf{x0) ^ Kxf(x), где 7т"х := [(г о д(а;))-] — проектор на компоненту, порожденную элементом (г о д(х))~\

(b) для любых оператора Т £ дг(д(хо)) и ненулевого проектора 7Г £ ф(2?) выполняется жТ о дд(хо) П пТ о дд(хо) = 0.

Теорема 4. Если допустимая точка Xq есть идеальный локальный оптимум квазирегулярной квазидифференцируемой задачи (<;,/), то для любых s £ д/(хо) и S £ дд(хо) существуют положительный ортоморфизм a £ Orth+(2?) и оператор Магарам 7 £ L+(F,E) такие, что совместна система условий

kera = {0}, 7ор(х0) = 0, 0 € аЩ/(х0) - s) + 7 о Шх0) - 5).

Всюду ниже X — топологическое векторное пространство, Е — топологическое /{"-пространство и Ас — алгебра непрерывных ортоморфизмов на Е. Конус положительных элементов топологического /^-пространства считается нормальным. Поэтому двойственность Минковского д определяет биекцию между множествами непрерывных (всюду определенных) сублинейных операторов и эквинепрерывных опорных множеств.

Символом QL°(Х,Е) обозначим часть QL(X, Е), состоящую из квазилинейных операторов, представимых в виде разности непрерывных сублинейных операторов, а его элементы назовем непрерывными квазилинейными операторами.

Рассмотрим отображение / : X —> Е и точку хо £ core (dorn (/)). Будем говорить, что / топологически квазидифференцируемо в точке хо, если в этой точке существует производная по направлениям f'(xo)h и отображение }'{хо) : h -» f'(xo)h (h £ X) представляет собой непрерывный квазилинейный оператор.

Итак, если отображение / топологически квазидифференцируемо в точке хо, то квазилинейному оператору f'(x0) £ QLC(X,E) в силу двойственности Минковского отвечает элемент V(f'(x0)) £ [CS^-X", /£)], который называют топологическим квазидифференциалом f в точке xq и обозначают символом T>cf(x0) := [9с/(хо), dcf(x0)]. Здесь символами d°f(x0) и dcf{x0) соответственно обозначены топологический субдифференциал и топологический супердифференциал отображения / в точке xq.

Формулы, составляющие исчисление топологических квазидифференциалов, совпадают со своими алгебраическими аналогами, если заменить V на Vе.

Пуст!) С С X и хо £ С. Конус допустимых направлений Fd(C, хо) множества С в точке хо вводится формулой:

Fd(C,x0) : = {h £ X : (Эе > 0)х0 + [0,e)h С С).

Множество С называют К-регулярным в точке xq, если К — выпуклый конус и К С el (Fd(C,xo)). Для Л'-регулярного в точке xq множества С вводится нормальный конус Ne(C,xо) := 7гв(Л") := {Т : Тк < 0, к € К}. Заметим, что нормальный конус к множеству в точке определяется неоднозначно.

Рассмотрим теперь векторную программу (C,g,f). Пусть xq е С П core (dorn (/)) П core (dorn (д)), и предположим, что отображения / : X —* Е', д : X F' топологически квазидифференцируемы в точке хц. Скажем, что векторная программа (C,g,f) квазирегуляриа в точке хо, если выполнены условия:

(a) существуют непрерывный сублинейный оператор Магарам г : F

Е и окрестность U точки хо такие, что для любого х € С П U будет я®/(жо) ^ nxf(x), где тгх := [(г о д(х))~\ — проектор на компоненту, порожденную элементом (г о д(х))~\

(b) множество С является /^-регулярным в точке хо;

(c) для любых оператора Т € дг(д(хо)) и ненулевого проектора 7г е имеет место соотношение -кТод°д(хо) П (irTd°g(xo) + ttNe(C, xq)) =

0.

Теорема 5. Пусть отображения f ид квазидифференцируемы в точке хо Е СП core (dorn (/)) П core (dorn (g)). Если xq — идеальный локальный оптимум квазире£улярной в точке xq векторной программы (C,g,f), то для любых s € dcf(xо) и S е dcg(xо) существуют непрерывный ортоморфизм a G Orth(S), непрерывный оператор Магарам у € L+(F,E) и линейный непрерывный оператор Л S L(X,E) такие, что совместна система условий:

СKaiS/ß, ker а = {0}, А € Ne(C,xq), yog(x0) = 0, -А € а(9с/(х0) - в) + 7 о (gefl(so) - 5).

Множество {ж?,... С С называют обобщенным локальным оптимумом программы (С, /), если существует такая окрестность нуля U, что /(а?) Л ... Л /(®°) < /(®i) Л ... Л /(а?„) для всех x¿ € (af + С/) П С и i := 1,...,п.

Пусть г- 6 СП core (dorn (/)) Г) core (dorn (5)) и отображения / : X —> Е , g : X —» F* топологически квазидифференцируемы в точках (г := 1,...,п). Скажем, что векторная программа (C,g,f) квазирегуляриа на множестве {x¡,..., если выполнены следующие условия:

(а) существуют непрерывный сублинейный оператор Магарам г : F —> Е и окрестности Ui точек я® такие, что для любого х £ С П [/, будет

тгхе < nxf(x), где е := /(ж?) Л ... Л /(;х°) и тгх := [(г о д(х))~] - проектор на компоненту, порожденную элементом (г о д(х))~;

(b) множество С является /¡"¿-регулярным в точке

(c) для каждого г := 1,..., п имеет место соотношение -кТ о дсд(х°) Г) (■¡vT о dcg{xf) + -kNe(C,x4)) = 0, каковы бы ни были оператор Т € дг(д(х®)) и ненулевой проектор тг е

Теорема 6. Пусть отображения д : X —> F' и f : X Е' квазидиф-ференцируемы в точках х°,..., € С П core (dorn (/)) П core (dorn (g)). Предположим, что векторная программа (С, д, /) квазирегулярна на множестве {xj,..., 2°}. Если множество ..., х° } служит обобщенным локальным оптимумом программы (C,g,f), то для любых Si € df(x^) и Si £ dg(x°) существуют ортоморфизмы ai,...,an € Orth(jE), непрерывные операторы Магарам 7i,...,7n € L+(F,E) и линейные непрерывные операторы А г 6 £(-Х\ .Е) такие, что

О < щ < ijs, ker(a:i) П ... П ker(an) = {0}, 7i°5(zo) = 0, \i <= NßiKb),

■ -Ai e a((fi7(®<) - e<) + 7< о - Si) (г := 1,..., n).

3. Аннотация

Диссертация посвящена распространению квазидифференциального исчисления на операторы, действующие в произвольное ЛГ-пространство. В работе используются методы теории пространств Канторовича, теории сублинейных операторов, а также двойственность Минковского и дезинтегрирование.

Получены новые формулы для вычисления квазидифференциалов произведения, супремума и инфимума, качественно отличающиеся от своих скалярных аналогов. В некоторых специальных случаях получены формулы для вычисления квазидифференциалов бесконечных суммы, супремума, инфимума и интегрального оператора. В качестве приложений, построенного исчисления, получены необходимые условия идеального и обобщенного экстремума в векторнозначных экстремальных задачах с квазидифференцируемыми данными.

Работа носит теоретический характер, полученные в ней результаты могут быть использованы специалистами в области выпуклого и негладкого анализа, а также теории экстремальных задач.

4. Публикации по теме диссертации

1. Басаева Е. К. Квазидифференциалы в Л'-пространствах // Влади-кавк. мат. журн.—2003.-Т. 5, № З.-С. 14-30.

2. Басаева Е. К. Необходимые условия экстремума в векторных квази-дифференцируемых программах // Владикавк. мат. журн.—2004.— Т. 6, № 1.-С. 13-25.

3. Басаева Е. К., Кусраев А. Г. О квазидифференциале композиции // Владикавк. мат. журн—2003—Т. 5, № 4.-С. 10-25.

4. Басаева Е. К., Кусраев А. Г. Выпуклый аначиз 6. Квазидифференциалы.—Владикавказ: Изд-во ВНЦ РАН.—2003.—85 с.

5. Басаева Е. К., Кусраев А. Г. Двойственность Минковского и квазидифференциальное исчисление // В сб.: Исследования по комплексному анализу, теории операторов и математическому моделированию.—Владикавказ: Изд-во ВНЦ РАН.—2004.—С. 165— 217.

Подписано в печать 19.10.2004. Усл.п.л. 0,93 Формат бумаги 60x84VIс- Тираж 100 экз.

Издательство Владикавказского научного центра РАН 362025, г. Владикавказ, пр. Коста, 93.

РНБ Русский фонд

2007-4

Введение

Глава 1. Предварительные сведения

1.1. Пространства Канторовича.

1.2. Теорема Хана — Банаха — Канторовича.

1.3. Двойственность Минковского.

1.4. Дезинтегрирование опорных множеств.

Глава 2. Квазидифференциальное исчисление в

-пространствах

2.1. Квазидифференцируемые отображения.

2.2. Квазидифференциалы супремума и инфимума.

2.3. Квазидифференциал композиции.

2.4. Дезинтегрирование квазидифференциалов.

Глава 3. Необходимые условия экстремума в квазидифференцируемых векторных программах

3.1. Необходимые условия идеального оптимума

3.2. Учет ограничений типа включения.

3.3. Необходимые условия обобщенного экстремума.

Негладкий анализ — раздел современного анализа, изучающий недиффе-ренцируемые функции аналитическими средствами — на сегодняшний день вполне сложившееся и быстро развивающееся направление математики, имеющее многочисленные приложения к математическому моделированию разнообразных задач современного естествознания. Традиционным полем приложений негладкого анализа является теория экстремальных задач.

В исследованиях общих негладких оптимизационных задач значительное внимание принято уделять поиску удобных локальных выпуклых аппроксимаций для достаточно широких классов функций и множеств. Разными авторами изобретено множество локальных выпуклых аппроксимаций: производные У. Дини и Ж. Адамара (см., например, [15, 21]), конусы Ж. Адамара, Г. Були-тна и Ф. Кларка [21, 30], субдифференциал Ф. Кларка [25] и субдифференциал Ж. Пено [62], шатры В. Г. Болтянского [7], контейнеры Дж. Варги [8], аппроксимация первого порядка Л. Нойштадта [60], ЛМО-аппроксимации Е. С. Левитина, А. А. Милютина и Н. П. Осмоловского [34, 35], верхние выпуклые (нижние вогнутые) аппроксимации Б. Н. Пшеничного [41], — вот далеко не полный перечень используемых аппроксимаций. Вместе с тем нет универсального, пригодного для любых классов задач, типа локальной аппроксимации. Различные локальные выпуклые аппроксимации дополняют друг друга, причем для изучения разных конкретных классов задач могут оказаться более удобными любые из имеющихся типов локальных аппроксимаций.

Тот факт, что субдифференциал характеризует локальное поведение выпуклой функции играет ключевую роль в современном выпуклом анализе. Становление современного выпуклого анализа началось в 1960-е годы, прежде всего под воздействием теории экстремальных задач, развития методов оптимизации и математической экономики. Выпуклый анализ как самостоятельное направление сформировался во многом благодаря вкладу В. Фенхеля [51], Ж.-Ж. Моро [58] и Р. Т. Рокафеллара [43]. Основные понятия и результаты, а также важнейшие приложения выпуклого анализа и изложены в обзоре В. М. Тихомирова [45]. Многочисленные приложения теории выпуклых множеств и функций изложены, например, в монографиях А. Д. Иоффе, В. М. Тихомирова [22] и К. Лейхтвейса [36], В. Л. Левина [33].

В начале 1970-х годов началось интенсивное изучение выпуклых операторов со значениями в упорядоченных векторных пространствах. В этот период произошел синтез методов выпуклого анализа с теорией упорядоченных векторных пространств. Итоги этого периода подведены в обзорах А. М. Рубинова [44] и С. С. Кутателадзе [31]. Первое монографическое изложение локальной теории выпуклых операторов имеется в книге Г. П. Акилова и С. С. Кутателадзе [1]; современное состояние теории представлено в монографии А. Г. Кусраева и С. С. Кутателадзе [29, 30].

Одной из наиболее простых аппроксимаций недифференцируемых функций служит (односторонняя) производная по направлениям. Выпуклая функция /, определенная в окрестности некоторой точки х0 € К", имеет одностороннюю производную /'(хо)Н в точке Хо по каждому направлению /г € X, вычисляемую по формуле

4-0 £ где ¿4-0 означает, что I стремится к нулю справа. При этом функция /г /'(хо)/г сублинейна и допускает линеаризацию в следующем смысле: существует компактное выпуклое множество £>СК", называемое субдифференциалом / в точке х0 и обозначаемое символом д/(х0), такое, что х 0)к = 81ф{(%> : у е £>} (Не Кп), где (• | •) — обычное скалярное произведение в К".

Существуют и невыпуклые функции, локальное поведение которых может описываться производной по направлениям или субдифференциалом. В работах А. Д. Иоффе, В. М. Тихомирова [22] и Б. Н. Пшеничного [42] был введен класс локально выпуклых функций, т. е. функций имеющих в точке сублинейную производную по направлениям. Однако такой класс функций не является векторным пространством, так как не выдерживает умножения на отрицательные числа. Но можно «симметризовать» определение локально выпуклой функции, рассмотрев односторонние производные по направлениям, представимые в виде разности двух сублинейных функций. Полученный при этом класс функций называют классом квазидифференцируемых функций. Как видно, квазидиф-ференцируемость функции / в точке хо означает, что существует производная по направлениям /'(^о) и существуют два компактных выпуклых множества

Б с К" и ГУ с К" (называемых соответственно субдифференциалом я супердифференциалом / в точке жо) такие, что о)Л = 8ир{(%): у 6 £} - 811р{(Л|у) : у € Г>'} (Я € Кп).

Этот подход оказывается весьма эффективным, так как приводит к достаточно широкому классу функций и в то же время допускает весьма развитую аналитическую технику.

Квазидифференцируемые функции ввели и изучали В. Ф. Демьянов, Л. Н. Полякова и А. М. Рубинов, см. [17, 20]. Их свойства в конечномерном случае изучены в работах В. Ф. Демьянова и А. М. Рубинова [19, 21, 49, 50], В. Ф. Демьянова и Л. Н. Поляковой [16], Л. Н. Поляковой [37, 39, 40, 61], см. также библиографию в [47]. Систематическое изложение квазидифференциального исчисления в конечномерном случае с многочисленными примерами и приложениями имеется в книгах В. Ф. Демьянова и Л. В. Васильева [15], В. Ф. Демьянова и А. М. Рубинова [21].

Условия регулярности квазидифференцируемых множеств рассмотрены в [19, 21, 38]. Необходимые условия безусловного экстремума для квазидифферен-цируемой целевой функции в конечномерном случае получены Л. Н. Поляковой в [37]. Ею же в [39, 40, 61] получены необходимые и достаточные условия экстремума квазидифференцируемой функции при квазидифференцируемом ограничении.

В работах В. В. Гороховика [10, 11, 52] для вещественнозначных функций, определенных на конечномерном евклидовом пространстве, введены понятия е-квазидифференциала (нижнего, верхнего) и квазидифференцируемости (снизу, сверху), обобщающие понятие квазидифференциала Демьянова — Рубинова и получены основные формулы исчисления е-квазидифференциалов. Для функций, обладающих нижним (верхним) е-квазидифференциалом, В. В. Гороховиком установлены необходимые и достаточные условия локального экстремума.

Разнообразным приложениям квазидифференциального исчисления к задачам механики, техники и экономики посвящена монография В. Ф. Демьянова, Г. Е. Ставроулакиса, Л. Н. Поляковой и П. Д. Панагиотопулоса [64]. Современное состояние исследований в области квазидифференциального исчисления отражено в сборнике «Квазидифференцируемость и смежные вопросы» под редакцией В. Ф. Демьянова и А. М. Рубинова [65]. Здесь систематизируются недавние результаты, полученные в различных направлениях негладкого анализа, связанных или порожденных квазидифференциальным исчислением.

В [49] В. Ф. Демьянов и А. М. Рубинов изучали квазидифференциалы отображений, определенных в банаховых пространствах и принимающих значения в банаховых if-пространствах.

Целью диссертации является распространение квазидифференциального исчисления на операторы, действующие из векторного пространства в произвольное /f-пространство, а также исследование приложений построенного исчисления к векторнозначным экстремальным задачам. Подход к определению квазидифференциала вектор-функции, используемый в данной работе, принципиально отличается от подхода В. Ф. Демьянова и А. М. Рубинова [49] (см. также Прил. Ш в [21]), но содержит его в качестве частного случая, если банахово АТ-пространство образов имеет порядково непрерывную норму.

Диссертация содержит три главы. Первая глава — вводная, в ней собран необходимый для дальнейшего изложения материал по теории АТ-пространств (§ 1.1) и двойственности Минковского. Введены и описаны пространства сублинейных и квазилинейных операторов, а также пространство опорных множеств (§1.2). Описано продолжение двойственности Минковского на класс квазилинейных отображений (§ 1.3). Кроме того, рассмотрена специальная техника, называемая дезинтегрированием, и приведены необходимые для этого сведения об операторах Магарам (§ 1.4).

Во второй главе строится квазидифференциальное исчисление операторов, действующих в /^-пространства. Введено понятие квазидифференциала, приведены правила для вычисления квазидифференциалов сложных отображений (§§ 2.1-2.3). В некоторых специальных случаях с помощью техники дезинтегрирования получены формулы для вычисления квазидифференциалов суммы и супремума произвольного числа квазидифференцируемых операторов, а также интеграла (§2.4).

Пусть X — векторное пространство, а Е — некоторое /¿"-пространство. Обозначим Е' := Е U {+оо}. Рассмотрим отображение / : X —t Е* и точку хо из алгебраической внутренности core (dorn (/)) его эффективной области dom(/) := {я € X : /(х) < +оо}. Если для некоторого h € X существует предел

О4-0 а е>0 о<а<е OL то его называют (односторонней) производной или производной Дини f в точке х0 по направлению h. Допустим, что в точке х0 существует производная /'(х0)Л по любому направлению h е X. Тогда возникает отображение /'(хо) : X —Ь Е, которое называют также (односторонней) производной по направлениям или производной Дини в точке xq. В этой ситуации говорят также, что отображение / дифференцируемо по направлениям в точке Хо

Говорят, что отображение / квазидифференцируемо в точке х0, если / дифференцируемо по направлениям в точке Xq и его производная по направлениям f'(xо) : X —ï Е квазилинейна, т. е. представима в виде разности сублинейных отображений.

Совокупности всех сублинейных и квазилинейных операторов, действующих из'Х в Е обозначаем Sbl(X, Е) и QL(Jsf, Е) соответственно. Если отображение / квазидифференцируемо в точке х0, то f'(x0) допускает представление в виде разности сублинейных операторов р, q 6 Sbl(X, Е), т. е. f'{x0)h = sup S(h) - sup T(h) = p{h) - q(h) (heX). sedp Tedq

Очевидно, что указанное представление в виде разности сублинейных операторов неединственно (достаточно прибавить к р и q произвольный сублинейный оператор).

В силу двойственности Минковского, квазилинейному оператору f'{x0) G QL(X, Е) отвечает элемент [dp,dq], который называют квазидифференциалом f в точке хо и обозначают символом Vf(xо). Здесь через [dp,dq] обозначен класс эквивалентности, содержащий пару (dp, dq). Опорные множества др и dq принято называть соответственно субдифференциалом и супердифференциалом функции / в точке х0 и обозначать df(xо) и д/(х0). Итак,

Р/Ы := [df(xo),df(xо)] := [dp,dq] G [CSc(X,Е)], где [CSc(X, £?)] — модуль опорных множеств, состоящий из классов [dp, dq] эквивалентных пар опорных множеств (dp,dq).

Заметим, что субдифференциал и супердифференциал квазилинейной функции определяются неоднозначно, тогда как квазидифференциал — вполне определенный элемент модуля [CSc(X, Е)]. Примерами квазидифференцируе-мых отображений, очевидно, являются выпуклое и вогнутое, а также линейное отображения. Еще более широкий класс квазидифференцируемых отображений составляют разности выпуклых операторов.

Пусть En F — некоторые ЛТ-пространства. Рассмотрим отображение g : Е —ï F', дифференцируемое по направлениям в точке ео G core (dora (g)). Возьмем направление и G Е и элемент d G F. Предположим, что для любой последовательности (еп) с Е, еп 4- 0, имеет место соотношение inf sup

0<a<l/m g{eо + au') - g(e0) a

Тогда d называют производной Адамара g в точке ео по направлению и и обозначают g'(eo)u := d. Заметим, что если существует производная Адамара, то существует и производная Дини (в той же точке по тому же направлению) и их значения совпадают. Таким образом, производную Адамара д в точке ео по направлению и можно определить формулой ч . , g(eo + au') - g(eQ) д (е0)и := inf sup —1----—-. meN 0<a<l/m a

Если производная Адамара g'(e0)u существует для каждого направления и е Е, то говорят, что отображение д дифференцируемо по Адамару в точке ео

В рассматриваемой ситуации (в отличие от скалярного случая Е = R" и F = R) дифференцируемость по Адамару отображения g не гарантирует непрерывности производной по направлениям ^'(ео)(-). Непрерывность производной по направлениям будем понимать в следующем смысле.

Отображение <р : Е —> F называют mo-непрерывным в точке щ G Е, если для любой последовательности (е„) С Е, еп 4- 0, выполняется inf sup |y»(«)-v(«o)l =0. nGN |u-uo|^e„

Пусть Orth(E') — алгебра ортоморфизмов в Е. Приведем основные формулы исчисления квазидифференциалов отображений, действующих в А"-прост-ранство.

1) Пусть операторы /i,.,/n : X —Е* квазидифференцируемы в точке xQ е ПГ=1соге (dorn (/j)). Тогда их сумма / := f\ + .+/„ также квазидиффе-ренцируема в этой точке и справедливы равенства:

Vf(x0) = P/i(x0) + . + Vfn(x0) = [dfi(x0) + . + Ш®о), ад(х0) + • ■ ■ + dfn(xо)].

2) Пусть оператор / : X Е' квазидифференцируем в точке х0 € core (dorn (/)) и А € Orth(.E'). Тогда оператор А/ : i И Л/(х) также квазидифференцируем в этой точке и

V(Xf)(x0) = \Vf(x0) = [A+ö/(®0) + А"Э/(®о), А+9/Ы + A"ö/(®0)] ■

3) Пусть отображения f : X Е* и g : X —> Orth(£')' квазидифференци-руемы в Xq € core (dorn (/)) Псоге (dorn (g)). Тогда отображение gf= g-f : X E', действующее по правилу gf : g(x)f(x), также квазидифференцируемо в этой точке и справедлива формула Лейбница

ЧяЛЫ = g(xQ)Vf(xQ) + Vg(xo)f(xQ).

Правила квазидифференцирования супреума, инфимума и композиции сформулируем в форме двух теорем.

Теорема 1. Пусть операторы Д,. ,/„ : X Е' квазидифференцируемы в точке xq е П?=1соге (dorn (/¿)). Тогда супремум g := Л V . V /„ и инфимум h:= Л А . Л /п также квазидифференцируемы в этой точке и справедливы формулы: п озы = U Еа* (йл м+Е м), ai ,.,«„) еГ„(®0) *=1 п п dg(x0) = ^2dfk(x0), dh(x 0) = k-1 Л=1 n dh(x0) = U £ (ö/fc (x0) + ö/,(x0>), (ai ,.,a„) € A„(i0) k=l где r„(®o):= j (ai,.,«^) : a* € Orth+(£), = Ie, = /(x0) fc=l A=1 '

Ab(®o):= I (Ol, • • •,On) : <*k £ Orth+(£), ^afc = ^ак/к(х0) = я(я0) V.

Условия, при которых композиция квазидифференцируемых отображений квазидифференцируема, сформулированы в следующем результате.

Теорема 2. Пустъ X — векторное пространство, Е и F — К-пространства. Пусть отображение f : X Е' квазидифференцируемо в точке х0 € core (dorn (/)), а отображение g : Е —t F' квазидифференцируемо и одновременно дифференцируемо по Адамару в точке ео := f(x0) € core (dorn (<?)), причем производная g'(e0)(-) mo-непрерывна. Предположим, сверх того, что квазидифференциал Vg{e0) определяется парой порядково ограниченных в L~(E, F) опорных множеств dg(eo) и dg(e0). Тогда отображение gof квазидифференцируемо в точке xq. Если dg(e0) U dg(e0) С [Ai, Л2] для некоторых Ai, Л2 € L~(E, F), то квазидифференциал

Щ9°1)Ы = где

U d(pc)> U

Седд(ео) С€дд(е0)

РсЫ := (С - АО sup S(x0) + (Л2 - С) sup Т(х0).

S€ö/(x 0) Tedf(xo)

Говорят, что возрастающий сублинейный оператор Р : Е F удовлетворяет условию Магарам, если для любых е £ Е+ и и\,и2 € F+ из равенства Р(е) = «1 + и2 следует существование таких ei,e2 G что е = ei + е2 и p(ej) = и/ (i 1, 2). Возрастающий порядково непрерывный сублинейный оператор, удовлетворяющий условию Магарам, называют сублинейным оператором Магарам. Линейный оператор Магарам — это порядково непрерывный положительный оператор, сохраняющий порядковые отрезки (Т([0, е]) = [0, Те]).

Применение техники дезинтегрирования к исчислению квазидифференциалов дает новый класс формул, некоторые из них приведем ниже.

Теорема 3. Пусть выполнены условия теоремы 2 и, сверх того, общая нижняя граница Ai и общая верхняя граница А2 множеств дд(ео) и дд(ео) входят в полосу, порожденную линейным оператором Магарам. Тогда квазидифференциал композиции go f может быть вычислен по формулам д(д о /)(*„) = (ддЫ о тг - Л) о (df(x0) х df(x0)), д(9 ° /)Ы = (ддЫ) о тг - Л) о (9/Ы х df(x0)), где линейные операторы к : ЕхЕ—*ЕиА: ExE—>F определяются формулами 7r(ei, е2) := е\ — е2 (ei, е2 е Е) и A(ai, a2) := Ai(ai) - Л2(а2) (ai, а2 е

Е)•

Приведем несколько важных следствий теоремы 3.

1) Пусть f : X —>• Е* — квазидифференцируемое в точке х0 отображение и Т : Е —> F — регулярный порядково непрерывный оператор такой, что \Т\ — оператор Магарам. Тогда То/ также квазидифференцируемо в точке xq и

V(Tof)(x0) = ToVf(x0) = [Т+ о df(xo) + Т" о df(x о), Т+ о df(x о) + Т- о df(x0)].

2) Если в (1) Т : Е —» F — линейный оператор Магарам, то формула для вычисления квазидифференциала упрощается:

Р(То/)(х0) = [Тоdf(xo), Todf(x0)].

3) Рассмотрим вопрос о квазидифференцируемости бесконечной суммы. Зафиксируем непустое множество А. Пусть h(A, Е) пространство всех о-суммируемых семейств элементов Е, индексированных посредством А. Возьмем семейство отображений fa:X-*E' (a е А), и пусть х0 € core (dorn (/a)) для всех (а е А). Будем говорить, что это семейство равностепенно квазидиффе-ренцируемо в точке хо по направлению к Е X, если существует убывающая к нулю последовательность (с„(-)) С ¿1 (А, Е) такая, что а (яО+Щ ~ /а(х0) sup

0<t<l/n t cn(ct) для всех а Е А и п Е N.

Пусть fa: X —ь Е (а Е А) — некоторое о-суммируемое семейство отображений и отображение / : X -> Е' определено равенством

ХЕХ).

GA

Предположим, что хо Е core (dorn (/Q)) для всех а € А и семейство (/а)аеА равностепенно квазидифференцируемо по направлениям в точке х0. Если для любого а Е А существуют ра, qa Е Sbl(X, Е) такие, что fa(xo) =pa-qa Е А) и при этом (Pa(h))aeа, (<7а(М)аеА е h{A, Е) для любого h Е X, то отображение / квазидифференцируемо в точке х0 и справедлива формула

Vf(x0) = o*TVfa(x0) :=

Q6 А обА абА

4) Пусть семейство (/а : X —> Е')ае& и точка Жо удовлетворяют всем условиям (3). Положим := V *(*) := Л /«(*)■ аеА абА

Тогда отображения / и у квазидифференцируемы в точке хо и имеют место представления о) = и (+ о-^диЫ)) ), еГА(»о) \ оеА \ да» ' ) д/{х0) = о^2~д/а(х о), = о^2д/а(х0), ае А ае А та)€ДА(хо) V «еА ^ $фа ') где, по определению,

Га(х0) := | (тга)аеА : тг« € Orth+(£), о-^тга = IE, o%2nafa(x0) = /(х0) [-, абА аеА ^

Да(х0) := | (тГа)аеА : тга € Orth+(£), o-]TVa = IE, о^7Га/а(х0) = р(х0) >. лсА лс А *

Третья глава диссертации посвящена приложениям построенного квазидифференциального исчисления к экстремальным задачам. Приведены необходимые условия идеального экстремума в векторных квазидифференцяруемых программах с ограничениями в виде неравенства (§3.1), вхождения переменной в фиксированное множество (§3.2) и необходимые условия обобщенного экстремума (§3.3).

Рассмотрим векторную программу (С, /), т. е. многоцелевую экстремальную задачу х € С, f(x)-> inf, где С С X — некоторое множество, а / : X —> Е" — отображение, предполагаемое в дальнейшем квазидифференцируемым в нужной точке core (dorn (/)). Точка х0 € С — идеальный локальный оптимум в программе (С,/), если существует множество U С X такое, что 0 € core(i7) и f(x о) = inf {/(ж) : х Е Cn(x0 + U)}.

Пусть отображение f : X —> Е' квазидифференцируемо в точке xq 6 core (dorn (/)). Если х0 — идеальный локальный оптимум в безусловной векторной программе f(x) -» inf, то df(x0) С df(x0) или, что то же самое, Vf(xQ) ^ 0.

Пусть теперь С := {ж 6 X : g(x) ^ 0}, причем отображения / и д ква-зидифференцируемы в нужной точке. Такую программу мы будем обозначать символом (g,f). Введем необходимое для дальнейшего условие квазирегулярности.

Пусть F — еще одно АГ-пространство. Рассмотрим отображения / : X Е' и д : X —> F'. Векторную программу (д, f) называют квазирегулярной в точке Xq G core (dorn (g)), если выполнены условия: a) существуют сублинейный оператор Магарам г : F -» Е и поглощающее множество U С X такие, что для любого х € xq + U выполняется nxf(xо) ^ 7гXf(x), где 7ГХ := [(г о <7(я))~] — проектор на компоненту, порожденную элементом (г о д(х))~; b) для любых оператора Т е dr(g(xQ)) и ненулевого проектора 7г 6 ^ß(E) выполняется пТ о дд(х0) П пТ о дд(х0) = 0.

Теорема 4. Если допустимая точка хо есть идеальный локальный оптимум квазирегулярной квазидифференцируемой задачи (g,f), то для любых s е df(xо) и S Е dg(x0) существуют положительный ортоморфизм a е Orth+(Е) и оператор Магарам 7 Е L+(F,E) такие, что совместна система условий кега = {0}, 7°0(яо) = О, 0 е a(df(x0) - s) + 7 о (дд{х0) - S).

Пусть JY" — топологическое векторное пространство, Е — топологическое ЙТ-пространство и Ас — алгебра непрерывных ортоморфизмов на Е. Конус положительных элементов топологического ЙТ-пространства считается нормальным. Поэтому двойственность Минковского д определяет биекцию между множествами непрерывных (всюду определенных),, сублинейных операторов и эк-винепрерывных опорных множеств.

Символом QLС(Х,Е) обозначим часть QL(X, Е), состоящую из квазилинейных операторов, представимых в виде разности непрерывных сублинейных операторов. Элементы QLC(X, Е) будем называть непрерывными квазилинейными операторами.

Рассмотрим отображение f : X Е' и точку xq Е core (dorn (/)). Будем говорить, что / топологически квазидифференцируемо в точке хо, если в этой точке существует производная по направлениям f'(x0)h и отображение /'(х0) : h —» f'(xo)h (h Е X) представляет собой непрерывный квазилинейный оператор.

Итак, если отображение / топологически квазидифференцируемо в точке х0, то квазилинейному оператору /'(xq) Е QL°(Х,Е) в силу двойственности Минковского отвечает элемент Х>(/'(х0)) Е [CS£(A", Е)], который называют топологическим квазидифференциалом f в точке хо и обозначают символом V°f(x0) := [dcf(xo),dcf(xo)]. Здесь символами d°f(x0) и dcf(x0) соответственно обозначены топологический субдифференциал и топологический супердифференциал отображения / в точке хо, a [CS£(X, Е)] — модуль эквинепрерывных опорных множеств.

Формулы, составляющие исчисление топологических квазидифференциалов, совпадают со своими алгебраическими аналогами, если заменить V на Vе.

Пусть С С X и хо Е С. Конус допустимых направлений Fd(C, хо) множества С в точке хо вводится формулой:

Fd(C, х0) := {h Е X : (Зе > 0) х0 + [0, e)h С С}.

Множество С называют К-регулярным в точке Хо, если К — выпуклый конус и К С cl (Fd(C,Хо)). Для /^-регулярного в точке Хо множества С вводится нормальный конус Ne(C,x0) := тге{К) := {Т : Tk ^ 0, к Е К}. Как видно, нормальный конус к множеству в точке определяется неоднозначно.

Пусть множество С с X K-регулярно в точке xq £ С, а отображение f : X —» Е' квазидифференцируемо в той же точке х0 € core (dom(/)). Для того чтобы xq была идеальным локальным оптимумом программы (С, /), необходимо., чтобы выполнялось включение dcf(x0)cdcf(x0) + NE(C,X0).

Пусть х0 С П core (dom(/)) П core (dorn (g)) и отображения / : X —> Е*, g : X F' топологически квазидифференцируемы в точке xq. Скажем, что векторная программа (С,д, /) квазирегулярна в точке х0, если выполнены условия: a) существуют непрерывный сублинейный оператор Магарам г •. F Е и окрестность U точки х0 такие, что для любого х 6 CDU будет nxf(x0) ^ irxf(x), где 7ГЖ := [(г о ^(ж))-] — проектор на компоненту, порожденную элементом (г о b) множество С является Я-регулярным в точке хо; c) для любых оператора Т £ дг(д(хо)) и ненулевого проектора 7Г Е ф(Е) имеет место соотношение 7гТ о д°д(хо) П (жТдсд(х0) + ttNe(C, х0)) = 0.

Теорема 5. Пусть отображения f ид квазидифференцируемы в точке xQ Е С П core (dora (/)) П core (dorn (<?)) и векторная программа (С, д, /) квазирегулярна в точке xq. Если xq — идеальный локальный оптимум программы {С,д, /), то для любых s € 8е/(xq) я 5 € дсд(х0) существуют непрерывный ортоморфизм a е Orth(E'), непрерывный оператор Магарам 7 е L+{F,E) и линейный непрерывный оператор А 6 L(X,E) такие, что совместна система условий:

О a JE, kera = {0}, А е NE(C, х0), 7 о д(х0) = 0, -А <Е aiFfix0) - s) + 7 о (д?д(хо) - S).

Множество {х°,. ,х°} с С называют обобщенным локальным оптимумом программы (С,/), если существует такая окрестность нуля U, что /(х°) Л . А f(xn) ^ f(x 1) Л . Л f{xn) для всех x¿ € (х? + U) П С и i := 1,., п.

Рассмотрим векторную программу (С,д, /). Пусть еСП core (dorn (/)) П core (dorn (с/)), и предположим, что отображения / : X —> Е*, д : X —> F" топологически квазидифференцируемы в точках х® (г := 1,., п). Скажем, что векторная программа (С, д, /) квазирегулярна на множестве ., если выполнены следующие условия: a) существуют непрерывный сублинейный оператор М агарам г : F —> Е и окрестности £/¿ точек ж° такие, что для любого х Е С ПЩ будет nxe ^ ^/(ж), где е := /(ж") Л . Л /(ж°) и 7ГХ := [{г о ¿/(ж))-] — проектор на компоненту, порожденную элементом (roj(i))"; b) множество С является /^¿-регулярным в точке ж°; c) для каждого i :— 1,., п имеет место соотношение 7ГТ о д°д(хП (тгТ о d°g(Xi) + 7ГNe(C,x¡)) = 0, каковы бы ни были оператор Т € dr{g(x°i)) и ненулевой проектор 7г € ^Р(^)

Теорема 6. Пусть отображения g : X —у F* и f \ X Е' квазидиф-ференцируемы в точках ж®,., ж® G С П core (dorn (/)) П core (dorn (<?)). Предположим, что векторная программа (C,g,f) квазирегулярна на множестве {ж°,., ж°}. Если множество {ж?,., ж°} служит обобщенным локальным оптимумом программы (C,g,f), то для любых Si е д/(ж°) и е существуют ортоморфизмы c*i,. ,an € Orth(Е), непрерывные операторы Магарам 7i> • • ■ > 7n € L+(F,E) и линейные непрерывные операторы A¿ 6 Е1) такие, что

О < a¿ ^ ker(ai) П . П ker(an) = {0}, 7<°0(жо)=О, Äs е -А,- 6 <*(Й7(*?) - st) + 7,- о (£*(*») - Si) (г := 1,., п).

Перечислим основные результаты, выносимые на защиту.

1) Понятие квазидифференциала и соответствующее исчисление распространены на случай операторов, действующих в произвольные АТ-прост-ранства. Получены новые формулы для вычисления квазидифференциалов произведения, супремума и инфимума, качественно отличающиеся от своих скалярных аналогов.

2) Введено понятие дифференцируемости по Адамару операторов, действующих в if-пространства, а также рассмотрена порядковая непрерывность производной Адамара по направлению. Доказаны теоремы о производной по направлениям и квазидифференциале композиции.

3) С помощью техники дезинтегрирования устанавлено, что в специальных случаях выполняется аналог классического «цепного правила» — квазидифференциал суперпозиции равняется суперпозиции квазидифференциалов. В качестве следствий, в некоторых специальных случаях получены формулы для вычисления квазидифференциалов бесконечных суммы, супремума, инфимума и интегрального оператора. 4

15

4) Сформулированы необходимые условия идеального экстремума в векторных квазидифференцируемых программах с ограничениями в виде неравенства.

5) Найдены необходимые условия идеального экстремума в векторных квазидифференцируемых программах с ограничениями в виде вхождения переменной в фиксированное множество.

6) Получены необходимые условия обобщенного экстремума в векторных квазидифференцируемых программах с ограничениями.

Работа носит теоретический характер. Разработанные в ней методы могут быть использованы специалистами в области выпуклого и негладкого анализа, а также теории экстремальных задач.

Основные результаты диссертации докладывались на семинаре «Алгебра и анализ» в Северо-Осетинском госуниверситете им. К. Л. Хетагурова; на I и II международных конференциях «Порядковый анализ и смежные вопросы математического моделирования» (Владикавказ, 2003 и 2004); включены в монографию А. Г. Кусраева и С. С. Кутателадзе «Субдифференциалы. Теория и приложения». Ч. II.—Новосибирск, 2003); включены в «Отчет о деятельности Российской академии наук в 2003 г. Основные результаты в области естественных, технических, гуманитарных и общественных наук».

Результаты диссертации опубликованы в работах [2-6].

1. Акилов Г. П., Кутателадзе С. С. Упорядоченные векторные пространства.— Новосибирск: Наука, 1978.—368 с.

2. Басаева Е. К. Квазидифференциалы в /^-пространствах // Владикавк. мат. журн.—2003.—Т. 5, № З.-С. 14-30.

3. Басаева Е. К. Необходимые условия экстремума в векторных квазидиффе-ренцируемых программах // Владикавк. мат. журн.—2004.—Т. 6, № 1.

4. Басаева Е. К., Кусраев А. Г. О квазидифференциале композиции // Владикавк. мат. журн—2003—Т. 5, № 4—С. 10-25.

5. Басаева Е. К., Кусраев А. Г. Выпуклый анализ 6. Квази дифференциалы.— Владикавказ: Изд-во ВНЦ РАН—2003,—88 с.

6. Басаева Е. К., Кусраев А. Г. Двойственность Минковского и квазидиффе-ренциалъное исчисление // В сб.: Исследования по комплексному анализу, теории операторов и математическому моделированию.—Владикавказ: Изд-во ВНЦ РАН.—2004.—С. 165-217.

7. Болтянский В. Г. Метод шатров в теории экстремальных задач // Успехи мат. наук—1975.—'Т. 30, вып. 3.—С. 3-55.

8. Варга Дж. Оптимальное управление дифференциальными и функциональными уравнениями.—М.: Наука, 1977.—624 с.

9. Вулих Б. 3. Введение в теорию полуупорядоченных пространств.—М.: Физ-матгиз, 1961—407 с.

10. Гороховик В. В. О квазидифференцируемости вещественно-значных функций // Докл. АН СССР.- 1982.—Т. 266, № 6.-С. 1294-1298.

11. Гороховик В. В. О квазидифференцируемости вещественно-значных функций и условия локального экстремума // Сиб. мат. журн.— 1984.—Т. 25, № З.-С. 62-70.

12. Демьянов В. Ф. Кодифференцируемость и кодифференциалы негладких функций // Докл. АН СССР.-1987.-С. 1038-1042.

13. Демьянов В. Ф. О кодифференцируемых функциях // Вестн. Ленингр. ун-та.—1988.—№ 2(8).—С. 22-26.

14. Демьянов В. Ф. Аппроксимация второго порядка для негладкой функции // Докл. АН СССР.—1989.—Т. 309, № З.-С. 529-532.

15. Демьянов В. Ф., Васильев Л. В. Недифференцируемая оптимизация.—М.: Наука, 1981.-384 с.

16. Демьянов В. Ф., Полякова Л. Н. Условия минимума квазидифференцируе-мой функции на квазидифференцируемом множестве // Ж. вычисл. матем.и физ.—1980.—Т. 20, № 4.-С. 849-856.

17. Демьянов В. Ф., Полякова Л. Н., Рубинов А. М. Об одном обобщении понятия субдифференциала // В кн.: Тез. Всес. конф. по динамическому управлению. Свердловск.—1979.—С. 79-84.

18. Демьянов В. Ф., Рубинов А. М. Приближенные методы решения экстремальных задач.—Л.: Изд-во Ленингр. ун-та, 1968.—180 с.

19. Демьянов В. Ф., Рубинов А. М. О некоторых подходах к задачам негладкой оптимизации // Экономика и мат. методы—1981.—Т. 17, № 6.—С. 1153-1174.

20. Демьянов В. Ф., Рубинов А. М. О квазидифференцируемых функционалах // Докл. АН СССР.—1980.—Т. 250, № 1.-С. 21-25.

21. Демьянов В. Ф., Рубинов А. М. Основы негладкого анализа и квазидифференциальное исчисление.—М.: Наука, 1990.—432 с.

22. Иоффе А. Д., Тихомиров В. М. Теория экстремальных задач.—М.: Наука, 1974.-479 с.

23. Канторович Л. В., Акилов Г. П. Функциональный анализ.—М.: Наука, 1984.-752 с.

24. Канторович Л. В., Булях Б. 3., Пинскер А. Г. Функциональный анализ в полуупорядоченных пространствах.— М.-Л.: Гостехиздат, 1950.—548 с.

25. Кларк Ф. Оптимизация и негладкий анализ.—М.: Наука, 1988.—280 с.

26. Кусраев А. Г. Общие формулы дезинтегрирования // Докл. АН СССР.— 1982.—Т. 265, № 6.-С. 1312-1316.

27. Кусраев А. Г. Абстрактное дезинтегрирование в пространствах Канторовича // Сиб. мат. журн.—1984.—Т. 25, № 5.—С. 79-89.

28. Кусраев А. Г. Мажорируемые операторы.—М.: Наука, 2003.—619 с.

29. Кусраев А. Г., Кутателадзе С. С. Субдифференциалы. Теория и приложения. Ч. I.—Новосибирск: Наука, 2002.—уш+372 с.

30. Кусраев А. Г., Кутателадзе С. С. Субдифференциалы. Теория и приложения. Ч. П.—Новосибирск: Наука, 2003.

31. Кутателадзе С. С. Выпуклые операторы // Успехи мат. наук. —1979.—Т. 34, № 1.-С. 167-196.

32. Кутателадзе С. С., Рубинов А. М. Двойственность Минковского и ее приложения.—Новосибирск: Наука, 1976.—254 с.

33. Левин В. Л. Выпуклый анализ в пространствах измеримых функций и его применение в математике и экономике—М.: Наука, 1985.-352с.

34. Левитин Е. С., Милютин А. А., Осмоловский Н. П. Об условиях локального минимума в задачах с ограничениями // Математическая экономика и функциональный анализ.—М.: Наука, 1974.—С. 139-202.

35. Левитин Е. С., Милютин А. А., Осмоловский Н. П. Условия высших порядков локального минимума в задачах с ограничениями // Успехи мат. наук.— 1978.—Т. 33, вып. 6.-С. 85-148.

36. Лейхтвейс К. Выпуклые множества.—М.: Наука, 1985.—335 с.

37. Полякова Л. Н. Необходимые условия экстремума квазидифференцируемых функций // Вестник Ленингр. ун-та—1980— № 13—С. 57-62.

38. Полякова Л. Н. Об одной задаче негладкой оптимизации // Кибернетика.—1982.—№ 2.-С. 119-122.

39. Полякова Л. Н. Необходимые условия экстремума квазидифференцируемой функции при квазидифференцируемом ограничении // Вестник Ленингр. ун-та.—1982.—№ 7.-С. 75-80.

40. Полякова Л. Н. Достаточные условия локального экстремума квазидифференцируемой функции при квазидифференцируемом ограничении // Вестник Ленингр. ун-та—1985—Л* 22—С. 26-30.

41. Пшеничный Б. Н. Выпуклый анализ и экстремальные задачи.—М.: Наука, 1980.-320 с.

42. Пшеничный Б. Н. Необходимые условия экстремума.—М.: Наука, 1982.— 144 с.

43. Рокафеллар Р. Т. Выпуклый анализ.—М.: Мир, 1973.—470 с.

44. Рубинов А. М. Сублинейные операторы и их приложения // Успехи мат. наук.—1977.—Т. 32, вып. 4.-С. 113-174.

45. Тихомиров В. М. Выпуклый анализ // Анализ И. Современные проблемы математики. Фундаментальные направления.—М.: ВИНИТИ, 1987.—Т. 14.— С. 5-102.

46. Demyanov V. F. Continuous generalized gradients for nonsmooth functions. Lecture Notes in Economics and Mathematical Systems.—Berlin: SpringerVerlag, 1988.—V. 304.—P. 24-27.

47. Demyanov V. F., Dixon L. C. W. (Eds.) Quasidifferential Calculus // Mathematical Programming Study.—V. 29.—221 p.

48. Demyanov V. F., Pallaschke D. (Eds.) Nondifferentiable Optimization: Motivations and applications // Lecture Notes in Economicts mathematical systems — Berlin: Springer-Verlag, 1985 —V. 225.-349 p.

49. Demyanov V. F., Rubinov A. M. On quasidifferentiable mappings //Math. Operationsforsch. Statist. Ser. Optimization.—1983.—V. 14.—P. 3-21.

50. Demyanov V. F., Rubinov A. M. Quasidifferential Calculus.—N. Y.: Optimization Software, 1986.—301 p.

51. Fenchel W. Convex Cones, Sets and Functions.— Princeton: Princeton Univ. Press, 1953.

52. Gorokhovik V. V. e-quasidifferentiability of real-valued function and optimality conditions in extremal problems // In. 47., P. 203-218.

53. Handschug M. On one class of equivalent quasidifferentials // Vestnik of Leningrad University—1989—№ 8—P. 28-31.

54. Handschug M. On equivalent quasidifferentials in the two-dimantional case // Optimization.—1989.—V. 20, Jf* 1—P. 37-43.

55. Ioffe A. D. A new proof of the equivalence of the Hahn-Banach extension and the least upper bound properties // Proc. Amer. Math. Soc.—1981.—V. 82, № 3.— P. 385-389.

56. Luxemburg W. A. J. and Schep A. R. A Radon-Nikodym type theorem for positive operators and a dual // Indag. Math.—1978—V. 40, № 3— P. 357-375.

57. Maharam D. On positive operators // Contemp. Math.—1984.—V. 26.—P. 263277.

58. Moreau J.-J. Fonctions Convexes en Dualité, Multigraph, Séminaires Mathématique, Faculté des Sciences, Univ. de Montpellier, 1962.

59. Neumann M. On the Strassen disintegration theorem // Arch. Math.—1977.— V. 29, № 4.-P. 413-420.

60. Neustadt L. W. Optimization — A Theory of Necessary Conditions. Princeton: Princeton Univ. Press, 1976.

61. Pallaschke D., Rieht P. On the steepest-descent method for a class of quazidifferentiable optimization problem // In 48.—P. 252-263.

62. Penot J.-P. Calculus sous-differentiel et optimization // Funct. Anal.—1978.— V. 27, № 2.-P. 248-276.

63. Polyakova L. N. On the minimization of a quasidifferentiable function subject to equality-type quasidifferentiable constraints // In: 47.—P. 44^55.

64. Quasidifferentiability and Nonsmooth Modelling in Mechanics, Engineeng and Economi // Edited by V. Demyanov, G. Stavroulaskis, L. Polykova, P. Panagiotopoulos.—Dordrecht: Kluwer Academic Publishers, 1996.—349 p.

65. Quasidifferentiability and Related Topics / edited by V. Demyanov and A. Rubinov // Nonconvex Optimization and Its Applications. Vol. 43.— Dordrecht: Kluwer Academic Publishers, 2000.—400 p.