Абстрактное кодифференциальное исчисление в нормированных пространствах и его приложения к негладкой оптимизации тема автореферата и диссертации по математике, 01.01.09 ВАК РФ

САНКТ-ПЕТЕРБУРГСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ

На правах рукописи

Долгополик Максим Владимирович

АБСТРАКТНОЕ КОДИФФЕРЕНЦИАЛЬНОЕ ИСЧИСЛЕНИЕ В НОРМИРОВАННЫХ ПРОСТРАНСТВАХ И ЕГО ПРИЛОЖЕНИЯ К НЕГЛАДКОЙ ОПТИМИЗАЦИИ

01.01.09 — дискретная математика и математическая кибернетика

АВТОРЕФЕРАТ

диссертации на соискание учёной степени кандидата физико-математических наук

17 июл гон

Санкт-Петербург 2014

005550713

005550713

Работа выполнена в Санкт-Петербургском государственном университете.

Научный руководитель: доктор физико-математических наук,

профессор Демьянов Владимир Фёдорович

Официальные оппоненты: Ерохин Владимир Иванович,

доктор физико-математических наук, профессор Санкт-Петербургский государственный технологический институт (технический университет), заведующий кафедрой

инноватики и информационных технологий

Кулагин Виктор Васильевич, кандидат физико-математических наук Институт проблем машиноведения РАН, старший научный сотрудник

Ведущая организация: Саратовский государственный университет имени Н.Г. Чернышевского

Защита состоится "24" сентября 2014 г. в 16 часов на заседании диссертационного совета Д.212.232.29 по защите докторских и кандидатских диссертаций при Санкт-Петербургском государственном университете по адресу: 199178, Санкт-Петербург, 10 линия В.О., д. 33/35, ауд. 74.

С диссертацией можно ознакомиться в библиотеке им. A.M. Горького Санкт-Петербургского государственного университета по адресу: 199034, Санкт-Петербург, Университетская наб., д. 7/9 и на сайте http://spbu.ru/science/disser/dissertatsii-dopushchennye-k-zashchite-i-svedeniya-o-zashchite.

Автореферат разослан " 20 " ij(iC/H<X- 2014 года.

Ученый секретарь диссертационного совета доктор физ.-мат. наук, профессор

Нежинский В.М.

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность темы исследования. Негладкий анализ, как раздел математики, изучающий недиффереицируемые функции, в первую очередь в связи с теорией негладких экстремальных задач, сформировался во второй половине XX века под влиянием работ В.Ф. Демьянова, A.M. Рубинова, Н.З. Шора, Б.Н. Пшеничного, А.Д. Иоффе, Ф. Кларка, Дж. Варги и многих других авторов. Основными инструментами исследования в негладком анализе являются производная по направлениям и субдифференциал, а также их многочисленные обобщения, такие как верхняя и нижняя производные Кларка, субдифференциал Кларка, проксимальный субдифференциал и субдифференциал Мишеля-Пено. Общим свойством всех обобщений понятий производной по направлениям и субдифференциала является тот факт, что все они определяют некоторую положительно однородную аппроксимацию приращения функции. Одним из наиболее продуктивных методов исследования производных по направлениям негладких функций является метод, основанный на понятии экзо-стера, поскольку данный метод позволяет выражать удобным образом условия экстремума негладкой функции, а также строить направления спуска и подъёма данной функции. Однако, в негладком случае производная по направлениям, как и её обобщения, не является непрерывной функцией точки, что существенно затрудняет построение эффективных численных методов решения негладких оптимизационных задач. Поэтому В.Ф. Демьянов ввёл понятие кодифференцируемой функции и кодифференциала с помощью которого строится неоднородная аппроксимация приращения негладкой функции. Для очень широкого класса негладких функций кодифференциальное отображение является непрерывным в метрике Хаусдорфа, что позволяет строить эффективные методы недифференцируемон оптимизации на основе понятия кодифференциала. Отметим здесь замечательное свойство метода кодиф-ференциального спуска "обходить" некоторые точки локального минимума, существенно отличающее данный метод от других методов гладкой и негладкой оптимизации. Ещё одним преимуществом подхода, основанного на кодифференцируемости, является наличие удобного исчисления кодифференцируемых функций, построенного В.Ф. Демьяновым и A.M. Рубиновым, в то время как для большинства обобщений понятий субдифференциала и производной по направлениям не существует полноценного исчисления. Дальнейшим обобщением понятия кодифференциала является понятие верхнего и нижнего коэкзостера, с помощью которого также определяется неоднородная аппроксимация приращения функции.

Одной из актуальных задач, стоящих в настоящее время, является дальнейшее развитие теории неоднородных аппроксимаций негладких функций, как одного из наиболее эф-

фективных инструментов исследования негладких задач.

Целью диссертации является построение общей теории неоднородных аппроксимаций негладких функций на основе идей абстрактного выпуклого анализа, развитие теории кодифференцируемости и неоднородных выпуклых аппроксимаций в нормированных пространствах, а также их применение к исследованию различных экстремальных задач.

Теоретическая значимость работы состоит в том, что в ней развивается общая теория аппроксимаций негладких функций, позволяющая решать различные негладкие экстремальные задачи. В диссертации строится исчисление абстрактных выпуклых аппроксимаций негладких функций, впервые приводятся многочисленные свойства кодифференцируе-мых функций, а также детально изучается метод кодифференциального спуска и развивается аппарат исчерпывающих семейств неоднородных выпуклых аппроксимаций, являющийся удобным инструментом исследования различных оптимизационных задач.

Практическая значимость работы определяется тем, что в ней разработан общий подход к построению различных аппроксимации негладких функций и изучению различных экстремальных задач с ограничениями. Кроме того, в диссертации подробно изучены метод кодифференциального спуска и метод спуска, основанный на неоднородных выпуклых аппроксимациях, позволяющие эффективно решать негладкие экстремальные задачи и строить новые численные методы решения гладких оптимизационных задач с ограничениями. Также в диссертации приведены различные приложения к задачам вариационного исчисления.

Научная новизна. Все основные научные результаты диссертации являются новыми.

Методы исследования. В диссертации применяются современные методы теории экстремальных задач, негладкого анализа и недифференцируемой оптимизации.

Основные результаты, полученные в диссертации и выносимые на защиту:

• построено исчисление абстрактных выпуклых аппроксимаций негладких функций;

• получены необходимые условия экстремума негладких функций в терминах абстрактных выпуклых аппроксимаций;

• на основе абстрактных выпуклых аппроксимаций указана связь между квазидифференциалом, экзостером, кодифференциалом и коэкзостером;

• понятия кодифференцируемости и коэкзостера обобщены на случай функций, определённых на нормированном пространстве;

• получены многочисленные новые свойства кодифференцируемых функций;

• обобщён и подробно изучен метод кодифференциального спуска;

• построено исчисление исчерпывающих семейств неоднородных верхних выпуклых и нижних вогнутых аппроксимаций негладких функций;

• построен и изучен метод спуска, основанный на неоднородных верхних выпуклых аппроксимациях;

• выведены необходимые условия экстремума в некоторых негладких задачах вариационного исчисления.

Апробация работы. Результаты, изложенные в диссертации, докладывались и обсуждались на Всероссийской конференции "Устойчивость и процессы управления", посвященной 80-ти летию со дня рождения В. И. Зубова (г. Санкт-Петербург, 1-2 июля, 2010 г.), международной конференции "Конструктивный негладкий анализ и смежные вопросы (СЖА-2012)" (г. Санкт-Петербург, 18-23 июня 2012 г), международной конференции "Обратные и некорректные задачи математической физики" (г. Новосибирск, 5-12 августа, 2012 г), 17 Саратовской зимней школе "Современные проблемы теории функций и их приложения" (г. Саратов, 27 января - 3 февраля, 2014 г.), ХЫ и ХЫ1 международных научных конференциях аспирантов и студентов "Процессы управления и устойчивость" (г. Санкт-Петербург, 5-8 апреля, 2010 г., 4-7 апреля, 2011 г.) и семинаре по дискретному гармоническому анализу и геометрическому моделированию (математико — механический факультет, СПбГУ).

Публикации. По результатам исследований опубликовано 8 печатных работ, из которых две в соавторстве и две в изданиях, рекомендуемых ВАК.

Работы [2, 8) написаны в соавторстве. В работе [2) автору принадлежит доказательство основных результатов, В.Ф. Демьянову — общая постановка задач, идея метода кодифференциального спуска и идея приложения теории кодифференцируемых функций и теории точных штрафных функций к исследованию задач вариационного исчисления. В работе [8] автору принадлежит доказательство основного результата об эквивалентности методов наискорейшего и гиподифференциального спусков, Г.Ш. Тамасяну — общая постановка задачи.

Структура и объем диссертации. Диссертация состоит из Введения, пяти глав, заключения, списка обозначений и списка литературы. Определения, предложения, теоремы, леммы, следствия, примеры и замечания нумеруются в соответствии с главой, параграфом, в которых они находятся. Формулы нумеруются в соответствии с главой, в которой они находятся. Объём работы составляет 140 страниц. Список литературы включает 128 наименований.

СОДЕРЖАНИЕ РАБОТЫ

Во Введении приводится обзор литературы по теме работы, обсуждается актуальность исследования, его теоретическая и практическая ценность, научная новизна.

В первой главе приведены основные определения и результаты из топологии, функционального анализа, выпуклого анализа, теории многозначных отображений и негладкого анализа, используемые в следующих главах. Здесь также даются базовые определения и утверждения абстрактного выпуклого анализа. Пусть X — непустое множество, H — непустое семейство функций h: X —» M. Функция /: X —> M называется Н-выпуклой (Н-вогнутой), если существует непустое множество U С H такое, что

f(x) = sup h{x) (/О) = inf h(x)) \/x e X.

h€u fev

В случае, когда X является нормированным пространством, а множество H совпадает с множеством всех непрерывных аффинных функций h: X —» M, множество всех Н-выпуклых функций f совпадает с множеством всех собственных полунепрерывных снизу выпуклых функций, а множество всех //-вогнутых функций / совпадает с множеством всех собственных полунепрерывных сверху вогнутых функций.

В первой главе также приводятся определения квазндифференцируемости, кодиффе-ренцируемости, экзостера и коэкзостера и формулируются необходимые условия экстремума в терминах данных аппроксимаций. Пусть fi С К" — открытое множество. Функция / : fi —> R называется квазадиффереицируемой в точке iE О, если / дифференцируема по направлениям в точке х и существуют выпуклые компакты dj(x), df(x) С R" такие, что

f'(x,g) = тах(г>,д) + min (w, g) Vg e К", »eä/W wedf(x)

где f'(x, •) — производная по направлениям функции / в точке х и (•, •) — скалярное произведение в R".

Будем говорить, что у функции / в точке х существует верхний экзостер в смысле Динн, если функция / дифференцируема по направлениям в точке х и существует семейство E'f(x) выпуклых компактных подмножеств R" таких, что

f'(x, g) = min max<i>, g} Vg € ÏT.

cse-j(x) iec

Функция / : fi —»• R называется кодифферепцируемой в точке г G fi, если существует пара выпуклых компактов df(x), df(x) С Rn+1 таких, что для любого допустимого Ах G R™ (т. е. co{i, х + Ai} С fi) будет

f(x + Ax)-f(x) = max (а + (и, Ai)) + min (Ь+(w,Ax))+o(Ax,x),

(a,v)£df(z) (b,ui)e<№)

где о(аАх,х)/а —> 0 при а —> +0.

Семейство непустых выпуклых компактных подмножеств Ef(x) пространства R"+1 называется обобщённым верхним коэкзостером в смысле Дини функции /: Q —> К в точке х £ Q, если для любого допустимого Ах 6 М" будет

f(x + Ax)-f{x)= inf max (а 1- (v, Ах)) + о(Ах,х), СаЕЦх) (а,и)еС

где о(аАх,х)/а —> 0 при а —> +0.

В главе 2 вводится понятне абстрактно кодифференцируемой функции и абстрактной выпуклой аппроксимации негладкой функции, строится исчисление абстрактно кодифферен-цируемых функции, формулируются условия экстремума в терминах введённых аппроксимаций, а также приводится несколько конкретных классов абстрактно кодифференцируемых функций.

Пусть везде далее X — нормированное пространство, Q С X — открытое множество, Н — непустое множество функций h: X —¥ R. Обозначим через PF(X, Н) множество, состоящее из всех нар функций (Ф, Ф) таких, что функция Ф: X —> Я является //-выпуклой, функция Ф: X —> К является //-вогнутой и 0 € int(dom$ Пс1отФ).

Введём бинарное отношение а на множестве PF(X,H). Пусть ((Фь Ф1), (Ф2, Ф2)) € о где (Фь Ф{) € PF{X, Н), г € {1,2}, тогда и только тогда, когда Ф^О) + Ф^О) = Ф2(0) + Ф2(0) и для любого х G X будет lima|0 (Ф^ах) + Ф^ах) — Ф2(ах) — Ф2(ах))/а = 0. Бинарное отношение а является отношением эквивалентности. Множество всех классов эквивалентности PF(X, Н)/ст обозначим через EPF(X, Н). Если (Ф,Ф) £ PF(X,H), то обозначим через [Ф, Ф] класс эквивалентности элемента (Ф, Ф) по отношению <т.

Определение 1. Функция /: f! —> R называется Н-кодиффереицируемой (или абстрактно кодифференцируемой по отношению к множеству Н) в точке i€i), если существует элемент <5///(х) е EPF(X,H) для которого существует пара (Ф, Ф) 6 ¿я/(х) такая, что Ф(0) + Ф(0) = 0 и для любого допустимого Ах е X (т. е. со{х,х + Дх} С ii П dorn Ф П dorn Ф) будет

f{x + Ax)-f(x) = Ф(Дх) + Ф(Дх) + о(Дх,х), (1)

где о(аАх,х)/а —»• 0 при а | 0. Элемент 5/и(х) называется Н-производной функции / в точке х. Функция / называется Н-гиподиффереицируемой (Н-гипердифференцируелюй) в точке х, если существует пара (Ф, 0) € PF(X,H) ((0, Ф) е PF(X,H)) такая, что (Ф,0) G SfH(x) ((0,Ф) € Sfu(x)).

Многие классы негладких функций совпадают с классом //-кодифференцируемых функций для определённых множеств Н.

Предложение 1. Пусть X = R", множество Н состоит из всех линейных функционалов на X и функция / : П —> R произвольна. Тогда f является Н-кодифференцируемой в точке i Ё f! тогда и только тогда, когда она квазидифференцируема в этой точке.

Предложение 2. Пусть X = R", множество Н состоит из всех сублинейных функций на R" и функция /: f! —> R произвольна. Тогда f является Н-гипердиффереицируемой в точке х е Q тогда и только тогда, когда существует верхний экзостер функции / в точке х.

Предложение 3. Пусть X = R", множество Н состоих из всех аффинных функций h: R" —»■ К и функция /: О -> 1 произвольна. Тогда / является Н-кодифференцируемой в точке х 6 Я тогда и только тогда, когда f кодифференцируема в данной точке.

Предложение 4. Пусть X = R", множество Н состоит из всех выпуклых функций h: R" —t R и функция f: fl —» R произвольна. Тогда f является Н-гипердифферепцируемой в точке 1 е i! тогда и только тогда, когда существует обобщённый верхний коэкзостер фгункции f в этой точке такой, что

О € int dorn ( inf hc), hc(-) = max (а + (v, •)) VC G Ef{x). (2)

\C€E/(i) > MEC

С помощью понятия абстрактной кодифференцируемости можно получать удобные необходимые условия экстремума в задачах математического программирования. Напомним, что функция /: X —> R такая, что /(0) = 0 называется субоднородной, если для любых х € X и а € (0,1) будет ¡{ах) < а/(х).

Теорема 1. Пусть А С П — выпуклое множество, fi~. П R являются Н-

кодифференцируемыми в точке х" G А, г 6 /о = / U {0}, I = {1,...,п}. Предположим также, что для любых h, р € Н сумма h+p корреютю определена и х' является точкой локального минимума в задаче

f0{x) ->■ inf, ieA, fi(x) <0, г € I.

Тогда для любых (Ф^Ф*) £ 6ufi(x") и pt 6 Н, г G /о, таких, что Pi(x) > ФДх) для всех х € X, р,(0) = ФДО) и функция

д(-) = 5ир{ф0(-) +Ро(0. $!(•) +№(•) + fl(x'), ■ • • п(-) +Рп(0 + fn(x')}

субоднородна, 0 является точкой глобального минимума функции g на множестве А — х'.

Далее исследуются два конкретных класса абстрактно кодифференцируемых функций. В главе 3 изучаются кодифференцируемые функции, определённые на нормированном пространстве, строится исчисление кодифференцируемых функций, а также выводятся необходимые условия экстремума и различные свойства данных функций.

Определение 2. Функция /: Г2 —> R называется кодифферепцируемой в точке если

существуют собственная иолунеирерывая снизу выпуклая функция Ф: X —> R и собственная полунепрерывная сверху вогнутая функция Ф: X -> К такие, что 0 € int(dom$ П йотФ), Ф(0) + Ф(0) = 0, функции Ф и Ф непрерывны в нуле и для любого допустимого Ах € X

/(х + Ах) - /(х) = Ф(Дх) + Ф(Дх) + о(Дх,х), где о(аАх,х)/а —> 0 при а —> +0.

В следующем предложении указан другой подход к определению кодифференцируе-мости.

Предложение 5. Функция f:ü-y R является кодифференцируемой в точке х € П тогда и только тогда, когда существуют выпуклые ограниченные и компактные в топологии г х w" множества А, В С К х X* такие, что таХ(оде)£д а = min6 = 0 и для любого допустимого Ах € X будет

/(х + Дх) - f(x) = шах (a + v(Ax)) + min (Ь + ^'(Дх)) + о(Дх,х), (а,^)€Л (b.tf')eß

где о(аАх,х)/а —> 0 при а +0. Здесь т — стандартная топология на вещественной прялюй, из* — слабая* топология на X'.

Пара множеств Df(x) = [Л, В], фигурирующая в предыдущем предложении, называется кодифференцисигом функции / в точке х, множество dj(x) = А называется гиподиффс-ренциалом функции / в точке х, а множество df(x) = В называется гипердифференциалом функции / в этой точке.

Наиболее важную роль в приложениях играют непрерывно кодифференцируемые функции.

Определение 3. Будем говорить, что функция /: Г2 —Ж н,епрерывно кодифференцируелш в точке х € ii, если f кодифференцируема в некоторой окрестности точки х и существует кодифференциальное отображение у —> Df(y) определённое в некоторой окрестности точки х такое, что многозначные отображения у -> df(y) и у —» df(y) непрерывны по Хаусдорфу в точке х.

Множество всех непрерывно кодифференцируемых функций образует векторную решётку замкнутую относительно операции поточечного умножения функций.

Справедливы следующие необходимые условия экстремума в терминах кодифференцируемых функций.

Теорема 2. Пусть А С fi — замкнутое выпуклое множество, функции /,•: Г2 -» R являются кодифферепцируемыми в точке х' 6 Л, г € /о = {0} UI, I = {1,..., п}. Предположим, что х* является точкой локального минимума в задаче

fo(x) inf, х £ А, fi(x) 0, ¡€/.

Тогда для любых (0, ipi) £ dfi(x), г £ R{x") U {0}, будет

со ^dfi(x') + {(0,^)} I i е U {0}} П ({0} х ( - N(A,x'))) ф 0,

где R(x') = {г £ I | fi(x*) = 0} и N(A,x') = {р £ X* \ р(а - х*) < 0 Va € А}. Если, кроме того, для любых (0,tpi) £ dfi(x), i € Я(х'), будет

co{d/,(a:*) + {(0,^)} | г £ Я(х*)} П ({0} х ( - N(A, х*))) =0,

то для любых (0,ipi) £ dfi(x), i £ Ig, существуют A, JS 0, г £ / такие, что \ifi(x") — 0 для всех г £ I и

п

(<Щх*) + {(0, ^о)} + J2 А- Ш*') + П ({0} X ( - N{A, х-))) ф 0.

! = 1

Далее исследуются различные свойства кодифференцируемых функций и, в частности, доказываются аналог классической теоремы Лагранжа о среднем значении и утверждение о локальной липшицевости непрерывно кодифференцируемой функции.

Теорема 3. Пусть функция /: П —> R кодифференцируема на множестве Q. Тогда для любых Х\, X2 £ П таких, что co{xi,X2} С П существует в £ (0,1) для которого существуют (0,9) £ df(xj + 0(х2 — Xi)) « (0,ip) £ rf/(xi + ö(x2 — Xi)) такие, что /(х2) — /(xi) = + -ii).

Предложение 6. Пусть функция /: Q, -» R кодифференцируема на множестве П. Пусть также 5 С f! - выпуклое множество такое, что кодифференциал функции f ограничен на множестве S. Тогда функция f удовлетворяет условию Липшица на множестве S. В частности, если функция f непрерывно кодифференцируема, то опа локально липшицева.

Предлагается теоретическая схема метода нахождения стационарных точек кодифференцируемой функции, определённой на нормированном пространстве, обобщающая соответствующий метод для конечномерных задач.

Пусть функция /: X —> R кодифференцируема на X. Зафиксируем любые р, > 0 и 1 < р < +оо. Положим II (а, ¥>)||р = (|а|р+ |М1Р)' Для всех (°> Ф) £ К х X*. Для любого х £ X определим множество

d^f(x) = {w € df(x) | ги = (Ь,ф), 0 s: 6 < ß}, 10

а для любого и) е с1ц/(х) положим Ь(хк,и<) = <Ц{хк) + {и'}-

Теоретическая схема метода кодифференциального спуска задаётся следующим образом.

1. Выбрать Хо € X.

2. к-ая итерация (к ^ 0):

(a) Вычислить Ц(хк), ¿/(хк) и 2ц}(хк).

(b) Для каждого т € йц}(х) найти {ак{ы), <£*(■; ш)) & Ь(хк, ы) такое, что

||(а,р)||р = и-'))||р-

(а,í(?)eL(x^.u.•)

(c) Для каждого ы € х) вычислить Ахк(и>) € X такое, что

шГ Дат; ш) = рк(Ахк(и'); иг)

||Дх|| = 1

(если ¡¿к(-;ги) = 0, то положим Ахк(ю) = 0).

(<1) Для каждого и; € ¿^/(х) вычислить ак(т) по правилу

Ы /(хк + аАхк(и<)) = }(хк + ак(т)Ахк(т)).

(е) Выбрать Лхк € X и ак € [0, +ос) по правилу

}(хк + ак(ю)Ахк(и<)) = }(хк + акАхк) и положить хк+1 = хк + акАхк.

В результате применения данного метода получим последовательность такую, что /(хк+\) < /(хк) для всех к € N. Отметим, что несмотря на выполнение данного условия направление хк+\ — хк может и не быть направлением спуска функции / в точке хк. В этом направлении функция может сначала возрастать, а потом убывать. Поэтому метод кодифференциального спуска позволяет "обходить" некоторые точки локального минимума.

Справедлива следующая теорема о стационарности предельных точек последовательности, построенной по методу кодифференциального спуска.

Теорема 4. Пусть X — строго выпуклое рефлексивное нормированное пространство, функция /: X К непрерывно кодифференцируема на X и ш[х£х/(?) > —оо. Предположим также, что последовательность {х*}, построенная по методу кодифференциального спуска для функции /, сходится к точке х' 6 X, а функция / равномерно кодифференцируема в некоторой окрестности точки х". Тогда точка х' является стационарной точкой функции f на X. Если, кроме того, / выпукла, то х" — точка глобального мииимума функции /.

В Главе 4 изучаются исчерпывающие семейства неоднородных верхних выпуклых и нижних вогнутых аппроксимаций негладких функции, строится исчисление данных семейств, выводятся различные условия экстремума в терминах неоднородных верхних выпуклых и нижних вогнутых аппроксимаций. Семейства неоднородных верхних выпуклый аппроксимации (далее неодн. в.в.а.) представляют собой обобщения понятий коэкзостера и .ff-гипердифференцируемости в случае, когда множество Н состоит из собственных полунепрерывных снизу выпуклых функций.

Определение 4. Пусть /: Q —> R — произвольная функция. Полунепрерывная снизу собственная выпуклая функция ip: X —¥ R называется слабой неодн. в.в.а. функции / в точке х, если выполнены условия:

1. О € int dorn ip и <¿>(0) > 0;

2. для любых Ах € X и е > 0 существует ао > 0 такое, что со{х, х + ооАх} С Г2 и

f(x + Ах) sS }{х) + ip(Ax) + еа Vae[0,ao).

Определение 5. Семейство слабых неодн. в.в.а. {*>д}, А € Л, функции f в точке х будем называть исчерпывающим, если для любого допустимого Дх £ X будет

/(х + Дх) = /(х) + inf рл(Дя) + о(Дх),

ЛеЛ

где infA£A <^л(0) = 0 и о(аАх)/а —> 0 при а I 0.

Справедливы следующие необходимые условия экстремума в терминах неодн. в.в.а. негладкой функции.

Теорема 5. Пусть А С П — замкнутое выпуклое множество, {>Рх,}, А, £ Aj - семейство слабых неодн. в.в.а. функции fi —> R в точке х* € А, г 6 Iq = {0} U 1,1 = {1,...,п}. Предположим, что точка х* является точкой локального минимума в задаче

/о(х) inf, хеА, ¡¡(х) ^ 0, iE I.

Тогда для любых ¡p\t таких, что у^лДО) = 0, / G R(x*) U {0} будет

со{0*зл,(0) | г € Д(х*)и{0}} П ( - ЛГ(А,х*)) ф 0,

где R(x*) = {г G I \ fi(x') = 0} и 9у>лД0) — субдифференциал выпуклой функции ip\ в нуле.

Теорема 6. Пусть семейство {^л}, А € Л, является исчерпывающим семейством слабых неоди. в.в. а. фунщии f в точке х" и предполоэюим, что х* — точка локального максимума функции f. Тогда для любого Ах G X и дм любого е > 0 существует А G Л такое, что р(Ах) < £ для всех р G 3^л(0).

Предлагается метод спуска, основанный на неоднородных верхних выпуклых аппроксимациях. Данный метод является обобщением метода кодифференциального спуска Пусть функция /: X -> R произвольна. Предположим, что существует семейство функций ip\: X х X —> R, А € Л, такое, что для любых А € Л и х G X функция ip\(x,-) является слабой неодн. в.в.а. функции / в точке х, и для любого А € Л существует непрерывное по Хаусдорфу многозначное отображение CjiXriRxX' такое, что для любого х G X множество С\(х) выпукло и компактно в топологии т х w* и

¥>л(х, у) = , шах (а + ip(y)) Vy G Л",

где, как и выше, т — стандартная топология на R, w* — слабая* топология на Л'*.

Зафиксируем любые ц > 0 и 1 < г < -1-ое. Напомним, что ||(в,р)||г = (|я|г + ||р|Г)г для всех (а,р) G R х X*. Для любого х G X определим множества

Л„(х) = {А G Л | Ых,0) ^ //}, Л0(х) = {А G Л 11рл(х,0) = 0}.

Мы будем предполагать, что для любого х G X множество Ло(х) непусто. Теоретическая схема метода спуска имеет следующий вид:

1. Выбрать Хо G X.

2. fc-ая итерация (к ^ 0):

(a) Для каждого А G Л^хь) найти (afc(A),pjc(-; А)) G Сл(хц-) такое, что

, inf l|(a,p)||r = ||MA),pt(-;A))||r.

(a.p)eCi(xt)

(b) Для каждого А G Л^(хк) вычислить Ахк(А) G X такое, что

inf рк{Ах; А) = pk(Axk{X); А)

||Дг||=1

(если рк(-\А) = 0, то положим Ахк(Х) = 0).

(c) Для каждого А G ЛM(xi;) вычислить ак(Х) по правилу

inf f(xk + аАхк(Х)) = f(xk + ак( Х)Ахк(\)).

((1) Выбрать Ахк € X и ак € [0, +эс) по правилу

шГ ¡{хк + ак{\)Ахк{\)) = /(хк + акАхк)

Аел„(хь)

и положить хк+1 = хк + акАхк.

Предложенный метод действительно является методом спуска, т. е. для любого к € N будет /(хк+1) < /(хк). При некоторых дополнительных предположениях на семейство

А 6 Л, справедлива теорема о стационарности предельных точек последовательности, построенной по методу спуска.

С помощью предложенного выше метода спуска можно упростить метод кодифферен-циального спуска для определённого класса кодифференцируемых функций.

Определение 6. Пусть функция /: —>■ К непрерывно кодифференцируема на П. Будем говорить, что гипердифференциал функции / разложим на множестве И, если существует кодифференциальное отображения функции / на множестве П такое, что

2}(х) = со{(6^(х),<?Д-;х)) е К х X* | е 7} Ух 6 П, где 3 = {1,...,«}, а отображения х —» (Ь7(х),д]{-',х)) непрерывны, ] € 3.

Пусть функция /: X —> К непрерывно кодифференцируема на X и гипердифференциал функции / разложим. Определим А = ./ = {1...., б} и для каждой пары (Ь^(х), х)) £ К х X*, } € 3 = {1,..., в}, где отображения х —> qj(■; х)), ] 6 3, входят в определение

разложимости гипердифференциала, положим

СДх) =<//(х) + {(^(х),%(-;х))}, ъ{х,у)= тах (а+р(з/)) Чу € X.

Семейство {<>За}, А £ Л, удовлетворяет всем предположения указанным выше. Поэтому к функции / можно применить метод спуска, который в данном случае естественно называть модифицированным методом кодифференциального спуска. Можно показать, что при некоторых дополнительных предположениях все предельные точки последовательности, построенной по модифицированному методу кодифференциального спуска являются стационарными.

В Главе 5 рассматриваются приложения разработанной теории к некоторым негладким задачам вариационного исчисления. В данной главе выводятся необходимые условия экстремума для одной негладкой классической задачи вариационного исчисления и негладкой задачи Больца, в которой интегрант представим в виде суммы максимума и минимума

конечных семейств непрерывно дифференцируемых функций. На конкретных примерах показывается, что полученные необходимые условия экстремума лучше других существующих необходимых условий экстремума в негладких задачах вариационного исчисления. Также показывается, как теория неоднородных верхних выпуклых аппроксимаций позволяется существенно упростить вывод необходимого условия экстремума в многомерной минимаксной задаче вариационного исчисления.

Рассмотрим негладкую задачу Больца

rb

= fo(x(a),x(b))+ / (max/j(x(t),i(t),í)+minsj(i(í),i(f),í))díinf, (3) Ja

где функции /ь ду. Rd х Rd х [а,Ь] -> R, /¿ = fi(x,z,t), g¡ = gj(x,z,t), i G I - {1,..., n}, j € J = {l,...,m} непрерывны по совокупности переменных и непрерывно дифференцируемы по ж и г на всей своей области определения, а /0: Rd х Rd —» R — заданная функция.

Положим f(x,z,t) = max!S/ fi(x,z,t), g(x,z,t) = minjej gj(x,z,t) и введём многозначные отображения

¡UJix, z, t) = со I (/Дат, г, t) - /(я, г, £), |£(х, г, t), |fj(x,z,t)^ \ i £ /} ,

2„g(s, z, t) = со I [g¡{x, z, t) - g(x, z, t), §|(x, z,t), ||(x, г, t)j | j € ./} .

Заметим, что множество dX2f(x,z,t) является гиподифференциалоы отображения (x,z) —» f(x,z,t) в точке (x,z), а множество dXt2g(x, z,t) является гипердифференциалом отображения (х, z) —> д(х, z, f) в точке (х, z).

Справедливо следующее необходимое условие экстремума в задаче (3).

Теорема 7. Пусть х* е С1,<'[а, 6] является точкой локального минимума в задаче (3), а выпуклая функция ifQi R2d -> R является слабой неодн. в.в.а. функции /о о точке (х*(а),х*(Ь)), причём 9о(0|0) = 0. Тогда для любого измеримого отображения w: [а, 6] —v Rd х Rd такого, что (0, iu(t)) € dx-zg{x{t),x{t),t) для почти ecext е [а, 6] существует абсолютно непрерывная функция £: [а, 6] —► R1' такая, что дм почти всех t € [а, 6]

(о, с (г), С«) б <L, J(x(t), x(í), í) + {(o, u-(í))}

и выполнено условие трансверсальности (С(а), ~C(b)) € 3уо(0,0).

В Заключении дается краткий обзор всей работы с перечислением полученных результатов и обсуждаются возможные направления дальнейших исследований.

ПУБЛИКАЦИИ ПО ТЕМЕ ДИССЕРТАЦИИ

Публикации в изданиях, входящих в перечень ВАК рецензируемых научных журналов:

1. Долгополик М.В. Неоднородные выпуклые аппроксимации негладких функций // Известия вузов. Математика. 2012. № 12. С. 34-50.

Переведена:

Dolgopolik hl. V. Inhomogeneous convex approximations of nonsmooth funcitons // Russian Mathematics. 2012. vol. 5G, no. 12. pp. 28-42.

2. Демьянов В.Ф., Долгополик M.B. Кодифференцируемые функции в банаховых пространствах: методы и приложения к задачам вариационного исчисления // Вестник Санкт-Петербургского университета, серия 10. 2013. Вып. 3. С. 48-67.

Публикации в других изданиях:

3. Долгополик М.В. Кодифференциальное исчисление в нормированных пространствах // Проблемы математического анализа. 2011. Вып. 54. С. 3-22.

Переведена:

Dolgopolik М. V. Codifferential calculus in normed spaces // Journal of Mathematica Sciences. 2011. vol. 173, no. 5. pp. 441-462.

4. Долгополик М.В. Кодифференцируемые функции в нормированных пространствах / Процессы управления и устойчивость: Труды 42-й международной научной конференции аспирантов и студентов; под ред. A.C. Ерёмина, Н.В. Смирнова. СПб.: Издат. Дом С.-Петерб. гос. ун-та. 2011. С. 9-14.

5. Долгополик М.В. Неоднородные выпуклые аппроксимации негладких функций / Современные проблемы математики: тезисы Международной (43-й Всероссийской) молодёжной школы-конференции. Екатеринбург: ИММ УрО РАН. 2012. С. 327-329.

6. Dolgopolik М. V. Nonsmooth problems of Calculus of Variations with a codifferentiable integrand / Конструктивный негладкий анализ и смежные вопросы. Тезисы докладов международной конференции. СПб.: Изд-во Санкт-Петербургского университета, 2012. С.46-48.

7. Dolgopolik М. V. Abstract Convex Approximations of Nonsmooth Functions // Optimization. 2014. DOI: 10.1080/02331934.2013.869811.

8. Долгополик M.B., Тамаеян Г.Ш. Об эквивалентности методов наискорейшего и ги-подифференциального спусков в некоторых задачах условной оптимизации / Современные проблемы теории функций и их приложения: Материалы 17-й междунар. Сарат. зимней школы. Саратов: ООО Издательство "Научная книга". 2014. С. 82-83.

Подписана в печать 05.06.14 Формат 60х84'/16 Цифровая Печ. л. 1.0 Тираж 100 Заказ 01/06 печать

Типография «Фалкон Принт» (197101, г. Санкт-Петербург, ул. Большая Пушкарская, д. 54, офис 2)

САНКТ-ПЕТЕРБУРГСКИЙ ГОСУДАРСТВЕННЫЙ

УНИВЕРСИТЕТ

На правах рукописи УДК 519 7

04201460894

Долгополик Максим Владимирович

Абстрактное кодифференциальное исчисление в нормированных пространствах и его приложения к негладкой оптимизации

Диссертация на соискание ученой сттени кандидата фпзико-ма1ематическп\ наук по специальности 01 01 09 — дискретная математика и математическая кибернетика

Научный руководитель доктор физ -мат наук професс ор В Ф Демьянов

Санкт-Петербург 2014

Оглавление

Введение 4

1 Предварительные сведения 9

1 1 Элементы топологии 9

1 2 Элементы функционального анализа 11

1 3 Элементы выпуклого анализа 16

1 4 Элементы абстрактного выпуклого анализа 20

1 5 Элементы негладкого анализа и теории многозначных отображений 23

2 Абстрактные выпуклые аппроксимации негладких функций 28

2 1 Вспомогательные построения 28 2 2 Абстрактно кодифференцируемые функции 30 2 3 Абстрактно выпуклые аппроксимации 34 2 4 Исчисление абстрактно кодифференцируемых функций 35 2 5 Необходимые условия экстремума 40

2 6 Примеры //-кодифференцируемых функций 43

3 Кодифференцируемые функции 51

3 1 Предварительные сведения 51 3 2 Определение кодифференцируемости 54 3 3 Исчисление непрерывно кодифференцируемых функций 60 3 4 Необходимые условия экстремума кодифференцируемых функций 65 3 5 Некоторые свойства кодифференцируемых функций 69 3 6 Метод кодифференциального спуска 74

3 6 1 Формулировка метода 75

3 6 2 Вспомогательные результаты 76

3 6 3 Исследование метода кодифференциального спуска 80

3 6 4 Сходимость метода кодифференциального спуска

83

4 Исчерпывающие семейства неоднородных выпуклых аппроксимаций 86

4 1 Определение неоднородных выпуклых аппроксимаций 86 4 2 Исчисление неоднородных верхних выпуклых и

нижних вогнутых аппроксимаций 89

4 3 Условия экстремума 93

4 4 Метод спуска 100

4 4 1 Описание метода спуска 101

4 4 2 Исследование метода спуска 103

4 4 3 Сходимость метода спуска 105

4 4 4 Метод спуска и метод кодифференциального спуска 106

5 Приложения к задачам вариационного исчисления 110

5 1 Одна нешадкая классическая задача вариационного исчисления 110 5 2 Неыадкая задача Больца 115 5 3 Минимаксная задача вариационного исчисления 122

Заключение 125

Список обозначений 127

Литература 130

Введение

С появлением интегрального и дифференциального исчисления в трудах Ньютона и Лейбница математика более чем на два столетия обеспечила себя аппаратом достаточным как для теоретического исследования в различных областях науки так и для бесчисленных приложений Однако постепенно потребности самой математики и в первую очередь различных приложений привели к исследованию недифференцируемых функций Так, на пример естественным образом возникающая в теории приближений задача о наилучшем равномерном приближении непрерывной функции является существенно негладкой Все бо лее и более часто возникающие примеры недифференцируемых функций и задачи связанные с ними возбудили интерес математиков к изучению данных функций Основным результатом эш\ исследований сыло появление новой богатой приложениями малематической дисциили ны — негладкого анализа а также становление новою понимания того чю недпфференци-руемые функции являются не патологией, а нормой и достойным объектом исследования Наиболее яркой иллюстрацией этого факта является теорема С Банаха [66], утверждающая, что множество непрерывных функций, дифференцируемых хотя бы в одной точке интервала [О 1] является тощим (или что тоже самое, множеством первой категории) в пространстве непрерывных функций (по этому вопросу см также [98])

Негладкие задачи впервые были поставлены и успешно исследованы российским математиком П Л Чебышевым [55] Однако, П Л Чебешыв использовал в своем исследовании юлько классические \01я и очень оршинальные методы Первые нс!ладкис методы ис-с гедования недифференцируемых функций появились в рамках выпуклою анализа [27 3032 35 41 43,45 60 94,95 128] который наряду с теорией минимакса [8 11 15 36 37 52] послужил основой для формирования негладкого анализа В настоящее время выпуклый анализ является хорошо развитой областью математики имеющей многочисленные приложения [13 33 38-40 46 51 110]

Негладкий анализ как раздел математики изучающий недифференцируемые функции в первую очередь в связи с теорией негладких экстремальных задач сформировался

во второй половине XX века под влияние работ В Ф Демьянова [13, 15] Н 3 Шора [57, 58) Б Н Пшеничного [42-44] Ф Кларка [29], Дж Варги [9] и многих других авторов В настоящее время имеется огромное число работ, посвященных различным аспектам негладкого анализа [12, 16 67 75 87 92 99 100, 108 109 114 117, 122] Отличительной особенностью не1ладкою анализа по сравнению с классическим дифференциальным исчислением является его тесная связь с теорией многозначных отображений [7, 53, 64 65 96 97]

Основными инструментами исследования в негладком анализе являются производная по направлениям и субдифференциал а также их многочисленные обобщения [16, 29, 80 81, 91 99 104 108 114 117 122 126] Одним из наиболее прод\кгивных методов исследования производных по направлениям неыадких функций являе!ся метод основанный на понятии экзостера [2 4 62 79 83 84, 125], поскольку данный метод позволяет выражать удобным образом условия экстремума негладкой функции, а также строить направления спуска и подъема данной функции Однако, в негладком случае производная по направлениям, как и ее обобщения не является непрерывной функцией точки (см ]16], глава II, параграф 1), что существенно затрудняет построение эффективных численных методов решения негладких оптимизационных задач Поэтому В Ф Демьянов в [77, 78] ввел понятие кодифференциру-емой функции и кодифференциала (см также [14 21 127]) Для очень широкого класса негладких функций кодифференциальное отображение является непрерывным в метрике Хаусдорфа [16] что позволяет строить эффективные методы недифференцируемой оптимизации на основе понятия кодифференциала [5 16 69 70 82] Отметим здесь замечательное свойство метода кодифферепциалыю1 о спуска обходить некоторые точки локальною минимума |82] существенно отличающее данный метод от других методов гладкой и негладкой оптимизации Общая теория непрерывных аппроксимаций негладких функций рассматривалась в [121, 127] Еще одним преимуществом подхода, основанного на кодифференцируе мости является наличие удобного исчисления кодифференцируемых функций [16 21], в то время как не существует полноценного исчисления различных субдифференциалов негладких функций (ср формулы для вычисления субдиффсрснциала Кларка [29] или 'нечеткое исчисление субдифференциалов в [100]) В качестве дальнейшего обобщения понятия кодифференциала А Е Абанькин в [1] предложил рассматривать Я-гипердифференциал который поз шее в работах В Ф Демьянова и М Э Аббасова получил называние коэкзостера |4 80]

Сл 'б щфференцпал выпуклой функции описывает как локальные так и глобальные свойства данной функции С одной стороны с помощью субдифференциала можно вычислять производную по направлениям и направления спуска выпуклой функции а с другой стороны субдифференциал описывает множество линейных функций опорных к данной вы-

пуклой функции которое дает глобальную информацию о поведении рассматриваемой функции Негладкий анализ пошел по пути обобщения субдифференциала выпуклой функции на основе ei о локальных свойств т е как инструмента описывающе1 о локальные свойства функции Bio время как другой подход основанный на обобщении глобальных свойств субдифференциала, выпуклых функций и выпуклых множеств, привел к появлению новою раздела математики — абстрактного выпуклого анализа [47 73 106 123] Отметим что первой книгой по абстрактному выпуклому анализу была работа С С Кутателадзе и А М Рубинова [32] Основные результаты абстрактного выпуклого анализа подробную библиографию и исторические комментарии по данному предмету можно найти в работах [111, 119 124] Идеи абстрактного выпуклого анализа оказались очень плодотворными и нашли свое применение в различных приложениях, в том числе и внутри негладкого анализа [101 111, 118 120]

О дной из актуальных задач изучаемых в данной диссертации является построение общей теории неоднородных аппроксимаций негладких функций па основе идей абстрактного выпуклого анализа Подход основанный на теории абстрактной выпуклости позволяет обнаружить связь между многочисленными понятиями негладкого анализа и существенно обобщить их Данный подход позволяет обобщить понятие кодифференцируемости и коэкзо-стера на случай функций, определенных на нормированном пространстве а также построить и детально исследовать общий метод кодифференциального спуска для данных функций частные варианты которого применялись Г Ш Тамасяном и В Ф Демьяновым для построения эффективных прямых численных методов решения задач вариационного исчисления 114 18 48 49 86]

Целью диссертации является построение общей теории неоднородных аппроксима ций не! ладких функций на основе идей абстрактною выпуклою анализа развитие леории кодифференцируемости и неоднородных выпу клых аппроксимаций в нормированных про слранствдх а также их применение к исследованию различных экстремальных задач

Теоретическая значимость работы состоит в том, что в ней развивается общая теория аппроксимаций негладких функций позволяющая решать различные негладкие экстремальный задачи В диссертации строится исчисление абстрактных выпуклых аппроксима ций негладких функций впервые приводятся многочисленные свойства кодифференцируе мых фу нкций а также детально изучается метод кодифференциального спуска и развивается аппарат исчерпывающих семейств неоднородных выпуклых аппроксимаций являющийся удобным инструментом исследования различных оптимизационных задач

Практическая значимость работы определяется тем что в ней разработан общий по 1ход к построению различных аппроксимаций негладких функций и изучению различных

экстремальных задач с ограничениями Кроме того, в диссертации подробно изучены метод кодифференциального спуска и метод спуска, основанный на неоднородных выпуклых аппроксимациях, позволяющие эффективно решать негладкие экстремальные задачи и строить новые численные методы решения гладких оптимизационных задач с ограничениями Также в диссертации приведены различные приложения к задачам вариационного исчисления

Научная новизна. Все основные научные результаты диссертации являются новыми Методы исследования. В диссертации применяются современные методы теории экстремальных задач негладкого анализа и недифференцируемой оптимизации

Основные результаты, полученные в диссертации и выносимые на защиту

• построено исчисление абстрактных выпуклых аппроксимаций негладких функций

• получены необходимые условия экстремума негладких функций в терминах абстрактных выпуклых аппроксимаций,

• на основе абстрактных выпуклых аппроксимаций указана связь между квазидифференциалом экзостером кодифференциалом и коэкзостером,

• понятия кодифференцируемосгп и коэкзосгера обобщены на случай ф\нкций определенных на нормированном пространстве

• получены многочисленные новые свойства кодифференцируемых функций

• обобщен и подробно изучен метод кодифференциального спуска,

• построено исчисление исчерпывающих семейств неоднородных верхних выпуклых и нижних вогнутых аппроксимаций негладких функций

• построен и изучен метод спуска основанный на неоднородных верхних выпуклых аппроксимациях

• выведены необходимые условия экстремума в некоторых негладких задачах вариационного исчисления

Апробация работы. Результаты изложенные в диссертации докладывались и обсуждались на Всероссийской конференции 'Устойчивость и процессы управления посвященной 80-ти летию со дня рождения В И Зубова (г Санкт-Петербург 1-2 июля 2010 г ) мелч-дународпой конференции "Конструктивный неитдкий анализ и смежные вопросы (СЛ'ЭА-2012) (1 Санкт-Пстербурх 18-23 июня 2012 1) международной конференции Обратные и

некорректные задачи математической физики (г Новосибирск 5-12 авгусха 2012 г) 17 Саратовской зимней школе ' Современные проблемы теории функций и их приложения (1 Са-раюв, 27 января - 3 февраля, 2014 I ) ХЫ и ХЬП международных научных конференциях аспирантов и студентов "Процессы управления и устойчивость 1 (г Санкт-Петербург 5-8 апреля 2010 г 4-7 апреля 2011 г) и семинаре по дискретному гармоническому анализу и геометрическому моделированию (математико — механический факультет СПбГУ)

По результатом исследований опубликовано 8 печатных работ [14, 21-24 26 88 89] две из которых [14, 23] в изданиях, рекомендуемых ВАК

Диссертация состоит из Введения, пяти глав заключения списка обозначений и списка литературы Определения, предложения теоремы леммы следствия, примеры и замечания нумеруются в соответствии с главой параграфом в которых они находятся Формулы нумеруются в соответствии с главой в которой они находятся Объем работы соствляет 140 страниц Список литературы включает 128 наименований

Глава 1

Предварительные сведения

В этом разделе мы приведем различные определения и утверждения из топологии [10 61] функционального анализа (28 54, 56, 59] выпуклого анализа [27, 41, 45, 60 94, 95, 128], абстрактною выпуклого анализа [111, 119, 124] и негладкого анализа [4, 13, 16, 29, 64, 117| которые потребуются нам в дальнейшем

1.1 Элементы топологии

Пусть yY — произвольное множество

Определение 1.1.1. Пусть г — семейство подмножеств множества X Это семейство назы вается топологией (на X) если оно обладает следующими свойствами

1 0 £ т и X £ т

2 объединение произвольного семейства множеств из т принадлежит г,

3 пересечение любого конечного семейства множеств из т принадлежит т

Множество с заданной на нем топологией те пара состоящая из множества и за данной на нем топологии называется топологическим пространством Если семейство т является тополохией, то множества принадлежащие ему называются открытыми а их до полнения в X — замкнутыми Любое открытое множество содержащее заданную точку называется окрестностью этой точки

Пусть А — произвольное подмножество топологическою пространства (X т) Точка х £ 4 называется внутренней точкой множества А если существует некоторая окрестность точки х целиком содержащаяся в А Совокупность всех внутренних точек множества А называется внутренностью множества А и обозначается mt А Как нетрудно проверить nit /1

является наибольшим (по включению) открытым множеством, содержащимся в А Наименьшее (по включению) замкнутое множество, содержащее множество А, называется замыка наем множества А в X и обозначается с1 А

Определение 1.1.2. Подмножество К топологического пространства (X т) называется компактным если из любого покрытия множества К открытыми множествами можно из влечь конечное подпокрытие, те для любых множеств иа 6 г, а 6 А (А — произволь ное непустое множество) таких, что К С существуют а\ ,а„ е А такие что

* с и:=1 иак

Определение 1.1.3. Топологическое пространство (X т) называется хаусдорфовым, если любые две его различные точки обладают непересекающимися окрестностями В этом случае также говорят что топология т — хаусдорфова

Определение 1.1.4. Подмножество 5 топологического пространства (X т) называется плотным в множестве Т С X, если Т С с15 Подмножество Б С X называвхся нигде не плотным если оно не плотно ни в одном открытом множес!ве и 6 т Подмножество 5 С X называется тощим (или множеством первой категории) если оно представимо в виде счетного объединения нигде не плотных множеств

Определение 1.1.5. Пусть (Х\ гх) и (Хг т2) —топологические пространства Отображение ] Х\ Х2 называелся непрерывным в точке г £ Х\ если для любой окрестности V точки /(х) в Х2 существует такая окрестность V точки х в Х\ что /(V) с и Отображение / Х\ —» Х2 называется непрерывным если оно непрерывно в любой точке пространства (Х1 Т\)

Пример 1.1.1. Пусть (X р) — мсирическос нросфажлво Множество 1) С X называется открытым если для любого х £ V существует ? > 0 такое, что

{уел \р(у ?) < / } С и

Нетрудно проверить что совокупность всех открытых подмножеств тр метрическою про странства (X, р) является топологией на X При этом определения замкнутого множества за мыкания внутренней точки внутренности и непрерывности в метрическом и соответствую щем топологическом пространстве согласованы Также топологическое пространство (X тр) является хаусдорфовым

Пусть х — произвольная точка топологического пространства (X г) Система 23, окрестностей точки ь называется фундаментальной или базисом окрестностей точки х если для любой окрестности V точки х существует окрестность их £ такая что их С V

Пусть (X т) и (У а) — шпологические пространства Определим в прямом произведении X х Y систему подмножеств

& = {ScXxY\S = UxV и G т Vea}

Будем говорить, что множество G С X х Y открыто, если для любого xgG существует Sx G 93 такое что Sx С G Нетрудно проверить, что система открытых подмножеств множес�