Вопросы обнаружения сигнала а условиях априорной неопределенности тема автореферата и диссертации по математике, 01.01.05 ВАК РФ

САНКТ-ПЕТЕРБУРГСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ л - - л '] На правах рукописи

2 4 МДР Ш7

СУСЛИНА ИРИНА АЛЕКСАНДРОВНА

ВОПРОСЫ ОБНАРУЖЕНИЯ СИГНАЛА В УСЛОВИЯХ АПРИОРНОЙ НЕОПРЕДЕЛЁННОСТИ

01.01.05 - теория вероятностей и математическая статистика

АВТОРЕФЕРАТ

диссертации на соискание ученой степени кандидата физико-математических наук

Санкт-Петербург 1997

Работа выполнена в Санкт-Петербургском государственном институт точной механики и оптики (техническом университете)

НАУЧНЫЙ РУКОВОДИТЕЛЬ: ОФИЦИАЛЬНЫЕ ОППОНЕНТЫ:

ВЕДУЩАЯ ОРГАНИЗАЦИЯ:

доктор технических наук, профессор В.Г.Дегтярёв доктор физико-математических наук М.С.Ермаков

кандидат физико-математических на доцент НЛ.Амосова СЛетербургское отделение математа ческого института им. Стеклова РА1

30

Защита состоится " 40 " 1997 г. в "Т 5 " часов на заседанш

диссертационного совета К 063.57.29 по защите диссертаций на соискание учёной степени кандидата наук в Санкт-Петербургском государственно» университете по адресу: 198904, Санкт-Петербург, СтЛетергоф, Библиотечная пл., д.2, математико-механический факультет СПбГУ, ауд.3536.

С диссертацией можно ознакомиться в научной библиотеке им. М Горького СПбГУ по адресу: Санкт-Петербург, Университетская наб., 7/9.

Автореферат разослан " Ь " А- 1997г.

Учёный секретарь диссертационного совета, кандидат физ.-матем.наук, доцент

О.И.Рейнов

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

АКТУАЛЬНОСТЬ ТЕМЫ. Задача обнаружения сигнала в условиях априорной неопределённости в рассматриваемой постановке сводится к построению асимптотически минимаксных тестов и к исследованию асимптотики эффективности этих тестов для задачи проверки простой гипотезы о сигнале в гауссовском белом шуме при непараметрлческой (бесконечномерной) альтернативе. Эта задача является одной из классических задач непараметрической статистики.

Для непараметрических задач проверки гипотез асимптотически минимаксный подход является одним из наиболее естественных, при этом возникает минимаксный критерий качества тестов. Асимптотически минимаксный подход для непараметрических задач оценившгия развивался с начала 60-х годов и связан с работами Н.Н.Ченцова, Р.Фарелла, И.АИбрагимова, Р.З.Хасьминского, М.С.Пинскера, Д.ЛДонохо, И.М.Джонстона и многих других С начала 80-х годов началось систематическое изучение непараметрических задач проверки гипотез в минимаксном варианте в работах Ю.И.Ингстера, М.С.Ермакова; в 90-х годах в работах О.В. Лепского, В.Ф. Спокойного.

Первые результаты об условиях различимости для рассматриваемой в работе задачи получены Ингстером п 1982 году. В работах Ингстера 1982, 1986 годов изучались условия различимости в задаче обнаружения сигнала для шаров Соболева с удалённым -шаром. Первые результаты, касающиеся точной асимптотики вероятностей ошибок для ¿'.¡-эллипсоидов общего вида с удалённым ¿2-шаром, были получены Ермаковым в 1990 году. Аналогичные результаты для ^-эллипсоидов с удалённым /р-шаром были получены Ингстером в 1990-1993 годах Диссертационная работа посвящена изучению неоднородного случая V Ф Ч-

Начиная с 90-х годов в математической статистике всё больший интерес вызывают неоднородные задачи. Это связано, в частности, с работами Донохо и Джонстона, которые рассматривали задачи оценивания для классов Бесова и функций потерь типа £.р-норм при р ф ц. В задачах проверю! гипотез условия различимости для шаров Соболева - или Бесова В", с удалённым £р-шаром изучались Лепским и Спокойным в 1995-1996 годах. Однако систематических результатов, касающихся точной асимптотики вероятностей ошибок в неоднородных минимаксных задачах проверки гипотез, до работ диссертанта не было.

В этой связи изучение точной асимптотики вероятностей ошибок в минимаксной задаче обнаружения сигнала для неоднородного случая представляется важным и актуальным.

В работе исследуется точная асимптотика минимаксных вероятностей ошибок в задаче проверки простой гипотезы Щ \ 5 = 0 о сигнале, наблюдаемом в гауссовском белом шуме интенсивности е —> 0, против непараметрической альтернативы Н; : в е 5£, где множество соответствует ¡^-эллипсоиду, 0 < д < со, с длинами полуосей а'1 \ 0 и с удалё1гным -шаром, 0 < р < оо, радиуса рг при фиксированном ортонормальном базисе в 1,2(0,1).

Эта задача сводится к проверке гипотезы Щ : V - 0 о среднем бесконечномерного гауссовского вектора против альтернативы н\ ■. £> С v-, где V = ... ,Vi...)

является вектором координат сигнала е 1 в фиксированном базисе, а множество Уе имеет при д < оо вид: Уе — {0, X) > (Ре/£)р> X) а; КР < е~я}-> а при

г I

<7 = ос вид: У£ = {V, £ Ыр > (р£/е)р, ьцр{а;|г';|} < (е)"1}.

г *

Минимаксна« вероятность ошибок определяется следующим образом: ДДК, о) = щ£{5ир{.Е„(1 — г/*)}}, где нижняя грань берётся по множеству тестов у

уровня значимости а : Е<$Ь < а, а 6 (0,1).

ЦЕЛЬ РАБОТЫ. Целью работы является получение точной асимптотики минимаксных вероятностей ошибок ii рода (зе(уе,а) для задачи обнаружения сигнала при непараметрических альтермативах, соответствующих ¿^-эллипсоидам с удалёппым ¿,,-шаром, и изучение зависимости этой асимптотитики от скорости убывания длин полуосей эллипсоида а^1 и радиуса удаляемого шара ре.

МЕТОДИКА ИССЛЕДОВАНИЯ. В работах Ингстера для определимого класса задач была разработана методика сведения задач проверки гипотез к специальным экстремальным задачам, состоящим в нахождении экстремума функционала:

= 5геП£}, (1)

оо

где ||7г||2 = £ / / (в"" ~~ 1)7г,(^и)гг,а множество Пг для рассматриваемых алъ-¿=1^! л,

тернатив имеет при д < оо вид: П^Ог, 7Г=(7Г1,...,7Г„...), Я1(Д1) = 1, >(р5/£;р, <£-'},

г I

а при д = оо вид;

I

и показано, что при выполнении определённых условий, если существует такая экстремальная мера л', что и; = (¡тг'Ц2. то выполнено соотношение:

А(^,а) = Ф(Тв-гО + о(1), (2)

где Ф - функция распределения стандартного нормального закона, величина Т„ -(1 — а)-квантиль, а ие - решение соответствующей экстремальной задачи.

В работе решается и асимптотически изучается соответствующая множеству Ус экстремальная задача для неоднородного случая ц ф р и последовательностей полуосей достаточно общего вида, включающего случай по порядку степенных последовательностей а : а = (ах,... ,а,,...), а, = с* г-', с, > 0, с^ х 1 при 1° —> ос, * > 0.

В работе показывается, что исходная экстремальная задача "расщепляется" на "одномерные задачи" для вероятностных мер на Дх, которые при д < оо имеют вид:

<А(А^) = шГ{ы2, П*^ = ЫЛх) = 1, = <иЧ), (3)

а при q = ос имеют вид:

¿(A¡) = mfdWI2, € Пл ¡}, Пл ¡ = ЫК^е)-1, (^е)"1]) = 1, = А?},

и справедливо соотношение, которое мы приведём для случая q < оо:

со оо оо

ul(ps) = inf{£ ф(Х^), £ Af > {pjef, Y, a>1 ^ (4)

i=l i=l 1=1

При q — оо справедливо аналогичное соотношение.

Затем решаются "одномерные задачи" (3), показывается, что существует единственный набор решений "одномерных задач", который является решением (4), и проверяется выполнение условий, при которых справедливо соотношение (2).

НАУЧНАЯ НОВИЗНА. В диссертации получены следующие результаты

I. Исследованы "одномерные задачи" и показано, что, если множество, по которому ищется инфимум, не пусто, то точные нижние грани в этих задачах достигаются, и оптимальными мерами являются меры: щ — (1 — Л,)<50 + /(,(<5_^ + íjJ/2, где 6ь - мера, сосредоточенная в точке Ь, 0 < Л, < 1.

II. Показано, что в исследуемой задаче при q > р и достаточно медленном убывании полуосей эллипсоида нет различимости.

III. Показано, что для рассматриваемых последовательностей полуосей эллипсоида при наличии различимости возможны 3 вида асимптотики величины щ(ре), и описаны эти виды.

IV. В терминах критических радиусов р* указаны условия различимости в рассматриваемой задаче, а именно, ¡5c{a) —> 0 ре/р* —» оо и /?£(га) —> 1 — а <=> Рш/fi

ПРАКТИЧЕСКАЯ ЦЕННОСТЬ. Задачи обнаружения сигнала в условиях априорной неопределённости широко распространены в различных приложениях (например, в задачах радио-, гидро- и звуколокации). Поэтому результаты работы, где получена точная и порядковая асимптотика минимаксной эффективности для широкого класса непараметрических альтернатив могут найти широкое применение, а решение одномерных задач представляет самостоятельный математический интерес, так как подобные задачи возникают при решении многочисленных задач математической статистики.

АПРОБАЦИЯ. Результаты работы докладывались на общегородском семинаре по теории вероятностей и математической статистике ПОМИ РАН, в институте Вейерштрасса, Берлин, представлялись на IV Всемирный конгресс общества им. Бернулли (тезисы напечатаны).

ПУБЛИКАЦИИ. По теме диссертации опубликовано 2 работы автора и одна совместная работа, список приведён в конце автореферата.

СТРУКТУРА ДИССЕРТАЦИИ. Диссертация состоит из введения, пяти глав(и приложения (рисунков). Список литературы содержит 24 наименования. Общий объём работы 108 машинописных страниц.

СОДЕРЖАНИЕ РАБОТЫ. Во введении обсуждается постановка задачи, приводится краткий исторический обзор, описываются методы исследования, в частности, формулируются условия, при которых из работ Ингстера (1993, 1996) следует выполнение соотношения (2) для рассматриваемой в работе задачи, описываются основные результаты и приводится обзор содержания работы.

В главе I приводится методика решения экстремальных задач. В §1.1 приводится точная постановка задачи. В §1.2 изучается случай медленно растущих последовательностей а = (а1;..., сц,...) при д > р. Вводится величина 6{р,д):

!ря/1ч-р) ПР" р < 4> 9 <оо,

р при р<4, в=оо,

2д(1>-2)/(я-р) при р>4, г; < ос, ■

2(р - 2) при р > 4, д = оо.

и доказывается, что справедлива ТЕОРЕМА 1.1.

оо .

Пусть величины а, —» +оо, строго возрастая, д > р, ряд ^ а,, расходится.

п=1

Тогда при достаточно малых е вьшолнено: и„ = щ(р,р, д,)=0и Д-(л) = 1 - а.

В §1.3 доказывается, что возможно "расщепление" исходной экстремальной задачи на "одномерные задачи", и решаются соответсвующие одномерные задачи. Обозначается через /Зр корень уравнения и2 — ;ПапЬ(и2/2) = 0 и доказывается, что справедлива

ТЕОРЕМА 1.2.

Точная нижняя грань в невырожденных экстремальных задачах ф (А, и) - Ы { |[-л-||2, 7г € Пл,, }, Пл,„ ф 0

ф (А) = М { ||тг||2, тг е Пл 4 }, Щ 4 ф 0

достигается на мерах 7Г* = ( 1 — Н )60 + /» ( Ьь + ¿-4 )/ 2, где величины /»€(0, 1 ] и Ь > 0 имеют следующий вид

1а. Если оо > д > р, р < 2, и > А > 0, то к = 1, Ъ — А.

16. Если оо > д > р, р < 2, А > и > 0, то Пд^ = 0. Па. Если оо > д > р > 2, V > А > 0, то

1(

при А > /Зр А / рр у при А < /Зр < (I/4 / Ар )»Л»-р> , Л / V уч/(я-р) при А? > И /

!А, при А > /Зр

/Зр, при А < /Зр < {уя / АР

( г/« / А? при А? > I/» / /ЗЧ-Р.

Ь

Иб. Если эо > q > р > 2, Л > и > 0, то П = 0. Ша. Если 0 < q < р < 2, X > v > О, то

h = ( f / А )и/Ср-9)( Ь = ( Лр / )1/(р-ч).

III6. Если 0<д<р<2, е>А>0, тоЛ = 1, Ь = Л. IVa. Если 0 < q < р, р > 2, А > I/ > 0, то

. = Г ( А / Рр У при А* < и" j3¡T">

\ ( v /А при Хр >

_ Í & \(АР

я

при А" < V« /Зр ДР / „(I )1/(р-ч) при ДР > ¡,9 ДР-9

IV6. Если 0 < q < р, р > 2, г/ > А > 0, то

А//Зр)р при А < Д, при А > Рр'

,вр при А < ¡Зр

^ {а при А > /Зр'

Va. Если <7 = оо. р < 2, 0 < А < 1 /( е a¿), то Л = 1, Ь = А. V6. Если q — со, р < 2, А > 1 /( s (ц), то П д ¿ =0. Via. Если g = оо, р > 2, 0<A<l/(ea¿), то

!1, при X > (Зр

[ \ l'3p Y при А < ¡3p < 1 / (е щ) , ( X е a¡ У при 1 / ( е o¡ ) < 0р

!Х, при А >

при А < /?„ < 1 / ( е o¡ ) . 1 /( е o¡ ) при 1/(ео,) < ^

VI6. Если 7 = оо, р > 2, А > 1 / ( е o¡ ), то ПА , = 0.

VII. Если в условиях пунктов a) f или А равны нулю, то п* — í0

При этом в условиях 16, Пб, V6, VI6 положим

ф ( А, и ) = ф ( Л ) = оо,

ф{ X, и ) =2 Л2 ь-1пЬ2(Ь2/2), Ф ( А ) = 2 /г2 зшЬг(&2/2)

В §1.4 доказывается, что, если в экстремальной задаче (1) при д < оо точная шяя грань достигается на мере тГ — (тг^,..., 7г*,...), то для этой экстремальной

оо оо

ы выполнены соотношения: £^«[«|р = А?, = ^ А' -- (рс/е)р, ^ —

¿=1 ¿=1

В §1.5 вводятся новые переменные: Х{ = у, —- у', к пространстве пар числовых последовательностей 2" — {л = (х,у), г; = у,), т^ > 0, г/, > 0}

оо ас

рассматривается выпуклое множество Д,,р> — {(х,у), = (Яг/е)р> 12а1Уг —

¡=1 ¿=1

оо

е-«} и доказывается, что функция /(г, у) = г>(г„ у,), где гр(ц,у{) =

¿=1

является вьшуклой функцией аргумента 2 = (х,у), а функция у,) — г>(г,-) является вьшуклой функцией аргумента г,. При этом исходная экстремальная задача сводится к задаче нахождения точной нижней грани вьшуклой функции по выпуклому множеству:

и2с(р£) = шЦ/(и), Ал} (5)

и, обозначая Пг = {тг, ||7г|| < оо, е„1\и\р = ж,, -Е^,. |и|'' < у,}, заключаем, что при д < оо справедливо следующее

СЛЕДСТВИЕ 1.4. Если существует точка г* е такая, что = /(г*), то сутцествует такая последовательность мер тг* е Ну, что ¡|тг* 1|2 = и'Цр), точка г* лежит на границе множества и единственна.

При д = оо экстремальная задача аналогично сводится к задаче нахождения

оо

инфимума выпуклой функции /(ж) = ^ г>'(жг) по вьшуклому множеству —

1=1

оо

{а, = (ре/г)Р' 0 < xi < (а,е)''} и справедливо аналогичное

¡=1

СЛЕДСТВИЕ 1.5. Если существует точка 2* € такая, что иЦр) = /(г*), то эта точка лежит на границе множества О^ и она единственна.

В главе 2 при помощи метода множителей Лагранжа экстремальная задача сводится к системам уравнений (при i ] системы независимы). Затем показывается, что при всех р, 5 и при всяком г системы имеют единственное решение, зависящее от р, д, аг и "множителей Лагранжа" А и В. Это решение находится по порядку равномерно по г (т.е. с точностью до множителей, отделённых от нуля и от бесконечности общими положительными постоянными; в работе указаны уравнения, корнями которых являются эти множители).

При этом равномерно по г определяются величины Н*,Ь* и решения одномерных задач ф(Х{, и,) как функции от А и В. Исследуются свойства функций х'(А, В) = Н\(А,В) ■ {Ъ\{А,В)У> и у*{А,В) = к*(А,В) ■ (Ь*(Л, В))9, показывается, что х* и у* непрерывны как функции двух аргументов па 1Ц и возрастают по А. Доказаны теоремы

ТЕОРЕМА 2.1. При р < q < оо, р < 2 координаты г* точки г* определяются выражениями

. Г* А^-Р) при I <те, «л.

1 I с, (А/В а-Чу/Ь-р) при г > тс, У" '

где коэффициенты а при всех г принадлежат промежутку [со, 1], со = со(р, д) > 0. Номер тпе определяется из неравенства

В < < 4< В <+1,

где Т{ = ч1а\1{х'г)21р 1{х1)-1р] —> 1 при г —> ос.

ТЕОРЕМА 2.2. При остальных р и д < оо имеем

1). Если д> р> 2, р < 4, то величины Л* и Ь* определяются выражениями

,, _ Г ^ Рр при » < п, ( <Щ А (Ь'

\ с,- {А/{Ва1))^-г) пр„ ; > п> ^ - \1

У 4 при г < т, при » > го,

где постоянные с; и равномерно по г отделены от 0 и от оо. Номера пит, т > п определяются по порядку при е —» 0 из условий

А 1

В' т"в Л(ч-р)/<."-р)'

2). Если д > р > 4, то величины А* и 6* определяются выражениями

,, Г с; ¡Зр при » < п, амр-4

= (А/(Вв?))1/(9-р) при » > га, ■

где постоянные с, и равномерно по»отделены от 0 и от оо. Номер п определяются из условий ачп+1 > (А/В) со > величина со > 0 будет указана в дальнейшем.

3). Если д < р, р > 2, то величины Л* и Ь* определяются выражениями

К == { % ч / „м/Гр-,1 ПРИ ' - К = 4 А (К)*"2/ япМЬГ )2, ' \ с* (Ва,]/А)1'иу^'>' при г > п, г ' 4 ' 4 '

где постоянные с,- и равномерно по г отделены от 0 и от оо. Номер п определяются из условий а®^! > {А/В) сд > величина г<} > О будет указана в дальнейшем.

4). Если д < р, р < 2, то величины Л* и Ь' определяются выражеютями

_ Г с; т!1/^-?) при г <т, ., _ Г 1 при г' < ттг,

' ~ \ с, (Ва]/Л)^ при г > т, 1 ~ \ <кЛ{Ц)р'2/ ^ЫхЩ)2 при г > т,

где постоянные с, и равномерно по г отделены от 0 и от оо. Номер т. определяются из условия ачт — со (А/В) + о(1), при е —► 0 величина со > 0 будет указана в дальнейшем.

5). Если д < р, р = 2, то величины Л* и Ь* определяются выражениями

{а А1/12 при i < т, , „

. . II при г < 771,

с, №а;М)н при ш < 1 < п, Л; = < , ,, . ,/.,■,2

^ ^ _ > . ^ ^ Л/8тп(о*)': при I > т, с,- {ВаЦЛ)2--> при г > м,

где постоянные с, и с£, равномерно по i отделены от 0 и от оо. Номера п и т определяются из условий а']1и ж А^'^^/В, ~ А/В при е —> 0 .

ТЕОРЕМА 2Л. При g = со координаты z¡ — se* = h'(b¡}" точки л* определяются при достаточно малых е следующим образом:

1. Если р < 2, то

, = ( с(А)А^(1~^ при i < п, ' \ (е<ч)~р при i > п,

где постоянная с(Л) —> (р/2)р/^~р) при А —> 0, а номер п определяется из условий smh(£a„)_2/(ea„)2_p <рА/2 < sink{£anhl)-2/(san+i)2-p,

то есть Оп ж g-^-VC4-?) прИ е —> 0.

2. Если р > 2, то величины £>* имеют вид:

i* __ ( 0р при а,- < 1/(е/Зр), 0i \l/(eej) при щ > 1/(е&),

a величины /»* определяются одним из выражений:

а) если 2 < р < 4, то

Г Af%/(Asink2(%/2)) при а, < 1/(е<?,),

Л* = < Л/(4е'а? sinh2(l/'(2e2a?))) при o¡ > \/{едр), А < Аь 11 при Гц > l/{sfip), А > Ао,

где Ао = 4sPafsinh2(£-2aí-2/2).

б) если р > 4, то

_ Г (А/4)/^ sioh_2(/32/2) при o¡ < l/(e&),

"1 " \ (Л/4)(еа,)sinh"2(е~2а~2 /2) при а, > 1/(е/?р).

В главах 3 и 4 доказывается существование постоянных А и В (т.е. доказывается, что инфимум в экстремальных задачах достигается) при различных 0 < р < оо, 0 < q < оо для последовательностей полуосей эллипсоида "не слишком" отличающихся от степенных (при всех р и q изучен случай: а, — с,г', с, ü 1 при i —> оо, t > 0). Находится порядок величии А, В и u£(pf) относительно е и рс. Доказьшается существование и определяется по порядку вид критических семейств р'.. В главе 3 рассматривается случай q > р, в главе 4 случай q < р.

Введём условия на последовательность а = (аь..., а,,...), определяющую полуоси эллипсоида Vc. Обозначим

!pq/(q — р) при р < q < оо, 0 < р < 2,

2q(p-2)/(q-p) при р < q < ос, р > 2,

р принос, 0 < р < 2,

2(р —2) при g — ос, р > 2.

Рассмотрим последовательность Ь = ..., Ьп,...). Ь„ = /п. Будем говорить, что последовательность а удовлетворяет условию А, если последовательность Ь„ строго возрастает и существует такое с е (0,1), что выполнено условие

0 < lim(brOTi/b„) < lirn(i>rmi/b„) < 1 при п —+ сю,

где [сп] - целая часть числа сп.

Будем говорить, что а - последовательность типа t, t > 0, если выполнены условия

а„ — с„ • п', где с» х 1 при п —» оо.

Показывается, что при р < q, р < 2 справедлива теорема 3.1, утверждающая, что величины А и В существуют, и описывающая их асимптотику. На базе теоремы 3.1 определяются критические радиусы р*, а именно, справедливы

СЛЕДСТВИЕ 3.1. Пусть q > р, р < 2, последовательность 5 удовлетворяет условию А. Тогда при е —> 0 существуют такие семейство р* и экстремальное семейство мер что щ(р'.) = ||тг*1|2 ж 1. При этом:

-если рсд ж р*, то существует такое семейство мер 7г£д, что щ(ре,\) - ¡¡7г>д ¡f" х 1 (т.е. критическое семейство р' определено только по порядку), -если limрго/р* — +оо, то \[ти2г(ре 2) = +оо, -если Ишр£,з/р* = 0, то liinu;(pCij.) == 0.

СЛЕДСТВИЕ 3.2. Пусть последовательность 5 является последовательностью типа 1 Тогда при t > (q — p) /pq величина uj: имеет вид

при е —> 0.

При этом р* х е(«и+1р-47)/(4»и-Ир-!ч) прИ е _> о_ Ecjni t < (q-p)/pq = irr, то величина «f (pe) = 0 при достаточно малых е.

Аналогично, при 2 < р < q < оо доказывается теорема 3.2 о существовании и виде величин А и В, из которой, как и ранее, возникают

СЛЕДСТВИЕ 3.3. Пусть q > р > 2, последовательность а удовлетворяет условию А Тогда:

1). Существует такое семейство р = р*, что "iffp*) х 1 при е —> 0. При этом существует экстремальное семейство мер Ие = *, и величина ы2(р*) имеет при е - > 0 вид:

= kii2 - х 1,

где семейство n*s(p*,s) определяется из соотношения

4 X 1ШУ*-*) при £ -» 0.

2). Для всякого такого семейства рсд, что р£д х р* при е —> 0, существует экстремальное семейство мер тге,х, и при е —» 0 выполнено соотношение

= И*.,!!!2 - (Ре,1/е)2р/пеЛ X 1,

где п6д х п* при е —> 0.

3). Для всякого такого семейства р, 2, что величша рг,2/р* не ограничена сверху, величина и2(р£,г) не ограничена сверху.

4). Для всякого такого семейства что величина р£,з/р^ ограничена сверху, но не отделена от нуля, величина и|(рС13) ограничена сверху и не отделена от нуля.

СЛЕДСТВИЕ 3.4. Пусть 4 < р < д, последовательность а является последовательностью типа I, с —> 0 . Тогда при t > (д — р)/{2д{р — 2)) величина и2(р) имеет вид

¿МхЫеУ&М.е^, и р'€ х еРМ^Р-яШЪЯ+р) . При t<ig- р)/(2д(р - 2)) величина и2(р) - 0.

Для последовательности а пша t отсюда получаем, что, если £ > (д—р)Ц2д(р~ 2)), то последовательность а удовлетворяет условию Л, и справедливы теорема 3.2 и следствия 3.3, 3.4. Если t < {д — р)/(2<?(р — 2)), то справедлива аналогичная теорема 3.4, из которой имеем

СЛЕДСТВИЕ 3.5. Пусть <; > р > 2, р < 4 последовательность 3 является последовательностью типа 4 и 5 -» 0. Тогда:

-если (д - р)1р<1 < 4 < (д - р)/(2д(р - 2)), то (р!) = ^('гч+^Ш^гм-«)); -если 4 = (<? -р)/{2д{р- 2)), то р* = (е41пе-»)^)/«^»

СЛЕДСТВИЕ 3.6. В условиях следствия 3.5 существует такое экстремальное семейство мер п', что "2(р*) = и выполнено:

-если р£ х р*, то существует такое семейство мер же, что и2(р.) = ||тгс||2 х 1; -если отношение р£/р* не ограничено сверху, то величина и2(р£) не ограничена сверху,

-если отношение ре/р',: не отделено от нули, то величина и2(р£) не отделена от нуля.

При д = оо показывается, что справедлива теорема 3.6 о существовании и

виде величины а, из которой вытекает-----

СЛЕДСТВИЕ 3.7. Пусть выполнены условия теоремы 3.5. Тогда при всех р существует такое критическое семейство р* и такие экстремальные семейства мер 7г€, что при е —» 0 выполнено и^(ре) = ¡¡тге||2 х 1 для всех семейств р,- х р*. Если отношение р£/р* не ограничено сверху, то величина м2(р£) не ограничена сверху, если отношение рс/р* не отделено от пуля, то величина щ(ре) не отделена от нуля.

В случае, когда последовательность а является последовательностью типа Ь семейство р* имеет вид:

а). При р < 2, если t > 1/р, то р* = е4^ 4)/(4Pi '0; если t < 1 /р, то при достаточно малых е величина и2(р£) = 0.

б). При 2 < р < 4, если t > 1/(2р-4), то р* = е(2Р*-1)/2г*; если 1/(2р-4) > t > 1/р, то р' = Ê4(pi-4)/C4pt-p); если t = 1/(2р- 4), то р* = (е41пе"1)1/2''; если i < 1/р, то при достаточно малых s величина и2(р£) — 0.

в). При р > 4, если t > 1/(2р - 4), то р* = .-О«-1)/-'?*; если t < 1/(2р - 4), то при достаточно малых е имеем и2(ре) = 0.

В главе 4 для случая q < р доказывается аналогичная теорема 4.2, из которой возникают

СЛЕДСТВИЕ 4.2. При 0 < q < р < ос существуют такие критические семейства р* и экстремальные семейства мер тГ*, что ;с(р*) -- ;|тг!|j'- = 1. Эти семейства имеют при е —» 0 вид:

-если р > 2, то р* х е(2и*+р-9)/(2|ч«+р)1 -если р < 2, то

при i > (р - g)/(4g - 2pg) имеем р' х ^«(р^р-М^-и-?), при t < (р - g)/(4ç - 2pq) имеем р* х е(Ш1г-ч)КЪ№)t при t = (р - ?)/(4g - 2pq) имеем р* х (е1 lne~1)û'-«>/(4P-2w).

СЛЕДСТВИЕ 4.3. При 0 < q < р < оо:

-если р5 х р', то к{рЛ х 1 и существуют такие экстремальные семейства семейства мер 7г*, что и2(р£) = ||5г^||2,

-если отношение р£/р* не ограничено сверху, то величина и'Црс) не ограютчена сверху,

-если отношение ре/р*е не отделено от нуля, то величина uj(p£) не отделена от нуля.

В главе 5 проверяется выполнение свойств решений экстремальных задач, при выполнении которых справедливо соотношение (2).

В результате получаем, что для изучаемых последовательностей а величина ие(рЕ) может иметь один из 4-х возможных асимптотических видов. Приведём их для случая ал = с^гГ1, сц, х 1, t > 0 :

I - тип : ul(pe) х II-TmrufoJxfa/ef^SeW. £ - тип : u2(p£) х (pjefr^s1'* \n\{el р^е'1'1). ' Ф-тип : uf(p£) = 0

Рисунки 1 и 2 изображают разбиение плоскости (р, q) на множества, где величина и£(рЕ) принимает один из вышеперечисленных видов.

О < t < 1/4

t > 1/4

При фиксированном t = t0 множества пар (р, q), для которых и;{р.) имеет вид фиксированного тина, разделяются на плоскости (p,q) графиками пшербол : «1 = р/(1 - Ф) 1112 : 42 = р/( 1 - 2i(P - 2)) с асимптотами р = 1/i и р = 2 + (2i) 1 в полуплоскости q > 0, соответственно, которые совпадают при t = 1/4. При t > 1/4 гиперболы в Л2 не пересекаются, при t < 1/4 имеется точка пересечения. Величина u\{pt) имеет в асимптотике (при s .-+ 0) L-тип для пар (р, q) на самой гиперболе при рф 2. В точке пшерболы с координатами (2,2) величина u;(pt) не имеет логарифмического множителя, типы I и II совпадают. Величина и:(ре) имеет 1-тип при р/(1 -tp) >q> р/( 1 - 2 t(p - 2)), П-тип при q < р/( 1 - 2 f(p - 2)). Наконец, uJ(p, ) имеет Ф-тип (нет различимости) при q > шах(р/(1 - tq),p/( 1 - 2t(p - 2))) и

в точках гиперболы h при р < 4.

При р = i = 2 результаты получены Ермаковым (1990), в общем случае при р — q результаты получены Ингстером (1990).

По теме диссертации автором опубликовано 3 научных работы.

1. И. А. Суслина, Минимаксное обнаружение сигнала для 1ч-эллипсоидов

с удалённым 1р-шаром.—Зап. научн. семин. ПОМИ, 207 (1993), 127-137. —В кн.: Исследования по математической статистике, X.

2. И. А. Суслина, Экстремальные задачи, возникающие при минимаксном

обнаружении сигнала для 1ч-эппипсоидов с удалённым 1р - шаром .—Зап. научн. семин. ПОМИ, 228 (1996), 312-332.— В кн.: Вероятность и статистика, I.

3. Yu. I. Ingster and I. A. Suslina, (1996) The exact asymptotics in minimax

nonparametric hypotheses testing— Abstracts 4-th World Congress of the Bernoulli Society, p.246, Vienna, Austria.

Печать выполнена в Центре распределенных издательских систем ИТМО. Тел: (812) 238-85-38. Лицензия ПЛД N969-182 от 29.11.96. Подписано в печать 14.02.97. Тираж 100 экз. Заказ №27.