Статистический подход к реконструкции динамических систем по зашумленным данным тема автореферата и диссертации по физике, 01.04.03 ВАК РФ

Мухин, Дмитрий Николаевич АВТОР
кандидата физико-математических наук УЧЕНАЯ СТЕПЕНЬ
Нижний Новгород МЕСТО ЗАЩИТЫ
2007 ГОД ЗАЩИТЫ
   
01.04.03 КОД ВАК РФ
Диссертация по физике на тему «Статистический подход к реконструкции динамических систем по зашумленным данным»
 
Автореферат диссертации на тему "Статистический подход к реконструкции динамических систем по зашумленным данным"

ООЗиьи

а правах/рукописи

МУХИН Дмитрий Николаевич

СТАТИСТИЧЕСКИЙ ПОДХОД К РЕКОНСТРУКЦИИ ДИНАМИЧЕСКИХ СИСТЕМ ПО ЗАШУМ ЛЕННЫМ ДАННЫМ

01 04 03 - радиофизика

Автореферат

диссертации на соискание ученой степени кандидата физико-математических наук

? ^ май 2007

Нижний Новгород - 2007

003060136

Работа выполнена в Институте прикладной физики Российской академии наук (г Нижний Новгород)

Научный руководитель доктор физико-математических наук,

А М Фейгин

Официальные оппоненты доктор физико-математических наук,

профессор А С Дмитриев, доктор физико-математических наук, профессор В Д Шалфеев

Ведущая организация Саратовский государственный университет

(г Саратов)

Защита состоится « оЦ » мая 2007 г в на заседании

диссертационного совета Д 002 069 02 в Институте прикладной физики РАН (603950, г Нижний Новгород, ул Ульянова, 46)

С диссертацией можно ознакомиться в библиотеке Института прикладной физики РАН

Автореферат разослан » апреля 2007 г

Ученый секретарь диссертационного совета профессор

Ю В Чугунов

Общая характеристика диссертации

Предмет исследования и актуальность темы. Реконструкция динамических систем (ДС) по временным рядам (ВР) является одной из фундаментальных задач радиофизики Актуальность такого подхода к реконструкции связана с тем, что он не требует наличия полной и детальной априорной информации о процессах, протекающих в системе, т к не включает в себя процедуру построения моделей из первых принципов (уравнений движения среды или отдельных частиц, уравнений для силовых полей, переноса излучения, химической кинетики, тепло и массопереноса и пр ). Математическая модель исследуемой динамической системы при этом строится путем прямою анализа наблюдаемого процесса, вообще говоря, без привлечения информации о природе явления, лежащего в его основе

Методы построения моделей, описывающих динамику исследуемой системы в восстановленном по ВР фазовом пространстве, можно разбить на две группы [1,2] К первой относятся методы, направленные на реконструкцию локальной динамики системы в отдельно взятых элементарных ячейках фазового пространства Для успешной реконструкции поведения системы с помощью локальных моделей необходимо, прежде всего, чтобы окрестность каждой точки исследуемою аттрактора была хорошо посещаема восстановленной фазовой траекторией, т е протяженность наблюдаемого ВР (объем данных) должна быть достаточной для хорошего покрытия всего аттрактора Другим требованием к наблюдаемым данным является стационарность исследуемого ВР (предполагающая постоянство управляющих параметров реконструируемой системы), поскольку описанные методы базируются на эргодической гипотезе Главным недостатком локальных моделей является очень большое количество коэффициентов, требуемых для их описания, что очевидным образом снижает точность реконструируемых характеристик системы Кроме того, высокая чувствительность к измерительному шуму сильно затрудняет их использование при работе с реальными данными Вторую группу образуют методы глобальной реконструкции динамических систем, направленные на построение модели оператора эволюции (ОЭ), действующего во всей области фазового пространства, соответствующей наблюдаемому ВР Привлекательность такого подхода связана с тем, что весь набор имеющихся данных описывается непрерывной гладкой моделью с небольшим (по сравнению с локальными моделями) числом параметров Более того, с помощью глобальных моделей можно отслеживать изменения управляющих параметров исходной системы, что находит применение в задачах реконструкции неавтономное™ системы (см главу 2), восстановления бифуркационных диаграмм [3], передачи информации [4] и тд

Общей чертой всех процессов реального наблюдения является наличие случайной составляющей в эксперименталыгых данных, которая может быть следствием, например, шума измерительной аппаратуры, конечной точности измерений, дискретности временного ряда и т п В результате, наблюдаемые в реальном эксперименте величины содержат стохастическую компоненту и, следовательно, подлежат вероятностному описанию Это означает, что для получения несмещенных оценок неизвестных характеристик системы нужны методы, основанные на статистически корректном подходе к реконсгрукции системы по зашумленным данным Исследования в данном направлении, проведенные в последнее время, показали, что разработка таких методов является нетривиальной задачей в наиболее интересном случае, когда наблюдается сложное (хаотическое) поведение системы, а данные измерений содержат существенную погрешность Предложенные к настоящему времени методы, направленные на решение этой проблемы, имеют ряд существенных недостатков, не позволяющих использовать информацию о динамической системе, содержащейся в исследуемых данных, в полной мере

Другой характерной чертой процессов, протекающих во многих природных системах, является нестационарность наблюдаемого поведения, являющаяся следствием медленной неавтономности системы Такая неавтономность характерна для природных систем, т к они практически никогда не бывают замкнутыми, но зависят от изменяющихся с течением времени внешних условий, чго может приводить к изменению во времени параметров, определяющих динамические свойства системы Это означает, прежде всего, возможность смены типа поведения системы (бифуркации) в процессе ее эволюции, что влечет за собой существенные (иногда катастрофические) изменения количественных характеристик наблюдаемого процесса Поэтому в описанной ситуации особенно актуальной задачей, которую должна решать реконструкция, является задача прогноза качественного поведения ДС

Общей целью изложенных в данной диссертационной работе исследований является разработка и реализация эффективного метода глобальной реконструкции ДС, позволяющего извлекать из наблюдаемого ВР максимально полную информацию об исследуемой системе на основе статистического подхода к решению обратных задач С позиций единого подхода рассмотрены следующие проблемы

1 Разработка статистически обоснованного метода реконструкции в наиболее сложной с точки зрения «классического» Байесова подхода ситуации, когда наблюдаемые данные представляют собой хаотический зашумленный процесс

2 Вероятностный прогноз поведения неизвестных динамических систем по слабонестационарным хаотическим временным рядам

3 Решение некорректной обратной задачи восстановления вертикальных профилей атмосферных характеристик по данным пассивного

дистанционного зондирования Хотя данная задача не относится к реконструкции динамически:с систем, тем не менее, разработанная методика реконструкции ненаблюдаемых по данным измерений позволяет решать данную задачу более эффективно по сравнению с широко использовавшимися ранее методами

Для решения перечисленных задач предложены методы включающие в себя эффективные оригинальные способы параметризации решения, а также учета имеющейся априорной информации о системе Кроме того, используемые в работе численные алгоритмы модифицированы с учетом специфики рассматриваемых задач

Научная новизна работы

1 В диссертационной работе предлагается способ использования Байесова подхода для реконструкции ДС по хаотическим ВР, содержащим шум измерений Метод корректно учитывает статистику шумов, и в то же самое время максимально возможным образом принимает во внимание динамичность исследуемой системы Отмеченная во многих работах (см., например [5-8]) неприменимость Байесова подхода для анализа хаотических рядов преодолевается при этом более эффективно, по сравнению с предложенными ранее методами [7,8]

2 Предложен основанный на методе Монте-Карло метод статистического анализа построенной в рамках Байесова подхода функции апостериорной плотности вероятности (АПВ) ненаблюдаемых (параметров модели и латентных переменных), необходимого для расчета доверительных интервалов искомых величин Предложенный метод позволяет, кроме всего прочего, производить оценку параметров распределения шума (например, дисперсию), вообще говоря, неизвестных априори и являющихся ненаблюдаемыми наряду с параметрами модели и латентными переменными

3 В работе разработан метод прогноза качественного поведения неизвестной ДС, основанный на Бапесовой реконструкции, который позволяет производить вероятностное предсказание поведения исследуемой системы В рамках этого метода задается явно зависящая от временя модель ОЭ системы, строится функция АПВ параметров этой модели, которая определяет ансамбль возможных сценариев поведения системы, по которому затем вычисляются вероятности искомых характеристик (такие как, например, тип динамического режима в интересующий момент времени или моменты времени бифуркаций) как на интервале времени наблюдения, так и в будущем (путем экстраполяции модели за пределы времени наблюдения)

4 Разработанный в работе метод восстановления высотных профилей атмосферных характеристик по данным радиометрического зондирования, основанный на статистическом подходе к решению обратных задач, позволяет производить восстановление в случае, когда данные содержат сильный шум, а решаемая задача является существенно нелинейной

Предложенный способ регуляризации задачи, включающий в себя аппроксимацию профиля функцией в виде искусственной нейронной сети (ИНС), является более эффективным в условиях бедной априорной статистики, по сравнению с существующими ранее методами

Методы и подходы, используемые в диссертации

• Используется Байесов подход к построению апостериорных распределений для ненаблюдаемых, включающих в себя как информацию о шумовой составляющей данных наблюдений, так и априорную информацию об исследуемой системе (последнее является способом регуляризации некорректной задачи)

• Разработаны численные коды, реализующие предлагаемые алгоритмы анализа используемых в работе функций плотности вероятности, являющихся сильно нелинейными функциями многих переменных Данные алгоритмы включают в себя оптимизацию таких функций, их интегрирование методом Лапласа и статистический анализ методом Монте-Карло (разработан метод, основанный на алгоритме Metropolis-Hasting), а также расчет доверительных интервалов реконструируемых характеристик системы

• С использованием указанных кодов проведено численное моделирование для задач, изложенных в данной работе

Апробация работы. Результаты диссертации опубликованы в 5 статьях в реферируемых российских (Известия ВУЗов — Радиофизика) и международных (Faraday Discussions, Advances in Space Research, Physical Review E) научных журналах, 3 препринтах ИПФ РАН, 2 отчетах по программе фундаментальных исследований ОФН РАН, 6 сборниках трудов и 27 сборниках тезисов всероссийских и международных конференций

Изложенные в диссертации результаты докладывались на семинарах и конкурсах работ молодых ученых ИПФ РАН, семинарах НИИ ПМК, ИФА РАН, кафедры математической статистики ВМК МГУ им M В Ломоносова, на семинаре «Российская наука — XXI век» Минпромнауки РФ, в Лондонском Империал колледже (Великобритания), на международных и общероссийских конференциях и совещаниях 12-ой Генеральной ассамблее Международного союза геодезии и геофизики (1999 г, Бирмингем, Великобритания), Международной конференции, посвященной 100-летию со дня рождения А А Андронова «Прогресс в нелинейной науке» (2001 г, Нижний Новгород), Международной конференции Хаос'01 (2001 г, Саратов), 120-ой Фарадеевской дискуссии Королевского химического общества «Nonlinear Chemical Kinetics Complex dynamics and Spatiotemporal Patterns» (Манчестер, Великобритания, 2001), XXXII Международном научно-методическом

семишре «Шумовые и деградационные процессы в полупроводниковых приборах» (Москва, 2001), 4-ом и 5-ом Рабочих совещаниях программы «REACTOR» Европейского научного фонда (2003 г, Будапешт, Венгрия, 2004г, Прага, Чехия), 35-ой Научной ассамблее COSPAR (2004г, Париж, Франция), Генеральной ассамблее Европейского союза наук о Земле (2005 г , Вена, Австрия), Международном симпозиуме «Topical Problems of Nonlinear Wave Physics» (2005 r, Санкт-Петербург - Нижний Новгород), 31-ом Международном симпозиуме по дистанционному зондированию окружающей среды (2005 i , Санкт-Петербург), Международной конференции «Динамотеские дни» (2006 г , Крит, Греция), 3-ой, 4-ой, 5-ой, 6-ой Нижегородской научной сессии молодых ученых (Н Новгород, 1998, 1999, 2000, 2001 гг), 2-й Всероссийской научной конференции студентов-радиофизиков (1998 г, С -Петербург), 9-ой Всероссийской школе-семинаре «Волны — 2004» (Москва), 6-ой, 7-ой, 8-ой, 9-ой и 10-ой Всероссийской школе-конференции молодых ученых «МАПАТЭ» (2000 г и 2003г, Нижний Новгород, 2004г, Москва, 2005г, Борок, 2006г, Москва), Международном симпозиуме стран СНГ «Атмосферная радиация» (2002 и 2004 г., С -Петербург), 11-ой, 12-ой и 13-ой Научной школе «Нелинейные Волны» (2002, 2004 и 2006 г г, Нижний Новгород), 20-ой Всероссийской конференции по распространению радиоволн (2002 г, Н Новгород), 15-ой научной сессии Совета по нелинейной динамике (2006г, Москва)

Структура объем работы. Диссертация состоит из введения, трех глав, заключения, приложения и списка цитированной литературы, включающего и работы автора Общий объем диссертации составляет 124 страницы, включая 28 рисунков и список литературы из 107-ми наименований

Краткое содержание работы

Во введении обоснована актуальность темы, определены предмет исследован™ и задачи диссертации, кратко изложено содержание диссертации, а также приведены данные по апробашш и публикациям включенных в диссертацию материалов

Первая глава данной работы посвящена описанию и иллюстрированию на модельных примерах предлагаемого способа реализации (модификации) Байесова подхода

В разделе 1.1 делается введение, содержащее общие положения Байесова подхода применительно к анализу BP, содержащих шумы различной природы Описывается метод построения из общих принципов функции АПВ ненаблюдаемых переменных системы, определяющих набор свойств системы, прямое измерение которых невозможно

Если в процессе эксперимента регистрируются значения величины х, то, в соответствии с теоремой Баиеса, апостериорная условная плотность

вероятности ненаблюдаемых параметров м (часто называемое правдоподобием) р(м | х) пропорциональна произведению их априорной плотности вероятности Ррг(м) и априорной условной плотности вероятности полученных экспериментальных результатов р(х \ м)

р(МI х) ОС р{х IМ) X Ррг (м) (1)

Условная плотность вероятности р(х | м) целиком определяется "способом" зашумления BP и плотностями вероятности всех присутствующих в BP шумов Фактор ррг (м) позволяет учесть имеющуюся

a priori информацию о системе

Рассмотрим в качестве примера ДС с дискретным временем и предположим, для определенности, что как погрешность (шум) измерений так и возможный дефект модели [9] (расхождение модельного и истинного ОЭ) tj1 аддитивны

хк ~иа +°к

щ =00|*-1>мЛ) + з,

Здесь индекс к нумерует отсчеты дискретного времени, вектор = {ult задает "истинное" (патентное) состояние ДС в (-/-мерном фазовом пространстве, а функция Q(llk_l^M,tk) описывает оператор эволюции ДС, определяемой вектором параметров м Поскольку "истинные" состояния ДС неизвестны, фигурирующие в (1) плотности вероятности зависят не только от параметров М, но также от латентных переменных и и статистических характеристик шумов ^ и т] При этом вид функции априорной условной плотности вероятности р{х | м) целиком определяется распределениями случайных величин q и ц Обозначая предполагаемые формы функций плотности вероятности шумов и vv,(3 ,qi?)

(4scH Чп~ параметры соответствующих распределений) и считая при этом

шумы в различные отсчеты времени независимыми, используя (1) и (2), запишем искомую АПВ ненаблюдаемых

1 В более обшей постановке, когда ' динамичность" реконструированной системы априори неизвестна данная случайная ветчина описпвает случайное воздействие на систему в процессе ¡енерацин измеряемой величины х ("динамический шум ')

Рр,(м.Ч4 ,1Ч, I X, 1) ОС ррг (м,и,яг,) X

г-1 т (з)

*=1 *=1

Интегрируя функцию (3) по латентным переменным и параметрам и Ч , получим функцию апостериорной вероятности параметров м, содержащую всю информацию об искомом модельном ОЭ

м) = | хДУиЛ!^ (4)

Поскольку каждый вектор м соответствует функции ОЭ системы, ансамбль параметров, распределенный в соответствии с функцией (4), задает набор возможных реализаций динамических переменных системы (в том числе и за предепами наблюдаемого ВР, см. подробнее главу II), по которому могут быть вычислены, например, вероятности возможных динамических режимов, отвечающих наблюдаемому ВР. Заметим, что как интегрирование функции (3), так и генерация ансамбля параметров, распределенного в соответствии с заданной функцией (4) являются самостоятельными задачами, при этом выбор адекватных алгоритмов их решения диктуегся конкретным приложением

В разделе 1.2 рассматриваются частные случаи, соответствующие ситуациям, когда измерительный шум мал и когда он существенен В случае, когда уровень шума измерений пренебрежимо мал, функция АПВ, определяемая только случайными несоответствиями модельного и истинного ОЭ системы (дефектом модели), не содержит латентных переменных2 При наличии существенного шума измерений использование "классического" Байесова подхода для анализа хаотических ВР является затруднительным вследствие чрезвычайно сложной структуры соответствующей функции АПВ Действительно, в ситуации, когда сг{ »(см систему (2)), в

предположении нормального распределения шума измерений (с некоррелированными шумовыми отсчетами), соответствующая АПВ зависит от одной начальной латентной переменной и записывается следующим образом.

2

Если считать эти случайные величины нормально распределенными и независимыми в различных точках фазового пространства, соответствующих наблюдаемым состояниям, то поиск параметров, отвечающих максимуму этой функции эквивалентен реконструкции по методу наименьших квадратов

, ч 1

рА м, с,, и | х, 0 сс —- ехр

7 г А, ¡-V

•¿"г к-Л

РЛш)

(5)

Увеличение протяженности ВР, желательное для уменьшения эффективного уровня шума измерений, делает невозможным использование АПВ в виде (5) для вычислений вероятностей требуемых характеристик Очевидно, что выражение (5) в случае хаотического достаточно длинного ВР будет слишком сложным как для Монте-Карло анализа, так и для поиска наиболее вероятных значений параметров и начальных условий Это обусловлено тем, что из-за фрактальной природы странного аттрактора, лежащего в основе наблюдаемой хаотической динамики, увеличение Т приводит к чрезвычайному усложнению формы областей значений латентных переменных и параметров модели, обеспечивающих существование в фазовом пространстве модели траекторий, лежащих в шумовой окрестности фазовой траектории, полученной из наблюдаемых данных Это означает, что зависимость функции (5) от своих аргументов становится мультимодальной (сильно изрезанной) с чрезвычайно узкими локальными максимумами и, вследствие этого, непригодной для численного анализа.

Далее, в разделе 1.3 излагается предлагаемый способ модификации функции АПВ, делающий ее пригодной для численного анализа Способ основан на использовании в рамках Байесова подхода априорной информации о хаотическом характере поведения системы в период наблюдения В основе предложенной модификации лежит свойство динамического хаоса, состоящее в потере информационной связи между отсчетами наблюдаемого процесса с увеличением временного интервала между ними, что позволяет факторизовать исходную "полную" функцию АПВ ненаблюдаемых, считая далеко разнесенные по времени латентные переменные статистически независимыми рр5Ы,м,сг? |хД)сс

ос ■

ехр

1

М-\

4 *=0

0'{ и

*(и<+1)+1

*(и + 1)+1/ I

Ррг(™\

(6)

Длина сегмента является техническим параметром метода,

определяющим степень учета динамичности системы при реконструкции чем

выше ы, тем более длинные последовательности {{У ( )| фигурируют в (6) и, следовательно, тем точнее реконструкция В разделе исследована зависимость точности реконструкции от и" показано, что теоретическая зависимость хорошо соответствует рассчитанной численно Аналитически показано, что предельная длина сегмента, определяемая изложенными выше соображениями, зависит как от уровня шума измерений, так и от

характеристики хаотического аттрактора, определяемой старшим ляпуновским показателем Х-

и>* (7)

Я <т{

На практике увеличивать длину сегмента имеет смысл до тех пор, пока не перестает расти точность реконструкции (повышаться информативность апостериорного распределения)

Возможности предложенного подхода демонстрируются на двух примерах

В Разделе 1.4 представлена реконструкция параметра логистического отображения по зашумленному ВР Даже применительно к такой достаточно простой одномерной системе использование «классического» Байесова (основанного на использовании функции (5)) подхода для реконструкции ее параметра по хаотическим ВР сравнительно небольшой протяженности оказывается принципиально невозможным (см [6]) В работе [8] предложена модификация подхода, основанная на использовании стохастических моделей, позволяющая делать несмещенные оценки параметров системы. В данном разделе демонстрируется, что предлагаемый в диссертации подход оказывается существенно более эффективным с точки зрения точности реконструкции Во втором примере (раздел 1.5) решается задача классификации неразличимых традиционными методами режимов поведения известной динамической системы (используется отображение Эно) по коротким (около 20 характерных периодов изменения динамической переменной системы) существенно зашумленным ВР. Результаты классификации представляют собой рассчитанные вероятности наблюдения различных динамических режимов (хаотического и периодических с различным периодом) Показано, что предложенный метод позволяет уверенно выявить истинные динамические режимы, лежащие в основе исследуемых ВР, при достаточно высоких уровнях шума (отношение шум/сигнал до 50% для хаотического режима и до 25% для двухпериодического)

В разделе 1.6 излагаются выводы из результатов главы I

Во второй главе рассматривается реконструкция ДС в условиях, когда наблюдаемые данные представляют собой слабонестационарные хаотические процессы

Такая ситуация является типичной при наблюдениях за реальными системами, при этом соответствующие временные ряды имеют масштаб нестационарности много больший, чем характерные времена изменения динамических переменных Такое поведение характерно, в частности, для различных систем, определяющих протекание важнейших процессов в атмосфере и гидросфере Земли (эволюцию озонного слоя [10], поведение концен фаций химических составляющих атмосферы в приземном слое

воздуха [11], крупномасштабных вариаций поверхностной температуры тропических вод Тихого океана (явление Эль-Ниньо) [12]) Данное условие на масштаб нестационарности позволяет рассматривать систему, породившую данный ВР, как неавтономную с медленно изменяющимися во времени управляющими параметрами

Во вводном разделе 2.1 описываемой главы ставится задача реконструкции неавтономных ДС по таким ВР, а также излагаются некоторые особенности связанной с ней задачи прогноза качественного поведения ДС.

В разделе 2.2 описывается и обосновывается предлагаемый способ построения неизвестного неавтономного оператора эволюции системы, включающий в себя параметризацию в форме искусственной нейронной сети (ИНС) Выбор такой параметризации обусловлен тем, что ИНС является универсальным аппроксиматором [13,14], т. е позволяет аппроксимировать любую функцию на выбранном интервале изменения аргумента с заданной точностью Для построения неавтономного ОЭ параметры ИНС полагаются линейно зависящими от времени, т е модель ОЭ представляет собой функцию

м = (м1 =(а1,Ь1,с,),м2 =(а2,Ь\с2)) (8)

У]+с,)\ »

J

где т - количество нейронов в ИНС (т (.)

Предлагаемый метод прогноза, основанный на Байесовой реконструкции, позволяет производить вероятностное предсказание поведения исследуемой системы В рамках этого метода задается явно зависящая от времени модель ОЭ системы, строится функция АПВ параметров этой модели, которая определяет ансамбль возможных сценариев поведения системы, по которому затем вычисляются вероятности искомых характеристик (такие как, например, тип динамического режима в интересующий момент времени или моменты времени бифуркаций) как на интервале времени наблюдения, так и в будущем (путем экстраполяции модели (8) за пределы времени наблюдения)

Кроме того, для модели (8) предлагается метод использования априорной информации о системе в рамках Байесова подхода путем внесения вероятностных ограничений на параметры модели Необходимость такой регуляризации диктуется вырожденностью пространства параметров модели в виде ИНС

Далее, в последующих разделах, отдельно рассматриваются два случая — когда реконструкция производится по ВР без шума измерений, и когда ВР

{т а

содержит измерительный шум, существенно превосходящий ошибку, связанную с неточностью аппроксимации (дефект модели)

В разделе 2.3 в качестве примера реконструкции ДС по нестационарному незашумленному ВР рассматривается задача прогноза качественного поведения системы, представляющей собой систему ОДУ с периодическим внешним воздействием, описывающую фотохимическую динамику малых атмосферных примесей в районе мезопаузы (на высотах 80-90 км) Демонстрируется прогноз поведения этой системы, представляющий собой зависимости от времени вероятностей реализации различных динамических режимов системы Из представленного прогноза видно, что удается с хорошей степенью достоверности предсказать как сценарий перехода системы к хаосу («прошлое» системы), так и будущую катастрофическую бифуркацию, связанную с разрушением хаотического аттрактора Исследуется качество прогноза от количества нейронов т в ИНС, а также производится сравнение результатов прогноза, полученных с помощью модели (8), и с помощью более простой полиномиальной модели, используемой в ранних работах автора

В разделе 2.4 рассматривается случай существенно зашумленного слабонестационарного ВР. При этом для реконструкции используется функция АПВ (6), построенная в соответствии с модифицированным Байесовым подходом, описанным в первой главе Обстоятельством, усложняющим анализ вероятностного распределения в последнем случае, является наличие в нем степеней свободы, соответствующих латентным переменным системы, количество которых возрастает пропорционально протяженности исследуемого ВР В рассматриваемой задаче прогноза поведения ДС используются реализации существенной протяженности (например, используемые в данной работе ВР включают в себя порядка 1000 отсчетов), поскольку требуется, чтобы процесс содержал в себе достаточную информацию о структуре фазового пространства восстанавливаемой системы В результате размерность пространства ненаблюдаемых зачастую оказывается настолько большой, что численный анализ соответствующей функции АПВ становится практически невозможным Для преодоления указанной трудности в работе предлагается метод приближенного интегрирования АПВ по латентным переменным, позволяющий получить АПВ только для параметров модели ОЭ Результаты прогноза демонстрируются на примерах ВР, порожденных как точечным отображением (отображение Эно), так и системой обыкновенных дифференциальных уравнений (система Ресслера) Приведенные результаты иллюстрируют высокую эффективность модифицированного Байесова подхода с точки зрения как прогноза поведения системы, так и реконструкции наблюдаемой динамики В то же время, демонстрируется непригодность для прогноза поведения системы по зашумленным ВР более

простой функции АПВ, полученной в приближении нулевого шума измерений

В разделе 2.5 кратко излагаются основные выводы из полученных результатов, обсуждаются ограничения и возможные усовершенствования разработанного метода

Хотя предложенная методика изначально разрабатывалась для задачи реконструкции динамических систем по генерируемым ими наблюдаемым процессам, она оказывается эффективной при решении других (не «динамических») некорректных обратных задач Это демонстрируется в третьей главе работы, где рассматривается задача восстановления высотных распределений (профилей) параметров атмосферы по данным наземного пассивного радиометрического зондирования, представляющим собой спектры излучения (поглощения) химических составляющих атмосферы

Во вводном разделе 3.1 формулируется задача восстановления атмосферных профилей по данным дистанционного зондирования, а также подробно поясняются недостатки существующих методов

Задача восстановления высотных распределений атмосферных характеристик по данным дистанционного зондирования предполагает решение интегрального уравнения [15] (в общем случае нелинейного), при этом она является некорректной, поскольку неточность в исходных данных, обусловленная их дискретностью и существенной зашумленностью, приводит к бесконечному множеству возможных решений, в то время как существует точное и единственное решение невозмущенной задачи Ключевым моментом при этом является включение в процедуру восстановления физически обоснованной априорной информации о профиле, ограничивающей класс возможных решений [16] Наиболее часто применяемые алгоритмы восстановления профилей атмосферных характеристик основаны на использовании метода наименьших квадратов, дополненного регуляризацией, содержащей необходимые априорные представления Эти алгоритмы отличаются между собой преимущественно методами регуляризации, т е типами используемой априорной информации и способами ее включения

Общим недостатком традиционных методов восстановления является использование кусочно-однородной (кусочно-линейной) аппроксимации профиля, что сильно ограничивает возможность включения в алгоритм априорной информации различного типа Кроме того, большинство существующих методов направлены на решение линеаризованной задачи, в то время как связь между искомым профилем и наблюдаемым спектром часто описывается нелинейным интегральным уравнением В ситуации, типичной для наземного зондирования, когда уровень шума достаточно высок, систематическая ошибка, вносимая линеаризацией, может быть существенна Другим очень важным моментом при решении задачи восстановления является корректный расчет погрешности произведенных оценок. При использовании традиционных методов восстановления определение данной

погрешности является отдельной весьма нетривиальной задачей даже в случае линейной связи измеряемой и восстанавливаемой характеристик (см , например, [17])

Далее, в разделе 3.2, описывается общий Байесов подход в приложении к рассматриваемой задаче, что в дальнейшем позволяет произвести прямое сравнение различных методов восстановления

В соответствии с описанным в первой главе подходом искомая величина интерпретируется как случайная, и для нее строится функция АПВ, включающая в себя как информацию о распределении шума измерительной аппаратуры, так и априорные ограничения, налагаемые на свойства восстанавливаемого высотного распределения При этом исходные интегральные уравнения, лежащие в основе построения АПВ, могут быть нелинейными по отношению как к восстанавливаемой величине, так и к параметрам функции, аппроксимирующей профиль Анализ функции АПВ методом Монте-Карло позволяет получить статистический ансамбль возможных профилей, по которому рассчитываются доверительные интервалы с заданным уровнем вероятности для искомой величины во всем зондируемом диапазоне высот Таким образом, статистически обоснованная оценка погрешности восстановления является неотъемлемой частью предложенной процедуры

В этом же разделе описывается параметризация восстанавливаемого профиля функцией в виде ИНС и описывается эффективный способ учета априорной информации о профиле в форме вероятностного распределения параметров этой функции Регуляризация задачи при таком способе параметризации достигается, во-первых, выбором количества нейронов в ИНС — данный параметр задает определяемое априори (из общих соображений о структуре атмосферы) максимально допустимое количество участков монотонности профиля Кроме того, выбирая определенным образом значения дисперсий априорных распределений параметров, можно независимо налагать различные априорные ограничения на профиль, такие как локализация профиля по высоте, производная по высоте, определяющая гладкость, допустимый диапазон изменения восстанавливаемой величины В результате при восстановлении в удобной форме может быть задействована априорная информация разнообразного характера, что обеспечивает эффективную регуляризацию

В разделе 3.3 рассматривается конкретная задача — восстановление профиля озона по данным пассивного зондирования в миллиметровом диапазоне длин волн В начале раздела описывается интегральное уравнение для прямой задачи Затем возможности метода демонстрируются на модельном примере, имитирующем измерения радиационной температуры атмосферы спектрометром ИГ1Ф РАН в Арктике |18] Показано, что предлагаемый метод позволяет восстановить профиль с достаточно резкими вариациями озона, моделирующими ситуацию с сезонным образованием

арктической озонной дыры, в то время как метод, включающий в себя кусочно-линейную параметризацию и широко используемую регуляризацию Тихонова [19], оказывается неэффективным Далее представляются результаты восстановления профиля озона по реальным измерениям, проведенным в Апатитах зимой 2002-2003 гг , которые затем сравниваю 1ся с данными модели GOME/ROSE [20]

В разделе 3.4 излагаются выводы из полученных результатов В Заключении сформулированы основные результаты работы В Приложении описан метод Metropolis-Hastmg (МН), адаптированный доя статистического анализа используемых в работе функций АПВ Данный метод используется нами для получения статистических ансамблей ненаблюдаемых, распределенных в соответствии с заданными функциями АПВ В методах МН генерируется марковский процесс, вероятностное распределение которого сходится к распределению, задаваемому исследуемой функцией, при этом для генерации кандидатов для такого процесса используется функция плотности вероятности заранее определенного вида Идея предлагаемой адаптации метода, реализация которой изложена в Приложении, состоит в адаптивной (в процессе генерации) «подстройке» такой функции, направленной на уменьшение автокорреляций генерируемого марковского процесса и, как следствие, на увеличение информативности выборок, по которым производятся статистические оценки искомых характеристик

Основные результаты диссертационной работы

1 Разработан метод глобальной реконструкции динамических систем (ДС) по порожденным ими временным рядам (ВР), основанный на статистическом подходе к решению обратных задач Показано, что лежащая в основе метода модификация классического Байесова подхода позволяет извлекать из наблюдаемого процесса максимально полнута информацию об исследуемой ДС Эффективность метода продемонстрирована на примере решения задач отыскания неизвестных значений параметров известной ДС, а также классификации режимов поведения ДС (как регулярных, так и хаотических) по короткому зашумленному ВР

2 Разработан метод анализа функции апостериорной плотности вероятности ненаблюдаемых характеристик ДС полученной в рамках Байесова подхода, необходимый для извлечения искомой информации о системе Метод включает в себя как асимптотически корректную аналитическую оценку распределения латентных динамических переменных, так и анализ построенного апостериорного распределения методом Монте-Карло.

3 Разработан метод Байесовой реконструкции ДС с неизвестным оператором эволюции (ОЭ) по слабонестационарному ВР. Предложен универсальный способ параметризации ОЭ, а также способ использования априорной информации о системе для отбора физически обоснованных решений соответствующей некорректной обратной задачи

4 Предложен метод построения прогноза качественного поведения неизвестной ДС по нестационарному хаотическому ВР Эффективность метода продемонстрирована путем построения прогноза по слабонестационарным ВР, порожденным как дискретными отображениями, так и потоковыми системами Для обоих классов ДС правильно предсказаны вероятности реализации различных динамических режимов и бифуркационных переходов, а также типы возможных бифуркаций Применительно к задаче прогноза показана эффективность использования модифицированного Байесова подхода в ситуации, когда исследуемые данные содержат существенный измерительный шум

5 Показано, что разработанная методика решения некорректных обратных задач может быть успешно применена к задаче восстановления высотных распределений атмосферных параметров по данным радиометрического зондирования Предложен новый способ параметризации высотных распределений для которого разработан метод регуляризации задачи Продемонстрированы преимущества предложенного способа регуляризации над предложенными ранее методами Эффективность новой методики продемонстрирована как на модельных примерах, так и на реальных данных

Список цитируемой литературы

[1] Abarbanel EDI Analysis of Observed Chaotic Data New York- SpringerVerlag, 1997

[2] Безручко ETI, Смирнов ДА Математическое моделирование и хаотические временные ряды Саратов ГосУНЦ "Колледж", 2005

[3] Bagarinao Е, РаЫатагг К, Nomuta Т, and Sato S Reconstructmg bifurcation diagrams from noisy txme senes usrng nonlmear autoregressive models//Phys Rev E 1999 V 60 P 1073

[4] Amshchenko VS, Pavlov AP Global reconstructicn m apphcation to multichannel commumcation /7 Phys Rev E 1998 V 57(2) P 2455.

[5] Judd К Chaotic-time-senes reconstraction by the Bayesian paradigm. Right results by wrong methods//Phys Rev E 2003 V 67 P 026212

[6] Pisarcnko V F ar<d Sornctte D Statistical methods of parameter estimation for deterministicall> chaotic time senes // Phys Rev Ь 2004 V 69 P 036122

[7] McSharry P E and Smith L A Better Nonlinear Models from Noisy Data Attractors with Maximum Likelihood 11 Phys Rev Lett 1999 V 83 P 4285

[8] Meyer R and Christesen N Bayesian reconstruction of chaotic dynamic systems//Phys Rev E 2000 V 62 P 3535

[9] Бутковский О Я, Кравцов Ю А , Логунов М Ю Анализ погрешностей восстановления параметров нелинейного отображения по зашумлеиным хаотическим временным рядам // Изв ВУЗов - Радиофизика 2002 Т 45(1) С 55

[10] Yang, Р, Brasseur GP , Gille JC, et al Dimensionalities of ozone attractors and their global distribution//Physica D 1994 V 76 P 331

[11] Li IF, Biswas P , and Islam S Estimation of the dominant degrees of freedom for air pollutant concentration data- applications to ozone measurements // Atmospheric Environment 1994 V 28 P 1707

[12] Neehn, JD andLatifM EI Nmo Dynamics // Physics Today 1998 V 51 P 32

[13] Макаренко H Г Фракталы, аттракторы, нейронные сети и все такое // Труды IV Всероссийской научн.-техн конф "Нейроинформатика-2002" Часть 2 М , 2002 Р. 121

[14] Hotntk. К, Stinchcombe М and White Н Multilayer feedforward networks are universal approximators // Neural Networks 1989 V 2 P 359

[15] Тауис Ч, Шавлов А Радиоспектроскопия / M Изд-во ин Лит, 1959

[16] Турчии ВФ, Козлов В17, Мапкевич МС Использование методов математической статистики для решения некорректных задач II Усп физ наук 1970 Т 102(3) С 345

[17] Rodgers С D The Characterization and Error Analysis of Profiles Retrieved from Remote Sounding Measurements // J Geophys Res 1990 V 95(D5) P 5587

[18] Куликов ЮЮ, Красилъников AA, Рыскин В Г Результаты микроволновых исследований структуры озонового слоя полярных широт во время зимних аномальных потеплений стратосферы // Изв РАН Физика атмосферы и океана 2002 Т 38(2) С 182

[19] Тихонов АН О регуляризации некорректно поставленных задач //

Докл АН СССР 1963 Т 153(1) С 49

[20] WDC for Remote Sensing of the Atmosphere, http //wdc dlr de/data_products/SERVICES/rose/mdex html

Список работ автора по теме диссертации

1 ЕМ Лоскутов, Я И Мочьков, ДII Мухин, AM Фейгин, Прогноз качественного поведения динамической системы по хаотическому временному ряду // Изв ВУЗов - Радиофизика, т 44, №5-6, с 376-399, 2001

2 AM Feigin, YalMolkov, DNMukhin, EMLoskutov, Investigation of nonlinear dynamical properties by the observed complex behavior as a Basis for Construction of the Dynamical Models of Atmospheric Photochemical Systems // Faradey Discussions, v 120, p 105-123, 2002

3 Я И Мочъков, ДН Мухин, ЕВ Суворов, AM Фейгин, Байесов подход к восстановлению вертикального распределения озона по данным радиометрических измерений // Изв ВУЗов - Радиофизика, т46, №8-9, с 752-763, 2003

4 Mukhin D N, Feigin А М, Molkov Ya I and Suvorov E V, Bayesian approach to retrieval of vertical ozone profile from radiometry data II Adv Space Res , V 37, No 12,2292-2298(2006)

5 D N Mukhin, A M Feigin, E M Loskutov, and Ya I Molkov, Modified Bayesian approach for the reconstruction of dynamical systems from time series // Phys Rev E, V 73, No 3,036211 (2006)

6 ЕМЛоскутов, Я И Мочъков, Д Н Мухин, AM Фейгин, Статистический подход к реконструкции динамических систем // Сборник «Нелинейные волны' 2004» - Нижний Новгород ИПФ РАН, 2005, с 411-425

7 ЕМЛоскутов, Я И Молъков, ДН Мухин, AM Фейгин, Долгосрочный прогноз эволюции малых газовых составляющих атмосферы по наблюдаемым временным зависимостям // Сборник трудов Международной конференции "Физика атмосферного аэрозоля", Москва, 12-17 апреля 1999г - М Диалог-МГУ,1999, с 480-485

8 ЕМЛоскутов, Я И Мольков, Д Н Мухин, AM Фейгин, Прогноз бифуркаций динамической системы по наблюдаемому хаотическому временному ряду // Труды VI всероссийской конференции молодых ученых «Малые примеси атмосферы Атмосферное электричество» (Нижний Новгород, 11-13 мая 2000г), Н Новгород Изд ИПФ РАН, 2000, с 151-169

9 Я И Мочъков, Д Н Мухин, Е В Суворов, AM Фейгин, О новом методе восстановления высотного распределения озона по данным микроволнового пассивного зондирования атмосферы // Труды XX Всероссийской конференции по распространению радиоволн (Нижний Новгород, 2-4 июля 2002г), с 356

10 Я И Мольков, ДН Мухин, Е В Суворов, AM Фейгин, Байесов подход к восстановлению вертикального профиля озона по данным микроволновых измерений реализация на основе искусственных нейронных сетей // Труды VII Всероссийской конференции молодых ученых «Малые примеси, атмосферное электричество и динамические процессы в атмосфере» (Нижний Новгород, 13-15 мая 2003г), Н Новгород Изд ИПФ РАН, 2003, с 168-176

11 AM Фейгин, Д Н Мухин, А А, Швецов, Совершенствование методов микроволновой и спектрометрической диагностики облачности, газового и аэрозольного состава атмосферы // Материалы совещания по

Программе фундаментальных исследований ОФН РАН «Физика атмосферы электрические процессы, радиофизические методы исследований», Нижний Новгород ИПФ РАН, 2003, стр 40-42

12 AM Фейгин, Д H Мухин, А А, Швецов, Совершенствование методов микроволновой и спектрометрической диагностики облачности, газового и аэрозольного состава атмосферы // Материалы совещания по Программе фундаментальных исследований ОФН РАН «Физика атмосферы электрические процессы, радиофизические методы исследований», Нижний Новгород ИПФ РАН, 2005, стр.76-83

13 D N Mukhin, AM Feigin, ЕМ Loskutov, Ya I Mollcov, Modification of Bayesian approach as applied to reconstruction of dynamic system from time-series // Proceedings of International Symposium "Topical problems of nonlinear wave physics", Нижний Новгород, ИПФ РАН, 2005, стр 75-76

14 ЕМ Лоскутов, ЯИМольков, ДНМ)>хин, AM Фейгин, Прогноз слабонеавтономных динамических систем на основе наблюдаемых временных рядов Препринт ИПФ РАН № 508 H Новгород, 1999

15 Лоскутов ЕМ, Мольков ЯИ, Мухин ДН, Фейгин AM Глобальная реконструкция динамических систем по слабонестационарным зашумленным хаотическим временным рядам Препринт ИПФ РАН № 708 H Новгород, 2006

16 Лоскутов ЕМ, Мольков Я И, Мухин ДН, Фейгин A M МСМС метод в Баиесовой реконструкции динамических систем по зашумленным хаотическим временным рядам Препринт ИПФ РАН № 716 H Новгород, 2006

Оглавление диссертации

Введение 4

I Сз атнстическии подход к реконструкции динамических систем 20

1 1 Введение . . .20

1 2 Частные случаи 24

Нулевой шум измерений . . 24

Существенный шум измерений . . .26

1 3 Модификация Байесова подхода . . 29

1 4 Восстановление значений параметров известной динамической системы по временному ряду сравнение модифицированного и «классического» подходов .. 33

1 5 Классификация режимов поведения известной динамической

системы по коротким зашумленным временным рядам . 36

1 6 Заключение .. 41

И Реконструкция слабонестационарных динамических систем по хаотическим временным рядам 43

2 1 Введение . . . . 43 2 2 Описание модели наблюдаемой динамики . . 44

Общий вид реконструируемой неавтономной системы 44

Параметризация оператора эволюции . . .46

2 3 Пример реконструкции прогноз поведения динамической системы

по хаотическому незашумленному временному ряду 48

Описание системы 49

Алгоритм реконструкции . 53

О выборе числа нейронов . 57

Результаты прогноза . . 59

Выводы из полученных результатов . 64 2.4 Реконструкция динамической системы по зашумленному

слабонестационарному временному ряду 65

Вводные замечания . 65

Метод анализа функции АПВ . 67 Примеры реконструкции прогноз поведения динамических

систем по хаотическим зашумленным временным рядам 68

2 5 Заключительные замечания . 77

III Восстановление профилен атмосферных характеристик по данным дистанционного зондирования 81

3 1 Введение . .81

3 2 Статистический подход в приложении к задаче восстановления

атмосферных профилей 85

Построение функции правдоподобия . 85

Параметризация профиля . 89

3 3 Восстановление профиля атмосферного озона по данным

миллиметровых измерений . . 90

Описание прямой задачи . ... 90

Модельная задача . . . 91 Решение модельной задачи сравнение кусочно-однородной и

нейронно-сетевой параметризаций профиля . 92

Восстановление профиля озона по данным, измеренным в

реальном эксперименте . 98

3 4 Заключение . . . 100

Заключение 102

Приложение 104

Литература 114

Дмитрий Николаевич Мухин

СТАТИСТИЧЕСКИЙ ПОДХОД К РЕКОНСТРУКЦИИ ДИНАМИЧЕСКИХ СИСТЕМ ПО ЗАШУМЛЕННЫМ ДАННЫМ

Автореферат

Подписано к печати 13 04 2007 г Формаг 60 х 90 '/16 Бумага офсетная № 1 Уел неч л 1,5 Тираж 100 экз Заказ №48(2007)

Отпечатано в гипографии Института прикладной физики РАН, 603950 Н Новгород,ул Ульянова, 46

 
Содержание диссертации автор исследовательской работы: кандидата физико-математических наук, Мухин, Дмитрий Николаевич

Введение

I Статистический подход к реконструкции динамических систем (ДС)

1.1 Введение.

1.2 Частные случаи.

Нулевой шум измерений.

Существенный шум измерений.

1.3 Модификация Байесова подхода.

1.4 Восстановление значений параметров известной ДС по зашумленному временному ряду (ВР): сравнение модифицированного и "классического" подходов.

1.5 Классификация режимов поведения известной ДС по коротким зашум-ленным ВР.

 
Введение диссертация по физике, на тему "Статистический подход к реконструкции динамических систем по зашумленным данным"

2.2 Описание модели наблюдаемой динамики.44

Общий вид реконструируемой неавтономной системы.44

Параметризация оператора эволюции.46

2.3 Пример реконструкции: прогноз поведения ДС по хаотическому неза-шумленному ВР.48

Описание системы.49

Алгоритм реконструкции.53

О выборе числа нейронов.57

Результаты прогноза.59

Выводы из полученных результатов.64

2.4 Реконструкция ДС по зашумленному слабонестационарному ВР . . . . 65

Вводные замечания .65

Метод анализа функции апостериорной плотности вероятности

АПВ). 67

Примеры реконструкции: прогноз поведения ДС по хаотическим зашумленным ВР. 68

2.5 Заключительные замечания. 77

III Восстановление профилей атмосферных характеристик по данным дистанционного зондирования 81

3.1 Введение.81

3.2 Статистический подход в приложении к задаче восстановления атмосферных профилей.85

Построение функции правдоподобия .85

Параметризация профиля.89

3.3 Восстановление профиля атмосферного озона по данным миллиметровых измерений.90

Описание прямой задачи.90

Модельная задача.91

Решение модельной задачи: сравнение кусочно-однородной и нейронносетевой параметризаций профиля.92

Восстановление профиля озона по данным, измеренным в реальном эксперименте .98

3.4 Заключение.100

Заключение 102

Приложение 104

Литература 114

Введение

Разработке методов решения обратных задач реконструкции динамических систем (ДС) на основе порожденных ими наблюдаемых процессов (временных рядов) посвящено в последние тридцать лет большое количество работ (см., например, [1-3] и цитируемую там литературу). Актуальность такого подхода к реконструкции связана с тем, что он не требует наличия полной и детальной априорной информации о процессах, протекающих в системе, т. к. не включает в себя процедуру построения моделей из первых принципов (уравнений движения среды или отдельных частиц, уравнений для силовых полей, переноса излучения, химической кинетики, тепло и массопереноса и пр.). Математическая модель исследуемой ДС при этом строится путем прямого анализа наблюдаемых данных, вообще говоря, без каких-либо допущений о природе изучаемого явления. Как правило, каждый из предложенных к настоящему времени методов такой реконструкции, включает в себя два основных шага: (1) реконструкция области фазового пространства, в которой система эволюционирует, и (2) построение модели, воспроизводящей поведение системы в этой области фазового пространства.

Фундаментальной основой методов реализации первого шага являются доказанные Такенсом теоремы [4], из которых следует, что непрерывная бесконечная и стационарная зависимость от времени всего лишь одной (наблюдаемой) динамической переменной системы является достаточной для восстановления топологической структуры области фазового пространства, соответствующей наблюдаемой эволюции системы. В реальности протяженность наблюдаемого временного ряда (ВР) всегда ограничена, что приводит к ошибке при реконструкции реализующегося в фазовом пространстве системы аттрактора, и, как следствие, неточности в определении его характеристик. Тем не менее, созданные к сего. дняшнему дню алгоритмы позволяют достаточно аккуратно восстанавливать динамические свойства системы по конечному стационарному ВР. Кроме того, результаты многочисленных компьютерных экспериментов (начиная со статьи [5], инициировавшей упомянутую работу Такенса) с очень широким кругом моделей показали, что такая реконструкция может производится на основе дискретного ВР. Наконец, было показано [6], что теоремы Такенса могут быть обобщены на случай нестационарных ВР, т.е. нестационарность не налагает ограничений с точки зрения принципиальной возможности реконструировать наблюдаемый аттрактор.

Методы построения моделей, описывающих динамику исследуемой системы в восстановленном фазовом пространстве, можно разбить на две группы [1,2]. К первой относятся методы, направленные на реконструкцию локальной динамики системы в отдельно взятых элементарных ячейках фазового пространства. В рамках таких методов строятся модели, способные воспроизвести (предсказать) эволюцию малой окрестности выбранного вектора состояния системы в фазовом пространстве на времена порядка характерного масштаба изменения динамической переменной. Другими словами, для каждой интересующей точки фазового пространства строится локальный оператор эволюции (ОЭ), наилучшим образом предсказывающий дальнейшее поведение фазовых траекторий, попавших в малую окрестность данной точки, на определенный шаг по времени. В качестве функций, аппроксимирующих данный ОЭ, используются как полиномы различной степени [7] (в частности, полином нулевой степени - в этом случае предсказание заключается в простом усреднении по образам всех точек из выбранной окрестности), так и более сложные функции, например, системы радиальных базисных функций [8]. В случае хаотической динамики такие модели обеспечивают характерное время предсказания, обратно пропорциональное значению старшего ляпуновского показателя ВР, являющегося мерой разбегания изначально близких фазовых траекторий хаотического аттрактора [9]. Для успешной реконструкции поведения системы с помощью описанных локальных моделей необходимо, прежде всего, чтобы окрестность каждой точки исследуемого аттрактора была хорошо посещаема восстановленной фазовой траекторией, т. е. протяженность наблюдаемого ВР (объем данных) должна быть достаточной для хорошего покрытия всего аттрактора. Другим требованием к наблюдаемым данным является стационарность исследуемого ВР (предполагающая постоянство управляющих параметров реконструируемой системы), поскольку описанные методы базируются на эргодической гипотезе. Главным недостатком локальных моделей является очень большое количество коэффициентов, требуемых для их описания, что очевидным образом снижает точность реконструируемых характеристик системы. Кроме того, высокая чувствительность к измерительному шуму сильно затрудняет их использование при работе с реальными данными.

Вторую группу образуют методы глобальной реконструкции динамических систем, направленные на построение модели оператора эволюции, действующего во всей области фазового пространства, соответствующей наблюдаемому ВР. Такие модели воспроизводят качественную структуру фазового пространства ДС, при этом, вообще говоря, можно восстанавливать различные характеристики исследуемого аттрактора, такие как вероятностное распределение, фрактальная размерность, ляпунов-ские показатели и др. Привлекательность такого подхода связана с тем, что весь набор имеющихся данных описывается непрерывной гладкой моделью с небольшим (по сравнению с локальными моделями) числом параметров. Более того, с помощью глобальных моделей можно отслеживать изменения управляющих параметров исходной системы, что находит применение в задачах реконструкции неавтономности системы (см. главу 2 и [10-14]), восстановления бифуркационных диаграмм [15-18], передачи информации [19-21] и т.д. Чаще всего глобальная модель строится в виде дискретного ОЭ, описывающего связь между состояниями системы, соответствующими соседним по времени пересечениям фазовой траектории с выбранной секущей аттрактора в восстановленном фазовом пространстве. При этом для аппроксимации ОЭ могут использоваться различные функции, такие как, например, системы ортогональных (на инвариантной плотности аттрактора) полиномов [22], системы радиальных базисных функций [8,23,24], искусственные нейронные сети (ИНС) [12,13,25,26] и др. Кроме того, предложены методы построения потоковых глобальных моделей, представляющих собой системы дифференциальных уравнений заранее выбранного вида [27-32].

Особенностью глобальной реконструкции является то, что используемые модели являются параметризованными, т.е. представляют собой функции, зависящие от наборов параметров. При этом задача реконструкции ДС часто понимается, как поиск оптимального (обеспечивающего наилучшее соответствие модели и наблюдаемого процесса), с точки зрения выбранного критерия, вектора параметров модели. Математическим представлением такого критерия обычно является ценовая функция (ЦФ), определяющая меру близости наблюдаемых данных и модели, маленькие значения которой отвечают хорошему соответствию, а большие - плохому. Например, хорошо известной и наиболее широко используемой ЦФ является среднеквадратичная невязка, лежащая в основе метода наименьших квадратов (МНК) (см., например, [9,33,35]); в методе обобщенных наименьших квадратов (МОНК) используется ЦФ, наиболее эффективная в задачах аппроксимации данных, когда погрешность присутствует как в образах, так и в прообразах реконструируемого отображения [34,36,37]; при реконструкции параметров известной системы по ВР применяется метод множественной стрельбы [39,49], основанный на ЦФ, учитывающей "долгие" корреляции наблюдаемой динамической переменной. Кроме того, при реконструкции параметров простых систем, в основе которых лежат известные уравнения, может применяться метод статистических моментов [2,38], обоснованность которого очевидна для эргодических процессов. Однако, данный метод может применяться только в случае реконструкции систем простого априори известного вида, а эффективность его невысока [38].

Неотъемлемой чертой любого процесса реального наблюдения является наличие случайной составляющей в экспериментальных данных. Такая случайность может быть следствием, например, шума измерительной аппаратуры, конечной точности измерений, дискретности ряда по времени и т.п. Другими словами, измеренные значения отличаются от тех, которые были сгенерированы изучаемой системой, и эти отличия являются случайными величинами. Таким образом, наблюдаемые в реальном эксперименте величины содержат стохастическую компоненту, и, следовательно, уместным является вероятностный подход к их описанию. Ясно, что подход к оценке ненаблюдаемых величин (параметров системы, скрытых шумом (латентных) динамических переменных и других искомых характеристик системы) по таким данным должен быть статистически обоснованным, т. е. максимально корректно учитывать вероятностное распределение наблюдаемых величин. Можно легко показать, что в противном случае, когда используемый подход основан на неверной информации о статистических свойствах переменных (в частности, использование перечисленных выше ценовых функций далеко не всегда оказывается статистически обоснованным, см. главы I и II), производимые оценки искомых характеристик системы оказываются неконтролируемым образом систематически смещенными (см., например, [40,41]). Это обстоятельство делает наиболее адекватным вероятностный (Байе-сов) подход к решению задачи реконструкции, в рамках которого реконструируемые ненаблюдаемые переменные предполагаются случайными величинами, для которых конструируется функция апостериорной плотности вероятности (АПВ). Кроме информации о шуме, такой подход в вероятностной форме задействует также всю имеющуюся априорную информацию о реконструируемой системе. В наиболее типичном случае, когда решаемая задача является некорректной, использование обоснованной априорной информации, обеспечивающее регуляризацию решения, является ключевым моментом при реконструкции.

Одной из основных целей данной работы является разработка и реализация эффективного метода глобальной реконструкции ДС, позволяющего извлекать из наблюдаемого ВР максимально полную информацию об исследуемой системе на основе Байесового подхода к решению обратных задач. Попытки построения методик глобальной реконструкции ДС, в которых в основе производимых оценок лежат статистические соображения, начали предприниматься сравнительно недавно. Первой работой, направленной на получение несмещенной оценки параметров известной ДС по зашумленному хаотическому BP, является статья [40], в которой, во-первых, продемонстрировано растущее с увеличением уровня шума систематическое смещение оценок, полученных с помощью МНК и МОНК, и, во-вторых, предложена ценовая функция, учитывающая инвариантную плотность состояний в фазовом пространстве модели при различных значениях параметров1. На примере BP, сгенерированного простейшим точечным отображением (logistic map), показано отсутствие систематической погрешности реконструкции параметра данной системы во всем представленном диапазоне уровня шума. Однако, как справедливо отмечено в последующих работах [38,41], предложенный метод построения ЦФ содержит ряд ошибок, связанных с неправильной статистической интерпретацией переменных, при этом несмещенность оценки достигается крайне неэффективным способом. В этих же работах (кроме того, см. [42-44]) также отмечается трудность практического использования апостериорной плотности вероятности ненаблюдаемых, построенной статистически корректным образом (в рамках "классического" Байесова подхода), в случае реконструкции динамической системы по зашумленному хаотическому BP существенной протяженности. Основная проблема заключается здесь в практической невозможности учета "динамичности" системы в полной мере, что отражается в чрезвычайно сложной ("изрезанной") структуре соответствующей функции АПВ. Поскольку именно хаотические BP, неся в себе информацию о значительной части фазового пространства системы, представляют особый интерес с точки зрения глобальной реконструкции ДС, преодоление данной трудности является очень существенным шагом, на что и были направлены дальнейшие усилия в разработке Байесовых методов. Так, работе [41]

1 Фактически, предложено исключить из ценовой функции МОНК латентные переменные, проинтегрировав ее на предельном множестве состояний модели. предлагается подход, основанный на смягчении требований к динамичности исследуемой системы: при построении искомой АПВ предполагается наличие (кроме динамической) слабой стохастической связи между латентными переменными системы, т.е. по сути, в модель вводится динамический шум. Несмотря на то, что, как отмечено в работе [42], авторы фактически "неправомерно" подменили динамическую задачу стохастической, продемонстрировано, что такой подход позволяет получить несмещенные оценки на искомые характеристики системы. Можно, однако, показать [44], что при этом существенно снижается точность реконструкции из-за ослабления априорных требований к системе2. В другой работе [38] предложен способ построения "кусочной" функции правдоподобия, в рамках которого исследуемый ВР делится на сегменты одинаковой фиксированной протяженности, при этом налагается требование, чтобы модель "максимально хорошо" воспроизводила наблюдаемую траекторию на этих сегментах. Как параметры, так и латентные переменные считаются независимыми величинами в различных сегментах, их точечная оценка получается усреднением оптимальных (в смысле максимизации функции правдоподобия) значений по всем сегментам. Вопросы выбора оптимальной длины сегмента, а также способа корректной оценки точности реконструкции остаются при этом открытыми.

В диссертационной работе развивается способ модификации Байесо-ва подхода, направленный на построение функции АПВ, который корректно учитывает статистику шумов, и в то же самое время максимально возможным образом принимает во внимание динамичность исследуемой системы. Указанная выше трудность практического использования Байесова подхода для анализа хаотических рядов преодолевается при этом включением в процедуру реконструкции априорной информации

2Надо отметить, что использование стохастических моделей в рамках Байесовой реконструкции является довольно популярным, при этом основная проблема заключается в большом количестве латентных переменных, а, следовательно, и аргументов функции АПВ, что существенно затрудняет ее анализ. К настоящему времени предложены различные способы интегрирования АПВ по латентным переменным, например, с помощью метода Монте-Карло [45] (что является достаточно ресурсоемким) или приближенных рекуррентных оценок интегралов модифицированными фильтрами Кальмана [46,50] о свойстве динамического хаоса, состоящем в потере информационной связи между отсчетами ряда с увеличением временного интервала между ними. Последнее позволяет получить факторизованное (модифицированное) апостериорное распределение ненаблюдаемых, пригодное для численного анализа. Предлагается также основанный на методе Монте-Карло метод статистического анализа построенной функции АПВ, необходимого для расчета доверительных интервалов искомых величин. Отметим, что предложенный метод позволяет, кроме всего прочего, производить оценку параметров распределения шума (например, дисперсию), вообще говоря, неизвестных априори и являющихся ненаблюдаемыми наряду с параметрами модели и латентными переменными.

Первая глава данной работы посвящена описанию и иллюстрированию на модельных примерах модифицированного Байесова подхода. В начале главы делается введение, содержащее общие положения Байесова подхода применительно к анализу BP. Далее рассматриваются частные случаи, соответствующие ситуациям, когда измерительный шум мал и когда он существенен, вводится функция АПВ, соответствующая предлагаемому модифицированному Байесову подходу. Предлагается основанная на методе Metropolis-Hasting [51,52] реализация метода Монте-Карло, пригодная для численного анализа данной функции, необходимого для извлечения из него информации об искомых характеристиках системы. Описание соответствующего алгоритма вынесено в Приложение. Возможности предложенного подхода демонстрируются на двух примерах. В одном из них решается задача классификации неразличимых традиционными методами режимов поведения известной динамической системы по коротким (около 20 характерных периодов изменения динамической переменной системы) существенно зашумленпым BP. Другой пример посвящен реконструкции параметра логистического отображения по зашумленному BP: проводится сравнительный анализ результатов реконструкции, полученных упомянутыми существующими и предлагаемыми в данной работе методами. В заключение главы обсуждаются возможные факторы, ограничивающие точность предложенного метода реконструкции.

Вторая глава представленной работы посвящена разработке метода глобальной реконструкции неизвестной ДС в условиях, когда наблюдаемые данные представляют собой слабонестационарные хаотические процессы, т. е. соответствующие временные ряды имеют масштаб нестационарности много больший, чем характерные времена изменения динамических переменных. Такое поведение характерно, в частности, для различных систем, определяющих протекание важнейших процессов в атмосфере и гидросфере Земли (эволюцию озонного слоя [53], поведение концентраций химических составляющих атмосферы в приземном слое воздуха [54], крупномасштабных вариаций поверхностной температуры тропических вод Тихого океана (явление Эль-Ниньо) [55,56])3. Данное условие на масштаб нестационарности позволяет рассматривать систему, породившую данный ВР, как неавтономную с медленно изменяющимися во времени управляющими параметрами. Актуальность данной задачи обусловлена тем, что описанный тип неавтономности характерен для природных систем, т. к. они практически никогда не бывают замкнутыми, но зависят от изменяющихся с течением времени внешних условий, что может приводить к изменению во времени параметров, определяющих динамические свойства системы. Это означает, прежде всего, возможность смены типа поведения системы (бифуркации) в процессе ее эволюции, что влечет за собой существенные (иногда катастрофические) изменения количественных характеристик наблюдаемого процесса. Поэтому в описанной ситуации одной из главных задач, которую должна решать глобальная реконструкция, является задача прогноза качественного поведения ДС, в качестве первоочередной цели которого естественно определить предсказание возможных типов бифуркаций и моментов бифуркационных переходов. Разработанный в работе метод прогноза, основанный на Байесовой реконструкции, позволяет производить

3 Отметим, что круг реальных систем, демонстрирующих хаотическую динамику, уже сегодня простирается от перечисленных атмосферных и атмосферно-океанических процессов до различных систем в живых организмах [57,58] и тектонической активности [59] и имеет тенденцию к расширению по мере приложения современных методов анализа к новым базам данных различной природы. вероятностное предсказание поведения исследуемой системы. В рамках этого метода задается явно зависящая от времени модель ОЭ системы, строится функция АПВ параметров этой модели, которая определяет ансамбль возможных сценариев поведения системы, по которому затем вычисляются вероятности искомых характеристик (такие как, например, тип динамического режима в интересующий момент времени или моменты времени бифуркаций) как на интервале времени наблюдения, так и в будущем (путем экстраполяции модели за пределы времени наблюдения).

В последние 10-15 лет в печати демонстрируется повышенный интерес к анализу нестационарных ВР, в частности, большое внимание уделяется проблемам установления факта нестационарности, а также определению характера и меры нестационарности процессов различной природы. Разработан ряд методов, основанных на анализе распределений временных интервалов между соседними векторами в фазовом пространстве [60-62], использовании меры взаимной предсказуемости динамики между различными участками ВР [63], исследовании зависимости от времени плотности вероятности процесса и его спектральной плотности [64] и др. В данной работе, по сути, предлагается метод восстановления нестационарности процесса на основе глобальной реконструкции неавтономной ДС, породившей данный процесс.

Во вводных разделах описываемой главы ставится задача реконструкции ДС по слабонестационарному ВР, а также излагаются некоторые особенности связанной с ней задачи прогноза качественного поведения ДС. Затем описывается предлагаемый способ аппроксимации неизвестного неавтономного ОЭ системы: в форме ИНС. Выбор такой параметризации обусловлен тем, что ИНС является универсальным аппроксима-тором [25,65], т. е. позволяет аппроксимировать любую функцию на выбранном интервале изменения аргумента с наперед заданной точностью. Для модели в виде ИНС предлагается метод использования априорной информации о системе путем внесения вероятностных ограничений на параметры модели, необходимость которых диктуется вырожденностью пространства параметров модели. Далее отдельно рассматриваются два случая - когда реконструкция производится по ВР без шума измерений, и когда ВР содержит измерительный шум, существенно превосходящий ошибку, связанную с неточностью аппроксимации (дефект модели). Для обоих случаев строятся функции АПВ параметров модели, причем в последнем случае предлагается использовать АПВ, построенную в соответствии с модифицированным Байесовым подходом, описанным в первой главе.

Обстоятельством, усложняющим анализ вероятностного распределения в последнем случае, является наличие в нем степеней свободы, соответствующих латентным переменным системы, количество которых возрастает пропорционально протяженности исследуемого ВР. В рассматриваемой задаче прогноза поведения ДС используются реализации существенной протяженности (например, используемые в данной работе ВР включают в себя порядка 1000 отсчетов), поскольку требуется, чтобы процесс содержал в себе достаточную информацию о структуре фазового пространства восстанавливаемой системы. В результате размерность пространства ненаблюдаемых зачастую оказывается настолько большой, что численный анализ соответствующей функции АПВ становится практически невозможным. Для преодоления указанной трудности в работе предлагается метод приближенного интегрирования АПВ по латентным переменным, позволяющий получить АПВ только для параметров модели ОЭ.

Результаты прогноза с использованием построенных функций АПВ демонстрируются на примерах ВР, порожденных как точечным отображением (отображение Эно), так и системами обыкновенных дифференциальных уравнений (система Ресслера и система уравнений, описывающая химические процессы, протекающие в мезосфере Земли). В частности, в случае с зашумленными ВР приведенные результаты иллюстрируют высокую эффективность модифицированного Вайесова подхода с точки зрения как прогноза поведения системы, так и реконструкции наблюдаемой динамики. В заключении ко второй главе кратко излагаются основные выводы из полученных результатов, обсуждаются ограничения и возможные усовершенствования разработанного метода.

Таким образом, в двух первых главах представлена основанная на статистическом подходе методика решения обратной задачи реконструкции системы по данным наблюдений, включающая в себя (1) статистически обоснованную постановку задачи, основанную на вероятностном представлении данных, (2) построение пригодной для анализа функции АПВ, включающей в себя информацию о шумовой составляющей сигнала, физически обоснованную априорную информацию о системе, а также параметризацию оператора эволюции системы, (3) методы извлечения из построенной функции информации об искомых характеристиках системы. Хотя предложенная методика изначально разрабатывалась для задачи реконструкции динамических систем по генерируемым ими наблюдаемым процессам, она оказывается эффективной при решении других (не "динамических") некорректных обратных задач. Это демонстрируется в третьей главе работы, где рассматривается задача восстановления высотных распределений (профилей) параметров атмосферы по данным наземного пассивного радиометрического зондирования, представляющим собой спектры излучения (поглощения) химических составляющих атмосферы.

Данная задача предполагает решение интегрального уравнения [66] (в общем случае нелинейного), при этом она является некорректной [6770], поскольку неточность в исходных данных, обусловленная их дискретностью и существенной зашумленностью, приводит к бесконечному множеству возможных решений, в то время как существует точное и единственное решение невозмущенной задачи. Ключевым моментом при этом является включение в процедуру восстановления физически обоснованной априорной информации о профиле, ограничивающей класс возможных решений. Наиболее часто применяемые алгоритмы восстановления профилей атмосферных характеристик основаны на использовании метода наименьших квадратов, дополненного регуляризацией, содержащей необходимые априориые представления. Эти алгоритмы отличаются между собой преимущественно методами регуляризации, т. е. типами используемой априорной информации и способами ее включения. Например, в хорошо известном методе Тихонова [68] налагаются условия на гладкость решения, при этом жесткость ограничений задается условием равенства функции невязки и дисперсии шума измерений. Хотя сходимость решения к точному при стремлении уровня шума к нулю и доказана [68,69], такой определяемый шумом выбор априорных ограничений неизбежно приводит к систематической погрешности ("переглаженным" профилям), которая является неконтролируемой и может быть причиной принципиальных ошибок в случае не слишком малой зашумленности данных. Другой метод, предложенный и развитый в работах [71,72], использует для регуляризации априорную статистику, полученную из предыдущих измерений. Данный метод дает несмещенное решение только в том случае, когда в распоряжении исследователя имеется достаточно богатая статистика, учитывающая все физически возможные вариации профиля в данной географической точке, однако это условие выполняется далеко не всегда. Общим недостатком традиционных методов восстановления является использование кусочно-однородной (кусочно-линейной) аппроксимации профиля, что сильно ограничивает возможность включения в алгоритм априорной информации различного типа. Кроме того, большинство существующих методов направлены на решение линеаризованной задачи, в то время как связь между искомым профилем и наблюдаемым спектром часто описывается нелинейным интегральным уравнением. В ситуации, типичной для наземного зондирования, когда уровень шума достаточно высок, систематическая ошибка, вносимая линеаризацией, может быть существенна. Другим очень важным моментом при решении задачи восстановления является корректный расчет погрешности произведенных оценок. При использовании традиционных методов восстановления определение данной погрешности является отдельной весьма нетривиальной задачей даже в случае линейной связи измеряемой и восстанавливаемой характеристик (см., например, [73,74]).

В то время как существующие методы направлены на поиск единственного "оптимального" профиля, в данной работе предлагается метод [75,76], основанный на вероятностном представлении решения. В соответствии с описанным в первой главе подходом искомая величина интерпретируется как случайная, и для нее строится функция АПВ, включающая в себя как информацию о распределении шума измерительной аппаратуры, так и априорные ограничения, налагаемые на свойства восстанавливаемого высотного распределения. При этом исходные интегральные уравнения, лежащие в основе построения АПВ, могут быть нелинейными по отношению как к восстанавливаемой величине, так и к параметрам функции, аппроксимирующей профиль. Анализ функции АПВ методом Монте-Карло позволяет получить статистический ансамбль возможных профилей, по которому рассчитываются доверительные интервалы с заданным уровнем вероятности для искомой величины во всем зондируемом диапазоне высот. Таким образом, оценка погрешности восстановления является неотъемлемой частью предложенной процедуры и получается автоматически.

В первом параграфе третьей главы формулируется задача восстановления атмосферных профилей по данным дистанционного зондирования, а также подробно поясняются недостатки существующих методов. Далее описывается общий Байесов подход в приложении к рассматриваемой задаче, что в дальнейшем позволяет произвести прямое сравнение различных методов восстановления. Затем предлагается параметризация профиля функцией в виде ИНС. Показано, что использование аппроксимации в виде ИНС позволяет более эффективным образом (по сравнению с кусочно-линейной аппроксимацией) задействовать различную априорную информацию о профиле, такую как гладкость, диапазон вариаций концентрации озона, количество участков монотонности и т.д. В следующей части главы описывается конкретная задача - восстановление профиля озона по данным пассивного зондирования в миллиметровом диапазоне длин волн.Возможности метода демонстрируются сначала на модельном примере, имитирующем измерения радиационной температуры атмосферы спектрометром ИПФ РАН в Арктике [77,78]. Показано, что предлагаемый метод позволяет восстановить профиль с достаточно резкими вариациями озона, моделирующими ситуацию с сезонным образованием арктической озонной дыры, в то время как метод, включающий в себя кусочно-линейную параметризацию и регуляризацию Тихонова, оказывается неэффективным. Далее представляются результаты восстановления профиля озона по реальным измерениям, проведенным в Апатитах зимой 2002-2003 гг. [78], которые затем сравниваются с данными модели GOME/ROSE [79]. В заключении главы излагаются выводы из полученных результатов.

В Заключении сформулированы основные результаты диссертации.

В Приложении изложен алгоритм реализации метода Metropolis-Hasting, разработанный для анализа используемых в работе апостериорных распределений.

Апробация работы. Изложенные в диссертации результаты докладывались на семинарах и конкурсах работ молодых ученых Института прикладной физики РАН, семинарах НИИ ПМК, ИФА РАН, кафедры математической статистики ВМК МГУ им. М.В. Ломоносова, на семинаре «Российская наука - XXI век» Минпромнауки РФ, в Лондонском Империал колледже (Великобритания), на конкурсах научных работ, на международных и общероссийских конференциях и совещаниях: 12-ой Генеральной ассамблее Международного союза геодезии и геофизики (1999 г., Бирмингем, Великобритания), Международной конференции, посвященной 100-летию со дня рождения А.А. Андронова "Прогресс в нелинейной науке" (2001 г., Нижний Новгород), Международной конференции Ха-ос'01 (2001 г., Саратов), 120-ой Фарадеевской дискуссии Королевского химического общества "Nonlinear Chemical Kinetics: Complex dynamics and Spatiotemporal Patterns" (Манчестер, Великобритания, 2001), XXXII Международном научно-методическом семинаре «Шумовые и деграда-ционные процессы в полупроводниковых приборах» (Москва, 2001), 4-ом и 5-ом Рабочих совещаниях программы "REACTOR" Европейского научного фонда (2003 г., Будапешт, Венгрия; 2004г., Прага, Чехия), 35-ой Научной ассамблее COSPAR (2004г., Париж, Франция), Генеральной ассамблее Европейского союза наук о Земле (2005 г., Вена, Австрия), Международном симпозиуме "Topical Problems of Nonlinear Wave Physics" (2005 г., Санкт-Петербург - Нижний Новгород), 31-ом Международном симпозиуме по дистанционному зондированию окружающей среды (2005 г., Санкт-Петербург), Международной конференции "Динамические дни" (2006 г., Крит, Греция), 3-ой, 4-ой, 5-ой, С-ой Нижегородской научной сессии молодых ученых (Н. Новгород, 1998, 1999, 2000, 2001 гг.), 2-й Всероссийской научной конференции студентов-радиофизиков (1998 г., С.-Петербург), 9-ой Всероссийской школе-семинаре "Волны -2004" (Москва), 6-ой, 7-ой, 8-ой, 9-ой и 10-ой Всероссийской школе-конференции молодых ученых "МАПАТЭ" (2000 г. и 2003г., Нижний Новгород; 2004г., Москва; 2005г., Борок; 2006г., Москва), Международном симпозиуме стран СНГ "Атмосферная радиация" (2002 и 2004 г., С.-Петербург), 11-ой, 12-ой и 13-ой Научной школе "Нелинейные Волны" (2002, 2004 и 2006 г.г., Нижний Новгород), 20-ой Всероссийской конференции по распространению радиоволн (2002 г., Н. Новгород), 15-ой научной сессии Совета по нелинейной динамике (2006г., Москва).

Основные результаты диссертации опубликованы в 5 статьях в реферируемых российских (Известия ВУЗов - Радиофизика) и международных (Faradey Discussions, Advances in Space Research, Physical Review E) научных журналах, 3 препринтах НПФ РАН, 2 отчетах по программе фундаментальных исследований ОФН РАН, 6 сборниках трудов и 27 сборниках тезисов всероссийских и международных конференций.

 
Заключение диссертации по теме "Радиофизика"

Заключение

В заключение приведем основные результаты работы, являющимися также положениями, выносимыми на защиту.

1. Разработан метод глобальной реконструкции динамических систем (ДС) по порожденным ими временным рядам (ВР), основанный на статистическом подходе к решению обратных задач. Показано, что лежащая в основе метода модификация классического Байесо-ва подхода позволяет извлекать из наблюдаемого процесса максимально полную информацию об исследуемой ДС. Эффективность метода продемонстрирована на примере решения задач отыскания неизвестных значений параметров известной ДС, а также классификации режимов поведения ДС (как регулярных, так и хаотических) по короткому зашумленному ВР.

2. Разработан метод анализа функции апостериорной плотности вероятности ненаблюдаемых характеристик ДС, полученной в рамках Байесова подхода, необходимый для извлечения искомой информации о системе. Метод включает в себя как асимптотически корректную аналитическую оценку распределения латентных динамических переменных, так и анализ построенного апостериорного распределения методом Монте-Карло.

3. Разработан метод байесовой реконструкции ДС с неизвестным оператором эволюции (ОЭ) по слабонестационарному ВР. Предложен универсальный способ параметризации ОЭ, а также способ использования априорной информации о системе для отбора физически обоснованных решений соответствующей некорректной обратной задачи.

4. Предложен метод построения прогноза качественного поведения неизвестной ДС по нестационарному хаотическому ВР. Эффективность метода продемонстрирована путем построения прогноза по слабонестационарным ВР, порожденным как дискретными отображениями, так и потоковыми системами. Для обоих классов ДС правильно предсказаны вероятности реализации различных динамических режимов и бифуркационных переходов, а также типы возможных бифуркаций. Применительно к задаче прогноза показана эффективность использования модифицированного Байесова подхода в ситуации, когда исследуемые данные содержат существенный измерительный шум.

5. Показано, что разработанная методика решения некорректных обратных задач может быть успешно применена к задаче восстановления высотных распределений атмосферных параметров по данным радиометрического зондирования. Предложен новый способ параметризации высотных распределений, для которого разработан метод регуляризации задачи. Продемонстрированы преимущества предложенного способа регуляризации над предложенными ранее методами. Эффективность новой методики продемонстрирована как на модельных примерах, так и на реальных данных.

Автор выражает искреннюю благодарность Александру Марковичу Фейгину за чуткое руководство работой, постоянное внимание и всестороннюю поддержку, Ярославу Игоревичу Молькову за существенный вклад в постановку проблем, плодотворные обсуждения и полезные советы, Евгению Васильевичу Суворову, инициировавшему нашу деятельность по восстановлению профилей атмосферных характеристик, а также сотрудникам отдела 140 ИПФ за поддержку и дружелюбное отношение.

 
Список источников диссертации и автореферата по физике, кандидата физико-математических наук, Мухин, Дмитрий Николаевич, Нижний Новгород

1. Abarbanel H.D.1. Analysis of Observed Chaotic Data. New York: Springer-Verlag, 1997.

2. Безручко Б.П., Смирнов Д.А. Математическое моделирование и хаотические временные ряды. Саратов: ГосУНЦ "Колледж", 2005.

3. Анищенко B.C., Вадивасова Т.Е., Астахов В.В. Нелинейная динамика хаотических и стохастичеких систем. Саратов: Изд. Саратовского университета, 1999.

4. Takens F. Detecting strange attractor in turbulence // In: D.A. Rand and L.-S. Young (Eds.), Dynamical Systems and Turbulence, Warwick, 1980, Lecture Notes in Mathematics. Springer, Berlin 1981. Vol. 898. P. 366.

5. Packard N.H., Crutchfield J.P., Farmer J.D., and Shaw R.S. Geometry from a time series // Phys. Rev. Lett. 1980. Vol. 45. P. 712.

6. Stark J., Broomhead D.S., Davies M.E., Huke J. Takens Embedding theorems for forced and stochastic systems // Nonlinear Analysis, Theory, Methods Applications 1997. Vol. 30. P. 5303.

7. Farmer J.D. and Sidorowich J.J. Predicting Chaotic Time Series // Phys. Rev. Lett. 1987. Vol. 59. P. 845.

8. Powell M.J.D. Approximation Theory and Methods // Cambridge: Cambridge University, 1981.

9. Abarbanel H.D.I., Brown R., Sidorowich J.J., and Tsimring L.Sh. The analysis of observed chaotic data in physical systems // Rev. Mod. Phys. 1993. Vol. 65. P. 1331.

10. Лоскутов E.M., Мольков Я.И., Мухин Д.Н., Фейгин A.M. Прогноз бифуркаций слабоиеавтономных динамических систем на основе наблюдаемых временных рядов // Препринт № 508. Н. Новгород: ИПФ РАН. 1999. Нижний Новгород, 1999. 53 стр. (Препринт ИПФ РАН № 508).

11. И. Лоскутов Е.М., Мольков Я.И., Мухин Д.Н., Фейгин A.M. Прогноз качественного поведения динамической системы по хаотическому временному ряду //Изв. ВУЗов Радиофизика. 2001. Т. 44 (5-6). С. 376.

12. Лоскутов E.M., Мольков Я.И., Мухин Д.Н., Фейгин A.M. Глобальная реконструкция динамических систем по слабоиестационар-ным зашумленным хаотическим временным рядам // Нижний Новгород, 2006. 27 стр. (Препринт ИПФ РАН № 708).

13. Мольков Я.И., Фейгин A.M. Прогноз качественного поведения динамических систем по зашумленным временным рядам // Сб. лекций: Нелинейные волны'2002. / Под ред. А.В.Гапонова-Грехова, В.И.Некоркина Н.Новгород: ИПФ РАН, 2003. С. 34.

14. Tokunaga R., Kajiwara S., and Matsumoto Т. Reconstruction bifurcation diagrams only from time-waveforms // Physica D. 1994. Vol. 79. P. 348.

15. Bagarinao E., Nomura Т., Pakdaman K., and Sato S. Generalized one-parameter bifurcation diagram reconstruction using time series // Physica D. 1998. Vol. 124. P. 258.

16. Bagarinao E., Pakdaman K., Nomura Т., and Sato S. Time series based bifurcation diagram reconstruction // Physica D. 1999. Vol. 130. P. 211.

17. Bagarinao E., Pakdaman K., Nomura Т., and Sato S. Reconstructing bifurcation diagrams from noisy time series using nonlinear autoregressive models // Phys. Rev. E. 1999. Vol. 60 (1). P. 1073.

18. Дмитриев А.С., Панас А.И. Динамический хаос: новые носители информации для систем связи/ М.: Физматлит, 2002.

19. Anishchenko V.S., Pavlov А.P. Global reconstruction in application to multichannel communication // Phys. Rev. E. 1998. Vol. 57 (2). P. 2455.

20. Анищенко B.C., Павлов A.H., Янсон Н.Б. Реконструкция динамических систем в приложении к решению задачи защиты информации // ЖТФ 1998. Т. 68 (12). С. 1.

21. Brown R. Orthogonal polynomials as prediction functions in arbitrary phase space dimensions // Phys. Rev. E. 1993. Vol. 47. P. 3962.

22. Parlitz U. Identification of true and spurious Lyapunov exponents from time series // Int. J. Bif. Chaos 1992. Vol. 2. P. 155.

23. Judd K, Mees A.I. On selecting models for nonlinear prediction // Physica D. 1995. Vol. 82. P. 426.

24. Макаренко Н.Г. Фракталы, аттракторы, нейронные сети и все такое // Труды IV Всероссийской научн.-техн. конф. "Нейроинформатика-2002". Часть 2. М., 2002. Р. 121.

25. Casdagli М. Nonlinear prediction of chaotic time series // Physica D. 1989. Vol. 35. P. 335.

26. Грибков Д.А., Грибкова В.В., Кравцов Ю.А. и др.Восстановление структуры динамической системы по временным рядам // Радиотехника и электроника 1994. Т. 39 (2). С. 269.

27. Bezruchko В., Smirnov D. Constructing nonautonomous differential equations from a time series // Phys. Rev. E. 2001. Vol. 63. P. 016207.

28. Smirnov D., Bezruchko B. and Seleznev Ye. Choice of dynamical variables for global reconstruction of model equations from time series // Phys. Rev. E. 2002. Vol. 65. P. 026205.

29. Везручко Б.П., Диканев Т.В., Смирнов Д.А. Глобальная реконструкция модельных уравнений по реализации переходного процесса / / Изв. ВУЗов. Прикладная нелинейная динамика. 2001. Vol. 9 (3). Р. 3.

30. Павлов А.Н., Янсон Н.Б., Анищенко В.С .Реконструкция динамических систем // Радиотехника и электроника 1999. Т. 44 (9). С. 1075.

31. Gouesbet G. Reconstruction of the vector fields of continuous dinamical systems from scalar time series // Phys. Rev. A. 1991. Vol. 43. P. 5321.

32. Jaeger L. and Kantz H. Unbiased reconstruction of the dynamics underlying a noisy chaotic time series // Chaos 1996. Vol. 6. P. 440.

33. Van Huffel S., Vandewalle J. The total least squares problem // Philadelphia: SIAM, 1991.

34. Grassberger P., Schreiber Т., Schaffrath C. Nonlinear time sequence analysis // Int. J. Bifur. Chaos 1991. Vol. 1. P. 521.

35. Kostelich E.J. Problems in estimating dynamics from data // Physica D 1992. Vol. 58. P. 138.

36. Kostelich E.J. and Schreiber T. Noise reduction in chaotic time-series data: A survey of common methods // Phys. Rev. E 1993. Vol. 48. P. 1752.

37. Pisarenko V. F. and Sornette D. Statistical methods of parameter estimation for deterministically chaotic time series // Phys. Rev. E 2004. Vol. 69. P. 036122.

38. Horbelt W., Timmer J. and Voss H. U. Parameter estimation in nonlinear delayed feedback systems from noisy data // Phys. Lett. A. 2002. Vol. 299. P. 513.

39. McSharry P.E. and Smith L.A. Better Nonlinear Models from Noisy Data: Attractors with Maximum Likelihood // Phys. Rev. Lett. 1999. Vol.83. P. 4285.

40. Meyer R. and Christensen N. Bayesian reconstruction of chaotic dynamical systems // Phys. Rev. E 2000. Vol. 62. P. 3535.

41. Judd K. Chaotic-time-series reconstruction by the Bayesian paradigm: Right results by wrong methods // Phys. Rev. E 2003. Vol 67. P. 026212.

42. Лоскутов E.M., Мольков Я.И., Мухин Д.Н., Фейгин A.M. Статистический подход к реконструкции динамических систем // Сб. лекций: Нелинейные волны'2004■ / Под ред. А.В.Гапонова-Грехова, В.И.Некоркина Н.Новгород: ИПФ РАН, 2005. С. 411.

43. Mukhin D. N., Feigin А. М., Loskutov Е. М., and Molkov Ya. I. Modified Bayesian approach for the reconstruction of dynamical systems from time series // Phys. Rev. E 2006. Vol. 73. P. 036211.

44. Gilks W. R., Richardson S. , and Spiegelhalter D. J. Markov Chain Monte Carlo in Practice // London: Chapman and Hall, 1996.

45. Meyer R. and Christensen N. Fast Bayesian reconstruction of chaotic dynamical systems via extended Kalman filtering // Phys. Rev. E 2001. Vol. 65. P. 016206.

46. Fraser A.M. and Swinney H.L. Independent coordinates for strange attractors from mutual information // Phys. Rev. A. 1986. Vol. 33 (2). P. 1134.

47. Schuster H.G. Deterministic Chaos // Weinheim: Physic-Verlag, 1984.

48. Bock H.G. Recent advances in parameter identification techniques for O.D.E. // Numerical Treatment of Inverse Problems in Differential and Integral Equestions, P.Deuflhard, E.Hairer (Eds.), Birkhauser, Basel, 1983. P. 95.

49. Sitz A., Schwarz U., Kurths J., and Voss H. U .Estimation of parameters and unobserved components for nonlinear systems from noisy time series // Phys. Rev. E 2002. Vol. 66. P. 016210.

50. Hastings W.K. Monte Carlo sampling methods using markov chains and their applications // Biometrica 1970. Vol. 67. P. 97.

51. Chib S. and Greenberg E. Understanding the Metropolis-Hasting algorithm // The American Statistian 1995. Vol. 49. P. 327.

52. Yang, P., Brasseur G.P. , Gille J.C., et al. Dimensionalities of ozone attractors and their global distribution // Physica D 1994. Vol. 76. P. 331.

53. Li, I.F., Biswas P. , and Islam S.Estimation of the dominant degrees of freedom for air pollutant concentration data: applications to ozone measurements // Atmospheric Environment 1994. Vol. 28. P. 1707.

54. Neelin, J.D. and Latif M. El Nino Dynamics // Physics Today 1998. Vol. 51. P. 32.

55. Wang В., Barcilon A. , and Fang Z. Stochastic Dynamics of El Nino-Southern Oscillation // Journal of the Atmospheric Science 1999. Vol. 56. P. 5.

56. Abarbanel H.D.I., Huerta R., Rabinovich M.I. Sijnchronized action of synaptically coupled chaotic model neurons // Neural Comput. 1996. Vol. 8 (8). P. 1567.

57. Frank G.W., Lookman Т., Nerenberg M.A.H. Chaotic time series analysis of epileptic seizures // Physica D 1990. Vol. 46. P. 427.

58. Srivastava H.N., Bhattacharya S.N., and Sinha Ray K.C. Strange attractor characteristics of earthquakes in Shillong plateau and adjoining regions // Geophys. Res. Lett. 1996. Vol. 23. P. 3519.

59. Kennel M.B. Statistical test for dynamical nonstationarity in observed time-series data // Phys. Rev. E 1997. Vol. 56. P. 316.

60. Gao J.B. Recurrence time statistics for chaotic systems and their applications // Phys. Rev. Lett. 1999. Vol. 83. P. 3178.

61. Rieke C., Sternickel K., Andrzejak R.G., Elger C.E., David P., and Lehnertz K. Measuring nonstationarity by analyzing the loss of recurrence in dynamical system // Phys. Rev. Lett. 2002. Vol. 88. P. 244102.

62. Schreiber T. Detecting and analyzing nonstationarity in a time series using nonlinear cross prediction // Phys. Rev. Lett. 1997. Vol. 78. P. 843.

63. Witt A., Kurths J., and Pikovsky A. Testing stationarity in time series // Phys. Rev. E. 1998. Vol. 58. P. 1800.

64. Hornik K., Stinchcombe M. and White H. Multilayer feedforward networks are universal approximators // Neural Networks. 1989. Vol. 2. P. 359.

65. Таунс Ч., Шавлов А. Радиоспектроскопия/ M.: Изд-во ин. лит., 1959.

66. Тихонов А.Н. Об устойчивости обратных задач // Докл. АН СССР. 1943. Т. 39 (5). С. 195.

67. Тихонов А.Н. О регуляризации некорректно поставленных задач // Докл. АН СССР. 1963. Т. 153 (1). С. 49.

68. Тихонов А.Н., Арсенин В.Я. Методы решения некорректных задач/ М.: Наука, 1974.

69. Турчин В.Ф., Козлов В.П., Малкевич М.С. Использование методов математической статистики для решения некорректных задач // Усп. физ. наук. 1970. Т. 102 (3). С. 345.

70. Strand O.N., Westwater E.R. Statistical Estimation of the Numerical Solution of a Fredholm Integral Equation of the First Kind // J. Ass. Сотр. Machin. 1968. Vol. 15. P. 100.

71. Rodgers C.D. Retrieval of Atmospheric Temperature and Composition From Remote Measurements of Thermal Radiation // Geophys and Space Phys. 1976. Vol. 14. P. 609.

72. Rodgers C.D. The Characterization and Error Analysis of Profiles Retrieved from Remote Sounding Measurements //J. Geophys. Res. 1990. Vol. 95 (D5). P. 5587.

73. Rodgers C.D. Information content and optimisation of high spectral resolution remote measurements // Adv. Space Res. 1998. Vol. 21 (3). P. 361.

74. Мольков Я.И., Мухин Д.Н., Суворов Е.В., Фейгин A.M. Байесов подход к восстановлению вертикального распределения озона по данным радиометрических измерений // Изв. ВУЗов Радиофизика. 2003. Vol. 46 (8-9). Р. 752.

75. Mukhin D.N., Feigin A.M., Molkov Ya.I. and Suvorov E.V. Bayesian approach to retrieval of vertical ozone profile from radiometry data // Adv. Space Res. 2006. Vol. 37 (12). P. 2292.

76. Куликов Ю.Ю., Красильников А.А., Рыскин В.Г. Результаты микроволновых исследований структуры озонового слоя полярных широт во время зимних аномальных потеплений стратосферы // Изв. РАН. Физика атмосферы и океана. 2002. Т. 38 (2). С. 182.

77. Kulikov Yu.Yu., Ryskin V.G., and Krasilnikov A.A. Microwave Observations of Ozone Variability in the High-Latitude Stratospherein the 20022003 Winter // Radiophysics and Quantum Electronics. 2005. Vol. 48 (2). P. 120.

78. WDC for Remote Sensing of the Atmosphere, http: / / wdc.dlr.de/dataproducts/SERVICES / rose / index.html.

79. Бутковский О.Я., Кравцов Ю.А., Логунов М.Ю. Анализ погрешностей восстановления параметров нелинейного отображения по зашумленным хаотическим временным рядам // Изв. ВУЗов Радиофизика. 2002. Т. 45 (1). С. 55.

80. Тихонов В.И. Статистическая радиотехника./ М.: Радио и связь, 1982.

81. Hegger R., Kantz Н., and Schreiber Т. Practical implementation of nonlinear time series methods: The TISEAN package // Chaos. 1999. Vol.9. P. 413.

82. Manuca R. and Savit R. Stationarity and nonstationarity in time series analysis // Physica D 1996. Vol. 99. P. 134.

83. Н.Б. Янсон, Павлов A.H., Капитаниак Т., B.C. Анищенко B.C. Глобальная реконструкция по нестационарным данным // Письма в ЖТФ 1999. Т. 25. С. 74.

84. The handbook of brain theory and neural networks./ Ed. By Arbib M.A. The MIT Press, 1995.

85. Fichtelmann В., Sonnemann G. Non-linear behaviour in the photochemistry of minor constituents in the upper mesosphere // Ann. Geophys. 1992. Vol. 10. P. 719.

86. Sonnemann G., Fichtelmann B. Subharmonics, cascades of period doubling, and chaotic behaviour of the photochemistry of the mesopause region // J. Geophys. Res. 1997. Vol. 102. P. 1193.

87. Feigin A.M., I.B. Konovalov and Y.I. Molkov Toward an understanding of the nonlinear nature of atmospheric photochemistry: Essentialdynamic model of the mesospheric photochemical system //J. Geophys. Res. 1998. Vol. 103 (D19). P. 25447.

88. Konovalov I.B. and Feigin A.M. Toward an understanding of the nonlinear nature of atmospheric photochemistry: Origin of the complicated dynamic behaviour of the mesospheric photochemical system // Nonlinear Processes in Geophysics 2000. Vol. 7. P. 87.

89. Kennel M.B., Brown R. and Abarbanel H. D. I. Determining embedding dimension for phase-space reconstruction using a geometrical construction // Phys. Rev. A. 1992. Vol. 45 (6). P. 3403.

90. Анищенко B.C. Сложные колебания в простых системах/ М.: Наука, 1990.

91. Press W.H., Teukolsky S.A., Vetterling W.T., and Flannery B.P. Numerical Recipes in С/ Cambridge: Cambridge University Press, 1992.

92. Лоскутов E.M., Мольков Я.И., Мухин Д.Н., Фейгин A.M. МСМС метод в байесовой реконструкции динамических систем по за-шумленным хаотическим временным рядам // Нижний Новгород, 2006. 15 стр. (Препринт ИПФ РАН № 716).

93. Rossler О.Е. An Equation for Continuous Chaos // Phys. Lett. 1976. Vol. 57A. P. 397.

94. Лаврентьев M.A., Шабат В.Б. Методы теории функций комплексного переменного/ М.: Наука, 1973.

95. Hegger R., Kantz Н., Matassini L., and Schreiber Т. Coping with Nonstationarity by overembedding // Phys. Rev. Lett. 2000. Vol. 84. P. 4092.

96. Корн Г., Корн Т. Справочник по математике для научных работников и иноюенеров/ М.: Наука, 1970.

97. Phillips D.L. A technique for the numerical solution of certain integral equations of the first kind // Ass. Cornp. Machin. 1962. Vol. 9. P. 84.

98. Typ^HH B.O. // )K. BbiHHCJi. MaTeM. h MaTeM. 4)H3. 1967. Vol. 7. P. 1270.

99. TypHHii B.O. // >K. blihhcji. MaxeM. h MaTeM. <J)H3. 1969. Vol. 8. P. 230.

100. Kuntz M., Kopp G., Berg H., Hochschild G., and Krupa R. Joint retrieval of atmospheric constituent profiles from ground-based millimeterwave measurements: CIO, HN03, N20, and 03 // J. Geophys. Res. 1999. Vol. 104 (Dll). P. 13981.

101. Westwater E.R., Strand O.N. Statistical information content of radiation measurements used in indirect sensing // J. Atm. Sci. 1968. Vol. 25. P. 750.

102. Mocheneva O.S., Erukhimova T.L., Suvorov E.V. On a method of microwave measurement of ozone // Radiophysics and Quantum Electronics 1995. Vol. 38 (8). P. 499.

103. Erukhimova T.L., Suvorov E.V. Retrieval of Ozone-Density and Atmospheric-Temperature Profiles using the Spectra of Microwave Absorption in Two Rotational Ozone Lines // Radiophysics and Quantum Electronics 2001. Vol. 44 (1-2). P. 129.

104. Nardi B., Bellon W., Oolman L.D., and Deshler T. Spring 1996 and 1997 ozonesonde measurements over McMurdo Station, Antarctica // Geophys. Res. Lett. 1999. Vol. 26 (6). P. 723.

105. Hedin A.E. Extension of the MSIS Thermospheric Model into the Middle and Lower Atmosphere //J. Geophys. Res. 1991. Vol. 96. P. 1159.

106. Tierney L. Markov Chains for Exploring Posterior Distributions // Annals of Statistics 1994. Vol. 22. P. 1701.