Развитие методов прогнозирования и анализа динамики ионосферных параметров с использованием искусственных нейронных сетей тема автореферата и диссертации по физике, 01.04.03 ВАК РФ

Масленникова, Юлия Сергеевна АВТОР
кандидата физико-математических наук УЧЕНАЯ СТЕПЕНЬ
Казань МЕСТО ЗАЩИТЫ
2013 ГОД ЗАЩИТЫ
   
01.04.03 КОД ВАК РФ
Диссертация по физике на тему «Развитие методов прогнозирования и анализа динамики ионосферных параметров с использованием искусственных нейронных сетей»
 
Автореферат диссертации на тему "Развитие методов прогнозирования и анализа динамики ионосферных параметров с использованием искусственных нейронных сетей"

На правах рукописи

005537008

МАСЛЕННИКОВА ЮЛИЯ СЕРГЕЕВНА

РАЗВИТИЕ МЕТОДОВ ПРОГНОЗИРОВАНИЯ И АНАЛИЗА ДИНАМИКИ ИОНОСФЕРНЫХ ПАРАМЕТРОВ С ИСПОЛЬЗОВАНИЕМ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ

Специальность 01.04.03 - «Радиофизика»

Автореферат

диссертации на соискание ученой степени кандидата физико-математических наук

7 НОЯ 2013

Казань-2013

005537008

Работа выполнена на кафедре радиофизики Института физики Федерального государственного автономного образовательного учреждения высшего профессионального образования «Казанский (Приволжский) федеральный университет»

Научный руководитель:

доктор физико-математических наук, доцент,

ФГАОУ ВПО «Казанский (Приволжский) федеральный университет, зав. кафедрой радиофизики Шерстюков Олег Николаевич Официальные оппоненты:

доктор физико-математических наук, профессор,

ФГАОУ ВПО «Казанский (Приволжский) федеральный университет,

проф. кафедры радиоастрономии

Хуторова Ольга Германовна

кандидат физико-математических наук,

ФГБОУ ВПО «Московского государственного университета имени М.В. Ломоносова»

доц.кафедры физики атмосферы Нестеров Иван Анатольевич

Ведущая организация:

ФГНУ Научно-исследовательский радиофизический институт, г. Нижний Новгород

Защита диссертации состоится «05» декабря 2013 г. в 14 часов 30 минут в ауд. 210 Института физики на заседании диссертационного совета Д 212.081.18 в ФГАОУ ВПО «Казанский (Приволжский) федеральный университет. По адресу: 420008, г.Казань, ул. Кремлевская, 18.

С диссертацией можно ознакомиться в научной библиотеке Казанского (Приволжского) федерального университета.

Автореферат разослан «3/» октября 2013г.

Ученый секретарь

диссертационного совета Д 212.081.18,

к.ф.-м.н., доцент

А.Д. Акчурин

Общая характеристика работы

Актуальность работы

Исследование и прогнозирование динамики ионосферных параметров является актуальной задачей современной радиофизики. Состояние ионосферы и наличие в ней ионосферных возмущений в значительной степени определяет режимы прохождения электромагнитных волн в широком диапазоне частот и, как следствие, влияет на функционирование различных радиотехнических устройств. Например, для глобальных спутниковых систем радионавигации ионосфера является источником существенных погрешностей, препятствующих достижению потенциально возможных показателей точности позиционирования.

Распространение радиоволн в ионосферной плазме зависит, как от локальной концентрации электронов, так и от полного электронного содержания (ПЭС) электронов вдоль траектории распространения радиоволны. Главной причиной возникновения дополнительной погрешности координатных определений является фазовое опережение и групповое запаздывание сигналов навигационных спутников, величина которого пропорциональна ПЭС вдоль траектории распространения радиоволн. Повышение эффективности и качества функционирования спутниковых систем радионавигации требует наличия достоверной и оперативной информации о величине ПЭС над различными точками земного шара. Наиболее приемлемым с практической точки зрения способом, позволяющим обеспечить потребителей информацией о пространственно-временном распределении ПЭС, представляется моделирование, основанное на эмпирических моделях.

Существующие эмпирические модели ПЭС обеспечивают достаточную точность прогнозирования глобального распределения величин ПЭС в спокойных магнитных условиях. Однако спонтанные всплески магнитной возмущенности вызывают резкое снижение качества прогноза. Так, в одночастотной навигационной аппаратуре потребителей спутниковых систем радионавигации GPS для снижения ионосферной погрешности координатных определений используется глобальная эмпирическая модель ПЭС [1], разработанная Klobuchar в 1986 г. При использовании в конкретной точке пространства в спокойных геомагнитных условиях данная модель обеспечивает точность прогнозирования ПЭС на уровне 50%. В возмущенных геомагнитных условиях и на широтах выше 75° точность прогнозирования ПЭС при использовании указанной модели может оказаться неудовлетворительной для практических целей.

Таким образом, задача совершенствования методов анализа и прогнозирования глобальной динамики ПЭС для повышения эффективности и качества функционирования современных спутниковых радионавигационных систем остается актуальной.

Возмущения в ионосфере порождаются интерференцией большого числа независимых и неконтролируемых физических процессов, многие из которых связаны с состоянием космической погоды. Исследование солнечно-земных связей не только улучшает наше понимание динамики состояния межпланетной космической плазмы вблизи Земли, но и необходимо для нормального функционирования космических аппаратов на околоземных орбитах. Таким образом, диагностика, анализ и прогноз вариаций ионосферы имеют большое научное и практическое значение.

Нелинейный характер динамики ионосферы порождает нестационарные и неоднородные данные. Применения к ним классических статистик второго порядка,

которые лежат в основе традиционных авторегрессионных схем, в этой ситуации не является обоснованным. Необходимы иные подходы и более гибкие вычислительные алгоритмы, которые можно было бы адаптировать к нестационарным и нелинейным процессам. Из доступного в настоящее время инструментария одним из наиболее распространенных подходов является искусственная нейронная сеть (ИНС). ИНС в задачах прогнозирования может выступать в качестве универсального аппроксиматора оператора эволюции фазовых траекторий исследуемой динамической системы. Благодаря способности к обобщению, нейронная сеть, обученная на примерах из прошлой истории процесса, генерирует возможный ответ на предъявленные новые данные.

Применение аппарата ИНС для построения глобальной прогностической модели нестационарного случайного поля сопряжено с необходимостью использовать дополнительные методы адаптивной предобработки данных. Применительно к глобальной пространственно-временной модели ПЭС перспективными могут оказаться подходы на основе предварительного анализа главных компонент, а совершенствование алгоритмов начальной инициализации и обучения ИНС может значительно улучшить качество прогностической модели.

Цель работы состоит в развитии методов анализа и прогнозирования временной динамики случайных полей с использованием новых подходов на основе искусственных нейронных сетей и применение их для задачи прогнозирования глобальной динамики полного электронного содержания.

Решаемые задачи

Для достижения поставленной цели необходимо решить следующие задачи:

1. Разработать методику краткосрочного прогнозирования глобальной динамики поля ПЭС с использованием ИНС и предварительного анализа главных компонент;

2. Выявить особенности временных и пространственных вариаций случайного поля ПЭС на основе анализа главных компонент с учетом способа представления данных и доминирующих периодичностей (суточной и сезонной);

3. Проанализировать статистическую связь доминирующих временных вариаций ПЭС с динамикой гелиофизических параметров;

4. Развить методы начальной инициализации и обучения ИНС для сокращения времени обучения и повышения качества прогнозирования временных рядов;

Научная новизна

1. Впервые построена эффективная компьютерная ИНС-модель для предсказания глобальной динамики полного электронного содержания на 6 и 24 часа вперёд с использованием предварительного анализа главных компонент. Модель не требует больших вычислительных затрат.

2. Впервые разработана статистическая модель, которая показывает не только доминирующую роль экваториальной аномалии в вариациях глобальной динамики ПЭС, но и позволяет оценить динамику формы экваториальной аномалии и соотношение между её максимумами к северу и югу от экватора. Разработанная модель позволяет выявить особенности временной динамики экваториальной аномалии, обусловленные влиянием гелиофизических параметров;

3. Разработан и реализован алгоритм начальной инициализации весов ИНС на основе коэффициентов фильтра линейного предсказания, а также метод последовательного дообучения с использованием сингулярного спектрального анализа, которые позволяют сократить время и повысить качество обучения ИНС в задачах прогнозирования нестационарных временных рядов по сравнению с существующими подходами.

Положения, выносимые на защиту

1. Методика краткосрочного прогнозирования глобальной динамики полного электронного содержания ионосферы, основанная на независимом предсказании каждой из главных компонент разложения исходного поля ПЭС с использованием аппарата искусственных нейронных сетей;

2. Статистическая модель пространственных и временных вариаций ПЭС на основе анализа главных компонент, отличающаяся учетом способа представления данных и доминирующих периодичностей и позволяющая корректно оценивать влияние гелиофизических факторов на динамику экваториальной аномалии;

3. Усовершенствованные методы начальной инициализации на основе коэффициентов линейного предсказания и последовательного дообучения нейронных сетей на основе сингулярного спектрального анализа, позволяющие повысить точность предсказания и сократить время обучения нейронных сетей в задачах прогнозирования временных рядов.

Достоверность полученных результатов обусловлена использованием общих методов и строгих подходов фундаментальной теории ИНС, теории аппроксимации и статистической теории редукции данных. Численная достоверность вычислений обеспечивается большим объемом обработанных статистически значимых данных (глобальные карты полного электронного содержания с 2004 г. по 2011 г.), и совпадением полученных прогнозов с модельными представлениями и выводами других авторов, в тех случаях, когда такое сравнение было возможно. Достоверность предложенных методик развития методов начальной инициализации и обучения ИНС подтверждена успешными результатами использования указанных алгоритмов в обработке данных геофизических исследований в компании «ООО ТГТ Прайм», а также в проектах НИР компании ООО «ТНГ-Групп».

Научная и практическая значимость

Предложенная автором модель краткосрочного ИНС-прогноза глобальной динамики полного электронного содержания на 6 и 24 часа вперед по качеству не уступает существующим прогностическими моделями, однако требует гораздо меньше вычислительных ресурсов и времени работы, поэтому может быть с успехом использована при оперативном решении задач спутниковой радионавигации, например, для учета ионосферных погрешностей.

Предложенный в работе двухстадийный ИНС-подход к прогнозированию глобальной динамики случайных полей может быть использован и в других областях науки, например, метеорологии.

Рассмотренный в работе подход к анализу главных компонент позволил детально проанализировать особенности временных и пространственных вариаций полного электронного содержания с учетом доминирующих периодичностей и способов представления данных. Выявленные закономерности связи вариаций

полного электронного содержания с гелиофизическими параметрами представляются важными для понимания природы солнечно-земных связей.

Разработанные авторские методы начальной инициализации прогностических нейронных сетей на основе коэффициентов линейного предсказания и метод последовательного дообучения позволяют сократить время обучения ИНС и повысить качество её обучения в задачах прогнозирования динамики нестационарных временных рядов. Эти подходы могут быть успешно использованы не только при моделировании глобальной динамики геофизических полей, но и в других областях, например, в эконометрике, цифровой обработке изображений, в обработке данных нефтегазового сектора и других приложениях ИНС. Полученные в работе результаты были успешно использованы в научно-исследовательской работе в области обработки данных геофизических исследований (компания ООО «ТГТ Прайм», г. Казань), для разработки методов сжатия данных акустического каротажа (в рамках проектов компании ООО «ТНГ-Групп», г. Бугульма), о чем свидетельствует соответствующие публикации автора, а также авторские свидетельства о регистрации программ на ЭВМ.

Личный вклад автора

Все результаты и выводы диссертации принадлежат диссертанту. Автором были разработаны алгоритмы и программы для анализа и прогнозирования глобальной динамики полного электронного содержания с использованием искусственных нейронных сетей и анализа главных компонент.

Автор принимал непосредственное участие в разработке алгоритмов и программ для реализации методов начальной и инициализации и последовательного дообучения ИНС. Диссертантом лично были обработаны данные с 2003 г. по 2011 г., проанализированы полученные результаты, предложена их интерпретация.

Диссертант также принимал непосредственное участие в апробировании указанных выше подходов применительно к обработке и сжатию данных геофизических исследований.

Апробация результатов

Основные результаты работы докладывались и представлены на следующих российских и международных конференциях: Итоговая научно-образовательная конференция студентов Казанского государственного университета (Казань, 2007 г.,

2008 г., 2009 г.); Поволжская региональная молодёжная конференция Волновые процессы в средах (Казань, 2007 г., 2008 г.); Молодежная научная школа «Когерентная оптика и оптическая спектроскопия» (Казань, 2008 г.); Байкальская международная молодежная научная школа по фундаментальной физике. XI Конференция молодых ученых «Гелио- и геофизические исследования» (Иркутск,

2009 г.); Научно-практическая конференция студентов и аспирантов: Наука и инновации в решении актуальных проблем города (Казань, 2009 г.); XII, XIII Всероссийская научно-техническая конференция "Нейроинформатика» (Москва, 2010 г., 2011 г.); XXIII Всероссийская научная конференция «Распространение радиоволн» (Йошкар-Ола, 2011 г.), XII Конференция молодых ученых "Взаимодействие полей и излучения с веществом" (Иркутск, 2011 г.); 35 конференция молодых ученых и специалистов «Информационные технологии и системы - 2012» (Петрозаводск, 2012 г.); 39th COSPAR Scientific Assembly (Майсур, Индия, 2012 г.); IV Пулковская молодежная астрономическая конференция (Санкт-Петербург, 2012 г.); Десятая

Всероссийская Открытая конференция «Современные проблемы дистанционного зондирования Земли из космоса» ИКИ РАН (Москва, 2012 г.); 3rd World Conference on Information Technology (Барселона, Испания, 2012 г.); SPE Russian Oil & Gas Conference & Exhibition (Москва, 2012); International Conference on Mathematical Modeling in Physical Science (Прага, Чехия, 2013 г.); Winter School in Applied Mathematics WSAM-2012, WSAM-2013 (Дубай, ОАЭ, 2012, 2013 г.); SPE Annual Technical Conference and Exhibtion (New Orleans, Louisiana, USA, 2013 г.).

Исследования по теме диссертации были поддержаны грантом Министерства Образования и Науки РФ ФЦП «Научные и научно-педагогические кадры инновационной России» № 14.А18.21.1266, грантом РФФИ № 12-05-31412.

Усовершенствованные методы обработки и прогнозирования данных на основе ИНС использовались при выполнении проектов Министерства образования и науки РФ: проект № 2010-218-01-192 и проект № 02.G25.31.0029 (исполнитель).

Структура н объем диссертации

Диссертация состоит из введения, 4 глав, заключения и списка литературы. Общий объем - 137 страниц, 62 рисунков, 7 таблиц, список цитируемой литературы из 139 наименований.

Список сокращений

ИНС - искусственные нейронные сети, ПЭС - полное электронное содержание, МГК - метод главных компонент, ССА - сингулярный спектральный анализ.

Краткое содержание работы

Во введении дана общая характеристика работы, обоснована актуальность темы, определены цель и задачи исследования, сформулированы основные положения, выносимые на защиту, научная новизна, научная и практическая значимость результатов, приведено краткое содержание работы.

В первой главе представлен обзор литературы по методам и моделям прогнозирования и анализа динамики ионосферы. Рассмотрены работы, в которых представлены эмпирический и детерминированный подходы к прогнозированию динамики временного ряда критических частот foF2, а также глобальных карт ПЭС. ПЭС является одной из важнейших характеристик ионосферы Земли, однако, на сегодняшний день, на территории России в глобальном масштабе его мониторинг не осуществляется. Аналитические модели дают хорошую оценку этого параметра при условии спокойной геомагнитной обстановки, но в случае возмущенной ионосферы оценка ПЭС становится существенно менее точной. Отсутствие или низкая точность прогноза значений ПЭС существенно снижают качество работы одночастотной навигационной аппаратуры потребителей спутниковых систем радионавигации GPS [2]. В разделе 1.3 данной главы представлен обзор работ, посвященных использованию искусственных нейронных сетей (ИНС) для задач прогнозирования динамики ионосферных параметров, среди которых Cander [3], Venkata [4], Sarma [5] и другие. Подход с использованием ИНС получил широкое распространение также и в других приложениях, таких как эконометрика, обработка данных геофизических исследований, сжатие данных и др.

Задача прогнозирования временного ряда фактически представляет собой задачу реконструкции динамической системы на основе порождаемых ею наблюдаемых

процессов (временных рядов). Фундаментальной основой всех методов прогнозирования являются доказанные Такенсом теоремы [6], из которых следует, что непрерывная бесконечная и стационарная зависимость от времени всего лишь одной (наблюдаемой) динамической переменной системы является достаточной для восстановления топологической структуры области фазового пространства, соответствующей наблюдаемой эволюции системы. В реальности протяженность наблюдаемого временного ряда всегда ограничена, что приводит к ошибке при реконструкции реализующегося в фазовом пространстве системы аттрактора, и, как следствие, неточности в определении его характеристик. Тем не менее, созданные к сегодняшнему дню алгоритмы позволяют достаточно аккуратно восстанавливать динамические свойства системы по конечному стационарному временному ряду. Также было показано [7], что теоремы Такенса могут быть обобщены на случай нестационарных временных рядов, т.е. нестационарность не налагает ограничений с точки зрения принципиальной возможности реконструировать наблюдаемый аттрактор.

Нейронные сети являются распространенным способом аппроксимации оператора эволюции, предсказывающего дальнейшее поведение фазовых траекторий в фазовом пространстве. В результате, задача прогнозирования, на техническом уровне строгости, сводится к аппроксимации многомерных функций или к задаче построения многомерного отображения «вход-выход» [8]. Нейронные сети, как нелинейные системы, способны обучаться таким отображениям и поэтому весьма эффективны при прогнозе нелинейных систем со сложной динамикой, к которым относятся и временные ряды динамики ионосферных параметров.

Существующие прогностические модели динамики ионосферных параметров основаны на использовании стандартных методов статистического анализа либо самых простых архитектур искусственных нейронных сетей. Упомянутые модели часто не позволяют решить задачу прогнозирования с необходимой точностью даже на короткие интервалы времени. Поэтому остро стоит проблема совершенствования алгоритмов проектирования и обучения искусственных нейронных сетей.

В разделе 1.4 представлен обзор методов анализа пространственно-временных вариаций динамики ПЭС. Показано, что наиболее распространенным подходом к решению данной задачи является метод главных компонент. Отмечается, что использование данного метода для анализа вариаций ПЭС требует дополнительного учета методов предобработки и представления данных.

Во второй главе представлены методики повышения эффективности обучения искусственных нейронных сетей для задач прогнозирования. Проведено сравнение разработанных методов с распространенными алгоритмами обучения на примере модельных рядов.

В случае, когда функция ошибки при обучении прогностической ИНС имеет несколько локальных минимумов, результат обучения может существенно зависеть от выбора начального распределения значений весовых коэффициентов нейронов. Наиболее распространенный на практике алгоритм Нгуена-Уидроу предполагает выбор случайных начальных значений весов. Обучение сети при этом, как правило, выполняется много раз с тем, чтобы увеличить вероятность нахождения глобального минимума функции ошибки. Это приводит к многократному росту общего времени работы, при том, что не всегда удаётся получить удовлетворительный результат обучения.

В разделе 2.1 приводится описание методов начальной инициализации прогностических нейронных сетей с использованием коэффициентов линейного предсказания.

Идея предлагаемого подхода к выбору начальных весов сети состоит в том, чтобы построить нейросеть, которая до обучения будет преобразовывать данные практически аналогично фильтру линейного предсказания. Для этого, предварительно найденные коэффициенты линейного предсказания используются в соответствующих элементах нейронной сети (см. рис. 1). Матрицу преобразования для нейронной сети с одним скрытым слоем можно представить в виде произведения трех матриц, каждая из которых соответствует некоторому слою:

А = А3-А2-Д, (1)

Рисунок 1 - НеГфонная сеть прямой передачи сигнала с одним скрытым слоем

где А1 - матрица преобразования входного слоя, Л2 - скрытого слоя, А3 - выходного слоя.

Коэффициенты линейного предсказания а;, съ... ар помещаются в матрицу преобразования скрытого слоя Л?. Для того, чтобы нейронная сеть давала результат до обучения близкий к фильтру линейного предсказания, необходимо взять область на функции активации скрытого слоя, близкую к линейной. Для этого в матрице входного слоя АI осуществляется предварительное масштабирование данных. В результате выражение (1) можно переписать следующим образом:

А=[0 0 0 ... 1 !а\

а 0 0 . . 0

0 а 0 . . 0

0 0 а . . 0

0 0 0 . . 0

0 0 0 . . а

(2)

Входной слой сети масштабирует данные так, чтобы все значения ряда не выходили за пределы линейной области функции активации. Промежуточный слой осуществляет преобразование близкое к линейному с помощью весовой матрицы, содержащей в себе коэффициенты линейного прогнозирования а. Выходной слой осуществляет обратное масштабирование данных. Ошибка, обусловленная нелинейностью функции активации, может быть сделана сколь угодно малой выбором коэффициента а.

Стоит отметить, что подобное представление матрицы преобразования нейронной сети является не единственным. Для того, чтобы более равномерно распределить вычисления между слоями нейронной сети на начальном этапе обучения в выражение (1) были включены действительные ортогональные матрицы I! и У(и" и = Е и V" У = Е):

А = А3-ин -и ■ А2-Ун - V ■ А1 (3)

выходной скрьипыи входной слой слой слой

Ортогональное преобразование в этом случае явилось наиболее предпочтительным, так как оно не изменяет длину входных векторов, не вносит дополнительных корреляций, а также обладает достаточно малой размерностью, что существенно упрощает его поиск. Поиск оптимальных ортогональных матриц и и V осуществлялся в представлении матричной экспоненты I/ = ем , где А/ -антисимментричная матрица (Мт = -М ). Матрицы 3*3 может быть представлена, как

у _ ^уМ^ М^СуМ,

ГО а У '0 1 0^ го 0 г '0 0 0"

где М = -а 0 с = (!■ -1 0 0 +ь- 0 0 0 + с- 0 0 1

г'' -с о. ,0 0 0, 0 о; 0 -1 0,

Для поиска коэффициентов а, Ь, с был использован метод градиентного спуска.

Таким образом, до обучения нейронная сеть по прежнему полностью соответствовала исходному фильтру линейного предсказания. Однако в процессе обучения за счет нелинейности передаточной функции нейронов было достигнуто улучшение качества прогноза.

Проверка эффективности предложенных способов линейной инициализации нейронной сети осуществлялась на примере прогноза траекторий системы Лоренца. Эта динамическая система при определенном наборе параметров демонстрирует режим детерминированного хаоса, и часто используется в качестве модели колебаний параметров в турбулентных потоках, вариации параметров геомагнитного поля и многих других физических систем. Показано, что на горизонтах прогноза до 1 сек. при использовании метода линейной начальной инициализации СКО предсказания составила а-0.056, что намного ниже СКО предсказания при использовании метода инициализации Нгуена-Уидроу о=0.728.

Раздел 2.2 посвящен решению задачи нейросетевого прогнозирования временных рядов при наличии ограниченного объема обучающей выборки. По существу, предлагаемый подход состоит из двух этапов: предобработка данных на основе сингулярного спектрального анализа, затем процедура последовательного дообучения ИНС с использованием предварительно отфильтрованного временного ряда.

Известно, что чем сложнее динамика исследуемого временного ряда, тем больше локальных минимумов будет содержать функционал ошибок в пространстве весовых коэффициентов обучаемой нейронной сети. Для повышения эффективности поиска глобального минимума функционала ошибки можно начать обучение нейронной сети с обучающей выборки, содержащей наиболее предсказуемые компоненты временного ряда. В качестве таковых могут быть использованы первые компоненты сингулярного разложения. Затем обучающая выборка модифицируется с учетом компонент разложения, соответствующих меньшим сингулярным числам. При этом в дообучении используется одна многослойная нейронная сеть прямой передачи сигнала.

Пусть Х(1) : 1 = 1.....N - исследуемый временной ряд, (\,рк)-.к = 1.....М - набор

собственных значений и собственных векторов автоковариационной матрицы С,.

Тогда главные компоненты сингулярного разложения могут быть записаны, как м

/4,(0 = ^Х(г + у-1)/?,(Л ■ Временной ряд, восстановленный по к главным

м

компонентам, выглядит следующим образом: (?) — — ] +

М, кеК

Таким образом, варьируя к при восстановлении ряда, можно получить набор временных рядов, соответствующих одному и тому же процессу, но с разной степенью детализации. Рис. 2 показывает схему предлагаемого алгоритма последовательного дообучения ИНС.

Рисунок 2 - Схема алгоритма последовательного дообучения прогностической нейронной

сети

Результаты предлагаемого подхода сравнивались с прогнозом, выполненным аналогичной нейронной сетью с обучением по необработанным данным. Для тестирования выбран временной ряд числа солнечных пятен (International sunspot number Rz). Временной ряд Rz был выбран для тестирования исключительно из методических соображений, так как большая часть новых статистических подходов апробируется именно на нём. При этом объем данных, доступных для обработки, содержит не более чем 200 лет наблюдений.

Нейросетевой прогноз числа солнечных пятен на 5 и 9 лет вперед для последних трех солнечных циклов, полученный с использованием метода последовательного дообучения, оказался более эффективнее по сравнению с аналогичными нейросетевыми моделями прогноза. Так например, в статье Ghoiipour [9] для периода 1999-2008 гг СКО=7.8 (среднеквадратичное отклонение), в то время как модель с последовательным дообучением показала СКО=6.23. Разработанный подход позволил спрогнозировать последнюю тенденцию затянувшегося минимума (2006-2008 гг). По результатам прогнозирования 24 солнечного цикла пик значений числа солнечных пятен очередного солнечного максимума составит около 85 в 2013-2014 гг. Что соотносится с прогнозами других исследовательских центров [10].

Также в главе 2 представлены результаты применения указанного выше подхода на основе последовательного дообучения

искусственных нейронных сетей для краткосрочного прогнозирования

уровня ПЭС на 2 часа вперед над окрестностью города Казани. Обучающая выборка включала значения ПЭС за предыдущие 12 часов с дополнительным учетом значений ПЭС в предыдущие моменты времени над областями, отстающими по долготе на 2. 4 и 6 часов, соответственно. На рис. 3 представлен фрагмент спрогнозированного ряда ПЭС над окрестностью города Казани. Ошибка нейросетевого прогноза на 2 часа вперед составила 4,12 %, что значительно меньше ошибки тривиального прогноза 21.9 %, когда прогнозируемое значение ряда принимается равным его значению в предыдущий момент времени. Для сравнения на рисунке представлены также результаты фильтра линейного прогнозирования. Из рис. 3 видно, что подход на основе линейной авторегрессии применительно к краткосрочному прогнозированию динамики ионосферных параметром существенно менее эффективен по сравнению с нейросетевым.

I2h isil 13 06h l« l«h 14 06h 12h 18h 15 06h 12h июнь,2008

Рисунок 3 - Прогнозирование ПЭС на 2 часа вперед над окрестностью г. Казань

ТС? 5 мащаШЗ

В третьей главе представлены результаты анализа вариаций пространственного распределения полного электронного содержания (ПЭС), выполненного методом главных компонент. Для анализа использовались глобальные карты ПЭС, представленные лабораторией JPL (Jet Propulsion Laboratory, США) за период с 2004 по 20М г. В разделе 3.1 приведены параметры исследуемых данных. Глобальные

карты ПЭС были представлены в географической системе координат с пространственным разрешением по долготе 5° и разрешением по широте 2.5°. Временное разрешение составляло 2 часа. Пример суточной динамики поля ПЭС представлен на рис. 4.

В разделе 3.2 представлено несколько подходов для снятия ограничений метода главных компонент при анализе глобальных карт ПЭС. Показано, что получаемые компоненты разложения ПЭС существенно зависят от представления исходных данных и способа их предварительной обработки.

Пусть задана матрица наблюдений ПЭС -Хи, где индекс / указывает на точку земной поверхности, а индекс j - момент времени, к которым относится отсчёт ПЭС. Разложение по главным компонентам позволяет представить матрицу данных ПЭС в виде:

Х=^акикУк". (5)

Рисунок 4 ПЭС за

• Суточная динамика 1 марта 2009 года

Здесь ортонормированные вектора UL, размерность которых совпадает с количеством точек пространственной сетки, задают пространственное распределение вариаций ПЭС, соответствующее к-» главной компоненте. Ортонормированные вектора V, , размерность которых совпадает с числом отсчётов по времени, показывают временную эволюцию соответствующей моды. В случае, когда исследуемые данные центрированы, величины а] являются оценками дисперсии для к-й главной компоненты.

При задании условия ортогональности базисных векторов необходимо учитывать, что значения ПЭС представлены в точках, равноотстоящих по широте и долготе. Скалярное произведение, задающее условие ортогональности мод. в сферической системе координат может быть записано следующим образом:

(.г, у) = || -х(г)у(г)dS ~ £ л-,.у) cos ^ = £-Wcos <Pi У/ Vcos й (6)

S, ' '

Применительно к данным ПЭС учет координатной сетки производится путем домножения каждого отсчёта X. s на величину -у/cos ф1 , где ф, - широта соответствующего узла сетки.

Метод главных компонент оперирует, прежде всего, центрированными данными. Для учета суточной периодичности был предложен подход с использованием сопутствующей системы координат, когда подсолнечная точка остается неподвижной. Для устранения сезонной периодичности был использован метод на основе линейных порядковых статистик, когда вариации амплитуды ПЭС вычислялись относительно медианных значений отдельно для каждого узла координатной сетки и конкретного времени суток. Показано, что результат разложения по главным компонентам может радикально отличаться в зависимости от используемой системы координат и способов центрирования данных. Учёт всех указанных выше факторов позволяет получить наиболее информативные для анализа моды разложения.

В разделе 3.3 проводится анализ результатов разложения глобальных карт ПЭС по главных компонентам, полученных с учетом указанных выше факторов. На рис. 5 представлены панели изолиний пространственного распределения вариаций первых четырех главных компонент ПЭС. Стоит отметить, что при интерпретации подобных панелей особое внимание уделяется соотношению знаков вариаций в двух точках карты, а не знаку вариации как таковому. Если в двух точках вариации для некоторой моды имеют одинаковый (либо противоположный) знак, то это означает, что некоторый процесс, связанный с данной главной компонентой, вызывает коррелирующие (соответственно, антикоррелируюшие) вариации в этих точках.

Вклады первых четырёх компонент разложения в общую дисперсию ПЭС равны значениям 82.9, 7.1, 3.4 и 2.7%, соответственно. Таким образом, 96 % от общей дисперсии флуктуации в исследуемом наборе данных ПЭС (после центрирования и перехода к сопутствующей системе координат) может быть объяснено комбинацией из первых четырех мод разложения, так как ряд дисперсий компонент разложения сходится довольно быстро.

Наиболее характерной чертой пространственного распределения вариаций первой компоненты ГК1 является наличие двух положительных максимумов, расположенных на 20° выше и ниже от экватора, что соответствует экваториальной аномалии. Полученный результат подтверждается работами и других авторов [11].

Таким образом, исключив из рассмотрения влияние суточной и сезонной периодичностей, удалось более детально проанализировать временную динамику экваториальной аномалии. Интересной особенностью является тот факт, что вторая компонента разложения ГК 2 также показывает наличие экваториальной аномалии, которая сопровождается вариациями, отстоящими по времени и имеющими с ней отрицательную корреляционную связь. Это свидетельствует о том, что данная компонента отражает динамику изменения формы главного максимума ПЭС. Третья компонента отражает ассимметрию полушарий. Четвертая компонента связана, по-видимому, с вариациями соотношения амплитуд максимумов экваториальной аномалии к северу и к югу от экватора.

Долгота

Долгота

Рисунок 5 - Первые четыре компоненты разложения ПЭС (долготный угол отсчитывапся от

локального полудня)

Первые четыре компоненты разложения ПЭС демонстрируют существование вариаций с периодом 27-29 дней, связанных с вращением Солнца и с вариациями потока высокоэнергичных частиц солнечного ветра.

По результатам анализа амплитуд первых четырех компонент разложения ПЭС было показано, что в годы максимума солнечной активности 2004-2005 гг. (см. рис. 6а) корреляция между амплитудой первой компоненты и индексом F10.7 наиболее значительна (коэффициент корреляции Пирсона RXy=0.71 с доверительным интервалом [0.56;0.86] при уровне значимости 95%), в то время как в годы с низким уровнем солнечной активности (2009-2010 гг.), в целом, наблюдается слабая корреляционная связь (RXY=0.32 [0.15;0.49]). В этот период пульсации индекса Л0.7 крайне незначительны (см. рис 6в). В то же время, колебания амплитуды первой компоненты ПЭС с периодом -27 дней по-прежнему наблюдаются, хотя и с меньшим размахом. В этот период времени начинает в большей степени сказываться влияние потока высокоэнергетических частиц (RXy=0.61 [0.5;0.73], см. рис. 66).

¡Vetóte

i \ Ah í, UVi -j»

6)

v \

ni

a) в)

Рисунок 6 - а) Вариации индекса солнечной активности F10.7 (черная пунктирная линия) и сглаженная амплитуда первой компоненты разложения (серая сплошная);

б) Вариации потока протонов с энергиями >1 МэВ (серая сплошная) и амплитуда первой компоненты разложения (черная пунктирная);

в) Вариации индекса солнечной активности FI0.7

Для анализа были использованы данные по индексу солнечной активности и потокам частиц на каждый день, представленные центром прогнозирования космической погоды SWPC (Space Weather Prediction Center, США).

Таким образом, показано, что динамика экваториальной аномалии (а также её форма и соотношение между максимумами к северу и югу от экватора) хорошо коррелирует с индексом солнечной активности F10.7 в годы с более высоким уровнем солнечной активности, и с потоком частиц с энергиями >1МзВ в годы с низким уровнем солнечной активности.

В четвертой главе представлены результаты краткосрочного прогнозирования глобальной динамики ПЭС. Прогноз осуществляется с использованием предварительного разложения данных на главные компоненты. Затем производится оптимизация нейросетевых моделей прогнозирования отдельно для временной динамики каждой компоненты разложения.

Фрагменты спрогнозированных значений первых трех пространственных компонент ПЭС на 6 часов вперед показаны на рис. 7.

Для того чтобы количественно оценить качество прогнозирования, было вычислено стандартное отклонение для спрогнозированных значений глобальных карт ПЭС. Согласно формуле 7 стандартное отклонение (СКО) при прогнозировании глобальной динамики ПЭС STD2гпс будет складываться из СКО спрогнозированных амплитуд каждой компоненты STD2П( пропорционально их вкладу в общую вариацию ряда ПЭС, то есть пропорционально собственным значениям матрицы разложения ег,.

STD\rx.^STD2rK:

О)

Таким образом, относительная ошибка прогноза амплитуды ПЭС на 6 часов вперед составила 6%, для ночных значений -11%. При прогнозировании амплитуды ПЭС на 24 часа вперед ошибка получилась несколько выше: для дневных значений -12%, для ночных - 16%. Тот факт, что ошибка при прогнозировании ночных значений ПЭС оказалась выше, чем для дневных, объясняется наличием большого числа слабопредсказуемых вариаций, обусловленных переходными процессами в ионосфере. Все вычисления производились средствами стандартного персонального компьютера (пиковая вычислительная мощность 17 ОРЬОРЗ).

15

Главная компонента 1

04 окт'04 08 окт'04 12 окт'04 16 окт'04 20 окт'04 Главная компонента 2

OS окт'04 12 окт'04 16 окт'04 Главная компонента 3

20 окт'04

НС прогноз * Исходные амплитуды ГК

Рисунок 7 - Временные амплитуды первых 3-х компонент разложения ПЭС (точки), и нейросетевой прогноз на 6 часов вперед (сплошная линия)

Полученные результаты сопоставимы по качеству с прогностической моделью на 1 день вперед, предоставляемой лабораторией ESOC/ESA (European Space Operations Centre), однако, в отличие от последней, предложенный в настоящей работе подход не требует привлечения больших вычислительных ресурсов.

В заключении приведены основные результаты исследования. 1. Разработана методика краткосрочного прогнозирования глобальной динамики ПЭС на основе совместного использования метода главных компонент и искусственных нейронных сетей. На первом этапе производилось разложение глобальных карт ПЭС по главным компонентам. Затем прогностические нейросетевые модели оптимизировались отдельно для временных рядов амплитуд каждой главной компоненты разложения. Полученные результаты выглядят следующим образом:

• Относительная ошибка прогноза амплитуды ПЭС на 6 часов вперед составила 6%, для ночных значений -11%.

• При прогнозировании амплитуды ПЭС па 24 часа вперед ошибка получилась несколько выше: для дневных значений - 12%, для ночных - 16%. Более высокая ошибка при прогнозировании ночных значений ПЭС объясняется наличием большого числа слабопредсказуемых вариаций, обусловленных переходными процессами в ионосфере.

• Полученные результаты сопоставимы по качеству с прогностическими моделями, предоставляемыми известными исследовательскими центрами, однако, в отличие от последних, разработанный подход не требует привлечения больших вычислительных ресурсов.

2. Установлено, что результат разложения глобальных карт ПЭС на главные компоненты может радикально отличаться в зависимости от используемой при разложении системы координат и способов центрирования данных. Учёт всех указанных факторов позволяет получить наиболее информативные для анализа моды разложения. Согласно проведенному анализу мод разложения были сделаны следующие выводы:

• Вклады первых четырёх компонент разложения в общую дисперсию ПЭС равны значениям 82.9, 7.1, 3.4 и 2.7% , соответственно. Таким образом, 96 % от общей дисперсии флуктуаций ПЭС (после учета суточной и сезонной периодичностей и системы координат) может быть объяснено комбинацией из первых четырех мод разложения.

• Показано, что пространственное распределение вариаций первой компоненты ПЭС соответствует экваториальной аномалии (два положительных максимума, расположенных на 20° выше и ниже от экватора).

• Вторая компонента разложения ПЭС отражает динамику изменения формы главного максимума ПЭС.

• Третья компонента связана с ассимметрией полушарий.

• Четвертая компонента связана с вариациями соотношения амплитуд максимумов экваториальной аномалии к северу и к югу от экватора.

3. По результатам анализа амплитуд первых четырех компонент разложения ПЭС было показано, что в годы максимума солнечной активности 2004-2005 гг. корреляция между амплитудой первых компонент и индексом F10.7 наиболее значительна (коэффициент корреляции Пирсона RXy=0.71 с доверительным интервалом [0.56;0.86] при уровне значимости 95%), в то время как в годы с низким уровнем солнечной активности (2009-2010 гг.) в целом наблюдается слабая корреляционная связь (Rxy=0.32 [0.15;0.49]). В этот период пульсации индекса F10.7 крайне незначительны. В то же время, колебания амплитуды первой компоненты ПЭС с периодом ~27 дней по-прежнему наблюдаются, хотя и с меньшим размахом. В этот период времени начинает в большей степени сказываться влияние потока высокоэнергетических частиц (RXy=0.61 [0.5:0.73]).

Таким образом, показано, что динамика экваториальной аномалии (а также её форма и соотношение между максимумами к северу и югу от экватора) хорошо коррелирует с индексом солнечной активности F10.7 в годы с более высоким уровнем солнечной активности, и с потоком частиц с энергиями >1МэВ в годы с низким уровнем солнечной активности.

4. Разработаны и реализованы алгоритмы начальной инициализации весов ИНС на основе коэффициентов фильтра линейного предсказания, а также метод последовательного дообучения с использованием сингулярного спектрального анализа, которые позволяют сократить время и повысить качество обучения ИНС в задачах прогнозирования нестационарных временных рядов в два и более раз по сравнению с существующими подходами. Указанные подходы были использованы при оптимизации модели краткосрочного прогнозирования глобальной динамики ПЭС.

Список использованной литературы

[ 1 ]. Klobuchar J., Ionospheric time-delay algorithm for single-frequency GPS users // IEEE Transactions on Aerospace and Electronics System, 1986, AES 23(3), 325-331.

[2]. Афраймович, ЭЛ. GPS-мониторинг верхней атмосферы Земли / Э.Л. Афраймович, Н.П. Перевапова - Изд-во ГУ НЦ РВХ ВСНЦ СО РАМ, 2006. - 480 с

[3]. Cander, Lj R Ionospheric forecasting technique by artificial neural networks / Lj.R. Cander, M.M. Milosavljevic, S.S. Stankovic, S. Tomasevic // Electronic Lett. - 1998. - N.34, 16. - P. 15731574.

[4]. Venkata, D.TEC Prediction Model using Neural Networks over a Low Latitude GPS Station / D.Venkata, B. Ratnam, B.Tejaswi et al. // International Journal of Soft Computing and Engineering (IJSCE). -2012. -Volume-2, Issue-2. - P. 2231-2307.

[5]. Sarma, A. Modelling of foF2 using neural networks at an equatorial anomaly station / A. Sarma, T. Mahdu // Current Science. - 2005. - 89(7). - P. 1245-1247.

[6]. Takens F. Detecting strange attractor in turbulence // In: D.A. Rand and L.-S. Young (Eds.), Dynamical Systems and Turbulence, Warwick, 1980, Lecture Notes in Mathematics. Springer, Berlin 1981. Vol. 898. P. 366.

[7]. Stark J., Broomhead D.S., Davies M.E., Huke J. Takens Embedding theorems for forced and stochastic systems // Nonlinear Analysis, Theory, Methods Applications 1997. Vol. 30. P. 5303

[8]. Макаренко, Н.Г. Эмбедология и нейропрогноз/ Н.Г. Макаренко // Лекции по нейроинформатике, ч. 1, Нейроинформатика-2003, V Всерос.научн.-тех. конф. Москва. -2003,- С. 86-148.

[9]. A. Gholipour, С. Lucasa, B.N.Araabia, М. Shafiee // Journal of Atmospheric and Solar-Terrestrial Physics. - 2005. - N.67. - P. 595-603.

[10]. Pesnell, W.D. Predictions of Solar Cycle 24 / W.D. Pesnell // Sol. Phys. - 2008. - vol. 252. -P. 209-2202.

[11]. Zhang, D. A global model: Empirical orthogonal function analysis of total electron content 1999-2009 data / D. Zhang, A. J. Ridley, Z. Xiao, Y. Hao // J. Geophys. Res. - 2012. - V. 117.

Основные публикации автора по теме диссертационной работы

Материалы исследования достаточно полно изложены в 27 работах, опубликованных автором по теме диссертации, 4 из них входят в перечень изданий, рекомендованных ВАК, также получены авторские свидетельства о регистрации программ на ЭВМ. В отдельном разделе ниже представлены публикации по материалам исследований в различных приложениях.

1. Масленникова, Ю.С. Метод начальной инициализации прогностических нейронных сетей / Ю.С. Масленникова, В.В. Бочкарев // Ученые записки Казанского университета. Сер. Физ.-матем. науки. - 2010. - Т. 152, кн. 1. - С. 7-14. (перечень ВАК)

2. Maslennikova, Yu.S. Training Algorithm for Neuro-Fuzzy Network Based on Singular Spectrum Analysis / Yu.S. Maslennikova, V.V.Bochkarev // AWERProcedia Information Technology & Computer Science. [Online], - 2013. - N.3. - P. 605-610.

3. Maslennikova, Yu.S. Adaptive Shortwave Radio Gain Control System Based on SelfLearning Neural Networks / R.R. Latypov, Yu.S. Maslennikova, I.R. Petrova // AWERProcedia Information Technology & Computer Science. [Online]. - 2013. - N.3. - P. 1707-1710.

4. Масленникова, Ю.С. Предсказание временных рядов при помощи искусственных нейронных сетей / Ю.С. Масленникова, В.В. Бочкарев // Волновые процессы в средах: сборник докладов Поволжской региональной молодёжной конференции. - Казань: Изд-во Казан, гос. ун-та. - 2007,- С. 140-143.

5. Масленникова, Ю.С. Сравнение эффективности линейного и нейросетевого прогноза на примере рядов ионосферных параметров / Ю.С. Масленникова // Итоговая научно-образовательная конференция студентов Казанского государственного университета 2008 года: Сборник статей. - Казань: Изд-во Казан, гос. ун-та. - 2008.- С. 109-112.

6. Масленникова, Ю.С. Анализ и прогнозирование рядов ионосферных параметров / Ю.С. Масленникова // Радиофизические исследования природных сред и информационные системы: сборник докладов Волжской региональной молодежной конференции,- Казань: Изд-во Казан, гос. ун-та. - 2008,- С. 126-129.

7. Масленникова, Ю.С. Нейросетевое прогнозирование динамики хаотических систем на примере аттрактора Хенона / Ю.С. Масленникова // Труды двенадцатой молодежной научной школы «Когерентная оптика и оптическая спектроскопия»,- Казань: Изд-во Казан, гос. ун-та. - 2008,- С. 164-168.

8. Масленникова, Ю.С. Прогнозирование солнечной активности и ионосферных параметров с использованием нейронных сетей / Ю.С. Масленникова, В.В. Бочкарев // Байкальская международная молодежная научная школа по фундаментальной физике. Труды XI Конференции молодых ученых «Гелио- и геофизические исследования».- Иркутск: ИСЗФ СО РАН. - 2009. - С. 147-150.

9. Масленникова, Ю.С. Анализ пространственной структуры вариаций полного электронного содержания методами факторного анализа / Ю.С. Масленникова, В.В. Бочкарев // Байкальская международная молодежная научная школа по фундаментальной физике. Труды XI Конференции молодых ученых «Гелио- и геофизические исследования»,-Иркутск: ИСЗФ СО РАН. - 2009. - С. 151 -153.

10. Масленникова, Ю.С. Нейросетевое прогнозирование временных рядов с использованием сингулярного разложения / Ю.С. Масленникова, В.В. Бочкарев // Научная сессия НИЯУ МИФИ - 2010. XII Всероссийская Научно-техническая конференция "НЕЙРОИНФОРМАТИКА-2010»: Сборник научных трудов. В 2-х частях. Ч. 2. -М.: НИЯУ МИФИ.-2010.-С. 201-210.

11. Масленникова, Ю.С. Нелинейные порядковые статистики на основе нейронных сетей / Ю.С. Масленникова, В.В. Бочкарев // Нейроинформатика-2011. XIII Всероссийская научно-техническая конференция. Сборник научных трудов. Часть 1 - Москва: МИФИ. - 2011. -С.98-108.

12. Масленникова, Ю.С. Нейросетевое прогнозирование ионосферных параметров с использованием сингулярного спектрального анализа / Ю.С. Масленникова, В.В. Бочкарев // XXIII Всероссийская научная конференция «Распространение радиоволн» [сб. докл.] в 3 т., Йошкар-Ола: Марийский государственный технический университет - 2011. - Т.1 - С.383-386.

13. Масленникова, Ю.С. Прогнозирование динамики ионосферы с помощью классифицирующих нейронных сетей и персептронов / Ю.С. Масленникова, В.В. Бочкарев // Труды XII конференции молодых ученых "Взаимодействие полей и излучения с веществом". - Иркутск: ИСЗФ СО РАН. - 2011. - С. 147-150.

14. Maslennikova, Yu.S. Total Electronic Contents prediction using neural network modeling and principal components analysis // 39th COSPAR Scientific Assembly. Abstracts. Mysore, India. -2012.

15. Maslennikova Yu.S., Bochkarev V.V. Solar activity prediction using neural network and Singular spectrum analysis / Yu.S. Maslennikova. V.V. Bochkarev // 39th COSPAR Scientific Assembly. Abstracts. Mysore, India. - 2012.

Публикации в различных приложениях

16. Maslennikova, Yu.S. Permeability Prediction Using Hybrid Neural Network Modelling / Yu.S Maslennikova // Society of Petroleum Engineers - SPE Annual Technical Conference and Exhibtion. - 2013. ISBN 978-1-61399-240-1. DOI 10.2118/167640-STU. - P. 1-6. (перечень ВАК)

17. Масленникова, Ю.С. Сжатие данных акустического каротажа / В.В. Бочкарев, В. Н. Горбачев, Е.Ю. Зыков, Ю.С. Масленникова, О.Н. Шерсттоков // Георесурсы - Изд. Каз. ун-та. - 2011. - 6 (42). - С.18-19. (перечень ВАК)

18. Maslennikova, Yu.S. Spectral Noise Logging Data Processing Technology / Yu.S Maslennikova, V.V.Bochkarev, A.V. Savinkov, D.A. Davydov // Society of Petroleum Engineers -SPE Russian Oil and Gas Exploration and Production Technical Conférence and Exhibition. -2012. - 4 , P. 2305-2325. (перечень ВАК)

19. Масленникова, Ю.С. Опыт применения аппаратуры скважинного акустического сканера высокого разрешения совместно с видеокаротажем для исследований открытого ствола / В.Е. Косарев, Ю.С. Масленникова, А Д. Акчурин, К.М. Юсупов, В.Н. Горбачев, M.J1. Михеев // Нефтяное хозяйство. - 2013. - № 6. - С. 53-55. (перечень ВАК)

20. Масленникова, Ю.С. Определение пористости и проницаемости коллекторов по данным ГИС с использованием искусственных нейронных сетей / Д.А. Волосков, В.А. Судаков, Ю.С. Масленникова // Проблемы повышения эффективности разработки нефтяных месторождений на поздней стадии. Материалы Международной научно-практической конференции. - Казань: Изд-во «Фэн» АН РТ. - 2013. - С. 320-324.

21. Масленникова, Ю.С. Применение Вейвлет- преобразований для сжатия аудио сигнала методом дифференциальной импульсно-кодовой модуляции / Ю.С. Масленникова // Труды двенадцатой молодежной научной школы «Когерентная оптика и оптическая спектроскопия»,- Казань: Изд-во Казан, гос. ун-та. - 2008.- С. 161-164.

22. Масленникова, Ю.С. Метод сжатия аудио информации с использованием нейронных сетей / Ю.С. Масленникова // Итоговая научно-образовательная конференция студентов Казанского государственного университета 2009 года: Сборник статей .- Казань: Изд-во Казан, гос. ун-та. - 2009,- С. 100-103.

23. Масленникова, Ю.С. Метод сжатия аудио данных без потерь с использованием нейронных сетей / Ю.С. Масленникова // Наука и инновации в решении актуальных проблем города. Материалы научно-практической конференции студентов и аспирантов.- Казань: Изд-во «Отечество». - 2009 г.- С. 47-49.

24. Масленникова, Ю.С. Вейвлет-фильтрация ионограмм / А.Д. Акчурин, В.В. Бочкарев, Ю.С. Масленникова // Труды XII конференции молодых ученых "Взаимодействие полей и излучения с веществом". - Иркутск: ИСЗФ СО РАН. - 2011. - С. 147-150.

25. Масленникова, Ю.С. Гибридная нейросетевая модель для предсказания значений проницаемости углеводородных пластов / Ю.С. Масленникова, В.В. Бочкарев // Информационные технологии и системы (ИТиС'12): сборник трудов конференции. [Электронный ресурс] - М.: ИППИ РАН. - 2012. - С. 425 - 430.

26. Масленникова, Ю.С. Вейвлет-фильтрация ионограмм наклонного зондирования и автоматическое определение максимально применимой частоты / Р.Р. Латыпов, В.В. Бочкарев, Ю.С. Масленникова // Информационные технологии и системы (ИТиС'12): сборник трудов конференции. [Электронный ресурс] - М.: ИППИ РАН. - 2012. - С. 351 - 353.

27. Maslennikova, Yu.S. Wavelet Filtering of ionograms" / Yu.S. Maslennikova, V.V. Bochkarev, A.D. Akchurin // 39th COSPAR Scientific Assembly. Abstracts. Mysore, India. - 2012.

Авторские свидетельства о регистрации:

1. Свидетельство о государственной регистрации программы на ЭВМ № 2012611612 «Acoustic Data Wavelet Packer» Бочкарев B.B., Зыков Е.Ю., Масленникова Ю.С.

2. Свидетельство о государственной регистрации программы на ЭВМ № 2012611627 «Acoustic Data Lossless Compressor» Бочкарев B.B., Зыков Е.Ю., Масленникова Ю.С.

Формат 60*84 1/16. Бумага офсетная. Печать офсетная. Печ.л.1,0. Усл.печ.л 0,93. Уч.-изд.л. 1,0. Тираж 130экз.

Типография ЗАО «Компания Интайп», 420111, Казань, ул.Профсоюзная,д.26

 
Текст научной работы диссертации и автореферата по физике, кандидата физико-математических наук, Масленникова, Юлия Сергеевна, Казань

ФЕДЕРАЛЬНОЕ ГОСУДАРСТВЕННОЕ АВТОНОМНОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ ВЫСШЕГО ПРОФЕССИОНАЛЬНОГО ОБРАЗОВАНИЯ «КАЗАНСКИЙ (ПРИВОЛЖСКИЙ) ФЕДЕРАЛЬНЫЙ УНИВЕРСИТЕТ»

04201453081

МАСЛЕННИКОВА ЮЛИЯ СЕРГЕЕВНА

Развитие методов прогнозирования и анализа динамики ионосферных параметров с использованием искусственных

нейронных сетей

01.04.03 - Радиофизика Диссертация на соискание ученой степени кандидата физико-математических наук

На правах рукописи

Научный руководитель:

доктор физико-математических наук,

доцент О.Н. Шерстюков

Казань -2013

СОДЕРЖАНИЕ

ВВЕДЕНИЕ..............................................................................................................4

ГЛАВА 1. ОБЗОР МЕТОДОВ АНАЛИЗА И ПРОГНОЗИРОВАНИЯ ДИНАМИКИ ИОНОСФЕРНЫХ ПАРАМЕТРОВ.............................................13

1.1 Общие сведения об ионосфере и её параметрах.........................................13

1.1.1 Структура ионосферы........................................................................13

1.1.2 Методы исследования ионосферы...................................................15

1.1.3 Полное электронное содержание ионосферы.................................19

1.1.4. Эмпирический и детерминированный подходы к прогнозированию ионосферы....................................................................21

1.2 Искусственные нейронные сети....................................................................26

1.2.1. Теоретические основы прогнозирования временных рядов........26

1.2.2. Архитектура и классификация искусственных нейронных сетей (ИНС)............................................................................................................28

1.2.3. Вычислительные возможности ИНС..............................................32

1.2.4. Методы обучения и начальной инициализации ИНС...................34

1.2.5.Модель линейной авторегрессии, как пример линейной ИНС.....42

1.3 Модели и методы прогнозирования временной динамики критических частот и полного электронного содержания с использованием ИНС.............46

1.3.1. Прогнозирование временной динамики критических частот......46

1.3.2. Прогнозирование временной динамики ПЭС................................48

1.4 Анализа пространственно-временных особенностей динамики ПЭС на основе метода главных компонент......................................................................50

1.4.1 Обзор методов многомерного анализа геофизических данных.... 51 1.4.2. Классический подход к анализу главных компонент...................52

1.5 Выводы к главе 1. Постановка задачи..........................................................55

ГЛАВА 2. МЕТОДЫ ПОВЫШЕНИЯ ЭФФЕКТИВНОСТИ ОБУЧЕНИЯ ИСКУССТВЕННЫХ НЕЙРОННЫХ СЕТЕЙ ДЛЯ ЗАДАЧ ПРОГНОЗИРОВАНИЯ ВРЕМЕННЫХ РЯДОВ................................................57

2.1 Развитие алгоритмов начальной инициализации ИНС..............................58

2.1.1 Алгоритм начальной инициализации ИНС на основе коэффициентов линейного предсказания.................................................59

2.1.2 Усовершенствованный метод начальной инициализации ИНС... 62

2.1.3 Проверка эффективности алгоритмов инициализации ИНС на моделях детерминированных хаотических систем.................................64

2.2 Алгоритм последовательного дообучения ИНС, основанный на анализе главных компонент...............................................................................................73

2.2.1 Использование метода главных компонент для ускорения поиска глобального минимума функционала ошибки при обучении................73

2.2.2 Использование порядковых статистик для модифицирования обучающей выборки в задачах долгосрочного прогнозирования.........77

2.3 Использование алгоритма последовательного дообучения ИНС для прогнозирования временных рядов.....................................................................80

2.3.1. Обзор методов прогнозирования динамики числа солнечных пятен.............................................................................................................80

2.3.2. Долгосрочное прогнозирование динамики ряда числа солнечных пятен.............................................................................................................83

2.3.3. Краткосрочное прогнозирование динамики ПЭС над окрестностью города Казани.....................................................................90

2.4 Выводы к главе 2............................................................................................91

ГЛАВА 3. АНАЛИЗ ДИНАМИКИ СЛУЧАЙНЫХ ПОЛЕЙ ПОЛНОГО ЭЛЕКТРОННОГО СОДЕРЖАНИЯ........................................................................92

3.1 Глобальные карты Полного Электронного Содержания (ПЭС)...............92

3.2 Снятие ограничений метода главных компонент при анализе глобальных карт ПЭС................................................................................................................94

3.2.1. Учет системы координат и способов центрирования данных.....94

3.2.1. Сопоставление результатов разложения глобальных карт ПЭС при использовании различных систем координат и методов центрирования.............................................................................................99

3.3 Анализ результатов разложения глобальных карт ПЭС по главным компонентам........................................................................................................102

3.3.1. Анализ пространственного распределения вариаций ПЭС........102

3.3.2. Анализ временных вариаций ПЭС................................................105

3.4 Выводы к главе 3..........................................................................................109

ГЛАВА 4. КОМПЬЮТЕРНАЯ НЕЙРОСЕТЕВАЯ МОДЕЛЬ ДЛЯ КРАТКОСРОЧНОГО ПРОГНОЗА ГЛОБАЛЬНОЙ ДИНАМИКИ ПОЛЕЙ ПОЛНОГО ЭЛЕКТРОННОГО СОДЕРЖАНИЯ.............................................110

4.1 ИНС-модель для прогнозирования глобальной динамики ПЭС с использованием метода главных компонент....................................................110

4.2 Результаты краткосрочного прогнозирования динамики ПЭС с использованием ИНС и метода главных компонент.......................................116

4.3 Выводы к главе 4..........................................................................................119

ЗАКЛЮЧЕНИЕ...............................................................................................120

БЛАГОДАРНОСТЬ.............................................................................................123

СПИСОК ИСПОЛЬЗОВАННЫХ ИСТОЧНИКОВ И ЛИТЕРАТУРЫ..........124

СПИСОК СОКРАЩЕНИЙ.................................................................................137

ВВЕДЕНИЕ Актуальность работы

Исследование и прогнозирование динамики ионосферных параметров является актуальной задачей современной радиофизики. Состояние ионосферы и наличие в ней ионосферных возмущений в значительной степени определяет режимы прохождения электромагнитных волн в широком диапазоне частот и, как следствие, влияет на функционирование различных радиотехнических устройств. Например, для глобальных спутниковых систем радионавигации ионосфера является источником существенных погрешностей, препятствующих достижению потенциально возможных показателей точности позиционирования.

Распространение радиоволн в ионосферной плазме зависит, как от локальной концентрации электронов, так и от полного электронного содержания (ПЭС) электронов вдоль траектории распространения радиоволны. Главной причиной возникновения дополнительной погрешности координатных определений является фазовое опережение и групповое запаздывание сигналов навигационных спутников, величина которого пропорциональна ПЭС вдоль траектории распространения радиоволн. Повышение эффективности и качества функционирования спутниковых систем радионавигации требует наличия достоверной и оперативной информации о величине ПЭС над различными точками земного шара. Наиболее приемлемым с практической точки зрения способом, позволяющим обеспечить потребителей информацией о пространственно-временном распределении ПЭС, представляется моделирование, основанное на эмпирических моделях.

Существующие эмпирические модели ПЭС обеспечивают достаточную точность прогнозирования глобального распределения величин ПЭС в спокойных магнитных условиях. Однако спонтанные всплески магнитной

V ♦ '

< Г (

I I'

11'

I I

( Л

!', к1 1

ч' (' V О

».< ч.

4?.IV

• * I

м 1,1 ? '

" ж«? / 1 г' и. '

возмущенности вызывают резкое снижение качества прогноза. Так, в одночастотной навигационной аппаратуре потребителей спутниковых систем радионавигации GPS для снижения ионосферной погрешности координатных определений используется глобальная эмпирическая модель ПЭС, разработанная Klobuchar в 1986 г. При использовании в конкретной точке пространства в спокойных геомагнитных условиях данная модель обеспечивает точность прогнозирования ПЭС на уровне 50%. В возмущенных геомагнитных условиях и на широтах выше 75° точность прогнозирования ПЭС при использовании указанной модели может оказаться неудовлетворительной для практических целей.

Таким образом, задача совершенствования методов анализа и прогнозирования глобальной динамики ПЭС для повышения эффективности и качества функционирования современных спутниковых радионавигационных систем остается актуальной.

Возмущения в ионосфере порождаются интерференцией большого числа независимых и неконтролируемых физических процессов, многие из которых связаны с состоянием космической погоды. Космической погодой называют комплекс явлений, возникающих на Солнце (солнечные вспышки, выбросы корональных масс), которые посредством солнечного ветра оказывают влияние на состояние космической плазмы вблизи Земли. Исследование этих взаимосвязей не только улучшает наше понимание динамики солнечного ветра, но и необходимо для нормального функционирования космических аппаратов на околоземных орбитах. Таким образом, диагностика, анализ, ж прогноз, вариаций ионосферы имеют большое научное и практическое значение.

Нелинейный характер динамики ионосферы порождает нестационарные и неоднородные данные. Применения к ним классических статистик второго порядка, которые лежат в основе традиционных авторегрессионных схем, в этой ситуации не является обоснованным. Необходимы иные подходы и более

> Ч у V

Ч t I»

С"; д м

ДЧ

I 1

/V

11! С

Wt

.V >ьт'П

■*<» * ч-: /V^v у«

S 1

и \ I J ,

V > "i f. •vWr'fife

I.

1 и' 'f 11,1 ' » «Ь,

ч » \ hi, . Ь

г "V/ ' *J> 1

\ I > (

гибкие вычислительные алгоритмы, которые можно было бы адаптировать к нестационарным и нелинейным процессам. Из доступного в настоящее время инструментария одним из наиболее распространенных подходов является искусственная нейронная сеть (ИНС). ИНС в задачах прогнозирования может выступать в качестве универсального аппроксиматора оператора эволюции фазовых траекторий исследуемой динамической системы. Благодаря способности к обобщению, нейронная сеть, обученная на примерах из прошлой истории процесса, генерирует возможный ответ на предъявленные новые данные.

Применение аппарата ИНС для построения глобальной прогностической модели нестационарного случайного поля сопряжено с необходимостью использовать дополнительные методы адаптивной предобработки данных. Применительно к глобальной пространственно-временной модели ПЭС перспективными могут оказаться подходы на основе предварительного анализа главных компонент, а совершенствование алгоритмов начальной инициализации и обучения ИНС может значительно улучшить качество прогностической модели.

Цель работы

Цель работы состоит в развитии методов анализа и прогнозирования временной динамики случайных полей с использованием новых подходов на основе искусственных нейронных сетей и применение их для задачи прогнозирования глобальной динамики полного электронного содержания.

Решаемые задачи

Для достижения поставленной цели необходимо решить следующие задачи:

1. Разработать модель краткосрочного прогнозирования глобальной динамики поля ПЭС с использованием ИНС и предварительного анализа главных компонент;

2. Выявить особенности временных и пространственных вариаций случайного поля ПЭС на основе анализа главных компонент с учетом способа представления данных и доминирующих периодичностей (суточной и сезонной);

3. Проанализировать статистическую связь доминирующих временных вариаций ПЭС с динамикой гелиофизических параметров;

4. Развить методы начальной инициализации и обучения ИНС для сокращения времени обучения и повышения качества прогнозирования временных рядов.

Научная новизна результатов заключается в следующем:

1. Впервые построена эффективная компьютерная ИНС-модель для

предсказания глобальной динамики полного электронного содержания на 6 и 24 часа вперёд с использованием предварительного анализа главных компонент. Модель не требует больших вычислительных затрат.

2. Впервые разработана статистическая модель, которая показывает не

только доминирующую роль экваториальной аномалии в вариациях глобальной динамики ПЭС, но и позволяет оценить динамику формы экваториальной аномалии и соотношение между её максимумами к северу и югу от экватора. Разработанная модель позволяет выявить особенности временной динамики экваториальной аномалии, обусловленные влиянием гелиофизических параметров;

3. Разработан и реализован алгоритм начальной инициализации весов ИНС на основе коэффициентов фильтра линейного предсказания, а также метод последовательного дообучения с использованием сингулярного спектрального анализа, которые позволяют сократить время и повысить качество обучения ИНС в задачах прогнозирования нестационарных временных рядов по сравнению с существующими подходами.

Достоверность полученных результатов обусловлена использованием общих методов и строгих подходов фундаментальной теории ИНС, теории аппроксимации и статистической теории редукции данных. Численная достоверность вычислений обеспечивается большим объемом обработанных статистически значимых данных (глобальные карты полного электронного содержания с 2004 г. по 2011 г.), и совпадением полученных прогнозов с модельными представлениями и выводами других авторов, в тех случаях, когда такое сравнение было возможно. Достоверность предложенных методик развития методов начальной инициализации и обучения ИНС подтверждена успешными результатами использования указанных алгоритмов в обработке данных геофизических исследований в компании «ООО ТГТ Прайм», а также в проектах НИР компании ООО «ТНГ-Групп».

Научно-практическая значимость результатов диссертации

Предложенная автором модель краткосрочного ИНС-прогноза глобальной динамики полного электронного содержания на 6 и 24 часа вперед по качеству не уступает существующим прогностическими моделями, однако требует гораздо меньше вычислительных ресурсов и времени работы, поэтому может быть с успехом использована при оперативном решении задач спутниковой радионавигации, например, для учета ионосферных погрешностей.

1

V ' »

- г

-V

Чи г.ч -м\> '

* и

'V'"' ^ <Г Г'1 Г

»с . * I кр I ' '

I » I

ч

ч ' )

'V „к.,

1 » "I

! ; <Л

Предложенный в работе двухстадийный ИНС-подход к прогнозированию глобальной динамики случайных полей может быть использован и в других областях науки, например, метеорологии.

Рассмотренный в работе подход к анализу главных компонент позволил детально проанализировать особенности временных и пространственных вариаций полного электронного содержания с учетом доминирующих периодичностей и способов представления данных. Выявленные закономерности связи вариаций полного электронного содержания с гелиофизическими параметрами представляются важными для понимания природы солнечно-земных связей.

Разработанные авторские методы начальной инициализации прогностических нейронных сетей на основе коэффициентов линейного предсказания и метод последовательного дообучения позволяют сократить время обучения ИНС и повысить качество её обучения в задачах прогнозирования динамики нестационарных временных рядов. Эти подходы могут быть успешно использованы не только при моделировании глобальной динамики геофизических полей, но и в других областях, например, в эконометрике, цифровой обработке изображений, в обработке данных нефтегазового сектора и других приложениях ИНС. Полученные в работе результаты были успешно использованы в научно-исследовательской работе в области обработки данных геофизических исследований (компания ООО «ТГТ Прайм», г. Казань), для разработки методов сжатия данных акустического каротажа (в рамках проектов компании ООО «ТНГ-Групп», г. Бугульма), о чем свидетельствует соответствующие публикации автора, а также авторские свидетельства о регистрации программ на ЭВМ.

Апробация работы

Основные результаты работы докладывались и представлены на следующих российских и международных конференциях: Итоговая научно-

И

,1

1 ^

у 1*

»,1 I

I *|> I I

и

} Д

( 1 » |

и 'п

■ Ь|

> и

А*

* н ^ .

• ,1С

{

мл

1 V * . 1 к'

(ци»I ' > , I;

> ' I, 'а

«¿"К

Р

образовательная конференция студентов Казанского государственного университета (Казань, 2007 г., 2008 г., 2009 г.); Поволжская региональная молодёжная конференция Волновые процессы в средах (Казань, 2007 г., 2008 г.); Молодежная научная школа «Когерентная оптика и оптическая спектроскопия» (Казань, 2008 г.); Байкальская международная молодежная научная школа по фундаментальной физике. XI Конференция молодых ученых «Гелио- и геофизические исследования» (Иркутск, 2009 г.); Научно-практическая конференция студентов и аспирантов: Наука и инновации в решении актуальных проблем города (Казань, 2009 г.); XII, XIII Всероссийская научно-техническая конференция "Нейроинформатика» (Москва, 2010 г., 2011 г.); XXIII Всероссийская научная конференция «Распространение радиоволн» (Йошкар-Ола, 2011 г.), XII Конференция молодых ученых "Взаимодействие полей и излучения с веществ