Вычислительные и эволюционные методы в стохастических системах с обнаружением и адаптацией тема автореферата и диссертации по математике, 01.01.09 ВАК РФ

на правах рукопизи

Федорова Мария Анатольевна

ВЫЧИСЛИТЕЛЬНЫЕ И ЭВОЛЮЦИОННЫЕ МЕТОДЫ В СТОХАСТИЧЕСКИХ СИСТЕМАХ С ОБНАРУЖЕНИЕМ И АДАПТАЦИЕЙ

Специальность 01 01 09 — дискретная математика и математическая

кибернетика

АВТОРЕФЕРАТ

диссертации на соискание ученой степени кандидата физико-математических наук

Ульяновск - 2007

003174212

Рабста выполнена на кафедре информационных технологий государственного образовательного учреждения высшего профессионального образования Ульяновский государственный университет

Научный руководитель: доктор технических наук, профессор

СЕМУШИН Иннокентий Васильевич

Официальные оппоненты: доктор технических наук, кандидат

физико-математических наук, профессор КРАШЕНИННИКОВ Виктор Ростиславович

кандидат физико-математических наук, доцент САННИКОВ Игорь Алексеевич

Ведущая организация: Государственное образовательное

учреждение высшего профессионального образования Самарский государственный аэрокосмический университет им академика С П Королева, г Самара

Защита состоится 7 ноября 2007 г в 13 ч 30 мин на заседании диссертационного совета Д 212 278 02 при Ульяновском государственном университете по адресу г Ульяновск, Университетская набережная, 1 ауд 703

Отзывы по данной работе в двух экземплярах, заверенные печатью, просим направлять по адресу 432970, г Ульяновск, ул Л Толстого, 42, УлГУ, УНИ

С диссертацией можно ознакомиться в библиотеке Ульяновского государственного университета

Автореферат разослан 1 3 " октября 2007 г ^к

Ученый секретарь диссертационного У

совета ^^/Веревкин А Б

Общая характеристика работы

Актуальность темы. Решение многих практических задач в ряде технических областей приводит к применению систем фильтрации :i управления с линейными стохастическими моделями Теория таких систем хорошо разработана для условий, когда все свойства моделей полностью известны Если же эти свойства не известны или подвержены резким, непредвиденным изменениям, приемлемое решение могут дать адаптивные системы 1 , при этом адаптация включает как обнаружение 2 так и идентификацию 3 изменений в моделях с целью ре-оптимизации системы

Такое усложнение системы влечет необходимость обоснованного ответа на вопрос Каким образом гарантировать хорошие результаты - надежное обнаружение изменений и быстродействующую адаптацию к бовы.\ условиям при низкой вычислительной стоимости'7 Теоретически, для полноценного ответа должен быть исследован весь спектр возможных методов - от традиционных до альтернативных, возможно, пришедших из других областей знания В задачах параметрической оптимизации к числу альтернативных можно отнести методы, берущие свое начало кз науки об эволюционном отборе и развитии организмов в биологш-;, - гак называемые эволюционные методы 4 Эти исследования тесно связаны с другими «неклассическими» направлениями - теорией нейронных сетей, теорией нечетких множеств, теорией «возможностей» и др , которые вместе с методами эволюционного моделирования составляют основу так называемых «мягких вычислений» (soft computing) 5 Начиная с 70-х годов прошлого века, эти методы в различных формах применялись ко многим научным и техническим проблемам Однако возможности указанных

'Цыпкин Я 3 Адаптация и обучение в автоматических системсч М Наука 1S68 —400'

2Basseville М , Nikiforov IV Detection of Abrupt Changes Theory and Application Englewood Cliffs N J PTR Prentice-Hall, 1993 — 469 p

^Цыпкин Я 3 Оптимальная идентификация динамических объектов : , Измерения контроль автоматизация Научн-техн сб обзоров — М ЦНИИТЭИ приборостроения, 1983 зып 3(47) — с 47-60

4Вороновский Г К , Махотило К В , Петрашев С Н , Сергеев С А Генетинеск-ле алгор-^тгмы искусственные нейронные сети а проблемы виртуальной реальности Харьков ОСНОВА, 1997 — 112 с

5Zadeh L Fuzzy logic neural network and soft computing // Communications of the ACM - 1494 -

v 37, № 3 p 65-83

нетрадиционных подходов применительно к построению самоорганизующихся (адаптивных) систем изучены пока не в полной мере

Общее требование, обычно предъявляемое к любой системе, состоит в достоверном и своевременном получении исходной информации Однако этому препятствуют случайные искажения полезного сигнала, неизбежное наличие разнообразных (внешних и внутренних) помех и техническое несовершеш тво устройств Поэтому в литературе по современным системам управления большое внимание уделяется обнаружению и идентификации нарушений в многорежимных системах 6

Особую ¡юль в системах такого рода играет оценивание вектора состояния по неполным измерениям Классический подход к проблеме заключается в использовании калмановской фильтрации, однако сфера ее применения ограничена вследствие того что этот алгоритм предполагает точное знание параметров системы Кроме того, что это предположение не выполняется параметры системы могут изменяться в моменты времени, неизвестные априори При включении в такую систему алгоритмов обнаружения и идентификации система становится адаптивной Если критерий качества системы доступен для целей идентификации, обычным подходом является использование численных методов оптимизации Если критерий качества системы недоступен, что типично для стохастических задач, возникает дополнительная проблема формирования некоторого эквивалентного, но доступного критерия Для последнего случая разработана теория вспомогательного функционала качества 7 Кроме указанного адаптивного подхода, применяются робаетные алгоритмы, приводящие к управлению некритичному к нарушениям (FTC - Fault Toleiant Control) Создание систем, априорно ориентируемых для работы в условиях непспноты или нечеткости исходной информации, неопределенности внешних возмущений и среды функционирования, мотивирует привлечение, наряд;/ с классическими методами, также и нетрадиционных подходов к упрьвлению с использованием методов и технологий искусственного интеллекта. В таких случаях высокий уровень автономности, адаптивно-

еТи*оно£ В И Харисов В Н Статистический анализ и cumnej радиотехнических устройств и систем. Учгв -юсобие для вузов М Радио и связь, 2004 — 608 с

7Семушдн И.В Адаптивные схемы идентификации и контроля при обработке случайных сигналов Caparos Саратовский университет, 1985 — 180 с

сти и надежности систем управления должен обеспечиваться за счет повышения их интеллектуальных возможностей, основанных на обработке специальных знаний 8

Целью работы является сравнительное исследование применения эволюционных и численных методов для оптимизации сложных взаимосвязанных систем фильтрации и управления в условиях априорной неопределенности

Методы исследования Для получения теоретических результатов использованы методы теории вероятности, случайных процессов и математической статистики, а также дискретной математики, линейной алгебры и методов численной оптимизации Для программной реализации алгоритмов и получения экспериментальных результатов использованы язык высокого уровня С++ и среда МаШЬ

Достоверность результатов диссертации обеспечена математическими доказательствами теоретических построений и подкреплена реальными данными в соответствии с методологией математического моделирования и вычислительного эксперимента

Научная новизна. Предложено новое применение генетических алгоритмов в качестве альтернативы стандартным численным методам адаптации стохастических систем, генетический алгоритм разработан и испытан с новой, впервые предложенной фитнес-функцией, лри этом ключевая проблема построения фитнес-функции решена оригинально на основе принципов вспомогательного функционала качества и статистической ортогональности Для стохастической следящей сттемы (трекера) общего вида впервые построен вспомогательный функционал качества Доказана теорема, открывающая новую возможность взаимно независимой адаптации разомкнутой цепи слежения и замкнутого контура управления на минимум вспомогательного функционала качества трекера Экспериментальными методами впервые устанавлены условия наиболее эффективного применения генетических алгоритмов для адаптации стохастических систем слежения и управления динамических объектов по сравнению со классическими численными методами

8Интеллектуальные системы автоматического управления Под ред И М. Макарова В М Лохина М ФИЗМАТЛИТ, 2001 - 576 о

Практическая и теоретическая значимость Работа носит теоретический и практический характер Принципы вспомогательного функционала качества, статистической ортогональности и метода взвешенных квадратов невязок, ранее использовавшиеся лишь для построения численных методов адаптации и обнаружения в этом классе систем, теперь могут быть применены также и для построения генетических алгоритмов и привлечения других нетрадиционных подходов из широкой области, обозначаемой термином «искусственный (или вычислительный) интеллект» Благодаря сравнительному методу исследования, эта работа делает очередной шаг к уменьшению разрыва, существующего между стандартными численными методами решения экстремальных задач и более гибкими и простыми в реализации генетическими подходами

Практическая ценность работы заключается в том, что специалисты-практики получают обоснованные рекомендации о тех условиях, при которых им следует отдавать предпочтение либо стандартным численным методам, либо нетрадиционным генетическим алгоритмам при создании систем обработки информации и управления с адаптацией Эта ценность подкреплена наличием программного продукта, зарегистрированного в Отраслевом фонде алгоритмов и программ [11] Данный продукт как отлаженный инструментарий исследователя или студента полезен для изучения указанных систем по технологии численного моделирования и вычислительного эксперимента, в университетах он может служить основой организации новых специальных курсов

Основные положения, выносимые на защиту.

1 Методические основы построения фитнес-функций для генетических алгоритмов оптимизации стохастических систем

2 Способ формирования вспомогательного функционала качества для стохастических следящих систем с разомкнутой цепью слежения и с замкнутым контуром управления

3 Теорема о разделении общей задачи самонастройки стохастических следящих систем на минимум вспомогательного функционала качества на две независимые задачи адаптации, решаемые одновременно в разомкнутой цепи слежения и в замкнутом контуре управления

4 Присущие генетическим и численным алгоритмам положительные и отрицательные стороны их поведения, выявленные экспериментально, для обоснованного решения вопросов синтеза стохастических систем с адаптацией и обнаружением

Апробация работы Результаты диссертации докладывались и обсуждались на следующих конференциях

• VI Международная конференция «Идентификация систем и задачи управления», SICPRO '07, Москва, Россия, 29 января - 1 февраля, 2007,

• Iя международная научно-техническая конференция «Современные проблемы оптимизации в инженерных приложениях», IYVOPE-2005, Ярославль, Россия 17-22 декабря, 2005,

• The Second IASTED International Multi-Conference on Automation, Control, and Information Technology, ACIT-2U05, in cooperation \uth the Russian Academy ot Sciences, Novosibirsk, Russia, 20-24 Juae, 2005,

• The 12th ISPE International Conference on Concurrent Engineering CE-2005, Ft Woith/Dallas USA, 25-29 July, 2005,

• The 4th Euiopean Congiess on Computational Methods m Applied Sciences and Engineering, ECCOMAS-2004, Jyvaskyla, F_nland, 24-28 July, 2004,

а также на XIII-й ежегодной студенческой научно-практической конференции УлГУ, (Ульяновск, 2003) и XII-й ежегодной студенческой научно-практической конференции УлГУ(Ульяновск, 2002)

Личный вклад автора. Постановка задачи, доказательство теоремы, программная реализация вычислительных алгоритмов планирование и проведение экспериментов, а также последующий анализ результатов моделирования выполнены соискателем самостоятельно

Публикации. По теме диссертации опубликовано 12 рабст их список помещен в конце автореферата

Структура диссертации Работа состоит из введения, шести глав, заключения, приложения и списка литературы из 113 наименований Ее текст общим объемом 136 страниц содержит 2 таблицы и 55 иллюстраций

Содержание работы

Во введении определены цели и задачи диссертационной работы, приведены научные положения, выносимые на защиту, а также описана структура диссертации и кратко охарактеризовано ее содержание

Первая глава, состоящая из пяти разделов, носит вводный характер и содержит постановки задач исследованию которых посвящена диссертационная работа В Разделе 11 дано описание объекта исследования — дискретной линейной стохастической инвариантной во времени системы с управлением

где (., — дискретные моменты времени, г € 2, х{1г) € К" — состояние объекта, Ф € — переходная матрица, и € К' — управление, Ф е Е"х' — матрица передачи управления, го(^) € М" и ь(1,) б 1™ -случайные возмущения, у(Ьг) £ Ет — измерения Н € ЖтХ11 —матрица наблюдения Последовательности случайных величин {ги(£г)} и {;■(£,)} представляют собой взаимно ортогональные гауссовы дискретные белые шумы с нулевым средним и матрицами ковариаций <5 > 0 и Я > 0 соответственно Эти последовательности независимы от начального значения вектора состояние объекта случайной гауссовой величины х(£о) с конечным математическим ожиданием хо и конечной ковариацией Ро > О

Раздел 1 2 содержит описание стохастической следящей системы (или трекера) в обобщенном виде Трекер определяется как система, состоящая из управляемого объекта и опорной модели, при условии что некоторые управляемые переменные следят за заданными опорными переменными Таким образом, стохастическая следящая система состоит из двух подсистем, одна из которых замкнутого типа, другая - разомкнутого Управляемый объект

х(Ъ+1) = Фх(Ьг) + + го(*4)

у(Ь) = Нх(и) + ь(и),

(1) (2)

= Фртр(4,) + +

ур{Ъ) = НрХр(1г) + и„{и)

= -Срхр(1,) - СгХг{Ъ)

Опорная модель

= Ф гхг(Ъ) + шЛи) Г4ч

уг(и) = Нгхг(Ь) + ьг(и) 4

Управляющее воздействие в (3) построено при помощи ЬС^Ю9 стохастического регулятора В описании (3)-(4) предполагается некоррелированность хр(Ьо) и о:г(Ьо). такое же требование принято, соответственно, в отношении и>р() и шт( ) и ьр() йкг() Здесь и далее под исходной системой, наряду с (1)-(2), будет пониматься трекер в обобщенном Еиде, а также управляемый объект и опорная модель, если это не оговорено особо

Поскольку реально состояние объекта недоступно непосредственному измерению, заменим его на оценку £(£,), полученной фильтром Калмана Уравнения калмановекой фильтрации приведены з Разделе 1 3 Однако сфера применения фильтра Калмана ограничена вследствие того что этот алгоритм может быть использован для получения оценок вектора состояния только в том случае когда все параметры системы известны Перейдем к случаю, когда эти параметры оказываются неизвестными вследствие непредвиденных изменений и рассмотрим (Раздел 1 4) различные уровни неопределенности, которым соответствуют различные наборы неизвестных параметров исходной системы и исходного фильтра Калмана Обозначим через в вектор настраиваемых параметров (или вектор неопределенностей) и определим его для различных урозней неопределенности следующим образом

1 Первый уровень Неизвестны матрицы ковариаций шумов <2 и й Вектор 9 состоит из компонент К

2 Второй уровень Неизвестны матрицы ковариаций шуь.ов <5 и Я и сверх того переходная магрица состояний Ф Вектор 9 состоит из компонент К и неизвестных компонент Ф

обозначает следующее Ь-линеиная задача, С}-квадратическии критерий качества, С-гаусговы шумы

В Разделе 1 5 дается параметризация исходной системы с присоединенным к ней фильтром Калмана вектором неопределенностей 9

т(Ьг+1) = Фвх(Ьг) + Ъви{и)+ы{и) (5)

у(<4) = Нвх{и) + (6)

®о(«,+1) = Фо^о(С) + уЬи(А) (7)

®о(С) = х0Ю + К0и{1,) (8)

= У(Ъ) ~ Н0хоЮ

и(и) = (9)

Здесь ковариации шумов С^д и В^ также параметризованы вектором 9 Матрицы, определяющие обратную связь (7)-(9), предполагаются заданными как Фо Фо! #о, /?о и /<о для номинального режима работы, т е для номинального значения во параметра неопределенности в 6Е © Здесь множество 0 С - область возможных значений параметра а каждое значение параметра в определяет свой режим функционирования системы

Предполагается что параметр в подвержен внезапным изменениям Каждое такое изменение случается в неизвестный момент времени Ьс > Ц Рассмотрим это событие как переключение 9 с 90 на некоторое другое неизвестное значение в\ Поскольку в\ и £с неизвестны, а могут быть заменены только на оценки в\ €Е © и £<,, оптимальную перенастройку выполнить нельзя Можно выполнить только субоптимальную перенастройку, при этом фактически необходимо решить две задачи

1 Обнаружение Необходимо с наименьшими затратами обнаружить каждый момент изменения с приемлемой задержкой и требуемой надежностью, те необходим некоторый генератор решений, ОС В момент «тревоги» £а генератор подтверждает внезапное изменение и задает 1С — tSl

2 Адаптация После того как принято решение о том что произошло нарушение (сигнал «тревога») необходимо провести адаптацию системы к вьовь возникшему режиму работы с в\

Вторая глава посвящена теории, необходимой для решения задачи обнаружения В Разделе 2 1 представим задачу обнаружения нарушений

как переключение систем Формализуя задачу синтеза генератора решений, рассмотрим

x^(ti+l) = Ф^и) -I- + ьи/Ъ)

^,7 = 01

(10)

как обобщенное описание двух систем системы 5о с в = (?о и системы с в — 9\ Начальное построение обратной связи представлено фильтром Кал мала (КЕ0) с коэффициентом Калмана Ко для £о, а .збрабатываемые данные имеют следующий вид

_ / ' если ^ < ^ (Данные от 5'о) г \ (¿г), если £г > (данные от

(П)

В таком представлении обнаружение момента нарушения £,; происходит при помощи подходящего решающего правила € {0, 1} (где 0 -

«отбой», 1 - «тревога») в соответствии с Рис 1

и{к)

Мь)

Рис 1 Общая схема обнаружения Обозначения 5о ■ система <■ 9 — 5*1 — система с в = в\, КР0 - фильтр Калмана системы 5'0. Об - генератор решений, Д обозначает единичную задержку, =г [г^), ,

Раздел 2 2 формулирует один из возможных подходов к построению функции принятия решения Метод решения будем основывать на проверке критерия специального вида, а именно статистической ортогональности между вспомогательными процессами, которые своим модельным параметром в настроены на одну из возможных гипотез о режиме работы системы Но - нормальное функционирование или Н1 - нарушение так

|Е{0(«,)} = Е/^(¿.ММ)! = 0 если Но

(0(4*)} = Е {^(Огв, 0)} ф 0 иначе

Здесь е{и,в) - некоторая доступная измерению величина, зависящая от параметра в адаптивной модели 10 , аналогичная недоступной непосредственному измерению ошибке е(^) = х{Ьг) — а ¿>(£г) - матрица чувствительности по отношению к отклонениям в от истинного значения в*, ]к-ый элемент которой определяется следующим выражением

Где3(и,ё)

5(4.) =

двк

Тогда решающее правило запишем в виде

4>М = ( если

ц 1, если

05-^

< 7 => выбираем Но > 7 => выбираем Н1

(12)

где 7 - некоторый порог. г?_ - количество отрицательных выбросов компонентов процесса Ф(?г) в текущем окне шириной ./V, а £/(£,) сглаженная оценка Получение сглаженных оценок и методы формирования выборок описань: е Разделе 2 4

Раздел 2 3 содержит альтернативный подход к решению задачи обнаружения нарушений, - метод взвешенных квадратов невязок (ВКН) Он основан на интуитивной идее обнаружения неаддитивного изменения по наблюдениям обновляющей последовательности ^(¿г) при помощи теста относительно ее дисперсии Для построения рещающего правила будем вычислять следующие величины

к

«к* г_! ,. V АЛ [т ( I т \ с <1е.1 1

¡1г - ¿0 М^) в, = у — ¿/с = Зг

"построение этой величины описано в Главе 3

здесь Ьо - квадратный корень из ковариации последовательности и(Ьг)

Для обнаружения нарушений метод ВКН сводится к прямому накоплению в форме последовательного алгоритма

(13)

вк = зк/у/к , кеП, 50 = О

Получаем схему генератора решений

^ ^ _ | 0, если < к выбираем Но | 1, если > к выбираем Нх

где Iг - некоторый удобно выбранный порог (например, к = 3)

Третья глава диссертации направлена на решение задачи адаптации В Разделе 3 1 представлена адаптивная модель для исходной системы, совпадающая по своей структуре с фильтром Калмана и описываемая уравнениями.

хЦ;+1) = А®(*+) + Фи(«,) = А®(«Г) + В + (14)

£(0 = Ях(а (15)

= У{и) ~ Шг) = У{Ъ) ~ НхЦ;) (16)

5(4+) = хЦ;) + Б ф,) В = АБ (17)

у(0 = ЯВД + (18)

где х — оценка вектора состояний, полученная адаптивным фильтром у — оценка измерения, г] — невязка, А по структуре аналогична матрице Ф. а I) — коэффициенту калмановской фильтрации К

Адаптивный фильтр для стохастической следящей системы имеет вид

О

О Аг

В = АО =

+

вр о о вг

лЛК).

+

Ар 0 Г °1> ° 1- ' Арар 0

0 Ат 1 о 0 Аг Ю г

Ур(Ъ) [ Уг{и)

Нр о о НГ

)

+

)

I. ЧгЮ

«(*,). (19)

(20)

Адаптивный фильтр такой структуры для трекера, аналогично фильтру Калмана разбивается на два независимых фильтра для управляемого объекта и для опорной модели

Адаптивный фильтр управляемого объекта

¿/>07+1) = ар*РЮ + ВрПРЮ + Вр = АрИр,

Ур{*,) = НрхР{К) + ъЮ, Адаптивный фильтр опорной модели

= Л-Гг^Г) + ВгПЛ^), Вг = Д.Д., Ут(и) = Нтхг{1~) +г}г{Ь~),

(22)

Общая структура стохастической следящей системы с присоединенным блоком обнаружения нарушений и адаптивным фильтром показана на Рис 2

Рис 2 Структура трекера с адаптивной моделью

В Разделе 3 2 приведены теоретические основы метода вспомогательного функционала качества (ВФК) В данном параграфе описано построение доступной измерению величины е{Ьи0) и формирование критерия

I * II2

Л = £(£(,#) , минимум которого по модельному параметру в в каждый момент времени является необходимым и достаточным условием совпадения характеристик в, адаптивной модели (14)—(18) с со-

ответствующими характеристиками в, х(Ь~+1) оптимального фильтра канонического типа11 Это означает, что модельный параметр в — (А, О) должен по окончании процесса адаптации совпадать с оптимальным значением в — (Ф, К)

Раздел 3 3 содержит построение вспомогательного функционала качества для стохастической следящей системы В нем описано формиро-

вание критериев X =

и Лг =

объекта и опорной модели соответственно 2

для управляемого

терия </г =

е(1г в)

Результат исследования кри-для стохастического трекера в общем виде и критериев для управляемого объекта и опорной модели оформлен в виде следующей теоремы

Теорема 1 Минимум по модельному параметру в критерия Js: = е(Ьг, в) достигается тогда и только тогда, когда достигаются минимумы

I * 2

по модельным параметрам вр и 9Г критериев 2

К =

от процессов

(23)

(24)

соответственно При этом достижение минимумов в каждый момент времени является необходимым и достаточным условием совпадения характеристик вр, хр(1~+1) адаптивной модели (21) ивг, адаптивной модели (22) с характеристиками 9Р, и вг

"Семушнн И В Адаптивное управление стохастическим линейным объектом в условиях неопределенности > Нелинейные динамические системы, качествееный анализ и управление /Со научных трудов Институт системного анализа РАН Под ред акад РАН С В Емельянова, чл -корр РАН С К Коровина-М Изд-во МГУ, 1994, вып 2, с 104-110 123десь 1р() - структурное преобразование, приведенное в главе 3 диссертационной работы

соответствующих двух оптимальных фильтров канонического типа Это выполняется для двух степеней априорной неопределенности, соответственно, следующим образом

1) при 9Р = Ор — в управляемом объекте с присоединенной моделью (21), при вГ — Эг — в опорной модели с присоединенной моделью (22),

2) при 9р = [Ар, Ор] — в управляемом объект,е с присоединенной моделью (21), при 9Г = [АГ, Иг] — в опорной модели с присоединенной моделью (22)

Таким образом доказано, что адаптивный фильтр для стохастической следящей системы распадается на два независимых адаптивных фильтра (для управляемого объекта и для опорной модели), следовательно, идентификацию в них по методу вспомогательного функционала качества можно проводить независимо друг от друга

Построенные в третьей главе вспомогательные функционалы качества дают возможность проводить идентификацию посредством известного аппарата численных методов, краткому изложению которых посвящена Четвертая глава Условием оптимальности адаптивного фильтра (Раздел 4 1) является достижение минимума функционалом качества

Js{t1) — е{и,9) — Е #)) исходя из чего необходимым

условием оптимальности будет равенство нулю его градиента

V¿,/е(М = Е {5т(4,)е(^„ 0)} = 0 (25)

Здесь ¿>(£г) - матрица чувствительности, которая определяет влияние параметра в на ошибку в)

ад =

сЩг,9)

89

де ¡(1„в)

а»!

deijt.fi)

М)

дво дг2(Ь„в)

Эеп(<,,») ¿£,,(1, в)

Э91

двг

¿ММ)

двц де2(1) двы

де„{и в) Ж*

(26)

Критерий оптимальности, выраженный в виде функции вектора параметров в, в явной форме неизвестен Это значит, что известны лишь

реализации величины произведения 0(1,) = ¿>г(£г)£-(£гп(?), которые зависят от вектора в Общий вид вероятностного беспоискового итеративного алгоритма приведен в Разделе 4 2

Для иллюстрации возможностей идентификации по методу ВФК, а также для сопоставления с неклассическими методами, выбраны следующие стандартные численные алгоритмы

• Многомерная процедура простой стохастической аппроксимации Роббинса-Монро (Раздел 4 3)

Щг+1) = - (27)

• Метод наименьших квадратов (Раздел 4 4)

П{Ъ+1)Ав(и) = -д{и) (28)

в(ъ+1) = в{и) + Ав(гг)

Отметим, что для вычислительной реализации приведенных алгоритмов в рамках программного продукта вместо £?(£г) будем использовать оценку £(£г), полученную одним из методов, описанных в второй главе Практически важные вопросы контроля устойчивости адаптивной модели в процессе идентификации обсуждаются в Разделе 4 5

В качестве альтериагивы численным методам в задаче идентификации адаптивного фильтра будем использовать эволюционные методы, которым посвящена Пятая глава В Разделе 5 1 приводятся краткий обзор эволюционных методов историческая справка и сложившиеся к данному моменту области их применения Особый интерес из класса эволюционных методов представляют Генетические Алгоритмы (ГА), поскольку их потенциальная полезность заключается в манипулировании простой и относительно недорогой моделью для сложных оптимизационных задач В Разделе 5 2 формализована структура ГА и описана работа основных генетических операторов Этот метод, по аналогии с эволюционным механизмом, работает с популяцией Ф, каждая особь которой представляет

возможное решение задачи Для работы алгоритма выбирают множество параметров решения проблемы, — в рамках данной работы это модельный параметр 0, — и кодируют их последовательностями конечной длины в некотором алфавите Каждая такая закодированная последовательность фк (/1 = 1, , Р, где Р - мощность популяции) называется «хромосомой» Каждая хромосома оценивается мерой ее «приспособленности» /(фп) - фитнес-функцией Построение фитнес-функции является одним из ключевых и сложных моментов при разработке генетического алгоритма Она дает информацию алгоритму насколько хорошо приспособлена конкретная особь в популяции, те насколько хорошо ведет себя конкретное закодированное решение Сложно дать рекомендации по построению фитнес-функции в общем случае, так как ее вид зависит от конкретной решаемой проблемы Наиболее приспособленные особи получают возможность «воспроизвести» потомство с помощью «скрещивания» с другими особями популяции В результате появляются новые особи, сочетающие в себе характеристики, наследуемые от родителей Наименее приспособленные особи постепенно исчезают из популяции в процессе эволюции Общая схема работы генетического алгоритма представлена в Табл 1 Некоторые разновидности генетических операторов подробно приведены

Таблица 1 Схема генетического алгоритма

НАЧАЛО

1=0, \счетчик поколений\ сгенерировать начальную популяцию Ф°, ПОКА НЕ выполнено условие остановки ДЕЛАТЬ НАЧАЛО

подсчитать Д для каждой особи й^из Ф®,

выбрать родителей при помощи оператора селекции ш,,

к каждой паре родителей применить оператор скрещивания с вероятностью рс, к каждой особи применить оператор мутации о.т с вероятностью рт,

КОНЕЦ_

КОНЕЦ

в Разделе 5 3, а в Разделе 5 4 обсуждается вопрос, как оценивается вычислительная эффективность алгоритма

В Шестой главе представлены результаты математического моделирования, в которых исследуются практические особенности предложенных методов Раздел 6 1 посвящен вопросам построения программного продукта для проведения серий вычислительных экспериментов В рамках данного исследования создана программная разработка MASSS (Modeling of Adaptive Stochastic Servo System), предназначенная для моделирования процессов адаптивной стохастической следящей системы В Разделе б 2 дано описание моделируемой системы - угловой следящей системы для гиростабилизированной платформы в карданном подвесе (из области навигационных комлексов в авиации) В Разделе б 3 кон-ретизированы генетические операторы ГА для моделируемого трекера и описано построение фитнес-функции /(фи) i основанной на принципе статистической ортогональности, согласно Табл 2

Таблица 2 Схема построения фитнес-функции Д = }{фи)

1 Для каждой особи ft = 1, Р вычисляем

где n-h — количество отрицательных выбросов процесса Q(tt) в адаптивном фильтре с параметром, который представляет хромосома М — размер выборки

2 Д = ma\Sh

3 А = Mft + А + 0 1] х 10_

Результаты численных экспериментов для поставленной в этой главе задачи моделирования и исследование влияния ряда факторов (отношение сигнал-шум, количество итераций, интегральная относительная ошибка, оценка параметра и др )представлены в Разделе 6 4 Здесь экспериментально устанавливается практическая значимость и применимость предложенных в работе подходов к задаче обнаружения изменений в системе и адаптации модели к новым условиям ее функционирования, проводится сравнение между стандартными численными методами оптимизации, описанными в Главе 4, и генетическим алгоритмом, приведенным в Главе 5 н снабженным построенной фитнес-функцией Результаты численного моделирования в виде графиков вынесены в Приложение А

В заключении к диссертации сформулированы полученные результаты дана оценка их теоретической и практической значимости а также

сделаны выводы и сформулированы вопросы, требующие, на взгляд автора, дальнейшего анализа

Выводы. В целом, в работе исследованы методы обнаружения нарушений, идентификации и адаптации моделей дискретных стохастических систем для различных уровней априорной неопределенности, использующие идею вспомогательного функционала качества, метод взвешенных квадратов невязок и принцип статистической ортогональности а также -

• Построен вспомогательный функционал качества для стохастической следящей системы

• Доказана теорема, позволяющая проводить раздельную настройку в контуре управляемого объекта и в схеме опорной модели трекера

• Разработан и испытан генетический алгоритм (фитнес-функция) для решения задачи идентификации адаптивных фильтров

• Создан программный продукт для моделирования исследуемых процессов и изучения поведения различных алгоритмов обнаружения и адаптации, включая численные и генетические алгоритмы

• Детально проанализированы и обобщены многочисленные реализации методов обнаружения и адаптации в классе линейных стохастических систем при различных условиях проведения экспериментов

• На основе экспериментальных данных проведено сравнение стандартных численных (простая стохастическая аппроксимация, метод наименьших квадратов) и эволюционных (генетический алгоритм) методов идентификации

Публикации по теме диссертации в изданиях из перечня ВАК

[1 ] Федорова М А Оптимизация стохастической следящей системы с использованием численных и эволюционных методов // Вестник Самарского государственного аэрокосмического университета имени академика С П Королева - Самара СГАУ, 2007 Выи № 1 (12)

в других изданиях

[2 ] Федорова М А Генетические алгоритмы в применении к проблеме идентификации оптимального фильтра,'/ Труды молодых ученых Ульяновского государственного университета Сборник докладов и тезисов докладов студентов и аспирантов на XII ежегодной Научно-практической конференции, апрель, 2002 / Под ред проф С В Бу-лярского - Ульяновск УлГУ, 2002, вып 11 — с 14-15

[3 ] Федорова М А Сравнение численного и генетического алгоритмов оптимизации фильтра по экспериментальным данным , / Труды молодых ученых Ульяновского государственного университета Сборник докладов и тезисов докладов студентов и аспирантов на XIII ежегодной Научно-практической конференции апрель 2003 / Под ред проф С В Булярского - Ульяновск УлГУ, 2003, Вып 12 — с 10-11

[4 ] Semoushin I V , Fedorova М А , Fatyanova О A Comparative study of conventional and genetic algorithms in adaptive signal processing and control /, The 4th Eiuopean Congiess on Computational Methods in Applied Sciences and Engineenng, ECCOMAS 2004, Jyvaskyla, Finland, 24-28 July, 2004 / Eds P Neittaanmaki, T Rossi, S Korotov, E Onate, J Periaux, and D Knorzer - Jyvaskyla Univeisity of Jyvaskyla, 2004, Book of Abstracts, Vol II,p 423 and Pioceedings, Vol II Ele 991 ISBN 951-39-1869-6

[5 ] Федорова M А Использование генетического алгоритма для оптимизации стохастического управления / / Труды 1-й международной

научно-технической конференции «Современные проблемы оптимизации в инженерных приложениях» (IWOPE-2005), Ярославль, 1722 декабря, 2005 / Под ред к тн Хрящева В В - Ярославль ЯрГУ, 2005, т 2 - с 441-453

[6 ] Semoushin I, Fedorova М Sunoplya М Fitness function for detection, selection and adaptation in stochastic environments // Proceedings of the Second IASTED International Multi-Conference on Automation, Contiol, and Information Technology (ACIT 2005), Signal and Image Piocessmg, Novosibnsk, Russia, 20-24 June, 2005 / Eds Yu I Shokin, О I Potaturkm - ACTA Press, 2005, p. 131-136

[7 ] Fedoro\a M , Semoushm I, Nen F Stochastic control iterated design optimization using genetic alqonthms // Proceedings oi the 12th ISPE International Conference on Concurrent Engineering (CE 2005), Ft Worth/Dallas, USA 25-29 July, 2005/ Eds Michael Sobolewski and Parisa Ghodous - New York International Society for Productivity Enchancement (ISPE), 2005, Vol 1 — p 401-406

[8 ] Прикладные интеллектуальные системы, основанные на мягких вычислениях / М С Азов, А С. Макеев, И В Семушин, А С Селя-ев, А А Стецко, М С Сунопля, В Г Тронин, М А Федорова, А Б Шамшев, TP Юнусов, Н Г Ярушкина, коллективная монография под ред Н Г Ярушкиной Ульяновск УлГТУ, 2005 — 138 с

[9 ] Федорова М А Применение генетического алгоритма к задаче оптимизации стохастического управления // Ученые записки Ульяновского государственного университета Сер Фундаментальные проблемы математики и механики / Под ред акад РАЕН, проф А С Андреева - Ульяновск УлГУ, 2005 Вып 1(15) — с 159-173

[10 ] Fedorova М A Evolutionary methods for change point detection and adaptation in stochastic control //Proceedings of the VI International Confeience «System Identification and Contiol Problems» SICPRO'07, Moscow, Russia 29 Januaiy - 1 Febiuaiy, 2007 / V A Trapeznikov Institute of Control Sciences - Moscow V A Trapeznikov Institute of Control Sciences, 2007 — p 965-975

[11 ] Федорова М А Моделирование адаптивной стохастической системы МАЗББ 11 Москва ВНТИЦ Программное и информационное обеспечение поддержки научно-исследовательских работ, 2007 — ЕСПД 03524577 01880-01

[12 ] Федорова М А Моделирование адаптивной стохастической системы МАББв // Инновации в науке и образовании, издание ФГНУ «Государственный координационный центр информационных технологий», февраль 2007, №2 (25) — с 38

АВТОРЕФЕРАТ

ФЕДОРОВА Мария Анатольевна Вычислительные и эволюционные методы в стохастических системах с обнаружением и адаптацией

Подписано в печать 01 10 2007 Формат 60x84/16

Бумага писчая Уел п л 1,02

Тираж 100 экз Заказ

ФНПЦ ОАО «НПО «Марс» 432022 г Ульяновск, }л Солнечная, 20

Введение

Глава 1 Постановка задачи

1.1 Линейная дискретная стохастическая система

1.2 Стохастическая следящая система.

1.3 Фильтр Калмана.

1.4 Уровни неопределенности.

1.5 Обнаружение и необходимость адаптации.

Глава 2 Обнаружение нарушений

2.1 Обнаружение как переключение систем.

2.2 Принцип статистической ортогональности.

2.3 Метод взвешенных квадратов невязок.

2.4 Методы формирования выборки.

2.5 Выводы.

Глава 3 Адаптивная модель и построение вспомогательного функционала качества

3.1 Адаптивная модель.

3.2 Вспомогательный функционал качества.

3.3 Построение ВФК для стохастических следящих систем.

3.4 Выводы.

Глава 4 Численные алгоритмы идентификации

4.1 Модель чувствительности.

4.2 Условия и скорость сходимости вероятностных беспоисковых итеративных методов

4.3 Многомерная процедура стохастической аппроксимации Роббинса-Монро

4.4 Метод наименьших квадратов

4.5 Контроль устойчивости.

4.6 Выводы.

Глава 5 Эволюционные методы

5.1 Краткий обзор.

5.2 Структура генетического алгоритма.

5.3 Разновидности генетических операторов.

5.4 Вычислительная эффективность.

5.5 Выводы.

Глава 6 Математическое моделирование и вычислительные эксперименты

6.1 Создание программного продукта.

6.2 Описание моделируемой системы.

6.3 Реализация генетического алгоритма.

6.4 Вычислительные эксперименты.

6.5 Выводы.

Решение многих практических задач в ряде технических областей - навигации и радиолокации [8, 94, 105], связи и телекоммуникациях [92, 74], а также в экономике [98] и промышленности [97, 104, 101], в биологии, медицине [1, 64, 29] и сейсмологии [57], приводит к применению систем фильтрации и управления с линейными стохастическими моделями. Теория таких систем хорошо разработана для условий, когда все свойства моделей полностью известны. Если же эти свойства не известны или подвержены резким, непредвиденным изменениям, приемлемое решение могут дать адаптивные системы [52, 54, 32], при этом адаптация включает как обнаружение [90, 67, 21, 110, 57, 82], так и идентификацию [6, 11, 53] изменений в моделях с целью ре-оптимизации системы.

Такое усложнение системы влечет необходимость обоснованного ответа, на вопрос: Каким образом гарантировать хорошие результаты - надежное обнаружение изменений и быстродействующую адаптацию к новым условиям при низкой вычислительной стоимости? Теоретически, для полноценного ответа должен быть исследован весь спектр возможных методов - от традиционных до альтернативных, возможно, пришедших из других областей знания. В задачах параметрической оптимизации к числу альтернативных можно отнести методы, берущие свое начало из науки об эволюционном отборе и развитии организмов в биологии, - так называемые эволюционные методы [7,12, 62]. Эти исследования тесно связаны с другими «неклассическими» направлениями - теорией нейронных сетей, теорией нечетких множеств, теорией «возможностей» и др., которые вместе с методами эволюционного моделирования составляют основу так называемых «мягких вычислений» (soft computing) [113]. Начиная с 70-х годов прошлого века, эти методы в различных формах применялись ко многим научным и техническим проблемам [84, 95, 79]. Однако возможности указанных нетрадиционных подходов применительно к построению самоорганизующихся (адаптивных) систем изучены пока не в полной мере.

Общее требование, обычно предъявляемое к любой системе, состоит в достоверном и своевременном получении исходной информации. Однако этому препятствуют случайные искажения полезного сигнала, неизбежное наличие разнообразных (внешних и внутренних) помех и техническое несовершенство устройств. Поэтому в литературе но современным системам управления большое внимание уделяется обнаружению и идентификации нарушений в многорежимных системах [39].

Особую роль в системах такого рода играет оценивание вектора состояния по неполным измерениям. Классический подход к проблеме заключается в использовании калмановской фильтрации, однако сфера ее применения ограничена вследствие того, что этот алгоритм предполагает точное знание параметров системы. Кроме того, что это предположение не выполняется, параметры системы могут изменяться в моменты времени, неизвестные априори. При включении в такую систему алгоритмов обнаружения и идентификации система становится адаптивной. Если критерий качества системы доступен для целей идентификации, обычным подходом является использование численных методов оптимизации. Если критерий качества системы недоступен, что типично для стохастических задач, возникает дополнительная проблема формирования некоторого эквивалентного, но доступного критерия. Для последнего случая разработана, теория вспомогательного функционала качества [32]. Кроме указанного адаптивного подхода, применяются робаст-ные алгоритмы [96], приводящие к управлению, некритичному к нарушениям (FTC - Fault Tolerant Control) [78].

Создание систем, априорно ориентируемых для работы в условиях неполноты или нечеткости исходной информации, неопределенности внешних возмущений и среды функционирования, мотивирует привлечение, наряду с классическими методами, также и нетрадиционных подходов к управлению с использованием методов и технологий искусственного интеллекта. В таких случаях высокий уровень автономности, адаптивности и надежности систем управления должен обеспечиваться за счет повышения их интеллектуальных возможностей, основанных на обработке специальных знаний [13].

Целью диссертационной работы является сравнительное исследование применения эволюционных и численных методов для оптимизации сложных взаимосвязанных систем фильтрации и управления в условиях априорной неопределенности. Используемые принципы вспомогательного функционала, статистической ортогональности, метода взвешенных квадратов невязок, а также привлечение нетрадиционных подходов и методов искусственного ителлекта являются фундаментом для построения численных методов и исследования практических задач адаптации и обнаружения в классе стохастических систем управления и оценивания. Благодаря сравнительному методу исследования, эта работа делает очередной шаг к уменьшению разрыва, существующего между стандартными численными методами решения экстремальных задач и более гибкими и простыми в реализации генетическими подходами.

Диссертация объемом 136 страниц состоит из введения, 6 глав, заключения, списка литературы из ИЗ наименований и одного приложения. Работа включает 2 таблицы и 55 иллюстраций.

5.5 Выводы

В этой главе, в основном, изложены сложившиеся к настоящему времени общие подходы к созданию генетических алгоритмов. Это сделано для того, чтобы в дальнейшем найти приемлемые способы конкретной реализации этих общих идей в конкретной области, в данном случае — в параметрической оптимизации стохастических систем фильтрации и управления. Следующая Глава б решает эту практическую проблему.

Глава 6 Математическое моделирование и вычислительные эксперименты

В этой главе представлены результаты математического моделирования, в которых исследуются практические особенности предложенных методов. Для этого создан программный продукт, который позволяет определить поведение алгоритмов при различных условиях вычислительного эксперимента. Исследуется влияние ряда факторов (отношение сигнал-шум, количество итераций, интегральная относительная ошибка, оценка параметра и др.). Экспериментально устанавливается практическая значимость и применимость предложенных в работе подходов к задаче обнаружения изменений в системе и адаптации модели к новым условиям ее функционирования. Проводится сравнение между стандартными численными методами оптимизации, описанными в Главе 4, и генетическим алгоритмом, приведенным в Главе 5. Раздел 6.1 посвящен вопросам построения программного продукта для проведения серий вычислительных экспериментов. В Разделе 6.2 дано описание моделируемой системы. Раздел 6.3 содержит реализацию генетического алгоритма для моделируемого трекера. Результаты численных экспериментов для поставленной в этой главе задачи моделирования и определение степени влияния каждого из факторов на качество получаемых оценок, на применимость предложенных в работе методов и алгоритмов представлены в Разделе 6.4.

6.1 Создание программного продукта

В настоящее время существует множество программных средств, позволяющих выполнять инженерные и научные расчеты, например, Matlab,

Maple, Mathcad и др., как правило, в них реализованы разнообразные инструменты для работы с формулами, числами, графиками. Однако для исследований алгоритмов обнаружения нарушений и адаптации в стохастических системах, в том числе и с использованием эволюционных методов, требуется разработка специализированного программного обеспечения.

Отметим, что наиболее известной средой моделирования для систем, рассматриваемых в рамках данного исследования, является Matlab. Но указанный продукт не может быть полностью использован для реализации алгоритмов исследователтской работы, поскольку использует универсальные подходы, без учёта особенностей конкретной задачи. Между тем, оптимизация необходима для вычислительных экспериментов, проводимых в рамках данного (и подобных данному) исследования. Отсутствие учёта особенностей задачи может приводить к неприемлемо большим затратам машинного времени и памяти. В связи с этим необходимо создание программного комплекса с использованием языка программирования высокого уровня. В этом случае можно использовать некоторые преимущества, такие как: достаточно высокая скорость работы, возможность учёта всех особенностей исследуемой задачи и, соответственно, возможность оптимизации вычислений, организации экономного хранения данных и эффективных способов их обработки. Возможности внутреннего языка в средах, подобных Matlab, хоть и велики, но всё же ограничены, в то время как языки высокого уровня такого недостатка лишены и рассчитаны на реализацию алгоритмов любой сложности. Это особенно важно при проверке на практике новых теоретических результатов, реализовать которые стандартными средствами весьма сложно или в принципе невозможно. Однако при программировании на языке высокого уровня у разработчика возникает необходимость создания собственных программных модулей для визуализация данных и последующего экспорта в другие программные продукты, поскольку готовые модули и визуальные компоненты для выполнения этих операций, как правило, существенно уступают разработанным в Matlab с точки зрения функциональности и необходимость реализации всех математических операций, включая операции матриц и алгоритма генерации белого шума. В этом случае естественным решением представляется комбинированный подход, который сочетает в себе преимущества программного средства, нанисанного на языке высокого уровня, среды Matlab и стандартных средств управления базами данных для хранения результатов экспериментов.

В рамках данного исследования создана программная разработка MASSS (Modeling of Adaptive Stochastic Servo System) [44], предназначенная для моделирования процессов адаптивной стохастической следящей системы. Программа состоит из нескольких модулей, которые обеспечивают ввод начальных условий, определение режима работы, проведение серий экспериментов, реализацию алгоритмов обнаружения и адаптации, сохранение результатов экспериментов и визуализацию данных. Алгоритмы, предложенные в предыдущих главах полностью реализованы в программе MASSS. В указанном приложении доступны следующие функции:

• выбор моделируемых систем (управляемый объект, опорная модель, управляемый объект и опорная модель)

• выбор алгоритмов идентификации (простая стохастическая аппроксимация, метод наименьших квадратов, генетический алгоритм)

• изменение параметров модели

• изменение параметров алгоритмов

• построение графиков

• ручное масштабирование

• дружественная рабочая область с возможностью сохранения графиков в bmp-файл

• просмотр данных в табличном виде

• сохранение полной истории экспериментов

6.2 Описание моделируемой системы

Для моделирования процессов обнаружения и адаптации, а также для проведения вычислительных экспериментов взят пример из области навигационных комплексов в авиации [88].

Рассмотрим систему, изображенную на Рис. 6.1 — угловую следящую систему для гиростабилизированной платформы в карданном подвесе.

Динамика угла кардана n(t) описывается уравнениями: k{t) = ~n{t) + jrKam{t) + wc(t) (6.1)

Lp где заданный угол KCom{t) генерируется некоторым регулятором:

Kcom{t) - Ксom(ti) W е [ti,ti+1] (6.2)

Передаточная функция между заданным командным углом Kcom(t) и достигнутым углом /ф) выражается как ф) 1 1 /Тр w(s) TPS + 1 s + 1 /Tv

Переобозначим xp(t) =f n(t)

U{t) = Kcom(t)

6.3)

6.4)

Тогда имеем инвариантную во времени линейную модель

Xp{t) = FpXp(t) + ypcu{t) + wpc{t), (6.5) где Fp = —jr, Фрс = у, Wpc — гауссов белый шум с нулевым средним и дисперсией Qpc.

Дискретная модель описывыается соедующим образом: xp(U+i) = ФрХр{и) + VPu(ti) + wp(ti), (6.6) At М где Фр = е тр , Фр ~ I ~ е тр , wp — дискретный гауссов белый шум с

1 — 2— нулевым средним и дисперсией Qp = \QvcTp{l — е тр) , At — U+i — U. В этом примере предполагается, что

Тр = 0.5 сек. At = 0.\ сек. Фр = 0.82 Фр = 0.18 Qp = 0.084Qpc

Опорная модель описывается следующим процессом 1 r(t) = -^xr(t) +wrc(t), ir

6.7) где wrc — гауссов белый шум с нулевым средним и Qrc = ^ , хг ~ Л/"(0, aj). Г

Соответствующая дискретная модель для данного объекта выглядит следующим образом: ®rXr{ti) + wr{U), (6.8)

At где Фг = е , wr — дискретный гауссов белый шум с нулевым средним и

Qr = <7г2[1 - е Здесь

-2%

6.9)

Тт = 0.2 сек. Фг = 0.61 Qr = О.бЗа^

Таким образом имеем следующую следящую систему: Управляемый объект xp{tM) = 0.82 xp(U) + 0.18u(tj) + wp(tj); yP{ti) = хр{и) + vv(U);

Опорная модель xr{ti+i) = 0mxr(ti) + wr(U); yr(U) = ®r(ti) + vr(ti); Здесь v и vr — дискретные белые гауссовы шумы с нулевым средним и дисперсиями Rp = 1 и = 1 соответственно.

Тогда общая модель моделируемой системы записывается как

6.10)

Xp(ti+1) 0.82 0 Xp(ti) 0.18 u{U) + Wp(ti)

0 0.61 Xr(ti) 0 Wr(ti)

1 0 Xp(ti) + Vp(fi) l/r(<i) 0 1 (i j)

Управление описывается следующим законом u(ti) = -0.36xp(ti) + 0.19xr(ti). (6.11) где вместо хр'и хг, поскольку эти величины недоступны, используются их оценки, полученные соответствующим фильтром, либо фильтром Калмана, либо адаптивным.

6.3 Реализация генетического алгоритма

Учитывая особенности моделируемой системы, описанной в Разделе 6.2, конкретизируем генетический алгоритм.

Кодирование. В данной задаче заранее известно, что идентифицируемый параметр адаптивного фильтра D(p r) находится в интервале (0; 1). Для проведения экспериментов воспользуемся следующими тремя способами кодирования на основе двоичного алфавита, каждый из которых реализован в программном продукте MASSS:

1. Двоичное кодирование дробной части. В этом случае особи с хромосомой ф = (</?i (р2 . . . (рь) соответствует число, которое находится но l формуле J2 Vi^'1 • Например, хромосома ф = (1011) представляет чис-i=i ло 1 ■ 2"1 + 0 • 2~2 +1 • 2~3 + 1 • 2~4 = 0.6875

2. Интервальное кодирование согласно схеме, описанной в Разделе 5.3, с интервалом (0; 1)

3. Интервальное кодирование с кодом Грея согласно схеме, описанной в разделе 5.3, с интервалом (0; 1)

Фитнес-функция. Разработка фитнес-функции представляет наибольшую трудность для исследователя при решении задач подобного типа. Сложно дать рекомендации по построению целевой функции в общем случае, так как вид ее зависит от конкретной решаемой проблемы. В данном случае фитнес-функция основана на принципе статистической ортогональности, описанного в Разделе 2.2.

Построим фитнес-функцию fh — 1{Фп), h = I, - • • ,Р следующим образом:

1. Для каждой особи ф^, h = 1, • • • , Р вычислим 6h = 10.5 — \, где щ — количество отрицательных выбросов процесса Q(U) (4.5) в адаптивном фильтре с параметром, который представляет хромосома фн, М — размер выборки.

2. А = max дь h

3. fh = Hh + А + 0.1] х 10

Другие генетические операторы, которые необходимы для работы алгоритма, такие как Селекция, Скрещивание, Мутация, Элитизм, будем использовать в том виде, как они описаны в Главе 5.

6.4 Вычислительные эксперименты

Важной особенностью программной разработки (не только используемой в данной работе, но и, по-видимому, всех подобных разработок) для проведения вычислительных экспериментов является тот факт, что моделируется не только адаптивная модель, но также исходная система и исходный фильтр (так называемый «подыгрыш»). Эта особенность позволяет исследователю проанализировать качество получаемых оценок путем их прямого сопоставления с оптимальным (истинным) значением параметра (задача с известным решением). Моделирование в таких идеальных условиях является обязательным подготовительным этапом к применению теоретических результатов, полученных в данной работе, в реальной прикладной задаче.

При проведении вычислительных экспериментов будем использовать следующие основные параметры моделирования и их возможные варианты:

Количество итераций для накопления сглаженных оценок 150

Блок обнаружения: метод взвешенных квадратов невязок Блок адаптации: простая стохастическая аппроксимация, метод наименьших квадратов, генетический алгоритм

Параметры генетического алгоритма:

Длина хромосомы 7

Размер популяции 50

Оператор кодирования: двоичный, интервальный, интервальный с кодом Грея Оператор селекции: «колесо рулетки», остаточный отбор, турнирный отбор Вероятность скрещивания 0.8

Оператор скрещивания: одноточечный, двуточечный, маскированный Вероятность мутации 0.1 Коэффициент элитизма 1

Процедура адаптации. Цель численного моделирования не только исследование влияния условий задач на качество получаемых оценок, но и испытание различных модификаций алгоритмов адаптации. Проводилось сравнение между тремя алгоритмами: SSA - простая стохастическая аппроксимация, LS - метод наименьших квадратов, GA - генетический алгоритм. Результаты экспериментов приведены на графиках Рис. А.1 - Рис. А.32 в Приложении А.

Для исследования методов необходимо знать, к чему должен сходиться коэффициент D(ptr), для этого достаточно рассчитать новое оптимальное

Количество экспериментов в серии

Максимальное количество итераций (модельное время)

Итерация изменения параметров

1,10, 100, 1000

5000

300 значение K^pr). При этом должно быть К(р,г) ■ \/(1 ~ ф(р,г) + rsnr)2 + *ЪпгФ 1Т) - (1 - Ф2М + Rsnr)

Щр,г) Щ~ ,

Р,Г) где Rsnr = Cjrhrl — отношение сигнал-шум.

Л(р.г)

Важным моментом является исследование поведения генетического алгоритма для данной задачи и его сравнение с методами простой стохастической аппроксимации и наименьших квадратов, поскольку исследование поведения стандартных численных методов при различных условиях вычислительных экспериментов проводилось во многих работах, например в [9, 41].

Некоторые усредненные результаты настройки параметров управляемого объекта и опорной модели исследуемыми алгоритмами приведены ниже. Назовем фазу эксперимента до нарушения на 300 итерации «до», а после 300 итерации «после».

Управляемый объект Опорная модель до» «после» SSA LS GA «до» «после» SSA LS GA

0.161 0.9 0.847 0.936 0.857 0.258 0.962 0.981 0.937 0.845

0.023 0.547 0.513 0.531 0.529 0.087 0.868 0.965 0.938 0.806

0.9 0.161 0.085 0.087 0.111 0.962 0.258 0.127 0.193 0.211

0.547 0.023 0.096 0.073 0.114 0.868 0.087 0.3 0.019 0.137

0.547 0.9 0.887 0.912 0.874 0.736 0.258 0.131 0.156 0.192

0.9 0.547 0.52 0.529 0.537 0.442 0.868 0.936 0.912 0.821

Согласно результатам экспериментов, перенастройка параметров при помощи ГА происходит лучше для замкнутой, чем для разомкнутой системы. Вероятно, это обусловлено тем, что общее примущество систем с обратой связью - уменьшение чувствительности системы к возмущениям параметра в системе. Также стоит отметить, что индивидуальное поведение генетического алгоритма более непостоянно, чем индивидуальное поведение стандартных численных методов. Проведенные серии экспериментов позволяют сделать вывод о применимости генетического алгоритма к решению задачи идени-тификации адаптивного фильтра в условия априорной неопределенности. Однако стоит отметить, что указанный алгоритм не всегда сходится, но при этом может отыскать достаточно хорошее решение достаточно быстро. Этот факт может быть использован при дальнейших исследованиях, например, при проведении моделирования с комбинацией численных и эволюционных методов, где на первых стадиях используется генетический алгоритм, а затем для продолжения идентификации применить стандартные методы.

Отношение «сигнал/шум». Отношение «сигнал/шум» Rsnr является одной из главных характеристик постановки задачи, от которой во многом зависит качество получаемых оценок. Исследование влияния степени присутствия сигнала на фоне помех, которое определяет количественно отношение «сигнал/шум», не может быть проведено изолировано - без принятия в расчет ряда остальных факторов, играющих столь же значительную роль как в поведении оценок, так и в определении места итерационного алгоритма в иерархии существующих практических подходов и методов. Результаты экспериментов для различных уровней сигнал-шум приведены на графиках в Приложении А. Рассматриваемые значения «сигнал-шум» Rsnr выбраны равными 0.01,0.1,10,100. Наиболее сложными для идентификации оказались случаи, когда при нарушении происходит резкое уменьшение Rsnr.

Интегральная относительная ошибка. Для проведения сравнительного анализа различных алгоритмов идентификации использована интегральная относительная ошибка (IPE), pipe, где Ргре(Ц) == 100%, усредненная по результатам серии экспериментов. Графики изменения интегральной относительной ошибки простой стохастической аппроксимации, метода наименьших квадратов и генетического алгоритма в зависимости от номера итерации представлены на Рис. А.33 - Рис. А.41 в Приложении А, а некоторые усредненные результаты интегральной относительной ошибки представлены ниже. Здесь происходит резкое изменение отношения «сигнал/шум» на 300 итерации.

Управляемый объект Опорная модель сигнал/шум» SSA LS GA «сигнал/шум» SSA LS GA увеличивается в 100 раз 6.04 3.5 3.95 увеличивается в 100 раз 7.8 5.7 9.5 увеличивается в 10 раз 1.44 1.33 2.8 увеличивается в 10 раз 6.4 5.1 5.4 уменьшается в 100 раз 47 45 31 уменьшается в 100 раз 73 51.5 37.5 уменьшается в 10 раз 4.9 3.2 1.8 уменьшается в 10 раз 49 39 25

Как показывают результаты экспериментов, при внезапном уменьшении отношения «сигнал/шум», когда условия функционирования системы ухудшаются, в большинстве случаев усредненное поведение генетического алгоритма дает меньший уровень интегральной относительной ошибки, чем процедура простой стохастической аппроксимации или метод наименьших квадратов. Однако при внезапном увеличении отношения «сигнал/шум» стандартные численные методы дают меньший уровень интегральной относительной ошибки, чем генетический алгоритм. Это подтверждает тот факт, что эволюционные методы выгоднее использовать для решения задач, которые затруднительно решить стандартными методами. В целом, анализируя усредненные данные интегральной относительной ошибки для всех проведенных серий экспериментов как для опорной модели так и для управляемого объекта, можно сделать вывод о том, что интегральная относительная ошибка при идентификации генетическим алгоритмом отли-чатеся от интегральной относительной ошибки при идентификации методом наименьших квадратов не более чем на 5 %.

Количество итераций. Важным параметром работы итерационных алгоритмов является количество итераций, требуемых для достижения заданного уровня качества оценок. Были получены экспериментальные зависимости, усредненные по количеству реализаций, приведенные на Рис. А.42 - Рис. А.44 в Приложении A. Ha. основе представленных графиков, очевидно, что количество итераций необходимое для достижения требуемого уровня оценок, зависит от уровня «сигнал-шум» Rsnr, как было замечено выше. В среднем, интегральная относительная ошибка входит в 10 % коридор при идентификации методом простой стохастической аппроксимации за 2000 итераций, при идентификации методом наименьших квадратов за 1000 итераций, а при идентификации генетическим алгоритмом за 750 итераций. Однако стоит сказать, что при резком ухудшении условий функционирования этот уровень не всегда достигается.

Обнаружение нарушений и адаптация. Некоторые результаты совместного моделирование процессов обнаружения и адаптации представлены в Приложении А на Рис. А.45 - Рис. А.50. Как показывают проведенные серии экспериментов в среднем задержка обнаружения составляет 135-140 итераций, а срабатывание решающего правила позже 3000 итерации составляет не более 0.5 % случаев. Также можно сделать вывод, что при включении в систему блока обнаружения наружений адаптация при помощи генетического алгоритма дает лучший результат, чем адаптация с использованием стандартных численных методов. Возможно это связано с тем, что использование метода взвешенных квадратов невязок в качестве правила «останова» алгоритмов идентификации требует более гибкой настройки порога для каждого метода адаптации в отдельности. Значение порога для каждого метода можно определить экспериментально, в том числе с привлечением методов искусственного интеллекта. 6.5 Выводы

В данной главе представлены результаты математического моделирования. Описаны особенности создания программного продукта, приведена моделируемая система и реализация нетрадиционного подхода - генетического алгоритма. Проведены серии вычислительных экспериментов и сравнение между стандартными численными методами оптимизации, описанными в Главе 4, и генетическим алгоритмом, приведенным в Главе 5. Существенное отличие между этими двумя типами методов заключается, как и ожидалось, в самом механизме их работы. Численные методы последовательны в своих операциях, в то время как генетический алгоритм - параллелен. Последний алгоритм требует наличия множества индивидов, формирующих текущую популяцию адаптивных фильтров. Результаты экспериментов показали, что не всегда генетический алгоритм работает так эффективно, как ожидалось, но в целом можно дать положительной заключение о применимости данного метода к указанной проблеме. Несмотря на все сложности, генетические алгоритмы представляют собой красивый и мощный аппарат оптимизации, особенно для задач, которые не могут быть решены стандартными методами. Нетрадиционные подходы к управлению с использованием методов и технологий искусственного интеллекта открывают новые возможности и позволяют использовать творческий подход к решению задач.

Заключение

В диссертационной работе получены следующие результаты:

1. Построен вспомогательный функционал качества для стохастической следящей системы.

2. Доказана теорема, позволяющая проводить раздельную настройку в контуре управляемого объекта и в схеме онорной модели трекера по методу вспомогательного функционала качества независимо друг от друга.

3. Разработан и испытан генетический алгоритм для решения задачи идентификации адаптивных фильтров с использованием метода вспомогательного функционала качества и принципа статистической ортогональности.

4. Создан программный продукт для моделирования исследуемых процессов и изучения поведения различных алгоритмов обнаружения и адаптации, включая численные и генетические алгоритмы.

5. Детально проанализированы и обобщены многочисленные реализации методов обнаружения и адаптации в классе линейных стохастических систем при различных условиях проведения экспериментов.

6. На основе экспериментальных данных проведено сравнение стандартных численных (простая стохастическая аппроксимация, метод наименьших квадратов) и эволюционных (генетический алгоритм) методов идентификации.

В целом, в работе исследованы методы обнаружения нарушений, идентификации и адаптации моделей дискретных линейных стохастических систем для различных уровней априорной неопределенности, использующие идею вспомогательного функциоанала качества, метод взвешенных квадратов невязок и принцип статистической ортогональности.

Проделанная работа и полученные результаты позволяют сформулировать следующие основные выводы:

1. Создание систем адаптивного управления в условиях априорной неопределенности основано на совместных операциях обнаружения нарушений и адаптацию системы к вновь возникшему режиму работы, осуществляемых в соответствии с принципом активной адаптации.

2. Возможность применения метода вспомогательного функционала для стохастической следящей систмы теоретически доказана, что позволяет проводить настройку в контуре управляемого объекта и в схеме опорной модели стохастического трекера независимо друг от друга. Этот факт, в свою очередь, позволяет сократить размерность задачи и одновременно проследить процессы, происходящие как в системах замкнутого типа, так и разомкнутого.

3. Предложенный и испытанный генетический алгоритм представляет собой простое (в вычислительном отношении) средство, способное на практике решать задачу идентификации адаптивного фильтра. Несмотря на эвристический - в определенной степени - характер примененных генетических алгоритмов, можно считать, что общий вывод о пригодности этих эволюционных методов к решению указанной проблемы оптимизации проведенными здесь экспериментами обоснован.

4. Исследование особенностей предложенных численных алгоритмов методами математического моделирования позволяет выделить группу факторов и исследовать их совместное влияние на качество получаемых оценок и на функционирование системы в целом, что в свою очередь, позволяет определить условия применимости предлагаемых подходов.

5. Сравнительный анализ эволюционных и численных методов показывает, что при резком ухудшении условия функционирования системы выгоднее использовать генетические алгоритмы в качестве метода идентификации, тогда как при улучшении условий функционирования стандартные методы дают лучший результат.

6. Предлагаемые в работе подходы и методы решения теоретически обоснованы и являются практически значимыми для широкого спектра задач в классе линейных дискретных стохастических систем с обнаружением и адаптацией.

Основной целью разработанных методов и алгоритмов для линейных дискретных стохастических систем является доказательство возможности решения задач адаптации при помощи идеи вспомогательного функционала качества с использованием вычислительных и эволюционных методов и обнаружения при помощи метода взвешенных квадратов невязок, что позволяет системе достигнуть, в соответствии с ее функционалом, области наилучшего качества функционирования с учетом возможных нарушений. Научная значимость и практическая ценность работы состоят в решении совокупности вопросов новыми научными подходами в классе линейных стохастических систем. Принципы вспомогательного функционала качества, статистической ортогональности и метода взвешенных квадратов невязок, ранее использовавшиеся лишь для построения численных методов адаптации и обнаружения в этом классе систем, теперь могут быть применены также и для построения генетических алгоритмов и привлечения других нетрадиционных подходов из широкой области, обозначаемой термином «искусственный (или вычислительный) интеллект». Благодаря сравнительному методу исследования, эта работа делает очередной шаг к уменьшению разрыва, существующего между стандартными численными методами решения экстремальных задач и более гибкими и простыми в реализации генетическими подходами. Практическая ценность работы заключается в том, что специалисты-практики получают обоснованные рекомендации о тех условиях, при которых им следует отдавать предпочтение либо стандартным численным методам, либо нетрадиционным генетическим алгоритмам при создании систем обработки информации и управления с адаптацией. Эта ценность подкреплена наличием зарегистрированного программного продукта, который как отлаженный инструментарий исследователя или студента полезен для изучения указанных систем по технологии численного моделирования и вычислительного эксперимента.

Вместе с тем настоящая работа не претендует на исчерпывающий охват всех аспектов поставленных проблем. В ходе теоретических и практических исследований в работе сформулированы вопросы, требующие, на взгляд автора, дальнейшего анализа, в том числе:

1. Разработка альтернативной фитнес-функции генетического алгоритма для идентификации адаптивного фильтра.

2. Построение комбинированного алгоритма с использованием стандартных численных методов и эволюционного подхода с целью повышения эффективности работы алгоритмов идентификации.

3. Привлечение методов и технологий искусственного интеллекта для решения задачи обнаружения нарушений.

1. Александров А.Г. Оптимальные и адаптивные системы. — М.: Высш. шк., 1989. 263 с.

2. Антонью А. Цифровые фильтры: анализ и проектирование. — М.: Радио и связь, 1983. — 320 с.

3. Бородкин Л.И., Моттль В.В. Алгоритмы обнаружения моментов изменения параметров уравнения случайного процесса. // Автоматика и телемеханика, 1976, № 6, с. 23-31.

4. Будущее искусственного интеллекта /Под ред. К.Е. Левитина и Д.А. Поспелова. — М.: Наука, 1991. — 302 с.

5. Вазан М. Стохастическая аппроксимация. — М.: Мир, 1972. — 295 с.

6. Вороновский Г.К., Махотило К.В., Петрашев С.Н., Сергеев С.А. Генетические алгоритмы, искусственные нейронные сети и проблемы виртуальной реальности. — Харьков: ОСНОВА, 1997. — 112 с.

7. Глован А.А. Алгоритмический контроль фильтра Калмана. // Автоматика и телемеханика, 1993, № 7. — с. 173-185

8. Горохов О.Ю. Исследование совместно выполняемых операций обнаружения, идентификации и адаптации в дискретных стохастическихсистемах.: Дис. канд. ф.-м. наук: 01.01.09 / Ульяновский государственный университет. — Ульяновск, 2002. — 136 с.

9. Граничин О.Н. Введение в методы стохастической оптимизации и оценивания: Учеб. пособие. — СПб.: Издательство С.-Петербургского университета, 2003. — 131 с.

10. Гроп Д. Методы идентификации систем. — М.: Мир, 1979. — 302 с.

11. Емельянов В.В., Курейчик В.В., Курейчик В.М. Теория и практика эволюционного моделирования. — М.: ФИЗМАТЛИТ, 2003. — 432 с.

12. Интеллектуальные системы автоматического управления. / Под ред. И.М. Макарова, В.М. Лохина. М.: ФИЗМАТЛИТ, 2001. - 576 с.

13. Искусственный интеллект. Кн. 2. Модели и методы. /Под ред. Д. А. Поспелова — М.: Радио и связь, 1990. — 304 с.

14. Калиткин Н.Н. Численные методы. — М.: Наука, 1978. — 512 с.

15. Кондратьев А.Е. Методы диагностики нарушений для построения стохастических адаптивных систем.: Дис. канд. ф.-м. наук: 05.13.18 / Ульяновский государственный университет. — Ульяновск, 2006. — 135 с.

16. Курейчик В.В., Куречик В.М. Генетический алгоритм размещения графа. // Известия Академии Наук. Теория и системы управления, 2000. № 5, с. 67-74

17. Курейчик В. М. Генетические алгоритмы. — Таганрог: Изд-во ТРТУ, 1998. 242 с.

18. Ли Р. Оптимальные оценки, определение характеристик и управление. М.: Наука, 1966. - 176 с.

19. Лидбеттер М., Линдгрен Г., Ротсен X. Экстремумы случайных последовательностей и процессов. — М.: Мир, 1989. — 392 с.

20. Никифоров И.В. Последовательное обнаружение изменения свойств временных рядов. — М.: Наука, 1983. — 199 с.

21. Острем К.Ю. Введение в стохастическую теорию управления. — М.: Мир, 1973. 322 с.

22. Понырко С. А., Семушин И. В. Использование активного принципа при построении самонастраивающихся фильтров. // Изв. АН СССР. Техническая кибернетика, 1971, № 1. — с. 223-227

23. Понырко С. А., Семушин И. В. Построение обучающихся винеровских фильтров при ограниченном объеме априорной информации. // Изв. АН СССР. Техническая кибернетика, 1971, № 5. с. 215-220

24. Понырко С.А., Семушин И.В. О выборе алгоритма начала-остановки при минимизации среднеквадратического критерия качества. // Автометрия, 1973, № 2. с. 68-74

25. Растригин Л.А. Адаптация сложных систем. — Рига: Зинатне, 1981. — 375 с.

26. Растригин Л.А. Статистические методы поиска. — М.: Наука, 1968. — 378 с.

27. Рудкевич М.В. Стохастическая имитационная модель одного механизма пульмо-кардиальной системы.: Дис. канд. ф.-м. наук: 05.13.18 / Ульяновский государственный университет. — Ульяновск, 2005. — 103 с.

28. Саридис Дж. Самоорганизующиеся стохастические системы управления. М.: Наука, 1980. - 400 с.

29. Сейдж Э.П., Мелса Д.Л. Идентификация систем управления. — М.: Наука, 1974. 284 с.

30. Семушин И.В. Адаптивные схемы идентификации и контроля при обработке случайных сигналов. — Саратов: Саратовский университет, 1985. 180 с.

31. Семушин И.В. Идентификация линейных стохастических объектов по неполным зашумлённым измерениям вектора состояния. // Автоматика и телемеханика, 1985, JV2 8. — с. 61-71

32. Семушин И.В. Контроль оптимальности адаптивного фильтра Калмана по реализации скалярного процесса // Известия академии наук СССР. Техническая кибернетика, 1979, № 6. с. 195-198.

33. Срагович В.Г. Адаптивное управление. — М.: Наука, 1981. — 384 с.

34. Справочник по теории автоматического управления Под редакцией А. А. Красовского. — М.: Наука, 1987. — 712 с.

35. Терехов В.А., Тюкин И.Ю. Адаптивные системы управления: проблемы и тенденции. // Управление и информационные технологии. СПб.: ЛЭТИ, 2003, т. 1. с. 146-154.

36. Тихонов В.И., Харисов В.Н. Статистический анализ и синтез радиотехнических устройств и систем: Учеб. пособие для вузов. — М.: Радио и связь, 2004. — 608 с.

37. Уидроу Б., Стирнз с. Адаптивная обработка сигналов. — М.: Радио и связь, 1989. 440 с.

38. Фатьянова О.А. Вспомогательные функционалы качества и контроль устойчивости В задачах стохастической идентификации.: Дис. канд. ф.-м. наук: 05.13.18 / Ульяновский государственный университет. — Ульяновск, 2006. — 135 с.

39. Федорова М.А. Моделирование адаптивной стохастической системы MASSS. // Москва: ВНТИЦ. Программное и информационное обеспечение поддержки научно-исследовательских работ, 2007. — ЕСПД .03524577.01880-01

40. Федорова М.А. Моделирование адаптивной стохастической системы MASSS. // Инновации в науке и образовании, издание ФГНУ «Государственный координационный центр информационных технологий», февраль 2007, №2 (25). с. 38.

41. Федорова М.А. Оптимизация стохастической следящей системы с использованием численных и эволюционных методов. // Вестник Самарского государственного аэрокосмического университета имени академика С.П. Королева Самара: СГАУ, 2007. Вып. 1 (12).

42. Фильтрация и стохастическое управление в динамических системах, подред. Леондеса К.Т. М.: Наука, 1980. - 512 с.

43. Фомин С.И., Фрадков А.Л., Якубович В.А. Адаптивное управление динамическими объектами. — М.: Наука, 1981. — 448 с.

44. Фомин В.Н. Рекуррентное оценивание и адаптивная фильтрация. — М.: Наука, 1984. 287 с.

45. Цыпкин Я.З. Адаптация и обучение в автоматических системах. — М.: Наука, 1968. 400 с.

46. Цыпкин Я.З. Оптимальная идентификация динамических объектов. // Измерения, контроль, автоматизация. Научн.-техн. сб. обзоров. М.: ЦНИИТЭИ приборостроения, 1983, вып. 3(47). - с. 47-60

47. Шульце К.П., Реберг К.Ю. Инженерный анализ адаптивных систем. М.: Мир, 1992. - 280 с.

48. Эйкхофф П. Основы идентификации систем управления. — М.: Мир, 1975. 684 с.

49. Ярушкина Н.Г. Основы теории нечетких и гибридных систем: Учеб. пособие. — М.: Финансы и статистика, 2004. — 320 с.

50. Basseville М., Nikiforov I.V. Detection of Abrupt Changes: Theory and Application. Englewood Cliffs, N.J.: PTR Prentice-Hall, 1993. - 469 p.

51. Basseville M., On-board Component Fault Detection and Isolation Using the Statistical Local Approach // Automatica, 1998, 34, No. 11, p. 1391-1415

52. Beasley D., Bull D.R., Martin R.R. An overview of genetic algorithms: Part 1, Fundamentals. // UK, University Computing, 1993, 15(2), p. 58-69

53. Beasley D., Bull D.R., Martin R.R. An overview of genetic algorithms: Part 2, Research topics. // UK, University Computing, 1993, 15(1), p. 170-181

54. Bertsekas D.P., Tsitsiklis J.N. Gradient convergence in gradient methods. // SIAM Journal on Optimization, vol.10, 2000. p. 627-642

55. Blickle T. Theory of evolutionary algorithms and application to system synthesis.: Diss. ETH No. 11894, University of Saarbrucken, Germany, 1996. 272 p.

56. Bohm W., Hackl P. Improved bounds for average run length of control charts based on finite weighted sums. // Ann. Probab., 1990, vol.18. — p. 18951899

57. Butov A.A., Volkov M.A., Anisimov V.N., Sehl M.E., Yashin A.I. A model of accelerating aging induced by 5-bromdexyuridine. // Biogerontology, 2002, vol. 3(3). p. 175-182

58. Cao Y.J., Wu Q.H. Convergence analysis of adaptive genetic algorithms. // Genetic Algorithms in Engineering Systems: Innovations and Applications, 2-4 September 1997, p. 85-89

59. Chaiyaratana N., Zalzala M.S. Recent development in evolutionary and genetic algorithms: theory and applications. // Genetic Akgorithms in Engineering Systems: Innovations and Applications, 2-4 September 1997, p. 270-277

60. Chow E.Y., Willsky A.S. Issues in the development of a general design algorithm for reliable failure detection. // Proc. 19-th IEEE Conf. Decis. and Contr. Albuquerque, 1980. p. 1006-1012

61. Devis L. Handbook of genetic algorithms — Van Nostrand Reinhold, 1991. — 385 p.

62. Goldberg D.E. Genetic Algorithms in search, optimization and machine learning. — Addison-Wesley Publishing Company, Inc., 1989. — 412 p.

63. Goldberg D.E. Genetic Algorithms in search, optimization and machine learning.// Chapters. Computer fmplemenation of a Genetic Algorithm. — Addison Wesley Longman, Inc., 2002. — p. 62-65.

64. Grewal M.S. , Angus P. Andrews. Kalman Filtering: Theory and Practice Using MATLAB, Second Edition — New York, Chichester, Weinheim, Brisbane, Singapore, Toronto: John Wiley & Sons Inc, 2001. — 410 p.

65. Gustafsson F. Adaptive filtering and change detection — John Wiley&Sons, LTD, 2000. 500 p.75. llines W.G.S. A simple monitor of a system with sudden parameter changes. // IEEE Trans., Information Theory, 1976, vol.IT-22, no 2. -p. 210-216

66. Hines W.G.S. Improving a simple monitor of a system with sudden parameter changes. // IEEE Trans., Information Theory, 1976, vol.IT-22, no 4. p. 496-499

67. Holland J. Adaptation in nature and artifical life — Ann Arbor, University of Michigan Press, 1975. 210 p.

68. Izadi-Zamanabadi R., Blanke M. A ship propulsion system as a benchmark for fault-tolerant control. // Proceedings of IFAC Safeproeess'97, Hull, United Kingdom, 1997. p. 1074-1082

69. Jin Y., Branke J. Evolutionary optimization in uncertain environments // IEEE transactions on Evolutionary Computation, 2005, Vol. 9, № 3. — p. 303-317

70. Jones R.H., Crowell D.H., Kapuniai L.E. Change detection model for serially correlated multivariate data. // Biometrics, 1970, 26(2). — p. 269-280.

71. Jury E.I. Theory and Application of the z-Transform Method. — New York: Wiley, 1964. 330 p.

72. Kehagias A., Petridis V. Time Series Segmentation using predictive modular neural networks. // Neural Computation, 1997, vol.9, №8. — p. 1691-1709

73. Kobir A., Tasic J.F. Genetic algorithms and filtering. / / Genetic Algorithms in Engineering Systems: Innovations and Applications, 12-14 September 1995, Conference Publication No. 414, p. 343-348

74. Kristinsson К., Dumont G.A. System identification and contorol using genetic algorithms, j/ IEEE Transactions on System, Man, and Cybernetics, Vol. 22, No. 5, 1992. p. 1033-1046

75. Lai T.L. Control charts based on weighted sums, // Ann. Statist., 1974, vol.2. p. 134-147

76. Lai T.L. Gaussian processes, moving averages and quick detection problems. // Ann. Probab., 1973, vol.1. p. 825-837

77. Ljung L. Convergence analisis of parametric identification methods, j/ IEEE Transactions on Automatic Control, 1978, V. AC-23. p. 770-783

78. Maybeck P., Stochastic Models, Estimation and Control. Vol. 1. — New-York: Academic Press, 1979. 423 p.

79. Maybeck P., Stochastic Models, Estimation and Control. Vol. 3. — New-York: Academic Press, 1982. 291 p.

80. Mehra R.K., Peschon J. An innovations approach to fault detection and diagnosis in dynamic systems, // Automat.ica, 1971, №7. — p. 637-640

81. Mitchell M. An introduction to genetic algorithms. — MIT Press, 1998. — 221 p.

82. Murgu A. Optimization of Telecommunication Networks. — Lecture Notes, University of Jyvaa, 1999.

83. Neubauer A. The circular schema theorem for genetic algorithms and two-point crossover. // Genetic Akgorithms in Engineering Systems: Innovations and Applications, 2-4 September 1997, Conference Publication No. 446, p. 209-214

84. Nikiforov I., Varava V., Kireichikov V. Application of statistical fault detection algorithms for navigation systems monitoring. // Proc. IFAC/IMACS Symp. SAFEPROCESS'91, Baden-Baden, 1991, vol. 2. -p. 351-356

85. Perneel C. et al. Optimization of fuzzy expert systems using genetic algorithms and neural networks // IEEE Transactions on Fuzzy Systems, 1995,- Vol. 3, № 3. p. 332-341

86. Pilishkin V.N. Robust Control Algorithms for Intelligent Systems // "Vestnik"(the news) of BMSTU, No. 1,1998. p. 23-34

87. Pouliezos A.D., Stavrakakis G.S. Real Time Fault Monitoring of Industrial Processes. — Dordrecht: Kluver Academic Publishers, 1994. — 542 p.

88. Rao C.R. Linear Models (Least Squares and Alternatives). — Springer, 1999. 439 p.

89. Reeves C.R., Wright C.C. Genetic algorithms and statistical methods: a comparison. // Genetic Algorithms in Engineering Systems: Innovations and Applications, 12-14 September 1995, Conference Publication No. 414, p. 137-140

90. Roberts S.W. A comparison of some control charts procedures. // Technometrics, 1966, vol.8. p. 411-430

91. Romberg T.M., Black J.L., Ledwidge T.J. Signal Processing for Industrial Diagnostics. — Chichester: John Wiley & Sons, 1996. — 317 p.

92. Sami Fadali M., Zhang Y., Louis S.J. Robust stability analisis od descrete-time systems using genetic algorihms. // IEEE Transactions on System, Man, and Cybernetics, Vol. 29, No. 5, 1999

93. Segen J., Sanderson A.C. Detecting changes in a time series. // IEEE Transactions on Information Theory, 1980, IT-26(2), p. 249-255.

94. Seborg D.E. A perspective on advanced strategies for process control (revisited). // In. Advances in control: highlights of ECC'99. London: Springer-Verlag London Limited, 1999. — p. 103-134

95. Semoushin I.V., Yurjev A., Nikonorov A. Built-in selection of the best adaptation mechanism for INS error model identification. // ECCOMAS 2004, Jyvaskyla, Finland, 2004, part 2. p. 427-427

96. Shuthaharan S., Zhang Z., Sathananthan S. An improved Wiener filter using genetic algorithm. // Genetic Akgorithms in Engineering Systems: Innovations and Applications, 2-4 September 1997, Conference Publication No. 446, p. 75-78

97. Sorsa Т., Koivo H.N. Application of artificial neural network in process fault diagnosis. // Automatica 1993, №29. — p. 815-825

98. VarSek A., UrbanEii Т., Filipii B. Genetic algorithms in controller design and tuning. // IEEE Transactions on System, Man, and Cybernetics, Vol. 23, No. 5, 1993, p. 1330-1339

99. Whintley D. A genetic algorithm tutorial // Statistics and computing, 1994. p. 65-85

100. Zadeh L. Fuzzy logic, neural network and soft computing // Communications of the ACM.- 1994,- v.37, № 3. p. 65-83.