Нейросетевые и статистические алгоритмы выделения неоднородных участков и границ раздела случайных полей тема автореферата и диссертации по физике, 01.04.03 ВАК РФ

Маслов, Олег Владимирович АВТОР
кандидата физико-математических наук УЧЕНАЯ СТЕПЕНЬ
Воронеж МЕСТО ЗАЩИТЫ
2004 ГОД ЗАЩИТЫ
   
01.04.03 КОД ВАК РФ
Диссертация по физике на тему «Нейросетевые и статистические алгоритмы выделения неоднородных участков и границ раздела случайных полей»
 
Автореферат диссертации на тему "Нейросетевые и статистические алгоритмы выделения неоднородных участков и границ раздела случайных полей"

На правах рукописи

МАСЛОВ Олег Владимирович

НЕЙРОСЕТЕВЫЕ И СТАТИСТИЧЕСКИЕ АЛГОРИТМЫ ВЫДЕЛЕНИЯ НЕОДНОРОДНЫХ УЧАСТКОВ И ГРАНИЦ РАЗДЕЛА СЛУЧАЙНЫХ ПОЛЕЙ

Специальность 01.04.03 - «Радиофизика»

АВТОРЕФЕРАТ

диссертации на соискание ученой степени кандидата физико - математических наук

Воронеж-2004

Работа выполнена в Воронежском государственном университете

Научный руководитель - доктор технических наук,

профессор СИРОТА Александр Анатольевич

Официальные оппоненты: доктор физико-математических наук,

профессор

БАЗАРСКИЙ Олег Владимирович

Ведущая организация - Государственный научно-исследовательский

Защита состоится 20 января 2005 г. в 1540 на заседании диссертационного совета Д. 212 038.10 при Воронежском государственном университете по адресу: 394006, г. Воронеж, Университетская площадь, 1, ВорГУ, физический факультет, конф. зал

С диссертацией можно ознакомиться в библиотеке Воронежского государственного университета.

Автореферат разослан декабря 2004 г.

кандидат физико-математических наук, ПРИБЫТКОВ Юрий Николаевич

испытательный институт проблем технической защиты информации, г. Воронеж

Ученый секретарь

диссертационного совета

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

• Актуальность темы. Компьютерная обработка изображений относится к числу наиболее динамично развивающихся информационных технологий, применяемых в различного рода радиофизических системах, в том числе в системах радиолокации, аэрокосмического мониторинга поверхности Земли, в технической диагностике, физическом материаловедении. При обработке радиолокационных и оптических изображений в системах дистанционного зондирования земной поверхности решаются различные задачи сегментации пространственно распределенных объектов, обнаружения локализованных объектов, классификации типов земных покровов, измерения геометрических и ра-диояркостных характеристик. Решение этих задач базируется как на использовании различного рода эвристических методов, так и на основе синтеза алгоритмов в рамках статистической теории решений. В основе статистического синтеза лежит, как правило, использование математических моделей случайных полей, формирующих реализации для описания пространственно однородных объектов. Одной из важных задач является задача предварительного обнаружения локально-неоднородных участков и, на этой основе, границ пространственно распределенных объектов с целью их последующей сегментации и классификации. Решение этой задачи неоднократно рассматривалось как на основе эвристических методов (В. Прэтт, Р. Харалик, Дж. Превитт и др.), так и в рамках теории статистических решений (А. Джайн, Ч. Террайен, И.В. Никифоров, М. Бассвиль, А. Банвенист, В.В. Моттль, Н.В. Верденская и др.). Алгоритмы, реализованные на эвристической основе, с трудом поддаются попыткам получения количественных оценок эффективности, обладают слабой устойчивостью по отношению к влиянию шумов и не всегда работоспособны при выделении участков с неоднородной текстурой. Статистические алгоритмы также не всегда оказываются эффективными для реальных приложений: во-первых, крайне высока их вычислительная сложность при расчете функционалов правдоподобия для большого числа гипотез при неопределенности пространственного положения границ объектов; во-вторых, статистические модели изображений, для которых эти алгоритмы получены, не всегда хорошо аппроксимируют реальные изображения. Возникает вопрос о применении в указанных целях алгоритмов, построенных на основе искусственных нейронных сетей, которые, как известно, обладают способностью обучаться практически на любых исходных данных и позволяют при этом реализовывать экономные в вычислительном отношении алгоритмы принятия решений. Обоснование подобных алгоритмов (выбор используемого типопредставителя нейронной сети, архитектуры, параметров обучения) в большинстве случаев строится на эвристической и эмпирической основе. При этом зачастую трудно сделать какие-либо выводы относительно оптимальности сделанного выбора и близости полученных результатов к потенциально достижимым. Кроме того, при применении нейросетевых алгоритмов для обработки реальных изображений возникают сложности, связанные с получением представительных совокупностей данных для их обучения. В этом плане интерес представляет рассмотрение комбинированного подхода, основанного на сочетании аппарата

искусственных нейронных сетей и статистических алгоритмов анализа случайных полей, что, как можно ожидать, позволит выгодным образом сочетать их преимущества и избавиться от недостатков.

Таким образом, тема диссертации, связанная с разработкой нейросетевых, статистических и комбинированных алгоритмов для выделения неоднородных участков и границ раздела случайных полей и их применения для анализа реальных изображений пространственно распределенных объектов, получаемых в системах дистанционного зондирования земной поверхности, является актуальной.

• Целью работы является разработка и исследование моделей и алгоритмов выделения неоднородных участков и границ раздела случайных полей на основе нейросетевых и статистических методов обработки информации. Для достижения цели в диссертации рассматриваются и решаются следующие задачи.

1. Анализ известных методов и подходов к решению задач выделения неоднородных участков и границ изображений пространственно распределенных объектов при обработке изображений.

2. Проведение синтеза и сравнительного анализа эффективности и робаст-ности оптимальных и нейросетевых алгоритмов обнаружения локальных не-однородностей в интересах выделения границ раздела случайных полей на основе тестовой статистической модели неоднородностей.

3. Обоснование принципов построения последовательных алгоритмов обнаружения пространственной «разладки» в интересах выделения границы раздела случайных полей, синтезированных на основе авторегрессионных моделей, и исследование эффективности их функционирования с помощью методов имитационного моделирования.

4. Обоснование методики построения нейросетевых алгоритмов генерации текстур искусственных изображений авторегрессионного типа, а также рассмотрение применения полученных нейросетевых моделей изображений в комбинации с алгоритмами обнаружения «разладки» в интересах выделения границ пространственно распределенных объектов при обработке реальных изображений.

• Методы проведения исследования. При решении поставленных в диссертации задач использовались современные методы теории вероятностей и математической статистики, теории статистических решений, теории марковских случайных полей, аппарата искусственных нейронных сетей, методы математического анализа, численные методы и методы программирования.

• Основные результаты работы. На защиту выносятся следующие результаты, впервые достаточно подробно развитые или полученные в настоящей работе.

1. Синтезированные на основе введенной тестовой модели статистически оптимальные и нейросетевые алгоритмы обнаружения неоднородности в виде границы раздела гауссовских случайных полей и результаты исследования их эффективности и робастности.

2. Авторегрессионные модели случайных полей с границами произвольной формы и синтезированные на их основе алгоритмы выделения границ на основе обнаружения пространственной «разладки».

3. Нейросетевые алгоритмы моделирования текстур искусственных изображений авторегрессионного типа и результаты исследования их точности и адекватности.

4. Комбинированные алгоритмы определения границ пространственно распределенных объектов на основе сочетания алгоритмов обнаружения «разладки» и нейросетевых авторегрессионных моделей, обученных по реальным изображениям.

• Научная новизна результатов работы заключается в следующем.

1. При обосновании алгоритмов обнаружения неоднородностей получены соотношения для функционалов правдоподобия гауссовских случайных полей, заполняющих общую область (фрагмент изображения) и разделенных границей произвольной формы, а также выражения для ошибок обнаружения неоднородности при использовании критерия идеального наблюдателя. Обоснована архитектура нейросетевых алгоритмов аналогичного назначения. Проведен сравнительный анализ эффективности и робастности оптимальных и нейросетевых алгоритмов в условиях, отвечающих возможным ситуациям практического применения подобных алгоритмов, и показано, что предложенные нейросетевые алгоритмы обеспечивают эффективность обработки, близкую к потенциально достижимой на основе оптимальных. Одновременно показано, что нейросетевые алгоритмы являются более робастными по сравнению с оптимальными при отклонении параметров используемой модели неоднородности от номинальных.

2. Получены выражения для условных и безусловных плотностей распределения вероятности гауссовского неразделимого случайного поля с границами произвольной формы, формируемого на основе авторегрессионных моделей различного порядка. Для трехточечной модели приведены рекуррентные соотношения для условных и безусловных дисперсий и определены условия стационарности случайного поля. Синтезированы статистические алгоритмы определения положения границ раздела трехточечных неразделимых случайных полей методом обнаружения одномерной (построчной) и пространственной «разладок» и проведен сравнительный анализ их эффективности на примерах типовых ситуаций. Показано, что использование алгоритмов обнаружения пространственной «разладки» повышает вероятность правильного определения элемента границы в среднем от 20 до 50% по сравнению с однострочными методами в зависимости от степени различия параметров полей.

3. Впервые предложены нейросетевые алгоритмы моделирования (генерации) изображений пространственно распределенных объектов авторегрессионного типа, обучаемые непосредственно на реальных изображениях. Сформулированы рекомендации относительно структуры и параметров линейных и нелинейных нейронных сетей, используемых в качестве основных вычислительных элементов для проведения машинного синтеза изображений. Получены аналитические выражения, определяющие условия устойчивости нейросе-

тевых алгоритмов для девятиточечной (размера 3x3) неупреждающей области локальных состояний.

4. Предложена методика синтеза комбинированных статистических алгоритмов определения границы объектов на изображениях методами обнаружения «разладки» в сочетании с нейросетевыми, формирующими коэффициенты линейной и нелинейной авторегрессии. Обоснована эффективность данного подхода при выделении границ раздела пространственно распределенных объектов на реальных изображениях, обладающих различной текстурой.

• Практическая значимость. Предложенные в диссертации оптимальные, нейросетевые и комбинированные алгоритмы обнаружения неоднородных участков и оценивания местоположения границы раздела случайных полей, а также алгоритмы моделирования искусственных изображений могут быть использованы при обосновании принципов построения и разработке программных средств, систем обработки и анализа изображений. Полученные аналитические соотношения и результаты имитационного моделирования, направленные на оценку эффективности выполненных процедур анализа изображений, позволяют обоснованно выбирать необходимые режимы работы и параметры разработанных алгоритмов, реализуемых в конкретных системах в зависимости от имеющейся априорной информации и ограничений вычислительных ресурсов. Результаты работы могут найти практическое применение при проектировании и анализе информационных систем: автоматизированной обработки радиолокационных или оптических изображений, получаемых методами дистанционного зондирования; медицинской и технической компьютерной диагностики; искусственного зрения и анализа сцен в задачах робототехники; компьютерной графики для синтеза искусственных изображений.

• Обоснованность и достоверность результатов определяется понятной физической трактовкой основных результатов и выводов, совпадением полученных теоретических оценок с результатами модельного эксперимента, а также с данными обработки реальных изображений, данными сравнительного анализа характеристик используемых моделей формирования случайных полей и реальных изображений.

• Внедрение научных результатов. Полученные в диссертации результаты использованы в 5 ЦНИИИ МО РФ при выполнении плановых НИОКР, а также в НТЦ «Версия» при разработке программного обеспечения для обработки изображений, получаемых в системах дистанционного зондирования, что подтверждается соответствующими актами о реализации.

• Апробация работы. Основные положения диссертационной работы докладывались и обсуждались на:

• XIII, IX и X Международных научно-технических конференциях «Радиолокация, навигация и связь», Воронеж, 2002,2003,2004гг.

• I Всероссийской научной конференции «Проектирование научных приложений в среде Matlab», Москва, ИПУ РАН, 2002г.

• II научно-практической конференции «Мониторинг земель в системе управления ресурсами регионов России», Воронеж, 2003г.

• III международной конференции «Идентификация систем и задачи управления» SICPRO '04, Москва, ИЛУ РАН, 2004г.

• Публикации. По теме диссертации опубликовано 9 работ [1-9], в том числе 2 [1,5] в центральной печати.

• Объем и структура диссертационной работы. Диссертация состоит из введения, четырех глав, заключения и списка литературы, включающего 97 наименований. Объем диссертации составляет 176 страниц, включая 163 страницы основного текста, 3 страницы рисунков и 10 страниц списка литературы.

СОДЕРЖАНИЕ РАБОТЫ

• Во введении к диссертации обоснована актуальность темы, сформулированы цель и задачи работы, ее научная новизна, практическая значимость полученных результатов и научные положения, выносимые на защиту.

• В первой главе дается краткое описание современного состояния проблемы обнаружения и выделения неоднородностей и границ случайных полей при обработке изображений, определяется её место в рамках общей схемы цифровой обработки изображений. Рассматриваются известные методы выделения границ пространственно распределенных объектов и отмечаются сложности при синтезе алгоритмов выделения границ, использующих одновременно информацию об изменении амплитуды и текстуры. Вводится тестовая статистическая модель неоднородности в виде двух случайных полей Ij, Y2, заполняющих общую область (фрагмент изображения) размера и разделенных границей в пределах этой области (рис. 1)

У\ (', Л = (', j), i = 1 ,',•■ j = 1М,_

y2(i,j) = m2+Xi(i,j), i = ij+\,N, j = l,M,

где - неизвестные (случайные) значения постоянных составляющих амплитуды (интенсивности) -реализации марковских разделимых случайных полей описывающие стохастические составляющие полей y\2(i,j)\ 1 - номер элемента строки; j - номер строки изображения, заданного на двумерной сетке размером NxM . Граница случайных полей 'j= /О) описывается марковской цепью с переходными вероятностями

и вероятностями начальных состояний i1=2,N. Стохастические составляющие в наиболее простом случае формируются как реализации марковских разделимых случайных полей, генерируемых на основе модифицированного алгоритма, учитывающего краевые эффекты в области прохождения границы. Корреляционные функции стохастических составляющих полей в этом случае имеют вид Щ\2('>Л\2(к>т)]=: vh.lfxifz где рх\£, Ру\2 - коэффициенты пространственной корреляции вдоль осей ОХ

(1)

и 0Y, соответственно. Поля У], У2 наблюдаются в присутствии аддитивного шума

где АО,./) - известные коэффициенты; г(г,1/) - белое, в общем случае не обязательно гауссовское поле шума (М[у2(г,7)] = о^ ). Приведенные соотношения определяют используемую в дальнейшем тестовую статистическую модель неоднородности, возникающей в пределах рассматриваемого фрагмента изображения. Для моделирования наиболее интересных в практическом смысле видов неоднородностей в работе рассматриваются два эталонных варианта. Первый из них - неоднородность вида «перепад уровня» (граница определяет скачкообразное изменение среднего уровня амплитуды на величину

в данном виде модель принимает форму модели известного идеального двумерного перепада яркости. Второй вариант определяет неоднородность вида «изменение текстуры» (средние уровни амплитуды равны а радиусы пространственной корреляции двух полей различны

• Во второй главе рассматриваются вопросы синтеза алгоритмов обнаружения неоднородностей и выделения границ на основе введенной тестовой статистической модели, причем решение о наличии/отсутствии неоднородности и о местоположении границы раздела полей принимается целиком по рассматриваемому фрагменту изображения.

Синтезируется оптимальное по критерию идеального наблюдателя правило принятия решения о наличии неоднородности. Так как точное положение границы неизвестно, то выдвигается множество гипотез

- частная гипотеза, соответствующая совокупности координат положения элементов поля на границе раздела с - количе-

ство таких гипотез. В диссертации приведены соотношения для функционалов правдоподобия гауссовских случайных полей общего вида при наличии (гипотеза Я,) и отсутствии (гипотеза неоднородности. При вычислении функционалов фактически реализуется прямой перебор частных гипотез вк о расположении границы. Объем вычислений при этом имеет порядок элементарных операций, что ограничивает практическое применение алгоритма. В частном случае марковских разделимых случайных полей для ]• ОЙ строки исходного поля вводится расширенный вектор состояний

и вектор его наблюдения =(г(1,]), в присутствии шумов. Тогда записываются следующие

векторные уравнения для состояний и построчных наблюдений случайного поля в присутствии шумов: где

- вектор шума возмущений; - вектор

шума наблюдений; - преобразующие матрицы соответст-

вующей размерности, вид которых определяется параметром р^, задаваемым парой чисел ^ = = = описывающих положение границы в предыдущей и последующей строке изображения. Общее правило принятия решения по критерию идеального наблюдателя в этом случае получено в виде Щ н\ N0

к=1 Я2 к=1

М

Я0: (3)

\вк) = РХ{2М \вк) = П />(г,- кУ"1), Я,: ;=1

где .....- совокупность наблюдений после просмотра ] строк изо-

бражения; Р^] - матрицы ковариации ошибок оптимальных условных оценок |, которые получены на основе рекуррентных фильтров калмановского типа; - частные гипотезы о заполнении фрагмента полностью полем или У2, соответственно; Р1,РоиРй2 - априорные вероятности появления неоднородности и однородного заполнения фрагмента полями и (р> +.Р01 + А)2 =0- При вычислении функционалов правдоподобия в рамках марковской модели объем вычисление имеет порядок 1.33Л'2Л/2Л^ элементарных операций. Определение вероятностных характеристик полученного решающего правила в аналитической форме затруднено, поэтому в работе использована модификация расстояния Бхатачария для вычисления верхней границы вероятности ошибки, основанная на предположении о достаточной степени разделимости частных гипотез. Для полученного оптимального правила решения о наличии неоднородности были получены аналитические оценки верхних границ суммарной ошибки обнаружения при равных априорных вероятностях появления полей К], У2 (Ли = Р02 = Ро) и ПРИ сужении количества гипотез до одной \9' в виде

Рассмотрен вариант задачи обнаружения неоднородности, при которой параметры полей слева и справа могут изменяться симметрично в сторону, как увеличения, так и уменьшения с одинаковой вероятностью. В этом случае выражения для вероятности ошибки получены в точном виде

£=[1-Ф0(а1)]Ф0(а2) + Ф0(а1)[1-Фо(а2)]. «1 , (5)

где М.} -векторы математических ожиданий совокупности элементов областей слева (' = 1) и справа (¿ = 2) от границы при условии заполнения полями - соответствующие матрицы ковариации элементов полей Для решения задачи обнаружения неоднородности в рамках рассматриваемой модели предложена структура нейросетевого алгоритма (рис. 2), имеющая вид классического двухслойного персептрона с нелинейной функцией активации. На вход нейронной сети (НС) подается вектор , описывающий наблюдаемое изображение, на выходе сети принимается решение о его

принадлежности той или иной гипотезе по максимуму отклика соответствующего нейрона. Предложена методика обучения сети по результатам имитационного моделирования, основанная на генерации искусственных фрагментов изображений, полученных в рамках тестовой статистической модели неоднородности. Обучение производилось в пакетном режиме (веса корректировались после представления всей обучающей выборки) методом адаптивного спуска с расчетом градиента среднеквадратичной ошибки обучающей выборки как функции весов сети. Данная методика обучения НС обладает преимуществом перед обучением на реальных изображениях, которое заключается в том, что имеется возможность получить достаточно представительную выборку для эффективного обучения НС, в то время как процесс сбора адекватной по размерам обучающей выборки по реальным изображениям вследствие неконтролируемости материала и большого количества трудозатрат является трудно осуществимым на практике.

Для различных видов неоднородностей методами имитационного моделирования были получены оценки суммарной вероятности ошибки обнаружения х В первом случае набор параметров статистической модели для синтеза оптимальных алгоритмов и генерации обучающих выборок НС соответствовал модели неоднородности вида «перепад уровня». Оптимальный алгоритм был получен для дисперсий шума наблюдений (ОПТ1) и =100 (ОПТ2).

Одновременно использовалось две разновидности НС-алгоритма: не йросете-вой алгоритм (НС1), который в процессе обучения использовал реализации, полученные на статистической модели с изменяющимся уровнем аддитивного шума (<гг задавалось равновероятно в пределах от 1 до 10); нейросетевой алгоритм (НС2), при обучении которого использовалась обучающая выборка с фиксированным уровнем шума качестве параметра обнаружения рас-

сматривалась величина обобщенного отношения «сигнал-шум», задаваемого

как 5п = |Дт|/-\/о-2 + сгд , при этом в эксперименте изменялась только а2. Полученные зависимости величины е от Л представлены на рис. За.

0.

0.

о,

0.

I

а)

б)

Рис.3

При исследовании обнаружения неоднородности вида «изменение текстуры» в экспериментах определялась эффективность алгоритмов при изменении степени корреляции полей 2 =ехР(""а1,2)> формирующим неоднородность, по отношению к используемым при синтезе значениям. В частности, на рис. 36 представлены данные, когда для трех выбранных значений а2= !> 10 изменялось значение а1 в пределах от 0,02 до 10. В ходе выполненных исследований показано, что нейросетевой алгоритм при соответствии параметров тестовой модели параметрам модели, используемой при обучении, обеспечивает эффективность обработки достаточно близкую к достижимой на основе оптимального алгоритма. В то же время при отклонении тестовых данных от тех, которые используются при синтезе, НС-алгоритмы, демонстрируя способность к обобщению, являются более робастными по отношению к алгоритмам, полученным в рамках теории статистических решений (см. рис. 3). Указанное свойство было положено в основу построения НС-алгоритма для обработки реальных изображений. Его обучение целесообразно проводить на статистической модели, при этом необходимо обеспечить возможность масштабирования и регулирования чувствительности обнаружителя. В работе приведена методика синтеза НС-алгоритма с настраиваемой чувствительностью к величине скачка параметра обнаруживаемой неоднородности и показаны результаты работы полученного алгоритма на фрагментах реальных изображений земной поверхности.

• В третьей главе проводится анализ возможных принципов построения алгоритмов последовательного выделения границы методами обнаружения «разладки» с использованием авторегрессионных моделей формирования случайных полей на двумерных сетках произвольной формы. Приведены общие выражения для плотности распределения вероятностей реализации гауссовского случайного поля при использовании ,5 -точечной авторегрессионной модели. Для трехточечной неразделимой в общем случае модели случайного поля с границами произвольной формы

лад)=о, ¿(U) ,т)=р[Л (¿-и)+агхт~), HI ,л=руЩ,;-!)+> Ui,j)=Pxx(i - i,y)+Рух{и; -1)+л/О' - и -1)+о-^а /)

получены выражения для условных и безусловных плотностей вероятностей элементов. Их вид после задания граничных условий определяется следующими рекуррентными уравнениями для моментов (рис. 4а):

Р>4* = Р' +(РуР*+Р„) Jfi„ 1' "М РуЧ Ц

=°i+ P\°ni + (РуРщ I

Ж

Р^,=Ру+(Р,Р„ +А,)-,

"W+/V» = < + + (АЛ./+А, )2 —

К+РУ„ +р1о% +о*(рхр„ +руаМ1 , (6)

где -• условные моменты первого по-

рядка по вертикали и по горизонтали, соответственна - условные моменты второго порядка; а] - безусловная дисперсия

Г г

случайного поля; = рх , ру\^ = ру ,

<?*/,1 =СТх > ау\,] ~ ау ■ Получены соотношения, определяющие структуру алгоритмов определения границы раздела случайных полей при построчном сканировании для трех вариантов: при полной информации о параметрах полей, разделенных границей; при наличии информации о параметрах первого поля и о векторе направления изменений этих параметров при пересечении границы со вторым полем; при наличии информации о параметрах первого поля и граничном значении махалонобисова расстояния между векторами параметров первого и второго полей. Предложен комбинированный при движении по горизонтальным и вертикальным строкам алгоритм определения границы. Проведен синтез и анализ «разладочных» алгоритмов выделения границы раздела случайных полей на основе моделей двумерной авторегрессии. Для трехточечной марковской неразделимой модели поля синтезирован алгоритм нахождения границы методом обнаружения пространственной «разладки» с накоплением кумулятивной суммы

Ц =т£{/,&(0 >Ц, (х)+ =тах(0,х), (7)

1-п}'+1

где

гипотеза о форме расположения границы для двух соседних

г;2>

У—*р О О • • • •

(—fi> о (? • ( « • ,

% 'о =f-> N t

Г(2,

1 О О о • • •

) о о о • ф * • ,

1 ,0) •о б) 'о N t

I (2) 3

1 О О • • • • •

1 о о О • ( • • -

,1«! М)

'о 'о

в)

Рис.4

N t

строк (рис. 4);

разделенного границей; g< _ кумулятивная сумма

векторы параметров полей,

счетчик числа

наблюдений после последнего обнуления кумулятивной суммы - порог

принятия решения о наличии «разладки» (положения элемента Г в т -ой строке); - оценки точки (момента) «разладки», фиксируемая после превышения величиной порога . Значение определяется через

логарифм отношения правдоподобия в виде

который, как видно, состоит из нерегулярной части, вычисляемой при каждом обнулении значения кумулятивной суммы и учитывающей возможные формы границы, и регулярной части (последние две суммы), имеющей рекуррентный характер. Таким образом, алгоритм определения местоположения границы сводится к определению «моментов разладки» в виде положения границ при движении в заданном направлении и принятию решения в пользу гипотезы, для которой кумулятивная сумма первой превысила порог обнаружения к. С целью уменьшения объема вычислительных затрат при реализации алгоритма пространственной «разладки» разработан квазиоптимальный двухстрочный алгоритм определения границы, реализующий стратегию двухэтапного поиска

путем использования в качестве основного признака условной кумулятивной суммы по одной строке и сокращения области поиска граничного элемента до некоторой окрестности его положения, полученного на предыдущем этапе. Для типовых моделей произведено

исследование эффективности полученных алгоритмов

обнаружения «разладки» в интересах выделения границы случайных полей в рамках выделенного фрагмента

изображения. В качестве показателей эффективности использовались вероятность Р точного определения положения элемента границы между полями и среднеквадратичная ошибка е определения местоположения границы. На рис. 5 приведены полученные в ходе модельных экспериментов результаты исследования эффективности алго-

ритмов по отношению к изменению разности Ар радиусов корреляции полей для границы, фиксирующей изменение «текстуры». Здесь: AP1 - однострочный алгоритм обнаружения «разладки»; АРК1 — комбинированный алгоритм с поиском границы по горизонтальным и вертикальным строкам; АР2 - двухстрочный алгоритм обнаружения пространственной «разладки»; АРК2 -алгоритм обнаружения «разладки» с двухэтапным поиском. Показано, что использование алгоритма пространственной «разладки» повышает вероятность правильного определения элемента границы в среднем от 20 до 50% по сравнению с однострочными алгоритмами в зависимости от степени различия параметров полей.

• В четвертой главе проводится обоснование методики построения рекуррентных нейросетевых алгоритмов генерации искусственных изображений различных типов подстилающих поверхностей, приводится анализ устойчивости получаемых в рамках авторегрессионных моделей алгоритмов формирования полей, а также рассматривается возможность применения полученных нейросетевых моделей изображений в комбинации с «разладочными» алгоритмами для выделения границ объектов на реальных изображениях. Предложен подход к построению алгоритмов моделирования монохромных и цветных изображений пространственно распределенных объектов на основе искусственных нейронных сетей, обеспечивающего восстановление нелинейного оператора вида - совокупность векторов

р с, в т

Ук1 =(Ук1>Ук1'УЮ , каждый из которых характеризует распределение амплитуды изображения в каналах цветности на выходе моделирующего алгоритма значений - некоторая область новых локальных состояний изображения;

- совокупность векторов характеризующих

распределение амплитуды в каналах цветности на входе сети; - неупреж-дающая по обеим координатам область локальных состояний; - совокупность векторов центрированных возмущений Обос-

новано использование линейных и нелинейных типов нейронных сетей в качестве основных вычислительных структур для получения моделей изображения, а также рассмотрен вопрос об устойчивости полученных рекуррентных алгоритмов. Для размеров областей локальных состояний 2x2 и 3x3 элемента получены аналитические выражения, определяющие условия устойчивости. На примерах реальных изображений исследовано качество моделирования пространственно распределенных объектов и показана адекватность полученных моделей на основе вычисления статистических оценок параметров синтезированных и оригинальных изображений (математическое ожидание, дисперсия, функция пространственной корреляции). Установлено, что наиболее хорошее качество моделирования обеспечивают нелинейный и квазилинейный алгоритмы, при этом отклонение статистических оценок параметров реальных и искусственных изображений составило не более 15%.

Рассмотрена методика получения комбинированных алгоритмов выделения границ пространственно распределенных объектов на основе объединения нейросетевых авторегрессионных моделей изображений и статистических ал-

горитмов обнаружения «разладки». На примере реальных изображений пространственно распределенных объектов продемонстрирована работа

программного комплекса для исследования однострочных и пространственных алгоритмов выделения границы методом обнаружения «разладки». На рис. 6 в качестве примера представлены результаты работы алгоритма поиска двустрочной пространственной пространственной «разладки» (а) и классических алгоритмов, основанных на использовании масочных операторов: Собела (б), Пре-витта(в) и Кэнни (г). Как следует из рисунка, известные алгоритмы при определении граничных элементов формируют ложные локальные образования, обусловленные текстурным рисунком яркости. В то же время синтезированный алгоритм использует текстурную информацию совместно с яркостной, в результате показывая существенно лучшее качество обработки.

• В заключении подведены итоги по диссертационной работе в целом и сформулированы основные результаты, которые сводятся к следующему:

1. Выполнен синтез оптимальных и нейросетевых алгоритмов обнаружения неоднородности в пределах фрагмента изображений и проведен сравнительный анализ эффективности и робастности полученных алгоритмов в условиях, отвечающих возможным ситуациям практического применения.

2. Синтезированы статистические алгоритмы определения положения границ раздела случайных полей методами обнаружения одномерной (построчной) и пространственной «разладок» и проведен сравнительный анализ их эффективности для трехточечной неразделимой марковской модели случайного поля.

3. Предложены нейросетевые алгоритмы моделирования (генерации) изображений пространственно распределенных объектов авторегрессионного типа, обучаемые непосредственно на реальных изображениях. Получены аналитические выражения, определяющие условия устойчивости линейных нейро-сетевых алгоритмов для девятиточечной (размера 3x3) неупреждающей области локальных состояний.

4. Предложена методика синтеза комбинированных статистических алгоритмов определения границы объектов на изображениях методами обнаружения «разладки» в сочетании с нейросетевыми, формирующими коэффициенты линейной и нелинейной авторегрессии. Обоснована эффективность данного подхода при выделении границ раздела на реальных изображениях пространственно распределенных объектов.

• Основные результаты диссертации опубликованы в рабоТ)!?:"*

1.Маслов, О.В. Сравнительный анализ оптимального и нейросетевых алгоритмов определения границ раздела случайных полей при обработке изображений / А.А. Сирота, О.В. Маслов // Радиотехника. — 2001. — № 10. — С. 81-85.

2.Маслов, О.В. Обнаружение границы раздела марковских случайных полей / А.А. Сирота, О.В. Маслов // Материалы VIII международной научно-технической конференции «Радиолокация, навигация и связь». — Воронеж, 2002. — С. 29-33.

3.Маслов, О.В. Использование пакета Neural Network Toolbox для решения задачи обнаружения и выделения границ раздела случайных полей при обработке изображений / А.А. Сирота, О.В. Маслов // Материалы I Всероссийской научной конференции «Проектирование научных приложений в среде Matlab». — Москва, ИЛУ РАН, 2002. — С. 561-569.

4. Маслов, О.В. Анализ характеристик статистически оптимального и нейросе-тевого алгоритмов обнаружения локальных неоднородностей на изображениях / А.А. Сирота, О.В. Маслов // Материалы IX международной научно-технической конференции «Радиолокация, навигация и связь». — Воронеж, 2003. — С. 63-71.

5. Маслов, О.В. Нейросетевые и оптимальные алгоритмы обнаружения локально-неоднородных участков изображений / А.А. Сирота, В.Д. Попело, О.В. Маслов // Изв. высших учебных заведений. Радиоэлектроника. — 2003. — №9. — С . 66-74.

6. Маслов, О.В. Алгоритмическое и программное обеспечение решения задачи обнаружения и подсчета чистых паровых площадей на основе компьютерного анализа аэрофотоизображений поверхности Земли / В.Д. Попело, О.В. Маслов // Материалы II научно-практической конференции «Мониторинг земель в системе управления ресурсами регионов России». — Воронеж, 2003. — С. 62-65.

7. Маслов, О.В. Нейросетевые и статистически оптимальные алгоритмы принятия решений в задачах высокоточной координатометрии и обработки изображений / Э.А. Кирсанов, О.В. Маслов, А.А. Сирота // Труды III международной конференции «Идентификация систем и задачи управления» SICPRO '04. — Москва, ИЛУ РАН, 2004. — С. 1629-1652.

8. Маслов, О.В. Нейросетевые модели и алгоритмы имитации текстур цветных изображений земной поверхности / А.А. Сирота, О.В. Маслов // Материалы X международной научно-технической конференции «Радиолокация, навигация и связь» — Воронеж, 2004. — С. 232-240.

9. Maslov, O.V. Statistically optimal and neural network base approach for detecting local heterogeneities on images / O.V. Maslov, C. Sofroniou, С Markides // Cyprus Journal of Science and Technology. — 2004. — vol. 4. — № 1. — pp. 5-13.

Заказ №79$от/ .12 2004 г. Тираж ЛЯ?экз. Лаборатория оперативной полиграфии ВГУ

 
Содержание диссертации автор исследовательской работы: кандидата физико-математических наук, Маслов, Олег Владимирович

Введение.

1. Модели и методы решения задач обнаружения неоднородных участков и определения границ раздела случайных полей.

1.1 Типовые задачи выделения объектов на изображениях поверхности земли (выделение границ, оконтуривание, распознавание классов элементарных участков).

1.2 Известные подходы к решению задач выделения границ пространственно распределенных объектов.

1.3 Тестовая статистическая модель неоднородности в виде границы раздела случайных полей.

Выводы по главе.

2. Нейросетевые и статистически оптимальные алгоритмы обнаружения неоднородных участков, содержащих границы раздела случайных полей, и их применение при обработке реальных изображений.

2.1 Оптимальный алгоритм обнаружения участков с границей раздела случайных марковских полей и его эффективность.

2.2 Нейросетевые и статистически оптимальные алгоритмы обнаружения неоднородных участков.

2.2.1 Синтез и обучение нейросетевого алгоритма обнаружения неоднородных участков.

2.2.2 Сравнительный анализ эффективности оптимального и нейросетевого алгоритмов.

2.2.3 Обучение и использование нейросетевого алгоритма обнаружения неоднородных участков при обработке реальных изображений.

2.3 Нейросетевые и статистически оптимальные алгоритмы определения границ раздела случайных полей.

Выводы по главе.

3. Синтез и анализ алгоритмов выделения границ случайных полей на основе методов обнаружения разладки.

3.1 Авторегрессионные и вероятностные описания случайных полей, разделенных границей произвольной формы.

3.2 Синтез и анализ «разладочных» алгоритмов выделения границы раздела марковских полей на основе моделей двумерной авторегрессии.

3.2.1 Алгоритмы выделения границы на основе обнаружения «разладки» при построчных наблюдениях.

3.2.2 Алгоритмы выделения границы на основе обнаружения «пространственной разладки».

3.3 Исследование эффективности алгоритмов обнаружения «разладки» в интересах выделения границы раздела полей.

Выводы по главе.

4. Нейросетевые алгоритмы моделирования изображений пространственно распределенных объектов и их применение в задаче выделения границ.

4.1 Алгоритмы моделирования изображений подстилающей поверхности с использованием искусственных нейронных сетей.

4.2 Исследование качества моделирования различных типов пространственно распределенных объектов с использованием искусственных нейронных сетей.

4.3 Комбинированные алгоритмы выделения границ случайных полей и их использование при обработке реальных изображений.

Выводы по главе.

 
Введение диссертация по физике, на тему "Нейросетевые и статистические алгоритмы выделения неоднородных участков и границ раздела случайных полей"

Последние десятилетия наблюдается непрерывный рост вычислительных мощностей компьютерной техники, вызванный совершенствованием микропроцессорной элементной базы. В связи с этим значительно расширяется спектр задач, посильных для обработки средствами современной вычислительной техники. Появляется возможность наделить алгоритмы обработки информации интеллектуальными способностями, считавшимися до этого присущими лишь человеческому мозгу с его высокопараллельной структурой организации. Одной из задач, предъявляющих повышенные требования к средствам цифровой и вычислительной техники, является задача обработки изображений. Компьютерная обработка изображений относится к числу наиболее динамично развивающихся информационных технологий, применяемых при исследовании Земли, в робототехнике, полиграфии, медицине, физическом материаловедении и т.п. [33,56,73,89].

В информационных системах различного назначения, реализующих обработку изображений используют методы дистанционного зондирования: пользователь имеет возможность получать информацию об изучаемом объекте на расстоянии, в том числе на основе космических аппаратов коммерческого применения. Дистанционные методы, как правило, являются косвенными, то есть, с их помощью измеряются не параметры состояния объектов, такие, как тип, форма, местоположение, а косвенно связанные с ними величины [22]. Например, аппаратура спутника регистрирует лишь интенсивность светового потока в нескольких участках оптического диапазона длин волн. Эта информация, как правило, передается для обработки в виде цифровых изображений. Наземная обработка этих изображений производится с помощью компьютеров в рамках пунктов приема информации из космоса. Здесь и возникает потребность в синтезе эффективных оперативных алгоритмов обработки потока данных, поступающих в виде последовательности цифровых изображений.

Одной из важных задач, решаемых при обработке радиолокационных и оптических изображений, получаемых в системах дистанционного зондирования земной поверхности, является задача предварительного обнаружения локально-неоднородных участков и, на этой основе, границ пространственно распределенных объектов с целью их последующей сегментации и классификации. Решение этой задачи неоднократно рассматривалось как на основе эвристических методов [4,5,74,94,79], так и в рамках теории статистических решений в ряде работ [14,52,73,74,89,91]. По своей сути данная задача фактически является задачей обнаружения «разладки» [40-43] с учетом специфики определения случайных полей, используемых в качестве моделей изображений. В то же время, полученные в известных работах алгоритмы обработки часто оказываются неэффективными для реальных приложений: во-первых, крайне высока их вычислительная сложность при расчете функционалов правдоподобия для большого числа гипотез при неопределенности пространственного положения объектов; во-вторых, статистические модели изображений, для которых эти алгоритмы получены, не всегда хорошо аппроксимируют реальные изображения. Также следует отметить неустойчивое функционирование алгоритмов в условиях наличия помех.

С другой стороны, известны примеры применения альтернативных неклассических подходов и методов обработки информации в условиях существенной неопределенности относительно моделей обрабатываемых процессов и их статистических параметров. К числу подобных подходов относится концепция искусственных нейронных сетей. Считается, что первые шаги в области построения теории искусственных нейронных сетей были сделаны в 1943г. В. Мак-Калоком (W. McCulloch) и В. Питтсом (W. Pitts) [85]. Ими было показано, что при помощи пороговых нейронных элементов можно реализовать вычисление любых логических функций. В 1949г. Хебб предложил правило обучения, которое стало математической основой для обучения ряда нейронных сетей [76]. В 1957-1962гг. Ф. Розенблатт предложил и исследовал модель нейронной сети, которую он назвал персептроном. Результаты исследований он обобщил в книге «Принципы нейродинамики» [47], которая теперь имеет большое значение для теории нейронных сетей. В 1969г. М. Минский (М. Minsky) и С. Пайперт (S. Papert) опубликовали монографию «Персептроны» [86], в которой был дан математический анализ персептрона и показаны присущие ему ограничения. В 80-е годы исследования в области нейронных сетей значительно расширились. Д. Хопфилд (J. Hopfield) в 1982г. дал анализ устойчивости нейронных сетей с обратными связями и предложил использовать их для решения задач оптимизации [77]. В том же году Т. Кохонен (Т. Kohonen) разработал и исследовал самоорганизующиеся нейронные сети [82]. В 1986г. ряд авторов (Rumelhart, Hinton, Williams) предложил алгоритм обратного распространения ошибки [92], который стал мощным средством обучения многослойных нейронных сетей, являющихся на данный момент самой популярной сетевой архитектурой.

В настоящее время существует большое число практических реализаций нейросетевых алгоритмов обработки информации, применяемых в различных областях: при прогнозировании в экономике; в системах автоматизированного управления; в медицинской и технической диагностике при распознавании образов [17,20,38,45,55]. Известны также многочисленные примеры применения нейронных сетей при обработке изображений, достаточно подробный обзор которых дан в работах [21,72]. Спектр задач, решаемых в данной предметной области с помощью нейронных сетей, достаточно широк. Это предварительная обработка изображений (включая подавление шумов и геометрическую коррекцию) [39], сжатие радиолокационных и сканерных изображений [35], сегментация изображений [50,67], идентификация и классификация объектов [36,37], поиск и распознавание различного рода объектов [16].

В качестве основных и наиболее значимых преимуществ методов нейросе-тевой обработки изображений можно выделить [2]: возможность достижения потенциально более высокого показателя отношения «производительность/стоимость» для вычислительных средств по сравнению с «обычными» вычислительными средствами за счет широкомасштабного параллелизма применяемых элементарных операций; возможность в рамках единого методического аппарата решать различные задачи обработки изображений; возможность эффективного решения задач, традиционно относящихся к «трудно формализуемым» и «трудно решаемым» задачам; возможность эффективного решения задач в условиях неполной априорной информации.

Обоснование нейросетевых алгоритмов включает в себя выбор используемого типопредставителя сети, а также ее архитектуры, правил и параметров обучения, и в большинстве случаев строится на эвристической и эмпирической основе. При этом зачастую трудно сделать какие-либо выводы относительно эффективности сделанного выбора и близости полученных результатов к потенциально достижимым. Одним из возможных выходов в этой ситуации является проведение сравнительного анализа на тестовых моделях «сигналов и помех» эффективности и робастности нейросетевых и оптимальных в статистическом смысле алгоритмов обработки, когда теоретически возможно получение последних. Также, одним из существенных недостатков нейросетевого подхода являются трудности, связанные с получением данных для обучения алгоритмов обработки реальных изображений. В этой ситуации статистические алгоритмы обработки информации имеют несомненное преимущество, так как опираются на параметризованные модели случайных сигналов и полей.

Учитывая рассмотренные возможности статистических и нейросетевых алгоритмов, возникает идея реализации комбинированного подхода, позволяющего, по возможности, сочетать их преимущества и избавиться от недостатков. В плане задачи обработки изображений и, в частности, задачи выделения неоднородных участков и границ раздела пространственно распределенных объектов, представляется возможным рассмотреть два возможных варианта синтеза подобных алгоритмов. При первом из них предполагается использовать статистические параметризованные модели для генерации данных обучения нейронных сетей, способных затем обеспечить обработку реальных изображений. Статистически оптимальные алгоритмы, которые потенциально могут быть реализованы на таких моделях, могут быть использованы для контроля эффективности. Второй вариант предполагает, напротив, разработку статистических алгоритмов, для которых модели случайных полей и выделяемых на реальных изображениях пространственно распределенных объектов могут быть получены в рамках нейросетевого подхода. В своей совокупности исследования подобной направленности позволяют не только обеспечить практическую реализацию квазиоптимальных алгоритмов обработки изображений, но и дать объективную оценку возможностей различных методов обработки информации.

Таким образом, актуальность темы диссертации обусловлена необходимостью разработки нейросетевых, статистических и комбинированных алгоритмов для выделения неоднородных участков и границ раздела случайных полей, а также проведения сравнительного анализа эффективности полученных алгоритмов на тестовых статистических моделях и реальных изображениях пространственно распределенных объектов, получаемых в системах дистанционного зондирования земной поверхности.

Тема диссертации непосредственно связана с плановыми научно-исследовательскими работами, выполняемыми в ВГУ и других организациях.

Целью работы является разработка и исследование моделей и алгоритмов выделения неоднородных участков и границ раздела случайных полей на основе нейросетевых и статистических методов обработки информации. Для достижения цели в диссертации рассматриваются и решаются следующие задачи:

1. Анализ известных методов и подходов к решению задач выделения неоднородных участков и границ изображений пространственно распределенных объектов при обработке изображений.

2. Проведение синтеза и сравнительного анализа эффективности и робаст-ности оптимальных и нейросетевых алгоритмов обнаружения локальных неод-нородностей в интересах выделения границ раздела случайных полей на основе тестовой статистической модели неоднородностей.

3. Обоснование принципов построения последовательных алгоритмов обнаружения пространственной «разладки» в интересах выделения границы раздела случайных полей, синтезированных на основе авторегрессионных моделей, и исследование эффективности их функционирования с помощью методов имитационного моделирования.

4. Обоснование методики построения нейросетевых алгоритмов генерации текстур искусственных изображений авторегрессионного типа, а также рассмотрение применения полученных нейросетевых моделей изображений в комбинации с алгоритмами обнаружения «разладки» в интересах выделения границ пространственно распределенных объектов при обработке реальных изображений.

Методы проведения исследования. При решении поставленных в диссертации задач использовались современные методы теории вероятностей и математической статистики, теории статистических решений, теории марковских случайных полей, аппарата искусственных нейронных сетей, методы математи-г ческого анализа, численные методы и методы программирования.

Основные результаты, выносимые на защиту. На защиту выносятся следующие результаты, впервые достаточно подробно развитые или полученные в настоящей работе.

1. Синтезированные на основе введенной тестовой модели статистически оптимальные и нейросетевые алгоритмы обнаружения неоднородности в виде границы раздела случайных полей и результаты исследования их эффективности и робастности.

2. Авторегрессионные модели случайных полей с границами произвольной формы и синтезированные на их основе алгоритмы выделения границ на основе обнаружения пространственной «разладки».

3. Нейросетевые алгоритмы моделирования текстур искусственных изображений авторегрессионного типа и результаты исследования их точности и адекватности.

4. Комбинированные алгоритмы определения границ пространственно распределенных объектов на основе сочетания алгоритмов обнаружения «разладки» и нейросетевых авторегрессионных моделей, обученных по реальным изображениям.

Научная новизна результатов работы заключается в следующем.

1. При обосновании алгоритмов обнаружения неоднородностей получены соотношения для функционалов правдоподобия гауссовских случайных полей, заполняющих общую область (фрагмент изображения) и разделенных границей произвольной формы, а также выражения для ошибок обнаружения неоднородности при использовании критерия идеального наблюдателя. Обоснована архитектура нейросетевых алгоритмов аналогичного назначения. Проведен сравнительный анализ эффективности и робастности оптимальных и нейросетевых алгоритмов в условиях, отвечающих возможным ситуациям практического применения подобных алгоритмов, и показано, что предложенные нейросетевые алгоритмы обеспечивают эффективность обработки, близкую к потенциально достижимой на основе оптимальных. Одновременно показано, что нейросетевые алгоритмы являются более робастными по сравнению с оптимальными при отклонении параметров используемой модели неоднородности от номинальных.

2. Получены выражения для условных и безусловных плотностей распределения вероятности гауссовского неразделимого случайного поля с границами произвольной формы, формируемого на основе авторегрессионных моделей различного порядка. Для трехточечной модели приведены рекуррентные соотношения для условных и безусловных дисперсий и определены условия стационарности случайного поля. Синтезированы статистические алгоритмы определения положения границ раздела трехточечных неразделимых случайных полей методом обнаружения одномерной (построчной) и пространственной «разладок» и проведен сравнительный анализ их эффективности на примерах типовых ситуаций. Показано, что использование алгоритмов обнаружения пространственной «разладки» повышает вероятность правильного определения элемента границы в среднем от 20 до 50% по сравнению с однострочными методами в зависимости от степени различия параметров полей.

3. Впервые предложены нейросетевые алгоритмы моделирования (генерации) изображений пространственно распределенных объектов авторегрессионного типа, обучаемые непосредственно на реальных изображениях. Сформулированы рекомендации относительно структуры и параметров линейных и нелинейных нейронных сетей, используемых в качестве основных вычислительных элементов для проведения машинного синтеза изображений. Получены аналитические выражения, определяющие условия устойчивости нейросетевых алгоритмов для девятиточечной (размера 3x3) неупреждающей области локальных состояний.

4. Предл ожена методика синтеза комбинированных статистических алгоритмов определения границы объектов на изображениях методами обнаружения «разладки» в сочетании с нейросетевыми, формирующими коэффициенты линейной и нелинейной авторегрессии. Обоснована эффективность данного подхода при выделении границ раздела пространственно распределенных объектов на реальных изображениях, обладающих различной текстурой.

Практическая значимость работы. Предложенные в диссертации оптимальные, нейросетевые и комбинированные алгоритмы обнаружения неоднородных участков и оценивания местоположения границы раздела случайных полей, а также алгоритмы моделирования искусственных изображений могут быть использованы при обосновании принципов построения и разработке программных средств, систем обработки и анализа изображений. Полученные аналитические соотношения и результаты имитационного моделирования, направленные на оценку эффективности выполненных процедур анализа изображений, позволяют обоснованно выбирать необходимые режимы работы и параметры разработанных алгоритмов, реализуемых в конкретных системах в зависимости от имеющейся априорной информации и ограничений вычислительных ресурсов. Результаты работы могут найти практическое применение при проектировании и анализе информационных систем: автоматизированной обработки радиолокационных или оптических изображений, получаемых методами дистанционного зондирования; медицинской и технической компьютерной диагностики; искусственного зрения и анализа сцен в задачах робототехники; компьютерной графики для синтеза искусственных изображений.

Реализация научных результатов. Полученные в диссертации результаты использованы в 5 ЦНИИИ МО РФ при выполнении плановых НИОКР, а также в НТЦ «Версия» при разработке программного обеспечения для обработки изображений, получаемых при дистанционном зондировании (г. Климовск, Московская обл.), что подтверждается соответствующими актами о реализации.

Апробация работы. Основн ые положения диссертационной работы докладывались и обсуждались на:

1. XIII, IX и X Международных научно-технических конференциях «Радиолокация, навигация и связь», Воронеж, 2002, 2003, 2004гг.

2. I Всероссийской научной конференции «Проектирование научных приложений в среде Matlab», Москва, ИПУ РАН, 2002г.

3. II научно-практической конференции «Мониторинг земель в системе управления ресурсами регионов России», Воронеж, 2003г.

4. III международной конференции «Идентификация систем и задачи управления» SICPRO '04, Москва, ИПУ РАН, 2004г.

Публикации: По теме диссертации опубликованы 9 работ [23, 26-32, 84], в том числе 2 [29,32] в центральной печати.

Структура диссертационной работы. Диссертация состоит из введения, четырех глав, заключения и списка литературы.

 
Заключение диссертации по теме "Радиофизика"

Выводы по главе

1. Предложен подход к построению алгоритмов моделирования монохромных и цветных изображений пространственно распределенных объектов на основе аппарата искусственных нейронных сетей, обучаемых на эталонных изображениях. Обосновано использование линейных и нелинейных типов нейронных сетей в качестве основных вычислительных структур для получения моделей изображений. Рассмотрен вопрос об устойчивости полученных рекуррентных алгоритмов при генерации, для размеров областей локальных состояний 2x2 и 3x3 элемента получены аналитические выражения, определяющие условия устойчивости.

2. На примерах реальных изображений исследовано качество моделирования пространственно распределенных объектов с использованием искусственных нейронных сетей. Показана адекватность полученных моделей оригинальным изображениям с помощью статистических оценок параметров синтезированных изображений таких, как математическое ожидание, дисперсия, коэффициенты пространственной корреляции и двумерные корреляционные функции. Продемонстрированы примеры моделирования алгоритмами цветных изображений различных типов. Установлено, что наиболее хорошее качество моделирования обеспечивают нелинейный и квазилинейный алгоритмы, при этом отклонение статистических оценок параметров реальных и искусственных изображений составило не более 15%.

3. Рассмотрена методика получения комбинированных алгоритмов выделения границ пространственно распределенных объектов на основе объединения нейросетевых моделей изображений и статистических методов «разладки». Приведена блок—схема разработанного на основе комбинированных алгоритмов автоматизированного комплекса подпрограмм, реализующего выделение границ раздела пространственно распределенных объектов при обработке реальных изображений земной поверхности. На примере нескольких реальных изображений подстилающих поверхностей продемонстрирована работа комплекса комбинированных однострочных и двухстрочных пространственных алгоритмов выделения границы. Обоснована применимость полученных алгоритмов и показаны их преимущества такие, как: возможность обучаться на реальных изображениях; рекуррентный характер; простота программной реализации на современных вычислительных средствах.

Заключение

На основе проведенных в работе теоретических и экспериментальных исследований получены следующие основные результаты и выводы.

1. Предложена тестовая статистическая модель неоднородности в виде га-уссовских случайных полей с переменной постоянной составляющей и различной текстурой, наблюдаемых на фоне аддитивных гауссовских шумов и разделенных границей произвольной (случайной) формы в пределах общей области определения (фрагмента изображений). С использованием соотношений, определяющих пространственную динамику марковских разделимых полей в форме векторных разностных уравнений состояний и наблюдений, синтезированы и исследованы оптимальные в статистическом смысле алгоритмы обнаружения фрагментов, содержащих неоднородности различных типов. Обоснованы обучаемые на тестовой статистической модели нейросетевые алгоритмы выделения неоднородностей. Методом имитационного моделирования проведен сравнительный анализ эффективности и робастности оптимальных и нейросетевых алгоритмов в условиях, отвечающих возможным условиям практического применения подобных алгоритмов. Показано, что полученные нейросетевые алгоритмы при соответствии параметров тестовых данных параметрам данных, используемых при обучении, обеспечивают эффективность обработки близкую к потенциально достижимой. Одновременно установлено, что при отклонении тестовых данных от тех, которые используются при синтезе, нейросетевые алгоритмы являются более робастными по отношению к оптимальным алгоритмам, полученным в рамках теории статистических решений. Обоснована и апробирована методика построения нейросетевых алгоритмов с управляемой чувствительностью в интересах решения задач выделения неоднородностей при обработке реальных изображений.

2. Рассмотрены авторегрессионные вероятностные модели неразделимых случайных полей с границей произвольной формы. На их основе получены выражения для условных и безусловных плотностей распределения вероятностей реализации случайного поля на двумерной сетке произвольной формы. Синтезированы «разладочные» алгоритмы выделения границы раздела марковских полей на основе модели двумерной авторегрессии при построчном сканировании и при сканировании комбинированным методом по горизонтальным и вертикальным строкам. Получен алгоритм выделения границы методом пространственной «разладки» для трехточечной модели марковского неразделимого поля, а также разработан квазиоптимальный алгоритм определения границы, основанный на стратегии двухэтапного поиска. На типовых моделях неоднородностей произведено исследование эффективности полученных однострочных и пространственных алгоритмов обнаружения «разладки». Установлено, что использование метода пространственной «разладки» повышает вероятность правильного определения элемента границы в среднем от 20 до 50% по сравнению с однострочными методами в зависимости от степени различия параметров полей.

3. Предложены алгоритмы моделирования монохромных и цветных изображений пространственно распределенных объектов авторегрессионного типа на основе искусственных нейронных сетей, обучаемых на реальных изображениях. Обосновано использование линейных и нелинейных типов нейронных сетей в качестве основных вычислительных структур для получения моделей изображения. Рассмотрен вопрос об устойчивости полученных алгоритмов для случая линейных нейронных сетей при моделировании монохромных изображений и размеров области локальных состояний 2x2 и 3x3. В рамках предложенной методики впервые получены аналитические выражения для девятиточечной области (размера 3x3) локальных состояний, определяющие условия устойчивости. На примерах обработки реальных изображений показано, что нелинейный и квазилинейный алгоритмы демонстрируют наилучшее качество моделирования при размере области неупреждающих состояний 5x5 элементов, при этом отклонение статистических оценок параметров реальных и искусственных изображений составило не более 15%.

4. Предложен подход к решению задачи выделения границ случайных полей, основанный на использовании комбинированных алгоритмов, объединяющих нейросетевые авторегрессионные модели реальных изображений и статистические алгоритмы обнаружения «разладки». На его основе разработан программный комплекс, реализующий набор альтернативных вариантов автоматизированных процедур выделения границ раздела пространственно распределенных объектов при обработке реальных изображений земной поверхности. В ходе обработки реальных изображений природных объектов показано, что пространственные алгоритмы выделения границы на основе обнаружения «разладки» показывают лучшую эффективность работы по сравнению с известными алгоритмами, базирующимися на использовании операторов Собела, Превитта и Кэнни. Сделаны выводы о целесообразности применения полученных алгоритмов и подчеркнуты основные достоинства такого подхода такие, как: приемлемое качество обработки; возможность обучаться на реальных изображениях; рекуррентный характер, обеспечивающий повышение быстродействия.

Таким образом, поставленные задачи исследования решены и цель работы достигнута.

 
Список источников диссертации и автореферата по физике, кандидата физико-математических наук, Маслов, Олег Владимирович, Воронеж

1. Абрамеикова, И.В. Проблема устойчивости нейронной сети / Абраменкова И.В. // Нейрокомпьютеры: разработка, применение. — 2003.3.4 — С. 3-6.

2. Аляутдинов, А.И. Методы распараллеливания и программно-аппаратной реализации нейросетевых алгоритмов обработки изображений / А.И. Аляутдинов, А.И. Галушкин, JI.E. Назаров. // Нейрокомпьютеры: разработка, применение. — 2003. —№2. — С. 3-21.

3. Андреев, Г.А. Машинный синтез текстур, имитирующих земную поверхность / Г.А. Андреев, А.А. Потапов, Т.В. Галкина,

4. A.И. Колесников, Т.И. Орлова, Я.Л. Хлявич. // Исследование Земли из космоса. — 1989. —№ 1. — С.115-121.

5. Бакут, П.А. Сегментация изображений : методы пороговой обработки. / П.А. Бакут, Г.С. Колмогоров, И.Э. Ворновицкий. // Зарубежная радиоэлектроника. — 1987. — № 10. — С. 6-24.

6. Бакут, П.А. Сегментация изображения: методы выделения границ областей / П.А. Бакут, Г.С. Колмогоров. // Зарубежная радиоэлектроника.1987. — № 10. — С. 25-55.

7. Бондур, В.Г Методы и программы обработки и классификации аэрокосмических изображений / В.Г. Бондур, С.А. Старченков. // Известия высших учебных заведений: геодезия и аэрофотосъемка. — 2000. — № 3. — С.118-143.

8. Бондур, В.Г. Моделирование двумерных случайных полей яркости на входе аэрокосмической аппаратуры методом фазового спектра /

9. B.Г. Бондур. // Исследование Земли из космоса. — 2000. — № 5. — С.28-44.

10. Бондур, В.Г. Моделирование многоспектральных аэрокосмических изображений динамических полей яркости / В.Г. Бондур,

11. Н.И. Аржененко, В.Н. Линник, И.Л. Титова. // Исследование Земли из космоса. — 2003. — № 2. — С.3-17.

12. Бондур, В.Г. Принципы моделирования полей сигналов на входе аппаратуры ДЗ аэрокосмических систем мониторинга окружающей среды / В.Г. Бондур, А.И. Савин. // Исследование Земли из космоса. — 1995. — №4 — С.24-33.

13. Боуз, Н.К. Успехи и проблемы теории многомерных систем / Боуз Н.К. // ТИИЭР. — 1977. — т. 65. — №6. — С.9-29.

14. Быков, В.В. Цифровое моделирование в статистической радиотехнике / В.В. Быков. — М.:Советское радио, 1971. — 328с.

15. Бычков, А.А. Обнаружение изображений пространственно-протяженных затеняющих фон объектов / А.А. Бычков, В.А. Понькин. // Автометрия. — 1992. —№4. —С. 33^10.

16. Васильев, К. К. Методы фильтрации многомерных случайных полей / К.К. Васильев, В.Р. Крашенинников. — Саратов: Изд-во Сарат. Ун-та, 1990. — 128 с.

17. Верденская, Н.В. Сегментация изображений статистические модели и методы / Н.В. Верденская. // Успехи современной радиоэлектроники. — 2002. — № 12. — С. 33^17.

18. Виттих, В.А. Обработка изображений в автоматизированных системах научных исследований / В.А. Виттих, В.В. Сергеев, В.А. Сойфер. — М.: Наука, 1982. —216 с.

19. Головко, В.А. Нейронные сети: обучение, организация и применение. Кн. 4: Учеб. пособие для вузов / В.А. Головко, под ред. А.И. Галушкина. — М.: ИПРЖР, 2001. — 256с.

20. Даджон, Д. Цифровая обработка многомерных сигналов / Д. Даджон, Р. Мерсеро. — М: Мир, 1988. — 488с.

21. Джайн, А.К. Успехи в области математических моделей для обработки изображений / Джайн А. К. // ТИИЭР, 1981. — Т.69. — №5. — С. 9-39.

22. Дьяконов, В. Математические пакеты расширения MATLAB. специальный справочник / В. Дьяконов, В. Круглов. — СПб.: Питер, 2001. — 480с.

23. Забавин, А.Б. Использование искусственных нейронных сетей в задачах изучения Земли из космоса / А.Б. Забавин. // Исследование Земли из космоса. — 2000. — № 6. — С. 79-93.

24. Кашкин, В.Б. Дистанционное зондирование Земли из космоса. Цифровая обработка изображений : учебное пособие / В.Б. Кашкин, А.И. Сухинин. — М.: Логос, 2001. — 264 с.

25. Корн, Г. Справочник по математике для научных работников и инженеров / Г. Корн, Т. Корн. — М.: Наука, 1968. — 720с.

26. Кушнир, А.Ф. Статистические адаптивные алгоритмы для обнаружения сейсмических сигналов. / А.Ф. Кушнир, И.В. Никифоров, И.В. Савин. // Прогноз землетрясений и изучение строения Земли — М.: Наука, 1982. — с. 309-325.

27. Маслов, О.В. Нейросетевые и оптимальные алгоритмы обнаружения локально-неоднородных участков изображений / О.В. Маслов, В.Д. Попело, А.А. Сирота. // Изв. высших учебных заведений. Радиоэлектроника. — 2003. — №9. — С. 66-74.

28. Маслов, О.В. Нейросетевые модели и алгоритмы имитации текстур цветных изображений земной поверхности /О.В. Маслов, А.А. Сирота. // Материалы X международной научно-технической конференции «Радиолокация, навигация и связь» — Воронеж, 2004. — С. 232-240.

29. Маслов, О.В. Обнаружение границы раздела марковских случайных полей / О.В. Маслов, А.А. Сирота. // Материалы VIII международной научно-технической конференции «Радиолокация, навигация и связь» — Воронеж, 2002. — С. 29-33.

30. Маслов, О.В. Сравнительный анализ оптимального и нейросетевых алгоритмов определения границ раздела случайных полей при обработке изображений / О.В. Маслов, А.А. Сирота. // Радиотехника. — 2001. — № 10. —С. 81-85.

31. Методы компьютерной обработки изображений / Под ред. В.А. Сойфера. — М.: Физматлит, 2001. — 784 с.

32. Моттль, В.В. Скрытые марковские модели в структурном анализе сигналов / В.В. Моттль, И.Б. Мучник — М.: Физматлит, 1999. — 352с.

33. Назаров, JI.E. Применение искусственных нейронных сетей для сжатия РСА- и сканерных изображений / JI.E. Назаров // Исследование Земли из космоса. — 1999. — № 5. — С. 44-50.

34. Назаров, JI.E. Применение многослойных нейронных сетей для идентификации радиолокационных изображений земной поверхности / JI.E. Назаров. // Нейрокомпьютеры: разработка, применение, 2000. — № 1. —С. 25-31.

35. Назаров, JI.E. Применение многослойных нейронных сетей для классификации земных объектов на основе анализа многозональных сканерных изображений / JI.E. Назаров. // Исследование Земли из космоса, 2000. — № 6. — С. 41-50.

36. Нейроинформатика / А.Н. Горбань и др.. — Новосибирск: Наука. Сибирское предприятие РАН, 1998. — 296с.

37. Нейрокомпьютеры в системах обработки изображений, кн. 7 : коллективная монография / под ред. А.И. Галушкина. — М. Радиотехника, 2003. — 192с.

38. Никифоров, И.В. Модификация и исследование процедуры кумулятивных сумм / И.В. Никифоров. // Автоматика и телемеханика. — 1980. —№9. —с. 74—80.

39. Никифоров, И.В. Последовательное обнаружение изменения свойств временных рядов / И.В. Никифоров. — М.: Наука, 1983. — 200с.

40. Никифоров, И.В. Применение кумулятивных сумм для обнаружения изменения характеристик случайного процесса / И.В. Никифоров. // Автоматика и телемеханика. — 1979. — № 2. — с. 48-50.

41. Обнаружение изменения свойств сигналов и динамических систем / под ред. М. Бассвиль, А. Банвениста. — М.: Мир, 1989. — 278с.

42. Обработка изображений и цифровая фильтрация / под ред. Т. Хуанга.— М.: Мир, 1979. —318с.

43. Осовский, С. Нейронные сети для обработки информации / С. Осовский. — М.: Финансы и статистика, 2002. — 344с.

44. Попело, В.Д Совместное оценивание границ и случайных полей изображений при построчных наблюдениях / В.Д. Попело, А.А. Сирота. // Радиотехника, 2000. — №10. — С.65-73.

45. Розенблатт, Ф. Принципы нейродинамики : персептрон и теория механизмов мозга : пер. с англ / Ф. Розенблатт. — М.: Мир, 1965. — 480с.

46. Розенфельд, А. Распознавание изображений. / А. Розенфельд. // ТИИЭР. — 1981. —т. 69. —№5. —С. 120-133.

47. Розенфельд, А. Сегментация и модели изображения / А. Розенфельд, Л.С. Дейвис. // ТИИЭР. — 1979. — т. 67. — № 5. — С. 71-81.

48. Самойлин, Е.А. Оценка эффективности алгоритмов фильтрации-сегментации изображений / Е.А. Самойлин. // Автоматика и вычислительная техника. — 2004. — № 2. — С. 62-70.

49. Сирота, А.А. Информационное обеспечение радиоэлектронных систем в условиях конфликта / А.А. Сирота, В.Г. Радзиевский. М.: ИПРЖР, 2001. -456 с.

50. Террайен, Ч. У. Алгоритмы анализа изображений, основанные на статистических моделях. / Ч.У. Террайен, Т.Ф. Куатьери, Д.Е. Даджон. // ТИИЭР, 1986. — т. 74. — № 4. — С. 4-25.

51. Теряев, Е.Д. Цифровые системы и поэтапное адаптивное управление / Е.Д. Теряев, Б.М. Шамриков. — М.:Наука, 1999. — 330с.

52. Трифонов, А.П. Обнаружение стохастического изображения с неизвестными параметрами при наличии фона с неизвестными параметрами / А.П. Трифонов, Ю.Н. Прибытков. // Радиоэлектроника. — 2002. — № 9. — Т.45. — С.10-20.

53. Уоссермен, Ф. Нейрокомпьютерная техника. / Ф. Уоссермен. — М.: Мир, 1992. — 184с.

54. Форсайт, Д.А. Компьютерное зрение. Современный подход / Дэвид А. Форсайт, Джин Понс. — С.П.: Вильяме, 2004. — 928 с.

55. Фуку нага, К. Введение в статистическую теорию распознавания образов / К. Фукунага. — М.: Наука, 1979. — 368 с.

56. Хабиби, А. Двумерная байесовская оценка изображений / А. Хабиби. // ТИИЭР. — 1972. — Т.60. — №7. — С. 153-159.

57. Ярлыков, М.С. Оптимальное нелинейное оценивание гауссовских разделимых случайных полей в радиотехнических задачах / М.С. Ярлыков, В.И. Швецов. // Радиотехника. — 1997. — №1. — С. 4856.

58. Bartz, M.R. The IBM 1975 optical page reader, II: video thresholding system / M.R. Bartz // IBM J. Research and Development, 1968. — № 12. — pp. 354363.

59. Basseville, M. Edge detection using sequential methods for change in level, part I, A sequential edge detection algorithm / M. Basseville, B. Espiau. // IEEE Trans, on A.S.S.P, ASSP-29. — 1981. — № 1. —pp. 16-31.

60. Beucher, S. The morphological approach to segmentation: the watershed transformation / S. Beucher, F. Meyer. // Mathematical Morphology in Image Processing, E. R. Dougherty, ed., 1993 —New York: Marcel Dekker.— 347 p.

61. Bose, N.K. Implementation of a new stability test for two-dimensional filters / N.K. Bose. // IEEE Trans. Acoustics, Speech and Signal Processing. — 1977.1. Vol.25. —pp. 117-120.

62. Bose, N.K. Simplification of multidimensional digital filter stability test / N.K. Bose. // Journal of the Franklin Institute. — 1993. — Vol.330. — №5. — pp.905-911.

63. Brice, C.R. Scene analysis using regions / C.R. Brice, C.L .Fenema. // Artificial Intelligence, 1970. — pp. 205-226.

64. Canny, J. A computational approach to edge detection / J. Canny. // IEEE Trans. Pattern Analysis and Machine Intelligence, PAMI-8. — 1986. — № 6.pp. 679-698.

65. Chandrasekaran, V. Range image segmentation by dynamic neural network architecture / V. Chandrasekaran, M. Palaniswami, T.M. Caelli. // Pattern Recognition. — 1996. — vol. 29. — № 2. — pp. 315-329.

66. Chen, P.C. Image segmentation as an estimation problem / P.C. Chen, T. Pavlidis. // Computer Graphics and Image Processing, 1980. — vol. 12. — №2.—pp. 153-172.

67. Chow, C.K. Boundary detection of radiographic images by a threshold method / C.K. Chow, T. Kaneko. // Frontiers of pattern recognition S. Watanabe, ed.,

68. New York: Academic Press, 1972. — pp. 61-82

69. Coleman, G.B. Image segmentation by clustering / G.B. Coleman, H.C. Andrews. // Proc. IEEE, 1979. — vol. 67. — № 5. — pp. 773-785.

70. Doyle, W. Operations useful for similarity-invariant pattern recognition / W. Doyle. // J. Association for Computing Machinery. — 1962. — vol. 9.— № 2. —pp. 259-267.

71. Egmont-Petersen, M. Image processing with neural networks a review / M. Egmont-Petersen, D. de Ridder, H. Handels. // Pattern Recognition. — 2002. — vol. 35. — № 10. — pp. 2279 - 2301.

72. Gonzalez, R.C. Digital image processing (2nd edition) / Rafael C. Gonzalez, Richard E. Woods. — Addison-Wesley Pub Co, 2002. — 793 p.

73. Haralick, R.M. Image Segmentation Techniques / R.M. Haralick, L.G. Shapiro. // Computer Vision, Graphics, and Image Processing. — 1985.vol. 29. — № 1. — pp 100-132.

74. Haralick, R.M. Pattern recognition with measurement space and spatial clustering for multiple images / R.M. Haralick, G.L. Kelly. // Proc. IEEE. — 1969. — vol. 57. — № 4. — pp. 654-665.

75. Hebb, D. The organization of behavior / D. Hebb. — New York: Wiley, 1949.335p.

76. Hopfield, J. Neural Networks and physical systems with emergent collective computational abilities // Proc. of the National Academy of Sciences USA. — 1982. —pp. 2554-2558.

77. Huang, T.S. Stability of two-dimensional recursive filters. / Huang T.S. // IEEE Trans. Audio and Electroacoust. — 1972. — №6. — Vol.20. — pp. 158163.

78. Hueckel, M. An operator which locates edges in digital pictures / M. Hueckel. // J. Association for Computing Machinery. — 1971. — vol. 18. — № 1. — pp. 113-125.

79. Jahne, B. Digital image processing : with CD-ROM / Bernd Jahne. — Berlin: Springer, 2002. — 572 p.

80. Kato, Z. Unsupervised parallel image classification using Markovian models. / Z. Kato, J. Zerubia, M. Berthod. // Pattern Recognition. — 1999. — vol. 32. — №4.—pp. 591-604.

81. Kohonen, T. Self-organized formation of topologically correct feature maps // Biological Cybernetics. — 1982. — № 323. — pp. 533-536.

82. Maria, G.A. On the stability of two-dimensional digital filters / G.A. Maria, M.M. Fahmy. // IEEE Trans, on Audio and Electroacoustics. — 1973. — № 10.—pp. 470-472.

83. Markides, C. Statistically optimal and neural network base approach for detecting local heterogeneities on images / O.V. Maslov, C. Sofroniou. // Cyprus Journal of Science and Technology. — 2004. — vol. 4. — № 1. — pp. 5-13.

84. McCulloh, W. A logical calculus of the ideas immanent in nervous activity // Bulletin of Mathemetical Biophysics. — 1943. — № 5. — pp. 115-133.

85. Minsky, M. Perceptrons: An introduction to Computational Geometry / M. Minsky, S. Papert. — The MIT Press, 1969 — 243p.

86. Muerle, J.L. Experimental evaluation of techniques for automatic segmentation of objects in a complex scene / J .L. Muerle, D .C. Allen. / / P ictorial P attern Recognition, 1968. — Washington: Thompson. —pp. 3-13.

87. Papamarkos, N.A new approach for multilevel threshold selection / N. Papamarkos, B. Gatos. // CVGIP: Graphical Models and Image Processing. — 1994. — vol. 56. — № 5. — pp. 357-370.

88. Pratt, W.K. Digital image processing: PIKS inside, 3rd edition / William K. Pratt. — New York: John Wiley and Sons, 2001. — 656 p.

89. Prewitt, J.M.S. The analysis of cell images / J.M.S. Prewitt, M.L. Mendelsohn. // Ann. New York Academy of Science. — 1966. — vol. 128. — pp. 10361053.

90. Rosenfeld, A. From Image Analysis to Computer Vision: An Annotated Bibliography, 1955-1979 / A. Rosenfeld. // Computer Vision and Image Understanding. — 2001. — № 84. — pp. 298 324.

91. Rumelhart, D. Learning representation by backpropagation errors / D. Rumelhart, G. Hinton, R. Williams. // Nature. — 1986. — № 323. — pp. 348-353.

92. Sanlcur, B. Assessment of thresholding algorithms for document processing / B. Sankur, A.T. Abak, and U. Baris. // Proc. IEEE International Conference on Image Processing, Kobe, Japan. — 1999. — vol. 1. — pp. 580-584.

93. Weska, J.S. A survey of threshold selection techniques / J.S. Weska. // Computer Graphics and Image Processing. — 1978. — vol. 7. — № 2. — 259-265.

94. Weska, J.S. A threshold selection technique / J.S. Weska, R.N. Nagel, A. Rosenfeld. // IEEE Trans. Computers. — 1974. — vol. 23. — № 12. — pp. 1322-1326.

95. Woods, J.W. Two-dimensional discrete Markovian fields / J.W. Woods. // IEEE Trans. Inform. Theory. — 1972. — vol. 18. — pp. 232-240.

96. Yamada, M. Further results on Bose's 2d stability test / M. Yamada, L. Xu, O. Saito // Perpignan: Proceedings of MTNS2000. — 2000. — (http://www.univ-perp.fr/mtns2000/articles/SI20A 6.pdf).