Конструктивные методы решения задач сосвободными границами в проблемах криомедицины тема автореферата и диссертации по математике, 01.01.03 ВАК РФ

На правах рукописи

РГВ 01

7 П НПП

Буздов Аслан Каральбисвич

Конструктивные методы решения задач со свободными границами в проблемах криомедицины

Специальность 01.01.03 - "Математическая физика"

Автореферат

диссертации на соискание ученой степени кандидата физико-математических наук

Нальчик - 2000

На правах рукописи

Буздов Аслан Каральбиевич

Конструктивные методы решения задач со свободными границами в проблемах криомедицины

Специальность 01.01.03 - "Математическая физика"

Автореферат

диссертации на соискание ученой степени кандидата физико-математических наук

Нальчик-2000

Работа выполнена в Кабардино-Балкарской государственной сельскохозяйственной академии.

Научный руководитель: доктор физико-математических

наук, профессор Шхануков-Лафишев М.Х.

Официальные оппоненты: доктор физико-математических

наук, профессор Ашабокоз Б.А.

кандидат физико-математических наук, доцент Кашев В.М.

Ведущая организация: Вычислительный Центр Российской

Академии Наук

Защита диссертации состоится декабря 2000 г. в

часов на заседании специализированного совета К063.88.06 при Кабардино-Балкарском государственном университете по адресу: 360004, г. Нальчик, ул. Чернышевского, 173.

С диссертацией можно ознакомиться в библиотеке КБГУ. Автореферат разослан ноября 2000 г.

Ученый секретарь ДС К063.88.06: к. ф.-м. н.

Кайгермазов А.А.

Общая характеристика работы.

Актуальность темы. Одним из основных направлений современной математической физики является исследование математических моделей, в основе которых лежат нелинейные дифференциальные уравнения. Нелинейный подход дает возможность охватить тонкие, наиболее важные черты явлений, ускользающие при линейной трактовке. Однако в математическом плане его реализация усложняется серьезными затруднениями как в фундаментальных исследованиях нелинейных краевых задач, так и при доведении этих исследований до практически реализуемых алгоритмов.

Диссертационная работа посвящена исследованию двумерных краевых задач типа Стефана, возникающих при математическом моделировании проблем криохирургии, включая вопросы качественного анализа и разработку конструктивных методов решения с доведением до алгоритмов и программ численных расчетов на ЭВМ.

Многочисленные научные публикации, экспериментальные и клинические исследования свидетельствуют о бурном развитии криохирургии в настоящее время, показывают ее перспективность как клинического метода лечения самых разнообразных заболеваний. Криохирургия считается точным и управляемым процессом, но знакомство с литературой показывает, что в ее использовании много неясного и неизученного. До настоящего времени не достаточно исследованы медико-биологические, биофизические и инженерные аспекты криохирургии. Четко не сформулированы показания и противопоказания, отсутствуют методики применения при различной патологии, не изучены общие и локальные реакции организма на криохирургическую операцию. Недостаточно оценены отдельные результаты. Все это приводит к тому, что криохирургические операции проводятся эмпирически, врач не знает, каким будет объем образующейся деструкции в зависимости от выбора той или иной экспозиции, температуры криоинструмента, геометрии его аппликатора.

Для ряда теоретических и поставленных клиникой практических задач необходимо выяснить целый ряд вопросов. Наиболее важным является определение динамики температурного поля в охлаждаемых и замораживаемых биотканях, позволяющее рассчитывать экспозицию и время достижения стационарного состояния, изотермические поверхности криопоражения и замораживания, по конфигурации которых находятся объемы разрушаемой и замораживаемой области, то есть устанавливаются все параметры, необходимые для расчета, прогноза и оптимизации процесса.

Математические модели эволюции температурного поля в замораживаемых и охлаждаемых биотканях представлены наиболее сложными задачами математической физики - задачами типа Стефана со свободной подвижной границей и с источниками, зависящими нелинейно от искомых полей. Задачам типа Стефана, имеющим место при криогенных процессах, посвящены работы А.А.Березовского, АА.Белолипецкого. Для таких задач остаются актуальными вопросы существования и единственности решения, а также разработка эффективных аналитических и приближенных численно-аналитических методов решения с доведением до алгоритмов и программ численных расчетов на ЭВМ. Разработке эффективных методов решения подобных задач посвящены работы А.А.Самарского, Б.М.Будака, В.И.Мажукина.

Вышеизложенное говорит об актуальности диссертационной темы.

Цель работы. Целью работы является исследование двумерных краевых задач типа Стефана, возникающих при математическом моделировании динамики тепловых процессов в криомедицине, включающее рассмотрение вопросов разрешимости, разработку эффективных конструктивных методов решения, детальный их анализ и решение конкретных типичных задач, важных для практической медицины.

Общие методы исследования. В работе применяются методы квазилинеаризации нелинейных уравнений, сглаживания коэффициентов, локально-одномерный метод.

Научная новизна и практическая ценность. В диссертационной работе

1. Предложены новые по постановке двумерные двухфазные задачи типа Стефана для нелинейных, нестационарных эволюционных уравнений, моделирующих распространение тепла в биоткани при проведении криохирургических операций.

2. Адаптированы к этим задачам ранее известные конструктивные методы исследования: метод сглаживания, позволяющий рассматривать задачи во всей области без явного выделения границы раздела фаз, метод квазилинеаризации, при помощи которого была достигнута сходимость итерационных процессов, локально-одномерный метод, сводящий решение исходной двумерной нелинейной задачи к решению последовательности одномерных задач.

3. Предложены итерационные методы решения нелинейных краевых задач и численно исследована их сходимость.

4. Поставлены и численно решены двумерные краевые задачи типа Стефана в прямой и обратной постановке для крионнст-рументов в форме прямоугольной и треугольной призмы, цилиндра, конуса.

5. Численно исследована зависимость скорости распространения границ фазовых переходов от коэффициентов теплообмена между криоинструментом и биотканью, внешней средой и организмом, размеров и формы аппликатора и т.д.

6. Обнаружено в результате численных расчетов, что изотерма границы зоны замерзания ткани близка к форме инструмента в начальной фазе процесса, а затем сглаживается.

7. Показано, что время стабилизации при температуре криоин-струмента -90°С составляет 300-350 секунд, что соответствует реально наблюдаемым данным.

Полученные в диссертации результаты могут быть применены к расчету режимов низкотемпературного воздействия на биоткань, определению значения параметров процесса замораживания, а также при конструировании и совершенствовании криоинструментов.

Апробация работы. По материалам диссертации сделаны доклады на международной научно-технической конференции «Системные проблемы надежности, математического моделирования и информационных технологий» (Сочи, 19982000 гг.), на объединенном семинаре по математической физике и вычислительной математике МФ КБГУ (2000 г.), на семинаре по современному анализу, информатике и физике НИИ ПМА КБНЦ РАН (2000 г.).

Публикации. Основные результаты выполненных исследований опубликованы в 8 работах.

Структура и объем диссертации. Диссертация состоит из введения, трех глав, приложения, списка литературы (165 назв.) и содержит 108 страниц машинописного текста.

Содержание работы.

Во введении обоснована актуальность и практическая значимость диссертации, сформулирована цель работы, дан краткий обзор существующей по этой тематике литературы, изложена структура и содержание диссертации.

Первая глава диссертации состоит из четырех параграфов. В ней дается краткая общая характеристика задач типа Стефана и вопросов, связанных с их решением; описывается эффект пространственной локализации при распространении температурного поля в активных средах с возникающими точечными источниками тепла.

Основное внимание в первой главе уделено следующей начально-краевой задаче плоско-параллельной криодеструк-ции биоткани:

S' -

ax

Я(и)— \ - c(u)p(u)— = -w(u)~ P^— s( x-x ,

K,dx) y,yKJ8t W dt V J (I)

dx at

n(x, O) = 11 = const, x > 0,

Д(г/)--au-~auA, л:=0, ¿>0,

dx

u{xn(i),t)=un, i^x*(t),?J=i *,

x'(t) = 0, t<tx, xn{t) = 0, i<i2, i2>i, (2)

Здесь А = с =c(«), p - p(ti) - коэффициенты теп-

лопроводности, теплоемкость и плотность биоткани соответственно: w - w(/i) - функция, характеризующая источники тепла; х* = х (?) и хл — хп (tj - координаты изотермы замораживания и — и* и изотермы криопоражения и = и п; Р - р Ап ; Ав- скрытая теплота кристаллизации воды; р*, рхл - плотность внеклеточной и внутриклеточной жидкости биологической ткани; S{x) - дельта-функция Дирака,

и = const - начальная температура ткани; а - коэффициент теплообмена; ид = иА (/) - температура охлаждающей поверхности плоского криоинструмента; // и 12 -моменты времени, при которых поверхность биоткани х~0 охлаждается соответственно до температуры замораживания и(0, tt) -и и криопоражения и(0,(2)

Наряду с температурным полем u(x,t), определяются координаты границ фазовых переходов x*=x*(t), xn=xn(t). Существенной особенностью поставленной выше задачи является пространственная локализация теплового поля.

Для решения задачи (1), (2) вводится функция теплосодержания

после чего применяется метод сглаживания коэффициентов и уже для решения "сглаженной" задачи применяется чисто неявная разностная схема. Сглаживание коэффициента теплопроводности, а также функции теплосодержания позволяет избавиться от условий сопряжения на неизвестных границах раздела фаз. Последние определяются по решению «сглаженной» задачи как соответствующие изотермы.

Во второй главе рассматриваются двумерные краевые задачи типа Стефана, возникающие в криохирургии.

В §1 описан локально-одномерный метод, применяемый при решении многомерных задач и используемый в дальнейшем. Он состоит в поэтапном решении по разным пространственным переменным одномерных уравнений теплопроводности при помощи устойчивых неявных схем. Локально-одномерный метод пригоден для произвольных областей в случае краевых условий 1-го рода, а в случае условий 3-го рода - для областей специального вида.

В §2 описывается двумерная постановка задач типа Стефана с явным выделением границы раздела фаз.

В §3 рассматривается двумерная начально-краевая задача типа Стефана для случая, когда криоинструмент имеет форму прямоугольной призмы и достаточно протяжен. Задача решается в прямоугольной области, а соответствующие уравнения выглядят следующим образом:

Н

О

— (А(н)—) +—(А(и)—) - — = МЧ (х>У) б О, I > О,

ох ох ду ду от

и

(где Я(и) - ¡сфр^Щ +• Рф -и*) + РоП(и - ип),

о

И'(и)~Ч>о(и -и/)

п(х,у,0) = и = СОПБ^ (х, у) 6 П,

Я(и)— + аи = аг^, (х,у)<=ВС, / > О, су

01(

Я(и)—- + ак = аиА, (х,у)^СО, />0, дх

-Я(11)— + аи = аиА, {х,у)еАВ, ¿>0, дх

Л(и)— + уи = уис, (х,у)^ ОА и/Ж, 1 > 0, ду

и(-а,у,() = и, .уе[оД />0, и(а,у^) = й, у£[0,Ъ\, />0,

м

-Г0 о

ь

в

х

□

Здесь Х(и), с(и), р(и) - коэффициенты теплопроводности, теплоемкость и плотность биоткани соответственно, которые являются разрывными функциями в точках и=и, и-ип, п(х) - функция Хевисайда; а,у - коэффициенты теплообмена биоткани с криоинстру-ментом и внешней средой,

иА=иА(0 - температура его охлаждающей поверхности; Р=р Л»., Ро=рпЛв; р, Рп - плотность внеклеточной и внутриклеточной жидкости; Дв - скрытая теплота кристаллизации воды.

Определению подлежат функция температуры и = и(х,у,0,

а также пара изотермических поверхностей у (х, I) . )'п(х, /), на

которых температура биоткани равна, соответственно, и и кп, то есть имеют место фазовые переходы.

В §4 настоящей главы рассматривается другая двумерная начально-краевая задача типа Стефана для случая, когда крио-инструмент имеет форму треугольной призмы и достаточно протяжен.

Аналогичным образом рассматриваются задачи, когда криоинструмент имеет формы цилиндра, конуса. В связи с осевой симметрией формы инструмента постановку задачи удобнее сделать в цилиндрических координатах.

В третьей главе рассматриваются обратные задачи по определению, наряду с искомыми в прямой задаче функциями, какого-либо постоянного параметра в уравнении или краевых условиях. Для этого наряду с краевыми и начальными условиями прямой задачи задается дополнительно значение искомой функции в какой-либо точке области. Обратные задачи решаются многократным просчетом соответствующей прямой задачи.

В §1 решается задача для достаточно протяженного плоского криоинструмента.

В §2 решается задача для достаточно протяженного инструмента цилиндрической формы.

В следующих параграфах этой главы рассматриваются обратные задачи для рассмотренных во второй главе постановок.

В приложении приведены графики и краткий анализ полученных результатов численных экспериментов.

Основные положения диссертации опубликованы в следующих работах:

1. Буздов А.К., Буздов Б.К. Моделирование криодесгрукции биологической ткани. - Международная научно-практическая конференция ELBRUS-97 «Новые информационные технологии и их региональное развитие». Тезисы докладов. - Нальчик, 1998, с. 117-118.

2. Буздов А.К., Буздов Б.К. Об одной задаче типа Стефана для уравнения теплопроводности с граничными условиями на конической поверхности. - Материалы научно-практической конференции Кабардино-Балкарской государственной сельскохозяйственной академии - Нальчик, 1996, с. 145-147.

3. Буздов А.К., Буздов Б.К. Об одной задаче типа Стефана для уравнения теплопроводности в цилиндрической системе координат. - Вестник Кабардино-Балкарского госуниверситета. Серия физико-математические науки. Выпуск 1. - Нальчик, 1996, с. 35-37.

4. Буздов А.К., Буздов Б.К. Определение коэффициентов теплообмена в двумерных краевых задачах типа Стефана. - Материалы международной научно-технической конференции «Системные проблемы надежности, математического моделирования и информационных технологий», Часть 5. - Москва-Сочи, 1998, с. 30-31.

5. Буздов А.К., Буздов Б.К. Прямые и обратные задачи в проблемах криохирургии. - Материалы международной научно-технической конференции «Системные проблемы качества, математического моделирования и информационных технологий». - Москва-Сочи, 1998.

6. Буздов А.К. Нелокальная обратная краевая задача для уравнения Эйлера-Дарбу. - Нелокальные задачи и их приложения к автоматизированным системам. Сборник научных трудов (межвузовский). - Кабардино-Балкарский ордена Дружбы Народов государственный университет, Нальчик, 1989, с. 57-58.

7. Буздов А.К. О нелокальной обратной краевой задаче для гиперболического уравнения. - Нелокальные задачи для уравнений в частных производных. Межвузовский сборник научных трудов. -Нальчик, 1986.

8. Буздов А.К. Определение параметров в математических моделях криохирургии. - Материалы международной научно-технической конференции «Системные проблемы качества, математического моделирования и информационных технологий». - Москва-Сочи, 2000.