Разработка системы хранения, контроля и визуализации информации Трекового детектора переходного излучения в эксперименте ATLAS (ЦЕРН) тема автореферата и диссертации по физике, 01.04.01 ВАК РФ
Машинистов, Руслан Юрьевич
АВТОР
|
||||
кандидата физико-математических наук
УЧЕНАЯ СТЕПЕНЬ
|
||||
Москва
МЕСТО ЗАЩИТЫ
|
||||
2011
ГОД ЗАЩИТЫ
|
|
01.04.01
КОД ВАК РФ
|
||
|
Учреждение Российской академии наук Физический институт им. П.Н. Лебедева
На правах рукописи Машинистов Руслан Юрьевич
РАЗРАБОТКА СИСТЕМЫ ХРАНЕНИЯ, КОНТРОЛЯ И ВИЗУАЛИЗАЦИИ ИНФОРМАЦИИ ТРЕКОВОГО ДЕТЕКТОРА ПЕРЕХОДНОГО ИЗЛУЧЕНИЯ В ЭКСПЕРИМЕНТЕ ATLAS (ЦЕРН)
01.04.01 - «Приборы и методы экспериментальной физики»
АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата физико-математических наук
2 2 СЕН 2011
Москва 2011
4853336
Работа выполнена в Учреждении Российской академии наук Физическом институте им. П.Н. Лебедева РАН
кандидат физико-математических наук, Шмелева Алевтина Павловна (ФИАН, г. Москва)
доктор физико-математических наук, профессор
Поносов Александр Климентьевич (НИЯУ МИФИ, г. Москва)
кандидат физико-математических наук, Нечитайло Владимир Александрович (ФИАН, г. Москва)
Ведущая организация: Научно-исследовательский институт ядерной физики имени Д.В. Скобельцына, МГУ, г. Москва
Защита состоится «IV г. в часов на заседании
диссертационного совета №Д002.023.02 при Физическом институте им. П.Н. Лебедева РАН по адресу: 119991, г. Москва, Ленинский пр. 53.
С диссертацией можно ознакомиться в библиотеке Физического института им. П.Н. Лебедева РАН.
- £
Автореферат разослан « />2. » ССи Т-^&ОП г.
Научный руководитель:
Официальные оппоненты:
Ученый секретарь диссертационного совета доктор физико-математических наук
Общая характеристика работы.
При проведении современных экспериментов в области физики элементарных частиц ученым приходится сталкиваться с беспрецедентным объемом данных, подлежащих упорядоченному хранению, обработке, графической визуализации и анализу. Современные экспериментальные установки являются сложными детекторами и программными комплексами, призванными решать фундаментальные задачи.
В ноябре 2009 года в Европейском Центре Ядерных Исследований (ЦЕРН) состоялся запуск крупнейшего в мире ускорителя заряженных частиц -Большого Адронного Коллайдера (LHC). На ускорителе установлены четыре крупных эксперимента. Самым крупным экспериментом является ATLAS. Объем физических данных, производимый детектором ATLAS в 2010 г. ежедневно, был равен около 1 Терабайт, и более 3 тысяч физиков со всего мира имели к ним доступ для обработки и анализа. Проект LHC является уникальным. Весь комплекс построен с применением современных уникальных технологий и позволяет достигать недоступных ранее показателей. С марта 2010 г. на ускорителе проводились столкновения протонов с полной энергией 7 ТэВ, при этом было достигнуто пиковое значение светимости 2-1032 см"2-с"'. С ноября по декабрь коллайдер работал с пучками ядер свинца. Ядра разгонялись до энергии 1,38 ТэВ в расчете на каждый нуклон и светимость столкновений достигала 31025 см~2 сч. В 2014 г. на ускорителе планируется достигнуть энергии столкновений протонных пучков 14 ТэВ и светимости IO^cm V.
Среди важнейших задач, которые предполагается решать в эксперименте при изучении протон-протонных взаимодействий:
• Обнаружение и измерение параметров Хиггс бозона -калибровочной частицы, которая является ключевой в рамках Стандартной Модели в механизме образования масс элементарных частиц.
• Поиск суперсимметричных партнеров известных элементарных частиц.
• Обнаружение процессов, указывающих на возможное существование скрытых размерностей пространства-времени.
• Поиск различных "экзотических" частиц и состояний: мини-черных дыр, частиц с необычными квантовыми числами и т.п.
Данная работа направлена на исследование, анализ и разработку программного обеспечения контроля и управления одного из основных детекторов установки ATLAS - Трекового Детектора Переходного Излучения (TRT), который используется для измерения координат треков, а кроме этого -для идентификации электронов. Созданная система обеспечивает безопасную последовательную работу детектора, а также предоставляет инструменты оценки качества регистрируемых экспериментальных данных.
Актуальность темы.
Для получения физических результатов эксперимента ATLAS обеспечиваются управление и контроль рабочих систем детектора, а также операции сбора, упорядоченного хранения и обработки экспериментальных данных. Работа в этих областях ведутся в каждом из поддетекторов эксперимента.
Во время набора экспериментальных данных необходимо в автоматизированном режиме контролировать состояние рабочих систем детектора. Также необходимо в режиме экспресс-оффлайн контролировать и мониторировать конфигурации системы сбора данных, включая хранение, управление и визуализацию параметров настройки (пороги напряжения, временные задержки и т.д.) компонентов считывающей электроники и триггера. Состояние систем детектора и конфигурация системы сбора данных непосредственно влияют на качество регистрируемых данных, которое также необходимо мониторировать.
Для обеспечения бесперебойной работы детектора TRT, а также гарантии качества регистрируемых им данных необходимо осуществлять контроль рабочих систем детектора и мониторировать около 400000 каналов информации и более 22600 компонентов считывающей электроники. Работа с таким объемом данных требует внедрения автоматических программных средств.
В работе впервые была реализована программная система для мониторинга и контроля конфигураций рабочих систем и контроля качества регистрируемых данных детектора TRT в эксперименте ATLAS. Были
выполнены внедрение и надежная поддержка разработанного программного обеспечения. В системе были учтены следующие положения:
- В условиях длительного этапа подготовки эксперимента и эксплуатации, система предполагает возможные модификации для удовлетворения изменяющимся требованиям в процессе разработки и эксплуатации;
- Система обладает достаточной модульностью для успешной интеграции с существующими компонентами;
Объектом исследования диссертационной работы являются рабочие системы и параметры их конфигураций, программное обеспечение для хранения, обработки и графической визуализации данных детектора TRT в эксперименте ATLAS.
Целью диссертационной работы является проектирование и создание программной системы для мониторинга и контроля конфигураций рабочих систем и контроля качества регистрируемых данных детектора TRT в эксперименте ATLAS.
В соответствии с поставленной целью в диссертационной работе решаются следующие задачи:
- разработка алгоритмов для хранения, обработки и графической визуализации данных конфигураций рабочих систем и данных событий;
разработка архитектуры базы данных для хранения данных конфигураций рабочих систем;
- разработка программного обеспечения для контроля состояния, управления параметрами рабочих систем, а также визуализации и хранения данных детектора TRT в эксперименте ATLAS на ускорителе LHC (ЦЕРН).
Основными методами исследований, используемыми в работе, являются методы структурного и функционального анализа, и теории алгоритмов.
Научная новизна работы заключается в разработке уникальных методов и алгоритмов хранения большого объема (~ 1 ТБ) конфигурационных данных детектора TRT, обеспечивающих безопасный и рациональный механизм ввода
новых значений конфигурационных параметров и быстрый поиск условий, при которых были получены данные событий. Разработка методов и алгоритмов графического представления данных детектора TRT для мониторинга состояния рабочих систем и контроля качества регистрируемых данных. Установка ATLAS является крупнейшей в составе экспериментов на ускорителе LHC. Уникальность эксперимента, беспрецедентный объем экспериментальных данных и большое число каналов информации детектора TRT формируют необходимость в разработке новых методов и алгоритмов сбора, обработки и визуализации данных.
Практическая значимость результатов определяется следующим: разработанные методы и алгоритмы были использованы при разработке системы хранения и контроля параметров детектора TRT. Детектор TRT дает большой вклад в измерения координат треков, а кроме этого используется для идентификации электронов. Созданные средства обеспечивают процессы контроля детектора и работу системы сбора данных, делающие возможным получение физических результатов эксперимента.
Внедрение результатов исследований. Была разработана архитектура базы данных для хранения информации системы триггера и сбора данных TDAQ (Trigger/Data Acquisition Sysytem) детектора TRT в эксперименте ATLAS. Также была создана разделяемая библиотека С++ для работы с данными систем TDAQ и контроля детектора DCS (Detector Control System).
Были разработаны программные модули для визуализации экспериментальных данных детектора TRT, записанных в файлы, записанных в базы данных детектора и опубликованных при помощи информационной службы.
Публикации и апробации работы.
Основные результаты работы опубликованы докладывались на международном научном семинаре «Первые результаты работы Большого адронного коллайдера и их физическая интерпретация» (IHEPLHC-2010, ИФВЭ, Протвино, 2010 г.), международных совещаниях коллаборации ATLAS в
ЦЕРНе, на научных семинарах в ФГБОУ ВПО «Национальный исследовательский ядерный университет «МИФИ» и Физическом институте имени П.Н.Лебедева Российской академии наук (ФИАН) (2011 г.), а также на научных конференциях Московского Инженерно-физического Института (20052008 гг.). Результаты опубликованы в виде статей в журналах «Инженерная физика», «Открытое образование», «Датчики и системы», «Journal of High Energy Physics», «European Physical Journal C», «Journal of Instrumentation», a также в изданиях МИФИ и ЦЕРН.
Основные положения, выносимые на защиту:
- Методы и алгоритмы хранения большого объема (~ 1 ТБ) конфигурационных данных эксперимента, обеспечивающих безопасный и рациональный механизм ввода новых значений конфигурационных параметров и быстрый поиск условий при которых были получены данные событий.
- Методы и алгоритмы графического представления данных эксперимента ATLAS для мониторинга состояния рабочих систем и контроля качества регистрируемых данных.
- Программная библиотека CoolCoralClient обеспечивающая функции хранения и управления конфигурациями рабочих систем детектора TRT. Приложение TRTViewer для мониторинга рабочих систем детектора TRT.
Структура и объем диссертационной работы.
Диссертация состоит из введения, четырех глав, заключения, списка литературы и приложений. Работа изложена на 158 страницах машинописного текста, включая 56 рисунков и 7 таблиц.
Во введении сформулированы цель работы, подчеркнуты ее новизна, практическая ценность, важность и актуальность.
В главе I приведено описание эксперимента ATLAS. Дан обзор физических задач эксперимента, приведено описание архитектуры и устройство экспериментальной установки. Подробно рассматривается устройство Трекового Детектора Переходного Излучения (TRT) в составе Внутреннего Детектора.
Детектор TRT наряду с другими поддетекторами эксперимента обеспечивает распознавание треков частиц, а также идентификацию частиц, главным образом за счет детектирования переходного излучения.
ATLAS является самым крупным экспериментом на LHC, а также имеет самую широкую программу научных исследований на LHC. Среди важнейших задач, которые решаются в эксперименте при изучении протон-протонных взаимодействий:
• Обнаружение и измерение параметров Хиггс бозона -калибровочной частицы, которая является ключевой в механизме образования масс элементарных частиц.
• Поиск суперсимметричных партнеров известных элементарных частиц.
• Обнаружение процессов, указывающих на возможное существование скрытых размерностей пространства-времени.
• Поиск различных "экзотических" частиц и состояний: мини-черных дыр, частиц с необычными квантовыми числами и т.п.
Кроме этого, в эксперименте изучается и "традиционная" физика -сечения образования и множественности, рождение W и Z бозонов, физика В-мезонов и топ-кварка и др. - но в новом масштабе энергий и светимости, которые дает ускоритель LHC.
Кроме протон-протонной физики, ATLAS принимает участие и в ионной программе LHC, в которой изучаются взаимодействия ядер, которые будут ускоряться до 5,5 ТэВ/нуклон. В программе ведется исследование свойств кварк-глюонной материи при сверхвысоких температурах и давлениях, значения которых являются рекордными для существующих ускорителей.
Экспериментальная установка ATLAS имеет луковичную структуру. Ближе к центру расположены полупроводниковые пиксельные и стриповые (SCT) детекторы, функцией которых является прецизионное измерение координат и импульсов заряженных частиц вблизи точки первичного взаимодействия. Их окружает детектор TRT, который также используется для измерения координат треков, а кроме этого - для идентификации электронов. Эти детекторы образуют так называемый Внутренний Детектор, который помещен внутри сверхпроводящего магнита с соленоидальным полем 2 Т.
I Внутренний Детектор окружен электромагнитным калориметром на основе жидкого аргона для измерения координат и энергии электронов и гамма-квантов. Следующим слоем служит адронный калориметр для измерения энергии одиночных адронов и адронных струй. Вся система калориметрии I обеспечивает также измерение недостающей поперечной энергии в случае ее | дисбаланса. Наконец, снаружи установка ATLAS окружена мюонными детекторами различной конструкции и размеров. Мюонные камеры находятся в магнитном поле, создаваемом восемью тороидальными контурами и торцевыми магнитами. Устройство экспериментальной установки ATLAS представлено на рисунке 1.1.
МШПННЫР ЛРТРХ-ГОРЫ - ЖИДКОАРГОНО8ЫЙ КАЛОРИМЕТР
МЮОННЫЕ ДЕТЕКТОРЫ АДРОННЫЙ КАЛОРИМЕТР :
СОЛЕНОИДАЛЬНЫЙ ПИКСЕЛЬНЫЙ
МАГНИТ ДЕТЕКТОР
Рис.1.1. Устройство экспериментальной установки ATLAS
Точность измерения импульсов в установке ATLAS составляет для мюонов в центральной области быстрот от 2.5% при поперечном импульсе мюона 100 ГэВ до 11% для частиц с поперечным импульсом 1000 ГэВ. Точность восстановления угла составляет для разных направлений вылета от 0,08 до 1 мрадиан. Прицельный параметр (поперечное расстояние от ближайшей точки трека до оси пучков) может быть измерен с точностью от 11 до 40 мкм.
Большой вклад в точность определения импульса заряженных частиц дает детектор TRT. Пролетающая через дрейфовую трубку (ДТ) детектора TRT заряженная частица, ионизирует газ, создавая вдоль своего трека сгустки электронов и ионов. Электроны дрейфуют к анодной нити под действием
электрического напряжения 1.5 кВ, создавая вторичную ионизацию. Каждый канал TRT позволяет измерять время дрейфа следа заряженной частицы к аноду, обеспечивая координатную точность 150 мкм на ДТ. Детектор TRT позволяет идентифицировать электроны на фоне адронов. Детектор состоит из набора модулей содержащих радиатор рентгеновского переходного излучения и пропорциональную дрейфовую камеру. В детекторе TRT измеряется суммарное энерговыделение от ионизационных потерь заряженной частицы, проходящей через слой медиатора, и от фотоэлектронов, образованных квантами переходного излучения в газовой смеси. Считывающая электроника обеспечивает два независимых настраиваемых порога по амплитуде сигнала с ДТ, что позволяет отделять сигнал с переходным излучением. На рисунке 1.2. представлено изображение сигнала с ДТ.
Биты:
jo 0 0 0 0 0 0 ljll.ll iliojooooooooj Низкого порога 0 10 Высокого порога
Время прилета частицы
/Л
ТО
Верхний порог 6 кэВ
'Drift .<
Низкий порог 300 эВ
ТоТ
Время (биты)
1 бит = 3,125*10 с
Рис.1.2. Изображение сигнала, полученного с ДТ, где ТО - время прилета частицы, Тгм - время дрейфа электронов к анодной нити, Тмеазш-еа - измеренное время, ТоТ - время, когда сигнал превышает нижний порог
Значения порогов подобрано таким образом, что если сигнал превышает верхний порог, то это свидетельствует о переходном излучении. Нижний порог позволяет отделять сигнал вызванный прохождением частицы от шумов. Время импульса измеряется в битах низкого и высокого порогов. Биты высокого порога равны 25 не и поделены на 8 бит низкого порога, равных 3,125 не. Информация о сигнале кодируется следующим образом. Биты низкого порога принимают значение 1, если амплитуда сигнала превышает низкий порог. Биты высокого порога принимают значения 1, в случае, если сигнал превышает
высокий порог. В остальных случаях биты принимают значения 0. Различные эффекты и условия, такие как синхронизация временных параметров детектора TRT и ускорителя LHC, влияют на время прохождения сигнала по каналам и время пролета частицы через ДТ. Данные временные параметры калибруются с периодом 36 часов.
Детектор TRT конструктивно состоит из трех частей: центральной цилиндрической (баррельной) и двух торцевых. Баррельная часть TRT содержит 52544 ДТ длиной около 150 см. Две торцевые части TRT содержат по 122880 радиалъно ориентированных ДТ. На рисунке 1.3. представлена R-T зависимость детектора TRT для баррельной (а) и торцевых частей (б). Эта зависимость определяет соотношение расстояния трека частицы до анодной нити и времени дрейфа электронов. Первым шагом для этого из измеренного времени TMeasured вычитается калибровочная константа ТО. При этом учитываются различные временные задержки в различных участках детектора. Во второй шаг распределение дистанции от трека до нити фитируется по бинам измеренного времени дрейфа TDnft. Пиковые значения распределения на рисунке отмечены точками. Проведенная через эти точки кривая описывается полиномом третьей степени. R-T зависимость калибруется каждые 24 часа. В результате работы с космическими лучами, при столкновениях протонов с энергиями 900 ГэВ и 7 ТэВ, а также в ионных столкновениях была продемонстрирована высокая стабильность R-T зависимости.
Измеримоевремядрейфа) Иатгреннгхаренявребф3^'1^ }
(а) (б)
Рис.1.3. R-T зависимость детектора TRT для баррельной (а) и торцевых (б) частей
Режекционная способность (разделение пионов и электронов при 90%-ой эффективности регистрации электронов) в детекторе TRT составляет величину порядка 100 в зависимости от значения импульса и направления вылета частиц.
Эффективность полной реконструкции различных типов частиц в значительной степени зависит от качества отбираемых треков и составляет -98% для мюонов, 90-95% для пионов и 76-96% для электронов в зависимости от импульса частицы.
Электромагнитный калориметр установки ATLAS имеет очень высокую гранулярность (Дт|хДф=0,025x0,025 в центральной области быстрот). Главный член, описывающий энергетическое разрешение электромагнитного калориметра, имеет значение порядка 10%Л/£, постоянный член составляет от 0,2% до 0,5%. Таким образом, при энергии £>100 энергия электронов и гамма-квантов измеряется с точностью, лучшей, чем 1%.
Адронный калориметр имеет гранулярность Ат1хДф=0,1x0,1 в центральной области быстрот и Дг|хДф=0,2х0,2 - в области |ri|>2,5. Главный член, описывающий энергетическое разрешение калориметра в его центральной части, имеет значение порядка 50%Ne.
В главе II приводится описание архитектуры детектора TRT с точки зрения коммутации ДТ и компонентов считывающей электроники: считывающих чипов, контроллеров триггера и считывающих драйверов, привязывая их к соответствующим печатным платам. Также приводится расположение некоторых датчиков системы контроля детектора DCS (Detector Control System) и приводится описание ее баз данных. Подробно описана система сбора данных DAQ (Data Acquisition System).
Баррельная часть TRT содержит 52544 ДТ длиной около 150 см, ориентированных вдоль оси пучков и располагающихся на расстоянии от 56 до 107 см вокруг оси пучков. Анодная нить этих камер в середине разделена изолятором, и сигнал снимается с двух сторон ДТ. ДТ в центральной части организованы по 32 модуля в каждом из 3-х слоев. Пропорциональные камеры объединены в структурные группы по 329, 520 и 793 камеры, соответственно для модулей внутреннего среднего и внешнего слоя. Две торцевые части TRT содержат по 122880 радиально ориентированных ДТ со считыванием сигнала по наружному радиусу. Торцевые ДТ имеют длину около 40 см и расположены в виде колес, перпендикулярных оси пучка. Каждому считывающему чипу
соответствует 16 ДТ, расположенных рядом. Чипы физически смонтированы на печатных платах в порядке, зависящем от места размещения платы в детекторе.
На торцевых частях считывающие чипы смонтированы на прямоугольных платах в 3 группах по 4 чипа. 3 группы чипов на одной плате называются триплетом. Триплет имеет общее соединение для сигналов контроллера триггера TTC и считывающего драйвера ROD, а также для низкого напряжения. Каждый триплет представляет собой 32-ю часть торцевого кольца. Существует 2 типа торцевых колец. Один стек (32-я часть) торцевой части состоит из 12 триплетов колец типа А и 8 колец типа В, всего 240 считывающих чипов.
Каждый модуль баррельной части состоит из двух неравных по размеру физических печатных плат треугольной формы. Каждая треугольная печатная плата в зависимости от своего типа может быть связана с одной или двумя линиями контроллера триггера TTC. На рисунке 2.1 представлен внешний вид баррельной части детектора TRT.
Рис.2.1. Внешний вид баррельной части Трекового Детектора Переходного Изучения TRT
Основной системой, работающей с потоком экспериментальных данных детектора, является система сбора данных DAQ. Система сбора данных позволяет контролировать и управлять конфигурациями считывающей
электроники. Система DAQ также управляет запусками детектора, направляя при этом поток экспериментальных данных в итоговое файловое хранилище. Система DAQ осуществляет запись экспериментальных данных по сигналам, выработанным системой триггера Trigger. Система триггера выполняет анализ событий в режиме он-лайн и в случае обнаружения «интересного» события вырабатывает сигнал записи данных. Система сбора данных в том числе управляет и конфигурациями триггера. Совместно эти системы иногда обозначают как систему Trigger/DAQ или TDAQ. Система триггера и сбора данных TDAQ эксперимента ATLAS состоят из трех уровней. Каждый уровень триггера улучшает решения, сделанные на предыдущем уровне, и если необходимо выполняет дополнительные критерии выбора. Начиная с потока данных с частотой 40 МГц, частота выбранных событий может быть уменьшена до 100 Гц для передачи на постоянное хранение.
Система DCS управляет параметрами систем высокого и низкого напряжения, газовой системы, системы охлаждения и т.д., а также обеспечивает последовательную и безопасную работу детектора и выдает большое число данных о статусе системы и параметров аппаратного обеспечения с частотой до 1 Гц. Характеристики рабочих систем влияют на физический анализ и необходимы для понимания поведения детектора.
В главе III приводится описание информационной системы эксперимента ATLAS. При подготовке и проведении современных физических экспериментов, возникает необходимость хранить и обрабатывать большие объемы экспериментальных данных. Данные эксперимента различны по значению и целям использования. В главе приведено описание процесса разработки программного обеспечения для контроля состояния, управления параметрами рабочих систем, а также визуализации и хранения данных детектора TRT.
При создании инфраструктуры хранения, к основным задачам относятся организация структурированного хранения данных с реализацией возможности совместного использования различных по типу и назначению баз данных, а также реализация рационального доступа к данным. Такая организация позволит в дальнейшем полностью восстановить процесс эксперимента и предоставит ученым всю необходимую информацию. Всего можно выделить три основных
типа данных эксперимента: данные событий, данные конфигураций и данные условий. Данные событий содержат информацию о треках частиц. Данные конфигураций включают информацию о настройках рабочих систем эксперимента. Данные условий привязаны к данным событий и включают данные конфигураций, при которых они были получены, а также дополнительные данные мониторинга, которые понадобятся при реконструкции.
В рамках данной работы был выполнен анализ систем эксперимента. Впервые были определены основные системы, включаемые в эксперимент, были определены их функции, взаимосвязь и были даны рекомендации к разработке. На рисунке 3.1 представлена обобщенная схема основных систем эксперимента.
¡обработанных
библиотека СооЮогаЮИеШ
Рис.3.1. Обобщенная схема программного обеспечения детектора ТКГ в нотации ¡с1еАх
В данной главе были сформулированы функции и возможности, которые должны быть обеспечены системами эксперимента. На основе представленных функций и возможностей, была разработана функциональная модель, что позволило выделить основные процессы и этапы обработки данных. Для иллюстрации модели была использована нотация ¡с!ГО с точки зрения обработки экспериментальных данных. Разработка программного обеспечения эксперимента ведется согласно руководящим положениям и требованиям международных стандартов серии ИСО 9000.
Для реализации универсальной системы доступа к данным конфигураций системы DAQ детектора TRT, была разработана разделяемая библиотека С++ CoolCoralClient. В библиотеку CoolCoralClient также были включены программные методы создания и управления базой данных DAQ.
База данных DAQ позволяет хранить конфигурации считывающей электроники за все время эксплуатации детектора TRT, а также эффективное управление конфигурациями: получение конфигурации за выбранный период времени, создание новых конфигураций, сравнение конфигураций и т.д. Конфигурация детектора состоит из параметров элементов 22016 считывающих чипов, 192 считывающих драйверов, 376 групп контроллеров триггера и 94 контроллеров триггера. Всего конфигурация детектора за один временной промежуток содержит более 470000 значений параметров. При этом разработанные программные методы позволяют получить полную конфигурацию DAQ за интересующий временной промежуток за время ~ 5 с. Данные мониторинга и контроля обновляются с частотой несколько герц со скоростью передачи данных порядка нескольких МБ на один сеанс набора данных событий. На настоящий момент база данных системы сбора данных DAQ детектора TRT физически занимает ~ 2,5 ГБ.
Ранее использованная база данных выполняла файловое хранение данных, что многократно увеличивало физический объем хранилища, а также затрудняло выполнение операций запросов, требующих длительного исполнения. Разработанная база данных на основе Oracle гарантированно позволяет справляться с текущим и ожидаемым потоком данных. Реляционная структура данных в Oracle имеет меньший объем физического хранилища за счет сокращения дублирующих данных. Также время обращения к БД на основе Oracle сокращается за счет того, что механизм запроса данных реализован на стороне сервера.
Разработанная система позволяет хранить и получать доступ к параметрам системы DAQ, а также получать доступ к параметрам электроники, находящимся под управлением системы DCS детектора TRT. Был реализован безопасный и рациональный механизм ввода новых конфигураций, что обеспечивает сохранность данных об уже использованных конфигурациях систем, а также устанавливает правила параллельной работы по конфигурированию детектора несколькими экспертами.
-16-
Институтами НИЯУ МИФИ, ФИАН и ПИЯФ велась разработка программного обеспечения TRT Viewer. Данное приложение ориентировано на архитектуру детектора и может использоваться как средство мониторирования практически всех компонентов детектора. Приложение TRT Viewer широко используется на этапах автономного тестирования детектора TRT. Приложение специально разработано как гибкое устройство быстрой диагностики и отладки. Приложение позволяет изображать треки элементарных частиц путем цветового выделения сработавших ДТ, а также представлять статистические данные и данные мониторинга путем изображения цветовых карт, наложенных на графическое изображение компонентов детектора. В диссертации подробно описывается метод представления графической информации в виде цветовых карт. Также приводится описание процессов получения данных, их декодирования и графического представления. Подробно описываются механизмы конфигурирования работы приложения. В настоящее время ведется дальнейшая разработка и поддержка приложения TRTViewer. На рисунке 3.2. представлен пользовательский интерфейс приложения.
В главе IV представлены показатели, демонстрирующие высокое качество работы детектора TRT. Детектор TRT дает большой вклад в точность определения импульса заряженных частиц, а также позволяет выполнять идентификацию электронов на фоне других заряженных частиц при помощи переходного излучения. Также в главе представлены физические результаты полученные в эксперименте ATLAS в 2010 году. Полученные результаты
демонстрируют высокую степень слаженности работы всех компонентов эксперимента, а также возможности детектора ATLAS при изучении физики высоких энергий.
На рисунке 4.1 представлены распределения значений разницы расстояний от анода ДТ до трека частицы (Residual), вычисленных из совокупных показаний всех компонентов детектора ATLAS и полученных опытным путем в каждой ДТ детектора TRT. Графики отдельно для баррельной и торцевых частей демонстрируют сравнение значений пространственного разрешения детектора для эмулированных данных методом Монте-Карло и данных, полученных при столкновениях протон-антипротон при 7 ТэВ. При этом распределения, полученные методом Монте-Карло нормированы на число вхождений, которое было получено на реальных данных.
1 2 60000 I 50000 • Data 201Û - FWHM/2.35-142 цт ^ >■ Monte Cario » V Г FWHM/2.35^-143 (<m * Д7Ы5РгеНт'тагу TRT bairel Vs = 7 TeV
| 40000 -
X 30000 :
20000 s » ":
10000 J "V í
130000 <ч
; 70000 « 60000 g 50000 X 40000 30000 20000 10000
0.5
Residual (mm]
• Data 2010 A TLAS Preliminary
:.. FWHM/2.35=161 цт TRT end-caps j;
: JS% о Monte Cario « t vs « 7 TeV
Г FWHM/2.35t.135nm
<? Í
/ \ :
; л «
% j
V î
Reskiuaî [mm¡
(a)
Рис.4.1. Пространственное разрешение TRT торцевых(б) частей при столкновениях на 7 ТэВ
(б) для
баррельной(а)
Треки отбирались при условиях Рт > 1 ГэВ, смещение вдоль оси пучка |d0|<5mm, более 6 хитов в кремниевых детекторах и не менее 14 хитов в детекторе TRT. В баррельной части Residual для физических данных FWHM/2.35 = 142 мкм оказывается очень близка к значению, полученному методом Монте-Карло моделирования (143 мкм). В торцевых частях Residual для данных (161 мкм) превышает значения, полученные в Монте-Карло моделирование (135 мкм), поскольку в космических лучах был затруднен тренинг, так как не были готовы алгоритмы реконструкции. Подробные исследования в торцевых частях в космических лучах не проводились.
Трек пересекает порядка 35-40 ДТ, однако не все из них дают хит. На рисунке 4.2 показана эффективность реконструкции данных столкновений на 7 ТэВ и для данных, моделированных методом Монте-Карло. Эффективность
реконструкции определяется как доля событий, давших хит на треке, деленное на число ДТ, пересеченное треком. При этом 2% известных неработающих ДТ исключены из области рассмотрения. Эффективность зависит от настроек порогов срабатывания. Как видно из графиков, настройки были выполнены качественно, о чем говорит совпадение данных и результаты моделирования Монте-Карло.
TRT barrel
— Qats?010
■■ FM » оэа. . = awa ■ Fil to Monte Ceiic. E ■
0.5!;
ATLAS Pretiminary
sís = 7TeV
-2 -1.5 -1 -0.5 0 0.5 1 1.5
Distance from track to straw centre [mm]
». 1 I 0.95 E 0.9 ш 0.85 0.8 0.75 0.7 0.65 0.6 0.55 0.5
TRT end-caps
—
I Moni«Ca№
FitioOaia fOtm ■■■ Fti LO Moots Сачо ;=0,937
ATLAS Preliminary
-2
-1.5 -1 -0.5 0 0.5 t 1.5 2 Distance from track to straw centre [mm]
(а) (6)
Рис.4.2. Отношение эффективности сигналов к расстоянию от анода до трека для баррельной(а) и торцевых(б) частей
Детектор TRT позволяет выполнять идентификацию электронов на фоне других заряженных частиц при помощи переходного излучения. Энергии фотонов переходного излучения находятся в диаппозоне 5-30 кэВ. Для идентификации хитов с переходным излучением электроника TRT позволяет настроить верхний порог порядка 6 кэВ. На рисунке 4.3 представлена вероятность хитов, превысивших верхний порог, как функция от гамма-фактора у. Для заряженных частиц с у > 1000 вероятность увеличивается, позволяя идентифицировать электроны.
Praíiminaiy TRT battel
• Dala 2010 fj?= 7 TeVS o Monte Caito
102
10a
10*
y factor
nul ' 10s
Pion momentum [GeV] Electron momentum [GeV]
Pion momentum [GeV] Electron momentum [GoV]
Рис.4.3. Вероятность хита с высоким порогом как функция от Лоренц-фактора, измеренные при столкновениях на 7 ТэВ для баррельной(а) и торцевых(б) частей детектора TRT
В 2010 году эксперимент ATLAS успешно участвовал в программе ускорителя LHC. На рисунке 4.4. представлены гистограммы светимостей выданных ускорителем и записанных детектором ATLAS в 2010 году при столкновении протонов с полной энергией 7 ТэВ. Отношение светимостей, выданных ускорителем и записанных детектором составляет 93,6 %. При этом всего было записано 45 Пбар"1.
Day!n2010
Рис.4.4. Гистограмма светимости в эксперименте ATLAS
Светимость в коллайдере зависит как от количества частиц, циркулирующих в пучке, так и от того, насколько сильно пучки сжаты в месте встречи. Всё это можно измерить экспериментально, но с довольно большой погрешностью. На ускорителе LHC достигнуты беспрецедентные значения светимости и плотности пучков.
В таблице 4.1 представлена сводная таблица для основных компонентов эксперимента ATLAS, в которой приведены проценты качественных записанных данных. Как видно из таблицы детектор TRT показал абсолютные результаты. Детектор TRT оказался единственным в составе эксперимента, все данные записанные которым были качественными.
Таблица 4.1. Процентное соотношение качественных записанных данных
Внутренний Калориметры Мюонные детекторы
Детектор
Пиксельный детектор Стриповый детектор Трековый Детектор Переходного Излучения Жидкоаргоновый электромагнитный Жидкоаргоновый адронный Жидкоаргоновый передний Плиточный Мониторирумые дрейфовые трубки Баррельные мюонные камеры Стрипы со считывающим катодом Торцевые мюонные камеры
99,0 99,9 100 90,5 96,6 97,8 94,3 99,9 99,8 96,2 99,8
В результате работы эксперимента ATLAS в 2010 году были получены следующие физические результаты. Была изучена физика и рождение частиц в мягкой области спектра (PT<2GeV/c ). На рисунке 4.5. представлено значение величины распределения l/Nevl/(2wpx)d2Nch/dridpT как функция от Рт. Результаты представлены для заряженных частиц при Рх>500 МэВ, |î]|>2,5, ndl Ш, где Рт -импульс частицы в плоскости, перпендикулярной пучку, т] - псевдобыстрота и Пси - число заряженных частиц в событии. Точки отражают данные, а кривые -предсказания различных моделей Монте-Карло. Эти данные необходимы для уточнения теории.
Рис.4.5. Значение величины распределения
как функция
от Рт
По данным о рр-столкновениях были измерены сечения рождения W и Z-бозонов с последующим их распадом на лептонную пару. Также получена асимметрия рождения W+ и W". Полученные результаты согласуются с теорией. На рисунке 4.6. представлено событие-кандидат Z->(ip., зарегистрированное на установке ATLAS. На рисунке 4.7 представлено событие-кандидат W->ev. С
помощью детектора TRT был идентифицирован электрон - один из продуктов распада W-бозона.
Рис.4.6. Событие-кандидат Z->(i и, зарегистрированное на установке ATLAS
Рис.4.7. представлено событие-кандидат W->ev, зарегистрированное на установке ATLAS
На рисунках 4.8 и 4.9 приведены полученные результаты для W- и Z-бозонов.
Рис.4.8. Измеренные значения
величины cwx Br(W->ev) и их
сравнение с теоретическими расчетами
Рис.4.9. Измеренные значения
величины о^»* Br(Z->pn) и их
сравнение с теоретическими расчетами
В заключении показано, что выполненное исследование позволило получить ряд новых научно-технических результатов, обеспечивающих процесс разработки и интеграции программных модулей в рамках больших информационных систем, эффективность которых подтверждена опытом эксплуатации в ЦЕРН. Основные результаты:
1. Разработаны методы хранения большого объема (~ 1 ТБ) конфигурационных данных эксперимента, обеспечивающих безопасный и рациональный механизм ввода новых значений конфигурационных параметров и быстрого поиска условий при которых были получены данные событий. Созданные методы были использованы при разработке программной библиотеки CoolCoralClient для доступа к данным систем сбора данных DAQ и контроля детектора DCS детектора HIT в эксперименте ATLAS.
2. Разработаны методы графического представления данных эксперимента. Разработанные методы были использованы при создании приложения TRTViewer. Данное приложение ориентировано на архитектуру детектора и может использоваться как средство мониторинга практически всех компонентов детектора. Приложение TRTViewer широко используется на этапах автономного тестирования детектора TRT. Приложение специально разработано как гибкое устройство быстрой диагностики и отладки.
3. Осуществлено внедрение в производственную эксплуатацию в системах мониторинга, контроля детектора и сбора данных всех представленных в данной работе программных модулей. Разработанные средства использовались в качестве основных средств мониторинга и контроля состояния рабочих систем детектора TRT, а также участвовали в процессах контроля качества регистрируемых экспериментальных данных и калибровке считывающей электроники детектора. Детектор TRT вносит большой вклад в получение физических результатов эксперимента ATLAS.
Список публикаций
1. Р.Ю. Машинистов, В.И. Метечко, С.Ю. Смирнов, В.О. Тихомиров, Компьютерная ферма Грид МИФИ. Инженерная физика. 2008 №1 С 5459
2. Р.Ю. Машинистов, Ю.А. Чернышев Ю.А., Разработка программного обеспечения хранения данных в вычислительной инфраструктуре физического эксперимента. Открытое образование 2009, №4, С. 57-62
3. Р.Ю. Машинистов, Ю.А. Чернышев Ю.А., Методы хранения экспериментальных данных детектора элементарных частиц на примере эксперимента ATLAS на ускорителе LHC (ЦЕРН). Открытое образование 2010, №2, С. 41-47
4. Р.Ю. Машинистов, Ю.А. Чернышев, А.П. Шмелева, Системы управления детектора TRT в эксперименте ATLAS на Большом адроном коллайдере. Датчики и системы 2011, №6, С. 47-50
5. G. Aad, Е. Abat,.. R. Mashinistov et al., Performance of the ATLAS Detector using First Collision Data. J. High Energy Phys. 2010,Vol. 2010, No. 9, p. 1-66
6. G. Aad, E. Abat, .. R. Mashinistov et al., The ATLAS Inner Detector commissioning and calibration. European Physical Journal С 2010, Vol. 70, No. 3, p. 787-821
7. E. Abat, T. N. Addy,.. R. Mashinistov et al. The ATLAS TRT Barrel detector. Journal of Instrumentation 2008
8. E. Abat, T. N. Addy, .. R. Mashinistov et al. The Atlas Transition Radiation Tracker (TRT) proportional drift tube: design and performance. Journal of Instrumentation 2008
9. E. Abat, T. N. Addy, .. R. Mashinistov et al. The ATLAS TRT end-cap detector. Journal of Instrumentation 2008
10.E Abatj A Abdesselam, .. R. Mashinistov et al. Combined performance tests before installation of the ATLAS Semiconductor and Transition Radiation Tracking Detectors. Journal of Instrumentation 2008
1 l.G. Aad, E. Abat,.. R. Mashinistov et al. The ATLAS Experiment at the CERN Large Hadron Collider. Journal of Instrumentation 2008
12.E. Abat, T. N. Addy, .. R. Mashinistov et al. The ATLAS TRT electronics. Journal of Instrumentation 2008
13.G. Aad, E. Abat,.. R. Mashinistov et al., Expected performance of the ATLAS experiment: detector, trigger and physics. Preprint CERN-OPEN-2008-020, Geneva, CERN, 2009
14.G. Aad, E. Abat,.. R. Mashinistov et al., The ATLAS Experiment at the CERN Large Hadron Collider. Journal of Instrumentation 2008
15.G. Aad, E. Abat, .. R. Mashinistov et al., Performance of the ATLAS Transition Radiation Tracker with Cosmic Rays and First High Energy Collisions at LHC. IHEP-LHC-2010 International Workshop «First Results from the LHC and their Physical Interpretation», 19-21 October 2010, ШЕР, Protvino, Russia, http://indico.cern.ch/contributionDisplay.py?contribId=24 &sessionld=0&conffd=94968
16.Б. Ди Джироламо, Р.Ю. Машинистов, A.C. Романкж, Разработка системы хранения данных трекового детектора переходного излучения в эксперименте Atlas. Науч. сессия МИФИ-2007: Сб. науч. тр. В 17 т. М.: МИФИ, 2007, Т. 10. С. 49-50
17.А.С. Железко, Р.Ю. Машинистов и др., Разработка системы визуализации данных трекового детектора переходного излучения в эксперименте Atlas.
Науч. сессия МИФИ-2007. Научно-образовательный центр CRDF. V Конференция. Фундаментальные исследования материи в экстремальных состояниях. Физика ядра и элементарных частиц: Сб. науч. тр. М.: МИФИ, 2007, С. 88-90
18.Б. Ди Джироламо, Р.Ю. Машинистов, Ю.А. Чернышев, Механизм «интервалов истины» в базах данных условий и конфигураций физического эксперимента Atlas. Науч. сессия МИФИ-2008. ХП выставка-конференция. Телекоммуникации и новые информационные. Технологии в образовании: Сб. науч. тр. М.: МИФИ, 2008, С. 41-43
19.В.Г.Бондаренко, Л.Ф.Васильева,... Р.Ю. Машинистов и др, Начало работы эксперимента ATLAS на Большом адронном коллайдере в ЦЕРН. Науч. сессия МИФИ-2009, Том IV: Сб. науч. тр. М.: МИФИ, 2009, С. 1-4
20.Р.Ю. Машинистов, Ю.А. Чернышев, Разработка модели программного обеспечения физического эксперимента на примере детектора TRT в эксперименте Adas (ЦЕРН). Науч. сессия МИФИ-2010. XIV выставка-конференция. Телекоммуникации и новые информационные. Технологии в образовании: Сб. науч. тр. М.: МИФИ, 2010, С. 103-105
Подписано в печать 21.06.2011 г. Формат 60x84/16. Заказ №44. Тираж 100 экз. П.л 1.5. Отпечатано в РИИС ФИАН с оригинал-макета заказчика 119991 Москва, Ленинский проспект, 53. Тел. 499 783 3640
ВВЕДЕНИЕ.-4
ГЛАВА 1. АРХИТЕКТУРА ЭКСПЕРИМЕНТА ATLAS.-171.1. Физические задачи эксперимента ATLAS.-171.2. Структура детектора ATLAS.-181.3. Магнитная система ATLAS.-211.4. Внутренний Детектор эксперимента ATLAS.- 23
1.4.1. Пиксельный детектор.- 25
1.4.2. Стриповый детектор SCT.- 26
1.4.3. Трековый Детектор Переходного Излучения TRT.- 27
1.5. Калориметры детектора-ATLAS.-311.6. Мюонный спектрометр детектора ATLAS.-33
Краткие выводы и итоги главы.- 36
ГЛАВА 2. АРХИТЕКТУРА ОСНОВНЫХ СИСТЕМ ДЕТЕКТОРА TRT -382.1. Организация процесса эксперимента.-382.2. Определение экспериментальных данных.- 42
2.3. Обобщенная схема взаимодействия рабочих систем детектора TRT.
2.4. Считывающая электроника детектора TRT.- 48
2.5. Система сбора данных.- 56
2.6. Система контроля детектора.- 602.7. Программное обеспечение рабочих систем эксперимента ATLAS .-61 -Краткие выводы и итоги главы.- 65
ГЛАВА 3. РАЗРАБОТКА ПРОГРАММНОГО ОБЕСПЕЧЕНИЯ ДЛЯ КОНТРОЛЯ СОСТОЯНИЯ; УПРАВЛЕНИЯ ПАРАМЕТРАМИ РАБОЧИХ СИСТЕМ ДЕТЕКТОРА TRT.- 67
3.1. Обобщенная схема программного обеспечения детектора TRT.- 67
3.2. Функциональная модель информационной системы физического эксперимента.-123.3. Разработка программного обеспечения визуализации контроля состояния детектора TRT и качества регистрируемых данных.- 84
3.3.1. Обобщенная схема работы программного обеспечения графической визуализации данных.- 85
3.3.2. Разработка алгоритма программного обеспечения графической визуализации данных детектора TRT.- 89
3.3.3. Режимы работы приложения TRTViewer.- 94
3.4. Разработка системы хранения параметров рабочих систем детектора TRT .-1003.4.1. Разработка методики хранения данных условий и конфигураций. - 101
3.4.2. Работа с базой данных системы сбора данных DAQ детектора TRT
3.4.3. Реализация доступа к архиву системы PVSS.- 107
3.4.4. Реализация доступа к базе данных конфигураций-PVSS.-Ill
Краткие выводы и итоги главы.-113
ГЛАВА4. ПОЛУЧЕНИЕ ФИЗИЧЕСКИХ РЕЗУЛЬТАТОВ В
ЭКСПЕРИМЕНТЕ ATLAS.- 116
4.1. Работа детектора TRT в 2010 году.-1164.2. Развитие программ мониторинга детектора TRT.- 122
4.3. Физические результаты эксперимента ATLAS.- 123
Краткие выводы и итоги главы.- 126
При- проведении; современных; экспериментов? в области физики-элементарных, частиц; ученым - приходится- сталкиваться! с беспрецедентным* объемом1 данных, подлежащих упорядоченному хранению, обработке; графическою визуализации и анализу. Данные эксперимента- различны по; значению^ и целям, использования. Современные экспериментальные установки являются сложными* детекторами; и программными; комплексами; призванными решать фундаментальные задачи;
В ноябре 2009/ года в Европейском Центре: Ядерных Исследований? (ЦЕРН)[:1] состоялся запуск крупнейшего в мире ускорителя заряженных частиц - Большого; Адронного Коллайдера (L11С)[2]. На ускорителе установлены четыре крупных эксперимента; самым; крупным из которых является ATLAS[3]. Объем физических данных, производимый детектором ATLAS ежедневно, равен приблизительно Г Терабайт, и более 3 тысяч физиков со всего мира должны иметь к ним до ступ для о бработки и ; анализа. Проект LHG является уникальным. Весь комплекс: построен с. применением ' современных? уникальных» технологий и позволяет достигать, недоступных ранее показателей. С марта 2010 г. на ускорителе проводились столкновения протонов с полной энергией 7 ТэВ, при; этом было достигнуто пиковое
•2 Л 1 значение светимости 2-10 см -с . С ноября по декабрь коллайдер работал с пучками ядер свинца. Ядра разгонялись до энергии 1,38 ТэВ в расчете на
25 лкаждый нуклон и светимость столкновений, достигала 3 • 10 см с . В 2014 г. на ускорителе планируется достичь энергии столкновений протонных пучков 14 ТэВ с рекордно высокой светимостью 1034 см"2с"1.
Среди важнейших задач, которые предполагается решать в эксперименте при изучении протон-протонных взаимодействий:
• Обнаружение и измерение параметров ,Хиггс бозона - калибровочной частицы, которая- является ключевой в механизме образования масс элементарных частиц.
• Поиск суперсимметричных партнеров известных элементарных частиц.
• Обнаружение процессов; указывающих на возможное существование скрытых размерностей пространства-времени:
Поиск различных- "экзотических" частица и состояний: мини-черных дыр, частиц с необычными» квантовыми числами и т.п.
Для- получения физических результатов эксперимента ATLAS« обеспечиваются-управление и контроль рабочих, систем детектора, а также операции сбора; упорядоченного хранения и обработки экспериментальных данных. Работы в этих областях ведутся в каждом из поддетекторов эксперимента: Данная работа направлена на исследование, анализ и разработку программного обеспечения- контроля и управления одного из основных детекторов установки. ATLAS - Трекового Детектора Переходного Излучения TRT (Transition Radiation'Tracker) [4], который используется для измерения координат треков; а кроме этого - для идентификации электронов. Созданная1 система, обеспечивает безопасную* последовательную работу детектора, а также предоставляет инструменты, оценки- качества регистрируемых экспериментальных данных.
Во время набора экспериментальных данных необходимо в автоматизированном режиме контролировать состояние рабочих систем детектора. Также необходимо в режиме экспресс-оффлайн контролировать и мониторировать конфигурации системы сбора данных, включая хранение, управление и визуализацию параметров настройки (пороги напряжения, временные задержки и т.д.) компонентов считывающей электроники и триггера. Состояние систем детектора и конфигурация системы сбора данных непосредственно влияют на качество регистрируемых данных, которое также необходимо мониторировать.
Для обеспечения бесперебойной работы детектора TRT, а также гарантии качества регистрируемых им данных необходимо осуществлять контроль рабочих систем детектора и мониторировать около 400000 каналов, информации и более 22600 компонентов считывающей электроники. Работа с таким объемом данных требует внедрения автоматических программных средств.
В работе впервые была реализована программная система для мониторинга и контроля конфигураций рабочих систем и контроля качества регистрируемых данных детектора TRT в эксперименте ATLAS. Были выполнены внедрение и надежная поддержка разработанного программного обеспечения. В системе были учтены следующие положения:
- В условиях длительного этапа подготовки эксперимента и эксплуатации, система учитывает возможные модификации для удовлетворения изменяющимся требованиям в процессе разработки и эксплуатации;
- Система обладает достаточной модульностью для успешной интеграции с существующими компонентами;
Основными методами исследований, используемыми в работе, являлись методы структурного и функционального анализа, и теории алгоритмов.
Современное программное обеспечение крупных физических экспериментов основывается на наборе различного рода программных сред, компонентов и модулей. Существует больше количество задач и целей, решаемых при помощи программных средств. При разработке программного модуля, входящего в состав инфраструктуры эксперимента, следует учесть существование большого числа различного рода данных и соответствующих программных служб. Например, технические данные, данные геометрии установки, базы данных системы сбора данных и системы контроля физической установки. Базы данных могут быть как,реального времени, так и автономные. Также существуют данные событий, условий и конфигураций. Используются.различные службы управления-данными:
Особенности программного обеспечения в области крупных экспериментов заключаются в следующем:
- Большое- число* данных,, подлежащих регистрации, хранению, обработке и визуализации,
- Широкий ряд программных систем предназначен для выполнения обработки данных в реальном времени,
- Пользователи разрабатывают свои собственные программные модули» в единой программной' среде, обеспечивающей основной" функционал и единую геометрию эксперимента, а также содержащей необходимые библиотеки и интерфейсы доступа к данным и программным службам.
Поскольку в программном, обеспечении эксперимента широко принято использование распределенных информационных ресурсов, наиболее-рациональной«, является; сервисно-ориентированная архитектура. . Таким, образом, может быть реализованы принципы многократного использования функциональных элементов, ликвидации дублирования функциональности в программном обеспечении, унификации типовых операционных процессов. Компоненты программы« могут быть распределены по разным узлам сети,, и предлагаются как независимые, слабо связанные, заменяемые сервисы-приложения. Модель предполагает инкапсуляцию деталей реализации конкретного компонента от остальных компонентов. В условиях проведения крупных экспериментов, когда программные компоненты разрабатываются разными рабочими группами на разных языках программирования и платформах следование модели позволяет реализовать интерфейсы, обеспечивающие доступ к функционалу модуля со стороны других модулей.
Разрабатываемые в эксперименте уникальные программные средства реализуют функции управления хранящимися данными, возможности просмотра, передачи данных между базами данных и электроникой, возможности создания' кортежей конфигурационных данных и т.д. Хранящиеся данные подлежат анализу и«обработке.
Существует условное разделение программного* обеспечения на программное обеспечение реального времени и автономное. Критерием разделения-является достижения требуемого соотношения времени отклика и точности и детализации обработки данных. В соответствии с этим разделением ведутся разработки программного обеспечения. В том случае, если результаты обработки данных должны незамедлительно вносить изменения в режим работы систем эксперимента, программное обеспечение работает в режиме реального времени. К таким данным относятся критические данные системы контроля детектора. Это могут быть сигналы тревог, в случае, если ключевые параметры работы какой-либо системы вышли за допустимые пределы. Также к системам реального времени относится »система* триггера, вырабатывающая сигнал, разрешающий запись экспериментальных данных, в случае если результатом экспресс обработки является заключение, что данное физическое событие представляет интерес для данного исследования.
Большая часть экспериментальных данных представляет интерес для последующей обработки. При обработке такого рода данных приоритет смещается от скорости вынесения результата в сторону точности вынесенного результата и глубины детализации рассмотрения данных. В таком случае речь идет об автономных данных.
Для обработки экспериментальных данных, а также проведения специальных вычислений используются специальные вычислительные среды. Вычислительная среда эксперимента призвана решать широкий спектр задач, связанных с физическими вычислениями и обработкой? экспериментальных данных: эмуляция физических процессов и работы, эксперимента,, разработка программных триггеров — систем экспресс-обработки поступающих, данных, с целью выработки^ сигнала записи» интересующих физических событий, программы реконструкции физических процессов по: полученным экспериментальным результатам, программы физического анализа данных, визуализация иг т.д. Вычислительная ^ среда эксперимента- - программное обеспечение, включающее- необходимые и часто используемые алгоритмы, данные, механизмы и программные модули для обработки данных конкретного эксперимента. Вычислительная среда эксперимента является* основой' для разработки, собственных приложений пользователями. и предоставляет единый интерфейс доступа к основным вычислительным возможностям и сервисам, однако- при, этом не включает средства управления. Использование такой среды позволяет реализовывать единые алгоритмы, как, например, алгоритмы, связанные* с геометрией эксперимента. Вычислительная, среда эксперимента решает следующие основные задачи:
- Структура программного«-обеспечения, куда разработчики встраивают свой код;
- Обеспечение основного функционала;
- Обеспечивает единый подход к созданию программных модулей.
Примером удачной реализации такой среды- является система Gaudi[5], созданная- и ориентированная для работы в эксперименте LHCb[6] на ускорителе LHC. Система Gaudi была взята за основу при создании среды эксперимента ATLAS - Athena[7]. Система Athena предоставляет разработчику следующие возможности: алгоритмы, работа с объектами данных, специальные службы, преобразование данных, работа с параметрами алгоритмов и служб, поддержка управлением заданиями.
Среда Athena представляет единый интерфейс, обеспечивающий доступ ко всем данным, необходимым для выполнения физического анализа. Кроме того, система Athena представляет возможности мониторинга в реальном времени физических событий и статистической информации, характеризующей работу детектора и подсистемы c6opas данных DAQ (Data Acquisition System)[8].
Все уровни обработки данных эксперимента ATLAS, начиная от триггера высокого уровня, до эмуляции, событий, реконструкции^ и анализа происходят в рамках среды Athena. Данный подход наиболее удобен разработчикам кода и пользователям, так как позволяет тестировать и запускать алгоритмический код, с гарантией, что вся геометрия детектора и условия будут одинаковы для всех типов приложений: эмуляция, реконструкция, анализ, визуализация.
Для реализации функций эмуляции физических процессов и работы экспериментов разрабатываются специальные системы эмуляции. В области физики элементарных частиц основными системами являются Pythia[9] и Geant4[10]. Pythia - программа моделирования процессов столкновения элементарных частиц^ при высоких энергиях на ускорителях элементарных частиц. Geant4 (англ. GEometry ANd Tracking — геометрия и трекинг) является программой для моделирования прохождения элементарных частиц через вещество с использованием методов Монте-Карло. Система разработана в ЦЕРНе на объектно-ориентированном языке программирования С++ и является дальнейшим развитием предыдущих версий Géant.
При обработке данных и анализе полученных результатов в ряде случаев разрабатывается программное обеспечение, оценивающее результат по набору заданных критериев. В большинстве случаев проверка результатов работы систем и качества-полученных экспериментальных данных требует творческой оценки группы специалистов. В этом случае ставится задача представления экспериментальных данных наглядным и удобным для восприятия4, пользователя способом. И в случае большого' объема таких данных, ставится задача^ о- создании5 и использовании графических средств представления данных, предоставляющих возможности управления, детализацией^ представления и- ориентированных на представления данных конкретной^ системы. Системы графического представления данных должны представлять, изображения с. учетом реальной геометрии» целевой системы. Общим подходом является использование специальных систем, содержащих набор графических библиотек и примитивов, а также предоставляющих специальные языковые и интерактивные средства разработки. Системы визуализации эксперимента, выполняющие в большинстве случаев роль, дисплеев событий, разрабатываются, практически во» всех крупных экспериментах. Дисплей, событий, - программное' средство графического представления наблюдаемого физического явления:
В рамках эксперимента ATLAS- ведутся разработки программных средств графической визуализации экспериментальных данных. Система 1 разработки ROOT[ll], используемая, в качестве основной среды обработки данных экспериментов на ускорителе LHG, содержит большое число библиотек, описывающих графические примитивы, и предоставляет широкие возможности для работы с гистограммами и графиками. Однако для визуализации треков элементарных частиц разрабатываются более сложные системы, ориентированные на архитектуру и геометрию детектора. Примерами, таких систем в эксперименте ATLAS- являются: Atlantis[12], PERSINT[13] и Virtual Point 1 [14]. Данные системы предоставляют графическое изображение компонентов детектора и, наложенные на них, треки частиц. При этом системы PERSINT и Virtual Point 1 работают в. режиме трехмерной графики. Системы работают с данными представленными системой Athena.
Данные физических событий детектора TRT могут быть представлены при помощи вышеперечисленных средств визуализации эксперимента ATLAS. Однако существовала необходимость, при помощю единого графического интерфейса представлять с детализацией до уровня различных структурных компонентов детектора данные^ физических событий, статистические данные, характеризующие качество полученных физическим данных, а также данные об используемых конфигурациях систем и условиях эксплуатации. В рамках данной работы было создано программное обеспечение для визуализации данных детектора TRT. Данная программа визуализации используется как универсальное средство мониторинга детектора на этапах тестирования, ввода в эксплуатацию и работы в штатном режиме.
При создании инфраструктуры хранения экспериментальных данных, к основным задачам относятся организация структурированного хранения данных с реализацией возможности совместного использования различных по типу и назначению баз данных, а также реализация рационального доступа к данным. Такая организация позволит в дальнейшем полностью восстановить процесс эксперимента и предоставит ученым всю необходимую информацию.
В основе систем хранения экспериментальных данных как правило лежат стандартные РСУБД[15] (Oracle[16], MySQL[17] и т.д.). На основе стандартных РСУБД могут разрабатываться надстройки, ориентирующие систему хранения на экспериментальные данные. Также в рамках СУБД реализуются оптимальные и эффективные схемы организации хранения данных (таблицы, представления, хранимые процедуры, хранимые типы и т.д.). В ряде случаев и специфических задач используются файловые системы хранения[15] на основе технологии XML[18] и файлов уникального типа.
В области экспериментальной? физики; используются два широких подхода, к- ранению- данных: хранение данные на основе использования файлов и использования реляционных баз данных[19]. Оба подхода хранения дополняют друг друга и используются5 совместно. Файловое хранение-обычно- используется для больших' наборов экспериментальных данных., Хранилища на основе баз данных используется; когда требуется! одновременная; запись- многими; пользователями;, поддержкам транзакций;, когда? обработка^ дынных; неотъемлемо? распределенная; обычно с централизованной": записью» данных: и распределенным, чтением, когда требуется^ индексация? для; выполнения» быстрых запросов? на умеренных объемах данных, и где требуется; структурированная; архивное;: хранение и поиск на основе? запросов. Конкретная реализация систем хранения экспериментальных данных не тривиальна и решаются в» рамках отдельного эксперимента: Обычно на основе реляционных СУБД создаются- системы, хранения; при этом внутренняя структура реализована в виде множества связанных таблиц, реализующих: как» функции непосредственно хранения данных, так и механизмы рационального доступа и поиска. Также в реляционных базахданных хранятся; ссылки навнешние файлы данных.
Экспериментальныетданные событиш поступают с большой; частотой порядка гигабайт в секунду. При этом первично полученные данные позднее пройдут несколько этапов; автономной обработки. Наиболее рациональным способом хранения; таких данных является запись их в большие; файлы необработанных данных с уникальными именами, которые впоследствии; будут обработаны[7]. При этом соответствующие условия, при которых был получен такой файл, а именно данные использованных конфигураций-рабочих систем и т.д., записываются в реляционные базы данных. Также N реляционная база данных хранит ссылки на файлы данных, соответствующие каждому набору данных условий, таким образом, каталогизируя файлы. В: качестве указателя; внешнего файла данных может выступать, например, номер экспериментального запуска. Таким образом, система хранения данных современных экспериментов представляет собой комбинированное хранение на'основе файловых и реляционных баз данных. Данный подход используется- в • экспериментах на ускор>ителе LHC. Такая- организация-позволяет эффективно записывать большой объем данных событий, при этом-одновременная- поддержка реляционных баз данных условий, позволяет эффективно выполнять запросы и получать необходимый,файл данных.
В" эксперименте ATLAS на ускорителе5 LHC при1 реализации' систем хранения-активно используются? системы COOL[20] и CORAL[21], созданные в, ЦЕРНе. Программный пакет COOL реализован на основе механизма интервалов истины, т.е.- объекты или ссылки на объекты^ хранящиеся^ базе данных COOL, имеют соответствующее время« так называемых начала и окончания* периода, в течение которого- эти. данные истинны. Система CORAL это программный, пакет, реализующий, основные операции для работы с данными. Основной1 целью при разработке являлось создание программного продукта, осуществляющего доступ к данным, хранящимся,в, СУБД. При этом доступ данных с точки зрения* программиста не должен зависеть.от используемой технологии СУБД.
Вг рамках детектора TRT для хранения^ данных системы, триггера, и сбора данных TDAQ[8], использовалась база, данных OKS (Object Kernel Source)[22], разработанной* в Петербурском институте ядерной физики им. П.Б. Константинова. База данных OKS основана на.использовании файлов XML. Сервер OKS является расширением репозитория базы данных -файлового хранилища и предоставляет возможности управления множеством файлов XML. В задачи данной диссертационной работы входит замена технологии хранения OKS на использование СУБД Oracle.
Большинство сервисов системы управления детектором DCS (Detector Control Sysytem)[23] в. детекторе TRT реализованы при помощи системы визуализации и управления процессами- PVSS[24] (пер. с нем.
Prozessvisualisierungs- und Steuerungs-System). Система PVSS предоставляет возможности построения систем хранения, являясь надстройкой над РСУБД Oracle. Для доступа к данным системы PVSS могут быть использованы запросы SQL и вызовы хранимых процедур Oracle, реализованные при помощи системы CORAL.
В рамках данной работы велась разработка базы данных системы TDAQ детектора TRT на основе СУБД Oracle, а также интерфейсной библиотеки для работы с данными систем TDAQ-и, DCS. В'задачи-проекта входило замена ранее использовавшейся базы данных на основе технологии OKS. Разработка интерфейсной библиотеки связано с необходимостью создания набора приложений для администрирования базы данных и управления конфигурациями системы DAQ. Кроме этого, библиотека позволила» реализовать программные методы автоматического управления конфигурациями и передачи данных между системами DAQ и DCS, а также обеспечила доступ к данным систем для» средств графической визуализации. Реализация библиотеки обеспечила интерфейсный программный слой между внутренней организацией баз данных детектора TRT и внешними приложениями пользователей. Результат анализа представлен в таблице 1.
Таблица 1. Программные средства эксперимента ATLAS
Основные системы / Типы программных средств Базовые системы и библиотеки Интерфейсы Высокоуровне вые системы
Системы хранения данных Данные событий Файлы необработанных данных POOL, RAL Athena
Данные условий и конфигураций Файлы XML OKS Oracle, MySQL COOL CORAL Разделяемые библиотеки С++ OKS, Athena, приложения мониторинга
Система сбора данных Oracle COOL CORAL Разделяемые библиотеки С++ Athena, приложения мониторинга
Система контроля детектора Oracle Oracle Stored Procedures, CORAL PVSS
Программные средства визуализации ROOT GraXML, GeoModel, PERSINT • Atlantis, PERSINT, Virtual Point 1
Вычислительная среда эксперимента Gaudi, Athena ROOT Athena
Генераторы событий Pythia, Geant4 ROOT Athena
Разнообразие используемых средств демонстрирует необходимость разработки большого числа интерфейсов, а также обуславливает проблему согласования форматов данных. Поскольку различные приложения и данные, находятся в сфере ответственности разных пользователей, то наиболее рационально в данном случае будет построение модели на основе сервисно-ориентированной архитектура программного обеспечения, когда предполагается интеграция вновь разрабатываемых модулей к единой программной шине. В рамках эксперимента ATLAS такой шиной является вычислительная среда Athena.
Заключение
Выполненное исследование позволило получить ряд новых научно-технических результатов, обеспечивающих процесс разработки и интеграции программных модулей в рамках больших информационных систем, эффективность которых подтверждена опытом эксплуатации в ЦЕРН. Основные результаты:
1. Были разработаны методы хранения большого объема 1 ТБ) конфигурационных данных эксперимента, обеспечивающих безопасный и рациональный механизм ввода новых значений конфигурационных параметров и быстрого поиска условий при которых были получены непосредственно экспериментальные данные. Созданные методы были использованы при разработке программной библиотеки CoolCoralClient для доступа к данным систем сбора данных DAQ и контроля детектора DCS детектора TRT в эксперименте ATLAS.
2. Были разработаны методы графического представления данных эксперимента. Разработанные методы были использованы при создании приложения TRTViewer. Данное приложение ориентировано на архитектуру детектора и может использоваться как средство мониторирования практически всех компонентов детектора. Приложение TRTViewer широко используется на этапах автономного тестирования детектора TRT. Приложение специально разработано как гибкое устройство быстрой диагностики и отладки.
3. Осуществлено внедрение в производственную эксплуатацию в системах мониторинга, контроля детектора и сбора данных всех представленных в данной работе программных модулей. Разработанные средства использовались в качестве основных средств мониторинга и контроля состояния рабочих систем детектора TRT, а также участвовали в процессах контроля качества регистрируемых экспериментальных данных и калибровке считывающей электроники детектора. Детектор TRT вносит большой вклад в получение физических результатов эксперимента ATLAS.
Благодарности
Ясердечно благодарен моему первому научному руководителю - Чернышеву Юрию Александровичу, без которого эта работа не могла быть выполнена. Будучи» студентом Московского инженерно-физического института (МИФИ), я пришел к Юрию Александровичу на преддипломную практику, где сразу начал работать над. задачами« мониторинга и графической! визуализации экспериментальных данных для. эксперимента ATLAS (ЦЕРН). Под его научным руководством я сначала успешно защитил диплом, а затем продолжил свою работу в аспирантуре МИФИ. Также я хочу выразить огромную благодарность моему научному руководителю, который помог мне завершить работу над диссертацией' и дойти до ее защиты - Шмелевой* Алевтине Павловне. Юрий Александрович и Алевтина Павловна внесли огромный вклад в работу. Спасибо вам за настоящую научную школу.
Также я хотел от всего сердца поблагодарить коллектив кафедры № 40 МИФИ, основанной; ш долгое время возглавляемой Борисом Анатольевичем Долгошеиным. Борис Анатольевич был выдающимся ученым и главным идейным создателем Трекового Детектора Переходного Излучения TRT. Я считаю своей большой удачей, что мне посчастливилось работать в его команде.
Я бы хотел поблагодарить замечательных людей, с которыми мне посчастливилось работать в Европейском Центре Ядерных Исследований и без i участия которых эта работа тоже вряд ли была бы возможна: Кристоф Рембсер, Бениамино Ди Джироламо, Анатолий Романюк, Майк Хэнс, Питер Вагнер, Питер Светански, Элзбиета Банас. Отдельно я бы хотел поблагодарить людей, с непосредственно с которыми я работал бок о бок во- время написания этой работы: Сергея Смирнова и Владимира Тихомирова.
Считаю своим приятным долгом выразить благодарность всем моим соавторам, друзьям и коллегам за искреннюю, дружескую поддержку при подготовке этой работы.
Особая благодарность оппонентам, проделавшим немалый труд при чтении и анализе работы и за отмеченные, безусловно, ценные замечания, а также всем, написавшим отзыв на автореферат.
20.COOL - LCG Conditions Database Project: http.//lcgapp.cem.ch/project/CondDB/ :
21.Papadopoulos, et al., CORAL, A Software-System for Vendor-Neutral Access to Relational Databases, 15th International Conference on Computing In High Energy and Nuclear Physics,Mumbai, India, 2006
22.SoIoviev, et al., The Configurations Database Challenge in the ATLAS DAQ System, Computing in High Energy Physics and Nuclear Physics, Interlaken, Switzerland, 2004, ATL-COM-DAQ-2004-021
23 .H.J. Burckhartj "Detector Control System", Fourth;Workshop on Electronics for LHC Experiments, Rome, Italy, 1998, p. 19-23.
24.PVSS-II, http://www.pvss.com
25.ATLÀS Collaboration; ATLAS Technical Proposal^CERN/LHCC/94-43j CERN, Geneva, Switzerland, 1994
26.G. Aad, E. Abat,. R. Mashinistov et al., The ATLAS Experiment at the CERN Large Hadron Collider. Journal of Instrumentation 2008
27.G. Aad, E. Abat, . R. Mashinistov et al., The ATLAS Inner Detector commissioning and calibration. European Physical Journal C 2010, Vol. 70, No. 3, p. 787-821 ;
28.G. Aad, E. Abat, . R'. Mashinistov et al. Expected performance of the ATLAS experiment: detector; trigger and physics; Preprint CERN-OPEN-2008-020, Geneva, CERN, 2009
29.ATLAS Collaboration, ATLAS magnet system : Technical Design Report 1, ATLAS-TDR-006, CERN, Geneva, 1997. - 101 p.
30. ATLAS Inner Detector Community, Technical Design Report, Volume 1 and 2, ATLAS TDR 4, CERN, Geneva, 1997.
31.G. Aad et al, ATLAS Pixel Detector Electronics and Sensors. Journal of Instrumentation 2008
32.Е Abat, A Abdesselam, . R. Mashinistov et al. Combined performance tests before installation of the ATLAS Semiconductor and Transition Radiation Tracking Detectors. Journal of Instrumentation 2008
33.E. Abat, T. N. Addy, . R. Mashinistov et al. The Atlas Transition Radiation Tracker (TRT) proportional drift tube: design and performance. Journal of Instrumentation 2008
34.P.Cwetanski, A.Romaniouk and V.Sosnovtsev, "Studies of wire offset effects on-gas gain in the ATLAS TRT straw chamber", ATLAS Internal Note ATL-INDET-2000-016, 2000
35.E. Abat, T. Ni Addy, . R. Mashinistov et al. The ATLAS TRT electronics. Journal of Instrumentation 2008
36.E. Abat, T. N. Addy, . R. Mashinistov et al. The ATLAS TRT Barrel detector. Journal of Instrumentation 2008
37.E. Abat, T. N. Addy, . R. Mashinistov et al. The ATLAS TRT end-cap detector. Journal of Instrumentation 2008
38.G. Aad et al., Drift Time Measurement in the ATLAS Liquid Argon Electromagnetic Calorimeter using Cosmic Muons, European Physical Journal С 2010, Vol. 70, No. 3, p. 755-785
39.G. Aad et al., Readiness of the ATLAS Tile Calorimeter for LHC collisions, European Physical Journal С 2010, Vol. 70, No. 4, pp. 1193-1236
40.G. Aad et al., Readiness of the ATLAS Liquid Argon Calorimeter for LHC Collisions, European Physical Journal С 2010, Vol. 70, No. 3, pp. 723-753
41.G. Aad et al., Commissioning of the ATLAS Muon Spectrometer with Cosmic Rays, European Physical Journal С 2010, Vol. 70, No. 3, pp. 875-916
42.H.J. Burckhart et al., "Communication between Trigger/DAQ and DCS", International Conference on Computing in High Energy and Nuclear Physics, Beijing (China) September 2001, pp. 109-112.
43 .Б. Ди Джироламо, Р.Ю. Машинистов, Ю.А. Чернышев, Механизм «интервалов истины» в базах данных условий и конфигураций физического эксперимента Atlas. Науч. сессия МИФИ-2008. XII выставка-конференция. Телекоммуникации и новые информационные. Технологии в образовании: Сб. науч. тр. М.: МИФИ, 2008, С. 41-43
44.A. Amorim, J. Lima, L. Pedro, D. Klose, C. Oliveira, N. Barros. IEEE-NPSS: An Implementation for the ATLAS Conditions Data Management Based on Relational DBMSs. In Proceedings of the 13 th IEEE-NPSS Real Time Conference, 2003, pp. 591- 595
45.S. Kolos, I. 'Scholtes, P.F. Zema The ATLAS Event Monitoring Service - Peer-to-Peer Data Distribution in High Energy Physics, IEEE Transactions on Nuclear Science, 2008, Vol. 55, No.3, pp. 1610 - 1620.
46.ATLAS HLT/DAQ/DCS Group, ATLAS Technical Design Report: High-Level Trigger, Data Acquisition and Controls, ATLAS-TDR-016, Geneva, CERN, 2003
47.P. Lichard et al., Evolution of the TRT backend and the new TRT-TTC board, Prepared for 11th Workshop on Electronics for LHC and Future Experiments, Heidelberg, Germany, 2005, http://cdsweb.cern.ch/record/920977.
48.C. Baxter et al., Progress on the development of a detector mounted analog and digital readout system for the ATLAS TRT, 50th IEEE 2003 Nuclear Science Symposium, Medical Imaging Conference, 13th International Workshop on ' Room Temperature Semiconductor Detectors and Symposium on Nuclear Power Systems, Portland, OR, USA, 2003, Vol.1, pp. 202-205
49.С. Alexander et al., Progress in the development of the DTMROC time measurement chip for the ATLAS Transition radiation tracker (TRT), IEEE Transactions on Nuclear Science , 2001, Vol. 48, No.3, pp. 514-519
50.ATLAS-TRT collaboration, T. Akesson et al., Straw tube drift-time properties and electronics parameters for the ATLAS TRT detector, Nuclear Instruments and Methods in Physics Research Section A, Volume 449, Issue 3, 2000, pp. 446460
51 .P.Lichard, The new ATLAS TRT Readout System, 6th Workshop on Electronics for LHC Experiments, Krakow, Poland, 2000, pp.434-438
- 13552.1. Alexandrov et al., LargeScale and Performance Tests of the ATLAS Online Software, Science Press New York Ltd. Proceedings of CHEP 2001, Beijing, China, pp.570-571
53.S.Kolos et al., Online Monitoring software framework in the ATLAS experiment, Conference for Computing in High-Energy and Nuclear Physics CI IEP 2003 , La Jolla, CA,USA , 2003, -6p. .
54.1. Alexandra vet al;,, Online Software for the. ATLAS Test Beam Data; Acquisition; System, IEEE Transactions on Nuclear Science , 2004; Vol.51, No. 3, pp. 578584 55.R. I-Iart and V.Khomoutnikov, ATLAS DAQ DCS Communication Software:
User Requirements Document, Nov. 2000, ■ http://atlasinfo.cern.ch/ATLAS/GROUPS/DAQTRIG/DCS/DDC/ddcurd.pdf 56.PVSS-II, http://www.pvss.com/ '
57.Soloviev, et al., The Configurations Database Challenge in the ATLAS DAQ System, Computing in High Energy Physics and Nuclëar Physics, Interlaken, Switzerland , 2004, ATL-COM-DAQ-2004-021
58.D. Liko etal., Control in the ATLAS TDAQ System // Computing in High Energy Physics and Nuclear Physics 2004 CHEP 2004 , Interlaken, Switzerland , 2004, pp. 159-162
59.P.Ю. Машинистов, В.И. Метсчко, ; С.Ю. Смирнов, В.О. Тихомиров, Компьютерная ферма Грид МИФИ. Инженерная физика. 2008. №1, С. 54-59
60.D. Liko et al., The ATI .AS strategy for Distributed Analysis in several Grid infrastructures, Conference for. Computing in High Energy and Nuclear Physics, Mumbai, India, 2006: http://indico.cem:ch/contributionDisplay.py?contribId=263&sessionId=9&confId =048
61.A C. Железко, Р.Ю. Машинистов и др., Разработка системы визуализации данных трекового детектора1 переходного • излучения в эксперименте Atlas. Науч. сессия МИФИ-2007. Научно-образовательный центр CRDF. V
Конференция.- Фундаментальные исследования материи в экстремальных состояниях. Физика ядра и элементарных частиц: Сб. науч. тр. М.: МИФИ, 2007, С. 88-90 i
62. JC OP: http ://itcowww.cern. ch/j сор/
63.Бородин М.С., Машинистов Р.Ю., Разработка системы хранения и визуализации данных трекового детектора переходного излучения в эксперименте ATLAS. Современные технологии в задачах управления, автоматики и обработки информации, Труды XVII*Международного научно-технического семинара Сентябрь 2008 г., Алушта, ISBN 978-5-80880357-2
64.Р.Ю. Машинистов, Ю.А. Чернышев Ю.А., Разработка программного1 обеспечения хранения данных в вычислительной инфраструктуре физического эксперимента. Открытое образование 2009, №4, С. 57-62
65.Б. Ди Джироламо, Р.Ю. Машинистов, А.С. Романюк, Разработка системы хранения данных трекового детектора переходного излучения в эксперименте Atlas. Науч. сессия МИФИ-2007: Сб. науч. тр. В 17 т. М.: МИФИ, 2007, Т. 10. С. 49-50
66.Р.Ю. Машинистов, Ю.А. Чернышев Ю.А, Методы хранения экспериментальных данных детектора элементарных частиц на примере эксперимента ATLAS на ускорителе LHC (ЦЕРН). Открытое образование 2010, №2, С. 41-47
67.G. Aad et al., Charged particle multiplicities in pp interactions measured with the ATLAS detector at the LHC, New Journal of Physics, 2011, Vol.13, -70 pp.
68. G. Aad et al., Measurement of the W -> lnu and Z/gamma* -> 11 production cross sections in proton-proton collisions at у/s =7 TeV with the ATLAS detector, e-Print: arXiv:1010.2130vl [hep-ex], 2010, - 57 pp.