Статистические методы исследования широких атмосферных ливней тема автореферата и диссертации по физике, 01.04.16 ВАК РФ

РОССИЙСКАЯ АКАДЕМИЯ НАУК 003052 12Б

ИНСТИТУТ ЯДЕРНЫХ ИССЛЕДОВАНИЙ МОСКОВСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ ИМЕНИ М. В. ЛОМОНОСОВА

На правах рукописи

Рубцов Григорий Игоревич

Статистические методы исследования широких атмосферных ливней

01.04.16 — физика атомного ядра и элементарных частиц

АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата физико-математических наук

003052126

РОССИЙСКАЯ АКАДЕМИЯ НАУК ИНСТИТУТ ЯДЕРНЫХ ИССЛЕДОВАНИЙ МОСКОВСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ _ИМЕНИ М. В. ЛОМОНОСОВА_____

На правах рукописи

Рубцов Григорий Игоревич

Статистические методы исследования широких атмосферных ливней

01.04.16 — физика атомного ядра и элементарных частиц

АВТОРЕФЕРАТ

диссертации на соискание ученой степени кандидата физико-математических наук

Работа выполнена в Отделе теоретической физики Института ядерных исследований Российской академии наук и на кафедре квантовой статистики и теории поля физического факультета Московского государственного университета им М. В.Ломоносова.

Научные руководители:

доктор физико-математических наук,

академик РАН В. А. Рубаков

кандидат физико-математических наук С. В. Троицкий

Официальные оппоненты:

доктор физико-математических наук Э. В. Бугаев (ИЯИ РАН)

доктор физико-математических наук Я. Н. Калмыков (НИИЯФ МГУ)

Ведущая организация:

Институт космофизических исследований и аэрономии им. Ю. Г. Шафера СО РАН

Защитяциссертации состоится « 2 а аз.2007_ 2007 г. в

' Г час, на заседании Диссертационного совета Д 002.119.01 Института ядерных исследований РАН (117312 Москва, проспект 60-летия Октября, дом 7а).

С диссертацией можно ознакомиться в библиотеке Института ядерных исследований РАН.

Автореферат разослан « ^ 0 2. 200/ 2007 г.

Ученый секретарь Совета кандидат физико-математических наук

Б. А. Тулупов

ОБЩАЯ ХАРАКТЕРИСТИКА РАБОТЫ

Актуальность проблемы.

Более половины века прошло с открытия явления широких атмосферных ливней (ШАЛ), вызванных попадающими в атмосферу частицами высоких энергий. Тем не менее, исследования космических лучей сверхвысоких энергий не перестали быть актуальными сегодня. Более того, разрешение: загадок, связанных с космическими лучами сверхвысоких энергий, может пролить свет на неизвестные сегодня физические явления и процессы.

В 1966 году Грейзеном и независимо Зацепиным и Кузьминым было предсказано обрезание спектра космических лучей на энергиях порядка 1020 эВ. Предсказание основывалось на том, что протоны с энергией свыше 1019'6 эВ, пролетая через Вселенную, должны рождать 7г-мезоны на реликтовых микроволновых фотонах. При каждом взаимодействии, протон в среднем теряет 20% своей энергии, что должно приводить к значительному подавлению спектральной плотности протонов при энергиях порядка и выше Ю20 эВ. Несмотря на то, что область энергий, относительно которой сделано предсказание, уже много лет подвергается экспериментальному исследованию, однозначного ответа на вопрос о присутствии в спектре ультрафиолетового обрезания до сих пор не получено.

С одной стороны, существование космических лучей с энергиями, превышающими Ю20 эВ — факт, установленный в независимых экспериментах различного типа. Первое такое событие было зарегистрировано в эксперименте Volcano Ranch в Нью-Мексико, США незадолго до открытия реликтового излучения. Событие с самой высокой измеренной

энергией около 3 • Ю20 эВ наблюдалось в эксперименте Fly's Eye в 1991 году. Эксперимент AGAS А (Akeno Giant Air Shower Array), завершивший сбор данных в 2003 году, за период наблюдения зарегистрировал 11 событий с экспериментально оцененными энергиями выше Ю20 эВ. Якутская комплексная установка ШАЛ, работающая с 1970 года по настоящее время, зарегистрировала 3 события с энергиями в указанном диапазоне. События с энергиями выше Ю20 также наблюдались во флуоресцентном эксперименте High Resolution Fly's Eye (HiRes) и гибридном эксперименте Pierre Auger.

С другой стороны, результаты современных экспериментов расходятся в отношении обрезания в спектре со статистической значимостью отличия в 2-3 стандартных отклонения и труднооценимыми систематическими различиями. Результаты эксперимента AGASA не указывают на ГЗК-обрезание спектра, тогда как результаты флуоресцентного эксперимента HiRes напротив указывают на то, что ультрафиолетовое обрезание присутствует.

Существование экспериментально наблюдаемых событий с энергиями выше энергии ультрафиолетового обрезания могло бы свидетельствовать о новых физических явлениях при сверхвысоких энергиях. На сегодняшний день предложено несколько возможных объяснений таких событий, среди которых можно отметить модель Z-вспышек, модели распада сверхтяжелых частиц темной материи и модели топологических дефектов. Указанные модели предсказывают значительную долю фотонов в спектре космических лучей сверхвысоких энергий. Указание на присутствие нейтральных частиц в спектре также было получено в работах по исследованию корреляций направлений прихода событий сверхвысоких

энергий с лацертидами.

Основные задачи, решаемые современными экспериментами — определение энергий и направлений прихода первичных частиц, измерение спектра и определение химического состава.

Непосредственно измеряемыми величинами для наземной решетки детекторов являются показания детекторов с учетом информации о временной развертке сигнала, а для флуоресцентного детектора - флуоресцентный сигнал с одного или нескольких телескопов. На основании прямо измеряемых величин в стандартной процедуре обработки определяется направление прихода первичной частицы. Определение энергии и типа первичной частицы в современных экспериментах происходит опосредованно. Сначала на основании непосредственно измеряемых величин вычисляются так называемые "наблюдаемые", а затем используется связь между наблюдаемыми и параметрами первичной частицы. Выбор наблюдаемых и процедуры их извлечения производится экспериментальной коллаборацией на основании данных об экспериментальных погрешностях. Связь наблюдаемых с параметрами первичной частицы может устанавливаться путем измерений, аналитических расчетов и компьютерного моделирования.

В решетках наземных детекторов в качестве наблюдаемой используется плотность регистрируемого детектором сигнала ¿¡'(Гсоп^), приведенная к фиксированному расстоянию от оси ливня rconst■ Расстояние, к которому приводится плотность, выбирается экспериментальной коллаборацией с целью минимизации флуктуаций плотности и экспериментальных ошибок в определении приведенной плотности на основании показаний детекторов. Традиционно гсопа( выбирают равным 600 мет-

ров, так как на указанном расстоянии от оси ливня ошибки измерения плотности минимальны. Для новых экспериментов, с большими расстояниями между детекторами, Гап^ выбирают равным 1000 метров. При наличии в эксперименте мюонных детекторов, может дополнительно использоваться плотность потока мюонов р^ГстЛ1)- Наземные эксперименты регистрируют время прихода первой частицы на каждый детектор, что позволяет определить кривизну фронта ливня. Новые эксперименты Pierre Auger Observatory (РАО) и Telescope Array (ТА) также регистрируют временную развертку сигнала на каждом детекторе, что позволяет определить время нарастания сигнала.

Флуоресцентные детекторы регистрируют продольное развитие ШАЛ. Флуоресцентный свет, испускаемый возбужденными молекулами азота вдоль оси ливня, регистрируется специальным телескопом. Функция продольного распределения является наблюдаемой в экспериментах такого типа. Флуоресцентные эксперименты определяют, в частности, параметр XmaI — глубину атмосферы, на которой число частиц в ливне максимально, а также число частиц на этой глубине Nmax-

Развитие широкого атмосферного ливня в атмосфере — сложный каскадный процесс. Высокоэнергетическую часть ШАЛ можно смоделировать численно, путем решения одномерных каскадных уравнений, так как до определенного порога энергий все частицы ливня можно считать движущимися вдоль оси ливня. Моделирование трехмерного развития ливня обычно производится методом Монте-Карло. Для Монте-Карло моделирования доступны несколько программных пакетов, наиболее распространенные из которых CORSIKA (COsmic Ray Simulations for К Asease) и AIRES (AIRshower Extended Simulations). В диссертации

используется программный пакет CORSIKA.

В развитии ливней, вызванных первичными фотонами, имеется ряд особенностей. Если в атмосферу попадает фотон с энергией Е > 1019 эВ, то нельзя пренебречь эффектом Ландау, Померанчука и Мигдала, который приводит к подавлению электромагнитного сечения взаимодействия и, как следствие, к задержке первого взаимодействия. Кроме того, ливни, вызванные первичными фотонами сверхвысоких энергий могут начать развиваться в магнитосфере Земли за счет процесса рождения е+ е~ пар в магнитном поле. Моделирование развития ливня в геомагнитном поле производится с помощью подключаемого модуля PRESHOWER для пакета CORSIKA.

Для сокращения времени расчетов ШАЛ, вызванных частицами сверхвысоких энергий, используется процедура прореживания (thinning). В ней группы частиц заменяются на отдельные эффективные частицы, которым приписываются различные веса. Такая процедура удобна при изучении средних значений наблюдаемых, однако приводит к дополнительным нефизическим флуктуациям. Кроме того, использование эффективных частиц не позволяет исследовать мелкомасштабную структуру ливня и надежно моделировать временную развертку сигнала.

Определение состава первичных частиц сверхвысоких энергий является одной из наиболее актуальных задач: информация о составе позволяет проверить ряд теоретических предсказаний сама по себе, а кроме того, является важным ингредиентом надежного определения энергии. Эту задачу можно представить в виде двух подзадач, первая заключается в разделении фотонной и адронной составляющих, а вторая в опре-

делении массового состава адронной составляющей.

В силу того, что количество событий, зарегистрированных в диапазоне сверхвысоких энергий небольшое, применяемые методы анализа, основанные на средних величинах, становятся неприменимы. Для анализа небольших выборок целесообразна разработка статистических методов пособытийного анализа экспериментальных данных.

Цель работы — разработка статистических методов, позволяющих повысить точность физических выводов и предсказаний, формулируемых с использованием данных современных экспериментов, регистрирующих широкие атмосферные ливни.

Научная новизна и практическая ценность. В диссертации впервые теоретически исследованы мелкомасштабные флуктуации плотности частиц в широких атмосферных ливнях и рассчитан их вклад в погрешности измерения наблюдаемых величин наземными решетками детекторов. Впервые получено распределение величины погрешности, вносимой в наблюдаемые величины физическими мелкомасштабными флуктуациями, показано, что форма распределения отличается от гауссовой.

Предложен новый статистический метод исследования химического состава космических лучей сверхвысоких энергий на основе наблюдаемых для индивидуальных ШАЛ, зарегистрированных в эксперименте. Новым является пособытийный анализ малых наборов экспериментально зарегистрированных ШАЛ и использование в анализе только наблюдаемых величин. Метод позволяет наиболее точно исследовать малые наборы экспериментальных событий и превосходит существующие методы по точности и устойчивости результатов.

В диссертации впервые получены наиболее сильные на сегодня огра-

ничения на долю фотонов в первичном спектре космических лучей сверхвысоких энергий. В диапазоне энергий выше Ю20 эВ поставлено ограничение на уровне 36% из анализа объединенного набора данных экспериментальной установки АСАБА и Якутской комплексной установки широких атмосферных ливней. В диапазонах энергий выше 2 ■ 1019 эВ и выше 4-1019 эВ поставлены ограничения на уровнях 12% и 22% соответственно из анализа данных Якутской установки.

Впервые призведено прямое сравнение значений наблюдаемых в искусственных ШАЛ, смоделированных с процедурой прореживания и без нее, получена оценка искусственных флуктуаций, вносимых процедурой прореживания.

Предложен новый метод, позволяющий улучшить точность и скорость вычислений при моделировании широких атмосферных ливней с процедурой прореживания.

Апробация диссертации. Основные результаты, полученные в диссертации, доложены на научных семинарах ИЯИ РАН, ИТФ им. Л. Д. Ландау, кафедры квантовой статистики и теории поля физического факультета МГУ им. М. В. Ломоносова, 14-м международном семинаре "Кварки-2006" (Санкт-Петербург), на 29-й международной конференции по космическим лучам (Пуне, Индия, 2005), на трех международных рабочих совещаниях по космическим лучам сверхвысоких энергий и их источникам (Москва, 2004, 2005, 2006), на 23-й международной конференции по физике высоких энергий (Москва, 2006), 13-й международной Ломоносовской конференции по физике элементарных частиц, на 33-й зимней школе ИТЭФ и на 29-й Всероссийской конференции по космическим лучам (Москва, 2006).

Публикации. По результатам диссертации опубликовано 8 работ.

Объем работы. Диссертация состоит из введения, трех глав основного текста, заключения и 4 приложений, содержит 111 страниц машинописного текста, в том числе 19 рисунков и список литературы из 105 наименований.

СОДЕРЖАНИЕ РАБОТЫ

Во введении обсуждается современное состояние исследований спектра и химического состава первичных частиц сверхвысоких энергий. Дается краткое описание современных экспериментов и экспериментальных методик регистрации ШАЛ, вызванных первичными частицами сверхвысоких энергий. Описываются особенности развития ШАЛ, вызванных первичными фотонами. Кратко изложено содержание диссертации.

В первой главе диссертации дается описание метода исследования экспериментальных погрешностей определения наблюдаемых с использованием открытой библиотеки искусственных ШАЛ, смоделированных без использования процедуры прореживания. В разделе 1.1 описываются различные подходы к моделированию ШАЛ, в частности приводится краткое описание пакета CORSIKA и используемых им программных модулей для моделирования взаимодействий.

В разделе 1.2 дается описание прореживания — процедуры, позволяющей значительно сократить время моделирования ливня за счет замены групп частиц, образующихся в актах взаимодействия, на эффективные частицы. Процедура прореживания очень эффективна для широкого класса задач, связанных с определением характеристик ШАЛ, но неприменима к некоторым важным задачам, таким как исследование экспериментальных ошибок, вызванных мелкомасштабными флуктуаци-

ями.

Созданная автором открытая библиотека ШАЛ, смоделированных без использования процедуры прореживания, описана в разделе 1.3. Библиотека ливней позволит проводить исследования, невозможные при использовании процедуры прореживания, без необходимости тратить ресурсы на ресурсоемкое моделирование. Описание новых, недоступных ранее возможностей для анализа, предоставляемых открытой библиотекой приводится в разделе 1.4. Описывается, в частности, возможность детального исследования временной развертки сигнала на детекторе, актуального для новых экспериментов.

Флуктуации плотности числа частиц в ШАЛ на масштабе порядка размера детектора (несколько метров) могут приводить к значительным отклонениям показаний индивидуального детектора от средней плотности числа частиц на заданном расстоянии от оси. В разделе 1.5 описывается метод анализа мелкомасштабных флуктуаций на масштабе размера детектора и дается оценка возможного вклада таких флуктуаций в ошибки измерения наблюдаемых величин в эксперименте. Вычисляется автокорреляционная функция для плотности сцинтилляционного сигнала и мюонной плотности. Показывается, что автокорреляционные функции сцинтилляционного сигнала и мюонной плотности в ШАЛ близки к нулю на масштабах больше или порядка размера детектора. Отмечено, что ливни из открытой библиотеки содержат избыточную информацию по отношению к моделированию регистрации ШАЛ, при котором используется лишь порядка Ю-6 информации, содержащейся в искусственном ливне. В нашем методе каждый ливень детектируется 30 тысяч раз при различных положениях оси ливня относительно решетки детекторов (и

различных углах поворота ливня), что позволяет эффективно использовать имеющуюся избыточность. Дается обоснование метода.

Оценка величины мелкомасштабных флуктуаций выполнена в разделе 1.6 с использованием данных открытой библиотеки. Вычислена функция распределения величины мелкомасштабных флуктуаций на детекторе, находящемся на расстоянии 600 метров от оси ливня. Завершает главу раздел 1.7, в котором оценен вклад мелкомасштабных флуктуаций в экспериментальную ошибку определения 5(600) в эксперименте типа AGASA для первичных энергий порядка Ю20 эВ. Показано, что относительная величина стандартного отклонения погрешности определения 5(600), порожденной мелкомасштабными флуктуациями, составляет 7%. Распределение погрешности измерения 5(600) отличается от гауссовою и является более пологим в области переоценки, чем в области недооценки энергии. Показано, что ошибка, связанная с мелкомасштабными флуктуациями, является второстепенной для предсказаний относительно ГЗК-обрезания. Обосновывается положение, что будущие эксперименты смогут использовать новые наблюдаемые, в настоящее время измеряемые недостаточно точно.

Вторая глава посвящена описанию статистического метода анализа химического состава первичных частиц сверхвысоких энергий. В разделе 2.1 дается описание существующих методов анализа химического состава, их преимуществ и ограничений. Дается характеристика их применимости к малым экспериментальным наборам ШАЛ, вызванных частицами сверхвысоких энергий. В разделе 2.2 описываются основные составляющие приведенного метода: моделирование искусственных ливней для каждого индивидуального события и отбор искусственных ливней по

значениям наблюдаемых величин, восстановленных с применением процедуры, используемой в эксперименте.

В разделе 2.3 приводится общее описание подхода, основанного на пособытийном анализе, к исследованию химического состава, далее обсуждается выбор наблюдаемых для широких атмосферных ливней (подраздел 2.3.1). Для наших целей мы разделяем наблюдаемые на две группы, которые мы будем рассматривать различным образом: Е-наблюдаемые — параметры, непосредственно относящиеся к оценке энергии и направления прихода; С-наблюдаемые — параметры, используемые для того, чтобы отличить различные типы первичных частиц.

В подразделе 2.3.2 описываются общие принципы получения ограничений на возможный тип первичной частицы для индивидуального ШАЛ. В наборе исследуемых атмосферных ливней, каждое событие подвергается независимому изучению. Требуется смоделировать некоторое количество искусственных ливней, вызванных первичными частицами различного типа, Е-наблюдаемые которых согласуются с наблюдаемыми значениями в реальных событиях. С этой целью сначала производится моделирование ливней, вызванных первичными частицами различных энергий, а затем для каждого искусственного ливня реконструируются значения Е-наблюдаемых и сравниваются с наблюдаемыми значениями в реальном ливне. Смоделированные события затем участвуют в дальнейшем изучении с весом, пропорциональным оценке того, насколько хорошо их Е-наблюдаемые соответствуют данным. На этом этапе важно использовать ту же процедуру реконструкции, которая использовалась при анализе реальных данных, для чего требуется информация об отклике детектора на частицы различного типа, энергий и углов падения.

Аналогичным образом, следуя процедуре обработки реальных данных, для каждого смоделированного ливня восстанавливаются С-наблюдаемые. Для каждого исследуемого типа первичной частицы находится распределение значений С-наблюдаемых для смоделированных ливней, отобранных по значениям Е-наблюдаемых. Процедура завершается сравнением измеренных в эксперименте С-наблюдаемых с распределениями, полученными в результате моделирования, в результате чего вычисляются вероятности того, что наблюдаемый ливень вызван различными первичными частицами.

В подразделе 2.3.3 описывается использование ограничений, полученных для индивидуальных ливней, для получения информации о химическом составе потока первичных частиц из набора событий. Предметом исследования химического состава обычно является поток космических лучей в определенном диапазоне первичных энергий Ео. Обозначим исследуемый диапазон как {Е}; это может быть как интервал (Е\ < Ео < Е2) так и полупрямая. В общем случае, ограничения по энергии могут быть дополнены ограничениями по направлениям прихода, если исследованию подлежит конкретный участок неба.

Затем следует определить набор данных для исследования. Несмотря на то, что реконструированные энергии для выбранных событий должны соответствовать исследуемому диапазону энергий, должна быть учтена также возможность неправильного восстановления энергии в эксперименте. В связи с этим предпочтительным является расширение рассматриваемого диапазона реконструированных энергий. В идеальном случае, все данные, зарегистрированные в эксперименте, должны войти в исследуемый набор, при том, что большинство из них будет иметь пренебре-

жимо малое влияние влияние на интересующие величины.

Каждое индивидуальное событие в реальной выборке должно быть исследовано согласно описанию, приведенному в подразделе 2.3.2. Для каждого события и для каждого типа первичной частицы, должны быть получены два распределения С-параметров смоделированных событий:

1. для событий, согласующихся с реальными по Е-параметрам и имеющих брошенные энергии в исследуемом диапазоне Е0 € {Е}

2. для событий, согласующихся с реальными по Е-параметрам и имеющих брошенные энергии вне исследуемого диапазона Ео $ {Е}.

Независимые вероятности рассчитываются для каждого из случаев. Над ансамблем полученных вероятностей для всех реальных событий производится комбинаторный анализ, результатом которого могут стать либо ограничения, либо наиболее вероятные модельные параметры для химического состава потока первичных космических лучей в диапазоне энергий {Е}. На этой завершающей стадии процедуры производится учет "потерянных событий". Этим термином мы называем события, которые имеют брошенные энергии в исследуемом диапазоне Ео € {£?}, но тем не менее выпадают из нашего рассмотрения в силу того, что реконструированные энергии сильно отличаются от Ео или из-за отбора экспериментальных событий.

Раздел 2.4 содержит подробное описание процедуры, обрисованной в разделе 2.2, и готовые к использованию формулы, реализующие указанную процедуру.

Раздел 2.5 содержит несколько примеров, иллюстрирующих метод в применении к анализу небольших наборов событий, для которых неприменимы традиционные методы, основанные на усреднении. Мы рассматриваем только одну наблюдаемую, связанную с химическим составом, а

именно, плотность числа мюонов, и используем наборы событий сверхвысоких энергий АвАБА и Якутской установки в качестве примеров. В подразделе 2.5.1 мы детально анализируем наиболее энергичное событие, зарегистрированное в АСАБА. Алгоритм определения наиболее вероятного химического состава в предположении двух возможных типов первичных частиц проиллюстрирован в подразделе 2.5.2 на наборе из 4 событий с энергиями выше 1.5- Ю20 эВ, зарегистрированных в экспериментах АСАЭА и Якутской установки. Используемая выборка небольшая, поэтому раздел 2.5 служит только для иллюстрации. Проверка корректности метода на искусственных выборках проводится в разделе 2.5.4. Особенности применения, возможности и ограничения метода описаны в разделе 2.6.

Применение метода к наборам экспериментальных данных АСАБА и Якутска и получение наиболее точных на сегодняшний день ограничений на долю фотонов сверхвысоких энергий в диапазонах Ео > 2 ■ 1019 эВ, Ео > 4 • 1019 эВ и Ео > Ю20 эВ описано в разделе 2.7. В подразделе 2.7.1 получено ограничение на долю фотонов в первичном спектре в диапазонах энергий выше 2 • 1019 эВ и выше 4 • 1019 эВ на уровнях 12% и 22% соответственно из анализа данных Якутской комплексной установки широких атмосферных ливней. В подразделе 2.7.2 получено ограничение на долю фотонов в первичном спектре в диапазоне энергий выше Ю20 эВ на уровне 36% из анализа объединенного набора данных экспериментальной установки АСАБА и Якутской установки. Устойчивость полученных результатов по отношению к различным возможным систематическим неопределенностям обсуждается в подразделе 2.7.3. В разделе 2.7.4 приводится сравнение результатов с полученными ранее.

Точность определения химического состава зависит от ширин распределений наблюдаемых величин в искусственных ливнях, используемых для анализа. Указанные ширины включают в себя вклад искусственных флуктуаций, понижающий точность анализа.

В третьей главе производится оценка относительной величины искусственных флуктуаций, связанных с использованием процедуры прореживания, и предлагается метод, позволяющий повысить точность восстановления распределения наблюдаемых величин по сравнению с традиционной процедурой прореживания. В разделе 3.1 проведен количественный анализ искусственных флуктуаций, связанных с процедурой прореживания. В подразделе 3.1.1 выполнена оценка влияния искусственных флуктуаций на определение средних значений наблюдаемых, в подразделе 3.1.2 — оценка влияния флуктуаций на ширину распределения значений наблюдаемых, играющую ключевую роль в исследованиях химического состава. В разделе 3.2 дается описание различных способов уменьшения искусственных флуктуаций: настройки параметров процедуры прореживания и использования гибридных кодов. Метод, позволяющий эффективно подавлять нефизические флуктуации при исследовании распределений наблюдаемых величин, предложен в разделе 3.3. Описание метода приводится в подразделе 3.3.1. Примеры применения и количественные оценки эффективности метода приведены в подразделе 3.3.2. Возможное обобщение метода описано в подразделе 3.3.3.

В Заключении перечислены основные результаты, полученные в диссертации.

Некоторые используемые обозначения собраны в приложении А. В приложении Б описана процедура предетектирования, используемая

для увеличения скорости анализа наблюдаемых с использованием ливней, смоделированных без прореживания. В приложениях В и Г описаны процедуры определения энергии и мюонной плотности в эксперименте АвАБА и на Якутской установке.

Для защиты выдвигаются следующие результаты, полученные в диссертации:

1. Предложен метод исследования мелкомасштабных флуктуаций плотности частиц в широких атмосферных ливнях. Показано, что флуктуации могут приводить к негауссовой ошибке при измерении наблюдаемых наземной решеткой детекторов. Впервые получена теоретическая оценка экспериментальных ошибок, связанных с мелкомасштабными флуктуациями.

2. Предложен статистический метод анализа химического состава широких атмосферных ливней на основе экспериментальных наблюдаемых для индивидуальных событий. Метод особенно эффективен для малых наборов экспериментальных данных, что имеет место в области сверхвысоких энергий.

3. Получено ограничение на долю фотонов в первичном спектре в диапазоне энергий выше Ю20 эВ на уровне 36%. Ограничение получено из анализа объединенного набора данных экспериментальной установки АСАЭА и Якутской комплексной установки широких атмосферных ливней. Полученное ограничение является лучшим на сегодняшний день в указанном диапазоне энергий и существенно ограничивает параметры моделей, объясняющих частицы сверхвысоких энергий выше порога обрезания Грейзена-Заценина-Кузьмина с помощью ^-вспышек и сверхтяжелой темной материи.

4. Получено ограничение на долю фотонов в первичном спектре в диапазонах энергий выше 2 1019 эВ и выше 4 1019 эВ на уровнях 12% и 22% соответственно. Ограничение получено из анализа данных Якутской комплексной установки широких атмосферных ливней. Полученное ограничение является лучшим на сегодняшний день в указанном диапазоне энергий.

5. Путем прямого сравнения ливней, смоделированных с применением процедуры прореживания и без нее, изучены искусственные флуктуации, вносимые этой процедурой в значения наблюдаемых величин.

6. Предложен метод, позволяющий улучшить точность и скорость вычислений при моделирования широких атмосферных ливней с процедурой прореживания.

Основные результаты диссертации опубликованы в работах:

1. G. I. Rubtsov, L. G. Dedenko, G. F. Fedorova, E. Y. Fedunin, A. V. Glushkov, D. S. Gorbunov, I. T. Makarov, M. I. Pravdin, Т. M. Roganova, I. E. Sleptsov, S. V. Troitsky. Upper limit on the ultra-high-energy photon flux from AGASA and Yakutsk data // -Phys. Rev. -2006. -D73. -p.063009.

2. A. V. Glushkov, D. S. Gorbunov, I. T. Makarov, M. I. Pravdin, G. I. Rubtsov, I. E. Sleptsov, S. V. Troitsky. Constraining the fraction of primary gamma rays at ultra- high energies from the muon data of the Yakutsk extensive-air-shower array // -Письма в ЖЭТФ. -2007. -85. -C.163-167.

3. L. G. Dedenko, G. F. Fedorova, Т. M. Roganova, M. I. Pravdin, I. E. Sleptsov, V. A. Kolosov, A. V. Glushkov, D. S. Gorbunov,

G. I. Rubstov, S. V. Troitsky. Possible observation of new physics in ultrahigh-energy cosmic rays // -Ядерная физика. -2007. -70-1. -С. 170-174.

4. D. S. Gorbunov, G. I. Rubtsov, S. V. Troitsky. Towards event-by-event studies of the ultrahigh-energy cosmic-ray composition // -astro-ph/0606442.

5. G. I. Rubtsov. Energy estimation of photon-induced extensive air showers // -Surveys High Energ. Phys. -2004. -19. -p.219-221.

6. L. G. Dedenko, G. F. Fedorova, Т. M. Roganova, M. I. Pravdin, I. Y. Sleptsov, V. A. Kolosov, A. V. Glushkov, D. S. Gorbunov, G. I. Rubtsov, S. V. Troitsky. Estimates of the muon signal in giant air showers induced by the primary photons / / -Proceedings of the 29th International Cosmic Ray Conference, Pune. -2005. -7. -p.211.

7. G. I. Rubtsov. Small-scale fluctuations of extensive air showers as the origin of energy estimation systematics // -Труды 13-ой международной Ломоносовской конференции по физике элементарных частиц. -World Scientific Publishing. -2006. -С.185-188.

8. V. A. Kuzmin, G. I. Rubtsov. No-thinning simulations of extensive air showers and small scale fluctuations at the ground level // -astro-ph/0702527

Ф-т 60x84/8. Уч.-изд.л. 1,0 Зак. № 21754 Тираж 100 экз.

Бесплатно

Отпечатано на компьютерной издательской системе Издательский отдел Института ядерных исследований Российской академии наук 117312, Москва, проспект 60-летия Октября, 7а

Введение

Глава 1. Анализ развития ШАЛ без процедуры прореживания

1.1 Описание программных кодов и моделей.

1.2 Описание процедуры "прореживания".

1.3 Огкрьпая библиотека Монте-Карло ливней, смоделированных без процедуры прореживания.

1.4 Анализ искусственных ШАЛ, смоделированных без процедуры прореживания

1.5 Анализ мелкомасштабных флуктуаций.

1.6 Величина флуктуаций в зависимости от расстояния от оси ливня

1.7 Вклад флуктуаций в наблюдаемые.

Глава 2. Химический состав космических лучей сверхвысоких энергий

2.1 Существующие методы анализа химического состава.

2.2 Метод пособытийного анализа малых выборок. Введение.

2.3 Общее описание подхода

2.3.1 Два класса наблюдаемых.

2.3.2 Анализ индивидуального события.

2.3.3 Исследование ансамбля событий.

2.4 Реализация метода.

2.4.1 Анализ индивидуального события.

2.4.2 Исследование ансамбля событий.

2.5 Примеры применения метода.

2.5.1 Пример 1: исследование индивидуального события

2.5.2 Пример 2: исследование наиболее вероятного химического состава

2.5.3 Проверка метода на искусственных выборках

2.6 Возможности и пределы применимости метода.

2.7 Ограничения на долю фотонов сверхвысоких энергий по данным современных экспериментов.

2.7.1 Ограничения из данных Якутской установки.

2.7.2 Ограничение из совместного набора данных AGASA } Якутск

2.7.3 Устойчивость и модельная зависимость полученных результатов

2.7.4 Сравнение с результатами, полученными ранее

Глава 3. Искусственные флуктуации, вносимые процедурой прореживания

3.1 Оценка величины флуктуации, связанных с процедурой прореживания

3.1.1 Флуктуации, влияющие на определение средних значений

3.1.2 Флуктуации, влияющие на ширину распределения значений наблюдаемой

3.2 Различные пути уменьшения искусственных флуктуаций.

3.3 Мультисамплинг: экономичный метод подавления искусственных флуктуаций.

3.3.1 Идея и реализация.

3.3.2 Примеры применения.

3.3.3 Обобщение мегода.

Более половины века прошло с открытия явления широких атмосферных ливней (ШАЛ), вызванных попадающими в атмосферу частицами высоких энергий [1, 2]. Тем не менее, исследования космических лучей сверхвысоких энергий не перестали быть актуальными сегодня. Более того, разрешение загадок, связанных с космическими лучами сверхвысоких энергий, может пролить свет на неизвестные сегодня физические явления и процессы.

В 1966 году Грейзеном [3] и независимо Зацепиным и Кузьминым [4] было предсказано обрезание спектра космических лучей на энергиях порядка Ю20 эВ. Предсказание основывалось на том, что протоны сверхвысоких энергий, пролетая через Вселенную, должны рождать 7г-мезоны на реликтовых микроволновых фотонах:

Р + 72.7ЙГ —> п + 7Г+ (1)

Порог рождения 7г-мезона в указанной реакции составляет около 10196 эВ, а длина свободного пробега протона до взаимодействия ~ 6 Мпк. При каждом взаимодействии протон в среднем теряет 20% своей энергии, что должно приводить к значительному подавлению спектральной плотности протонов при энергиях порядка и выше Ю20 эВ. Несмотря на то, что область энергий, относительно которой сделано предсказание, уже много лет подвергается экспериментальному исследованию, однозначного ответа на вопрос о присутствии в спектре ультрафиолетового обрезания получено не было.

Сегодня существуют два основных типа экспериментов, регисгрирующих ШАЛ: наземные решетки детекторов и флуоресцентные телескопы. Наземная решегка детекторов регистрирует частицы в ливне на уровне земли. Детекторы образуют сегку с шагом порядка километра, что позволяет определять функцию пространственного распределения (ФПР) плотности частиц в ливне. Флуоресцентный детектор представляет собой телескоп, регистрирующий флуоресценцию молекул азота, возбужденных заряженными частицами в ливне. Флуоресцентный детектор может регистрировать события только в безоблачные безлунные ночи, что составляет около 10% от полного времени. Существуют также установки гибридного типа, совмещающие в себе детекторы обоих типов.

С одной стороны, существование космических лучей с энергиями, превышающими Ю20 эВ — факт, установленный в независимых экспериментах различного типа. Первое супер-ГЗК событие1 было зарегистрировано в эксперименте Volcano Ranch в Нью-Мехико, США [5] незадолго до открытия реликтового излучения. Событие с самой высокой измеренной энергией ~ 3-Ю20 эВ наблюдалось в эксперименте Fly's Eye в 1991 году [б]. Эксперимент AGASA (Akeno Giant Air Shower Array) [7j, завершивший сбор данных в 2003 году, за период наблюдения зарегистрировал 11 событий с экспериментально оцененными энергиями выше Ю20 эВ [8]. Якутксая комплексная установка ШАЛ, работающая с 1970 года по настоящее время, зарегистрировала 3 события с энергиями в указанном диапазоне [9]. События с энергиями выше Ю20 также наблюдались во флуоресцентном эксперименте High Resolution Fly's Eye (HiRes) [10] и гибридном эксперименте Pierre Auger [11].

С другой стороны, результаты современных экспериментальных коллабо-раций расходятся в отношении присутствия в спектре обрезания со статистической значимостью отличия в 2-3 стандартных отклонения и труднооцени-мыми систематическими различиями. Результаты эксперимента AG AS А [12] не указывают на ГЗК-обрезание спектра, тогда как результаты флуоресцентного эксперимента High Resolution Fly's Eye (HiRes) [10] напротив указывают на то, что ультрафиолетовое обрезание присутствует [13].

Существование экспериментально наблюдаемых событий с энергиями вы

Сушр-ГЗК событие — ШАЛ, вызванный первичной частицей предположительно имеющей энергию выше предказанного Грейзеном, Зацепиным и Кузьминым порога обре sail ия спектра космических лучей ше энергии ультрафиолетового обрезания может свидетельствовать о новых физических явлениях при сверхвысоких энергиях, делающих возможным присутствие супер-ГЗК частиц. На сегодняшний день предложено несколько возможных объяснений супер-ГЗК событий, среди которых можно отметить модель Z-вспышек [14, 15], и модели распада сверхтяжелой темной материи (см. обзоры [16, 17]) и топологических дефектов (см. обзор [18]). Указанные модели предсказывают значительную долю фотонов в спектре космических лучей сверхвысоких энергий [19, 20]. Указание на присутствие нейтральных частиц в спектре также было получено в работах по исследованию корреляций направлений прихода событий сверхвысоких энергий с лацерти-дами [21, 22]. j

Основные задачи, решаемые современными экспериментами — определение энергий и направлений прихода первичных частиц, определение спектра и химического состава.

Непосредственно измеряемыми величинами для наземной решетки детекторов являю 1ся показания дехекторов с учетом информации о временной развертке сигнала, а для флуоресцентного детектора - флуоресцентный сигнал с одного или нескольких телескопов. На основании прямо измеряемых величин в стандартной процедуре обработки определяется направление прихода первичной частицы. Определение энергии и типа первичной частицы в современных экспериментах происходит опосредованно. Сначала на основании непосредственно измеряемых величин вычисляются так называемые "наблюдаемые", а затем используется полуэмпирическая связь между наблюдаемыми и параметрами первичной частицы. Выбор наблюдаемых и процедуры их извлечения производится экспериментальной коллаборацией из анализа чувствительности установки. Связь наблюдаемых с параметрами первичной часгицы может устанавливаться путем измерений, аналитических расчетов и компьютерного моделирования.

В решетках наземных детекторов в качестве наблюдаемой исп0льзуе1ся плотность регистрируемого детектором сигнала S'(rC07JS<), приведенная к фиксированному расстоянию от оси ливня Га,^. Расстояние, к которому приводится плотность, выбирается экспериментальной коллаборацией с целью минимизации флуктуаций плотности и экспериментальных ошибок в определении приведенной плотности на основании показаний детекторов. Традиционно гсо^ выбирают равным 600 метров, так как на указанном расстоянии о г оси ливня ошибки измерения плотности минимальны [23, 24]. Для новых экспериментов, с большими расстояниями между детекторами, ГсоШ< выбирают равным 1000 метров.

При наличии в эксперименте мюонных детекторов, может дополнительно использоваться плотность потока мюонов Pfi(rconst'), также приведенная к фиксированному осевому расстоянию r^sf/, которое может отличаться от

Г const

При обработке экспериментальных данных, величины S^const) и р1г(гсот?) получаются путем интерполяции показаний детекторов, сработавших на разных расстояниях ог оси ливня, эмпирической функцией пространственного распределения (ФПР). Эмпирические функции, используемые для эксперимента AGASA [25, 26] и Якутской комплексной установки ШАЛ (далее: Якутская установка) [27] приведены в приложениях В и Г. Эмпирические функции обычно содержат параметр, соответствующий наклону функции пространственного распределения (/3 для AGASA, т] для Якутской установки). При интерполяции профиля параметр наклона часто считается константой, а свободным параметром является только нормировочный множитель. Однако, параметр наклона ФПР чувствителен к типу первичной частицы, что указывает на возможность проведения двухпараметрической интерполяции с одновременным определением плотности на фиксированном расстоянии и наклона ФПР. Кроме того, наземные эксперименты регистрируют время прихода первой частицы на каждый детектор, что позволяет определить кривизну фронта ливня. Новые эксперименты Pierre Auger Observatory (РАО) [28, 29] и Telescope Array (ТА) [30, 31] также регистрируют временную развертку сигнала на каждом детекторе, что позволяет определить время нарастания — время, за которое интегральный сигнал на дегекюре нарастает с 10% до 50% от полного сигнала, нормированное на фиксированное расстояние от оси ливня.

Флуоресцентные дехекторы регистрируют продольное развитие ШАЛ. Флуоресцентный свет, испускаемый возбужденными молекулами азота вдоль оси ливня, регистрируется специальным телескопом. Функция продольного распределения является наблюдаемой в экспериментах такого типа. Флуоресцентные эксперименты определяют, в частности, параметр Хтах — глубину атмосферы, на которой число частиц в ливне максимально, — а также число частиц на этой глубине Nmax [32].

Развитие широкого атмосферного ливня в атмосфере — сложный каскадный процесс. Высокоэнергетическую часть ШАЛ можно смоделировать численно, путем решения одномерных каскадных уравнений, так как до определенного порога энергий все частицы ливня можно считать движущимися вдоль оси ливня. Моделирование трехмерного развития ливня обычно производится методом Монте-Карло. Для Монте-Карло моделирования доступны несколько программных пакетов, наиболее распространенные из которых CORSIKA (COsmic Ray Simulations for KAscase) [33] и AIRES (AIRshower Extended Simulations) [34, 35]. Далее в настоящей работе будем использовать программный пакет CORSIKA для проведения моделирования. CORSIKA использует подключаемые программные модули для моделирования адронных взаимодействий при высоких и низких энергиях. Для сокращения времени расчетов ШАЛ, вызванных частицами сверхвысоких энергий, используется процедура прореживания (thinning) [36], которая будет подробно описана в главе 1.

В развитии ливней, вызванных первичными фотонами, имеется ряд особенностей. Если в атмосферу попадает фотон с энергией Е > 1019 эВ, то нельзя пренебречь эффектом Ландау, Померанчука [37, 38] и Мигдала [39], который приводит к подавлению электромагнитного сечения взаимодействия и, как следствие, к задержке первого взаимодействия.

Ливни, вызванные первичными фотонами сверхвысоких энергий могут начать развиваться в магнитосфере Земли за счет процесса рождения е+ е~ пар в магнитном поле [40]. Вероятность рождения пары зависит от первичной энергии фотона и перпендикулярной компоненты геомагнитного поля, поэтому эффект чувствителен к направлению прихода первичного фотона. Вторичные электроны снова испускают фогоны за счет механизма синхро-тронного излучения [38, 41] в магнитном иоле Земли. Энергии вторичных частиц ниже энергии первичной, поэтому влияние геомагнитного поля частично компенсирует эффект Ландау-Померанчука-Мигдала, вместе с тем делая развитие ливня зависимым от зенитного и азимутального углов направления прихода [42, 43]. Моделирование развития ливня в геомагнитном поле может производится с помощью подключаемого модуля PRESHOWER [44, 45] для пакета CORSIKA.

Определение химического состава первичных частиц сверхвысоких энергий является одной из наиболее актуальных задач: информация о составе позволяет проверить ряд теоретических предсказаний сама по себе, а кроме того, является важной составляющей надежного определения энергии. Задачу можно представить в виде двух подзадач, первая заключается в разделении фотонной и адронной составляющих (см. обзор [46]), а вторая в определении массового состава адронной составляющей (см. обзор [47]).

В силу чого, ч'ю количество событий, зарегистрированных в диапазоне сверхвысоких энергий небольшое, применяемые методы анализа, основанные на средних величинах, становятся неприменимы. Для анализа небольших выборок целесообразна разработка статистических методов пособытийного анализа экспериментальных данных. Такой метод предложен в настоящей pa6oie в главе 2.

Цель настоящей диссертационной работы — разработка статистических методов, позволяющих повысить точность физических предсказаний, формулируемых с использованием данных современных экспериментов, регистрирующих широкие атмосферные ливни.

Диссертация состоит из введения, трех глав, заключения и четырех приложений.

Заключение

Перечислим основные результаты, полученные в диссертации.

Предложен метод исследования мелкомасштабных флуктуаций плотности частиц в широких атмосферных ливнях. Показано, что флуктуации могу приводить к негауссовой ошибке при измерении наблюдаемых наземной решеткой детекторов. Впервые получена теоретическая оценка экспериментальных ошибок, связанных с мелкомасштабными флуктуациями.

Предложен статистический метод анализа химического состава широких атмосферных ливней на основе экспериментальных наблюдаемых для индивидуальных событий. Метод особенно эффективен для малых наборов экспериментальных данных, что имеет место в области сверхвысоких энергий.

Получено ограничение иа долю фотонов в первичном спектре в диапазоне энергий выше Ю20 эВ на уровне 36%. Ограничение получено из анализа объединенного набора данных экспериментальной установки AGASA и Якутской комплексной установки широких атмосферных ливней. Полученное ограничение является лучшим на сегодняшний день в указанном диапазоне энергий и существенно ограничивает параметры моделей, объясняющих частицы сверхвысоких энергий выше порога обрезания Грейзена-Зацеиина-Кузьмина с помощью Z-вспышек и сверхтяжелой темной материи.

Получено ограничение на долю фотонов в первичном спектре в диапазонах энергий выше 2 • 1019 эВ и выше 4 • 1019 эВ на уровнях 12% и 22%, соответственно. Ограничение получено из анализа данных Якутской комплексной установки широких атмосферных ливней. Полученное ограничение является лучшим на сегодняшний день в указанном диапазоне энергий.

Путем прямого сравнения ливней, смоделированных с применением процедуры прореживания и без нее, изучены искусственные флуктуации, вносимые эгой процедурой в значения наблюдаемых величин.

Предложен метод, позволяющий улучшить точность и скорость вычислений при моделирования широких атмосферных ливней с процедурой прореживания.

В заключение автор хотел бы выразить искреннюю и глубокую признательность своим научным руководителям, В. А. Рубакову и С. В. Троицкому за постоянное внимание, поддержку, конструктивные критические замечания и переданный творческий импульс.

Автор хотел бы выразить благодарность соавтору и коллеге Д. С. Горбунову, прочитавшему рукопись и внесшему ряд ценных замечаний.

Автор признателен своим уважаемым соавторам Л. Г. Деденко, С. JI. Ду-бовскому, В. А. Кузьмину и М. И. Правдину за интересную и плодотворную работу.

Автор благодарен Ф. JI. Безрукову, С. В. Демидову, М. Кахелрису, Д. А. Кротову, Д. Г. Левкову, М. В. Либанову, Э. Я. Нугаеву, К. Ребби, С. М. Сибирякову, М. Тешиме, П. Г. Тинякову, К. Шинозаки за интересные обсуждения.

Хочется особенно отметить гостеприимство Университет Бостона, Института Макса Планка в Мюнхене и Свободного Университета Брюсселя, где родились многие идеи, вошедшие в диссертацию. Автор благодарен всем сотрудникам кафедры квантовой статистики и теории поля физического факультета МГУ им. М. В. Ломоносова за активное содействие выполнению работы.

Автор благодарен всему коллективу Отдела теоретической физики ИЯИ РАН за уникальную творческую атмосферу, наполненную доброжелательностью и взаимопомощью.

1. P. Auger, R. Maze, T. Grivet-Mayer. Extensive cosmic showers in the atmosphere containing ultra-penetrating particles // -Cornpt. Rend. Acad. Sci. (Ser. 1.). -1938. -206. -p.1721-1722.

2. P. Auger, P. Ehrenfest, R. Maze, J. Daudin, A. F. Robley. Extensive cosmic-ray showers // -Rev. Mod. Phys. -1939. -11. -p.288-291.

3. K. Greisen. End to the cosmic ray spectrum? // -Phys. Rev. Lett. -1966. -16. -p.748-750.

4. Г. Т. Зацепин, В. А. Кузьмин. О верхней границе спектра космических лучей // -Письма в ЖЭТФ. -1966. -4. -р.78-80.

5. J. Linsley. Evidence for a primary cosmic-ray particle with energy Ю20 eV // -Phys. Rev. Lett. -1963. -10. -p.146-148.

6. D. J. Bird et al. Detection of a cosmic ray with measured energy well beyond the expected spectral cutoff due to cosmic microwave radiation // -Astrophys. J. -1995. -441. -p.144-150.

7. N. Chiba et al. Akeno giant air shower array (AGASA) covering lOOfcm2 area // -Nucl. Instrum. Meth. -1992. -A311. -p.338-349.

8. M. Takeda et al. Energy determination in the Akeno Giant Air Shower Array experiment // -Astropart. Phys. -2003. -19. -p.447-462.

9. V. P. Egorova et al. The spectrum features of UHECRs below and surrounding GZK // -Nucl. Phys. Proc. Suppl. -2004. -136. -p.3-11.

10. R. U. Abbasi et al. Measurement of the flux of ultrahigh energy cosmic rays from monocular observations by the High Resolution Fly's Eye experiment // -Phys. Rev. Lett. -2004. -92. -p.151101.

11. Л. Matthews. A description of some ultra high energy cosmic rays observed with the Pierre Auger Observatory // -Presented at 29th International Cosmic Ray Conference (ICRC 2005), Pune, India, 3-11 Aug 2005.

12. N. Hayashida et al. Updated AGASA event list above 4 • 1019 eV // -Astrophys. J. -2000. -522. -p.225.

13. G. B. Thomson. Observation of the GZK cutoff by the HiRes experiment // -Proceedings of 14th international seminar on high energy physics: Quarks 2006, St. Petersburg, Russia, 19-25 May 2006, astro-ph/0609403.

14. D. Fargion, B. Mele, A. Salis. Ultrahigh energy neutrino scattering onto relic light neutrinos in galactic halo as a possible source of highest energy extragalactic cosmic rays // -Astrophys. J. -1999. -517. -p.725-733.

15. T. J. Weiler. Cosmic ray neutrino annihilation on relic neutrinos revisited: A mechanism for generating air showers above the Greisen-Zatsepin-Kuzmin cut-off // -Astropart. Phys. -1999. -11. -p.303-316.

16. V. A. Kuzrnin, I. I. Tkachev. Ultra high energy cosmic rays and inflation relics // -Phys. Rept. -1999. -320. -p.199-221.

17. P. Bhattacharjee, G. Sigl. Origin and propagation of extremely high energy cosmic rays // -Phys. Rept. -2000. -327. -p. 109-247.

18. V. Berezinsky. Ultra high energy cosmic rays // -Nucl. Phys. Proc. Suppl. -2000.-81.-p.311-322.

19. R. Aloisio, V. Berezinsky, M. Kachelriess. Fragmentation functions in SUSY QCD and UHECR spectra produced in top-down models // -Phys. Rev. -2004. -D69. -p.094023.

20. M. Kachelriess. Status of particle physics solutions to the UHECR puzzle // -Comptes Rendus Physique. -2004. -5. -p.441-452.

21. D. S. Gorbunov, P. G. Tinyakov, I. I. Tkachev, S. V. Troitsky. Testing the correlations between ultra-high-energy cosmic rays and BL Lac type objects with HiRes stereoscopic data // -Письма в ЖЭТФ. -2004. -80. -p.145-148.

22. R. U. Abbasi et al. Search for cross-correlations of ultra-high-energy cosmic rays with BL Lacertae objects // -Astrophys. J. -2006. -636. -p.680-684.

23. J. G. Wilson et al. // -Proc. 8th ICRC, Jaipur. -1963. -4. -p.27.

24. А. М. Hillas et al. // -Proc. 12th ICRC, Hobart. -1971. -3. -p.1001.

25. S. Yoshida et al. Lateral distribution of charged particles in giant air showers above EeV observed by AGASA // -J. Phys. -1994. -G20. -p.651-664.

26. N. Hayashida et al. Muons (> 1 GeV) in large extensive air showers of energies between 10165 eV and 10195 eV observed at Akeno // -J. Phys. -1995. -G21. -p.1101-1120.

27. JI. В. Глушков, M. И. Правдин, И. E. Слепцов, В. P. Слепцова, H. Н. Калмыков. Электроны и мюоны в ШАЛ с Eq > 3 • 1017 эВ: по данным Якутской установки и модели QGSJET // -Ядерная Физика. -2000. -63. -р.1557.

28. D. Zavrtanik et al. The Pierre Auger Observatory // -Nucl. Phys. Proc. Suppl. -2000. -85. -p.324-331.

29. J. Abraham et al. Properties and performance of the prototype instrument for the Pierre Auger Observatory // -Nucl. Instrum. Meth. -2004. -A523. -p.50-95.

30. F. Kakimoto et al. The Telescope Array experiment: Hybrid measurement of ultra high energy cosmic rays in northern hemisphere // -Prepared for 28th International Cosmic Ray Conferences (ICRC 2003), Tsukuba, Japan, 31 Jul 7 Aug 2003.

31. K. Kasahara et al. The current status and prospect of the ТА Experiment // -astro-ph/0511177.

32. R. M. Baltrusaitis et al. The Utah Fly's Eye detector // -Nucl. Instrum. Meth. -1985. -A240. -p.410-428.

33. D. Heck, G. Schatz, T. Thouw, J. Knapp, J. N. Capdevielle. CORSIKA: A Monte Carlo code to simulate extensive air showers // -FZKA-6019.

34. S. J. Sciutto. AIRES: A system for air shower simulations (version 2.2.0) // -astro-ph/9911331.

35. S. J. Sciutto. Air shower simulations with the AIRES system // -astro-ph/9905185.

36. A. M. Hillas. Shower simulation: Lessons from MOCCA // -Nucl. Phys. Proc. Suppl. -1997. -52B. -p.29-42.

37. JI. Д. Ландау, И. Я. Померанчук. Пределы применимости теории тормозного излучения электронов и образования пар при больших энергиях // -ДАН СССР. -1953. -92. -р.535-536.

38. Л. Д. Ландау, И. Я. Померанчук. Электронно-лавинные процессы при сверхвысоких энергиях // -ДАН СССР. -1953. -92. -р.735-738.

39. А. В. Migdal. Bremsstrahlung and pair production in condensed media at high-energies // -Phys. Rev. -1956. -103. -p.1811-1820.

40. B. Mcbreen, C. J. Lambert. Interactions of high-energy (E > 5 • 1019 eV) photons in the Earth's magnetic field // -Phys. Rev. -1981. -D24. -p.2536-2538.

41. Д. Д. Иваненко, И. Я. Померанчук. О максимальной энергии, достижимой в бетатроне // -Докл. АН СССР. -1944. -44. -р.343.

42. Н. P. Vankov, N. Inoue, К. Shinozaki. Ultra-high energy gamma rays in geomagnetic field and atmosphere // -Phys. Rev. -2003. -D67. -p.043002.

43. X. Bertou, P. Billoir, S. Dagoret-Campagne. LPM effect and pair production in the geomagnetic field: a signature of ultra-high energy photons in the Pierre Auger Observatory // -Astroparticle Physics. -2000. -14. -p.121-130.

44. P. Homola et al. Simulation of ultra-high energy photon propagation in the geomagnetic field // -Comput. Phys. Commun. -2005. -173. -p.71.

45. P. Homola et al. Simulation of ultra-high energy photon showers with PRESHOWER // -Nucl. Phys. Proc. Suppl. -2006. -151. -p.119-120.

46. M. Risse, P. Homola. Search for ultra-high energy photons using air showers // -to appear in Mod. Phys. Lett. A.

47. М. Т. Dova, A. G. Mariazzi, A. A. Watson. The mass of cosmic rays above 1017 eV // -astro-ph/0512408.

48. D. S. Gorbunov, G. I. Rubtsov, S. V. Troitsky. Towards event-by-event studies of the ultrahigh-energy cosmic-ray composition // -astro-ph/0606442.

49. G. I. Rubtsov. Energy estimation of photon-induced extensive air showers // -Surveys High Energ. Phys. -2004. -19. -p.219-221.

50. G. I. Rubtsov. Small-scale fluctuations of extensive air showers as the origin of energy estimation systematics // -Труды 13-ой международной Ломоносовской конференции по физике элементарных частиц, World Scientific Publishing, 185-188, 2006.

51. V. A. Kuzmiri, G. I. Rubtsov. No-thirming simulations of extensive air showers and small scale fluctuations at the ground level // -astro-ph/0702527.

52. R Doll et al. The Karlsruhe cosmic ray project КASCADE // -Karlsruhe KfK -KfK-4686 (1990) -p. 73.

53. W. R. Nelson, H. Hirayama, D. W. 0. Rogers. The EGS4 code system // -SLAC-0265.

54. K. Greisen. Cosmic ray showers // -Ann. Rev. Nucl. Part. Sci. -1960. -10. -p.63-108.

55. K. Kamata, J. Nishimura. The lateral and the anglar structure functions of electron showers // -Suppl. Progr. Theoret. Phys. -1958. -6. -p.155.

56. J. Engel, Т. K. Gaisser, T. Stanev, P. Lipari. Nucleus-nucleus collisions and interpretation of cosmic ray cascades // -Phys. Rev. -1992. -D46. -p.5013-5025.

57. N. N. Kalmykov, S. S. Ostapchenko, A. I. Pavlov. Quark-gluon string model and EAS simulation problems at ultra-high energies // -Nucl. Phys. Proc. Suppl. -1997. -52B. -p.17-28.

58. S. Ostapchenko. QGSJET-II: Towards reliable description of very high energy hadronic interactions // -Nucl. Phys. Proc. Suppl. -2006. -151. -p. 143146.

59. K. Werner. Strings, pomerons, and the venus model of hadronic interactions at ultrarelativistic energies // -Phys. Rept. -1993. -232. -p.87-299.

60. H. J. Drescher, M. Hladik, S. Ostapchenko, T. Pierog, K. Werner. Parton-based Gribov-Regge theory // -Phys. Rept. -2001. -350. -p.93-289.

61. J. Ranft. The Dual parton model at cosmic ray energies // -Phys. Rev. -1995. -D51. -p.64-84.

62. A. Fasso et al. The physics models of FLUKA: Status and recent development // -hep-ph/0306267.

63. A. Ferrari, P. R. Sala, A. Fasso, J. Ranft. FLUKA: A multi-particle transport code (program version 2005) // -CERN-2005-010.

64. H. Fesefeldt. The simulation of hadronic showers: Physics and applications // -PITHA-85-02.

65. S. A. Bass et al. Microscopic models for ultrarelativistic heavy ion collisions // -Prog. Part. Nucl. Phys. -1998. -41. -p.225-370.

66. M. Bleicher et al. Relativistic hadron hadron collisions in the ultrarelativistic quantum molecular dynamics model // -J. Phys. -1999. -G25. -p.1859-1896.

67. L. G. Dedenko. The probability distribution functions for the numbers of electrons rnuoris, and pions, the cascade parameter s, and the energy carried by nuclear-active particles in eas // -Can. J. Phys. -1968. -46. -p.178.

68. S. Agostinelli et al. GEANT4: A simulation toolkit // -Nucl. lustrum. Meth. -2003. -A506. -p.250-303.

69. J. Allison et al. GEANT4 developments and applications // -IEEE Trans. Nucl. Sci. -2006. -53. -p.270.

70. M. Kobal. A thinning method using weight limitation for air-shower simulations // -Astropart. Phys. -2001. -15. -p.259-273.

71. G. I. Rubtsov. Small-scale structure of EAS // -Talk given at the 3rd International Workshop on the highest energy cosmic rays and their sources, forty years of GZK problem, http: //www. inr. ac. ru/~st/GZK-40 program.html, 2006.

72. S. Ozawa et al. The system of DAQ for ТА surface array // -Proceedings of the 29th International Cosmic Ray Conference, Pune. -2005. -8. -p. 177.

73. H. Kawai et al. Telescope array; status and prospects // -Proceedings of the 29th International Cosmic Ray Conference, Pune. -2005. -8. -p. 141.

74. M. Takeda. Extremely high energy cosmic rays observed with AGASA, PhD thesis // -Tokyo University of Technology, 1998.

75. P. Billoir. Unthinnirig of ground particles from an atmospheric shower // -VIHKOS CORSIKA School 2005.

76. M. Takeda et al. Extension of the cosmic-ray energy spectrum beyond the predicted Greisen-Zatsepin-Kuzmin cutoff // -Phys. Rev. Lett. -1998. -81. -p.1163-1166.

77. N. Sakaki et al. Energy estimation of AGASA events // -Proceedings of ICRC 2001, www.hef.kun.nl/nahsa/pdf/ici6938p.pdf.

78. K. Shinozaki et al. Upper limit on gamma-ray flux above 1019 eV estimated by the Akeno Giant Air Shower Array experiment // -Astrophys. J. -2002. -571. -p.L117-L120.

79. M. Teshima et al. Properties of 109 GeV Ю10 GeV extensive air showers at core distances between 100-m and 3000-rn // -J. Phys. -1986. -G12. -p.1097.

80. S. Sokolsky et al. Proposal of the U.S. part of Telescope array (ТА) experiment, including the ТА Low Energy Extension (TALE) // -http://www.telescopearray.org/papers/TALE2005.pdf.

81. E. E. Antonov et al. Separation of positive and negative muons in a giant shower by the geomagnetic field // -Письма в ЖЭТФ. -1998. -68. -p. 185190.

82. M. Ave, R. A. Vazquez, E. Zas. Modelling horizontal air showers induced by cosmic rays // -Astropart. Phys. -2000. -14. -p.91.

83. F. Halzen, R. A. Vazquez, T. Stanev, H. P. Vankov. The highest energy cosmic ray // -Astropart. Phys. -1995. -3. -p.151-156.

84. P. Hornola et al. On a possible photon origin of the most-energetic AGASA events // -Nucl. Phys. Proc. Suppl. -2006. -151. -p.116-118.

85. M. Risse et al. Upper limit on the photon fraction in highest-energy cosmic rays from AGASA data // -Phys. Rev. Lett. -2005. -95. -p.171102.

86. M. Risse et al. On the primary particle type of the most energetic Fly's Eye event // -Nucl. Phys. Proc. Suppl. -2006. -151. -p.96-98.

87. M. Risse et al. Primary particle type of the most energetic Fly's Eye air shower // -Astropart. Phys. -2004. -21. -p.479-490.

88. B. N. Afanasiev et al. Recent results from Yakutsk experiment // -Proc. Tokyo Workshop on Techniqes for the Study of Extremely High Energy Cosmic Rays, Tokyo.

89. L. G. Dedenko et al. Energy estimation of inclined air showers with help of detector responses // -Nucl. Phys. Proc. Suppl. -2004. -136. -p.12-17.

90. М. Ave, J. A. Hinton, R. A. Vazquez, A. A. Watson, Е. Zas. Constraints on the ultra high energy photon flux using inclined showers from the Haverah Park array // -Phys. Rev. -2002. -D65. -p.063007.

91. Л. Abraham et al. An upper limit to the photon fraction in cosmic rays above 1019 eV from the Pierre Auger observatory // -Astropart. Phys. -2007. -27. -p.155-168.

92. D. V. Semikoz, G. Sigl. Ultra-high energy neutrino fluxes: New constraints and implications // -JCAP. -2004. -0404. -p.003.

93. W. M. Yao et al. Review of particle physics // -J. Phys. -2006. -G33. -p.l-1232.

94. D. Badagnani, S. J. Sciutto. Pushing sensitivity of AGASA array to EHE gamma primaries // -Proceedings of the 29th International Cosmic Ray Conference, Pune. -2005. -9. -p.l.

95. S. P. Knurenko et al. Muons with eth > 1 GeV and mass composition in the energy range 1018 eV Ю20 eV observed by Yakutsk EAS array // -Int. J. Mod. Phys. -2005. -A20. -p.6900-6902.

96. D. S. Gorbunov, S. V. Troitsky. North-south anisotropy in the arrival directions of the extremely high energy cosmic rays // -JCAP. -2003. -0312. -p.010.

97. H. Y. Dai, K. Kasahara, Y. Matsubara, M. Nagano, M. Teshima. On the energy estimation of ultrahigh-energy cosmic rays observed with the surface detector array // -,I. Phys. -1988. -G14. -p.793-805.

98. M. Pravdin et al. Estimation of the giant shower energy at the Yakutsk EAS array // -Proceedings of the 29th International Cosmic Ray Conference, Pune. -2005. -7. -p.243-246.

99. A. V. Glushkov et al. Muons in extensive air showers of energies Eq = 1016G eV to 10198 eV // -Письма в ЖЭТФ. -2000. -71. -p.97-101.