Орбиты, представления и характеры унипотентных групп. тема автореферата и диссертации по математике, 01.01.06 ВАК РФ

САНКТ-ПЕТЕРБУРГСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ

На правах рукописи

804602391

ИГНАТЬЕВ Михаил Викторович

ОРБИТЫ, ПРЕДСТАВЛЕНИЯ И ХАРАКТЕРЫ УНИПОТЕНТНЫХ ГРУПП

01.01.06 - Математическая логика, алгебра и теория чисел

АВТОРЕФЕРАТ диссертации на соискание ученой степени кандидата физико-математических наук

7 О МА* 2010

Санкт-Петербург 2010

004602391

Работа выполнена на кафедре алгебры и геометрии механико-математического факультета Самарского государственного университета

Научный руководитель: доктор физико-математических наук,

профессор ПАНОВ Александр Николаевич

Официальные оппоненты: доктор физико-математических наук,

профессор ВАВИЛОВ Николай Александрович (Санкт-Петербургский государственный университет)

кандидат физико-математических наук, доцент АРЖАНЦЕВ Иван Владимирович (Московский государственный университет им. М.В. Ломоносова)

Ведущая организация: Математический институт

им. В.А. Стеклова РАН

Защита диссертации состоится « & » СС&/6Я/ 20 Ю года в часов на заседании совета Д 212.232.29 по защите докторских и кандидатских диссертаций при Санкт-Петербургском государственном университете по адресу: 198504, Санкт-Петербург, Петродворец, Университетский пр., 28.

С диссертацией можно ознакомиться в Научной библиотеке им. М. Горького Санкт-Петербургского государственного университета по адресу. 199034, Санкт-Петербург, Университетская наб., 7/9.

Защита состоится по адресу: 191023, Санкт-Петербург, наб. р. Фонтанки, 27, комн. 311 (помещение ПОМИ им. В.А. Стеклова РАН).

Автореферат разослан «Ж> ал/к*. 20 года.

Ученый секретарь диссертационного совета

Нежинский В.М.

Общая характеристика работы

Актуальность темы. Одной из самых важных и красивых областей современной алгебры является теория представлений. В начале XX века её роль сводилась к изучению представлений конечных групп и конечномерных ассоциативных алгебр, но постепенно круг проблем, изучаемых теорией представлений, расширялся в связи с задачами анализа, геометрии и физики. В настоящее время теория представлений имеет обширные приложения в теории групп и алгебр Ли, теории алгебраических групп, гармоническом анализе, квантовой механике.

Одним из интереснейших классов с точки зрения теории представлений являются конечные унипотентные группы (точнее, максимальные унипотент-ные подгруппы в группах Шевалле над конечными полями); именно им и посвящена настоящая работа. Основным инструментом в теории представлений таких групп является созданный A.A. Кирилловым в 1962 г. метод орбит.

Первоначально этот метод использовался для описания неприводимых (бесконечномерных) унитарных представлений вещественных нильпотентных групп Ли в гильбертовых пространствах. Первые общие результаты о таких представлениях были получены Ж. Диксмье. Решающим продвижением стала статья Кириллова1, в которой было показано, что неприводимые представления связной односвязной нильпотентной группы Ли однозначно соответствуют орбитам её коприсоединённого представления (сопряжённого представления к присоединённому представлению группы Ли в своей алгебре Ли). Позже выяснилось, что метод орбит работает — с некоторыми поправками — и для других типов групп Ли, а с помощью коприсоединённых орбит можно построить множество примеров интегрируемых систем.

В 1977 г. Д. Каждан доказал2, что метод орбит позволяет описывать неприводимые конечномерные комплексные представления максимальных унипотентных подгрупп в группах Шевалле над конечными полями. Изучению орбит тех или иных унипотентных групп над конечным полем посвящено огромное число работ; отметим хотя бы статьи3,4, где обсуждаются различные асимптотические задачи, связанные с числом орбит данной размерности.

1Кириллов A.A. Унитарные представления нильпотентных групп Ли. // УМН, т. 17,1962, с. 57-110.

2Kazhdan D. Proof of Springer's hypothesis. Israel J. Math., v. 28, 1977, p. 272-286.

3Kiri!!ov A.A. Variations on the triangular theme. AMS TVansl., v. 169, 1995, p. 43-73.

4Kirillov A.A., Melnikov A. On a remarkable sequence of polynomials. Publ. SMF, no. 2, 1996, p. 35-42.

Дело в том, что задача описания всех неприводимых представлений, будучи переформулированной в терминах орбит, не становится от этого проще. Описание множества коприсоединённых орбит в общем случае неизвестно и представляется чрезвычайно трудной проблемой. С другой стороны, некоторые специальные серии орбит изучены достаточно хорошо.

Так, например, ещё в 1962 г. Кирилловым было получено описание всех орбит максимальной размерности (так называемых регулярных орбит) унит-реугольной группы í/n(K) — группы всех унипотентных нижнетреугольных вещественных матриц; оно остаётся верным и над конечным полем, когда характеристика основного поля достаточно велика. Орбиты предмаксимальной размерности этой группы (мы будем называть их субрегулярными) были полностью описаны А.Н. Пановым в 2007 г. В статьях5,6 К. Андре и A.M. Нето развивается теория базисных характеров, или суперхарактеров максимальных унипотентных подгрупп классических матричных групп над конечными полями. В частности, из полученных там результатов вытекает описание регулярных орбит максимальной укипотентной подгруппы симплектической группы и элементарных орбит (орбит одного корневого ковектора) для всех классических систем корней. Упомянем ещё работу7 И.М. Айзекса, в которой речь идёт о характерах подгрупп C/n(Fg) специального вида.

Оказывается, что почти все упомянутые выше орбиты (и вообще почти все орбиты, сколь-нибудь полно изученные к настоящему времени) укладываются в единую схему: все они относятся к орбитам, ассоциированным с теми или иными ортогональными подмножествами в системах корней. Изучение этого класса орбит и является одной из основных задач диссертационной работы.

С другой стороны, даже если известно полное описание какого-либо класса коприсоединённых орбит, явное вычисление неприводимых характеров, соответствующих этим орбитам, представляет отдельную вычислительную проблему. К примеру, формула для характеров, соответствующих регулярным орбитам Un(¥q), была получена Андре лишь в 2001 г. Вторая часть диссертационного исследования посвящена вычислению характеров, соответствующих субрегулярным орбитам этой группы.

5 André С.А.М. The basic character table of the unitriangular group. J. Algebra, v. 241, 2001, p. 437-471.

'André С.А.М. ; Neto A.M. Super-characters of finite unipotent groups of types B„, C„ and D„. J. Algebra, v. 305, 2006, p. 394-429.

7baacs I.M. Characters of groups associated with finite algebras. J. Algebra, v. 177, 1995, p. 708-730.

Таким образом, вопросы, рассматриваемые в диссертационной работе, находятся в контексте современной теории представлений унипотентных алгебраических групп над конечными полями.

Цель работы. Целью работы является изучение орбит коприсоединённо-го представления максимальных унипотентных подгрупп в группах Шевалле над конечными полями, ассоциированных с ортогональными подмножествами в системах корней, а также получение точной формулы для субрегулярных характеров унитреугольной группы.

Методы исследования. Используются методы алгебраической геометрии и теории представлений конечных групп. Доказательства фактов, касающихся орбит, ассоциированных с ортогональными подмножествами, чаще всего основаны на индукции по рангу системы корней. При изучении субрегулярных характеров унитреугольной группы ключевую роль играет метод полупрямого разложения Г. Макки.

Основные результаты. В диссертационной работе получены следующие результаты:

• Получена оценка сверху в терминах группы Вейля на размерности ко-присоединённых орбит максимальных унипотентных подгрупп в группах Шевалле над конечными полями, ассоциированных с ортогональными подмножествами в системах корней.

• Для классических систем корней получена точная формула для размерности таких орбит. Как следствие, описаны все возможные размерности неприводимых комплексных представлений максимальных унипотентных подгрупп в классических группах над конечными полями. Кроме этого, построены поляризации для канонических форм на орбитах.

• Полностью описаны субрегулярные характеры унитреугольной группы: найдены уравнения, задающие произвольный класс сопряженности, на котором значение данного характера отлично от нуля, как аффинное многообразие, и вычислено это значение.

Личный вклад автора. В диссертации изложены результаты, полученные автором лично.

Научная новизна. Все основные результаты, представленные в диссертации, являются новыми.

Теоретическая и практическая ценность. Работа носит теоретический характер. Её результаты могут быть применены в теории представлений конечных групп и в дальнейших исследованиях по методу орбит; они могут представлять интерес для специалистов Московского государственного университета им. М.В. Ломоносова, Санкт-Петербургского государственного университета, Самарского государственного университета, Математического института им. В.А. Стеклова РАН и Санкт-Петербургского отделения Математического института им. В.А. Стеклова РАН.

Апробация работы. Основные результаты исследований по теме диссертации докладывались на научных семинарах кафедры алгебры и геометрии Самарского государственного университета (рук. проф. В.Е. Воскресенский), на Санкт-Петербургском алгебраическом семинаре им. Д.К. Фадде-ева ПОМИ им. В.А. Стеклова РАН (рук. проф. A.B. Яковлев), на семинаре "Алгебраические группы" кафедры высшей алгебры и теории чисел Санкт-Петербургского государственного университета (рук. проф. H.A. Вавилов), на семинарах кафедры высшей алгебры Московского государственного университета "Группы Ли и теория инвариантов" (рук. проф. Э.Б. Винберг, проф. А.Л. Онищик, доц. И.В. Аржанцев, доц. Д.А. Тимашёв) и "Избранные вопросы алгебры" (рук. доц. И. А. Чубаров), на Международной конференции по алгебре и теории чисел, посвященной 80-летию В.Е. Воскресенского (Самара, 2007 г.), на Международной алгебраической конференции, посвященной 100-летию со дня рождения Д.К. Фаддеева (Санкт-Петербург, 2007 г.), на Международной алгебраической конференции, посвященной 100-летию со дня рождения профессора А.Г. Куроша (Москва, 2008 г.), на Летней школе-конференции "Алгебры Ли, алгебраические группы и теория инвариантов" (Самара, 2009 г.).

Публикации. Основные результаты диссертации опубликованы в работах [1]-[7]. Работы [1], [2] опубликованы в журналах, входящих в перечень изданий, рекомендованных ВАК РФ.

Структура и объём работы. Диссертация состоит из введения, трёх глав и списка литературы, содержащего 60 наименований. Первая глава состоит из двух параграфов, вторая и третья — из трёх параграфов. Объём диссертации — 156 страниц.

Содержание диссертации

Во введении излагается история вопроса, обосновывается актуальность диссертационного исследования, формулируются цели и задачи работы, даётся обзор методов исследования и основных результатов и описывается структура диссертации.

Глава 1 носит подготовительный характер. В ней собран необходимый материал из теории групп Шевалле и теории представлений конечных групп. В параграфе 1 мы напоминаем основные факты, связанные с системами корней и группами Шевалле над конечными полями. В частности, через Ф обозначается произвольная приведённая система корней, а через С и С(д) — группы Шевалле с системой корней Ф над полями к п ¥ч соответственно. Здесь р — достаточно большое простое число (например, достаточно потребовать р>гкФ+|Ф|),д = рг для некоторого г ^ 1, — простое поле из р элементов, к = ¥р — его алгебраическое замыкание и = € к | ¿я = £} — конечное поле из д элементов. Подчеркнём, что — подгруппа в (?.

Далее вводится ряд обозначений, связанных с максимальными унипотент-ными подгруппами в б и С(д). А именно, через А обозначается произвольный фиксированный базис Ф, через Ф+ и Ф~ — соответствующие множества положительных и отрицательных корней. Пусть д — алгебра Ли группы С, {еа}а6ф+ — корневые векторы из базиса Шевалле д, соответствующие положительным корням, и и — подалгебра в д вида и = Тогда корректно определено экспоненциальное отображение ехр: и —» С7. Его образ и будет максимальной унипотентной подгруппой в (2, причём и будет алгеброй Ли группы 1/. Отображение ехр: и —+11 взаимно однозначно, обратное отображение обозначается через 1п: II —► и. Для произвольных элементов х,у £и имеет место формула Кэмпбелла-Хаусдорфа:

ехр(х) • ехр (у) = ехр (я + у + г)

для некоторого г 6 [о, о], где о — любая подалгебра Ли в и, содержащая оба элемента а:, у, а [о, о] = ([и, и], и, и €

Аналогично определяется подалгебра и(д) = Х)аеФ+ в алгебре Ли д(д) группы С(д) и максимальная унипотентная подгруппа и(д) = ехри(д) в (и(<7) будет её алгеброй Ли над Подчеркнём, что II(д) — подгруппа в II и и(д) — ^-подпространство в и.

Параграф 2 посвящен краткому изложению метода орбит для конечных унипотентных групп. Группа II действует на и с помощью присоединённого представления:

(оператор adx: и —► и: у t-> [х,у] является нильпотентным, поэтому отображение ехрасЬ корректно определено). Сопряжённое представление в пространстве u* = Homfc(u, к) называется коприсоединённым. Мы обозначаем результат коприсоединённого действия элемента g = ехр(а;) G U на линейную форму feu* через g.f:

Произвольная коприсоединённая орбита является неприводимым аффинным многообразием как орбита действия связной унипотентной группы на аффинном пространстве.

Аналогично определяется коприсоединённое представление группы [/(д) в пространстве и*(д) = с и* (здесь е* — ковекторы, двойствен-

ные к корневым векторам еа). Обратим внимание, что мы можем рассматривать орбиты произвольной линейной формы / € и*(д) С и* как под действием группы и(д), так и под действием всей группы II; обозначим эти орбиты через Г2(д) и П соответственно. Известно, что размерность П всегда чётна, причём |0(д)| = дга1тП. Суть метода орбит коротко можно выразить так: существует взаимно однозначное соответствие между множеством коприсоединённых орбит и*(д)/£/(д) и множеством классов эквивалентности неприводимых конечномерных комплексных представлений группы и(д).

Подробнее, выберем и зафиксируем произвольный нетривиальный гомоморфизм групп в: ¥д —> С*. Для данной орбиты П(д) С и*(д) определим функцию х = ХОД на группе и(д) следующим правилом:

Функция х является характером некоторого неприводимого представления Т = группы и(д), любой неприводимый характер можем быть получен таким образом и Та^ч) = 7п2(9) тогда и только тогда, когда ^(д) = Пг(9)-

AdeXp(I)(у) = (expadх)(у), х,у £ и

(9-f)(v) = /(Adp-i(y)) - /(expad-^)

Более того, можно указать даже явную конструкцию представления Т по орбите Q(q). Напомним, что поляризацией для линейной формы / 6 u*(g) называется произвольная подалгебра р с u(ç), являющаяся одновременно /-изотропным подпространством (то есть удовлетворяющая условию /([^У]) = 0 для любых х,у S р) и максимальная по включению среди всех таких подпространств. (Дословно такое же определение можно дать, конечно, и для линейных форм из и*.) Пусть / — произвольная точка на орбите 0(g), аре u(g) — любая поляризация для /. (Согласно классической конструкции М. Вернь8, поляризация всегда существует.) Тогда

Твд = Indp(,V,

где Р = ехрр С U(q), а -ф — одномерное представление этой подгруппы вида 'ф(д) = в(/(Ы(д))), g S Р. (В частности, полученное представление не зависит — с точностью до изоморфизма — от выбора точки / на орбите и поляризации для /.) Тем самым, поляризации играют ключевую роль в явном построении неприводимого представления, соответствующего данной копри-соединённой орбите. Отметим также, что dim fi = 2 • codimup для любой поляризации (и даже любого максимального изотропного подпространства) любой точки на Çl.

Кроме этого, во втором параграфе мы рассматриваем ряд важных примеров коприсоединённых орбит: регулярные и субрегулярные орбиты унит-реугольной группы (она отвечает системе корней Ф = -An_i), то есть орбиты соответственно максимальной и предмаксимальной размерности, регулярные орбиты для Ф = С„, элементарные орбиты.

Наконец, мы кратко напоминаем суть метода Г. Макки полупрямого разложения. Предположим, что конечная группы Q = А х В представлена в виде полупрямого произведения своих подгрупп Л и В (то есть Q = АВ, А < Ç и А П В = {е}), причём группа А — абелева. Примером является Un(g) = Uo{q) xi Ûn-i(q), где

ад = {де ад I gij = о при 2 < j < ¿ < n} s* rç, ün-i(q) = {g € Un(q) I gi>x = 0 при 2 ^ i ^ n} & f/n_i(g).

8Vergne M. Construction de sous-algèbres subordonnées à un élément du dual d'une algèbre de Lie résoluble. C. E. Acad. Sci. Paris Ser. A-B, v. 2 70,1970, p. A173-A175.

Тогда любой элемент д е О однозначно представляется в виде произведения д = дл9в, дл & А, дв £ В, поэтому корректно определены отображения Яд: 0 -> А: д дА и 7Г§: 0 -> В: д ь-> дв.

Выберем произвольный неприводимый характер к группы А и обозначим через Вк = {6 £ В | к(ЬаЬ~1) = к(а) для всех а € А} его централизатор в подгруппе В. Пусть, в свою очередь, ф — произвольный неприводимый характер подгруппы Вк. Отображения «о = ко Жд8* и фо = ф о являются характерами группы АВК = Л х1 Вк. Более того, Мд^ио^о будет неприводимым характером группы 0; любой её неприводимый характер может быть так получен. (Это позволяет свести изучение тех или иных неприводимых характеров группы 0 к рассмотрению неприводимых характеров Вк.)

Глава 2 посвящена изучению коприсоединённых орбит групп С/ и (/(д), ассоциированных с ортогональными подмножествами в системе корней Ф. В параграфе 3 мы даем необходимые определения и рассматриваем такие орбиты для всех систем корней с простыми связями, а также для систем корней типа /ч и С г-

Пусть Б — произвольное ортогональное (то есть состоящее из попарно ортогональных корней) подмножество в Ф+. Выберем любое отображение £: П —> к*: /3 ^ и определим линейную форму / = /д^ £ и* правилом

Определение. Будем говорить, что коприсоединённая орбита П = элемента / ассоциирована с ортогональным подмножеством Элемент / называется канонической формой на орбите О,.

Точно такое же определение можно дать и для орбит Г2(<?) коприсоединён-ного представления группы II(<7). Все рассмотренные во втором параграфе орбиты ассоциированы с теми или иными ортогональными подмножествами в системах корней.

Нас, в основном, будет интересовать, чему равна размерность орбиты П как неприводимого аффинного многообразия (соответственно, сколько точек лежит на орбите П(д), или же какую размерность имеет соответствующее ей неприводимое представление группы (/(д).) Для ответа на этот вопрос в рассмотрение вовлекаются инволюции в группах Вейля. А именно, обозначим

через W = Ж(Ф) группу Вейля системы корней Ф, а через а = стд — инволюцию (элемент второго порядка) в W вида

* = П

0£D

где г¡3 — отражение, соответствующее корню ¡3 (порядок, в котором следуют отражения, не имеет значения, ибо они коммутируют ввиду ортогональности D). Пусть 1(а) — длина а в простых, a s(a) — в произвольных отражениях. (Другими словами, 1{а) = {а Е Ф+ | аа Е Ф-} и s(cr) = |D|.) Основной результат второй главы выражается следующей теоремой:

Теорема 1. Размерность орбиты £1 не зависит от выбора отображения £: D —> к* и не превосходит числа l(a) — s(a). Иначе говоря,

dimíí = l(a) — s(ct) — 2i?,

где "& Е Z^o зависит только от подмножества D (но не от £).

Заметим, что оценка на размерность во многих случаях является точной (например, при Ф = Ап и Ф = С„ "дефект" é всегда равен нулю); однако, есть примеры, когда получается строгое неравенство.

Сначала мы показываем, что теорему достаточно проверить для неприводимых систем корней и для ортогональных подмножеств специального вида. (Точнее говоря, можно не рассматривать ортогональные подмножества, содержащие два положительных корня Д, /?2, если можно представить в виде А — 02+а для какого-то а Е Ф+.) Затем мы доказываем эту теорему для всех систем корней с простыми связями. Доказательство использует индукцию по рангу системы корней Ф. Мы выбираем произвольный корень /3 Е D, максимальный относительно естественного порядка на корнях, и рассматриваем систему корней

Ф = {a Е Ф | а ± (3}. Очевидно, гкФ < гкФ, и удаётся свести вопрос к изучению орбит, ассоциированных с ортогональными подмножествами в системе корней Ф.

В конце третьего параграфа мы доказываем теорему 1 для систем корней типа F4 и G2. Случай G2 разбирается совсем просто, а при Ф = F4 приходится часть ортогональных подмножеств рассматривать по отдельности и для каждого из них строить максимальное /-изотропное подпространство, зависящее только от подмножества D (но не от отображения £).

Далее, в параграфе 4 мы уточняем полученные результаты для классических систем корней. (Случай Ф = Ап полностью разобран А.Н. Пановым в работе9, поэтому мы акцентируем внимание на остальных классических системах корней.) Удобно представлять множество положительных корней как подмножество евклидова пространства Мп следующим образом: Ф+ = ф+ и Ф^, где = {е; ± 1 ^ г < ^ < гг}, а

{£i, 1 < г ^ п}, если Ф = Вп, {2а, 1 ^ г < п], если Ф = Сп, 0, если Ф = Вп.

Здесь {£г}"=1 — стандартный базис Еп.

Для произвольного ортогонального подмножества О С Ф+ положим

4 = #{{¿,¿,1,3) \г<1<3<1к^~ £^,£{ + £^,£1+£в € В},

¿г = <1 < 1 И £{-£^^ + £^,£1-£5,£1 + £$ е £>},

¿з = #{{г, з) | + 6 В и г > I, где е{ € В},

¿4 = #{(», з) \ Ех-£},^ + е]&Въ1<з<1, где е{ € В}.

Эти числа могут быть не равны нулю лишь при Ф = Вп или Ф = Вп. Более того, два последних числа могут отличаться от нуля лишь при Ф = Вп. В этом случае множество В может содержать не более одного корня вида е; (другие подмножества можно не рассматривать: они не дают новых примеров орбит), так что <¿3 и ¿4 корректно определены.

Теорема 2. Пусть Ф относится к типу Вп, Сп или Вп. Тогда "дефект" $ в формуле из теоремы 1 для размерности орбиты П, ассоциированной с ортогональным подмножеством В, равен = 4- <¿2 + <¿3 + ¿4-В частности, если Ф = Сп, то $ = 0.

Доказательство этой теоремы также основано на индукции по рангу Ф. Как следствие, мы описываем все возможные размерности неприводимых конечномерных комплексных представлений группы II (д). Пусть 2ц — максимально возможная размерность коприсоединённой орбиты группы С/. (Соответственно, ^ — максимальное число точек на орбите группы II (д), а —

'Панов А.Н. Инволюции в Sn и ассоциированные коприсоединённые орбиты. // Зап. научн. сем. ПОМИ, т. 349, вып. 16, 2007, с. 150-173.

максимально возможная размерность неприводимого представления этой группы.) Легко проверить, что

п(п — 1)/2, если Ф = Вп или Сп, ¡i = /л(Ф) = п(п - 1)/2, если Ф = Dn и п чётно, ^ (п — 1)2/2, если Ф = Dn и п нечётно.

Следствие. Группа U(q) обладает неприводимым комплексным представлением размерности N тогда и только тогда, когда N = ql для некоторого 0 ^ I /х.

Достаточно для каждого такого I предъявить орбиту Í2 группы U, для которой dimQ = 21. Оказывается, для всякого I среди орбит, ассоциированных с ортогональными подмножествами, такая орбита найдётся. (Мы просто строим соответствующее подмножество D и вычисляем размерность ассоциированной с ним орбиты П по теореме 2.)

Кроме этого, в четвёртом параграфе мы строим поляризации для канонических форм на рассматриваемых орбитах. Определим отображения row: Ф+ {-п,..., п} и col: Ф+ —> {1,..., п} правилом row(e¿ ± = =Fj, row(e¿) = 0, row(2£¡) = —i, col(£¿ ± e¡) = col(e¿) = col(2e¿) = i. Положим TZi = {a € Ф+ | row(a) = i} и Cj = {а E Ф+ | col(a) = j} (эти множества назовём i-ой строкой и j-ым столбцом Ф+ соответственно). Далее, для любого Р G Ф+ корни а, 7 Е Ф+ будем называть Р-сингулярными, если а + 7 = /3; множество всех /^-сингулярных корней обозначим через S(P).

Для данного ортогонального подмножества D С Ф+ пусть j\ < ... < jt — все те номера столбцов Ф+, в которых лежат корни из D. Положим jo — О и обозначим М = Md = ULo где -^о = 0 и для каждого г = 1,..., t

Mjt = (7 € S-(P) I (3 £ D n Cjt И 7, P - 7 i (Xo M^

Рассмотрим также подпространство po в u (или в u(g)), натянутое на все векторы вида • e€l_e. - • e£l+£j, где e¿ - eh£i + £j G D, i < l < j, £l - £j,£l + £j £ Mi и D П TZ-i = 0.

Предложение. Подпространство p = Ylae$+\M + po в алгебре JIu u (соответственно, u(q)) будет поляризацией для канонической формы / на орбите Ü (соответственно, fi(í))> ассоциированной с ортогональным подмножеством D.

В главе 3 получено полное описание субрегулярных характеров унитре-угольной группы С/(д) = ип(д)', по определению, это неприводимые характеры, соответствующие коприсоединённым орбитам предмаксимальной размерности, равной 2 • (Ц^п — 2г) — . В параграфе 5 в качестве примера мы, используя описанный в первой главе метод Макки полупрямого разложения, доказываем формулу Андре для вычисления характеров основной серии группы ип(д) (они соответствуют регулярным орбитам). Кроме этого, мы приводим принадлежащую Панову классификацию субрегулярных орбит унитреугольной группы.

Все такие орбиты распадаются на классы, нумеруемые натуральным числом 6, 1 < 8 ^ пь где щ = [(п — 1)/2]. Будем для удобства обозначать Щп) — {(м),1 ^j<г^n}cZxI,и для всякой линейной формы / е и*(д) положим Эирр(/) = {(г,.?) е &(п) | /(е^-) ^ 0} (е^ — стандартная матричная единица). На каждой субрегулярной орбите лежит ровно одна каноническая форма — элемент / € и*(д), для которого Эирр(/) = Здесь 3>& — одно из следующих множеств:

1. Пусть сначала 1 ^ 8 < щ. Пусть щ — [п/2] и

и П0

.=1(п-г' + 1,г).

При чётном п множество [Л^1^ — г + 1 , г) также будем обозначать Положим = (Бмв\{(п-г+1, (п-Я,<У+1)})и{(п-«*,<*), (п-<5+1, ¿+1)}. Тогда ^ — любое из подмножеств или В^ и {(п — 5 + 1, п — <5)}.

2. Пусть теперь п нечётно и 5 = щ = щ. Здесь — любое из подмножеств, лежащих (нестрого) между Ц?ге5\{(п0-1-1,по), (п0 + 2,п0 + 0)} и В^.

3. Если же п четно и 8 = П1 = по — 1, то положим = и?=Г (н —г + 1,г),

В1 = и {(п0 + \,гц)},Г>2 = и {(п0 4- 2, п0)}

и через обозначим любое из подмножеств 2!\ или Щ, где, в свою очередь, Щ обозначает любое из подмножеств, лежащих (нестрого) между В\ и£>ги {(по + 2, п0), (по + 2, по +1)}, &Щ — любое из подмножеств, лежащих (нестрого) между Г>2 и ¿>2 и {(7го>Г11)}-

Обратно, коприсоединённая орбита любой канонической формы будет субрегулярной, так что мы имеем полную классификацию субрегулярных орбит.

Пусть теперь = ^ — одно из только что описанных подмножеств и % —> Е*: (г,^) — произвольное отображение. Пусть, далее,

С2(д) = О-з,^{ч) ~ субрегулярная орбита группы и„{д), содержащая каноническую форму /, для которой Эирр(/) = @ и /(е,^) = Для любого (г,7') параграфе 6 мы предъявляем ряд подмножеств &>(п), называ-

емых 5-субрегулярными и для каждого такого подмножества Ю определяем некоторое целое неотрицательное число то'-

Здесь Мг = {(г',0) 1 < ^ < г} и ^ = {(г,з < г ^ п} для любых г, 2- Кроме того, Д(Я) = Щп) \5(£), где 5(г,^ = {(г, з), 1 < з < ]} и {(г,;/), г < г < тг}

Для произвольного отображения ¡р: И —► Р*: (г, ь-> мы определяем элемент группы £/„(д) вида Я£>М = 1п + е/> (</>), где

а 1„ — единичная матрица размера п х п. Далее мы указываем, какими уравнениями задаётся класс сопряжённости Хд(^) С ¿7П(?) элемента хо{<р) как аффинное многообразие. Наконец, мы формулируем и доказываем основной результат третьей главы:

Теорема 3. Пусть х — неприводимый характер группы £/п(д), соответствующий субрегулярной орбите О(д). Его значение на элементе д £ ип{ч) отлично от нуля тогда и только тогда, когда д £ для некоторого

8-субрегулярного подмножества О и некоторого отображения ц>, удовлетворяющего условию &,п-б<Рб+1,б = £б+1,п-ш<Рп-1+1,п-б- В этом случае

Доказательство вновь основано на индукции по п (то есть по рангу системы корней Лп_ 1, которой отвечает группа %(д)). С помощью метода Макки полупрямого разложения удаётся свести описание характера х к изучению тех или иных характеров основой серии и субрегулярных характеров группы ип-2(5). Описание первых получено Андре, а описание вторых известно по предположению индукции.

Т6=Т\ и и ъ и

||Я(£>)ПТ|-1, если (6 + 1,5) £ О,

| | Д(£>) П Т6\ + п - 25 + 1, если (6 + 1,5) в В.

Х(9)=Г°-Н/Ы<Р)))-

Публикации автора по теме диссертации

Статьи в журналах, рекомендованных ВАК РФ:

[1] Игнатьев М.В. Базисные подсистемы в системах корней Вп и Вп и ассоциированные коприсоединённые орбиты. // Вестник СамГУ. Естественнонаучная серия, т. 3(62), 2008, с. 124-148.

[2] Игнатьев М.В. Ортогональные подмножества классических систем корней и коприсоединённые орбиты унипотентных групп. // Мат. заметки, т. 86, вып. 1, 2009, с. 65-80.

Другие публикации:

[3] Игнатьев М.В. Субрегулярные характеры унитреугольной группы над конечным полем. // Фунд. и прикл. матем., т. 13, вып. 5, 2007, с. 103-125.

[4] Игнатьев М.В. Субрегулярные подмножества и характеры унитреугольной группы. // Международная конференция по алгебре и теории чисел, посвящённая 80-летию В.Е. Воскресенского. Тезисы докладов — Самара: Изд-во "Универс групп", 2007, с. 25-26.

[5] Игнатьев М.В. Поляризации и размерности орбит, ассоциированных с группами Вейля типа Вп и Вп. // Международная алгебраическая конференция, посвящённая 100-летию со дня рождения А.Г. Куроша. Тезисы докладов. — М.: Изд-во мех.-мат. ф-та МГУ, 2008, с. 106-108.

[6] Игнатьев М.В. Орбиты унипотентных групп, ассоциированные с ортогональными подмножествами в системах корней. // Летняя школа-конференция "Алгебры Ли, алгебраические группы и теория инвариантов". Тезисы докладов. — Самара: Изд-во "Универс групп", 2009, с. 20-21.

[7] Ignatev M.V. Subregular subsets and subregular characters of the uni-triangular group. International Algebraic Conference Dedicated to the 100th anniversary of D.K. Faddeev. Abstracts. St. Petersburg, 2007, p. 119-120.

Подписано в печать 05.03.2010. 60 X 84/16. Бумага офсетная. Печать оперативная. Объем 1 п.л. Тираж 100 экз. Заказ №1826. 443011, г. Самара, ул. Ак. Павлова, 1. Отпечатано на УОП СамГУ.

Введение.

Глава 1. Максимальные унипотентные подгруппы групп Шевалле.

§1. Основные обозначения.

1.1. Группы Шевалле.

1.2. Максимальные унипотентные подгруппы.

§2. Метод орбит.

2.1. Метод орбит для конечных групп.

2.2. Примеры коприсоединённых орбит.

2.3. Полупрямое разложение и метод Г. Макки.

Глава 2. Орбиты, ассоциированные с ортогональными подмножествами систем корней.

§3. Общие результаты.

3.1. Определения и основная теорема.

3.2. Системы корней с простыми связями.

3.3. Системы корней с кратными связями.

§4. Классические системы корней.

4.1. Поляризации для канонических форм.

4.2. Формула для размерности.

4.3. Размерности неприводимых представлений группы U(q).

Глава 3. Субрегулярные характеры унитреугольной группы.

§5. Определения и примеры.

5.1. Пример: характеры основной серии.

5.2. Субрегулярные орбиты.

§6. Формула для характеров.

6.1. Классы сопряжённости.

6.2. Основная теорема: формулировка.

6.3. Основная теорема: доказательство.

Одной из самых важных и красивых областей современной алгебры является теория представлений. В начале XX века её роль сводилась к изучению представлений конечных групп и конечномерных ассоциативных алгебр, но постепенно круг проблем, изучаемых теорией представлений, расширялся в связи с задачами анализа, геометрии и физики. В настоящее время теория представлений имеет обширные приложения в теории групп и алгебр Ли, теории алгебраических групп, гармоническом анализе, квантовой механике. По словам Д.П. Желобенко, "масштабы теории представлений уже сопоставимы с масштабами всей математики" [4, с. 6].

Нас будут интересовать представления некоторого класса алгебраических групп над конечными полями. К наиболее изученным в этом контексте относятся конечные группы типа Ли (конечные подгруппы групп Шевалле над алгебраически замкнутыми полями положительной характеристики), см., например, [12], [30]. Ключевую роль здесь играет связанная с ^-адическими когомологиями теория характеров Делиня-Люстига ([31], см. также [50], [51], [52]).

Другой интереснейший класс — конечные унипотентные группы (точнее, максимальные унипотентные подгруппы в группах Шевалле над конечными полями); именно им и посвящена настоящая работа. Основным инструментов в теории представлений таких групп является созданный А.А. Кирилловым в 1962 г. метод орбит. Ввиду его исключительной важности для наших целей остановимся более подробно на истории вопроса.

Первоначально этот метод использовался для описания неприводимых (бесконечномерных) унитарных представлений вещественных нильпотентных групп Ли в комплексных гильбертовых пространствах. Первые общие результаты о таких представлениях были получены Ж. Диксмье [32]—[37]. Решающим продвижением стала статья Кириллова [13], в которой было показано, что неприводимые представления связной односвязной нильпотентной группы Ли однозначно соответствуют орбитам её коприсоединённого представления. (По определению, это сопряжённое представление к присоединённому представлению группы Ли в своей алгебре Ли.) Позже выяснилось, что метод орбит работает — с некоторыми поправками — и для других типов групп Ли, а с помощью коприсоединённых орбит можно построить множество важных примеров интегрируемых систем [14, лекции 9-11].

Сейчас имеются сотни работ, посвящённых тем или иным аспектам метода орбит; перечислить здесь их все нет никакой возможности. Оригинальная версия метода подробно изложена в книге [14]; краткий обзор содержится I в [46]. Различные версии метода орбит (например, геометрическое квантование) и его приложения в геометрии и физике обсуждаются в сборнике [38]; там же можно найти множество дальнейших ссылок.

Мы же переходим к краткому изложению основных результатов настоI ящей работы. Пусть Ф — приведённая система корней, р — простое число, I достаточно большое по сравнению с рангом Ф (например, р>гкФ + 2-|Ф|). Пусть Fp, F9 — поля жз р и q = pr, г ^ 1, элементов соответственно, Лг = IFp — алгебраическое замыкание поля Fp. Пусть U (соответственно, U(q)) — максимальная унипотентная подгруппа в группе Шевалле с системой корней Ф над полем к (соответственно, над полем ¥д), отвечающая некоторому множеству положительных корней Ф+; подробности см. в пунктах 1.1, 1.2.

Поскольку U(q) — конечная группа, классическая задача теории представлений звучит так: описать все неприводимые конечномерные комплексные представления U(q) с точностью до изоморфизма. М. Боярченко и В. Дрин-фельд пишут: "The fact that the orbit method works in this context was probably clear as soon as the original method over R was discovered"1 [28, p. 14].

1 "Видимо, то, что метод орбит работает в этом контексте, стало ясно сразу же, как только был создан оригинальный метод над R".

Более точно, в статье Д. Каждана [44] (см. также подробное изложение в [57, Chapter VII]) было показано, что метод орбит действительно позволяет решить сформулированную выше задачу в терминах орбит коприсоединённо-го представления в следующем смысле.

Обозначим через u, и(д) алгебры Ли групп U, U(q) соответственно, а через u*,u*(g) — сопряжённые к ним пространства над к, F9 соответственно. Каждая из групп естественно действует на своей алгебре Ли с помощью присоединённого представления; двойственное представление в сопряжённом пространстве называется коприсоединённым. Оказывается, имеется взаимно однозначное соответствие между множеством орбит u*{q)/U{q) и множеством классов изоморфных неприводимых комплексных представлений группы U(q). Более того, целый ряд вопросов, связанных с представлениями U(q) допускает естественную трактовку в терминах орбит, см, пункт 2.1.

Удобно одновременно рассматривать орбиты группы U в пространстве и*, чтобы иногда переходить в "геометрическую" ситуацию; к тому же, эти орбиты тесно связаны с орбитами группы U(q). Например, если через Оси* и £l{q) С u*(q) обозначить орбиты одного и того же элемента / е u*(q) С и* I относительно коприсоединённого представления групп U и U(q) соответственно, то \£l(q)\ = причём dimfi всегда будет чётным числом. I

При этом размерность неприводимого представления Т группы U(q), соответствующего орбите £l(q), равна dimcT = qdimQ/2 =

Изучению орбит тех или иных унипотентных групп над конечным полем, разумеется, также посвящено огромное число работ; отметим хотя бы статьи Кириллова [45], [47] и работу Кириллова и А. Мельниковой [48], где обсуждаются различные асимптотические задачи, связанные с числом орбит данной размерности. Дело в том, что задача описания всех неприводимых I представлений группы U (q), будучи переформулированной в терминах орбит, не становится от этого проще. Описание множества коприсоединённых орбит в общем случае неизвестно и представляется чрезвычайно трудной проблемой даже для Ф — Ап, не говоря уже об остальных системах корней; С другой стороны, некоторые специальные серии Орбит изучены достаточно хорошо.

Так, например, в самой первой работе по методу орбит [13] было получено описание всех орбит максимальной размерности (так называемых регулярных орбит) унитреугольной группы Un{№) — группы всех унипотентных треугольных матриц (над М); оно остаётся верным и в нашей ситуации, когда характеристика основного поля достаточно велика. Орбиты предмакси-мальной размерности этой группы (мы будем называть их субрегулярными) были полностью описаны А.Н. Пановым в работе [5]. В статьях К. Андре и A.M. Нето [21]—[26] развивается теория так называемых базисных характеров, или суперхарактеров группы U(q) в случае классической системы кор' . i . ней Ф (См. также диссертацию Н. Яна [60],) В частности, из полученных там результатов вытекает описание регулярных орбит для Сп и элементарных орбит (орбит одного корневого ковектора) для всех классических систем корней; см/также [54] для. случая Вп и Dn. Упомянем ещё работы И.М. Ай-зекса [41] и Дж. Сангрониза [55], в которых речь идёт о характерах подгрупп Un(¥q) специального вида (так называемых algebra groups).

В пункте 2.2 показано, что практически все изученные к настоящему времени примеры укладываются в весьма общую схему. А именно,, пусть D — произвольное ортогональное (то есть состоящее из попарно ортогональных корней) подмножество множества положительных корней Ф4". Для произвольного корня а € договоримся через еа обозначать соответствующий корневой вектор в алгебре Ли, а через е* — двойственный ему ковектор в сопряжённом пространстве. Выберем произвольное отображение (3 из D в к* для группы U (соответственно, в F* для группы U(q)) и пусть / = ~ элемент и* (соответственно, и* (д)) вида

Обозначим, наконец, через Q С u*, 0(g) С и*(д) его орбиты относительно коприсоединённых представлений групп С/, U(q) соответственно.

Определение. Будем говорить, что орбита Г2 (или fl(q)) ассоциирована с ортогональным подмножеством D (и отображением £).

Оказывается, что почти все упомянутые выше орбиты (и не только они) ассоциированы с теми или иными ортогональными подмножествами в системах корней. Изучение этого класса орбит и является одной из основных задач данной работы. Более точно, нас будет интересовать вопрос о размерности таких орбит: удаётся доказать, что она не зависит от выбора отображения и оценить её сверху (а для классических групп — получить точную формулу) в терминах группы Вейля системы корней Ф.

А именно, пусть W = Ж(Ф) — группа Вейля; рассмотрим в ней инволюцию (элемент второго порядка) а = а в вида где гр - отражение, соответствующее корню (3 (порядок, в котором берутся отражения, не имеет значения, ибо они коммутируют ввиду ортогональности подмножества D). Обозначим через 1(a) и s(a) длины этой инволюции в простых и произвольных отражениях соответственно. (Другими словами, 1(a) = G Ф+ | аа 6 Ф"} и s(cr) = \D\.)

Один из двух основных результатов работы заключается в следующей теореме (см. теорему 3.3 для систем корней с простыми связями, теорему 4.13 для классических систем корней и пункт 3.3 для F4 и G2)'

Теорема 1. Размерность орбиты О не зависит от выбора отобраоюеI ния £ и не превосходит числа 1(a) — s(a). Иначе говоря, dim О = 1(a) — s(a) — 2$, где 'д € Z^o зависит только от подмножества D (но не от Более того, для классических систем корней $ задаётся формулой (2.14).

Отметим, в частности, что $ = 0 всегда, если Ф = Ап или Ф = Сп (для Ап этот результат был ранее получен Пановым [16, теорема 1.2]). С другой стороны, есть примеры, когда получается строгое неравенство, то есть # ф О (см. пример 4.19). Подчеркнём, что автоматически мы получаем информацию о количестве точек на орбита Q(q) (оно равно \£l{q)\ = gdimQ) и о размерности соответствующего неприводимого комплексного представления Т группы U(q) (она равна dimcT = gdim<V2 = у/Щд)~\).

Использую эту связь между размерностями орбит и представлений, мы получаем ответ на вопрос, какую размерность в принципе может иметь непри-водимо представление группы U(q) в случае классической системы корней. Точнее говоря, обозначим через 2ц максимально возможную размерность ко-присоединённой орбиты группы U; для классических группы она задаётся формулой (2.17). Вот точная формулировка результата (см. следствие 4.21): Следствие. Пусть система корней Ф относится к типу Вп, Сп или Dn. I

Группа U(q) обладает неприводимым представлением размерности N тогда и только тогда, когда N = ql, где 0 ^ I ^ fi. (Для Ап это доказано в [43] и легко выводится из результатов [16].)

В явной конструкции неприводимого представления, соответствующего данной коприсоединённой орбите, ключевую роль играют так называемые поляризации (см. пункт 2.1). Напомним, что поляризацией линейной формы Л G и* называется подалгебра р С и, являющаяся одновременно Х-изотропным подпространством (то есть удовлетворяющая условию А|[р р] = 0) и максимальная по включению среди всех таких подпространств. Классическая конструкция М. Вернь показывает, что поляризации всегда существуют ([59], см. также [3, §1.12]). Оказывается, представление U(q), соответствующее орбите ft(q), индуцировано с некоторого одномерного представления подгруппы ехрр С U(q), где exp: u(q) —► U(q) — экспоненциальное отображение, ар — любая поляризация для любой точки на Cl(q).

Для классических систем корней мы предъявляем процедуру, позволяющую по ортогональному подмножеству D С Ф+ построить некое подпространство р, которое, как выясняется, будет поляризацией для канонической формы (то есть для элемента / = /д^) на орбите (или на ассоциированной с ортогональным подмножеством D (см. теорему 4.5):

Теорема 2. Пусть система корней Ф относится к типу Вп, Сп или Dn. Подпространство р в алгебре Ли, построенное с помощью правила (2.9), является поляризацией для линейной формы /.

Это прямое обобщение конструкции для Ап, предложенной Пановым в [16, теорема 1.1]. Вообще, само понятие орбиты, ассоциированной с ортогональным подмножеством, обобщает на случай произвольной системы корней введённое в [16] понятие орбиты, ассоциированной с инволюцией, для случая Ап. Отметим, что в этом случае Пановым получены, кроме всего прочего, точные уравнения, описывающие произвольную орбиту такого вида как аффинное многообразие [16, теорема 1.4].

Второй основной результат работы связан с нахождением явной формулы для характеров группы XJ{q) определённого вида. С одной стороны, метод орбит доставляет формулу, позволяющую — в принципе — найти значение неприводимого характера х, соответствующего данной орбите П(д) на данном элементе g Е U(q), см. формулу (1.5): где х £ u(g), g — ехр(ж) € U(q), а 9: F —> С* — произвольный фиксированный нетривиальный гомоморфизм.

С другой стороны, чтобы посчитать х{о) по этой формуле, нужно суммировать значения некоторых функций по орбите, что уже при сравнительно небольших rk Ф и q является серьёзной вычислительной проблемой, а с ростом этих параметров превращается в практически неразрешимую для современных компьютеров проблему. Тем самым, даже если известно описание какой-то орбиты или класса орбит, нахождение явной формулы, позволяющей для произвольного д находить является отдельной важной задачей.

Конкретизируем эти рассуждения. Остановимся на случае Ф = Ап-г, то есть на случае унитреугольной группы U = Un(k) (соответственно, U(q) = Un(¥q) — Un(q)). Её алгебра Ли un (соответственно, un(g)) состоит из всех нильпотентных (нижне) треугольных матриц. Для произвольного характера х его носителем Supp(x) назовём объединение классов сопряжённости группы U(#), значение % на которых отлично от нуля. Понятно, что задача заключается в том, чтобы найти явные уравнения, задающие произвольных класс сопряжённости ^ С Supp(%) как аффинное многообразие, I и вычислить значение х на любом таком классе сопряжённости

Как мы уже отмечали выше, регулярные орбиты унитреугольной группы были описаны ещё в [13], а описание субрегулярных содержится в [5]. В то же время, характеры, соответствующие регулярным орбитам (они называются характерами основной серии) были описаны Андре лишь в 2001 г. (точнее, формула для характеров основной серии является частным случаем результатов [23]). Мы же доказываем аналогичную формулу для субрегулярных характеров — неприводимых характеров Un(q), соответствующих субрегулярным орбитам, то есть орбитам предмаксимальной размерности.

А именно, пусть £2(q) С u*(q) — произвольная субрегулярная орбита унитреугольной группы Un(q), / — каноническая форма на ней (точные определения см. в пункте 5.2), а х ~~ соответствующий неприводимый хаарктер. Мы предъявляем ряд элементов хо{ф) £ U(q) и находим уравнения, задающие их классы сопряжённости %в(у>) С U(q) как аффинные многообразия, см. пункт 6.1. Кроме этого, для каждого такого элемента мы определяем целое число тв, см. (3.25). Напомним, что через 9: —> С* мы обозначили произвольный нетривиальный фиксированный гомоморфизм; пусть также ln обозначает единичную матрицу размера п х п. Точная формула для вычисления субрегулярного характера % доставляется следующей теоремой (см. теорему 6.9): . '. . ;

Теорема 3. Носитель характера.х состоит из всех классов сопряжённости Xd(<p)/ удовлетворяющих дополнительному условию (3.24). Значение х на произвольном элементе д, леоюащем в ОСd(<p) C,Supp(x), равно x(9):=<r°-oXf(xD(tp)-in)).'

Опишем структуру работы. Первая глава носит вводный характер; в ней собраны необходимые определения и обозначения, а также некоторые общеизвестные факты, которые используются в дальнейшем. В параграфе 1 мы очень кратко напоминаем ряд определений, связанных с системами корней, группами Щевалле (пункт 1.1) и их максимальными унипотентными подгруппами (пункт 1.2). Параграф. 2 посвящён сжатому изложению метода орбит для унипотент-ных групп над конечными полями. В пункте 2.1 даётся определение копри-соединённого.представления (см. формулу (1.4)) и формулируется теорема, выражающая суть метода орбит (теорема 2.2). В пункте 2.2 мы приводим ряд важных примеров коприсоединённых орбит и показываем, что все они ассоциированы с некоторыми ортогональными подмножествами в системах корней. Кроме этого, в пункте 2.3 излагается метод F. Макки, сводящий вычисление неприводимых характеров конечной группы, представленной в виде полупрямого произведения своих подгрупп, к вычислению характеров сомножителей (он. будет использован в главе 3 при вычислении субрегулярных характеров унитреугольной группы).

Глава 2 посвящена изучению коприсоедйнённых орбит, ассоциированных с ортогональными подмножествами систем корней. В параграфе 3 мы доказываем несколько фактов о таких орбитах в общем случае, а в параграфе 4 уточняем их для классических систем корней. Подробнее, в пункте 3.1 даётся точное определение орбиты, ассоциированной с произвольным ортогональным подмножеством D С Ф+, и формулируется основная теорема о размерности таких орбит (теорема 3.3). Там же показано, что при доказательстве этой теоремы можно ограничиться неприводимыми системами корней (лемма 3.5) и ортогональными подмножествами, удовлетворяющими некоторому дополнительному условию (лемма 3.7).

В следующем пункте 3.2 мы доказываем основную теорему для неприводимых систем корней с простыми связями (то есть для Ап, Dn, Eq, Е? и Е%). Утверждение теоремы непосредственно вытекает из предложений 3.14 и 3.15.

Рассуждения основываются на индукции по рангу системы корней Ф. В пунк1 те 3.3 мы проверяем, что основная теорема верна для систем корней типа и 6?2. (Случай (j?2 почти тривиален, а в случае F4 часть ортогональных подмножеств рассматриваются единообразно, а оставшиеся подмножества приходится изучать по отдельности.)

Таким образом, нерассмотренными остаются системы корней типа Вп и Ст но их естественно изучать в рамках общей схемы для классических систем корней, к чему мы и переходим в параграфе 4. Пункт 4.1 посвящён построению поляризации р для канонической формы / на орбите Q, ассоциированной с каким-то ортогональным подмножеством. Конструкция подпространства р содержится в (2.9). Теорема 4.5 утверждает, что р является поляризацией для /; её доказательство сразу следует из определения поляI ризации и предложений 4.9 и 4.10.

В пункте 4.2 мы уточняем основную теорему о размерности орбиты О для классических систем корней: оценка сверху на dim Г2 превращается в точную формулу, см. теорему 4.13 и формулу (2.14). Доказательство, по сути, основано вновь на индукции по гкФ. Как следствие, мы в пункте 4.3 описываем все возможные размерности неприводимых комплексных представлений группы U(q), см. следствие 4.21.

В главе 3 доказана точная формула для вычисления субрегулярных характеров унитреугольной группы Un(q). Сначала, в пункте 5.1 параграфа 5 мы доказываем аналогичную формулу для характеров основной серии этой группы (теорема 5.7). Это доказательство отличается от оригинального доказательства Андре из статьи [23]: нашей целью было продемонстрировать, как в данном контексте работает метод полупрямого разложения Макки, описанный в пункте 2.3, который мы затем применяем и для описания субрегулярных характеров. В этом же параграфе, в пункте 5.2, мы даём определение канонической формы на субрегулярной орбите (определение 5.14) и формулируем теорему классификации таких орбит.

Наконец, параграф б содержит доказательство интересующей нас формулы для субрегулярного характера х- Точнее говоря, в пункте 6.1 находятся уравнения, задающие произвольный класс сопряжённости Хв(<р) С Supp(%) (предложение 6.7). В пункте 6.2 мы формулируем основной результат (теорему 6.9), который затем доказываем в пункте 6.3. Доказательство проводится индукцией по п (шаг индукции делается с помощью метода полупрямого разложения Макки, см. предложение 6.13). Множество субрегулярных характеров распадается на классы, которые нумеруются натуральным числом 5. В леммах 6.14, 6.15 теорема доказывается в случае 5 — 1, а в леммах 6.16, 6.17 — в случае S > 1 (эти случаи различаются технически). В каждом из случаев первая лемма в паре посвящена описанию носителя характера, а вторая — вычислению его значения на произвольном классе сопряжённости, попадающем в носитель. I

Основные результаты диссертации опубликованы в работах автора [6]-[11], [40]. I

Автор выражает глубокую благодарность своему научному руководителю А.Н. Панову за постановку задачи и постоянное внимание к работе.

1. Борель А. Линейные алгебраические группы. — М.: Мир, 1972. - 272 с.

2. Бурбаки Н. Группы и алгебры Ли. Главы IV-VI. — М.: Мир, 1972. 334 с.

3. Диксмье Ж. Универсальные обвёртывающие алгебры. — М.: Мир, 1978. 408 с.

4. Желобенко Д.П. Основные структуры и методы теории представлений. М.: МЦНМО, 2004. - 448 с.

5. Игнатьев М.В., Панов А.Н. Коприсоединённые орбиты группы UT(7, К), // Фунд. и прикл. матем., т. 13, вып. 5, 2007, с. 127-159, см. также arXiv: math. RT/0603649v3 (2006).

6. Игнатьев М.В. Субрегулярные характеры унитреугольной группы над конечным полем. // Фунд. и прикл. матем., т. 13, вып. 5, 2007, с. 103-125, см. также arXiv: math.RT/0801.3079v2 (2008).150

7. Игнатьев М.В. Базисные подсистемы в системах корней Вп и Dn и ассоциированные коприсоединённые орбиты. // Вестник СамГУ. Естественнонаучная серия, т. 3.(62), 2008, с. 124-148.

8. Игнатьев М.В. Ортогональные подмножества классических систем корней и коприсоединённые орбиты унипотентных 'групп. // Мат. заметки, т. 86, вып. 1, 2009, с. 65-80, см. также arXiv: math.RT/0904.2841v2 (2009). : \ 'I ■

9. Картер Р.У. К теории представлений конечных групп! типа Ли над алгебраически замкнутым полем характеристики нуль. // Современные проблемы математики. Фундаментальные направления. Т. 77 (Итоги науки и техники ВИНИТИ АН СССР). -М., 1991.-с. 5-143.

10. Кириллов А.А. Унитарные представления . нильпотентных групп Ли.// УМН,/г. 17, 1962, с. 57-110.

11. Кириллов. А.А. Лекции по. методу орбит. — Новосибирск: Научная ' книга (ИДМИ), 2002. 290 с. ! "151 :

12. Лидл Р., Нидеррайтер Г. Конечные поля. Т. 1. — М.: Мир, 1988. 430 с.

13. Панов А.Н. Инволюции в Sn и ассоциированные коприсоединённые орбиты. // Зап. научн. сем. ПОМИ, т. 349, вып. 16, 2007, с. 150-173, см. также arXiv: math.RT/0801.3022vl (2008).

14. Спрингер Т.А. Линейные алгебраические группы. // Современные проблемы математики. Фундаментальные направления. Т. 55 (Итоги науки и техники ВИНИТИ АН СССР). -М., 1989. с. 5-136.

15. Стейнберг Р. Лекции о группах Шевалле. — М.: Мир, 1975. — 262 с.

16. Хамфри Дж. Линейные алгебраические группы. — М.: Наука, 1980. 399 с.

17. Хамфрис Дж. Введение в теорию алгебр Ли и их представлений. — М.: МЦНМО, 2003. 216 с.

18. Andre С.А.М. Basic sums of coadjoint orbits of the unitriangular group. J. Algebra, v. 176, 1995, p. 959-1000.i

19. Andre C.A.M. Basic characters of the unitriangular group. J. Algebra, v. 175, 1995, p. 287-319.

20. Andre C.A.M. The basic character table of the unitriangular group. J. Algebra, v. 241, 2001, p. 437-471.

21. Andre C.A.M. Basic characters of the unitriangular group (for arbitrary primes). Proc. Amer. Math. Soc., v. 130, №2, 2002, p. 1943-1954.

22. Andre C.A.M., Neto A.M. Super-characters of finite unipotent groups of types Bn, Cn and Dn. J. Algebra, v. 305, 2006, p. 394-429.

23. Andre С.A.M., Neto A.M. A supercharacter theory for the Sylow p-subgroups of the finite symplectic and orthogonal groups. J. Algebra, v. 322, 2009, p. 1273-1294.

24. Boyarchenko M. Characters of unipotent groups over finite fields, arXiv: math. RT/0712.2614vl (2007).

25. Boyarchenko M., Drinfeld V. A motivated introduction to character sheaves and the orbit method for unipotent groups in positive characteristic, arXiv: math. RT/0609769vl (2006).

26. Boyarchenko M., Drinfeld V. Character sheaves on > unipotent groups in positive characteristic: foundations, arXiv: math. RT/0810.0794vl (2008).

27. Carter R.W. Simple groups of Lie type. — London, Wiley, 1972. 364 p.

28. Deligne P., Lusztig G. Representations of reductive groups over a finite field. Ann. Math., v, 103, 1973. p. 103-161.

29. Dixmier J. Sur les representations unitaries des groups de Lie nilpotents I. Amer. J. Math., v. 81, 1959, p. 160-170.

30. Dixmier J. Sur les representations unitaries des groups de Lie nilpotents II. Bull. Soc. Math. France, v. 85, 1957, p. 325-388.

31. Dixmier J. Sur les representations unitaries des groups de Lie nilpotents III. Canad J. Math., v. 10, 1958, p. 321-348.

32. Dixmier J. Sur les representations unitaries des groups de Lie nilpotents IV. Canad. J. Math., v. 11, 1959, p. 321-344.

33. Dixmier J. Sur les representations unitaries des groups de Lie nilpotents V. Bull. Soc. Math. France, v. 87, 1959, p. 65-79.

34. Dixmier J. Sur les representations unitaries des groups de Lie nilpotents VI. Canad. J. Math., v. 12, 1960, p. 324-352.

35. Duval C., Guieu L., Ovsienko V (eds.). The orbit method in geometry and physics (In honour of A.A. Kirillov). Progr. in Math., v. 213. — Boston, Birkhauser, 2003, p. 243-258.

36. Dynkin E.B., Michenko A.N. Projective root systems, enhanced Dynkin diagrams and Weyl orbits, prerpint (2009), see http: //www. math. Cornell. edu/~andreim/EDD. pdf.

37. Isaacs M. Characters of groups associated with finite algebras. J. Algebra, v. 177, 1995, p. 708-730.

38. Isaacs M. Counting characters of upper triangular groups. J. Algebra, v. 315, 2007, p. 698-719.

39. Huppert B. Character theory of finite groups. — New York/Berlin, de Gruyter. — 618 p.

40. Kazhdan D. Proof of Springer's hypothesis. Israel J. Math., v. 28, 1977, p. 272-286.

41. Kirillov A.A. Variations on the triangular theme. Amer. Math. Soc. Transl., v. 169, 1995, p. 43-73.

42. Kirillov A.A. Merits and demerits of the orbit method. Bull. Amer. Math. Soc., v. 36, 1999, p. 433-488.

43. Kirillov A.A. Two more variations on the triangular theme. // Duval C., Guieu L., Ovsienko V (eds.). The orbit method in geometry and physics (In honour of A.A. Kirillov). Progr. in Math., v. 213. — Boston, Birkhauser, 2003, p. 243-258.

44. Kirillov A.A., Melnikov A. On a remarkable sequence of polynomials. Publ. Soc. Math. France, no. 2, 1996, p. 35-42.

45. Lehrer G.I. Discrete series and the unipotent subgroup. Compositio Math., v. 28, fasc. 1, 1974, p. 9-19.

46. Lusztig G. On the unipotent characters of the exeptional groups over finite fields. Invent. Math., v. 60, 1980, p. 173-192.

47. Lusztig G. Unipotent characters of the symplectic and odd orthogonal groups over a finite field. Invent. Math., v. 64, 1981, p. 263-296.

48. Lusztig G. On the character values of finite Chevalley groups at unipotent elements. J. Algebra, v. 104, 1986, p. 146-194.

49. Mackey G.W. Infinite dimensional group representations. Bull. Amer. Math. Soc., v. 69, 1963, p. 628-686.

50. Mukherjee S. Coadjoint orbits for B+ and arXiv: math.RT/051332vl (2005).

51. Sangroniz J. Irreducible characters of large degree of Sylow p-subgroups of classical groups. J. Algebra, v. 321, 2009, p. 1480-1496.

52. Srinivasan B. Representations of finite Chevalley groups. Lecture Notes in Math., v. 764. — New York/Berlin, Springer, 1979. 177 p.

53. Steinberg R. Conjugacy classes in algebraic groups. Lecture Notes in Math., v. 366. — New York/Berlin, Springer, 1974. — 159 p.

54. Vergne M. Construction de sous-a^bres subordonn^es к un 6lement du dual d'une algfcbre de Lie resoluble. C. R. Acad. Sci. Paris Ser. A-B, v. 270, 1970, p. A173-A175.

55. Yan N. Representation theory of finite unipotent linear groups. Ph.D. thesis, Department of Math., University of Pennsylvania, 2001.