Журнал вычислительной математики и математической физики, 2021, T. 61, № 8, стр. 1235-1244

О переходах между базисами пространства представления группы SO(2,2)

И. А. Шилин^1, 2, *, Дж. Чой³

¹ НИУ МЭИ
111250 Москва, ул. Красноказарменная, 14, Россия

² МПГУ
119991 Москва, ул. Малая Пироговская 1, Россия

³ Dongguk University
38066 Gyeongju, Republic of Korea

^* E-mail: ilyashilin@li.ru

Поступила в редакцию 16.06.2020
После доработки 08.12.2020
Принята к публикации 09.04.2021

DOI: 10.31857/S0044466921080068

Полный текст (PDF)

Аннотация

Рассматриваются три базиса пространства представления. Для каждой пары этих базисов вычислены матричные элементы операторов перехода: для одной из них они выражаются через гипергеометрическую функцию Гаусса, для другой – через произведение функций Уиттекера, для третьей – через функции Бесселя, Бесселя–Клиффорда или G-функции Мейера. С помощью различных подходов (прямое разложение, сплетающий оператор или подпредставление) из матричных элементов получены формулы для специальных функций. Библ. 16.

Ключевые слова: группа $SO(2,2)$, матричный элемент представления, $_{2}{{F}_{1}}$, функция Уиттекера II рода, функция Бесселя II рода, функции Бесселя–Клиффорда.

1. ВВЕДЕНИЕ

Обычно новые формулы для специальных функций математической физики, используя теоретико-групповые методы, получают из соотношений между матричными элементами неприводимых представлений соответствующих групп Ли, записанными в счетных или континуальных базисах пространств представлений. В [1]–[3] для этих же целей были использованы матричные элементы линейных операторов перехода между базисами: в первой работе они были выражены через функции Уиттекера, во второй – через G-функции Мейера, в третьей – через функции Бесселя–Клиффорда или их мультииндексные аналоги (гиперфункции). В работе [4] мы фактически определили (с точностью до множителя) регулярную кулоновскую функцию ${{F}_{\sigma }}(\mu ,\nu )$ как матричный элемент оператора перехода между двумя континуальными базисами и показали, что формулы различных интегральных преобразований этой функции являются следствием связи между матричными элементами сужений операторов представлений на однопараметрические подгруппы, записанными в этих базисах. Можно даже сказать, что матричные элементы перехода между базисами суть матричные элементы оператора $T(e) \equiv E$ (где $e$ и $E$ – нейтральные элементы групп и $T$ – представление), записанные в “смешанном” базисе. В этой работе рассмотренный в [1] подход мы переносим на группу $SO(2,2)$.

Напомним, что специальная псевдоортогональная группа $SO(2,2)$ состоит из унимодулярных матриц $g$ размера $4 \times 4$, удовлетворяющих условию $g{{e}_{{2,2}}}{{g}^{{\text{T}}}} = {{e}_{{2,2}}}$, где ${{e}_{{2,2}}} = {\text{diag}}(1,1, - 1, - 1)$, а ее неприводимое представление можно реализовать в линейном пространстве ${{\mathfrak{D}}^{{(\sigma )}}}$ бесконечно дифференцируемых $\sigma $-однородных функций $f$, заданных на конусе $C:x_{1}^{2} + x_{2}^{2} - x_{3}^{2} - x_{4}^{2} = 0$, где $\sigma $ – комплексное число, не являющееся целым, а $\sigma $-однородность означает, что для всякого $\lambda > 0$ выполняется равенство $f(\lambda x) = {{\lambda }^{\sigma }}f(x)$. Указанное представление является квазирегулярным, т.е. определяется формулой ${{T}^{{(\sigma )}}}(g)[f(x)] = f({{g}^{{ - 1}}}x)$. В этой работе выделим некоторые базисы в пространстве ${{\mathfrak{D}}^{{(\sigma )}}}$ и вычислим (бесконечные) матрицы операторов перехода между ними, а также получим новые формулы, связывающие различные специальные функции и вытекающие из связи между базисами.

Пусть ${{\gamma }_{1}}$ – сечение конуса $C$ сферой радиуса $\sqrt 2 $ с центром в начале координат, являющееся прямым произведением двух сфер единичного радиуса. Пусть ${{\gamma }_{2}}$ – двуполостный гиперболоид, являющийся пересечением конуса $C$ плоскостями ${{x}_{4}} = \pm 1$. Пусть, наконец, ${{\gamma }_{3}}$ – гиперболический параболоид, получающийся при пересечении конуса $C$ “плоскостью” ${{x}_{2}} + {{x}_{4}} = 0$. Иначе говоря,

$\begin{gathered} {{\gamma }_{1}} = \left\{ {(sin{{\alpha }_{1}},cos{{\alpha }_{1}},sin{{\beta }_{1}},cos{{\beta }_{1}})\,{\text{|}}\,{{\alpha }_{1}},\;{{\beta }_{1}} \in [ - \pi ,\pi ]} \right\}, \\ {{\gamma }_{2}} = \left\{ {(cosh{{\alpha }_{2}}sin\beta 2,cosh{{\alpha }_{2}}cos{{\beta }_{2}},sinh{{\alpha }_{2}}, \pm 1)\,{\text{|}}\,{{\alpha }_{2}} \in \mathbb{R},\;{{\beta }_{2}} \in [ - \pi ,\pi )} \right\}, \\ \end{gathered} $

${{\gamma }_{3}} = \left\{ {\left. {\left( {{{\alpha }_{3}},\frac{{1 - \alpha _{3}^{2} + \beta _{3}^{2}}}{2},{{\beta }_{3}},\frac{{1 + \alpha _{3}^{2} - \beta _{3}^{2}}}{2}} \right)} \right|{{\alpha }_{3}},\;{{\beta }_{3}} \in \mathbb{R}} \right\}.$

Обозначим через ${{H}_{i}}$ подгруппу в $SO(2,2)$, действующую транзитивно на контуре ${{\gamma }_{i}}$, и $d{{\gamma }_{i}}$ – меру на контуре ${{\gamma }_{i}}$, инвариантную относительно линейных операторов ${{T}^{{(\sigma )}}}(g)$ при $g \in {{H}_{i}}$. Так как

$\begin{gathered} {{(dx)}_{{{{\gamma }_{1}}}}} = \frac{{d{{x}_{{\zeta (1)}}}d{{x}_{{2 + \xi (1)}}}}}{{\left| {{{x}_{{\zeta (2)}}}{{x}_{{\xi (2)}}}} \right|}}\quad (\zeta ,\xi \in {{{\mathbf{S}}}_{2}}), \\ {{(dx)}_{{{{\gamma }_{2}}}}} = \frac{{d{{x}_{{\tau (1)}}}d{{x}_{{\tau (2)}}}}}{{\left| {{{x}_{{\tau (3)}}}} \right|}}\quad (\tau \in {{{\mathbf{S}}}_{3}}), \\ {{(dx)}_{{{{\gamma }_{3}}}}} = d{{x}_{{\zeta (1)}}}d{{x}_{{2 + \xi (1)}}}\quad (\zeta ,\xi \in {{{\mathbf{S}}}_{2}}), \\ \end{gathered} $

${{H}_{1}} \simeq SO(2) \times SO(2)$, ${{H}_{2}} \simeq SO(2,1)$ и с помощью матриц-строк ${{m}_{i}}(t) = ({{\delta }_{{i,1}}}t,{{\delta }_{{i,2}}}t)$ (где ${{\delta }_{{i,j}}}$ – символ Кронекера) группу ${{H}_{3}}$ можно представить как прямое произведение подгрупп ${{H}_{{3,i}}}$, состоящих соответственно из матриц

${{g}_{i}}(t) = \left( {\begin{array}{*{20}{c}} {1 + \frac{{{{{( - 1)}}^{i}}{{t}^{2}}}}{2}}&{{{{( - 1)}}^{{i + 1}}}{{m}_{i}}(t)}&{\frac{{{{{( - 1)}}^{{i + 1}}}{{t}^{2}}}}{2}} \\ { - m_{i}^{{\text{T}}}(t)}&{{\text{diag}}(1,1)}&{m_{i}^{{\text{T}}}(t)} \\ {\frac{{{{t}^{2}}}}{2}}&{{{{( - 1)}}^{{i + 1}}}{{m}_{i}}(t)}&{1 - \frac{{{{{( - 1)}}^{i}}{{t}^{2}}}}{2}} \end{array}} \right),$

то в введенных выше координатах $({{\alpha }_{i}},{{\beta }_{i}})$ получаем $d{{\gamma }_{1}} = d{{\alpha }_{1}}$, $d{{\gamma }_{2}} = cosh{{\alpha }_{2}}d{{\alpha }_{2}}d{{\beta }_{2}}$ и $d{{\gamma }_{3}} = d{{\alpha }_{3}}d{{\beta }_{3}}$.

Определим билинейные функционалы

${{\operatorname{F} }_{j}}:{{\mathfrak{D}}^{{(\sigma )}}} \times {{\mathfrak{D}}^{{(\hat {\sigma })}}} \to \mathbb{C},\quad (u,v) \mapsto \int\limits_{{{\gamma }_{j}}} \,u(x){v}(x)d{{\gamma }_{j}},\quad j = 1,2,3,$

и будем говорить, что пара пространств представления, на которых они заданы, согласована, если ${{{\text{F}}}_{i}} = {{{\text{F}}}_{j}}$ для любых $i,j \in \{ 1,2,3\} $.

Лемма. При $\hat {\sigma } = - \sigma - 2$ пара $({{\mathfrak{D}}^{{(\sigma )}}},{{\mathfrak{D}}^{{(\hat {\sigma })}}})$ согласована.

Доказательство этой леммы проводится так же, как и для группы $SO(3,1)$ [5], и основывается на однородности и непрерывности входящих в эти пространства функций, а также на том факте, что каждый из контуров ${{\gamma }_{1}}$, ${{\gamma }_{2}}$ и ${{\gamma }_{3}}$ по одному разу пересекает все образующие конуса $C$ за исключением не более двух из них. Например, очевидно, что $K = \sqrt {x_{1}^{2} + x_{2}^{2}} \ne 0$ на контуре ${{\gamma }_{3}}$, поэтому

$\begin{gathered} {{{\text{F}}}_{3}}(u,{v}) = \int\limits_{ - \infty }^{ + \infty } \,d{{\alpha }_{3}}\int\limits_{ - \infty }^{ + \infty } \,{{K}^{\sigma }}u\left( {\frac{{{{\alpha }_{3}}}}{K},\frac{{1 - \alpha _{3}^{2} + \beta _{3}^{2}}}{{2K}},\frac{{{{\beta }_{3}}}}{K},\frac{{1 + \alpha _{3}^{2} - \beta _{3}^{2}}}{{2K}}} \right) \times \\ \, \times {{K}^{{ - \sigma - 2}}}{v}\left( {\frac{{{{\alpha }_{3}}}}{K},\frac{{1 - \alpha _{3}^{2} + \beta _{3}^{2}}}{{2K}},\frac{{{{\beta }_{3}}}}{K},\frac{{1 + \alpha _{3}^{2} - \beta _{3}^{2}}}{{2K}}} \right)d{{\beta }_{3}}. \\ \end{gathered} $

Переходя к переменным

${{\alpha }_{1}} = {\text{arctg}}\tfrac{{1 - \alpha _{3}^{2} + \beta _{3}^{2}}}{{2\alpha _{3}^{2}}}\quad {\text{и}}\quad {{\beta }_{1}} = {\text{arctg}}\tfrac{{1 + \alpha _{3}^{2} - \beta _{3}^{2}}}{{2\beta _{3}^{2}}}$

и учитывая, что $\tfrac{{\partial ({{\alpha }_{2}},{{\beta }_{2}})}}{{\partial ({{\alpha }_{1}},{{\beta }_{1}})}} = {{K}^{2}}$, получаем равенство ${{\operatorname{F} }_{3}}(u,{v}) = {{\operatorname{F} }_{1}}(u,{v})$.

Обычно базисы функционального пространства представления строятся с помощью полного набора коммутирующих самосопряженных операторов: они состоят из всех общих собственных функций операторов этого набора и отвечают цепочке вложенных друг в друга подгрупп. Однако для группы $SO(2,2)$ можно заметить, что представление ${{T}^{{(\sigma )}}}$ можно реализовать в пространстве ${{\mathfrak{D}}_{1}}$ сужений функций из ${{\mathfrak{D}}^{{(\sigma )}}}$ на контур ${{\gamma }_{1}}$. В самом деле, значение функции $f \in {{\mathfrak{D}}^{{(\sigma )}}}$ в ненулевой точке $x = ({{x}_{1}},{{x}_{2}},{{x}_{3}},{{x}_{4}})$ конуса $C$ можно представить в виде

(1.1)

$f(x) = f(Kx{\kern 1pt} *{\kern 1pt} ) = {{N}^{\sigma }}f(x{\kern 1pt} *{\kern 1pt} ),$

где точка $x{\kern 1pt} * = \left( {\tfrac{{{{x}_{1}}}}{K},\tfrac{{{{x}_{2}}}}{K},\tfrac{{{{x}_{3}}}}{K},\tfrac{{{{x}_{3}}}}{K}} \right)$, очевидно, принадлежит контуру ${{\gamma }_{1}}$. При этом в силу непрерывности функции $f$ выполняется равенство $f(0,0,0,0) = \mathop {lim}\limits_{x \to (0,0,0,0)} f(x)$. Поскольку ${{\gamma }_{1}}$ пересекает все образующие конуса $C$ и функции ${{({{x}_{2}} + {\mathbf{i}}{{x}_{1}})}^{{{{p}_{1}}}}}{{({{x}_{4}} + {\mathbf{i}}{{x}_{3}})}^{{{{q}_{1}}}}} \equiv {{{\text{e}}}^{{{\mathbf{i}}{{p}_{1}}{{\alpha }_{1}}}}}{{{\text{e}}}^{{{\mathbf{i}}{{q}_{1}}{{\beta }_{1}}}}}$ (${{p}_{1}},{{q}_{1}} \in \mathbb{Z}$) $({{p}_{1}} + {{q}_{1}})$-однородны, для любого

${{h}_{1}}(\varphi ,\psi ) = \left( {\begin{array}{*{20}{c}} {cos\varphi }&{ - sin\varphi }&0&0 \\ {sin\varphi }&{cos\varphi }&0&0 \\ 0&0&{cos\psi }&{ - sin\psi } \\ 0&0&{sin\psi }&{cos\psi } \end{array}} \right)$

являются собственными функциями оператора ${{T}^{{(\sigma )}}}({{h}_{1}})$ (отвечающими собственному значению ${{{\text{e}}}^{{ - {\mathbf{i}}({{p}_{1}}\varphi + {{q}_{1}}\psi )}}}$) и образуют полную систему функций, то, снабжая эти функции “компенсирующим” множителем ${{K}^{{\sigma - {{p}_{1}} - {{q}_{1}}}}}$ и поднимая по однородности эти функции на весь конус (по формуле (1.1)), получаем базис

$B_{1}^{{(\sigma )}} = \{ f_{{{{p}_{1}},{{q}_{1}}}}^{{(\sigma )}}(x) = {{(x_{1}^{2} + x_{2}^{2})}^{{(\sigma - {{p}_{1}} - {{q}_{1}})2}}}{{({{x}_{2}} + {\mathbf{i}}{{x}_{1}})}^{{{{p}_{1}}}}}{{({{x}_{4}} + {\mathbf{i}}{{x}_{3}})}^{{{{q}_{1}}}}}\} $

в ${{\mathfrak{D}}^{{(\sigma )}}}$. Так как контуры ${{\gamma }_{2}}$ и ${{\gamma }_{3}}$ пересекают все, кроме одной или двух, образующие конуса $C$ и функции из $\mathfrak{D}$ непрерывны, то аналогично получаем базис

$B_{2}^{{(\sigma )}} = \left\{ {f_{{{{p}_{2}},{{q}_{2}}, \pm }}^{{(\sigma )*}}(x) = ({{x}_{4}})_{ \pm }^{{\sigma - {\mathbf{i}}{{q}_{2}}}}\mathop {\left( {\sqrt {x_{1}^{2} + x_{2}^{2}} + {{x}_{3}}} \right)}\nolimits^{{\mathbf{i}}{{q}_{2}}} {{{({{x}_{2}} + {\mathbf{i}}{{x}_{1}})}}^{{{{p}_{2}}}}}{{{(x_{1}^{2} + x_{2}^{2})}}^{{ - {{p}_{2}}/2}}}} \right\},$

в котором ${{p}_{2}} \in \mathbb{Z}$, ${{q}_{3}} \in \mathbb{R}$ и однородные обобщенные функции $(x)_{ \pm }^{\lambda }$ определены формулой [6]

$(x)_{ \pm }^{\lambda } = \left\{ \begin{gathered} 0\quad {\text{при}}\quad {\text{sign}}\,x = \mp 1\;{\text{или}}\;x = 0, \hfill \\ {{\left| x \right|}^{\lambda }}\quad {\text{при}}\quad {\text{sign}}\,x = \pm 1, \hfill \\ \end{gathered} \right.$

и базис

$B_{3}^{{(\sigma )}} = \left\{ {f_{{{{p}_{3}},{{q}_{3}}}}^{{(\sigma )**}}(x) = {{{\left| {{{x}_{2}} + {{x}_{4}}} \right|}}^{\sigma }}exp\tfrac{{{\mathbf{i}}({{p}_{3}}{{x}_{1}} + {{q}_{3}}{{x}_{3}})}}{{{{x}_{2}} + {{x}_{4}}}}} \right\},$

в котором ${{p}_{3}},{{q}_{3}} \in \mathbb{R}$.

2. О ПЕРЕХОДЕ $B_{1}^{{( - \sigma - 2)}} \to B_{2}^{{( - \sigma - 2)}}$

Вычислим матричные элементы линейного оператора пространства ${{\mathfrak{D}}^{{( - \sigma - 2)}}}$, переводящего базис $B_{1}^{{( - \sigma - 2)}}$ в базис $B_{2}^{{( - \sigma - 2)}}$.

Из разложения

(2.1)

$f_{{{{p}_{2}},{{q}_{2}}, \pm }}^{{( - \sigma - 2)*}}(x) = \sum\limits_{{{p}_{1}} \in Z} \,\sum\limits_{{{q}_{1}} \in Z} \,c_{{{{p}_{2}},{{q}_{2}}, \pm ,{{p}_{1}},{{q}_{1}}}}^{{( - \sigma - 2)}}f_{{{{p}_{1}},{{q}_{1}}}}^{{( - \sigma - 2)}}(x)$

следует, что

$\begin{gathered} {{{\text{F}}}_{i}}(f_{{{{p}_{2}},{{q}_{2}}, \pm }}^{{( - \sigma - 2)*}},f_{{\mathop {\hat {p}}\nolimits_1 ,\mathop {\hat {q}}\nolimits_1 }}^{{(\sigma )}}) = \sum\limits_{{{p}_{1}} \in \mathbb{Z}} \,\sum\limits_{{{q}_{1}} \in \mathbb{Z}} \,c_{{{{p}_{2}},{{q}_{2}}, \pm ,{{p}_{1}},{{q}_{1}}}}^{{( - \sigma - 2)}}{{{\text{F}}}_{1}}(f_{{{{p}_{1}},{{q}_{1}}}}^{{( - \sigma - 2)}},f_{{\mathop {\hat {p}}\nolimits_1 ,\mathop {\hat {q}}\nolimits_1 }}^{{(\sigma )}}) = \\ \, = \sum\limits_{{{p}_{1}} \in \mathbb{Z}} \,\sum\limits_{{{q}_{1}} \in \mathbb{Z}} \,c_{{{{p}_{2}},{{q}_{2}}, \pm ,{{p}_{1}},{{q}_{1}}}}^{{( - \sigma - 2)}}\,\int\limits_\mathbb{R} \,{{e}^{{{\mathbf{i}}({{p}_{1}} + \mathop {\hat {p}}\nolimits_1 ){{\alpha }_{1}}}}}d{{\alpha }_{1}}\,\int\limits_\mathbb{R} \,{{{\text{e}}}^{{{\mathbf{i}}({{q}_{1}} + \mathop {\hat {q}}\nolimits_1 ){{\alpha }_{1}}}}}d{{\beta }_{1}}, \\ \end{gathered} $

откуда

$c_{{{{p}_{2}},{{q}_{2}}, \pm ,{{p}_{1}},{{q}_{1}}}}^{{( - \sigma - 2)}} = \frac{1}{{4{{\pi }^{2}}}}{{{\text{F}}}_{1}}(f_{{{{p}_{2}},{{q}_{2}}, \pm }}^{{( - \sigma - 2)*}},f_{{ - {{p}_{1}}, - {{q}_{1}}}}^{{(\sigma )}}) = \frac{1}{{4{{\pi }^{2}}}}{{{\text{F}}}_{i}}(f_{{{{p}_{2}},{{q}_{2}}, \pm }}^{{( - \sigma - 2)*}},f_{{ - {{p}_{1}}, - {{q}_{1}}}}^{{(\sigma )}}).$

Теорема 1. При $\Re (\sigma ) > - 1$ и ${{q}_{1}},{{q}_{2}} \ne 0$ имеем

$\begin{gathered} c_{{{{p}_{2}},{{q}_{2}}, \pm ,{{p}_{1}},{{q}_{1}}}}^{{( - \sigma - 2)}} = \frac{{{{\delta }_{{{{p}_{1}},{{p}_{2}}}}}{{{( \pm {\mathbf{i}})}}^{{{{q}_{1}}}}}}}{{{{2}^{{\sigma + 1}}}\pi }}[{\mathbf{i}}{{e}^{{( - {{q}_{2}} + {\mathbf{i}}\sigma )\pi /2}}}B({\mathbf{i}}{{q}_{2}} + \sigma + 1, - \sigma - {{q}_{1}}){{\,}_{2}}{{F}_{1}}({\mathbf{i}}{{q}_{2}} - \sigma , - \sigma - {{q}_{1}};1 + {\mathbf{i}}{{q}_{2}} - {{q}_{1}}; - 1) + \\ \, + {{( - 1)}^{{{{q}_{1}} + 1}}}{\mathbf{i}}{{e}^{{( - {{q}_{2}} - {\mathbf{i}}\sigma )\pi /2}}}B(1 + \sigma - {\mathbf{i}}{{q}_{2}}, - \sigma - {{q}_{1}}){{\,}_{2}}{{F}_{1}}( - {\mathbf{i}}{{q}_{2}} - \sigma , - \sigma - {{q}_{1}};1 - {\mathbf{i}}{{q}_{2}} - {{q}_{1}}; - 1)]. \\ \end{gathered} $

Доказательство. Поскольку

$\begin{gathered} {{\left. {f_{{{{p}_{2}},{{q}_{2}}, \pm }}^{{( - \sigma - 2)*}}({{\alpha }_{1}},{{\beta }_{1}})} \right|}_{{[ - \pi ,\pi ] \times \left[ { \mp \tfrac{\pi }{2},\pi \mp \tfrac{\pi }{2}} \right]}}} = {{e}^{{{\mathbf{i}}{{p}_{2}}{{\alpha }_{1}}}}}{{\left| {cos{{\beta }_{1}}} \right|}^{{\sigma - {\mathbf{i}}{{q}_{2}}}}}{{(1 + sin{{\beta }_{1}})}^{{{\mathbf{i}}{{q}_{2}}}}}, \\ {{\left. {f_{{{{p}_{2}},{{q}_{2}}, \pm }}^{{( - \sigma - 2)*}}({{\alpha }_{1}},{{\beta }_{1}})} \right|}_{{[ - \pi ,\pi ] \times \left[ { \pm \tfrac{\pi }{2},\pi \pm \tfrac{\pi }{2}} \right]}}} = 0, \\ \end{gathered} $

имеем

$\begin{gathered} c_{{{{p}_{2}},{{q}_{2}}, \pm ,{{p}_{1}},{{q}_{1}}}}^{{( - \sigma - 2)}} = {{{\text{F}}}_{1}}(f_{{{{p}_{2}},{{q}_{2}}, \pm }}^{{( - \sigma - 2)*}},f_{{ - {{p}_{1}}, - {{q}_{1}}}}^{{(\sigma )}}) = \frac{{{{2}^{{\sigma - 2}}}}}{{{{\pi }^{2}}}}\int\limits_{ - \pi }^\pi \,{{{\text{e}}}^{{{\mathbf{i}}({{p}_{1}} - {{p}_{2}}){{\alpha }_{1}}}}}d{{\alpha }_{1}} \times \\ \, \times \int\limits_{ \mp \pi /2}^{\pi \mp \pi /2} \,{{{\text{e}}}^{{ - {\mathbf{i}}{{q}_{1}}{{\beta }_{1}}}}}si{{n}^{{\sigma + {\mathbf{i}}{{q}_{2}}}}}\left( {\frac{{{{\beta }_{1}}}}{2} + \frac{\pi }{4}} \right)co{{s}^{{\sigma - {\mathbf{i}}{{q}_{2}}}}}\left( {\frac{{{{\beta }_{1}}}}{2} + \frac{\pi }{4}} \right)d{{\beta }_{1}} \\ \end{gathered} $

и применяем формулу (см. [7, 2.5.32.6])

$\begin{gathered} \int\limits_0^{\tfrac{\pi }{2}} \,exp({\mathbf{i}}px)sin\mu x]co{{s}^{\nu }}xdx = {{2}^{{ - \mu - \nu - 1}}}\left[ {exp\left( {\frac{{{\mathbf{i}}\pi (p - \nu - 1)}}{2}} \right){\text{B}}\left( {\frac{{p - \mu - \nu }}{2},\nu + 1} \right)} \right. \times \\ \times {{\;}_{2}}{{F}_{1}}\left( { - \mu ,\frac{{p - \mu - \nu }}{2};\frac{{p - \mu + \nu }}{2} + 1; - 1} \right) + exp\left( {\frac{{{\mathbf{i}}\pi (\mu + 1)}}{2}} \right){\text{B}}\left( {\frac{{p - \mu - \nu }}{2},\mu + 1} \right) \times \\ \left. { \times {{\;}_{2}}{{F}_{1}}\left( { - \nu ,\frac{{p - \mu - \nu }}{2};\frac{{p + \mu - \nu }}{2} + 1; - 1} \right)} \right], \\ \end{gathered} $

где $\Re (\mu ) > - 1$ и $\Re (\nu ) > - 1$.

Помимо случая, рассмотренного в теореме 1, можно показать, что $c_{{{{p}_{2}},{{q}_{2}}, \pm ,{{p}_{1}},0}}^{{( - \sigma - 2)}} = {{2}^{{ - \sigma - 2}}}{{\pi }^{{ - 1}}}{{\delta }_{{{{p}_{1}},{{p}_{2}}}}}{\text{B}}\left( {\tfrac{{\sigma + {\mathbf{i}}{{q}_{2}}}}{2},\tfrac{{\sigma - {\mathbf{i}}{{q}_{2}}}}{2}} \right)$ и

(2.2)

$c_{{{{p}_{2}},0, \pm ,{{p}_{1}},{{q}_{1}}}}^{{( - \sigma - 2)}} = \frac{{{{\delta }_{{{{p}_{1}},{{p}_{2}}}}}{\mathbf{i}}sin(\pi (\sigma + {{q}_{1}}){\text{/}}2)}}{{{{2}^{\sigma }}{{\pi }^{2}}(\sigma + {{q}_{1}}){{{\text{e}}}^{{ - {\mathbf{i}}\pi (\sigma + 1)/2}}}}}{{\,}_{2}}{{F}_{1}}( - \sigma , - ({{q}_{1}} + \sigma ){\text{/}}2;1 - ({{q}_{1}} + \sigma ){\text{/}}2; - 1).$

Из разложения (2.1) получаются новые формулы для рядов: например, полагая ${{q}_{2}} = 0$ и учитывая равенство (2.2), получаем тождество

$\sum\limits_{{{q}_{1}} \in \mathbb{Z}} \,\frac{{{{e}^{{{\mathbf{i}}{{q}_{1}}{{\beta }_{2}}}}}}}{{\sigma + {{q}_{1}}}}{{\,}_{2}}{{F}_{1}}( - \sigma , - ({{q}_{1}} + \sigma ){\text{/}}2;1 - ({{q}_{1}} + \sigma ){\text{/}}2; - 1) = - {{2}^{\sigma }}{{\pi }^{2}}{\mathbf{i}}co{{s}^{\sigma }}{{\beta }_{2}}{{e}^{{{\mathbf{i}}\pi (\sigma + 1)/2}}}$

при $ - \tfrac{\pi }{2} < {{\beta }_{2}} < \tfrac{\pi }{2}$.

3. О ПЕРЕХОДЕ $B_{1}^{{( - \sigma - 2)}} \to B_{3}^{{( - \sigma - 2)}}$

Покажем, что матричные элементы перехода от базиса $B_{1}^{{( - \sigma - 2)}}$ к базису $B_{3}^{{( - \sigma - 2)}}$ можно выразить через функции Уиттекера II рода.

Из разложения

(3.1)

$f_{{{{p}_{3}},{{q}_{3}}}}^{{( - \sigma - 2)**}}(x) = \sum\limits_{{{p}_{1}} \in \mathbb{Z}} \,\sum\limits_{{{q}_{1}} \in \mathbb{Z}} \,d_{{{{p}_{3}},{{q}_{3}},{{p}_{1}},{{q}_{1}}}}^{{( - \sigma - 2)}}f_{{{{p}_{1}},{{q}_{1}}}}^{{( - \sigma - 2)}}(x)$

находим, что

$d_{{{{p}_{3}},{{q}_{3}},{{p}_{1}},{{q}_{1}}}}^{{( - \sigma - 2)}} = \frac{1}{{4{{\pi }^{2}}}}{{{\text{F}}}_{1}}(f_{{{{p}_{3}},{{q}_{3}}}}^{{( - \sigma - 2)**}},f_{{ - {{p}_{1}}, - {{q}_{1}}}}^{{(\sigma )}}) = \frac{1}{{4{{\pi }^{2}}}}{{{\text{F}}}_{i}}(f_{{{{p}_{3}},{{q}_{3}}}}^{{( - \sigma - 2)**}},f_{{ - {{p}_{1}}, - {{q}_{1}}}}^{{(\sigma )}}).$

Пусть ${{A}_{ \pm }} = ({{p}_{3}} \pm {{q}_{3}}){\text{/}}2$.

Теорема 2. При $\Re (\sigma ) < - 1$ и $\left| {{{p}_{3}}} \right| \ne \left| {{{q}_{3}}} \right|$ имеем

$d_{{{{p}_{3}},{{q}_{3}},{{p}_{1}},{{q}_{1}}}}^{{( - \sigma - 2)}} = \frac{{\operatorname{sign} ({{A}_{ + }}{{A}_{ - }}){{W}_{{ - \tfrac{{({{p}_{1}} + {{q}_{1}})\operatorname{sign} {{A}_{ + }}}}{2},\tfrac{{\sigma + 1}}{2}}}}(2\left| {{{A}_{ + }}} \right|){{W}_{{\tfrac{{({{q}_{1}} - {{p}_{1}})\operatorname{sign} {{A}_{ - }}}}{2},\tfrac{{\sigma + 1}}{2}}}}(2\left| {{{A}_{ - }}} \right|)}}{{8{{{\left| {{{A}_{ + }}{{A}_{ - }}} \right|}}^{{\sigma /2 + 1}}}\Gamma ( - (\operatorname{sign} {{A}_{ + }}({{p}_{1}} + {{q}_{1}}) + \sigma ){\text{/}}2)\Gamma ((\operatorname{sign} {{A}_{ - }}({{q}_{1}} + {{p}_{1}}) - \sigma ){\text{/}}2)}}.$

Доказательство. В самом деле, переходя к новой кооодинатной системе $({{z}_{ + }},{{z}_{ - }})$, в которой ${{z}_{ \pm }} = {{\alpha }_{3}} \pm {{\beta }_{3}}$, получаем

$\begin{gathered} d_{{{{p}_{3}},{{q}_{3}},{{p}_{1}},{{q}_{1}}}}^{{( - \sigma - 2)}} = {{(4{{\pi }^{2}})}^{{ - 1}}}{{{\text{F}}}_{3}}(f_{{{{p}_{3}},{{q}_{3}}}}^{{( - \sigma - 2)**}},f_{{ - {{p}_{1}}, - {{q}_{1}}}}^{{(\sigma )}}) = {{(4{{\pi }^{2}})}^{{ - 1}}} \times \\ \times \;\int\limits_\mathbb{R} \,d{{\alpha }_{3}}\,\int\limits_\mathbb{R} \,{{{\text{e}}}^{{({{p}_{3}}{{\alpha }_{3}} + {{q}_{3}}{{\beta }_{3}}){\mathbf{i}}}}}\mathop {\left( {\frac{{\alpha _{3}^{4} + \beta _{3}^{4} + 1}}{4} + \frac{{\alpha _{3}^{2} + \beta _{3}^{2} - \alpha _{3}^{2}\beta _{3}^{2}}}{2}} \right)}\nolimits^{\tfrac{{\sigma - {{p}_{1}} - {{q}_{1}}}}{2}} \mathop {\left( {\frac{{1 - \alpha _{3}^{2} + \beta _{3}^{2}}}{2} + {\mathbf{i}}{{\alpha }_{3}}} \right)}\nolimits^{{{p}_{1}}} \mathop {\left( {\frac{{1 + \alpha _{3}^{2} - \beta _{3}^{2}}}{2} + {\mathbf{i}}{{\beta }_{3}}} \right)}\nolimits^{{{q}_{1}}} d{{\beta }_{3}} = \\ \, = \frac{{{{2}^{{ - \sigma - 3}}}}}{{{{\pi }^{2}}}}\int\limits_\mathbb{R} \,{{{\text{e}}}^{{{\mathbf{i}}{{A}_{ + }}{{z}_{ + }}}}}{{(1 + {\mathbf{i}}{{z}_{ + }})}^{{\tfrac{{\sigma + {{p}_{1}} + {{q}_{1}}}}{2}}}}{{(1 - {\mathbf{i}}{{z}_{ + }})}^{{\tfrac{{\sigma - {{p}_{1}} - {{q}_{1}}}}{2}}}}d{{z}_{ + }}\,\int\limits_\mathbb{R} \,{{{\text{e}}}^{{{\mathbf{i}}{{A}_{ - }}{{z}_{ - }}}}}{{(1 + {\mathbf{i}}{{z}_{ - }})}^{{\tfrac{{\sigma + {{p}_{1}} - {{q}_{1}}}}{2}}}}{{(1 - {\mathbf{i}}{{z}_{ - }})}^{{\tfrac{{\sigma - {{p}_{1}} + {{q}_{1}}}}{2}}}}d{{z}_{ - }} \\ \end{gathered} $

и используем формулу (см. [8, 3.384.9])

$\int\limits_\mathbb{R} \,{{(a + {\mathbf{i}}x)}^{{ - 2{{\nu }_{ - }}}}}{{(b - {\mathbf{i}}x)}^{{ - 2{{\nu }_{ + }}}}}{{e}^{{ - {\mathbf{i}}px}}}dx = \frac{{2\pi \operatorname{sign} p{{{\left| p \right|}}^{{{{\nu }_{ + }} + {{\nu }_{ - }} - 1}}}{{W}_{{({{\nu }_{ + }} - {{\nu }_{ - }})\operatorname{sign} p,1/2 - {{\nu }_{ + }} - {{\nu }_{ - }}}}}}}{{{{{(a + b)}}^{{{{\nu }_{ + }} + {{\nu }_{ - }}}}}{{e}^{{(a - b)|p|/2}}}\Gamma (2{{\nu }_{{\operatorname{sign} p}}})}},\quad p \in \mathbb{R}{{\backslash }}\{ 0\} ,$

выполняющуюся при $\Re (a),\Re (b) > 0$ и $\Re ({{\mu }_{ + }} + {{\nu }_{ - }}) > \tfrac{1}{2}$.

Рассматривая сужения функций $а_{{{{p}_{1}},{{q}_{1}}}}^{{( - \sigma - 2)}}$ и $а_{{{{p}_{3}},{{q}_{3}}}}^{{( - \sigma - 2) * * }}$ на сечение ${{\gamma }_{1}}$ и учитывая теорему 2, из (3.1) выводим равенство

${{\left| {sin{{\alpha }_{1}} + sin{{\beta }_{1}}} \right|}^{\sigma }}{{{\text{e}}}^{{\tfrac{{{\mathbf{i}}({{p}_{3}}cos{{\alpha }_{1}} + {{q}_{3}}cos{{\beta }_{1}})}}{{sin{{\alpha }_{1}} + sin{{\beta }_{1}}}}}}} = \sum\limits_{{{p}_{3}},{{q}_{3}} \in \mathbb{Z}} \,{{d}_{{{{p}_{3}},{{q}_{3}},{{p}_{1}},{{q}_{1}}}}}{{{\text{e}}}^{{{\mathbf{i}}({{p}_{1}}{{\alpha }_{1}} + {{q}_{1}}{{\beta }_{1}})}}}.$

Помимо пространств ${{\mathfrak{D}}^{{( - \sigma - 2)}}}$, неприводимые представления групп $SO(s,t)$ могут быть реализованы [9] в пространствах $\mathfrak{H}$ однородных ${{\Delta }_{{s,t}}}$-гармонических функций на гиперболоидах

$\sum\limits_{i = 1}^s \,y_{i}^{2} - \sum\limits_{i = s + 1}^{s + t} \,y_{i}^{2} = 1,$

где

${{\Delta }_{{s,t}}} = \sum\limits_{i = 1}^s \,\frac{{{{\partial }^{2}}}}{{\partial y_{i}^{2}}} - \sum\limits_{i = s + 1}^{s + t} \,\frac{{{{\partial }^{2}}}}{{\partial y_{i}^{2}}}$

(оператор Лапласа–Бельтрами). В случае группы $SO(2,2)$ соответствующим сплетающим оператором (изоморфизмом ${{\mathfrak{D}}^{{( - \sigma - 2)}}} \to \mathfrak{H}$, перестановочным со всеми операторами из $\operatorname{Im} {{T}^{{( - \sigma - 2)}}}$) является интегральный оператор

${{{\text{P}}}_{\sigma }}(y)(f) = \int\limits_{{{\gamma }_{i}}} \,f(x){{\left| {{{x}_{1}}{{y}_{1}} + {{x}_{2}}{{y}_{2}} - {{x}_{3}}{{y}_{3}} - {{x}_{4}}{{y}_{4}}} \right|}^{a}}d{{\gamma }_{i}},$

который в силу леммы 1 не зависит от выбора контура ${{\gamma }_{i}}$, поскольку ${{\left| {{{x}_{1}}{{y}_{1}} + {{x}_{2}}{{y}_{2}} - {{x}_{3}}{{y}_{3}} - {{x}_{4}}{{y}_{4}}} \right|}^{\sigma }} \in {{\mathfrak{D}}^{{(\sigma )}}}$. Выберем $y = (0,cosht,0,sinht)$. Интегрируя по ${{\gamma }_{3}}$, в силу формулы 8 на странице 202 в [10] и формул [7, 2.5.6.1–2] имеем при ${{q}_{3}} \ne 0$

$\begin{gathered} {{{\text{P}}}_{\sigma }}(y)(f_{{0,{{q}_{3}}}}^{{( - \sigma - 2)**}}) = \mathop {\left( {\frac{{cosht}}{2}} \right)}\nolimits^\sigma \int\limits_{ - 1/cosht}^{1/cosht} \,d{{\alpha }_{3}}\,\int\limits_\mathbb{R} \,{{\left| {{{{({{\beta }_{3}} + tanht)}}^{2}} + 1{\text{/}}cos{{h}^{2}}t - \alpha _{3}^{2}} \right|}^{\sigma }}{{e}^{{{\mathbf{i}}{{q}_{3}}{{\beta }_{3}}}}}d{{\beta }_{3}} + \\ + \;\frac{{cos{{h}^{\sigma }}t}}{{{{2}^{{\sigma - 1}}}{{e}^{{{\mathbf{i}}{{q}_{3}}tanht}}}}}\int\limits_{|{{\alpha }_{3}}| > 1/cosht} \,d{{\alpha }_{3}}\int\limits_0^{ + \infty } \,{{\left| {\beta _{3}^{2} - (\alpha _{3}^{2} - 1{\text{/}}jcos{{h}^{2}}t)} \right|}^{\sigma }}cos\left| {{{q}_{3}}} \right|{{\beta }_{3}}d{{\beta }_{3}} = \frac{{{{2}^{{5/2}}}\sqrt \pi cos{{h}^{\sigma }}t}}{{{{{\left| {{{q}_{3}}} \right|}}^{{\sigma + 1/2}}}{{e}^{{{\mathbf{i}}|{{q}_{3}}|tanht}}}\Gamma ( - \sigma )}} \times \\ \, \times \int\limits_0^{1/cosht} \,\frac{{{{u}^{{\sigma + 3/2}}}{{K}_{{\sigma + 1/2}}}(\left| {{{q}_{3}}} \right|u)du}}{{\sqrt {1{\text{/}}cos{{h}^{2}}t - {{u}^{2}}} }} + \frac{{{{2}^{{3/2}}}\sqrt \pi \Gamma (\sigma + 1)}}{{{{{\left| {{{q}_{3}}} \right|}}^{{\sigma + 1/2}}}{{e}^{{{\mathbf{i}}|{{q}_{3}}|tanht}}}}}\int\limits_0^{ + \infty } \,\frac{{{{u}^{{\sigma + 3/2}}}[{{J}_{{\sigma + 1/2}}}(\left| {{{q}_{3}}} \right|u) - {{Y}_{{ - \sigma - 1/2}}}(\left| {{{q}_{3}}} \right|u)]du}}{{\sqrt {{{u}^{2}} + 1{\text{/}}{\kern 1pt} cos{{h}^{2}}t} }}, \\ \end{gathered} $

откуда, применяя формулы [11, 10.2.12, 8.5.15, 9.2.20], а также, учитывая формулу [12, 7.14.1], получаем, что ${{{\text{P}}}_{\sigma }}(y)(f_{{0,{{q}_{3}}}}^{{( - \sigma - 2)**}})$ можно представить в виде линейной комбинации бесселевых функций ${{I}_{{ - \sigma - 1}}}\left( {\tfrac{{{\text{|}}{{q}_{3}}{\kern 1pt} {\text{|}}}}{{cosht}}} \right)$, ${{K}_{{\sigma + 1}}}\left( {\tfrac{{{\text{|}}{{q}_{3}}{\kern 1pt} {\text{|}}}}{{cosht}}} \right)$, ${{{\mathbf{L}}}_{{ - \sigma - 1}}}\left( {\tfrac{{{\text{|}}{{q}_{3}}{\kern 1pt} {\text{|}}}}{{cosht}}} \right)$ и произведения ${{I}_{{\sigma + 1}}}\left( {\tfrac{{{\text{|}}{{q}_{3}}{\kern 1pt} {\text{|}}}}{{cosht}}} \right){{K}_{{\sigma + 1}}}\left( {\tfrac{{{\text{|}}{{q}_{3}}{\kern 1pt} {\text{|}}}}{{cosht}}} \right)$, которая здесь не приводится ввиду ее громоздкости. Точно так же получается формула

$\begin{gathered} {{{\text{P}}}_{\sigma }}(y)(f_{{{{p}_{1}},{{q}_{1}}}}^{{( - \sigma - 2)}}) = 2{{\left| {sinht} \right|}^{\sigma }}\int\limits_{|sin{{\alpha }_{1}}|tanht} \,{{{\text{e}}}^{{{\mathbf{i}}{{p}_{1}}{{\alpha }_{1}}}}}[{{B}_{0}} + {{B}_{1}}]d{{\alpha }_{1}} + \\ + \;2cos{{h}^{\sigma }}t\int\limits_{tanht < |sin{{\alpha }_{1}}| < \pi } \,{{{\text{e}}}^{{{\mathbf{i}}{{p}_{1}}{{\alpha }_{1}}}}}d{{\alpha }_{1}}\int\limits_0^\pi \,{{\left| {sin{{\alpha }_{1}} - tanhtcos{{\beta }_{1}}} \right|}^{\sigma }}cos\left| {{{q}_{1}}} \right|{{\beta }_{1}}d{{\beta }_{1}}, \\ \end{gathered} $

где

${{B}_{k}} = \int\limits_0^{k\pi + ( - 1)karccos(cothtsin{{\alpha }_{1}})} \,{{\left| {{{{( - 1)}}^{k}}cot{{h}^{2}}tsi{{n}^{2}}{{\alpha }_{1}} - cos{{\beta }_{1}}} \right|}^{\sigma }}cos\left| {{{q}_{1}}} \right|{{\beta }_{1}}d{{\beta }_{1}}.$

По формулам [7, 2.5.16.1, 2.5.16.28], учитывая связь между присоединенными функциями Лежандра $P_{\sigma }^{{|{{q}_{1}}|}}\left( {\tfrac{{sin{{\alpha }_{1}}}}{{\sqrt {si{{n}^{2}}{{\alpha }_{1}} - tan{{h}^{2}}t} }}} \right)$ и $Q_{{ - |{{q}_{1}}| - 1/2}}^{{ - \sigma - 1/2}}(sin{{\alpha }_{1}})$, находим, что

$\begin{gathered} {{{\text{P}}}_{\sigma }}(y)(f_{{{{p}_{1}},{{q}_{1}}}}^{{( - \sigma - 2)}}) = \\ = \;\sqrt {2\pi } \Gamma (\sigma + 1)\sum\limits_{k = 0}^1 \,\left[ {{{{( - 1)}}^{{k|{{q}_{1}}|}}}\int\limits_{|sin{{\alpha }_{1}}|tanht} \,{{{(1 - cot{{h}^{2}}tsi{{n}^{2}}{{\alpha }_{1}})}}^{{\sigma /2 + 1/4}}}} \right.{{{\text{e}}}^{{{\mathbf{i}}{{p}_{1}}{{\alpha }_{1}}}}}P_{{|{{q}_{1}}| - 1/2}}^{{ - 1/2 - \sigma }}({{( - 1)}^{k}}cothtsin{{\alpha }_{1}})d{{\alpha }_{1}} + \\ \, + \frac{{{{{( - 1)}}^{{k{{p}_{1}} + 1}}}{{2}^{{3/2}}}{\mathbf{i}}\sqrt \pi cos{{h}^{\sigma }}t}}{{{{e}^{{{\mathbf{i}}\sigma \pi }}}{{{(\sigma + 1)}}_{{|{{q}_{1}}|}}}\Gamma ( - \sigma - \left| {{{q}_{1}}} \right|)}}\left. {\int\limits_{arcsintanht}^{\pi - arcsintanht} \,{{{(si{{n}^{2}}{{\alpha }_{1}} - tan{{h}^{2}}t)}}^{{\sigma /2 + 1/4}}}Q_{{ - |{{q}_{1}}| - 1/2}}^{{ - \sigma - 1/2}}(sin{{\alpha }_{1}}){{e}^{{{\mathbf{i}}{{p}_{1}}{{\alpha }_{1}}}}}d{{\alpha }_{1}}} \right], \\ \end{gathered} $

где последние два интеграла равны нулю, а первые два с помощью формул косинуса и синуса кратных углов сводятся к суммам

$\sum\limits_{n = 0}^{[|{{p}_{1}}|/2]} \,{{( - 1)}^{n}}\left( {\begin{array}{*{20}{c}} {{\text{|}}{{p}_{1}}{\text{|}}} \\ {2n} \end{array}} \right)\int\limits_0^1 \,{{u}^{{2n}}}{{(1 - {{u}^{2}})}^{{\sigma /2 + |{{p}_{1}}| - 2n + 5/4}}}P_{{ - |{{q}_{1}}| - 1/2}}^{{ - \sigma - 1/2}}(u)du$

$\sum\limits_{n = 0}^{[(|{{p}_{1}}| - 1)/2]} \,{{( - 1)}^{n}}\left( {\begin{array}{*{20}{c}} {{\text{|}}{{p}_{1}}{\text{|}}} \\ {2n + 1} \end{array}} \right)\int\limits_0^1 \,{{u}^{{2n + 1}}}{{(1 - {{u}^{2}})}^{{\sigma /2 + |{{p}_{1}}| - 2n + 1/4}}}P_{{ - |{{q}_{1}}| - 1/2}}^{{ - \sigma - 1/2}}(u)du$

(квадратные скобки обозначают целую часть), которые по формуле [7, 2.17.2] выражаются через обобщенные гипергеометрические функции $_{3}{{F}_{2}}$. Тем самым из разложения (3.1) получается соотношение

${{{\text{P}}}_{\sigma }}(y)(f_{{0,{{q}_{3}}}}^{{( - \sigma - 2)**}}) = \sum\limits_{{{p}_{1}},{{q}_{1}} \in \mathbb{Z}} \,{{d}_{{0,{{q}_{3}},{{p}_{1}},{{q}_{1}}}}}{{{\text{P}}}_{\sigma }}(y)(f_{{{{p}_{1}},{{q}_{1}}}}^{{( - \sigma - 2)}}),$

левая часть которого является линейной комбинацией бесселевых функций и их произведения, а правая – двойным рядом, члены которого содержат произведение функций Уиттекера II рода и $_{3}{{F}_{2}}$-функций.

4. О ПЕРЕХОДЕ $B_{2}^{{( - \sigma - 2)}} \to B_{3}^{{( - \sigma - 2)}}$

Представляя функцию $f_{{{{p}_{3}},{{q}_{3}}}}^{{( - \sigma - 2)**}}$ в виде интеграла

(4.1)

$f_{{{{p}_{3}},{{q}_{3}}}}^{{( - \sigma - 2)**}} = \sum\limits_{{{p}_{2}} \in \mathbb{Z}} \,\int\limits_{ - \pi }^\pi \,[e_{{{{p}_{3}},{{q}_{3}},{{p}_{2}},{{q}_{2}}, + }}^{{( - \sigma - 2)}}f_{{{{p}_{2}},{{q}_{2}}, + }}^{{( - \sigma - 2)*}} + e_{{{{p}_{3}},{{q}_{3}},{{p}_{2}},{{q}_{2}}, - }}^{{( - \sigma - 2)}}f_{{{{p}_{2}},{{q}_{2}}, - }}^{{( - \sigma - 2)*}}]{\kern 1pt} d{{q}_{2}},$

получаем равенство

$e_{{{{p}_{3}},{{q}_{3}},{{p}_{2}},{{q}_{2}}, \pm }}^{{( - \sigma - 2)}} = \frac{1}{{4{{\pi }^{2}}}}{{{\text{F}}}_{i}}(f_{{{{p}_{3}},{{q}_{3}}}}^{{( - \sigma - 2)**}},f_{{ - {{p}_{2}}, - {{q}_{2}}, \pm }}^{{( - \sigma - 2)*}}).$

Покажем, что матричные элементы $e_{{{{p}_{3}},{{q}_{3}},{{p}_{2}},{{q}_{2}}, \pm }}^{{( - \sigma - 2)}}$ в частном случае можно выразить через функцию Бесселя II рода.

Теорема 3. При $ - 1 < \Re (\sigma ) < 0$ имеем

$e_{{0,{{q}_{3}},0,0, \pm }}^{{( - \sigma - 2)}} = - \frac{{\Gamma (\sigma + 1)}}{{{{2}^{{(1 \pm 1)/2}}}\pi {{{\left| {{{q}_{3}}} \right|}}^{{\sigma + 1}}}}}{{Y}_{{ \pm (\sigma + 1)}}}(\left| {{{q}_{3}}} \right|).$

Доказательство. Используя формулу [7, 2.3.5.3], имеем

$\begin{gathered} e_{{0,{{q}_{3}},0,0, + }}^{{( - \sigma - 2)}} = \frac{1}{{4{{\pi }^{2}}}}{{{\text{F}}}_{3}}(f_{{0,{{q}_{3}}}}^{{( - \sigma - 2)**}},f_{{0,0, + }}^{{(\sigma )*}}) = \frac{{{{2}^{{ - \sigma - 2}}}}}{{{{\pi }^{2}}}}\int\limits_\mathbb{R} \,d{{\alpha }_{3}}\int\limits_{ - \sqrt {1 + \alpha _{3}^{2}} }^{\sqrt {1 + \alpha _{3}^{2}} } \,{{(1 + \alpha _{3}^{2} - \beta _{3}^{2})}^{\sigma }}{{{\text{e}}}^{{{\mathbf{i}}{{q}_{3}}{{\beta }_{3}}}}}d{{\beta }_{3}} = \\ \, = \frac{{\Gamma (1 + \sigma )}}{{{{{(2\pi )}}^{{3/2}}}{\text{|}}{{q}_{3}}{{{\text{|}}}^{{1/2 + \sigma }}}}}\int\limits_\mathbb{R} \,{{(1 + \alpha _{3}^{2})}^{{\tfrac{\sigma }{2} + \tfrac{1}{4}}}}{{J}_{{\sigma + 1/2}}}\left( {{\text{|}}{{q}_{3}}{\text{|}}\sqrt {1 + \alpha _{3}^{2}} } \right)d{{\alpha }_{3}}. \\ \end{gathered} $

Для вычисления интеграла воспользуемся формулой [13, 2.12.4.17] и получим

$\int\limits_a^{ + \infty } \,{{x}^{{1 + \nu }}}{{({{x}^{2}} - {{a}^{2}})}^{{\mu - 1}}}{{J}_{\nu }}(cx)dx = \frac{{{{2}^{{\mu - 1}}}{{a}^{{\mu + \nu }}}\Gamma (\mu )}}{{{{c}^{\mu }}}}[cos(\mu \pi ){{J}_{{\nu + \mu }}}(ac) - sin(\mu \pi ){{Y}_{{\nu + \mu }}}(ac)],$

где $a,c,\Re (\mu ) > 0$ и $\Re (2\mu + \nu ) < \tfrac{3}{2}$.

Точно так же, используя [7, 2.3.5.5], получаем

$\begin{gathered} e_{{0,{{q}_{3}},0,0, - }}^{{( - \sigma - 2)}} = \frac{1}{{4{{\pi }^{2}}}}{{{\text{F}}}_{3}}(h_{{0,{{q}_{3}}}}^{{**}},f_{{0,0, + }}^{*}) = \frac{{{{2}^{{ - \sigma - 2}}}}}{{{{\pi }^{2}}}}\sum\limits_{k \in \{ 0,1\} } \,\int\limits_\mathbb{R} \,d{{\alpha }_{3}}\int\limits_{\sqrt {1 + \alpha _{3}^{2}} }^{ + \infty } \,{{(1 + \alpha _{3}^{2} - \beta _{3}^{2})}^{\sigma }}{{{\text{e}}}^{{{{{( - 1)}}^{k}}{\mathbf{i}}{{q}_{3}}{{\beta }_{3}}}}}d{{\beta }_{3}} = \\ = \frac{{{\mathbf{i}}\Gamma (1 + \sigma )}}{{{{{(2\pi )}}^{{3/2}}}{{{({{q}_{3}})}}^{{1/2 + \sigma }}}}}\int\limits_0^{ + \infty } \,{{(1 + \alpha _{3}^{2})}^{{\tfrac{\sigma }{2} + \tfrac{1}{4}}}}\left[ {H_{{ - \sigma - 1/2}}^{{(1)}}\left( {{{q}_{3}}\sqrt {1 + \alpha _{3}^{2}} } \right) - H_{{ - \sigma - 1/2}}^{{(2)}}\left( {{{q}_{3}}\sqrt {1 + \alpha _{3}^{2}} } \right)} \right]d{{\alpha }_{3}}, \\ \end{gathered} $

после чего остается применить формулу [13, 2.13.3.11]

$\int\limits_a^{ + \infty } \,{{x}^{{1 - \nu }}}{{({{x}^{2}} - {{a}^{2}})}^{{\mu - 1}}}{{Y}_{\nu }}(cx)dx = {{2}^{{\mu - 1}}}{{a}^{{\mu - \nu }}}{{c}^{{ - \mu }}}\Gamma (\mu ){{Y}_{{\nu - \mu }}}(ac),$

выполняющуюся при $a,c > 0$, $0 < \Re (\mu ) < \tfrac{{2\Re (\nu ) + 3}}{4}$.

Покажем, что в более общем случае матричные элементы $e_{{{{p}_{3}},{{q}_{3}},{{p}_{2}},{{q}_{2}}, \pm }}^{{( - \sigma - 2)}}$ выражаются через (обычные) функции Бесселя–Клиффорда I рода или модифицированные функции Бесселя–Клиффорда II рода.

Теорема 4. При $ - 1 < \Re (\sigma ) < 0$ имеем

• в случае $\operatorname{sign} {{A}_{ + }} = \operatorname{sign} {{A}_{ - }}$

$e_{{{{p}_{3}},{{q}_{3}},0,0, + }}^{{( - \sigma - 2)}} = - \frac{{cos(\sigma \pi )\Gamma (\sigma + 1)}}{{{{2}^{{\sigma + 1}}}{{\pi }^{2}}}}{{\mathcal{K}}_{{\sigma + 1}}}({{A}_{ + }}{{A}_{ - }});$

• в случае $\operatorname{sign} {{A}_{ + }} = - \operatorname{sign} {{A}_{ - }}$

$e_{{{{p}_{3}},{{q}_{3}},0,0, + }}^{{( - \sigma - 2)}} = \frac{{{\mathbf{i}}\operatorname{sign} {{A}_{ + }}cos(\sigma \pi )\Gamma (\sigma + 1)}}{{{{2}^{{\sigma + 3}}}\pi {\kern 1pt} {\text{|}}{\kern 1pt} {{A}_{ + }}{{A}_{ - }}{{{\text{|}}}^{{\sigma + 1{\kern 1pt} }}}}}{{\mathcal{C}}_{{ - \sigma - 1}}}({{A}_{ + }}{{A}_{ - }}).$

Доказательство. Представим интеграл

$e_{{{{p}_{3}},{{q}_{3}},0,0, + }}^{{( - \sigma - 2)}} = \frac{{{{2}^{{ - \sigma - 3}}}}}{{{{\pi }^{2}}}}\int\limits_\mathbb{R} \,{{{\text{e}}}^{{{\mathbf{i}}{{A}_{ - }}{{z}_{ - }}}}}d{{z}_{ - }}\int\limits_\mathbb{R} \,{{{\text{e}}}^{{{\mathbf{i}}{{A}_{ + }}{{z}_{ + }}}}}(1 + {{z}_{ - }}{{z}_{ + }})_{ + }^{\sigma }d{{z}_{ + }}$

в виде суммы ${{e}_{{{{p}_{3}},{{q}_{3}},0,0, + }}} = {{S}_{0}} + {{S}_{1}}$, в которой

$\begin{gathered} {{S}_{k}} = \frac{{{{2}^{{ - \sigma - 3}}}}}{{{{\pi }^{2}}}}\int\limits_0^{{{{( - 1)}}^{k}}\infty } \,{{{\text{e}}}^{{{\mathbf{i}}{{A}_{ - }}{{z}_{ - }}}}}d{{z}_{ - }}\int\limits_{ - 1/{{z}_{ - }}}^{{{{( - 1)}}^{k}}\infty } \,{{{\text{e}}}^{{{\mathbf{i}}{{A}_{ + }}{{z}_{ + }}}}}{{(1 + {{z}_{ - }}{{z}_{ + }})}^{\sigma }}d{{z}_{ + }} = \frac{{{{2}^{{ - \sigma - 3}}}}}{{{{\pi }^{2}}}}\int\limits_0^{{{{( - 1)}}^{k}}\infty } \,z_{ - }^{{ - 1}}{{{\text{e}}}^{{{\mathbf{i}}({{A}_{ - }}{{z}_{ - }} - {{A}_{ + }}/{{z}_{ - }})}}}d{{z}_{ - }}\int\limits_0^{ + \infty } \,{{{\text{e}}}^{{{\mathbf{i}}{{A}_{ + }}t/{{z}_{ - }}}}}{{t}^{\sigma }}dt = \\ \, = \frac{{{{{( - 1)}}^{k}}{\mathbf{i}}\operatorname{sign} {{A}_{ + }}\Gamma (\sigma + 1)}}{{{{2}^{{\sigma + 3}}}{{\pi }^{2}}{\text{|}}{{A}_{ + }}{{{\text{|}}}^{{\sigma + 1}}}}}{{{\text{e}}}^{{{{{( - 1)}}^{k}}{\mathbf{i}}\operatorname{sign} {{A}_{ + }}\sigma \pi /2}}}\int\limits_0^{ + \infty } \,z_{ - }^{\sigma }{{{\text{e}}}^{{{{{( - 1)}}^{k}}{\mathbf{i}}({{A}_{ - }}{{z}_{ - }} - {{A}_{ + }}/{{z}_{ - }})}}}d{{z}_{ - }}. \\ \end{gathered} $

Применяя формулу [7, 2.5.23.7], получаем

(4.2)

$\int\limits_0^{ + \infty } \,{{x}^{{\nu - 1}}}\operatorname{trig} (ax - b{\text{/}}x)dx = 2{{(b{{a}^{{ - 1}}})}^{{\nu /2}}}\operatorname{trig} (\nu \pi {\text{/}}2){{K}_{\nu }}(2\sqrt {ab} ),$

в которой $a,b > 0$ и ${\text{|}}\Re (\nu ){\kern 1pt} {\text{|}} < 1$, $\operatorname{trig} x \in \{ \cos x,\sin x\} $, для случая ${\text{sign}}\,{{A}_{ + }} = {\text{sign}}\,{{A}_{ - }}$ получаем

${{S}_{k}} = - \frac{{\Gamma (\sigma + 1){{\mathcal{K}}_{{\sigma + 1}}}({{A}_{ + }}{{A}_{ - }})}}{{{{2}^{{\sigma + 2}}}{{\pi }^{2}}}}{{{\text{e}}}^{{{{{( - 1)}}^{k}}{\mathbf{i}}\operatorname{sign} {{A}_{ + }}\sigma \pi }}}.$

По формуле [7, 2.5.23.4] имеем

(4.3)

$\int\limits_0^{ + \infty } \,{{x}^{{\nu - 1}}}\operatorname{trig} (ax + b{\text{/}}x)dx = \frac{\pi }{2}{{(b{{a}^{{ - 1}}})}^{{\nu /2}}}\widetilde {\operatorname{trig} }(\nu \pi {\text{/}}2)\left[ {{{J}_{{ - \nu }}}(2\sqrt {ab} ) + \varepsilon {{J}_{\nu }}(2\sqrt {ab} )} \right],$

в которой $a,b > 0$ и ${\text{|}}\Re (\nu ){\kern 1pt} {\text{|}} < 1$, $\widetilde {{\text{trig}}}\,x$ обозначает соответствующую кофункцию для $\operatorname{trig} x \in \{ \cos x,\sin x\} $ и $\varepsilon $ – четность функции $\operatorname{trig} x$, можно получить аналогичные формулы для ${{S}_{0}}$ и ${{S}_{1}}$ в случае $\operatorname{sign} {{A}_{ + }} = - \operatorname{sign} {{A}_{ - }}$.

Используя известные формулы (см., например, [14, с. 325]) функции $e_{{{{p}_{3}},{{q}_{3}},0,0, + }}^{{( - \sigma - 2)}}$ можно выразить через G-функции Мейера:

$e_{{{{p}_{3}},{{q}_{3}},0,0, + }}^{{( - \sigma - 2)}} = \left\{ \begin{gathered} - \tfrac{{cos(\sigma \pi )\Gamma (\sigma + 1)}}{{{{2}^{{\sigma + 1}}}{{\pi }^{2}}}}G_{{02}}^{{20}}({{A}_{ + }}{{A}_{ - }}\,{\text{|}}\,0, - \sigma - 1)\quad {\text{при}}\quad {{A}_{ + }}{{A}_{ - }} > 0, \hfill \\ \tfrac{{{\mathbf{i}}\operatorname{sign} {{A}_{ + }}cos(\sigma \pi )\Gamma (\sigma + 1)}}{{{{2}^{{\sigma + 3}}}\pi }}G_{{02}}^{{10}}( - {{A}_{ + }}{{A}_{ - }}\,{\text{|}}\, - \sigma - 1,0)\quad {\text{при}}\quad {{A}_{ + }}{{A}_{ - }} < 0. \hfill \\ \end{gathered} \right.$

Результат, аналогичный теореме 4, можно получить и для функций ${\text{e}}_{{{{p}_{3}},{{q}_{3}},0,0, - }}^{{( - \sigma - 2)}}$ (мы его не приводим).

Пусть

(4.4)

$[{{T}^{{(\sigma )}}}(g)](f_{{{{p}_{3}},{{q}_{3}}}}^{{(\sigma )**}}) = \int\limits_\mathbb{R} \,d\mathop {\hat {p}}\nolimits_3 \,\int\limits_\mathbb{R} \,t_{{{{p}_{3}},{{q}_{3}},\mathop {\hat {p}}\nolimits_3 ,\mathop {\hat {q}}\nolimits_3 }}^{{(\sigma )**}}(g)f_{{\mathop {\hat {p}}\nolimits_3 ,\mathop {\hat {q}}\nolimits_3 }}^{{**}}d{{\hat {q}}_{3}}.$

Поскольку

$\begin{gathered} {{{\text{F}}}_{i}}(f_{{\mathop {\tilde {p}}\nolimits_3 ,\mathop {\tilde {q}}\nolimits_3 }}^{{( - \sigma - 2)**}},{{T}^{{(\sigma )}}}(g)(f_{{{{p}_{3}},{{q}_{3}}}}^{{(\sigma )**}})) = {{{\text{F}}}_{3}}(f_{{\mathop {\tilde {p}}\nolimits_3 ,\mathop {\tilde {q}}\nolimits_3 }}^{{( - \sigma - 2)**}},{{T}^{{(\sigma )}}}(g)(f_{{{{p}_{3}},{{q}_{3}}}}^{{(\sigma )**}})) = \\ \, = \frac{1}{{4{{\pi }^{2}}}}\int\limits_\mathbb{R} \,\delta ({{{\hat {p}}}_{3}} + {{{\tilde {p}}}_{3}})d{{{\hat {p}}}_{3}}\,\int\limits_\mathbb{R} \,t_{{{{p}_{3}},{{q}_{3}},\mathop {\hat {p}}\nolimits_3 ,\mathop {\hat {q}}\nolimits_3 }}^{{(\sigma )**}}(g)\delta ({{{\hat {q}}}_{3}} + \mathop {\tilde {q}}\nolimits_3 )d{{{\hat {p}}}_{3}}, \\ \end{gathered} $

где $\delta $ – дельта-функция, получаем

$t_{{{{p}_{3}},{{q}_{3}},\mathop {\hat {p}}\nolimits_3 ,\mathop {\hat {q}}\nolimits_3 }}^{{(\sigma )**}}(g) = \frac{1}{{4{{\pi }^{2}}}}{{{\text{F}}}_{i}}(f_{{ - \mathop {\hat {p}}\nolimits_3 , - \mathop {\hat {q}}\nolimits_3 }}^{{( - \sigma - 2)**}},{{T}^{{(\sigma )}}}(g)(f_{{{{p}_{3}},{{q}_{3}}}}^{{(\sigma )**}})).$

В частности,

$\begin{gathered} t_{{{{p}_{3}},{{q}_{3}},\mathop {\hat {p}}\nolimits_3 ,\mathop {\hat {q}}\nolimits_3 }}^{{(\sigma )**}}( - {{e}_{{2,2}}}) = \frac{1}{{4{{\pi }^{2}}}}{{{\text{F}}}_{3}}(f_{{ - \mathop {\hat {p}}\nolimits_3 , - \mathop {\hat {q}}\nolimits_3 }}^{{( - \sigma - 2)**}},{{T}^{{(\sigma )}}}( - {{e}_{{2,2}}})(f_{{{{p}_{3}},{{q}_{3}}}}^{{(\sigma )**}})) = \\ = \frac{1}{{4{{\pi }^{2}}}}\int\limits_\mathbb{R} \,{{{\text{e}}}^{{ - {\mathbf{i}}\mathop {\hat {p}}\nolimits_3 {{\alpha }_{3}}}}}d{{\alpha }_{3}}\,\int\limits_\mathbb{R} \,{{{\text{e}}}^{{{\mathbf{i}}\left( {\mathop {\hat {q}}\nolimits_3 {{\beta }_{3}} + \tfrac{{{{q}_{3}}{{\beta }_{3}} - {{p}_{3}}{{\alpha }_{3}}}}{{\alpha _{3}^{2} - \beta _{3}^{2}}}} \right)}}}{{\left| {\alpha _{3}^{2} - \beta _{3}^{2}} \right|}^{\sigma }}d{{\beta }_{3}} = \\ \, = \frac{1}{{8{{\pi }^{2}}}}\,\int\limits_\mathbb{R} \,{{{\text{e}}}^{{ - {\mathbf{i}}({{{\hat {A}}}_{ + }}{{z}_{ - }} + {{A}_{ - }}{\text{/}}{{z}_{ - }})}}}{{\left| {{{z}_{ - }}} \right|}^{\sigma }}d{{z}_{ - }}\,\int\limits_\mathbb{R} \,{{{\text{e}}}^{{ - {\mathbf{i}}({{{\hat {A}}}_{ - }}{{z}_{ + }} + {{A}_{ + }}{\text{/}}{{z}_{ + }})}}}{{\left| {{{z}_{ + }}} \right|}^{\sigma }}d{{z}_{ + }}. \\ \end{gathered} $

Используя (4.2) или (4.3), получаем соответствующие значения матричных элементов $t_{{{{p}_{3}},{{q}_{3}},\mathop {\hat {p}}\nolimits_3 ,\mathop {\hat {q}}\nolimits_3 }}^{{(\sigma )**}}( - {{e}_{{2,2}}})$ для каждой пары

$(\operatorname{sign} ({{A}_{ + }}{{\hat {A}}_{ - }}),\operatorname{sign} ({{A}_{ - }}{{\hat {A}}_{ + }})) \in \{ ( + , + ),( + , - ),( - , + ),( - , - )\} .$

Например, при ${{A}_{ + }}{{\hat {A}}_{ - }},{{A}_{ - }}{{\hat {A}}_{ + }} < 0$ имеем

$t_{{{{p}_{3}},{{q}_{3}},\mathop {\hat {p}}\nolimits_3 ,\mathop {\hat {q}}\nolimits_3 }}^{{(\sigma )**}}( - {{e}_{{2,2}}}) = \frac{{2{\text{|}}{{A}_{ + }}{{A}_{ - }}{{{\text{|}}}^{{\sigma + 1}}}}}{{{{\pi }^{2}}}}si{{n}^{2}}\left( {\frac{{\sigma \pi }}{2}} \right){{\mathcal{K}}_{{\sigma + 1}}}({{A}_{ + }}{{\hat {A}}_{ - }}){{\mathcal{K}}_{{\sigma + 1}}}({{A}_{ - }}{{\hat {A}}_{ + }}).$

Используя (4.1) и (4.4), представим базисную функцию $f_{{\mathop {\hat {p}}\nolimits_3 ,\mathop {\hat {q}}\nolimits_3 }}^{{(\sigma )**}}$ в виде линейной комбинации функций, принадлежащих базису $B_{2}^{{(\sigma )}}$:

(4.5)

$\begin{gathered} \text{[}{{T}^{{(\sigma )}}}(g)](f_{{{{p}_{3}},{{q}_{3}}}}^{{(\sigma )**}}) = \sum\limits_{{{p}_{2}} \in \mathbb{Z}} \,\int\limits_\mathbb{R} \,\left( {\int\limits_\mathbb{R} \,d{{{\hat {p}}}_{3}}\,\int\limits_\mathbb{R} \,t_{{{{p}_{3}},{{q}_{3}},\mathop {\hat {p}}\nolimits_3 ,\mathop {\hat {q}}\nolimits_3 }}^{{(\sigma )**}}(g)e_{{\mathop {\hat {p}}\nolimits_3 ,\mathop {\hat {q}}\nolimits_3 ,{{p}_{2}},{{q}_{2}}, + }}^{{(\sigma )}}d{{{\hat {q}}}_{3}}} \right)f_{{{{p}_{2}},{{q}_{2}}, + }}^{{(\sigma )*}}d{{q}_{2}} + \\ \, + \sum\limits_{{{p}_{2}} \in \mathbb{Z}} \,\int\limits_\mathbb{R} \,\left( {\int\limits_\mathbb{R} \,d{{{\hat {p}}}_{3}}\,\int\limits_\mathbb{R} \,t_{{{{p}_{3}},{{q}_{3}},\mathop {\hat {p}}\nolimits_3 ,\mathop {\hat {q}}\nolimits_3 }}^{{(\sigma )**}}(g)e_{{\mathop {\hat {p}}\nolimits_3 ,\mathop {\hat {q}}\nolimits_3 ,{{p}_{2}},{{q}_{2}}, - }}^{{(\sigma )}}d{{{\hat {q}}}_{3}}} \right)f_{{{{p}_{2}},{{q}_{2}}, - }}^{{(\sigma )*}}d{{q}_{2}}. \\ \end{gathered} $

Легко видеть, что $f_{{{{p}_{2}},{{q}_{2}}, \pm }}^{{(\sigma )*}}$ является собственной функцией оператора ${{T}^{{(\sigma )}}}( - {{e}_{{2,2}}})$, отвечающей собственному значению ${{( - 1)}^{{{{p}_{2}}}}}$. Это означает, в частности, что $f_{{0,0, \pm }}^{{(\sigma )*}}$ является неподвижной точкой линейного оператора ${{T}^{{(\sigma )}}}( - {{e}_{{2,2}}})$, следовательно, из равенства

$[{{T}^{{(\sigma )}}}(g)](f_{{{{p}_{3}},{{q}_{3}}}}^{{(\sigma )**}}) = \sum\limits_{{{p}_{2}} \in \mathbb{Z}} \,\int\limits_\mathbb{R} \,e_{{{{p}_{3}},{{q}_{3}},{{p}_{2}},{{q}_{2}}, + }}^{{(\sigma )}}[{{T}^{{(\sigma )}}}(g)](f_{{{{p}_{2}},{{q}_{2}}, + }}^{{(\sigma )*}})d{{q}_{2}} + \sum\limits_{{{p}_{2}} \in \mathbb{Z}} \,\int\limits_\mathbb{R} \,e_{{{{p}_{3}},{{q}_{3}},{{p}_{2}},{{q}_{2}}, - }}^{{(\sigma )}}[{{T}^{{(\sigma )}}}(g)](f_{{{{p}_{2}},{{q}_{2}}, - }}^{{(\sigma )*}})d{{q}_{2}},$

теорем 3 и 4 и равенства (4.5) вытекает формула

(4.6)

$\int\limits_\mathbb{R} \,d{{\hat {p}}_{3}}\,\int\limits_\mathbb{R} \,t_{{0,{{q}_{3}},\mathop {\hat {p}}\nolimits_3 ,\mathop {\hat {q}}\nolimits_3 }}^{{(\sigma )**}}(\operatorname{diag} ( - 1, - 1,1,1)){{e}_{{\mathop {\hat {p}}\nolimits_3 ,\mathop {\hat {q}}\nolimits_3 ,0,0, \pm }}}d{{\hat {q}}_{3}} = {{e}_{{0,{{q}_{3}},0,0, \pm }}} = - \frac{{\Gamma (\sigma + 1)}}{{{{2}^{{(1 \pm 1)/2}}}\pi {\text{|}}{{q}_{3}}{{{\text{|}}}^{{\sigma + 1}}}}}{{Y}_{{ \pm (\sigma + 1)}}}({\text{|}}{{q}_{3}}{\text{|}}).$

Прием, использованный при выводе интегрального соотношения (10), был применен в [15], где рассматривалась связь между вычисленными в разных базисах матричными элементами сужений операторов представлений на некоторые клеточно-диагональные матрицы. В работе [16] рассматривалась другая реализация неприводимых представлений группы $SO(2,2)$, при этом оказалось, что ядро интегрального оператора, поставленного в соответствие оператору представления, тоже выражается через функции Бесселя–Клиффорда.

Список литературы

Виленкин Н.Я., Шлейникова М.А. Интегральные соотношения для функций Уиттекера и представления трехмерной группы Лоренца // Матем. сборник. 1970. Т. 81. № 2. С. 185–191.
Виленкин Н.Я., Нижников А.И. Интегральные соотношения для $G$-функций Мейера и представления $n$-мерной группы Лоренца // Известия вузов. Матем. 1979. Т. 23. № 5. С. 11–17.
Шилин И.А., Чой Дж. Некоторые формулы для обычных функций и гиперфункций Бесселя–Клиффорда, связанные с собственной группой Лоренца // Фундам. и прикл. матем. 2019. Т. 22. № 5. С. 195–208.
Shilin I.A., Choi J., Lee J.W. Some integrals infolving Coulomb functions related to three-dimensional proper Lorentz group // AIMS Mathematics. 2020. V. 5. № 6. P. 5664–5682.
Shilin A.I., Choi J. Certain connections between the spherical and hyperbolic bases on the cone and formulas for related special functions // Int. Trans. Spec. Func. 2014. V. 25. № 5. P. 374–383.
Гельфанд И.М., Шилов Г.Е. Обобщенные функции и действия над ними. М.: Физматлит, 1959.
Прудников А.П., Брычков Ю.А., Маричев О.И. Интегралы и ряды. Элементарные функции. М.: Наука, 1981.
Градштейн И.С., Рыжик И.М. Таблицы интегралов, сумм, рядов и произведений. М.: Физматлит, 1963.
Климык А.У., Качурик И.И. Вычислительные методы в теории представлений групп. Киев: Вища школа, 1986.
Oberhettinger F. Tabellen zur Fourier Transformation. Berlin: Springer, 1957.
Бейтмен Г., Эрдейи А. Таблицы интегральных преобразований. Том II. М.: Наука, 1970.
Прудников А.П., Брычков Ю.А., Маричев О.И. Интегралы и ряды. Дополнительные главы. М.: Наука, 1986.
Прудников А.П., Брычков Ю.А., Маричев О.И. Интегралы и ряды. Специальные функции. М.: Наука, 1983.
Бейтмен Г., Эрдейи А. Таблицы интегральных преобразований. Том I. М.: Наука, 1969.
Shilin A.I., Choi J. Integral and series representations of special functions related to the group $SO(2,2)$ // Ramanujan J. 2017. V. 44. № 1. P. 133–153.
Shilin A.I., Choi J. On matrix elements of the $SO(2,2)$-representation in a space of functions on $2 \times 4$-matrices // Int. Trans. Spec. Func. 2018. V. 29. № 10. P. 761–770.

Дополнительные материалы отсутствуют.

Инструменты

следующая статья выпуска содержание выпуска

Журнал вычислительной математики и математической физики

Архивы выпусков Информация о журнале Отправить рукопись в журнал