Журнал вычислительной математики и математической физики, 2020, T. 60, № 8, стр. 1351-1366

1. ВВЕДЕНИЕ

Исследования корректности граничных задач восходят к Ж. Адамару, впервые заметившему, что зависимость решения задачи Коши для уравнения Лапласа в полуплоскости от начальных данных не является непрерывной. Этот пример позволил Ж. Адамару дать общепринятое сегодня определение корректности линейной граничной задачи

с линейными операторами $L$ и $B$ как совокупности фактов существования, единственности и непрерывной зависимости решения от данных задачи, что при наличии существования решения может быть выражено в виде оценки где $\mathcal{S}$, $\mathcal{R}$ и $\mathcal{B}$ – банаховы пространства решений, правых частей уравнения и граничных данных соответственно. Неединственность решения граничной задачи (1), т.е. существование нетривиального решения $u \in \mathcal{S}$ однородной задачи (1) с $f = 0$, $g = 0$, означает отсутствие оценки (2) и потому некорректность такой граничной задачи.

Во многих случаях не удается доказать корректность задачи, но удается получить свойство фредгольмовости (или нетеровости) граничной задачи (1), что означает конечномерность ядра и конечномерность коядра оператора граничной задачи ${{L}_{B}}:{{\mathcal{S}}_{B}} \to R$, где ${{\mathcal{S}}_{B}}$ – подпространство таких функций из $S$, для которых ${{\left. {Bu} \right|}_{{\partial \Omega }}} = 0$, а оператор ${{L}_{B}} = {{\left. L \right|}_{{{{\mathcal{S}}_{B}}}}}$. Хорошо известно, что критерием фредгольмовости линейной дифференциальной граничной задачи для правильно (в другой терминологии собственно) эллиптического уравнения в ограниченной области является условие Я.Б. Лопатинского [1], [2], мы же здесь изучаем неправильно эллиптический случай.

Напомним основные определения. Линейный дифференциальный оператор $\mathcal{S} = \sum\nolimits_{|\alpha | \leqslant m} {{{a}_{\alpha }}} (x){{D}^{\alpha }}$ называется эллиптическим в области $\Omega \subseteq {{\mathbb{R}}^{n}}$, если его старший символ $l(x,\xi ) = \sum\nolimits_{|\alpha | = m} {{{a}_{\alpha }}} (x){{\xi }^{\alpha }} \ne 0$ для всех $x \in \Omega $, $\xi \in {{\mathbb{R}}^{n}}{\backslash \{ }0{\text{\} }}$, и называется правильно (или собственно) эллиптическим в открытой или замкнутой области $\Omega \subseteq {{\mathbb{R}}^{n}}$, если $m$ – четно, $m = 2k$, и для любого $x \in \Omega $, для каждой пары линейно независимых действительных векторов $\xi $ и $\eta $ среди корней полинома $l(x,\xi + t\eta )$ от параметра $t$ имеется ровно $k$ корней $t_{ + }^{1},t_{ + }^{2}, \ldots ,\;t_{ + }^{k}$ с положительной мнимой частью $\operatorname{Im} t_{ + }^{j} > 0$ и $k$ корней $t_{ - }^{1},t_{ - }^{2},\; \ldots ,\;t_{ - }^{k}$ с отрицательной мнимой частью $\operatorname{Im} t_{ - }^{j} < 0$. Ясно, что каждый правильно эллиптический линейный дифференциальный оператор – эллиптический. Отметим, что при $n \geqslant 3$ каждый эллиптический линейный дифференциальный оператор является правильно эллиптическим, но при $n = 2$ это не так (пример: оператор Коши–Римана $\partial {\text{/}}\partial{ \bar {z}} = (\partial {\text{/}}\partial x - i\partial {\text{/}}\partial y){\text{/}}2$), и что то же справедливо для всех $n$ в случае, когда коэффициенты оператора вещественны ([1], см. также [2]).

В настоящее время граничные задачи для линейных эллиптических уравнений и систем систематически изучаются, как правило, для правильно эллиптического случая; работы, как и настоящая, изучающие граничные задачи для неправильно эллиптических уравнений, достаточно редки, поскольку после примеров А.В. Бицадзе положение дел с граничными задачами для неправильно эллиптического случая долгое время представлялось весьма туманным. Напомним, что в 1948 г. А.В. Бицадзе привел пример уравнения ${{d}^{2}}u{\text{/}}d{{\bar {z}}^{2}} = 0$, $z = {{x}_{1}} + i{{x}_{2}}$, однородная задача Дирихле в единичном круге для которого имеет счетное число линейно независимых полиномиальных решений ${{u}_{N}}(z) = (1 - z\bar {z}){{z}^{N}}$ [3]. Позже им же был найден еще один пример уравнения с тем же свойством, но уже с простыми нулями символа. Этот пример и многие другие результаты теории граничных задач для эллиптических уравнений и систем читатель может найти в книге [4]. Отметим также исследования, представленные в книге [5] трех авторов, где проведена классификация систем двух уравнений с постоянными коэффициентами и рассмотрены для них некоторые граничные задачи. Упомянем также в некотором смысле близкие к настоящей работы [6], [7], где авторы выходят за рамки эллиптических уравнений и исследуют задачу Дирихле в круге для произвольного (вообще говоря, бестипного, в частности для неправильно эллиптического) уравнения четного порядка с однородным символом и постоянными комплексными коэффициентами.

Правильно эллиптические (в другой терминологии собственно эллиптические) уравнения — популярный объект изучения. Напомним, что задача Дирихле заведомо фредгольмова в правильно эллиптическом случае [2], при этом вопрос о единственности решения решается только для сильно эллиптического уравнения. Задача Дирихле для общего эллиптического уравнения второго порядка с постоянными матричными коэффициентами в ограниченной области изучалась в работах А.В. Бицадзе и его учеников [4] в связи с понятием слабой связанности, важные продвижения здесь недавно были получены А.П. Солдатовым [8]. В работе одного из авторов [9] получено, что в задаче Дирихле для уравнения второго порядка с постоянными комплексными коэффициентами в круге свойство единственности решения в соболевской шкале пространств нарушается тогда и только тогда, когда угол ${{\varphi }_{0}} = {{\varphi }_{1}} - {{\varphi }_{2}}$ вещественный и $\pi $-рациональный (также см. ниже). Отсюда получаем, что если исходное уравнение правильно эллиптично, то имеет место свойство единственности задачи Дирихле (как и в случае с задачей Неймана, см. п. 6) в круге, как это отмечено в утверждении 2, см. ниже п. 5.

Неправильно эллиптическим уравнениям посвящено немного публикаций, после пионерских работ А.В. Бицадзе следует отметить результаты его ученика Нгуен Тхыа Хопа (см., например, книгу [4]), граничные задачи для таких уравнений рассматривались в работах Н.Е. Товмасяна (см. [8], [9]), а также в работах А.О. Бабаяна, см., например, [10], сравните с [11]. Отметим также работу автора [12], где был получен критерий фредгольмовости общей линейной дифференциальной граничной задачи для неправильно эллиптического уравнения в соболевских пространствах. Из этого критерия следует, что классические граничные задачи Дирихле и Неймана для такого уравнения не являются фредгольмовыми.

Возникает вопрос о свойствах классических задач для неправильно эллиптических уравнений хотя бы в модельной области. В настоящей работе дается описание свойств четырех наиболее распространенных типов граничных задач, которые оказались нефредгольмовыми (с бесконечномерным ядром и, можно доказать, коядром), и осуществляется попытка обнаружить истоки этой некорректности, изложение ведется на основе общей схемы доказательств для граничных задач с одним и тем же дифференциальным неправильно эллиптическим уравнением в единичном круге. Немного об истории. Граничным задачам для неправильно эллиптического уравнения в плоской области была посвящена публикация автора [13]. В статье автора [7] приведен критерий нарушения единственности решения задачи Дирихле в единичном круге для общего уравнения вида (3), а в статье [13] получены результаты о разрешимости задачи Дирихле в обычной соболевской шкале пространств. Ниже мы приведем несколько другие доказательства этих утверждений, находясь в общей схеме настоящей работы. Упомянутым граничным задачам в круге были посвящены публикации авторов [14]–[17], эти результаты мы излагаем здесь с единых позиций и в общей схеме исследования.

Задача Неймана, как будет видно ниже, имеет похожие свойства с задачей Дирихле. Будут рассмотрены также задача с наклонной производной и третья граничная задача (задача Робена). Заметим, что и для правильно эллиптического оператора граничная задача с наклонной производной может не быть эллиптической (т.е. не удовлетворять условию Лопатинского). Так, Л. Хёрмандер рассматривал задачу с косой производной как неэллиптическую граничную задачу, которая решалась сведением к псевдодифференциальному оператору на границе. В его работе [20] установлена связь между задачей с косой производной и теорией псевдодифференциальных операторов, в частности, указаны условия, при которых псевдодифференциальный оператор является субэллиптическим. В определенном смысле продолжением его исследований является работа Ю.В. Егорова и В.А. Кондратьева [21].

По задачам с косой производной после классических работ Жиро отметим работы А.В. Бицадзе, см. [4]. В работе В.Г. Мазьи [22] изучена задача с косой производной для правильно эллиптического уравнения второго порядка. В предположении, что векторное поле касается выделенных гладких компактных подмногообразий границы $\Gamma $ рассматриваемой области, показано, что задача однозначно разрешима, получены оценки решений в ${{L}_{p}}(\Gamma )$ ($1 < p \leqslant \infty $) и доказана компактность обратного оператора. Исследованием граничной задачи с косой производной для правильно эллиптического дифференциального уравнения в ограниченной области с гладкой границей занимался также Б.П. Панеях [23]. При условии, что множество точек границы, в которых векторное поле задачи пересекается с касательным пространством, непусто, он доказал фредгольмовость в подходящих пространствах оператора, отвечающего задаче, и привел необходимое и достаточное условие компактности обратного оператора.

Ниже для случая $n = 2$ мы будем рассматривать общее скалярное уравнение второго порядка с постоянными комплексными коэффициентами без младших членов

Раскладывая оператор в левой части на линейные множители, уравнение (3) можно записать в виде с единичными комплексными векторами ${{a}^{j}} = (a_{1}^{j},a_{2}^{j})$, $j = 1,\;2$, что в случае ${{\lambda }_{j}} = a_{2}^{j}{\text{/}}a_{1}^{j} \ne \pm i$ позволяет перейти к виду где ${{\varphi }_{j}}$ – комплексное число, любое решение уравнения ${{\varphi }_{j}} = - {{\lambda }_{j}}$.

Мы находимся в предположениях ${{\varphi }_{1}} \ne {{\varphi }_{2}}$ и $a_{2}^{j}{\text{/}}a_{1}^{j} \ne \pm i$, последнее из которых означает существование (комплексных) углов ${{\varphi }_{j}}$, поскольку неравенство $q \ne \pm i$ есть условие разрешимости уравнения ${\text{ctg}}\;\varphi = q$.

Невещественность чисел ${{\varphi }_{1}}$ и ${{\varphi }_{2}}$ означает, что исходное уравнение является эллиптическим, т.е. $l(\xi ) \ne 0$ при $\xi \in {{\mathbb{R}}^{2}}{\backslash \{ }0{\text{\} }}$, где

есть символ дифференциального оператора $L$. Правильная эллиптичность здесь означает, что корни ${{\lambda }_{1}}$, ${{\lambda }_{2}}$ квадратного уравнения $a + b\lambda + c{{\lambda }^{2}} = 0$ имеют мнимые части противоположных знаков, а это эквивалентно тому, что комплексные углы ${{\varphi }_{1}}$ и ${{\varphi }_{2}}$ имеют мнимые части противоположных знаков, и, стало быть, они имеют мнимые части одного знака в неправильно эллиптическом случае.

Введя на границе $\partial K$ единичного круга $K$ угловой параметр $\tau $ и приняв обозначения $u_{\tau }^{'}$ и $u_{{{{\nu }_{*}}}}^{'}$ для производных по касательной и по конормали (см. ниже) соответственно и $g \in \mathbb{C}$ для постоянной, мы исследуем неправильно эллиптическое уравнение (3) в круге. Более точно, мы изучим разрешимость классических граничных задач:

первой граничной задачи или задачи Дирихле ${{\left. u \right|}_{{\partial K}}} = \psi $,

второй граничной задачи или задачи Неймана ${{\left. {u_{{{{\nu }_{*}}}}^{'}} \right|}_{{\partial K}}} = \kappa $,

третьей граничной задачи ${{\left. {(u_{{{{\nu }_{*}}}}^{'} - gu)} \right|}_{{\partial K}}} = \psi $, иногда называемой задачей Робена,

и задачи с наклонной производной ${{\left. {(u_{{{{\nu }_{*}}}}^{'} - gu_{\tau }^{'})} \right|}_{{\partial K}}} = \psi $, иногда называемой задачей Пуанкаре.

А именно, мы укажем пространство граничных данных $\mathcal{B}$, для которого справедлива оценка (2) с пространством Соболева в качестве пространства решений $\mathcal{S}$ однородного уравнения (3).

Отметим, что, в зависимости от свойств числа ${{\varphi }_{0}} = {{\varphi }_{1}} - {{\varphi }_{2}}$, которое будем называть углом между характеристиками уравнения (4), мы будем различать три случая:

1) угол ${{\varphi }_{0}}$ – вещественен и $\pi $-рационален, т.е. ${{\varphi }_{0}}{\text{/}}\pi \in \mathbb{Q}$;

2) угол ${{\varphi }_{0}}$ – вещественен и $\pi $-иррационален;

3) угол ${{\varphi }_{0}}$ – невещественен.

Случай 1) – это случай нарушения единственности решения задачи Дирихле (см. [7]). В случаях 2) и 3) приходится вводить пространства аналитических правых частей для разрешимости в обычной соболевской шкале пространств, причем на свойства задачи Дирихле в случае 2), в отличие от случая 3), оказывают влияние теоретико-числовые свойства числа ${{\varphi }_{0}}$, аналогично тому, как это происходит со свойствами задачи Дирихле для гиперболического уравнения (3) с вещественными коэффициентами (см., например, [24]).

2. МЕТОД ИССЛЕДОВАНИЯ: УСЛОВИЕ СВЯЗИ СЛЕДОВ

Для уравнения (4) (или (3) в указанных предположениях) в плоской ограниченной области $\Omega $ с гладкой границей $\partial \Omega $ и единичной нормалью $\nu $ рассмотрим задачу, которую будем называть задачей Коши,

задачу нахождения решения $u$ в пространстве Соболева ${{H}^{s}}(\Omega )( = W_{2}^{s}(\Omega ))$, $s \geqslant 2$.

В работе [13] (см. также [24]) было получено условие связи следов решения задачи Коши для уравнения (3) с данными из обычных соболевских пространств, которое мы приводим ниже в виде следующей теоремы 1.

Теорема 1. Для того чтобы функция $u \in {{H}^{s}}(\Omega )$ была решением задачи (5) для эллиптического уравнения (4) (или (3)), необходимо и достаточно, чтобы функции

удовлетворяли условиюЗдесь и ниже $\tau - $ натуральный параметр на $\partial \Omega $, $\left\langle {x,\bar {\xi }} \right\rangle = {{x}_{1}}{{\bar {\xi }}_{1}} + {{x}_{2}}{{\bar {\xi }}_{2}}$ $x \cdot \eta = {{x}_{1}}{{\eta }_{1}} + {{x}_{2}}{{\eta }_{2}}$.

Позже, в работе [25], было показано (см. также [24]), что равенство (6) эквивалентно паре условий

Здесь $Q$ – произвольный полином одной переменной, ${{\tilde {a}}^{1}} = ( - \bar {a}_{2}^{1},\bar {a}_{1}^{1})$, ${{\tilde {a}}^{2}} = ( - \bar {a}_{2}^{2},\bar {a}_{1}^{2})$ – направляющие векторы множества комплексных характеристических направлений ${{\Lambda }^{j}} = \{ \lambda {{\tilde {a}}^{j}}\,|\,\lambda \in \mathbb{C}\} $, $j = 1,\;2$, $\Lambda \, = \,{{\Lambda }^{1}}\, \cup \,{{\Lambda }^{2}}$, ${{\tilde {a}}^{j}} \cdot {{a}^{j}}\, = \,0$, $x \cdot {{\tilde {a}}^{j}}\, = \, - {\kern 1pt} {{x}_{1}}(\tau )a_{2}^{j}\, + \,{{x}_{2}}(\tau )a_{1}^{j}$ – скалярное произведение, $\Delta \, = \,sin{{\varphi }_{0}}\, = \,det\left\| {{{a}^{1}},{{a}^{2}}} \right\|$ – число, $u_{\tau }^{'} = \tfrac{{\partial u}}{{\partial \tau }}$, $u_{{{{\nu }_{*}}}}^{'} = \tfrac{{\partial u}}{{\partial {{\nu }_{ * }}}}$; $\tfrac{\partial }{{\partial \tau }}$ и $\tfrac{\partial }{{\partial {{\nu }_{ * }}}}$ – производные по касательной и по конормали соответственно.

Напомним, что производную по конормали можно ввести посредством обобщенной формулы Грина

Расчеты дают выражение вида где $k = \left| {\nu _{\tau }^{'}} \right|$ – кривизна кривой $\partial \Omega $.

Отмеченная эквивалентность условия (6) условиям (7) вместе с теоремой 1 гарантирует справедливость следующей теоремы.

Теорема 2. Для того чтобы функция $u \in {{H}^{s}}(\Omega )$ ($s \geqslant 2$) была решением задачи

для уравнения (3), необходимо и достаточно, чтобы функции $\gamma $ и $\kappa $ удовлетворяли интегральному равенствус любым полиномом $Q \in \mathbb{C}{\kern 1pt} [z]$ одной переменной. При этом функция $u$ восстанавливается с точностью до аддитивной постоянной. В частности, при $\gamma = \kappa = 0$ решение – произвольная константа.

Приведем иное, нежели в работах [13], [25] и [24], и притом короткое

Доказательство необходимости в теореме 2. Запишем левую часть формулы Грина (8) и перебросим производные, вначале ${{a}^{1}} \cdot \nabla $, а затем ${{a}^{2}} \cdot \nabla $, после чего получим

Если же в формуле (8) перебросить производные в обратной последовательности, то будем иметь Складывая формулы (11), (12) и сравнивая результат с (8), заключаем, что Кроме того, на $\partial \Omega $ прямые вычисления дают Теперь, считая функцию $u$ решением уравнения (3), а функцию ${v} = \bar {Q}({{\tilde {a}}^{1}} \cdot x(s))$ (с некоторым полиномом $Q$ одной переменной) решением уравнения $({{a}^{1}} \cdot \nabla ){\bar {v}} = 0$ в (11), мы получим первое из уравнений (7) с $Q(x(s) \cdot {{\tilde {a}}^{1}}) = {\bar {v}}$. Аналогично, подставляя то же $u$ и ${v} = \bar {Q}({{\tilde {a}}^{2}} \cdot x(s))$, которое является решением уравнения $({{a}^{2}} \cdot \nabla ){\bar {v}} = 0$ в (12), мы получим второе уравнение (7).

Доказательство достаточности в теореме 2 можно принять дословно таким, как в работе [13] (или в [24]). Следовательно, условие (10) (или (7)) – другое условие связи следов (теперь уже следов (9)) решения $u$, имеющее вид проблемы неопределенности некоторой проблемы моментов, свойства которой определяли свойства граничной задачи.

3. ОБОБЩЕННАЯ ТРИГОНОМЕТРИЧЕСКАЯ ПРОБЛЕМА МОМЕНТОВ НА КРИВОЙ

Равенства (7) (или (10)) представляют собой соотношения неопределенности некоторой проблемы моментов на границе $\partial \Omega $ области $\Omega $. Рассмотрим ее подробнее и точнее. Постановка проблемы такова:

Проблема моментов на кривой. Для $j = 1,\;2$, для двух заданных наборов чисел $\omega _{n}^{j}$, $\omega _{0}^{1} = \omega _{0}^{2}$, $n = 0,\;1,\; \ldots $, (при данных двух комплексных векторах ${{a}^{1}}$, ${{a}^{2}}$ и ограниченной кривой $\partial \Omega $) найти функцию $\alpha $ такую, что

Заметим, что здесь нет каких-либо ограничений на гладкость, так как они определяются гладкостью кривой. В частности, если кривая бесконечно гладкая, то функция $\alpha $ может быть обобщенной.

Эта проблема моментов обобщает классическую тригонометрическую проблему моментов (здесь мы находимся в начале процесса изучения проблемы моментов, поэтому мы не будем рассматривать никакие аспекты положительности подынтегральной функции). Действительно, возьмем в качестве кривой $\partial \Omega $ единичную окружность $\partial K$, а в качестве векторов ${{\tilde {a}}^{j}}$ следующие векторы: ${{\tilde {a}}^{1}} = (1,i)$, ${{\tilde {a}}^{2}} = (1, - i)$. Получим обычную тригонометрическую проблему моментов:

Соответствующая проблема неопределенности проблемы моментов (13) может быть сформулирована в виде вопроса: Существует ли функция $\alpha $ такая, что для $j = 1,\;2$ (при данных двух комплексных векторах ${{a}^{1}}$, ${{a}^{2}}$ и ограниченной кривой $\partial \Omega $) выполнены равенства

Отметим, что проблема неопределенности (14) оказывается эквивалентной свойству единственности решения задач Дирихле и Неймана для уравнения (3).

Действительно, пусть задача Дирихле ${{\left. u \right|}_{{\partial \Omega }}} = 0$ имеет нетривиальное решение $u$, тогда ${{\left. {u_{{{{\nu }_{*}}}}^{'}} \right|}_{{\partial \Omega }}} \ne 0$ (поскольку в противном случае по теореме 2 решение было бы тривиальным) и из равенств (10) вытекает, что функция $\alpha = {{\left. {u_{{{{\nu }_{*}}}}^{'}} \right|}_{{\partial \Omega }}}$ дает нетривиальное решение задачи (14). Наоборот, нетривиальное решение $\alpha $ задачи (14) порождает нетривиальные данные задачи ${{\left. u \right|}_{{\partial \Omega }}} = 0$, ${{\left. {u_{{{{\nu }_{*}}}}^{'}} \right|}_{{\partial \Omega }}} = \alpha $, удовлетворяющие условиям связи (10), и в силу теоремы 2 существует решение нужной гладкости. Аналогичные рассуждения можно применить к задаче Неймана ${{\left. {u_{{{{\nu }_{*}}}}^{'}} \right|}_{{\partial \Omega }}} = 0$. Приведем ниже (теорема 3) точную формулировку доказанного факта.

Теорема 3. Пусть уравнение (3) неправильно эллиптично и $m > 2$. Следующие три утверждения попарно эквивалентны.

1. Однородная проблема моментов (14) имеет нетривиальное решение $\alpha \in {{H}^{{m - 3/2}}}(\partial \Omega )$.

2. Задача Дирихле ${{\left. u \right|}_{{\partial \Omega }}} = 0$ для уравнения (3) имеет нетривиальное решение $u \in {{H}^{m}}(\Omega )$.

3. Задача Неймана ${{\left. {u_{{{{\nu }_{*}}}}^{'}} \right|}_{{\partial \Omega }}} = 0$ для уравнения (3) имеет непостоянное решение $u \in {{H}^{m}}(\Omega )$.

Рассмотрим вопрос о существовании решения граничных задач для уравнения (3). Введем обозначения. Пусть $M_{l}^{j}$ – подпространство пространства ${{H}^{l}}(\partial K)$, $l \in \mathbb{R}$, элементами которого являются функции $\alpha (\tau )$, удовлетворяющие при всех $k \in {{\mathbb{Z}}_{ + }}$ интегральному равенству

Определение 1. Будем говорить, что векторы ${{\tilde {a}}^{1}},{{\tilde {a}}^{2}} \in {{\mathbb{C}}^{2}}$ обладают ${{H}^{m}} - {{H}^{l}}$-свойством на $\partial \Omega $, $m \geqslant l$, если для каждой функции $\alpha \in {{H}^{m}}(\partial \Omega )$ существуют единственные функции ${{\alpha }^{1}} \in M_{l}^{1}$, ${{a}^{2}} \in M_{l}^{2}$ такие, что $\alpha = {{\alpha }^{1}} + {{\alpha }^{2}} + {\text{const}}$.

Теорема 4. Пусть $m \geqslant p \geqslant 2$. Следующие три утверждения равносильны.

1. Векторы ${{\tilde {a}}^{1}}$, ${{\tilde {a}}^{2}}$ обладают ${{H}^{{m - 3/2}}} - {{H}^{{p - 3/2}}}$-свойством на $\partial \Omega $.

2. Задача Дирихле ${{\left. u \right|}_{{\partial \Omega }}} = \psi \in {{H}^{{m - 1/2}}}(\partial \Omega )$ для уравнения (3) имеет единственное решение $u \in {{H}^{p}}(\Omega )$.

3. Задача Неймана ${{\left. {u_{{{{\nu }_{*}}}}^{'}} \right|}_{{\partial \Omega }}} = \kappa \in {{H}^{{m - 3/2}}}(\partial \Omega )$ для уравнения (3) со свойством $\int_{\partial \Omega } \kappa d\tau = 0$ имеет единственное с точностью до аддитивной постоянной решение $u \in {{H}^{p}}(\partial \Omega )$.

В теореме 4, доказанной в работе [25], содержится условие, которое приводит к доказательству существования решения задач Дирихле и Неймана в пространствах Соболева, однако более детальный анализ показывает, что в неправильно эллиптическом случае ${{H}^{{m - 3/2}}} - {{H}^{{p - 3/2}}}$-свойство на единичной окружности $\partial K$ уже не выполняется (хотя оно выполняется в типичном случае для гиперболического уравнения вида (3), см. [24]), и тем не менее справедливо похожее $H_{\rho }^{k} - {{H}^{l}}$-свойство, о котором речь пойдет далее.

4. ОБОБЩЕННАЯ ТРИГОНОМЕТРИЧЕСКАЯ ПРОБЛЕМА МОМЕНТОВ НА ОКРУЖНОСТИ

Будем теперь предполагать, что область $\Omega $ – единичный круг $K$. Рассмотрим проблему моментов (13) на единичной окружности $\partial K$. Умножая равенства (13) на коэффициенты полинома Чебышёва ${{T}_{n}}$ I рода и складывая, получаем ($j = 1,\;2$, $n \in {{\mathbb{Z}}^{ + }} = 0,\;1,\;2,\; \ldots $):

с некоторыми $\mu _{n}^{j}$. Поскольку ${{T}_{n}}(cos\sigma ) = cosn\sigma $ и, кроме того, произведение $x(\tau ) \cdot {{\tilde {a}}^{j}} = $ $ = (cos\tau ,sin\tau ) \cdot ( - cos{{\varphi }_{j}},sin{{\varphi }_{j}}) = - cos(\tau + {{\varphi }_{j}})$, то исходная проблема моментов может быть записана в следующей форме.

Проблема моментов на окружности. Для $j = 1,\;2$, для двух заданных наборов чисел $\mu _{n}^{j}$, $n = 0,\;1,\; \ldots $, найти функцию $\alpha $ такую, что

Рассмотрим вопрос о неопределенности проблемы моментов (15). Рассмотрим угол ${{\varphi }_{0}} = {{\varphi }_{1}} - {{\varphi }_{2}}$, введенный в конце п. 1, который мы назвали углом между (комплексными) характеристиками. Пусть правые части $\mu _{n}^{j}$ равны нулю, тогда для чисел

${{C}_{n}} = \int_{\partial K} \alpha (\tau )cosn\tau d\tau $ и ${{S}_{n}} = \int_{\partial K} \alpha (\tau )sinn\tau d\tau $

мы имеем систему двух уравнений

$cosn{{\varphi }_{1}}{{C}_{n}} - sinn{{\varphi }_{1}}{{S}_{n}} = 0$, $cosn{{\varphi }_{2}}{{C}_{n}} - sinn{{\varphi }_{2}}{{S}_{n}} = 0$

с определителем ${{\Delta }_{n}} = sinn{{\varphi }_{0}}$. Если ${{\Delta }_{n}} \ne 0$, то $\alpha = 0$ и проблема моментов (15) определена. Если же ${{\Delta }_{n}} = 0$, то

и, во-первых, функция $\alpha = sinn(\tau + {{\varphi }_{j}})$ аннулирует левую часть равенства (15), и потому эта проблема моментов не определена, а во-вторых, определители ${{\Delta }_{2}},\;{{\Delta }_{3}},\; \ldots $ также равны нулю, и имеется счетное число таких функций $\alpha $. Тем самым доказана

Теорема 5. Критерием неопределенности проблемы моментов (15) на окружности является условие (16). При выполнении этого условия имеется счетное число линейно независимых функций, аннулирующих левую часть равенства (15).

Определение 2. Определим пространство Соболева $H_{\rho }^{m}(\partial K)$ с весом $\rho = \rho (n)$ для коэффициентов Фурье как пространство функций

из ${{L}_{2}}(\partial K)$ таких, что коэффициенты $\alpha _{n}^{C}$, $\alpha _{n}^{S}$ разложения удовлетворяют условию

Замечание 1. В дальнейшем в качестве веса $\rho (n)$ примем значение

Отметим, что $\left| {{\text{Im}}({{\varphi }_{1}} + {{\varphi }_{2}})} \right| - \left| {{\text{Im}}({{\varphi }_{2}} - {{\varphi }_{1}})} \right| > 0$ для неправильно эллиптического уравнения (4). Пространство $H_{\rho }^{m}(\partial K)$ с таким весом состоит из аналитических функций. Функции с экспоненциальным убыванием коэффициентов Фурье систематически используются в теории функций, начиная с работ С.Н. Берштейна (см. [26]).

Определение 3. Будем говорить, что векторы ${{\tilde {a}}^{1}},{{\tilde {a}}^{2}} \in {{\mathbb{C}}^{2}}$ обладают $H_{\rho }^{m} - {{H}^{l}}$-свойством на кривой $\partial K$, $l \leqslant m$, если для каждой функции $\alpha \in H_{\rho }^{m}(\partial K)$ существуют единственные функции ${{\alpha }^{1}} \in M_{l}^{1}$, ${{\alpha }^{2}} \in M_{l}^{2}$ такие, что имеет место представление $\alpha = {{\alpha }^{1}} + {{\alpha }^{2}} + {\text{const}}$.

После подстановки разложения (17) в равенство (15) получим соотношения

исходя из которых определим подпространства $M_{l}^{j}$, $j = 1,\;2$, равенствами:

Теперь исследуем задачу $H_{\rho }^{m} - {{H}^{l}}$ на окружности $\partial K$ в предположении, что $\alpha \in H_{\rho }^{m}(\partial K)$ – произвольная функция, имеющая представление (17). Спроектируем вектор $(\alpha _{n}^{C},\alpha _{n}^{S}) \in {{\mathbb{C}}^{2}}$ на прямую $\alpha _{n}^{C}cosn{{\varphi }_{1}} - \alpha _{n}^{S}sinn{{\varphi }_{1}} = 0$ вдоль прямой $\alpha _{n}^{C}cosn{{\varphi }_{2}} - \alpha _{n}^{S}sinn{{\varphi }_{2}} = 0$. Определяя координаты $(\alpha _{n}^{{1,C}},\alpha _{n}^{{1,S}})$ проекции из системы

будем иметь

Прямым дополнением этого вектора в ${{\mathbb{C}}^{2}}$, лежащим на второй прямой, будет вектор

Далее, имея координаты проекции и прямого дополнения, найдем функции ${{\alpha }^{j}} \in M_{l}^{j},$ $j = 1,\;2$:

Рассмотрим векторы ${{\tilde {a}}^{1}},{{\tilde {a}}^{2}} \in {{\mathbb{C}}^{2}}$, заданные уравнением (4), и выясним, при каком показателе $l$, $l \leqslant m$, эти векторы обладают $H_{\rho }^{m} - {{H}^{l}}$-свойством на кривой $\partial K$. Исследуем отдельно два случая, отмеченные во введении:

2) ${{\varphi }_{0}} = {{\varphi }_{2}} - {{\varphi }_{1}}$ – вещественное $\pi $-иррациональное число,

3) ${{\varphi }_{0}}$ – невещественное комплексное число.

Оценим коэффициенты при множителях $\alpha _{n}^{C}cosn\tau $, $\alpha _{n}^{S}cosn\tau $, $\alpha _{n}^{C}sinn\tau $, $\alpha _{n}^{S}sinn\tau $ в выражениях (19) функций ${{\alpha }^{1}}$ и ${{\alpha }^{2}}$:

Случай 2). Напомним, что, по предположению из замечания 1, мы используем вес для коэффициентов Фурье в виде $\rho = {{e}^{{n(|{\text{Im}}({{\varphi }_{1}} + {{\varphi }_{2}})| - |{\text{Im}}({{\varphi }_{2}} - {{\varphi }_{1}})|)}}}$, так что $\rho = {{e}^{{n|{\text{Im}}({{\varphi }_{1}} + {{\varphi }_{2}})|}}}$ при вещественном ${{\varphi }_{0}}$, поскольку в этом случае $\operatorname{Im} {{\varphi }_{1}} = \operatorname{Im} {{\varphi }_{2}}$.

Воспользуемся следующим утверждением из книги [24].

Утверждение 1. Пусть $\mu + 1 > 0$. Неравенство для числа ${{\varphi }_{0}} \in \mathbb{R}$

равносильно неравенству

Из неравенства (21) нетрудно видеть, что при вещественном ${{\varphi }_{0}}$ все указанные выше отношения в левых частях неравенств (20) оцениваются величиной $\rho {{n}^{\mu }}$. Следовательно, коэффициенты функций ${{\alpha }^{1}}$, ${{\alpha }^{2}}$ удовлетворяют оценке

которая означает, с учетом принадлежности $\alpha \in H_{\rho }^{m}(\partial K)$, что ${{\alpha }^{j}} \in {{H}^{{m - \mu }}}(\partial K)$. В самом деле, Итак, мы выяснили, используя неравенство (18) определения 2, что в случае 2) функции ${{\alpha }^{j}} \in {{H}^{{m - \mu }}}(\partial K)$ (т.е. искомое $l = m - \mu $).

Переходим к исследованию случая 3).

Случай 3). Если ${{\varphi }_{0}}$ – комплексное невещественное число, то, как нетрудно убедиться, все четыре отношения из (12) оцениваются сверху весом $\rho = {{e}^{{n(|{\text{Im}}({{\varphi }_{1}} + {{\varphi }_{2}})| - |{\text{Im}}({{\varphi }_{2}} - {{\varphi }_{1}})|)}}}$. Но тогда

поэтому, снова используя определение 2, замечаем, что функции ${{\alpha }^{j}} \in {{H}^{m}}(\partial K)$ (здесь индекс $l$ совпадает с $m$).

Резюмируя полученные результаты, сформулируем только что доказанное нами утверждение как теорему 6.

Теорема 6. Пусть ${{\varphi }_{0}}$ – вещественное число, $\alpha \in H_{\rho }^{m}(\partial K)$ и пусть выполнено неравенство (21). Тогда функции ${{\alpha }^{j}}$, $j = 1,\;2$, принадлежат пространству ${{H}^{{m - \mu }}}(\partial K)$. Если же ${{\varphi }_{0}}$ – комплексное невещественное число и по-прежнему $\alpha \in H_{\rho }^{m}(\partial K)$, то функции ${{\alpha }^{j}} \in {{H}^{m}}(\partial K)$.

Замечание 2. Отметим, что в смысле определения 3 последнее утверждение означает, что при вещественном ${{\varphi }_{0}}$ векторы ${{\tilde {a}}^{1}},{{\tilde {a}}^{2}} \in {{\mathbb{C}}^{2}}$ обладают $H_{\rho }^{m} - {{H}^{{m - \mu }}}$-свойством на окружности $\partial K$, а в случае комплексного ${{\varphi }_{0}}$ указанные векторы обладают $H_{\rho }^{m} - {{H}^{m}}$-свойством на $\partial K$.

5. ЗАДАЧА ДИРИХЛЕ ДЛЯ НЕПРАВИЛЬНО ЭЛЛИПТИЧЕСКОГО УРАВНЕНИЯ

Обратимся к формулировке и доказательству результата, отражающего связь свойств проблемы моментов (15) с разрешимостью задачи Дирихле

для уравнения (4).

Теорема 7. Пусть ${{\varphi }_{0}}$ вещественно и $\pi $-иррационально. Если векторы ${{\tilde {a}}^{1}},{{\tilde {a}}^{2}} \in {{\mathbb{C}}^{2}}$ имеют $H_{\rho }^{{s - 3/2}} - {{H}^{{s - \mu - 3/2}}}$-свойство на границе $\partial K$ круга, то решение $u(x)$ задачи (22) для уравнения (4) существует, единственно и принадлежит пространству${{H}^{{s - \mu }}}(K)$.

Доказательство. Ввиду свойства $H_{\rho }^{{s - 3/2}} - {{H}^{{s - \mu - 3/2}}}$ векторов ${{\tilde {a}}^{1}}$, ${{\tilde {a}}^{2}}$ всякая функция $2\gamma = 2\psi _{\tau }^{'} \in H_{\rho }^{{s - 3/2}}(\partial K)$ представима в виде суммы $2\gamma = {{{v}}_{1}} + {{{v}}_{2}}$, где ${{{v}}_{j}} \in M_{{s - \mu - 3/2}}^{j}$, $j = 1,\;2$. Положим $\kappa = \tfrac{{\bar {\Delta }}}{2}({{{v}}_{1}} - \gamma )$, где $\Delta = sin{{\varphi }_{0}}$. Поскольку $H_{\rho }^{{s - 3/2}} \subset {{H}^{{s - 3/2}}} \subset {{H}^{{s - \mu - 3/2}}}$, функция $\kappa \in {{H}^{{s - \mu - 3/2}}}(\partial K)$. При таком выборе функций $\gamma $ и $\kappa $ выполняется равенство (10).

В самом деле, при $j = 1$ выражение в квадратных скобках под интегралом

$\int_{\partial K} {\left[ {\kappa - {{{( - 1)}}^{j}}\tfrac{{\bar {\Delta }}}{2}\gamma } \right]Q(x \cdot {{{\tilde {a}}}^{j}})d\tau } $

имеет вид

так что равенство нулю интеграла $\int_{\partial K} {\tfrac{{\bar {\Delta }}}{2}{{{v}}_{1}}Q(x \cdot {{{\tilde {a}}}^{1}})d\tau } $ достигается в силу принадлежности ${{{v}}_{1}} \in M_{{s - \mu - 3/2}}^{1}$.

Аналогично, при $j = 2$ имеем

так как ${{{v}}_{2}} \in M_{{s - \mu - 3/2}}^{2}$.

Из равенства нулю указанных интегралов следует (в силу теоремы 2), что существует решение $u \in {{H}^{{s - \mu }}}(K)$ задачи Дирихле (4), (22). Теорема доказана.

Теорема 8. Пусть ${{\varphi }_{0}}$ невещественно. Если векторы ${{\tilde {a}}^{1}},{{\tilde {a}}^{2}} \in {{\mathbb{C}}^{2}}$ имеют $H_{\rho }^{{s - 3/2}} - {{H}^{{s - 3/2}}}$-свойство на границе $\partial K$ круга, то решение $u(x)$ задачи (22) для уравнения (4) существует, единственно и принадлежит пространству ${{H}^{s}}(K)$.

Доказательство аналогично доказательству предыдущей теоремы с той разницей, что в этом случае $\mu = 0$.

Объединяя утверждения теорем 6, 7 и 8, получаем основной результат в виде теорем 9 и 10, отвечающих случаям 2) и 3).

Теорема 9. Пусть ${{\varphi }_{0}}$ вещественно и $\pi $-иррационально, $\psi \in H_{\rho }^{{s - 1/2}}(\partial K)$ и пусть выполнено неравенство (21). Тогда решение задачи (4), (22) существует, единственно и принадлежит пространству ${{H}^{{s - \mu }}}(K)$.

Теорема 10. Если ${{\varphi }_{0}}$ – невещественное число и $\psi \in H_{\rho }^{{s - 1/2}}(\partial K)$, то решение задачи (4), (22) существует, единственно и принадлежит пространству ${{H}^{s}}(K)$.

Отметим важное следствие.

Утверждение 2. Утверждение теоремы 10 справедливо для правильно эллиптического уравнения второго порядка.

Для доказательство заметим, что элементарный просчет выражения $\operatorname{tg} (x + iy)$ дает, что $\operatorname{Im} \operatorname{tg} (x + iy) > 0$ тогда и только тогда, когда $y > 0,$ а это значит, что угол ${{\varphi }_{k}}$, $k = 1,\;2$, имеет тот же знак, что и $\operatorname{tg} {{\varphi }_{k}}$, и тот же знак для $\operatorname{ctg} {{\lambda }_{k}} = - {{\varphi }_{k}}$, и, значит, ${{\varphi }_{0}}$ невещественно в правильно эллиптическом случае.

6. ЗАДАЧА НЕЙМАНА И ОДНА ЗАДАЧА С КОСОЙ ПРОИЗВОДНОЙ ДЛЯ НЕПРАВИЛЬНО ЭЛЛИПТИЧЕСКОГО УРАВНЕНИЯ

Напомним, что если $\mathcal{L}$ – эллиптический оператор второго порядка и на границе $\partial \Omega $ области (точнее, в некоторой окрестности границы) задана вектор-функция $l = l(x)$ со значениями в ${{\mathbb{R}}^{n}}$, то задача

называется задачей с косой производной [27]. При $n \geqslant 3$ эллиптичность такой задачи равносильна тому, что поле $l(x)$ не касается границы ни в одной точке $x \in \partial \Omega $, а при $n = 2$ эллиптичность эквивалентна условию: $l(x) \ne 0$ при всех $x \in \partial \Omega $. Отметим, что если направление $l$ совпадает с направлением конормали, то задача с косой производной переходит в задачу Неймана. Ниже, рассматривая уравнение с комплексными коэффициентами, мы сталкиваемся с комплексным направлением конормали и потому позволим вектор-функции $l(x)$ принимать комплексные значения.

Рассмотрим задачу Неймана

для уравнения (4) в пространстве Соболева ${{H}^{s}}(K)( = W_{2}^{s}(K))$, $s \geqslant 2$, где $K = \{ x \in {{\mathbb{R}}^{2}}:\left| x \right| < 1\} $ – единичный круг с границей $\partial K$, функция $\kappa \in {{H}^{{s - 3/2}}}(\partial K)$, и выясним, для каких классов граничных данных такая задача имеет единственное решение.

Ниже приводится теорема 11, отражающая связь свойств проблемы моментов (15) с разрешимостью задачи (4), (23).

Теорема 11. Пусть ${{\varphi }_{0}}$ вещественно и $\pi $-иррационально. При наличии $H_{\rho }^{{s - 3/2}} - {{H}^{{s - \mu - 3/2}}}$-свойства на границе $\partial K$ круга у векторов ${{\tilde {a}}^{1}},{{\tilde {a}}^{2}} \in {{\mathbb{C}}^{2}}$ решение $u(x)$ задачи (23) с $\kappa \in H_{\rho }^{{s - 3/2}}(\partial K)$ для уравнения (4) существует, единственно (с точностью до аддитивной постоянной) и принадлежит пространству ${{H}^{{s - \mu }}}(K)$.

Доказательство. Ввиду свойства $H_{\rho }^{{s - 3/2}} - {{H}^{{s - \mu - 3/2}}}$ векторов ${{\tilde {a}}^{1}}$, ${{\tilde {a}}^{2}}$ всякая функция $\kappa \in H_{\rho }^{{s - 3/2}}(\partial K)$ представима в виде суммы $\kappa = {{{v}}_{1}} + {{{v}}_{2}}$, где ${{{v}}_{j}} \in M_{{s - \mu - 3/2}}^{j} \subset {{H}^{{s - \mu - 3/2}}}(\partial K)$, $j = 1,\;2$. Нам необходимо по известной функции $\kappa $ построить функцию $\gamma $ таким образом, чтобы было выполнено интегральное равенство (10) из теоремы 2. Полагая $\gamma = \tfrac{2}{{\bar {\Delta }}}(2{{{v}}_{1}} - \kappa )$, где $\Delta = sin{{\varphi }_{0}}$, и подставляя разложение $\kappa = {{{v}}_{1}} + {{{v}}_{2}}$, получаем $\gamma = \tfrac{2}{{\bar {\Delta }}}({{{v}}_{1}} - {{{v}}_{2}})$.

Убедимся, что при таком выборе $\gamma $ и $\kappa $ выполняется равенство (10). В самом деле, при $j = 1$ имеем

Ясно, что равенство нулю интеграла достигается в силу принадлежности ${{{v}}_{1}} \in M_{{s - \mu - 3/2}}^{1}$.

Далее, при $j = 2$ получаем

поскольку ${{{v}}_{2}} \in M_{{s - \mu - 3/2}}^{2}$.

Отметим, что ввиду вложения функция $\kappa \in H_{\rho }^{{s - 3/2}}(\partial K) \subset {{H}^{{s - 3/2}}}(\partial K) \subset {{H}^{{s - \mu - 3/2}}}(\partial K)$. Кроме того, $\gamma \in {{H}^{{s - \mu - 3/2}}}(\partial K)$, так как имеет место представление $\gamma = \tfrac{2}{{\bar {\Delta }}}({{{v}}_{1}} - {{{v}}_{2}})$, где ${{{v}}_{j}} \in M_{{s - \mu - 3/2}}^{j} \subset {{H}^{{s - \mu - 3/2}}}(\partial K)$, $j = 1,\;2$.

Итак, обе функции $\gamma $ и $\kappa $ принадлежат пространству ${{H}^{{s - \mu - 3/2}}}(\partial K)$ и удовлетворяют равенству (10). Следовательно, для этих функций справедлива теорема 2, а это, в свою очередь, означает, что существует решение $u(x) \in {{H}^{{s - \mu }}}(K)$ задачи

с двумя граничными условиями для уравнения (4). Таким образом, функция $u(x)$ удовлетворяет исходному уравнению и каждому из граничных условий, в частности, условию Неймана ${{\left. {u_{{{{\nu }_{*}}}}^{'}} \right|}_{{\partial K}}} = \kappa $. Значит, существует единственное (с точностью до аддитивной постоянной) решение $u(x) \in {{H}^{{s - \mu }}}(K)$ задачи (4), (23). Теорема доказана.

Теорема 12. Пусть ${{\varphi }_{0}}$ невещественно. Если векторы ${{\tilde {a}}^{1}},{{\tilde {a}}^{2}} \in {{\mathbb{C}}^{2}}$ обладают $H_{\rho }^{{s - 3/2}} - {{H}^{{s - 3/2}}}$-свойством на границе $\partial K$ круга, то решение $u(x)$ задачи (23) для уравнения (4) существует, единственно (с точностью до аддитивной постоянной) и принадлежит пространству ${{H}^{s}}(K)$.

Доказательство аналогично доказательству теоремы 7 при условии, что $\mu = 0$.

Объединяя, как и в случае первой краевой задачи, утверждения теорем 6, 11 и 12, получаем основной результат по задаче Неймана в виде теорем 13 и 14, отвечающих случаям 2) и 3).

Теорема 13. Пусть ${{\varphi }_{0}}$ вещественно и $\pi $-иррационально, $\kappa \in H_{\rho }^{{s - 3/2}}(\partial K)$ и пусть выполнено неравенство (21). Тогда решение задачи (4), (23) существует, единственно (с точностью до аддитивной постоянной) и принадлежит пространству ${{H}^{{s - \mu }}}(K)$.

Теорема 14. Если ${{\varphi }_{0}}$ – невещественное число и $\kappa \in H_{\rho }^{{s - 3/2}}(\partial K)$, то решение задачи (4), (23) существует, единственно (с точностью до аддитивной постоянной) и принадлежит пространству ${{H}^{s}}(K)$.

Перейдем к исследованию разрешимости задачи с косой производной:

где $g \ne \pm \tfrac{{\bar {\Delta }}}{2}$, $\Delta = sin{{\varphi }_{0}}$, и будем предполагать, что $\sigma \in H_{\rho }^{m}(\partial K)$.

По определению $H_{\rho }^{m} - {{H}^{l}}$-свойства векторов ${{\tilde {a}}^{1}}$, ${{\tilde {a}}^{2}}$ имеет место представление $\sigma = {{w}_{1}} + {{w}_{2}}$, где ${{w}_{i}} \in M_{l}^{i} \subset {{H}^{l}}(\partial K)$, $l \leqslant m$, $i = 1,\;2$. Пусть

выразим через ${{{v}}_{1}}$ и ${{{v}}_{2}}$ функции $\kappa $ и $\gamma $: Тогда откуда т.е. по заданным функциям ${{w}_{i}}$, построенным по известной функции $\sigma $, мы по последним формулам получим функции ${{v}_{i}}$, а по ним по формуле (25) строим функции $\kappa $ и $\gamma $: В силу принадлежности ${{w}_{1}},{{w}_{2}} \in {{H}^{l}}(\partial K)$, функции $\gamma $ и $\kappa $ также лежат в ${{H}^{l}}(\partial K)$, а по построению функций ${{w}_{i}}$ они удовлетворяют интегральному равенству (10). Но тогда из теоремы 2 следует существование единственного решения $u(x) \in {{H}^{{l + 3/2}}}(K)$ задачи А этот факт влечет, в свою очередь, существование единственного решения задачи (4), (24). Действительно, выразим ${{w}_{1}}$ и ${{w}_{2}}$ из равенств (26) через $\kappa $ и $\gamma $ и подставив их значения в представление $\sigma = {{w}_{1}} + {{w}_{2}}$, получим в точности граничное условие (24). Таким образом, функция $u$ удовлетворяет исходному уравнению и условию (24), т.е. является решением задачи с косой производной.

Замечание 3. 1) Если ${{\varphi }_{0}} = {{\varphi }_{2}} - {{\varphi }_{1}}$ – вещественное и $\pi $-иррациональное число и $\sigma \in H_{\rho }^{m}(\partial K)$, то функции $\gamma ,\kappa \in {{H}^{{m - \mu }}}(\partial K)$ (в этом случае $l = m - \mu $).

2) Если же ${{\varphi }_{0}}$ – комплексное невещественное число и по-прежнему $\sigma \in H_{\rho }^{m}(\partial K)$, то $\gamma ,\kappa \in {{H}^{m}}(\partial K)$ (т.е. $l = m$).

Действительно, из теоремы 6, в силу $H_{\rho }^{m} - {{H}^{l}}$-свойства, следует, что ${{w}_{1}},{{w}_{2}} \in {{H}^{{m - \mu }}}(\partial K)$ в случае 1) и ${{w}_{1}},{{w}_{2}} \in {{H}^{m}}(\partial K)$ в случае 2) соответственно, но, как установлено выше (см. (26)), функции $\gamma $ и $\kappa $ принадлежат тому же пространству, что и ${{w}_{1}}$, ${{w}_{2}}$.

Сформулируем окончательный результат, касающийся разрешимости задачи с косой производной для исходного уравнения (4).

Теорема 15. Пусть $\sigma \in H_{\rho }^{m}(\partial K)$ и выполнено $H_{\rho }^{m} - {{H}^{l}}$-свойство на границе $\partial K$. Тогда решение граничной задачи (4), (24) существует, единственно и принадлежит пространству ${{H}^{l}}(K)$, причем

В случае вещественного ${{\varphi }_{0}}$ требуется дополнительно выполнение неравенства (21).

7. ТРЕТЬЯ КРАЕВАЯ ЗАДАЧА ДЛЯ НЕПРАВИЛЬНО ЭЛЛИПТИЧЕСКОГО УРАВНЕНИЯ

Для неправильно эллиптического уравнения (4) (или уравнения (3) в указанных предположениях) в единичном круге $K$ будем изучать корректную разрешимость третьей краевой задачи

в предположении, что правая часть в граничном условии $\beta \in H_{\rho }^{m}(\partial K)$, а коэффициент $g \in \mathbb{C}{\backslash \{ }0{\text{\} }}$. Ограничимся рассмотрением случая комплексного угла ${{\varphi }_{0}}$.

Снова возьмем за основу теорему 2 и определение 2 весового пространства и подставим в интегральное равенство (10) вместо полинома $Q$ – полином Чебышёва I рода, а вместо функций $\kappa $ и $\gamma $ – их разложения вида (17) по системе ${\text{\{ }}cosn\tau ,\;sinn\tau {\text{\} }}$. В результате получим систему двух уравнений:

Выразим коэффициенты разложения функций $\kappa $ и $\gamma $ через коэффициенты функций $\psi $ и $\beta $. Из граничного условия (27) следует, что $\kappa = \beta + g\psi $, поэтому Далее, поскольку $\gamma = {{\left. {u_{\tau }^{'}} \right|}_{{\partial K}}} = \psi _{\tau }^{'}$, то $\gamma (\tau ) = \sum\nolimits_{n = 1}^\infty {(n\psi _{n}^{S}cosn\tau - n\psi _{n}^{C}sinn\tau )} $, и соответственно Вернемся к системе (28) и подставим в нее выражения (29) и (30), после чего она преобразуется в систему линейных уравнений относительно неизвестных коэффициентов $\psi _{n}^{C}$, $\psi _{n}^{S}$:

Определитель системы (31) ${{\Delta }_{n}} = - g\bar {\Delta }ncosn{{\varphi }_{0}} + \left( {\tfrac{{{{{\bar {\Delta }}}^{2}}{{n}^{2}}}}{4} - {{g}^{2}}} \right)sinn{{\varphi }_{0}}$. Отметим, что случай нарушения единственности решения рассматриваемой задачи, ${{\Delta }_{n}} = 0$, описан в книге [24], где указан счетный набор чисел $g$, при котором соответствующая однородная задача имеет нетривиальное решение.

Кроме того,

Поскольку

то коэффициенты $\psi _{n}^{C}$, $\psi _{n}^{S}$ разложения функции $\psi $, которые являются решениями системы (31), могут быть оценены сверху (в случае комплексного угла ${{\varphi }_{0}}$) следующим образом:

Ввиду неравенства (18), определяющего весовое пространство, и из последних оценок для коэффициентов $\psi _{n}^{C}$, $\psi _{n}^{S}$ заключаем, что $\sum\nolimits_{n = 1}^\infty {\left| {{{{\left| {\psi _{n}^{C}} \right|}}^{2}} + {{{\left| {\psi _{n}^{S}} \right|}}^{2}}} \right|} {{n}^{{2(m + 1)}}} < \infty $, а это означает принадлежность функции $\psi $ пространству ${{H}^{{m + 1}}}(\partial K)$. Учитывая этот факт и равенства (30), нетрудно установить принадлежность $\gamma \in {{H}^{m}}(\partial K)$. Кроме того, так как функция $\kappa $ выражается через известную $\beta $ и найденную $\psi $, а также в силу вложений $H_{\rho }^{m}(\partial K) \subset {{H}^{m}}(\partial K)$ и ${{H}^{{m + 1}}}(\partial K) \subset {{H}^{m}}(\partial K)$, получаем $\kappa \in {{H}^{m}}(\partial K)$.

Таким образом, решая систему (28), полученную путем подстановки разложений неизвестных функций $\gamma $ и $\kappa $ в интегральное равенство (10), а также оценивая в последующем решения системы (31), мы приходим к выводу о принадлежности $\gamma $ и $\kappa $ одному и тому же пространству Соболева. На основании теоремы 2 заключаем, что исходная задача (4), (27) обладает единственным решением, которое содержится в ${{H}^{{m + 3/2}}}(K)$. Данный результат сформулируем ниже в виде теоремы 16.

Теорема 16. Пусть угол ${{\varphi }_{0}} = {{\varphi }_{2}} - {{\varphi }_{1}}$ между характеристиками уравнения (4) является комплексным, а правая часть в граничном условии (27) – элемент весового пространства $H_{\rho }^{m}(\partial K)$. Тогда решение $u(x)$ третьей краевой задачи (4), (27) в круге существует, единственно и принадлежит пространству ${{H}^{{m + 3/2}}}(K)$.