Журнал вычислительной математики и математической физики, 2022, T. 62, № 10, стр. 1632-1638

О сходимости непрерывных аналогов численных методов решения вырожденных оптимизационных задач и систем нелинейных уравнений

Ю. Г. Евтушенко 12*, А. А. Третьяков 134**

1 ФИЦ ИУ РАН
119333 Москва, ул. Вавилова, 40, Россия

2 Московский физико-технический институт (государственный университет)
141701 М.о., Долгопрудный, Институтский переулок, 9, Россия

3 System Res. Inst., Polish Acad. Sciences
01-447 Warsaw, Newelska 6, Poland

4 Siedlce University, Faculty of Sciences
08-110 Siedlce, Poland

* E-mail: yuri-evtushenko@yandex.ru
** E-mail: prof.tretyakov@gmail.com

Поступила в редакцию 23.03.2022
После доработки 23.03.2022
Принята к публикации 08.06.2022

Полный текст (PDF)

Аннотация

Предлагается новый подход к исследованию на сходимость непрерывных аналогов градиентного метода и метода Ньютона при решении вырожденных нелинейных систем уравнений и задач безусловной оптимизации в случае, когда традиционные функции Ляпунова не эффективны или вообще не применимы. Основное аппаратное средство, которое используется для анализа вырожденных задач, это так называемая $p$-фактор функция Ляпунова, позволяющая сводить исходную задачу к новой, на основе конструкций теории $p$-регулярности, и построить метод, сходящийся к точному решению в вырожденном случае. Библ. 14.

Ключевые слова: вырожденность, устойчивость, $p$-регулярность, $p$-фактор функция Ляпунова, сходимость.

ВВЕДЕНИЕ

При построении численных методов решения систем уравнений или решении оптимизационных задач, а также исследовании устойчивости этих методов весьма эффективным является аппарат функций Ляпунова. Одним из главных предположений для сходимости (а также устойчивости) является неврожденность матрицы Якоби (для уравнения) или матрицы Гессе (для задач оптимизации). Однако в случае вырождения эти условия нарушаются в решении. Рассмотрим систему

(1)
$\dot {x}(t) = f(x),\quad x(0) = {{x}_{0}}$
и задачу отыскания безусловного минимума функции $\varphi (x)$ на ${{\mathbb{R}}^{n}}$, т.е.
(2)
$\mathop {\min }\limits_{x \in {{\mathbb{R}}^{n}}} \varphi (x).$
Для численного решения Коши предложил решать задачу (2), отыскивая предельные точки системы дифференциальных уравнений
(3)
$\dot {x}(t) = - {{\varphi }_{x}}(x),\quad x(0) = {{x}_{0}}.$
При этом естественно предполагается существование хотя бы одного решения (3) $x = x{\kern 1pt} *$ задачи оптимизации (2).

Для решения задачи (1) можно рассматривать численный метод

(4)
$\dot {x}(t) = - {{\left( {f{\kern 1pt} '{\kern 1pt} (x)} \right)}^{{ - 1}}}f(x),$
а для задачи (2) метод
(5)
$\dot {x}(t) = - {{\left( {\varphi {\kern 1pt} '{\kern 1pt} '(x)} \right)}^{{ - 1}}}\varphi {\kern 1pt} '(x),$
которые являются непрерывными аналогами метода Ньютона, а (1) можно рассматривать как непрерывный аналог градиентного метода. При исследовании устойчивости (сходимости) этих методов, если мы используем традиционные функции Ляпунова вида
(6)
${v}(x) = {{\left\| {f(x)} \right\|}^{2}}$
для задачи (1), (4) или ${v}(x) = {{\left\| {\varphi {\kern 1pt} '(x)} \right\|}^{2}}$ для задачи (2), (5), то необходимым условием сходимости методов (1), (5) к точке решения $x{\kern 1pt} *$ при $t \to \infty $ является отрицательная определенность $\frac{{d{v}(x{\kern 1pt} *)}}{{dt}} < 0$.

Теорема 1 (Ляпунова). Пусть для системы (1) существует функция Ляпунова ${v}(x)$, т.е. ${v}(x) > 0$ и $\frac{{d{v}(x)}}{{dt}} < 0$ $\forall x \in V(x{\kern 1pt} *){{\backslash }}\{ x{\kern 1pt} *\} $, ${v}(x{\kern 1pt} *) = 0$. Тогда тривиальное решение $x{\kern 1pt} * = 0$ асимптотически устойчиво.

Для изучения вопроса устойчивости в невырожденном случае аппарат функции Ляпунова является весьма эффективным (см., например, [1], [11], [13]).

Если отображение $f(x)$ отрицательно определено в точке $x{\kern 1pt} *$, т.е. $f{\kern 1pt} '(x{\kern 1pt} *) < 0$, то, очевидно $\frac{{d{v}(x{\kern 1pt} *)}}{{dt}} < 0$ и можно гарантировать асимптотическую устойчивость (или сходимость) траектории системы $x(t)$ к $x{\kern 1pt} *$ при $t \to \infty $. (Мы здесь, без ограничения общности, говорим об отображении $f(x)$, учитывая, что все сказанное будет также справедливо относительно отображения $\varphi {\kern 1pt} '(x)$.) Однако существует обширный класс задач вида (1), (5), в которых отображение $f(x)$ вырождено в точке $x{\kern 1pt} * = 0$ (предполагается, что $f(0) = 0$ и $x{\kern 1pt} *{\kern 1pt} (t) = 0$ являются положением равновесия системы (1)) и строить функцию Ляпунова весьма затруднительно. Например, для систем вида $\dot {x} = {{x}^{{2p}}}$, $p \geqslant 1$, $p \in \mathbb{N}$, $x \in {{\mathbb{R}}^{2}}$, или ${{\dot {x}}_{1}} = {{x}_{1}} + {{x}_{1}}{{x}_{2}}$, ${{\dot {x}}_{2}} = x_{1}^{2} + x_{2}^{3}$, $x \in {{\mathbb{R}}^{2}}$, и т.д.

В этом случае матрица $f{\kern 1pt} '(x{\kern 1pt} *)$ вырождена в точке $x{\kern 1pt} * = 0$ и применить классическую функцию Ляпунова типа (6) невозможно. Значит, при исследовании непрерывного аналога градиентного метода (1) или метода Ньютона (3) для отыскания предельных точек системы (1) или (3) в случае вырождения в решении матрица Якоби $f{\kern 1pt} '(x{\kern 1pt} *)$ (или матрица Гессе $\varphi {\kern 1pt} '{\kern 1pt} '(x{\kern 1pt} *)$) не будут отрицательно определены и поэтому непрерывный аналог градиентного метода (4) (или метода Ньютона (3)) может не сходиться при $t \to \infty $ к стационарной точке функции $f(x)$ (или к точке минимума функции $\varphi (x)$). Вопрос тогда ставится следующий: каким образом исследовать сходимость в вырожденном случае и непрерывный аналог какого метода дает устойчивость решения и сходимость траектории к стационарным точкам отображения $f(x)$ (или $\varphi {\kern 1pt} '(x)$) при $t \to \infty $.

Оказывается, что для вырожденных систем (1) эффективным методом исследования устойчивости (сходимости) является аппарат теории $p$-регулярности, описание и основные конструкции которого можно найти, например, в [12].

1. ЭЛЕМЕНТЫ ТЕОРИИ $p$-РЕГУЛЯРНОСТИ

Пусть отображение $f({\kern 1pt} \cdot {\kern 1pt} ):X \to Y$ достаточно гладкое (по крайне мере, до порядка $p + 1$), $X$, $Y$ – банаховы пространства. Считаем при этом в точке $x{\kern 1pt} * \in X$, $f(x{\kern 1pt} *) = 0$. Для нас интересен случай вырождения $f( \cdot )$ в точке $x{\kern 1pt} *$, т.е. $\operatorname{Im} f{\kern 1pt} '{\kern 1pt} (x{\kern 1pt} *) \ne Y$. Пусть пространство $Y$ разложимо в прямую сумму подпространств

(7)
$Y = {{Y}_{1}} \oplus \ldots \oplus {{Y}_{p}},$
где ${{Y}_{1}} = \overline {\operatorname{Im} f{\kern 1pt} '{\kern 1pt} (x{\kern 1pt} *)} $, ${{Z}_{1}} = Y$ и пусть ${{Z}_{2}}$ – замкнутое дополнение пространства ${{Y}_{1}}$ до $Y$ (мы предполагаем, что такое существует).

Обозначим через ${{P}_{{{{Z}_{2}}}}}:Y \to {{Z}_{2}}$ оператор проектирования на ${{Z}_{2}}$ параллельно ${{Y}_{1}}$. Тогда через ${{Y}_{2}}$ обозначим замыкание линейной оболочки образа квадратичной формы ${{P}_{{{{Z}_{2}}}}}{{f}^{{(2)}}}(x{\kern 1pt} *)[{\kern 1pt} \cdot {\kern 1pt} {{]}^{2}}$. Далее определим индуктивно

${{Y}_{i}} = \overline {\operatorname{span} \operatorname{Im} {{P}_{{{{Z}_{i}}}}}{{f}^{{(i)}}}(x{\kern 1pt} *)[{\kern 1pt} \cdot {\kern 1pt} {{]}^{i}}} \subseteq {{Z}_{i}},$
где ${{Z}_{i}}$ – замкнутое дополнение к $({{Y}_{1}} \oplus \ldots \oplus {{Y}_{{i - 1}}})$. Окончательно получаем ${{Y}_{p}} = {{Z}_{p}}$. При этом число $p \in \mathbb{N}$ выбирается как минимальный номер, для которого (7) имеет место. Определим отображения
(8)
${{f}_{i}}(x) = {{P}_{{{{Y}_{i}}}}}f(x)\,:X \to {{Y}_{i}},\quad i = 1, \ldots ,p,$
где ${{P}_{{{{Y}_{i}}}}}:Y \to {{Y}_{i}}$ – оператор проектированая на ${{Y}_{i}}$ параллельно ${{Y}_{1}} \oplus \ldots \oplus {{Y}_{{i - 1}}},{{Y}_{{i + 1}}} \oplus \ldots \oplus {{Y}_{p}}$, и пусть ${{P}_{i}} = {{P}_{{{{Y}_{i}}}}}$, $i = 1, \ldots ,p$.

Определение 1. Линейный оператор ${{\Psi }_{p}}(x,h) \in L(X,{{Y}_{1}} \oplus \ldots \oplus {{Y}_{p}})$, $h \in X$, $\left\| h \right\| \ne 0$:

(9)
${{\Psi }_{p}}(x,h) = {{f}_{1}}(x) + f_{2}^{{''}}(x)h + \ldots + f_{p}^{{(p)}}(x)[h{{]}^{{p - 1}}}$
называется $p$-фактор оператором отображения $f({\kern 1pt} \cdot {\kern 1pt} )$ в точке $x$ и оператор
${{\Phi }_{p}}(x,h) = {{f}_{1}}(x) + f_{2}^{'}(x)h + \ldots + f_{p}^{{(p - 1)}}(x)[h{{]}^{{p - 1}}}$
называется $p$-фактор функцией отображения $f(x)$.

Определение 2. Будем говорить, что отображение $f({\kern 1pt} \cdot {\kern 1pt} )$ есть $p$-регулярно в точке $x{\kern 1pt} *$ на элементе $h$, если матрица ${{\Psi }_{p}}(x{\kern 1pt} *,h)$ не вырождена, т.е. $\operatorname{Im} {{\Psi }_{p}}(x{\kern 1pt} *,h) = Y$.

Пусть ${{\operatorname{Ker} }^{k}}f_{k}^{{(k)}}(x{\kern 1pt} *)$ есть $k$-ядро $k$-формы $f_{k}^{{(k)}}(x{\kern 1pt} *)$, т.е.

${{\operatorname{Ker} }^{k}}f_{k}^{{(k)}}(x{\kern 1pt} *) = \{ \xi \in X\,|\,f_{k}^{{(k)}}(x{\kern 1pt} *)[\xi {{]}^{k}} = 0\} .$
Через ${{H}_{p}}(x{\kern 1pt} *)$ обозначим ${{H}_{p}}(x{\kern 1pt} *) = \bigcap\nolimits_{k = 1}^p {{{{\operatorname{Ker} }}^{k}}f_{k}^{{(k)}}(x{\kern 1pt} *)} $.

Одним из основных результатов теории $p$-регулярности является теорема о неявной функции в вырожденном случае, которую мы представим в следующем виде [14].

Теорема 2. Пусть $g(u,x) \in {{C}^{{p + 1}}}(U,X)$, $g\,:U \times X \to Z$, где $U$, $X$ и $Z$ – банаховы пространства и отображения ${{g}_{i}}(u,x)$, $i = 1, \ldots ,p$, определены в соответствии с (8). Предположим, что $g(u{\kern 1pt} *,x{\kern 1pt} *) = 0$ и $g$ есть $p$-регулярно по переменной $x$ на элементе $h \in \bigcap\nolimits_{k = 1}^p {{{{\operatorname{Ker} }}^{k}}g_{k}^{{(k)}}(u{\kern 1pt} *,x{\kern 1pt} *)} $, $h = (\bar {u},0)$, $u \ne 0$, т.е.

$\left\{ {g_{1}^{'}(u{\kern 1pt} *,x{\kern 1pt} *) + g_{2}^{{''}}(u{\kern 1pt} *x{\kern 1pt} *)[h] + \ldots + g_{p}^{{(p)}}(u{\kern 1pt} *,x{\kern 1pt} *)[h{{]}^{{p - 1}}}} \right\}{{(0}_{u}} \times X) = Z.$
Тогда для достаточно малого $\varepsilon > 0$ существует независимая константа $C > 0$ и отображения $\varphi (u) = x{\kern 1pt} * + \;\omega (u)$ такие, что для $\alpha \in [0,\varepsilon ]$ и $u = u{\kern 1pt} * + \;\alpha \bar {u}$ будет $g(u,\varphi (u)) = 0$, $\left\| {\omega (u)} \right\| = o(\alpha )$ и

$\left\| {\varphi (u) - x{\kern 1pt} *} \right\| \leqslant C\sum\limits_{k = 1}^p {{\left\| {{{g}_{k}}(u,x{\kern 1pt} *)} \right\|}^{{1/k}}}.$

2. $p$-ФАКТОР ФУНКЦИЯ ЛЯПУНОВА И СХОДИМОСТЬ НЕПРЕРЫВНЫХ АНАЛОГОВ ГРАДИЕНТНОГО МЕТОДА И МЕТОДА НЬЮТОНА ДЛЯ ВЫРОЖДЕННЫХ СИСТЕМ

В дальнейшем, говоря об устойчивости системы (1) (или методов (1), (4)), мы будем подразумевать сходимость этих методов к решению соответствующих систем. Рассмотрим систему (1), в которой отображение $f(x)$ вырождено в точке равновесия $x{\kern 1pt} * = 0$, т.е. $\det f{\kern 1pt} '{\kern 1pt} (x{\kern 1pt} *) = 0$.

Система (1) в этом случае может и не быть устойчивой и построение на основе системы (1) новой системы (или метода), но уже устойчивой и с тем же положением равновесия $x{\kern 1pt} *$ является весьма важной проблемой. В свою очередь, ответ на вопрос об устойчивости системы (1) (или сходимости метода (1)) с использованием традиционных функций Ляпунова вида (6) не всегда возможен, см., например, случай, когда $f(x) = {{x}^{2}}$ и др.

Покажем, как можно, с использованием результатов теории $p$-регулярности, построить на основе системы (1) (или метода (1), (3)) новую систему (или новый метод), но уже асимптотически устойчивую по отношению к этому решению $x{\kern 1pt} * = 0$. (Или новый метод, сходящийся к этому же решению $x{\kern 1pt} * = 0$.) Введем так называемую $p$-фактор функцию Ляпунова.

Определение 3. Функцию ${{{v}}_{p}}(x,h) = {{\left\| {{{\Phi }_{p}}(x,h)} \right\|}^{2}}$, где ${{\Phi }_{p}}(x,h) = {{P}_{1}}f(x) + {{P}_{2}}f{\kern 1pt} '{\kern 1pt} (x)[h] + \ldots + \ldots $ $ \ldots + \;{{P}_{p}}{{f}^{{(p - 1)}}}(x)[h{{]}^{{p - 1}}}$ = ${{f}_{1}}(x) + f_{2}^{'}(x)[h] + \ldots + f_{p}^{{(p - 1)}}(x)[h{{]}^{{p - 1}}}$ будем называть $p$-фактор функцией Ляпунова для системы (1), а ${{\Phi }_{p}}(x,h)$ будем называть $p$-фактор функцией для отображения $f( \cdot )$.

Теорема 3. Пусть $f \in {{C}^{{p + 1}}}({{\mathbb{R}}^{n}})$ и существует такой элемент $h \in {{\mathbb{R}}^{n}}$, $h \ne 0$, что матрица ${{\Psi }_{p}}(x{\kern 1pt} *,h) < 0$ отрицательно определена.

Тогда система

(10)
$\dot {x}(t) = {{\Phi }_{p}}(x,h),\quad x(0) = {{x}_{0}},$
будет асимптотически устойчива в окрестности $u(x{\kern 1pt} *)$.

Соответственно, непрерывный аналог метода (3) имеет форму

(11)
$\dot {x}(t) = - {{P}_{1}}\varphi {\kern 1pt} '(x) + {{P}_{2}}\varphi {\kern 1pt} '{\kern 1pt} '(x)[h] + \ldots + {{P}_{p}}{{\varphi }^{{(p)}}}(x)[h{{]}^{{p - 1}}},\quad x(0) = {{x}_{0}},$
и называется $p$-фактор методом решения задачи оптимизации (2), а метод (10) называется $p$‑фактор методом решения системы (1).

Доказательство. Доказательство данной теоремы аналогично доказательству теоремы 1 с использованием $p$-фактор функции Ляпунова ${{\upsilon }_{p}}(x,h)$ и с учетом того, что

$\frac{{d{{{v}}_{p}}(x,h)}}{{dt}} = 2\langle {{\Psi }_{p}}(x,h){{\Phi }_{p}}(x,h),{{\Phi }_{p}}(x,h)\rangle < 0\quad \forall x \in U(x{\kern 1pt} *){{\backslash }}\{ x{\kern 1pt} *\} .$
При этом ${{\Phi }_{p}}(x,h) \ne 0$ $\forall x \in U(x{\kern 1pt} *){{\backslash }}\{ x{\kern 1pt} *\} $. Поэтому выполняется условие теоремы 1, из которой следует нужный результат.

Пример 1. Рассмотрим случай $p = 2$:

(12)
$\frac{{dx}}{{dt}} = {{x}^{2}},\quad x(0) = {{x}_{0}},\quad x{\kern 1pt} * = 0.$
Очевидно, что условия теоремы 1 для классической функции Ляпунова ${v}(x) = {{\left\| {f(x)} \right\|}^{2}} = {{x}^{4}}$ не выполнены. Однако из теоремы 3 следует, что модифицированная система $\frac{{dx}}{{dt}} = {{P}_{1}}f(x) + {{P}_{2}}f{\kern 1pt} '{\kern 1pt} (x)h = 2xh$ с $2$-фактор функцией Ляпунова ${{{v}}_{2}}(x,h) = (2xh{{)}^{2}}$ будет асимптотически устойчива при $h = 1$. Здесь ${{P}_{1}} = 0$, ${{P}_{2}} = 1$.

Что касается метода Ньютона (4) в случае вырождения в решении $x{\kern 1pt} *$, т.е. $f{\kern 1pt} '{\kern 1pt} (x{\kern 1pt} *)$ – вырождена, будет справедлива

Теорема 4. Пусть $f \in {{C}^{{p + 1}}}({{\mathbb{R}}^{n}})$ и существует элемент $h \in {{\mathbb{R}}^{n}}$, $h \ne 0$, такой, что матрица ${{\Psi }_{p}}(x{\kern 1pt} *,h) > 0$ положительно определена.

Тогда $p$-фактор метод Ньютона

(13)
$\dot {x}(t) = - {{\left\{ {{{\Psi }_{p}}(x,h)} \right\}}^{{ - 1}}}{{\Phi }_{p}}(x,h),\quad x(0) = {{x}_{0}}$
сходится при ${{x}_{0}} \in {{U}_{\varepsilon }}(x{\kern 1pt} *)$, где $\varepsilon > 0$ достаточно малое.

Доказательство. Воспользуемся $p$-фактор функцией Ляпунова ${{{v}}_{p}}(x,h)$. Дифференцируя ${{{v}}_{p}}(x,h)$, получаем

$\frac{{d{v}}}{{dt}} = 2\langle \Psi _{p}^{'}(x,h){{\Phi }_{p}}(x,h),\dot {x}(t)\rangle = - 2\langle {{\Psi }_{p}}(x,h){{\Phi }_{p}}(x,h),{{\Phi }_{p}}(x,h)\rangle < 0\quad \forall x \in {{U}_{\varepsilon }}(x{\kern 1pt} *){{\backslash }}\{ x{\kern 1pt} *\} .$
Метод таким образом сходится к стационарной точке $x{\kern 1pt} *$.

Интересен тот факт, что если отображение $f({\kern 1pt} \cdot {\kern 1pt} )$ строго $p$-регулярно в точке $x{\kern 1pt} *$, то схема (4) тоже дает устойчивость непрерывной траектории из любой начальной точки $x(0) = {{x}_{0}}$ из достаточно малой окрестности ${{U}_{\varepsilon }}(x{\kern 1pt} *)$.

Определение 4. Будем говорить, что отображение $f({\kern 1pt} \cdot {\kern 1pt} )$ строго $p$-регулярно в точке $x{\kern 1pt} *$, если $\exists {{\{ {{\Psi }_{p}}(x{\kern 1pt} *,h)\} }^{{ - 1}}}$ для любого $h \in {{\mathbb{R}}^{n}}$, $h \ne 0$.

Теорема 5. Пусть $f \in {{C}^{{p + 1}}}({{\mathbb{R}}^{n}})$ и $f({\kern 1pt} \cdot {\kern 1pt} )$ – строго $p$-регулярно в точке $x{\kern 1pt} *$, $f(x{\kern 1pt} *) = 0$.

Тогда система (4) асимптотически устойчива.

Доказательство. Из условия строгой $p$-регулярности отображения $f({\kern 1pt} \cdot {\kern 1pt} )$ в точке $x{\kern 1pt} *$ следует невырожденность матриц $\{ f{\kern 1pt} '{\kern 1pt} (x)\} $ при $x \in {{U}_{\varepsilon }}(x{\kern 1pt} *){{\backslash }}\{ x{\kern 1pt} *\} $ и $\varepsilon > 0$ достаточно малом. Действительно,

$\begin{gathered} f{\kern 1pt} '(x) = f{\kern 1pt} '(x{\kern 1pt} *) + f{\kern 1pt} '{\kern 1pt} '(x{\kern 1pt} *)(x - x{\kern 1pt} *) + \ldots + \frac{1}{{(p - 1)!}}{{f}^{{(p)}}}(x{\kern 1pt} *)(x - x{\kern 1pt} *{{)}^{{p - 1}}} + O({{\left\| {x - x{\kern 1pt} *} \right\|}^{p}}) = \\ = \left\{ {f_{1}^{'}(x{\kern 1pt} *) + O(\left\| {x - x{\kern 1pt} *} \right\|),f_{1}^{{''}}(x{\kern 1pt} *)(\left\| {x - x{\kern 1pt} *} \right\|) + O{{{(\left\| {x - x{\kern 1pt} *} \right\|)}}^{2}}, \ldots ,\frac{1}{{(p - 1)!}}f_{p}^{{(p)}}(x{\kern 1pt} *)[x - x{\kern 1pt} *{{]}^{{p - 1}}} + O{{{(\left\| {x - x{\kern 1pt} *} \right\|)}}^{p}}} \right\}. \\ \end{gathered} $
Причем оператор (матрица) $\{ f_{1}^{'}(x{\kern 1pt} *),f_{2}^{{''}}(x{\kern 1pt} *)[x - x{\kern 1pt} *], \ldots ,f_{p}^{{(p)}}(x{\kern 1pt} *)[x - x{\kern 1pt} *{{]}^{{p - 1}}}\} $ не вырожден $\forall x \in {{U}_{\varepsilon }}(x{\kern 1pt} *){{\backslash }}\{ x{\kern 1pt} *\} $. Значит,

$\left\| {{{{\{ f_{1}^{'}(x{\kern 1pt} *),f_{2}^{{''}}(x{\kern 1pt} *)[x - x{\kern 1pt} *], \ldots ,f_{p}^{{(p)}}(x{\kern 1pt} *)[x - x{\kern 1pt} *{{]}^{{p - 1}}}\} }}^{{ - 1}}}} \right\| \leqslant \frac{C}{{{{{\left\| {x - x{\kern 1pt} *} \right\|}}^{{p - 1}}}}}$ $\forall x \in {{U}_{\varepsilon }}(x{\kern 1pt} *){{\backslash }}\{ x{\kern 1pt} *\} $,

где $C > 0$ – некоторая независимая константа. Откуда, по теореме Банаха о малом возмущении обратного оператора, следует, что $\left\| {{{{\{ f{\kern 1pt} '(x)\} }}^{{ - 1}}}} \right\| \leqslant \frac{{2C}}{{{{{\left\| {x - x{\kern 1pt} *} \right\|}}^{{p - 1}}}}}$ и $f{\kern 1pt} '{\kern 1pt} (x) > 0$ $\forall x \in {{U}_{\varepsilon }}(x{\kern 1pt} *){{\backslash }}\{ x{\kern 1pt} *\} $ и $\varepsilon > 0$ достаточно малое. То есть для классической функции Ляпунова ${v}(x) = {{\left\| {f(x)} \right\|}^{2}}$ будет $\frac{{d{v}}}{{dt}} = - 2{v}(x) < 0$ $\forall x \in {{U}_{\varepsilon }}(x{\kern 1pt} *){{\backslash }}\{ x{\kern 1pt} *\} $. Отсюда следует асимптотическая устойчивость и сходимость метода.

Пример 2. Для отображения $f(x) = {{x}^{2}}$, $p = 2$, рассмотрим систему (4)

(14)
$\frac{{dx}}{{dt}} = - \frac{1}{{2x}}{{x}^{2}},\quad x(0) = {{x}_{0}},\quad x{\kern 1pt} * = 0.$
Очевидно, что условия теоремы 5 выполнены, значит, система будет асимптотически устойчива. Действительно, решая дифференциальное уравнение, находим $x(t) = C{{e}^{{ - t}}}$.

Что касается асимптотической устойчивости системы (1), то в случае вырождения $f{\kern 1pt} '{\kern 1pt} (x{\kern 1pt} *)$ ситуация может быть различная. Однако при предположении так называемой сильной $p$-регулярности отображения $f({\kern 1pt} \cdot {\kern 1pt} )$ в точке $x{\kern 1pt} *$, будет верен результат, приведенный ниже в теореме 6.

Замечание 1. В силу того, что ${{P}_{1}}f{\kern 1pt} '{\kern 1pt} (x{\kern 1pt} *) = f{\kern 1pt} '{\kern 1pt} (x{\kern 1pt} *)$, мы также будем использовать модификацию $p$-фактор функции Ляпунова с

${{\bar {\Phi }}_{p}}(x,h) = f(x) + {{P}_{2}}f{\kern 1pt} '{\kern 1pt} (x)[h] + \ldots + {{P}_{p}}{{f}^{{(p - 1)}}}(x)[h{{]}^{{p - 1}}}$
и соответственно модификацию $p$-фактор оператора

${{\bar {\Psi }}_{p}}(x,h) = f{\kern 1pt} '{\kern 1pt} (x) + {{P}_{2}}f{\kern 1pt} '{\kern 1pt} '{\kern 1pt} (x)[h] + \ldots + {{P}_{p}}{{f}^{{(p)}}}(x)[h{{]}^{{p - 1}}}.$

Определение 5. Будем говорить, что отображение $f \in {{C}^{{p + 1}}}({{\mathbb{R}}^{n}})$ удовлетворяет условию сильной $p$-регулярности в точке $x{\kern 1pt} *$, если $\forall x \in {{U}_{\varepsilon }}(x{\kern 1pt} *){{\backslash }}\{ x{\kern 1pt} *\} $ $\exists h \in {{\mathbb{R}}^{n}}$, $\left\| h \right\| \leqslant 1$ такие, что выполняется неравенство

(15)
$\langle \bar {\Psi }_{p}^{{\rm T}}(x,h){{\bar {\Phi }}_{p}}(x,h),f(x)\rangle < 0.$

Пример (продолжение). Для функции $f(x) = {{x}^{2}}$ условие сильной $2$-регулярности в точке $x{\kern 1pt} * = 0$ выполнено. Действительно, здесь $p = 2$, $x{\kern 1pt} * = 0$, ${{P}_{1}} = 0$, ${{P}_{2}} = 1$, ${{\bar {\Phi }}_{2}}(x,h) = {{x}^{2}} + 2xh$, ${{\bar {\Psi }}_{2}}(x,h) = f{\kern 1pt} '(x) + {{P}_{2}}f{\kern 1pt} '{\kern 1pt} '{\kern 1pt} (x)[h] = 2x + 2h$ и $\langle {{\bar {\Psi }}_{2}}{{(x,h)}^{{\rm T}}}{{\bar {\Phi }}_{2}}(x,h),f(x)\rangle = 2(x + h)({{x}^{2}} + 2xh){{x}^{2}} < 0$ $\forall x \in {{U}_{\varepsilon }}(0){{\backslash }}\{ 0\} $, где $h = 1$, если $x < 0$, и $ - x < h < - \frac{x}{2}$, если $x > 0$ и, соответственно, выполнено условие (15).

Теорема 6. Пусть $f \in {{C}^{{p + 1}}}({{\mathbb{R}}^{n}})$. Тогда, если отображение $f$ – сильно $p$-регулярно в точке $x{\kern 1pt} *$, то тривиальное решение $x{\kern 1pt} *$ системы (1) асимптотически устойчиво.

Доказательство. Покажем, что $p$-фактор функция Ляпунова ${{{v}}_{p}}(x,h) = {{\left\| {{{\Phi }_{p}}(x,h)} \right\|}^{2}}$ является искомой функцией Ляпунова для применения теоремы 1 при $x \in {{U}_{\varepsilon }}(x{\kern 1pt} *){{\backslash }}\{ x{\kern 1pt} *\} $ и $\varepsilon > 0$ достаточно малом.

Имеем

$\frac{{d{{{v}}_{p}}(x,h)}}{{dt}} = {{\left( {{{{\left\| {{{{\bar {\Phi }}}_{p}}(x,h)} \right\|}}^{2}}} \right)}_{t}} = 2\langle \bar {\Phi }_{p}^{'}{{(x,h)}^{{\rm T}}}{{\bar {\Phi }}_{p}}(x,h),\dot {x}(t)\rangle = 2\langle {{\bar {\Psi }}_{p}}{{(x,h)}^{{\rm T}}}{{\bar {\Phi }}_{p}}(x,h),f(x)\rangle .$
Последнее выражение, согласно (15), отрицательно $\forall x \in {{U}_{\varepsilon }}(x{\kern 1pt} *){{\backslash }}\{ x{\kern 1pt} *\} $. При этом $\left\| {{{{\bar {\Phi }}}_{p}}(x,h)} \right\| \leqslant C$ равномерно по $h$, так как $\left\| h \right\| \leqslant 1$ $\forall x \in {{U}_{\varepsilon }}(x{\kern 1pt} *)$.

Поэтому доказательство теоремы 1 не изменится (см., например, [13]) при использовании функции ${{{v}}_{p}}(x,h)$ на траектории решений уравнения (1), хотя в некоторых точках траектории $x(t)$ векторы $h$, вообще говоря, могут быть разными и зависеть от $x$, но это не влияет на анализ устойчивости.

Однако при исследовании на устойчивость в общем случае ситуация зависит от начальной точки $x(0) = {{x}_{0}}$ и при различных точках ${{x}_{0}}$ траектория $x({{x}_{0}},t)$ может как сходиться к $x{\kern 1pt} *$, так и не сходиться к $x{\kern 1pt} *$. Ответ на этот вопрос весьма сложен и связан с существованием решения краевых задач. Поясним это. Заменим переменные $u = \frac{1}{{t + C}}$ и тогда в точке $t = + \infty $ соответственно $u = 0$. Пусть ${{u}_{0}} = \frac{1}{C}$. Тогда система (1) перепишется следующим образом:

$\dot {x}(u){{u}^{2}} + f(x) = 0,\quad x(0) = 0,\quad x({{u}_{0}}) = {{x}_{0}}.$
Обозначив $g(u,x) = \dot {x}{{u}^{2}} + f(x)$, можем исследовать, при каких начальных значениях ${{x}_{0}}$ уравнение $g(u,x) = 0$ имеет в окрестности точки $(0,0)$ решение $x = x(u)$. Частично ответ на этот вопрос может дать теорема 2, которая гарантирует существование устойчивого решения, если при начальных значениях ${{x}_{0}}$ выполняется условие $p$-регулярности отображения $g(u,x)$ на элементе $h = (0,{{x}_{0}})$ и, значит, существование решения $x(u) \to 0$ при $u \to 0$ (или, соответственно, при $t \to \infty $).

Пример (продолжение). Таким образом, из теоремы 6 следует асимптотическая устойчивость системы (12) или сходимость метода (12) с использованием $2$-фактор функции Ляпунова ${{{\bar {v}}}_{2}}(x,h) = {{\left\| {{{{\bar {\Phi }}}_{2}}(x,h)} \right\|}^{2}} = ({{x}^{2}} + 2xh{{)}^{2}}$.

Отметим, также, что для системы (12) применение модифицированной $2$-фактор функции ${{\bar {\Phi }}_{2}}(x,h)$ в теореме 3 также дает новую устойчивую динамическую систему (или схему сходящегося метода):

$\dot {x}(t) = {{\bar {\Phi }}_{2}}(x,h) = f(x) + {{P}_{2}}f{\kern 1pt} '(x)[h] = {{x}^{2}} + 2xh,\quad x(0) = 0,\quad x({{u}_{0}}) = {{x}_{0}}$
при $h = - 1$.

Список литературы

  1. Поляк Б.Т. Введение в оптимизацию. М.: Наука, 1983. 384 с.

  2. Барбашин Е.А., Красовский Н.Н. Об устойчивости движения в целом // Докл. АН СССР. 1952. Т. 86. № 3. С. 453–456.

  3. LaSalle J.P., Lefschetz S. Stability by Liapunov’s direct method. Academic Press, 1961.

  4. Chellaboina V.S., Haddad W.M. Nonlinear dynamical systems and control: A Lyapunov-based approach. Princeton University Press, 2008.

  5. Teschl G. Ordinary differential equations and dynamical systems. Providence: American Mathematical Society, 2012. V. 140.

  6. Поляк Б.Т., Хлебников М.В., Рапопорт Л.Б. Математическая теория автоматического управления. М.: ЛЕНАНД, 2019.

  7. Absil P.A., Kurdyka K. On the stable equilibrium points of gradient systems // Systems & control letters. 2006. V. 55. № 7. P. 573–577.

  8. Гладилина Р.И. Метод функций Ляпунова в задачах устойчивости импульсных систем //Динамические системы. 2009. № 26. С. 25–30.

  9. Бибиков Ю.Н., Плисс В.А., Трушина Н.В. Об устойчивости нулевого решения существенно нелинейного дифференциального уравнения второго порядка в случае центра // Вестник Санкт-Петербургского университета. Математика. Механика. Астрономия. 2017. Т. 4. № 3.

  10. Stamova I.M., Stamov G.T. Stability analysis of differential equations with maximum // Mathematica Slovaca. 2013. V. 63. № 6. P. 1291–1302.

  11. Ismayilova K.E. Stability analysis for first-order nonlinear differential equations with three-point boundary conditions // e-Journal of Analysis and Applied Mathematics. 2020. V. 2020. № 1. P. 40–52.

  12. Tret’yakov A., Marsden J.E. Factor analysis of nonlinear mappings: p-regularity theory // Communications on Pure & Applied Analysis. 2003. V. 2. № 4. P. 425.

  13. Евтушенко Ю.Г. Методы решения экстремальных задач и их применение в системах оптимизации. М.: Наука, 1982. 432 с.

  14. Brezhneva O.A., Tret’yakov A.A. Implicit function theorems for nonregular mappings in Banach spaces. Exit from singularity // Banach Spaces and Their Applications in Analysis. 2007. P. 285–302.

Дополнительные материалы отсутствуют.