Доклады Российской академии наук. Математика, информатика, процессы управления, 2022, T. 504, № 1, стр. 47-50

РЕШЕНИЕ НЕЛИНЕЙНЫХ ОБРАТНЫХ ЗАДАЧ НА ОСНОВЕ РЕГУЛЯРИЗОВАННОГО МОДИФИЦИРОВАННОГО МЕТОДА ГАУССА–НЬЮТОНА

Член-корреспондент РАН В. В. Васин 1*

1 Институт математики и механики им. Н.Н. Красовского Уральского отделения Российской академии наук Уральский федеральный университет,
Екатеринбург, Свердловская обл., Россия

* E-mail: vasin@imm.uran.ru

Поступила в редакцию 11.01.2022
После доработки 28.03.2022
Принята к публикации 01.04.2022

Полный текст (PDF)

Аннотация

Исследуется нелинейное операторное уравнение при нарушении условий корректности по Адамару. Для построения устойчивого метода решения уравнения предлагается двухэтапный метод, включающий в себя модифицированный метод Тихонова и модифицированный итерационный процесс Гаусса–Ньютона для аппроксимации решения регуляризованного уравнения. Доказываются сходимость итераций и сильная фейеровость процесса. На классе истокообразно представимых решений устанавливается оптимальная по порядку оценка погрешности двухэтапного метода.

Ключевые слова: некорректно поставленная задача, модифицированный метод Тихонова, модифицированный процесс Гаусса–Ньютона

1. ВВЕДЕНИЕ

Рассмотрим обратную задачу в форме нелинейного некорректно поставленного операторного уравнения

(1)
$A(u) = f,$
заданного на паре гильбертовых пространств $U,F$. Здесь непрерывно дифференцируемый оператор A не имеет непрерывного обратного оператора, правая часть f задана cвоим $\delta $-приближением ${{f}_{\delta }}$, $\left\| {f - {{f}_{\delta }}} \right\| \leqslant \delta $.

Для построения регуляризованного семейства приближенных решений предлагается двухэтапный метод, в котором сначала уравнение регуляризуется модифицированным методом Лаврентьева–Тихонова

(2)
$A{\kern 1pt} '({{u}^{0}}){\kern 1pt} {\text{*}}(A(u) - {{f}_{\delta }}) + \alpha B(u - {{u}^{0}}) = 0,$
а для аппроксимации решения ${{u}_{\alpha }}$ уравнения (2) применяется модифицированный метод Нью- тона
(3)
$\begin{gathered} {{u}^{{k + 1}}} = {{u}^{k}} - \gamma {{[A{\kern 1pt} '({{u}^{0}}){\kern 1pt} {\text{*}}A{\kern 1pt} '({{u}^{0}}) + \alpha B]}^{{ - 1}}} \times \\ \, \times [A{\kern 1pt} '({{u}^{0}}){\kern 1pt} {\text{*}}(A({{u}^{k}}) - {{f}_{\delta }}) + \alpha B({{u}^{k}} - {{u}^{0}})] \equiv T({{u}^{k}}), \\ \end{gathered} $
в котором производная в операторе шага $T({{u}^{k}})$ вычисляется в фиксированной точке u0 в течение всего процесса итераций. Поэтому по отношению к операторному уравнению (1) итерационный процесс (3) является модифицированным методом Гаусса–Ньютона (МГН). Оператор B в прикладных задачах играет роль информационного оператора, содержащего важные априорные сведения о решении (см., например, работы [1, 2] по термическому зондированию атмосферы), которые необходимо учитывать в алгоритме. При некоторых условиях на оператор и начальное приближение для достаточно малых значений параметра шага удается обосновать линейную скорость сходимости процесса (3), установить сильную фейеровость оператора шага $T$ и оценить погрешность двухэтапного метода.

Метод (2), (3) при $B = I$ – единичный оператор и $\gamma = 1$ исследовался в работе [3], где доказана сходимость процесса (3) с линейной скоростью и более слабое условие – фейеровость оператора шага T. Кроме того, в [3, 4] рассматривался более сложный в реализации трехпараметрический вариант процесса (3), в котором при $B = I$ обращаемый оператор содержал дополнительный параметр $\bar {\alpha }$, роль которого отлична от параметра α.

Таким образом, как и в [3], доказываются сходимость итераций, сильная фейеровость оператора шага $T$ и устанавливается оценка погрешности двухэтапного метода по невязке в более общей ситуации (с информационным оператором $B$) на основе более простой итерационной схемы (3) с двумя управляющими параметрами $\alpha ,\;\gamma $. В частном случае, когда оператор $B = I$, на классе истокообразно представимых решений устанавливается оценка погрешности приближенного решения, полученного двухэтапным методом.

2. СХОДИМОСТЬ И ОЦЕНКА ПОГРЕШНОСТИ ИТЕРАЦИЙ

Лемма 1. Предположим разрешимость уравнения (1) и разрешимость уравнения (2). Пусть A – линейный ограниченный оператор, для которого выполнено условие

$\left\langle {B{\kern 1pt} u,u} \right\rangle \geqslant \kappa {{\left\| u \right\|}^{2}},\quad \kappa > 0.$

Тогда справедлива оценка

$\left\| {{{{(A{\kern 1pt} {\text{*}}A + \alpha B)}}^{{ - 1}}}} \right\| \leqslant 1{\text{/}}(\kappa {\kern 1pt} \alpha ),\quad \alpha > 0.$

Перейдем к рассмотрению второго этапа метода, т.е. исследованию сходимости процесса (3).

Теорема 1. Предположим разрешимость уравнения (1) и разрешимость уравнения (2) для любых $\alpha ,{{f}_{\delta }}$. Пусть выполнены следующие условия:

1) $\left\| {A{\kern 1pt} '({{u}^{0}})} \right\| \leqslant {{N}_{0}}$, $\left\| {A({{u}_{1}}) - A({{u}_{2}})} \right\| \leqslant {{N}_{1}}\left\| {{{u}_{1}} - {{u}_{2}}} \right\|$, $\left\| {A{\kern 1pt} '({{u}_{1}}) - A{\kern 1pt} '({{u}_{2}})} \right\| \leqslant {{N}_{2}}\left\| {{{u}_{1}} - {{u}_{2}}} \right\|$;
в шаре $S({{u}^{0}};R)$ содержащем $\hat {u},\;{{u}_{\alpha }}$; здесь $\hat {u},\;{{u}_{\alpha }}$ – решения уравнений (1) и (2) соответственно.

2) B – положительно определенный оператор, удовлетворяющий условиям леммы 1;

3) $\left\| {{{u}_{\alpha }} - {{u}^{0}}} \right\| \leqslant {{r}^{0}}$, ${{r}^{0}} = \kappa {\kern 1pt} \alpha {\text{/}}(5{\kern 1pt} {{N}_{0}}{{N}_{2}})$,

где u0 – стартовая точка в итерационном процессе (3), которая совпадает с пробным решением в уравнении (2) и точкой, в которой вычисляется производная оператора A.

Тогда при $\gamma < (\alpha \kappa ){\text{/}}({{N}_{0}}{{N}_{2}} + \alpha \left\| B \right\|)$ оператор $T$, реализующий процесс (3), является сильно {uα}-фейеровским в шаре $S({{u}_{\alpha }};{{r}^{0}})$ и имеет место сходимость итераций

(4)
$\mathop {\lim }\limits_{k \to \infty } \left\| {{{u}^{k}} - {{u}_{\alpha }}} \right\| = 0,$
а при $\gamma = (\alpha \kappa ){\text{/}}2({{N}_{0}}{{N}_{2}} + \alpha \left\| B \right\|)$ справедлива оценка
(5)
$\begin{gathered} \left\| {{{u}^{k}} - {{u}_{\alpha }}} \right\| \leqslant {{q}^{k}}{{r}^{0}} \leqslant {{q}^{k}}{\kern 1pt} \bar {r}, \\ q = {{(1 - {{(\kappa \alpha )}^{2}}{\text{/}}4{\kern 1pt} ({{N}_{0}}{{N}_{2}}))}^{{(1/2)}}}, \\ \end{gathered} $
где ${{r}^{0}}{\kern 1pt} \leqslant {\kern 1pt} {\kern 1pt} \bar {r}{\kern 1pt} $ не зависит от α.

Доказательство. Введем обозначения

$\begin{gathered} {{D}_{0}} = A{\kern 1pt} '({{u}^{0}}){\kern 1pt} {\text{*}}A{\kern 1pt} '({{u}^{0}}) + \alpha {\kern 1pt} B, \\ F(u) = D_{0}^{{ - 1}}[A'({{u}^{0}}){\kern 1pt} {\text{*}}(A(u) - {{f}_{\delta }}) + \alpha {\kern 1pt} B(u - {{u}^{0}})]. \\ \end{gathered} $

Имеем соотношения:

$\begin{gathered} \left\langle {F(u,u - {{u}_{\alpha }})} \right\rangle = \left\langle {F(u) - F({{u}_{\alpha }})} \right\rangle = \\ \, = \langle D_{0}^{{ - 1}}[A{\kern 1pt} '({{u}^{0}}){\kern 1pt} {\text{*}}(A(u) - A({{u}_{\alpha }})) + \alpha {\kern 1pt} B{\kern 1pt} (u - {{u}_{\alpha }})],u - {{u}_{\alpha }}\rangle = \\ \end{gathered} $
(6)
$\begin{gathered} \, = \langle D_{0}^{{ - 1}}[A{\kern 1pt} '({{u}^{0}}){\kern 1pt} {\text{*}}(A(u) - (A(u) + A{\kern 1pt} '(u)({{u}_{\alpha }} - u) + \xi )) + \\ \, + \alpha {\kern 1pt} B{\kern 1pt} (u - {{u}_{\alpha }})],u - {{u}_{\alpha }}\rangle = \\ \, = \left\langle {D_{0}^{{ - 1}}[A{\kern 1pt} '({{u}^{0}}){\kern 1pt} {\text{*}}A{\kern 1pt} '({{u}^{0}})(u - {{u}_{\alpha }}) + \alpha B(u - {{u}_{\alpha }})]{\kern 1pt} ,u - {{u}_{\alpha }}} \right\rangle + \\ \end{gathered} $
$\begin{gathered} \, + \langle D_{0}^{{ - 1}}[A{\kern 1pt} '({{u}^{0}}){\kern 1pt} {\text{*}}A{\kern 1pt} '(u)(u - {{u}_{\alpha }}) - \\ - \,A{\kern 1pt} '({{u}^{0}}){\kern 1pt} {\text{*}}A{\kern 1pt} '({{u}^{0}})(u - {{u}_{\alpha }})],u - {{u}_{\alpha }}\rangle - \\ \, - \langle D_{0}^{{ - 1}}A{\kern 1pt} '({{u}^{0}}){\kern 1pt} {\text{*}}\xi ,u - {{u}_{\alpha }}\rangle . \\ \end{gathered} $

Учитывая условия 1 теоремы и неравенства

$\left\| {D_{0}^{{ - 1}}} \right\| \leqslant 1{\text{/}}(\kappa \alpha ),\quad \left\| \xi \right\| \leqslant {{N}_{2}}{{\left\| {u - {{u}_{\alpha }}} \right\|}^{2}}{\text{/}}2,$
из (6) получаем соотношения

$\begin{gathered} \left\langle {F(u),u - {{u}_{\alpha }}} \right\rangle \geqslant {{\left\| {u - {{u}_{\alpha }}} \right\|}^{2}} - \\ \, - {{\frac{{\left\| {A{\kern 1pt} '({{u}^{0}}){\kern 1pt} *} \right\|\left\| {A{\kern 1pt} '(u) - A{\kern 1pt} '({{u}^{0}})} \right\|\left\| {u - {{u}_{\alpha }}} \right\|}}{{\kappa \alpha }}}^{2}} - \\ \end{gathered} $
(7)
$\, - \frac{{{{N}_{0}}{{N}_{2}}{{{\left\| {u - {{u}_{\alpha }}} \right\|}}^{3}}}}{{2\kappa \alpha }} \geqslant {{\left\| {u - {{u}_{\alpha }}} \right\|}^{2}} - $
$\begin{gathered} \, - \left[ {\frac{{{{N}_{0}}{{N}_{2}}(\left\| {u - {{u}_{\alpha }}} \right\| + \,{\text{||}}{{u}_{\alpha }} - {{u}^{0}}{\text{||}})}}{{\kappa \alpha }}} \right. - \\ \, - \left. {\frac{{{{N}_{0}}{{N}_{2}}\left\| {u - {{u}_{\alpha }}} \right\|}}{{2\kappa \alpha }}} \right]{{\left\| {u - {{u}_{\alpha }}} \right\|}^{2}}. \\ \end{gathered} $

Принимая во внимание условие 3 теоремы и тот факт, что $u \in S({{u}_{\alpha }};{\kern 1pt} {\kern 1pt} {{r}^{0}})$, из неравенств (7) получаем окончательную оценку снизу

(8)
$\left\langle {F(u),u - {{u}_{\alpha }}} \right\rangle \geqslant (1{\text{/}}2){{\left\| {u - {{u}_{\alpha }}} \right\|}^{2}}.$

Кроме того , имеем следующую оценку сверху:

(9)
$\begin{gathered} {{\left\| {F(u)} \right\|}^{2}} = {{\left\| {F(u) - F({{u}_{\alpha }})} \right\|}^{2}} = \\ \, = \left\| {D_{0}^{{ - 1}}{{{[A{\kern 1pt} '({{u}^{0}}){\kern 1pt} {\text{*}}(A(u) - A({{u}_{\alpha }})) + \alpha B(u - {{u}_{\alpha }})]}}^{2}}} \right\| \leqslant \\ \, \leqslant \frac{{{{{({{N}_{0}}{{N}_{1}} + \alpha \left\| B \right\|)}}^{2}}}}{{{{{(\kappa \alpha )}}^{2}}}}{{\left\| {u - {{u}_{\alpha }}} \right\|}^{2}}. \\ \end{gathered} $

Сильная фейеровость оператора T означает выполнение неравенства

(10)
$\begin{gathered} {{\left\| {T(u) - {{u}_{\alpha }}} \right\|}^{2}} - {{\left\| {u - {{u}_{\alpha }}} \right\|}^{2}} + \nu {{\left\| {T(u) - u} \right\|}^{2}} \leqslant 0 \\ \forall u \in S({{u}_{\alpha }};{{r}^{0}}) \\ \end{gathered} $
для некоторого $\nu > 0$, что эквивалентно неравенству

(11)
${{\left\| {F(u)} \right\|}^{2}} \leqslant \frac{2}{{\gamma (1 + \nu )}}\left\langle {F(u),u - {{u}_{\alpha }}} \right\rangle .$

Из соотношений (8), (9) имеем

(12)
${{\left\| {F(u)} \right\|}^{2}} \leqslant \frac{{2{{{({{N}_{0}}{{N}_{1}} + \alpha \left\| B \right\|)}}^{2}}}}{{{{{(\kappa \alpha )}}^{2}}}}\left\langle {F(u),u - {{u}_{\alpha }}} \right\rangle .$

Сравнивая неравенства (11) и (12), приходим к выводу, что при $\gamma < (\kappa \alpha ){\text{/}}{{({{N}_{0}}{{N}_{1}} + \alpha \left\| B \right\|)}^{2}}$ оператор T, генерирующий итерационный процесс (3), является сильно фейеровским.

Полагая в (10) $u = {{u}^{k}}$, заключаем, что $\mathop {\lim }\limits_{k \to \infty } \nu \gamma {\text{||}}T({{u}^{k}}) - {{u}^{k}}{\text{|}}{{{\text{|}}}^{k}}\mathop {\lim }\limits_{k \to \infty } \nu \gamma F({{u}^{k}})$ = 0, откуда на основании неравенства (9) вытекает сходимость (4). Из (8), (9) следует неравенство

$\begin{gathered} {{\left\| {T(u) - {{u}_{\alpha }}} \right\|}^{2}} = \\ \, = {{\left\| {u - {{u}_{\alpha }}} \right\|}^{2}} - 2\gamma \left\langle {F(u),u - {{u}_{\alpha }}} \right\rangle + {{\gamma }^{2}}{{\left\| {F(u)} \right\|}^{2}} \leqslant \\ {\kern 1pt} \, \leqslant \left( {1 - \gamma + {{\gamma }^{2}}\frac{{{{{({{N}_{0}}{{N}_{1}} + \alpha \left\| B \right\|)}}^{2}}}}{{{{{(\kappa \alpha )}}^{2}}}}} \right){{\left\| {u - {{u}_{\alpha }}} \right\|}^{2}}, \\ \end{gathered} $
правая часть которого при γ = $(\kappa \alpha ){\text{/}}2({{N}_{0}}{{N}_{1}}$ + + α||B||)2, принимает наименьшее значение, что при $u = {{u}^{k}}$ влечет оценку (5).

3. ОЦЕНКА ПОГРЕШНОСТИ ДВУХЭТАПНОГО МЕТОДА

Лемма 2. Пусть выполнены условия теоремы 1. Пусть уравнение (2) имеет решение ${{u}_{\alpha }}$ при любых $\alpha > 0,$ ${{f}_{\delta }} \in F$ и ${{u}_{{\alpha (\delta )}}}$ принадлежит шару $S({{u}^{0}};R)$ при связи параметров $\alpha (\delta ) \to 0,$ $\delta \to 0$. Тогда справедлива оценка невязки для двухэтапного метода.

$\begin{gathered} {\text{||}}A{\kern 1pt} '({{u}^{0}}){\kern 1pt} {\text{*}}(A({{u}^{k}}) - {{f}_{\delta }}){\text{||}} \leqslant \\ \, \leqslant [(5{{N}_{0}}{{N}_{1}}{\text{/}}{{N}_{2}}){{q}^{k}} + {{N}_{0}}\left\| B \right\|R]\alpha (\delta ). \\ \end{gathered} $

Рассмотрим частный случай оператора $B = I$. Для получения погрешности приближенного решения, полученного двухэтапным методом, необходимо оценить погрешность, вносимую методом регуляризации (2). Для этого потребуются дополнительные условия на оператор и истокообразная представимость решения, а именно:

1) пусть $\hat {u},{{u}_{\alpha }} \in S({{u}^{0}},{{r}^{0}}),{\kern 1pt} $ существуют константы ${{k}_{0}} > 0$ и элемент $\phi (u,{{u}^{0}},w) \in U$, такие что для любых $w \in U,u \in S({{u}^{0}};{{r}^{0}})$ выполнены соотношения

$\begin{gathered} \text{[}A{\kern 1pt} '(u) - A{\kern 1pt} '({{u}^{0}})]w = A{\kern 1pt} '({{u}^{0}})\phi (u,{{u}^{0}},w), \\ {\text{||}}\phi (u,{{u}^{0}},w){\text{||}} \leqslant {{k}_{0}}{\text{||}}u - {{u}^{0}}{\text{||}}\left\| w \right\|; \\ \end{gathered} $

2) выполнено условие истокообразной представимости решения о принадлежности решения классу

$\begin{gathered} K = \{ \hat {u}:{{u}^{0}} - \hat {u} = {{(A{\kern 1pt} '({{u}^{0}}){\kern 1pt} {\text{*}}A{\kern 1pt} '({{u}^{0}}))}^{p}}{v},\left\| v \right\| \leqslant r\} , \\ {\kern 1pt} 0 < p \leqslant 1. \\ \end{gathered} $

Согласно теореме 3.1 [4] и лемме 1 [5] для решения регуляризованного уравнения (2) справедлива оценка

$\begin{gathered} \left\| {u - {{u}_{\alpha }}} \right\| \leqslant \frac{{\max \{ 1{\text{/}}2,r\} }}{{1 - d}}\left( {\frac{\delta }{{\sqrt \alpha }} + {{\alpha }^{p}}} \right), \\ d = {{k}_{0}}{{r}^{0}} < 1. \\ \end{gathered} $

Приравнивая слагаемые в круглых скобках последнего неравенства, находим значение параметра $\alpha = {{\delta }^{{2/(2p + 1)}}}$ и оценку для метода регуляризации (2)

(13)
$\left\| {{{u}_{\alpha }} - \hat {u}} \right\| \leqslant \bar {c}{{\delta }^{{2p/(2p + 1)}}},\quad \bar {c} = \frac{{2\max \{ (1{\text{/}}2),r\} }}{{1 - d}}.$

Объединяя соотношения (5), (13), получаем

(14)
$\begin{gathered} \left\| {{{u}_{\alpha }} - \hat {u}} \right\| \leqslant {\text{||}}{{u}^{k}} - {{u}_{{\alpha (\delta )}}}{\text{||}} + \left\| {{{u}_{{\alpha (\delta )}}} - \hat {u}} \right\| \leqslant \\ \, \leqslant {{q}^{k}}\bar {r} + \bar {c}{{\delta }^{{2p/(2p + 1)}}}. \\ \end{gathered} $

Приравнивая слагаемые в правой части неравенства (14), находим выражение для числа итераций

$k(\delta ) = [\ln (\bar {c}{{\delta }^{{2p/(2p + 1)}}}{\text{/}}\bar {r}){\text{/}}\ln q(\alpha (\delta ))].$

Подставляя найденное число итераций $k(\delta )$ в (14), получаем оценку погрешности двухэтапного метода,

$\left\| {{{u}^{{k(\delta )}}} - \hat {u}} \right\| \leqslant 2\bar {c}{{\delta }^{{2p/(2p + 1)}}},$
оптимальность которой следует из [6, лемма 4.2.3, теорема 4.9.1].

Замечание 1. В классическом (немодифицированном) варианте МГН [7, 8] производная $A{\kern 1pt} '(u)$ в операторе шага вычисляется на каждой итерации, тогда как в модифицированном МГН (3) эти объекты вычисляются только в начальной точке и сохраняются в течение всего процесса итераций, что существенно уменьшает трудоемкость метода по числу операций при сохранении оптимальности по порядку метода на классе истокообразно представимых функций.

Список литературы

  1. Skorik G.G., Vasin V.V. Regularized Newton type method for retrieval of heavy water in atmosphere by IR-spectra of the solar light transmission // Eurasion J. Math. Comput. Appl. 2019. V. 7. № 2. P. 79–88.

  2. Vasin V.V., Skorik G.G. Two-stage method for solving system of nonlinear equations and its applications to the inverse atmosphere sounding problem // Doklady Math. 2019. V. 102. № 2. P. 267–270.

  3. Васин В.В. Основы теории некорректных задач. Новосибирск: Изд-во СО РАН, 2020. 312 с.

  4. Vasin V.V., Georg S. Expanding the applicability of Tikhonov‘s regularization and iterative approximation for ill-posed problems // J. Inverse Ill-Posed Problems. 2014. V. 22. № 4. P. 593–607.

  5. Иванов В.К. О регуляризации линейных операторных уравнений первого рода // Изв. Вузов. Математика. 1967. Т. 10 (65). С. 50–55.

  6. Ivanov V.K., Vasin V.V., Tanana V.P. Theory of linear ill-posed problems and its applications. Utrecht/Boston/Koln/Tokyo: VSP, 2002. 281 p.

  7. Бакушинский А.Б. К проблеме сходимости итеративно регуляризованного метода Гаусса–Ньютона // Журн. вычисл. математики и мат. физики. 1992. Т. 32. № 9. С. 1503–1509.

  8. Bakushinsky A., Goncharsky A. Ill-Posed problems: Theory and Applications. Dordrecht/Boston/London: Kluver Academic Publishers, 1994. 258 p.

Дополнительные материалы отсутствуют.

Инструменты

Доклады Российской академии наук. Математика, информатика, процессы управления