Журнал вычислительной математики и математической физики, 2019, T. 59, № 1, стр. 169-182

1. ПОСТАНОВКА ЗАДАЧИ

Оценка и приближение сложных множеств множествами простой структуры – одно из направлений негладкого анализа. В рамках этого направления можно выделить задачи по шаровым оценкам компактов, интерес к которым у математиков возник давно (см. [1]–[3]). Именно к ним можно отнести рассматриваемую здесь задачу.

Пусть $D$ – некоторый компакт из конечномерного действительного пространства ${{\mathbb{R}}^{p}}$, $\partial D$ – его граница, $\left\| x \right\|$ – евклидова норма элемента $x \in {{\mathbb{R}}^{p}}$. Рассматривается задача

Здесь функции выражают соответственно расстояние от точки $x$ до самой удаленной и самой ближайшей точки границы компакта $D$. Шаровая оболочка (шаровой слой) с центром в точке $x$, внешним радиусом $R(x)$ и внутренним радиусом $\rho (x)$ содержит границу компакта $D$. Величина $\pi \varkappa (x)$ выражает площадь сечения этой шаровой оболочки двумерной плоскостью, проходящей через точку $x$ (в двумерном случае это площадь кольца, содержащего границу). При этом толщина этой оболочки, а также площадь сечения, является минимальной для всех возможных шаровых оболочек с центром в точке $x$.

Авторам не известно, рассматривалась ли такая задача ранее. Если $D$ является выпуклым телом, то в качестве близких к постановке можно назвать задачу

т.е. задачу о наименьшей по толщине шаровой оболочке границы тела $D$ и задачу об асферичности Действительно, оптимальные значения целевых функций задач (1.1) и (1.2), а также разность оптимального значения функции $\psi (x)$ и единицы можно рассматривать как различные меры отличия выпуклого тела $D$ от шара. Поэтому в некоторых случаях ожидается пересечение или даже совпадение решений этих задач.

Отметим, что задача (1.2) имеет давнюю историю. Она рассматривалась сначала в двумерном и трехмерном пространстве (см. [4]–[9]), затем в пространстве любой конечной размерности (см. [10]), а также с произвольной используемой нормой (см. [11]–[14]). Задача (1.3) менее известна. Но показатель асферичности выпуклого тела, то есть наименьшее значение функции $\psi (x)$ в задаче (1.3), нередко используется при описании свойств выпуклого тела и разработке методов его приближения (см. [15]–[17]). Эта задача исследовалась (см. [18]–[20]) в конечномерном пространстве с произвольной используемой нормой.

Целью работы является исследование свойств решения задачи (1.1), а также связь ее решения с решениями задач (1.2)–(1.3) в случаях, когда компакт $D$ является выпуклым телом.

Во втором разделе изучаются свойства функции $\varkappa (x)$. Установлена ее выпуклость на ${{\mathbb{R}}^{p}}$, получена соответствующая формула субдифференциала. Доказано, что если $D$ – строго выпуклое тело, то функция $\varkappa (x)$ – строго квазивыпукла на $D$. В третьем разделе получено необходимое и достаточное условие решения, на основе которого установлен ряд свойств решения, а также условие единственности решения. В четвертом разделе доказано существование решения, установлен критерий ограниченности множества решений. В заключительном пятом разделе доказано, что в двумерном случае с выпуклым телом $D$ пересечение множества решений задачи (1.1) с множеством решений задачи (1.3) состоит из единственной точки, которая является решением задачи (1.2). Для трехмерного случая приведен пример, когда $D$ – выпуклое тело и при этом решения задач (1.1), (1.2) и (1.3) не пересекаются, то есть все они имеют самостоятельное значение.

Исследование проводилось, в основном, средствами выпуклого анализа.

Далее  используются  следующие обозначения:   $\operatorname{int} A,\;\operatorname{co} A,\;\partial A$ – соответственно внутренность, выпуклая  оболочка,  граница  множества  $A$, $\langle x,y\rangle $  –  скалярное  произведение  элементов  $x$ и $y$ из  ${{\mathbb{R}}^{p}}$, $\underline {\partial f} (x) = \{ v \in {{\mathbb{R}}^{p}}:f(y) - f(x) \geqslant \left\langle {v,y - x} \right\rangle ,$ $\forall y \in X\} $ – субдифференциал выпуклой на    открытом выпуклом множестве $X \subset {{\mathbb{R}}^{p}}$ функции $f(x)$ в точке $x \in X$, $\overline {\partial f} (x) = \{ w \in {{\mathbb{R}}^{p}}:f(y) - f(x) \leqslant \left\langle {w,y - x} \right\rangle ,\;\forall y \in X\} $ – супердифференциал вогнутой на открытом выпуклом множестве $X \subset {{\mathbb{R}}^{p}}$ функции $f(x)$ в точке $x \in X$, $f{\kern 1pt} '(x,g) = $ $ = \mathop {lim}\limits_{\alpha \downarrow 0} {{\alpha }^{{ - 1}}}[f(x + \alpha g) - f(x)]$ – производная по направлению $g$ функции $f( \cdot )$ в точке $x$, ${{Q}^{R}}(x) = \{ y \in D:R(x) = \left\| {x - y} \right\|\} $ – множество самых удаленных точек из $D$ от точки $x$, ${{Q}^{\rho }}(x) = \{ y \in \partial D:\rho (x) = \left\| {x - y} \right\|\} $ – проекция точки $x$ на границу компакта $D$, $B(x,r),S(x,r)$ – шар и сфера с центром в точке $x$ и радиусом $r$.

2. СВОЙСТВА ЦЕЛЕВОЙ ФУНКЦИИ

2.1. Сначала приведем необходимые для дальнейшего изложения вспомогательные факты, касающиеся свойств функций $R(x)$ и $\rho (x)$.

Лемма 2.1 (см. [13], [21]). Функция $R(x)$ является выпуклой на ${{\mathbb{R}}^{p}}$, формулу ее субдифференциала в любой точке $X \subset {{\mathbb{R}}^{p}}$ можно выразить в виде

где ${{Q}^{R}}(x) = \{ y \in D:R(x) = \left\| {x - y} \right\|\} $.

Известно (см., например, [22, гл. 2]), что функция $\rho (x)$ является липшицевой на всем пространстве ${{\mathbb{R}}^{p}}$, причем

В [23, гл. 2, § 8] доказано, что функция $\rho (x)$ является супердифференцируемой (в смысле В.Ф. Демьянова–А.М. Рубинова, см. [23], [24]) в точках $x \notin \partial D$, а именно справедлива

Лемма 2.2. Функция $\rho (x)$ дифференцируема по любому направлению $g \in {{\mathbb{R}}^{p}}$ в точках $x \notin \partial D$, причем

гдеа ${{Q}^{\rho }}(x) = \{ z \in \partial D:\rho (x) = \left\| {x - z} \right\|\} $.

Отметим, что в точках $x \in \partial D$ функция $\rho (x)$ может не быть дифференцируемой по всем направлениям (см., например, [23, гл. 2, § 8]).

Теперь покажем, что для произвольного компакта $D \subset {{\mathbb{R}}^{p}}$ функция ${{\rho }^{2}}(x)$ является супердифференцируемой всюду на ${{\mathbb{R}}^{p}}$.

Лемма 2.3. Функция ${{\rho }^{2}}(x)$ является дифференцируемой по любому направлению $g \in {{\mathbb{R}}^{p}}$ в любой точке $x \in {{\mathbb{R}}^{p}}$, причем

где $\overline {\partial \rho } (x)$ определяется формулой (2.3).

Доказательство. Из дифференцируемости по направлениям функции $\rho (x)$ в точках $x \notin \partial D$ легко вытекает дифференцируемость по направлениям функции ${{\rho }^{2}}(x)$, причем

Поэтому формула (2.4) для случая $x \notin \partial D$ следует из леммы 2.2.

Пусть $x \in \partial D$, а значит, $\rho (x) = 0$. Тогда в силу (2.2) для произвольного направления $g \in {{\mathbb{R}}^{p}}$ имеем

Отсюда получаем дифференцируемость по направлению $g$, причем $({{\rho }^{2}}){\kern 1pt} '(x,g) = 0.$

Замечание 2.1. Форма (2.4) производной по направлениям функции ${{\rho }^{2}}(x)$ означает, что формула

выражает супердифференциал (в смысле определения В.Ф. Демьянова–А.М. Рубинова [23], [24]).

Отметим также следующий факт (см. [25], [26]).

Лемма 2.4. Если $D$ – выпуклое тело, то функция $\rho (x)$ является вогнутой на $D$, а ее супердифференциал $\overline {\partial \rho } (x)$ в точках $x \in \operatorname{int} D$ выражается формулой (2.3).

2.2. Теперь обратимся непосредственно к свойствам функции $\varkappa (x)$.

Теорема 2.1. Функция $\varkappa (x)$ является выпуклой на всем пространстве ${{\mathbb{R}}^{p}}$, а ее субдифференциал в любой точке $x \in {{\mathbb{R}}^{p}}$ можно выразить в виде

Доказательство. 1. Для евклидовой нормы имеет место соотношение

для любых точек ${{x}_{1}}$ и ${{x}_{2}}$ из ${{\mathbb{R}}^{p}}$ и $\alpha \in [0,1]$. Возьмем произвольную точку $y(\alpha ) \in {{Q}^{R}}(\alpha {{x}_{1}} + (1 - \alpha ){{x}_{2}})$. Поскольку $y(\alpha ) \in D$, то, используя (2.6), получаем то есть, функция ${{R}^{2}}(x)$ является сильно выпуклой (см. [27], [28]) на ${{\mathbb{R}}^{p}}$.

Аналогично, если взять точку $z(\alpha ) \in {{Q}^{\rho }}(\alpha {{x}_{1}} + (1 - \alpha ){{x}_{2}})$, то, поскольку $z(\alpha ) \in \partial D$, из (2.6) вытекает

то есть функция ${{\rho }^{2}}(x)$ является слабо вогнутой (см. [29], [30]) на ${{\mathbb{R}}^{p}}$.

Вычитая из неравенства (2.7) неравенство (2.8), делаем вывод о выпуклости функции $\varkappa (x)$ на ${{\mathbb{R}}^{p}}$.

2. Из лемм 2.1, 2.3 следует, что функция $\varkappa (x)$ дифференцируема по направлениям в любой точке $x \in {{\mathbb{R}}^{p}}$. При этом если $x \notin \partial D$, то

Отсюда, используя формулы (2.1) и (2.3), получаем Справедливость этой формулы для любого направления $g \in {{\mathbb{R}}^{p}}$, как известно (см. [23], [24]), однозначно определяет формулу субдифференциала выпуклой функции.

Справедливость формулы (2.5) для случая $x \in \partial D$ доказывается аналогично, при этом ${{Q}^{\rho }}(x) = \{ x\} $.

Замечание 2.2. Замечательное свойство евклидовой нормы (2.6) является существенным для выпуклости функции $\varkappa (x)$. Приведем пример нормы, когда $\varkappa (x)$ может быть не выпуклой.

Пример 2.1. Пусть $D = \operatorname{co} \{ ( - 3,0),(3,0),(0,3)\} \subset {{\mathbb{R}}^{2}}$ – треугольник, $\left\| x \right\| = max\{ {\text{|}}{{x}^{1}}{\text{|}},{\text{|}}{{x}^{2}}{\text{|}}\} $ – чебышёвская норма точки $x = ({{x}^{1}},{{x}^{2}}) \in {{\mathbb{R}}^{2}}$. Для точек ${{x}_{1}} = (0,0)$ и ${{x}_{2}} = (0,1)$ имеем

и соответственно Таким образом, для этой пары точек имеем

Напомним, что выпуклое множество называется строго выпуклым, если его граница не содержит отрезков.

Теорема 2.2. Если $D$ – строго выпуклое тело, то функция $\varkappa (x)$ является строго квазивыпуклой на $D$, то есть

Доказательство. С учетом уже доказанной выпуклости функции $\varkappa (x)$, нам достаточно доказать выполнение строгого неравенства (2.9) для любых точек ${{x}_{1}}$ и ${{x}_{2}}$ из $D$ таких, что $\varkappa ({{x}_{1}}) = \varkappa ({{x}_{2}})$. Противное этому означает существование точек ${{x}_{1}}$ и ${{x}_{2}}$ из $D$ таких, что $\varkappa ({{x}_{1}}) = \varkappa ({{x}_{2}}) = \varkappa ({{\alpha }_{0}}{{x}_{1}} + $ $ + \;(1 - {{\alpha }_{0}}){{x}_{2}})$ для некоторого ${{\alpha }_{0}} \in (0,1)$. Но тогда из выпуклости функции $\varkappa (x)$ следует

Из вогнутости функции $\rho (x)$ на $D$, в соответствии с леммой 2.4, вытекает Тогда, используя также неравенство (2.7), получаем Следовательно, ввиду (2.2), нам остается рассмотреть ситуацию, когда одновременно с (2.10) имеет место

Нетрудно видеть, что равенство (2.11) означает

и при этом шар $B({{x}_{1}},\rho ({{x}_{1}}))$ касается сферы $S({{x}_{2}},\rho ({{x}_{2}}))$ в единственной точке Поскольку шар $B({{x}_{1}},\rho ({{x}_{1}}))$ касается $\partial D$ в точке из ${{Q}^{\rho }}({{x}_{1}})$, а шар $B({{x}_{2}},\rho ({{x}_{2}}))$ соответственно в точке из ${{Q}^{\rho }}({{x}_{2}})$, то из (2.11)–(2.13) вытекает Кроме того, следствием (2.11)–(2.13) является линейность поведения функции $\rho (x)$ на отрезке $[{{x}_{1}},{{x}_{2}}]$Отсюда получаем Из (2.10) следует, что ${\text{ }}\varkappa {\kern 1pt} '({{x}_{2}},{{x}_{1}} - {{x}_{2}}) = 0$, что эквивалентно В соответствии с леммой 2.1 Обозначим через ${{y}_{R}} \in {{Q}^{R}}({{x}_{2}})$ точку, для которой Подставляя (2.15) и (2.17) в (2.16), имеем Отсюда, используя (2.13), получаем Так как $z* \in {{Q}^{\rho }}({{x}_{2}})$, то гиперплоскость является опорной одновременно к шару $B({{x}_{2}},\rho ({{x}_{2}}))$ и к выпуклому телу $D$ в точке $z{\text{*}}$. Кроме того, поскольку ${{\rho }^{2}}({{x}_{2}}) = \left\langle {{{x}_{2}} - z*,{{x}_{2}} - z{\text{*}}} \right\rangle $, из (2.19) следует то есть точка ${{y}_{R}}$ лежит на гиперплоскости $\pi $, как и точка $z{\text{*}}$. Но опорная гиперплоскость может касаться строго выпуклого тела в единственной точке, следовательно, точки $z{\text{*}}$ и ${{y}_{R}}$ совпадают. А поскольку $z{\text{*}} \in {{Q}^{\rho }}({{x}_{2}})$, ${{y}_{R}} \in {{Q}^{R}}({{x}_{2}})$, получаем равенство $R({{x}_{2}}) = \rho ({{x}_{2}})$, которое говорит о том, что тело $D$ представляет собой шар $B({{x}_{2}},R({{x}_{2}}))$. Это, как нетрудно видеть, противоречит (2.10).

Замечание 2.3. Нижеследующий пример показывает, что строгая выпуклость тела $D$ является существенным требованием для строгой квазивыпуклости функции $\varkappa (x)$ на $D$.

Пример 2.2. Выпуклое тело $D = \operatorname{co} \{ B((0,1),1),(2,0)\} \subset {{\mathbb{R}}^{2}}$ не является строго выпуклым. Для  точек ${{x}_{1}} = (0,0) \in D$ и ${{x}_{2}} = (0,1) \in D$ при $\alpha \in [0,1]$ имеем ${{Q}^{R}}(\alpha {{x}_{1}} + (1 - \alpha ){{x}_{2}}) = \{ (2,0)\} $, $(0,0) \in {{Q}^{\rho }}(\alpha {{x}_{1}} + (1 - \alpha ){{x}_{2}})$ и

Таким образом, $\varkappa (\alpha {{x}_{1}} + (1 - \alpha {{x}_{2}})) \equiv 4$ для всех $\alpha \in [0,1]$, что говорит об отсутствии строгой квазивыпуклости и строгой выпуклости функции $\varkappa (x)$ одновременно.

Замечание 2.4. Покажем, что при наличии строгой выпуклости тела $D$ строгой квазивыпуклости функции $\varkappa (x)$ на всем пространстве может не быть.

Пример 2.3. Пусть $p = 2$, тело

является строго выпуклым. Нетрудно видеть, что для точек ${{x}_{1}} = (4,1) \notin D$ и ${{x}_{2}} = (4, - 1) \notin D$ имеем В итоге получаем $\varkappa (\alpha {{x}_{1}} + (1 - \alpha ){{x}_{2}}) \equiv 48$, $\alpha \in [0,1]$.

Замечание 2.5. Теперь покажем, что из строгой выпуклости тела $D$ не следует строгая выпуклость функции $\varkappa (x)$ на $D$.

Пример 2.4. Пусть $p = 2$ и строго выпуклое тело $D$ то же самое, что и в примере 2.3. Возьмем точки

Для $\alpha \in [0,1]$ имеем и соответственно Таким образом, то есть функция $\varkappa (x)$ не является строго выпуклой на $D$.

3. СВОЙСТВА РЕШЕНИЯ

Обозначим через

множество решений задачи (1.1).

3.1. Формула (2.5) субдифференциала выпуклой функции $\varkappa (x)$ позволяет получить критерий решения задачи (1.1).

Теорема 3.1. Для того, чтобы точка $x{\text{*}}$ была точкой минимума функции $\varkappa (x)$ на ${{\mathbb{R}}^{p}}$ необходимо и достаточно, чтобы

Если же точка $x{\text{*}}$ такова, чтото она является единственным решением задачи (1.1), причем, существует $\varepsilon > 0$ такое, что

Доказательство. 1. В соответствии с известным фактом из выпуклого анализа (см., например, [21, гл. 4])

Остается заметить, что включение (3.4), как это следует из (2.5), эквивалентно выполнению соотношения (3.1).

2. Пусть выполняется (3.2), а значит, в соответствии с (2.5) существует $\varepsilon > 0$ такое, что $B({{0}_{p}},\varepsilon ) \subset \underline {\partial \varkappa } (x*)$. Тогда для любой точки $x \in {{\mathbb{R}}^{p}}$

и, следовательно, в соответствии с определением субдифференциала

3.2. Исследуем свойства решения задачи (1.1) с помощью полученного критерия (3.1).

Следствие 3.1. Граничная точка $x{\text{*}}$ компакта $D$ является точкой минимума функции $\varkappa (x)$ тогда и только тогда, когда она является чебышёвским центром этого компакта, то есть $R(x*) = \mathop {min}\limits_{x \in {{\mathbb{R}}^{p}}} R(x)$.

Доказательство. Пусть $x* \in \partial D \cap {{C}_{\varkappa }}$. Тогда ${{Q}^{\rho }}(x*) = \{ x*\} $, а из теоремы 3.1 вытекает $x* \in \operatorname{co} {{Q}^{R}}(x*)$. Используя формулу (2.1), получаем

В соответствии с известным фактом из выпуклого анализа (см. [21, гл. 4]) означает, что $x{\text{*}}$ – точка минимума выпуклой функции $R(x)$ на ${{\mathbb{R}}^{p}}$, то есть, это чебышёвский центр компакта $D$. Легко также сделать обратный вывод о том, что граничная точка, являющаяся чебышёвским центром, будет удовлетворять соотношению (3.1), то есть являться одним из решений задачи (1.1).

Замечание 3.1. Простые примеры показывают, что если чебышевский центр компакта $D$ является одновременно точкой минимума функции $\varkappa (x)$, он может быть неединственным решением задачи (1.1) (см. пример 5.1).

Нетрудно видеть, что из второй части теоремы 3.1 вытекает

Следствие 3.2. Если $x* \in \partial D$ и при этом

то точка $x{\text{*}}$, являясь чебышёвским центром компакта $D$, будет единственным решением задачи (1.1), то есть ${{C}_{\varkappa }} = \{ x*\} $.

Следствие 3.3. Пусть $D$ – выпуклый компакт. Если $x* \in {{C}_{\varkappa }}$ и при этом $x* \notin D$, то ${{Q}^{\rho }}(x*) = \{ {{x}_{R}}\} $, где точка ${{x}_{R}}$ является чебышёвским центром компакта $D$ и $[x*,{{x}_{R}}] \subset {{C}_{\varkappa }}$.

Доказательство. Проекция точки $x* \notin D$ на выпуклый компакт $D$ состоит из единственной точки, то есть ${{Q}^{\rho }}(x*) = \{ {{x}_{R}}\} $. Гиперплоскость $\pi = \{ x \in {{\mathbb{R}}^{p}}:\left\langle {x{\text{*}} - {{x}_{R}},x - {{x}_{R}}} \right\rangle = 0\} $ является опорной к $D$, причем

Поскольку $x* \in {{C}_{\varkappa }}$, то по теореме 3.1 имеем ${{x}_{R}} \in \operatorname{co} {{Q}^{R}}(x*)$. Тогда по теореме Каратеодори (напр., [21, гл. 1]), существуют точки ${{\{ {{y}_{i}}\} }_{{i = \overline {1,m} }}} \subset {{Q}^{R}}(x*)$, положительные числа ${{\{ {{\alpha }_{i}}\} }_{{i = \overline {1,m} }}}$, $\sum\nolimits_{i = 1}^m \,{{\alpha }_{i}} = 1,$ $2 \leqslant m \leqslant p + 1$, такие, что Так как ${{x}_{R}} \in \pi $ и ${{Q}^{R}}(x*) \subset D$, то из (3.5), (3.6) следует ${{\{ {{y}_{i}}\} }_{{i = \overline {1,m} }}} \subset \pi $ и поэтому Нетрудно видеть, что для точек $x(\alpha ) = \alpha x{\text{*}} + (1 - \alpha ){{x}_{R}} \in [x*,{{x}_{R}}]$ при $\alpha \in [0,1)$Поэтому, ввиду (3.7), выполняется соотношение что по теореме 3.1, означает, что $x(\alpha ) \in {{C}_{\varkappa }}$. В частности, при $\alpha = 0$ получаем ${{x}_{R}} \in {{C}_{\varkappa }}$. А поскольку точка ${{x}_{R}} \in \partial D$, то, в соответствии со следствием 3.1, она является чебышёвским центром компакта $D$.

Обозначим через

Из следствия 3.3, очевидно, вытекает

Следствие 3.4. Если $D$ – выпуклый компакт, то ${{C}_{\varkappa }} \cap D \ne \not {0}$, а точнее

Замечание 3.2. Примеры показывают, что если компакт $D$ не является выпуклым, то возможна ситуация ${{C}_{\varkappa }} \cap D = \not {0}$ и даже ${{C}_{\varkappa }} \cap \operatorname{co} D = \not {0}$.

Следствие 3.5. Если $D$ – строго выпуклое тело, то решение задачи (1.1) является единственным, то есть ${{C}_{\varkappa }} = \{ x*\} $, причем $x* \in \operatorname{int} D$.

Доказательство. Из теоремы 2.2 следует, что решение задачи

состоит из единственной точки: ${{C}_{\varkappa }}(D) = \{ x*\} $. В силу следствия 3.4, получаем $x* \in {{C}_{\varkappa }}$.

Предположим, что $x* \in \partial D$. Построим в этой точке опорную гиперплоскость к $D$:

Поскольку $D$ – строго выпуклое тело, то можно считать, что а значит, и Это, с учетом ${{Q}^{\rho }}(x*) = \{ x*\} $, делает невыполнимым условие оптимальности (3.1) в точке $x{\text{*}}$. То есть мы получили противоречие с тем, что $x* \in {{C}_{\varkappa }}$. Таким образом $x* \in \operatorname{int} D$.

Отсутствие других точек в ${{C}_{\varkappa }}$, не принадлежащих $D$, вытекает из выпуклости множества ${{C}_{\varkappa }}$ и тем учетом, что $x* \in \operatorname{int} D$.

4. СУЩЕСТВОВАНИЕ РЕШЕНИЯ

Полученный нами критерий решения будет использован здесь для обоснования существования решения задачи (1.1).

Введем следующие дополнительные обозначения:

$\operatorname{Aff} D$ – аффинная оболочка компакта $D$;

$\operatorname{Lin} D = \operatorname{Aff} D - {{x}_{0}}$ – несущее пространство компакта $D$. Здесь ${{x}_{0}}$ – любая точка из $D$. То есть $\operatorname{Lin} D$ – пересечение всех пространств, содержащих $\operatorname{Aff} D - {{x}_{0}}$;

$\dim (\operatorname{Lin} D)$ – размерность несущего пространства;

${{(\operatorname{Lin} D)}^{ \bot }}$ – ортогональное пространство к $\operatorname{Lin} D$;

Теорема 4.1. 1. Решение задачи (1.1) существует.

2. Множество решений ${{C}_{\varkappa }}$ является ограниченным тогда и только тогда, когда

3. Если $\dim (\operatorname{Lin} D) < p$, то

Доказательство. (a) Предположим, что существует точка ${{x}_{0}}$ и $r > 0$ такие, что $\partial D \subset S({{x}_{0}},r)$, то есть граница компакта $D$ располагается на сфере, и, кроме того, $\dim (\operatorname{Lin} D) = p$. Очевидно, в этом случае $\varkappa ({{x}_{0}}) = 0$ и ${{C}_{\varkappa }} = \{ {{x}_{0}}\} $.

(б) Рассмотрим случай, когда

Докажем, что существует $\delta > 0$ такое, что

Предположим противное. Тогда существует последовательность ${{\{ {{x}_{k}}\} }_{{k = 1,2,\; \ldots }}}$ и ${{\{ {{\delta }_{k}}\} }_{{k = 1,2,\; \ldots }}}:\delta \downarrow 0,$ $k \to \infty $ такие, что

Если ${{\{ {{x}_{k}}\} }_{{k = 1,2,\; \ldots }}}$ – ограниченная последовательность, то без ограничения общности можно считать, что она сходится: ${{x}_{k}} \to x{\text{*}}$, $k \to \infty $. Тогда, переходя в (4.5) к пределу при $k \to \infty $, получаем, что $R(x*) - \rho (x*) = 0$. Это дает включение, $\partial D \subset S(x*,R(x*))$, что противоречит (4.2).

Если же ${{\{ {{x}_{k}}\} }_{{k \in \mathbb{N}}}}$ – неограниченная последовательность, то можно считать $R({{x}_{k}}) \to \infty $, $k \to \infty $. Вместе с (4.5) это означает, что компакт $D$ можно поместить в шаровой слой сколь угодно большого радиуса и сколь угодно тонкий, что противоречит (4.3). Итак, (4.4) доказано.

(в) Теперь покажем, что при выполнении условий (4.2), (4.3) решение задачи (1.1) не только существует, но и ограничено. Для этого, очевидно, достаточно доказать ограниченность нижнего лебегова множества функции $\varkappa (x)$. Действительно, зафиксируем некоторую точку ${{x}_{0}}$. Тогда, используя (4.4), получаем

Но множество является ограниченным.

(г) Рассмотрим теперь оставшийся случай $\dim (\operatorname{Lin} D) < p$.

Нетрудно видеть, что из пунктов (a), (б), (в) вытекает не только существование решения задачи

но и ограниченность множества ${{C}_{\varkappa }}(\operatorname{Aff} D)$, при этом ${{C}_{\varkappa }}(\operatorname{Aff} D) \subset {{C}_{\varkappa }}$.

Очевидно, для произвольных точек

выполняется Следовательно, условие оптимальности (3.1) будет выполняться для точки $y + z$ также, как и для точки $y$. Тем самым мы показали, что решение задачи существует и

Чтобы показать обратное для (4.6) выключение, возьмем произвольную точку $y \in {{C}_{\varkappa }}$, $y \notin \operatorname{Aff} D$, и пусть точка $z$ является проекцией точки $y$ на $\operatorname{Aff} D$. Очевидно, ${{Q}^{R}}(z) = {{Q}^{R}}(y)$, ${{Q}^{\rho }}(z) = {{Q}^{\rho }}(y)$ и, следовательно, для точки $z$, как и для точки $y$, выполняется условие оптимальности, то есть $z \in {{C}_{\varkappa }}(\operatorname{Aff} D)$. И поскольку $y - z \in {{(\operatorname{Lin} D)}^{ \bot }}$,

то обратное к (4.6) включение доказано. Тем самым мы доказали п. 3. теоремы.

(д) Итак, мы доказали, что решение в любом случае существует и формулу (4.1) в случае $\dim (\operatorname{Lin} D) < p$. Если $\dim (\operatorname{Lin} D) = p$, то из пунктов (а), (б), (в) следует ограниченность множества решений ${{C}_{\varkappa }}$. С другой стороны, если $\dim (\operatorname{Lin} D) < p$, то множество $C$, как это видно из (4.1), является неограниченным. Тем самым утверждение 2 теоремы тоже доказано.

5. СВЯЗЬ РЕШЕНИЙ ЗАДАЧ (1.1), (1.2), (1.3) В ДВУМЕРНОМ СЛУЧАЕ

В этом разделе задачи (1.1), (1.2), (1.3) рассматриваются на плоскости, причем компакт $D$ будем считать выпуклым телом.

Обозначим через

множества решений задач (1.2) и (1.3) соответственно.

Известно (см. [10], [11]), что решение задачи (1.2) для случая евклидовой нормы, как и для любой другой нормы со строго выпуклым шаром, является единственным, то есть ${{C}_{\varphi }} = \{ x*\} $, причем $x* \in \operatorname{int} D$. В [20] доказано, что в двумерном случае эта точка является одним из решений задачи (1.3), то есть $x* \in {{C}_{\psi }}$. Мы покажем, что эта точка будет также одним из решений задачи (1.1) и в целом справедлива

Теорема 5.1. Пусть размерность пространства $p = 2$. Если $D \subset {{\mathbb{R}}^{2}}$ является выпуклым телом, то

Доказательство. Случай, когда $D$ является шаром, является, очевидно, тривиальным. Поэтому в дальнейшем можно считать

(a) Функция $\varphi (x) = R(x) - \rho (x)$, как разность выпуклой и вогнутой функции, является выпуклой на $D$. Ее субдифференциал в точках $x \in \operatorname{int} D$, как это следует из лемм 2.1, 2.4 и теоремы Моро-Рокафеллара имеет вид

где $\underline {\partial R} (x)$ и $\overline {\partial \rho } (x)$ определяются формулами (2.1) и (2.3) соответственно.

Как отмечено выше, множество ${{C}_{\varphi }}$ состоит из единственной точки: ${{C}_{\varphi }} = \{ x*\} $, причем $x* \in \operatorname{int} D$. Эта точка, являясь минимумом выпуклой функции, обязана удовлетворять условию ${{0}_{2}} \in \underline {\partial \varphi } (x*)$. А значит, в силу (5.3), выполняется соотношение

Учитывая формулы (2.1) и (2.3), а также (5.2), из (5.4) вытекает существование точек $y_{1}^{R}$, $y_{2}^{R}$ из ${{Q}^{R}}(x*)$ и точек $z_{1}^{\rho }$, $z_{2}^{\rho }$ из ${{Q}^{\rho }}(x*)$ таких, что имеет место пересечение отрезков

(б) Докажем, что

В силу теоремы 3.1, для этого достаточно показать Без потери общности можно считать, что $x* = {{0}_{2}}$. Тогда соотношение (5.5) эквивалентно где $x_{i}^{\rho } = \tfrac{{R(x*)}}{{\rho (x*)}}z_{i}^{\rho }$, $i = 1,2$, причем $\left\| {x_{1}^{\rho }} \right\| = \left\| {x_{2}^{\rho }} \right\| = R(x*)$.

Из (5.8) следует, что точки $x_{1}^{\rho }$ и $x_{2}^{\rho }$ располагаются по разные стороны от прямой ${{\pi }_{1}}$, проходящей через точки $y_{1}^{R}$ и $y_{2}^{R}$. Если ${{0}_{2}} \in \left[ {y_{1}^{R},y_{2}^{R}} \right]$, то, очевидно, вместе с (5.8) будет выполняться и (5.7). Поэтому остается рассмотреть случай, когда

и, таким образом, прямую ${{\pi }_{1}}$ можно записать в виде Факт расположения точек $x_{1}^{\rho }$ и $x_{2}^{\rho }$ по разные стороны от прямой ${{\pi }_{1}}$ можно выразить так Из (5.10), с учетом $R(x*) > \rho (x*)$, следует то есть точка $z_{2}^{\rho }$ располагается по ту же сторону от прямой ${{\pi }_{1}}$, что и точка $x_{2}^{\rho }$. Поэтому, чтобы доказать (5.7), осталось показать, что точка $z_{1}^{\rho }$ удовлетворяет неравенству $\left\langle {y*,z_{1}^{\rho } - y{\text{*}}} \right\rangle \geqslant 0$.

Предположим противное

Из (5.9) и (5.11) следует, что отрезки $\left[ {y_{1}^{R},y_{2}^{R}} \right]$ и $\left[ {z_{1}^{\rho },x_{1}^{\rho }} \right]$ пересекаются в некоторой точке $z{\text{*}}$, являющейся внутренней для каждого из этих отрезков. То есть существуют ${{\alpha }_{0}} \in (0,1)$ и ${{\beta }_{0}} \in (0,1)$ такие, что Построим опорную прямую к кругу $B(x*,\rho (x*))$ в точке $z_{1}^{\rho }$Так как $z_{1}^{\rho } \in {{Q}^{\rho }}(x*)$, то прямая ${{\pi }_{2}}$ одновременно является опорной и к выпуклому телу $D$, причем Прямая с учетом (5.13) является параллельной к ${{\pi }_{2}}$ и поскольку $R(x{\text{*}}) > \rho (x{\text{*}})$ не касается тела $D$, то есть С другой стороны, из (5.12) вытекает Это противоречит (5.15), так как $y_{i}^{R} \in D$, $i = 1,2$. Таким образом, соотношение (5.7), а вместе с тем и (5.6), доказано.

в) Ранее в [20] было доказано, что

Поэтому с учетом (5.6) мы имеем и нам осталось доказать, что множество ${{C}_{\varkappa }}\bigcap {{{C}_{\psi }}} $ состоит из единственной точки.

В самом деле, предположим $y{\text{*}} \in {{C}_{\varkappa }}\bigcap {{{C}_{\psi }}} $. По теореме 3.1 имеем

Используя формулы (2.1) и (2.3), нетрудно показать, что это условие оптимальности эквивалентно выполнению соотношения С другой стороны, в [20] доказано Теперь нетрудно показать, что из (5.16), (5.17) следует выполнение соотношения которое (см. [11]) является критерием решения задачи (1.2), то есть, $y{\text{*}} \in {{C}_{\varphi }}$, а значит, $y* = x{\text{*}}$.

Пример 5.1. Для иллюстрации теоремы 5.1 возьмем в качестве выпуклого тела $D \subset {{\mathbb{R}}^{2}}$ разносторонний треугольник. Пусть ${{x}_{R}}$ – центр окружности, на которой лежат вершины треугольника; ${{x}_{\rho }}$ – центр вписанного круга; $x{\text{*}}$ – точка пересечения биссектрисы наименьшего угла и серединного перпендикуляра наибольшей стороны треугольника $D$. Очевидно, все точки (и только они) отрезка $[{{x}_{R}},x{\text{*}}]$ удовлетворяют соотношению (3.1) и, следовательно, ${{C}_{\varkappa }} = [{{x}_{R}},x{\text{*}}]$. Нетрудно также убедиться, что для точек отрезка $[x{\text{*}},{{x}_{\rho }}]$ (и только для них) выполняется критерий (5.17) решения задачи (1.3), то есть ${{C}_{\psi }} = [x{\text{*}},{{x}_{\rho }}]$. Точка $x{\text{*}}$ при этом удовлетворяет критерию (5.18) решения задачи (1.2).

Замечание 5.1. Покажем на примере, что уже в трехмерном случае решения задач (1.1), (1.2) и (1.3) могут не пересекаться.

Пример 5.2. Для построения выпуклого тела $D \subset {{\mathbb{R}}^{3}}$ возьмем точки

Обозначим через ${{\pi }_{i}}$, $i = 1,2$, полупространства В качестве выпуклого тела берем

1. Из построения вытекает, что для точки $x{\text{*}} = (0,0,0)$

В соответствии с формулами (2.1)–(2.3) получаем Таким образом, $\underline {\partial R} (x{\text{*}})\bigcap {\overline {\partial \rho } (x{\text{*}})} = \{ ( - 1{\text{/}}\sqrt 2 ,0,0)\} \ne \not {0}$. То есть, удовлетворяется критерий (5.18) решения задачи (1.2) и точка $x{\text{*}} = (0,0,0)$ является (см. [11]) единственным решением задачи (1.2): ${{C}_{\varphi }} = \{ x{\text{*}}\} $. Легко убедиться, что критерии (3.1) и (5.17) решения задач (1.1) и (1.3) в точке $x{\text{*}}$ не выполняются, то есть $x{\text{*}}\not { \in }{{C}_{\varkappa }}\bigcup {{{C}_{\psi }}} $.

2. Рассмотрим точку ${{x}_{\varkappa }} = (1,0,0)$. Для этой точки

где $y_{3}^{R} = ( - 4,0,0)$, $z_{3}^{\rho } = (2.5,0,2.5)$, $z_{4}^{\rho } = (2.5,0, - 2.5)$.

Нетрудно проверить, что для точки ${{x}_{\varkappa }}$ выполняется соотношение (3.2), а следовательно, по теореме 3.1, имеем ${{C}_{\varkappa }} = \{ {{x}_{\varkappa }}\} $ и, в то же время, соотношение (5.17) для этой точки не выполняется, поэтому ${{x}_{\varkappa }} \notin {{C}_{\psi }}$.

Замечание 5.2. Задача

в случае $p = 2$ совпадает с задачей (1.1), а в общем случае имеет простой геометрический смысл. А именно, ее решение требует построения шаровой оболочки наименьшего объема, которая содержит границу компакта $D$. В [31] доказано, что целевая функция этой задачи является субдифференцируемой в смысле определения В.Ф. Демьянова–А.М. Рубинова (см. [24]), получена формула ее субдифференциала и необходимое условие решения этой задачи. Однако уже в трехмерном случае, то есть при $p = 3$, примеры показывают, что целевая функция может быть невыпуклой, даже в случае выпуклости компакта $D$. Это обстоятельство значительно осложняет исследование задачи (5.19).

Замечание 5.3. Выпуклость целевой функции задачи (1.1) и полученная формула ее субдифференциала позволяют использовать арсенал методов выпуклого программирования (см. [27]) для получения ее приближенного численного решения, в частности, методы субградиентного типа. Специфика субдифференциала (2.5) может отразиться и на разработке оригинальных методов.

Замечание 5.4. В заключение отметим следующее: если компакт $D$ является выпуклым, то задачи (1.1) и (5.19) становятся представителями того класса задач по шаровым оценкам выпуклых компактов (см. [14]), решения которых могут быть выражены решением задачи о наилучшем приближении в метрике Хаусдорфа этого выпуклого компакта шаром фиксированного радиуса при некоторых значениях этого радиуса (см. [14], [32]).

Авторы выражают признательность рецензенту за полезные замечания.