книги из ГПНТБ / Балакришнан, А. Введение в теорию оптимизации в гильбертовом пространстве

Функции, преобразования, операторы

149

менных {sj и удовлетворяющая условию

d	ь	ь
J r f / J		. . .M(i,J su ... ,		sn)2ds,		... dsn < OO,
• с	а	а
если
II ft (^j *^1»	■• • >	X\,	. . . , Xji) ||^^
			< M{t>s,, ..			sn)И.V, II ... Ца'Л ,
Здесь уместно отметить,				что	если	/С(.ѵ,.........хп) —
непрерывное я-линейное отображение						из X в Y, то
		sup	II /< (-V-...........-У») II		< оо .
			II-V) 1...ІЫ І

Докажем это сначала для билинейных форм.

Л е м м а 3.3.	Пусть ft{xlt х2) — билинейная форма,
отображающая X	в Y и непрерывная по каждой пере­

менной	в отдельности. Тогда существует функция S{x),
определенная на X и для каждого х задающая ограни­
ченное	линейное преобразование S, отображающее X
в Y непрерывным образом, причем
	||S(*1) - S ( * 2) |K M ||* , - * 2||
(норма	слева — это операторная норма) и справедливо

представление

ft{x\, ѵѴ2) = S (л:,) л;г-

Хроме того,

l|/C(*i, x2) ll^ M|| xt UKx21|.

Д о к а з а т е л ь с т в о .	Заметим,	что ft(x, •) для
каждого X определяет ограниченное линейное преобра-
. зование из X в Y, так что
sup II ft {х,	х2) | К k (х) <	оо .
IUjIKi

Далее, ft (•, х2) для каждого • х2 также определяет ограниченное линейное преобразование из X в Y. В частности, множество {Д( •, х2): ||*2 ІІ^ 1} определяет

150

Глава 3

такую совокупность ограниченных линейных преобра­ зований, что для каждого х е X

sup II К (X, х9) II < /г (х) < оо.

Поэтому в силу принципа равномерной ограниченности существует равномерная оценка сверху операторных норм, т. е.

SUp SUp II К (х, Хо) II = М < ОО. IWKi Н-ѵьІКі

Отсюда следует, что

I\К (хи х2) || = М|| X'! ||||х2||.

Остальные утверждения леммы теперь получаются непосредственно.

По индукции если К (хи ... , х„) обозначает п-ли- нейную форму, непрерывную по каждой переменной в отдельности, то легко показать, что

||Я (х„ . .. , х „)ІК М ||х ,|| ... ||х„||.

Обратное, разумеется, также верно. Норма /г-линейной (ограниченной или, что эквивалентно, непрерывной по каждой переменной в отдельности) формы задается равенством

II К II = sup	II к (X ...........	Х п ) II
	IIX, II...	II д-„ II

По аналогии с таким же результатом из теории ли­ нейных операторов (а также опираясь на него) можно доказать следующую лемму.

Л е м м а 3.4. Пусть {/Сm (•••)} — такая последова­ тельность непрерывных п-линейных форм, что для

каждого		элемента (х,,		... , хп)	последовательность
{Кт{х1,	... , х„)} сходится-,			обозначим этот		предел через
К (Х], ... ,		х„).	Тогда !({•••) — непрерывная			п-линейная
форма и		И-К(‘ • •) II^ Hm inf II Km{‘ ••)!!•
Д о к а з а т е л ь с т в о .				Фиксируя	все	переменные,
кроме	одной,		и переходя	к пределу, получаем, что

Функции, преобразования, операторы

151

функция /((•••) должна быть непрерывной по каждой переменной в отдельности. Далее,

!*(*■, .... Хп) II ...

ll-V,||...|knll

а так как	• • ч х п)
І-Кш(А~1’
I JCi II -	- - ВJC» II

\\Кт(Хи ...,.ѴП)| Um || *>!•.. II *„i|

I< н /*:«(•• oil,

то второе утверждение леммы также доказано.

Если пространство X сепарабельно, то в классе полилинейных форм можно выделить формы Гиль­ берта — Шмидта.

О п р е д е л е н и е

3.14. «-линейная форма, отобра-.

жающая

сепарабельное

гильбертово пространство

X

в пространство

Y,

называется

формой

Гильберта —

Шмидта, если в X существует полная ортонормальная

система

{ej,

для

которой

2

•••

2 і І К Ц ,

ein) IF

<

0 0 •

Іп = I

г, = '

Как и в случае п — 1, левая

часть не

зависит

от

вы­

бора конкретной ортонормальной системы.

О п р е д е л е н и е

3.15. Нормой «-линейной формы

Гильберта — Шмидта называется

число

II

К Iltis =

2

. . .

2

\\K(eh, ... ,

ei ) IF,

«„=!

/,= і

где {е,}— любая

полная

ортонормальная

система

век­

торов из

X.

п — 1,

Как

и в случае

IIKIKIIKIIhs-

Класс

/г-линейных

форм Гильберта — Шмидта

обра­

зует	линейное пространство. В нем можно задать ска­
лярное произведение
[К,	Ц = 2 . . . . 2 [К{е,, . .. , ein), L{eh, .... el(i)},

152

Глава 3

и тогда оно будет полным относительно нормы, инду­ цированной этим скалярным произведением. Другими словами, класс таких форм образует относительно вве­ денного скалярного произведения гильбертово простран­ ство; обозначим его через Jfn{X, У)- Это пространство сепарабельно (независимо от того, сепарабельно У или нет). Представляют интерес /^-пространства функций, принимающих значения в пространстве j f n. Рассмот­ рим одно такое пространство.

П р и м е р 3.9. Пусть X = L2(D)P и У = Еи где D — подмножество в Еп. Тогда для каждого элемента из j¥n{X, 7) можно предложить следующее представление. Для простоты записи рассмотрим пространство Л’ъіХ, У). Пусть {ег (0} — полная ортонормальная система функций из X и

	qij =	К {ві,	ej).
Зададим на Ер 4-линейную форму
F (Л|, ■• *, -V4)		[«^І» Л.3] [*^2> -^4]»
принимающую	значения в Е		Положим
	П П
K n i t , S, х 3,	х А) = 2 2	qiiF(ei(t), e,-(s), л.-3, х 4)

г=і /=і

идля функций /( •) и g( •) из X определим

ПП

Kn(f, 8 ) = f f	У і ^ЯиРіеіѴ). ej(s),f(t),g(s))d\t\d\ s |.
D D	1 = I i= l

Очевидно, что функции K n принадлежат пространству Ла2(Х, У) и образуют в нем последовательность Коши. Далее, функции Kn(t, s, ... ) образуют последователь­ ность Коши в L2(D X А АС2{Ер, Е і)). Если K{t, s, . . . ) — ее предел, то нетрудно видеть, что

K ( f , g ) = J J K{t, s,.f(t), g (s ))d \t\d \s |.

D D .

Обобщение этого результата на «-линейные формы более высокого порядка (п > 2) получается сразу. Этот результат можно обобщить и на случай, когда Z =

Функции, преобразования, операторы	153
— L2{D, Я), где Я — любое сепарабельное	гильбертово
пространство. И в том и в другом случае	можно вос­

пользоваться определением формы /•’(•••) через скаляр­ ные произведения в Я.

Перейдем теперь к ситуации, в которой X = L2{D)P, как и раньше, а Y — L2{D')4, где D' — подмножество другого евклидова пространства. Снова подробно изу­ чим лишь случай JC2{X, У). Найдем для элементов этого

пространства удобное представление. Пусть						{«.;(■)} —
базис в У	(пространство У сепарабельно) и
[К{f, g),	щ] =	J	j	Ki (s,,	s2, f (s,), ц (s2)) d I s,	I d I s21.
Положим		D	D
				П
K n ( t ,	s h S2,	X3,		X4) = 2	S2, X3, X4) U i { t ) ,

i= I

а Kn{f> g) определим соотношениями

Knif, g) = h,

h{t)= J J Kn(t, si, s2, f(s,), g ( s 2) ) d\S\ I cf |s21.

D D

Тогда очевидно, что функции Кп{-• •) принадлежат про­ странству Jf2{X, У) и образуют в нем последовательность Коши. Далее, функции

K n i t , Si, s 2, •••), t ^ D ' , s h s 2 < = D ,

образуют последовательность Коши в L2 (D' X D X А JF2(Ep, Eq)). Если K { t , S|, s2, ... ) — ее предел, то нетрудно

видеть, что

К ( f , g) = h , h { t ) = I J K [ t , s„ s2, f(si), g{s2))d |s, |d |s 2|.

DD

Вкачестве последнего обобщения рассмотрим случай

X = L2(Dl, Я,),

у = l 2{d 2, .Я2),

где А и Я2 ~ подмножества соответствующих евклидо­ вых пространств, а Яі и Я?—сепарабельные гильбертовы

154 Глава 3

пространства. Предположим, что					«-линейная		форма
К (хи . . . , х п) принадлежит			Aan{X,		У)- Тогда	ее	можно
представить		в виде
	J . . .	К{хи ... , хп) =			у,
y{t) =		J K(t, Si, . . . ,	sn, -V,	(s,), . . .
	Di	D,	. .	xn{sn))d |s,		I ...	d |s„ I,
	K (t,sv . . . . Sfl, ...)z= L 2(D2X D »,jrn(Hl H2)).
3	а м'е ч а и и e 3.2.		П о с т р о е н и е			р а з р ы в н о й
п о л и л и н е й н о й формы.			Как это ни удивительно, но
для	построения полилинейной формы, не обладающей

свойством непрерывности, требуется аксиома выбора. Для простоты займемся 1-линейной формой (линейным функционалом), определенной на некотором (бесконечно­ мерном) гильбертовом пространстве Н. Чтобы построить линейный функционал, определенный на всем Н и не обладающий свойством непрерывности, выберем в Н ортонормальный базис Гамеля; обозначим его через {ej. Положим

т

К(*) = 2 а « ,,

где

т

X= 2 аа еа .

і=і 1 . ‘

Если бы функционал К{х) был непрерывным, то для некоторого элемента у из Н выполнялось бы равенство

К{х) = [х, у],

а этого, очевидно, не может быть.

Легко видеть, что существуют п-линейиые формьь которые непрерывны, но не являются формами Гиль­ берта-Ш мидта. Например, пусть п = 2, а Т — огра­ ниченный линейный оператор, отображающий бесконечно­ мерное сепарабельное гильбертово пространство X в себя. Положим

К{Х\, Х%)---- [ r.Vj, А-2].

Функции, преобразования, операторы

1Ь5

Форма К (•, •) является формой Гильберта — Шмидта тогда и только тогда, когда Т — оператор Гильберта — Шмидта. Действительно, пусть {е,} — ортонормальный базис в X. Тогда если / ( ( • , • ) — форма Гильберта — Шмидта, то

оооо

2 %\[Tet,ej] |2< оо.

і=і і=I

Но

2 l[7 ,ei,e/]|2= ll Tet ||2,

/=I

откуда

оо

2 II Tei II2< оо i=l

и, следовательно, Т — оператор Гильберта — Шмидта. Обратное утверждение можно получить, повторив пре­ дыдущие рассуждения в обратном порядке. Отметим, в частности, что для того, чтобы форма К(-, •) была формой Гильберта — Шмидта, не достаточно, чтобы

2 і К(еі> еі) I2< °°- t=1

Нелинейные операторы

Теория нелинейных операторов не столь широка и не столь полезна, как линейная теория, но все же в ней довольно много важных результатов. В этом разделе мы вкратце остановимся на некоторых ее общих аспектах, имеющих отношение к теории оптимизации.

Здесь мы рассмотрим лишь операторы (правильнее было бы называть их функциями, но, поскольку в этом вопросе нет единого мнения, мы будем пользоваться и -тем и другим термином, в зависимости от контекста), определенные на всем гильбертовом пространстве X и принимающие значения в другом гильбертовом простран­ стве Y. И так же как для функций, определенных на евклидовых пространствах, будем считать, что ближе всего к линейным операторам стоят полиномиальные операторы.

156	Глава 3
О п р е д е л е н и е	3.16. Функция Р(х) называется

однородным полиномиальным оператором степени п,

если найдется такая симметрическая п-линейная форма

!((•••), отображающая	I	в F, что
Р (а ) = К (X, X, . . . . х).
З а м е ч а н и е 3.3.	В	нашем определении мы вос­

пользовались понятием полилинейной формы. Более пря­ мое (но несколько более сложное) определение, не обра­ щающееся к полилинейным формам, можно найти у Хил­ ле и Филлипса [8).

Отметим, что Р (Хх) = Х'1Р (х), а Р (с + Ху) — полино­ мом п-й степени по X. Ниже мы покажем, как полу­ чать /<■(•••) из Р (•). Но прежде отметим, что для Р (•) молено определить подходящие свойства гладкости, на­ лагая соответствующие условия на /((•••). Назовем полиномиальный оператор Р{-) оператором Гильберта — Шмидта, если К ( - ••) — форма Гильберта — Шмидта.

Л е м м а 3.5. Функция Р (■) непрерывна, если непре­
рывна соответствующая форма К (-••)■
Д о к а з а т е л ь с т в о . Очевидно,			что для п = 1 лемма
верна. Предположим, что		она верна для п =		іп, и до­
кажем, что тогда она верна и для			ц = т + 1.	Обозна­
чим через {а„} сходящуюся последовательность,				а через х
ее предел. Тогда
II Р ( х ) - Р (хп) II = II	К (X, . . . ,	X) - К (Ад, . . . , Ад) II <
< II К (х, . . . , X, х) —		К {хп, . . . , Ад, а ) II +		Ад, Ад) II.
“Ь II К	{ х п , . . .,	Хп, X)	К, { х п, - . . ,
Первое слагаемое	в правой части		стремится	к нулю

в силу предположения о справедливости леммы для слу­

чая п = пг. Второе слагаемое		можно переписать в виде
II к{хп............ Ад,	А — А д ) І К	И /С АIIIIд іг*IIА — Ад II;
ясно, что оно тоже	стремится	к нулю.

Естественно, что для непрерывного однородного по­ линомиального оператора степени а справедлива оценка

| | Р ( а ) | | < М | | а |Г.

Функции, преобразовании, операторы

157

Кроме того, на любом ограниченном множестве он удовлетворяет условию Липшица. Другими словами, если Н — ограниченное множество в І , а х и у — эле­ менты из А, то

II Р ( х ) - Р ( у ) ||< М ||х - у ||,

где М — некоторая постоянная, зависящая от А. Дей­ ствительно,

[| Я (лг) — Р(у) || = || К{х,	х,	... , х) — К (у, у,		г/)ІК
< II к (х, X, . . . ,	X, х) — К {у, у,		у, х) II +
+ 11К (у, у,		у, х) — К{у, у,		.... у, у) II
и второе слагаемое не превосходит
К II у | Г ~ 1IIX —		у II ^ / п II X —	у II,

поскольку у принадлежит ограниченному множеству. Очевидно, что первое слагаемое можно оценить по тому же принципу и в конце концов получить нужный результат.

Верно и обратное, как мы сейчас увидим. Заметим, что для любого скаляра X и любого однородного

полиномиального оператора	степени	п,	непрерывного
или нет,
П
Р(х-\-Ху)='Уі ^пг ^ХгК(х,	X, . . . , X,	у,	. . ., у).

При фиксированном х коэффициентом при Хг оказы­ вается полином степени г по у, а при фиксированном у — полином степени п — г по х. Кроме того,

lim	Р (х + Ху) - Р (X)	= К(х, X,	X, у).
я.-»о	X

Заметим, что при этом не предполагалась непрерывность функции Р (-). На этой стадии полезно ввести два понятия производной.

О п р е д е л е н и е 3.17.	Функция /(•), отображаю­
щая X в К, называется	дифференцируемой по Гато

158

Глава 3

в точке X, если для каждого Іг из X существует предел

..	/ (а- + Х/і) — / (лг)
lim	^— L^ - L .
А.-»О	Л

Обозначим этот предел через бf(x,h).

Однородный полиномиальный оператор дифферен­ цируем по Гато всюду. Более того, 6Р(х, К) при фикси­ рованном X является однородным полиномиальным опе­ ратором первой степени по h. Но он не обязательно непрерывен по Іг.

О п р е д е		л е н и е	3.18. Функция [(■), отображаю­
щая X в	Y,	называется дифференцируемой по Фреше
в точке X,	если для		любого Іг из X существует предел
		lim І1* + М ) - М х} = 6 f(x, h)
		A.->0	K

и этот предел определяет (относительно /г) некоторый ограниченный линейный оператор, отображающий X в Y:

б/ (х, Іг) — F {х) Іг.

Оператор бf(x,h) называют дифференциалом Фреше, а F (х) — производной Фреше.

Очевидно, что однородный полиномиальный оператор дифференцируем по Фреше (в каждой точке), если он непрерывен. Пусть / (X) — полиномиальный функционал степени п, отображающий X в £). Тогда его производ­ ная Фреше имеет вид

бf(x,h) = {P(x),h],

где Р (х) — непрерывный однородный полиномиальный оператор степени /г— 1, отображающий X в простран­ ство линейных операторов из X в X. Если f ( - ) —опера­ тор Гильберта—Шмидта, то таков же и оператор Р{-). В этом случае Р( - ) компактен в том смысле, что он отображает ограниченное множество в множество, замы­ кание которого компактно. В этой связи мы приведем (без доказательства) теорему, являющуюся переработан­ ным вариантом теоремы Люстерника и обобщающую аналогичный результат для линейных операторов.