книги из ГПНТБ / Балакришнан, А. Введение в теорию оптимизации в гильбертовом пространстве

Вероятностные меры на гильбертовом пространстве

229

Так как V Rfn слабо сходится к VRf, то в силу свойств гильбертова пространства У Rfn сильно сходится к VRf .

Таким образом, оператор V R компактен, а потому компактен и оператор R.

Пусть {фг} — ортонормальная последовательность соб­ ственных векторов оператора R, которые, таким обра­ зом, могут служить базисом пространства Я. Положим

5(0; Х) = {х: ||х||2<Л},

5„(0; Я) == I jc: 2 [х , Ф»]2< я | .

F (X) = р. (5 (0; X)), — с» < X < оо,

F„ (А,) = ц (5„ (0; X)), — со < X < со.

Тогда Fn (X) — функция распределения, сходящаяся при каждом X к функции распределения F(X). Следова­ тельно, при каждом t последовательность чисел

	J e ^ d F n(X) = Cn(t)
сходится к
	J еіа dF (X) =		С (t).
Так как
с„(0= J е	и і [ х .	ф,]‘	1
	1	d]i.
я			(1 -	2 itXk)
где Xk=[Rq>k, ф*],	то последовательность			П 0 - 2 В Д
сходится при каждом		t, так что	I	k=i

iI itXkI — 1112 'Xk< 00>

iI

аэто значит, что оператор R ядерный.

8 Зак. 751

230	Глава 5
С л е д с т в и е	5.1. Для того чтобы цилиндрическая
мера ц, индуцированная оператором R, была счетно­
аддитивной, необходимо и достаточно, чтобы для любой
полной ортонормальной системы {ф/.}

		s u p		J	] £ Ф} *]2[ * *	<	00•
		п	я	I
Д о к а з а т е л ь с т в о .					Пусть	мера р счетно-адди­
тивна. Тогда оператор R ядерный и, следовательно,
	П			П		оо
j	Ф*]2						ф*] < 00•
Я	I			1		1
Обратно, пусть				П
					[х, q>k)2dp <
		sup	Г У				О О .
		п	*.	I
Так как			Я
	{	У)[*.		Фа]2^Ц =		1	ФьІ,
то	Я	I
			оо
			2 [ Я ф*. Фа] <			°°.

т. е. оператор R ядерный и, следовательно, мера ц счетно-аддитивна.

Наконец, заметим, что если R — ядерный оператор, то

	J II XII2 dp — tr R < оо.
	я
З а д а ч а 5.4.	Пусть ц — счетно-аддитивная цилин­
дрическая мера.	Тогда для данного е > 0 существует

такой шар радиуса пг (с центром в начале координат), что мера любого цилиндрического множества, содер­ жащегося в (теоретико-множественном) дополнении этого шара, меньше е. Обратное также верно.

Вероятностные меры на гильбертовом пространстве		231
З а д а ч а 5.5. Пусть	{ф„} — произвольная	полная
ортонормальная система,	а ^„ — наименьшая борелев-

ская алгебра, относительно которой все функции ffc(x)= = [х, Фй]> /г == 1, 2, ... , п, измеримы. Тогда $„+,сг.$„

и Jf—наименьшая борелевская алгебра, содержащая .$„ для всех п.

Характеристические функции и свойство счетной аддитивности

До сих пор все, о чем мы говорили, относилось лишь к случаю гауссовых мер. Перейдем теперь к изу­ чению более общего случая. Заметим прежде всего, что характеристическая функция

Ф {у) = I е1 d\i^

я

положительно определена в том смысле, что

Ф (0) = 1

и

N Я

2 2 а<ф(Уг —*//)â/>0

г=і i=i

для любого конечного числа точек yt и произвольных постоянных aL. Предположим, что мера р, счетно-адди­ тивна. Тогда, как известно, для любого наперед задан­ ного числа е > 0 найдется такое замкнутое ограниченное множество К, что ц (К) ^ 1 — е. Далее,

I1— <р(у) К J ( l —cos[x, z/])d(.i< J(1—cos[x,t/]) d u -f e

Г(1 — cos[x,	y])d\i = 2 J sin2	I [*. y]fd\i-
к	к	к

Отсюда следует, что функция ф(у) непрерывна в сильной топологии пространства Я. В действительности

8*

232

Глава 5

справедливо и более сильное утверждение. Определим

квадратичную форму

Q(iJ> z )= J [*. у][х, z] dp.

к

Поскольку множество К ограничено, существует такой неотрицательно определенный самосопряженный ядерный оператор S, что

		Q(y, y) =		[Sy, у].
Ядерность	этого	оператора		следует	из того,	что
	оо
	У] Q(фь щ) =			I IIXIP dp <	оо
	k=\		к
для любой полной ортонормальной системы {qpfe}.						Таким
образом, функция		ср (у) непрерывна в 5-топологии, т. е.
Ф (у) сходится к		0	всякий	раз, когда [Sy, у] сходится
к нулю для	любого		самосопряженного		неотрицательно

определенного ядерного оператора S. Мы ввели это понятие, чтобы показать, что ф(у) является характери­ стической функцией счетно-аддитивной вероятностной меры, если она положительно определена и непрерывна в S-топологии. Доказательство этого утверждения можно

найти в работе	[16].		f (■) — непрерывная функция,
Заметим,	что	если
отображающая	Я	в Я,	а мера	р, счетно-аддитивна, то
функция
		J"	е1ff ('ѵ)-	dp.
		я

непрерывна в S-топологии и, следовательно, является характеристической функцией некоторой счетно-адди­ тивной меры.

Случайные величины
	Обычное определение случайной величины требует
понятия		так	называемого вероятностного пространства
(й,	р),	где	Q — абстрактное пространство,	боре-

Вероятностные меры на гильбертовом пространстве		233
левская алгебра подмножеств этого	пространства	и
р — счетно-аддитивная вероятностная	мера. Случайной

величиной называется любая функция (обычно при­ нимающая значения в конечномерном евклидовом про­ странстве, хотя это ограничение, вообще говоря, несу­ щественно), определенная на Q и измеримая относи­ тельно борелевской алгебры (сг-алгебры)

Для наших целей нам понадобятся конечно-аддити­ вные меры на алгебрах, так как тогда мы сможем рас­ сматривать гауссовы случайные величины с неядерными корреляционными матрицами. Осуществить такое обоб­ щение можно несколькими способами. Мы будем сле­ довать Данфорду и Шварцу, внося в их подход некото­ рые удобные для нас изменения. Ограничившись лишь „теорией моментов второго порядка“ и линейными пре­ образованиями случайных величин, мы сумеем обойти наиболее запутанные аспекты теории.

Итак, обозначим через Q абстрактное пространство, через SF алгебру (не обязательно сх-алгебру) подмно­ жеств в Q, а через р конечно-аддитивную вероятностную

меру,	определенную на 2F. Назовем функцию f (со), ото­
бражающую Q в гильбертово пространство (не обяза­
тельно сепарабельное),			элементарной случайной величи­
ной,	если	для любого	конечного набора элементов qpt-,
/ = 1,	... ,	п, из гильбертова пространства

(i)множество {со: {[/(со), срг]}еВ ), где В — борелевское множество евклидова пространства, принадлежит

(ii)мера, индуцированная таким образом на боре-

левских множествах, счетно-аддитивна для каждого п (т. е. {[/(со), срг]} определяет обычную случайную вели­ чину).

Если дана цилиндрическая (вероятностная) мера на

гильбертовом пространстве Я, то можно построить				со­
ответствующую		элементарную случайную величину,		по­
ложив	Q = Я,	— класс цилиндрических	множеств и
/ (со) =	со. Например, пусть цилиндрическая		мера будет

такой гауссовой мерой р, что ее характеристическая функция имеет вид

234	Глава	5
Тогда для	произвольного ортонормального базиса {<рй}
в Н скалярные произведения		[/(со), ф&] определяют не­

зависимые гауссовы случайные величины с нулевым математическим ожиданием и единичной дисперсией. Однако для всех ш

2 [/ (со), tpfe]2 = II / И II2< ОО.

I

Это утверждение противоречит классической теории вероятностей, согласно которой аналогичная сумма

.квадратов независимых гауссовых случайных величин

.с единичной дисперсией должна бесконечно расти с ве­ роятностью 1. Отметим здесь один принципиальный момент. В классической теории в качестве выборочного

.пространства всегда используют пространство всевоз­ можных последовательностей и на борелевской алгебре его подмножеств определяют некоторую счетно-адди­ тивную меру. У нас же речь идет лишь о конечно-

.аддитивных мерах, и определяются они на алгебрах. В действительности для случая гауссовых случайных величин подпространство квадратично суммируемых последовательностей имеет меру нуль. Поэтому надо обращать особое внимание на то, как устроено вероят­

ностное пространство.			считать,		что	Q — Н,
В	дальнейшем	мы будем
— класс цилиндрических множеств,				а	$ — борелев-
ская	алгебра на Н.	Отметим,	что из	условия		(і) опре­

деления элементарной случайной величины следует, что прообразы борелевских множеств в Еп (п фиксировано) принадлежат ST. Но поскольку борелевские множества в Еп образуют а-алгебру, их прообразы также обра­ зуют с-алгебру. Следовательно, мера р определена и счетно-аддитивна на подалгебре алгебры 3F и, значит, д-алгебры 3$ борелевских подмножеств пространства Н. Поэтому можно немного ослабить определение и на­ зывать /(©) случайной величиной, если для любого конечного набора п элементов срг из Н множество

{[/ (<*>). ф;]} е В}, где В — борелевское множество в Еп, принадлежит Ш, а мера р определена и счетно-адди­ тивна на а-подалгебре алгебры прообразов борелевских множеств.

Вероятностные меры на гильбертовом Пространстве

23S

Пусть / (со), g (со) —две элементарные случайные вели­ чины, а ф[, фя, 'ф!, ... , — элементы из Я. Не­ трудно видеть, что мера р определена и счетно-адди­ тивна на множествах вида

{со: {[/ (со), срг]} <= Вп) П {со: {[g (со),	ф/]}е ß m}>	(5.1)
где Вп — борелевское множество в Еп,	а В,п — борелев-
ское множество в Ет. Отсюда следует, что ее		можно

продолжить на наименьшую ст-алгебру, порожденную множествами (5.1), которая является а-подалгеброй алгебры Тогда, в частности, / (со) + g (со) будет слу­ чайной величиной (хотя и не обязательно элементарной). Кроме того, для элементов ср, ф из Я произведение [/(со), cp][g(co), ф] является обычной случайной вели­ чиной.

Обозначим через L произвольный ограниченный линейный оператор, отображающий Я в Я, и пусть т — фиксированный элемент в Я. Если взять Я в каче­ стве выборочного пространства, то / (со) = Loo + т будет также элементарной случайной величиной.

Пусть С — цилиндрическое множество в Я (если не оговорено противное, всегда будет подразумеваться

борелевское	основание).		Очевидно, что его прообраз
{со: La + т е		С} — также	цилиндрическое множество.
Обозначим	через р(С) p-меру прообраза множества С.
Тогда р — также цилиндрическая вероятностная				мера
на Я и ее характеристическая функция имеет вид
%(cp) = J е1		ф| du — J е‘ iLx+m>ч>] du = %(L*cp) ег		ф),

нн

где %(•) — характеристическая функция меры р.

В частности, если мера р гауссова, р также гаус­ сова и, кроме.того, счетно-аддитивна, если L — оператор Гильберта — Шмидта. Действительно, если характери­ стическая функция меры р равна ехр (— [Яф, ф]/2), то характеристическая функция меры р равна

ехр (— [L/Я/ф, qp]/2 + / [т, ф]).

Если р — лишь конечно-аддитивная (цилиндрическая) вероятностная мера, то для элементарной случайной

236	Глава	5
величины / (со)	вероятность	события /(< »)е5,	где
В — борелевское	множество	из !%), вообще говоря,	не

определена. В этом случае можно, конечно, ввести внешнюю меру це, но она не будет счетно-аддитивной, и, следовательно, она не подходит под понятие “вероят­ ности“.

З а д а ч а	5.6.	Пусть	ц — гауссова		цилиндрическая
мера на Я	с характеристической			функцией
	J е 1	І х ' ф1 d i i	= exp ( —	y	II2l l) .ф

Покажите, что для любого е > 0 мера множества

{*: II Pn+kX — РпХ ||> е},

где {Рп} — строго возрастающая последовательность опе­ раторов проектирования, при k->oo стремится к еди­ нице для любого п. (Это означает, что последователь­ ность элементарных случайных величин Pnx = fn(x) схо­ дится для каждого х и, следовательно, сходится почти наверное, хотя и не сходится по мере.)

Моменты

Пусть I — элементарная случайная величина, прини­ мающая значения в некотором гильбертовом простран­ стве Я. Говорят, что I имеет конечный момент первого порядка (первый момент), если

(i) Е (I [ і , ф ] I )		<	о о для всех ф е Я ,		где	Е — матема­
тическое	ожидание,		и		по ф .
(ii) Е([£, ф ] ) — непрерывная функция
Известно,	что в	этом		случае существует		такой эле­
мент m е	Я, что
		Е ([|,		ф] )==[«, ф].

Введем обозначение

Е (І) = пг.

Вероятностные меры на гильбертовом пространстве

237

Аналогично (элементарная) случайная величина |

имеет конечный момент второго порядка (второй момент),

если

(i)	Е ( [I, ф]2) < оо для всех ф е й ,
(ii)	Е ([£, ф]2) — непрерывная функция по ф.

Если I имеет конечный второй момент, то g автомати­ чески имеет конечный первый момент. Это следует из элементарного неравенства

Е(Ш , Ф ]|)< 1 /Е ([|, ф]2).

Обозначим \ = %— т, где nt — Е(|). Тогда случайная

величина | также имеет конечный второй момент, а первый ее момент равен нулю. Для любых двух эле­ ментов X, у из Н

Е([І, х][І у])

есть билинейная форма на Н, и она непрерывна. По­ этому существует такой самосопряженный неотрица­ тельно определенный ограниченный линейный опера­ тор R, который мы будем называть корреляционным оператором, что

Е ([і, х\[%, 0]) = [/?*, у])

заметим, что

Е {[%, х][%, y]) = [Rx, у) + [ш, т\.

В частности, если %—- гауссова случайная величина и, значит,

£ (еМІ, Ф]) —ехр^—

exp і [т, ф],

то g имеет конечный второй момент, корреляционный оператор R и математическое ожидание т.

Теория линейной аппроксимации

Элементарные случайные величины, принимающие значения в некотором гильбертовом пространстве, мы будем обозначать греческими буквами £ и т). Пред­ положим, что эти случайные величины имеют конечные

238

Глава 5

вторые моменты, а их первые моменты равны нулю. Тогда

Q(x, у) = Е([£, х] [г|, г/])

определяет непрерывное билинейное отображение,' и, следовательно, существует такой ограниченный линей­ ный оператор S, что Q (л;, у) = [х, S«/]. По аналогии с конечномерным случаем обозначим

	S =	E(£t]*).
Нетрудно проверить, что
	S ' = E{r£).
Если обозначить	через	Ri корреляционный	оператор
для I, через Rv	корреляционный оператор		для г}, то

Rl = Е(ІГ) и #„ = E(1T1*).

Пусть теперь случайная величина |такова, что опе­

ратор Ri ядерный. Покажем,					что	тогда 5 — оператор
Гильберта — Шмидта (при этом R^ вполне								мол<ет быть
тождественным оператором). Действительно,
[Sx, Sx] = Е ( [|, X] h ,				Sx]) <	V V & ^ l				Sx].
Если (Фй) — ортонормальный базис, то
1V	N		_____________		________________
2[5фй,	ЯфаК Е ѴШ ф*. фл]				V [R ^ S фй, 5фй]				<
	/		ЛГ		Г	N
				Фь] у		2[^ 5ф й ,			5фй] <
	< у	/ £[ЯбФ*. ф*1			V W	/	?	[5фй, 5фй] ,
т. е.
/	2[5фй, 5фй]			< / I I		II ]	[Ri/	ФлІ. Фаі
	?

и потому

tr S’S < || Ry Иtr R$.