Лекции по ТВ и МС(ч.1)

Лекция № 13

Распределение случайного вектора

¾о необходимых и достаточных условиях, которые необходимо наложить на произвольную функцию, чтобы она являлась плотностью распределения некоторого случайного вектора;

уметь:

9доказывать теоремы:

¾о необходимых и достаточных условиях, которые необходимо наложить на произвольную функцию, чтобы она являлась плотностью распределения некоторого случайного вектора;

9доказывать свойства:

¾функции распределения случайного вектора;

¾плотности распределения случайного вектора;

¾независимых случайных величин;

13.9. Задачи и упражнения

1. Совместное распределение

pij

= P{ξ1 = i,ξ2 = j} случайных величин ξ1 и

ξ2 задано таблицей

j

-1

0

1

i

-1

1/8

1/24

1/3

1

7/24

1/12

1/8

Найти:

= P{ξ2 = j};

а) одномерные распределения pi• = P{ξ1 = i},

p• j

б) совместное

распределение

qij = P{η1 = i,η2 = j}

случайных

величин

η1 =ξ1 +ξ2 и η2 =ξ1ξ2 ;

в) одномерные распределения qi•

= P{η1 = i}, q• j = P{η2 = j}.

2. Случайные

величины

ξ1

и ξ2 независимы

и

имеют геометрическое

распределение с параметром

p ,

0 < p <1. Найти

распределение

случайной

величины η = (−1)ξ1

+ (−1)ξ2 .

139

Распределение случайного вектора									Лекция № 13
3. Случайные величины ξ				и		η	независимы	и имеют	дискретное
распределение P{ξ = k}= P{η = k}=		2			, k =1,2,K Найти:
	3k
а) распределение случайной величины ζ =ξ +η ;
б) распределение случайной величины ζ = max{ξ,η};
				= (ξ,ξ +η);
в) совместное распределение ζ
			= (ξ, min{ξ,η});
г) совместное распределение ζ
д) условное распределение P{ξ +η = k							η = l}.
4. Плотность совместного распределения fξ,η (x, y)								случайных величин ξ и
η имеет вид fξ,η (x, y)= Cx(x + y)			при			0 ≤ x, y ≤1 и fξ,η (x, y)= 0			в остальных

случаях. Найти:

а) константу C ;

б) маргинальные плотности распределения вероятностей случайных величин ξ и η;

в) одномерные функции распределения вероятностей ξ и η;

г) плотность распределения вероятностей случайной величиныζ =ξ −η .

5. Случайные	величины	ξ	и	η	независимы	и	имеют	равномерное
распределение на	отрезке [0; a].		Найти		распределения		случайных величин:
а) ξ +η , б) ξ −η , в) ξη , г) ξ η.
6. Случайные	величины	ξ	и	η	независимы	и	имеют	показательное

распределение с параметром 1. Найти плотность распределения: а) ξ +η , б) ξ −η ,

в) ξ −η , г) ξη.

7. Величины ξ и η независимы и такие, что P{ξ = 0}= P{ξ =1}=12 , а η равномерно распределена на отрезке [0,1]. Найти закон распределения величины

ξ +η .

140

Лекция № 14

Меры связи случайных величин

Лекция № 14

Тема:	Меры связи случайных величин.
	Вероятностные знания — вот предел человеческого
	разумения.
	Цицерон

14.1. Числовые характеристики меры связи двух случайных величин.

Ковариацией	двух случайных величин ξ и η	называется
величина:
Определение 14.1	cov(ξ,η)= M(ξ − Mξ)(η − Mη).
Ковариацию	также называют вторым	смешанным

центральным моментом случайных величин ξ и η .

Из свойств математического ожидания непосредственно вытекают свойства ковариации:

1.cov(ξ,η)= cov(η,ξ) (симметричность);

2.cov(a1ξ1 + a2ξ2 ,η)= a1 cov(ξ1,η)+ a2 cov(ξ2 ,η) (линейность).

	Коэффициентом корреляции двух случайных величин ξ и η
Определение 14.2	называется величина:	M(ξ − Mξ)(η − Mη).
	ρξ,η =
		Dξ Dη

Пример 14.2. Нормальное распределение на плоскости.

Рассмотрим случайный вектор (ξ1,ξ2 ), имеющий своей плотностью распределения вероятностей функцию

	1				1	(x − a		)		2ρ(x − a )(y − a )				(y − a		)
f (x, y)=							1	2			1	2			2	2
				exp −					−				+	σ22			.
		1	− ρ2								σ1σ2
2πσ σ	2				2(1− ρ2 )		σ12
1
Говорят, что	этот вектор				имеет	невырожденное					двумерное			нормальное

распределение. Не трудно видеть, что координаты ξi i =1,2 вектора (ξ1,ξ2 ) имеют нормальные распределения с параметрами (ai ,σi2 ) i =1,2 . Действительно

141

Меры связи случайных величин

+∞

f1(x)= ∫ f (x, y)dy =

−∞

+∞

f2 (y)= ∫ f (x, y)dy =

−∞

Лекция № 14

1
2πσ1	exp −

1 exp −

2πσ

2

(x − a )2
1		,
2σ12
(y − a	2	)2
		.
2σ22

Покажите справедливость двух последних равенств самостоятельно. Так что

суть параметров a1 и a2 — математические ожидания

координат

ξi i =

1,2

вектора

(ξ ,ξ

2

)

, а σ 2 и σ

2 — соответственно дисперсии.

1

1

2

А какой смысл имеет пятый параметр ρ , входящий в плотность?

Вычислим коэффициент корреляции случайных величин ξ1 и ξ2 .

ρξ,η = M(ξ1

− Mξ1 )(ξ2 − Mξ2 )= ∫

∫ (x − a1 )(y − a2 ) f (x, y)dxdy = u = (x − a1 ),

+∞ +∞

Dξ1 Dξ2

−∞ −∞

σ1σ2

σ1

1

+∞ +∞

1

v =

(y − a2 ) =

∫ ∫

uv exp −

[u2

− 2ρuv + v2 ] dxdy =

σ2

2π 1− ρ2

−∞ −∞

2(1

− ρ

)

1

+∞ +∞

1

[u2

]− v

2

=

∫

∫ uv exp −

− 2ρuv + ρv2

dxdy =

2(1−

ρ

2

)

2π 1− ρ2

−∞ −∞

2

=

1

+∞

(u − ρv)2

1

+∞

v

2

=

−∞∫

u exp −

2(1−

du

−∞∫

v exp −

dv

2π 1− ρ2

ρ2 )

2π

2

u −

1

+∞

2

t

2

1

+∞

v

2

ρv

= t =

2

=

π ∫ ( 1− ρ

t

+ ρv)exp − 2

dt

π

∫ v exp −

2

dv =

1−

ρ

2

−∞

2

−∞

ρ

+∞

2

v2

v

exp −

dv =ρ.

2π −∫∞

2

Таким образом, параметр ρ — это коэффициент корреляции.

Свойства коэффициента корреляции случайных величин ξ и η.

1. Абсолютное значение коэффициента корреляции не может быть больше единицы, т.е. ρξη ≤1. Действительно, обозначим через ξ1 и η1 нормированные

случайные величины:

ξ1 = ξ − Mξ , η1 =η − Mη . Dξ Dη

142

Лекция № 14 Меры связи случайных величин

Тогда

D(ξ1 ±η1 )= Dξ1 + Dη1 ± 2 cov(ξ1,η1 ),

и так как D(ξ ±η )≥ 0 , cov(ξ		,η )	= cov(ξ,η) =		ρ	ξ,η	и Dξ = Dη =1, то
1 1	1	1	Dξ	Dη			1	1
D(ξ1	±η1 )= 2 ± 2ρξ1 ,η1 = 2(1				± ρξ1 ,η1 )≥ 0 .					(14.1)
Отсюда получаем 1+ ρξ1 ,η1	≥ 0 и 1− ρξ1 ,η1			≥ 0 , что эквивалентно					ρξη		≤1.

2. Если случайные величины независимы, тоρξη = 0 .

Действительно, M(ξ − Mξ)(η − Mη)= M(ξ − Mξ)M(η − Mη)= 0 , следовательно

ρξ,η = 0 . Обратное, вообще говоря, не верно.

Пример 14.2. Пусть ξ ~ N (0,1), η =ξ2 −1. Случайные величины зависимы,

но их коэффициент корреляции равен нулю. Действительно, так как ξ ~ N (0,1), то

Mξ = 0 , Mξ3 = 0 . Таким образом,

cov(ξ,η)= cov(ξ,ξ2 −1)= M(ξ − M ξ)([ξ2 −1]− M[ξ2 −1])= = M(ξ(ξ2 − Mξ2 ))= M(ξ(ξ2 −1))= Mξ3 − Mξ = 0.

Если коэффициент корреляции для координат двумерной нормальной случайной величины равен нулю, то

fξ,η (x, y)= fξ (x)fη (y).

Таким образом, из равенства нулю коэффициента корреляции между нормально распределенными случайными величинами следует их независимость.

Определение 14.3

Случайные величины называются некоррелированными, если коэффициент корреляции между ними равен нулю.

3. Если случайные величины ξ1,ξ2 ,Kξm попарно некоррелированные, то

m

D ∑ξi

i =1

m

= ∑Dξi .

i =1

4. ρξη =1 тогда и только тогда, когда ξ и η связаны линейной зависимостью, т.е. ξ = kη +b , где k ≠ 0 и b — константы, причем ρξ,η =1, если k > 0, и ρξ,η = −1, если k < 0 .

143

Меры связи случайных величин

Лекция № 14

Необходимость.

Пусть

ρξη =1,

тогда

из

(14.1)

получаем

D(ξ1 −η1 )= 2(1− ρξ,η )= 0 . Согласно свойствам дисперсии D(ξ1 −η1 )= 0 , только в

том случае, если ξ1 −η1 = C , здесь

C — постоянная. Константа C = 0 , так как

M(ξ1 −η1 )= M C = C и

C = M(ξ1 −η1 )= Mξ1 − Mη1 = 0 −0 = 0 . Таким образом,

ξ1 −η1 = 0 , т.е. ξ1 =η1 , следовательно,

ξ − Mξ

= η − Mη ,

Dξ

Dη

откуда

ξ = kη +b ,

где k =

Dξ , b = Mξ −

Dξ Mη .

Dη

Dη

Аналогично,

если ρξη = −1, то D(ξ1 +η1 )= 0 , откуда получаем ξ = kη +b ,

где k = −

Dξ , b = Mξ +

Dξ Mη .

Dη

Dη

Достаточность. Если ξ = kη +b , то

ξ =

ξ − Mξ = kη +b − M(kη +b)

= k(η − Mη)

= k

η .

1

Dξ

D(kη +b)

k Dη

k 1

Далее

k

k

1,

ïðè

k > 0,

ρξη = cov(ξ1,η1 )= cov

k

η1,η1

=

cov(η1,η1 )=

=

k

k

k

ïðè

k < 0.

−1,

Таким образом, коэффициент корреляции можно рассматривать как характеристику степени линейности взаимосвязи случайных величин ξ и η.

14.2. Числовые характеристики меры связи последовательности случайных величин

Ковариационной матрицей системы случайных величин Определение 14.4 ξ = (ξ1,ξ2 ,K,ξm ) называется матрица Σ, элементами

которой являются ковариации σij = cov(ξi ,ξj ).

144

Лекция № 14

Меры связи случайных величин

Из свойств ковариации вытекает, что ковариационная матрица является симметричной, т.е. σij =σ ji ? и ее диагональные элементы равны дисперсиям

случайных величин ξ1,ξ2 ,K,ξm : σii = Dξi ,i =1, m .

Определение 14.5

Определитель ковариационной матрицы Σ называется

обобщенной дисперсией.

Ковариационная

матрица

и

вектор

средних

Mξ = (Mξ1, Mξ2 ,K, Mξm )

являются основными

числовыми

характеристиками

случайного

вектора

ξ = (ξ1,ξ2 ,Kξm ).

Если для

случайных

величин

ξ1,ξ2 ,Kξm

существуют

σij

= cov(ξi ,ξj ),

i, j =

,

то при

любых cij ,

i =

, для

1, m

1, n

случайных

величин

ηi

= ci1ξ1 + ci2ξ2 +K+ cimξm ,

i =

1, m

Теорема 14.1.

существуют

ковариации

hij

= cov(ηi ,ηj ),

причем

ковариационные

матрицы

H = (hij )

и

Σ = (σij )

случайных

векторов ξ = (ξ1,K,ξm )

и η = (η1,Kηn ) связаны равенством

H = CΣCT , где C = (c ), а CT – матрица, транспонированная

ij

к C .

Доказательство. Используя свойства ковариации , получаем

		m	m		m m
hij = cov(ηi ,ηj )= cov		∑cikξk , ∑c jlξl =			∑∑cik cov(ξkξl )cjl = (CΣCT )ij ,
	k =1		l =1		k =1 l =1
где (CΣCT )	— ij –й элемент матрицы CΣCT .
ij

Теорема 14.2.

Ковариационная матрица является неотрицательно определенной матрицей.

Доказательство. Используя результат теоремы 14.1 для случайной величины ηi = ci1ξ1 + ci2ξ2 +K+ cimξm , имеем

	m		m m
D	∑cikξk		= cov(ηi ,ηi )= hii = ∑∑cik cilσkl .
k =1			k =1 l =1

145

Меры связи случайных величин Лекция № 14

Если заменить в левой и правой частях этой цепочки равенств cik , cil на ck и cl и,

с учетом того, что дисперсия случайной величины — неотрицательное число, из последнего следует, что для любых c1, c2 ,K, cm

m m

∑∑ck clσkl

≥ 0.

k =1 l =1

Корреляционной

матрицей

системы

случайных величин

ξ1,ξ2 ,K,ξm называется матрица R , элементами которой

являются коэффициенты корреляцииρij

= ρξiξ j :

Определение 14.6

1

ρ

ρ

L

ρ

12

13

1m

ρ21

1

ρ23

L ρ2m

R =

L

L

L

L

L

.

ρm1

ρm2

ρm3 L 1

Теорема 14.3.

Корреляционная

матрица

является

неотрицательно

определенной матрицей.

M(ξi − Mξi )(ξj − Mξj )

cov(ξi ,ξj

)

Доказательство.

Так

как

ρ

ij

= ρ

ξi

,ξ j

=

=

, то

Dξi

Dξj

σξi σξ j

корреляционную матрицу R можно получить из ковариационной Σ, путем

деления i –й строки последней матрицы на σξ

,

i =

,

а затем деления

j –го

1, m

i

столбца на σξ j

, j =

. Тогда имеем для произвольных чисел c1, c2 ,K, cm

1, m

m

m

m

m

ck

cl

m

m

ck

cl

∑∑ck cl ρkl

= ∑∑

(σξk σξl

ρkl )= ∑∑

σkl ≥ 0 .

k =1 l =1

k =1 l =1

σ

ξk

σ

ξl

k =1 l =1

σ

ξk

σ

ξl

Последнее неравенство справедливо в силу положительной определенности ковариационной матрицы.

Пример 14.3. Говорят, что случайный вектор ξ имеет m –мерное невырожденное нормальное распределение, если его плотность распределения имеет вид:

f (x)=	1	exp −	1	(x − a)T Σ−1(x − a)	,
	(2π )m det Σ		2

146

Лекция № 14

Меры связи случайных величин

здесь Σ — ковариационная матрица, a — вектор математических ожиданий координат вектора ξ .

14.3. Рекомендуется изучить самостоятельно:

¾ [4] – стр. 250 — 252 , 214 — 220.

14.4. Теоретические вопросы, выносимые на экзамен:

1. Числовые характеристики меры связи случайных величин.

14.5. В результате успешного усвоения материала лекции студент должен знать:

9определения:

¾ковариации случайных величин;

¾коэффициента корреляции случайных величин;

¾ковариационной матрицы;

¾корреляционной матрицы;

¾некоррелированности случайных величин;

9свойства:

¾ковариации случайных величин;

¾коэффициента корреляции случайных величин;

¾ковариационной матрицы;

¾корреляционной матрицы;

9теоремы:

¾о виде ковариационной матрицы линейного преобразования случайных величин;

¾о положительной определенности ковариационной матрицы;

¾о положительной определенности корреляционной матрицы;

уметь:

9 доказывать теоремы:

147

Меры связи случайных величин

Лекция № 14

¾о виде ковариационной матрицы линейного преобразования случайных величин;

¾о положительной определенности ковариационной матрицы;

¾о положительной определенности корреляционной матрицы;

9доказывать свойства:

¾ковариации случайных величин;

¾коэффициента корреляции случайных величин;

¾ковариационной матрицы;

¾корреляционной матрицы;

9решать задачи:

¾вычислять ковариацию случайных величин;

¾вычислять коэффициент корреляции случайных величин;

¾вычислять ковариационную матрицу;

¾вычислять корреляционную матрицу.

14.6. Задачи и упражнения.

1. Распределение вероятностей случайного вектора (ξ,η) определяется

формулами P{ξ = 0,η = −1}= P{ξ = 0,η =1}= P{ξ =1,η = 0}P{ξ = −1,η = 0}= 14 .

Найти: а) ковариацию ξ и η, б) коэффициент корреляции между ξ и η. Являются ли случайные величины ξ и η: а) независимыми, б) некоррелированными?

2. Подбрасывают две монеты. Пусть ξ — количество гербов, выпавших при

nподбрасываниях, η — количество решек. Найти совместное распределение ξ и

η. Зависимы ξ и η или нет? Вычислить коэффициент корреляции между ξ и η.

3.Подбрасывают 2 кубика. ξ — количество «шестерок», η — количество четных чисел. Найти совместное распределение ξ и η. Зависимы ли случайные величины ξ и η? Вычислить коэффициент корреляции между ξ и η.

4.Из колоды карт (36 карт) извлекают две карты. Найти ковариацию и коэффициент корреляции между количеством извлеченных тузов и количеством черных карт.

148