Мишулина Основы теории вероятностей 2011

2.Докажите свойство линейности оператора математического ожидания для случайного вектора непрерывного типа.

3.Чему равно математическое ожидание разности двух случайных величин?

4.Чему равно математическое ожидание случайного вектора Y AX , где X – случайный вектор размерности n, а А – неслучай-

ная матрица размерности [m×n]?

5.Чему равно математическое ожидание произведения неза-

висимых случайных величин Xi, i 1, n ?

6.	Напишите расчетную формулу для	n		и приведите
		D ci Xi
		i 1
ее доказательство.
7.		n		в векторно-
	Запишите расчетную формулу для D ci Xi
		i 1

матричной форме.

8.Как изменится дисперсия скалярной случайной величины, если ее отмасштабировать с помощью коэффициента с?

9.Является ли равенство нулю ковариационного момента случайных величин X1 и X2 необходимым условием их независимости?

10.Следует ли из равенства нулю ковариационного момента случайных величин X1 и X2 их независимость?

11.Справедливо ли равенство:

k12 = M[ X 1 X 2 ] M[ X 1 X 2 ] ?

12.Какими свойствами обладает ковариационная матрица случайного вектора с независимыми компонентами?

13.Какими свойствами обладает корреляционная матрица случайного вектора с независимыми компонентами?

14.Чему равна дисперсия суммы попарно независимых случайных величин?

15.Докажите, что D[X1 X2 ] D[X1 X2 ] .

16.Какова область возможных значений коэффициента корреляции случайных величин? Приведите доказательство.

151

17. Является ли равенство | r12 | 1 необходимым условием ли-

нейной зависимости случайных величин X1 и X2 ? Приведите доказательство.

18. Является ли равенство | r12 | 1 достаточным условием ли-

нейной зависимости случайных величин X1 и X2 ? Приведите доказательство.

19.Чему равен коэффициент корреляции r12 , если случайные величины X1 и X2 связаны равенством X1 3 X 2 5 ?

20.Случайный вектор X = col(X1, X2) имеет математическое ожидание mX= col( mX1 , mX 2 ) и ковариационную матрицу

	3	2
K	2	4	.

Чему равна дисперсия случайной величины Y = 2X – 3Y + 3?

§ 26. Условные моменты случайного вектора

Рассмотрим двумерный случайный вектор X = col(X1 , X2) непрерывного типа с совместной плотностью распределения вероятностей f X1, X 2 (x1, x2 ) . В § 23 было введено понятие условной плот-

ности распределения вероятностей случайной величины X1 относи-

тельно условия X2 = x2: f X1 | X 2 (x1 | x2 ) .

Условное математическое ожидание произвольной функции ξ(X1) случайной величины X1 при условии, что случайная величина X2 приняла значение x2 , определяется следующим выражением:

M[ ( X1) | X 2 x2 ] (x1) f X1| X 2 (x1 | x2 ) dx1 .	(3.102)
-

Если ξ(X1) = X1 , то получим условное математическое ожидание случайной величины X1 относительно события X2 = x2:

mX1| X 2 (x2 ) M[X1 | X 2 x2 ] x1 f X1| X 2 (x1 | x2 ) dx1 . (3.103)

-

152

Функция mX

1

| X

2

(x2 )

называется регрессией случайной величины X1

на X2 . В частности, функция

mX

1

| X

2

(x2 ) может быть линейной:

mX

1

| X

2

(x2 ) = a x2 b .

Тогда a и b называются коэффициентами линейной регрессии.

Поскольку X2 является случайной величиной, то можно усред-

нить значения

mX

1

| X

2

(x2 )

с плотностью f X

2

(x2 ) . Результатом

усреднения будет безусловное математическое ожидание случайной величины X1:

M X 2 [mX1| X 2	( X 2 )] mX1| X 2 (x2 ) f X 2 (x2 ) dx2	mX1 .	(3.104)

Справедливость приведенного равенства показывается прямой подстановкой выражения (3.103) для mX1 | X 2 (x2 ) в (3.104) и ис-

пользованием свойств (3.32) и (3.49) совместной плотности распре-

деления f X1, X 2 (x1, x2 ) .

Заметим, что в случае независимости случайных величин X1 и X2

mX1 | X 2 (x2 ) mX1 ,

т.е. условное и безусловное математические ожидания случайной величины X1 совпадают.

Если в формуле (3.102) положить	( X1 ) ( X1	mX |X	2	(x2 ))2	,
		1

то получим выражение для условной дисперсии случайной величины X1 относительно события X2 = x2:

	d	X	| X				(x ) M[( X		1	m	X |X		(x ))2		| X	2	x ].	(3.105)
					2		2					2		2			2
		1									1
Величина	d X |X			2		(x2 )		называется			также			остаточной				дисперсией
		1

случайной величины X1 при X2 = x2. Она отражает ту меру неопределенности (рассеяния) значения случайной величины X1 , которая осталась после измерения X2 = x2. Средняя остаточная дисперсия

d X

(x2 )

d X |X

2

вычисляется усреднением условной дисперсии

1

| X

2

1

по значениям случайной величины X2:

M X 2 [d X1| X 2 ( X 2 )] d X1| X 2 (x2 ) f X 2 (x2 ) dx2

d

X1| X 2 .

153

Функция регрессии mX1 | X 2 (x2 ) является наилучшей в средне-

квадратичном смысле оценкой значения случайной величины X1, если известно значение X2 = x2:

M[( X1 mX1|X 2 (x2 ))2 ] min M[( X1 h (x2 ))2 ] .

h( x2 )

Это свойство широко используется в теории статистического оценивания и прикладных задачах статистики.

Приведенные определения и свойства условных моментов, рассмотренные выше для случайных величин непрерывного типа, справедливы и для дискретных случайных величин.

Обобщим понятие условного математического ожидания на случайные векторы X = col(X'Т, X"Т), X' = col(X1, X2, …, Xm), X" = col(Xm+1, Xm+2, …, Xn). Условным математическим ожиданием

mX i | X"(x") случайной величины Xi , i 1, m , при условии, что слу-

чайная величина X" приняла значение x", называется: mX i | X"(x") mX i | X"(xm 1, xm 2 , ..., xn )

	n		(3.106)
M Xi |	( X k xk ) .
	k m 1

Вектор условного математического ожидания mX'|X"(x") определяется выражением:

mX'|X"(x") = col( mX1| X" (x"), mX 2| X" (x"), ..., mX m| X" (x") )

и называется функцией регрессии вектора X' на вектор X".

Пример 3.14. В примере 3.9 было рассмотрено дискретное распределение вероятностей двух статистически зависимых случайных величин X1 и X2 на множестве возможных значений {0, 1, 2} каждой из них. Для расчета условных математических ожиданий mX1 | X 2 (x2 ) , x2 = 0, 1, 2, используем формулу

2

mX1 | X 2 (x2 ) = i1 pX1 | X 2 (i1 | X 2 x2 ) .

i1 0

Воспользуемся фрагментом табл. 3.7, в котором приведены необходимые для расчетов безусловные и условные распределения случайных величин X1 и X2 :

154

1							x1i , x2i									0			1			2
2							p	X1	(i )							0,08	0,40					0,52
									1
3							p	X 2	(i )							0,38	0,34					0,28
									2
4					p	X1	| X 2	(i | X		2	0)					0,0	0,474					0,526
								1
5					p	X1 | X 2		(i | X		2	1)					0,088	0,412					0,500
								1
6					p	X1	| X 2	(i | X		2	2)					0,178	0,286					0,536
								1
Расчет регрессии X1 на X2 приводит к следующему результату:
mX	1	| X		2	(0)		= 1,526;			mX		1	| X	2	(1)	= 1,412;	mX	1	| X	2	(2) = 1,354.

Проверим выполнение равенства (3.104), согласно которому ус-

реднение mX

1

| X

2

(x2 )

по значениям случайной величины X2 при-

водит к безусловному математическому ожиданию mX

1

. С этой

целью рассчитаем

2

M X

2

[mX

1

| X

2

( X 2 )]

mX

1

| X

2

(i2 ) pX

2

(i2 )

i2 0

с использованием приведенного во фрагменте таблицы распределения pX 2 (i2 ) :

M X 2 [mX1|X 2 ( X 2 )] = 0,38·1,526 + 0,34·1,412 + 0,28·1,354 = 1,44.

Проведем расчет математического ожидания mX1 :

2

mX1 = i1 pX1 (i1) = 0·0,08 + 1·0,40 + 2·0,52 = 1,44.

i1 0

Равенство (3.104) выполнено.

Контрольные вопросы и задачи

1. Что называется условным математическим ожиданием произвольной функции ξ(X1) случайной величины X1 при условии, что случайная величина X2 приняла значение x2? Напишите определение для случайных величин непрерывного и дискретного типов.

155

2.Что называется регрессией случайной величины X1 на X2?

3.Напишите выражение для линейной регрессии X1 на X2 .

4.Как безусловное математическое ожидание mX1 случайной

величины X1 связано с условным математическим ожиданием mX1| X 2 (x2 )? Приведите доказательство.

5.Чему равно условное математическое ожидание случайной

величины X1 относительно X2 в случае независимости случайных величин? Приведите доказательство.

6.Что называется остаточной дисперсией случайной величины X1 при X2 = x2?

7.Как вычисляется средняя остаточная дисперсия X1 относи-

тельно X2?

8.Какое свойство функции регрессии X1 на X2 широко используется в теории статистического оценивания и прикладных задачах статистики?

9.Как обобщается понятие функции регрессии на векторные случайные величины?

10.Напишите общее выражение для функции линейной регрес-

сии случайной величины X1 на вектор X' = col(X2, X3, …, Xn).

§ 27. Характеристическая функция случайного вектора

Понятие характеристической функции скалярной случайной величины, введенное в § 18, обобщается на векторные случайные величины.

Характеристической функцией n-мерного случайного вектора

X = col(X1, X2, …, Xn)

называется

комплексная

функция

X ( 1, 2 , ..., n ) n действительных аргументов λ1, λ2, …, λn :

j i X i

n

( ,

, ...,

) M

e

i 1

.

(3.107)

X

2

n

1

Определение (3.107) можно записать в краткой векторной форме:

(λ) M[ e jλT X],

(3.108)

X

где λ = col(λ1, λ 2, …, λ n).

156

Отметим основные свойства характеристической функции случайного вектора. Эти свойства будут далее иллюстрироваться на примере распределений непрерывного типа.

1. Для любых i , i 1, n, характеристическая функция φX(λ) ограничена | φX(λ) | ≤ 1 и удовлетворяет условию

φX(0) = 1.

(3.109)

Это утверждение следует из определения (3.108)

			X( 1, 2 , ..., n )
			n
			j i X i	(3.110)
		... e	i 1	fX (x1, x2 , ..., xn ) dx1 dx2 ... dxn

и свойства нормировки распределения вероятностей.

2. Характеристическая функция случайного вектора X = col(X1, X2, …, Xn) с независимыми компонентами X1, X2, …, Xn равна произведению их характеристических функций:

n

X ( 1, 2 , ..., n ) X i ( i ) . (3.111)

i 1

Сформулированное утверждение основано на свойстве (3.90) оператора математического ожидания, в котором произвольная

функция	( X	) положена равной		e j i X i :
i	i
			n
			j i X i		n	n
					M[ e	j i X i ] X i ( i ) .
X ( 1, 2 , ..., n ) M e			i 1
					i 1	i 1

3. Характеристическая функция суммы независимых случайных

n
величин Z X k равна произведению		их	характеристических
k 1
функций:
n
Z ( ) X	k	( ) .	(3.112)
k 1

Для доказательства равенства (3.112) применяется определение (2.71) характеристической функции Z ( ) скалярной случайной

157

величины Z и свойство (3.90) оператора математического ожидания:

	n
	j X i			n		n	n
						M[e j X k ] X k ( ) .
Z ( ) = M e	i 1		M e j X k
			k 1			k 1	k 1

4. Если случайный вектор Y размерности m является линейным преобразованием случайного вектора X размерности n

Y = AX + B,

где А – матрица размерности [m×n]; B – вектор размерности m, то

	Y	(λ) = e jλ T B	X	(AT λ) .	(3.113)

Действительно, используя определение характеристической функции и свойства оператора математического ожидания, получим:

	Y	(λ) = M[e jλTY] M[e jλT (AX B)]
= e		jλTB M[e jλTAX] e jλTB	X	(AT λ) .

5. Если случайный вектор X = col(X1, X2, …, Xn) имеет смешан-

ный начальный момент

(X)

порядка

( r

r ... r

), где

r1 ,r2 ,...,rn

1

2

n

r1, r2 , ..., rn – натуральные числа,

то он равен

(X)

,...,r =

r ,r

1 2

n

(r r

... r ) (r1 r2 ... rn )

X

( ,

2

, ...,

n

)

= ( j)

1 2

n

1

i 0,

.

(3.114)

r

r

r

1 2

... n

i 1, 2,..., n

1

2

n

Этот результат может быть получен дифференцированием левой

иправой частей равенства (3.110) по переменным λ1, λ 2, …, λ n .

6.Плотность распределения вероятностей случайного вектора

X = col(X1, X2, …, Xn) непрерывного типа может быть определена с помощью его характеристической функции по формуле обратного преобразования:

158

							fX (x1, x2 , ..., xn ) =			(3.115)
						n
		1				j i X i
	=				... e	i 1	X ( 1, 2	, ...,	n ) d 1 d 2	... d n .
		(2 )n

Контрольные вопросы и задачи

1.Дайте определение характеристической функции n-мерного случайного вектора.

2.Напишите расчетные выражения для характеристической функции случайных векторов непрерывного и дискретного типов.

3.Какова область возможных значений абсолютной величины характеристической функции?

4.Каким свойством обладает характеристическая функция случайного вектора с независимыми компонентами? Приведите доказательство для случайного вектора дискретного типа.

5.	Выведите выражение для характеристической функции
(λ)
	центрированного случайного вектора X , если известна ха-

X

рактеристическая функция X (λ) .

6.Чему равна характеристическая функция суммы независимых случайных величин?

7.Как определить характеристическую функцию случайного вектора Y размерности m, если он является линейным преобразованием Y = AX + B случайного вектора X размерности n с извест-

ной характеристической функцией X (λ)?

	(X)	,...,r	поряд-
8. Как можно вычислить начальный момент r ,r
	1 2	n
ка ( r1 r2	... rn ) для случайных величин (X1, X2, …, Xn) при из-
вестной	характеристической функции случайного		вектора

X = col(X1, X2, …, Xn)?

9. Как рассчитать плотность распределения вероятностей случайного вектора X = col(X1, X2, …, Xn) непрерывного типа, если известна его характеристическая функция X (λ) ?

159

10. Пусть случайный вектор X = col(X1, X2, …, Xn) с известной характеристической функцией X (λ) представлен своими подвек-

торами X' и X": X = col(X'Т, X"Т), где X' = col(X1, X2, …, Xm),

X" = col(Xm+1, Xm+2, …, Xn). Как определить характеристическую функцию X' (λ') подвектора X'?

§28. Нормальный закон распределения вероятностей случайного вектора

В§ 19 был изучен нормальный закон распределения вероятностей скалярной случайной величины X (закон Гаусса). Перейдем к изучению многомерного нормального распределения.

Случайный вектор X = col(X1, X2, …, Xn) распределен по нормальному закону, если совместная плотность распределения веро-

ятностей

fX (x1, x2 , ..., xn ) приводится к виду

1

1

(x m)T K 1(x

f

X

(x , x , ..., x ) =

exp

m) , (3.116)

1

2

n

(2 )n |K |

2

где

x

=

col(x1, x2, …, xn); m

=

col(m1, m2, …, mn);

mi M[ Xi ] ,

i 1, n ; K – ковариационная матрица случайного вектора X; K 1 –

обратная ковариационная матрица; | K | – определитель ковариационной матрицы.

Характеристическая функция X ( 1, 2 , ..., n ) нормального

случайного вектора X, вычисляемая в соответствии с определением

(3.108), равна

		T	m	1
X ( 1, 2	, ..., n ) = X (λ) = exp j λ
				2

λ	T		(3.117)
		K λ ,

где λ = col(λ1, λ принимает вид

X ( 1,

2, …, λ n). В скалярной форме выражение (3.117)

		n	1	n n
2	, ..., n ) = exp j λimi			kil λi λl		. (3.118)
		i 1	2 i 1 l 1

Из выражений (3.116), (3.117) следует, что многомерное нормальное распределение зависит только от математического ожидания m и ковариационной матрицы K случайного вектора. Это озна-

160