terver / terver1

Свойство 6. Случайная величина имеет дискретное распределение тогда и только тогда, когда функция распределения F — ступенчатая функция. При этом возможные значения — точки ai скачков F , è pi = P( = ai) = F (ai+0) F (ai) — величины скачков.

Упражнение. Доказать, что любая функция распределения имеет не более чем счетное число точек разрыва (или «скачков»). Указание. Сколько скачков величиной более 1/2 может иметь функция распределения? А величиной более 1/3? Более 1/4?

В следующей главе мы рассмотрим случайные величины, функции распределения которых не удовлетворяют свойству 6 хотя бы потому, что они вовсе не имеют разрывов. Более того, мы выделим класс функций распределения, которые «восстанавливаются по своей производной» с помощью интегрирования (так называемые абсолютно непрерывные функции).

40

Раздел 8. Абсолютно непрерывные распределения

Определение 29.

Случайная величина имеет абсолютно непрерывное распределение, если существует неотрицательная функция f (x) такая, что для любого x 2 R функция распределения F (x) представима в виде

		x		При этом функция f (x) называется плотностью рас-
	F (x) =	Z	f (t) dt:
				пределения случайной величины .
		1

Теорема 20.

Плотность распределения обладает свойствами:

	1
(f1) f (x) > 0 для любого x; (f2)	R1 f (t) dt = 1.

Доказательство. (f1) выполнено по определению плотности. Докажем (f2).

1

x

ZZ

def	lim	f (t) dt = lim F (x) = 1 по свойству (F2) функций распределения.
f (t) dt =
1	x!1	x!1
	1

Эти два свойства полностью характеризуют класс плотностей:

Лемма 3. Если функция f обладает свойствами (f1) è (f2), то существует вероятностное пространство и случайная величина на нем, для которой f является плотностью распределения.

Доказательство. Пусть есть область, заключенная между осью абсцисс и графиком функции f («подграфик» функции f). Площадь области равна 1 по свойству (f2). И пусть случайная величина есть абсцисса точки, наудачу брошенной в эту область. Тогда (вспомнить геометрическую вероятность) для любого x 2 R

F (x) = P( < x) = P(точка попала в область Dx) =	площадь x	x	f(t) dt;
		= Z
	площадь D
		1

то есть f является плотностью распределения случайной величины .

Свойства плотностей

(f3) Если случайная величина имеет абсолютно непрерывное распределение, то ее функция распределения всюду непрерывна.

x

R

Доказательство. Этот факт следует из представления F (x) = f (t) dt и непрерыв-

1

ности интеграла как функции верхнего предела.

41

функция распределения дифференцируема почти всюду, и f (x) = F 0(x) = для почти всех x.

Следствие 5. Если случайная величина имеет абсолютно непрерывное распределение, то P( = x) = 0 для любого x 2 R.

(f4) Если случайная величина имеет абсолютно непрерывное распределение, то ее

d

dxF (x)

Замечание 15. Термин для «почти всех» означает «для всех, кроме (возможно) x из некоторого множества нулевой меры (длины)». Заметьте, что стоящую под интегралом функцию можно изменить в одной точке (или на множестве нулевой длины), и интеграл («площадь подграфика») от этого не изменится.

(f5) Если случайная величина имеет абсолютно непрерывное распределение, то

P(a < < b) = P(a 6 < b) = P(a < 6 b) = P(a 6 6 b) = Za				b
				f (t) dt:
Доказательство. Действительно,
	b	a
P(a 6 < b) = F (b) F (a) =	Z	f (t) dt Z	f (t) dt:
	1	1

Остальные равенства вытекают из следствия 5.

8.1Примеры абсолютно непрерывных распределений

Равномерное. Это распределение нам уже знакомо. Говорят, что имеет равномерное

распределение на отрезке [a; b], и пишут = Ua;b, åñëè

8

F (x) = P( < x) =

8x a

; a x b

f (x) =

1

; a x b

0;

x < a;

0;

x < a;

> b a

6 6

>b a

6 6

>

>

<

x > b;

<

x > b:

>1;

>0;

>

>

Заметьте, что в точках

a

b

недифференцируема, и плот-

è: функция распределения

:

ность можно задать как угодно.

Показательное. Говорят, что имеет показательное распределение с параметром ,

> 0 и пишут = E , если		( e x; x > 0:
(1 e x; x > 0;
0;	x < 0;	0;	x < 0;
F (x) = P( < x) =		f (x) =

Показательное распределение является единственным абсолютно непрерывным распределением, для которого выполнено свойство «нестарения» (и в этом смысле оно является непрерывным аналогом дискретного геометрического распределения).

Теорема 21. Свойство «нестарения».	Пусть = E . Тогда для любых x; y > 0
P( > x + y	> x) = P( > y):
Упражнение 10. Доказать «свойство	нестарения».

42

Упражнение 11. Доказать, что если неотрицательная случайная величина имеет абсолютно непрерывное распределение и обладает свойством «нестарения», то есть для любых x; y > 0

P( > x + y > x) = P( > y);

то она имеет показательное распределение с некоторым параметром .

Нормальное. Говорят, что имеет нормальное распределение с параметрами a и 2, где a 2 R, > 0, и пишут = Na; 2 , если имеет следующую плотность распределения:

	1				(x a)2
f (x) =					2 2	для любого x 2 R:
	p		e
		2

Убедимся, что f (x) действительно является плотностью распределения. Так как f (x) > 0 для всех x 2 R, то свойство (f1) выполнено. Проверим выполнение (f2). Используем табличный интеграл (интеграл Пуассона)

1
Z	e x2=2 dx = p2 :

1

Z

1

1

Этот интеграл вычисляется так:	R	R	R R
	1 e x2=2 dx	1 e y2=2 dy =	1 1 e (x2+y2)=2 dx dy =
	1	1	1 1

(цилиндрическая замена переменных x = r cos , y = r sin ,

2 1

R R re r2=2

0 0

1

Z

f (x) dx =

1

dr d =

2 1e r2

=2 d(r2=2) d = 2 .

R

R

0

0

p2 e

(x

a)2

замена переменных

2

2

dx = " t = x a

, dx = dt

1

1

1

t2

=2

= Z

p

e

dt =

2

1

#

=

1

Z

p1

2

1

dx dy = r dr d ) =

e t2=2 dt = 1:

Нормальное (иначе называемое гауссовским по имени Карла Гаусса, см. график плотности на купюре 10 DM) распределение играет исключительно важную роль в теории вероятностей, поэтому мы очень подробно изучим все свойства этого распределения.

8.2Свойства нормального распределения

Нормальное распределение задается, как мы видим, с помощью плотности распределения. Связано это с тем, что нельзя выписать первообразную от функции e x2 иначе как в виде интеграла, поэтому функцию распределения этого закона можно записать лишь в таком виде:

x				2
F (x) = a; 2 (x) = Z	p2 e		(t a2)		dt:
			2
	1
1

Мы часто будем использовать обозначение a; 2 (x) для функции распределения нормального распределения с параметрами a и 2.

43

Исключительно полезно нарисовать график плотности и функции распределения (отметив точки экстремума, перегибов, посчитав значение в точке максимума плотности и расстояние между точками перегибов). График плотности и функции распределения нормального распределения можно также посмотреть здесь: http://www.nsu.ru/mmf/tvims/chernova/PlotDist.html.

Стандартное нормальное распределение

Нормальное распределение Na; 2 ïðè a = 0 è 2 = 1 называется стандартным нор-

мальным распределением.

Плотность стандартного нормального распределения име-

åò âèä f (x) =

1

2

2 R, а функция распределения 0;1(x) =

p

e x

=2

при любом x

2

x

1

Z

2

p

e t =2 dt табулирована (то есть ее значения вычислены при многих x) почти

2

1

во всех математических справочниках. Установим связь между a; 2 è 0;1.

Свойство 7.

Для любого x

2 R

справедливо соотношение

2 (x) =

x a

.

a;

0;1

Доказательство.

2

замена переменных

x a

x

1

e

(t a)

2 y =

t

a

3

1

e

y2=2

2 (x) =

2 2

dt =

, dt = dy

=

dy =

a;

Z

p2

6 t = x

y =

x a

7

Z

p2

7!

1

6

7

1

4

5

=

x a

:

0;1

То же самое на языке случайных величин можно сформулировать так:

Следствие 6.

Åñëè = N

2 ,

òî

=

a

= N

.

a;

0;1

Доказательство.

F

(x) = P( < x) = P

a

< x = P( < x + a) =

2 ( x + a) =

a;

= 0;1

x + a a

= 0;1(x):

Следствие 7.

Åñëè = Na; 2 ,

òî

0;1

P(x

< < x

) =

2

(x

)

2

(x

) =

x2 a

x1 a

:

1

2

a;

2

a;

1

0;1

Как мы видим, вычисление любых вероятностей для нормально распределенной слу- чайной величины сводится к вычислению функции распределения 0;1. Ее свойства (нарисовать их на графике плотности стандартного нормального распределения!!):

Свойство 8.	0;1	(0) = 0:5.
Свойство 9.	0;1	( x) = 1 0;1(x).

44

Свойство 10.

Åñëè

= N0;1,

òî P(j j < x) = 1 2 0;1( x) = 2 0;1(x) 1.

Доказательство.

P(j j < x) = P( x < < x) = 0;1(x) 0;1( x) = (по свойству 9)

= 1 2 0;1( x) = 2 0;1(x) 1.

Свойство 11 («Правило трех сигм»). Åñëè

= Na; 2 ,

òî

P(j aj > 3 ) = 0:0027

(мало, в общем :):

Доказательство.

j

j

j

j

> 3 ) = 1

< 3 ) = 1

P

P(

a

P(

a

a

< 3 :

a

Но величина =

имеет стандартное нормальное распределение,

и можно исполь-

зовать свойство 10:

1 P(j j < 3) = 1 (1 2 0;1( 3)) = 2 0;1( 3) = 2 0:00135 = 0:0027

(найти в таблице!).

Смысла в запоминании числа 0.0027 нет никакого, а вот помнить, что почти вся масса нормального распределения сосредоточена в границах [a 3 ; a + 3 ], всегда полезно.

45

Раздел 9. Случайные вектора и их распределения

Определение 30. Если случайные величины 1; : : : ; n заданы на одном вероятностном пространстве, то вектор ( 1; : : : ; n) мы будем называть случайным вектором.

Определение 31. Функция F 1;:::;n (x1; : : : ; xn) = P( 1 < x1; : : : ; n < xn) называется

функцией распределения случайного вектора ( 1; : : : ; n) èëè функцией совместного рас-

пределения случайных величин 1; : : : ; n.

9.1Свойства функции совместного распределения

Для простоты обозначений все дальнейшие рассуждения и формулировки приво-

дятся в случае n = 2 для случайного вектора ( 1; 2).
F0)	0 6 F 1;2 (x1; x2) 6 1.
F1)	F 1;2 (x1; x2) не убывает по каждой координате вектора (x1; x2).
F2)	Для любого i = 1; 2 существует	lim	F 1;2 (x1; x2) = 0;
	xi! 1		F 1;2 (x1; x2). Ïðè ýòîì
	Для любого i = 1; 2 существует	lim
		xi!1
	def		def	(x1; x2) = F 1	(x1):
	F 1;2 (1; x2) = x1lim F 1;2 (x1; x2) = F 2 (x2); F 1;2 (x1; 1) = x2lim F 1;2
	!1		!1
F3)	Функция F 1;2 (x1; x2) по каждой координате вектора (x1; x2) непрерывна слева.

Доказательство этих свойств совершенно аналогично одномерному случаю.

Только теперь этих свойств оказывается недостаточно для описания класса функций совместного распределения. Иначе говоря, выполнение этих свойств для некоторой функции F : R2 ! R вовсе не гарантирует, что эта функция является функцией распределения некоторого случайного вектора.

Упражнение 12. Доказать, что функция

(

F (x1; x2) =

0; x1 6 0 èëè x2 6 0 èëè x1 + x2 6 1;

1; иначе, то есть когда одновременно x1 > 0; x2 > 0; x1 + x2 > 1:

a) удовлетворяет всем свойствам (F0)-(F3);

б) не является функцией распределения никакого вектора ( 1; 2) хотя бы потому, что, найдись такой вектор, найдется и прямоугольник [a1; b1] [a2; b2], вероятность попасть в который (вычисленная с помощью этой «функции распределения») отрицательна:

P(a1 6 1 < b1; a2 6 2 < b2) < 0!

Как же связана вероятность вектору попасть в прямоугольник с функцией распределения этого вектора?

Упражнение 13. Доказать, что

P(a1 6 1 < b1; a2 6 2 < b2) = F 1;2 (b1; b2) F 1;2 (a1; b2) F 1;2 (b1; a2) + F 1;2 (a1; a2): (12)

Оказывается, если потребовать дополнительно от функции F , чтобы для всякого прямоугольника [a1; b1] [a2; b2] вероятность P (a1 6 1 < b1; a2 6 2 < b2), связанная с функцией F равенством (12), была неотрицательна, то любая функция, обладающая этим свойством и свойствами (F0)-(F3), уже будет функцией распределения некоторого случайного вектора.

46

На самом деле существо свойства (F2) в той его части, что касается предела на бесконечности, весьма туманно. Утверждает это свойство гораздо больше, чем просто «предел функции совместного распределения при стремлении одной координаты к бесконечности есть тоже функция распределения». Но как в общем случае проверить, что это не просто «некая функция распределения», но функция распределения оставшейся координаты вектора ( 1; 2)? Если, не лукавя, рассмотреть в упражнении 12

F1(x1) = limx2!1 F (x1; x2) и F2(x2) = limx1!1 F (x1; x2), то обе эти функции являются функциями распределения (вырожденного закона, т.е. случайных величин 1 = 0 и 2 = 0

п.н.). Но две вырожденные случайные величины независимы, и их функция совместного распределения равна 1 в первом квадранте (не включая его границу) и нулю в остальных квадрантах, но никак не равна F . Оставляю на суд читателя вопрос о том, выполнено ли все-таки условие (F2) для F из упражнения 12.

9.2Типы многомерных распределений

Ограничимся рассмотрением только двух случаев, когда совместное распределение координат случайного вектора ( 1; 2) ëèáî дискретно, ëèáî абсолютно непрерывно.

Дискретное совместное распределение

Определение 32. Говорят, что случайные величины 1; 2 имеют дискретное совместное распределение, если существует конечный или счетный набор fai; bjg такой, что

11

XX

P( 1 = ai; 2 = bj) = 1:

i=1 j=1

Таблицу, на пересечении i-й строки и j-го столбца которой (или наоборот) стоит число

P( 1 = ai; 2 = bj), называют таблицей совместного распределения случайных величин

1 è 2.

Замечание 16. Напомню, что таблицы распределения каждой из случайных величин1, 2 в отдельности (таблицы частных, или маргинальных распределений) восстанавливаются по таблице совместного распределения с помощью очевидных формул:

1	1
X	Xi	= ai; 2 = bj) = P( 2 = bj):
P( 1 = ai; 2 = bj) = P( 1 = ai);	P( 1
j=1	=1

Если эти формулы вам не представляются очевидными, необходимо вернуться к разделу 4 и перечитать определение 18 полной группы событий, обратив также внимание на доказательство теоремы 8 (формулы полной вероятности).

Абсолютно непрерывное совместное распределение

Определение 33. Говорят, что с.в. 1; 2 (заданные на одном вероятностном пространстве) имеют абсолютно непрерывное совместное распределение, если существует функция f 1; 2 (x1; x2) > 0 такая, что для любой точки (x1; x2) 2 R2

F 1; 2 (x1; x2) = P( 1 < x1; 2 < x2) =	x1 0		x2	f 1; 2 (s1; s2) ds21 ds1:
	Z	@	Z	A
	1		1

Если такая функция f 1; 2 (x1; x2) существует, она называется плотностью совместного распределения случайных величин 1; 2.

47

Замечание 17. Для всего дальнейшего более чем достаточно считать, что

b1 0	b2	1
Z	Z	f(s1; s2) ds2A ds1
@
a1	a2

равняется объему под графиком функции f над областью интегрирования — прямоугольником [a1; b1] [a2; b2].

Плотность совместного распределения обладает свойствами, аналогичными свойствам плотности распределения одной случайной величины:

(f1) f 1; 2 (x1; x2) > 0 для любых x1; x2 2 R;	(f2)	1	1 f 1; 2 (x1; x2) dx2	! dx1 = 1.
		R1	R1

Более того, любая функция, обладающая этими свойствами, является плотностью некоторого совместного распределения.

Если совместное распределение абсолютно непрерывно, то по функции совместного распределения его плотность находится как смешанная частная производная:

		@2
(f3) f 1; 2	(x1	; x2) =			F 1; 2 (x1; x2).
			@x1
				@x2

Из свойства (F2) функции совместного распределения вытекает следующее утверждение. Для n > 2 это утверждение, как и свойство (F2), выглядит существенно иначе!

Теорема 22. Если случайные величины 1; 2 имеют абсолютно непрерывное совместное распределение с плотностью f(x1; x2), òî 1 è 2 в отдельности также имеют абсолютно непрерывное распределение с плотностями:

	1				1
	f 1 (s1) = Z	f(s1; s2) ds2;			f 2 (s2) = Z	f(s1; s2) ds1:
	1				1
	Доказательство. Ïî (F2),		x1 0		f(s1; s2) ds21 ds1			x1 0	1 f(s1; s2) ds2	1 ds1;
F 1	(x1) = x2lim F 1; 2 (x1; x2) = x2lim			x2			=
	!1	!1 Z		Z	A			Z	Z	A
			1 @ 1					1 @ 1

F 2 (x2) =

=

|

}

и, аналогично,

x1

0

x2

f(s1; s2) ds2

1 ds1

=

1

x2

f 1{z(s1)

x1lim

F 1; 2 (x1; x2) = x1lim

Z

0

Z

f(s1; s2) ds2

1 ds1 =

!1

!1 Z

A

Z

A

x2

1

1 @ 1

1 @ 1

0

1

ZZ

@f(s1; s2) ds1A ds2:

1 1

| {z }

f 2 (s2)

9.3Независимость случайных величин

Определение 34. Случайные величины 1; : : : ; n независимы, если для любого набора множеств B1 R, : : : , Bn R (из борелевской -алгебры — для тех, кто прочитал, что это такое, или произвольных — для тех, кто не прочитал) имеет место равенство:

P( 1 2 B1; : : : ; n 2 Bn) = P( 1 2 B1) : : : P( n 2 Bn):

48

Это определение можно сформулировать в терминах функций распределения:

Определение 35. Случайные величины 1; : : : ; n независимы, если для любых x1; : : : ; xn имеет место равенство:

F 1;:::; n (x1; : : : ; xn) = F 1 (x1) : : : F n (xn):

Упражнение 14. Доказать, что из независимости в смысле определения 34 следует независимость в смысле определения 35 (доказательство в обратную сторону см. (только см.!) в §4 гл.3 учебника А.А.Боровкова «Теория вероятностей»).

Для случайных величин с дискретным распределением эквивалентное определение независимости выглядит так:

Определение 36. Случайные величины 1; : : : ; n с дискретным распределением независимы, если для любых a1; : : : ; an имеет место равенство:

P( 1 = a1; : : : ; n = an) = P( 1 = a1) : : : P( n = an):

Упражнение 15. Доказать, что для случайных величин с дискретным распределением определения 34 è 36 эквивалентны.

Для случайных величин с абсолютно непрерывным совместным распределением определение независимости можно сформулировать так:

Определение 37. Случайные величины 1; : : : ; n с абсолютно непрерывным совместным распределением независимы, если плотность совместного распределения равна произведению плотностей случайных величин 1; : : : ; n, то есть для любых x1; : : : ; xn имеет место равенство: f 1;:::; n (x1; : : : ; xn) = f 1 (x1) : : : f n (xn).

Доказательство. Докажем эквивалентность определений 35 è 37. По теореме 22, если совместное распределение 1; : : : ; n абсолютно непрерывно, то и в отдельности1; : : : ; n также имеют абсолютно непрерывное распределение. Пусть случайные вели- чины 1; : : : ; n независимы в смысле определения 35, то есть для любых x1; : : : ; xn

x1 xn

ZZ

: : : f 1;:::; n (s1; : : : ; sn) dsn : : : ds1 = F 1;:::; n (x1; : : : ; xn) =

1 1

=ïî îïð. 35 = F 1 (x1) : : : F n (xn) =

x1		xn	x1	xn
= Z	f 1 (s1) ds1 : : :	Z	f n (sn) dsn = Z	: : : Z	f 1 (s1) : : : f n (sn) dsn : : : ds1:
1		1	1	1

Равенство двух синих интегралов при всех значениях x1; : : : ; xn влечет равенство подынтегральных выражений, то есть независимость в смысле определения 37. Для доказательства в обратную сторону можно использовать те же равенства, но в другом порядке.

49