Все в одном

Опр: называется алгеброй, если

1)

2) Ai i1 Ai , Ai

i1

i1

3) A A

( , ) - измеримое пространство.

Опр: Определим функцию : A (A) [0, ) . - нормирована, если ( ) 1

: A [0,1] .

- аддитивна, если A, B : A B (A B) ( A) (B) .

Аддитивная нормированная

-

конечная вероятность.

A

- аддитивна, если

: A

A

A

(A ) .

j

i

i 1

i

i

i

i 1

i 1

аддитивная нормированная функция называется вероятностной функцией и обозначается P. Тройка

( , , P) называется вероятностным пространством (ВП).

2. Повторные независимые испытания.

Пусть проводится серия из n независимых одинаковых испытаний. Каждый раз появляется событие A или

A . Событие A появляется в k испытаниях. Такие испытания называются повторными независимыми

испытаниями или испытаниями по схеме Бернулли. A P( A) : p, P(					A	) 1 p : q и	p q 1. Пусть
			k	(1,0,...1,) . Рассмотрим структуру :
A 1,	A	0

n

0)0 (0,..., 0) - Cn0 1 шт.

1)k , у которых есть ровно одна “1” – Cn1 n шт.

2)

, у которох есть ровно две “1” – С 2

n(n 1)

шт.

k

n

2

…

k)

, у которых есть ровно k штук “1” –

С k

n!

шт.

k

n

k!(n k )!

…

n

n) n

(1,...,1) - Cnn 1

шт.

Cnk 2n

A

22n .

k 0

Каждый элементарный исход k можно рассматривать как произведение n штук событий A и A : например,

k A A ... A , где A - k раз, A - n-k раз P( A) p . Т.к. события-сомножители независимы, то

P( k ) P( A A ... A) P( A) P( A) ... P( A) pk qn k . Т.е. k pk P( k ) pk qn k 0 . Т.е.

внутри каждой k-й группы ЭИ равновозможны, апри переходе от группы к группе меняется число k

меняется pk pk qn k . Выполнено условие нормировки Cnk pk qn k ( p q)n

1 (по формуле бинома).

k

Пусть Ak [в серии из n испытаний событие A появилось точно k раз] Ak

благоприятствуют все ЭИ из

k-й группы

P( Ak ) pk Cnk pk qn k -

формула Бернулли.

Набор

вероятностей

P(Ak ) kn 0 -

k Ak

биномиальное распределение. Число 0

~

: P( A) max P( Ak ) - нивероятнейшее число появлений события A.

k

Теорема

(лок.

Муавра-Лапласа):

Пусть

~ B(n, p) ,

P( A ) C k p k q n k

справедливо

k

n

P k

1

1

e

x2

k

np

(x) , где (x)

2

, где x

(центрирование + нормировка).

npq

2

npq

Теорема (инт. Муавра-Лапласа):

P m1 m2 (b) (a) , где b

Пусть

m2 np , npq

~ B(n, p) ,					P( Ak )
a	m1 np			, (x)			1
		npq					2

Cnk p k q n k				справедливо
x		t 2
e		2 dt .
0

Опр: Пусть есть ВП ( , , P) . Случайной величиной (СВ) ( ) называется измеримое отображение

( ) : Rn .	Введём алгебру {[a,b) : a,b R} на R. Измеримость отображения означает, что
B n P ( ) B P 1 (B) P (B) , т.е ( ) - числовая реализация опыта.
Пример 1: Бросают 3 раза монету. Пусть ( ) R - число гербов одного броска, () R3 - результат всего
опыта.
Опр: СВ ( )	- дискретного типа, если множество её возможных	значений	– счётное или конечное
		0, pi	1 . Ряд распределения –
множество изолированных точек в R: xi i 1 . При этом P () xk pk

i

таблица, состоящая из пар [xk , pk ] - задаёт закон распределения вероятности дискретной СВ.

Опр: СВ ( ) - непрерывного типа, если множество её возможных значений – промежуток R. Распределение вероятности ( ) задаётся с помощью кусочно-непрерывной неотрицательной функции

b

p(x) 0, p(x)dx 1 - плотности вероятности.

a

Опр: Функцией распределения (ФР) СВ ( ) называется вероятность F (x) P{ x}.

Свойства ФР:

1) F(x) - неубывает

◄ Пусть	x1 x2			( , x2 ) ( , x1 ) [x1 , x2 )	и	( , x1 ) [x1 , x2 )
	аддит
F(x2 ) P{ ( , x2 )}			P{ x1} P{x1 x2 } F(x1 ) P{x1		x2 } F (x1 )

►

2) F(x) - непрерывна слева

◄Пусть {xk }: xk x ( , x1 ) ...

( , xk ) ( , xk 1 ) ... Т.к. последовательность {xk } возрастает,

то последовательность промежутков расширяется ( , xk ) ( , x) по свойству непрерывности

k 1

«сверху» P F(x) P ( , x) P{ ( , x)} lim P{ ( , xk )} lim F(xk ) . Из произвольности
		k	xk x
выбора {xk } , по теореме непрерывности Гейне F(x) F(x 0)
►
3) lim F(x) 0 ,	lim F(x) 1
x	x
◄Пусть {xk } : xk		( , x1 ) ... ( , xk ) ( , xk 1 ) ... Т.к. последовательность {xk } убывает,
то последовательность промежутков сужается ( , xk )			по свойству непрерывности P в нуле
		k 1
0 P( ) lim P{ ( , xk )} lim F(xk ) .
k		xk

►

R

Пусть ( 1 ,

2 ) R

2

.

B1 , 2

R2 ) , { 2 R2 } - достоверное

2

P( B ) P( 1

событиие

P( B ,

2

R ) : P ( B )

-

частная вероятностная

функция

B1

1

1

2

1

1

1

первой компоненты. Аналогично P( 1

R2 , 2 B2 ) : P2 ( 2 B2 ) .

B

R1

Если P – вероятность случайного

вектора

можно построить

частные

вероятностные

функции

Pk

для

компонент

k . Рассмотрим множество

S

x

: ( , x ) ( , x

) ... ( , x

) n .

P( S

) F (x , x

,..., x

)

-

ФР случайного вектора

1

2

n

x

1

2

n

P( 1 x1 , 2 x2 ,..., n xn ) F (x1 , x2 ,..., xn ) .

Свойства ФР вектора :

1)F(x) - неубывает по каждому их своих аргументов.

2)F(x) - непрерывна слева по каждому их своих аргументов.

3.а) i [1, n] lim	F(x1 , x2 ,...,xn ) 0
xi

3.б)	lim	F (x1 , x2 ,...,xn ) 1
	i [1,n] xi
◄
R2		R2
		R1

						R1
►
4) [a	1	,b ) F F (b1 , y) F (a1 , y) , [a				,b ) F F (x,b2 ) F (x, a2 )
		1			2	2
[a,b) F [a ,b )				[a ,b ) F F(b1, b2 ) F(a1, b2 ) F(b1, a2 ) F(a1, a2 ) .
		2	2	1	1
[a1 ,b1 ) [a2 ,b2 ) [a,b) F 0 .
5) Согласованность: i [1, n] lim						F(x1 ,...,xi 1 , xi , xi 1 ,...,xn ) F(x1 ,...,xi 1 , xi 1 ,...,xn ) .
					xi

4. Числовые характеристики случайных величин.
Опр: Пусть есть СВ , F(x)				- ФР,	g( ) - функция от . Мат. ожиданием (МО) g( )				назвается величина
M g( ) g(x)dF(x) ,				если	интеграл	сходится	абсолютно.	Пусть	g( ) R
	Rn
	xk pk , дискретная
	k				.
M xdF(x)
			xp(x)dx, непрерывн ая
R

Механический смысл МО – координаты центра тяжести распределённой по числовой оси единичной массы.

Примеры:

1) - число очков на верхней грани игральной кости

1

2

3

4

5

6

6

1

7

M k

k 1

6

2

pk

1/ 6

1/ 6

1/ 6

1/ 6

1/ 6

1/ 6

2) - равномерно распределёна на отрезке [a,b] .

0, x [a,b]

a

b

x

a b

M xp(x)dx 0 xdx

dx 0 xdx

p(x)

1

, x [a,b]

b a

2

a

a

b

b

3) ~ Bin(1, p)

M 0 q 1 p p

n

n

4) ~ Bin(n, p)

M kCnk pk qn k

p kCnk kpk 1qn k

k 0

k 0

n

n

Рассмотрим величину g(u) (q

pu)

n

k

( pu)

k

q

n k

n

k

( pu)

k 1

pq

n k

Cn

g (u) n(q pu)

p kCn

k 0

k 0

n

k

k

q

n k

M M np .

g (u) |n 1 np

Cn kp

k 0

1

( x a)2

1

( x a)2

e

xe

5) ~ N (a,

2 ) , p(x)

2 2

M

2 2

dx .

2

2

1

( x a)2

(x a)e

dx M a p(x)dx 0

Рассмотрим

2 2

M a .

2

1

k

k

k

k 1

6) ~ P( ) ,

P{ k}

e

M

k

e

k

e

e

e e

k!

k 0

k!

k 1

k!

k 1

(k 1)!

Свойства МО:

1) МО – линейный функционал: M ( ) M M

◄Рассмотрим g( , )
M ( ) (x y)dF(x, y) xdF(x, y) ydF(x, y) x dF(x, y)
R2	R2	R2	R	R		R

dF(x, y) d F (x, ) F (x, )

F1 ( x)R2 0

... xdF1 (x) ydF2 ( y) M M

R R

►

			...
y	dF(x, y)
R

2) Если , - независимы, то M ( ) M M

◄

				независ
M ( ) M g( ,) xydF(x, y) xydF1 (x)dF2 ( y) xdF1 (x)						ydF2 ( y) M M
			R2	R2	R	R
►
3) Если 0	и M 0 , то P{ 0} 1 , т.е. почти наверное 0 .
		0
◄ M xdF(x)			xdF(x) 0	dF(x) 0	F(x) Const ,	но т.к. F ( ) 1	Const 1 .
R			0
0, x 0		P{ 0} 1 .
F(x)
1, x 0
►
Опр: Дисперсией СВ называется величина
			(x x)2 p(x)dx, н епрерывн а
		2			, где x M .
D M M			R
			(xk x)2	pk , дискретн а
			k

Св–ва дисперсии.

1) D 0 (a) и D 0 const (b,c), т.е. – вырождена.

◄a) Ясно из определения, Dξ = M[ξ – Mξ]2 > 0 ee МО не может быть отрицательным.

б) Пусть – вырождена. Mξ = c Dξ = M[c – Mc]2 = 0.
в) Пусть Dξ = 0. Рассмотрим СВ ζ = ξ – Mξ ≥ 0, Mζ = Dξ = 0 Mζ = 0	P{ 0} 1	P{( M )2 0} 1
M c . ►

Дисперсия – мера разброса значений случайной величины ξ около ее Mξ. Т.к. МО - линейный функционал, то

Dξ = M[ξ – Mξ]2 = M[ξ2 – 2ξMξ + M2ξ] = Mξ2 – 2MξMξ + M2ξ = Mξ2 – M2ξ.

xk2 pk , дискретн ая

M 2 k

x2 p(x)dx, н епрерывн ая

Опр: Среднеквадратическим отклонением называется величина D .

2) D[ξ1 + ξ2] = Dξ1 + Dξ2, если ξ1, ξ2 – независимые.

◄D[ξ1 + ξ2] = M[(ξ1 + ξ2) – M(ξ1 + ξ2)]2 = M[(ξ1 – Mξ1) + (ξ2 – Mξ2)]2=M[ξ1 – Mξ1]2 + M[ξ2 –Mξ2]2 + 2M[(ξ1 – Mξ1)(ξ2 –

Mξ2)] = Dξ1 + Dξ2, т. к. ξ1, ξ2 – независимые Mξ1, Mξ2 – независимые

2M[( 1 M 1 )( 2 M 2 )] 2M[ 1 M 1 ] M[ 2 M 2 ] 2M 1 M 2 0 . ►

3)D[cξ] = M[cξ – M(cξ)]2 = M[c2(ξ – Mξ)2] = c2M(ξ – Mξ)2 = c2Dξ

4)D[ξ1 – ξ2] = Dξ1 + Dξ2

5)D[ξ + c] = D[ξ]

Примеры:

1)ξ~Bin(1,p), Mξ2 = 02q + 12p = p, Dξ = Mξ2 – M2ξ = p2 – p = pq

2)ξ ~Bin(n,p), ξ = ξ1 + … + ξn, Dξi=pq, Dξ=pqn

		1		e	( x a)2			1				( x a)2
3) ξ ~N(a,σ2), p(x)					2 2	, Dξ = M[ξ – Mξ]2 =				(x a)2 e		2 2	dx 2
		2						2

5. Закон Больших Чисел. Теоремы Бернулли, Хинчина, Чебышева.

Закон Больших Чисел (ЗБЧ) налагает на последовательности k k 1

условия, при которых с вероятностью,

близкой к 1, их среднее арифметическое ведет себя как const.

Теорема (Бернулли): Если ~ Bin(n, p) ,

p

то lim P

n

1, т.е. при очень большом числе испытаний с

n

вероятностью, близкой к 1, можно утверждать, что относительная частота

будет сколь угодно мало

n

отличаться от вероятности появления события в единичном испытании p.

◄Вычислим

p

-

относительная частота наступления события,

p

– вероятность

P

..., где

n

n

... P(np n np n ) ...

наступления события в единичном испытании, 0 1 - произвольно,

m1

m2

np

n np

Применим

теорему Муавра-Лапласа

b

n

,

a

np

n np

n

npq

pq

npq

pq

1

x

u2

n

e

2

(x)

... (b) (a)

2

pq

,

т.к.

функция

Лапласа

2

du

нечётная.

0

n

lim P

n

p

lim 2

1.

►

n

n

pq

1 / 2

Следствие:

pn

n

M np ,

при n 30 , т.е. при очень большом числе испытаний с

lim P

1

n

мало

вероятностью, близкой к 1, будет принимать значения, мало отличающиеся от его МО.

Опр: Пусть

СВ

Rn ,

F(x)

-

ФР

.

Характеристической функцией (ХФ) СВ

называется

(t) M ei(t , ) ei(t ,x) dF(x) ,

n

где

t Rn ,

(t, x) tk xk

- скалярное произведение.

Если n 1, то

R

n

k 1

n

pk , дискретная

(t) M e

eitxk

i(t , )

e

itx

dF(x) .

k 1

.

(t)

e

it ,x

p(x)dx, непрерывная

Теорема (Хинчина): Пусть

есть

последовательность k k 1

независимых, одинаково

распределённых

величин, 1 m M k

				1	n
					k	1
lim P								1). n
n				n k 1

					1	n		P
						k	1	0	(или
эта последовательность подчиняется ЗБЧ, т.е. n
					n k 1			n
	n	n
	k	M k
	k 1	k 1	.
		n

						СВ k ,
	◄ Пусть (t)				- ХФ			k 1, n .
			n					n
	n	(t)			(t) .		:		m
	k				k	n		n
			k 1

k 1

			n				(t) (t) n ,
	n	:			k
							n
			k 1
						(t) e itm		t
					n					,
								n n

т.к. если k k 1	независимы, то

т.к. a b (t) eitb (at) .

itm

t

n

(t) в ряд в точке 0

(t) e

. Разложим

(t) (0) (0)

t O(t) . По свойствам ХФ:

n

n

(0) 1, (0) i 1

im , где m 1 .

■ (l )

(0) il

l

, если

, l 1,k

- начальный момент m-го порядка. □

l

itm

t n

(t) e itm 1

O

e itm eitm e0

1 .

n

n

n

n

и ХФ k

■ Пусть есть k k 1 и соответствующие ФР Fk (x) k 1

(t) k 1

1)

Если k

(t) (t) и (t) непрерывна в точке 0, Fk

(x) F(x) .

k

k

2)

Если Fk (x) F(x) и F(x) - ФР, k (t) (t) . □

k

k

D

0 . Сходимость по вероятности сильнее сходимости по распределению, но пределом является

n n

вырожденная СВ, значит, сходимость по распределению влечёт сходимость по вероятности.

►

Теорема (неравенство Чебышева):

Пусть 0

,

M ,

тогда 0

P{ }

M

(*) и

P{ M

}

D

(**).

2

M

M

◄ M xdF(x) xdF(x) dF(x) P{ }

(*)

P{ M

}

0

P{

M

} P{

M

2

2}

M

M

2

D

(**).

2

2

►

Теорема (Чебышева): Пусть есть последовательность независимых СВ k k 1	, произвольно распределённые,

k D C , тогда последовательность удовлетворяет ЗБЧ:

k n

				1	n		1	n
					k			M k			1.
или lim P
n				n k 1			n k 1

	n	n
	k	M k P
	k 1	k 1	0	при n
		n

1

n

1

n

1

n

nc

c

◄

n

k ,

M n

M k

D n

D k

,

2

2

2

n

n k 1

n

k 1

n

k 1

n

P{ M } 1 P{ M } 1 c

1, n

(**)

n

n

n

n

n

6. Центральная предельная теорема. Теорема Леви. Понятие о теореме Ляпунова.

Центральной предельной теоремой (ЦПТ) называется совокупность теорем, в которых на последовательность

случайных

величин

k налагаются условия,

при

которых их центрированная и

нормированная

n

n

k

M k

k 1

k 1

подчиняются закону, близкому

к нормальному

N(0,1) . Пусть

~ N (a, 2 ) ,

n

n

D k

k 1

1

e

( x a)2

p(x)

2 2

. Если последовательность

СВ -

последовательность

бернулевских

величин, тогда

2

применимы теоремы Муавра-Лапласа; если последовательность независимых одинаково распределённых СВ, тогда применяется теорема Леви; если последовательность различно распределённых СВ, тогда применяем теорему Ляпунова.

Теорема (Леви): Пусть	k kn 1	- последовательность независимых, одинаково	распределённых СВ,
		W
2 M k2 эта последовательность удовлетворяет ЦПТ, т.е. n N (0,1) , n .
◄Рассмотрим СВ k0 k	M k	- центрированная случайная величина, т.е. M k0 0 ,	D k0	: 2 2 12 .

Т.к.

2

D

k

D 0

D[

k

M

] 2 , с другой стороны,

n

k

k

		k0			W
		k					0				n
	надо доказать				N (0,1) . Пусть	(t)	- ХФ СВ k	, k		n	(t) (t) ,
		n
										k
										k 1

k0

k

D k0

k

n (t)

k0

	k					, т.е.
			n
			t n
										,
				n

O(t 2 ) .

По свойствам ХФ: (0)

(t) (0) (0) t

(0) t 2

1!

2!

2

t

2

2

n

t 2

(t) 1

0

O

t

e

2 .

2

n

2

n

n

n

(t) e

t 2

по теореме непрерывности ХФ)

2

(это ХФ

N(0,1)

n

n

W

N(0,1) n N (0,1) . ►

1 , (0) i 10 0 , (0) i2 20 2 .

		1		x		u2
F n (x) F0 (x)				e
						2 du - ФР
		2

1

x2

ХФ нормально распределённой СВ. Пусть

~ N (0,1) ,

p(x)

e

2

2

1

x2

1

x2

i

x2

(t)

2

eitx e

2 dx

2

cos(tx) e

2 dx

2

sin(tx)

e

2 dx ,

0

		1						x2			1
(t)					sin(tx) xe				dx
								2
		2									2
							dv
					u

			x2
sin(tx) e
			2
	0

		x2
t cos(tx) e			dx
		2