государственныйш

информатики

и

Лекция 9

й

и

е

к

Моменты случайных величин

радиоэлектроники

с

е

Белорусскийk

ы

университетk ∑ i i

x

называется число

Начальным моментом k и– го порядка с.в.

αk

= ∫x

p(x) dx - для непрерывной с.в. x.

государственныйш

В

тαk

= M ( X k ), k

= 0, 1, 2, ... .

и

∞

x

p

а

x.

информатики

й

α

=

− для дискретной с.в.

∞

k

м

α−1

е

д

е

радиоэлектроники

с

к

−∞

k

называется м.о. величины

( X − M (x))k = (xo )k , тБелорусский.е.

ы

а

университет

Приф kт=1 получаем α1 = M ( X ) , т.е. математическое ожидание с.в. xиесть

К

В

т

k

момент первого порядка. Центральным моментом k – го порядка

µ

начальныйа

м

а

µ

= M ( X − M (x))k ,

k = 0, 1, 2, ...

м

Отсюда следует, что µo

= M (1) =1,

µ1

е

= M (x − Mд(x)) =

0,

µ2

= M (x − M (x))

2

ф

е

т

= D(x), т.е. второй центральный момент с.в. x равен диспер-

сии этой с.в.

а

а

К

∞

k

= ∑(xi

µk

− mx )

pi

- для дискретной с.в. x.

i=1

м

∞

µk

= ∫(x − mx )k

f (x) dx - для непрерывной с.в. x.

−∞

государственныйш

Установим связь междуи начальными и центральными моментами:

3

3

информатики3 с

2

2

n

3

µ

=

∞

(x − m )2 p =

∞

x2 p − 2m

∞

+ m

p

=α − 2m2 + m2 =α − m2 .

йx p

2

2

∑ i

x

i

∑ i

i

и

i

x ∑ i

2

x

x

2

x

x ∑ i

i=1

i=1

еi=1

i=1

Аналогично

µ3

=α3 −3mxα2

+ 2mx3

государственныйш

радиоэлектроники

∞

∞

µ2

∞к

∞

∞

й

Белорусский

а

=α2 − mx2

µ3

= ∑(xi

ы

и

∑xi

pi +3mx

∑xi pi −mx ∑pi =α3 −3α2 mx +2mx

−mx ) pi = ∑xi pi −3mx

университет

i=1

i=1

i=1

i=1

i=1

т

В

µ1 = 0

информатики

и

д

м

е

радиоэлектроники

с

к

м

важные ачерты распределения: его положение и степеньБелорусскийразбросанности.

е

е

x

x

ы

Математическое ожидание m

и дисперсия

университет

D

- наиболее часто примеи -

т

наиболеет

няемыефхарактеристики случайной величины. Они характеризуютВ

К

а

а

Третий

центральный момент

служит

для

характеристики асимметрии

(или «скошенности») распределения. Если распределение симметричном

относи-

тельно математического ожидания, то очевидно

е

д

е

ф

а

т

К

а

м

и

и

государственныйш

информатики

и

∞

µ3

X

− mx

=

0 .

3

µ

3

=

й(x − m

x

)3

f (x) dx

е

∫

и

−∞

x называется число

Коэффициентом асимметрии

с.в.

радиоэлектроники

с

к

3

е

Белорусский

ыax =

мой «крутостиуниверситет»,

и3

= µ

= µ(( X *) ) .

т.е. островершинности или плосковершинности распределе-

В

т

σ x

σ x

государственныйш

-

цесса.

д

Четвертый центральный момент служит для характеристики так называеи

м

а

информатики

й

ния. Это свойство распределения описывается с помощью так называемого экс-

е

с

к

Эксцессоме

с.в. x

называется число

радиоэлектроники

ф

т

4

Белорусский

ы

и

а

а

lx =

4

−3 =

µ

σ

−3

= µ(( X *)

) −3 .

т

К

σ x

x

мДля нормального распределения эксцесс равен нулю; кривыеа, более ост-

м

ровершинные по сравнению с нормальной обладают положительным эксцес-

д

сом; кривые более плосковершинные – отрицательным эксцессом.

Ковариация с.в. Ковариацией или корреляционныме

моментоме

с.в. X и Y

называется величина σ xy

= cov(X ,Y ) = M ( X °Y °)

ф

т

, т.е.

σ

а

= M ( X − M (x))(Y − M ( y) = M ( X − m )(Y − m ) .

xy

К

м

а x

y

− mx M (Y ) − my M ( X ) + mx my =

σ xy = M ( XY − mxY − my X + mx my ) = M ( XY )

= M ( XY ) − mx my .

Итак,

σ xy

= M ( XY ) − mx my .

государственныйш

Для непрерывных с.в. X и Y корреляционный момент равен

xy

∫

∫

и

x

y

информатикис

σ =

∞

∞

( X − mй )(Y − m

) f (x, y) dx dy

xy

∫

∫

е

x

и

y

∞

∞

−∞ −∞

к

или σ

радиоэлектроники

=

XYf (x, y) dx dy − m m .

Белорусский

ы

и

государственныйш

университет

i=1 j=1

−∞ −∞

В

т

и

Y

с совместным

законом распределенияи

Для дискретных

с.в. X

д

∞

∞

информатикис

й

P(x = xi , y = y j ) = Pij .

а

е

∞

∞

м

σ xy = ∑∑

(xi − mx )( y j

− my )Pij .

к

радиоэлектроники

м

а

е

σ xy = ∑∑x = y j Pij

университет

ы

и

К

1.

σ xy

=σ yx .

а

ф

е

т

− mx my .

В

т

i=1 j=1

аОтметим свойства корреляционного момента

2

д

м

2. σ xx = D(x) =σ x .

е

е

3.

Если X и Y независимые с.в., то σ

xy

=

0 .

Действительно, для незави-

симых с.в. M ( XY ) = mx my .

а

ф

т

К

а

м

и

и

государственныйш

4.

и

Имеет место неравенство Коши-Буняковского:

информатикис2

й

и

σ xy

е

D( X ),

σ y =

D(Y ) .

≤σ x σ y , где

σ x =

■ M

( X °−λY °)2

≥ 0

к

M ( X °2

− 2λM ( X °Y °) + λ2 M (Y °2 ) ≥ 0

е

радиоэлектроники

Белорусский

ы

и

D(x)

− 2λσ xy + λ

D(Y ) ≥ 0 .

университет

В

т

λ

государственныйш

е

е

P (x)

=

2

2

2

к

Дискриминант этого квадратного трехчлена от

должен быть неположи-

тельным, т.е. σ xy2

− D( X ) D(Y ) ≤ 0 .

и

т

а

0,

x < − π , x > 1 .

информатики

й

Плотность вероятности с.в. x равна

д

м

1

cos x, − π ≤ x ≤ π

с

как интеграл от нечетнойрадиоэлектроникифункции

m

= 1

2 x cos x dx = 0 ,

ф

x

Белорусский

ы

и

а

университет

К

а

с.в. X и

X

2

.

В

т

Найти ковариацию σ xy

а

м

π

м

x

∫π

д

2

е

е

−

2

ф

т

а

π

2

3

1

2

3

M ( XY ) = M ( X X

К

∫π

2

) = M ( X

) =

аx cos x dx = 0 .

м

− 2

σ xy = M ( XY ) − mx my = 0 −0 = 0 .

государственныйш

x2

зависимы,

ковариация оказалась

Таким образом,

хотя функции x и

равной нулю.

информатики

и

й

Коэффициент корреляции.

Корреляционный момент служит для характе-

ристики связи между с.в.

X

е

и

и Y. Однако величина корреляционного момента

зависит от единиц измерения случайных величин. Для того, чтобы устранить

радиоэлектроники

с

к

µ(x, y)

государственныйш

этот недостаток вводят новую числовую характеристику – коэффициент корре-

Белорусский

ы

и

величинуниверситет

ляции.

В

т

гxy с.в.

X и Y называют отношениеикорре-

Коэффициентом корреляции

д

а

информатики

е

ляционного момента к произведению средних квадратических отклонений этихй

м

м

гxy

=

.

радиоэлектроники

с

к

а

е

Белорусский

ы

и

xy

ф

е

σ x σ y

университет

В

т

- безразмерная величина. Если

г

Y на-

Очевидно, г

xy

xy

= 0 , то с.в.

X и

К

т

а

не коррелированными, если же г

≠

0 , то с.в. X

и Y

зываютсяа

называются

коррелированными.

м

Приведем основные свойства коэффициента корреляциид

1.

гxy

=1.

ф

е

т

е

2.

гxy

= гyx .

а

а

К

м

и

и

и

3.

государственныйинформатики

й

и

xy

гxy ≤1.

4.

Если X и Y независимыее с.в., то г

= 0 .

с

к

Эти свойства следуют

шнепосредственно из определения коэффициента

радиоэлектроники

е

Белорусский

ы

и

корреляции и свойств ковариации.

2

университет

гxy

5.

Если

Y

= AX

+ B, то

=1.

е

В

т

2

=

=1.

государственныйш

к

гxy =

2

2

а

и

■ Пусть

M (x) = a,

D(x) =σ

.

Тогда

M ( y) = Aa + B,

D( y) = A σ .

е

A2σ 2

σ 2

A

− a)) =

информатикис

й

Cov( X ,Y ) = M ((X − a)(Y − Aa

− B))

= M ((X − a)(A( X

AD( X ) = Aσ .

д

м

Aσ 2

A

радиоэлектроники

метода наименьших квадратов, если математическоеБелорусскийожидание

M (Y

− g(x))2

а

т

ы

Линейнаяф

университет

К

В

с.в. Функциюа

g(x) =αx + β называют «наилучшим приближением» Y втсмысле

м

м

а

принимает наименьшее возможное значение; функцию

g(x) называют средне-

квадратической регрессией Y на X.

д е

Очевидно, что эта оптимизационная задача имеете

хотя бы одно решение.

ф

имеет вид

Покажем, что линейная средняя квадратическая регрессият

σ y

а

а

g(x) = my

+ гxy

К

σ x

м

Введем в рассмотрение функцию

− a − BX )

2

.

F(α, β) = M (Y

и

Учитывая, что

−α

− β m )

= 0

государственныйш= −2(m

M ( X − mx ) = M (Y

− my )

= 0, M ((x − mx )

( y

− my )) = µxy = гxyσ xσ y ,

получим

и

2 й

2

2

2

информатикис∂α

е

и

F (α, β) = σ y + β σ x −

2гxyσ xσ y β + (my −α − β mx ) .

радиоэлектроники

∂F

к y

x

Белорусский

и

государственныйш

σ y

∂F

σ y

Отсюдауниверситетβ = гxy

,

α = my − гxy

mx .

е

и

В

ы

=

2βσ

− 2г σ σ = 0.

т

x

xy x

y

и

∂β

Так полученод

информатикис

й

одно решение, оно является искомым.

м

а

σ x

σ x

радиоэлектроники

к

м

x

а

е

σ y

Белорусский

а

е

σ y

σ y

ы

и

или

g(x) = my + гxy

(x − mx ) .

университет

а

ф

т

g(x) =α + βx = my − гxy

σ x

mx

+ гxy

σ x

x

В

т

К

м

σ

д

σ

y

Коэффициент

B = г

называют коэффициентом регрессиие

Y на X, а

xy σ

x

а

ф

е

т

К

а

м

рессии Y на X.

государственныйш

информатики

и

прямую

y − m

=

г

σ y

(x − m )

называютй

прямой среднеквадратической рег-

y

xy σ x

x

е

и

радиоэлектроники

к

β

в F(α, β)

е

Подставив найденныесзначения α и

получим ее минималь-

Белорусский

и

и

университет

2

2

2

г

2

ное значение равное

σ

ы(1 − г

) .

Величину

σ

(1

−

)

называют остаточной

дxy

В

y

т

xy

y

xy

государственныйш

дисперсией случайной величины Y относительно случайной величины X; она

функциональную зависимость

Y =αX + β .

информатикис

характеризует величинуаошибки, которую допускают при замене Y линейной

функцией g(x) .

м

й

При

г = ±1 остаточная дисперсия равна нулю. В этом случае мы имеем

е

е

радиоэлектроники

к

σ x

а

т

ы

Аналогичноф

университет

X

К

а

В

т

на Y :

м

X − mx

= гxy

(Y − my ) .

а

σ y

м

Обе прямые проходят через точку (mx

д

, my ), которую называют центром

совместного распределения величин X и Y .

ф

е

т

е

а

а

К

м

и

государственныйш

информатики

и

й

е

и

радиоэлектроники

с

к

Белорусский

ы

и

государственныйш

университет

В

т

д

а

информатики

и

й

е

и

м

к

радиоэлектроники

с

м

а

ф

е

т

е

университет

В

ы

и

а

т

К

а

е

д

е

м

ф

т

а

К

а

м