Глава 2 многомерное нормальное распределение
2.1. Введение
В этой главе дается определение многомерного нормального распределения и рассматриваются некоторые его свойства. В § 2.2 приводятся основные понятия, связанные с многомерным распределением: определение частных распределений, условных распределений, математических ожиданий и моментов с помощью многомерной плотности вероятности. В следующих параграфах эти понятия рассматриваются для нормальных распределений. Одним из важных свойств многомерных нормальных распределений является то, что частные и условные распределения также являются нормальными.
2.2. Понятия, связанные с многомерными распределениями
2.2.1. Совместные распределения. В этом параграфе будут рассмотрены понятия совместных распределений нескольких случайных величин, частных распределений подмножеств случайных величин и условных распределений. Во-первых, рассмотрим случай двух (действительных) случайных величин (в главе 2 будем различать случайные величины, которые обозначаются прописными буквами, и аргументы, обозначаемые строчными буквами. В последующих главах мы не сможем придерживаться этого соглашения, поскольку его соблюдение усложнит обозначения ) X и Y. Вероятности событий, определяемых в терминах этих величин, могут быть получены из совместной функции распределения
F(x,y) = P{Xx, Yy}, (1),
определяемой для каждой пары действительных чисел (x, y). Нам интересен случай, когда F(х, у) абсолютно непрерывна, это соответствует тому, что почти всюду существует частная производная:
(2)
и
(3)
Неотрицательная функция f(x,у) называется плотностью распределения вероятностей X и Y (плотность вероятности). Случайные величины (X, Y) определяют случайную точку на плоскости. Вероятность того, что (X, Y) попадет в прямоугольник, будет
(4)
Вероятность того, что случайная точка (X, Y) попадет в некоторое множество Е, для которого следующий интеграл определен (т. е. в некоторое измеримое множество Е), равна
(5)
Это следует из определения интеграла (как предела сумм вида (4)). Если f(x, у) непрерывна по обеим переменным, то элемент вероятности f(x, у) приближенно равен вероятности того, что X окажется между x и , a Y — между y и , ибо
(6)
для некоторых x0, у0 (x x0 x+x, y y0 y+y) по теореме о среднем. Так как
f( и,,v) непрерывна, то значение вероятности в формуле (6) приближенно равно
f(x, у) xy. Действительно,
(7)
Рассмотрим теперь случай р случайных величин Х1, Х2, ..., Xр.. Их совместная функция распределения
F(x1,…xp) = P{X1x1,…Xpxp} (8)
определена для любого набора действительных чисел x1, .... хр.. Если F(x1,…xp) абсолютно непрерывна, то плотность распределения вероятностей есть
(9)
(почти всюду) и
(10)
Вероятность попадания точки Xl ,.., Хp в измеримое множество R p-мерного евклидова пространства равна
(11)
R
Элемент вероятности приближенно равен
Смешанные моменты равны
(12)
2.2.2. Частные распределения. Если задана F(x,у) — совместная функция распределения случайных величин X, Y, то частная функция распределения X будет
(13)
Обозначим ее через F (x). Ясно, что
(14)
Назовем (15)
частной плотностью вероятности величины X. Из (14) ясно, что
(16)
Таким же образом могут быть определены частная функция распределения G (у) и частная плотность вероятности g(y) величины Y.
Рассмотрим теперь общий случай. Дана совместная функция распределения F(x1 ,..., хp), случайных величин Xl ,…,Хр и нужно определить частную функцию распределения некоторых из величин Х1 ,....,Хр , например величин Х1 ,....,Хr (r<р).
Имеем
(17)
Тогда частная плотность вероятности величин X1 ,…,Xr равна
(18)
Частные функции распределения и плотности вероятности любых других групп величин Х1, ..., Xp могут быть определены аналогичным образом.
(19)
2.2.3. Статистическая независимость. Две случайные величины X, Y с совместной функцией распределения F(x, у) называются независимыми, если
F(х. у) = F(х)G(у), (20),
где F(х) есть частная функция распределения X и G (у) — частная функция распределения Y. Из этого следует, что плотность вероятности пары (X, Y) есть
(21)
Обратно, если f(x, у) = f (x) g (у), то
(22)
Поэтому эквивалентное определение независимости в случае, когда существует плотность вероятности, есть
Пусть даны любые х1 < х2 , yl < у2. Рассмотрим вероятность
Вероятность совместного осуществления двух событий — попадания X в первый интервал и попадания Y в другой интервал — равна произведению вероятности попадания X в первый интервал и вероятности попадания Y во второй интервал.
Если совместная функция распределения величин X1 ,..., Хр есть F(x1 ,..., хр), то случайные величины называются взаимно независимыми в том случае, когда
(24)
где Fi(xi) является частной функцией распределения величины Xi ( i=1,..., р). Говорят, что величины X1 ,...., Хr независимы от величин Х r+1 ,..., Хp , если
(25)
Одним из следствий независимости является формула, согласно которой смешанный момент совокупности случайных величин выражается через произведение соответствующих моментов каждой случайной величины. Например,
если X1 ,…,Xp взаимно независимы, то
(26)
2.2.4. Условные распределения. Если А и В — два события, вероятность совместного появления которых равна P(АВ) и вероятность появления В равна P(В), то условная вероятность появления А при условии, что В произошло, будет равна Р(АВ)\Р(В) [если Р(B)>0]. Допустим, что событие А есть попадание X в интервал (x1 , x2) и событие В — попадание Y в интервал (y1 ,у2). Тогда условная вероятность того, что X попадет в (х1 ,х2), при условии, что Y попала в интервал (y1 , y2), равна
Теперь допустим, что Тогда для непрерывной плотности вероятности
(28)
где Также
(29)
где Поэтому
(30)
Следует упомянуть, что для фиксированных у и подынтегральная функция в (30) обладает теми же свойствами, что и одномерная функция плотности вероятности. Для значений у, при которых g(y)>0, мы определим (вероятность того, что X лежит между х1 и х2 при фиксированном Y, равном у) как предел (30), когда Таким образом,
(31)
где f(u|y) = f(u, y)|g(y). Для данного y f(u|y) есть плотность вероятности и называется условной плотностью X при данном Y. Заметим, что если X и Y независимы, то
f(x|y)= (x).
В общем случае для величин Х1, ... Хр с совместной функцией распределения
F(x1, ..., хр) условная плотность распределения величин Х1, . .., Xr, при данных
Хr+1 = xr+1 ,..., Хр = хр, равна
(32)
Более общее рассмотрение условных вероятностей читатель найдет в работе А. Н. Колмогорова [1].
2.2.5. Преобразование переменных. Пусть f(x1 , ..., хp) есть плотность вероятности величин X1 , ..., Xp . Рассмотрим р действительных функций
i=1,…, p (33)
Мы допустим, что преобразование x-пространства в y-пространство является взаимно однозначным и обратное преобразование есть
xi = xi(yl. ..., ур), i=1, ..., р. (34)
Пусть случайные величины Y1, ..., Yp определяются следующим образом:
Yi = yi(X1 ,..., Хр), i=1,...,р. (35) Тогда плотность вероятности величин У1, ..., Yр равна
g(y1 ,…,yp)=f[x1(y1,…,yp),…,xp(y1,…,yp)]J(y1,…,yp), (36)
где
есть функциональный определитель Остроградского — Якоби ( Во многих книгах этот функциональный определитель называется якобианом, однако название «определитель Остроградского — Якоби» является более точным, ибо этот определитель был введен Остроградским и Якоби независимо друг от друга.) для этого преобразования. Мы считаем, что производные существуют, а символ «mod» обозначает абсолютную величину следующего за ним выражения. Вероятность того, что (X1, ..., Xр) попадает в область R, определяется по формуле (11), а вероятность того, что (Y1 , ..., Yp) попадает в область S, будет равна
(38)
Пусть S есть образ области R, т. е. пусть каждая точка области R преобразуется по (33) в точку области S, и каждая точка S преобразуется по (34) в точку R; тогда (11) равно (38) по общей теории преобразования кратных интегралов. Отсюда следует, что (36) является плотностью распределения величин Y1, ..., Yp.