3.10. Условная дисперсия

Для того чтобы оценить насколько сильно отдельные значения сл. величины могут отклоняться от кривых регрессии, используют понятие условной дисперсии:

(3.35)

Случайная величина , рассматриваемая как функция η, носит название скедастика, сами уравнения (3.35) называются скедастическими (терминология справедлива и для сл. величины .

Как и в случае условного математического ожидания, некоторые свойства условной дисперсии аналогичны свойствам обычной дисперсии, другие же присущи только условной дисперсии. Первые только перечислим, вторые приведем с доказательствами.

1.

2.

3.

4. , если – независимые сл. величины при условии η.

5.

Доказательство приведем для непрерывной сл. величины. Рассмотрим выражение

– использовали свойство 6 условного математического ожидания. Далее используем формулу (3.34).

6.

или .

Согласно свойству D4 дисперсии имеем . Применим к обеим частям полученного равенства оператор математического ожидания: или, используя свойство 5 условного математического ожидания в левой части равенства, . Вычтем из обеих частей : . В левой части получаем выражение для дисперсии Dξ, правую же часть полученного равенства преобразуем следующим образом. Нетрудно показать, что = . Действительно,

. Тогда получаем равенство Остается показать, что

Замечание. В ходе доказательства получена формула, имеющая самостоятельное значение

(3.36)

Пример 8. Пусть (ξ,η) – двумерная сл. величина, имеющая нормальное распределение. Известно (см. предыдущий пример), что условная плотность распределения имеет вид

. Но тогда . Аналогично, .

Обе дисперсии постоянны, т.е. не зависят от значений сл. величин ξ и η соответственно. При | ρ |=1 . О том, как проинтерпретировать полученный результат, см. п. 3.12.

Проверим свойство 6 условной дисперсии:

Мы получили хорошо известный результат.

Упражнение.

Проверить справедливость соотношений

1.

2.

3. , если ξ и η – независимые одинаково распределенные сл. величины.

3.11. Ковариация случайных величин

Вышеописанные характеристики связи сл. величин являются функциями значений условия. Одним числом зависимость между сл. величинами описывается ковариацией или коэффициентом корреляции.

Определение. Ковариацией скалярных сл. величин  и  называют число, равное математическому ожиданию произведения центрированных сл. величин и :

cov(,)= (3.37)

Ковариацией векторных случайных величин будет квадратная матрица, элементами которой служат ковариации между компонентами векторов ξ и η – и n–размерность векторов ξ и η (см. также п. 3.7).

(3.38)

Первая формула в равенстве (3.38) справедлива для дискретного распределения, вторая – для непрерывного. Таким образом,

Если ξ=η, то

,

поскольку диагональные элементы матрицы являются дисперсиями сл. величин по свойству 1 ковариаций сл. величин (см. ниже). Поскольку , что следует из определения ковариации, то матрица A – симметричная матрица.

Если cov(,)=0, то сл. величины ξ и η называются некоррелированными.

Ковариация сл. величин обладает следующими свойствами:

1. cov (,) = D

cov (,) = M( – M)² = D

2. Если  и  независимы, то cov(,) = 0. Иначе говоря, из независимости сл. величин следует их некоррелируемость.

Cov(,) = M(– M)( – M) =(по свойству М4 математического ожидания сл. величин)= M(– M)M( – M)=0.

Обратное утверждение в общем случае места не имеет. Существуют зависимые сл. величины, ковариация которых равна нулю. Так, если ξ=sinν, η=cosν, сл. величина ν распределена равномерно на отрезке [0,2π], то cov(,)= , следовательно, по определению сл. величины  и  не коррелированы. Однако между этими сл. величинами существует функциональная зависимость.

3. Пусть . Тогда .

Действительно,

(по свойству М2 математического ожидания сл. величин).

Замечание. Если в качестве ξ и η рассмотреть двумерные сл. величины, то есть , при этом , где – неслучайные матрицы порядка 2×2, – двумерные неслучайные векторы, тогда формула претерпевает очевидные изменения: .

4. .

Рассмотрим сл. величину  = x –  , x – произвольное число. . Квадратный трехчлен относительно x неотрицателен тогда и только тогда когда его дискриминант не положителен, т.е. .

В случае если ξ и η – двумерные сл. величины, то неравенство принимает вид и Это неравенство называют неравенством Коши-Буняковского.

При выводе свойства 4 получен интересный результат, имеющий самостоятельное значение:

. (3.39)

Этот результат может быть получен повторением доказательства свойства 4 для сл. величины  = +. Полученное соотношение следует отнести к свойствам дисперсии, в качестве 5 ее свойства. Оно определяет дисперсию суммы произвольных сл. величин.

5.

.

Пример 9. Рассмотрим двумерную сл. величину, имеющую нормальное распределение (см. пример 2). Вычислить ковариацию между компонентами вектора.

Решение.

=

= , ( последний интеграл вычислили по частям).

Итак, Поскольку , то ковариационная матрица A имеет вид A= . Мы ввели этот термин “ковариационная матрица” раньше (см. формулу 3.9 и пояснение к ней) , чем выяснили смысл этого понятия.

Пример 10. Пусть ( ,) – нормальный сл. вектор и матрица ковариаций для него имеет вид A= , т.е. сл. величины  и  не коррелированны.

Запишем плотность нормального распределения в этом частном случае:

Итак, сл. величины  и  независимы.

Этот пример имеет принципиальное значение. Ранее мы отметили, что из независимости сл. величин следует их некоррелируемость. Обратное утверждение в общем случае места не имеет. Только для нормально распределенных сл. величин из некоррелируемости случайных величин, следует независимость сл. величин ξ и η.

Пример 11. Докажем свойство М4 математического ожидания из п. 2.5: , если сл. величины ξ и η независимы. Для простоты записи будем считать сл. величины ξ и η непрерывными. По определению математического ожидания функции случайной величины имеем: |по определению независимых сл. величин (3.23)|= – по определению математического ожидания сл. величины.