Глава II модель множественной регрессии

0. 2.1. Методические указания

На любой экономический показатель чаще всего оказывает влияние не один, а несколько факторов. В этом случае вместо парной регрессии рассматривается множественная регрессия.

Множественная регрессия– уравнение связи с несколькими объясняющими (независимыми) переменными:

Y=f(х₁,х₂, …,х_m), (2.1)

т.е. условное математическое ожидание имеет вид (2.1):

М(Y/х₁,х₂, …,х_m) =f (х₁,х₂, …,х_m). (2.2)

Теоретическое линейное уравнение регрессииимеет вид:

Y = ₀ + ₁ Х₁ + ₂ Х₂ + …+ _m Х_m +, (2.3)

или для индивидуальных наблюдений i, i = 1,2,…,n:

y_i = ₀ + ₁ x_i1 + ₂ x_i2 + …+ _m x_im +_i . (2.4)

Как и в случае парной регрессии по выборочным данным мы можем получить только эмпирическое уравнение регрессии:

Y = b₀ + b₁ Х₁ + b₂ Х₂ + …+ b_m Х_m + e . (2.5)

Или для индивидуальных наблюдений:

у_i = b₀ + b₁ x_i1 + b₂ x_i2 + …+ b_m x_im + e_i . (2.5)

Для определения оценок b₀,b₁,b₂, …,b_mвоспользуемся матричным МНК. Представим данные наблюдений и коэффициенты в матричном виде:

, ,,.

Результатом МНК будет формула вычисления коэффициентов регрессии:

B= (X^T X)^-1X^T Y. (2.6)

Вычислим дисперсии коэффициентов регрессии b₀,b₁,b₂, …,b_m, которые используются для оценки их точности, определения доверительных интервалов для теоретических коэффициентов₀,₁,₂, …,_mи проверки соответствующих гипотез.

Дисперсии коэффициентов вычисляются по формулам:

, (2.7)

В (2.7) S²– дисперсия регрессии, вычисляется по формуле:

S²= ((е_i²))/(n–m– 1) , (2.8)

- j-й (j = 0, 1,…,m) диагональный элемент матрицы

Z^-1= (X^T X)^-1. (2.9)

Проверка качества уравнения регрессии так же, как и в парной регрессии осуществляется по ряду позиций.

1. Проверка статистической значимости коэффициентов регрессии.

1. Используется критерий Стьюдента. Вычисляются Т _bi=b_i/S_bi,i= 0, 1, 2, …,mи сравниваются сt_крит. Результатом сравнения является вывод о значимости коэффициентов b₀,b₁,b₂, …,b_m.

2. Интервальные оценки коэффициентов уравнения регрессии.

Так как объем выборки ограничен, то b₀ , b₁ , b₂ , …, b_m – случайные величины, поэтому желательно найти доверительные интервалы для истинных значений ₀ , ₁ , ₂ , …, _m. Для этого также используется t – критерий Стьюдента.

3. Проверка общего качества уравнения регрессии.

Для этой цели, как и в случае парной регрессии, используется коэффициент детерминации R²:

R²= 1 -е_i²/(y_i-)². (2.10)

В множественной регрессии каждая новая переменная х_iприводит к увеличениюR², хотя это еще не означает, что уравнение регрессии становится более значимым. Чтобы исключить эту зависимость от числа переменных, иногда используют так называемыйскорректированный коэффициент детерминации:

. (2.11)

Или эту формулу можно преобразовать к виду:

. (2.12)

4. Анализ статистической значимости коэффициента детерминации.

По величине R²можно только предполагать насколько значимо или не значимо уравнение регрессии. Даже при небольшой величинеR²(< 0,5) не всегда следует отказываться от уравнения регрессии. Для этого необходимо проверить статистическую значимость самого коэффициента детерминации. Для чего проверяются гипотезы

Н₀:R²= 0,

Н₁:R²> 0.

Для проверки используется распределение Фишера. Вычисляется F– статистика:

. (2.13)

При заданном уровне значимости по таблице критических точек Фишера находитсяf_кр, и еслиF> f_кр, тоR²статистически значим.

5. Проверка выполнимости предпосылок МНК с помощью статистики Дарбина-Уотсона.

Статистическая значимость коэффициентов регрессии и близкое к единице значение коэффициента детерминации R²еще не гарантируют высокое качество уравнения регрессии. Если не выполняются необходимые предпосылки МНК об отклонениях, то коэффициенты регрессии и само уравнение являются не вполне состоятельными, а это значит что внешние признаки «хорошего» уравнения не отвечают действительности. Поэтому следующим этапом проверки качества уравнения регрессии является проверка соответствия выборочных данных предпосылкам МНК. Для этого воспользуемся статистикой Дарбина – Уотсона, которая устанавливает, в частности, наличие или отсутствие статистической зависимости между ошибками. Так как истинные значениянеизвестны, то проверка осуществляется в отношении оценок ошибоке_i. При этом проверяется некоррелированность соседних значенийе_i.

Статистика Дарбина – Уотсона DWрассчитывается по формуле:

. (2.14)

По таблицам критических точек Дарбина – Уотсона, входными параметрами которых являются: n– число наблюдений;m– количество объясняющих переменных;- уровень значимости, определяются два числа:d₁– нижняя граница;d_u– верхняя граница.

Выводы осуществляются по следующей схеме.

Если DW<d₁, то это свидетельствует о положительной автокорреляции остатков.

Если DW> 4 -d₁, то это свидетельствует об отрицательной автокорреляции остатков.

При d_u<DW< 4 –d_uпринимается гипотеза об отсутствии автокорреляции остатков.

Если d₁<DW<d_uили 4 –d_u<DW< 4 –d₁, то остается неопределенность по вопросу наличия или отсутствия автокорреляции остатков.

В случае обнаружения признака автокорреляциинеобходимо скорректировать уравнение регрессии в соответствии с рекомендациямиГлавы IV

6. Прогноз значений зависимой переменной.

По аналогии с парной регрессией может быть построена интервальная оценка для среднего значения прогноза. Здесь речь идет о возможных значениях Y_рпри определенных значенияхвектораобъясняющей переменнойХ_р.

Интервальный прогноз для среднего значениявычисляется следующим образом:

_рt_крS, (2.15)

где _р =b₀+b₁x_1р+b₂x_2р+ …+b_mx_mр;t_кр– критическое значение, полученное по распределению Стьюдента при количестве степеней свободы=n-m-1 и заданной вероятности/2.