26. Дисперсионный анализ в парной регрессии

Линейная парная регрессионная модель используется для описания взаимосвязи двух переменных Y и X, если имеется предположения, что между ними существует линейная стохастическая зависимость:

y=a+bx+ε,

где а и b – параметры модели (постоянные неизвестные коэффициенты); Х- независимая переменная; Y— зависимая переменная; ε - случайная переменная (возмущение, ошибка), возникающая из-за влияния различных неучтенных факторов.

Уравнение для отдельных наблюдений зависимой переменной Y записывается в виде:

y_t=a+bx_t+ε_t

где Х_t Y_t, - набор данных (наблюдений), t = 1, 2,..., n; X_t – экзогенная переменная модели); ε_t - случайная ошибка в наблюдении t.

Если отклонение зависимой переменной Y_t, от ее выборочного среднего значения представить в виде суммы двух отклонений:

и выборочную дисперсию var(Y) можно представить в виде двух частей:

Часто это уравнение записывают так:

TSS = ESS + RSS,

где TSS = var(Y) – полная дисперсия (общая сумма квадратов отклонений зависимой переменной от ее выборочного значения);

ESS = Σ(Y_t-Ŷ_t)² – часть дисперсии, необъясненная регрессией (т.к. она содержит ошибки регрессии ε_t);

- часть дисперсии, объясненная регрессией (объясненная сумма квадратов отклонений).

Качество подгонки регрессионной модели к наблюденным значениям Y_t оценивается при помощи статистики R² (коэффи­циента детерминации).

Коэффициент детерминации определяется по формуле

R² = 1-ESS / TSS = RSS / TSS; 0≤R²≤1

Часто это уравнение записывают так:

TSS = ESS + RSS,

где TSS = var(Y) – полная дисперсия (общая сумма квадратов отклонений зависимой переменной от ее выборочного значения);

ESS = Σ(Y_t-Ŷ_t)² – часть дисперсии, необъясненная регрессией (т.к. она содержит ошибки регрессии ε_t);

- часть дисперсии, объясненная регрессией (объясненная сумма квадратов отклонений).

Качество подгонки регрессионной модели к наблюденным значениям Y_t оценивается при помощи статистики R² (коэффи­циента детерминации).

Коэффициент детерминации определяется по формуле

R² = 1-ESS / TSS = RSS / TSS; 0≤R²≤1

Чем ближе значение коэффициента детерминации к 1, тем лучше качество подгонки и прогноз Ŷ более точно аппроксимирует Y.

Для проверки значимости коэффициента детерминации используется F-статистика:

где k - число независимых переменных.

Связь между статистиками F и R² для случая парной регрессии (k = 1) имеет вид