КОВАРИАЦИОННАЯ МАТРИЦА 
ВОЗМУЩЕНИЙ
|
|
M 12 |
|
M 1 2 |
... |
M 1 n |
|
|
2 |
|||
|
|
|
2 |
M 22 |
... |
M 2 n |
|
|
0 |
|
||
M 1 |
|
|
|
|||||||||
M( ) |
|
|
|
... ... ... |
|
|
0 |
|
||||
|
... |
|
|
|
||||||||
|
M |
|
|
M |
|
... |
M 2 |
|
|
0 |
|
|
|
|
1 |
|
n |
2 |
n |
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
1 |
Классическая нормальная линейная |
|
|
2 |
0 |
||||||||
регрессионная модель |
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
0 |
|||||||
- гомоскедастичные остатки |
|
|
|
|
|
0 |
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
0
2
0
0
0
1
0
0
...
...
...
...
...
...
...
...
2
02En
1
МЕТОД МАКСИМАЛЬНОГО ПРАВДОПОДОБИЯ
Можно доказать, что:
МП-оценка совпадает с НК-оценкой (3);
(3) – несмещенная оценка параметра уравнения регрессии;
ковариационная матрица оценок параметров линейной регрессии может быть вычислена по формуле:
b= 2(X X)-1 |
(3a) |
ОЦЕНКА ДИСПЕРСИИ
ВОЗМУЩЕНИЙ
Несмещенная оценка s2 параметра 2 -выборочная остаточная дисперсия – определяется по формуле:
|
|
|
|
|
|
|
|
n |
2 |
|
|
n |
ˆ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
ei |
|
( yi yi ) |
|
|
|||||
|
s2 |
|
|
e e |
|
|
|
i 1 |
|
|
|
i 1 |
|
(4) |
|
|
|
n p 1 |
|
n p 1 |
n p 1 |
|
|||||||||
|
|
|
|
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
s2 и b -независимые статистики
Теорема Гаусса-Маркова
В условиях классической нормальной линейной регрессионной модели оценки (3) имеют наименьшую дисперсию в классе всех линейных несмещенных оценок.
(3) - самые эффективные оценки - Best Linear Unbiased Estimates (BLUE)
Интервальное оценивание функции регрессии
Пусть х1, х2, …,хр - значения объясняющих переменных Оценка значения объясняемой переменной:
ˆ |
|
|
Оценка MxY, групповая средняя |
|
|
|||||||||
y x b, |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
где |
x (1, x1, x2 ,..., xp ). |
|
|
|
|
|||||||||
|
|
|
|
|
ˆ |
M xY |
|
|
|
|
|
|||
Известно, что |
y |
~ T |
, |
(5) |
|
|
||||||||
|
|
|
|
|||||||||||
|
|
|
|
|
|
syˆ |
|
|
n p 1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
где |
|
|
|
|
|
|
1 |
x. |
|
(6) |
|
|
||
syˆ s x (X X ) |
|
|
|
|
||||||||||
Поэтому |
ˆ |
|
|
|
|
|
ˆ |
|
|
|
Доверительный |
|||
y t syˆ |
M xY y t syˆ (7) |
интервал |
||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
зависит от х |
-уровень значимости, =1- - доверительная вероятность (надежность).
Интервальное оценивание индивидуальных 
значений зависимой переменной
ˆ |
1syˆ |
|
ˆ |
|
|
|
(8) |
|
y t1 ,n p |
0 y y t1 ,n p 1syˆ0 |
|||||||
|
|
|
|
|
|
|
|
|
где syˆ0 s |
1 |
|
|
1 |
x |
(9) |
||
x (X X ) |
|
|||||||
Интервальное оценивание
коэффициентов уравнения регрессии
|
|
bj j |
~ N(0,1), |
bj |
диагональный элемент матрицы(3а), j 0,1,...p; |
|||||||||
|
|
|
|
|||||||||||
|
|
bj |
|
|
|
|
|
|
|
|
|
|||
|
Подставляя в (3а) вместо ее оценку s (формула(4)), |
|||||||||||||
|
переходим к Т - статистике : |
|
|
|
||||||||||
|
t |
bj j |
|
~ T |
, |
(10) |
|
|
|
|||||
|
|
|
|
|||||||||||
|
|
|
sbj |
n p 1 |
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
где sbj диагональный элемент матрицы (4) |
|||||||||||||
|
С вероятн. |
1- |
|
t |
|
t ,n p 1 |
|
|
|
|||||
|
|
|
|
|
||||||||||
|
|
|
|
|
|
|||||||||
|
|
|
|
|
|
|||||||||
|
bj t ,n p 1sbj j |
bj t ,n p 1sbj |
(11) |
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Квантили T-распределения 
Стьюдента
|
p(x) |
|
|
|
x |
-t |
t |
MS Excel 2010: t =Стьюдент.Обр.2Х( , число степеней свободы)
Оценка значимости коэффициентов 
уравнения регрессии
Коэффициент j незначим, если j =0.
Гипотеза j =0 отклоняется ( j считается значимым), если
T t ,n p 1 (12)
где |
T |
bj j |
~ T |
, |
(10) |
|
|
||||
|
|
|
n p 1 |
|
|
|
|
sbj |
|
|
|
-заданный уровень значимости (вероятность ошибки 1 рода)
Интервальное оценивание дисперсии возмущений
Так же, как для парной регрессии, но число степеней свободы k2=n-p-1.