27. Оценка статистической значимости множественного уравнения регрессии, f-критерий Фишера.

С татистический критерий строится также как и раньше.

Используется статистика Фишера (F)

Фактическое значение рассчитывается по формуле

n – размер выборки,

k – общее число параметров, оцениваемых в уравнении.

n – размер выборки,

k – число параметров при переменных x (в линейной регрессии совпадает с числом включенных в модель факторов).

Сравниваем Fкр. и Fфакт.

Если Fфакт>Fтабл, то отвергаем гипотезу о статистической незначимости уравнения регрессии в целом и принимает альтернативную гипотезу – о статистической значимости.

Если же Fфакт<Fтабл, то мы не можем отклонить нулевую гипотезу, делаем заключение о статистической незначимости уравнения регрессии в целом.

28. Спецификация модели множественной регрессии. Свойства множественных коэффициентов регрессии.

Мы считаем, что зависимую переменную, регрессоры и оцениваемые параметры связывают следующим соотношением:

• При этом выполняются условия Гаусса-Маркова. Такую модель называют истинной моделью или процессом, порождающим данные (ППД).

• На практике, как правило, истинная модель неизвестна, и исследователь оценивает модель, которая лишь приближенно соответствует ППД. Сам процесс выбора регрессоров называется спецификацией.

Возникает естественный вопрос соотношения оценок по МНК в истинной модели и оцениваемых моделях.

Рассмотрим 2 противоположных ситуации:

1) в оцениваемой модели отсутствует часть независимых переменных, имеющихся в истинной модели. Эта ситуация называется исключением существенных переменных.

2) в оцениваемой модели присутствуют независимые переменные, которых нет в истинной модели. Такая ситуация называется включением несущественных переменных.

(1) ППД (1)

Модель (2)

2) ППД

Модель

Рассмотрим первый случай.

Оценки вектора пар-ров для модели (2) имеют вид:

Учитывая, что истинная модель имеет вид (1), получим:

Оценка β по МНК будет смещенной.

Рассмотрим второй случай.

Оценки являются несмещенными, но неэффективными

• Поскольку включение несущественных переменных сохраняет несмещенность, то возникает такой соблазн включить в модель как можно больше объясняющих переменных, чтобы объяснить лучшую подгонку моделей. Но при этом следует помнить, что точность оценок будет уменьшаться.

• Включение большого числа регрессоров может повлечь за собой мультиколлинеарность, что ведет к неустойчивости модели.

29. Решение проблемы выбора модели (с ограничением и без ограничения).

Можно рассмотреть другую постановку задачи, более близкую к практике, а именно когда истинная модель неизвестна. Таким образом, мы можем строить и сравнивать 2 разные модели.

модель без ограничений

γ=0. Z – матрица из одного столбца

1) сравнение коэффициентов

2) использование скорректированного коэффициента

3) этот способ основан на наименьшем среднеквадратическом отклонении оценок MSE

- для I и II моделей