4. Метод наимен квадратов (мнк)

Согласно МНК эмпирические коэффициенты регрессии b0 и b1 определяются из того факта, что сумма квадратов расстояний эмпирических значений зависимой переменной от расчетных значений должна быть минимальной.

→min

Необходимым условием существования минимума функции2-х переменных является равенство нулю ее частных производных по неизвестны параметрам b0 и b1

,

= ;

Разделим все на n

, → ,

.

Для практических расчетов последние формулы применять не рекомендуется, т.к. в них происходит округление данных. Лучше использовать след формулы

5.Коэффициент корреляции.

Для практических расчётов коэф-в корреляц. изменяется от -1 до 1.

Если коэф-т корреляц. = 0, то значит, что X и Y некоррелир., если r_xy =1, то полная прямая корреляц., если r_xy = - 1 – полная обратная корреляц., если 0 <r_xy<1, то коррел. – положит. Это знач., что с возрастанием 1-й перемен. возр. и 2-я, если -1<r_xy<0, то 1-я возр, а 2-я убывает.

6.Предпосылки метода наименьших квадратов (МНК). Доказано, что для получения по МНК наилучших оценок необходимо, чтобы выполнялись предпосылки (условие Гаусса-Маркова) относит. случайных отклонений.

• Мат. ожид. случ. отклонения для всех наблюдений =0. Отклонение в среднем не оказ. влияния на зав. переменную

• Дисперсии случ-х отклон-й явл. пост. вел-й для любых наблюдений

• Случ отклонения Е_i и Е_j явл. незав. друг от друга для i ≠ j, т.е. некоррелиров.

• Выполнимость дан. предпосылки указ. на отсутствие автокорреляции

• Случ. отклон-е должно быть независимым от экзогенных переменных (M(Е_iX_i)) = 0

• Модель должна быть линейной относительно параметров

Теорема Гаусса-Маркова

Если выполн. предпос. 1-5, то оценки , полученные по МНК явл.

• несмещёнными. (Это знач., что ср. значение М(b₀) = β₀, М(b₁) =β₁))

• оценки явл. состоятельными. Это знач. что их дисперсии при ↑ числа наблюд-й → к 0.

• оценки явл. эффект. Это знач., что они имеют наименьшую дисперсию по сравнению с люб. др. оценками

7. Анализ точности определения оценок коэффициентов регрессии

Оценки коэффициентов регрессии b₀ и b₁ является тем надежнее, чем меньше их дисперсии. D(b₀) и D(b₁), то есть чем меньше их разброс вокруг β₀ и β₁.

Надежность оценок тесно связана с дисперсией случайных отклонений, фактически является дисперсией D(У/х_i) случайной переменной У.

Выведем формулы связи дисперсий оценок коэффициентов с дисперсией случайных отклонений.

Для этого представим формулу для определения b₀ и b₁ в виде линейных функций относительно значений переменной У:

, так как

Обозначим , тогда

, ;

Так как предполагается, что дисперсия У постоянна и не зависит от Х, c_i и d_i можно рассмотреть как некоторые постоянные, следовательно:

(1)

(2)

Из функции 1 и 2 видно, что:

1. Дисперсии оценок прямо пропорциональны дисперсии случайного отклонения, следовательно, чем больше фактов случайности, тем менее точными будут оценки.

2. Чем больше число наблюдений n, тем более точными будут оценки.

3. Чем больше дисперсия объясняющей переменной, тем меньше дисперсия оценок коэффициентов.

Но так как случайные отклонения ε_i по выборке определены быть не могут, то при анализе надежности оценок они заменяются оценками:

, а их дисперсии заменяются несмещенной оценкой

.

В этом случае выборочные исправления дисперсии будут иметь вид:

,

, где – необъясненная дисперсия – доля разброса зависимой переменной, которая не объясняется регрессией.

– стандартная ошибка регрессии

и – стандартные ошибки оценок коэффициентов регрессии.