2. Простая (парная) линейная регрессия (плр). Статистическое оценивание параметров плр по методу наименьших квадратов (мнк). Свойства оценок.

ПЛР отображает линейную функциональную зависимость между двумя переменными

F(X) =a+bX+ е,

где Х – независимая, объясняющая переменная, Y(F(X)) –зависимая, объясняемая переменная, а,b– параметры модели (а – определяет место пересечения прямой с осью ординат,b– определяет угол наклона прямой), е – случайное отклонение (т.к. модель является упрощенным представлением явления, в котором не учтены все воздействующие факторы).

Задача линейного регрессионного анализа – по имеющимся статистическим данным:

- получить наилучшие оценки неизвестных параметров а, b;

- проверить статистические гипотезы о параметрах модели;

- проверить адекватность модели данным наблюдений.

Самым распространенным методом определения оценок коэффициентов регрессии является – метод наименьших квадратов (МНК).

В результате оценки данным методом признается наиболее точной модель у которой сумма квадратов отклонений фактических значений искомой величины от полученных по уравнению регрессии является минимальной.

Свойства оценок:

1. Оценки являются несмещенными, т.е. отсутствует систематическая ошибка

2. Оценки состоятельны, т.о. при увеличении объема выборки надежность оценок увеличивается.

3. Оценки эффективны, т.е. имеют наименьшую дисперсию по сравнению с другими оценками

3. Проверка качества парной линейной регрессии: значимость параметров, адекватность моделей.

Проверка значимости коэффициентов b0 иb1 осуществляется на основанииt-статистики:

Значимость коэффициента bпроверяется с помощью анализа отношения его величины к его стандартной ошибке

В случае выполнения исходных предпосылок модели эта дробь имеет распределение Стьюдента с числом степеней свободыv=n– 2

При требуемом уровне значимости (а) наблюдаемое значение t-статистики сравнивается с критической точкой

распределения Стьюдента. Если модульt-статистики коэффициентаbбольше этого числа, то коэфициент считается значимым.

Надежность оценок параметров регрессии тесно связана с дисперсией случайных отклонений параметров:

- чем больше фактор случайности тем менее точными будут оценки,

- чем больше число наблюдений, тем меньше дисперсии оценок,

- чем больше дисперсия (разброс значений) объясняющей переменно, тем меньше дисперсия оценок коэфициентов (чем шире область изменений объясняющей переменной, тем точнее будут оценки).

Суммарной мерой общего качества уравнения регрессии

4. Множественная линейная регрессия. Классические предположения. Мнк-оценка параметров модели

На любой экономический показатель практически всегда оказывает влияние не один, а несколько факторов. Например, спрос на благо определяется не только ценой блага, но и ценами на замещающие и дополняющие блага, доходами потребителей и многими другими факторами. В этом случае используется множественная регрессия.

Уравнение:

Y=f(b,X) +e

Где Х=(Х1,Х2…Хm) – вектор независимых (объясняющих переменных).

b– вектор параметров (подлежащих определению).

Сначала определяется функция модели зависимости.

Далее оцениваются параметры регрессии. Должно выполняться условие n≥m+ 1, гдеn- количество наблюдений вектора объясняющих переменных и зависимой переменной,

m– количество объясняющих переменных.

Если количество наблюдений больше минимально допустимого возникает необходимость оптимизации (оценивание параметров bi).

v=n-m-1 – число степеней свободы, чем оно выше тем выше статистическая надежность оцениваемой формулы.

На пример, для системы с двумя объясняющими переменными параметры находятся по формуле:

Предпосылки теоремы Гаусса-Маркова:

1. Математическое ожидание случайного отклонения равно нулю, т.е. случайное отклонение в среднем не оказывает влияния на зависимую переменную.

2. Дисперсия случайных отклонений постоянна (гомоскедастичность – выполнимость, гетероскедастичность – невыполнение этого условия), т.е. нет причины которая вызывает увеличение погрешности.

3. Случайные отклонения являются независимыми (т.е. отсутствие автокорреляции).

4. Случайное отклонение должно быть независимо от объясняющей переменной.

5. Модель является линейной относительно параметров.

6. Между объясняющими переменными должна отсутствовать сильная линейная связь (отсутствие мультиколлинеарности)

7. Ошибки е имеют нормальное распределение.

Оценка качества уравнения МНК: уравнение является наиболее точным когда получется наименьшая сумма квадратов отклонений расчитанной объясняемой переменной от фактических значений.