14. Коэффициент детерминации и его свойства.

Для оценки качества подбора линейной функции рассчитывается квадрат линейного коэффициента корреляции , называемый коэффициентом детерминации. Коэффициент детерминации характеризует долю дисперсии результативного признака y, объясняемую регрессией, в общей дисперсии результативного признака:

Соответственно величина 1 - характеризует долю дисперсии y, вызванную влиянием остальных не учтенных в модели факторов.

Например = 0,982. Таким образом, уравнением регрессии объясняется 98,2% дисперсии результативного признака, а на долю прочих факторов приходится лишь 1,8% ее дисперсии (т.е. остаточная дисперсия). Величина коэффициента детерминации является одним из критериев оценки качества линейной модели. Чем больше доля объясненной вариации, тем соответственно меньше роль прочих факторов и, следовательно, линейная модель хорошо аппроксимирует исходные данные, и ею можно воспользоваться для прогноза значений результативного признака.

(получается при разложении дисперсии)

Максимальное значение коэффициента R² равно единице. Это происходит в том случае, когда линия регрессии точно соответствует всем наблюдениям, так что , для всех i и все остатки равны нулю. Тогда и R²=1.

Если в выборке отсутствует видимая связь между у и х, то коэффициент R² будет близок к нулю.

При прочих равных условиях желательно, чтобы коэффициент R² был как можно больше. В частности, мы заинтересованы в таком выборе коэффициен­тов а и Ь, чтобы максимизировать R². Не противоречит ли это нашему крите­рию, в соответствии с которым а и b должны быть выбраны таким образом, чтобы минимизировать сумму квадратов остатков? Нет, легко показать, что эти кри­терии эквивалентны, если (используется как определение коэффици­ента R².

15. Предположение о нормальном распределении случайной ошибки в рамках классической линейной регрессии и его следствия.

Предложение об ошибках в классической модели формируются наиболее жестким и не всегда реалистичным путем:

Предполагается, что ошибка ( ( = 1 … N)) образует так называемый слабый белый шум – последовательность центрированных ( ) и не коррелированных случайных величин с одинаковыми дисперсиями

Свойство центрированности практически не является ограничением, так как при наличии постоянного регрессора среднее значение ошибки можно было бы включить в соответствующий коэффициент ( )

В ряде случаев сделанные предложения об ошибках будут дополняться свойствами нормальности – случайный вектор  имеет нормальное распределение. Эту модель мы будем называть классической моделью с нормально распределительными ошибками.

Многомерное нормальное распределение задается своим вектором и матрицей ковариации – здесь она имеет вид , где 1 – единичная матрица. Если компоненты вектора корелированы, следовательно, автоматически независимы, следовательно, ошибки в модели образуют последовательность независимых одинаково нормально распределенных случайных величин N (0; ).

Если каждая из величин нормально распределена, то вектор , из них составленный, ну обязан быть нормально распределенным.