4_семестр_Лекция_№25
.docЗадача регрессионного анализа состоит в том, чтобы по результатам наблюдений:
1) установить форму зависимости. Как правило, эта форма становится известной по опытным данным (на рис. 6.11.1 показаны три разные формы зависимости), где точками отмечены значения выборок (измерений);
2) определить функции регрессии. Процесс нахождения функции регрессии называется выравниванием отдельных значений зависимой переменной;
3) построить статистические оценки неизвестных параметров, входящих в уравнение регрессии;
4) проверить статистические гипотезы о регрессии;
5) проверить адекватность модели результатам наблюдений.
Рассмотрим линейную регрессию, то есть будем искать функцию регрессии в самом простом – линейном виде
,
называемую регрессионной прямой или прямой регрессии.
Для определения этой функции, то есть коэффициентов , воспользуемся методом наименьших квадратов.
Пусть – наблюдаемые (выборочные) значения, а – значение , вычисленное из уравнения регрессии. Тогда величина есть отклонение значения от элемента выборки.
По методу наименьших квадратов неизвестные параметры и прямой регрессии определяют исходя из требования, состоящего в том, чтобы сумма квадратов отклонений была минимальной, то есть из условия минимизации функции:
.
Для нахождения минимума этой функции запишем частные производные
, .
Приравняв частные производные и нулю (необходимые условия минимума функции), получим систему линейных алгебраических уравнений для определения коэффициентов и :
Отсюда
; .
Значения и доставляют минимум функции . Прямая , для которой сумма квадратов достигает наименьшего значения, называется прямой выборочной регрессии.
Если требуется по экспериментальным данным получить линейное уравнение регрессии на , то в уравнении регрессии надо поменять местами переменные и . При этом получим уравнение , где и вычисляются по формулам:
; .
Замечание. Регрессионные прямые и различны. Первая прямая получается в результате решения задачи о минимизации суммы квадратов отклонений по вертикали, а вторая – при решении задачи о минимизации суммы квадратов отклонений по горизонтали.