3. Понятие регрессии

Для количественного описания взаимосвязей между экономическими переменными в статистике используют методы регрессии и корреляции

Регрессия в статистике — статистическая зависимость среднего значения случайной величины от значений другой случайной величины или нескольких случайных величин; введена Фрэнсисом Гальтоном.

В отличие от функциональной зависимости y=f(x), которая каждому значению независимой переменной x ставит в соответствие одно определённое значение величины y, при регрессионной зависимости одному и тому же значению x могут соответствовать различные значения величины y. Если при каждом значении наблюдаетсязначенийвеличины y, то зависимость среднего арифметического

<у> = (y1 + ….+yini)/ni

от и является средней регрессией.

Регрессионный (линейный) анализ — статистический методисследования влияния одной или несколькихнезависимых переменныхx1, x2,x3,xi назависимую переменнуюy. Регрессионный анализ предполагает следущие цели:

1. Определение степени детерминированности вариациикритериальной (зависимой) переменнойпредикторами(независимыми переменными)

2. Предсказание значения зависимой переменной с помощью независимой(-ых)

3. Определение вклада отдельных независимых переменных в вариацию зависимой

Регрессионный анализ нельзя использовать для определения наличия связи между переменными, поскольку наличие такой связи и есть предпосылка для применения анализа.

Существует линейная и нелинейная регрессия. Линейная регрессия предполагает, что функция f зависит от параметров w линейно. Линейная регрессионная модель разбивает зависимость целевой переменной Y от независимых переменных Xi на отдельные, не связанные между собой компоненты. Она позволяет оценить вклад каждой независимой переменной по отдельности, определив знак и силу этого влияния. Если используется критерий наименьших квадратов, то существует эффективный алгоритм вычисления значений регрессионных коэффициентов Ai, который основан на проведении достаточно простых матричных операций. Важно отметить, что результатом работы алгоритмов, решающих линейную регрессионную задачу, является не только оценка точности полученной регрессионной модели, но также стандартные отклонения входящих в нее регрессионных коэффициентов. Поэтому мы можем судить о значимости (не случайности) вхождения отдельных переменных в регрессионную модель. Мерой этой значимости может служить значение F‑статистики – квадрата отношения величины регрессионного коэффициента к величине его стандартного отклонения.

Нелинейные регрессии могут быть разделены на два существенно различных класса. Первым и более простым является класс нелинейных зависимостей, в которых имеется нелинейность относительно объясняющих переменных, но которые остаются линейными по входящим в них и подлежащим оценке параметрам. Сюда входят полиномы различных степеней и ранвосторонняя гипербола. Такая нелинейная регрессия легко сводится к обычной линейной регрессии для новых переменных. Поэтому оценка параметров в этом случае выполняется просто по методу наименьших квадратов, поскольку зависимости линейны по параметрам.

Регресии, нелинейные по параметрам разделяются на два подкласса:внешние нелинейные ( в этом случае модель можно привести к линейному виду с помощью преобразований) и внутренние нелинейные, которые преобразовать к линейному виду нельзя. Если модель внутренне нелинейна по параметрам, то для оценки параметров используются численные итеративные процедуры, успешность которых зависит от вида уравнений и от особенностей применяемого итеративного метода.

Особого внимания заслуживает исследование корреляции для нелинейной регресии. В общем случаепарабола второй степени, так же как и полиномы более высокого порядка, при линеаризации принимает вид уравнения множественной регрессии. Если нелинейное относительно объясняемой базы переменной уравнение регрессии при линеализации принимает форму линейного уравнения парной регрессии, то для оценки тесноты связи может быть использован линейный коэффициент корреляции.

Если преобразования уравнения регрессии в линейную форму связаны с зависимой переменной, то линейный коэф корреляции по преобразованным значениям признаков дает лишь приближенную оценку связи и численно не совпадает с индексом корреляции.