7. Парная линейная регрессия.

Линейное уравнение парной регрессии имеет вид: ŷ = b₀ + b₁ · x, где ŷ — оценка условного математического ожидания y; b₀ , b₁ — эмпирические коэффициенты регрессии, подлежащие определению. Рассмотрим в качестве примера зависимость между сменной добычей угля на одного рабочего Г(т) и мощностью пласта Дм) по следующим (условным) данным, характеризующим процесс добычи угля в п = 10 шахтах.

i	1	2	3	4	5	6	7	8	9	10
xi	8	11	12	9	8	8	9	9	8	12
yi	5	10	10	7	5	6	6	5	6	8

Полученная зависимость графически точками координатной плоскости. Такое изображение статистической зависимости называется полем корреляции. По расположению эмпирических точек можно предполагать наличие линейной корреляционной (регрессионной) зависимости между переменными Х и Y. Коэффициент b_i называется выборочным коэффициентом регрессии (или просто коэффициентом регрессии) Y по X. Коэффициент регрессии У по X показывает, на сколько единиц в среднем изменяется переменная Y при увеличении переменной X на одну единицу.

Поэтому уравнение регрессии (3.2) будем искать в виде линейного уравнения: ŷ = b₀ + b₁ (3.3). Согласно методу наименьших квадратов неизвестные параметры b₀ и b₁ выбираются таким образом, чтобы сумма квадратов отклонений эмпирических значений y_i от значений ŷ, найденных по уравнению регрессии (3.3), была минимальной: . (3.4) Для оценки параметров b_o и b₁ возможны и другие подходы. Например, согласно методу наименьших модулей следует минимизировать сумму абсолютных величин отклонений . Однако метод наименьших квадратов существенно проще.

Средние величины находятся по формулам: ; ; ; ; где n – кол-во. Уравнение регрессии будем искать в виде: . (3.12) Коэффициент b₁ наз-ся выборочным коэффициентом регрессии или просто коэффициентом регрессии Y по X. Y по X. Показывает на сколько единиц в среднем изменяется переменная y при увеличении переменной x на 1. , где cov – ковыряция, Sx² – выборочная дисперсия переменной х; cov(x,y) – выборочная ковыряция. .

8. Коэффициент корреляции.

Перейдем к оценке тесноты корреляционной зависимости. Рассмотрим случай линейной зависимости вида (3.12). На первый взгляд, подходящим измерителем тесноты связи Y от X является коэффициент регрессии b₁, т.к. он показывает, на сколько единиц в среднем изменяется Y,. Однако b₁ зависит от единиц измерения переменных.

Поэтому воспользуемся системой, которая использует в качестве единицы измерения переменной ее среднее квадратическое отклонение s. Величина (3.17) показывает, на сколько величин S_y изменится в среднем Y, когда X увеличится на одно S_x. Величина r является показателем тесноты связи и называется выборочным коэффициентом корреляции (или просто коэффициентом корреляции).

Если r> 0 (b₁> 0), то корреляционная связь между переменными называется прямой, если г < 0 (b₁ < 0), — обратной. При прямой (обратной) связи увеличение одной из переменных ведет к увеличению (уменьшению) условной (групповой) средней другой. Тогда r будет ровно: . (3.18)

Свойства коэффициента корреляции r:

1. Коэффициент корреляции принимает значения на отрезке [-1;1], т. е. -1 ≤r≤1. Чем ближе |r| к единице, тем теснее связь.

2. При r = ±1 корреляционная связь представляет линейную функциональную зависимость. При этом все наблюдаемые значения располагаются на прямой линии

3. При r =0 линейная корреляционная связь отсутствует. При этом линия регрессии параллельна оси О_х.