4.3. Парная линейная регрессия

Если функция регрессии линейна, то говорят о линейной регрессии. Модель линейной регрессии (линейное уравнение) является наиболее распространенным (и простым) видом зави­симости между экономическими переменными. Кроме того, по­строенное линейное уравнение может служить начальной точ­кой эконометрического анализа.

Например, Кейнсом была предложена формула такого типа для моделирования зависимости частного потребления С от рас­полагаемого дохода ,где —величина автономно­го потребления, — предельная склонность к потреб­лению. Однако при использовании этой модели при анализе конкретных данных мы практически всегда будем иметь опре­деленную погрешность, так как строгой функциональной зависи­мости между этими показателями нет. Однако никто не будет отрицать, что люди (домохозяйства) с большим доходом имеют

большее в среднем потребление. Данная ситуация наглядно представлена на рис. 4.2.

С

I

Рис. 4.2

Из предыдущих рассуждений ясно, что линейная регрессия (теоретическое линейное уравнение регрессии) представляет собой линейную функцию между условным математическим ожиданием зависимой переменной Y и одной объ­ясняющей переменной X (x_t — значения независимой перемен­ной в i-м наблюдении, i=1, 2,…, п).

(4.5)

Отметим, что принципиальной в данном случае является линейность по параметрам и уравнения.

Для отражения того факта, что каждое индивидуальное значение yi отклоняется от соответствующего условного мате­матического ожидания, необходимо ввести в соотношение (4.5) случайное слагаемое .

(4.6)

Соотношение (4.6) называется теоретической линейной регрессионной моделью; и — теоретическими парамет­рами (теоретическими коэффициентами) регрессии; — слу­чайным отклонением.

Следовательно, индивидуальные значения представляют­ся в виде суммы двух компонент — систематической и случайной ( ), причина появления которой достаточно под­робно рассмотрена в параграфе 4.2. В общем виде теоретиче­-

скую линейную регрессионную модель будем представлять в виде

. (4.7)

Для определения значений теоретических коэффициентов регрессии необходимо знать и использовать все значения пере­менных X и Y генеральной совокупности, что практически не­возможно.

Таким образом, задачи линейного регрессионного анализа состоят в том, чтобы по имеющимся статистическим данным для переменных X и Y:

а) получить наилучшие оценки неизвестных параметров и ;

б) проверить статистические гипотезы о параметрах модели;

в) проверить, достаточно ли хорошо модель согласуется со статистическими данными (адекватность модели данным наблюдений).

Следовательно, по выборке ограниченного объема мы смо­жем построить так называемое эмпирическое уравнение рег­рессии

(4.8)

где ; — оценка условного математического ожидания ; и — оценки неизвестных параметров и называе­мые эмпирическими коэффициентами регрессии. Следователь­но, в конкретном случае

y_i = bo + b₁x_i + e_i, (4.9)

где отклонение e_t — оценка теоретического случайного откло­нения .

В силу несовпадения статистической базы для генеральной совокупности и выборки оценки Ь₀ и практически всегда от­личаются от истинных значений коэффициентов и ,что приводит к несовпадению эмпирической и теоретической линий регрессии. Различные выборки из одной и той же генеральной совокупности обычно приводят к определению отличающихся друг от друга оценок. Возможное соотношение между теоретиче-

ским и эмпирическим уравнениями регрессии схематично изображено на рис. 4.3.

X

Задача состоит в том, чтобы по конкретной выборке i = 1, 2, ... , п, найти оценки и неизвестных параметров и так, чтобы построенная линия регрессии являлась бы наилучшей в определенном смысле среди всех других прямых. Другими словами, построенная прямая должна быть «ближайшей» к точкам наблюдений по их совокупности. Мерами качества найденных оценок могут служить опреде- ленные композиции отклонений Например,коэффициенты и эмпирического уравнения регрессии могут быть оценены исходя из условия минимизации одной из следующих сумм:

Однако первая сумма не может быть мерой качества найденных оценок в силу того, что существует бесчисленное количество прямых ( в частности, для которых (доказательство этого утверждения выносится в качестве упражнения).

Метод определения оценок коэффициентов из условия ми­нимизации второй суммы называется методом наименьших модулей (МНМ).

Самым распространенным и теоретически обоснованным является метод нахождения коэффициентов, при котором ми­нимизируется третья сумма. Он получил название метод наи­меньших квадратов (МНК). Этот метод оценки является наи­более простым с вычислительной точки зрения. Кроме того, оценки коэффициентов регрессии, найденные МНК при оп­ределенных предпосылках, обладают рядом оптимальных свойств.

Среди других методов определения оценок коэффициентов регрессии отметим метод моментов (ММ) и метод максимально­го правдоподобия (ММП).