2.3.3. Оценка уравнения множественной регрессии с гетероскедастичными остатками (обобщенный мнк)

Проиллюстрируем использование частного случая обобщенного МНК для оценки уравнения регрессии в случае гетероскедастичности остатков.

Вернемся к уравнению регрессии на рис. 28. После проведения пошаговой регрессии нам удалось в какой-то мере избавиться от проблемы мультиколлинеарности, но в остатках этого уравнения присутствует автокорреляция (коэффициент Дарбина – Уотсона равен 0,72 и р-величина для него меньше 0,05) и, кроме того, остатки гетероскедастичны. Применим обобщенный МНК для избавления от гетероскедастичности остатков. Для этого проанализируем поведение остатков в зависимости от включенных в регрессию переменных (рис. 31 и 32).

Рис. 31 График остатков против значений переменной х₁

Рис. 32 График остатков против значений переменной х₃

Как видно из приведенных графиков, остатки в большей степени зависят от значений х₁, чемх₃. Примем факт гетероскедастичности остатков без тестирования их по Голдфелду – Квандту и применим обобщенный МНК в виде его частного случая – взвешенного МНК, приняв за веса значения переменнойх₁.

Итак, вместо уравнения регрессии y=a+b₁*x₁+b₂*x₃+eбудем оценивать уравнение в видеy/x₁=a/x₁+b₁+b₂*/x₁+e/x₁.

Оцененное уравнение имеет вид (рис. 33)

Рис. 33. Отчет об обобщенном МНК (с весами)

Проанализируем остатки против значений переменной 1/х₁(рис. 34).

Рис. 34. График остатков против значений преобразованной переменной 1/х₁

Как видим, картина гетероскедастичности сменилась на противоположную, если раньше с ростом х₁росла и дисперсия остатков, то теперь с ростом1/х₁дисперсия остатков убывает. Тем не менее гетероскедастичность осталась. Попробуем уменьшить этот эффект, взяв вместох₁ее экспоненту. Получили (рис. 35), что уравнение регрессии стало значительно точнее. Коэффициент детерминации увеличился с 67,5% до 96,2%. Обе переменные в этом уравнении стали значимыми. К тому же, остатки стали удовлетворять свойству гомоскедастичности (см. рис. 36 и 37).

Рис.35. Преобразованное уравнение регрессии

Рис. 36. График остатков против 1/е^х1для преобразованного уравнения

Рис. 37. График остатков против х₃/е^х1для преобразованного уравнения

Но автокорреляция в остатках осталась (статистика Дарбина – Уотсона равен 0,3). Применим к последнему уравнению преобразование Кохрейна – Оркатта (рис. 38):

Рис. 38. Уравнение регрессии после применения процедуры Кохрейна – Оркатта

Статистика Дарбина – Уотсона стала равна 1,43 и поведение остатков в этом уравнении существенно не изменилось (рис. 39).

Рис. 39. График остатков после применения процедуры Кохрейна – Оркатта

В итоге получили уравнение регрессии, для которого выполняются предпосылки МНК о гомоскедастичности остатков и об их независимости друг от друга. К тому же процедура Кохрейна – Оркатта повысила точность уравнения (сравните значения коэффициентов множественной детерминации).

Итак, вместо уравнения y=a+b₁*x₁+b₂*x₃+eоценили уравнение в виде

y/е^x1=a+b₁х₁/е^х1+b2*х₃/е^x1+e`.

О смысле коэффициентов этого уравнения говорить сложно, поскольку переменные подверглись сложному преобразованию. Здесь приведены формальные преобразования, призванные проиллюстрировать принципиальную возможность использования описанных ранее процедур для обеспечения выполнимости предпосылок МНК.

Задания для самостоятельной работы

Задание 1

Имеется информация о результатах работы 16 фирм по следующим показателям (см. рис. 40):

у – объем реализации (млн руб.);

х₁– расходы на рекламу (млн руб.);

х₂ – цена собственной продукции;

х₃ – цена продукции фирмы-конкурента;

х₄ – инвестиции (в процентах к предыдущему году).

Провести корреляционно-регрессионный анализ этой информации в соответствии с рассмотренным примером. Для этого:

1). Проанализировать матрицу парных коэффициентов корреляции (см. рис. 41).

2). Проанализировать в сравнительном анализе с предыдущей матрицей матрицу частных коэффициентов корреляции (см. рис. 42).

3). Проанализировать точность уравнения регрессии (см. рис. 43).

4). Проанализировать точность уравнения пошаговой регрессии (см. рис. 44) и проинтерпретировать его коэффициенты.

5). Основываясь на отчете о пошаговой регрессии в ППП STATISTICA(рис. 45), проведите сравнительный анализ степени влияния оставшихся в регрессии переменных на зависимую переменную по коэффициентам регрессии в натуральном масштабе и по стандартизованным коэффициентам регрессии. Поясните результаты анализа исходя из смысла этих коэффициентов.

Рис. 40. Исходная информация

Рис. 41. Матрица парных коэффициентов корреляции

Рис. 42. Матрица частных коэффициентов корреляции

Рис. 43. Отчет о полном уравнении регрессии

Рис. 44. Отчет о пошаговой регрессии в ППП Statgraphics

Рис. 45. Отчет о пошаговой регрессии (ППП STATISTICA)

Задание 2

Имеется информация о 20 сельскохозяйственных районов по следующим данным:

у– урожайность зерновых культур (ц/га);

х₁– число тракторов (приведенной мощности) на 100 га;

х₂– число зерноуборочных комбайнов на 100 га;

х₃– число орудий поверхностной обработки почвы на 100 га;

х₄– количество удобрений, расходуемых на га (т/га);

х₅– количество химических средств защиты растений (ц/га).

Провести полный корреляционно-регрессионный анализ этой информации, включая пошаговый анализ и анализ остатков. По графику остатков выделите нетипичные районы и определите, в чем их отличие от остальных.

Задание 3

Провести полный корреляционно-регрессионный анализ следующей информации по магазину для 30 продавцов:

sales– объем продаж за месяц;

test1 – результаты теста на способность;

age– возраст;

test2 – результаты теста на тревожность;

expjob– опыт работы;

avball– средний балл школьного аттестата.

Задание 4

Провести полный корреляционно-регрессионный анализ информации по 18 предприятиям, характеризующимися следующими технико-экономическими показателями:

у– рентабельность (%);

х₁– удельный вес рабочих в составе промышленно-производственного персонала;

х₂– коэффициент сменности оборудования;

х₃– удельный вес потерь от брака;

х₃– фондоотдача.

Задание 5

Провести полный корреляционно-регрессионный анализ информации отражающей расходы 34 стран на образование – у, валовой национальный продукт – х1 и численность населения – х2, протестировав остатки на гомоскедастичность и автокорреляцию и попытаться устранить в них нарушение предпосылок МНК о них, если таковые обнаружатся. Уравнение регрессии сначала рассчитать, анализируя расходы только в зависимости от ВНП, а затем подключить к расчетам и численность.