черняк

Рис. 4.1. Модель споживання залежно від доходів

Очевидно, що використання звичайного методу найменших квадратів не буде оптимальним, адже не виконуються умови теореми Гаусса – Маркова. Можна показати, що у випадку гетероскедастичності збурень оцінки МНК будуть незміщеними, але не будуть ефективними (не матимуть найменшої дисперсії). Таким чином, має існувати метод для оцінювання регресії з кращими характеристиками.

Крім цього, можна показати, що стандартні оцінки коварiацiйної матриці оцінювання МНК будуть зміщеними i, як наслідок, процедури перевірки гіпотез та інтервального оцінювання, основані на стандартних статистиках, будуть некоректними. Іншими словами, використання звичайного МНК для розглянутої моделі призведе до некоректної перевірки статистичних гіпотез.

4.2. Зважений метод найменших квадратів у випадку відомої коваріаційної матриці збурень

Припустимо, що коваріаційна матриця збурень відома з точністю до коефіцієнта пропорційності, тобто

Dv

2w2

,t

,

t

1,n

t

де w2

відомі, а 2

– невідомий коефіцієнт пропорційності.

t

У моделі (4.1) почленно розділимо t -те рівняння на wt

(t

):

1,n

y*

x

*

x*

x*

,t

,

(4.2)

1,n

t

0

t0

1

t1

k -1 t,k -1

t

де y*

y

x*

1

x*

xtj

v

t

t

,t 1,n ;

,

, j

1,k 1,t 1,n ;

,t

1,n .

t

wt

t0

wj

tj

wj

t

wt

Теорема 4.1. Збурення моделі (4.2) відповідають умовам теореми Гаусса – Маркова.

Доведення. Покажемо, що нові збурення t vt ,t 1,n повністю задовольнять wt

класичним властивостям. Спочатку обчислимо математичне сподівання:

M t M t M t 0 . wt wt

Дисперсія збурень

2	vt 2				1	2		1		1	2 2	2
D t M t	M					Mvt			Dvt		wt		.
					wt2			wt2		wt2
	wt

Крім того, коваріація збурень

cov( ,

) M

j

M

vtv j

1

Mv

v

j

1

cov(v

,v

) 0.

t j

t

wtwj

wtwj

t

wtwj

t

j

Таким чином, збурення моделі (4.2) відповідають умовам теореми Гаусса – Маркова.

З доведеної теореми випливає, що отримана модель (4.2) є моделлю класичної лінійної регресії. Оцінки вектора параметрів регресії ˆ , знайдені в моделі методом найменших

квадратів, мають необхідні статистичні властивості, тобто задовольняють теоремі Гаусса – Маркова, а головне, цими оцінками можна користуватись для статистичних висновків.

Таким чином, оцінкою зваженого МНК коефіцієнтів моделі з гетероскедастичними збуреннями називається оцінка звичайного МНК, знайдена за моделлю (4.2).

На практиці найчастіше значення wt невідомі. Якщо не робити додаткових

припущень, то їх оцінити неможливо, тому що їхня кількість дорівнює кількості спостережень. Існує кілька способів, що дозволяються обрахувати величини wt на

практиці.

Зауваження. Спроможну у випадку гетероскедастичності оцінку коваріаційної матриці запропонував Х. Уайт:

117

ˆ	T		1		T		T	1
		X		X		X X		X ,	(4.3)
Dβ X

де діагональна матриця, t -й діагональний елемент якої дорівнює ˆt , де ˆt – залишки найменших квадратів. Єдиною додатковою умовою для спроможності й асимптотичної нормальності порівняно з класичною моделлю є умова обмеженості всіх t2 . Оцінки

доступного зваженого МНК будуть асимптотично еквівалентними оцінкам звичайного МНК у випадку, якщо відомі вагові коефіцієнти, лише за наявності спроможних оцінок останніх. Ця умова також необхідна для коректності оцінювання коваріаційної матриці (звичайно, в асимптотичному розумінні; про можливість точного оцінювання не йдеться). Отже, у випадку, коли дослідник не впевнений у характері гетероскедастичності, перевагу слід віддати звичайному методу найменших квадратів. Гіпотези треба перевіряти звичайним чином, але у відповідних формулах стандартну оцінку коваріаційної матриці слід замінити на оцінку (4.3). Зазначимо, що в останні роки цей підхід починає переважати в практичних дослідженнях.

4.3. Виявлення гетероскедастичності

Дуже часто виникнення проблеми гетероскедастичності можна передбачити заздалегідь, базуючись на знаннях про характер даних, що їх використовують у регресії. У таких випадках можна вжити відповідних заходів для усунення цього ефекту на етапі специфікації моделі регресії, і це дозволить зменшити або, можливо, усунути необхідність формальної перевірки.

На сьогодні не існує загальноприйнятого способу виявлення гетерескедастичності, проте, розроблено кілька критеріїв, які можна легко застосовувати на практиці.

Зазвичай для тестування всі спостереження розбивають на дві групи. У всіх тестах перевіряють гіпотезу про рівність дисперсій у цих групах:

H0 : 12 22 .

Якщо таку гіпотезу прийняти, то це означатиме, що гетероскедастичність не є статистично значущою, тобто її наявність можна не враховувати.

Усі критерії визначення гетероскедастичності можна поділити на дві групи: загальні та регресійні. Перший тип критеріїв справедливо вважають найпростішим у застосуванні, проте, у разі визначення гетероскедастичності немає жодної інформації про подальшу оцінку моделі. Другий тип критеріїв дозволяє оцінювати вагові коефіцієнти для зваженого методу найменших квадратів, проте, використання таких критеріїв не завжди статистично коректне. Іншими словами, якщо регресійний критерій не виявляє гетероскедастичності, то це не обов'язково означає, що гетероскедастичності немає. Коректним буде висновок, що немає гетероскедастичності певного вигляду.

Серед різноманіття тестів на гетероскедастичність до загальних належить критерій Голдфелда – Квондта, а до регресійних – критерії Х. Глейзера та Х. Уайта.

4.3.1. Критерій Голфельда – Квондта.

Напевно, найбільш популярним формальним критерієм перевірки гетероскедастичності є критерій, що його запропонували С. Голдфельд і Р. Квондт. Його використовують, коли всі наявні спостереження можна поділити за деякою ознакою на дві групи. У випадку однієї незалежної змінної спостереження з найменшими значеннями можуть становити одну групу, а другу – спостереження з найбільшими значеннями незалежної змінної. Також можна поділяти за значеннями залежної змінної.

Нехай сукупність n спостережень розбита на дві групи розмірами n1 і n2 . Частину

спостережень із середніми значеннями можна вилучити. Емпіричні дослідження свідчать, що для проведення тесту вилучають від 15 до 30 % спостережень із середини вибірки. У цьому випадку n1 n2 n . Щоб застосувати критерій Голдфельда – Квондта, слід оцінити

модель за МНК окремо на кожній підвибірці й знайти:

118

ˆ 12 – оцінку дисперсії збурень за першою групою спостережень;

ˆ 22 – оцінку дисперсії збурень за другою групою спостережень.

Уприпущенні, що гетероскедастичності немає, статистика

ˆ2

Fpr 1

ˆ22

має розподіл Фішера з n1 k , n2 k степенями свободи.

Слід зауважити, що дисперсія першої групи обов'язково має бути більшою за дисперсію другої групи. Якщо така властивість не виконується, то нумерацію груп змінюють на протилежну.

ˆ 2

ˆ 2 , то обчислюють статистику F

ˆ2

Таким чином, якщо

pr

1

і порівнюють її із

ˆ22

1

2

Fteor F(n1 k;n2 k; ),

критичним значенням

(теоретичним)

знайденим за вибраним

рівнем значущості у таблиці розподілу Фішера з n1 k;n2 k

степенями свободи. Якщо

ˆ 2

ˆ 2 , то обчислюють

ˆ2

статистику F

pr

1

і порівнюють її із критичним значенням

ˆ22

1

2

Fteor F(n2 k;n1 k; ), знайденим за вибраним рівнем значущості у таблиці розподілу Фішера з n2 k; n1 k степенями свободи.

Якщо практичне значення Fpr менше, ніж теоретичне, то вважають, що гетероскедастичності немає. Якщо Fpr Fteor , то вважають, що гетероскедастичність існує.

4.3.2. Критерій Уайта

Основним припущенням цього критерію є те, що якщо гетероскедастичність існує, то це може бути пов'язане з тим, що дисперсія похибок деяким, можливо, досить складним чином, залежить від регресорів, а тому гетроскедастичність має відобразитися в залишках вихідної моделі. У 1980 році Х. Уайт запропонував метод тестування гіпотези

H0 : 12 22 без яких-небудь припущень про структуру гетероскедастичності.

Узагальному вигляді тест Уайта можна представити у вигляді такого алгоритму:

1.Спочатку оцінюють вихідну регресію за допомогою звичайного методу найменших квадратів.

2.Знаходять залишки моделі та оцінюють регресію квадратів залишків стосовно всіх змінних із моделі, їхніх квадратів і попарних добутків. Наприклад, якщо початкова модель має вигляд

yt 0 1xt1 2xt2 3xt3 t ,t 1,n ,

то будують таку регресію:

vˆ

2

0

x

2

x

t2

3

x

t3

4

x2

5

x2

6

x2

t

1 t1

t1

t2

t3

(4.4)

7xt1xt2 8xt1xt3 9xt2xt3 t ,t

.

1,n

Визначають кількість регресорів у допоміжній моделі (у нашому випадку - 10). Розраховують статистику

2pr nR2 ,

де R2 – коефіцієнт детермінації моделі (4.4), яку слід порівняти з теоретичним значенням статистики розподілу teor2 з n 1 степенями свободи та рівнем надійності 1 . Якщо2pr teor2 , то гетероскедастичності немає.

Головною перевагою критерію Уайта є його універсальність і простота використання. Крім цього, якщо критерій визначає наявність гетероскедастичності, то за його допомогою можна оцінити вагові коефіцієнти для зваженого методу найменших квадратів.

119

Водночас при відхиленні гіпотези H0 цей тест не дає жодної вказівки на форму гетероскедастичності.

4.3.3. Критерій Глейзера

Застосування цього критерію розглянемо на прикладі моделі

yt xt t , t 1,n .

Спочатку оцінюємо модель за методом найменших квадратів і знаходимо залишкиˆ t , t 1,n . Потім будуємо регресію модуля залишків стосовно однієї з таких функцій:

ˆ t

xt t ,

ˆ t

xt

t ,

ˆ

1

,

t

xt

t

ˆ t

ln xt t

тощо.

При цьому використовуємо різноманітні функцій від незалежної змінної. Оцінюємо кілька таких регресій. Далі обираємо ту регресію, яка має найбільший коефіцієнт детермінації. Якщо ця регресія значуща, то гетероскедастичність наявна.

4.3.4. Критерій Бройша – Пагана

Цей тест застосовують у тих випадках, коли апріорно передбачено, що дисперсії t2 залежать від деяких додаткових змінних:

t2 2 f ( 0 zTt γ), t 1,n ,

де zTt (zt1,zt2, ,zt,p )T – вектор незалежних змінних; 0 , γ ( 1, 2, , p )T – невідомі

коефіцієнти.

Згідно із критерієм Бройша – Пагана оцінюють початкову регресію (4.1) і знаходять вектор залишків ˆ t , t 1,n . Далі оцінюють допоміжну регресію

n		ˆ2		0	zT γ .
n
	ˆ2	t			t	t
1

Визначають суму квадратів залишків для допоміжної регресії RSS1 та обчислюють

практичне значення статистики:

2pr RSS2 1 .

Це значення порівнюють із теоретичним значенням розподілу 2 з p степенями свободи та рівнем надійності 1 :

teor2 2(p,1 ).

Якщо 2pr teor2 , то гетероскедастичність не виявляється.

4.4. Використання регресійних критеріїв для оцінювання моделей

За допомогою регресійних критеріїв можна оцінювати вагові коефіцієнти для зваженого методу найменших квадратів.

За критерієм Уайта за умови адекватності допоміжної регресії (4.4) знаходять оцінки

квадратів залишків	ˆ 2	. Оцінки вагових коефіцієнтів	wˆ	для		зваженого методу
	t		t
найменших квадратів (модель (4.2)) обчислюють таким чином: wˆ					ˆ 2	,t		.
							1,n
			t		t

У разі виявлення гетероскедастичності за критерієм Глейзера для оцінювання вагових коефіцієнтів використовують допоміжну регресію з побудованих із найбільшим коефіцієнтом детермінації. Якщо, наприклад, такою моделлю виявилася залежність

ˆ t		xt	t ,

то оцінки вагових коефіцієнтів обраховують за формулою

120

wˆ t ˆ ˆ xt ,t 1,n .

За критерієм Бройша – Пагана вагові коефіцієнти обирають за допомогою формули

wˆt ˆ0 zTt γˆ .

При цьому може спостерігатися ситуація, коли ˆ0 zTt γˆ 0 . Якщо кількість таких

елементів відносно незначна, то їх просто не враховують, у протилежному випадку можна спробувати використати мультиплікативну форму гетероскедастичності

t2 e 0 zTt γ, t 1,n .

Підсумовуючи, можна зазначити, що застосування зваженого методу найменших квадратів загалом приводить до оцінок, що мають меншу дисперсію порівняно з оцінками МНК, що, у свою чергу, поліпшує точність прогнозів і ефективність перевірки статистичних гіпотез.

Приклад 4.1. Оцінювання моделі з гетероскедастичними збуреннями

Відомі доходи та витрати на споживання 30 сімей одного будинку.

C	Y
190,	210,
1	5
200,	220,
1	6
221,	225,
7	3
227,	237,
3	7
208,	243,
1	4
215,	246,
5	2
230,	246,
9	7
211,	252,
1	8
230,	255,
3	3
259,	267,
2	0
250,	269,
9	0
234,	283,
1	3
271,	294,
9	8
285,	308,
8	9
380,	312,
5	0
267,	314,
5	3
322,	328,
1	0
375,	377,
3	7
297,	405,
1	8
372,	406,
2	0
287,	408,
1	2

121

C	Y
390,	419,
7	5
490,	450,
3	9
504,	467,
5	7
338,	471,
5	3
496,	498,
6	5
461,	502,
2	8
521,	514,
4	8
482,	545,
1	3
452,	627,
6	6

1.Побудувати регресію вигляду Ct 0 1Yt vt .

2.Перевірити наявність гетероскедастичності збурень за критерієм Голдфелда – Квондта.

3.Перевірити наявність гетероскедастичності збурень за критерієм Глейзера.

4.Перевірити наявність гетероскедастичності збурень за критерієм Уайта.

5.У разі наявності гетероскедастичності оцінити модель за зваженим методом найменших квадратів.

Розв'язання

1. Використовуючи звичайний МНК, знаходимо вигляд вибіркової регресійної

	ˆ	0,85Yt	, R	2	0,81 .
	функції: Ct 23,3						4
	2. Побудуємо	окремо	дві		регресії за першими			30 8 і останніми вісьмома
						15

спостереженнями, попередньо відсортувавши всі спостереження за зростанням

незалежної

змінної.

Регресія

за

першими

вісьмома

спостереженнями

має

вигляд

ˆ

0,56Yt ,

R

2

0,60 ,

ˆ

2

1 1, 8 7 .

Регресія

за

останніми

вісьмома

Ct 82,3

спостереженнями має вигляд

ˆ

449,5 0,04Yt , R

2

0,04 , ˆ

2

6 1, 5 3 .

Ct

Знаходимо Fpr

ˆ 1

11,87

0,19 . Оскільки

Fpr

1,

то дріб слід перевернути,

таким

ˆ 2

ˆ 2

6 1, 5 3

чином, F

61,53

5,18 . Це значення більше за теоретичне F

F(6;6;0,05) 4,28 .

1 1, 8 7

pr

ˆ

teor

1

Робимо висновок, що гетероскедастичність існує.

3. Для застосування критерію Глейзера треба знайти модуль вектора залишків: vˆt Ct Cˆt Ct 23,3 0,85Yt . Будуємо й оцінюємо допоміжні регресії:

	vˆt				28,0 0,17Yt			R2		0,34
	vˆ	t			90,2 6,60 Y			R	2		0,34
						t
	vˆt				97,2 20853	1		R2		0,34
						Yt
	vˆ	t			2,96 0,0002Y 2			R2		0,32
						t

122

Найбільший коефіцієнт		vˆt			330,53 62,35 ln	R2 0,34	Вона адекватна, оскільки
	детермінації має остання модель.
практичне значення Fpr 13,67					перевищує теоретичне Fteor F(1;28;0,05) 4,20 .

Таким чином, за критерієм Глейзера гетероскедастичність існує.

		2	Ct	ˆ	2			2	від
4. Будуємо допоміжну модель квадрату залишків vˆt				Ct	Ct 23,3 0,85Yt
незалежної змінної та її квадрату:
vˆ 2 2485,8 9,75Y 0,008Y			2 , R2	0,344 .
t	t	t				Fpr 7,07	перевищує
Модель виявляється адекватною, оскільки практичне значення
теоретичне Fteor F(2;27;0,05) 3,35 .	Таким	чином,		за		критерієм	Глейзера

гетероскедастичність існує.

5. Оскільки виявлено гетероскдастичність, то модель треба оцінювати за зваженим методом найменших квадратів. Для цього слід знайти оцінки вагових коефіцієнтів wt . За

методом Глейзера їх знаходять за допомогою формули wˆ t 330,53 62,35lnYt , а за критерієм Уайта wˆ t 2485,8 9,75Yt 0,008Yt2 .

Знаходимо нові змінні C*			Ct ,Y *	Yt .
	t		t		wt
			wt
	Метод Глейзера					Метод Уайта
	W		C*		Y*	W	C*		Y*
	3,00		63,3		70,1	7,7	24,		27,
			0		0	7	45		07
	5,92		33,7		37,2	8,6	23,		25,
			7		3	4	16		53
	7,24		30,6		31,1	11,	18,		19,
			3		3	75	87		18
	10,5		21,4		22,4	17,	12,		13,
	7		9		8	52	97		57
	12,0		17,2		20,1	19,	10,		12,
	6		6		8	65	59		39
	12,7		16,8		19,2	20,	10,		11,
	7		7		7	61	46		94
	12,8		17,9		19,1	20,	11,		11,
	9		1		3	77	12		88
	14,4		14,6		17,5	22,	9,2		11,
	2		4		3	73	9		12
	15,0		15,3		16,9	23,	9,8		10,
	3		2		8	49	0		87
	17,8		14,5		14,9	26,	9,6		9,9
	3		4		8	78	8		7
	18,2		13,7		14,7	27,	9,1		9,8
	9		2		1	31	9		5
	21,5		10,8		13,1	30,	7,5		9,1
	3		8		6	86	9		8
	24,0		11,3		12,2	33,	8,1		8,8
	1		3		8	47	2		1
	26,9		10,6		11,4	36,	7,8		8,4
	1		2		8	44	4		7
	27,5		13,8		11,3	37,	10,		8,4
	3		2		3	08	26		1
	28,0		9,55		11,2	37,	7,1		8,3
	0				3	55	2		7
	30,6		10,5		10,7	40,	8,0		8,1
	6		1		0	22	1		6

123

39,4	9,51	9,57	48,	7,6	7,7
6			96	7	1
43,9	6,76	9,24	53,	5,5	7,5
3			44	6	9
43,9	8,47	9,24	53,	6,9	7,5
5			47	6	9
44,2	6,48	9,22	53,	5,3	7,5
9			81	4	9
46,0	8,49	9,12	55,	7,0	7,5
0			54	4	5
50,5	9,71	8,93	60,	8,1	7,4
0			18	5	9
52,7	9,56	8,86	62,	8,0	7,4
8			56	6	8
53,2	6,36	8,85	63,	5,3	7,4
5			06	7	7
56,7	8,75	8,78	66,	7,4	7,4
5			82	3	6
57,3	8,05	8,78	67,	6,8	7,4
0			40	4	6
58,7	8,87	8,76	69,	7,5	7,4
7			02	5	6
62,3	7,73	8,75	73,	6,6	7,4
5			02	0	7
71,1	6,36	8,82	83,	5,4	7,5
1			33	3	3

Оцінюємо регресію Ct* 0 1Yt* t :

За методом Глейзера		За методом Уайта
C* 0,10 0,909Y * ,		C* 0,001 0,917Y * ,
t	t	t	t
R2 0,99 .		R2 0,98 .

Як бачимо, остаточні оцінки, знайдені за зваженим методом найменших квадратів значно відрізняються від оцінок звичайного МНК. Зокрема, побудовані регресії свідчать, що сім'ї витрачають 91 % від доходів на споживання, тоді як оцінки звичайного МНК показували лише 85 %.

Задачі

Група А
Задача 4.1. Доведіть, що для регресії yt 0 1xt vt , де	Dvt const , дисперсія

оцінки ˆ1 , отримана за допомогою зваженого методу найменших квадратів, менша за дисперсію МНК-оцінки.

Задача 4.2. Під час побудування регресії yt 0 1x1t 2x2t vt було отримано такий

вектор залишків:

t vˆt

-

0,50

-

1,68

0,

41

1,

68

1,

124

t	vˆt
	62
	1,
	93
	-
	2,04
	-
	0,39
	1,
	53
0	-
	1,52
1	-
	1,07
2	-
	1,91
3	0,
	95
4	-
	3,46
5	2,
	84
6	4,
	38
7	-
	4,59
8	2,
	23
9	3,
	82
0	-
	1,76
1	2,
	48
2	3,
	57
3	4,
	47
4	3,
	44

Перевірте наявність гетероскедастичності залишків за критерієм Голдфелда – Квондта, поділивши всі спостереження на дві групи по вісім елементів у кожній, 0,01.

Задача 4.3. Відомі спостереження за величинами x1,x2 таy .

	y	x1		x2
	11	1		4
	27	4		8
	23	5		6
	26	3		8
	27	6		7
	21	3		7
	21	5		5
Оцініть регресію yt 0 1x1t 2x2t vt ,			якщо оцінка коваріаційної матриці має

вигляд

125

1,3		0	0
	0	0,8	0
				.
	0	0	0,9

Група Б

Задача 4.4. Відома така статистична інформація про змінні y таx :

y	x
7,11	9,73
13,3	16,5
2	3
14,0	19,2
4	8
10,9	20,1
7	5
17,0	23,7
8	4
15,7	23,8
8	7
19,0	25,5
9	5
17,2	25,8
3	0
16,4	27,8
1	9
23,7	28,8
0	1
15,4	29,2
4	9
19,9	30,4
4	6
24,2	31,4
5	0
19,3	31,6
8	3
24,5	32,2
7	9
23,9	34,0
7	2
24,8	34,0
3	3
10,2	34,3
8	2
22,9	36,7
7	0
32,3	36,9
1	7
29,5	39,0
0	5
38,0	39,2
7	6
20,6	39,8
5	5
23,7	40,5
6	0
27,6	42,3

41

1.Перевірте наявність гетероскедастичності залишків для моделі yt 0 1xt vt за

критеріями ( 0,01):

126