2.3. Метод найменших квадралв

Нехай за вибipкoю (x_i, y_i), i = 1,2,n, пoтpiбнo визначити оцш-ки С₀ i cl_x емпipичнoгo piвняння регресп (2.2), тобто пiдiбpати таю значення коефшденпв piвняння, щоб сума квадраив вiдхилень була мiнiмальнoю (рис. 2.2).

Y = Oq + йуХ

"5 i

*

9

i

"з ! i.

i Щ

«2

%2

*3

Ч

Рис. 2.2

*5

X

n

Щ e квадратичною функщею двох параметр1в а₀

i=1

i , оскшьки x_{, y_{(i = 1, 2,n) — в1дом1 даш спостережень:

nn n

i=1i=1i=1

Неважко помггити, що квадратична функцiя Q неперервна, опук-ла та обмежена знизу (Q > 0), тобто мае мппмум.

Необхiдною умовою iснування мнпмуму неперервно диференщ-йовано'' функцп двох змшних е рiвнiсть нулю i'i частинних похiдних:

= ^-2S ^(yi ^{- а}о ^{- a}i^xi⁾ = ^0;

1

^да

= ^-2S ^(yi ^{- а}о ^{- а}Л^)xi = ^0;

(2.8)

1^а0 S ^xi + ^а1 S ^x2 = S ^xi^yi •

Подiливши обидва рiвняння системи (2.8) на n, отримаемо

j + а x = y; [а?0 x + а x² = xy

22

x²- x²

xy - x ■ y _;

d0 = y - а^.

(2.9)

Т^{ут x} = - S ^xi ^{, x2} = ¹S ^xi²> ^y = ¹S ^yi - ^xy = ¹S ^xi^yi ^

У наступних формулах для спрощення знаки сум ( S ) запи-

n=1

суватимемо без шдекив, допускаючи, що додавання виконуеться ввд i = 1 до i = n. Також для змшних з шдексом i розумiтимемо, що

i = 1, 2,n (якщо не зазначено iнше)•

Отже, згiдно з МНК оцiнки параметрiв а₀ та ог₁ визначаються за формулами (2.9).

Неважко помггити, що a_t можна обчислити за формулою

1

2

(2.10)

1

е S = cov(x, y) = — У (x_; - x)(y_; - y) — виб1рковий корелящйний ^y n

момент випадкових величин X i Y; S_x = — У (x_; - x) = — У

n n

вибiркова дисперсiя X; S_x = yJS² — стандартне вiдхилення X.

a = ^Sx^ = ^Sxy ^Sy = _r ^Sy (2.11)

c2 SS S ^xy S ' ^S_x ^Sx^Sy ^Sx ^Sx

де r_xy — вибiрковий коефiцieнт кореляцп; Sy — стандартне вщхилен-ня Y. Отже, коефiцieнт регресп пропорщйний коефiцieнту кореляцп, а коефiцieнти пропорщйносп використовують для зiставлення рiзних величин X i Y.

Таким чином, якщо коефпдент кореляцп r_xy уже розрахований, то за формулою (2.11) неважко знайти коефiцieнт аг₁ парно! регресп.

Якщо окрiм рiвняння регресп Y на X (Y = a + <2₁X) для тих самих емшричних даних знайдено рiвняння регресi! X на Y

(X = b₀ + b₁Y), то добуток коефшденпв аг₁ та b₁ дорiвнюe rxy:

^y

Зазначимо, що коефiцieнти b₀ i b обчислюються за формулами, аналогiчними формулам (2.9):

^{y2- y2} (2.12)

0 = x - b1y.

Властивост оцшок параметр1в

Отриманi результати, зокрема формули (2.9) i (2.12), дають змо-гу зробити ряд висновюв.

1. Оцiнки МНК е функщями вiд вибiрки•

2. Оцiнки МНК е точковими оцшками теоретичних коефщденпв регресп

3. Biдповiдно до друго'' формули спiввiдношення (2.9) емшрич-на пряма регресп обов'язково проходить через точку ( x, y ).

4. Eмпiричне рiвняння регресп побудоване в такий споиб, що

n

сума ввдхилень S Щ, а також середне значення ввдхилення i=1

₁n

U = — S Щ Дорiвнюють нулю (показати самостiйно)•

ⁿ i=1

5. Bипадковi ввдхилення щ некорельованi зi спостереженими зна- ченнями y_i залежно'' змiнноi Y.

Для пiдтвердження цього висновку необхвдно показати, що кова-рiацiя мiж Y i и дорiвнюe нулю, тобто Sy_U = 0.

6. Bипадковi вiдхилення u_i некорельованi зi спостереженими зна- ченнями x_i незалежно'' змiнноi X i з оцшеними за лiнiйною регре- сiйною моделлю значеннями залежно'' змiнноi Y.

Щоб шдтвердити даний висновок, необхiдно показати, що коварь ацiя мiж X i и дорiвнюe нулю, тобто S_xu = 0, Syy_u = 0. (Доведення пп. 5 i 6 виконати самостийно.)

Зауважимо, що в класичшй лiнiйнiй економетричнiй моделi змiнна и розглядаеться як випадкова змшна з нульовим математич-ним сподiванням i сталою дисперсieю• Осюльки и охоплюе вплив багатьох неврахованих факторiв, якi можна вважати незалежними, то на пiдставi центрально'' гранично'' теореми теорп ймовiрностей роб-лять висновок, що ця випадкова величина шдпорядкована нормаль­ному закону розподдлу (закону Гаусса).

Доведено (теорема Гаусса), що застосування методу найменших квадрапв можливе лише тод^ коли залишки розподшеш нормально

з параметрами M(U) = 0, D [U] = оЩ = const.

Для шюстрацп МНК розглянемо такий приклад.

Приклад. Для анал1зу залежносп обсягу споживання Y (у. о.) до-могосподарства ввд наявного прибутку X (у. о.) обрано виб1рку обся­гу n = 12 (щомюячно впродовж року), результати яко! наведен! в табл. 2.1. Необхвдно визначити вид залежносп; за МНК оцшити па-раметри р1вняння регресп Y i X; оцшити силу лшшно! залежносп м1ж X i Y ; а також спрогнозувати споживання при прибутку X = 160.

Таблиця 2.1

i	1	2	3	4	5	6	7	8	9	10	11	12
^yi	107 102	109 105	110 108	113 110	120 115	122 117	123 119	128 125	136 132	140 130	145 141	150 144

144 141

132 130

125

119 117 115

О 107 НО ИЗ 120 123 128 136 140 145 150 X

Рис. 2.3

За розм!щенням точок на корелящйному пол! припускаемо, що залежшсть м!ж X i Y лшпша: Y = а₀ + сг₁ X; а₀, сг₁ — оцшки неввдомих параметр!в модел!.

Для наочносп розрахунк!в за МНК складемо табл. 2.2.

Зпдно з МНК маемо

\ ХУ - x • y 15298,08 - 125,25 • 120,67 184,1625 _nnoon a = -z= — = — = = 0,9339;

• ¹ _x² _{- x}² 15884,75 - (125,25)² 197,1875 a₀ = y - b₁ Х = 120,67 = 0,9339 • 125,25 = 3,699.

Для визначення виду залежносп побудуемо корелящйне поле (рис. 2.3).

Отже, рiвняння парно'' лппйно'' регресп мае вигляд Y = 3,699 + 0,9339X. Зобразимо цю пряму регресп на корелящйному поль За наведеним рiвнянням розрахуемо y_i, а також u_i = y_i - y_i.

Для аналiзу сили лiнiйноi залежностi обчислимо коефщент ко-реляцп:

xy - x ■ y 184,1625 r_xy = ) —i = ^; = 0,9914.

Отримане значення коефiцieнта кореляцп дае змогу зробити вис­новок про сильну (пряму) лппйну залежшсть мiж змiнними X i Y. Це також шдтверджуеться розмiщенням точок на корелящйному поль

Таблица 2.2

	^xi		xi^2	xiyi	у,^2	^y		ei^2
	107	102	11449	10914	10404	103,63	-1,36	2,66
2	109	105	11881	11445	11025	105,49	-0,49	0,24
3	110	108	12100	11880	11664	106,43	1,57	2,46
4	113	110	12769	12430	12100	109,23	0,77	0,59
5	120	115	14400	13800	13225	115,77	-0,77	0,59
6	122	117	14884	14274	13689	117,63	-0,63	0,40
7	123	119	15129	14637	14161	118,57	0,43	0,18
8	128	125	16384	16000	15625	123,24	1,76	3,10
9	136	132	18496	17952	17424	130,71	1,29	1,66
10	140	130	19600	18200	16900	134,45	-4,45	19,8
11	145	141	21025	20445	19881	139,11	1,89	3,57
12	150	144	22500	21600	20736	143,78	0,22	0,05
Сума	1503	1448	190617	183577	176834	—	= 0**	35,3
Середне*	125,25	120,67	15884,75	15298,08	14736,17

Значення округлюються до сотих. Ураховуються похибки округлень.

Прогнозоване споживання при доступному доходi X = 160 за да-ною моделлю становить y(160) ~ 153,12.

Побудоване рiвняння регресй в будь-якому разi потребуе певно'' iнтерпретацii та аналiзу•

1нтерпретащя, тобто словесний опис отриманих результапв, необ-хвдна для того, щоб побудована залежшсть набула яюсного економ!ч-ного змюту.

У нашому приклад! коефпцент щ може розглядатися як гранич­на схильшсть до споживання. Фактично вш показуе, на яку величи­ну змшиться обсяг споживання, якщо доступний дохвд зб!лыпиться на одиницю. На графшу (рис. 2.3) коефпцент щ визначае тангенс кута нахилу прямо! регресп ввдносно додатного напрямку ос! абсцис (пояснюючо! змшно'!). Тому часто вш називаеться кутовим коефщен-том.

Вшьний член щ р!вняння регрес!! визначае прогнозоване значен­ня Y при величин! наявного прибутку X, що дор!внюе нулю (тобто автономне споживання). Однак тут необхцща певна обережшсть. Важливо, наскшьки ввддалеш дан! спостережень за пояснюючою змшною в!д ос! ординат (залежно! змшно!), тому що навиъ при вда-лому вибор! р!вняння регрес!! для досл!джуваного !нтервалу немае гарант!!, що вона залишиться такою самою й в!ддал!к в!д виб!рки. У нашому випадку значення а₀ = 3,699 (у. о.). Цей факт можна пояс-нити для окремого домогосподарства (воно може витрачати накопи-чен! або позичен! кошти), однак для комплексу домогосподарств в!н втрачае сенс. У будь-якому раз! значення коефпцента щ визначае точку перетину прямо! з в!ссю ординат ! характеризуе зсув л!н!! регрес!! вздовж ос! Y.

Необхцщо пам'ятати, що емшричш коефпценти регрес!! щ ! щ е лише оц!нками теоретичних коеф!ц!ент!в а₀ та а₁, а саме р!вняння в!дображае лише загальну тенденц!ю в повед!нц! розглянутих зм!нних. 1ндиввдуальш значення змшних з р!зних причин можуть ввдхилятися в!д модельних значень. У нашому приклад! ц! в!дхилення виражен! через значення u_i, як! е оцшками вцщоввдних ввдхилень для генераль-но! сукупност!.

Однак за певних умов р!вняння регрес!! е незам!нним ! дуже як!с-ним !нструментом анал!зу та прогнозування. Ц! теми обговорювати-муться в наступних розд!лах.