Тема 3. Статистическая проверка гипотез

3.1. Точечные оценки и их свойства

Пусть оценивается некоторый параметр Q наблюдаемой СВ X генеральной совокупности. Пусть из генеральной совокупности извлечена выборка объема п: xn ,x2 ,… ,xn, по которой может быть найдена оценка Q* параметра Q.

Точечной оценкой Q* параметра Q называется числовое значение этого параметра, полученное по выборке объема п.

Приведем свойства, выполнимость которых желательна для того, чтобы оценка была признана удовлетворительной.

В силу случайности точечной оценки Q* она может рассматриваться как СВ со своими числовыми характеристиками – математическим ожиданием М(Q*) и дисперсией D(Q*). Чем ближе М(Q*) к истинному значению Q и чем меньше D(Q*), тем лучше будет оценка (при прочих равных условиях). Таким образом, качество оценок характеризуется следующими основными свойствами: нeсмещенностью, эффективностью и состоятельностью.

Оценка Q* называется несмещенной оценкой параметра Q, если ее математическое ожидание равно оцениваемому параметру: М(Q*) = Q.

Разность (М(Q*) – Q) называется смещением или систематической ошиб-

кой оценивания. Для несмещенных оценок систематическая ошибка равна нулю. Оценка Q* называется эффективной оценкой параметра Q, если ее дисперсия D(Q*) меньше дисперсии любой другой альтернативной оценки при фикси-

рованном объеме выборки п, т.е. D(Q*) = Dmin.

Оценка Q* называется состоятельной оценкой параметра Q, если Q* сходится по вероятности к Q при п → ∞, т.е. для любого ε > 0 при п → ∞ Р(|Q*N

– Q|<ε) → 1. Другими словами, состоятельной называется такая оценка, которая дает истинное значение при достаточно большом объеме выборки вне зависимости от значений входящих в нее конкретных наблюдений.

3.2. Основные понятия

Большинство эконометрических моделей требуют многократного улучшения и уточнения. Для этого необходимо проведение соответствующих расчетов, связанных с установлением выполнимости или невыполнимости тек или иных предпосылок, анализом качества найденных оценок, достоверностью полученных выводов. Обычно эти расчеты проводятся по схеме статистической проверки гипотез. Поэтому знание основных принципов проверки гипотез является обязательным для эконометриста.

Гипотеза Н0, подлежащая проверке, называется нулевой (основной). Наряду с нулевой рассматривают гипотезу H1, которая будет приниматься, если отклоняется H0. Такая гипотеза называется альтернативной (конкурирующей). Например, если проверяется гипотеза о равенстве параметра Q некоторому значению Q0, т.е. H0:Q = Q0, то в качестве альтернативных могут рассматриваться следующие гипотезы:

Н1(1) : Q ≠ Q0; H1(2) : Q > Q0; H1(3) : Q < Q0; H1(4) : Q = Q1; (Q1 ≠ Q0 )

22

Выбор альтернативной гипотезы определяется конкретной формулировкой задачи, а нулевая гипотеза часто специально подбирается так, чтобы отвергнуть ее и принять тем самым альтернативную гипотезу. Для того чтобы принять гипотезу о наличии корреляции между двумя экономическими показателями (например, между инфляцией и безработицей), можно опровергнуть гипотезу об отсутствии такой корреляции, взяв ее в качестве нулевой гипотезы.

Гипотезу называют простой, если она содержит одно конкретное предположение ( Н0 : Q = Q0 ; H1(4) : Q = Q1) . Гипотезу называют сложной, если она со-

стоит из конечного или бесконечного числа простых гипотез:

(Н1(1) : Q ≠ Q0; H1(2) : Q > Q0; H1(3) : Q < Q0 )

При проверке гипотезы выборочные данные могут противоречить гипотезе Н0. Тогда она отклоняется. Если же статистические данные согласуются с выдвинутой гипотезой, она не отклоняется. В последнем случае часто говорят, что нулевая гипотеза принимается (такая формулировка не совсем точна, однако она широко распространена). Статистическая проверка гипотез на основании выборочных данных неизбежно связана с риском принятия ложного решения. При этом возможны ошибки двух родов.

Ошибка первого рода состоит в том, что будет отвергнута правильная нулевая гипотеза.

Ошибка второго рода состоит в том, что будет принята нулевая гипотеза, в то время как в действительности верна альтернативная гипотеза.

Возможные результаты статистических выводов представлены в табл. 2.2.3.

			Таблица 2.2.3
	Результаты статистических выводов
Результаты проверки гипотез		Возможные состояния гипотезы
		Верна Н0	Верна Н1
Гипотеза Н0	отклоняется	Ошибка первого рода	Правильный вывод
Гипотеза Н0	не отклоняется	Правильный вывод	Ошибка второго рода

Последствия указанных ошибок неравнозначны. Первая приводит к более осторожному, консервативному решению, вторая – к неоправданному риску. Что лучше или хуже – зависит от конкретной постановки задачи и содержания нулевой гипотезы. Например, если Н0 состоит в признании продукции предприятия качественной и допущена ошибка первого рода, то будет забракована годная продукция. Допустив ошибку второго рода, мы отправим потребителю брак. Очевидно, последствия второй ошибки более серьезны с точки зрения имиджа фирмы и ее долгосрочных перспектив.

Исключить ошибки первого и второго рода невозможно в силу ограниченности выборки. Поэтому стремятся минимизировать потери от этих ошибок. Отметим, что одновременное уменьшение вероятностей данных ошибок невозможно, так как задачи их уменьшения являются конкурирующими, и снижение вероятности допустить одну из них влечет за собой увеличение вероятности допустить дру-

23

гую. В большинстве случаев единственный способ уменьшения вероятности ошибок состоит в увеличении объема выборки.

Вероятность совершить ошибку первого рода принято обозначать буквой α, и ее называют уровнем значимости. Вероятность совершить ошибку второго рода обозначают β. Вероятность не совершить ошибку второго рода (1- β) называ-

ется мощностью критерия.

Обычно значения α задают заранее «круглыми» числами (например, 0,1; 0,05; 0,01 и т.п.), а затем стремятся построить критерий наибольшей мощности. Таким образом, если α = 0,05, то это означает, что исследователь не хочет совершить ошибку первого рода более чем в 5 случаях из 100.

3.3. Проверка линейности модели

Простейшим уравнением регрессии является парная линейная регрессия:

y = α0 +α1x

(3.1)

Поэтому начальный этап эконометрического анализа зависимости результирующей переменной y от определяющей переменной x начинается с предположения линейности этой зависимости. Предварительно необходимо рассчитать коэффициент корреляции:

	R(x, y) =	cov(x, y)	(3.2)
		σx σy

При наличии же криволинейной зависимости линейный коэффициент корреляции недооценивает степень тесноты связи и даже может быть равен 0, а потому в таких случаях рекомендуется использовать в качестве показателя степени тесноты корреляционное отношение η – характеристику тесноты связи результативного и факторного признаков при их криволинейной зависимости.

Различают эмпирическое и теоретическое корреляционное отношение. Кор-

реляционное отношение рассчитывают по данным группировки. Расчет корреляционного отношения основан на использовании известной теоремы сложения дисперсий. Общая дисперсия результативного признака σ02 может быть разложена на две составляющие. Первая составляющая – межгрупповая дисперсия δ2, характеризующая ту часть разброса результативного признака, которая складывается под влиянием изменения признака-фактора, положенного в основу группировки.

Вычисляя квадратный корень из этого отношения, мы получаем эмпирическое корреляционное отношение:

η =	δ 2	(3.3)
	σ 2
	0

Теоретическое корреляционное отношение определяется по формуле:

η =	δ)2		,	(3.4)
	σ	2
		Y

где δ 2 – дисперсия выравненных значений результативного признака, т.е. рассчитанных по уравнению регрессии;

σY2 – дисперсия эмпирических (фактических) значений результативного признака.

24

Важный момент – сопоставление величины линейного коэффициента корреляции и корреляционного отношения. Сравнив полученную величину корреляционного отношения для рассматриваемого примера 1 η = 0,819 с величиной линейного коэффициента корреляции r = 0,8105, полученного при расчете по несгруппированным данным, можно увидеть, что η незначительно больше r. Когда связь между переменными уклоняется от линейной формы, то η и r несколько отличаются по величине, причем η всегда больше r по абсолютной величине.

Сопоставление линейного коэффициента корреляции и эмпирического корреляционного отношения имеет смысл только в случае, если эти показатели вычислены для одинаковым образом сгруппированных данных, т.е. при сравнении и коэффициент корреляции, и корреляционное отношение должны быть вычислены либо по данным корреляционной таблицы, либо по первичным данным и групповой таблице.

При проверке возможности использования линейной функции в качестве формы уравнения определяют разность квадратов (η2 – r2), и если эта разность менее 0.1, то считается возможным применять линейное уравнение корреляционной зависимости. В нашем примере разность квадратов корреляционного отношения и линейного коэффициента корреляции равна:

(η2 – r2) = 0,8192 – 0,81052 = 0,6708 – 0,6569 = 0,0139, что меньше 0,1.

Следовательно, для уравнения регрессии можно использовать линейную форму.

3.4. Т-тест выборочного коэффициента корреляции

Рассмотрим проблему необходимости оценки линейного коэффициента корреляции. Сама по себе величина коэффициента корреляции не служит доказательством наличия причинно-следственной связи между исследуемыми признаками, а является скорее оценкой степени взаимной согласованности в изменениях признаков. Установлению причинно-следственной зависимости предшествует анализ качественной природы явлений. Есть еще одно обстоятельство, объясняющее формулировку выводов о возможном наличии связи по величине коэффициентов корреляции. Дело в том, что оценка степени тесноты связи с помощью коэффициента корреляции производится, как правило, на основе более или менее ограниченной информации об излагаемом явлении. Возникает вопрос: насколько правомерно наше заключение по выборочным данным в отношении действительного наличия корреляционной связи в той генеральной совокупности, из которой была произведена выборка?

Принципиально возможны случаи, когда отклонение от нуля полученной величины выборочного коэффициента корреляции оказывается целиком обусловленным неизбежными случайными колебаниями тех выборочных данных, на основании которых он вычислен. Особенно осторожно следует подходить к истолкованию полученных коэффициентов корреляции при незначительных объемах выборочной совокупности.

В этой связи и возникает необходимость оценки важности линейного коэффициента корреляции, дающая возможность распространить выводы по результатам выборки на генеральную совокупность. В зависимости от объема выборочной совокупности предлагаются различные методы оценки существенности

25

линейного коэффициента корреляции. В отношении приводимых ниже критериев существенности можно сделать общее замечание, касающееся свойств исходной совокупности. Этим свойством является нормальное распределение значений признака в генеральной совокупности.

Значимость линейного коэффициента корреляции проверяется на основе t- критерия Стьюдента. При этом выдвигается и проверяется гипотеза (H0) о равенстве коэффициента корреляции нулю [Н0: r = 0]. При проверке этой гипотезы используется t-статистика:

t p =	1	r 2	(n −2) =	r	n −2	(3.5)
		−r 2		1−r 2

При выполнении Н0 t-статистика имеет распределение Стьюдента с входными параметрами: {α,ν = n − 2}, где α – уровень значимости.

Если расчетное значение tp > tKp (табличное), то гипотеза Н0 отвергается, что свидетельствует о значимости линейного коэффициента корреляции, а следовательно, и о статистической существенности корреляции х и Y.

Данный критерий оценки значимости применяется для совокупности n < 50. При большом числе наблюдений (n > 100) используется следующая форму-

ла t-статистики:

tp =	r	n	(3.6)
1	−r2

Применим указанный метод к примеру 1 для оценки существенности корреляции между уровнем затрат туристических фирм на рекламу и числом туристов, воспользовавшихся услугами фирм. При объеме выборки, равном 20, и при условии, что величина коэффициента корреляции равна 0,8105 (см. пример анализа зависимости количества туристов от затрат на рекламу):

tрасч. = 0,8105	20 −2	=	0,8105×4,243	=5,871
1−0,8105 2			0,6428

В таблице распределения Стьюдента (t-статистика) для числа степеней свободы ν = n – 2 = 18 и уровня значимости 1% находим, что t = 2,878. Таким образом, лишь с вероятностью меньше 1% можно утверждать, что величина t = 5,871 могла появиться в силу случайной выборки. Такое событие является маловероятным, а поэтому можно считать с вероятностью 99%, что в генеральной совокупности действительно существует прямая зависимость между изучаемыми признаками, т.е. отличие выборочного коэффициента корреляции от нуля является существенным.

3.5. F-тест Фишера на состоятельность регрессии

F-тест Фишера основан на сравнении расчетного критерия F с табличным значением Fкр. Таблицы критических значений составлены на основе двухпараметрического распределения неотрицательной случайной величины (F-распреде- ления Фишера) в зависимости от численных значений степеней свободы v1 = m и v2 = n - m - 1, при различных уровнях значимости (в приложении дана таблица F- распределения Фишера для трех различных значений уровня значимости 5%, 1%, 0,1%).

26

В случае парной регрессии F-статистика равна квадрату t-статистики. Поэтому особую ценность F-тест Фишера приобретает для случая множественной регрессии. При формировании линейной множественной регрессии F-тест позволяет оценить обоснованность исключения отдельных переменных (xi) из числа объясняющих переменных, или наоборот, их добавления в это число. Например, первоначально была предложена линейная множественная регрес-

сия: Y =a0 +a1x1 +a2x2 +...+amxm , составленная по выборке объемом n. Она име-

ет m объясняющих переменных и коэффициент детерминации R21. На следующем этапе формирования модели добавили еще k новых объясняющих переменных, и уравнение регрессии приобрело вид:

Y = a 0 + a 1 x 1 + a 2 x 2 + ... + a m +k x m +k

Для проверки целесообразности такого шага рассчитывается F-статистика:

	F	=	R22 −R12	×	n −m −k −1		, которая имеет распределение F (k, n – m – k – 1).
			1−R22		k

По таблице находим критическое значение Fкр.

Если F > Fкр, то добавление новых объясняющих переменных обоснованно

и выявляет существенную часть необъясненной ранее дисперсии зависимой величины Y.

3.6. Анализ точности определения оценок коэффициентов регрессии

В силу случайного отбора элементов в выборку случайными являются также оценки а0 и а1 коэффициентов α0 и α1 теоретического уравнения регрессии. Их математические ожидания при выполнении предпосылок об отклонениях εi равны соответственно М(a0) = α0, М(а1) = α1. При этом оценки тем надежнее, чем меньше их разброс вокруг α0 и а1э, т.е. чем меньше дисперсии D(а0) и D(а1) оценок. Надежность получаемых оценок, очевидно, тесно связана с дисперсией случайных отклонений εi. Фактически D(εi) является дисперсией D(Y | X = хi) переменной Y относительно линии регрессии (дисперсией Y, очищенной от влияния X). Полагая, что измерения равноточные, можно считать, что все эти дисперсии

равны между собой D(εi)=σε2 = σ2 .

Приведем формулы связи дисперсий коэффициентов D(а0) и D(а1) с дисперсией σ2 случайных отклонений εi. Для этого представим формулы определения

коэффициентов а0 и а1 в виде линейных функций относительно значений Y:

a

=

∑(xi − x )(yi − y )

=

∑(xi − x )yi

−

y∑(xi − x )

1

∑(x − x )2

∑(x − x )2

∑

(x − x )2

i

i

i

a =

∑(xi −x)(yi − y)

=

∑(xi −x)yi

, так как

(х −x)=0

∑(xi −x)

1

∑(xi −x)

∑ i

2

2

(xi − x)

= ∑ci yi .

Введя обозначение сi =

, имеем: a1

∑(x

− x)2

i

27

Аналогично: a0 = y − a1x = ∑nyi − ∑ci yi x = ∑(1n −ci x)yi .

Обозначив di = 1n − ci x, имеем a0 = ∑di yi .

Так как предполагается, что дисперсия Y постоянна и не зависит от значений X, то сi и di можно рассматривать как некоторые постоянные. Следовательно:

D(a1)= D(∑ci yi )=		σ2		(3.7)
	∑(x − x)2
		i
D(a0 )= D(∑di yi )=		σ2 ∑x2
		i		(3.8)
		n∑(x − x)2
		i

•Дисперсии а0 и а1 прямо пропорциональны дисперсии случайного отклонения σ2. Следовательно, чем больше фактор случайности, тем менее точными будут оценки.

•Чем больше число п наблюдений, тем меньше дисперсии оценок. Это вполне логично, так как чем большим числом данных мы располагаем, тем вероятнее получение более точных оценок.

•Чем больше дисперсия (разброс значений ∑ (xi − x )2 ) объясняющей пе-

ременной, тем меньше дисперсия оценок коэффициентов. Другими словами, чем шире область изменений объясняющей переменной, тем точнее будут оценки (тем меньше доля случайности в их определении).

Наглядное обсуждение этих выводов проведем чуть позже на основе следующих рассуждений.

В силу того что случайные отклонения εi по выборке определены быть не могут, при анализе надежности оценок коэффициентов регрессии они заменяются отклонениями ei=yi-b0-b1xi значений уi , переменной Y от оцененной линии регрессии. Дисперсия случайных отклонений D(εi) = σ2 заменяется ее несмещенной оценкой.

Необъясненная дисперсия (мера разброса зависимой переменной вокруг линии регрессии):

S 2

=

∑e2

(3.9)

i

Тогда

n − 2

S 2

D(a )

≈ S 2

=

∑(xi − x)

1

a1

S 2

∑x2

D(a

)≈ S 2

= x2S 2 ,

=

i

2

0

a0

a1

n∑(x − x )

i

где S =

∑е2

– стандартная ошибка оценки (стандартная ошибка регрессии);

i

n − 2

28

Sa	=	S 2		и Sa =	S 2	– стандартные отклонения случайных величин а0
	0	a	0	1	a
					1

и а1, называемые стандартными ошибками регрессии.

Объяснение данных соотношений имеет весьма наглядную графическую интерпретацию.

Коэффициент а1 определяет наклон прямой регрессии. Чем больше разброс значений Y вокруг линии регрессии, тем больше (в среднем) ошибка определения наклона прямой регрессии. Действительно, если такой разброс совсем от-

сутствует (εi = 0), то прямая определяется однозначно и ошибки при определении а0 и а1 не будет вовсе (∑ei = 0 → S 2= 0 → Sa0 = Sa1 = 0). Например, на рис.

2.2.1 (а) все наблюдаемые точки лежат на одной прямой ( ∑ ei2 = 0 ). Тогда через

любой набор точек проводится одна и та же прямая. На рис. 2.2.1 (б) точки не лежат на одной прямой, но для трех точек прямая регрессии будет такой же (хотя отклонения от линии регрессии существенны), как и на рис. 2.2.1 (а). Однако при исключении из рассмотрения любой из указанных трех точек прямые регрессии будут существенно отличаться друг от друга ((1, 2), (1, 3), (2, 3)). Следовательно, значительно различаются их углы наклона, а значит, стандартная ошибка Sa1 коэффициента регрессии а1 будет существенной.

Y	Y		3
	3	1
2
1
			2
а)	X	б)	X

Рис. 2.2.1. Мера разброса зависимой переменной вокруг линии регрессии

В знаменателе дроби, определяющей значение Sa1 , стоит сумма квадратов

отклонений хi от среднего значения х. Эта сумма велика (а следовательно, вся дробь мала, и дисперсия Sa1 оценки меньше), если регрессия определяется на

широком диапазоне значений переменной X.

Например, на рис. 2.2.2 через пары точек (1, 3) и (2, 3) проведена одна и та же прямая. Однако диапазон (1, 3) шире диапазона (2, 3). Если вместо точки 3 рассмотреть либо точку 3a, либо 3б (т.е. при случайном изменении выборки), то наклон прямой для пары (1, 3) изменится значительно меньше, чем для пары (2, 3).

Дисперсия свободного члена уравнения регрессии Sa 2	= Sa 2 =	∑x	2
		i		про-
		n
0	1

порциональна дисперсии Sa1 . Действительно, чем сильнее меняется наклон пря-

29

мой, проведенной через данную точку ( x, y ), тем больше разброс значений сво-

бодного члена, характеризующего точку пересечения этой прямой с осью ОY.

Y

X

Рис. 2.2.2. Изменение наклона регрессионной прямой

Кроме того, разброс значений свободного члена тем больше, чем больше средняя величина. Это связано с тем, что при больших по модулю значениях X даже небольшое изменение наклона регрессионной прямой может вызвать большое изменение оценки свободного члена, поскольку в этом случае в среднем велико расстояние от точек наблюдений до оси OY.

3.7. Проверка выполнимости предпосылок МНК. Статистика Дарбин-Уотсона

Статистическая значимость коэффициентов регрессии и близкое к единице значение коэффициента детерминации R2 не гарантирует высокое качество уравнения регрессии. Поэтому следующим этапом проверки качества уравнения регрессии является определение выполнимости предпосылок МНК. Для этого рассмотрим статистику Дарбина-Уотсона.

Оценивая линейное уравнение регрессии, мы предполагаем, что реальная взаимосвязь переменных линейна, а отклонения от регрессионной прямой являются случайными, независимыми друг от друга величинами с нулевым математическим ожиданием и постоянной дисперсией. Если эти предположения не выполняются, то оценки несмещенности, эффективности, состоятельности и анализ их значимости будут неточными.

На практике для анализа коррелированности отклонений вместо коэффициента корреляции используют тесно с ним связанную статистику Дарбина-Уотсо- на DW, рассчитываемую по формуле:

	DW =	∑(ei −ei−1 )2	(3.10)
		∑ei2

Здесь сделано допущение, что при больших n выполняется соотношение:

5
S =∑[yi -(а0 +а1x)]2	(3.11)

i=1

Тогда

30

	DW	≈	2(∑ ei2 − ∑ ei ei −1 )		= 2(1 − re e	)	(3.12)
			∑ ei2
					i	i −1

Нетрудно заметить, что если ei = ei−1, то reiei −1 =1и DW=0. Если ei = −ei−1, то reiei −1 = −1и DW=4. Во всех других случаях 0<DW<4.

При случайном поведении отклонений можно предположить, что в одной половине случаев знаки последовательных отклонений совпадают, а в другой – противоположны. Так как абсолютная величина отклонений в среднем предполагается одинаковой, то можно считать, что в половине случаев ei ≈ ei−1, а в

другой – ei ≈ −ei−1. Тогда

		∑1	(2ei )2		∑e2
	DW =	2		= 0,5 4	i	= 2
		∑e2
					∑e2
			i		i

Таким образом, необходимым условием независимости случайных отклонений является близость к двойке значения статистики Дарбина-Уотсона. Тогда, если DW≈2, мы считаем отклонения от регрессии случайными (хотя они в действительности могут и не быть таковыми). Это означает, что построенная линейная регрессия, вероятно, отражает реальную зависимость.

Возникает вопрос, какие значения DW можно считать статистически близкими к двум?

Для ответа на этот вопрос разработаны специальные таблицы критических точек статистики Дарбина-Уотсона (Приложение 3), позволяющие при данном числе наблюдений п, количестве объясняющих переменных т и заданном уровне значимости α определять границы приемлемости (критические точки) наблюдаемой статистики DW.

Для заданных α, п, т в таблице (Приложение 3) указываются два числа: d1 – нижняя граница и du – верхняя граница. Для проверки гипотезы об отсутствии автокорреляцииостатковиспользуется числовойотрезок, изображенныйнарис. 2.2.3.

0

d1

du

2

4-du

4-d1

4

положительная

отрицательная

отсутствие автокорреляции

автокорреляция

автокорреляция

зона неопределенности

Рис. 2.2.3. Проверкагипотезыоботсутствииавтокорреляцииостатков

Выводы осуществляются по следующей схеме.

Если DW < d1, то это свидетельствует о положительной автокорреляции остатков.

Если DW > 4 – d1, то это свидетельствует об отрицательной автокорреляции остатков.

31