УМК по ТВ и МС

Доверительная область (12.10) определяет границы, за пределами которых могут оказаться не более 100α% точек независимой переменной при X = xp. Он шире доверительной области (12.9) для условного математического ожидания.

Анализ построенных доверительных областей (12.9), (12.10) позволяет сделать следующие выводы:

1. Прогноз значений зависимой переменной Y по уравнению регрессии оправдан, если значение xp объясняющей переменной X не выходит за диапазон ее значений по выборке, т.е. xmin < xp < xmax . Причем, чем ближе xp к x , тем уже доверительный интервал (точнее прогноз).

2. Использование регрессионной модели вне обследованного диапазона зна-

чений объясняющей переменной (даже если оно оправдано, исходя из смысла решаемой задачи) может привести к значительным погрешностям.

Пример 12.2. Для данных из примера 12.1 построить доверительные интервалы для коэффициентов регрессии для уровня значимости α = 0,05 и оценить их значимость.

Решение. Определим вначале

sε2 = n −1 2 ∑12i=1( yi − b0 − b1xi )2 =101 ∑12i=1e2 = 3510,249 = 3,525, т.е. sε = 1,714.

Отсюда стандартные ошибки коэффициентов регрессии:

sb	=		sε	=	1,714		=0,0386,
		∑12
1			(xi − x)2		(107 −125,25)2 +... +(150 −125,25)2
		i=1
sb	=	x2 sb	=	15884,75 0,0386 = 4,8644 .
0		1
Далее найдем tα/ 2 100% (n − 2) = t2,5% (10) = 2,228 .
Тогда	t2,5%	(10) sb		= 2,228	4,864 =10,837 , t0,025	(10) sb	= 2,228 0,0386 = 0,086 .
			0			1

Отсюда доверительные интервалы для параметров β0, β1 при надежности оцен-

ки 1 − α = 0,95 равны: −7,414 < β0 < 14,260 и 0,850 < β1 < 1,022.

Т.к. 0 входит в доверительную область для коэффициента β0, то он является статистически не значимым.

Проверим теперь значимость коэффициентов регрессии по t−критерию: tb0 = 34,,864423 = 0,704 < 2,228 = t2,5% (10) , т.е. коэффициент β0, является статистиче-

ски не значимым;

tb1 = 00,,03869361 = 24,25 > 2,228 = t2,5% (10) , т.е. коэффициент β1, является статистиче-

ски значимым.

12.2.3. Оценка значимости уравнения регрессии

Проверить значимость уравнения регрессии – значит, установить, соответствует ли математическая модель, выражающая зависимость между пе-

161

ременными, экспериментальным данным и достаточно ли включенных в уравнение объясняющих переменных для описания зависимой переменной.

Проверка значимости уравнения регрессии производится на основе дисперсионного анализа.

Для оценки значимости в предположении нормальной однофакторной модели регрессии вида ϕ(x) проверяется гипотеза о равенстве коэффициентов b0, b1, … нулю, H0: b0 = b1 = … = 0, что эквивалентно гипотезе о равенстве нулю индекса корреляции, H0: Ryx = 0. Для проверки нулевой гипотезы используется

основное тождество дисперсионного анализа (10.2) о разбиении суммы квад-

ратов на слагаемые.

Общая сумма квадратов отклонений отклика (зависимой переменной)

Q = ∑n	( yi − y)2	относительно его среднего значения y разлагается на сумму
i=1

QX, характеризующую влияние фактора X, т.е. обусловленную регрессионной моделью ϕ(x) и остаточную сумму квадратов Qε, характеризующую влияние неучтенных факторов, т.е. обусловленную случайными ошибками относительно модели регрессии. Формальный вид разложения для однофакторной модели:

n

n

n

Q = ∑( yi

− y)2

= ∑[ϕ(xi ) − y]2 + ∑[yi − ϕ(xi )]2 = QX + Qε .

(12.11)

i=1

i=1

i=1

Для проверки гипотезы об адекватности предлагаемой модели ϕ(x) исполь-

зуется F−отношение

1

∑n

[ϕ(xi ) − y]2

n − l

QX

2

l −1

F =

i=1

=

=

sX

(12.12)

1

l −1

Qη

sε2

∑n

[yi − ϕ(xi )]2

n − l

i=1

с числом степеней свободы (l − 1, n − l), где l − число коэффициентов модели ϕ(x) (число связей). По величине F−отношения проверяется гипотеза H0. Когда коэффициенты bj отличны от нуля, F−отношение имеет тенденцию к возрастанию. При F > Fα100% (l −1, n − l) , значения коэффициентов bj отличаются от нуля и регрессионная зависимость значима на уровне значимости α.

Еще одним показателем качества является коэффициент детерминации

R2 =	QX	=1 −	Qε	,	(12.13)
	Q
			Q

показывающий, какая часть (доля) вариации зависимой переменной обусловлена вариацией объясняющих переменных.

Чем ближе R2 к 1, тем лучше подобранная модель описывает анализируемую зависимость, тем выше ее информационная способность. Если R2 = 1, то эмпирические точки (xi, yi) лежат на линии регрессии и между переменными Y и X существует функциональная зависимость. Если R2 = 0, то вариация зависимой переменной полностью обусловлена воздействием неучтенных в модели переменных, и линия регрессии параллельна оси абсцисс.

162

Замечание 12.2. Коэффициент R2 имеет смысл рассматривать только при наличии в уравнении регрессии свободного члена b0, т.к. в противном случае не будет выполняться равенство (12.11), а, следовательно, и (12.13).

Если известен коэффициент детерминации, то критерий значимости (12.12) уравнения регрессии (или самого коэффициента R2) примет вид:

F =	n − l		R2	> F (l −1,n − l) .
	l −1		1 − R2	α

Предложение 12.2. В случае парной линейной регрессионной модели ко-

эффициент детерминации равен квадрату коэффициента корреляции, R2 = r2 . Доказательство. Действительно, учитывая (12.5), (12.6), имеем

Q

n

)

− y)

2

n

2

(xi − x)

2

b12

1

∑n

(xi − x)2

2

X

∑=

( yi

∑=

b1

n −1

i=1

R

=

=

i 1

=

i 1

=

=

Q

∑n

( yi

− y)2

∑n

( yi − y)2

1

∑

n

( yi − y)

2

i=1

i=1

n −1

i=1

2

b2 s2

b s

x

=

1

x

=

1

= r 2 .

2

sy

sy

Пример 12.3. Для данных из примера 12.1 оценить значимость уравнения

регрессии для уровня значимости α = 0,05.

Спрогнозировать потребление при доходе xp = 160 у.е. и построить довери-

тельный интервал для прогноза.

Решение. Определим согласно (12.13) расчетное значение F−отношения:

1

10

)

2

∑

( yi − y)

10

(103,58 −120,67)

2

+K+ (143,83

−120,67)

2

F =

2 −1 i=1

=

=588,22.

1

10

)

2

1

(102 −103,58)2

+L+ (144 −143,83)2

∑( yi − yi

)

12 − 2 i=1

Fα100% (l −1, n − l) = F5% (1,10) = 4,965 . Т.к. 588,22 > 4,965,

Критическое значение

то полученное уравнение регрессии значимо для α = 0,05.

Для прогнозирования подставим интересуемое нас значение объясняющей переменной в найденное уравнение регрессии:

y)(xp ) = b0 +b1xp = 3,423 + 0,9361 160 =153,199 .

Определим дисперсию

1

(xp

− x)2

1

2

2

syp

= sε 1

+

+

= 3,525

1

+

+

n

∑(xi − x)

2

12

i

+

(160

−125,25)2

= 4,071,

−125,25)2

+L+ (150 −125,25)2

(107

отсюда tα/ 2100% (n − 2) syp =t2,5% (10) 4,071 = 2,228 4,071 =9,070 .

163

В результате, доверительный интервал для прогнозов индивидуальных значений yp при xp = 160 равен: 144,13 < yp < 162,27. Видим, что, как и следовало ожидать, доверительный интервал получился слишком большим для достоверных прогнозов.

12.3. Общий случай регрессии

Выше мы рассмотрели парную линейную регрессию. Это самый простой частный случай. В общем случае задача регрессии может быть:

-множественной линейной при выборе многофакторной линейной модели за-

висимой переменной Y от нескольких объясняющих переменных

X= ( X1,K, X p ) ;

-нелинейной, если рассматривается одноили многофакторная нелинейная регрессионная модель.

12.3.1. Множественный линейный регрессионный анализ

Рассмотрим случай несгруппированных данных. Обозначим i-е наблюдение зависимой переменной yi, а объясняющих переменных xi1, xi2, …, xip. Тогда модель множественной линейной регрессии можно представить в виде:

yi =β0 +β1xi1 +β2 xi2 +K+βxip + εi = yx

+ εi , i = 1, 2, …, n,

(12.14)

i

где εi удовлетворяют предпосылкам 1°−5° регрессионного анализа.

Введем обозначения:

y =(y , y

2

,..., y

n

)T

− вектор-столбец значений зависи-

1

мой переменной размера n; β = (β

0

,β ,...,β

p

)T − вектор-столбец параметров раз-

1

мера p+1; ε = (ε , ε

2

,..., ε

n

)T

− вектор-столбец случайных ошибок размера n;

1

1

x

x

K

x

11

12

1 p

X =

1

x21

x22

K x2 p

K

K

K

K

K

1

xn1

xn2

K xnp

− матрица значений объясняющих переменных размера n×(p+1).

Тогда в матричной форме модель (12.14) примет вид:
y = Xβ + ε.	(12.15)
Оценкой модели (12.15) по выборке данных является	y = Xb + e, где

b= (b0 ,b1,...,bp )T , e = (e1, e2 ,..., en )T . Для оценки вектора неизвестных параметров

βприменим МНК:

n

Qε = ∑( yxi

i=1

− yi )2	n
	= ∑ei2 = eT e = (y − Xb)T (y − Xb) → min .	(12.16)

i=1

Учитывая, что транспонирование произведения матриц равносильно произведению транспонированных матриц, т.е. (Xb)T = bTXT, получим

(y − Xb)T (y − Xb) = yT y − 2bT XT y + bT XT Xb .

164

Произведение yTXb есть матрица размера 1×1, т.е. скалярная величина, следовательно, оно не меняется при транспонировании: yTXb = (yTXb)T = bTXTy. Поэтому условие минимизации (12.16) примет вид:

Qε = yT y − 2bT XT y + bT XT Xb → min .

На основании необходимого условия экстремума функции нескольких переменных Qε = Qε (b0 ,b1,K,bp ) , представляющей (12.16), необходимо прирав-

нять нулю вектор частных производных

	∂Q		∂Q		∂Q		∂Q
		=		,		,...,			.	(12.17)
	∂b		∂b		∂b		∂b
			0		1			p

Предложение 12.3. Для вектора частных производных справедливы сле-

дующие формулы:	∂	(bT c) = c,		∂	(bT Ab) = 2Ab , где b и c – вектор-столбцы,
	∂b			∂b
A – симметрическая матрица (симметричные относительно главной диагонали
элементы равны). #
Поэтому, полагая c = XTy,			A = XTX, запишем (12.17) в виде

∂Qε

= −2XT y + 2XT Xb = 0 ,

∂b

откуда получаем систему уравнений для определения вектора b:

XT Xb = XT y .

(12.18)

Найдем матрицы, входящие в систему (12.18):

1

1

K 1

1

x

K x

x

x

K x

1

x11

K x1p

=

XT X = 11

21

n1

21

2 p

K K

K K

K K

K K

x

x

2 p

K x

np

1

x

n1

K x

np

1p

n

∑xi1

K ∑xip

∑xi1

2

=

∑xi1

K ∑xi1xip

,

(12.19)

K

K

K

K

∑xip

∑xi1xip

K ∑xip2

1

1

K 1 y1

∑yi

XT Y =

x11

x21

K xn1

y

2

∑yi xi1

(12.20)

=

K

.

K K K K

K

x2 p

x1 p

K xnp yn

∑yi xip

В частном случае из системы (12.18) с учетом (12.19), (12.20) для одной объясняющей переменной (p = 1) нетрудно получить уже рассматривавшуюся систему нормальных уравнений (12.3) в матричном виде:

165

	n	∑xi	b0			∑yi
		2			=	.
∑xi		∑xi	b1		∑yi xi

Для решения системы (12.18) необходимо ввести еще одну предпосылку 6 для множественного регрессионного анализа: определитель матрицы XTX не должен равняться нулю. Решением системы (12.19) является вектор

b = (XT X)−1(XT y) .

Значимость множественной регрессии проверяется аналогично критерию (12.12) для одномерного случая. Отличие заключается в том, что число связей множественной регрессии l = p + 1 > 2.

12.3.2. Нелинейные модели регрессии

Многие экономические процессы не являются линейными по сути. Их моделирование линейными уравнениями не даст положительного результата. Так, например, нелинейными оказываются производственные функции (зависимости между объемом произведенной продукции и основными факторами производства), функции спроса (зависимость между спросом на товары или услуги и их ценами или доходом) и т.д. Примером нелинейной модели является производственная функция Кобба–Дугласа Y = AKαLβ, где Y – объем выпуска; K, L – затраты капитала и труда; α, β – параметры модели.

Различают два класса нелинейных регрессий:

1.Регрессии, нелинейные относительно объясняющих переменных, но линейные по оцениваемым параметрам.

2.Регрессии, нелинейные относительно оцениваемых параметров.

Для оценки параметров нелинейных моделей используются два подхода. Первый подход основан на линеаризации модели. Он заключается в том, что с помощью подходящих преобразований зависимой и объясняющих переменных исследуемую зависимость представляют в виде линейного соотношения между преобразованными переменными.

Второй подход применяется, если не удается подобрать соответствующее линеаризующее преобразование.

Нелинейные регрессионные модели и другие аспекты регрессионного анализа подробно рассматриваются в курсах «Статистика» и «Эконометрика».

166

ЗАДАЧИ ДЛЯ САМОСТОЯТЕЛЬНОЙ РАБОТЫ

1.Случайные события. Алгебра событий

1.1.Имеем событие A. Найти: 1) А + Ω; 2) А + ; 3) А + A; 4) А А; 5) АΩ; 6) А ;

7)A + A; 8) A A ; 9) A .

1.2.Доказать, используя графическое представление событий A и B в виде диа-

грамм Эйлера–Венна формулы де Моргана: A + B = A + B , A B = A + B .

1.3. Имеем		события A, B.	Верны или	нет равенства:	1) A B = B A;
2)	A A + B;	3) A A + B ;	4) A A B ;	5) A B A ;	6) A B A + B ;
7)	A + B A B .

2.Классическое определение вероятности. Основные теоремы

2.1.В ящике имеется 4 белых и 7 черных шаров. Какова вероятность, что наудачу вынутый шар: а) окажется белым; б) окажется черным?

2.2.Брошены две монеты. Какова вероятность, что на обеих монетах выпадут гербы?

2.3.Из 10 билетов выигрышными являются 2. Определить вероятность того, что среди взятых наудачу 5 билетов: а) 1 выигрышный; б) 2 выигрышных; в) хотя бы 1 выигрышный?

2.4.Среди 22 сотрудников фирмы 10 менеджеров, 5 агентов по рекламе, 7 – по маркетингу. Какова вероятность, что среди наугад отобранных 15 сотрудников окажется 8 менеджеров, 2 агента по рекламе, 5 – по маркетингу?

2.5.На полке в кабинете в случайном порядке расставлены 12 учебников по математике, среди которых 7 по теории вероятностей. Студент берет наугад 4 учебника. Какова вероятность, что хотя бы 1 учебник окажется по теории вероятностей?

2.6.Вероятность попадания в мишень для первого спортсмена 0,75, а для второго – 0,85. Спортсмены независимо друг от друга сделали по одному выстрелу. Найти вероятность того, что в мишень попадет хотя бы один спортсмен?

2.7.На перевозку груза направлены четыре автомобиля. Вероятность нахождения каждой из машин в исправном состоянии равна 0,8. Найти вероятность того, что в работе участвует хотя бы один из выделенных для этого автомобилей.

167

2.8.Предприниматель решил вложить свои средства поровну в два контракта, каждый из которых принесет ему прибыль в размере 100%. Вероятность того, что любой из контрактов не «лопнет», равна 0,8. Какова вероятность того, что по истечении контрактов предприниматель, по меньшей мере, ничего не потеряет?

2.9.На склад 3/4 комплектующих элементов поступает с первого предприятия, на котором вероятность выпуска годной продукции равна 0.98 и 1/4 элементов

– со второго предприятия, на котором вероятность выпуска годной продукции равна 0.96. Какова вероятность того, что полученный со склада элемент окажется годным?

2.10.В группе из 10 студентов, пришедших на экзамен, 3 подготовлены отлично; 4 - хорошо; 2 - посредственно; 1 - плохо. В экзаменационных билетах имеется 20 вопросов. Отлично подготовленный студент может ответить на все 20 вопросов, хорошо подготовленный – на 16, посредственно – на 10, плохо – на 5.Вызванный наугад студент ответил на три произвольно заданных вопроса. Найти вероятность того, что этот студент подготовлен: а) отлично; б) плохо?

2.11.1/3 ламп производится на первом заводе, 1/4 – на втором, остальные – на третьем. Вероятности брака в продукции первого, второго и третьего заводов соответственно равны 0,2, 0,15 и 0,05. Найдите вероятность того, что бракованная лампа произведена; а) на первом заводе; б) на втором заводе; в) на третьем заводе.

3.Дискретные случайные величины

3.1.Вероятность покупки бракованного комплекта посуды равна 0,1. Найти вероятность того, что из 7 купленных комплектов 5 будет без брака.

3.2.Контрольный тест состоит из 4 вопросов. На каждый вопрос предлагается 4 варианта ответа, среди которых только один правильный. Найти вероятность правильного ответа на два, три и четыре вопроса теста для неподготовленного человека (выбор ответа наудачу).

3.3.Вероятность изготовления годного изделия равна 0.8. Найти вероятность того, что из 100 изготовленных изделий годными окажутся 75 шт.

3.4.30% изделий данного предприятия – это продукция высшего сорта. Некто приобрел 6 изделий, изготовленных на этом предприятии. Чему равна вероятность, что 4 из них – высшего сорта.

3.5. Пусть случайная величина ξ имеет биномиальное распределение. P(vn = k) = Ckpk(1−p)n−k, k = 0, 1, … , n. Определть ее дисперсию.

168

3.6.Вероятность поломки одного из пяти работающих независимо друг от друга станков равна 0,2. Если происходит поломка, станок до конца дня работает. Какова вероятность того, что: а) 2 станка сломаются в течение дня; б) не менее одного станка будут работать исправно?

3.7.В пачке из 10 накладных имеется 6 правильных. Наудачу отобраны 3 накладных. Составить закон распределения числа правильных накладных среди отобранных.

3.8.Закон распределения P(X = x) приведен в таблице. Требуется:

а) определить математическое ожидание M[X], дисперсию D[X] и среднее квадратическое отклонение σX случайной величины X;

б) построить график функции распределения.

X	0	1	2	3	4	5
P	0,16	0,35	0,31	0,12	0,03	0,03

3.9.В среднем на телефонной станции заказывают три телефонных разговора в течение пяти минут. Какова вероятность, что в течение пяти минут будет заказано разговоров: а) 0; б) 1; в) 2; г) 3; д) 4; е) больше четырех?

3.10.Завод получает сырье на автомашинах от трех независимо работающих поставщиков. Вероятность прибытия автомашины от первого поставщика равна 0,2, от второго – 0,3, от третьего – 0,1. Составить распределение числа прибывших машин. Найти математическое ожидание и дисперсию полученной случайной величины. Построить график функции распределения.

4.Непрерывные случайные величины

4.1. Найти математическое ожидание и дисперсию случайной величины ξ, заданной плотностью распределения pξ(x). Найдите интегральную функцию распределения, постройте графики pξ(x), Fξ(x).

0,				x ≤ 0,
pξ (x) =	x		,	0 < x ≤ 4,
8				x > 4.
0,

4.2. Функция распределения случайной величины ξ имеет вид

	0		npu	x ≤ 0,
		3	npu	0 < x ≤1,
Fξ (x) = ax
	1		npu	x >1.

Найдите значение коэффициента а и плотность распределения вероятностей.

169

4.3.Случайная величина ξ распределена по нормальному закону с М[ξ] = 10, D[ξ] = 4. Найти вероятность того, что случайная величина ξ попадет в интерва-

лы: а) (12; 14); б) (8; 12).

4.4.Случайная величина ξ распределена по нормальному закону с М[ξ] = 10.

Найти P(0 < ξ < 10), если известно, что P(10 < X <20 ) = 0,3.

4.5.При измерении детали возникают случайные ошибки, подчиненные нормальному закону со средним квадратическим отклонениемв 10 мм. Найти вероятность того, что измерение произведено с ошибкой, не превосходящей 15 мм.

4.6.Работа машины, расфасовывающей сахар, подчиняется правилам нормального распределения со стандартным отклонением σ = 20 гр. Машина может быть настроена на любой средний вес упаковки с точностью до грамма. В данном случае требуемый вес упаковки составляет 1000 гр.Упаковка сахара должна удовлетворять трем условиям:

-средний вес упаковки – не менее 1000 гр.;

-вес не более чем 2,5% упаковок, может быть меньше 975 гр.;

-вес не более чем одной из 10000 упаковок, может быть меньше 950гр.

На данный момент машина налажена на средний вес упаковки - 1010 гр. а) Какова доля упаковок, содержащих менее 975 гр?

б) Какова доля упаковок, содержащих менее 950 гр?

4.7. Найти вероятность попадания в интервал (а, b) случайной величины ξ, распределенной по показательному закону с параметром λ.

5.Многомерные случайные величины

5.1.Распределение вероятностей двумерной случайной величины (X, Y) задано таблицей. Найти законы распределения составляющих величин X, Y и коэффи-

циент корреляции ρ(X, Y).

	X	0,1	0,2	0,3
	Y
	6,7	0,15	0,1	0,02
	14	0,06	0,25	0,08
	26	0,01	0,03	0,3

5.2. Случайная величина Х имеет распределение, заданное таблицей.

Xi	-2	0	4	5
pi	0,1	0,4	0,3	0,2

170