- •1. СЛУЧАЙНЫЕ ВЕЛИЧИНЫ И ИХ ЗАКОНЫ РАСПРЕДЕЛЕНИЯ
- •1.1. Законы распределения дискретных случайных величин
- •1.2. Числовые характеристики дискретных случайных величин, их свойства
- •1.3. Законы распределения непрерывных случайных величин
- •1.4. Числовые характеристики непрерывных случайных величин
- •1.5. Выборочные аналоги интегральной и дифференциальной функций распределения
- •1.6. Лабораторная работа № 1. Методы описательной статистики в пакете STATGRAPHICS
- •1.7. Нормальное распределение и его числовые характеристики
- •2. РАСПРЕДЕЛЕНИЯ, СВЯЗАННЫЕ С НОРМАЛЬНЫМ РАСПРЕДЕЛЕНИЕМ
- •2.1. -распределение
- •2.5. Гамма–распределение
- •2.7. Лабораторная работа № 2. Семейства вероятностных распределений в математических пакетах STATGRAPHICS и MAHTCAD
- •3. МЕТОД СТАТИСТИЧЕСКИХ ИСПЫТАНИЙ (МЕТОД МОНТЕ-КАРЛО)
- •3.1. Общие принципы метода статистических испытаний
- •3.2. Датчики базовой случайной величины (БСВ)
- •3.3. Моделирование на ЭВМ стандартной равномерно распределенной случайной величины (базовой случайной величины)
- •3.5. Моделирование непрерывных случайных величин
- •3.6. Лабораторная работа № 3. Моделирование некоторых распределений с помощью базовых случайных величин в пакете MATHCAD
- •4. ТОЧЕЧНЫЕ И ИНТЕРВАЛЬНЫЕ ОЦЕНКИ ПАРАМЕТРОВ РАСПРЕДЕЛЕНИЙ И ИХ СВОЙСТВА
- •4.1. Статистические характеристики вариационных рядов и показатели их качества
- •4.3. Точечные оценки вероятности по частоте, математического ожидания и дисперсии
- •4.5. Методы получения точечных оценок
- •4.6. Сущность интервального оценивания
- •4.7. Приближенные и точные доверительные интервалы для параметров распределений
- •4.8. Лабораторная работа № 4. Оценивание параметров вероятностных распределений в пакетах STATGRAPHICS и MATHCAD
- •5. ПРОВЕРКА СТАТИСТИЧЕСКИХ ГИПОТЕЗ. КРИТЕРИИ СОГЛАСИЯ
- •5.1. Понятие статистической гипотезы. Основные этапы проверки гипотез
- •5.2. Критерий Неймана – Пирсона
- •5.3. Проверка гипотез о числовых значениях параметров нормального распределения
- •5.4. Проверка гипотез о параметрах двух нормальных распределений
- •5.5. Лабораторная работа № 5. Проверка статистических гипотез о числовых значениях нормальных распределений в математических пакетах STATGRAPHICS и MATHCAD
- •5.6. Критерии согласия
- •Решение
- •5.7. Лабораторная работа № 6. Критерии согласия в статистическом пакете STATGRAPHICS
- •5.8. Лабораторная работа №7. Критерии согласия в математическом пакете MATHCAD
- •6. ОДНОФАКТОРНЫЙ ДИСПЕРСИОННЫЙ АНАЛИЗ
- •6.1. Постановка задачи
- •6.2. Дисперсионный анализ
- •Решение
- •6.3. Ранговый однофакторный анализ
- •6.4. Критерий Краскела - Уоллиса (Н-критерий)
- •Решение
- •6.5. Лабораторная работа № 8. Однофакторный ранговый и дисперсионный анализ в статистическом пакете STATGRAPHICS
- •7. РЕГРЕССИОННЫЙ АНАЛИЗ
- •7.1. Модели регрессии
- •7.4. Проверка адекватности линейной регрессии
- •7.5. Выбор наилучшей регрессии
- •8. НЕПАРАМЕТРИЧЕСКИЕ МЕТОДЫ СТАТИСТИКИ
- •8.2. Критерий знаков
- •8.3. Критерий знаков для одномерной выборки
- •8.4. Ранговый критерий (одновыборочный критерий Вилкоксона)
- •8.5. Двухвыборочный ранговый критерий Вилкоксона
30. Исследовалось влияние метронома на плавность (количество ошибок) речи за определенный отрезок времени при следующих условиях: N- испытуемый говорил без помощи метронома, R- испытуемый говорил при ритмичной работе метронома, А- испытуемый говорил под неритмичный метроном. Полученные данные приведены в таблице.
Условия |
|
|
|
|
Количество ошибок в речи |
|
|
|
|
|||||
N |
5 |
3 |
3 |
4 |
|
2 |
2 |
2 |
3 |
|
2 |
0 |
4 |
1 |
R |
3 |
3 |
1 |
5 |
|
2 |
0 |
0 |
0 |
|
0 |
1 |
2 |
2 |
A |
15 |
11 |
18 |
21 |
|
6 |
17 |
10 |
8 |
|
13 |
4 |
11 |
17 |
7. РЕГРЕССИОННЫЙ АНАЛИЗ
7.1. Модели регрессии
Одной из важнейших задач математической статистики является задача о нахождении связи между двумя случайными величинами X и Y . Во многих случаях одна из двух величин может быть и неслучайной. Предположим, что функциональная зависимость между переменными, называемая моделью, известна из предварительных сведений с точностью до параметров θ1, θ2 ,..., θk и имеет вид
yi = f (xi , θ1, θ2 ,..., θk ), i = |
|
. |
(7.1.1) |
1, n |
|||
Требуется по результатам наблюдений (xi , yi ), i =1,2,..., n , |
найти |
оценки неизвестных параметров θ1, θ2 ,..., θk . Очень часто задача ставится еще проще. Модель в этом случае имеет линейный вид, т.е.
yi = θ0 + θ1x1,i + θ2 x2,i +... + θk xk,i , |
(7.1.2) |
|
где xi - неслучайные аргументы, а y |
- случайная величина. Таким обра- |
|
зом, здесь аргументы xi определяют |
y лишь в среднем, оставляя просто- |
ры для случайных колебаний.
Ситуация, в которой экспериментатор может выбирать значения аргументов xi по своему желанию и таким образом планировать будущие
эксперименты, называется активным экспериментом. В этом случае значения аргументов xi обычно рассматриваются как неслучайные. В отли-
чие от этой ситуации в пассивном эксперименте значения переменных xi
складываются вне воли экспериментатора, под действием других обстоятельств. Поэтому значения xi приходится толковать как случайные вели-
чины, что накладывает особые черты на интерпретацию результатов. 189
Итак, в регрессионном анализе предполагается, что можно прямо или косвенно контролировать одну или несколько независимых переменных x1, x2 ,..., xn , и их значения вместе с множеством параметров θ1, θ2 ,..., θk
определяют математическое ожидание зависимой переменной Y . Задача состоит в вычислении оценок параметров с помощью выборочных данных.
Возникает вопрос, почему представляет интерес регрессия? Очень часто применение регрессии связано с необходимостью оценить (или предсказать) среднее значение y при конкретных значениях переменных
xi . Иногда требуется установить определенную функциональную связь между xi и математическим ожиданием Y . В общем случае какая-нибудь
форма функциональной связи является полезным источником информации о зависимости переменной Y от xi .
При попытках аппроксимировать данные кривой или поверхностью сначала предполагается существование функциональной зависимости определенного вида. С помощью данных и соответствующих математических вычислений находят оценки параметров, дающие наилучшее приближение согласно какому-либо критерию. Можно выяснить, насколько хороша данная зависимость, но не исключено, что удастся получить лучшую, выбрав другую функцию и другой критерий.
Здесь стоит подчеркнуть одно существенное обстоятельство. Имея в своем распоряжении мощный компьютер, сравнительно легко перебрать большое количество разных функций, аппроксимирующих данные. Это сильное искушение, так как можно без конца перебирать комбинации и преобразования данных, надеясь получить идеальный вариант. Совершенно неправильно считать, что найденное уравнение будет наилучшим только потому, что оно дает хорошее приближение, если оно нисколько не соответствует реальным физическим или техническим связям. В любой регрессионной задаче в первую очередь следует рассматривать физически обоснованную конкретную функциональную форму независимо от того, была ли она получена с помощью аналитических выводов или благодаря какому-нибудь иному предварительному знанию свойств переменных. Вполне возможно, что для аппроксимации этой функции понадобятся другие функциональные связи.
В последнее время регрессионный анализ – очень бурно развивающаяся отрасль вычислительной математики. Благодаря ему возникло целое направление, связанное с решением плохо обусловленных задач. Появилось огромное число подходов, алгоритмов и программ, позволяющих в этих нелегких условиях более или менее рационально организовывать вычислительные процедуры.
190
При оценивании параметров регрессий приходится прибегать к поисковым методам, имеющим итеративный характер. Для их реализации написаны многочисленные программы, развитие которых вылилось в метод всех возможных регрессий, а затем в шаговый регрессионный анализ. При этом необходимо отметить несколько тенденций, определяющих методы и темпы развития регрессионного анализа.
Первая тенденция заключается в пересмотре довольно жестких базовых предпосылок классического регрессионного анализа. Это касается таких предположений, как нормальность распределения ошибок, однородность, независимость и т.п. Отказ хотя бы от одного из перечисленных предположений фактически приводит к созданию новой модели.
Вторая тенденция состоит в вовлечении в регрессионный анализ более тонких математических методов, таких как функциональный анализ, теория групп, обобщение регрессионной задачи на бесконечномерные пространства.
Третья тенденция – обращение ко все более сложным объектам исследования. Речь может идти о моделях в форме обыкновенных дифференциальных уравнений, интегро-дифференциальных уравнений, уравнений математической физики.
Наконец, четвертая тенденция – одновременный выбор модели и метода оценивания, итеративная обработка результатов и адаптация модели и метода оценивания друг к другу.
Рассмотрим сначала простейшую регрессионную задачу: построим уравнение линейной регрессии в рамках гауссовской модели наблюдений.
Пусть имеется n парных наблюдений (x1, y1), (x2 , y2 ),..., (xn , yn ), причем примем, что переменная x - регрессор – неслучайна и измеряется без ошибок. Если при этом есть признаки связи между наблюдениями, то обычно исследователь спешит построить некоторую кривую, чаще всего прямую линию, связывающую все эти наблюдения. Для нахождения параметров уравнения регрессии обычно используется метод наименьших квадратов или метод максимального правдоподобия. Метод наименьших квадратов при оценке параметров регрессии не требует никаких предположений о нормальности распределения ошибок, но они становятся необходимыми при построении доверительных интервалов и для проверки гипотез о значениях параметров уравнения регрессии.
Рассмотрим одномерную линейную модель вида
yi = α + βxi + εi , i = |
1, n |
, |
(7.1.3) |
где εi - ошибки измерений переменной y предполагаются независимыми случайными величинами, распределенными нормально: εi N(0, Dε ).
191
Наша задача состоит в том, чтобы по наблюдениям найти оценки a = α), b = β и s2 = D) для параметров α, β и D соответственно.
Перечислим еще раз все явные и неявные предположения, принимаемые в рамках модели наблюдений. От их выполнения зависит качество получаемых оценок и возможность применения к ним процедур статистического анализа.
1.Значения x задаются или измеряются без ошибок.
2.Регрессия Y на X линейна, т.е. M (Y x) = α +βx .
3.Отклонения yi − M (Yxi ) взаимно независимы.
4.Эти отклонения имеют одну и ту же дисперсию D , точное значение которой неизвестно, при всех x . Это свойство называется гомоскеда-
стичностью, а сами дисперсии – гомоскедастичными.
5.Отклонения распределены по нормальному закону.
6.Данные действительно были взяты из совокупности, относительно которой должны быть сделаны выводы.
7.Не было посторонних переменных, существенно уменьшающих значения связи между X и Y .
Полезно отметить последствия невыполнения некоторых предположений. Невыполнение третьего предположения может существенно повлиять на характеристики применяемых статистических методов из-за не учета зависимости между переменными, представляющими измерения над разными объектами. Хотя отклонения от нормальности встречаются довольно часто, они имеют значение, только если очень значительны. Отсутствие гомоскедастичности приводит к тому, что метод наименьших квадратов не гарантирует минимальных дисперсий оценок. Невыполнение последних двух предположений также имеет принципиальное значение. Если они нарушены, полезность проведенного исследования незначительна.
7.2.Оценка параметров линейной регрессии методом наименьших
квадратов
|
Перепишем уравнение регрессии в несколько ином виде |
|
||||||
|
|
|
y = α +β(x − |
|
|
), |
(7.2.1) |
|
|
|
|
x |
|||||
|
|
|
n |
|
||||
где |
|
= |
1 ∑xi . Эта прямая называется теоретической линией регрессии |
|||||
x |
||||||||
|
|
|
n i=1 |
|
||||
или прямой отклика. Уравнение |
|
|||||||
|
|
|
y) = a + b(x − |
|
) |
(7.2.2) |
||
|
|
|
x |
определяет кривую, которая является оценкой для прямой регрессии. 192
Суть метода наименьших квадратов состоит в выборе таких оценок a и b , которые бы минимизировали сумму квадратов отклонений
наблюденных значений yi от прогнозируемых величин yi , получен-
ных |
подстановкой |
значений |
|
xi |
в уравнение (7.2.2), т.е. |
|
n |
(yi − y)i )2 |
n |
[yi − a − b(xi − |
|
)]2 min . Чтобы найти значения a |
|
R = ∑ |
= ∑ |
x |
||||
i=1 |
|
i=1 |
|
|
|
|
и |
b , минимизирующие R , продифференцируем это уравнение по a и b |
и приравняем производные нулю: |
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
∂R |
= −2∑ |
[yi − a − b(xi − x)]= 0, |
||||||||
|
|
∂a |
|
i =1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
∂R |
|
n |
[yi − a − b(xi − |
|
)](xi − |
|
)= 0. |
|||||
|
|
|
|
|||||||||
= −2∑ |
x |
x |
||||||||||
|
||||||||||||
|
∂b |
|
i =1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Раскроем здесь члены под знаком суммы: ∑n yi − an − b∑n (xi − x) = 0 ,
i=1 i=1
∑n yi (xi − x)− a∑n (xi − x)− b∑n (xi − x)2 = 0 . Но ∑n (xi − x) = ∑n xi − ∑n x =
i=1 |
|
|
|
i=1 |
i=1 |
|
|
|
|
i =1 |
|
|
i =1 |
i =1 |
|
|
|
|
|
n |
n |
(xi − |
|
)2 |
n |
(xi − |
|
)yi . Отсюда лег- |
|
= n |
x |
− n |
x |
= 0 . Тогда na = ∑ yi , |
b∑ |
x |
= ∑ |
x |
||||||
|
|
|
|
|
i=1 |
i=1 |
|
|
|
i=1 |
|
|
|
|
ко получить оценки параметров a и b :
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
(xi − |
|
|
)yi |
|
|
|
|
|
|
|
|
||||||
|
|
|
|
a = α) |
|
1 |
n |
b = β) = |
∑ |
x |
|
|
|
|
|
|
|
|
||||||||||||||||||||||||
|
|
|
|
= |
∑ yi = |
y |
, |
i =1 |
|
|
|
|
|
|
|
|
. |
|
|
|
(7.2.3) |
|||||||||||||||||||||
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
n i=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∑(xi − x) |
|
|
|
|
|
|
|
|
||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
|
|
|||||||||
Вторую оценку часто видоизменяют и переписывают в следующем |
||||||||||||||||||||||||||||||||||||||||||
|
n |
|
|
|
|
|
|
n |
|
|
|
|
|
n |
|
|
|
n |
|
|
|
|
n |
|
|
|
|
|||||||||||||||
виде |
∑ |
(xi − |
|
|
)yi |
= ∑(xi − |
|
)yi + |
|
|
∑(xi − |
|
)=∑ |
(xi − |
|
)yi |
+ ∑ |
(xi − |
|
)y |
= |
|||||||||||||||||||||
x |
x |
|
y |
x |
x |
x |
||||||||||||||||||||||||||||||||||||
|
i =1 |
|
|
|
|
|
|
i =1 |
|
|
|
|
i =1 |
|
|
i =1 |
|
|
|
|
i =1 |
|
|
|
|
|||||||||||||||||
n |
(xi − |
|
)(yi − |
|
|
). |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
= ∑ |
x |
y |
Тогда |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||
i =1 |
|
|
|
|
|
|
|
|
|
|
|
∑[(xi − x)(yi − y)] |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
b = |
i=1 |
|
|
|
|
|
|
|
|
|
|
. |
|
|
|
|
|
|
|
|
|
|
(7.2.4) |
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
(xi − |
|
)2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
∑ |
x |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i=1
193
Рассмотрим теперь свойства полученных оценок. Они являются несмещенными, состоятельными и эффективными в классе линейных (относительно наблюдений) оценок. Действительно,
|
|
|
M (a) = M 1 ∑ yi = |
1 ∑M (yi ) = |
1 ∑M [α + β(xi − x)+ εi ]= |
|
|
|
|
||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
i =1 |
|
|
|
i =1 |
|
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||
|
|
|
|
|
|
|
|
|
n |
n |
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||
|
1 |
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
= |
|
αn + |
β∑(xi − x) = α , |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||
|
|
i =1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
∑(xi − x)yi |
|
|
|
|
|
∑(xi − x)M (yi ) |
|
∑[(xi − x)(α +β(xi − x))] |
|||||||||||||||||||||||||||||
|
|
|
M (b) |
= M |
|
i =1 |
|
|
|
|
|
|
|
|
|
= |
i =1 |
|
|
|
|
|
|
|
|
= |
i =1 |
|
|
|
= |
||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
∑(xi − |
|
)2 |
|
|
|
|
|
∑(xi − |
|
)2 |
|
|
|
∑(xi − |
|
)2 |
|
|
|
|
||||||||||||||||
|
|
|
|
|
|
|
|
|
|
x |
x |
|
|
x |
|
|
|
|
|||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
i =1 |
|
|
|
|
||||||||||||
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∑(xi − |
|
|
) |
|
|
|
|
∑ |
(xi − |
|
)2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||
|
|
|
x |
|
|
|
x |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||
= α |
i =1 |
|
|
|
|
|
+ β |
i =1 |
|
|
|
|
|
|
|
|
|
|
|
= β. |
Здесь учтено, |
что переменные |
|
x - не- |
|||||||||||||||||||||||
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i |
||
|
|
|
∑(xi − |
x |
)2 |
|
|
|
|
∑ |
(xi − |
x |
)2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||
|
|
|
i =1 |
|
|
|
|
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
случайные, а |
yi - случайные величины. Кроме того, математическое ожи- |
||||||||||||||||||||||||||||||||||||||||||||||
дание yi есть теоретическая линия регрессии (7.2.1). |
|
|
|
|
|||||||||||||||||||||||||||||||||||||||||||
|
|
|
Найдем теперь дисперсии оценок |
a и b в предположении, |
что на- |
||||||||||||||||||||||||||||||||||||||||||
блюдения |
|
|
|
|
yi |
|
|
независимы и |
нормально |
распределены, |
причем |
||||||||||||||||||||||||||||||||||||
D(yi ) = D = σ2 |
|
(предположения |
3, 4 |
|
|
|
и 5 |
предыдущего подраздела). |
|
|
|
|
1 |
|
n |
|
|
|
|
1 |
|
n |
|
|
|
|
|
|
|
D |
|
|
|
D |
|
||||
Имеем: |
D(a) = D |
∑yi = |
|
|
∑D(yi ) = |
|
|
n = |
, |
|||||||||||||||||||||
|
|
2 |
|
2 |
n |
|||||||||||||||||||||||||
|
|
|
n i=1 |
|
|
|
n |
|
i =1 |
|
|
|
|
|
|
|
n |
|
||||||||||||
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∑(xi − x)yi |
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
||||||
|
|
i =1 |
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
2 |
|
||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||
D(b) = |
D |
|
|
|
|
= |
|
|
|
|
|
|
|
|
|
|
|
∑ |
(xi − x) |
D(yi ) = |
||||||||||
n |
|
2 |
|
|
|
|
|
|
|
|
|
|
2 |
|||||||||||||||||
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
|
|||
|
|
∑(xi − x) |
|
|
|
∑ |
(xi |
− x)2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
|
|
i =1 |
|
|
|
|
|
|
=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
i |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
= |
|
|
|
|
D |
|
|
|
|
. |
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∑(xi − |
|
)2 |
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
x |
|
|
|
|
|
|
|
|
i =1
|
n |
(xi − |
|
)2 D |
|||
∑ |
x |
||||||
i =1 |
|
|
|
|
|
= |
|
|
n |
|
|
|
|
2 |
|
|
∑ |
(xi − x)2 |
|
||||
|
|
|
|
|
|
|
|
i =1 |
|
Состоятельность оценок a и b немедленно следует после применения к ним неравенства Чебышева. Например, для оценки a получим
194
P( |
|
a − α |
|
≥ ε)≤ |
D(a) |
= |
D |
. Отсюда lim P( |
|
a − α |
|
≥ ε)= 0 . |
|
|
|
|
|||||||||
|
|
ε2 |
nε2 |
|||||||||
|
|
|
|
|
|
n→∞ |
|
|
|
|
||
|
|
|
|
|
|
|
|
В общем случае доказательство того, что метод наименьших квадратов дает оценки с наименьшей дисперсией в классе всех несмещенных оценок, довольно сложно. Приведем его для оценки b параметра β .
Предположим, что существует еще одна линейная оценка b′ параметра β ,
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
отличная от оценки |
b |
и пусть, |
|
например, |
b′ = ∑ci yi . |
Очевидно, |
что |
||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
n |
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
′ |
|||||||||||||
M (b′) = ∑ci M (yi ) = ∑ci [α + β(xi − x)]= α∑ci |
+ β∑(xi |
− x)ci |
. |
|
|
|
Оценка |
|
|
|
|||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
b |
|||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
i=1 |
|
|
|
|
|
|
i=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i=1 |
|
|
i=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||
будет несмещенной, если M (b′) = β , т.е. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∑ci |
= 0, |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
(7.2.5) |
|||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
(x − |
|
|
)c |
= 1. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
x |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∑ |
|
|
i |
|
|
|
i |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
D(b′) |
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
В этих условиях |
= ∑ci2 D(yi ) = D∑ci2 = |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
(xi |
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
|
|
|
|
|
|
xi − x |
|
|
|
|
|
|
|
xi − x |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
2 |
|
|
|
|
n |
|
|
|
− x) |
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||||||||
= D∑ |
ci |
|
− |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
+ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
= D ∑ci + |
∑ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
− |
|
|
|
|
|||||||||||||||||||||||||||
n |
|
|
|
|
|
|
2 |
|
|
n |
|
|
|
|
|
|
|
|
|
2 |
|
|
n |
|
|
|
|
|
|
|
2 |
|
|
|
|
||||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||||||||||||||||||||
i =1 |
|
|
|
|
∑(xi |
− x) |
|
∑(xi − x) |
|
|
|
|
|
|
|
|
|
i =1 |
|
|
|
i =1 |
|
∑(xi |
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
− x) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
||||
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||
|
|
|
|
xi − x |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
xi − x |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||
_ 2∑ci |
|
|
+∑ |
|
(xi − x) |
|
+ 2∑ci |
|
|
|
|
|
|
|
|
|
|
−2∑ |
|
|
(xi − x) |
|
|
= |
|||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||||||||||||||||||||||||||
i =1 |
|
n |
|
|
|
2 |
|
|
i =1 |
n |
|
|
|
|
|
|
|
|
2 |
|
|
|
|
i =1 |
|
|
n |
|
|
|
|
|
2 |
|
|
|
i =1 |
n |
(xi |
|
|
|
|
|
|
|
|
2 |
|
|
|||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
∑(xi − x) |
|
|
|
|
|
|
|
|
∑ |
(xi − x)2 |
|
|
|
|
|
|
|
|
|
|
∑(xi − x) |
|
|
|
|
|
|
∑ |
− x)2 |
|
|
|
||||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
i =1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
xi − x |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
xi − x |
|
|
|
xi − x |
|
|
|
|
|
|
|
|
|
xi − x |
|
|
|
|
||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||||||||||||||
= ∑ |
ci − |
|
|
|
|
|
|
|
|
+ ∑ |
ci − |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
+ ∑ci |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
. |
|||||||||||||||||||||||||||||
|
n |
|
2 |
n |
|
|
|
|
|
|
|
|
2 |
|
n |
|
|
|
|
|
|
|
|
2 |
|
|
|
n |
|
|
|
|
|
|
|
|
|
2 |
|
||||||||||||||||||||||||||||||||||||||||||||
i =1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
i =1 |
|
|
|
|
|
∑ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||
|
|
|
|
|
∑(xi − x) |
|
|
|
|
|
|
|
|
|
(xi − x) |
|
|
|
∑(xi − x) |
|
|
|
|
|
|
|
|
|
∑(xi − x) |
|
|
|
|||||||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
195 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Но ∑n (xi − x)2 - это константа, т.е. выражение под этой суммой уже не
|
|
i=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
зависит |
|
|
|
|
от |
|
|
|
|
|
|
|
индекса |
|
|
|
|
внешнего |
|
|
|
|
|
суммирования. |
Тогда |
|
|
||||||||||||||||||||||||||||||||||||||||||||||
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
xi − x |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
∑ci |
|
|
|
|
|
|
|
|
|
|
|
|
|
= |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∑ci (xi |
− x)= |
|
|
|
|
|
|
|
|
|
|
|
|
с учетом условий |
|
|
|||||||||||||||||||||||||||
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||
i=1 ∑ |
(xi − |
|
|
|
)2 |
|
|
|
|
|
∑(xi − |
|
|
|
|
)2 |
|
i=1 |
|
|
|
|
|
|
|
|
|
|
∑(xi − |
|
|
)2 |
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||
x |
|
|
|
x |
|
|
|
|
|
|
|
|
|
|
x |
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
i=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
(7.2.5). Аналогично |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
xi − x |
|
|
|
|
xi − x |
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||
∑ |
c |
|
− |
|
|
|
|
|
|
|
|
|
|
= |
|
|
|
|
|
|
|
|
|
|
|
|
|
c (x |
− x) |
|
(x − x)2 |
− (x − x)2 |
|
= |
|||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||||
i |
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
2 n |
|
|
|
|
|
|
|
2 |
|
|
|
|
n |
|
|
|
|
|
|
2 ∑ |
|
i i |
|
|
|
∑ |
i |
i |
|
|
|||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||
i=1 |
|
|
|
|
∑(xi − x) |
|
∑(xi − x) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i=1 |
|
|
|
|
|
|
|
|
|
i=1 |
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
∑(xi − x)2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
i=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
i=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
2 |
|
n |
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||
= |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∑ |
(xi − x) |
|
∑ci (xi |
− x)− ∑(xi |
− x) |
= |
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||
|
|
|
∑(xi |
− x)2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
2 |
|
|
|
n |
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||
= |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∑ |
(xi − x) |
|
− ∑(xi |
− x) |
|
= 0 . |
|
|
|
|
|
|
|
|
|
|
|
|
|
Поэтому |
|
|
|||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||||||
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||
|
|
|
∑(xi |
− x)2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
xi − x |
|
|
|
|
|
D |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||
D(b′) = D∑ |
ci − |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
+ |
|
|
|
|
|
|
|
|
|
|
|
. Последний член в получен- |
|
|
|||||||||||||||||||||||||||||||||||||||||
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
∑(xi − |
|
)2 |
|
|
|
|
∑ |
(xi − |
|
)2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
x |
|
|
x |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
ном выражении является константой. Следовательно, минимизировать |
|
|
|||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
D(b′) |
|
можно |
|
|
|
только за счет |
|
уменьшения |
|
первого |
|
члена. |
Полагая |
|
|
||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
xi |
− |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
ci = |
|
|
|
|
x |
|
|
|
|
, мы обратим первый член в нуль (меньше он не может |
|
|
|||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
∑(xi |
− |
x |
)2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i =1
n
быть) и тем самым минимизируем D(b′). Но если в формулу b′ = ∑ci yi
i=1
196
подставить значения ci , при которых D(b′) минимальна, то альтернатив-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∑(xi |
− |
|
|
|
|
)yi |
|
|
|
|
|
|
|
|
|||||||||||||
|
|
|
|
|
|
|
|
|
|
|
n |
|
x |
|
|
|
|
|
|
|
|
||||||||||||||||||||||
ная оценка b′ |
|
|
примет вид b′ = ∑ci yi |
= |
i =1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
, что |
совпадает |
|
с |
|||||||||||||||||||||
|
n |
(xi |
|
|
|
|
|
|
|
2 |
|
|
|
||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
i =1 |
|
∑ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
− x) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
оценкой |
наименьших квадратов. Поэтому b |
- |
|
линейная |
несмещенная |
||||||||||||||||||||||||||||||||||||||
оценка параметра β с минимальной дисперсией. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||
7.3. Интервальные оценки параметров линейной регрессии и |
|
|
|||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
кривой регрессии |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
Построим теперь доверительные границы для параметров α |
и β |
и |
|||||||||||||||||||||||||||||||||||||||||
кривой регрессии. Так как y) = a + b(x − |
|
) и D(a) = |
D |
|
, D(b) = |
|
D |
|
, |
||||||||||||||||||||||||||||||||||
x |
|
|
|||||||||||||||||||||||||||||||||||||||||
|
|
n |
|
|
|
|
|
||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
(xi − x) |
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∑ |
|
|||||
|
|
|
M (y)) = M [a + b(x − |
|
|
)]= M (a)+ (x − |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i=1 |
|
|
|
|
|
|
|||||||||||||||
то |
|
|
|
|
|
)M (b) = α + β(x − |
|
)= y , |
|||||||||||||||||||||||||||||||||||
|
|
x |
x |
x |
|||||||||||||||||||||||||||||||||||||||
D(y)) = D[a + b(x − |
|
|
)]= D(a)+ (x − |
|
)2 D(b) = |
D |
|
|
(x − |
|
)2 D |
= |
|
|
|
|
|
|
|
||||||||||||||||||||||||
|
|
|
|
+ |
|
x |
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||
x |
x |
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
∑(xi |
− |
|
)2 |
|
|
|
|
|
|
|
|
|
||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
x |
|
|
|
|
|
|
|
|
||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
= D 1 + |
(x − x)2 |
|
|
- выражение для дисперсии D(y)) |
в текущей точке x . |
||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||||||
n |
n |
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||
|
∑(xi − x) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
i=1 |
|
y) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
Очевидно, что |
|
- кроме того линейная функция от оценок a и b , кото- |
рые в свою очередь являются линейными оценками от нормально распределенных наблюдений yi . Следовательно, y) - нормально распределенная
случайная величина, и для нее может быть построен доверительный интервал стандартным образом. То же можно сказать и об оценках коэффициентов регрессии.
Заметим, что a и b независимы друг от друга, так же как независима
)
от них оценка D дисперсии D . Это можно доказать, рассмотрев, например, M (a b). После непродолжительных вычислений будет видно, что
197
M (a b) = K(a, b) = 0 . Следовательно |
a и b |
- некоррелированы, а по- |
||||||||||
скольку мы остаемся в рамках гауссовской модели, то и независимы. |
|
|||||||||||
|
|
В |
предыдущих |
разделах |
было |
показано, |
|
что |
дробь |
|||
) |
|
) |
|
|
|
|
) |
1 |
n |
|
||
nD D χn2−1, D = D . |
В нашем |
случае |
D = D = |
∑(yi − y)i )2 = |
||||||||
|
||||||||||||
|
|
|
|
|
|
|
|
|
n i =1 |
|
||
|
1 |
n |
(yi − a − b(x − |
|
))2 . Так как на случайные величины |
|
|
|
||||
= |
∑ |
x |
|
yi , входящие в |
||||||||
|
|
|||||||||||
|
n i =1 |
|
|
|
|
|
|
|
|
|
эту формулу, наложены два условия связи вида ∂∂Ra = 0 и ∂∂Rb = 0 , то чис-
ло степеней свободы уменьшается на число связей и nD)D χ2n −2 .
Составим |
дроби |
Стьюдента |
|
для |
a |
и b . В |
нашем |
случае |
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
D |
|
|
|
|
D |
|
|
|
|
|
|
z n |
|
|||
a N α, |
|
, b N |
β, |
|
|
|
|
|
|
, |
а |
по |
теории |
t = |
|
, где |
|
|
n |
(x |
|
|
)2 |
|
|||||||||||
|
n |
|
|
− |
|
|
|
|
|
|
|
v |
|
||||
|
x |
|
|
|
|
|
|
||||||||||
|
|
|
|
|
∑ |
|
i |
|
|
|
|
|
|
|
|
||
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
|
|
|
|
|
z N (0,1), |
v χn2 , причем в этой дроби под корнем в числителе стоит |
|||||||||||||||||||||
число |
степеней свободы случайной |
величины |
|
v . |
Выберем в качестве |
|||||||||||||||||
стандартной нормальной |
случайной |
величины |
|
|
z |
|
сначала выражение |
|||||||||||||||
a − α |
= |
(a − α) n |
N |
(0,1), затем |
b − β |
n |
|
|
2 |
N(0,1). Подставляя |
||||||||||||
|
||||||||||||||||||||||
D n |
|
σ |
|
|
σ |
|
∑(xi − x) |
|||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
||||
эти |
|
результаты |
|
|
в |
дробь |
|
|
Стьюдента, |
|
|
будем |
иметь |
|||||||||
ta = |
(a − α) n n − 2 |
= |
(a − α) n − |
2 |
tn −2 . |
|
|
|
|
|
Аналогично |
|||||||||||
|
|
|
|
|
|
|
|
) |
|
|
|
|
|
|
||||||||
|
D ( |
) |
D ) |
|
|
|
|
|
||||||||||||||
|
|
nD |
|
|
|
D |
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
(b −β) |
∑(xi − |
|
)2 |
n − 2 (b −β) (n − 2)∑ |
(xi − |
|
)2 |
|
|||||||||||||
|
x |
x |
|
|||||||||||||||||||
tb = |
|
|
|
i =1 |
|
) |
|
|
|
|
= |
|
|
|
)i =1 |
|
|
|
|
|
tn −2 . |
Нако- |
|
|
|
|
D |
nD D |
|
|
|
|
|
nD |
|
|
|
|
|
|
|
нец, получим в явном виде доверительные интервалы для коэффициентов
линейной регрессии. P( |
|
a − α |
|
< ε)= β′ |
по определению, где β′ - |
довери- |
|||||||||
|
|
||||||||||||||
|
a − α n − 2 |
< |
ε n − 2 |
|
|
(a − α) n − 2 |
< t |
′ |
|
= |
|||||
тельная вероятность. P |
) |
|
) |
|
= P |
) |
|
||||||||
|
|
|
|
|
|
β |
|
|
|||||||
|
|
|
D |
|
|
D |
|
|
D |
|
|
|
|
||
|
|
|
|
|
|
198 |
|
|
|
|
|
|
|
|
= P( |
|
t |
|
|
< tβ′ )= β′ , |
величина |
tβ′ |
может быть найдена |
из уравнения |
||||||||
|
|
||||||||||||||||
|
tβ′ |
|
|
|
|
|
|
|
) |
|
|
|
|||||
2 ∫sn−2 (t)dt = β′ . |
|
|
Тогда |
|
ε = tβ′,n−2 |
D |
|
и |
|||||||||
|
|
|
n − |
|
2 |
||||||||||||
|
0 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
) |
|
|
|
) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
I |
α |
= a − t ′ |
D |
2 |
, a + t |
′ |
D |
. |
|
|
|
|
|||||
|
|
|
|
β ,n−2 |
n − |
|
β ,n−2 |
n − 2 |
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Точно такие же преобразования дают интервал для второго коэффициента.
P(b −β < ε) = β′ , тогда
= P( |
|
t |
|
< tβ′ )= β′ . |
Отсюда |
|
|
|
n |
|
|
|
|
n |
|
||
|
|
|
|
2 |
|
|
|
|
2 |
|
|
|
|
|
|
|
|||
|
(b − β) ∑(xi − x) |
ε ∑(xi − x) |
|||||||
P |
i =1 |
|
|
|
< |
i =1 |
|
||
|
) |
|
|
|
|
) |
|
|
|
|
nD (n − 2) |
|
|
|
nD (n − 2) |
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
) |
|
|
|
|
|
|
n |
|
|
|
|
||
|
ε = tβ′,n−2 |
|
|
D |
|
||||
|
n |
− 2 |
n |
(xi − |
|
)2 |
|
||
|
|
∑ |
x |
|
|||||
|
|
|
|
|
i =1 |
|
|
|
|
=
и
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
) |
|
|
|
|
|
|
|
) |
|
|
|
|
|
|
n |
|
|
|
|
|
|
n |
|
|
|
|
||
|
|
|
|
|
|
D |
|
|
|
D |
||||||||
I |
β |
= |
ε − t |
′ |
|
|
|
|
|
|
|
, ε + t |
′ |
|
|
|
|
. |
|
|
|
|
|
|
|
|
|
|
|
||||||||
|
|
|
β ,n−2 n − 2 |
n |
(x |
|
− |
|
)2 |
|
β ,n−2 n − 2 |
n |
(x |
|
− x)2 |
|
||
|
|
|
i |
x |
|
i |
||||||||||||
|
|
|
|
|
|
∑ |
|
|
|
|
|
|
∑ |
|
|
|
||
|
|
|
|
|
|
i=1 |
|
|
|
|
|
|
|
i=1 |
|
|
|
|
На практике часто возникает вопрос об оценке отклонения истинной прямой y = α +β(x − x) от ее оценки y) = a + b(x − x) при некотором задан-
ном значении x . Особенно важен этот вопрос при построении прогноза. Оценкой точности здесь также может служить интервальная оценка y .
Используя обычные рассуждения, |
приводящие к t - |
статистикам, по- |
|||||||||||||||||||
лучаем: |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
) |
|
|
|
|
|
) |
|
1 |
|
|
(x − x)2 |
|
|
|
|
) |
) |
) |
|||
|
|
|
|
|
|
|
|
|
|
||||||||||||
M (y) = α + β(x − x) = y, |
D(y) = D n |
+ |
|
|
|
|
|
, |
y |
N (M (y), D(y)). |
|||||||||||
|
n |
|
2 |
||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
∑(xi − x) |
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
y) |
|
|
|
|
|
|
|
|
i=1 |
|
|
|
|
|
|
|
||||
Тогда z = |
− y |
N (0,1), |
а t = |
z |
n − 2 |
tn −2 . |
|
В нашем случае дробь |
|||||||||||||
|
) |
|
) |
|
|
|
|||||||||||||||
|
D(y) |
|
|
|
|
|
nD D |
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
199 |
|
|
|
|
|
|
|
|
|
|
|
|
|
Стьюдента равна
t = |
|
|
|
(y) − y) |
|
|
n − 2 = |
(y) − y) n − 2 |
|
= (y) − y)d tn−2 . |
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
2 |
|
|
) |
|
|
|
2 |
|
|
|||
|
|
1 |
|
|
|
|
|
|
|
|
|
) |
|||||||
D |
|
+ |
(x − x) |
|
nD |
1 |
+ |
n(x − x) |
|
D |
|||||||||
|
|
|
|
|
|
|
|
|
|||||||||||
|
|
|
n (x |
|
|
|
|
)2 |
|
|
|
n |
(x − |
|
)2 |
|
|||
|
n |
|
− |
|
|
D |
|
|
|
|
|
||||||||
|
|
x |
x |
|
|||||||||||||||
|
|
|
|
∑ |
i |
|
|
|
|
∑ |
i |
|
|
||||||
|
|
|
|
i=1 |
|
|
|
|
|
|
|
|
|
i=1 |
|
|
|
|
|
P(y) − y < ε)= β′ и P((y) − y)d < εd )= P((y) − y)d < tβ′)= P(t < tβ′)= β′.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
tβ′ |
|
) |
|
|
|
|
n(x − x)2 |
|
|
|
|
|
|
|
||||
|
= tβ′,n−2 |
D |
|
|
|
|
|
) |
) |
|
|
||||||||
Тогда ε = |
d |
n − 2 |
1 |
+ |
n |
2 |
|
, |
I y = (y − ε, |
y + ε) |
для |
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
|
∑(xi − x) |
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
||||
любого конкретного x , так как ε = ε(x). Очевидно, что длина доверитель- |
|||||||||||||||||||
ного интервала минимальна в точке x = |
|
. По мере удаления от |
|
точ- |
|||||||||||||||
x |
x |
||||||||||||||||||
ность оценки будет заметно снижаться. Наименее надежная |
оценка по |
||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
МНК будет получаться |
|||
|
|
y = α + β(x − x) |
|
|
|
|
|
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
для ординат, отвечаю- |
щим очкам, наиболее
I (x0 ,β′) |
|
y) = a + b(x − |
|
) |
x |
||||
|
|
|
||
|
x |
Рис. 7.1. Доверительные границы для линии регрессии
Лондонской биржи металлов на свинец: (долл./т.).
удаленным от x (рис. 7.1). Вертикальные отрезки на рисунке представляют собой доверительные интервалы в соответствующих точках.
Пример. Дан от-
резок временного ряда из средних котировок
1971, |
фев- |
март |
ап- |
май |
июнь |
июль |
ав- |
сен- |
ок- |
но- |
де- |
ян- |
|||||||||||
варь |
раль |
|
рель |
|
|
|
густ |
тябрь |
тябрь |
ябрь |
кабрь |
|
|
|
|
|
|
|
|
|
|
|
|
265 |
268 |
270 |
270 |
267 |
268 |
264 |
259 |
139 |
229 |
221 |
231 |
Подобрать для этих данных параметры линейной регрессионной зависимости и построить доверительные интервалы для кривой регрессии.
200
Решение. Составим вспомогательную таблицу.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
xi |
|
|
yi |
xi − |
|
|
|
|
yi − |
|
|
|
|
|
|
(xi − |
|
|
)2 |
|
(xi − |
|
|
)(yi − |
|
) |
|
||||||||||
x |
y |
x |
y |
||||||||||||||||||||||||||||||||||||
|
|
x |
|||||||||||||||||||||||||||||||||||||
1 |
|
|
|
|
265 |
-5.5 |
|
|
10.75 |
|
|
|
30.25 |
|
-59.125 |
|
|
|
|
||||||||||||||||||||
2 |
|
|
|
|
268 |
-4.5 |
|
|
13.75 |
|
|
|
20.25 |
|
-61.875 |
|
|
|
|
||||||||||||||||||||
3 |
|
|
|
|
270 |
-3.5 |
|
|
15.75 |
|
|
|
12.25 |
|
-55.125 |
|
|
|
|
||||||||||||||||||||
4 |
|
|
|
|
270 |
-2.5 |
|
|
15.75 |
|
|
|
6.25 |
|
|
|
-39.375 |
|
|
|
|
||||||||||||||||||
5 |
|
|
|
|
267 |
-1.5 |
|
|
12.75 |
|
|
|
2.25 |
|
|
|
-19.125 |
|
|
|
|
||||||||||||||||||
6 |
|
|
|
|
268 |
-0.5 |
|
|
13.75 |
|
|
|
0.25 |
|
|
|
-6.875 |
|
|
|
|
||||||||||||||||||
7 |
|
|
|
|
264 |
0.5 |
|
|
9.75 |
|
|
|
0.25 |
|
|
|
4.875 |
|
|
|
|
||||||||||||||||||
8 |
|
|
|
|
259 |
1.5 |
|
|
4.75 |
|
|
|
2.25 |
|
|
|
7.125 |
|
|
|
|
||||||||||||||||||
9 |
|
|
|
|
239 |
2.5 |
|
|
-15.25 |
|
|
|
6.25 |
|
|
|
-39.375 |
|
|
|
|
||||||||||||||||||
10 |
|
|
|
|
229 |
3.5 |
|
|
-25.25 |
|
|
|
12.25 |
|
-88.375 |
|
|
|
|
||||||||||||||||||||
11 |
|
|
|
|
221 |
4.5 |
|
|
-33.25 |
|
|
|
20.25 |
|
-149.625 |
|
|
|
|
||||||||||||||||||||
12 |
|
|
|
|
231 |
5.5 |
|
|
-23.25 |
|
|
|
30.25 |
|
-127.875 |
|
|
|
|
||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∑(xi |
− x) = |
∑(xi − x)(yi − y) = |
|
||||||||||||||||||
|
x |
= 6.5 |
|
y |
= 254.25 |
|
|
|
|
|
|
|
|
|
|
12 |
|
|
|
|
2 |
12 |
|
|
|
|
|
|
|
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i =1 = 143 |
i =1 = −634.75 |
|
|
|
|
||||||||||||||||
|
|
Тогда |
|
|
|
|
|
|
∑[(xi − x)(yi − y)] |
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
12 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
α) = a = |
|
|
|
= 254.25, β) = b = |
i=1 |
|
|
|
|
|
|
|
|
= |
− 634.75 |
= −4.439 . |
Таким |
||||||||||||||||||||||
y |
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
12 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
∑(xi − |
|
)2 |
143 |
|
|
|
|
|
|
|
|
|
||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
x |
|
|
|
|
|
|
|
|
|||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
i=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
образом, |
уравнение регрессии |
|
может |
|
|
|
быть |
записано в |
|
|
виде |
||||||||||||||||||||||||||||
|
y) = 254.25 − 4.439(x − 6.5) |
или y) = 283.104 − 4.439x . |
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||||||||||||
|
|
Перейдем к |
построению |
доверительных |
интервалов, |
задав |
β′ = 0.9, α′ =1 - β′ = 0.1 . Для получения оценок дисперсий параметров a и
|
|
|
|
) |
. Рассчитаем по полученной линии |
||||
b вычислим D , заменив ее оценкой D |
|||||||||
регрессии значения |
y)i . |
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
xi |
1 |
|
2 |
3 |
|
4 |
5 |
6 |
|
y)i |
278.67 |
|
274.23 |
269.79 |
265.35 |
260.91 |
256.47 |
|
|
yi − y)i |
-13.67 |
|
-6.23 |
0.21 |
|
4.65 |
6.09 |
11.53 |
|
(yi − y)i )2 |
186.87 |
|
38.81 |
0.04 |
|
21.62 |
37.09 |
132.94 |
|
|
|
|
|
201 |
|
|
|
|
|
xi |
7 |
8 |
9 |
10 |
11 |
12 |
yi |
252.03 |
247.59 |
243.15 |
238.71 |
234.28 |
229.84 |
yi − yi |
11.97 |
11.41 |
-4.15 |
-9.71 |
-13.28 |
1.16 |
(yi − y)i )2 |
143.28 |
130.19 |
17.22 |
94.28 |
176.36 |
1.35 |
) |
|
|
1 |
12 |
|
980.05 |
|
|
|
|
||
D = |
∑(yi − y)i )2 = |
= 81.671, σ) = 9.04 . |
||||||||||
|
|
12 |
||||||||||
|
) |
12 i =1 |
|
|
|
|
|
|||||
|
|
|
81.671 |
|
|
|
D |
|||||
D(a) = |
|
D |
|
= |
= 6.81 , |
|
D(b) = |
|||||
12 |
|
12 |
|
|
|
|
||||||
|
|
12 |
|
|
||||||||
|
|
|
|
|
|
|
|
|
∑(xi − x)2 |
i =1
Тогда
= 81143.671 = 0.571 ,
|
|
|
|
|
|
|
(x |
|
2 |
|
|
|
|
2 |
|
|
|
|
|
′ |
|
|
|
|||||
|
|
|
|
|
|
|
− 6.5) |
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
D(y) = |
81.671 0.083 + |
|
|
|
|
|
= 6.81 + 0.571(x − 6.5) , |
n − 2 |
= 10, β |
|
|
= 0.9 . |
||||||||||||||||
|
|
143 |
|
|
|
|||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
По таблице распределения Стьюдента находим |
|
t0.9,10 = 2.228 . Отсюда |
||||||||||||||||||||||||||
|
|
|
|
) |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
εa = t0.9,10 |
|
D |
= 2.228 |
|
81.671 = 6.37 , Iα = (247.88, 260.62). |
Для |
|
пара- |
||||||||||||||||||||
|
|
|
|
10 |
|
|
|
|
|
10 |
|
|
|
|
|
|
|
|
|
|
) |
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
метра |
|
b |
|
все |
вычисления |
аналогичны |
|
εb = t0.9,10 |
12 |
12 |
D |
|
|
= |
|
|||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
10 |
|
(xi − |
|
)2 |
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
∑ |
x |
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i =1 |
|
|
|
|
|
|
|
= 2.228 |
12 |
81.671 |
=1.84 , |
Iβ = (−6.28, − 2.60). |
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||
|
|
10 |
143 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
Наконец, получим |
εy |
и посчитаем доверительные интервалы в не- |
||||||||||||||||||||||||||
скольких точках: |
|
|
|
+ 12(x − x)2 = 2.228 9.04 |
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||
ε |
y |
= t |
0.9,10 |
σ) |
|
1 |
1 + |
12 (x − 6.5)2 |
|
= |
|
|
||||||||||||||||
|
|
10 |
|
|
|
143 |
|
10 |
143 |
|
|
|
|
|
|
|
|
|
||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
= 6.54 |
|
1 + 0.084(x − 6.5)2 . |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
xi |
|
1 |
|
|
3 |
|
|
|
5 |
|
|
x = x = 6.5 |
|
7 |
|
|
9 |
|
11 |
|
|
|
12 |
|
||||
εy |
|
12.31 |
|
9.32 |
|
|
7.13 |
|
|
6.54 |
|
6.61 |
|
8.08 |
|
10.75 |
|
|
12.31 |
|
На рис. 7.2 приведена линия регрессии: y) = 254.25-4.439(х-6.5) и ее 90% доверительные интервалы. Точки, соединенные прямыми – это исходная
202