- •ОГЛАВЛЕНИЕ
- •ПРЕДИСЛОВИЕ
- •МЕТОДИЧЕСКИЕ МАТЕРИАЛЫ
- •РАБОЧАЯ ПРОГРАММА ДИСЦИПЛИНЫ
- •РЕКОМЕНДАЦИИ ПО САМОСТОЯТЕЛЬНОЙ РАБОТЕ СТУДЕНТА
- •ТЕОРЕТИЧЕСКИЕ МАТЕРИАЛЫ
- •ГЛАВА 1. СТАТИСТИЧЕСКИЕ ПОНЯТИЯ И РАСПРЕДЕЛЕНИЯ
- •§ 1. Введение
- •§ 2. Суть регрессионного анализа
- •§ 3. Некоторые статистические определения
- •§ 4. Нормальное (гауссовское) распределение
- •§ 5. (хи-квадрат)-распределение
- •§ 6. Распределение Стьюдента (t-распределение)
- •§ 7. F-распределение (распределение дисперсионного отношения)
- •§ 8. Статистическая проверка гипотез
- •§ 9. Определение критических значений распределений Стьюдента и Фишера с использованием программы Microsoft Office Excel
- •Резюме
- •Вопросы для самопроверки
- •ГЛАВА 2. ПАРНАЯ ЛИНЕЙНАЯ РЕГРЕССИЯ. УСЛОВИЯ ГАУССА–МАРКОВА
- •§ 1. Основные понятия
- •§ 2. Метод наименьших квадратов
- •§ 3. Предпосылки метода наименьших квадратов
- •§ 4. Анализ точности определения оценок коэффициентов регрессии
- •§ 5. Проверка статистической значимости коэффициентов парной линейной регрессии
- •§ 6. Интервальные оценки коэффициентов линейного уравнения регрессии
- •§ 7. Доверительные интервалы для зависимой переменной
- •§ 8. Проверка общего качества уравнения регрессии. Коэффициент детерминации
- •Резюме
- •Вопросы для самопроверки
- •ГЛАВА 3. МНОЖЕСТВЕННАЯ ЛИНЕЙНАЯ РЕГРЕССИЯ
- •§ 1. Определение параметров уравнения регрессии
- •§ 2. Расчет коэффициентов множественной линейной регрессии
- •§ 3. Дисперсии и стандартные ошибки коэффициентов
- •§ 4. Проверка статистической значимости коэффициентов уравнения регрессии
- •§ 5. Интервальные оценки коэффициентов теоретического уравнения регрессии
- •§ 6. Проверка общего качества уравнения регрессии
- •§ 7. Проверка равенства двух коэффициентов детерминации
- •§ 8. Проверка гипотезы о совпадении уравнений регрессии для двух выборок
- •§ 10. Частные уравнения регрессии
- •Резюме
- •Вопросы для самопроверки
- •ГЛАВА 4. АВТОКОРРЕЛЯЦИЯ СЛУЧАЙНЫХ ВОЗМУЩЕНИЙ
- •§ 1. Суть и причины автокорреляции
- •§ 2. Последствия автокорреляции
- •§ 3. Обнаружение автокорреляции. Критерий Дарбина–Уотсона
- •§ 4. Методы устранения автокорреляции
- •Резюме
- •Вопросы для самопроверки
- •ГЛАВА 5. ГЕТЕРОСКЕДАСТИЧНОСТЬ СЛУЧАЙНЫХ ВОЗМУЩЕНИЙ
- •§ 1. Общие понятия
- •§ 2. Последствия гетероскедастичности
- •§ 3. Обнаружение гетероскедастичности
- •§ 4. Методы смягчения проблемы гетероскедастичности
- •Резюме
- •Вопросы для самопроверки
- •ГЛАВА 6. МУЛЬТИКОЛЛИНЕАРНОСТЬ
- •§ 1. Общие понятия и последствия мультиколлнеарности
- •§ 2. Определение мультиколлинеарности
- •§ 3. Методы устранения мультиколлинеарности
- •Резюме
- •Вопросы для самопроверки
- •ГЛАВА 7. ФИКТИВНЫЕ ПЕРЕМЕННЫЕ В РЕГРЕССИОННЫХ МОДЕЛЯХ
- •§ 1. Модель с одной фиктивной (бинарной) переменной
- •§ 3. Сравнение двух регрессий
- •Резюме
- •Вопросы для самопроверки
- •ГЛАВА 8. НЕЛИНЕЙНАЯ РЕГРЕССИЯ
- •§ 1. Общие понятия
- •§ 2. Степенные модели (логарифмические)
- •§ 3. Обратная модель (гиперболическая)
- •§ 4. Полиномиальная модель
- •§ 5. Показательная модель (лог-линейная)
- •§ 6. Выбор формы модели
- •Резюме
- •Вопросы для самопроверки
- •ГЛАВА 9. ВРЕМЕННЫЕ РЯДЫ
- •§ 1. Общие понятия
- •§ 2. Моделирование тренда временного ряда
- •§ 4. Стационарные ряды
- •§ 5. Процесс авторегрессии AR(p)
- •§ 6. Процессы скользящего среднего MA(q)
- •§ 7. Комбинированные процессы авторегрессии-скользящего среднего ARMA(p, q)
- •§ 8. Модели ARMA, учитывающие наличие сезонности
- •§ 9. Нестационарные временные ряды. Процессы авторегрессии и проинтегрированного скользящего среднего ARIMA(p, k, q)
- •§ 10. Регрессионные модели с распределенными лагами
- •§ 11. Полиномиально распределенные лаги Ш. Алмон
- •Резюме
- •Вопросы для самопроверки
- •ГЛАВА 10. СИСТЕМЫ ОДНОВРЕМЕННЫХ УРАВНЕНИЙ
- •§ 1. Общие понятия
- •§ 2. Идентификация структурной формы модели
- •§ 3. Косвенный метод наименьших квадратов
- •§ 4. Двухшаговый метод наименьших квадратов
- •§ 5. Трехшаговый метод наименьших квадратов
- •Резюме
- •Вопросы для самопроверки
- •ЗАКЛЮЧЕНИЕ
- •ЗАДАНИЯ ДЛЯ КОНТРОЛЯ
- •Тесты для самоконтроля
- •Ключи к тестам для самоконтроля
- •Контрольная работа
- •Вопросы к зачету (экзамену)
- •ГЛОССАРИЙ
- •СПИСОК ЛИТЕРАТУРЫ
Рис. 9.5. Выравненные по мультипликативной модели значения дохода фирмы
§ 4. Стационарные ряды
Перейдем к обсуждению основных понятий и фактов, касающихся стационарных и нестационарных временных рядов, и рассмотрению процедур регрессионного анализа временных рядов. Основная отличительная особенность статистического анализа временных рядов состоит в том, что последовательность наблюдений y(t1), y(t2),..., y(tn) рассматривается как реализация последова-
тельности, вообще говоря, статистически зависимых случайных величин. Чтобы сделать задачу статистического анализа временных рядов доступной для практического решения, приходится ограничивать класс рассматриваемых моделей временных рядов, вводя те или иные предположения относительно структуры ряда и структуры его вероятностных характеристик. Одно из таких ограничений предполагает стационарность временного ряда.
Рассмотрим некоторые понятия и определения. Числовые характеристики временных рядов находятся в полной аналогии с числовыми характеристиками случайных величин.
Случайным процессом y(t), заданным на множестве T, называют функцию от t, значения которой при каждом t T являются случайной величиной.
Математическое ожидание случайного процесса y(t) — это функция m(t), такая, что для каждого t значение функции m(t) является математическим ожиданием случайной величины y(t):
m(t)= M [y(t)]. |
(9.4) |
Ковариационная функция случайного процесса y(t) — это функция:
C(t, s)= cov[y(t), y(s)]= M [(y(t)−m(t))×(y(s)−m(s))]. |
(9.5) |
Она является функцией пары переменных (t, s).
Значение ковариационной функции при t = s задает дисперсию случайного процесса:
Dy(t)= cov[y(t), y(t)]. |
(9.6) |
171
Квадратный корень из Dy(t) называют стандартным отклонением случайного процесса:
σ(t)= cov[y(t), y(t)] . |
(9.7) |
Корреляционнаяфункцияслучайногопроцессаy(t) — этовеличина
corr[y(t), y(s)]= |
cov[y(t), y(s)] |
. |
(9.8) |
σ(t)σ(s) |
В теоретических исследованиях и практических задачах важную роль играют последовательности случайных величин, вероятностные свойства которых не изменяются во времени. Такие случайные последовательности называются стационарными. Их можно использовать для описания временных рядов, течение которых стабилизировалось и происходит в неизменных условиях.
Случайный процесс y(t) называют строго стационарным
(или стационарным в узком смысле), если для любых n, t1,t2,...,tn |
|||
и τ распределения |
случайных величин |
{y(t1), y(t2),..., y(tn)} и |
|
{y(t1 +τ ), y(t2 +τ ),..., y(tn +τ )}одинаковы. |
|
|
|
Это означает, что функции конечномерных распределений не |
|||
меняются при сдвиге времени. |
|
|
|
Из определения стационарности следует, что для любых t, s, τ |
|||
m(t +τ )= m(t), C(s +τ, t +τ )= C(s, t ). |
(9.9) |
||
Положив τ = −t , получим: |
|
|
|
m(t)= m(0), C(s, t)= C(s −t, 0). |
|
||
Отсюда следует, |
что у стационарного |
процесса |
функции |
m(t),σ(t) постоянны, а ковариационная функция (9.5) и корреляционная функция (9.8) зависят от s − t .
Автоковариационной функцией стационарного процесса y(t)
называют функцию:
γ(k)= cov[y(t), y(t + k)]. |
(9.10) |
Автокорреляционной функцией стационарного процесса y(t)
называют функцию:
172
r(k )= corr[y(t), y(t + k )]= |
cov[y(t), y(t + k )] |
, |
(9.11) |
|
σ(t)σ(t + k ) |
||||
|
|
|
где k > 0 — целое число.
Величина k называется лагом, указывает расстояние между членами временного ряда, для которых вычисляется коэффициент корреляции. Коэффициент корреляции r(k) измеряет корреляцию, существующую между членами одного и того же ряда, поэтому его принято называть коэффициентом автокорреляции. При анализе изменения величины r(k) в зависимости от значения k говорят об автокорреляционной функции r(k).
Процессом белого шума (чисто случайным временным ря-
дом) называют временной ряд (случайный процесс) с нулевым средним, если составляющие его случайные величины y(t) независимы и распределены одинаково.
Гауссовский белый шум (в узком смысле) — это последовательность независимых нормально распределенных случайных величин с нулевым средним и постоянной дисперсией.
В то же время, в общем случае, даже если некоторые случайные величины y(1), y(2),..., y(n) взаимно независимы и имеют одинако-
вое распределение, то это еще не означает, что они образуют процесс белого шума, т. к. случайная величина y(t) может просто не иметь математического ожидания и (или) дисперсии.
Временной ряд, соответствующий процессу белого шума, ведет себя крайне нерегулярным образом из-за некоррелированности при t ≠ s случайных величин y(t) и y(s). В связи с этим процесс белого шума не годится для непосредственного моделирования большинства временных рядов, встречающихся в экономике. Однако, как увидим ниже, такой процесс является базой для построения более реалистичных моделей временных рядов. Для процесса белого шума будем использовать обозначение εt.
Частная автокорреляционная функция rчаст(k) показывает автокорреляцию, существующую между разделенными k тактами времени членами временного ряда y(t) и y(t + k ), при устраненном
опосредованном влиянии на эту взаимозависимость всех промежуточных (т. е. расположенных между y(t) и y(t + k )) членов этого
173
временного ряда. Пусть дана матрица коэффициентов автокорреляции
|
r00 |
r01 |
... |
r0k |
|
|
r11 |
... |
|
R = |
r10 |
r1k |
||
|
|
... |
, |
|
|
... ... |
... |
||
|
|
rk1 |
... |
|
|
rk0 |
rkk |
||
где элемент rij (i = 0,..., k; |
j = 0,..., k ) |
равен коэффициенту автокор- |
реляции r(k ) (k = i − j , r(0)=1). Пусть Rij — алгебраическое дополнение к rij, тогда:
|
r |
(k)=− |
R0k |
. |
|
(9.12) |
|||
|
|
|
|||||||
|
част |
|
|
|
R00 Rkk |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Например, |
|
|
|
|
|
r(1) |
r(2) |
||
|
r01 |
r02 |
|
|
1 |
||||
r00 |
|
|
|
1 |
|
|
|||
R = r10 r11 |
r12 |
|
= r(1) |
r(1) , |
|||||
|
r21 |
|
|
|
|
|
|
1 |
|
r20 |
r22 |
|
r(2) r(1) |
|
тогда частная автокорреляционная функция второго порядка равна:
|
|
|
|
r10 |
r11 |
|
|
|
|
|
|
|
r(1) |
|
1 |
|
|
|
|
|
2 |
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||
|
|
|
|
r20 |
r21 |
|
|
|
|
|
|
|
r |
( |
) |
|
( ) |
|
|
|
|
|
|
||
r |
(2)=− |
|
|
|
|
|
= |
|
|
|
2 |
r 1 |
|
|
|
= |
r(2)−r(1) |
|
. |
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
част |
r |
r |
|
r |
r |
|
|
|
|
|
( ) |
|
|
|
( ) |
( )2 |
|
|
|||||||
|
|
|
|
|
|
|
1 |
|
|
1 |
|
|
|
1−r 1 |
|
|
|||||||||
|
|
|
11 |
12 |
× |
00 |
01 |
|
|
|
r |
1 |
× |
|
r 1 |
|
|
|
|
|
|||||
|
|
|
r |
r |
r |
r |
|
|
|
( ) |
|
1 |
( ) |
1 |
|
|
|
|
|
||||||
|
|
|
21 |
22 |
|
10 |
11 |
|
|
|
r 1 |
|
|
r 1 |
|
|
|
|
|
Выборочная автокорреляционная функция k-го порядка мо-
жет быть рассчитана по формуле (аналогия с коэффициентом корреляции):
|
|
|
|
n−k |
|
yi+k |
n−k |
n−k |
|
|
|
|
|
|
rˆ(k )= |
|
|
(n −k )∑ yi |
− ∑ yi ∑ yi+k |
|
|
|
|
||||||
|
|
|
i=1 |
|
|
|
i=1 |
i=1 |
|
|
|
|
. |
|
|
n−k |
2 |
n−k |
2 |
|
|
n−k |
2 |
n−k |
2 |
||||
|
(n −k )∑ y |
i |
− ∑ y |
|
|
× (n −k )∑ y |
i+k |
− ∑ y |
|
|
||||
|
|
i=1 |
i=1 i |
|
|
|
i=1 |
i=1 |
i+k |
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
174
(k = 1, 2, …)
График выборочной автокорреляционной функции называется коррелограммой. Для стационарного временного ряда значения автокорреляционной функции убывают по абсолютной величине с ростом сдвига во времени k.
Рассмотрим оценку среднего значения. Имея ряд y(t1), y(t2), …, y(tn) можно составить «среднее по реализации»
m= 1 ∑n y(ti).
n i=1
При некоторых условиях это среднее может служить оценкой математического ожидания процесса.
Итак, если случайный процесс стационарен в узком смысле (строго стационарен), то у него:
1)математическое ожидание не зависит от времени;
2)дисперсия не зависит от времени;
3)автокорреляционная и автоковариационная функции зависят только от сдвига во времени и являются четными функциями.
Однако самих этих свойств недостаточно для стационарности в узком смысле, поэтому вводят следующее определение.
Случайный процесс называется стационарным в широком смысле (слабо стационарным), если у него математическое ожидание и дисперсия существуют и не зависят от времени, а автоковариационная и автокорреляционная функции зависят только от сдвига во времени.
Временной ряд (случайный процесс) y(t) называется белым шумом в широком смысле, если для любого t выполняется My(t)= 0 и
|
σ2 ,при s =t |
cov(y(s), y(t))= |
0, при s ≠t. |
|
Типичным для анализа временных рядов является процесс «выбеливания» временного ряда, т. е. исключение из него тренда, циклической, сезонной и прочих компонент, так чтобы остаток статистически не отличался от процесса белого шума.
175