1.3 Условное и безусловное прогнозирование
Безусловное прогнозирование
Термин безусловное прогнозирование означает, что вектор независимых переменных xn+i известен точно.
Пусть есть еще один набор xn+1 = (хn+1,1,..., xn+1,k)' объясняющих переменных и известно, что соответствующая зависимая переменная удовлетворяет модели у=Хβ+ε , т.е.
Уn+1 = х'n+1β+εn+1 (2.0)
где , Eεn+1= 0, V(εn+1) = σ2 , и случайная величина εn+1 не коррелирована с ε . Требуется по (у,Х,xn+1) оценить yn+1. Подчеркнем, что в данном случае надо построить оценку не параметра, а случайной величины.
Предположим, что мы знаем значения параметров β и σ2 . Тогда естественно в качестве оценки ŷ n+1= ŷ величины yn+1 взять Е (yn+1) = x'n+1β. Среднеквадратичная ошибка такого прогноза есть E(yn+1 -ŷ)2 = Е(ε2n+1) = σ2.
Пусть
параметры β
и
σ2
неизвестны,
что, как правило, и бывает на практике.
Обозначим
и
s2
их МНК-оценки на основании модели у=Хβ+ε:
= (Х'Х)-1Х'у,
s2
= е'е/(n
- к). Возьмем в качестве оценки уn+1
величину
ŷ =x'n+1 β (2.1)
Нетрудно проверить, что поскольку Е = β, то Е ŷ = Еуn+1, т.е. оценка ŷ является несмещенной. Оказывается, в классе линейных (по у) несмещенных оценок она обладает наименьшей среднеквадратичной ошибкой.[3]
Нетрудно проверить, что среднеквадратичная ошибка прогноза есть
Е(ŷ -уn+1)2 = σ2(1+ x'n+1 (Х'X)-lxn+1). (2.2)
Заменим σ2 на ее оценку s2 и обозначим
Получаем, что если ошибки (ε,εn+1) имеют совместное нормальное распределение, то случайная величина (ŷ -yn+1)/δ имеет распределение Стьюдента с n- к степенями свободы. Поэтому доверительным интервалом для yn+1 с уровнем доверия α будет интервал (ŷ - δ tα, ŷ - δ tα) где tα — двусторонняя α -квантиль распределения Стьюдента с n - к степенями свободы.
Можно показать, что в случае парной регрессии, т. е. когда система у=Хβ+ε имеет вид
yt = β1 +β2xt + εt t= 1,. . .,n,
формула (2.2) выглядит так:
(2.3)
где x=1/n ∑xt . Из (2.3) следует, что среднеквадратичная ошибка
прогноза
минимальна при xn+1=
, и чем дальше xn+1
от
, тем шире соответствующий доверительный
интервал (см. рис. 2).
Рис. 2 доверительный интервал
Условное прогнозирование
В предыдущих рассуждениях мы предполагали, что независимая переменная xn+1 известна точно. Однако на практике встречаются ситуации, когда в xn+1 содержатся ошибки. Так, при прогнозировании временных рядов часто приходится прогнозировать значения независимых переменных, что неизбежно приводит к отклонениям от истинных значений. Поэтому рассмотрим задачу условного прогнозирования. Пусть выполнены соотношения у=Хβ+ε и (2.0), но вектор xn+1 наблюдается с ошибкой
z = xn+1+ u, (2.4)
где u - k х 1 случайный вектор, не зависящий от (ε,εn+1).
Прогноз (2.1) заменяется теперь на
ŷ = z' . (2.5)
Пусть е = ŷ- yn+1 — ошибка прогнозирования. Тогда
Ее = Е(z' ) - x'n+1 β = Е[(xn+1 + u)' ] - x'n+1 β
= Е(x'n+1 ) + Е(u' )- x'n+1 β = 0,
так как и u и β независимы и Еu = 0. Иными словами, оценка (2.5) является несмещенной. Из этого следует , что
Ее2 = σ2 [l + x'n+1 (X'X)-lxn+1+ σ2u tr((X'X)-l)]+ σ2uβ' β. (2.6)
Таким образом, при наличии ошибок в независимой переменной к ошибке прогнозирования (2.2) добавляются два новых положительных слагаемых, пропорциональных дисперсии σ2u.
В случае условного прогнозирования нельзя так же просто, как при безусловном прогнозировании, построить доверительный интервал для yn+1. Это связано с тем, что при нормально распределенных ошибках (ε,εn+1,u) оценка у есть скалярное произведение двух независимых нормальных векторов. Поэтому доверительный интервал нельзя найти аналитически, однако существуют численные процедуры, позволяющие строить его приближенно.[3]