7 семестр / Лабораторные работы / IPS / RazdSmes

Приложение. Метод разделения смеси наблюдений.

Пусть на рынке в каждый торговый день t контролируется n показателей x₁(t), x₂(t), ... , x_n(t), которые удобно представить в виде n-мерного вектора x(t). Предполагается, что вектор x(t) подчиняется многомерному нормальному распределению, характеризуемому вектором математического ожидания x_ср(t) и ковариационной матрицей С. В разные торговые дни эти параметры могут быть разными. Принимается допущение, что эти параметры могут принимать только два возможных значения и, следовательно, каждый вектор x(t) может подчиняться нормальному закону либо f₁(x) с параметрами x_1ср, C₁ (наблюдение класса K₁), либо f₂(x) с параметрами x_2ср, C₂ (наблюдение класса K₂).

Если собрать наблюдения x(t₁), x(t₂), ... , x(t_m) на некотором интервале времени [t₁,t_m], то среди них будут находиться векторы разных классов. Можно рассмотреть частости представительства разных классов в этой выборке. В пределе эти частости стремятся к вероятностям P₁, P₂ (P₁ + P₂ = 1), задающими смесь распределений вероятностей наблюдений

f(x) = P₁* f₁(x) + P₂* f₂(x) .

Таким образом, общее распределение полученной совокупности наблюдений представляется функцией f(x), которая полностью характеризуется параметрами x_1ср, C₁, x_2ср, C₂, P₁ (с учетом симметричности матриц - всего n²+3n+1 параметр). Цель обработки данных состоит в получении оценок этих параметров по наблюдениям

Для упрощения задачи принимаются следующие допущения:

1. вектор математических ожиданий одинаков для обоих нормальных распределений

x_1ср = x_2ср = x_ср ,

2) ковариационные матрицы пропорциональны с коэффициентом a

C₂ = a*C₁ .

Обозначим через C ковариационную матрицу распределения f(x), которая связана с C₁ и C₂ соотношениями

C₁ = [P₁ + a * (1-P₁)]^-1 * C , C₂ = a * [P₁ + a * (1-P₁)]^-1 * C .

Обозначим

h = P₁ + a * (1-P₁) .

Определители матриц C₁ и C₂ связаны с определителем матрицы C соотношениями

d₁ = [P₁ + a * (1-P₁)]^-n * d , d₂ = aⁿ * [P₁ +a * (1-P₁)]^-n * d .

При этом закон распределения характеризуется параметрами x_ср, C , a, P₁ (всего 0.5*(n²+3n+4) параметров, то есть примерно вдвое меньше, чем раньше).

Параметры x_ср, C легко рассчитываются по всем наблюдениям на заданном интервале наблюдений [t₁,t_m]. Для нахождения двух оставшихся скалярных параметров a и P₁ используем метод максимального правдоподобия.

Пусть общее число наблюдений на рассматриваемом интервале равно m. Считая эти наблюдения статистически независимыми, запишем вероятность получения данной совокупности наблюдений

m

P(x(t₁), x(t₂), ... , x(t_m)) =  f(x(t_j)) =

j=1

m

= (2)^-mn/2 *d^-m/2 * h^-m/n2 *  [ P₁ * exp{-h/2 * (x(t_j)-x_ср)^T C^-1 (x(t_j)-x_ср )} +

j=1

+ (1-P₁) * aⁿ * exp{-h/(2*a) * (x(t_j)-x_ср)^TC^-1(x(t_j)-x_ср ) }].

Как обычно, вместо вероятности P(x(t₁), x(t₂), ... , x(t_m)) рассмотрим ее логарифм

ln[ P(x(t₁), x(t₂), ... , x(t_m)) ] = m/2 * ln[(2)ⁿ*d]- mn/2 * ln[h] +

m

+  ln[ P₁ * exp{-h/2 * (x(t_j)-x_ср)^TC^-1(x(t_j)-x_ср ) +

j=1

+ (1-P₁) * aⁿ * exp{-h/(2*a) * (x(t_j)-x_ср)^TC^-1(x(t_j)-x_ср ) }] ,

который зависит от наблюдений, вектора средних значений, ковариационной матрицы и параметров смеси a и P₁. Отметим, что первое слагаемое не зависит от a и P₁ . Оценки этих параметров в соответствии с методом максимального правдоподобия находятся из решения экстремальной задачи

(a, P₁)_опт = Arg Max ln[ P(x(t₁), x(t₂), ... , x(t_m)) ] .

(a, P₁)

Поскольку матрица C - общая, то она вычисляется только один раз и ее обращение также производится однократно. Заметим также, что квадратичная форма

z = (x(t_j)-x_ср)^TC^-1(x(t_j)-x_ср ),

входящая в выражение для расчета, называется дискриминантной функцией для смешанных наблюдений.

После нахождения параметров (a, P₁) и с использованием ранее рассчитанных оценок x_ср и C по приведенным выше формулам рассчитываются оценки матриц C₁ и C₂. Таким образом, найдены оценки всех параметров смеси распределений и задача обработки данных решена.