38.Достаточные статистики. Критерий факторизации

39.Теорема Колмагорова – Блекуэлла.

Рассмотрим случайный вектор =(х₁,х₂,…,хn), плотность распределения которого зависит от параметра ϴ, то есть записать р( ,ϴ)

Теорема. Пусть t( ) достаточная статистика семестрва распределения р( ,ϴ) , а ( ) – несмещенная оценка параметра ϴ с конечной дисперсией, тогда =М( /t) t= t( ) будет несмещенной оценкой параметра ϴ, причем ( ) D( ).

Док-во: Заметим, что действительно является оценкой, т.к. не зависит от ϴ, поскольку t( )-достаточная статистика.

Покажем , что несмещенная оценка ϴ

М( )=М(М(ϴ/t))

По условию - несмещенная оценка, а это значит, что М( )=ϴ. Таким образом М( )=М(М( /t))=М( )=ϴ тогда получим, что - оценка несмещенности.

D( )

При фиксированном t следует

, , тогда имеем так как . Теорема доказана.

40. Метод наибольшего правдоподобия.

Суть: Для получения оценки произвольного параметра нужно найти такое значение , при котором вероятность реализации случайного вектора (х₁,х₂,…,х_n)(то есть вероятность выборки ) была минимальной.

А) Случай непрерывной случайной величины(СВ).

Пусть случайный эксперимент описывается непрерывной СВ Х, плотность распределения которой содержит неизвестный параметр ϴ, тогда случайный вектор (х₁,х₂,…,х_n) с независимыми составляющими х_i распределенными по тому же закону, что Х имеет следующую плотность распределения вероятности:

L(х₁,х₂,…,х_n;ϴ)=p(x₁;ϴ)p(x₂;ϴ)…p(x_n;ϴ)

Опр. Плотность L(х₁,х₂,…,х_n;ϴ) рассмотренная как функция параметра ϴ называется функцией правдоподобия.

Рассмотрим вероятность попадания выборки в n-мерный параллелепипед с центром в (х₁,х₂,…,х_n) и с длинами ребер ∆х₁,∆х₂,…,∆х_n тогда вероятность эта:

L(х₁,х₂,…,х_n;ϴ) ∆х₁,∆х₂,…,∆х_n (*)

Дальше находим значение параметра ϴ при котором вероятность (*) принимает максимальное значение. Искомая точка максимума является точкой максимума функции правдоподобия L(х₁,х₂,…,х_n;ϴ) (х_i - фиксированые).

Опр. Величина = (х₁,х₂,…,х_n) являющаяся точкой максимума функции правдоподобия, называется оценкой наибольшего правдоподобия параметра ϴ.

Б) Случай дискрктной случайной величины (СВ)

Пусть эксперимент описывается дискретной СВ Х, распределение вероятностей которой зависит от некоторого параметра ϴ.

Р(Х=z_j)=p(z_j,ϴ) (j=1,2,…,n,…)

Вероятность того, что независимые составляющие случайного вектора (х₁,х₂,…,х_n) распределенные по тому же закону, что Х принимают значения (х₁,х₂,…,х_n) будет следующей

Если нужно найти оценки наибольшего правдоподобия параметров ϴ₁,ϴ₂,….,ϴ_n, то решают систему уравнений:

_{, ,…………………}

Вместо (***) часто решают

41. Метод моментов

Пусть эксперимент описывается случайной величиной Х и пусть получается выборка (х₁,х₂,…,х_n).

Опр. Начальным статистическим моментом к-того порядка называется величина:

(*)

Замечание. -среднее выборочное

Опр. Центральным статистическим моментом к-того порядка называется величина:

(**)- выборочная дисперсия

Суть Статистические моменты (*) и (**) применяются в качестве оценок для соответствующих теоретических моментов распределения случайной величины Х зависящих от неизвестных параметров.

Пусть непрерывная СВ Х и р(х,ϴ₁,ϴ₂,…,ϴ_m)-плотность распределения, ϴ₁,ϴ₂,…,ϴ_m – независимые параметры плотности.

Определим с помощью этой плотности m каких-либо теоретических моментов случайной величины Х. Например первые m начальных моментов. Запишем для них формулу:

=

По выборке найдем значение соответствующих статистических моментов:

Приравнивая теорет.моменты и получим:

= k=1,…,m

Решение этой системы будут оценками этих параметров