[Править] Наилучшие асимптотически нормальные оценки.

Наилучшие асимптотически нормальные оценки, сокращенно НАН — оценки, — это оценки, для которых средний квадрат ошибки d_n(θ_n) принимает при больших объемах выборки наименьшее возможное значение, то есть величинаc=c(θ_n,θ) в формуле (4) минимальна. Ряд видов оценок — так называемые одношаговые оценки и оценки максимального правдоподобия — являются НАН — оценками, именно они обычно используются в вероятностно-статистических методах принятия решений.

[Править] Доверительное оценивание.

Какова точность оценки параметра? В каких границах он может лежать? В научных публикациях и учебной литературе, в нормативно-технической и инструктивно-методической документации, в таблицах и программных продуктах наряду с алгоритмами расчетов точечных оценок даются правила нахождения доверительных границ. Они и указывают точность точечной оценки. При этом используются такие термины, как доверительная вероятность, доверительный интервал. Если речь идет об оценивании нескольких числовых параметров, или же функции, упорядочения и т. п., то говорят об оценивании с помощью доверительной области.

Доверительная область— это область в пространстве параметров, в которую с заданной вероятностью входит неизвестное значение оцениваемого параметра распределения. «Заданная вероятность» называется доверительной вероятностью и обычно обозначается γ. Пусть Θ — пространство параметров. Рассмотрим статистику Θ₁= Θ₁(x₁,x₂,...,x_n) — функцию от результатов наблюденийx₁,x₂,...,x_n, значениями которой являются подмножества пространства параметров Θ. Так как результаты наблюдений — случайные величины, то Θ₁— также случайная величина, значения которой — подмножества множества Θ, то есть Θ₁— случайное множество. Напомним, что множество — один из видов объектов нечисловой природы, случайные множества изучают в теории вероятностей и статистике объектов нечисловой природы.

В ряде литературных источников, к настоящему времени во многом устаревших, под случайными величинами понимают только те из них, которые в качестве значений принимают действительные числа. Согласно справочнику академика РАН Ю. В. Прохорова и проф. Ю. А. Розанова случайные величины могут принимать значения из любого множества. Так, случайные вектора, случайные функции, случайные множества, случайные ранжировки (упорядочения) — это отдельные виды случайных величин. Используется и иная терминология: термин «случайная величина» сохраняется только за числовыми функциями, определенными на пространстве элементарных событий, а в случае иных областей значений используется термин «случайный элемент». (Замечание для математиков: все рассматриваемые функции, определенные на пространстве элементарных событий, предполагаются измеримыми.)

Статистика Θ₁называетсядоверительной областью, соответствующей доверительной вероятности γ, если

(5)

Ясно, что этому условию удовлетворяет, как правило, не одна, а много доверительных областей. Из них выбирают для практического применения какую-либо одну, исходя из дополнительных соображений, например, из соображений симметрии или минимизируя объем доверительной области, то есть меру множества Θ₁.

При оценке одного числового параметра в качестве доверительных областей обычно применяют доверительные интервалы (в том числе лучи), а не иные типа подмножеств прямой. Более того, для многих двухпараметрических и трехпараметрических распределений (нормальных, логарифмически нормальных, Вейбулла-Гнеденко, гамма-распределений и др.) обычно используют точечные оценки и построенные на их основе доверительные границы для каждого из двух или трех параметров отдельно. Это делают для удобства пользования результатами расчетов: доверительные интервалы легче применять, чем фигуры на плоскости или тела в трехмерном пространстве.

Как следует из сказанного выше, доверительный интервал— это интервал, который с заданной вероятностью накроет неизвестное значение оцениваемого параметра распределения. Границы доверительного интервала называютдоверительными границами. Доверительная вероятность γ — вероятность того, что доверительный интервал накроет действительное значение параметра, оцениваемого по выборочным данным. Оцениванием с помощью доверительного интервала называют способ оценки, при котором с заданной доверительной вероятностью устанавливают границы доверительного интервала.

Для числового параметра θ рассматривают верхнюю доверительную границу θ_B, нижнюю доверительную границу θ_Hи двусторонние доверительные границы — верхнюю θ_1Bи нижнюю θ_1H. Все четыре доверительные границы — функции от результатов наблюденийx₁,x₂,...,x_nи доверительной вероятности γ.

Верхняя доверительная граница θ_B— случайная величина θ_B= θ_B(x₁,x₂,...,x_n;γ), для которой, где θ — истинное значение оцениваемого параметра. Доверительный интервал в этом случае имеет вид.

Нижняя доверительная граница θ_H— случайная величина θ_H= θ_H(x₁,x₂,...,x_n;γ), для которой, где \theta — истинное значение оцениваемого параметра. Доверительный интервал в этом случае имеет вид.

Двусторонние доверительные границы — верхняя θ_1Bи нижняя θ_1H— это случайные величины θ_1B= θ_1B(x₁,x₂,...,x_n;γ) и θ_1H= θ_1H(x₁,x₂,...,x_n;γ) такие, что, где θ — истинное значение оцениваемого параметра. Доверительный интервал в этом случае имеет вид [θ_1H;θ_1B].

Вероятности, связанные с доверительными границами, можно записать в виде частных случаев формулы (5):

В нормативно-технической и инструктивно-методической документации, научной и учебной литературе используют два типа правил определения доверительных границ — построенных на основе точного распределения и построенных на основе асимптотического распределения некоторой точечной оценки θ_nпараметра θ. Рассмотрим примеры.

Пример 10. Пустьx₁,x₂,...,x_n— выборка из нормального законаN(m,σ), параметрыmи σ неизвестны. Укажем доверительные границы дляm.

Известно, что случайная величина,

имеет распределение Стьюдента с (t− 1) степенью свободы, где— выборочное среднее арифметическое и <amth>s_0</math> — выборочное среднее квадратическое отклонение. Пустьt_γ(n− 1) иt_{1 − γ}(n− 1) — квантили указанного распределения порядка γ и 1 − γ соответственно. Тогда

.

Следовательно,

,

то есть в качестве нижней доверительной границы θ_H, соответствующей доверительной вероятности \gamma, следует взять

. (6)

Аналогично получаем, что

.

Поскольку распределение Стьюдента симметрично относительно 0, то t_{1 − γ}(n− 1) = −t_{1 − γ}(n− 1)t_γ(n− 1) . Следовательно, в качестве верхней доверительной границы γ_Bдляm, соответствующей доверительной вероятности γ, следует взять

. (7)

Как построить двусторонние доверительные границы? Положим

,

где θ_1Hи θ_1Bзаданы формулами (6) и (7) соответственно. Поскольку неравенствовыполнено тогда и только тогда, когда

,

то

,

(в предположении, что γ₁> 0,5;γ₂> 0,5). Следовательно, если γ = γ₁+ γ₂− 1, то θ_1Hи θ_1B— двусторонние доверительные границы дляm, соответствующие доверительной вероятности γ. Обычно полагают γ₁= γ₂, то есть в качестве двусторонних доверительных границ θ_1Hи θ_1B, соответствующих доверительной вероятности γ, используют односторонние доверительные границы θ_Hи θ_B, соответствующие доверительной вероятности (1 + γ) / 2.

Другой вид правил построения доверительных границ для параметра θ основан на асимптотической нормальности некоторой точечной оценки θ_nэтого параметра. В вероятностно-статистических методах принятия решений используют, как уже отмечалось, несмещенные или асимптотически несмещенные оценки θ_n, для которых смещение либо равно 0, либо при больших объемах выборки пренебрежимо мало по сравнению со средним квадратическим отклонением оценки θ_n. Для таких оценок при всехx

,

где Φ(x) — функция нормального распределенияN(0;1). Пустьu_γ— квантиль порядка γ распределенияN(0;1). Тогда

. (8)

Поскольку неравенство

,

равносильно неравенству

,

то в качестве θ_Hможно было бы взять левую часть последнего неравенства. Однако точное значение дисперсииD(θ_n) обычно неизвестно. Зато часто удается доказать, что дисперсия оценки имеет вид

(с точностью до пренебрежимо малых при росте nслагаемых), гдеh(θ) — некоторая функция от неизвестного параметра θ. Справедлива теорема о наследовании сходимости, согласно которой при подстановке вh(θ) оценки θ_nвместо θ соотношение (8) остается справедливым, то есть

.

Следовательно, в качестве приближенной нижней доверительной границы следует взять

,

а в качестве приближенной верхней доверительной границы -

.

С ростом объема выборки качество приближенных доверительных границ улучшается, т. к. вероятности событий истремятся к γ. Для построения двусторонних доверительных границ поступают аналогично правилу, указанному выше в примере 10 для интервального оценивания параметраmнормального распределения. А именно, используют односторонние доверительные границы, соответствующие доверительной вероятности (1 + γ) / 2.

При обработке экономических, управленческих или технических статистических данных обычно используют значение доверительной вероятности γ = 0,95. Применяют также значения γ = 0,99 или γ = 0,90. Иногда встречаются значения γ = 0,80,γ = 0,975,γ = 0,98 и др.