8. Метод наибольшего (максимального) правдоподобия, алгоритм нахождения точечной оценки с его помощью.

Существует несколько методов получения точечных оценок. Метод, который чаще приводит к наилучшим оценкам, называется метод максимального правдоподобия (предложен Р. Фишером).

Пусть – непрерывная случайная величина, которая в результате испытаний приняла значения . Пусть вид плотности распределения данной случайной величины известен, но не известен параметр , которым определяется эта функция.

Функция вида:

Называется функцией правдоподобия.

Метод максимального правдоподобия заключается в том, что в качестве оценок параметра принимается то значение , при котором функция принимает максимальное значение. Экстремум функций и достигается при одних и тех же значениях . Удобнее находить максимум функции . Поэтому критические значения определяются из системы уравнений правдоподобия:

Где – число оцениваемых параметров.

Данный метод дает состоятельные оценки. Если существует эффективная оценка, то метод максимального правдоподобия дает эту оценку. Оценки максимального правдоподобия асимптотически эффективны и имеют асимптотически нормальное распределение.

Пример: Найти методом наибольшего правдоподобия оценку параметра λ показательного распределения:

Если в результате испытаний случайная величина распределенная по показательному закону, приняла значения .

Решение:

Составим функцию правдоподобия, учитывая, что :

Отсюда следует:

Логарифмическая функция правдоподобия:

Найдем первую производную по переменной λ:

Напишем уравнение правдоподобия, для чего приравняем первую производную нулю:

Отсюда критическая точка равна:

Найдем вторую производную по λ:

При  вторая производная отрицательна, следовательно, является точкой максимума. Значит, в качестве оценки наибольшего правдоподобия параметра показательного распределения надо принять величину, обратную выборочной средней: .

9. Выборочная средняя как точечная оценка генеральной средней, ее несмещенность и состоятельность.

Статистической оценкой или статистикой характеристики (параметра) генеральной совокупности называют приближенное значение искомой характеристики (параметра), полученное по данным выборки.

В статистике используются два вида оценок - точечные и интервальные.

Точечной статистической оценкой параметра генеральной совокупности называется конкретное числовое значение искомой характеристики.

Качество статистических оценок определяется следующими их свойствами:

• Состоятельность

Оценка считается состоятельной, если при неограниченном увеличении объема выборки [ n >» (N)], ее ошибка стремится к 0:

lim(c? - а) = 0, т. к. при n t lim а = а ;

n—>» n—>»

где а - значение характеристики генеральной совокупности; а - значение характеристики выборки; а -а - ошибка выборки. •

Несмещенность

Оценка считается несмещенной, если при данном объеме выборки n математическое ожидание ошибки равно 0.Для несмещенной оценки ее математическое ожидание точно равно математическому ожиданию характеристики выборки:

M[а - а] = 0 или M[а] = M[а].

Несмещенная оценка не всегда дает хорошее приближение оцениваемого параметра, так как возможные значения получаемой оценки могут быть сильно рассеяны вокруг своего среднего значения. Поэтому оценка должна соответствовать еще одному требованию - эффективности. •

Генеральная средняя и выборочная средняя

Пусть задана дискретная случайная величина Х в виде генеральной совокупности. Генеральной средней называют среднее арифметическое значений признака генеральной совокупности:

.

(6.2)

где x_i – варианта генеральной совокупности, n_i – частота варианты x_i,

.

N– все возможные значения частот дискретной случайной величины Х.

В частном случае, когда генеральная совокупность содержит по одному значению каждой варианты, генеральная средняя равна:

.

(6.2а)