2. Методы нахождения точечных оценок параметров распределения

В статистике наиболее часто применяемые методы нахождения точечных оценок параметров распределения являются:

- метод моментов (коротко (ММ);

- метод максимального правдоподобия (коротко - ММП);

- метод наименьших квадратов (коротко МНК).

2.1. Метод моментов (мм)

Суть метода моментов для нахождения точечных оценок неизвестных параметров заданного распределения состоит в том, что приравнивается теоретические моменты распределения соответствующим эмпирическим моментам, найденные по выборке.

Например, если распределение зависит от одного параметра (задан вид плотности распределения), то для нахождения его оценки нужно решить относительноодно уравнение:

где - есть функция от.

Если распределение зависит от двух параметров , (например, вид плотности распределения), то надо решить систему уравнений:

относительно параметров .

И, наконец, если надо оценить параметров, то надо решить одну из систем вида:

(26) или

В этих системах мы видим, что присутствуют моменты до го порядков случайного событияи его центрированного,.

Метод моментов является наиболее простым методом оценки параметров, и он был предложен в 1894г. Пирсоном. Оценки, получаемые методом моментов, обычно являются состоятельными, однако их эффективность часто меньше единицы.

Пример 10. Найдём оценки параметров нормального распределения с.в.применяя, метода моментов.

Решение. Пусть дана выборканайти точечные оценки параметрови. По методу моментов приравниваем их, соответственно, к выборочному среднему и выборочной дисперсии:начальный момент первого порядка,центральный момент второго порядка и получаем

Таким образом, искомые оценки параметров нормального распределения будут: и

2.2. Метод максимального правдоподобия (ммп)

Пусть выборка, полученная в результате проведениянезависимых наблюдений за с.в.И пусть вид закона распределения случайной величины, например, вид функции плотностиизвестен, но неизвестен параметр, которым определяется этот закон. Требуется по заданной выборке оценить параметр

Метод максимального правдоподобия (ММП), предложен Р.Фишером в основе которого, лежит понятие так называемой функции «правдоподобия» .

Функцией правдоподобия, построенная по выборке называется функция, зависящая от аргументаи заданная в следующем виде:

(27)

Функция правдоподобияобладает свойством «вполне мультипликативности» по аргументам, равномерна относительно параметру, где- плотность распределения с.в.в случаях, когда с.в.являетсянепрерывной. Если же с.в.являетсядискретной, то функция правдоподобия определяется равенством

(28)

где .

Замечание.На основании этих определений следует, чточем больше значение функциитем вероятнее (правдоподобнее) появление чиселв результате данного проводимого опыта (эксперимента) при фиксированном.

За точечную оценку параметра , согласно ММП, берут такое его значениепри котором функция правдоподобия достигает максимального своего значения.

Такая оценка, называемая оценкой максимальной правдоподобия, является решением уравнения

(29) .

Из курса математического анализа известно, что функции идостигают своего максимума при одном и том же значении(самостоятельно убедитесь в этом), то вместо отыскания максимального значения функции ищут (что проще, где в правых частях равенств (27) и (28) каждое произведение превращается сумму слагаемых) максимум функции

Таким образом, для нахождения оценки максимального правдоподобия необходимо:

1. решить уравнение правдоподобия

(30)

2. следует отобрать то решение, которое обращает функцию в максимум, при этом удобно использовать вторую производную: если

(31)

то точкой максимума будет .

В случаях, когда подлежат оценке несколько параметров распределения, то оценкиопределяются решением системы уравнений правдоподобия;

Пример 11. Найдём оценку параметра в распределения Пуассона методом математического правдоподобия.

Решение. В данном примере

Поэтому

.

Составляем функцию правдоподобия для дискретной случайной величины: по формуле (28) имеем

.

Отсюда, после логарифмирования обе части равенства получим

.

Обе части равенства продифференцируем по параметру , получим

Таким образом, уравнение правдоподобия имеет вид:

(32) .

Следовательно,

(33) .

А так как из (32) следует, что

(34)

то найденная оценка является оценкой максимального правдоподобия. Итак,.