Методы оценки неизвестных параметров. Метод моментов.
Пусть есть вектор неизвестных параметров:
,
- СВ с плотностью распределения
,
по выборке
.
,
тогда начальный момент k-го
порядка СВ
может быть вычислен по формуле:
,
- количество неизвестных параметров.
По выборке
можно вычислить оценку моментов k-го
порядка по формуле:
.
Метод моментов заключается в том, что оценку неизвестных параметров находим из системы уравнений полученной путём приравнивания теоретических моментов к выборочным.
Система имеет вид:
.
Достоинство данного метода является
простота получения оценок, а недостатком
– оценки моментов высших порядков дают
очень большие ошибки, поэтому нужно
использовать моменты не выше 4-го порядка,
т.е. число оценок порядка не должно
превышать 4.
Метод максимального правдоподобия.
Пусть
выборка. Производимые опыты являются
независимыми:
,
где
неизвестные параметры.
Определение:
называется функцией правдоподобия.
Метод максимального правдоподобия заключается в следующем:
В качестве оценки неизвестного параметра
следует брать те значения аргумента,
при котором функция правдоподобия
достигает своего максимума:
.
Определение: Оценка получаемая по методу оценки максимального правдоподобия называется оценкой максимального правдоподобия.
Замечание: В целях удобства вместо
функции правдоподобия рассмотрим её
логарифм:
,
т.к. функция и её логарифм достигают
своего максимума при одном и том же
.
Оценка параметров нормального распределения методом максимального правдоподобия и свойства данных оценок.
Пусть есть СВ для которой плотность распределения задаётся формулой:
,
где
- неизвестные параметры,
- математическое ожидание,
- дисперсия. Полученная выборка
является реализованная СВ
.
Найдём оценки
и
неизвестных параметров:
Запишем функцию правдоподобия:
,
,
.
Получим:
,
.
Свойства оценок нормального распределения:
1)
,
т.к. математическое ожидание случайной
величины равно
:
.
2)
,
где
.
Исследуем поведение оценки:
,
,
Упражнение:
- несмещённая оценка параметра
.
Основные статистические распределения.
- распределение (распределение
Пирсана). Это распределение имеет
следующий вид:
,
где
- распределено по нормальному закону
с параметрами
.
Иногда распределении обозначают:
,
n – число степеней свободы.
- распределение (Стьюдента). Пусть имеются СВ: и
.
Тогда:
,
,
,
если t-распределение:
и
.Распределение Спедекора-Фишера – это распределение имеет СВ вида:
,
,
,
.
Интервальные оценки.
Если известен закон распределения оценки или её дисперсия, то можно указать приделы в которых с большой вероятностью находятся неизвестные значения параметра.
Пусть имеется выборка
.
Предположим, что выборочные значения
распределены по закону:
с точностью до
.
Предположим, что мы нашли функцию:
и
,
причём
,
и
.
Величина
называется доверительным уровням.
Обычно
берётся очень маленьким: 0.05, 0.01…
Вероятность того, что
покроет неизвестный параметр
не зависит от
.
В этом случаи интервал
- доверительный интервал для неизвестного
параметра соответствующей доверительной
вероятности
.
Пример:
Пусть имеется выборка
.
Предположим, выборка распределена по
нормальному закону:
,
где
- неизвестно, а
- известно.
Найдём доверительный интервал для
параметра
.
Известно, что
(по
центральной предельной теореме)
,
тогда величина
распределена по закону
.
Доверительный интервал будем строить
используя следующее соотношение:
,
где
-находится
путём решения уравнения:
(по заданному уровню
).
Окончательно имеем:
.
Доверительный интервал имеет вид:
.