Shpory_v_pdfe

27.Функция правдоподобия

Пусть мы имеем выборку из наблюдений , которую мы считаем реализацией -мерной случайной величины, для которой известное

вероятностное распределение зависит от неизвестного параметра

. Вектор

мы используем для обозначения общего множества

параметров, и, в частности, он может относиться к параметрам модели АРПСС.

До того	как появились данные,	связывает плотность
вероятности	с каждым конкретным выходом	эксперимента для

фиксированного . После того как данные появились, наступает момент

для рассмотрения различных возможных значений , которые могли бы привести к заданному множеству фактически полученных

наблюдений. Для этих целей подходит функция правдоподобия ,

которая имеет ту же форму, что и , но в которой теперь зафиксировано, а переменные. Обычно важны только относительные

значения , и поэтому функцию правдоподобия часто считают содержащей произвольную мультипликативную константу.

Часто удобнее работать с логарифмической функцией правдоподобия

, содержащей произвольную аддитивную константу. Одна из причин, по которым функция правдоподобия имеет фундаментальное значение в теории оценивания, связана с «принципом правдоподобия», выдвинутым с разных позиций Фишером [56], Бернаром [57] и Бирнбаумом [58]. Этот принцип гласит (при условии правильности предполагаемой модели): все, что данные могут сказать о параметрах модели, содержится в функции правдоподобия, а все другие аспекты данных не имеют отношения к делу. При байесовском подходе функция правдоподобия также важна, так как она является той компонентой апостериорного распределения параметров, которая зависит от данных.

Для полного понимания ситуации с оцениванием необходимо проделать подробное аналитическое и графическое изучение функции правдоподобия; в байесовском подходе мы должны изучить апостериорное распределение параметров, которое в рассматриваемых ситуациях определяется в основном правдоподобием. Во многих примерах с выборками средних и больших размеров логарифмическая

функция правдоподобия унимодальна и в достаточно большой окрестности максимума может быть аппроксимирована квадратичной функцией. Значения параметров, максимизирующие функцию правдоподобия или, что эквивалентно, логарифмическую функцию правдоподобия, называются оценками максимального правдоподобия (МП).

Вторые производные логарифмической функции правдоподобия дают меру «растянутости» функции правдоподобия и могут использоваться для вычисления приближенных стандартных ошибок оценок. Предельные свойства оценок максимального правдоподобия обычно доказываются для независимых наблюдений [59]. Но, как показано Уиттлом [87], они могут быть обобщены на стационарные временные ряды.

В последующем изложении мы будем исходить из того, что читатель знаком с некоторыми фундаментальными понятиями теории оценивания. Приложения П7.1 и П7.2 содержат сводки наиболее существенных результатов теории нормального распределения и линейного метода наименьших квадратов, необходимых в этой главе. Некоторые из важных предшествующих работ по оценке параметров моделей временных рядов можно найти в [34, 78, 88, 89, 93—95, 97— 101].

30. Информационный критерий оптимального приема дискретных сообщений. Вывод формулы.

31. Критерий максимальной обратной вероятности и критерий максимума отношения правдоподобия. Вывод формул.

32. Математический синтез оптимального приемника элементов дискретных сообщений. Определение, постановка задачи, исходные условия и ограничения.

Под синтезом оптимального приемника понимают отыскание его структуры. Задача синтеза формируется следующим образом. Требуется найти структуру приемника, которая удовлетворяет исходным условиям и ограничениям и при этом обеспечивает совокупность показателей качества, наилучших в смысле заданного критерия оптимальности. Синтез обычно проводят, сочетая эвристический метод, основанный на использовании накопленного инженерного опыта и знаний по проектированию приемников, и математический анализ.

Математический синтез заключается в математической формулировке совокупности исходных данных и критерия оптимальности, а также в отыскании чисто математическим путем такой структуры приемника, которая удовлетворяет исходным данным, критерию оптимальности и требуемой совокупности показателей качества.

Рассмотрим задачу математического синтеза оптимального приемника для приема сигнала, известного точно:

Исходными данными являются:

а) вид зависимости сигнала и (t), i = 1, 2…т, от его параметров и времени; б) вид смеси сигнала и помехи;

в) вид канала связи; г) время анализа смеси сигнала и помехи.

33.Синтез многоканального корреляционного приемника дискретных

сигналов известных точно. Структурная схема оптимального приемника m сигналов.

34.Неравенство, определяющее структуру оптимального корреляционного приемника двоичных сигналов известных точно. Структурная схема oптимального корреляционного приемника двоичных сигналов.

35.Бинарное обнаружение сигналов. Неравенство, определяющее структурную схему приемника. Формула, определяющая уровень порога.

36.Схема оптимального корреляционного приемника двоичных АМ сигналов. Временные диаграммы, поясняющие работу приемника.

37. Бинарное распознавание сигналов. Неравенство, определяющее структурную схему приемника. Схема оптимального корреляционного приемника двоичных ЧМ сигналов.