- •Теория электрической связи
- •Оглавление
- •Сообщения, сигналы и помехи
- •1. Общие сведения о системах электрической связи
- •1.1. Информация, сообщения, сигналы и помехи
- •1.2. Общие принципы построения систем связи
- •1.3. Классификация систем связи
- •2. Математическая модель сигналов
- •2.1. Математическое описание сигнала
- •2.2. Математическое представление сигналов
- •2.3. Геометрическое представление сигналов
- •2.4. Представление сигналов в виде рядов ортогональных функций
- •3. Спектральные характеристики сигналов
- •3.1. Спектральное представление периодических сигналов
- •3.2. Спектральное представление непериодических сигналов
- •3.3. Основные свойства преобразования Фурье:
- •10. Спектры мощности.
- •4. Сигналы с ограниченным спектром. Теорема Котельникова
- •4.1. Разложение непрерывных сигналов в ряд Котельникова
- •Спектр периодической последовательности дельта-импульсов в соответствии с формулой для u(t) имеет следующий вид:
- •4.2. Спектр дискретизированного сигнала
- •4.3. Спектр сигнала дискретизированного импульсами конечной длительности (амплитудно-импульсно модулированный (аим) сигнал)
- •4.4. Восстановление непрерывного сигнала из отсчётов
- •4.5. Погрешности дискретизации и восстановления непрерывных сигналов
- •5. Случайные процессы
- •5.1. Характеристики случайных процессов
- •Функция распределения вероятностей сп (фрв).
- •Двумерная фрв.
- •Функция плотности вероятностей случайного процесса (фпв)
- •5.2. Нормальный случайный процесс (гауссов процесс)
- •5.3. Фпв и фрв для гармонического колебания со случайной начальной фазой
- •5.4. Фпв для суммы нормального случайного процесса и гармонического колебания со случайной начальной фазой
- •5.5. Огибающая и фаза узкополосного случайного процесса
- •5.6. Флуктуационный шум
- •6. Комплексное представление сигналов и помех
- •6.1. Понятие аналитического сигнала
- •6.2. Огибающая, мгновенная фаза и мгновенная частота узкополосного случайного процесса
- •7. Корреляционная функция детерминированных сигналов
- •7.1. Автокорреляция вещественного сигнала
- •Свойства автокорреляционной функции вещественного сигнала:
- •7.2. Автокорреляция дискретного сигнала
- •7.3. Связь корреляционной функции с энергетическим спектром
- •7.4. Практическое применение корреляционной функции
- •Методы формирования и преобразования сигналов
- •8. Модуляция сигналов
- •8.1. Общие положения
- •8.2. Амплитудная модуляция гармонического колебания
- •8.3. Балансная и однополосная модуляция гармонической несущей
- •9. Методы угловой модуляции
- •9.1. Принципы частотной и фазовой (угловой) модуляции
- •9.2. Спектр сигналов угловой модуляции
- •9.3. Формирование и детектирование сигналов амплитудной и однополосной амплитудной модуляции
- •9.4. Формирование и детектирование сигналов угловой модуляции
- •10. Манипуляция сигналов
- •10.1. Временные и спектральные характеристики амплитудно-манипулированных сигналов
- •10.2. Временные и спектральные характеристики частотно-манипулированных сигналов
- •10.3. Фазовая (относительно-фазовая) манипуляция сигналов
- •Алгоритмы цифровой обработки сигналов
- •11. Основы цифровой обработки сигналов
- •11.1. Общие понятия о цифровой обработке
- •11.2. Квантование сигнала
- •11.3. Кодирование сигнала
- •11.4. Декодирование сигнала
- •12. Обработка дискретных сигналов
- •12.1. Алгоритмы дискретного и быстрого преобразований Фурье
- •12.2. Стационарные линейные дискретные цепи
- •12.3. Цепи с конечной импульсной характеристикой (ких-цепи)
- •12.4. Рекурсивные цепи
- •12.5. Устойчивость лис-цепей
- •13. Цифровые фильтры
- •13.1. Методы синтеза ких-фильтров
- •13.2. Синтез бих-фильтров на основе аналого-цифровой трансформации
- •Каналы связи
- •14. Каналы электрической связи
- •14.1. Основные определения
- •14.2. Модели непрерывных каналов
- •14.3. Модели дискретных каналов
- •Теория передачи и кодирования сообщений
- •15. Теория передачи информации
- •15.1. Количество информации переданной по дискретному каналу
- •15.2. Пропускная способность дискретного канала
- •15.3. Пропускная способность симметричного дискретного канала без памяти
- •15.4. Методы сжатия дискретных сообщений
- •Построение кода Шеннона-Фано
- •Построение кода Хаффмена
- •15.5. Количество информации, переданной по непрерывному каналу
- •15.6. Пропускная способность непрерывного канала
- •Характеристики типовых каналов многоканальной связи
- •16. Теория кодирования сообщений
- •16.1. Основные понятия
- •16.2. Коды с обнаружением ошибок
- •16.3. Корректирующие коды
- •Соответствие синдромов конфигурациям ошибок
- •Зависимость между n, m и k
- •Неприводимые полиномы p(X)
- •Помехоустойчивость
- •17. Помехоустойчивость систем передачи дискретных сообщений
- •17.1. Основные понятия и термины
- •17.2. Бинарная задача проверки простых гипотез
- •17.3. Приём полностью известного сигнала (когерентный приём)
- •17.4. Согласованная фильтрация
- •17.5. Потенциальная помехоустойчивость когерентного приёма
- •17.6. Некогерентный приём
- •17.7. Потенциальная помехоустойчивость некогерентного приёма
- •18. Помехоустойчивость систем передачи непрерывных сообщений
- •18.1. Оптимальное оценивание сигнала
- •18.2. Оптимальная фильтрация случайного сигнала
- •18.3. Потенциальная помехоустойчивость передачи непрерывных сообщений
- •19. Адаптивные устройства подавления помех
- •19.1. Основы адаптивного подавления помех
- •19.2. Подавление стационарных помех
- •19.3. Адаптивный режекторный фильтр
- •19.4. Адаптивный высокочастотный фильтр
- •19.5. Подавление периодической помехи с помощью адаптивного устройства предсказания
- •19.6. Адаптивный следящий фильтр
- •19.7. Адаптивный накопитель
- •Многоканальная связь и распределение информации
- •20. Принципы многоканальной связи и распределения информации
- •20.1. Общие положения
- •20.2. Частотное разделение каналов
- •20.3. Временное разделение каналов
- •20.3. Кодовое разделение каналов
- •20.4. Синхронизация в спи с многостанционным доступом
- •20.5. Коммутация в сетях связи
- •Эффективность систем связи
- •21. Оценка эффективности и оптимизация параметров телекоммуникационных систем (ткс)
- •21.1. Критерии эффективности
- •21.2. Эффективность аналоговых и цифровых систем
- •Формулы для приближенных расчетов частотной эффективности некоторых ансамблей сигналов
- •Значения выигрыша и информационной эффективности некоторых систем передачи непрерывных сообщений
- •21.3. Выбор сигналов и помехоустойчивых кодов
- •22. Оценка эффективности радиотехнической системы связи
- •22. 1. Тактико-технические параметры радиотехнической системы связи
- •22.2. Оценка отношения сигнал/помеха на входе радиоприемники радиотехнической системы связи
- •22.3. Оптимальная фильтрация непрерывных сигналов
- •22.4. Количество информации при приёме дискретных сигналов радиотехнической системы связи
- •Вероятность ошибок для различных видов сигналов и приёма
- •Количество информации для различных видов сигналов и приёма
- •22.5. Количество информации при оптимальном приёме непрерывных сигналов
- •22.6. Выигрыш в отношении сигнал/помеха
- •Расчетные формулы выигрыша оптимального демодулятора при различных видах модуляции
- •22.7. Пропускная способность каналов радиотехнической системы связи
- •Теоретико-информационная концепция криптозащиты сообщений в телекоммуникационных системах
- •23. Основы криптозащиты сообщений в системах связи
- •23.1. Основные понятия криптографии
- •23.2. Метод замены
- •23.3. Методы шифрования на основе датчика псевдослучайных чисел
- •23.4. Методы перемешивания
- •23.5. Криптосистемы с открытым ключом
- •13.6. Цифровая подпись
- •Заключение
- •Список сокращений
- •Основные обозначения
- •Литература
- •Теория электрической связи
18.1. Оптимальное оценивание сигнала
Оценивание сигнала, как функции времени, – достаточно сложная задача. Во многих случаях ее можно свести к более простой задаче оценивания одного или нескольких параметров сигнала.
Простейшей задачей, связанной с оцениванием параметров сигнала, является оценка параметра, постоянного или настолько медленно меняющегося во времени, что на интервале наблюдения его можно считать постоянным.
Рассмотрим задачу оценивания единственного параметра λ, который до опыта рассматривается как случайная величина, имеющая априорное распределение с плотностью w(λ).
Реализация этой случайной величины представляет собой значение, постоянное на интервале (0, T) наблюдения колебания z(t) = s[t, λ] + ξ(t).
Правило оценивания – это алгоритм обработки наблюдаемого колебания, результатом выполнения которого является значение оценки параметраλ.
Для оценивания одного и того же параметра может существовать множество алгоритмов, вырабатывающих различные оценки. Для сравнения алгоритмов оценивания между собой и выбора наилучшего используют показатели несмещённость, состоятельность и эффективность.
Несмещенность. Оценка называется несмещенной, если выполняется условие , означающее, что при любом значении параметра условное математическое ожидание оценки равно этому значению.
Другими словами, несмещенность означает отсутствие систематической ошибки оценивания. В противном случае оценка называется смещенной. Следует отметить, что смещенные оценки также находят применение, если смещение достаточно мало или стремится к нулю при увеличении времени наблюдения или мощности сигнала.
Состоятельность. Оценка называется состоятельной, если при неограниченном возрастании времени наблюдения оценка сходится по вероятности к значению параметра
, при любомΔ > 0.
(Здесь P{A} обозначает вероятность события A.)
Смещенная оценка может быть состоятельной, если ее смещение стремится к нулю при T → ∞. Следовательно, дисперсия ошибки для состоятельной оценки стремится к нулю
.
Эффективность. Несмещенная оценка называется эффективной, если среди всех оценок, полученных при заданном времени наблюдения всевозможными алгоритмами оценивания, она обеспечивает наименьшую дисперсию ошибки
Классический подход к оцениванию параметров сигналов основывается на формуле Байеса для апостериорной плотности распределения вероятностей оцениваемого параметра
, (18.2)
где w(λ) – априорная ПРВ параметра λ; w(λ|z) – условная ПРВ наблюдаемого процесса при заданном значении λ, рассматриваемая как функция от λ при данном z (функция правдоподобия); w(z) – при фиксированной реализации z постоянная величина.
Выражение (18.2) показывает, что, зная априорную плотность w(λ) и наблюдая реализацию процесса z, можно получить уточненное представление о значении параметра λ. На рисунке 18.2 показаны примеры априорной и апостериорной ПРВ параметра (истинное значение параметра обозначено λ0).
Апостериорное распределение обостряется по сравнению с априорным распределением, т.к., реализация z, содержит дополнительную информацию о параметре, что уменьшает исходную неопределенность априорной ПРВ.
Апостериорное распределение содержит всю информацию о параметре, которую можно получить из наблюдаемой реализации и априорных данных. Поэтому правило оценивания должно использовать апостериорную ПРВ, а способ ее использования зависит от выбранного критерия качества оценки.
Рис. 18.2. Априорная и апостериорная ПРВ оцениваемого параметра
Ошибки оценивания параметра приводят к различным последствиям, поэтому для их учета вводится функция потерь , зависящая от разности оценки и истинного значения параметра.
Усредняя функцию потерь по апостериорному распределению параметра, получаем количественную характеристику, называемую апостериорным (условным) риском
, (18.3)
описывающим потери, связанные с получением оценки при наблюдении реализации z. Усреднение апостериорного риска (18.3) по всевозможным реализациям приводит к среднему риску
.
Правило оценивания, которому соответствует наименьший средний риск, называется байесовским, а соответствующая оценка – байесовской, или оценкой по критерию минимума среднего риска. Правило, оптимальное в смысле минимума среднего риска, находится из условия минимизации условного риска (18.3).
Часто используют квадратичную функцию потерь , тогда
, (18.4)
Таким образом апостериорный риск равен среднему квадрату ошибки (а если оценка несмещенная, то дисперсии ошибки). Байесовская оценка в этом случае становится оценкой минимума среднеквадратической ошибки. Для нахождения правила раскроем скобки в выражении (18.4):
.
Дифференцируя полученное выражение по λ и приравнивая результат нулю, получаем правило
.
Тоесть оценка, оптимальная в смысле минимума среднеквадратической ошибки, равна апостериорному среднему значению параметра.
Кроме квадратичной часто используется простая функция потерь
, (18.5)
Подставляя (18.5) в (18.4), получаем
.
Очевидно, что это выражение достигает минимума, если в качестве оценки использовать значение параметра, доставляющее максимум апостериорной ПРВw(λ|z). Такая оценка называется МАВ-оценкой (оценкой максимума апостериорной вероятности).
Во многих задачах априорная ПРВ параметра неизвестна, тогда принимают ее равной константе и максимизируют функцию правдоподобия w(λ|z). Получаемые таким образом оценки называются оценками максимального правдоподобия, или МП-оценками.
Пример. Наблюдается колебание z(t) = γs(t) + ξ(t), где s(t) – точно известный сигнал; γ – амплитудный множитель, подлежащий оцениванию; ξ(t) – гауссовский шум с нулевым средним и спектральной плотностью мощности N0/2, постоянный в полосе частот -F < f < F («квазибелый» шум). Найдем правило оценивания параметра γ, оптимальное по критерию максимального правдоподобия.
Возьмем n отсчетов наблюдаемого колебания на интервале наблюдения Т с шагом Δt = 1/2F = T/n, при этом отсчеты шума являются некоррелированными. Совместная плотность распределения вероятности взятых отсчетов поэтому равна
,
где σ2 = N0F = N0/(2Δt). Устремляя Δt к нулю (n → ∞), запишем функцию правдоподобия
,
где С – константа, несущественная для задачи оценивания.
Для нахождения правила оценивания следует продифференцировать функцию правдоподобия или, что проще, ее логарифм и приравнять результат нулю. Получаемое при этом уравнение правдоподобия для данного случая имеет вид, откуда
.
Решением этого уравнения относительно γ является оценка , определяемая выражением
, (18.6)
где – энергия сигнала, известная по условию задачи.
Качество полученной МП-оценки можно оценить, подставив в (18.6) выражение для z(t):
. (18.7)
Второе слагаемое представляет собой ошибку оценивания, причем дисперсия интеграла равна N0E/2, поэтому дисперсия ошибки равна N0/2E.
Таким образом, оценка тем точнее, чем больше энергия сигнала (для гармонического сигнала s(t) увеличение энергии эквивалентно увеличению длительности интервала наблюдения) и чем меньше спектральная плотность мощности помехи. Из выражения (18.7) видно, что оценка несмещенная, так как ξ(t) имеет нулевое математическое ожидание. Учитывая несмещенность и стремление дисперсии к нулю при увеличении интервала наблюдения, можно заключить, что оценка является состоятельной. Кроме того, можно показать, что оценка также эффективна.
Рис. 18.3. Структура устройства оценивания амплитуды сигнала