Лекция 1. Дискретные сообщения (ДС). Источники и получатели дискретных сообщений. Дискретный канал (ДК). Преобразование сообщений в дискретном канале.

Курс "Передачи дискретных сообщений" базируется на дисциплинах "Теория вероятности", "Теория электросвязи", "Теория электрических цепей". В свою очередь он является базовым для изучения ряда дисциплин, рассматривающих современные сети и системы электросвязи, например, "Системы и сети передачи данных" и "Цифровые сети интегрального обслуживания", которые читаются студентам вечернего факультета на 6-м курсе.

Любая система связи служит для передачи информации.

Информация – это совокупность сведений о каком-либо событии, явлении, предмете. Для того, чтобы информацию можно было хранить и передавать, ее представляют в виде сообщений.

Сообщение – это совокупность знаков (символов), содержащих ту или иную информацию. Для передачи сообщений системы связи могут использовать материальные носители (например, бумага, устройства хранения на магнитных дисках или лентах) или физические процессы (изменяющийся электрический ток, электромагнитные волны, луч света).

Физический процесс, отображающий передаваемое сообщение, называется сигналом. Сигнал всегда представляет собой функцию времени.

Если сигнал представляет собой функцию S(t), принимающую для любого фиксированного значения t, только определенные, наперед заданные значения S_k, такой сигнал и отображаемое им сообщение называются дискретными. Если сигнал принимает в некотором интервале времени любое значение, он называется непрерывным или аналоговым.

Множество возможных значений дискретного сообщения (или сигнала) ДС представляет собой алфавит сообщения. Алфавит сообщения обозначается заглавной буквой, например, А, а в фигурных скобках указываются все его возможные значения - символы.

Число символов алфавита называется объемом алфавита.

К – объем алфавита.

Сообщение на выходе источника представляет собой случайное событие или процесс. Соответственно принимаемое сообщение, выдаваемое получателю, также является случайным событием, но оно должно отображать сообщение на передаче. Нарисуем упрощенную схему передачи дискретных сообщений.

А

В

ИДС

ПДС

СПДС

ИДС –источник дискретных сообщений ПДС – получатель дискретных сообщений

СПДС – система передачи дискретных сообщений

Обозначим алфавит сообщения на передаче (алфавит входного сообщения, входной алфавит) – А, алфавит сообщения на приеме (алфавит выходного сообщения, выходной алфавит) – В.

В общем случае эти алфавиты могут иметь бесконечное множество значений. Но на практике они конечны и совпадают. Это значит, что при приеме символа b_k считается, что передавался символ a_k.

Различают два вида дискретных сигналов:

• Дискретные случайные процессы непрерывного времени (ДСНВ), в которых смена значений сигнала (символов) может происходить в любой момент времени на произвольном интервале.

и

• Дискретные случайные процессы дискретного времени (ДСДВ), в которых смена символов может происходить только в фиксированные моменты времени t₀, t₁, t₂…t_i…, где t_i=t₀+i*₀. Величину _ называют единичным интервалом.

Второй вид дискретных сигналов называют дискретными случайными последовательностями ДСП.

В случае непрерывного времени дискретный случайный процесс может иметь бесконечное множество реализаций на интервале времени  , а в случае сигнала в виде ДСП число возможных реализаций ограничивается множеством

Где k – индекс, обозначающий номер символа алфавита, i – индекс, обозначающий момент времени. При объеме алфавита равном K и длине последовательности n символов число возможных реализаций равно Kⁿ.

В общем случае, источник дискретных сообщений или сигналов (ИДС) – это любой объект, порождающий на своем выходе дискретный случайный процесс.

Дискретным каналом (ДК) – называют любой участок системы передачи, на входе и выходе которого имеют место взаимосвязанные дискретные случайные процессы.

Рассмотрим структурную схему преобразований в системе передачи дискретных сообщений.

Структурная схема преобразований в спдс

ИДС

ПДС

ДкК

ДкП

Дек

Дем

ПРД

ПРМ

КИ

КК

Код

Мод

НКС

Различают три группы преобразований в системе передачи дискретных сообщений:

• Преобразования в передатчике, то есть в кодере источника КИ и кодере канала КК. Кодер канала включает в себя кодер Код и модулятор Мод.

• Преобразования в приемнике, то есть в декодере получателя ДкП и декодере канала ДкК, последний состоит из декодера Дек и демодулятора Дем.

• Преобразования в непрерывном канале связи НКС.

Непрерывный канал связи представляет собой среду передачи.

Функции передатчика

Передатчик каждому символу a_i или группе символов передаваемого сообщения однозначно ставит в соответствие определенный сигнал S_i(t), поступающий на вход непрерывного канала связи. Задача передатчика – выбрать достаточно помехоустойчивую систему сигналов S(t).

Преобразования в кодере источника учитывают физические и статистические свойства источника сообщений и не принимают во внимание особенности непрерывного канала связи. На выходе кодера источника формируется первичный сигнал b(t). То же касается преобразований в декодере получателя.

Кодер канала кодирует сигнал b(t) специальным корректирующим кодом, который позволяет обнаружить и исправить ошибочные символы на выходе декодера канала. Модулятор осуществляет преобразование символов корректирующего кода в сигналы S_i(t), способные распространяться в заданном непрерывном канале связи и достигать приемника с приемлемыми искажениями. Суммарный эффект от кодирования и модуляции должен обеспечить требования к системе по скорости передачи, верности и задержке передачи дискретных сообщений.

Преобразования сигнала в НКС являются нежелательными. Они возникают из-за ограничения спектра передаваемых сигналов и действия различных помех. Сигналы на выходе НКС Z(t) являются искаженными, что приводит к искажению передаваемых сообщений и потере информации.

Функции приемника

В приемнике все множество реализаций искаженных сигналов Z разбивается по определенным правилам на k непересекающихся подмножеств Z_k – областей решения. Каждая из этих областей однозначно соотносится с символом или группой символов выходного алфавита В. Корректирующий код позволяет обнаружить ошибочные символы, если число ошибок не превышает некоторого уровня, определяемого кодом. Способ обработки сигналов в демодуляторе выбирается с учетом влияния на сигналы непрерывного канала связи и используемой кодовой защиты.

Характеристики системы передачи дискретных сообщений

Пользователи системы передачи дискретных сообщений, то есть источники и получатели, предъявляют требования по своевременности и правильности передачи сообщений. Для количественной характеристики этих требований используют понятия верности, скорости передачи и задержки при передаче дискретных сообщений.

Верность – характеризует степень соответствия принятого сообщения переданному. Оценивается вероятностью ошибок в принимаемом сообщении P. На практике чаще всего пользуются коэффициентом ошибок К_ош=n_ош/n_пер, где n_пер – число переданных символов; n_ош – число ошибочно принятых символов.

Скорость передачи определяет количество информации, передаваемой системой, в единицу времени. Количество информации измеряется в битах, то есть определяется числом двоичных символов.В СПДС различают скорость модуляции и скорость передачи информации (скорость передачи двоичных символов). Скорость модуляции равна числу единичных элементов сигнала на выходе модулятора, передаваемых за секунду. Скорость модуляции обозначается буквой В и измеряется в Бодах.

Бод

Где _ - длительность единичного элемента сигнала или единичный интервал. В течение этого времени параметры сигнала не меняются. Скорость передачи информации обозначается буквой V и измеряется в бит/с.

В случае двоичного сигнала на выходе модулятора V=B, в случае использования недвоичных многопозиционных сигналов V=B*log₂K, где К – число используемых сигналов. Например, при использовании в модуляторе четырехуровневого сигнала (К=4) скорость модуляции в два раза ниже скорости передачи информации.

Следует иметь в виду, что требования к системе по скорости и верности передачи являются противоречивыми. Чем выше скорость передачи, тем меньше длительность единичных элементов сигнала и, следовательно, энергия сигналов. Такой сигнал больше подвержен искажению из-за помех, что ведет к росту вероятности ошибок Р.

Задержка передачи – это максимальное время, прошедшее между моментом подачи сообщения от источника на вход передатчика и моментом выдачи восстановленного сообщения получателю.

Лекция 2

КОДИРОВАНИЕ ИСТОЧНИКОВ ДИСКРЕТНЫХ СООБЩЕНИЙ

Информационные характеристики ИДС

Основными информационными характеристиками источников дискретных сообщений являются:

1. Число символов алфавита источника A, то есть объем алфавита К,

2. Вероятность выдачи каждого символа a_iP(a_i)

3. Количество информации в отдельных символах или собственная информация символа I(a_i), единица измерения бит.

4. Энтропия источника Н(А), единица измерения бит.

5. Производительность источника Н(А)', единица измерения бит/с.

Пусть алфавит источника содержит символы A=(a₁, a₂,…a_i…a_k). Символы алфавита появляются на выходе источника последовательно во времени, статистически независимо и случайно в соответствии с заданным распределением вероятностей

P(a₁), P(a₂), …P(a_i)….P(a_K)

Сумма вероятностей появления символов всегда равна единице.

Если символ источника появляется с вероятностью P(a_i) , то его собственная информация I(a_i) определяется следующим образом

Бит

Физический смысл единицы измерения в битах заключается в следующем. Бит – это единица измерения степени неопределенности, которая содержится в опыте, имеющем два равновероятных исхода.

В частном случае, если появление символа неизбежно, то есть Р(а)=1, то его появление не несет никакой информации и I(a)=0. С другой стороны чем меньше вероятность появления символа, тем больше его собственная информация.

Среднее по символам алфавита значение собственной информации называется энтропией источника

Бит

Часто говорят, что энтропия – это мера неопределенности в поведении источника дискретных сообщений. Энтропия равна нулю, если источник с вероятностью равной 1 выдает один и тот же символ. Энтропия максимальна, если символы появляются независимо и равновероятно.

H_max(A)=log₂K

Приведем зависимость энтропии двоичного источника от вероятностей появления его символов. Пусть А=(0; 1).

Н(А)

1

P(0;1)

0

1

0,5

Эта зависимость называется функцией Шеннона. Клод Шеннон – американский ученый, один из основателей теории информации умер в феврале 2001 года в возрасте 84 лет.

Разность между реальным значением энтропии источника и ее максимальным значением называется избыточностью

R(A)=H_max(A)-H(A), бит

Относительная избыточность определяется следующим образом

Производительность источника – это среднее количество информации, выдаваемое источником за секунду

Бит/с

Т – среднее время передачи одного символа.

Производительность источника всегда учитывается при выборе корректирующего кода в кодере канала. Так как производительность источника – это фактически скорость создания информации источником, эта величина не должна быть больше пропускной способности канала передачи С. Дискретный канал содержит в себе как составную часть непрерывный канал связи. Пропускная способность дискретного канала фактически определяется пропускной способностью непрерывного канала связи. В теории информации получена очень важная формула, которая связывает пропускную способность НКС с его важнейшими параметрами – полосой занимаемых частот (полоса пропускания)

и отношением сигнал/помеха

Р_с – мощность сигнала, Р_ш – мощность шума.

Бит/с

Дополнительными условиями при этом являются следующие: амплитудно-частотная характеристика канала АЧХ должна быть равномерна в полосе пропускания

и в канале действует помеха в виде гауссовского белого шума со спектральной плотностью N₀

Спектральные составляющие белого шума (по аналогии с белым светом) имеют одинаковую мощность N₀ на всех частотах.

Теория информации утверждает, что если производительность источника меньше пропускной способности канала Н'(А)<C, то существуют такие способы кодирования на входе канала и декодирования на выходе, при которых при которых вероятность ошибки Р_ош при передаче одного символа источника будет сколь угодно малой. Если соотношение не соблюдается, таких способов кодирования и декодирования не существует.