- •2.1.2. Определение количества информации
- •2.2. Основы теории измерений
- •2.3. Основы теории надежности
- •2.3.1. Определение количественных характеристикнадежности элементов
- •Дисперсия времени отказа
- •2.3.2. Определение надежности системы
- •2.4. Системы массового обслуживания
- •2.4.1. Основные понятия, используемые в системахмассового обслуживания
- •2.4.2. Расчет системы массового обслуживания
- •2.5. Основы теории кодирования и передачи
- •2.5.1. Формирование экономичного кода алфавита
- •2.5.2. Определение характеристик канала
- •К р
- •106 107
2.5.2. Определение характеристик канала
передачи информации
Из теоремы Шеннона следует, что если по линии связи (или каналу передачи информации) за единицу времени можно передать L элементарных сигналов, принимающих К различных значений, то скорость передачи сообщений по такой линии не может быть большей, чем
. |
(2.93) |
Величина
, |
(2.94) |
не зависящая от самой линии связи, указывает наибольшее количество единиц информации, которое можно передать по данной линии за единицу времени, и называется пропускной способностью линии связи.
Выражения (2.93) и (2.94) характеризуют линию связи без помех, т.е. идеализированную линию. В отличие от нее линия связи с помехами может быть математически описана заданием не только L и К, но и неотрицательных чисел, представляющих вероятность трансформации элементарного сигналав сигнал, вызванную влиянием помех.
Пропускная способность линии связи с помехами
, |
(2.95) |
где
. |
(2.96) |
Для дискретного канала с основанием К , что показывает неопределенность некоторого опыта. При передаче информации об этом опыте в результате действия помех возникает дополнительная неопределенность Н( /), снижающая получаемую на выходе линии связи информацию об этом опыте. Для дискретного симметричного канала с основанием К вероятность трансформации любого символа
, |
(2.97) |
а вероятность трансформации символа в символ(приi j)
. |
(2.98) |
Тогда вероятность прохождения символа (при i = j)
, |
(2.99) |
а дополнительная неопределенность
. |
(2.100) |
В этом случае
. |
(2.101) |
В частном случае, когда К = 2 (двоичный симметричный канал), пропускная способность линии связи
. |
(2.102) |
Основная теорема о кодировании при наличии помех формулируется следующим образом.
Для любой линии связи с помехами всегда можно подобрать специальный код, позволяющий передавать сообщения по этой линии с заданной скоростью, сколь угодно близкой к V (2.93), так, чтобы вероятность ошибки в определении каждой переданной буквы оказалась меньше любого заранее заданного числа ε > 0.
Из (2.93) и (2.102) следует, что скорость передачи информации при L = const зависит от C = f(K,p) и экономичности кода (Н). В свою очередь, р зависит от величины и характера помех. Поэтому при наличии помех и заданного К можно достичь необходимой скорости передачи информации путем ее соответствующего кодирования.
Пример 2.15. Определить влияние вероятности трансформации символа p (влияние помех), характеристик кодирования (К и Н) на пропускную способность линии связи и скорость передачи сообщения, в частности:
1) C = f(K) при p = 0, K = {2, 3, 4};
2) С = f(p) при K = 2, Р = {0,01, 0,1, 0,25, 0,5, 0,75, 0,9, 0,99};
3) V = f(p,H) при K =2, L = 100 симв/с,
Р = {0,01, 0,1, 0,25, 0,5, 0,75, 0,9 0,99} и равномерный код, код Шеннона Фано.
Решение. Первую задачу решим на основании выражения (2.93), и результат представим в виде графика (рис. 2.9), вторую задачу на основании (2.102) и графика (рис. 2.10).
cигн/ед.вр. С
0,92
1,58
1
0,53
0,19