Решение типовых примеров

П

ример 4.1.1. Несимметричный троичный канал без памяти задан матрицей P условных вероятностей переходов.

Стационарный источник без памяти генерирует символы с частотой Априорные вероятности символов на входе равны .

Нарисовать граф канала. Вычислить скорость создания информации, скорость передачи информации, ненадёжность.

Решение. Канал можно изобразить в виде графа (рис.4.2),

и

Рис. 4.2

спользуя матрицу P в общем виде

Источник и канал стационарны и не имеют памяти, поэтому скорость создания информации равна H(A), скорость передачи информации равна I(A;B) и ненадёжность равна H(A/B).

Для нахождения условной энтропии H(A/B) надо знать вероятности . Их можно найти по формулам (1.3) и (1.4). Так как символ не искажается, то . Поскольку символы и искажаются симметрично, а , то вероятности , и тогда обратные вероятности

Энтропия сигнала на входе

Скорость передачи равна средней взаимной информации

Обозначив ,

получим

Ненадёжность равна разности между скоростью создания и скоростью передачи информации

Пример 4.1.2. Для канала из примера 4.1.1 вычислить пропускную способность в следующих случаях:

а) при произвольном шуме,

б) при отсутствии шума,

в) при очень большом уровне шума.

Вероятности входных символов и должны быть рав-ными.

Решение. а) Пропускная способность есть верхняя грань выражения (4.1.2) при дополнительном условии нормировки

.

Для определения верхней грани I(A;B) применим метод неопределённых множителей Лагранжа.

Образуем вспомогательную функцию

Составляем систему уравнений:

и .

Система уравнений примет вид

1) ,

2) .

Из системы уравнений находим p и q:

и ,

и ,

где обозначено .

Множитель найдём из условия нормировки, которому должны удовлетворять искомые вероятности p и q:

,

,

откуда

и .

Тогда пропускная способность канала

.

Произведя простейшие преобразования

и осуществив потенцирование, получим окончательно

.

б) Рассмотрим частный случай, когда помехи в канале отсутствуют, следовательно, . При этом

, .

Априорные вероятности

, .

Пропускная способность максимальна и равна

,

что совпадает с формулой (4.1.1).

в) Помехи значительны, так что . При этом

,

, , ,

и пропускная способность равна

Фактически канал стал двоичным, так как символы и неразличимы, и результат соответствует пропускной способности двоичного канала без помех.

Пример 4.1.3. Изображение с энтропией бит передаётся по линии связи. Определить чувствительность приёмного устройства, если на входе действует белый гауссовский шум со спектральной плотностью Полоса приёмного устройства 100 кГц, время передачи Т=1 час.

Решение. Поскольку необходимо определить чувствитель-ность, т.е. минимально возможное значение мощности сигнала на входе приёмного устройства, то радиолиния должна быть идеальной, т.е. скорость передачи информации должна быть равна пропускной способности канала

,

где С определяется по формуле (4.1.3)

Скорость создания информации

Так как ,

то , и окончательно

ЗАДАЧИ

4.1.1. В информационном канале используется алфавит с четырьмя различными символами. Длительности всех символов одинаковы и равны мкс. Определить пропускную способность канала при отсутствии шумов.

4.1.2. Вычислить «ненадёжность» для канала, заданного матрицей

,

если вероятности входных сигналов равны ,

4.1.3. Вычислить пропускную способность дискретного m – ого симметричного канала связи, если условные вероятности переходов в канале

,

а частота следования символов в канале равна .

4.1.4. Вычислить пропускную способность двоичного симмет-рического постоянного канала, заданного матрицей

,

где p – вероятность искажения в канале.

Длительность символа сигнала . Построить зависимость , где - пропускная способность канала без шумов.

4.1.5. Дискретный канал задан матрицей

Длительность символа сигнала 1 мс.

Вычислить пропускную способность канала. Сравнить с пропускной способностью при отсутствии шумов.

4.1.6. Сигнал на входе дискретного канала без помех может принимать одно из следующих значений: 0; 1; 2; 3; 4; 5. Вычислить пропускную способность канала, полагая, что среднее значение входного не превышает единицы.

4.1.7. Сообщения источника с производительностью 850 поступают на вход двоичного симметричного канала с вероятностью искажения р = 0,05. Длительность символов сигнала в канале мс. Достаточна ли пропускная способность канала для передачи всей информации, поступающей от источника?

4.1.8. Источник сообщений с производительностью 300 подключён к двум симметричным каналам. Первый канал имеет вероятность искажения и длительность символов сигнала в канале мс, второй - и мс соответственно. Достаточна ли пропускная способность обоих каналов для передачи всей информации, поставляемой источником в 1 с?

4.1.9. Два двоичных симметричных канала с вероятностью искажения р = 0,05 соединено последовательно. Как изменится пропускная способность нового канала по сравнению с одним каналом?

4.1.10. Решить задачу 4.1.9 для параллельного соединения двух каналов, то есть при условии, что один и тот же символ передаётся по обоим каналам, а два принятых символа не обязательно совпадают.

4.1.11. Дискретный канал задан матрицей

.

Показать, что он эквивалентен двоичному симметричному каналу.

4.1.12. Дискретный канал задан матрицей

Нарисовать граф канала. Вычислить пропускную способность канала.

4.1.13. Вычислить пропускную способность троичного канала связи. Частота следования символов в канале . Условные вероятности переходов имеют следующие значения:

4.1.14. Вычислить пропускную способность дискретного канала, заданного матрицей условных вероятностей переходов

4.1.15. По каналу связи передаются две буквы . Одна кодируется 0, другая – 1. При отсутствии помех по канала может передаваться 1000 двоичных знаков. Под действием помех в среднем 1 буква из 100 принимается неверно. Найти фактическое количество информации, передаваемой в среднем за 1 с.

4.1.16. Определить требуемую полосу пропускания канала передачи телевизионного чёрно-белого изображения для принятого в СССР стандарта: в 1 с передаётся 25 кадров, в кадре 625 строк по 800 элементов в строке, для передачи которой программы достаточно передавать 8 градаций освещённости каждого элемента изображения, причём любая градация возникает с одинаковой вероятностью. Элементы изображения статистически независимы. Изображение может принимать наиболее хаотичный вид – вид «белого шума». Отношение сигнал/шум на входе приёмника .

4.1.17. Определить максимально возможную скорость передачи информации по телеметрическому каналу связи, если полоса канала 1 кГц, а относительная среднеквадратическая ошибка в канале

4.1.18. Источник фототелеграфного изображения с производительностью 200 бит/с подключен ко входу канала связи. Определить минимальную полосу канала, если для требуемого качества передачи достаточно иметь .

4.1.19. Вычислить пропускную способность стандартного телефонного канала с полосой (0,3 – 3,4) кГц, если шум в канале белый гауссов, а для обеспечения требуемого качества приёма необходимо иметь дБ. Как изменится это отношение при той же производительности источника, если сузить полосу канала до 0,8 кГц?

4.1.20. Показать, чему равна предельная пропускная способность (формула (4.1.3)) при использовании широкополосных методов модуляции . Построить график зависимости

.

4.1.21. Из формулы (4.1.3) вытекает возможность обмена полосы канала на отношение при постоянной пропускной способности. Показать, каким соотношениям подчиняется эта операция обмена для случаев:

а) ,

б) .

4.1.22. Оценить степень использования теоретической пропускной способности телеграфного канала связи при амплитудной манипуляции , где - скорость передачи в бит/c, С – пропускная способность канала в бит/c, - длительность посылки.

Современные стартстопные буквопечатающие аппараты работают со скоростью 100 слов/мин. Средняя длительность слова, включая и интервал между словами, составляет 6 букв. Каждая буква передаётся 1 стартовой, 5 рабочими и 1 стоповой посылкой, причём стоповая посылка на 50% превышает рабочую. При автоматизированной работе буквы передаются непрерывно. Для правильного воспроизведения пря-