Контрольная №1
Теория |
|
Ансамбль – группа событий ( |
) с известным распределением |
вероятностей ( |
), составляющих в сумме единицу. |
∑
Количество информации I – мера снятия неопределѐнности при получении сообщения о событии.
где:
–энтропия до получения сообщения;
–энтропия после получения сообщения.
Рассмотрим ансамбль событий X( ), с вероятностями каждого , тогда количество информации, содержащееся в
сообщении, состоящем из i-го события (конкретной буквы алфавита), определяется по следующей ф-ле:
[бит]
Среднее количество информации, приходящееся на одну букву алфавита:
∑ |
[бит/сообщ.], |
Среднее количество информации максимально в случае равномерного
распределения и равно |
|
, т.е.: |
|
|
|
|
|
|
|||
Выведем: |
|
|
|
|
|
|
|
|
|
||
|
|
∑ |
( |
( |
)) |
∑ ( |
|
( |
|
)) |
|
|
|
||||||||||
( |
|
) |
* |
|
+ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
V – скорость передачи количества информации сообщения X
[ ]
где:
*+ – скорость передачи сообщения
*+ – время передачи сообщения
*+ – количество информации в сообщении
C – пропускная способность канала связи
* +
где:
*+ – скорость передачи сообщения
*+ – количество букв в сообщении
*+ – количество разрядов в одной букве (разрядность буквы)
–коэффициент эффективности использования канала связи
[ ]
Объѐм запоминающего устройства, необходимый для хранения информации, переданной по каналу связи за время равное T:
[ |
] |
|
[ |
] |
|
Количество информации, переданное по каналу связи за время T:
[ ]
Важно!!!
Количество информации оставляем в битах, за перевод бит в байты и наоборот лектор обещал наказывать.
Дополнительная информация:
Округление вести до 2-х, 3-х цифр после запятой, кроме тех случаев, где напрямую сказано округлять до целого в большую или меньшую сторону.
1Байт = 8 дв.ед.
1кБайт=1000Байт
Примеры задач
Задача №1.
Вычислительное устройство состоит из двух независимых модулей с вероятностями безотказной работы Р и 2Р соответственно. Определить Р, если сообщение о работоспособности обоих модулей содержит количество информации на 2 бита больше, чем сообщение об их одновременном отказе.
Решение.
Составим алфавит
–оба модуля не работают
–1-й не работает, 2-й работает
–1-й работает, 2-й не работает
–оба модуля работают
Вусловии задачи сказано, что
[ ]
[ ]
[ |
] |
[ |
|
] |
|
|
|
|
|
|
|
|
|
|
Далее решаем уравнение и выбираем корень принадлежащий интервалу от 0 до 1, т.к. это вероятность.
Задача №2
По двоичному каналу с пропускной способностью С = 10000 дв.ед./сек
передаются слова, состоящие из n = 4 буквы, закодированные равномерным кодом,
за Т = 2 мс (каждое слово). Определить размерность N буквенного алфавита.
Дано
С=10000дв.ед./с n=4 [букв./сообщ.]
[ ]
N –? (размерность алфавита)
Решение
] [
Далее подставляем цифры и находим ответ.
Задача №3
Источник с алфавитом из трех букв Х1, Х2, Х3, закодированных равномерным кодом, с вероятностями Р(Х1) = 0.5, Р(Х2) = 0.3, Р(Х3) = 0.2 передает сообщения в двоичный канал со скоростью V = 2000 бит/сек.
Определить емкость W (в байтах) буферного запоминающего устройства (ЗУ),
необходимый для хранения всех сообщений,
поступивших из канала за время Т = 10сек.
Дано:
Р(Х1) = 0.5, Р(Х2) = 0.3, Р(Х3) = 0.2 V = 2000 бит/сек.
Т = 10с
W –? (в байтах)
Решение:
[ ]
] |
[ |
] |
[ |
n=1
∑ ( |
( )) |
[ ]
Подставляем числа и получаем ответ.