4. Оптимальный неравномерный код (онк) Шеннона - Фано

Составим оптимальный неравномерный код (ОНК) Шеннона – Фано:

ai	p(ai)	Шаг №1	Шаг №2	Шаг №3	Шаг №4	Шаг №5	ОНК	ИОНК	li
		1^й бит	2^й бит	3^й бит	4^й бит	5^й бит
Р	0,19048		I 0				00	11	2
Е	0,19048	0,52382	0,19041	I 0			010	101	3
У	0,14286	I 0	I  1	0,1613	I 0		0110	1001	4
_	0,09524			I  1	I 1		0111	1000	4
А	0,09524			0,1290	I 0		1000	0111	4
И	0,04762		0,28572	I  0	I 1		1001	0110	4
Н	0,04762		I  0	0,1290	I 0		1010	0101	4
Г	0,04762			I  1	I 1		1011	0100	4
Д	0,04762	0,4762			0,0646	I 0	11000	00111	5
Ь	0,04762	I  1		0,1292	I  0	I 1	11001	00110	5
В	0,04762			I  0	0,0646	I 0	11010	00101	5

Рис. 3. Таблица для оптимального неравномерного кода (ОНК) Шеннона - Фано

Критерий Фано однозначного декодирования ОНК:

Ни одно слово ОНК не является началом другого слова ОНК (свойство префиксности).

Критерий Фано позволяет однозначно декодировать сжатое сообщение S_ОНК.

Сообщение в ОНК Шеннона – Фано: S_ОНК = =01111000110001100101100011010110111001010101000100001011100001011111010110010101011110001011111110000100101100100111.

Построим корневое бинарное дерево ОНК Шеннона – Фано 5-го порядка:

Рис. 4. Корневое бинарное дерево оптимального неравномерного кода (ОНК) Шеннона - Фано 5-го порядка

Рассчитаем все информационные характеристики ОНК Шеннона - Фано:

1. Средняя длина ОНК:

=0,1935*2+0,1290*3+0,0968*4+5*(0,0645*4)+8*(0,0323*5)==3,7432 [бит/символ].

2. Энтропия алфавита:

0,1935*2,3696+0,1290*2,9546+0,0968*3,3688+

+5*(0,0645*3,9546)+8*(0,0323*4,9523)=3,7208 [бит/символ].

3. Максимальная энтропия:

[бит].

4. Относительная энтропия:

5. Информационная избыточность:

.

6. Абсолютная недогруженность:

[бит/символ].

7. Коэффициент сжатия данных:

.

8. Коэффициент эффективности: