5. Оптимальный неравномерный код (онк) Хаффмена

Составим оптимальный неравномерный код (ОНК) Хаффмена:

ai	p(ai)	Шаг №1	Шаг №2	Шаг №3	Шаг №4	Шаг №5	Шаг №6	Шаг №7	Шаг №8	Шаг №9	Шаг №10	Шаг №11	Шаг №12	Шаг №13	Шаг №14	Шаг №15	li	ОНК
е	0,1935																2	00
а	0,1290																3	100
н	0,0968																4	1100
“	0,0645																4	1010
к	0,0645																4	0100
в	0,0645																4	0101
_	0,0645																4	0110
р	0,0645																4	0111
у	0,0323																5	11010
з	0,0323																5	11011
ц	0,0323																5	11100
о	0,0323																5	11101
т	0,0323																5	11110
и	0,0323																5	11111
с	0,0323																5	10110
г	0,0323																5	10111

Рис. 5. Таблица для оптимального неравномерного кода (ОНК) Хаффмена

Сообщение в ОНК Хаффмена: S_ОНК =

=10100100110101101111000011100111010101100011000010010011110000111111111100100011010110000111101110000010111001001010.

Построим корневое бинарное дерево ОНК Хаффмена 5-го порядка:

Рис. 6. Корневое бинарное дерево оптимального неравномерного кода (ОНК) Хаффмена 5-го порядка

Рассчитаем все информационные характеристики ОНК Хаффмена:

1. Средняя длина ОНК:

=0,1935*2+0,1290*3+0,0968*4+5*(0,0645*4)+8*(0,0323*5)==3,7432 [бит/символ].

2. Энтропия алфавита:

0,1935*2,3696+0,1290*2,9546+0,0968*3,3688+

+5*(0,0645*3,9546)+8*(0,0323*4,9523)=3,7208 [бит/символ].

3. Максимальная энтропия:

[бит].

4. Относительная энтропия:

5. Информационная избыточность:

.

6. Абсолютная недогруженность:

[бит/символ].

7. Коэффициент сжатия данных:

.

8. Коэффициент эффективности:

В нашем случае информационные характеристики ОНК Шеннона – Фано и ОНК Хаффмена совпадают.