Цель работы
Получить практические навыки в оценке информационных характеристик сообщений.
Закрепить теоретические знания по принципам построения эффективных кодов.
Получить практические навыки в экспериментальных исследованиях информационных характеристик сообщений с использованием современных программных средств.
Исходный текст
я пархоменко евгений викторович проживаю в городе энергодар учусь в севастопольском национальном университете ядерной энергии и промышленности на специальности автоматизированное управление технологическими процессами в группе сто тридцать пять
1 Построение кода Шеннона-Фено
i |
xi |
|
P(xi) |
H(xi) |
Построение кода |
Двоичное число |
|
|
|||||||
разряды |
|||||||||||||||
|
|
|
|
|
1 |
2 |
3 |
4 |
5 |
6 |
7 |
8 |
|
|
|
1 |
_ |
27 |
0,11 |
0,35 |
0 |
0 |
0 |
|
|
|
|
|
000 |
3 |
0,337 |
2 |
о |
24 |
0,1 |
0,33 |
1 |
|
|
|
|
|
001 |
3 |
0,3 |
||
3 |
и |
21 |
0,087 |
0,308 |
1 |
0 |
0 |
|
|
|
|
0100 |
4 |
0,35 |
|
4 |
е |
20 |
0,083 |
0,3 |
1 |
|
|
|
|
0101 |
4 |
0,33 |
|||
5 |
н |
17 |
0,071 |
0,27 |
1 |
0 |
|
|
|
|
0110 |
4 |
0,28 |
||
6 |
р |
15 |
0,062 |
0,25 |
1 |
|
|
|
|
0111 |
4 |
0,25 |
|||
7 |
а |
14 |
0,058 |
0,24 |
1 |
0 |
0 |
0 |
|
|
|
|
1000 |
4 |
0,23 |
8 |
т |
12 |
0,05 |
0,217 |
1 |
0 |
|
|
|
10010 |
5 |
0,25 |
|||
9 |
с |
12 |
0,05 |
0,217 |
1 |
|
|
|
10011 |
5 |
0,25 |
||||
10 |
в |
12 |
0,05 |
0,217 |
1 |
0 |
|
|
|
|
1010 |
4 |
0,2 |
||
11 |
п |
9 |
0,037 |
0,178 |
1 |
0 |
|
|
|
10110 |
5 |
0,18 |
|||
12 |
м |
7 |
0,029 |
0,149 |
1 |
|
|
|
10111 |
5 |
0,14 |
||||
13 |
л |
6 |
0,025 |
0,13 |
1 |
0 |
0 |
0 |
|
|
|
11000 |
5 |
0,125 |
|
14 |
ь(ъ) |
6 |
0,025 |
0,13 |
1 |
|
|
|
11001 |
5 |
0,125 |
||||
15 |
г |
6 |
0,025 |
0,13 |
1 |
0 |
|
|
|
11010 |
5 |
0,125 |
|||
16 |
у |
5 |
0,02 |
0,11 |
1 |
0 |
|
|
110110 |
6 |
0,12 |
||||
17 |
к |
4 |
0,016 |
0,098 |
1 |
|
|
110111 |
6 |
0,099 |
|||||
18 |
д |
4 |
0,016 |
0,098 |
1 |
0 |
0 |
|
|
|
11100 |
5 |
0,083 |
||
19 |
ц |
4 |
0,016 |
0,098 |
1 |
0 |
|
|
111010 |
6 |
0,099 |
||||
20 |
ч |
3 |
0,012 |
0,079 |
1 |
|
|
111011 |
6 |
0,075 |
|||||
21 |
я |
2 |
0,008 |
0,057 |
1 |
0 |
0 |
|
|
111100 |
6 |
0,049 |
|||
22 |
х |
2 |
0,008 |
0,057 |
1 |
0 |
|
1111010 |
7 |
0,058 |
|||||
23 |
э |
2 |
0,008 |
0,057 |
1 |
|
1111011 |
7 |
0,058 |
||||||
24 |
ы |
1 |
0,004 |
0,032 |
1 |
0 |
0 |
|
1111100 |
7 |
0,0287 |
||||
25 |
з |
1 |
0,004 |
0,032 |
1 |
0 |
11111010 |
8 |
0,032 |
||||||
26 |
й |
1 |
0,004 |
0,032 |
1 |
11111011 |
8 |
0,032 |
|||||||
27 |
ж |
1 |
0,004 |
0,032 |
1 |
0 |
|
1111110 |
7 |
0,0287 |
|||||
28 |
ю |
1 |
0,004 |
0,032 |
1 |
0 |
11111110 |
8 |
0,032 |
||||||
29 |
ш |
1 |
0,004 |
0,032 |
1 |
11111111 |
8 |
0,032 |
|||||||
|
240 |
1 |
4,262 |
|
|
|
4,298 |
В частном случае при равномерно распределении символов алфавита максимальна:
где M0 – общие число кодовых комбинаций, содержащее кодовые слова различной длинны.
Избыточность кода: