1976
.pdf60
СОДЕРЖАНИЕ
Министерство образования и науки Российской Федерации............................................. |
0 |
Федеральное государственное бюджетное образовательное ............................................. |
0 |
учреждение высшего профессионального образования ..................................................... |
0 |
žКузбасский государственный технический университет.................................................. |
0 |
имени Т. Ф. Горбачева¤........................................................................................................ |
0 |
Турчин Д.Е............................................................................................................................ |
0 |
ПРИКЛАДНАЯ ТЕОРИЯ ИНФОРМАЦИИ................................................................... |
0 |
Рекомендовано в качестве методических указаний к практическим работам учебно- |
|
методической комиссией специальности 230201 žИнформационные системы и |
|
технологии¤ .......................................................................................................................... |
0 |
2011 ....................................................................................................................................... |
0 |
ВВЕДЕНИЕ .......................................................................................................................... |
2 |
ПРАКТИЧЕСКАЯ РАБОТА № 1 Расчет энтропии и количества информации для |
|
дискретных сообщений ........................................................................................................ |
3 |
1.1. Цель работы ................................................................................................................... |
3 |
1.2. Основные теоретические сведения ............................................................................... |
3 |
1.3. Порядок выполнения работы ........................................................................................ |
5 |
1.4. Варианты заданий.......................................................................................................... |
6 |
1.5. Контрольные вопросы ................................................................................................... |
8 |
ПРАКТИЧЕСКАЯ РАБОТА № 2 Расчет условной энтропии дискретных сообщений, |
|
передаваемых по каналу связи с помехами......................................................................... |
9 |
2.1. Цель работы ................................................................................................................... |
9 |
2.2. Основные теоретические сведения ............................................................................... |
9 |
H(A,B) = H(A) + H(B|A) = H(B) + H(A|B); ........................................................................... |
11 |
I = n∙H(A|B). ...................................................................................................................... |
12 |
I = n[H(B) – H(A|B)] = n∙H(B) – I. ..................................................................................... |
12 |
2.3. Порядок выполнения работы ...................................................................................... |
12 |
2.4. Варианты заданий........................................................................................................ |
13 |
Таблица 2.1 ......................................................................................................................... |
13 |
Таблица 2.2 ......................................................................................................................... |
13 |
2.5. Пример выполнения работы........................................................................................ |
14 |
Определим общую условную энтропию сообщений: ....................................................... |
14 |
H(B|A) = – [0,37∙(0,97∙log20,97 + 0,02∙log20,02 + ................................................................ |
14 |
Определим энтропию принятых сообщений:.................................................................... |
14 |
I = n∙H(B) – I; .................................................................................................................... |
16 |
2.6. Контрольные вопросы ................................................................................................. |
16 |
ПРАКТИЧЕСКАЯ РАБОТА № 3. Построение эффективных кодов по методам |
|
Шеннона-Фано и Хаффмана .............................................................................................. |
17 |
3.1. Цель работы ................................................................................................................. |
17 |
3.2. Основные теоретические сведения ............................................................................. |
17 |
Рис. 3.1. Кодовое дерево для кода Шеннона-Фано ........................................................... |
18 |
Рис. 3.2. Пример кодового дерева для кода Хаффмана .................................................... |
20 |
3.3. Порядок выполнения работы ...................................................................................... |
20 |
3.4. Варианты заданий........................................................................................................ |
21 |
Таблица 3.3 ......................................................................................................................... |
21 |
3.5. Контрольные вопросы ................................................................................................. |
22 |
ПРАКТИЧЕСКАЯ РАБОТА № 4. Сжатие информации методом арифметического |
|
кодирования последовательностей символов ................................................................... |
23 |
4.1. Цель работы ................................................................................................................. |
23 |
61 |
|
|||
4.2. Основные теоретические сведения ............................................................................. |
23 |
|||
4.3. Порядок выполнения работы ...................................................................................... |
26 |
|||
4.4. Пример выполнения работы........................................................................................ |
26 |
|||
Рис. 4.2. Графическая интерпретация арифметического кодирования |
|
|||
последовательности |
s |
..........................................................................(s2 s3 s2 s1s2 ) |
27 |
|
Процесс декодирования арифметического кода ............................................................... |
28 |
|||
x |
........................................................................= 100010101 представлен в таблице 4.2 |
28 |
||
Отсюда последовательность символов, полученная путем декодирования |
|
|||
арифметического кода, будет s2s3s2s1s2.............................................................................. |
29 |
|||
4.5. Варианты заданий........................................................................................................ |
29 |
|||
4.6. Контрольные вопросы ................................................................................................. |
30 |
|||
ПРАКТИЧЕСКАЯ РАБОТА № 5. Построение и декодирование линейных блоковых |
|
|||
кодов ................................................................................................................................... |
31 |
|||
5.1. Цель работы ................................................................................................................. |
31 |
|||
5.2. Основные теоретические сведения ............................................................................. |
31 |
|||
5.3. Порядок выполнения работы ...................................................................................... |
36 |
|||
5.4. Пример выполнения работы........................................................................................ |
37 |
|||
5.5. Варианты заданий........................................................................................................ |
42 |
|||
Таблица 5.3 ......................................................................................................................... |
42 |
|||
5.6. Контрольные вопросы ................................................................................................. |
43 |
|||
ПРАКТИЧЕСКАЯ РАБОТА № 6. Построение кода Хэмминга для обнаружения и |
|
|||
исправления одиночных ошибок ....................................................................................... |
44 |
|||
6.1. Цель работы ................................................................................................................. |
44 |
|||
6.2. Основные теоретические сведения ............................................................................. |
44 |
|||
SkSk-1...S2S1, ..........................................................................................................................44
S1 |
= х1 |
х3 |
х5 |
х7 |
... = 0, ...................................................................................44 |
S2 |
= х2 |
х3 |
х6 |
х7 |
... = 0, ...................................................................................45 |
Так ....................................................................................................................................... |
|
|
|
45 |
|
SkSk-1...S2S1, = 00...00,...........................................................................................................45
6.3. Порядок выполнения работы ...................................................................................... |
46 |
|
6.4. Пример выполнения работы........................................................................................ |
46 |
|
x |
. ........................................................................................................................= 011111 |
46 |
S1 = х1 х3 х5 х7 х9 = 0; ................................................................................... |
47 |
|
S1 = х1 0 1 1 1 = х1 1 = 0......................................................................... |
47 |
|
S2 = х2 х3 х6 х7 х10 = 0;.................................................................................. |
47 |
|
S2 = х2 0 1 1 1 = х2 1 = 0......................................................................... |
47 |
|
S3 = х4 1 1 1 = х4 1 = 0.................................................................................. |
47 |
|
S4 = х8 х9 х10 = 0; ...................................................................................................... |
47 |
|
S4 = х8 1 1 = х8 0................................................................................................. |
47 |
|
6.5. Варианты заданий........................................................................................................ |
48 |
|
Таблица 2.11 ....................................................................................................................... |
48 |
|
6.6. Контрольные вопросы ................................................................................................. |
49 |
|
ПРАКТИЧЕСКАЯ РАБОТА № 7. Расчет пропускной способности дискретного канала
связи с помехами ................................................................................................................ |
50 |
7.1. Цель работы ................................................................................................................. |
50 |
7.2. Основные теоретические сведения ............................................................................. |
50 |
7.3. Порядок выполнения работы ...................................................................................... |
51 |
7.4. Пример выполнения работы........................................................................................ |
52 |
62
7.5. Варианты заданий........................................................................................................ |
54 |
Таблица 7.1 ......................................................................................................................... |
54 |
Таблица 7.2 ......................................................................................................................... |
55 |
7.6. Контрольные вопросы ................................................................................................. |
55 |
СПИСОК РЕКОМЕНДУЕМОЙ ЛИТЕРАТУРЫ .............................................................. |
56 |
ПРИЛОЖЕНИЕ .................................................................................................................. |
57 |
Таблица П.1 ........................................................................................................................ |
57 |
Таблица П.2 ........................................................................................................................ |
57 |
Примечание: для русского алфавита, с учетом пробела, а также с учетом отсутствия |
|
связи между буквами Н1=4,31 бит/символ; с учетом двухбуквенных сочетаний Н2=3,5
бит/символ; с учетом трехбуквенных сочетаний Н3=2,98 бит/символ............................ |
58 |
СОДЕРЖАНИЕ ................................................................................................................ |
60 |