- •Сибирский государственный аэрокосмический университет
- •© Сибирский государственный аэрокосмический университет имени академика м. Ф. Решетнева, 2007
- •Оглавление
- •Предисловие
- •1. Информационная метрика
- •1.1. Энтропия и ее свойства
- •1.2. Энтропия сложной системы
- •1.3. Условная энтропия. Объединение зависимых систем
- •1.4. Определение информационных потерь в каналах связи
- •2. Кодирование информации
- •2.1. Количественное определение избыточности в сообщениях
- •2.2. Оптимальное неравномерное кодирование
- •2.2.1. Кодирование методом шеннона-фано
- •2.2.2. Кодирование методом хаффмана
- •2.2.3. Кодирование методом хаффмана. Кодовое дерево
- •2.2.4. Определение оптимальности закодированных сообщений
- •2.3. Корректирующие коды
- •2.3.1. Код хемминга
- •2.3.2. Линейные групповые коды
- •3. Указания к выполнению лабораторных работ
- •3.1. Лабораторная работа № 1
- •3.2. Лабораторная работа № 2
- •3.3. Лабораторная работа № 3
- •3.4. Лабораторная работа № 4
- •3.5. Лабораторная работа № 5
- •Заключение
- •Библиографический список
3.5. Лабораторная работа № 5
Линейные групповые коды
Цель работы: Закрепление знаний по методам кодирования информации.
Задание:
1. Построить линейный групповой код, способный исправлять одиночную ошибку. Вариант взять из лабораторной № 4.
2. Привести пример 10 кодовых комбинаций.
3. Показать процесс исправления ошибки в заданном разряде k.
4. Составить программу, кодирующую и декодирующую кодовую комбинацию.
Контрольные задачи:
Задание 1
Источник передает сообщения при помощи 15 двоичных комбинаций. Составить информационную и проверочную матрицы таким образом, чтобы полная производящая матрица могла производить групповой код, корректирующий одиночные сбои.
Задание 2
Групповой код построен по матрице
.
Показать процесс исправления ошибки в произвольном разряде корректирующего кода, информационная часть которого представляет собой четырехразрядные комбинации натурального двоичного кода.
Задание 3
Определить, какие из приведенных ниже комбинаций групповых кодов содержат ошибку: 1100111, 0110101, 0011010, 0010110, если известно, что код построен по матрице
Задание 4
Какой вид имеют комбинации группового кода с d0 = 3, построенного для передачи четырехзначных двоичных комбинаций на все сочетания, если его порождающая матрица имеет вид:
Заключение
Необходимо отметить, что современная Теория информации лишь на первый взгляд кажется устоявшейся и уже достигшей завершенности. Несмотря на наличие результатов, носящих законченный характер (теоремы Шеннона, Котельникова), теория в целом находится в состоянии развития. Положение таково, что хорошо изученными могут считаться процессы передачи и хранения информации. Из процессов преобразования информации рассмотрены наиболее простые (перекодировка, линейное предсказание, квантование). Вопросы использования информации остаются пока практически вне рамок теории информации. Одной из причин этого является отсутствие качественных особенностей информации, степени истинности, ценности.
От общей теории часто ожидают больше, чем она может дать, полагают, что теория содержит ответы на любые практические вопросы. Это, конечно, не так. Общая теория устанавливает определенный строй идей и предуказывает пути практической деятельности, но не ее результаты. Иными словами, для того, чтобы теория могла принести пользу, важно, чтобы ею овладели инженеры, непосредственно занятые в области обработки и передачи информации. С этой целью и написано данное пособие.
Библиографический список
1. Венцель, В.С. теория вероятностей [Текст]: Учеб. для вузов / Е.С. Венцель. – М.: Высшая школа, 2002. – 575 с.
2. Задачник по теории информации и кодированию [Текст] / В.П. Цымбал. – Изд. объед. "Вища школа", 1976. – 276 с.
3. Тенников, Ф.Е. Теоретические основы информационной техники / Ф.Е. Тенников. – М.: Энергия, 1971. – 424 с.