Контрольные вопросы (краткие ответы)

1. Что такое кодирование информации в общем смысле?

Кодирование информации – это процесс формирования определенного представления информации. В ши-роком смысле под кодированием понимают процесс преобразования сообщений в сигнал. В более узком смысле под термином «кодирование» часто понимают переход от одной формы представления информации к другой, более удобной для хранения, передачи или обработки.

4. Что такое код? Приведите примеры кодирования и декодирования.

Код – это набор условных обозначений (или сигналов) для записи (или передачи) некоторых заранее опре-деленных понятий. Кодирование – процесс представления информации (сообщения) в виде кода. Декодирование – процесс обратного преобразования кода к форме исходной символьной системы, т.е. получение исходного сообщения. Пример: передача собщение азбукой Морзе получателю (кодирование), а получатель переводит обратно (декодирует) в исходное сообщение.

7. Приведите примеры искусственного повышения избыточности кода.

Методы обнаружения и исправления ошибок, основаны на искусственном введении избыточности в передаваемое сообщение. Пример: код Хемменга – для его построения достаточно приписать к каждому слову один добавочный (контрольный) двоичный разряд и выбрать цифру этого разряда так, чтобы общее количество единиц в изображении любого числа было, например, четным. Одиночная ошибка в каком-либо разряде передаваемого слова (в том числе, может быть, и в контрольном разряде) изменит четность общего количества единиц. Счетчики по модулю 2, подсчитывающие количество единиц, которые содержатся среди двоичных цифр числа, могут давать сигнал о наличии ошибок.

8. В чем состоит содержание 1-й и 2-й теорем Шеннона?

Первая теорема Шеннона о передаче информации, которая называется также основной теоремой о кодировании при отсутствии помех, формулируется следующим образом: При отсутствии помех передачи всегда возможен такой вариант кодирования сообщения, при котором среднее число знаков кода, приходящихся на один знак кодируемого алфавита, будет сколь угодно близко к отношению средних информаций на знак первичного и вторичного алфавитов. Используя понятие избыточности кода, можно дать более короткую формулировку теоремы: При отсутствии помех передачи всегда возможен такой вариант кодирования сообщения, при котором избыточность кода будет сколь угодно близкой к нулю. Теорема Шеннона — Хартли в теории информации — применение теоремы кодирования канала с шумом к архетипичному случаю непрерывного временного аналогового канала коммуникаций, искажённого гауссовским шумом. Теорема устанавливает шенноновскую ёмкость канала, верхнюю границу максимального количества безошибочных цифровых данных (то есть, информации), которое может быть передано по такой связи коммуникации с указанной полосой пропускания в присутствии шумового вмешательства, согласно предположению, что мощность сигнала ограничена, и гауссовский шум характеризуется известной мощностью или мощностью спектральной плотности. Закон назван в честь Клода Шеннона и Ральфа Хартли.