Эффективное кодирование

Задача эффективного кодирования – представить сообщение минимальным количеством канальных символов. Если кодировать отдельные знаки алфавита источника, то наиболее вероятные знаки следует представлять самыми короткими кодовыми комбинациями.

Пример кодирования блоков знаков с независимым появлением:

Источник , энтропия Н = – (0,9 log₂0,9 + 0,1 log₂0,1) = 0,47,

для передачи одного знака требуется один двоичный символ (1 бит).

Кодируем блоки из двух знаков (методом Шеннона –Фано)

блоки знаков	вероятности	разделение на группы	кодовые слова
а = x1 x1 b = x1 x2 c = x2 x1 d = x2 x2	0,81 0,09 0,09 0,01	1 00 1 00 0 0 0 1 00 0 0 0 0	1 0 1 0 0 1 0 0 0

Для передачи блока в среднем требуется

1*0,81 + 2*0,09 + 3(0,09 + 0,01) = 1,29 бит, а для передачи знака – 0,65 бит.

Кодируем блоки из трех знаков

блоки знаков	вероятности	разделение на группы					кодовые слова
a =x1 x1 x1 b= x2 x1 x1 c =x1 x2 x1 d =x1 x1 x2 e =x2 x2 x1 f =x2 x1 x2 g =x1 x2 x2 h =x2 x2 x2	0,729 0,081 0,081 0,081 0,009 0,009 0,009 0,001	1					1 011 010 001 00011 00010 00001 00000
		0 0 0 0 0 0 0	01	011
				010
			00	001
				000	0001	00011
						00010
					0000	00001
						00000

Для передачи блока в среднем требуется

1*0,729 + 3*(3*0,081) + 5*(3*0,009 + 0,001) = 1,598 бит,

а для передачи одного знака – 0,53 бит.

Использование слов разной длины осложняет символьную синхронизацию. При одиночной ошибке длина кодового слова может быть определена неверно, а это приведет к ошибкам декодирования последующих кодовых слов.

Для однозначного декодирования ни одно кодовое слово не должно совпадать с началом более длинного кодового слова, иначе между словами придется ставить избыточные разделительные символы.

Форматирование аналогового сигнала в цифровой системе

Дискретизация по времени и квантование по уровню:

Наложение боковых лепестков спектра при дискретизации (пунктир).

Ослабление наложения аналоговым фильтром (жирная линия).

Ослабление наложения «выборкой с запасом» (oversampling) при дискретизации звукового сигнала

Компандирование

Квантование по уровню в АПЦ вносит ошибку, называемую шумом квантования. Эта ошибка существенно искажает слабые сигналы. При передаче речи сильные сигналы появляются достаточно редко, поэтому отношение сигнал /шум можно в среднем повысить без изменения разрядности АЦП, увеличивая шаг квантования пропорционально величине сигнала (рис. 1). Неравномерное квантование реализуют, используя усилитель с нелинейной характеристикой

«сжатия» (рис.2) и устройство квантования с равномерным шагом.

Чтобы шаг квантования был пропорционален величине сигнала, крутизна характеристики y = F(x) усилителя должна быть обратно пропорциональна величине входного сигнала: dF/dx ~ 1/x. Этому требованию соответствует логарифмическая характеристика, которую аппроксимируют разными способами. Наиболее часто применяются аппроксимации по μ-закону и А-закону.

Аппроксимации характеристик сжатия

по μ-закону и А-закону