Эффективное кодирование

Задача эффективного кодирования – представить сообщение минимальным количеством канальных символов. Если кодировать отдельные знаки алфавита источника, то наиболее вероятные знаки следует представлять самыми короткими кодовыми комбинациями.

Пример кодирования блоков знаков с независимым появлением:

Источник , энтропия Н = – (0,9 log₂0,9 + 0,1 log₂0,1) = 0,47,

для передачи одного знака требуется один двоичный символ (1 бит).

Кодируем блоки из двух знаков (методом Шеннона –Фано)

блоки знаков	вероятности	разделение на группы	кодовые слова
а = x1 x1 b = x1 x2 c = x2 x1 d = x2 x2	0,81 0,09 0,09 0,01	1 00 1 00 0 0 0 1 00 0 0 0 0	1 0 1 0 0 1 0 0 0

Для передачи блока в среднем требуется

1*0,81 + 2*0,09 + 3(0,09 + 0,01) = 1,29 бит, а для передачи знака – 0,65 бит.

Кодируем блоки из трех знаков

блоки знаков	вероятности	разделение на группы					кодовые слова
a =x1 x1 x1 b= x2 x1 x1 c =x1 x2 x1 d =x1 x1 x2 e =x2 x2 x1 f =x2 x1 x2 g =x1 x2 x2 h =x2 x2 x2	0,729 0,081 0,081 0,081 0,009 0,009 0,009 0,001	1					1 011 010 001 00011 00010 00001 00000
		0 0 0 0 0 0 0	01	011
				010
			00	001
				000	0001	00011
						00010
					0000	00001
						00000

Для передачи блока в среднем требуется

1*0,729 + 3*(3*0,081) + 5*(3*0,009 + 0,001) = 1,598 бит,

а для передачи одного знака – 0,53 бит.

Использование слов разной длины осложняет символьную синхронизацию. При одиночной ошибке длина кодового слова может быть определена неверно, а это приведет к ошибкам декодирования последующих кодовых слов.

Для однозначного декодирования ни одно кодовое слово не должно совпадать с началом более длинного кодового слова, иначе между словами придется ставить избыточные разделительные символы.

Кодирование звуковых сигналов

Основные классы звуковых сигналов

вид звукового сигнала	диапазон частот, кГц	частота опросов, кГц	Бит/ опрос	Скорость кбит/c
Телефонная речь Широкополосная речь Широкополосное аудио	0,3…3,4 0,06…7 0,01…20	8 16 48	8 14 16	64 224 768

Кодируется форма сигнала, спектр или параметры источника сигнала.

При кодировании формы сигнала (waveform coding) передается, разными способами, последовательность дискретных отсчетов сигнала.

При импульсно-кодовой модуляции ИКМ (pulse code modulation, PCM) цифровые значения отсчетов передаются без каких-либо преобразований.

При дельта-модуляции ДМ (DM, delta modulation) выдается один бит на отсчет, означающий увеличение или уменьшение сигнала на один шаг (речь передается со скоростью 32 кбит/c). Существуют адаптивные методы дельта-модуляции с переменным шагом.

При дифференциальной импульсно-кодовой модуляции ДИКМ (DPCM) в канал передается разность между текущей выборкой сигнала x(k) и ее предсказанным значением x*(k), вычисляемым «N-отводным предсказателем» (кодером с памятью) как линейная комбинация N предыдущих выборок сигнала:

В адаптивных кодерах с ДИКМ оптимальные значения параметров а_i определяются по автокорреляционной функции передаваемого сигнала и передаются вместе с ошибкой предсказания.

Кодек с предсказанием (LPC, linear predictive codec):

Характеристики речи меняются через 50-100мс, для предсказателя с 10-12 отводами параметры меняют через 20 мс.