Помехоустойчивое кодирование

Теорема К. Шеннона, применительно к дискретному источнику, формулируется следующим образом: если производительность источника сообщении Н'(А) меньше пропускной способности капала С, то существует по крайней мере одна процедура кодирования и декодирования, при которой вероятность ошибочного декодирования и ненадежность H(А/В) могут быть сколь угодно малы. Если Н'(А) > С, то такой процедуры не существует.

Положения, доказанные Шенноном, оказались неожиданными и расходились с признанными представлениями. В частности, считалось, что для повышения верности нужно уменьшать скорость передачи сообщения. Это подтверждалось практическими результатами анализа многократной повторной передачи символов по каналу связи, из которых следовало, что весьма малую вероятность ошибки можно обеспечить только при стремлении скорости передачи к нулю.

Однако теорема Шеннона указывает на принципиальную возможность передачи информации со скоростью, сколь угодно близкой к пропускной способности канала и при сколь угодно малой вероятности ошибки.

Это очень важный для теории и практики результат.

К сожалению, теорема Шеннона не конструктивна в том смысле, что она не дает конкретного способа кодирования, существование которого доказывает. Однако, обосновав принципиальную возможность такого кодирования, она мобилизует усилия ученых на поиск высокоэффективных помехоустойчивых кодов.

Целью помехоустойчивого кодирования является повышение верности передачи сообщения, которая достигается введением избыточности в передаваемую информационную кодовую комбинацию. В дальнейшем будем рассматривать в основном коды с основанием 2, как наиболее просто реализуемые на практике. Такие коды называются двоичными. Рассмотрим передачу двоичной информации по каналу связи (рис. 1).

На вход кодирующего устройства поступают информационные кодовые комбинации а_и длиной в "к" символов. Их количество равно 2^к. В кодирующем устройстве производится формирование помехоустойчивого кода добавлением к информационным символам проверочных. В результате длина помехоустойчивого кода становится равной п. Отсюда число проверочных символов равно (п - к). Количество кодовых комбинаций на выходе кодирующего устройства при этом остается равным количеству кодовых комбинаций на его входе, т.е. 2^к. Эти кодовые комбинации а называются разрешенными. Разрешенные кодовые комбинации преобразуются модулятором в сигнал u(t), который передается по линии связи.

1 – кодирующее устройство;

2 – модулятор;

3 – линия связи;

4 – демодулятор;

5 – декодирующее устройство

Рисунок 1 – Передача помехоустойчивого кода по каналу связи

В демодуляторе происходит восстановление этих комбинаций. Восстановленные комбинации отличаются от переданных, так как в линии связи присутствует помеха N(t). Возможны следующие случаи передачи (рис. 2)

Рисунок 2 – Случаи передачи помехоустойчивого кода по каналу связи

1) Кодовая комбинация на выходе линии связи b_j равна кодовой комбинации на ее входе аi,. Количество возможных случаев приема равно 2^к. Эти случаи имеют место, когда помеха в линии связи отсутствует.

2) Кодовая комбинация на выходе линии связи b_j: не равна кодовой комбинации a_i на ее входе, но совпадает с одной из других разрешенных комбинаций.

3) Кодовая комбинация на выходе линии связи b_j не совпадает ни с одной разрешенной кодовой комбинацией a_i на ее входе.

Случаи 2, 3 имеют место тогда, когда и линии связи действует помеха и некоторые символы входной разрешенной кодовой комбинации принимаются с ошибками. Вместо "1" принимается "О" и наоборот. Входная разрешенная кодовая комбинация и в результате этого переходит или в другую разрешенную комбинацию (случай 2) или в запрещенную (случай 3).

На приемном конце известны все разрешенные кодовые комбинации. С этими комбинациями можно сравнить принимаемые кодовые комбинации и на основании этого определить: принадлежит ли принимаемая комбинация к разрешенной или запрещенной. Таким образом решается задача обнаружения ошибок. В системах с обратной связью эта задача является одной из главных. При ее решении принятая с ошибкой кодовая комбинация для дальнейшей обработки не передается, а на передатчик посылается сигнал запроса на повторение ранее переданной комбинации.