Добавил:
Upload Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

Методическое пособие Теория информации-2

.pdf
Скачиваний:
100
Добавлен:
13.02.2015
Размер:
3.99 Mб
Скачать

где – средний квадратичный эффект (мощность) передаваемого сигнала.

Учитывая выражения (4.58) и (4.59), максимальную скорость передачи информации по каналу с ограниченной средней мощностью и случайным шумом можно определить следующим образом:

ÖSÒÁ

$lim

 

 

log 2 `

5

 

log 2 `

 

log

 

 

 

 

(4.60)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Рассмотрим случай, когда присутствующий в канале

связи шум носит

 

 

 

 

5

 

 

 

произвольный

характер. Предположим, что шум как и в предыдущем случае

складывается с сигналом линейно. Пусть

 

– средний квадратичный эффект

Ë

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

5

 

 

 

 

 

 

 

 

 

средний квадратичный эффект шума;

(мощность) передаваемого сигнала,

 

 

 

 

 

 

 

 

 

 

 

 

 

 

энтропийная мощность

шума.

Средний

квадратичный

эффект

 

 

5

 

 

 

 

loga2π`( + 5)b

 

 

 

в единицу времени для сигнала,

 

 

 

 

 

 

 

принимаемого

сигнала будет

равен

 

 

 

. Энтропия в единицу времени

принимаемого сигнала не может

превосходить

 

 

 

 

 

 

энтропию

 

 

+ 5

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

распределение

которого

совпадает с

 

 

 

 

 

 

 

 

 

log(2π`5)

 

 

 

 

 

 

 

распределением случайного шума. Энтропия произвольного шума в единицу

времени может быть определена, как

 

 

 

 

 

.

Тогда скорость передачи

 

 

 

 

 

 

 

 

 

 

 

 

 

значения, достигаемого в том

информации не может превышать максимального Ë

 

 

 

 

 

 

 

 

случае, когда принимаемому сигналу придают характеристики случайного шума:

Ö ≤ log 2 ` 5

log 2 `5 log

 

 

5

(4.61)

 

 

 

 

Передаваемый сигнал

всегда можно наделить

свойствами случайного

 

Ë

 

 

loga2π`( + 5)b

 

 

шума, в этом случае энтропия в единицу времени для принимаемого сигнала

составляет как минимум

 

Ë . Тогда справедливо выражение:

ÖSÒÁ ≥ loga2π`( + 5)b −

log(2π`5) = log

 

 

5

(4.62)

Формулы (4.61) и (4.62)

определяют верхний и Ëнижний пределы

наибольшей скорости передачиÖинформации по каналу связи с произвольным шумом. Фактическое значение SÒÁ определено только для случаев случайного

101

игауссовского шумов. Для случайного шума верхний и нижний пределы (4.61)

и(4.62) совпадают. Если мощность сигнала велика по сравнению с мощностью шума, то скорость передачи при любом характере шума приближается к следующему значению:

ÖSÒÁ ≈ log c Ëd

 

5

(4.63)

 

Выражение (4.63) показывает, что самое сильное влияние на пропускную способность канала связи оказывает шум, обладающий наибольшей энтропийной мощностью. Следовательно, при заданной мощности в заданной полосе частот наиболее вредным оказывается случайный шум, так как он обладает наибольшей энтропийной мощностью.

Рассмотрим скорость передачи информации по каналу с гауссовским

шумом. Гауссовский шум характеризуется нормальным распределение вероятностей значений сигнала в точках отсчета на оси частот и отсутствием взаимных связей между этими значениями. От случайного шума гауссовский шум отличается неравномерностью спектра и тем, что спектр не обязательно начинается от нулевой частоты. Случайный шум при помощи фильтра может быть переведенý(²в)гауссовский.

Пусть – функция спектральной плотности мощности полезного сигнала, тогда полная мощность сигнала:

= • ý(²) d²

(4.64)

'

 

Аналогично определим полную мощность шума:

 

5 = • (²) d²

(4.65)

'

 

 

(²)

 

Разделим весь частотный диапазон на узкие полосы таким образом, чтобы

в пределах каждой полосы функция

 

была примерно постоянной. Для того,

 

102

 

чтобы скорость передачи информации по каналу связи была максимальной,

полезный сигнал также должен обладать свойствами гауссовского шума. В

∆²этом случае энтропия∆²суммыlog·2π`полезногоaý(²)∆² +сигнала(²)∆²ишума в узкой полосе частот ∆² logсоставляет·2π`a (²)∆²b¸ , а энтропия шума –

. Скорость передачи информации в узкой полосе частот

равна:

Ö= ∆² log ˆ

 

 

(4.66)

 

 

Поскольку связи между

значениями(

сигналов)

в отдельных точках отсчета

 

²

 

 

на оси частот отсутствуют, общая скорость передачи информации находится

суммированием Öпо всем ∆²:

 

 

 

 

 

 

 

 

 

 

 

 

 

Ö = • log

ˆ

ý(²) + (²)

‰ d²

 

 

(4.67)

 

 

 

 

'

 

 

 

 

(²)

 

 

 

 

 

 

 

Определим спектр мощности полезного сигнала, при котором при

максимальной.

 

 

 

(²)

 

и

заданной спектральной

плотности

заданной

полной

мощности сигнала

 

мощности

гауссовского шума

 

 

 

 

 

скорость передачи информации

будет

 

 

 

ÖSÒÁ = • log ˆ

ý(²)

+ (²)

‰ d² =

 

 

 

 

 

(

 

'

 

 

 

 

(²)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

(

 

 

 

 

 

 

 

= • logaý(²) + (²)b d² − • loga (²)b d² =

 

(4.68)

 

 

'

(² − ² ) log c− 1d

 

'

 

 

 

 

 

 

 

 

 

=

− •( loga (²)b d²

 

 

 

 

 

 

 

 

 

λ

 

 

'

 

 

 

 

 

 

 

, 5, (² − ² )

и

− ² ) log @−

 

Aот спектрального

распределения

.

 

 

 

 

 

 

 

103

 

константа,

зависящая

 

(²)

Выражение

 

 

 

 

 

только от

 

 

 

не

зависящая

 

 

 

 

 

 

 

 

 

 

 

 

log (²)b d²

 

является такой гауссовский

шум, при

котором

Следовательно,

наихудшим

интеграл

 

'(

 

a

,

характеризующий полную

мощность

шума,

1

максимален. Таким шумом является белый гауссовский шум:

(²) = − λ = Ì ý

4.3.2. Скорость передачи информации для сигналов с ограниченной пиковой

мощностью

 

Определим максимальную энтропию ансамбля с ограниченной пиковой

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

мощностью в точках отсчёта. Пусть пиковая мощность не превышает величины

 

во всех точках отсчёта, т.е. значения сигналов лежат между

 

и +

.

Энтропия сигнала будет максимальной в том случае, когда функция

распределения вероятностей во всех точках постоянна в пределах от – √

до

+√

и равна

√ð

. Соответственно, энтропия в каждой точке отсчёта равна:

 

 

 

 

 

 

 

 

 

O(°) = − • <(°) log <(°) d° = −

 

 

1

log

1

d° =

 

 

(4.69)

 

 

 

 

 

 

 

 

 

 

= −

1

log

1

 

 

ð 2√

 

2√

 

 

 

 

 

 

 

 

 

 

 

 

2√= log 2√= 1 log 4•

 

 

 

 

 

 

 

 

 

 

 

 

 

2å

 

 

 

2å

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Вычислим энтропию ансамбля с пиковой2мощностью, ограниченной не

только в точках отсчёта, но и на всем интервале

. Если сигнал, рассмотренный

ранее и

описываемый

¤¥¦( “Œ&)

, пропустить

через

фильтр,

коэффициент

 

 

 

 

² =

 

 

 

 

 

равен единице и далее падает линейно, обращаясь

передачи которого при

 

 

“Œ&

 

 

 

 

¤¥¦ (“Œ&)

 

в ноль при

 

 

 

, то

получим сигнал, пиковая мощность которого ограничена

 

 

 

 

² = 0

 

 

 

 

 

 

 

 

 

(“Œ&)(

 

 

на всем

 

интервале

 

 

 

и

который описывается

функцией

 

(

 

.

В

 

 

 

 

 

 

 

соответствии с теоремой отсчётов, всякий сигнал с ограниченной пиковой мощностью в точках отсчёта может быть записан в виде ряда Фурье

104

 

¤¥¦( “Œ&’ “), где

!

 

 

 

 

 

 

Q#

 

 

 

 

 

 

 

 

– минимальное линейное значение сигнала в

-ой точке отсчёта, которое не превосходит по

абсолютному значению . На

!

“Œ&’ “

 

 

$Q#Œ

 

 

 

 

 

 

@“Œ&’-(

 

 

выходе из фильтра сигнал будет равен

A(

 

 

- ¤¥¦(@“Œ&’-( A. Сомножители

под знаком суммы в этом выражении не меняют своего знака во времени и

всегда совпадают по знаку с

 

 

. Выходной

сигнал

принимает своё

значение

+√

 

когда

все

 

 

 

 

+√

 

 

 

 

 

оказываются максимальными и

максимальное значение тогда,

 

!

 

 

 

 

 

 

 

равными

 

. Если входной сигнал

постоянен и равен

 

 

, то максимальное

 

 

 

!

 

 

 

 

 

 

 

выходного сигнала будет достигнуто при

 

 

и будет равняться .

На остальном диапазоне значение выходного

сигнала будет уменьшаться, что

 

² = 0

 

удовлетворяет условию ограничения пиковой мощности на всём интервале .

Энтропия в единицу времени для входного сигнала равна:

I

(4.70)

 

Энтропия в единицу времени для выходного сигнала равна:

O = log 4• + • log c

 

 

 

 

d d² = log 4• − 2 = log

 

 

 

 

 

 

 

 

`

(4.71)

 

#

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Энтропийная мощность выходного сигнала равна:

 

 

 

 

 

 

 

 

 

 

 

 

c

 

d =

 

 

 

 

 

 

Ë

 

 

 

 

(4.72)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

мощность

 

 

шума

составляет

,

 

 

 

Ë

 

Если

энтропийная 2π`

 

`

 

2π`

 

 

 

то энтропийная

 

 

 

 

 

 

 

 

 

 

 

 

 

меньше

 

 

 

 

мощность

принимаемого

сигнала

не может быть

 

5

 

 

 

+5

, что

соответствует энтропии в единицу времени, равной

 

 

 

 

“¡

 

 

O ´ = log 2π` c2π`

+ 5d .

 

 

 

 

 

 

(4.73)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Следовательно, скорость передачи информации будет равна:

105

Ö = O ´ − OÁ ´ = log 2π` c

2π`

+ 5d − log 2π`5 =

(4.74)

= log c

4•

Ë

+ 1d

 

 

2π` 5

 

 

Энтропия ансамбля функций с ограниченными пиковыми значениями может быть оценена как величина, лежащая между значениями,

определяемыми выражениями (4.70) и (4.71).

4.4. Фильтрация

4.4.1. Классификация фильтров

Фильтры предназначены для выделения или ослабления сигналов с заданным спектром частот. В общем случае фильтром можно назвать частотно– зависимый усилитель, коэффициент усиления (пропускания) которого различен на разных частотах. Область частот, в которой фильтры обладают малым ослаблением сигнала (т.е. пропускают его), называется полосой пропускания.

Область частот, в которой фильтры существенно ослабляют сигнал, называется полосой заграждения (подавления, задерживания).

Фильтрация сигнала обычно предпринимается с целью увеличить отношение полезного сигнала к шумам и помехам или усилить полезные качества сигнала. Фильтры могут быть классифицированы в зависимости от вида входного и выходного сигналов, от вида частотной характеристики, от вида и длительности импульсной характеристики.

По виду входного и выходного сигналов фильтры подразделяются на аналоговые, цифровые, аналоговоцифровые (вход аналоговый, выход цифровой) и цифроаналоговые (вход цифровой, выход аналоговый).

По виду частотной характеристики фильтры разделяют на:

фильтры нижних частот (ФНЧ), которые пропускают низкочастотные составляющие спектра и задерживают высокочастотные;

фильтры верхних частот (ФВЧ), которые пропускают только высокочастотные составляющие;

106

фильтры полосно-пропускающие (ФПП), которые пропускают составляющие сигнала только в определённой полосе частот;

фильтры полосно-заграждающие (ФПЗ), которые пропускают все составляющие сигнала, за исключением тех, частоты которых входят в определённую полосу;

фильтры всепропускающие (ФВП), которые пропускают все составляющие сигнала, но изменяют фазовые соотношения между ними;

гребенчатый фильтр, который имеет несколько полос пропускания.

Перечисленные фильтры являются основными, но существуют и другие

разновидности. Графики амплитудно-частотных характеристик данных

фильтров представлены на рис. 4.5.

Рис. 4.5. Амплитудно-частотные характеристики фильтров:

а – нижних частот; б – верхних частот; в – полосно-пропускающий; г – полосно-

заграждающий; д – всепропускающий; е – гребенчатый

В качестве базового при анализе и синтезе фильтров используется фильтр нижних частот. Так, например, если из полного сигнала вычесть выходной сигнал ФНЧ, то получим ФВЧ (рис. 4.6а). ФПЗ можно построить, если включить параллельно ФНЧ и ФВЧ с разными полосами среза (рис. 4.6б).

Для построения ФПП достаточно соединить последовательно соответствующим образом рассчитанные ФНЧ и ФВЧ.

107

Рис. 4.6. Возможные структуры фильтров:

а– верхних частот; б – полосно-заграждающий

Взависимости от вида импульсной характеристики фильтры подразделяются на непрерывные, дискретные (импульсные характеристики фильтра представляют собой набор δ– импульсов, (рис. 4.7а) и импульсные

(импульсные характеристики фильтра представляют собой последовательность

одинаковых по форме импульсов конечной длительности разной амплитуды,

(рис. 4.7б).

Рис. 4.7. Импульсные характеристики фильтров:

а– дискретного; б – импульсного

Взависимости от длительности импульсной характеристики фильтры разделяют на фильтры с конечной импульсной характеристикой (КИХ),

импульсная характеристика которых ограничена во времени, и фильтры с бесконечной импульсной характеристикой (БИХ), импульсная характеристика которых хотя и затухает со временем, но теоретически имеет неограниченную длительность во времени.

108

4.4.2.Свойства линейных фильтров

Вустановившимся режиме свойства линейного фильтра определяются его комплексной функцией передачи ω :

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

(4.75)

где

 

 

 

 

| | =

+ • = `Ò

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

φ = ,ÊÌ @ÕðA.

 

 

 

 

Если на вход линейного фильтра подаётся синусоидальный сигнал

частоты ω

и амплитуды , то откликом фильтра будет синусоидальное

колебание

той же частоты; амплитуда этого колебания будет равна

 

 

,

⁄2π

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

на угол

при этом выходной сигнал будет опережать входной сигнал по фазе| (ω )|

 

(ω)

 

 

 

 

 

 

 

 

 

 

 

 

 

‚( )

 

 

 

φ(ω )Свойства.

фильтра можно характеризовать не только функцией передачи

, но и её обратным преобразованием Фурье

, определяемым

 

по

формуле:

 

 

‚( ) =

 

(ω)`

i•&

 

 

 

 

 

 

 

 

 

(4.76)

 

 

‚( )

 

 

 

 

δ( )

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Функция

 

называется импульсным откликом фильтра и определяет

отклик фильтра на единичный импульс

 

 

 

 

в соответствии с уравнением:

 

 

 

 

 

 

δ( ) = • `

i•&

 

(4.77)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Используя преобразованиеФурье, выразим (ω) через ‚( ).

 

 

 

 

 

 

 

(ω) = • ‚( )`

’i•&

 

d

 

(4.78)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

Стоит отметить, что

(ω)

 

характеризует

поведение

фильтра

 

в

 

 

 

 

 

 

 

109

 

 

 

 

 

 

 

 

стационарном режиме, а

 

характеризует переходный процесс.

 

Импульсный

отклик

 

представляет

собой

отклик фильтра на

 

 

 

‚( )

 

 

 

 

 

единичный импульс,

переданный в момент времени

 

. Так как свойства

 

 

‚( )

‚( − )

 

 

 

=

 

 

 

 

 

импульс,

поданный в момент

фильтра постоянны во времени, то единичный

 

= 0

 

, вызывает на выходе отклик

. Поскольку фильтр линеен, к нему

применим принцип суперпозиции, т.е. отклик фильтра на сумму нескольких сигналов совпадает с суммой откликов на каждый из этих сигналов. Если на

вход подаётся сигнал

, то его можно рассматривать, как сумму узких

прямоугольных

импульсов высоты

 

и ширины

 

, относящихся к

 

²( )

)

 

d

 

различным моментам времени (рис. 4.8)²(.

 

 

Рис. 4.8. Представление функции в виде последовательности импульсов

Каждый из прямоугольных импульсов

 

даст на выходе свой отклик

 

( )

 

 

 

 

 

 

 

²( )

 

в последующий момент .

Согласно

принципу суперпозиции, полный отклик

 

 

²( )d

 

 

 

фильтра

в

момент

времени

 

на весь сигнал

 

находится

 

 

 

 

 

 

 

 

 

 

суммированием откликов фильтра на все импульсы, поданные на его вход до

момента времени .

 

 

 

 

 

 

 

− ) d

 

(

) = • ²( )‚(

 

− ) d = • ²( )‚(

 

(4.79)3

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

виду: Введя замену

 

τ = − , преобразуем уравнение (4.79) к следующему

 

 

 

 

 

 

 

>

 

 

 

 

‚( − ) = 0

 

3 Для существующих фильтров при

отклик на выходе

 

 

ã

 

верхний предел интегрирования может бытьã

расширен.

 

, следовательно,

 

 

 

 

 

 

 

 

 

110