22.Формула Шеннона.

Существует множество ситуаций, когда возможные события имеют различные вероятности реализации. Например, если монета несимметрична (одна сторона тяжелее другой), то при ее бросании вероятности выпадения "орла" и "решки" будут различаться.Формулу для вычисления количества информации в случае различных вероятностей событий предложил К. Шеннон в 1948 году. В этом случае количество информации определяется по формуле:

(2.2)

где I - количество информации; N - количество возможных событий; р_i - вероятность i-го события.

Например, пусть при бросании несимметричной четырехгранной пирамидки вероятности отдельных событий будут равны:Р₁ = 1/2, р₂ = 1/4, р₃ = 1/8, р₄ = 1/8.Тогда количество информации, которое мы получим после реализации одного из них, можно рассчитать по формуле (2.2):I = -(l/2 log₂l/2 + l/4 log₂l/4 + l/8 log₂l/8 + l/8 log₂l/8) = (1/2 + 2/4 + 3/8 + 3/8) битов = 14/8 битов = 1,75 бита.Этот подход к определению количества информации называется вероятностным.Для частного, но широко распространенного и рассмотренного выше случая, когда события равновероятны (p_i= 1/N), величину количества информации I можно рассчитать по формуле:

(2.3)

По формуле (2.3) можно определить, например, количество информации, которое мы получим при бросании симметричной и однородной четырехгранной пирамидки:I = log₂4 = 2 бита. Таким образом, при бросании симметричной пирамидки, когда события равновероятны, мы получим большее количество информации (2 бита), чем при бросании несимметричной (1,75 бита), когда события неравновероятны.Количество информации, которое мы получаем, достигает максимального значения, если события равновероятны.

23.Скорость передачи информации.

Скорость передачи информации — скорость передачи данных, выраженная в количестве бит, символов или блоков, передаваемых за единицу времени.. Скорость передачи информации определяется количеством элементов двоичной информации,, передаваемых за 1 с. В некоторых случаях Для синхронной передачи данных по коммутируемым каналам рекомендуется использовать скорости из следующего ряда: 600, 1200, 2400, 4800, 9600 бит/с. Для асинхронной передачи по коммутьируемым каналм рекомегндуется скорость 300 бит/с. В соответствии с V.6 для синхронной передачи данных по арендованным каналам рекомендуется использовать скорости из следующих рядов: а) предпочтительные: 600, 1200, 2400, 4800, 9600, 14400 бит/с;б) дополнительные: 3000, 6000, 7200, 12000 бит/с; в) допустимого диапазона: Nx600 бит/с (1<=N<=24) Следует отличать скорость передачи информации от модуляционной (линейной) скорости , измеряемой в Бодах (количество элементов модулированного сигнала, передаваемого за 1 с). Для простых видов модуляции (частотной - ЧМ и относительной фазовой - ОФМ) скорость передачи информации совпадает с модуляционной скоростью.При синхронной передаче скорость дролжна отличаться от номинального значения не более, чем на 0,01%, а при асинхронной - не

более, чем на 2,5%.С корость передачи может быть технической или информационной. Под технической скоростью VT, называемой также скоростью манипуляции, подразумевается число элементарных сигналов (символов), передаваемых в единицу времени бод.Информационная скорость или скорость передачи информации, определяется средним количеством информации, которое передается в единицу времени и измеряется (бит/сек).

Для равновероятных сообщений, составленных из равновероятных взаимно независимых символов В случае если символы не равновероятны В случае если символы имеют разную длительность: