Методическое пособие Теория информации-2

Рис. 3.14. Распределение вероятности сопоставления значения сигнала с уровнем

		′		воздействия на сигнал помехи			распределённой по
квантования ‹I			для случая			,
					нормальному закону
< (H)	Как видно из рис. 3.13							п
					и 3.14 по вероятности правильного квантования
								, = 3ö
	воздействие помехи с нормальным законом распределения эквивалентно
воздействиюI		равномерно распределенной помехи при соотношении							.

81

4. Системы передачи информации

4.1. Общие определения

Совокупность средств информационной техники и людей, объединённых для достижения определённых целей или для управления, образуют автоматизированную информационную систему, к которой по мере надобности подключаются абоненты (люди или устройства), поставляющие и использующие информацию.

Наиболее распространёнными информационными системами являются системы, обеспечивающие передачу информации из одного места в другое

(системы связи) и от одного момента времени до другого (системы хранения информации). Обе разновидности систем передачи информации имеют много общего в принципиальных вопросах обеспечения эффективности функционирования. Их применяют как самостоятельные системы и как подсистемы в составе любых более сложных информационных систем.

Совокупность таких подсистем в информационно-вычислительной сети образует её основное ядро – сеть передачи данных.

На рис. 4.1 приведена упрощенная структурная схема одноканальной передачи информации. Информация поступает в систему в форме сообщений.

Под сообщением понимают совокупность знаков или первичных сигналов,

содержащих информацию.

Источник сообщений в общем случае представляет собой совокупность источника информации (ИИ) и первичного преобразователя (ПП). Под источником информации подразумевают исследуемый или наблюдаемый объект, а под первичным преобразователем – техническое устройство

(например, датчик) или человека, воспринимающего информацию о состояниях исследуемого, наблюдаемого объекта, о протекающем в нем процессе. Как уже рассматривалось ранее, существуют дискретные и непрерывные сообщения.

От источника сообщений информация поступает в передающее устройство, которое осуществляет преобразование дискретных или

82

непрерывных сообщений в сигналы, удобные для прохождения по конкретному

каналу связи (либо для хранения в некотором запоминающем устройстве).

Рис. 4.1. Структурная схема одноканальной передачи информации

Для передачи сообщения по каналу связи его необходимо представить в форме, пригодной для передачи по данному каналу, т.е. провести его кодирование. Термин «кодирование» можно определить, как операцию идентификации символов или групп символов некоторого кода с символами или группами символов другого кода. Стоит отметить, что всякий код представляет собой некий алфавит и систему фиксированных ограничений. Для того чтобы код был пригоден для передачи любой информации, возникающей в данном источнике информации, необходимо, чтобы любое сообщение могло быть выражено символами данного кода. Устройство, выполняющее такую операцию, называют кодирующим или кодером (К).

Если в процессе передачи сообщений один код преобразуется в другой,

то тот из кодов, который ближе к источнику сообщений, уместно назвать первичным (или входным), а тот, который дальше от источника, вторичным

(или выходным).

Для согласования свойств подлежащей передаче информации со

83

свойствами используемой аппаратуры применяют модуляторы (М). Под модуляцией понимают отклонение сигнала от некоторой наперёд предписанной ему формы. Отклонение может относиться к временным, пространственным и другим свойствам сигнала. С точки зрения теории информации система модуляции – это система с фиксированными ограничениями. В модулируемом сигнале вероятностные ограничения, присущие самому модулирующему сигналу, накладываются на фиксированные ограничения, присущие системе модуляции. Большим преимуществом модулированного сигнала является его помехоустойчивость, которая в большинстве способов модуляции достигается за счёт расширения полосы частот.

Под линией связи понимают любую физическую среду (воздух, металл,

магнитную ленту и т.п.), обеспечивающую поступление сигналов от передающего устройства к приёмному. Сигналы на выходе линии связи могут отличаться от переданных вследствие затухания, искажения и воздействия помех. Помехами называют любые мешающие возмущения, как внешние

(атмосферные помехи, промышленные помехи), так и внутренние (источником которых является сама аппаратура связи), вызывающие случайные отклонения принятых сигналов от переданных. Эффект воздействия помех на различные блоки системы стараются учесть эквивалентным изменением характеристик линии связи. Поэтому источник помех условно относят к каналу связи (рис. 4.1).

В приёмное устройство поступает сигнал с помехой, который проходит через демодулятор (ДМ, устройство для обратного преобразования измененного сигнала в символы) и декодер (ДМ, устройство для сопоставления символов со знаками исходного алфавита).

Из смеси сигнала и помехи приёмное устройство выделяет сигнал и посредством декодера восстанавливает его. Сообщение считается принятым верно, если в результате декодирования оно может быть в точности восстановлено. При этом не учитывается, сколько времени прошло с момента

84

передачи сообщения до момента окончания декодирования и какова сложность операций кодирования и декодирования. Меру соответствия принятого сообщения посланному называют верностью передачи.

Принятое сообщение с выхода системы связи поступает к абоненту-

получателю, которому была адресована исходная информация.

Совокупность средств, предназначенных для передачи сообщений,

называют каналом связи. Для передачи информации от группы источников,

сосредоточенных в одном пункте, к группе получателей, расположенных в другом пункте, целесообразно использовать только одну линию связи,

организовав на ней требуемое число каналов. Такие системы называют многоканальными.

4.2. Скорость передачи дискретной информации и пропускная способность

канала. Подавление шумов и надежность

Источник дискретных сообщений формирует дискретные

последовательности из ограниченного числа элементарных сообщений. Для передачи дискретных сообщений применяют дискретные каналы связи. По каналу связи должным образом закодированная последовательность символов передаётся с некоторой определённой скоростью.

Наибольшая средняя скорость передачи информации по дискретному

каналу может быть определена исходя из вероятностного подхода к

определению количества информации. Пусть источник информации посылает

некое сообщение . Тогда количество информации, содержащейся в сообщении,
может быть выраженоH	как		. При условии, что передаваемые сообщения
независимы друг от		друга, полная информация, содержащаяся в
		−log <I

последовательности символов, равна сумме информаций, содержащихся в

Полная		E					H	содержащем	5 = E<
каждом из передаваемых символов.					В сообщении,				E	различных
символов (где				5I						I	раз.
			– большое число)		символ будет встречаться
	информация, заключённая в					составит:			I
						85

I	I	I	I	(4.1)

Информация, содержащаяся во всех m символах, может быть выражена уравнением:

I	I	I ,	(4.2)

где суммирование производиться по всем значениям символов, которые могут встретиться в сообщениях. Тогда можно записать следующее:

	символ		= − K <I log <I	(4.3)
	средняя информация
			I	, которое
Количество возможных различных сообщений длительности
при большом	способен	выдать эргодический источник		сообщений,
составляет:	F = ! 2’M ∑T \T ÷øù \T = !tf$
				(4.4)

Однако фиксированные ограничения, налагаемые на канал связи, делают невозможным передачу по нему более чем 5 различных сообщений длительности , причём:

•	(4.5)
При больших , если < f, канал оказывается непригоден для передачи

данной информации, поскольку он не способен пропустить столько различных

сообщений заданной длительности, сколько их способен поставить источник информации, т.е. F > 5 .

При условии, что > f канал способен пропустить всю поступающую

информацию непосредственно от источника или через первичный
преобразователь. Если = f + ε (где ε – положительное малое число), то при
достаточно больших	соблюдается условие	F < 5 , следовательно,
каждому исходному сообщению длительности		может быть поставлено в
	86

соответствие отличное от других кодированное сообщение. В этом случае

всегда существует метод кодирования сообщений при условии, что
декодируются сообщения отрезками длины .
Введём понятие пропускной способности канала •:
• = $lim→		log N T = log	(4.6)
∞		= —получаемая от источника, ˜
log f = − 1 K <I log <I			(4.7)
N I	T	средняя информация

в единицу времени

Учитывая уравнение (4.7) можно сформулировать вывод: если пропускная способность канала превосходит среднее количество информации,

поступающее в единицу времени на вход канала от источника информации или преобразователя ( > f), то вся поступающая информация может быть передана по каналу. Если информация поступает в количестве, превышающем пропускную способность канала ( < f), то полностью она передана быть не может.

Пусть Ö – скорость передачи информации по каналу связи, которую в случае передачи несвязанных сообщений (отсутствуют фиксированные ограничения и взаимные связи) можно определить следующим образом:

Ö =	∑I I <I INI	I	,	(4.8)
где <I – вероятность сообщения H; NI –		время,		необходимое для передачи по
каналу связи сообщения H.				эргодических сообщениях, а
Наличие вероятностных	ограничений в

также фиксированных ограничений, налагаемых на канал связи в случае отсутствия шумов требует дополнительного согласования для того, чтобы обеспечить скорость передачи информации по каналу связи, равной его пропускной способности.

Пусть дан некоторого вида канал, с возможными состояниями 1, 2, … , E.

87

Пусть код, который •применяется, • , … , • для передачи сообщений по данному каналу,

образует алфавит . Отметим, что некоторому положению в последовательности символов сообщения соответствует некоторое состояние канала, определяемое той частью предшествующих символов сообщения,

которые лежат в пределах действия взаимных связей между символами.

Переданная часть сообщения в совокупности с наложенными на код фиксированными ограничениями определяет возможность появления в данный момент тех или иных символов, а в совокупности с вероятностными ограничениями, наложенными на язык сообщения, – определяет относительные вероятности появления в данный момент различных символов и их комбинаций. Учитывая наличие фиксированных и вероятностных ограничений,

скорость передачи информации можно определить следующим образом:

Ö =

i i I

ü

iI

iI

,

(4.9)

где i –

∑i ∑I ∑ü i<iI(ü)NiI(ü)

<iIü – вероятность

вероятность пребывания системы в состоянии m;

того, что символ ý

переводит

систему

из состояния

m

в состояние

H;

log <iIü –

информация,

содержащаяся в символе

ý;

NiIü

–

длина символа

ý,

переводящего систему из состояния m в состояние H.

Все комбинации символов, построенные с учётом вероятностных ограничений языка, можно закодировать в длинные последовательности символов кода таким образом, чтобы скорость передачи информации оказалась равна пропускной способности канала. Однако такое кодирование требует задержки во времени и усложняет процессы кодирования и декодирования.

Поэтому на практике руководствуются следующими двумя правилами:

∙Наиболее часто встречающимся в языке символам или их комбинациям ставят в соответствие наиболее короткие группы символов кода.

∙Каждая группа символов кода, используемая для интерпретации букв и комбинаций групп языка, должна быть по возможности короче. Никакие

88

	группы символов кода не должны остаться неиспользованными.								Ö
	Существует ещё одно выражение для скорости передачи информации									,
	которое, однако, редко применяется на практике:
				Ö = $lim→			,	(4.10)
	F			∞
			–	количество сообщений		длительности , которые		могут быть
	где Ë

переданы по каналу с учётом вероятностных ограничений, наложенных на язык, и фиксированных ограничений, наложенных на сам канал.

Рассмотрим последовательность каскадно соединенных каналов связи

(рис. 4.2).

Рис. 4.2. Блок– схема последовательности каналов, соединённых каскадно

Максимальная скорость передачи информации будет равна скорости передачи через тот из каналов, который имеет наименьшую пропускную способность. Общее количество средней информации, пропускаемой через последовательность каналов, составляет Ö , причём выполняется условие:

(4.11)

где – время, в течение которого находится в работе канал 1; – канал 2 и т.д.

Если потери информации в процессе передачи отсутствуют, то условие

(4.11) преобразуется в равенство:

			(4.12)
Таким образом, если > ,	то в работе канала 2 будут иметь место

паузы: отрезки времени, когда канал 2 свободен от передачи информации. В это время он может быть использован для других целей. Так, несколько каналов можно соединить параллельно и заставить работать на один общий

89

канал (рис. 4.3).

Рис. 4.3. Блок– схема последовательности каналов, соединённых параллельно

Если пропускная способность вторичного (выходного) канала превосходит количество информации, поставляемой в среднем в единицу времени первичным (входным) каналом, то вторичный канал способен пропустить всю информацию, поставляемую первичным каналом:

А А	Б Б	В В			(4.13)

Данное утверждение справедливо для достаточно длинных отрезков времени, поскольку применительно к коротким сообщениям фактические скорости передачи информации могут существенно отличаться от среднихÖ скоростей, что влечёт за собой колебание скорости передачи информации . В

этом случае возможны ситуации, когда канал 1 может передать лишь часть информации, а в работе канала 2 возникает пауза. Если задержки в передаче информации не допустимы, то пропускная способность каждого последующего канала должна быть несколько выше, чем предыдущего.

Выше были даны выкладки при условии отсутствия шумов в канале передачи, что зачастую не реализуемо. Выбор кода очень важный этап передачи информации, поскольку при правильном кодировании вся информация может быть передана по каналу с шумами при ничтожно малом проценте ошибок. При этом наиболее эффективными оказываются методы,

которые обеспечивают большее снижение количества ошибок при той же избыточности.

Более эффективным является кодирование возможных сообщений в

90