Практическая работа № 7 прагматические характеристики информации

Цель работы

Определение вероятностных характеристик передаваемой информации.

В основе понятия информации лежит вероятностно-статистическое представление коммуникативных процессов в технике и живых организмах, выражающееся мерой уменьшения неопределенности и опирающееся на четырехзвенную схему формирования информации: оригинал – канал передачи информации – образ оригинала – анализ образа и принятие решения.

Общая схема процесса извлечения информации приведена на рис. 7.1.

Рис. 7.1. Схема формирования информации

Некоторый образ Y = F(X) в отражающей подсистеме Y системы S возникает лишь тогда, когда оригинал Х (объект, явление и т. п.) оказывает соответствующее воздействие на систему S. Для того чтобы извлечь информацию о X, содержащуюся в Y, необходимо сопоставить полученные впечатления с ранее накопленными, выяснить, в чем сходство и в чем отличие образа данного объекта от образов иных объектов, наблюдающихся в прошлом. Это предполагает наличие в составе системы S специальной подсистемы анализа и решения Z, находящейся в теснейшем взаимодействии с отображающими (чувственными) структурами Y. Подсистема Z должна накапливать впечатления как непосредственные (чувственные), так и вторичные, образующиеся в процессе сопоставления и анализа текущего образа.

Подсистема Z является вторичной отображающей системой, осуществляющей обратное преобразование Y в – идеальный прообраз. При этом информацию содержит лишь отображение, что позволяет оттуда извлекать ее и оперировать с ней. На рис. 7.1 условность содержания информации в оригинале и образе передана штриховой обводкой γ₀ и γ_д.

Характеристики информации определяются особенностями отдельных процессов и операций ее образования.

1. Особенности формирования образа Y, степень его адекватности оригиналу определяют достижимую полноту общей информации γ_д.

2. Процесс сравнения, поиска подходящего аналога определяет выбор типа преобразования f^־–1. Множество факторов влияют на степень понимания информации γ_д, содержащейся в образе Y, и задают характер информации γ, представляемой формируемым идеальным прообразом .

3. Информация γ анализируется и оценивается подсистемой Z с точки зрения целей и задач системы S. В составе информации γ выделяют релевантную I и иррелевантную (относящуюся и не относящуюся к стоящим задачам) части.

4. Информация γ, отделенная от образа Y, может быть зафиксирована в памяти подсистемы Z.

Формирование образа – это активный процесс, определяемый целями и задачами системы S. По этой причине формирование образа может осуществляться с менее полной по отношению к γ₀ информацией γ_д. В общем случае, наряду с информацией γ₀ ~ γ_д может быть сформирована ложная информация , которая будет существовать параллельно γ_д. Четырехзвенная схема позволяет ввести оценку истинности информации. Тождество между γ и γ_д может быть лишь тогда, когда f^־–1(Y) будет эквивалентно F^־–1(Y). Тождество между γ₀ и γ будет лишь тогда, когда f^־–1(Y) ~ F^־–1(Y) и F^־–1(Y) ~ X.

Общее выражение для количества информации I, получаемое при отображении объекта X в подсистеме Y:

, (7.1)

где H(X) – энтропия определяемой характеристики объекта; Н_Y(Х) – энтропия остаточной неопределенности объекта; ; p_y(x) – вероятность того, что наблюдаемый образ Y соответствует объек- ту X.

Количество получаемой информации

, (7.2)

где p(y) – вероятность реализации образа Y;

p(x) – вероятность реализации события X;

Оценка истинности информации, отображенной системой Y:

, (7.3)

где p_x(y) – вероятность того, что прообраз X соответствует наблюдаемому образу Y.

Оценка истинной информации, получаемой системой Z:

, (7.4)

где – вероятность того, что идеальный образ соответствует наблюдаемому образу Y;

– вероятность того, что прообраз X соответствует идеальному образу ;

– вероятность реализации идеального образа .

Действительная информация системы , передаваемая при преобразовании прообраза X в идеальный образ , есть сумма истинной и ложной информации:

. (7.5)

Степень сжатия информации

(7.6)

где Н(Х) – энтропия всего набора параметров объекта.

Пример

По вариантам формирования источников и приемников информации (табл. 7.1 – 7.3) определить:

1) оценку истинности информации Г;

2) количество передаваемой информации I;

3) количество действительной информации I^*;

4) степень сжатия информации .

В табл. 7.1–7.3 приведены вероятности р(х_i) и p(у_i), p_у(х), p_x(у) при n = m, n > m, n < m, где n – число источников информации системы X, m – число приемников информации системы Y.

Таблица 7.1

n = m

		Yj			Р(хi)
		y1	y2	y3
		Ру(х)=0,81	Ру(х)=0,9	Ру(х)=0,89
Xi	x1	Рx(у)=0,87	Рx(у)=0,09	Рx(у)=0,04	0,28
	x2	Рx(у)=0,06	Рx(у)=0,92	Рx(у)=0,02	0,49
	x3	Рx(у)=0,12	Рx(у)=0,11	Рx(у)=0,77	0,23
Р(yj)		0,30	0,50	0,20

Таблица 7.2

n > m

		Yj		Р(хi)
		y 1	y 2
		Ру(х)=0,81	Ру(х)=0,90
Xi	x1	Рx(у)=0,87	Рx(у)=0,13	0,28
	x2	Рx(у)=0,05	Рx(у)=0,95	0,66
	x3	Рx(у)=0,46	Рx(у)=0,54	0,06
Р(yj)		0,30	0,70

Таблица 7.3

n < m

		Yj			Р(хi)
		y1	y2	y3
		Ру(х)=0,81	Ру(х)=0,90
Xi	x1	Рx(у)=0,61	Рx(у)=0,13	Рx(у)=0,26	0,40
	x2	Рx(у)=0,10	Рx(у)=0,75	Рx(у)=0,15	0,60
Р(yj)		0,30	0,50	0,20

Выполнение задания

При n = m:

Г(Х, Y) = –(0,3·0,81·ln0,3 + 0,5·0,9·ln0,5 + 0,2·0,89·ln0,2) +

+ 0,28·(0,87·0,81·ln0,87 + 0,09·0,9·ln0,09 + 0,04·0,89·ln0,04) +

+ 0,49 (0,06·0,81·ln0,06 + 0,92·0,9·ln0,92 + 0,02·0,89·ln0,02) +

+ 0,23·(0,12·0,81·ln0,12 + 0,11·0,9·ln0,11 + 0,77·0,89·ln0,77) = 0,50 нит;

I(X, Y) = –(0,3·ln0,3 + 0,5·ln0,5 + 0,2·ln0,2) +

+ 0,28·(0,87·ln0,87 + 0,09·ln0,09 + 0,04·ln0,04) +

+ 0,49·(0,06·ln0,06 + 0,92·ln0,92 + 0,02·ln0,02) +

+ 0,23·(0,12·ln0,12 + 0,11·ln0,11 + 0,77·ln0,77) = 0,58 нит;

= 2·0,50 – 0,58 = 0,42 нит;

Н(Х) = –(0,28·ln0,28 + 0,49·ln0,49 + 0,23·ln0,23) = 1,01 нит;

= 0,50 / 1,01=0,5;

при n > m:

Г(X, Y) = –(0,3·0,81·ln0,3 + 0,7·0,9·ln0,7) +

+ 0,28·(0,87·0,81·ln0,87 + 0,13·0,9·ln0,13) +

+ 0,66·(0,05·0,81·ln0,05 + 0,95·0,9·ln0,95) +

+ 0,06·(0,46·0·ln0,46 + 0,54·0·ln0,54) = 0,28 нит;

I(X, Y) = –(0,3·ln0,3 + 0,7·ln0,7) + 0,28·(0,87·ln0,87 + 0,13·ln0,13) +

+ 0,66·(0,05·ln0,05 + 0,95·ln0,95) + 0,06·(0,46·ln0,46 + 0,54·ln0,54) = 0,33 нит;

= 2·0,28 – 0,33 = 0,23 нит;

H(Х) = –(0,28·ln0,28 + 0,66·ln0,66 + 0,06·ln0,06) = 0,77 нит;

= 0,28/0,77 = 0,36;

при n < m:

Г(Х, Y) = –(0,3·0,81·ln0,3 + 0,5·0,9·ln0,5 + 0,2·0·ln0,2) +

+ 0,4 (0,61·0,81·ln0,61 + 0,13·0,9·ln0,13 + 0,26·0·ln 0,26) +

+ 0,6·(0,1·0,81·ln0,1 + 0,75·0,9·ln0,75 + 0,15·0·ln0,15) = 0,18 нит;

I(Х, Y) = –(0,3·ln0,3 + 0,5·ln0,5 + 0,2·ln0,2) +

+ 0,4 (0,61·ln0,61 + 0,13·ln0,13 + 0,26·ln 0,26) +

+ 0,6·(0,1·ln0,1 + 0,75·ln0,75 + 0,15·ln0,15) = 0,22 нит;

= 2·0,18 - 0,22 = 0,14 нит;

H(Х) = –(0,4·ln0,4 + 0,6·ln0,6) = 0,55 нит;

= 0,18 / 0,55 = 0,33.

Контрольные вопросы

1. Какие представления лежат в основе понятия информации?

2. Какие объекты входят в трехзвенную и четырехзвенную схемы формирования информации?

3. Когда возникает образ объекта в отражающей системе?

4. Что необходимо сделать для того, чтобы извлечь информацию об объекте (прообраз) из образа объекта?

5. Какая подсистема сопоставляет и анализирует образ объекта?

6. Какая система осуществляет обратное преобразование образа объекта в его идеальный прообраз?

7. Какая информация называется релевантной и иррелевантной?