5. Что такое объем данных и как он измеряется? (Инф)
Для измерения информации вводятся два параметра: количество информации I и объем данных Vд. Объем данных Vд. в сообщение измеряется количеством символов (разрядов) в этом сообщение. В различных системах счисления один разряд имеет различный вес и соответственно меняется единица измерения данных:
в двоичной системе счисления единица измерения - бит (bit-binary digit-двоичный разряд);
в десятичной системе счисления единица измерения – дит (десятичный разряд).
Пример. Сообщение в двоичной системе 10111011 имеет объем данных Vg=8 бит; сообщение в десятичной системе 275903 имеет объем данных 6 дит.
Количество информации I невозможно определить без рассмотрения понятия неопределенности состояния системы (энтропии системы). Количество информации в сообщении определяется тем, насколько уменьшится мера неопределенности после получения сообщения:
I( где энтропия, может рассматриваться как мера недостающей информации.
Количество информации H() при наблюдении случайной величины €X={x1,x2,…xn}с распределением вероятностей p={p1,p2,…,pn} задается формулой Шеннона:
Единицей измерения количества информации является бит, который представляет собой количество информации, получаемое при наблюдении случайной величины, имеющей два равновероятных значения.
|
При равномерном распределении p1=p2=…=pn=1/N количество информации задается формулой Хартли:
|
Справедливы следующие соотношения: 1) 0≤H()≤log2N; 2) N=2, p1=p2=0.5, h()=1; 3) H(,)=H()+H(), если и - независимы
|
Билет №36
Приведите структуры вычислительных машин и дайте им краткую характеристику (Орг ЭВМ)
Для ВМ такими структурами являются компьютеры с непосредственными связями и структуры с общей шиной. ВМ с непосредственными связями была представлена как классическая схема ЭВМ. Достоинством такой архитектуры можно считать возможность развязки “узких мест” путем улучшения структуры и характеристик отдельных связей. Однако в такой архитектуре “узким местом” является канал пересылки данных между ЦП и ОП и улучшить его характеристики в современных компьютерах оказывается очень сложно. Кроме того, такая структура ВМ плохо поддается реконфигурации.
В структурах с общей шиной легко менять состав устройств и конфигурацию ВМ в связи с простым доступом к шине. Недостатком общей шины является то, что именно шина становится “узким местом”: в каждый момент времени передавать информацию по шине может только одно устройство. Основная доля (90 %) обменов по шине приходится на передачу данных между ОП и ЦП, а на долю обмена данными с внешними устройствами остается лишь малая часть пропускной способности шины. В настоящее время более распространенной является архитектура ВМ с иерархией шин, в которой помимо центральной существуют несколько дополнительных шин, обеспечивающих связь между устройствами с интенсивным обменом, например, между ОП и кэш-памятью (“кэш” переводится как “тайник”).
Понятие ВС предполагает наличие множества процессоров или ВМ, объединяемых для решения сложных задач. Один из способов такого объединения – ВС с общей памятью, представленные на рис. 1.
Процессор
Общая память
Процессор
Процессор
.
. . . . . . . . . 
Коммуникационная сеть
Рис. 1. Структура вычислительной системы с общей памятью.
Поскольку такая структура сходна со структурой “общая шина”, то ей свойственны такие же недостатки. Достоинство этой структуры заключается в том, что обмен между процессорами не требует никаких дополнительных операций и обеспечивается за счет общего доступа к общим областям памяти.
Альтернативный вариант – распределенная система, в которой отсутствует общая память, а каждый процессор обладает собственной локальной памятью (см. рис. 2). Часто такие системы объединяют отдельные ВМ.
Локальная память
Локальная память
Локальная память
Процессор
Процессор
Процессор
Коммуникационная сеть
Рис. 2 – Структура распределенной вычислительной системы.
Обмен информацией между отдельными ВМ обеспечивается с помощью коммуникационной сети посредством обмена сообщениями. В такой системе обмен ОП - ЦП не накладывает ограничений на коммутационную сеть. Однако появляются дополнительные издержки на пересылку сообщений между процессорами или ВМ.