7.Міри інформації. Синтаксична, семантична, прагматична міри інформації

При реалізації інформаційних процесів завжди відбувається перенесення інформації у просторі та часі від джерела інформації до приймача. При цьому для передачі інформації використовують різні знаки або символи, наприклад природного або штучного (формального) мови, що дозволяють виразити її у формі повідомлення.

З точки зору семіотики (від грец. Semeion - Знак, ознака) - науки, що займається дослідженням властивостей знаків і знакових систем повідомлення, може вивчатися на трьох рівнях:

синтаксичному, де розглядаються внутрішні властивості повідомлень, тобто відносини між знаками, що відображають структуру даної знакової системи.

семантичному, де аналізуються відносини між знаками і позначаються ними предметами, діями, якостями, тобто смисловий зміст повідомлення, його ставлення до джерела інформації;

прагматичному, де розглядаються відношення між повідомленням і одержувачем, тобто споживче зміст повідомлення, його ставлення до одержувача.

Таким чином, проблеми передачі інформації теж поділяють на три рівні: синтаксичний, семантичний та прагматичний.

Проблеми синтаксичного рівня - Це суто технічні проблеми вдосконалення методів передачі повідомлень і їхніх матеріальних носіїв - сигналів. На цьому рівні розглядають проблеми доставки одержувачу повідомлень як сукупності знаків, враховуючи при цьому тип носія і спосіб подання інформації, швидкість передачі та обробки, розміри кодів подання інформації, надійність і точність перетворення цих кодів і т.п. При цьому повністю абстрагуються від смислового змісту повідомлень та їх цільового призначення. На цьому рівні інформацію, розглянуту тільки з синтаксичних позицій, зазвичай називають даними, так як смислова сторона при цьому не має значення.

Проблеми семантичного рівня пов'язані з формалізацією і урахуванням змісту переданої інформації. На даному рівні аналізуються ті відомості, які відображає інформація, виявляється сенс, зміст інформації, здійснюється її узагальнення.

Проблеми цього рівня надзвичайно складні, тому що смисловий зміст інформації більше залежить від одержувача, ніж від семантики повідомлення, поданого на якому-небудь мові.

На прагматичному рівні цікавлять наслідки від отримання і використання цієї інформації споживачем. Проблеми цього рівня пов'язані з визначенням цінності і корисності інформації для споживача Основна складність тут полягає в тому, що цінність, корисність інформації може бути зовсім різною для різних одержувачів і, крім того, вона залежить від ряду факторів, таких, наприклад, як своєчасність її доставки та використання.

Кількість інформації - міра інформації, що повідомляється появою події певної вірогідності; міра оцінки інформації, що міститься в повідомленні; міра, що характеризує зменшення невизначеності, що мітиться в одній випадковій величині щодо іншої.

8.Визначення кількості інформації для різних видів подій.

Кількість інформації - це міра зменшення невизначеності деякої ситуації. Різні кількості інформації передаються по каналах зв'язку, і кількість проходить через канал інформації не може бути більше його пропускної здатності. А її визначають по тому, яка кількість інформації проходить тут за одиницю часу.

Одні відомості можуть містити в собі мало інформації, а інші - багато. Розроблено різні способи оцінки кількості інформації. У техніці найчастіше використовується спосіб оцінки, запропонований у 1948 році основоположником теорії інформації Клодом Шенноном. Як було відзначено, інформація знищує невизначеність. Ступінь невизначеності прийнято характеризувати за допомогою поняття "ймовірність".

Імовірність - величина, яка може приймати значення в діапазоні від 0 до 1. Вона може розглядатися як міра можливості настання якого-небудь події, що може мати місце в одних випадках і не мати місця в інших.

Якщо подія ніколи не може статися, його ймовірність вважається рівною 0. Так, ймовірність події "Завтра буде 5 серпня 1819" дорівнює нулю в будь-який день, крім 4 серпня 1819. Якщо подія відбувається завжди, його ймовірність дорівнює 1.

Чим більша ймовірність події, тим вище впевненість у тому, що воно відбудеться, і тим менше інформації містить повідомлення про цю подію. Коли ж імовірність події мала, повідомлення про те, що воно сталося, дуже інформативно.

Кількість інформації I, що характеризує стан, в якому перебуває об'єкт, можна визначити, використовуючи формулу Шеннона [7,131]:

I = - (p [1] * log (p [1]) + p [2] * log (p [2 ])+...+ p [n] * log (p [n])),

тут

n - кількість можливих станів;

p [1 ],... p [n] - імовірності окремих станів;

log () - функція логарифма при підставі 2.

Знак мінус перед сумою дозволяє отримати позитивне значення для I, оскільки значення log (p [i]) завжди не позитивно.

Комп'ютер може обробляти тільки інформацію, представлену в числовій формі. Обробка інформації в ЕОМ заснована на обміні електричними сигналами між різними пристроями машини. Ці сигнали виникають в певній послідовності. Ознака наявності сигналу можна позначити цифрою 1, ознака відсутності - цифрою 0. Таким чином, в ЕОМ реалізуються два стійких стани. За допомогою певних наборів цифр 0 і 1 можна закодувати будь-яку інформацію. Кожен такий набір нулів і одиниць називається двійковим кодом. Кількість інформації, які кодуються двійковій цифрою - 0 або 1 - називається бітом. Термін "біт", яке перекладається як "двійкова цифра". 1 біт інформації - кількість інформації, за допомогою якого виділяється одне з двох рівноймовірно станів об'єкта (значення 0 або 1).

Більші одиниці інформації становлять кілобайт (Кбат), рівний 1024 байти, мегабайт (Мбайт) дорівнює 1024 кілобайтам і гігабайт (Гбайт) дорівнює 1024 мегабайтам.