4.Количество Информации. Синтаксическая, семантическая и прагматическая меры
информации.
Количество
информации можно рассматривать как
меру уменьшения неопределенности
знания при получении информационных
сообщений.Существует формула – главная
формула информатики, которая связывает
между собой количество
возможных информационных сообщений
N
и количество
информации
I,
которое несет полученное сообщение:
Хартли
N
= 2I
За единицу количества информации принимается такое количество информации, которое содержится в информационном сообщении, уменьшающем неопределенность знания в два раза. Такая единица названа бит.
Бит – наименьшая единица измерения информации.
1байт = 8 битов = 23 битов
Байт – это 8 битов, рассматриваемые как единое целое, основная единица компьютерных данных.
Шеннона
1. Синтаксическая мера работает с данными, не отражающими смысловое отношение к объекту. Эта мера оперирует с типом носителя, способом представления и кодирования, скоростью передачи и обработки информации.
В данном случае мерой является объем информации - объём памяти, необходимый для хранения данных об объекте. Информационный объём равен количеству цифр двоичной системы, с помощью которых закодировано рассматриваемое сообщение, и измеряется в битах.
Для того чтобы определить синтаксическое количество информации, обратимся к понятию энтропии - меры неопределённости состояния системы, а именно - наших знаний о состоянии её элементов и состоянии системы в целом. Тогда количество информации — это изменение меры неопределённости системы, то есть изменение (увеличение или уменьшение) энтропии.
2. Семантическая мера служит для определения смыслового содержания данных и связывает соответствующие параметры информации с возможностью пользователя обрабатывать сообщение. Это понятие получило название тезаурус пользователя. Под тезаурусом понимают совокупность сведений об объекте, которыми располагает система или пользователь. Максимальное количество информации с точки зрения семантики возможно в случае, когда весь объём данных понятен пользователю или системе — может быть обработан с помощью имеющегося тезауруса, - и, следовательно, является относительным понятием.
3. Прагматическая мера информации измеряет ценность сведений для достижения определённой цели. Это понятие также является относительным и имеет прямое отношение к способности системы или пользователя применить конкретный объём данных к конкретной проблемной области. Поэтому целесообразно измерять информацию с прагматической точки зрения в тех же единицах измерения, что и целевую функцию.
5.Единицы измерения. … Двоичное кодирование
Бит – это минимальная единица измерения информации, соответствующая одной двоичной цифре («0» или «1»). Байт состоит из восьми бит. Используя один байт, можно закодировать один символ из 256 возможных (256 = 28).
Кодирование информации - это представление сообщений в конкретном виде при помощи некоторой последовательности знаков.
Правило отображения одного набора знаков в другой называется кодом. Способ представления информации с помощью двух символов - 0 и 1 называют двоичный код.
Бит - это одна двоичная цифра 0 или 1. Одним битом можно закодировать два значения: 1 или 0. Двумя битами можно закодировать уже четыре значения: 00, 01, 10, 11. Тремя битами кодируются 8 разных значений. Добавление одного бита удваивает количество значений, которое можно закодировать.
Кодирование символов клавиатуры
Для кодирования одного символа клавиатуры используют 8 бит - один байт.
компьютеров, а во второй половине (128-255) каждая страна может создавать свой стандарт - национальный. Первую половину называют таблицей ASCII (Американский стандартный код для обмена информацией).
Кодирование цвета
Любой цвет можно представить в виде комбинации трёх основных цветов: красного, зелёного и синего (их называют цветовыми составляющими). Если закодировать цвет точки с помощью трёх байтов (24 бита), то первый байт будет нести информацию о красной составляющей, второй - зелёной, а третий - синей.
Кодирование графической информации
Для кодирования рисунка необходимо рисунок разбить на точки. Затем начиная с левого верхнего угла и, двигаясь по строкам слева направо, кодировать цвет каждой точки.
Кодирование целых и действительных чисел
Целые числа кодируются просто переводом чисел из одной системы счисления в другую.
Для кодирования действительных чисел используют 80-разрядное кодирование. При этом число преобразуют в стандартный вид.
Кодирование звуковой информации
два основных направления кодирования: метод FM (разложение сложного звука на гармонические ряды) и метод таблично-волнового синтеза (хранение в отдельных таблицах пронумерованных образцов различных музыкальных звуков).