- •Предисловие
- •Лекция 1. Информация. Начальные понятия и определения
- •1. Информация и данные
- •2. Адекватность и формы адекватности информации
- •3. Качество информации
- •4. Понятие об информационном процессе
- •5. Формы представления информации
- •6. Преобразование сообщений
- •Лекция 2. Необходимые сведения из теории вероятностей
- •1. Понятие вероятности
- •2. Сложение вероятностей независимых несовместных событий
- •3. Умножение вероятностей независимых совместных событий
- •4. Нахождение среднего для значений случайных независимых величин
- •5. Понятие условной вероятности
- •6. Общая формула для вероятности произведения событий
- •7. Общая формула для вероятности суммы событий
- •Лекция 3. Понятие энтропии
- •1. Энтропия как мера неопределенности
- •2. Свойства энтропии
- •3. Условная энтропия
- •Лекция 4. Энтропия и информация
- •1. Объемный подход к измерению количества информации
- •2. Энтропийный подход к измерению количества информации
- •Лекция 5. Информация и алфавит
- •Лекция 6. Постановка задачи кодирования. Первая теорема Шеннона.
- •Лекция 7. Способы построения двоичных кодов. Алфавитное неравномерное двоичное кодирование сигналами равной длительности. Префиксные коды.
- •1. Постановка задачи оптимизации неравномерного кодирования
- •00100010000111010101110000110
- •2. Неравномерный код с разделителем
- •3. Коды без разделителя. Условие Фано
- •00100010000111010101110000110
- •00100010000111010101110000110
- •4. Префиксный код Шеннона–Фано
- •5. Префиксный код Хаффмана
- •Лекция 8. Способы построения двоичных кодов. Другие варианты
- •1. Равномерное алфавитное двоичное кодирование. Байтовый код
- •2. Международные системы байтового кодирования текстовых данных. Универсальная система кодирования текстовых данных
- •3. Алфавитное кодирование с неравной длительностью элементарных сигналов. Код Морзе
- •4. Блочное двоичное кодирование
- •101010111001100010000000001000000000000001
- •5. Кодирование графических данных
- •6. Кодирование звуковой информации
- •Лекция 9. Системы счисления. Представление чисел в различных системах счисления. Часть 1
- •1. Системы счисления
- •2. Десятичная система счисления
- •3. Двоичная система счисления
- •4. 8- И 16-ричная системы счисления
- •5. Смешанные системы счисления
- •6. Понятие экономичности системы счисления
- •Лекция 10. Системы счисления. Представление чисел в различных системах счисления. Часть 2.
- •1. Задача перевода числа из одной системы счисления в другую
- •2. Перевод q p целых чисел
- •3. Перевод p q целых чисел
- •4. Перевод p q дробных чисел
- •6. Перевод чисел между 2-ичной, 8-ричной и 16-ричной системами счисления
- •Лекция 11. Кодирование чисел в компьютере и действия над ними
- •1. Нормализованные числа
- •2. Преобразование числа из естественной формы в нормализованную
- •3. Преобразование нормализованных чисел
- •4. Кодирование и обработка целых чисел без знака
- •5. Кодирование и обработка целых чисел со знаком
- •6. Кодирование и обработка вещественных чисел
- •Лекция 12. Передача информации в линии связи
- •1. Общая схема передачи информации в линии связи
- •2. Характеристики канала связи
- •3. Влияние шумов на пропускную способность канала
- •Лекция 13. Обеспечение надежности передачи информации.
- •1. Постановка задачи обеспечения надежности передачи
- •2. Коды, обнаруживающие одиночную ошибку
- •3. Коды, исправляющие одиночную ошибку
- •Лекция 14. Способы передачи информации в компьютерных линиях связи
- •1. Параллельная передача данных
- •2. Последовательная передача данных
- •3. Связь компьютеров по телефонным линиям
- •Лекция 15. Классификация данных. Представление данных в памяти компьютера
- •1. Классификация данных
- •2. Представление элементарных данных в озу
- •Лекция 16. Классификация структур данных
- •1. Классификация и примеры структур данных
- •2. Понятие логической записи
- •Лекция 17. Организация структур данных в оперативной памяти и на внешних носителях
- •1. Организация структур данных в озу
- •2. Иерархия структур данных на внешних носителях
- •3. Особенности устройств хранения информации
- •Контрольные вопросы
- •Список литературы
4. Понятие об информационном процессе
Информация – категория нематериальная. Следовательно, для существования и распространения в материальном мире она должна быть обязательно связана с какой-либо материальной основой. Без материальной основы информация не может проявиться, передаваться и сохраняться, например, восприниматься и запоминаться нами.
Материальный объект или среда, которая служит для представления или передачи информации, называется ее материальным носителем.
Материальным носителем информации может быть бумага, воздух, лазерный диск, электромагнитное поле и пр.
Хранение информации связано с некоторой характеристикой носителя, которая не меняется с течением времени, например, намагниченные области поверхности диска или буква на бумаге, а передача информации связана, наоборот, с характеристикой, которая изменяется с течением времени, например, амплитуда колебаний звуковой волны или силы тока в проводах. Таким образом, хранение информации связано с фиксацией состояния носителя, а распространение связано с процессом, который протекает в носителе. Состояния и процессы могут иметь физическую, химическую, биологическую или иную основу – главное, что они материальные.
Важно, что не с любым процессом можно связать передачу информации. В частности, стационарный процесс, то есть процесс с неизменными в течение времени характеристиками, информацию не переносит. Например, постоянный электрический ток, ровное горение лампы, или равномерный гул свидетельствуют лишь о том, что нечто функционирует. Иное дело, если лампу включать и выключать, то есть изменять ее яркость, – чередованием вспышек и пауз можно представить и передать информацию (например, посредством азбуки Морзе). Таким образом, для передачи информации необходим нестационарный процесс, то есть процесс, характеристики которого могут изменяться. При этом информация связывается не с существованием процесса, а с изменением какой-либо его характеристики.
Изменение характеристики носителя, которая используется для представления информации, называется сигналом, а значение этой характеристики, отнесенное к некоторой шкале измерений, называется параметром сигнала.
В табл. 1 приведены примеры процессов, используемых для передачи информации, и связанных с ними сигналов.
Табл. 1. Передача информации в различных средах
Среда |
Процесс (носитель) |
Сигнал |
Параметры синала |
Воздух |
Звуковая волна |
Изменение частоты и громкости звуковых колебаний |
Значения частоты и громкости звука |
Диэлектрик |
Электромагнитная волна |
Изменение частоты, амплитуды и фазы ЭМ волн |
Значения частоты, амплитуды и фазы ЭМ волн |
Провода (телефонные, компьютерные сети) |
Электрический ток |
Изменение частоты и амплитуды электрических колебаний в линии связи |
Значения частоты и амплитуды электрических колебаний в линии связи |
Одиночный сигнал не может содержать много информации. Поэтому для передачи информации используется ряд следующих друг за другом сигналов.
Последовательность сигналов называется сообщением.
Можно сказать, что сообщение является материальной оболочкой для представления информации при передаче. Сообщение служит переносчиком информации, а информация является содержанием сообщения.
Соответствие между сообщением и содержащейся в нем информацией называется правилом интерпретации сообщения.
Это соответствие может быть однозначным и неоднозначным. В первом случае сообщение имеет лишь одно правило интерпретации. Например, по последовательности точек, тире и пауз в азбуке Морзе однозначно восстанавливается переданная буква. Неоднозначность соответствия между сообщением и информацией возможна в двух ситуациях:
Одна и та же информация может передаваться различными сообщениями (например, прогноз погоды может быть получен по радио, из газеты, по телефону и так далее);
Одно и то же сообщение может содержать различную информацию для разных приемников (примером может служить передача в 1936 году по радио фразы «Над всей Испанией безоблачное небо», которое для непосвященных людей имело смысл прогноза погоды, а для знакомых с правилом интерпретации – имело смысл сигнала к началу военных действий).
Обсудим понятие «информационный процесс». Вообще термин «процесс» применяется в тех случаях, когда некоторое качество, характеризующее систему или объект, меняется с течением времени в результате внешних воздействий или каких-то внутренних причин. У нематериальной информации с течением времени могут изменяться только ее содержание и материальная оболочка, то есть сообщение. В связи с этим существует определение информационного процесса:
Информационный процесс – это изменение с течением времени содержания информации или представляющего это содержание сообщения.
Существуют следующие виды информационных процессов:
Порождение (создание) новой информации;
Преобразование информации, то есть порождение новой информации в результате обработки имеющейся;
Уничтожение информации;
Передача информации (распространение в пространстве).
Все перечисленные события происходят с сообщением, то есть с материальной оболочкой информации. И с этих позиций возможны лишь два типа процессов:
Изменение сообщения с сохранением содержащейся в нем информации (передача информации без потерь; обратимая перекодировка);
Изменение сообщения с преобразованием содержащейся в нем информации (создание–уничтожение информации; необратимая перекодировка, передача с потерями, обработка с появлением новой информации).
Несколько слов о хранении информации. Хранение связывается с фиксацией параметров материального носителя, которые далее с течением времени не меняются. Запись информации на носитель (непосредственно в момент фиксации параметров) и ее последующее считывание попадают под определение информационного процесса. Но само хранение не является информационным процессом. Хранение следовало бы назвать информационным состоянием, однако, такое понятие в информатике не используется.
С передачей информации связана пара сопряженных понятий – источник и приемник информации.
Источник информации – это субъект или объект, порождающий информацию и представляющий ее в виде сообщения.
Приемник информации – это субъект или объект, принимающий сообщение и способный правильно его интерпретировать.
Сочетание «субъект или объект» означает, что источники и приемники информации могут быть одушевленными или неодушевленными.
Источник информации должен не только породить информацию, но и иметь возможность инициировать какой-то нестационарный процесс и связать информацию с его параметрами, то есть создать сообщение. Например, если человек что-то придумал, но держит это в своем мозге и не излагает это, он не является источником информации.
В определении приемника информации важно то, что факт приема сообщения еще не означает получение информации. Информация может считаться полученной только в том случае, если приемнику известно правило интерпретации сообщения. Другими словами, понятия «приемник сообщения» и «приемник информации» не тождественны. Например, слыша речь на незнакомом языке, человек оказывается приемником сообщения, но не приемником информации.
Для связи с внешним миром и восприятия информации у человека имеются 5 органов чувств. Однако человек может использовать для передачи и приема информации иные процессы, им не воспринимаемые, например, радиволны. В этом случае человек использует промежуточные устройства, преобразующие сообщения в радиоволны и обратно – радиопередатчики и радиоприемники. Промежуточные устройства–преобразователи получили название технические средства связи, а в совокупности с соединяющей их средой они называются линией связи. К линиям связи относятся телеграф, телефон, радио, телевидение, компьютерные телекоммуникации и так далее При использовании таких средств возникает необходимость преобразования сообщения из одного вида в другой без существенной для получателя потери информации, а также возникает проблема увязки скорости передачи сообщения (то есть интервала следования и величины отдельных сигналов) с возможностями линии связи и приемника.