- •Министерство образования Российской Федерации
- •1. Информация. Общие понятия
- •Символ источника сообщений - это любое мгновенное состояние источника сообщений.
- •2.Измерение информации
- •3.Структурное (комбинаторное) определение количества информации (по Хартли)
- •4.Статистическое определение количества информации (по Шеннону).
- •5.Свойства функции энтропии источника дискретных сообщений
- •Информационная емкость дискретного сообщения.
- •7.Информация в непрерывных сообщениях
- •8. Энтропия непрерывных сообщений.
- •9.Экстремальные свойства энтропии непрерывных
- •10.Информация в непрерывных сообщениях
- •Лабораторная работа №1 Информация в дискретных сообщениях
- •П.1.А. Используя формулу Хартли, найти энтропию указанного источника дискретных сообщений (н1).
- •Лабораторная работа №2 Информация в непрерывных сообщениях
- •Некоторые полезные сведения из теории Вероятности.
- •Случайные события.
- •2. Алгебра событий
- •Случайные величины
- •4.Статистические характеристики случайных величин
- •5.Случайные функции
- •Литература
- •Содержание
Министерство образования Российской Федерации
Московский государственный университет геодезии и картографии
Мощиль В. И., Шавенько Н. К.
Основы теории информации.
Учебное пособие по курсу
«Основы теории информации и теории кодирования»
Для студентов 3 курса факультета «Прикладной космонавтики»
МОСКВА
2006
УДК 621.391.
Составители: Мощиль В.И., Шавенько Н.К. Основы теории ин- формации. Учебное пособие М.:Изд. МИИГАиК, 2006, с.50
Учебное пособие «Основы теории информации» написано в соответствии с утвержденной программой курса «Основы теории информации и теории кодирования » и предназначены для студентов 3 курса факультета « Прикладной космонавтики ».
Пособие включает в себя теоретический материал по основам те- ории информации, лабораторные работы , предназначенные для зак- репления теоретического материала и краткие сведения по теории вероятности, которые, по мнению составителей, крайне необходимы для понимания положений теории информации.
Рецензенты: к.т.н. В.В. Гаврилова.
к.т.н. В.К. Саранчин―ВНИИХТ
© Московский государственный университет
геодезии и картографии, 2006г.
Введение
Учебное пособие предназначено для студентов, изучающих курс « Основы теории информации и кодирования », который является вводным к курсу «Автоматическая обработка аэрокосмической информации», изучаемом при последующем обучении.
Пособие включает в себя теоретический материал по основам теории информации, описание двух лабораторных работ (Информация в дискретных сообщениях и Информация в непрерывных сообщениях), а также краткий справочный материал по основам теории вероятности, знание, которого необходимо при изучении теории информации.
Пособие написано в расчете на то, что к моменту выполнения лабораторной работы студентами соответствующий теоретический материал, а также приобретены навыки работы на персональном компьютере в программном продукте «Mathcad».
Описание каждой лабораторной работы включает:
— цель работы и краткое изложение необходимого теоретического материала;
— содержание лабораторной работы; — порядок выполнения;
— контрольные вопросы
Описание лабораторных работ выполнено, в основном, с использованием аналитических выражений и только отдельные их фрагменты представлены в форме, соответствующей программному средству «Mathcad».Поэтому при выполнении работ необходимо проявить умение написания алгоритмов и программ в программном средстве «Mathcad» соответствующих версий.