МІНІСТЕРСТВО ОСВІТИ І НАУКИ УКРАЇНИ

ОДЕСЬКИЙ НАЦІОНАЛЬНИЙ МОРСЬКИЙ УНІВЕРСИТЕТ

КАФЕДРА “ІНФОРМАЦІЙНІ ТЕХНОЛОГІЇ”

Ширшков О.К., Лічікакі Н.К.

ТЕОРІЯ ІНФОРМАЦІЇ ТА КОДУВАННЯ

Програма, методичні вказівки, контрольні завдання та курсова робота

для студентів ­ заочників

Спеціальність 7.080401 «Інформаційні управляючі системи та технології»

2

Одеса ­ 2010

Методичні вказівки розроблені кандидатом технічних наук

Ширшковим Олександром Костянтиновичем – доцентом кафедри

“Інформаційні технології” Одеського національного морського університету і

Лічікакі Наталією Квінтиліанівною – зав. лабораторією цієї ж кафедри у відповідності з учбовим планом спеціальності 7.080401 «Інформаційні управляючі системи та технології»

Методичні вказівки ухвалено кафедрою “Інформаційні технології” ОНМУ 31 серпня 2005 року (протокол № 1)

Рецензент – докт. фіз.­мат. наук В.О. Плотніков (ОНУ ім. І.І.Мечнікова).

Подписано в печать с оригинал­макета 27.10.05. Формат 60х84 1/16. Усл.печ.лист. 2,8

Заказ №185. Тираж 100.

3

Адрес редакционной коллегии и Издательства ОНМУ: 65029, Одесса,ул. Мечникова, 34,

Тел. 728­31­14

ТП – 2005 р., поз. 20.1.

Зміст

1.Мета та задачи дисципліни…………………..………….………....….. 4

2.Структура дискретного інформаційного каналу ….…………..…..…. 6

3. Методичні рекомендації та приклади розв'язання контрольних	10
завдань…...…………………………...……………………………….....

3.1.Інформаційні та швидкісні характеристики дискретного каналу... 10

3.2.Оптимальне кодування………………………………………...…… 16

3.3.Завадостійке кодування………………………………………...…... 21

3.4.Криптографічне кодування……………………………………….... 27

4.Контрольні питання для самопідготовки……….….………………….

5. Варіанти контрольних завдань……………………………………... 28

5.1.Вибір варіанта контрольного завдання…….…….……………..

5.2.Завдання №1 Інформаційні та швидкісні характеристики 28 дискретного каналу

5.3.Завдання №2 Оптимальне кодування……………………………... 34

5.4. Завдання №3 Завадостійке кодування…………………………..… 35

Література……………………………………………………………. 38

Додатки…………………………………………………………….… 39

Додаток 1. Таблиця двійкових логарифмів цілих чисел…………………... 39

Додаток 2. Таблиця значень pi, ­pi log pi …………………………….……. 40

Додаток 3. Коригувальний код Хэмминга…………………………………. 41 Додаток 4. Стандартний телеграфний код №3…………………………….. 42 Додаток 5. Розподіл імовірностей букв у російських текстах……………. 43 Додаток 6. Розподіл імовірностей букв в українських текстах…………… 44 Додаток 7. Розподіл ймовірностей букв в англійському тексті…………... 45