Міністерство освіти і науки україни

ХАРКІВСЬКИЙ НАЦІОНАЛЬНИЙ УНІВЕРСИТЕТ РАДІОЕЛЕКТРОНІКИ

Методичні вказівки

ДО ПРАКТИЧНИХ ЗАНЯТЬ

З ДИСЦИПЛІНИ

«Теорія інформації та кодування»

для студентів усіх форм навчання

напряму підготовки “ Комп’ютерна інженерія ”

Харків 2008

Методичні вказівки до практичних занять робіт та самостійної роботи з курсу “ Теорія інформації та кодування ” для студентів усіх форм навчання напряму підготовки “ Комп’ютерна інженерія ” / Упоряд. О.Г. Руденко, С.Г. Удовенко, А.А. Шамраєв – Харків: ХНУРЕ, 2008.– 123 с. / Укр. мовою

Упорядники: О.Г. Руденко

С.Г. Удовенко

А.А. Шамраєв

Рецензент Є.В. Бодянський, д.т.н., проф., проф. каф. ШІ ХНУРЕ

ЗМІСТ

ВСТУП 4

1 СПЕКТРИ ПЕРІОДИЧНИХ СИГНАЛІВ 5

1.1 Мета заняття 5

1.2 Методичні вказівки для самостійної підготовки до заняття 5

1.3 Задачі для самостійної роботи 18

1.4 Контрольні запитання і завдання 22

2 СПЕКТРИ НЕПЕРІОДИЧНИХ СИГНАЛІВ 23

1.1 Мета заняття 23

2.2 Методичні вказівки для самостійної підготовки 23

2.3 Задачі для самостійної роботи 31

2.4 Контрольні запитання і завдання 36

3 МАТЕМАТИЧНІ МОДЕЛІ ВИПАДКОВИХ СИГНАЛІВ 37

3.1 Мета заняття 37

3.2 Методичні вказівки для самостійної підготовки 37

3.3 Задачі для самостійної роботи 58

3.4 Контрольні запитання і завдання 61

4 ЕНТРОПІЯ ТА ЇЇ ВЛАСТИВОСТІ 62

4.1 Мета заняття 62

4.2 Методичні вказівки для самостійної підготовки 62

4.3 Задачі для самостійної роботи 68

4.4 Контрольні запитання і завдання 73

5 ЕНТРОПІЯ НЕПЕРЕРВНИХ ДЖЕРЕЛ ІНФОРМАЦІЇ 74

5.1 Мета заняття 74

5.2 Методичні вказівки для самостійної підготовки 74

5.3 Задачі для самостійної роботи 83

5.4 Контрольні запитання і завдання 88

6 ЕФЕКТИВНЕ КОДУВАННЯ 89

6.1 Мета заняття 89

6.2 Методичні вказівки для самостійної підготовки 89

6.3 Задачі для самостійної роботи 97

6.4 Контрольні запитання і завдання 100

7 ПЕРЕДАЧА ІНФОРМАЦІЇ ПО КАНАЛУ З ПЕРЕШКОДАМИ 101

7.1 Мета заняття 101

7.2 Методичні вказівки для самостійної підготовки 101

7.3 Задачі для самостійної роботи 108

7.4 Контрольні запитання і завдання 109

8 ЦИКЛІЧНІ КОДИ 110

8.1 Мета заняття 110

8.2 Методичні вказівки для самостійної підготовки 110

8.3 Задачі для самостійної роботи 121

8.4 Контрольні запитання і завдання 122

ПЕРЕЛІК ПОСИЛАНЬ 122

Додаток 1 ФУНКЦІЯ ЛАПЛАСА 123

ВСТУП

Дисципліна «Теорія інформації та кодування» є однією з найважливіших дисциплін циклу природничо-наукових дисциплін при підготовці фахівців освітньо-кваліфікаційного рівня бакалавр за напрямом “ Комп’ютерна інженерія ”.

Дисципліна «Теорія інформації та кодування» має на меті:

- ознайомити студентів з поняттями інформації, кодування, сигналу та каналу зв'язку;

– ознайомити студентів з теоретичними основами дослідження інформаційних процесів і кодування в каналах зв'язку на відповідному рівні формалізації;

– дати студентам практичні навики обчислення кількості інформації, способів кодування й розрахунку характеристик сигналів і каналів у рамках досліджуваних методів;

– підготувати студентів до подальшого навчання в галузі інформації, кодування й каналів зв'язку, зокрема, до вивчення курсів: комп'ютерні системи керування, методи захисту інформації в комп'ютерних системах; інформаційні технології та ін.

Метою практичних занять є закріплення теоретичного матеріалу, що викладається на лекціях та оволодіння практичними методами кодування та розрахунку інформаційних характеристик.

Матеріали для кожного заняття містять основний теоретичний матеріал з теми заняття, приклади розв’язання аудиторних задач і варіанти завдань для розв’язання у позааудиторний час. Ступінь підготовленості до заняття оцінюється за допомогою контрольних запитань і завдань з теми заняття.