лаба №1 / Лаба1

Цель работы: закрепить теоретические знания и получить практические навыки при вычислении энтропии.

1. Получить таблицу значений функции при изменении р от 0.01 до 0.99 с шагом 0.01.

2. Система может находиться в двух состояниях. Вероятность одного со-

стояния Р. Определить значения энтропии при изменении Р от 0,01 до 0,99 с шагом 0,01. Определить максимальное значение энтропии. Построить график.

3. Пользуясь таблицей частот русского языка (таб. 1) определить энтропию одной буквы русского текста.

Таблица 1

Буква	Вероятность	Буква	Вероятность	Буква	Вероятность	Буква	Вероятность
Пробел	0,175	р	0,040	я	0,018	х	0,009
о	0,090	в	0,038	ы	0,016	ж	0,007
е	0,072	л	0,035	з	0,016	ю	0,006
а	0,062	к	0,028	ъ	0,014	ш	0,006
и	0,062	м	0,026	б	0,014	ц	0,004
н	0,053	д	0,025	г	0,013	щ	0,003
т	0,053	п	0,023	ч	0,012	э	0,003
с	0,045	у	0,021	й	0,010	ф	0,002

Ход работы

Энтропия обладает рядом свойств:

1. Энтропия обращается в ноль когда одно из состояний системы достоверно, а другие невозможны.

2. При заданном числе состояний энтропия обращается в максимум, когда эти состояния равновероятны.

3. Обладает свойством аддитивности.

За единицу измерения энтропии принимается энтропия простейшей системы, которая имеет 2 равновозможных состояния.

	Х1	Х2
Рi	1/2	1/2

Для вычисления энтропии вводят специальную функцию:

Энтропию также можно определить через математическое ожидание:

1)

Рисунок 1 –Вычисление энтропии

2)

Рисунок 1 –График энтропии

3)

Рисунок 3 – Энтропия Русского языка

4) С помощью формулы (n / len) * 100, рассчитали частоту появления символа в заданном тексте.

n – количество найденных символов в строке;

len – строка;

Кое-где существуют ещё народы и стада, но не у нас, братья мои; у нас есть государства. Государство? Что это такое? Итак, слушайте меня, ибо теперь я скажу вам своё слово о смерти народов. Государством называется самое холодное из всех холодных чудовищ. Холодно лжёт оно; и эта ложь ползёт из уст его: «Я, государство, есмь народ». Это - ложь! Созидателями были те, кто создали народы и дали им веру и любовь; так служили они жизни. Разрушители - это те, кто ставит ловушки для многих и называет их государством: они навесили им меч и навязали им сотни желаний. Где ещё существует народ, не понимает он государства и ненавидит его, как дурной глаз и нарушение обычаев и прав. Это знамение даю я вам: каждый народ говорит на своём языке о добре и зле - этого языка не понимает сосед. Свой язык обрёл он себе в обычаях и правах. Но государство лжёт на всех языках о добре и зле: и что оно говорит, оно лжёт - и что есть у него, оно украло. Всё в нём поддельно: крадеными зубами кусает оно, зубастое. Поддельна даже утроба его.

Частота появления буквы «е» в тексте равна 5.86%.

С помощью формулы Шеннона рассчитали энтропию буквы «е» в

Энтропия одной буквы заданного текста 4.476.

Вывод: в ходе лабораторной работы закрепили теоретические знания и получить практические навыки при вычислении энтропии.