Лекция01_СЛАЙДЫ

Неопределенность одного исхода= =(log2(N))/N

Вероятность i-го исхода Pi=1/N N=1/Pi

Клод Эльвут Шеннон

30 апреля 1916, Петоцки, Мичиган

— 24 февраля 2001, Медфорд, Массачусетс. Создатель теории Информамации. Теорема Шеннона:

Понятие - бит.

Р(0) = Р(1) = 0,5 H = 1оg2(2) = 1 бит

Задача

Условие: В коробке находятся кубики трех цветов: красного, желтого и зеленого. Причем желтых в два раза больше красных, а зеленых на 6 больше чем желтых. Сообщение о том, что из коробки случайно вытащили желтый кубик, содержало 2 бита информации. Сколько было зеленых кубиков?

Требуемые формулы:

p=K/N, i=log2(1/p), N/K= 2i

p -вероятность события, N - общее число возможных исходов, K - число возможных исходов интересующего нас события, i –

количество информации

Решение задачи

Жл – желтые, Кр – красные, Зл - зеленые

Жл=2Кр, Зл=Жл+6=2Кр+6

N=Кр+Жл+Зл=Кр+2Кр+2Кр+6=5Кр+6 i=2 бита

N/K=2i

(5Кр+6)/2Кр=22

5Кр+6=4*2Кр

Кр=2

Зл=2*2+6=10 Ответ: было 10 зеленых кубиков

Объемный подход

BInary digiTs Байт -(B)

Килобайт – (kB) Мегабайт – (MB) Гигабайт – (GB) Террабайт - (TB)