Решение:

Для учащегося A все четыре оценки (события) равновероятны и тогда количество информации, которое несет сообщение об оценке можно вычислить по формуле Хартли I = log₂ N:

I = log₂4 = 2 бит, где N – число оценок

Для учащегося B наиболее вероятной оценкой является «5» (p1 = 1/2), вероятность оценки «4» в два раза меньше (p2 = 1/4), а вероятности оценок «2» и «3» еще в два раза меньше (p3 = p4 = 1/8). Так как события не равно вероятны, воспользуемся для подсчета количества информации в сообщении формулой Шеннона: , :

I = -(1/2·log₂1/2 + 1/4·log₂1/4 + 1/8·log₂1/8 + 1/8·log₂1/8) бит = 1,75 бит

Ответ: 2 бит и 1,75 бит

20. Сережа — лучший ученик в классе. Сколько информации в сообщении о том, что за контрольную работу по математике Сережа получит "5", если за несколько лет учебы он получил по математике 100 оценок, из них: 60 пятерок, 30 четверок, 8 троек и 2 двойки. ([1], стр. 22, пример №2)

Решение:

Вероятность появления: пятерки равна: p₅=60/100=0.6. четверки равна: p₄=30/100=0.3. тройки равна: p₃=8/100=0.08. двойки равна: p₂=2/100=0.02. Количество информации в сообщении о том, что за контрольную работу по математике Сережа получит "5" вычисляется по формуле I=log₂1/p₅= - log₂p₅= - log₂(0.6)≈0.7369655942 бит. Количество информации в сообщении о том, что за контрольную по математике Сережа получит "4" вычисляется по формуле I=log₂1/p₄= - log₂p₄= - log₂(0.3)≈1.736965594 бит. получит "3" вычисляется по формуле I=log₂1/p₃= - log₂p₃= - log₂(0.08)≈3.643856190 бит. получит "2" вычисляется по формуле I=log₂1/p₂= - log₂p₂= - log₂(0.02)≈5.643856190 бит.

Ответ: Количество информации в сообщении о том, что за контрольную работу по математике Сережа получит "5" ≈0.7369655942 бит.

21. В пруду живут 8000 карасей, 2000 щук и 40 000 пескарей. Сколько информации в сообщении о том, что рыбак поймал в этом пруду пескаря (карася, щуку)? ([1], стр. 22, пример №3) Решение:

Всего рыб в пруду: 8000+2000+40000=50000 Вероятность поймать карася равна: p_к=8000/50000=0.16 Вероятность поймать щуку равна: p_щ=2000/50000=0.04 Вероятность поймать пескаря равна: p_п=40000/50000=0.8 Количество информации в сообщении о том, что рыбак поймал в этом пруду пескаря вычисляется по формуле I=log₂1/p_п= - log₂p_п= - log₂(0.8)≈0.3219280949 бит. Количество информации в сообщении о том, что рыбак поймал в этом пруду карася вычисляется по формуле I=log₂1/p_к= - log₂p_к= - log₂(0.16)≈2.643856190 бит. Количество информации в сообщении о том, что рыбак поймал в этом пруду щуку вычисляется по формуле I=log₂1/p_щ= - log₂p_щ= - log₂(0.04)≈4.643856190 бит.

Ответ: количество информации в сообщении о том, что рыбак поймал в этом пруду пескаря)≈0.3219280949 бит, карася ≈ 2.643856190 бит, щуку ≈ 4.643856190 бит.

22. В ящике лежат перчатки (белые и черные). Среди них — 2 пары черных. Сообщение о том, что из ящика достали пару черных перчаток, несет 4 бита информации. Сколько всего пар перчаток было в ящике? ([1], стр. 24, №4)

Решение:

Количество информации в сообщении о том, что достали пару черных перчаток, вычисляется по формуле: I_ч=log₂1/p_ч. I=4 бита.

Отсюда 4=log₂1/p_ч= - log₂p_ч, p_ч=2-4=0.0625, где p_ч – вероятность появления пары черных перчаток. p_б – вероятность появления пары белых перчаток равна p_б=1-p_ч=0.9375.

N – общее количество пар перчаток, N_ч – количество пар черных перчаток , N_б – количество пар белых перчаток. N=N_ч+N_б.

p_ч=N_ч/(N_ч+N_б), p_б=N_б/(N_ч+N_б), причем N_ч=2. Решая первое уравнение, получаем: N_б=30. Отсюда N=32.

Ответ:32 пары.

23. В классе 30 человек. За контрольную работу по математике получено 6 пятерок, 15 четверок, 8 троек и 1 двойка. Какое количество информации в сообщении о том, что Иванов получил четверку? ([1], стр. 24, №5)

Решение:

Вероятность того что назвали именно Иванова равна: p_и=1/30≈0.03333333333 Вероятность того что получена четверка равна: p₄=15/(6+15+8+1)=0.5 Вероятность того что именно у Иванова четверка равна p=p_и*p₄≈0.01666666667 Количество информации в сообщении о том, что Иванов получил четверку равно I=log₂1/p,

I≈5.906890596.

Ответ: ≈5.906890596 бит.

24. Известно, что в ящике лежат 20 шаров. Из них 10 — черных, 5 — белых, 4 — желтых и 1 — красный. Какое количество информации несут сообщения о том, что из ящика случайным образом достали черный шар, белый шар, желтый шар, красный шар? ([1], стр. 25, №6, )

Решение:

N=20. Вероятность того что достали черный шар равна p_ч=10/20=0.5 белый шар равна p_б=5/20=0.25 желтый шар равна p_ж=4/20=0.2 красный шар равна p_к=1/20=0.05 Количество информации в сообщении о том, что из ящика случайным образом: достали черный шар равно: I_ч=log₂1/p_ч. I_ч=1 достали белый шар равно: I_б=log₂1/p_б. I_б=2 достали желтый шар равно: I_ж=log₂1/p_ж. I_ж≈2.321928095 достали красный шар равно: I_к=log₂1/p_к. I_к≈4.321928095

Ответ: количество информации в сообщении о том, что из ящика случайным образом: достали черный шар равно 1 бит, достали белый шар равно 2 бит, достали желтый шар ≈2.321928095 бит, достали красный шар ≈4.321928095 бит.

25. В непрозрачном мешочке хранятся 10 белых, 20 красных, 30 синих и 40 зеленых шариков. Какое количество информации будет содержать зрительное сообщение о цвете вынутого шарика? ([2], пример 2.2, стр. 34)

Решение:

Так как количество шариков различных цветов неодинаково, то зрительные сообщения о цвете вынутого из мешочка шарика также различаются и равны количеству шариков данного цвета деленному на общее количество шариков:

pб = 0,1; pк = 0,2; pз = 0,3; pс = 0,4

События неравновероятны, поэтому для определения количества информации, содержащимся в сообщении о цвете шарика, воспользуемся формулой Шеннона:

I = -(0,1·log₂ 0,1+ 0,2·log₂ 0,2 + 0,3·log₂ 0,3 + 0,4·log₂ 0,4) бит=1.846439344671015 бит

Ответ: 1.846439344671015 бит