- •1. Содержательный (вероятностный) подход к измерению количества информации. Типы задач:
- •Формула Хартли. Методические рекомендации:
- •Уровень «3»
- •1. В барабане для розыгрыша лотереи находится 32 шара. Сколько информации содержит сообщение о первом выпавшем номере (например, выпал номер 15)?
- •Используем по Wise Calculator
- •Уровень «5»
- •Ответ: 13.12412131 бит.
- •16. Какое количество вопросов достаточно задать вашему собеседнику, чтобы наверняка определить месяц, в котором он родился? ([2], пример 2.3., стр. 35) Решение:
- •17. Какое количество вопросов достаточно задать вашему собеседнику, чтобы точно определить день и месяц его рождения? ([2], № 2.6., стр. 35) Решение:
- •Формула Шеннона. (Вероятностный подход)
- •Уровень «4»
- •Уровень «5»
- •Решение:
- •Ответ: 2 бит и 1,75 бит
- •21. В пруду живут 8000 карасей, 2000 щук и 40 000 пескарей. Сколько информации в сообщении о том, что рыбак поймал в этом пруду пескаря (карася, щуку)? ([1], стр. 22, пример №3) Решение:
- •26. Какое количество информации будет содержать зрительное сообщение о цвете вынутого шарика, если в непрозрачном мешочке хранятся:
- •Решение:
- •27. За четверть ученик получил 100 оценок. Сообщение о том, что он получил четверку, несет 2 бита информации. Сколько четверок ученик получил за четверть? ([1], стр. 25, №7) Решение:
- •Ответ: 25 четверок.
- •2.Алфавитный подход к измерению информации.
- •Задача № 43 ([1], стр. 21 №32)
- •Решение:
- •Литература:
17. Какое количество вопросов достаточно задать вашему собеседнику, чтобы точно определить день и месяц его рождения? ([2], № 2.6., стр. 35) Решение:
Для определения месяца потребуется не более 4 вопросов (см. задачу выше), для определения дня рождения потребуется не более 5 вопросов, так как N – количество дней в месяце лежит в промежутке от 28 до 31, а значит 28 2I 31. log231 4.954196310 бит.
Ответ: 5 вопросов для дня рождения, 4 вопроса для месяца. Всего 9 вопросов.
Формула Шеннона. (Вероятностный подход)
Так как наступление каждого из N событий имеет одинаковую вероятность P, то Р=1/N. Если событий 6, то вероятность появления одного события равно 1/6, если событий 100, то вероятность равна 0,01=> N=1/P.
Американский ученый Клод Шеннон, что формулу Хартли можно записать иначе: I=log2(1/P)= log2P-1= - log2P, так как p<1, то log2P<0, а I >0 (минус на минус дает плюс)
В 1948 год он предложил другую формулу определения количества информации, учитывая возможную неодинаковую вероятность событий в наборе.
Для событий с различными вероятностями количество информации определяется по формуле Шеннона: , где I – количество информации, N – количество возможных не равновероятных событий, Pi – вероятности отдельных событий.
При решении задач необходимо подчеркнуть, что при равновероятных событиях мы получаем большее количество информации, чем при неравно вероятных событиях.
Уровень «3»
16. В корзине лежат 8 черных шаров и 24 белых. Сколько информации несет сообщение о том, что достали черный шар? ([1], стр. 24, №1)
Решение:
Вероятность достать черный шар равна pч=8/(24+8)=0.25 Количество информации в сообщении о том, что достали черный шар, вычисляется по формуле: Iч=log21/pч. Отсюда I=log21/0.25=2 бита.
Ответ: 2 бита.
17. В корзине лежат 32 клубка шерсти. Среди них — 4 красных. Сколько информации несет сообщение о том, что достали клубок красной шерсти? ([1], стр. 24, №2)
Решение:
Вероятность достать красный клубок равна pк=4/32=0.125 Количество информации в сообщении о том, что достали красный клубок, вычисляется по формуле: Iк=log21/pк. Отсюда I=log21/0.125=3 бита.
Ответ: 3 бита.
Уровень «4»
18. В коробке лежат 64 цветных карандаша. Сообщение о том, что достали белый карандаш, несет 4 бита информации. Сколько белых карандашей было в корзине? ([1], стр. 24, №3)
Решение:
Пусть вероятность того, что достали белый карандаш - pб. Количество информации в сообщении о том, что достали белый карандаш, вычисляется по формуле I=log21/pб. I=4, отсюда log21/pб=4, -log2pб=4, log2pб=-4, pб=2-4, pб=1/16= 0.0625. Количество белых карандашей в коробке вычисляется по формуле: Nб=1/pб, отсюда Nб=1/0.0625=16 штук.
Ответ: 16 штук.
Уровень «5»
19. В коробке имеется 50 шаров. Из них 40 белых и 10 черных. Сколько информации в сообщении о том, что вытащили белый (черный) шар. ([1], стр. 22, пример №1)
Решение:
Вероятность появления белого шара равна: pw=40/50=0.8. Вероятность появления черного шара равна: pb=10/50=0.2. Количество информации в сообщении о том, что вытащили белый шар, вычисляется по формуле: I=-log2pw=-log20.8≈0.3219280949 бит. Количество информации в сообщении о том, что вытащили черный шар, вычисляется по формуле: I=-log2pb=-log20.2≈2.321928095 бит.
Ответ: для белого шара 0.3219280949 бит, для черного шара 2.321928095 бит
20. После экзамена по информатике, который сдавали ваши друзья, объявляются оценки («2», «3», «4», «5»). Какое количество информации будет нести сообщение об оценке учащегося А,, который выучил лишь половину билетов, и сообщение об оценке учащегося B, который выучил все билеты.([2], пример 2.1, стр.33)