Решение задач на измерение информации.

Введение

Данное электронное пособие содержит группу задач по теме «Измерение количества информации». Сборник задач разбит на типы задач исходя из указанной темы. Каждый тип задач рассматривается с учетом дифференцированного подхода, т. е. рассматриваются задачи минимального уровня (оценка «3»), общего уровня (оценка «4»), продвинутого уровня (оценка «5»). Приведенные задачи взяты из различных учебников (список прилагается). Подробно рассмотрены решения всех задач, даны методические рекомендации для каждого типа задач, приведен краткий теоретический материал. Для удобства пользования пособие содержит ссылки на закладки.

1. Содержательный (вероятностный)

подход к измерению количества информации.

2.Алфавитный подход к измерению информации.

1. Содержательный (вероятностный) подход к измерению количества информации. Типы задач:

1. Формула Хартли.

2. Формула Шеннона.

1. Формула Хартли. Методические рекомендации:

В задачах такого типа используются понятия:

• Равновероятные события

• Неопределенность знаний

• Количество информации

Во всех подобных задачах требуется найти ту или иную величину.

1928 год, американский инженер Хартли процесс получения информации рассматривает как выбор одного сообщения из конечного заданного множества N равновероятных событий. Для равновероятных событий используется формула Хартли I = log₂ N , где N – количество возможных равновероятных событий, I – количество информации.

Единицы измерения количества информации.

За единицу количества информации принят 1 бит — количество информации, содержащееся в сообщении, уменьшающем неопределенность знаний в два раза.

Для вычисления выражений, содержащих логарифмы, воспользуемся компьютерным калькулятором, программой Wise Calculator.

Уровень «3»

1. В барабане для розыгрыша лотереи находится 32 шара. Сколько информации содержит сообщение о первом выпавшем номере (например, выпал номер 15)?

([1], стр. 16, пример 2)

Решение:

т.к. вытаскивание любого из шаров равновероятно, то количество информации вычисляется по формуле 2^I=N, где I – количество информации, а N – количество шаров. Тогда 2^I=32, отсюда I = 5 бит.

Ответ: 5 бит

2. Какое количество информации несет в себе сообщение о том, что нужная вам программа находится на одной из восьми дискет? ([2], стр. 35, № 2.1)

Решение:

Решаем задачу аналогично задаче №1 2^I=8, I=3 бит.

Ответ: 3 бит

3. Какое количество информации получит второй игрок при игре в крестики-нолики на поле 8 х 8, после первого хода первого игрока, играющего крестиками? ([2], стр. 35, №2.2)

Решение:

Поле содержит 64 клетки, все ходы равновероятны.

2^I=64, I=6 бит.

Ответ: 6 бит

4. В рулетке общее количество лунок равно 128. Какое количество информации мы получаем в зрительном сообщения об остановке шарика в одной из лунок? ([2], стр. 35, №2.3)

Решение:

2^I=128, I=7 бит.

Ответ: 7 бит

5. Какой объем информации содержит сообщение, уменьшающее неопределенность знаний в 4 раза? ([1], стр. 17, №4)

Решение:

1 бит – это количество информации, уменьшающее неопределенность знаний в 2 раза.

I бит – это количество информации, уменьшающее неопределенность знаний в 2^I раз. отсюда, 4=2^I, I = 2 бит.

Ответ: 2 бит

6. Группа школьников пришла в бассейн, в котором 4 дорожки для плавания. Тренер сообщил, что группа будет плавать на дорожке номер 3. Сколько информации получили школьники из этого сообщения? ([1], стр. 17, №7)

Решение:

Поскольку выбор одной дорожки из 4-х равновероятен, то количество информации определяется по формуле: 2^I=N, где I – количество информации, а N=4 – количество дорожек. Тогда 2^I=4, отсюда I=2 бита.

Ответ: 2 бит

7. В корзине лежат 8 шаров. Все шары разного цвета. Сколько информации несет сообщение о том, что из корзины достали красный шар? ([1], стр. 17, №8)

Решение:

Поскольку все шары разного цвета, то вытаскивание одного шара из восьми равновероятно. Количество информации определяется по формуле: 2^I=N, где I – количество информации, а N=8 – количество шаров. Тогда 2^I=8, отсюда I=3 бита.

Ответ: 3 бита

8. Была получена телеграмма: «Встречайте, вагон 7». Известно, что в составе поезда 16 вагонов. Какое количество информации было получено? ([1], стр. 17, №9)

Решение:

Поскольку номер вагона равновероятно может быть выбран из 16 вагонов, то количество информации определяется по формуле: 2^I=N, где I – количество информации, а N=16 – количество вагонов. Тогда 2^I=16, отсюда I=4 бита.

Ответ: 4 бита

9. При угадывании целого числа в некотором диапазоне было получено 6 бит информации. Сколько чисел содержит этот диапазон? ([1], стр. 18, №12)

Решение:

Поскольку выбор числа равновероятен из заданного диапазона, то количество информации определяется по формуле 2^I=N, где I=6 бит, а N – количество чисел в искомом интервале. Отсюда: 2⁶=N, N=64.

Ответ: 64 числа

10. При угадывании целого числа в диапазоне от 1 до N было получено 7 бит информации. Чему равно N? ([1], стр. 18, №11)

Решение:

Поскольку выбор числа равновероятен из заданного диапазона, то количество информации определяется по формуле 2^I=N, где I=7 бит, а N – количество чисел в искомом интервале. Отсюда 2⁷=N, N=128

Ответ: N=128

11. Сообщение о том, что ваш друг живет на 10 этаже, несет 4 бита информации. Сколько этажей в доме? ([1], стр. 18, №13)

Решение:

Поскольку появление в сообщении номера этажа равновероятно из общего числа этажей в доме, то количество информации определяется по формуле: 2^I=N, где I = 4 – количество информации, N – число этажей в доме. Отсюда: 2⁴=N, N=16.

Ответ: в доме 16 этажей

9. Сообщение о том, что Петя живет во втором подъезде, несет 3 бита информации. Сколько подъездов в доме? ([1], стр. 18, №14)

Решение:

Поскольку появление в сообщении номера подъезда равновероятно из общего числа подъездов в доме, то количество информации определяется по формуле: 2^I=N, где I = 3 – количество информации, N – число подъездов в доме. Отсюда: 2³=N, N=8.

Ответ: в доме 8 подъездов

Уровень «4»