Понятие «сигнала»

•Сигнал – есть материальный носитель информации, средство перенесения информации в пространстве и времени.

•В качестве сигналов используются не сами по себе объекты, а их состояния.

•Условия, обеспечивающие установление и способствующие сохранению сигнального соответствия состояний, называется кодом (набор условных сигналов для записи или передачи некоторых заранее определенных понятий), а процесс такого установления – кодированием.

•Посторонние воздействия, нарушающие соответствие состояний, называется помехами или шумами.

Представление непрерывного и дискретного сигналов

Поведение энтропии для случая двух альтернатив

Связь между энтропией и количеством информации