Теория информации делится на:
1) статистическую теорию информации;
2) теорию кодирования (прикладную теорию информации).
Понятийная база:
• энергия;
• материя;
• время;
• информация;
• пространство.
Понятийная база теории информации:
• сигнал, шум;
• информация;
• источник сообщений;
• сообщения;
• модуляция;
• кодирование;
• канал;
• пропускная способность;
• энтропия;
• данные, сведения;
• помехоустойчивость;
• достоверность передачи информации.
Информация делится на первичную и вторичную (получается из первичной).
Информация – это отражение окружающего мира в нашем сознании с помощью органов чувств.
На схеме НС – нейронная сеть.
На схеме ПП – правое полушарие, ЛП – левое полушарие.
В 1948 году Клад Шеннон опубликовал «Математическую теорию связи», в которой впервые взглянул на информацию.
В маловероятном событии очень много информации.
Сигнал – носитель информации.
Виды сигналов:
1) естественные: свет, звук, запах, шум, магнитные поля, радиация;
2) искусственные: ультразвук, рентген, сигналы, созданные человеком.
Сообщение = последовательность символов, знаков + смысл. Например, АВВА.
Данные – числовая логическая величина.
Сведения – данные, которые сведены в некоторую формулу.
Проблемы теории информации
Существует трехуровневое представление проблем «теории информации».
Семантика – это наука о словах и знаках, с помощью которой информация изучается на трех уровнях.
1 уровень – синтаксический. На нем рассматриваются внутренние свойства текстов, т.е. отношения между знаками, отражающими структуру, данные знаковой системы.
2 уровень – семантический. Изучаются отношения между знаками и обозначаемыми ими предметами, действиями, качествами, т.е. смысловое содержание текста.
3 уровень – прагматический. Изучается отношение между текстом и тем, кто его использует, т.е. потребительское содержание по отношению к получателю.
Между проблемами передачи информации и уровнями изучения знаков систем существует определенная взаимосвязь.
На синтаксическом уровне основной проблемой является создание теоретических основ построения систем связи, основные показатели функционирования которых были бы близки к оптимальным. Это чисто техническая проблема. На этом уровне интерес представляет собой проблема доставки сообщений как совокупность знаков; при этом происходит полное абстрагирование от смыслового прагматического содержания.
На семантическом уровне основной проблемой является формализация смысла передаваемой информации. Эта проблема является трудной, до сих пор полностью не решенной.
На прагматическом уровне важное значение имеют последствия от получения абонентам информации и ее использование. Это проблема эффективности.
Две основные проблемы теории информации:
1) повышение скорости передачи сообщений и приближение ее к предельной;
2) повышение достоверности передачи сообщений.
Вклад ученых в теорию информации
Зарубежные ученые:
1) Роберт Хартли (1928 год – мера Хартли);
2) Клод Шеннон (1948 год – математическая теория связи);
3) Роберт Фано;
4) Денеш Габор;
5) Норберт Винер;
6) Уильям Эшби.
Отечественные ученые:
1) В.А. Котельников (1933 год – теорема Котельникова; 1946 год – методы приема сигналов на фоне помех);
2) А.Н. Колмогоров (статическая теория колебаний);
3) А.Я. Химчин;
4) В.И. Сифоров;
5) Р.А. Добрушин.
К ТИ в ее узкой постановке относят результаты решения рядов фундаментальных теоретических вопросов, касающихся повышения эффективности функционирования систем связи. В первую очередь, это анализ сигналов как средства передачи сообщений, включая вопросы оценки переносимого ими количества информации. Во вторую, анализ источников сообщений и каналов связи с точки зрения информационных характеристик и обоснование возможностей кодирования сообщений, обеспечивающих предельно допустимую скорость передачи сообщений по каналу связи при наличии и отсутствии шумов.
Информационная система – это такая система, на входе и выходе которой есть информация
Виды информационных систем.
1) Система связи (СС; например, система спутниковой связи);
2) Информационно-поисковая система (ИПС; например, Яндекс, Гугл);
3) Система передачи сообщений (СПС; например, Интернет, локальная сеть);
4) Информационно-справочная система (ИСС; например, система справки на вокзалах, в аэропортах);
5) Автоматизированная система управления (АСУ; используется на различных предприятиях);
6) Интеллектуальная информационная система (ИИС; дает ответ на любой вопрос);
7) Экспертная система (ЭС; по логическим законам выводит ответ, основанный на базах экспертов);
8) Система управления (СУ; например, атомное управление).