- •1. Понятия «система».
- •2. Понятия, «информация», «неопределенность»
- •3. Особенности и признаки интеллектуальных информационных систем
- •4. Функции информационных систем. Двойственная природа знаний, используемых в информационных системах
- •5. Способы объединения операционного и фактуального знания в традиционных информационных системах.
- •6. Способы объединения операционного и фактуального знания в интеллектуальных информационных системах. Сравнение с традиционными системами
- •7. Интеллектуальные информационные системы с базами данных
- •8. Интеллектуальные информационные системы, основанные на моделях
- •9.Понятия «предметная область» и «проблемная область»
- •Представление знаний.
- •Поведение.
- •10.Признаки интеллектуальности информационных систем
- •Понятие «искусственный интеллект (ии)». Задачи ии. История развития и основные этапы исследований по ии.
- •Основные направления исследований в области искусственного интеллекта (задачи)
- •13.Системы с интеллектуальным интерфейсом
- •14. Системы с естественно-языковым интерфейсом
- •15.Интеллектуальные базы данных. Гипертекстовые системы. Системы контекстной помощи
- •16. Системы когнитивной графики (общая характеристика)
- •19. Способы обучения в интеллектуальных системах
- •20. Индуктивные системы (основные понятия). Системы, основанные на прецедентах (общая характеристика)
- •21.Нейронные сети (основные понятия)
- •22.Хранилища данных
- •Дизайн хранилищ данных
- •Процессы работы с данными
- •23.Адаптивные информационные системы
- •24.Формализация и неформальные знания.Понятие “’экспертная система”.
- •25. Основные особенности экспертных систем. Основные модели представления знаний в классических экспертных системах
- •26. Структура экспертной системы
- •29. Общая характеристика математического аппарата теории нечетких множеств.
- •30. Основные идеи теории нечетких множеств. Сравнение обычных и нечетких множеств.
- •31. Операции над нечеткими множествами (кроме алгебраических)
- •33. Нечеткая и лингвистическая переменные.
- •34. Нечеткие отношения
- •35. Операции над нечеткими отношениями
- •36. Операции композиции нечетких отношений и нечеткой импликации, их значение для нечеткого логического вывода.
- •37. Нечеткий логический вывод.
- •38. Особенности нечеткого логического вывода по Мамдани и Ларсену.
- •Алгоритм Мамдани
- •40. Основные проблемы, решаемые при помощи искусственных нейронных сетей.
- •42. Понятие и основные идеи коннекционизма
- •43. Схема формального нейрона. Роль его составных частей
- •44. Функции активации формального нейрона, их смысл и основные виды.
- •1. Жесткая ступенька :
- •3. Гиперболический тангенс
- •4. Пологая ступенька
- •5. Экспонента:
- •7. Участки синусоиды:
- •8. Гауссова кривая:
- •Сравнение ветвей компьютерной эволюции
- •Архитектура нейронных сетей. Понятие, основные виды. Примеры
- •(Звезды Гроссберга, модели Липпмана-Хемминга)
- •Обучение нейронных сетей, сущность и основные алгоритмы обучения
- •Обучение нейронных сетей как задача оптимизации.
43. Схема формального нейрона. Роль его составных частей
Исторически первой работой, заложившей теоретический фундамент для создания искусственных моделей нейронов и нейронных сетей, принято считать опубликованную в 1943 г. статью Уоррена С.Мак-каллока и Вальтера Питтса "Логическое исчисление идей, относящихся к нервной активности". Главный принцип теории Маккалока и Питтса заключается в том, что произвольные явления, относящиеся к высшей нервной деятельности, могут быть проанализированы и поняты, как некоторая активность в сети, состоящей из логических элементов, принимающих только два состояния ("все или ничего"). При этом для всякого логического выражения, удовлетворяющего указанным авторами условиям, может быть найдена сеть логических элементов, имеющая описываемое этим выражением поведение.
В формальном нейроне веса связей соответствуют синапсам, а функция NET отражает активность сомы. На i-е входы ФН поступают сигналы в виде вектора X, , 1,n i = n – размерность вектора X, который скалярно умножается на вектор весов W, соответствующий синаптической силе входов: NET = XW. Подключение к выходу ФН нелинейного преобразователя ϕ(x) сужает диапазон выходных значений и расширяет функциональные возможности ФН.
К базовым элементам НС относятся система межнейронных связей, выполняющая функцию взвешивания x i w i сигналов, а также формальные нейроны. В качестве «сжимающей» функции часто используется сигмоидальная (S-образная) функция
С современной точки зрения, формальный нейрон представляет собой математическую модель простого процессора, имеющего несколько входов и один выход. Вектор входных сигналов (поступающих через "дендриды") преобразуется нейроном в выходной сигнал (распространяющийся по "аксону") с использованием трех функциональных блоков: локальной памяти, блока суммирования и блока нелинейного преобразования.
Вектор локальной памяти содержит информацию о весовых множителях, с которыми входные сигналы будут интерпретироваться нейроном. Эти переменные веса являются аналогом чувствительности пластических синаптических контактов. Выбором весов достигается та или иная интегральная функция нейрона.
В блоке суммирования происходит накопление общего входного сигнала (обычно обозначаемого символом net), равного взвешенной сумме входов:
В модели Маккалока и Питтса отсутствуют временные задержки входных сигналов, поэтому значение net определяет полное внешненее возбуждение, воспринятое нейроном. Формальные нейроны могут быть объединены в сети путем замыкания выходов одних нейронов на входы других, и по мысли авторов модели, такая кибернетическая система с надлежаще выбранными весами может представлять произвольную логическую функцию. Для теоретического описания получаемых нейронных сетей предлагался математический язык исчисления логических предикатов.
Нужно отметить, что сегодня, спустя 50 лет после работы Маккалока и Питтса, исчерпывающей теории синтеза логических нейронных сетей с произвольной функцией, по-видимому, нет. Наиболее продвинутыми оказались исследования в области многослойных систем и сетей с симметричными связями. Большинство моделей опираются в своей основе на различных модификациях формального нейрона. Важным развитием теории формального нейрона является переход к аналоговым (непрерывным) сигналам, а также к различным типам нелинейных переходных функций. Опишем наиболее широко используемые типы переходных функций Y=f(net).
Пороговая функция (рассмотренная Маккалоком и Питтсом):
Линейная функция, а также ее вариант - линейная функция с погашением отрицательных сигналов:
Сигмоидальная функция:
Как указывалось еще С.Гроссбергом, сигмоидальная функция обладает избирательной чувствительностью к сигналам разной интенсивности, что соответсвует биологическим данным.
В последнее время также рассматриваются математические модели формальных нейронов, учитывающие нелинейные корреляции между входами. Для нейронов Маккалока и Питтса предложены электротехнические аналоги, позволяющие проводить прямое аппаратное моделирование.