- •Искусственные нейронные сети, их классификация и основные классы решаемых задач
- •Сети радиальных базисных функций (rbf-сети): структура и назначение
- •Формальные нейроны, входная функция и функции активации или выхода нейрона и их виды
- •Интерполяция и аппроксимация функций с помощью rbf-сетей
- •Динамические нейронные сети. Сети с внешней и внутренней динамикой
- •Backpropagation-алгоритм обучения многослойных персептронов и его недостатки. Основные требования к функции активации нейрона в Backpropagation-сетях
- •Бинарные сети Хопфилда (Hopfield): структура, свойства, назначение и области применения. Непрерывные сети Хопфилда
- •9. Применение Backpropagation-нейросетей для преобразования ascii-текста в речевой сигнал (проект neTtalk) и для анализа видеоизображений
- •Правило останова переходного процесса в сети Хопфилда. Теорема Коэна (Сohen) и Гроссберга ( Grossberg)
- •11. Функция ошибки нейросети и градиентный способ определения ее минимума
- •12. Применение многослойных персептронов для прогнозирования способности к возврату кредита
- •14. Двухслойные и многослойные нейросети и их аппроксимационные
- •15.Сети Хопфилда: назначение, типы, структура, принцип действия
- •1) Режим фильтрации;
- •2) Синхронный режим;
- •Обучение нейросетей с поощрением и без поощрения (Supervised and unsupervised learning). Примеры.
- •Алгоритм Кохонена и его сходимость (одномерный и двумерный случай)
- •18)Основные недостатки алгоритма обучения с обратным распространением ошибки (Backpropagation) и способы их смягчения
- •19)Сети Кохонена, их структура и алгоритм обучения
- •20. Моделирование основных логических схем нейросетями
- •21. Частично рекуррентные сети Жордана и Элмана и их применение для прогнозирования временных рядов
- •5.3.2. Нейросети Жордана(Jordan) и Элмана(Elman)
- •22. Сети Кохонена. Основные стадии работы и области применения. Алгоритм обучения
- •23.Нейросети прямого распространения информации 1го и 2го порядка (fFсети 1го и 2го порядка)
- •24.Применение rbf-сетей для аппроксимации психометрической функции преподавателя
- •Гауссова (колокольная) фа(функция активации)
- •25. Моделирование схемы исключающего или (xor-схемы) двухслойным персептроном
- •26. Сети радиальных базисных функций (rbf-сети): структура и назначение
26. Сети радиальных базисных функций (rbf-сети): структура и назначение
Сети радиальных базисных функций (Radial Basis Functions, RBF-Netze, RBF-сети) представляют собой специальный тип нейронных сетей с прямыми связями. Основное их назначение – аппроксимация и интерполяция многомерных функций для решения, в частности, задач прогнозирования. Они были предложены в 1985 году Повелом (Powell, 1985). Их математическую основу составляет теория аппроксимации и интерполяции многомерных функций. Сколь угодно точная аппроксимация функций достигается при этом путем комбинации радиально симметричных функций.
RBF-сети обладают рядом характерных свойств:
-
Их архитектура – это архитектура сетей с прямыми связями первого порядка (FF-сети): связи от нейронов одного слоя к нейронам следующего слоя;
-
Быстрое обучение;
-
Отсутствие «патологий» сходимости. В них в отличие от backpropagation-сетей не возникает проблемы локальных минимумов;
-
Более длительное время их подготовки и настройки из-за необходимости выполнения более сложных расчетов;
-
RBF-сети - хорошие аппроксиматоры функций.
6.1. Структура RBF-сетей.
RBF-сети имеют только один слой скрытых нейронов На рис. 6.1. показана структура RBF-сети. Она содержит один входной слой, один скрытый слой нейронов, число которых обычно соответствует числу элементов в обучающей последовательности, и один выходной слой из одного (на рис. 6.1. представлен именно такой случай) или нескольких нейронов. На рис. 6.1. единственный выходной нейрон выдает значение функции:
Таким образом, по своему построению RBF-сети – это двухслойные FF-сети первого порядка, причем оба слоя соединены весовой матрицей c. Входной вектор x передается на нейроны скрытого слоя. При этом каждый нейрон скрытого слоя получает полную информацию о входном векторе x.