На современном этапе однослойный

персептрон

представляет скорее

исторический интерес, однако на его примере

могут быть изучены

основные понятия и простые алгоритмы обучения нейронных сетей.

Персептрон

• Ассоциативный A-элемент активизируется, как только количество сигналов от S-элементов на его входе превысило некоторую пороговую величину θ.

• Сигналы от «возбудившихся» A-элементов, в свою очередь, передаются в сумматор R, причём сигнал от i-го ассоциативного элемента передаётся с коэффициентом wi

(вес A-R связи).

• R-элемент подсчитывает сумму значений входных сигналов, помноженных на веса. R-элемент (персептрон), выдаёт «1», если превышен порог θ, иначе на выходе будет «−1».

• ПроцессS обученияA состоит в изменении весовых

коэффициентов wi связей A-R.

R

w i

Логическая схема элементарного персептрона. Веса S-A связей могут иметь значения −1, +1 или 0 (то есть отсутствие связи). Веса A-R связей

. Математическая модель нейрона

Математически нейрон представляет собой взвешенный сумматор, единственный выход которого определяется через его входы и

матрицу весов: Y f (s),	s wi xi b, b w0 x0
	n
	i 1

xi и wi – соответственно сигналы на входах нейрона и веса входов, функция s называется индуцированным локальным полем, а f(s) –

передаточной функцией. Дополнительный вход x0 и
соответствующий ему вес w0				используется для инициализации
нейрона. Величина b (коэффициент смещения) формирует порог
чувствительности нейрона.			. . .	w n
w 1	w 2	w 3

x 1	×
x 2	×
x 3	×	S	f (S )	Y
…		×
x n		×

b

. Передаточныенейронов функции искусственных

Линейн	Порогов	Сигмоидальна
ая	ая	я

	Другие примеры:	f(s) определяет зависимость сигнала на
		выходе нейрона от взвешенной суммы
	•Экспонента
		сигналов на его входах.
	•Тригонометрический
	синус	Искусственный нейрон полностью
	•Модульная
		характеризуется своей передаточной
	•Квадратичная
		функцией. Использование различных
	•Радиально-базисная
		передаточных функций позволяет
	•Гиперболический тангенс вносить нелинейность в работу нейрона и
		в целом нейронной сети.

.Принципы функционирования ИНС

•Действующие параллельно и соединенные последовательно искусственные нейроны составляют основу нейронной сети.

•Как и в природе, функция нейронной сети в значительной степени определяется связями между элементами. Регулируя значения коэффициентов (весов) связи

нейронную сеть можно настраивать (обучать) для выполнения конкретной функции.

•Искусственные нейронные сети настраиваются или обучаются так, чтобы конкретные входы

преобразовывались в заданный целевой выход. Сеть обучается, основываясь на сравнении сигналов выхода и цели до тех пор, пока выход сети не будет соответствовать, т.е. близок к цели.

•Чтобы обучить сеть при таком управляемом обучении,

.Преимущества нейросетевого подхода

Решение задач, не поддающихся адекватной формализации традиционными аналитическими методами, поскольку невозможно учесть все особенности описываемого процесса.

Решение формализуемых задач, для которых в настоящее время отсутствует математический аппарат решения.

Решение формализуемых задач с существующим математическим аппаратом для их решения, но реализация вычислений с его помощью не удовлетворяет требованиям по затрачиваемым вычислительным ресурсам.

Получение неявной модели системы без построения ее конкретного физического представления, используя только достаточно большие массивы экспериментальных данных.

Создание ИНС с учетом физических представлений об изучаемых причинно-следственных связях в рассматриваемом процессе. Сочетание корреляционной

обработки изучаемых сигналов с их нелинейным

.Основные направления использования

1)Восстановление образов, прогнозирование

состояния системы

Выяснение зависимости между группами последовательных данных, находящихся в причинно- следственной связи.

ИНС необходимы для «обучения» образцы – набор

пар вход/цель. Таким образом реализуется схема обучения «С учителем».

2) Классификация образов

Объединение данных в группы по схожим признакам и выделение характерных особенностей изучаемых явлений на этой основе.

ИНС необходимо для «обучения» только «знать» количество классов. Таким образом реализуется схема обучения «Без учителя» – ИНС выступает в роли

Проблема синтеза ИНС

Задача синтеза требуемой искусственной сети - общая проблема кибернетики, заключающаяся в построении искусственной системы с заданным функциональным поведением.

Стандартные этапы решения этой проблемы

следующие:

1.выбор существенных для решаемой задачи признаков и формирование признаковых пространств 2.выбор или разработка архитектуры нейронной сети,

адекватной решаемой задаче 3.получение обучающей выборки из наиболее

представительных векторов признаковых пространств 4.обучение нейронной сети на обучающей выборке

Алгоритмы обучения нейросетей

Процесс (алгоритм) обучения нейронной сети предполагает следующую последовательность событий:

1.В нейронную сеть поступают стимулы из внешней среды 2.Изменяются свободные параметры нейронной сети (веса и смещения связей нейронов).

3.После изменения параметров нейронная сеть отвечает на

поступающие стимулы уже иным образом.

Не существует универсального алгоритма обучения, подходящего для всех нейронных сетей. Существует

лишь набор средств, представленный множеством

алгоритмов обучения, каждый из которых имеет свои достоинства и недостатки.

Необходимо найти оптимальные значения всех переменных весовых коэффициентов. От того, с каким

качеством выполнен их поиск, зависит способность ИНС решать поставленные задачи.

Свойства успешно обученных ИНС

Обучаемость/дообучаемость. Выбрав одну из моделей ИНС, создав сеть и выполнив алгоритм обучения, мы можем обучить сеть решению задачи, которая ей по силам. Нет никаких гарантий, что это удастся сделать при выборе архитектуры данной сети, алгоритме и

задаче, но если все сделано правильно, то обучение будет успешным.

Способность к обобщению. После обучения сеть становится нечувствительной к малым изменениям входных сигналов (шуму или вариациям входных

образов) и дает правильный результат на выходе.

Способность к абстрагированию. Если предъявить сети несколько искаженных вариантов входного образа,

то сеть сама может создать на выходе идеальный образ,

с которым она никогда не встречалась.

Обучение «С учителем»

Путем анализа имеющихся входных/выходных данных, веса и смещения сети автоматически настраиваются так, чтобы минимизировать разность между желаемым сигналом и сигналом, полученным на выходе в результате работы сети. Эта разность – ошибка обучения.

Ошибка обучения для конкретной конфигурации ИНС определяется путем прогона через сеть всех имеющихся наблюдений и сравнения выходных значений с желаемыми, целевыми значениями.

Эти разности позволяют сформировать так называемую функцию ошибок (критерий качества обучения). В качестве такой функции чаще всего берется сумма квадратов ошибок.

При моделировании ИНС с линейными функциями

активации нейронов гарантируется достижение абсолютного минимума ошибки обучения.