Многослойный персептрон

Искусственные нейроны могут объединяться в сети различным образом. Чаще всего выделяется три основных типа:

- полносвязные сети (рис. 2а);

- многослойные или слоистые сети (рис. 2б);

- слабосвязные (нейронные сети с локальными связями).

Рис. 2. Архитектуры нейронных сетей: а – полносвязная сеть; б – многослойная сеть; в – слабосвязная сеть.

В полносвязных сетях каждый нейрон передает свой выходной сигнал остальным нейронам, в том числе и самому себе. Все входные сигналы подаются всем нейронам. Выходным сигналами сети могут быть все или некоторые выходные сигналы нейронов после нескольких тактов функционирования сети.

В свою очередь среди многослойных сетей выделяют следующие типы.

1. Монотонные – частный случай слоистых сетей с дополнительными условиями на связи и элементы. Каждый слой, кроме последнего, разбит на два блока: возбуждающий (В) и тормозящий (Т). Связи между блоками тоже разделяются на тормозящие и возбуждающие. Если от блока А к блоку С ведут только возбуждающие связи, то это означает, что любой выходной сигнал блока является монотонной неубывающей функцией любого выходного сигнала блока А. Если же эти связи тормозящие, то любой выходной сигнал блока С является невозрастающей функцией любого выходного сигнала блока А.

2. Сети без обратных связей. В таких сетях нейроны входного слоя получают входные сигналы, преобразуют их и передают нейронам 1-го скрытого слоя, далее срабатывает 1-й скрытый слой и т.д. до Q-го слоя, который выдает выходные сигналы для интерпретатора и пользователя. Если не оговорено противное, то каждый выходной сигнал i – го слоя подастся на вход всех нейронов (q+l)-го слоя; однако возможен вариант соединения q-го слоя с произвольным (q+p)- м слоем.

Самым распространенным видом нейронной сети является многослойный персептрон:

Рис. Многослойный персептрон.

Сеть состоит из произвольного количества слоев нейронов. Нейроны каждого слоя соединяются с нейронами предыдущего и последующего слоев по принципу "каждый с каждым". Первый слой (слева) называется сенсорным или входным, внутренние слои называются скрытыми или ассоциатив­ными, последний (самый правый, на рисунке состоит из одного нейрона) — выходным или результа­тивным. Количество нейронов в слоях может быть произвольным. Обычно во всех скрытых слоях одинаковое количество нейронов.

Обозначим количество слоев и нейронов в слое. Входной слой: N_I нейронов; N_H нейронов в каж­дом скрытом слое; N₀ выходных нейронов, х — вектор входных сигналов сети, у - вектор выходных сигналов.

Входной слой не выполняет никаких вычислений, а лишь распределяет входные сигналы, поэтому иногда его считают, иногда — нет. Обо­значим через N_L полное количество слоев в сети, считая входной.

Работа многослойного персептрона (МСП) описывается формулами:

, (1)

, (2)

, (3)

где индексом i обозначается номер входа, j — номер нейрона в слое, l — номер слоя.