- •Искусственный нейрон
- •Определение искусственной нейронной сети. Однослойный и многослойный персептроны.
- •Основные этапы нейросетевого анализа. Классификация известных нейросетевых структур по типу связей и типу обучения и их применение.
- •Обучение искусственных нейронных сетей
- •Цель обучения
- •Обучение с учителем
- •Обучение без учителя
- •Алгоритмы обучения
- •Сети Кохонена. Постановка задачи кластеризации. Алгоритм кластеризации.
- •Преобразование алгоритма кластеризации с целью реализации в нейросетевом базисе. Структура сети Кохонена.
- •Алгоритм обучения без учителя для сетей Кохонена. Обощенная процедура.
Начнем с рассмотрения биологического прототипа - нейрона. Нейрон является нервной клеткой биологической системы. Он состоит из тела и отростков, соединяющих его с внешним миром (рис. 1.1).
Отростки, по которым нейрон получает возбуждение, называются дендритами.
Отросток, по которому нейрон передает возбуждение, называется аксоном, причем аксон у каждого нейрона один.
Дендриты и аксон имеют довольно сложную ветвистую структуру.
Место соединения аксона нейрона - источника возбуждения с дендритом называется синапсом.
Основная функция нейрона заключается в передаче возбуждения с дендритов на аксон. Но сигналы, поступающие с различных дендритов, могут оказывать различное влияние на сигнал в аксоне. Нейрон выдаст сигнал, если суммарное возбуждение превысит некоторое пороговое значение, которое в общем случае изменяется в некоторых пределах. В противном случае на аксон сигнал выдан не будет: нейрон не ответит на возбуждение. У этой основной схемы много усложнений и исключений, тем не менее, большинство искусственных нейронных сетей моделируют лишь эти простые свойства.
Искусственный нейрон
Искусственный нейрон имитирует в первом приближении свойства биологического нейрона. На вход искусственного нейрона поступает некоторое множество сигналов, каждый из которых является выходом другого нейрона. Каждый вход умножается на соответствующий вес, аналогичный синаптической силе, и все произведения суммируются, определяя уровень активации нейрона.
Рис. 1.2.
На рис. 1.2 представлена модель, реализующая эту идею. Множество входных сигналов, обозначенных , поступает на искусственный нейрон. Эти входные сигналы, в совокупности обозначаемые вектором , соответствуют сигналам, приходящим в синапсы биологического нейрона. Каждый сигнал умножается на соответствующий вес , и поступает на суммирующий блок, обозначенный . Каждый вес соответствует "силе" одной биологической синаптической связи. (Множество весов в совокупности обозначается вектором .) Суммирующий блок, соответствующий телу биологического элемента, складывает взвешенные входы алгебраически, создавая выход, который мы будем называть . В векторных обозначениях это может быть компактно записано следующим образом:
Сигнал далее, как правило, преобразуется активационной функцией и дает выходной нейронный сигнал . Активационная функция может быть обычной линейной функцией
где — константа, пороговой функцией
где — некоторая постоянная пороговая величина, или же функцией, более точно моделирующей нелинейную передаточную характеристику биологического нейрона и предоставляющей нейронной сети большие возможности.
Определение искусственной нейронной сети. Однослойный и многослойный персептроны.
Искусственная нейронная сеть – множество нейронов соединенных между собой т.о., что: 1) ряд нейронов отмечены, как входные, а некоторые другие как выходные,
2) активационные функции считаются неизменными в работе сети, а веса являются параметрами сети и корректируются.
Односл. персептрон Розенблата
|
Многослойный персептрон
Ujk – выходные сигналы k-го слоя.
|
Классификация ИНС. Задачи, решаемые с помощью нейронных сетей. Нейронные сети классифицируются следующим образом: I. С точки зрения топологии
2.Многослойные а) полносвяные б) частично полносвязные
|
II. По типам структур нейронов: 1. Гомогенные. Функции активации всех нейронов одинаковые 2. Гетерогенные. Функции активации всех нейронов разные III. По видам сигналов, которыми оперируют нейронные сети 1.Бинарные(от 0 до 1) 2.Сигналовые- оперируют действительными числами. IV. По методу обучения 1.Обучение с учителем 2.Обучение без учителя 3.Смешанные Классы задач, решаемых нейросетями:
Постановка задачи: Формируется набор экспериментальных данных . Требуется найти функцию, аппроксимирующую некоторую неизвестную функцию и удовлетворяющую некоторым критериям
Дается временной ряд: Требуется предсказать значение у в момент времени 5.Оптимизация Применяется в задачах, поиск решений в которых очень большая размерность |