Пример №1 – Решение не найдено (градиентный метод наискорейшего спуска)

Путь градиентного спуска при одном и том же входе сети и числе циклов настройки, но при разном направлении вектора градиента на поверхности ошибок модельного нейрона. Координаты – среднеквадратичная ошибка обучения нейрона (MSE), его смещение (Bias) и вес (Weight). Под поверхностью показаны ее линии уровня. Стрелкой указано направление

движения вектора градиента ошибок.

Пример №2 – Достигнут локальный минимум

Путь градиентного спуска при одном и том же входе сети и числе циклов настройки, но при разном направлении вектора градиента на поверхности ошибок модельного нейрона. Координаты – среднеквадратичная ошибка обучения нейрона (MSE), его смещение (Bias) и вес (Weight). Под поверхностью показаны ее линии уровня. Стрелкой указано направление

движения вектора градиента ошибок.

Пример №3 – Достигнут глобальный минимум

Путь градиентного спуска при одном и том же входе сети и числе циклов настройки, но при разном направлении вектора градиента на поверхности ошибок модельного нейрона. Координаты – среднеквадратичная ошибка обучения нейрона (MSE), его смещение (Bias) и вес (Weight). Под поверхностью показаны ее линии уровня. Стрелкой указано направление

движения вектора градиента ошибок.

Алгоритм обратного распространения ошибки

(Error Backpropagation)

Пример

реализации: t=1+sin(p*π/4)

До начала обучения ошибка составляет:

Е = 1,409

После первого цикла обучения:

Е = 0,868

После второго цикла обучения:

Е = 0,527

Обучение «Без учителя»

Система обучается установлению принадлежности образа к одному из формально определенных классов.

Формальные признаки могут быть определены посредством простых правил типа «если… – то...».

Задачей системы является формирование обобщающих признаков в совокупности примеров. При увеличении числа примеров несущественные, случайные признаки сглаживаются, а часто встречающиеся усиливаются, при этом происходит постепенное уточнение границ категорий.

Хорошо обученная нейросетевая система способна извлекать признаки из новых примеров, ранее

неизвестных системе, и принимать на их основе приемлемые решения.

Пример самообучения карты Кохонена

Классификация	Классификация
объектов	объектов
двух сортов на 2	двух сортов на 4
класса	класса

Области применения ИНС

Прогнозирование и восстановление числовых рядов

Кластерный анализ

Классификация и распознавание образов

Обработка изображений

Нелинейное управление процессами

Адаптивная фильтрация

Финансовое прогнозирование

Сжатие и шифрование информации

Параллельные вычисления на суперкомпьютерах (Blue Brain Project, Blue Gene)

В настоящее время метод ИНС активно применяется в гелиогеофизике для решения

задач прогноза параметров солнечно-земных

связей и различных геофизических явлений.

Решение задач прогнозирования и восстановления рядов данных

Долгосрочное прогнозирование индексов солнечной активности

[Бархатов Н.А., Королев А.В., Пономарев С.М., Сахаров С.Ю. Долгосрочное

прогнозирование индексов солнечной активности методом искусственных

Выполненонейр н ых сетейпрогнозирование. Известия ВУЗов «Радиофизика»,среднегодовых2001, Тчисел.44, N 9,ВольфаС. 806] (W) и

среднемесячных значений потока излучения Солнца на частоте 2800 МГц (SF-индекс). Проанализировано использование рекуррентной ИНС с обратным распространением ошибки и включенной петлей обратной связи, исходящей из скрытого слоя.

При обучении ИНС и прогнозировании W принимается во внимание его предыстория, а также среднегодовые значения индекс SF и коронального индекса (CI).

Архитектура рекуррентной ИНС

Элмана

Решение задач прогнозирования и восстановления рядов данных

Объективная оценка качества прогнозирования проводится на основе вычисления величины эффективности прогнозирования (РЕ):

			N			2
			T		O
PE			1						1, 2,...N
	1		N				100%,
			T		T	2
			1

Прогнозирование среднегодового числа Вольфа (W) на год вперед выполнено с эффективностью РЕ=86%

На основе выполненного исследования реализован онлайн-сервис прогнозирования числа солнечных пятен в реальном времени с использованием данных US Dept. of Commerce, NOAA, Space Weather Prediction Center [http://www.swpc.noaa.gov]. Система предоставляет краткосрочный прогноз на 4 месяца и долгосрочный прогноз на 2

года. Сервис доступен по ссылке

Решение задач прогнозирования и восстановления рядов данных

Прогнозирование индексов геомагнитной активности

[Бархатов Н.А., Беллюстин Н.С., Левитин А.Е., Сахаров С.Ю. Сравнение эффективности предсказания индекса геомагнитной активности Dst искусственными нейронными сетями // Известия ВУЗов «Радиофизика», 2000, Т. 43, No 5, С. 385]

В исследовании демонстрируется возможность нейросетевого прогнозирования индекса глобальной геомагнитной активности Dst на 1 час при учете по динамики параметров плазмы и магнитного поля солнечного ветра. Тем самым, согласно причинно- следственной закономерности, ИНС неявно моделирует физические процессы в магнитосфере Земли.

В х о д н о й	С к р ы т ы й	В ы х о д н о й
с л о й	с л о й	н е й р о н

ИНС прямого	ИНС Элмана
распространения