- •" Исследование метода обучения многослойных нейронных сетей по алгоритму с обратным распространением ошибки "
- •Определение по входным данным применение нормализации:
- •Крутизна
- •Смещение
- •Скорость обучения
- •Обучение с моментом
- •Применение различного количества нейронов в слоях
- •Расчёт обратного хода
- •(2) Для выходного слоя:
- •Ошибка для 1-го слоя:
Скорость обучения
0,1 |
0,2 |
0,3 |
Структура сети: 3 - 5 - 1 Число входов: 3 Число выходов: 1
Слой------Сигмоида----------Крутизна---Смещение---Момент----Вес
--1-------сигмоид--------------1,0-------1,0-------0--------1,0 --выход---сигмоид--------------0,5-------1,0-------0--------1,0
Скорость обучения: 0,1 Нормализация: [0;1]
Циклов обучения: 10000 Максимальная ошибка: 34.09137800 Минимальная ошибка: 0.02204700 Средняя ошибка: 7.39157124 Среднеквадратичная ошибка: 9578.64605020
Ошибки по тестовой выборке: {4,479961}, {5,585927}, {21,6345}, {2,884885}, {1,00862}
Примеры для тестирования: {0,03567; 0,023221; 0,039783; 0,411367; 0,43561577; } {0,04747; 0,01364; 0,029229; 0,495318; 0,46508294; } {0,042111; 0,00341; 0,006928; 0,335318; 0,21821651; } {0,048714; 0,020081; 0,053045; 0,642273; 0,65788807; } {0,045196; 0,026739; 0,044168; 0,602057; 0,60751638; }
|
Структура сети: 3 - 5 - 1 Число входов: 3 Число выходов: 1
Слой------Сигмоида----------Крутизна---Смещение---Момент----Вес
--1-------сигмоид--------------1,0-------1,0-------0--------1,0 --выход---сигмоид--------------0,5-------1,0-------0--------1,0
Скорость обучения: 0,2 Нормализация: [0;1]
Циклов обучения: 10000 Максимальная ошибка: 34.00247800 Минимальная ошибка: 0.07719200 Средняя ошибка: 7.33691959 Среднеквадратичная ошибка: 9503.43733369
Ошибки по тестовой выборке: {4,431045}, {5,744964}, {21,539937}, {2,490011}, {0,667275}
Примеры для тестирования: {0,03567; 0,023221; 0,039783; 0,411367; 0,43535101; } {0,04747; 0,01364; 0,029229; 0,495318; 0,46422212; } {0,042111; 0,00341; 0,006928; 0,335318; 0,21872836; } {0,048714; 0,020081; 0,053045; 0,642273; 0,65575073; } {0,045196; 0,026739; 0,044168; 0,602057; 0,60566877; }
|
Структура сети: 3 - 5 - 1 Число входов: 3 Число выходов: 1
Слой------Сигмоида----------Крутизна---Смещение---Момент----Вес
--1-------сигмоид--------------1,0-------1,0-------0--------1,0 --выход---сигмоид--------------0,5-------1,0-------0--------1,0
Скорость обучения: 0,3 Нормализация: [0;1]
Циклов обучения: 10000 Максимальная ошибка: 34.05964300 Минимальная ошибка: 0.02806800 Средняя ошибка: 7.30699322 Среднеквадратичная ошибка: 9479.95749995
Ошибки по тестовой выборке: {4,337101}, {5,966295}, {21,567332}, {2,062983}, {0,339885}
Примеры для тестирования: {0,03567; 0,023221; 0,039783; 0,411367; 0,43484251; } {0,04747; 0,01364; 0,029229; 0,495318; 0,46302412; } {0,042111; 0,00341; 0,006928; 0,335318; 0,21858008; } {0,048714; 0,020081; 0,053045; 0,642273; 0,65343935; } {0,045196; 0,026739; 0,044168; 0,602057; 0,6038967; }
|
0,4 |
0,5 |
0,6 |
Структура сети: 3 - 5 - 1 Число входов: 3 Число выходов: 1
Слой------Сигмоида----------Крутизна---Смещение---Момент----Вес
--1-------сигмоид--------------1,0-------1,0-------0--------1,0 --выход---сигмоид--------------0,5-------1,0-------0--------1,0
Скорость обучения: 0,4 Нормализация: [0;1]
Циклов обучения: 10000 Максимальная ошибка: 34.44585500 Минимальная ошибка: 0.00986600 Средняя ошибка: 7.28605301 Среднеквадратичная ошибка: 9412.71397235
Ошибки по тестовой выборке: {4,015513}, {6,396725}, {21,758962}, {2,249862}, {0,260224}
Примеры для тестирования: {0,03567; 0,023221; 0,039783; 0,411367; 0,43310184; } {0,04747; 0,01364; 0,029229; 0,495318; 0,46069432; } {0,042111; 0,00341; 0,006928; 0,335318; 0,21754284; } {0,048714; 0,020081; 0,053045; 0,642273; 0,65445088; } {0,045196; 0,026739; 0,044168; 0,602057; 0,60346552; }
|
Структура сети: 3 - 5 - 1 Число входов: 3 Число выходов: 1
Слой------Сигмоида----------Крутизна---Смещение---Момент----Вес
--1-------сигмоид--------------1,0-------1,0-------0--------1,0 --выход---сигмоид--------------0,5-------1,0-------0--------1,0
Скорость обучения: 0,5 Нормализация: [0;1]
Циклов обучения: 10000 Максимальная ошибка: 37.75691900 Минимальная ошибка: 0.06095500 Средняя ошибка: 7.25129663 Среднеквадратичная ошибка: 9568.79172452
Ошибки по тестовой выборке: {4,345263}, {6,280552}, {21,954584}, {0,79065}, {0,650003}
Примеры для тестирования: {0,03567; 0,023221; 0,039783; 0,411367; 0,43488669; } {0,04747; 0,01364; 0,029229; 0,495318; 0,46132313; } {0,042111; 0,00341; 0,006928; 0,335318; 0,21648399; } {0,048714; 0,020081; 0,053045; 0,642273; 0,64655257; } {0,045196; 0,026739; 0,044168; 0,602057; 0,59853872; }
|
Структура сети: 3 - 5 - 1 Число входов: 3 Число выходов: 1
Слой------Сигмоида----------Крутизна---Смещение---Момент----Вес
--1-------сигмоид--------------1,0-------1,0-------0--------1,0 --выход---сигмоид--------------0,5-------1,0-------0--------1,0
Скорость обучения: 0,6 Нормализация: [0;1]
Циклов обучения: 10000 Максимальная ошибка: 34.43997000 Минимальная ошибка: 0.07238500 Средняя ошибка: 7.24684481 Среднеквадратичная ошибка: 9258.56001459
Ошибки по тестовой выборке: {3,84392}, {7,152914}, {21,372858}, {2,233824}, {0,148316}
Примеры для тестирования: {0,03567; 0,023221; 0,039783; 0,411367; 0,43217306; } {0,04747; 0,01364; 0,029229; 0,495318; 0,45660128; } {0,042111; 0,00341; 0,006928; 0,335318; 0,21963271; } {0,048714; 0,020081; 0,053045; 0,642273; 0,65436406; } {0,045196; 0,026739; 0,044168; 0,602057; 0,60285979; }
|
0,7 |
0,8 |
0,9 |
Структура сети: 3 - 5 - 1 Число входов: 3 Число выходов: 1
Слой------Сигмоида----------Крутизна---Смещение---Момент----Вес
--1-------сигмоид--------------1,0-------1,0-------0--------1,0 --выход---сигмоид--------------0,5-------1,0-------0--------1,0
Скорость обучения: 0,7 Нормализация: [0;1]
Циклов обучения: 10000 Максимальная ошибка: 35.54875400 Минимальная ошибка: 0.00655600 Средняя ошибка: 7.30882899 Среднеквадратичная ошибка: 9338.53958564
Ошибки по тестовой выборке: {3,051116}, {7,819719}, {22,088419}, {3,424328}, {0,402086}
Примеры для тестирования: {0,03567; 0,023221; 0,039783; 0,411367; 0,42788183; } {0,04747; 0,01364; 0,029229; 0,495318; 0,45299205; } {0,042111; 0,00341; 0,006928; 0,335318; 0,21575958; } {0,048714; 0,020081; 0,053045; 0,642273; 0,66080793; } {0,045196; 0,026739; 0,044168; 0,602057; 0,60423338; }
|
Структура сети: 3 - 5 - 1 Число входов: 3 Число выходов: 1
Слой------Сигмоида----------Крутизна---Смещение---Момент----Вес
--1-------сигмоид--------------1,0-------1,0-------0--------1,0 --выход---сигмоид--------------0,5-------1,0-------0--------1,0
Скорость обучения: 0,8 Нормализация: [0;1]
Циклов обучения: 10000 Максимальная ошибка: 34.54027800 Минимальная ошибка: 0.09756100 Средняя ошибка: 7.34354971 Среднеквадратичная ошибка: 9172.48003104
Ошибки по тестовой выборке: {4,00572}, {7,023753}, {21,533869}, {1,372078}, {0,340912}
Примеры для тестирования: {0,03567; 0,023221; 0,039783; 0,411367; 0,43304884; } {0,04747; 0,01364; 0,029229; 0,495318; 0,45730039; } {0,042111; 0,00341; 0,006928; 0,335318; 0,2187612; } {0,048714; 0,020081; 0,053045; 0,642273; 0,64969967; } {0,045196; 0,026739; 0,044168; 0,602057; 0,60021174; }
|
Структура сети: 3 - 5 - 1 Число входов: 3 Число выходов: 1
Слой------Сигмоида----------Крутизна---Смещение---Момент----Вес
--1-------сигмоид--------------1,0-------1,0-------0--------1,0 --выход---сигмоид--------------0,5-------1,0-------0--------1,0
Скорость обучения: 0,9 Нормализация: [0;1]
Циклов обучения: 10000 Максимальная ошибка: 33.72555800 Минимальная ошибка: 0.00515600 Средняя ошибка: 7.38788759 Среднеквадратичная ошибка: 8796.94255095
Ошибки по тестовой выборке: {3,425177}, {8,457846}, {20,256191}, {2,961162}, {0,220591}
Примеры для тестирования: {0,03567; 0,023221; 0,039783; 0,411367; 0,42990652; } {0,04747; 0,01364; 0,029229; 0,495318; 0,44953805; } {0,042111; 0,00341; 0,006928; 0,335318; 0,22567692; } {0,048714; 0,020081; 0,053045; 0,642273; 0,65830094; } {0,045196; 0,026739; 0,044168; 0,602057; 0,603251; }
|
Вывод: При изменении параметра скорости обучения лучшие оценки получены при значении 0,6, в остальных случаях погрешности увеличиваются.