ФЕДЕРАЛЬНОЕ АГЕНТСТВО ПО ОБРАЗОВАНИЮ

ГОСУДАРСТВЕННОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ

ВЫСШЕГО ПРОФЕССИОНАЛЬНОГО ОБРАЗОВАНИЯ

«ВОРОНЕЖСКИЙ ГОСУДАРСТВЕННЫЙ УНИВЕРСИТЕТ»

Нейросетевые структуры и технологии

Часть 2 Рекуррентные и специальные нс. Методы реализации нейрокомпьютеров

Учебное пособие для вузов

Составители:

В.И. Клюкин,

Ю.К. Николаенков

Издательско-полиграфический центр

Воронежского государственного университета

2009

Утверждено научно–методическим советом факультета компьютерных наук 26 ноября 2009 г., протокол № 2.

Рецензент д.ф.-м.н., профессор кафедры информационных систем факультета компьютерных наук ВГУ А.А. Сирота.

Предлагаемое пособие содержит материал по основным принципам построения, функционирования и применения искусственных нейронных сетей. Во второй части рассмотрены структуры рекуррентных (с обратными связями) ИНС, функционирующих как ассоциативные, запоминающие устройства, самоорганизующиеся НС на основе конкуренции и корреляции, нечеткие и гибридные ИНС, а также основные методы реализации нейрокомпьютеров. Материал подготовлен на кафедре физики полупроводников и микроэлектроники физического факультета Воронежского государственного университета, при частичной поддержке гранта РФФИ № 08-07-99018-р_офи.

Рекомендуется для самостоятельной работы студентов 3, 4 и 5 курсов факультета компьютерных наук и 4, 5 курсов физического факультета.

Для специальностей: 010300 – Математика. Компьютерные науки

(071900) 230201 – Информационные системы и технологии

(010400) 010803 – Микроэлектроника и полупроводниковые приборы

202100 – Нанотехнологии в электронике

Содержание

ВВЕДЕНИЕ 4

5. РЕКУРРЕНТНЫЕ НЕЙРОННЫЕ СЕТИ 6

5.1. Ассоциативная память на основе рекуррентных НС 6

5.1.1. Автоассоциативная НС Хопфилда 7

5.1.2. НС Хемминга 9

5.1.3. Двунаправленная ассоциативная память 11

5.2. Рекуррентные НС на базе персептрона 13

5.2.1. НС RMLP 13

5.2.2. Рекуррентная сеть Эльмана 15

5.2.3. НС RTRN (Real Time Recurrent Network) 16

6. НЕЙРОННЫЕ СЕТИ С САМООРГАНИЗАЦИЕЙ 19

6.1. Самоорганизующаяся НС Кохонена 19

6.2. Гибридная НС Кохонена с МСП 21

6.3. НС встречного распространения 23

6.4. НС адаптивной резонансной теории (АРТ) 24

6.5. Когнитрон и неокогнитрон Фукушимы 27

6.6. Корреляционные НС 31

6.6.1. Нейронные сети РСА 32

6.6.2. ICA–НС Херольта–Джуттена 34

7. НЕЙРОННЫЕ СЕТИ С НЕЧЕТКОЙ ЛОГИКОЙ 43

7.1. Математические основы функционирования нечетких систем 43

7.2. Системы нечеткого вывода 44

7.3. Нечеткая НС TSK 51

7.4. Обучение НС с нечеткой логикой 54

7.5. Гибридная НС с нечеткой СО 57

7.6. Мягкие экспертные системы 58

8. МЕТОДЫ РЕАЛИЗАЦИИ НЕЙРОКОМПЬЮТЕРОВ (НК) 61

8.1. Программное моделирование ИНС 61

8.2. Аппаратная реализация НК 63

8.3. Перспективные технологии реализации нейрокомпьютеров 67

8.3.1. Оптические и оптоэлектронные НК 67

8.3.2. Молекулярные (био)нейрокомпьютеры 69

8.3.3. Нанонейрокомпьютеры (ННК) 70