Вопросы для самоконтроля

1. Расскажите об адаптации и обучении в робототехнике.

2. Расскажите об основных процедурах, подлежащих моделированию для автоматизации сенсомоторных и интеллектуальных операций человека.

3. Расскажите о классификации адаптивных систем управления роботами.

4. Расскажите о задачах адаптации и обучения, возникающих при создании алгоритмического обеспечения роботов.

5. Приведите примеры адаптивных систем управления роботами.

6. Расскажите о проблемах создания адаптивных роботов.

§ 3.13. Нейросетевые и нейрокомпьютерные технологии

§ 3.13.1. Общая характеристика направления.

Нейронные сети и нейрокомпьютеры — это одно из направлений компьютерной индустрии, в основе которого лежит идея создания искусственных интеллектуальных устройств по образу и подобию человеческого мозга. Дело в том, что компьютеры, выполненные по схеме машины фон Неймана, по своей структуре и свойствам весьма далеки от нашего естественного компьютера — человеческого мозга. В подтверждение этому в табл.3.7. приведены признаки, отличающие человеческий мозг от неймановского компьютера.

Таблица 3.7

Сопоставление принципов построения и свойств современного компьютера

(машины фон Неймана) и человеческого мозга

Параметр	Машина фон Неймана	Человеческий мозг
Процессор	Сложный	Простой
	Высокоскоростной	Низкоскоростной
	Один или несколько	Большое количество
Память	Отделена от процессора	Интегрирована в процессор
	Локализованная	Распределенная
	Адресация не по содержанию	Адресация по содержанию
Вычисления	Централизованные	Распределенные
	Последовательные	Параллельные
	По хранимым программам	По самообучающимся программам
Надежность	Высокая уязвимость	Живучесть
Среда функционирования	Строго определенная	Плохо определенная
	Строго ограниченная	Без ограничений

Основатели же нейрокибернетики задались целью создания электронных устройств, структурно и функционально адекватных мозгу. Но прежде чем рассматривать такие устройства, приведем основные сведения о принципах организации и функционирования человеческого мозга.

Мозг человека состоит из белого и серого вещества: белое — это тела нейронов, а серое — соединяющие их нервные волокна. Каждый нейрон состоит из трех частей: тела клетки, дендритов и аксона. Нейрон получает информацию через свои дендриты, а передает ее дальше через аксон, разветвляющийся на конце на тысячи синапсов — нервных нитей, соединяющих нейроны между собой (рис.3.14). Простейший нейрон может иметь до 10 000 дендритов, принимающих сигналы от других клеток. В человеческом мозге содержится приблизительно 10¹¹ нейронов. Каждый нейрон связан с 10³... 10⁴ другими нейронами. Таким образом, биологическая нейронная сеть, составляющая мозг человека, содержит 10¹⁴... 10¹⁵ взаимосвязей.

Рис.3.14. Нейроны человеческого мозга

Каждый нейрон может существовать в двух состояниях — возбужденном и невозбужденном. В возбужденное состояние нейрон переходит под воздействием электрических сигналов, поступающих к нему от других нейронов, когда эти воздействия становятся достаточно большими. В возбужденном состоянии нейрон сам посылает электрический сигнал другим соединенным с ним нейронам. Нейроны взаимодействуют между собой посредством коротких серий импульсов продолжительностью несколько микросекунд. Частота импульсов составляет от нескольких единиц до сотен герц, что в миллион раз медленнее, чем в современных электронных схемах. Тем не менее, такие сложные операции, как распознавание зрительного образа, человек выполняет за несколько сотен микросекунд. Если учесть, что скорость выполнения операций нейронами составляет единицы микросекунд, то вся операция распознавания требует около 100 последовательных нейронных операций. Это значит, что при распознавании образов человеческий мозг запускает параллельные программы, каждая из которых имеет не более ста шагов. Сделанный вывод известен под названием «правило ста шагов».

Известно, что общее число нейронов в течение жизни человека практически не изменяется, т.е. мозг ребенка и мозг взрослого человека содержат приблизительно одинаковое число нейронов. Примерно одинаковое число нейронов содержат мозг ученого, политического деятеля и спортсмена. Отличие состоит в силе синоптических связей, т.е. в величине электрических проводимостей нервных волокон, соединяющих нейроны. На этом основании была высказана гипотеза о том, что все наши мысли, эмоции, знания, вся информация, хранящаяся в человеческом мозге, закодирова­на в виде сил синаптических связей. Если учесть, что таких связей в человеческом мозге 10¹⁴... 10¹⁵, то получается, что именно такой размер имеет матрица кодов хранимой информации. Процесс же обучения человека, продолжающийся всю его жизнь, состоит в непрерывной корректировке содержимого этой матрицы.

В России сформировались три крупные научные школы в области нейротехнологий.

1. Центр нейрокомпьютеров РАН (А.И. Галушкин). Широкую известность он получил благодаря изданию 28-томной серии книг «Нейрокомпьютеры и их применение», а также регулярно проводимым Всероссийским конференциям с одноименным названием.

2. Научная школа нейротехнологий МГУ (А.В. Чечкин). Известность получили разработанные в ее рамках нейромодели сенсорных и языковых систем человека, относящиеся к бионическому направлению в нейрокомпьютинге.

3. Научная школа нейротехнологий в Красноярском государственном университете (А.Н. Горбань). Ученые этой школы развивают оригинальные алгоритмы обучения нейросетей и проводят международные конференции по нейрокомпьютингу.

Потенциальными сферами применения нейротехнологий являются все плохо формализуемые предметные области, в которых классические математические модели и алгоритмы оказываются мало эффективными по сравнению с человеком, демонстрирующим успешное решение задач. К областям использования нейротехнологий, в которых уже получены значимые практические результаты, относятся: обработка изображений, реализация ассоциативной памяти, системы управления реального времени, распознавание образов и речи, системы безопасности, выявление профилей интересов пользователей Internet, системы анализа финансового рынка и др. Сегодня можно уверенно говорить о том, что нейротехнологий становятся неотъемлемым компонентом НИТ.

Одной из характерных черт нейротехнологий является обучение нейросети на примерах. Эта же «технология» служит основой развития ребенка, который в первые годы жизни проходит гигантский путь формирования интеллекта и языковой системы, обучаясь на примерах.

Мозг состоит из различных типов клеток. Большинство нейрофизио­логов считает, что объяснить феномены работы мозга можно, изучая функ­ционирование объединенных в единую сеть клеток, называемых нейронами. Мозг как указывалось ранее включает 10¹⁰...10¹¹ нейронов. Количество связей между ними может достигать 10²². Поэтому отображающие и моделирующие возможности нейросети огромны.

Объем информации, хранящейся в мозге человека и других млекопитающих, превышает объем генетической информации, закодированной в ДНК. Строение мозга отражает его эволюцию. Наиболее древние участки мозга, доставшиеся человеку от рыб и амфибий, ответственны за поддержание жизнедеятельности (гомеостазис) и размножение. Другие отделы мозга (рептильный комплекс) возникли несколько сот миллионов лет назад и обеспечивают ориентацию в пространстве. Третий слой — лимбическая система — сформировался около 150 млн. лет назад и отвечает за эмоциональную сферу. Наконец, кора больших полушарий, возникшая несколько миллионов лет назад, обеспечивает функции речи и логического мышления.

Обычно лишь 2...3 % нейронов мозга активны. Поэтому мозг обладает огромным запасом «прочности» и «пластичности», позволяющих ему работать даже при серьезных повреждениях и приспосабливаться к значительно меняющимся внешним условиям.

Нейрофизиологи в высшей нервной системе человека явно различают три типа нейронных структур: сенсорные, внутренние и эффекторные. Первые обеспечивают поступление в мозг информации из внешнего мира, поддерживая шесть чувств: зрение, слух, вкус, обоняние, осязание и чувство равновесия. Но если первые пять сенсорных систем «вынесены наружу», то вестибулярный аппарат изолирован и скрыт от непосредственного наблюдения. Внутренние нейроны воспринимают информацию от сенсорных систем, перерабатывают ее и передают на эффекторные нейроны. Последние управляют мышцами, внутренними органами, сосудами и пр.

Качественное различие компьютерной обработки символьной и образной информации заключается в малом числе разрядов цифрового представления символа. Поэтому для символов в принципе можно комбинаторно описать любой способ их обработки. Для образов (из-за комбинаторного взрыва) это в принципе невозможно за исключением ряда типовых преобразований, поддающихся формализации и реализуемых в графических ускорителях, пакетах обработки изображений и т.д. В общем случае операции с образами формализуемы не полностью. Для их обработки применяются эвристические алгоритмы. Главный механизм обработки образов — обучение на множестве примеров (обучающем множестве).

С учетом сказанного парадигма нейрокомпъютинга формулируется следующим образом: алгоритмы, порождаемые данными в универсальном процессе обучения, специализированные для данного класса операций с образами, адаптированные под конкретные информационные задачи. В отличие от памяти ЭВМ память человека адресуется по содержанию, является ассоциативной, распределенной, робастной (Робастность — способность системы восстанавливаться при возникновении ошибок и сбоев) и активной.

Полушария мозга человека имеют разное назначение. Левое полушарие отвечает за работу с абстрактными представлениями, математические вычисления и логический вывод, речь, письмо, восприятие времени. Эти процессы связаны с пошаговой обработкой информации. Правое полушарие оперирует с образами конкретных объектов. Все виденное нами в жизни хранится в правом полушарии, а все имена — в левом. Правое полушарие способно учиться узнавать предметы при их предъявлении, а не по описаниям, как левое. У правого полушария данные и метод составляют единое целое. Оно также отвечает за воображение и интуицию. Это более древние механизмы мозга по сравнению с логическим мышлением. Правое полушарие поддерживает параллельную обработку информации, оно же отвечает за творчество. К феноменам мозга относят:

кодирование (представление) информации о внешнем мире;

кратковременное и долговременное запоминание, хранение и извлечение информации;

ассоциативный поиск и самоорганизацию памяти;

оперирование информацией в процессе решения мыслительных задач;

симультанное (мгновенное) распознавание (например, узнавание человека, с которым не было встреч много лет);

неожиданное творческое озарение (инсайт) и др.

Конструктивного научного объяснения этим феноменам до сих пор не найдено. Структура работ в области нейрокибернетики приведена на рис.3.15.

Первое из выделенных направлений связано с построением и применением нейросетей из искусственных нейронов. Для их программной реализации создаются нейропакеты (НП), а для их физической реализации — нейрокомпьютеры (НК).

Рис.3.15. Структура работ в области нейрокибернетики

Исследования в области нейрофизиологии показывают, что в мозге имеются разные типы нейронов, выполняющих весьма сложные функции. В качестве примера назовем нейроны, ответственные за определение скорости и ускорения движущегося тела, выделение признаков замкнутости и разомкнутости кривой и др. Однако в нейросетях, как правило, используются модели простых нейронов, реализующих элементарные нелинейные функции (функцию знака, сигмоидальные функции и т.д.).

Если для какого-то класса задач требуются сложные специализированные нейроны, их проще ввести в модель сразу, нежели строить из простых. Если же такая необходимость не очевидна, то целесообразно использовать универсальную сеть из простых нейронов. Она сама «вырастит» нужные структуры в ходе обучения. Заметим, что эти соображения лежат в основе декомпозиции нейропакетов НП на универсальные и специализированные.

Сравнение основных характеристик традиционных компьютеров и нейрокомпьютеров приведено в табл.3.8. Можно отметить следующие важные особенности НС.

1. Нейросеть содержит большое число (миллионы и миллиарды) параллельно работающих простых элементов — нейронов. Благодаря такой структуре обеспечивается высокое быстродействие при решении задач, традиционно требующих значительных вычислительных ресурсов.

Таблица 3.8

Основные характеристики традиционных компьютеров и нейрокомпьютеров

Основные характеристики	Традиционные компьютеры	Нейрокомпьютеры
Режим функционирования	В основном последовательный	Параллельный
Описание функционирования	Заданные алгоритмы	Алгоритмы формируются на основе обучения НС на примерах
Характер операций	Иерархическая структура алгоритмов. Разбиение сложных задач на простые составляющие. «Жесткие» математические модели	Непосредственное манипулирование образами. «Мягкие» математические модели
Аналог	Левое полушарие	Правое полушарие

2. Место программирования в ИНС занимает обучение. В связи с этим ожидается появление новых специальностей:

нейроконструктора, в задачи которого входят формирование универсальных компонентов — нейронных блоков — и конструирование из них НК (универсальных и специализированных);

учителя НС.

3. Выделяют два подхода к организации обучения НС:

обучение и самообучение на примерах;

обучение в процессе игры.

Достижениями в области обучения НС считаются:

возможность управления процессом обучения в режиме двойственного функционирования НС, при котором НП (НК) самостоятельно оценивает ошибки и сообщает об этом учителю;

возможность восприятия и отражения на ИНС информации из внешней среды.

Под обучением НС понимается процесс нахождения экстремума некоторой функции, отображающей взаимодействие типа вход-выход. Спецификой оптимизационных задач на НС является большая размерность, что обусловливает целесообразность применения алгоритмов оптимизации, которые допускают параллельное выполнение аналогично естественным нейросетям. Кроме методов оптимизации при обучении НС используют генетические алгоритмы.

Базовыми понятиями нейротехнологий являются:

нейрон — базовый элемент сети, единственный ее нелинейный элемент;

синапс — элемент, обеспечивающий связь между нейронами; может обладать весом и «задержкой»;

сумматор, рассматриваемый как компонент нейрона или как специализированный нейрон;

обучающие примеры, представляющие наборы значений вход — предписанный выход и целевую функцию, определяющую штраф за отклонение реального выхода от предписанных значений при данных входах;

цвета и цветовые группы, ассоциируемые с нейронами (окрашенные нейроны по разному участвуют в обучении);

алгоритмы обучения.

В нейротехнологиях обучается не отдельный нейрон, а вся сеть в целом. В ходе ее обучения предъявляются примеры и их оценки. Для быстрого параллельного обучения в сеть вводятся элементы, оценивающие частные производные. В естественных нейросетях такие элементы также существуют.

Выделяют три базовых подхода к представлению результатов обучения нейросетью:

коннекционизм — модифицируются веса синаптических связей, параметры нейронов не меняются;

гетерогенные НС — модифицируются параметры нейронов, связи не меняются;

комплексный подход, объединяющий первые два подхода.

Таким образом, нейронные системы основаны на моделировании функций высшей нервной системы человека. Это направление получит исключительное развитие в XXI в. Одной из ключевых технологий нейронных семиотических систем является обучение ИНС на примерах. Основная парадигма нейрокомпьютинга: алгоритмы, порождаемые данными в универсальном процессе обучения, специализированные для данного класса операций с образами, адаптированные под конкретные информационные задачи.

Работы в области нейрокибернетики включают два базовые направления:

разработку, реализацию и использование для решения практических задач математических моделей ИНС;

разработку и реализацию математических моделей высшей нервной системы человека.

В рамках первого направления создаются НП и НК. Эти работы интенсивно развиваются, обеспечивая быстрый рост сферы коммерческих приложений нейротехнологий.