6.4 Градієнтні методи оптимізації

Оптимальний вектор параметрів адаптивного лінійного суматора визначається, як видно з (6.17), статистичними характеристиками вхідних сигналів і сигналу корисного відгуку, які апріорно невідомі. Тому для відшукання оптимального вектора W^* широко застосовуються градієнтні методи пошуку, серед яких найчастіше використовуються метод Ньютона і метод найскорішого спуску.

Розглянемо спочатку найпростіший випадок, коли є тільки один ваговий коефіцієнт w. Графік квадратичного критерію показано на рис. 6.8.

Рисунок 6.8 – Градієнтний пошук для функції однієї змінної

Критерій оптимізації у даному випадку можна записати

(6.18)

Візьмемо першу і другу похідну по w від (6.18)

(6.19)

Градієнтний метод пошуку мінімуму функції (6.18) полягає в тому, що починаючи з довільного початкового значення параметра w₀, рухаються у напрямку, протилежному градієнту цільової функції у цій точці, і отримують нову оцінку параметра w₁. Далі визначають градієнт (для нашого випадку це перша похідна) в точці w₁ і роблять наступну ітерацію для отримання оцінки w₂. Процедура повторяється до тих пір, поки не буде досягнуто оптимального значення w^*.

Ітераційний процес градієнтного пошуку для випадку з одним ваговим коефіцієнтом алгебраїчно можна описати так

(6.20)

де n – номер кроку або ітерації.

Підставляючи вираз для першої похідної в (6.20), отримуємо

(6.21)

Це рівняння є лінійним однорідним різницевим рівнянням першого порядку з постійними коефіцієнтами, яке можна розв’язати методом індукції на основі декількох перших ітерацій

Величина називається знаменником геометричної прогресії. Процес градієнтного пошуку буде стійким тільки тоді, коли

Звідси умову збіжності градієнтного алгоритму можна записати як

(6.22)

Швидкість збіжності теж залежить від знаменника геометричної прогресії. На рис. 6.9 зображено типові залежності, які мають місце в процесі корекції, при різних значеннях r. Відмітимо, що максимальна швидкість збіжності досягається при (оптимальне значення досягається за одну ітерацію), при додатних значеннях r процес корекції носить монотонний характер, а при від’ємних – коливальний характер.

Рисунок 6.9 – Процес збіжності при різних значеннях r

Адаптивна параметрична ідентифікація динамічного об’єкта.

При вирішенні дуже багатьох технічних задач, таких як керування технологічними процесами в умовах істотної апріорної невизначеності, прогнозування, розпізнавання образів, діагностика, обробка сигналів і ін., часто виникає проблема ідентифікації динамічних систем. Коротко її можна сформулювати таким чином: необхідно відшукати таку математичну модель, яка б найбільш адекватно описувала досліджуваний процес чи об’єкт. При цьому задача розв’язується в два етапи:

1) структурна ідентифікація – вибір структури і порядку математичної моделі, тобто конкретного виду залежності, що зв’язує вхідні і вихідні величини досліджуваного об’єкту;

2) параметрична ідентифікація – відшукання невідомих параметрів математичної моделі обраної структури, керуючись визначеним критерієм якості оцінювання.

Необхідно відзначити, що структурна ідентифікація є погано формалізованою задачею, тому в більшості випадків вибір тієї чи іншої структури моделі залишається прерогативою людини і здійснюється дослідником, виходячи з власного досвіду і знань. Теорія параметричної ідентифікації, навпаки, є досить розвинутою і має у своєму арсеналі досить багато алгоритмів і методів оцінювання. Типовим прикладом задачі параметричної ідентифікації є знаходження функції перетворення засобу вимірювання методом найменших квадратів.

Розглянемо постановку задачі параметричної ідентифікації. Нехай досліджуваний динамічний об’єкт описується різницевим рівнянням виду

(6.40)

де x(n), y(n) – вхідний і вихідний сигнали відповідно, n=0,1,2,…– поточний дискретний час. Рівняння (6.40) можна переписати у вигляді так званої лінійної регресії

(6.41)

де вектор невідомих “істинних” параметрів об’єкта, що підлягають визначенню,

вектор стану.

Поставимо у відповідність об’єкту (6.40) модель, що настроюється

(6.42)

параметри якої будемо уточнювати на кожному такті дискретного часу таким чином, щоб вихідний сигнал моделі прямував до вихідного сигналу y(n) досліджуваного об’єкта (рис. 6.13).

Рисунок 6.13 – Адаптивна ідентифікація

Використання адаптивного моделювання при синтезі цифрових фільтрів.

Адаптивне заглушення завад.

Методи адаптивного моделювання можна застосовувати для синтезу цифрових фільтрів. На рис. 6.14 наведено структурну схему, яка ілюструє основний принцип синтезу цифрових фільтрів. В результаті процесу адаптації адаптивний фільтр має імпульсну характеристику, яка найкращим чином відповідає заданим вимогам. Цим вимогам відповідає деякий еталонний пристрій, який представлений на схемі у вигляді еталонного фільтра. Еталонний фільтр може не існувати, оскільки у загальному випадку фільтр, який повністю задовольняє заданим вимогам, може бути фізично нереалізованим.

Рисунок 6.14 – Адаптивний синтез цифрового фільтра

Припустимо, що вимоги до фільтра задано у вигляді частотної характеристики, тобто у вигляді заданих значень коефіцієнтів передачі і фази для дискретних частот . Задається також структура і порядок фільтра. В процесі адаптації знаходяться оптимальні вагові коефіцієнти (за критерієм мінімуму середньоквадратичної помилки), при яких найкращим чином виконуються задані вимоги.