- •Математические методы системного анализа и теория принятия решений Методическое пособие
- •1. Теория принятия решений 4
- •2. Линейное программирование 9
- •3. Нелинейное программирование 42
- •4. Игровые методы обоснования решений 51
- •5. Задачи распознавания образов 62
- •Предисловие
- •1. Теория принятия решений
- •1.1. Задачи, связанные с принятием решений Проблема оптимальности.
- •Основные понятия и принципы исследования операций.
- •Примеры задач исследования операций.
- •1.2. Математические модели операций Искусство моделирования.
- •1.3. Разновидности задач исследования операций и подходов к их решению Прямые и обратные задачи исследования операций.
- •Пример выбора решения при определенности: линейное программирование.
- •Проблема выбора решений в условиях неопределенности.
- •Выбор решения по многим критериям.
- •«Системный подход».
- •2. Линейное программирование
- •2.1. Краткое представление о математическом программировании Предмет математического программирования.
- •Краткая классификация методов математического программирования.
- •2.2. Примеры экономических задач линейного программирования Понятие линейного программирования.
- •Задача о наилучшем использовании ресурсов.
- •Задача о выборе оптимальных технологий.
- •Задача о смесях.
- •Задача о раскрое материалов.
- •Транспортная задача.
- •2.3. Линейные векторные пространства Основные понятия линейного векторного пространства.
- •Решение систем линейных уравнений методом Гаусса.
- •Реализация метода исключения неизвестных в среде Excel.
- •Различные схемы реализации метода Гаусса.
- •Опорные решения системы линейных уравнений.
- •2.4. Формы записи задачи линейного программирования Основные виды записи злп.
- •Каноническая форма представления задачи линейного программирования.
- •Переход к канонической форме.
- •2.5. Геометрическая интерпретация задачи линейного программирования Определение выпуклой области.
- •Геометрическая интерпретация.
- •2.6. Свойства решений задачи линейного программирования Свойства основной задачи линейного программирования.
- •Графический метод решения задачи линейного программирования.
- •2.7. Симплексный метод Идея симплекс-метода.
- •Теоретические обоснования симплекс-метода.
- •Переход к нехудшему опорному плану.
- •Зацикливание.
- •Алгоритм симплекс-метода.
- •2.8. Двойственность в линейном программировании Прямая и двойственная задача.
- •Связь между решениями прямой и двойственной задач.
- •Геометрическая интерпретация двойственных задач.
- •2.9. Метод искусственного базиса Идея и реализация метода искусственного базиса.
- •3. Нелинейное программирование
- •3.1. Общая задача нелинейного программирования Постановка задачи.
- •Примеры задач нелинейного программирования (экономические).
- •Геометрическая интерпретация задачи нелинейного программирования.
- •3.2. Выпуклое программирование Постановка задачи выпуклого программирования.
- •3.3. Классические методы оптимизации Метод прямого перебора.
- •Классический метод дифференциальных исчислений.
- •3.4. Метод множителей лагранжа
- •3.5. Градиентные методы решения задач нелинейного программирования Общая идея методов.
- •Метод Франка-Вулфа.
- •Метод штрафных функций.
- •4. Игровые методы обоснования решений
- •4.1. Предмет и задачи теории игр Основные понятия.
- •Классификация выборов решений.
- •Антагонистические матричные игры.
- •Чистые и смешанные стратегии и их свойства.
- •4.2. Методы решения конечных игр Упрощение матричной игры.
- •Решение матричной игры размерностью 22.
- •Графическое решение матричной игры.
- •Сведение задач теории игр к задачам линейного программирования.
- •4.3. Задачи теории статистических решений Игры с природой.
- •Критерии принятия решений.
- •5. Задачи распознавания образов
- •5.1. Общая постановка задачи распознавания образов и их классификация Проблема распознавания.
- •Обсуждение задачи опознавания.
- •Язык распознавания образов.
- •Априорные предположения — это записанные специальным образом, накопленные знания специалистов.
- •Общая постановка задачи.
- •Геометрическая интерпретация задачи распознавания.
- •Классификация задач распознавания.
- •5.2. Подготовка и анализ исходных данных Общая схема решения задачи.
- •Общая схема постановки и решения задачи Анализ данных с целью выбора постановки и метода решения
- •5.3. Методы опознавания образов Основные этапы процесса опознавания образов.
- •Методы создания системы признаков.
- •Признаковое пространство.
- •Сокращение размерности исходного описания.
- •Методы построения решающего правила.
- •5.4. Меры и метрики Понятие о сходстве.
- •Меры сходства и метрики.
- •Примеры функций мер сходства.
- •5.5. Детерминированно-статистический подход к познаванию образов Основные этапы детерминированно-статистического подхода.
- •Получение исходного описания.
- •Создание системы признаков.
- •Сокращение размерности исходного описания.
- •Нахождение решающего правила (метод эталонов).
- •Коррекция решающего правила.
- •5.6. Детерминированный метод построения решающего правила (метод эталонов) Идея метода эталонов.
- •Минимизация числа эталонов.
- •Габаритные эталоны.
- •Применение метода эталонов к частично пересекающимся образам.
- •Дополнительная минимизация числа признаков.
- •Квадратичный дискриминантный анализ.
- •Распознавание с отказами.
- •5.8. Алгоритм голотип-1 Назначение
- •Постановка задачи
- •Метод решения задачи.
- •Условия применимости.
- •Условия применимости.
- •5.10. Алгоритм направление опробования Назначение
- •Постановка задачи.
- •Метод решения задачи.
- •Условия применимости.
- •Транспортная задача Математическая постановка.
- •Постановка задачи.
- •Теоретическое введение.
- •Методы нахождения опорного плана транспортной задачи.
- •Определение оптимального плана транспортной задачи.
- •Заключение.
- •Целочисленное программирование Постановки задач, приводящие к требованию целочисленности.
- •Постановка задачи.
- •Методы отсечения.
- •Алгоритм Гомори.
- •Первый алгоритм р. Гомори решения полностью целочисленных задач.
- •Приближенные методы.
- •Заключение.
- •Параметрическое программирование Введение.
- •Формулировка задачи.
- •Теоретическая часть.
- •Общая постановка задачи.
- •Решение задачи.
- •Геометрическая интерпретация задачи.
- •Общая постановка задачи.
- •Решение задачи.
- •Геометрическая интерпретация задачи
- •Постановка задачи.
- •Решение.
- •Геометрическое решение.
- •Решение задачи симплекс-методом.
- •Результат.
- •Некооперативные игры n лиц с ненулевой суммой Введение.
- •Теоретическая часть.
- •Постановка и решение задачи.
- •Заключение.
- •Cписок литературы
3.5. Градиентные методы решения задач нелинейного программирования Общая идея методов.
В общем случае под градиентными методами понимают методы, в которых направления движения к точке оптимума функции совпадают с направлением градиента этой функции. Используя градиентные методы, можно найти решение любой ЗНЛП. Однако в общем случае применение этих методов позволяет найти точку локального экстремума. Поэтому более целесообразно использовать градиентные методы для нахождения решения задач выпуклого программирования, в которых всякий локальный экстремум является одновременно и глобальным. Процесс нахождения решения задачи с помощью градиентных методов состоит в том, что начиная с некоторой точки X(k) осуществляется последовательный переход к некоторым точкам до тех пор, пока не выявляется приемлемое решение исходной задачи. При этом градиентные методы могут быть подразделены на две группы.
К первой группе относятся методы, при использовании которых исследуемые точки могут как принадлежать, так и не принадлежать области допустимых решений. Однако в результате реализации итерационного процесса находится точка области допустимых решений, определяющая приемлемое решение. Из таких методов наиболее часто используется метод штрафных функций или метод Эрроу - Гурвица.
При нахождении решения задач градиентными методами, в том числе и названными, итерационный процесс осуществляется до того момента, пока градиент функции f(x1, x2,..., xn) в очередной точке X(k+1) не станет равным нулю или же пока где — достаточно малое положительное число, характеризующее точность полученного решения.
Метод Франка-Вулфа.
Пусть требуется найти максимальное значение вогнутой функции
f (x1, x2, ..., xn) (3.10)
при условиях
(i=1, ..., m), (3.11)
xj0 (j=1, ..., n). (3.12)
Характерной особенностью этой задачи является то, что ее система ограничений содержит только линейные неравенства. Эта особенность является основой для замены в окрестности исследуемой точки нелинейной целевой функции линейной, благодаря чему решение исходной задачи сводится к последовательному решению ЗЛП.
Процесс нахождения решения задач начинается с определения точки, принадлежащей ОДР задачи. Пусть эта точка X(k), тогда в этой точке вычисляют градиент функции (3.10)
и строят линейную функцию
F= (3.13)
Затем находят максимальное значение этой функции при ограничениях (3.10 — 3.11). Пусть решение данной задачи определяется точкой Z(k) . Тогда за новое допустимое решение исходной задачи принимают координаты точки X(k+1) :
X(k+1)=X(k)+ k (Z(k)–X(k)), (3.14)
где k — некоторое число, называемое шагом вычислений и заключенное между нулем и единицей (0 k1). Это число k берут произвольно или определяют таким образом, чтобы значение функции в точке X(k+1) f(X(k+1)), зависящее от k, было максимальным. Для этого необходимо найти решение уравнения
и выбрать его наименьший корень. Если его значение больше единицы, то следует положить k=1. После определения числа k находят координаты точки X(k+1), вычисляют значение целевой функции в ней и выясняют необходимость перехода к новой точке X(k+2). Если такая необходимость имеется, то вычисляют в точке X(k+1) градиент целевой функции, переходят к соответствующей ЗЛП и находят ее решение. Определяют координаты точки X(k+2) и исследуют необходимость проведения дальнейших вычислений. После конечного числа шагов получают с необходимой точностью решение исходной задачи.
Итак, процесс нахождения решения задачи методом Франка-Вулфа включает следующие этапы:
1. Определяют исходные допустимые решения задачи.
2. Находят градиент функции (3.10) в точке допустимого решения.
3. Строят функцию (3.13) и находят ее максимальное значение при условиях (3.11 — 3.12).
4. Определяют шаг вычислений.
5. По формулам (3.14) находят компоненты нового допустимого решения.
6. Проверяют необходимость перехода к последующему допустимому решению. В случае необходимости переходят к этапу 2, в противном случае найдено приемлемое решение исходной задачи.
П р и м е р 1. Методом Франка-Вулфа найти решение задачи, состоящей определении максимального значения функции
(3.15)
при условиях
(3.16)
x1, x20. (3.17)
Р е ш е н и е. Найдем градиент функции
и в качестве исходного допустимого решения задачи возьмем точку X(0)=(0; 0), а в качестве критерия оценки качества получаемого решения — неравенство
где =0.01.
1итерация. В точке X(0) градиент f(X(0))=(2; 4). Находим максимум функции
F1=2x1+4x2 (3.18)
при условиях (2) и (3)
(3.19)
x1, x20. (3.20)
Задача (3.18) — (3.20) имеет оптимальный план Z(0)=(0; 4). Найдем новое допустимое решение исходной задачи по формуле (3.14):
X(1)=X(0)+1(Z(0)-X(0)),
где 011. Подставив вместо X(0) и Z(0) их значения, получим
Определим теперь число 1. Подставив в равенство (3.15) вместо x1 и x2 их значения в соответствии с соотношениями (3.16)
найдем производную этой функции по 1 и приравняем ее к нулю:
Решая это уравнение, получим 1=1/4=0.25. Поскольку найденное значение 1 заключено между 0 и 1, принимаем его за величину шага. Таким образом, X(1)=(0; 1), f (X(1))=2, f (X(1))-f (X(0))=2>=0,01.
Повторяя описанные выше действия, через две итерации приходим к тому, что 3 0,007, X(3)=(0,99528; 0,96321), f (X(3))=2,99957, f (X(3))–f (X(2))=2,99957–2,9966=0,00297<=0,01.
Таким образом, X(3)=(0,99528; 0,96321) является искомым решением исходной задачи.