1)Условная и безусловная оптимизация

Оптимизация (от лат. optimus-наилучший) в химической технологии. Под оптимизацией обычно понимают целенаправленную деятельность, заключающуюся в получении наилучших результатов при соответствующих условиях. Постановка задачи оптимизация предполагает наличие ее объекта, набора независимых параметров (переменных), описывающих данную задачу, а также условий (часто наз. ограничениями), которые характеризуют приемлемые значения независимых переменных. Еще одной обязат. компонентой описания оптимизац. задачи служит скалярная мера «качества», носящая назв. критерия оптимизации, или целевой функции, и зависящая к.-л. образом от переменных оптимизация Решение оптимизац. задачи - это поиск определенного набора значений переменных, которому отвечает оптим. значение критерия оптимизация

Классические методы безусловной оптимизации Как известно, классическая задача безусловной оптимизации имеет вид:                                                                                      (1)                                                              (2) Существуют аналитические и численные методы решения этих задач. Прежде всего вспомним аналитические методы решения задачи безусловной оптимизации. Методы безусловной оптимизации занимают значительное место в курсе МО. Это обусловлено непосредственным применением их при решении ряда оптимизационных задач, а также при реализации методов решения значительной части задач условной оптимизации (задач МП). 1. Необходимые условия для точки локального минимума (максимума) Пусть т.   доставляет минимальные значения функции  . Известно, что в этой точке приращение функции неотрицательно, т.е.  .                                                                    (1) Найдем  , используя разложения функции   в окрестности т.   в ряд Тейлора. ,                                                     (2) где  ,  ,   - сумма членов ряда порядок которых относительно приращений   (двум) и выше. Из (2) имеем:                                                (3) Далее предположим, что изменяется только одна переменная из множества переменных  . Например,  , тогда (3) преобразуется к виду:                                                                  (4) Из (4) с очевидностью следует, что                                                                                         (5) Предположим, что  , тогда                                                                              (6) С учетом (6) имеем:  .                                                (7) Предположим, что   положительно, т.е.  . Выберем при этом  , тогда произведение  , что противоречит (1). Поэтому, действительно,   очевиден. Рассуждая аналогично относительно других переменных   получаем необходимое условие для точек локального минимума функции многих переменных                                                                (8) Легко доказать, что для точки локального максимума необходимые условия будут точно такими же, как и для точки локального минимуму, т.е. условиями (8). Понятно, что итогом доказательства будет неравенство вида:   - условие неположительного приращения функции в окрестности локального максимума. Полученные необходимые условия не дают ответ на вопрос: является ли стационарная точка   точкой минимума или точкой максимума. Ответ на этот вопрос можно получить, изучив достаточные условия. Эти условия предполагают исследование матрицы вторых производных целевой функции  .

Методы безусловной оптимизации по способу определения направления поиска делятся на методы нулевого, первого и второго порядков. Для методов нулевого порядка типичен выбор направления поиска по результатам последовательных вычислений целевой функции. По способу выбора совокупности оптимизируемых параметров эти методы делятся на детерминированные и случайного поиска. Различают методы условной и безусловной оптимизации по наличию или отсутствию ограничений. Для реальных задач характерно наличие ограничений, однако методы безусловной оптимизации также представляют интерес, поскольку задачи условной оптимизации с помощью специальных методов могут быть сведены к задачам без ограничений. Наиболее многочисленную группу составляют методы безусловной оптимизации. Некоторое представление о широко применяемых методах этой группы дает рис. 3.2, В зависимости от порядка используемых производных целевой функции по управляемым параметрам методы безусловной оптимизации делят на методы нулевого, первого и второго порядков. Среди методов поиска локального экстремума методы безусловной оптимизации составляют наиболее многочисленную группу. Все рассмотренные ранее методы являются методами безусловной оптимизации. Для нейронных сетей хорошо работают многие методы безусловной оптимизации, часто лучше, чем узкоспециальные, придуманные для обучения нейронных сетей. При решении задач условной оптимизации целесообразно использовать методы безусловной оптимизации, учитывая большое количество разработанных по этим методам программ. С этой целью задача условной оптимизации сводится к задаче безусловной оптимизации устранением ограничений путем преобразования параметра xt, на значения которого наложены ограничения, в неограничиваемый. В соответствии с делением экстремумов на условные и безусловные различают методы условной и безусловной оптимизации. Методы безусловной оптимизации могут быть применены к поиску условных экстремумов. Основным методом сведения задач условной оптимизации к безусловной является метод штрафных функций [49], та же цель достигается и при использовании мак-симинного критерия. В последнем случае каждое из ограничений на управляемые параметры представляется как условие работоспособности с соответствующим запасом. Совокупность методов НЛП, в зависимости от ограничений в математических моделях оптимизации, делится на две группы: методы безусловной оптимизации и методы условной оптимизации. Первые используют для решения задач без ограничений на оптимизируемые параметры, вторые - для задач с ограничениями. Следует отметить, что методы безусловной оптимизации ( см. описание методов штрафных функций) можно использовать и при решении задач с ограничениями, предварительно приведенных к задачам без ограничений. Линии равных уровней поверхности отклнка многоэкстремалыюи функции. Если экстремум целевой функции отыскивается в неограниченной области X, то его называют безусловным экстремумом, а методы его поиска - методами безусловной оптимизации. Эта книга написана на основе трудов конференции по численным методам оптимизации при ограничениях, проходившей в Национальной физической лаборатории в январе 1974 г. Ей предшествовала конференция по методам безусловной оптимизации, проведенная тремя годами ранее. В соответствии с делением экстремумов на условные и безусловные различают методы условной и безусловной оптимизации. Методы безусловной оптимизации могут быть применены к поиску условных экстремумов. Основным методом сведения задач условной оптимизации к безусловной является метод штрафных функций [49], та же цель достигается и при использовании мак-симинного критерия. В последнем случае каждое из ограничений на управляемые параметры представляется как условие работоспособности с соответствующим запасом. Классы методов безусловной оптимизации. Задача условной оптимизации (3.16) может быть сформулирована как задача безусловной оптимизации с помощью методов Лагранжа или штрафных функций. Тогда применяются методы безусловной оптимизации. Различают методы условной и безусловной оптимизации по наличию или отсутствию ограничений. Для реальных задач характерно наличие ограничений, однако методы безусловной оптимизации также представляют интерес, поскольку задачи условной оптимизации с помощью специальных методов могут быть сведены к задачам без ограничений. Сущность метода оптимизации в первую очередь определяется способом выбора направления движения к экстремуму. В зависимости от порядка используемых при этом производных целевой функции управляемым параметрам методы безусловной оптимизации делят на методы нулевого, первого и второго порядков. Большинство задач параметрической оптимизации технических объектов формулируется в терминах непрерывных параметров. Если экстремум целевой функции ищется в неограниченной области ХО, то его называют безусловным, а методы поиска - методами безусловной оптимизации. Наиболее многочисленную группу составляют методы безусловной оптимизации. Некоторое представление о широко применяемых методах этой группы дает рис. 3.2, В зависимости от порядка используемых производных целевой функции по управляемым параметрам методы безусловной оптимизации делят на методы нулевого, первого и второго порядков. Совокупность методов НЛП, в зависимости от ограничений в математических моделях оптимизации, делится на две группы: методы безусловной оптимизации и методы условной оптимизации. Первые используют для решения задач без ограничений на оптимизируемые параметры, вторые - для задач с ограничениями. Следует отметить, что методы безусловной оптимизации ( см. описание методов штрафных функций) можно использовать и при решении задач с ограничениями, предварительно приведенных к задачам без ограничений. Для использования субградиентных методов пользователю необходимо подготовить п подпрограмм ( п - размер вектора оптимальных параметров) вычисления обобщенных градиентов. Проблема использования данных методов без вычисления градиентов сложна и изучена недостаточно. Большинство алгоритмов этого класса не учитывает статистических свойств задачи оптимизации, и вследствие этого критерии прекращения поиска являются нестатистическими, как и в методах безусловной оптимизации. При описании комплексной целевой функции нелинейными зависимостями от внутренних параметров задача оптимизации решается методами линейного программирования; если же целевая функция является линейной функцией от внутренних параметров, то имеет место задача линейного программирования. В общем случае целевая функция может иметь несколько экстремумов, отличающихся по абсолютной величине. В зависимости от типа экстремума, в котором заканчивается поиск оптимального решения, различают методы поиска локального и глобального экстремума. Если на значение определяемых параметров наложены некоторые ограничения, то решение задачи синтеза механизмов осуществляется методами условной оптимизации. В противном случае ( при отсутствии ограничений) при синтезе механизмов для поиска значений определяемых параметров используют методы безусловной оптимизации.