Приближенные методы решения классической задачи Лагранжа на условный экстремум

Первый методчисленного решения задачи Лагранжа основан на соотношении Лагранжа:

т.е. только в экстремальной точке все соотношения градиентов функций равны. Это соотношение и используется при поиске экстремума.

Пример:

По первому методу решим задачу поиска экстремума функции при ограничении.

Отношение проекций градиентов функции равно, следовательно, отношение проекций градиентов функциив экстремальной точке х^*должно быть равно

Проекции градиентов функции в произвольной точке равны:,. В качестве начальной точки примем х⁰=(0,2; 0,8), в которой. Возьмем шаг по координате х₁х₁=0,2.

Если в качестве первого приближения взять точку (0, 1), то в ней соотношение , т.е. шаг был сделан не в ту сторону (т.к. требуется двигаться в сторону равенства). Следовательно нужно идти в сторону увеличения х₁.

Результаты вычислений запишем в таблицу:

х^к			Соотношение
(0,2; 0,8)	0,4	2,4	0,167
(0,4; 0,6)	0,8	1,8	0,444
(0,6; 0,4)	1,2	1,2	1

Таким образом, на третьей итерации получили экстремальную точку.

Второй метод

Для задач большой размерности первый метод неудобен, поэтому чаще применяют второй метод – метод проекций градиента функции на касательную плоскость к ограничению.

Сущность метода проекций градиента состоит в следующем. Если взять в некоторой точке х^ккасательную плоскостьLк ограничению, которая будет характеризоваться нормалью к ней, и градиент функциив этой точке, то проекция разности этих двух величинна касательную плоскость будет характеризовать степень приближения к экстремальной точке.

Графически это выглядит так:

Ясно, что экстремальной точкой будет такая, в которой проекция градиента на Lбудет равна 0.

Чтобы попасть в точку х^*, используется следующий алгоритм:, где М^(к)– вектор, определяемый как разность градиента и нормали, взятой с весом:

Величина веса наk-ом шаге определяется из условия ортогональности нормали и проекции градиента:

Параметр шага , как и в методе наискорейшего спуска, может быть определен из условия экстремума параболы, полученной в сечении экстремальной поверхности плоскостью, проведенной в направлении М^(k).

Этот метод позволяет найти экстремальную точку за одну итерацию при сепарабельной функции и линейном ограничении. Следует отметить, что метод требует, чтобы начальная точка находилась на ограничении.

Пример: Пусть дана функция. Матрице Гессе имеет вид:. Ограничение:,N=(1, 1).

Начальная точка .

Градиент функции в точке х^к:

Первая итерация:

,

1)

2)

3)

4)

Неклассическая задача Лагранжа на условный экстремум (ограничения-неравенства)

Следует отметить, что аналитических методов поиска экстремума функции с ограничениями типа неравенств не существует. Существуют только численные методы, позволяющие более или менее эффективно решать неклассические задачи на условный экстремум. Но имеются некоторые важные качественные понятия, определения и теоремы, которые позволяют облегчить поиск.

Фундаментальной теоремой для решения неклассической задачи является теорема Вейерштрасса, которая в случае функции одной переменной говорит о том, что непрерывная функция, определенная на отрезке [a,b], достигает минимума или максимума, по крайней мере, в одной точке этого отрезка. По этой теореме монотонная функция и ее частный случай – линейная функция достигает минимума или максимума на концах отрезка. Если задана функция многих переменныхна замкнутом множестве М, то теорема Вейерштрасса гарантирует существование решения задачи на условный экстремум.

Далее следует установить единственность решения, для чего опять же применяются понятия выпуклости и вогнутости функций и множеств. Обычно выпуклые и вогнутые множества не разделяют и говорят о выпуклости множества, если любые две точки и отрезок их соединяющий принадлежат множеству. Проверка этого условия затруднительна, т.к. требует перебора большого числа точек, поэтому целесообразно иметь признаки выпуклости.

Если дано линейное уравнение

,

то оно определяет в пространстве некоторую гиперплоскость. Если взять строгое неравенство

,

то данное неравенство определяет открытое полупространство (множество). Открытое потому, что границы не входят во множество.

Если рассматривать нестрогое неравенство

,

то получим замкнутое множество, границей которого является гиперплоскость, входящая в это множество.

Аналогичные понятия можно дать и для уравнения произвольного вида. Примеры открытых и замкнутых полупространств (для двумерного случая) даны на рисунке.

Свойства открытых и замкнутых множеств будут зависеть от свойств функций, которые их образуют. Если задано линейное неравенство , то оно однозначно определяет выпуклое и замкнутое множество. Сложнее с нелинейным уравнением, но и тут есть несколько облегчений.

а) Если – выпуклая функция, заданная при, то множество точек– выпукло и замкнуто.

б) Сумма выпуклых функций также является выпуклой функцией.

в) Пересечение выпуклых множеств также является выпуклым множеством.

Теперь можно сформулировать теорему о единственности экстремума для задач выпуклого программирования.

Выпуклая функция имеет на выпуклом множестве ограниченийединственный экстремум. Если экстремум достигается в двух точках, то он достигается и на бесчисленном множестве точек.

Последовательность поиска

1. Прежде всего, отыскивается глобальный экстремум функции , т.е. ведется поиск экстремума без ограничений.

2. В найденной экстремальной точке х^*проверяется выполнение всех ограничений, образующих множество М. Если все ограничения выполняются, то х^*и будет являться решением задачи.

3. Если хотя бы одно из условий нарушается, то условный экстремум находится на границе М. Значит, здесь надо будет уже решать классическую задачу Лагранжа.