7.1.1 Численные методы безусловной оптимизации нулевого порядка

7.1.1.1 Основные определения

Решение многих теоретических и практических задач сводится к отысканию экстремума (наибольшего или наименьшего значения) скалярной функции f(х) n-мерного векторного аргументах. В дальнейшем подxбудем понимать вектор-столбец (точку вn-мерном пространстве):

(7.1)

Вектор-строка получается путем применения операции транспонирования:

. (7.2)

Оптимизируемую функцию f(x)называют функцией или критерием оптимальности.

В дальнейшем без ограничения общности будем говорить о поиске минимального значения функции f(x)записывать эту задачу следующим образом: .Векторх*,определяющий минимум целевой функции, называют оптимальным.

Отметим, что задачу максимизации f(x)можно заменить эквивалентной ей задачей минимизации или наоборот. Рассмотрим это на примере функции одной переменной (рис. 7.1). Еслих* ‑ точка минимума функцииy=f(x), то для функцииy=‑f(x) она является точкой максимума, так как графики функцийf(x) и ‑ f(x), симметричны относительно оси абсцисс. Итак, минимум функцииf(x)и максимум функции ‑f(x)достигаются при одном и том же значении переменной. Минимальное же значение функцииf(x), равно максимальному значению функции - f(x), взятому с противоположным знаком, т.е. min f(x)=‑max(f(x)).

Рассуждая аналогично, этот вывод нетрудно распространить на случай функции многих переменных. Если требуется заменить задачу минимизации функции f(x₁, …, x_n)задачей максимизации, то достаточно вместо отыскания минимума этой функции найти максимум функцииf(x₁, …, x_n).Экстремальные значения этих функций достигаются при одних и тех же значениях переменных. Минимальное значение функцииf(x₁, …, x_n)равно максимальному значению функции - f(x₁, …, x_n), взятому с обратным знаком, т.е. minf(x₁, …, x_n)=max f(x₁, …, x_n). Отмеченный факт позволяет в дальнейшем говорить только о задаче минимизации.

Рис. 7.1 – Экстремум функции одной переменной

В реальных условиях на переменные x_j,i=1, …. n, и некоторые функцииg_i (х), h_i(х),характеризующие качественные свойства объекта, системы, процесса, могут быть наложены ограничения (условия) вида:

g_i (х) = 0, i=1, …. n,

h_i (х) <= 0, i=1, …. n, (7.3)

a <= x <= b,

где

; (7.4)

Такую задачу называют задачей условной оптимизации.При отсутствии ограничений имеет местозадача безусловной оптимизации.

Каждая точка хв n-мерном пространстве переменныхх₁, …, х_n,в которой выполняются ограничения, называетсядопустимой точкой задачи.Множество всех допустимых точек называютдопустимой областью G. Решением задачи (оптимальной точкой)называют допустимую точкух*,в которой целевая функцияf(х) достигает своего минимального значения.

Точка х*определяетглобальный минимумфункции одной переменнойf(x),заданной на числовой прямойХ ,еслиx ^* X иf(x^*)<f(x)для всех x^* X (рис. 7.2,а). Точках* называетсяточкой строгого глобального минимума,если это неравенство выполняется как строгое. Если же в выраженииf(х*)<=f(x)равенство возможно прих, не равных  х*,то реализуетсянестрогий минимум,а под решением в этом случае понимают множествох* =[x^* X: f(x)=f(x^*)] (рис. 7.2,б).

Рис. 7.2 ‑ Глобальный минимум. а ‑ строгий, б ‑ нестрогий

Точка х* Хопределяетлокальный минимумфункцииf(x)на множествеХ ,если при некотором достаточно малом> 0 для всехх, не равных  х*,x X,удовлетворяющих условию ¦х ‑х*¦<=, выполняется неравенствоf(х*)<f(х).Если неравенство строгое, тох*является точкой строгого локального минимума. Все определения для максимума функции получаются заменой знаков предыдущих неравенств на обратные. На рис. 7.3 показаны экстремумы функции одной переменнойf(х)на отрезке [a, b] .Здесьх₁, х₃, х₆ -точки локального максимума, ах₂, х₄ -локального минимума. В точкех₆реализуется глобальный максимум, а в точке х₂- глобальный минимум.

Рис. 7.3 ‑ Экстремумы функции