Выпуклое программирование

Суть общей постановки задачи состоит в определении максимального (минимального) значения функции:

f(x₁, x₂, ...,x_n)

при условиях:

g_i(x₁, x₂, ..., x_n) £ b_i (i = 1, 2, ..., m), x_j ³ 0 (j = 1, 2, ..., n).

Универсальных методов решения поставленной задачи в общем виде не существует. Однако, при определенных ограничениях решение этой задачи может быть найдено.

Несколько определений.

Функция f(x₁, x₂, ..., x_n) на выпуклом множестве X называется выпуклой, если для любых двух точек X₂ и X₁ из X и любого 0 £ l £ 1, выполнено соотношение:

f[lX₂ + (1 - l)X₁] ³ lf(X₂) + (1 - l)f(X₁).

Множество допустимых решений удовлетворяет условию регулярности, если существует хотя бы одна точка X_i этой области такая, что g_k(X_i) < b_k (k = 1, 2, ..., m).

Задача выпуклого программирования возникает, если функция f является вогнутой (выпуклой), а g_i - выпуклы.

Любой локальный максимум (минимум) является глобальным максимумом (минимумом). Наиболее характерным методом решения задач выпуклого программирования является метод множителей Лагранжа. При этом точка (X₀, L₀) называется седловой точкой функции Лагранжа, если:

F(x₁, x₂, ..., x_n, ) £ F( )£

£ F( ), для всех x_j ³ 0 и l_i ³ 0.

Для задачи выпуклого программирования, множество допустимых решений которой обладает свойством регулярности, точка X₀ = ( ) является оптимальным решением тогда, когда существует такой вектор L₀= ( ), что точка (X₀, L₀) является седловой точкой функции Лагранжа, построенной для исходной задачи.

Для задачи определения максимума, условиями седловой точки будут:

(частные производные берутся в седловой точке).

Для задачи нахождения минимума седловая точка определяется соотношениями:

F( ) £ F( )£
£ F( ).

Условия седловой точки в этой задаче представляются в виде:

,

.

Градиентные методы

Градиентными методами можно найти решение любой задачи нелинейного программирования. Однако в общем случае эти методы позволяют найти точку локального экстремума. Наиболее целесообразным является использование этих методов для решения задач выпуклого программирования, где всякий локальный экстремум является глобальным.

Суть метода заключается в том, что начиная от некоторой точки X^(k) осуществляется последовательный переход к другим точкам до тех пор, пока не будет получено приемлемого решения исходной задачи. Методы можно разделить на две группы.

Первая группа, когда исследуемые точки не выходят за пределы области допустимых решений (здесь используется метод Франка-Вулфа).

Вторая группа, когда эти точки не обязательно входят только в область допустимых решений, однако в итерационном процессе такие точки будут. (Здесь используется метод штрафных функций и метод Эрроу-Гурвица).

Нахождение решения идет итерационным процессом до тех пор, пока градиент функции f(x₁, x₂, ..., x_n) в очередной точке X^(k+1) не станет равным 0, или пока | f(X^(k+1)) - f(X^(k)) |< e, где e достаточно малое положительное число. Эту величину часто называют точностью полученного решения.

Метод Франка-Вулфа

Найти максимум вогнутой функции: f(x₁, x₂, ..., x_n), при условии:

.

Здесь имеем линейные неравенства. Эта особенность является основой для замены в окрестности исследуемой точки нелинейной функции линейной, тогда решение исходной задачи сводится к последовательному решению ряда задач линейного программирования.

Начинается процесс решения с определения точки, принадлежащей области допустимых решений. Пусть это точка X^(k). В ней вычисляют градиент функции f:

Ñf(X^(k)) =

и строят линейную функцию:

F = .

Находят максимум функции F при сформулированных ограничениях. Пусть решение этой задачи Z(k). Тогда за новое допустимое решение принимают:

X^(k+1) = X^(k) + l_k(Z^(k) - X^(k)),

где l_k ‑ некоторое число, называемое шагом вычислений (0 £ l_k £ 1). Число l_k - произвольное и выбирают его так, чтобы значение функции в точке X^(k+1) , зависящее от l_k, было максимальным. Для этого надо найти решение уравнения  и выбрать его наименьший корень. Если корни уравнения больше 1, то берется l_k = 1. Затем определяют X^(k+1) и f(X^(k+1)) и выясняют необходимость перехода к точке X^(k+2). Если такая необходимость имеется, то в точке X^(k+1) вычисляют градиент целевой функции и переходят к соответствующей задаче линейного программирования и решают ее. Определяют координаты точки X^(k+2) и необходимость дальнейших вычислений. После конечного числа шагов получают с необходимой точностью решение исходной задачи.

Итак, этапы решения задачи методом Франка-Вулфа заключаются в следующем:

1. Определяют одно из допустимых решений.

2. Находят градиент функции f в точке допустимого решения.

3. Строят функцию F и находят ее максимальное значение при условиях исходной задачи.

4. Определяют шаг вычислений.

5. По формуле X^(k+1) = X^(k) + l_k(Z^(k) - X^(k)) находят следующее допустимое решение.

Проверяют необходимость перехода к следующему допустимому решению. В случае необходимости переходят к этапу 2, если такой необходимости нет, то приемлемое решение найдено.