Teorema Fritz John, punti di KKT, programmazione convessa, dualità di Wolfe e Lagrange

Condizioni di KKT per problemi di ottimizzazione vincolata

min f(x)

s.t. g(x) ≤ 0

h(x) = 0

Vincoli e insieme ammissibile

F = {x ∈ Rⁿ : g(x) ≤ 0, h(x) = 0}

Vincoli attivi: I(x̄) = {j ∈ {1,...,m} : g_j(x̄) = 0}

Teorema di Fritz-John

Σ_{i ∈ c}(12^m), i, c ∈ {1,2^m}

Per ogni j = 1,...,m e i ∈ {1,2^m}

Per ogni j, i ∈ I_p, [...]

∇_jg_j(x̄)λ = 0

∇_ih_j(x̄)μ_i = 0

λ ≥ 0 i = 1,...,m

La funzione di Lagrangiano

L : Rⁿ, R^m x Rⁿ + Rⁿ → 5/12

L(x̄, λ, μ) = λ₀f(x̄) + q(x̄)Λ + h(x̄)μ

λ_jq(x̄) = 0

Punto di F.J

Un punto x ∈ Gⁿ è detto punto di F.J se { ] }

Condizioni di ottimalità per problemi di ottimizzazione vincolata

min f(x)

s.t. g(x) ≤ 0

h(x) = 0

F = {x ∈ ℝⁿ : g(x) ≤ 0, h(x) = 0}

Vincoli attivi: I(x̄) = {j ∈ {1,...,m} : q_j(x̄) = 0}

Teorema di Fritz-John

Somma i ∈ C¹(ℝⁿ) | i ∈ C¹(ℝ^nᵐ) per ogni i = 1, …, m; hᵢ ∈ C¹(ℝⁿ).

Per ogni j, f, dee p: se x̄ è un minimo locale di f in F, allora esistono degli scalari λ₀, λ₁, …, λ_m, μ₁, …, μ_p non tutti nulli t.c.

λ₀∇f(x̄) + sum(λ_i∇g_i(x̄)) + sum(μ_j∇h_j(x̄)) = 0

g_i(x̄) = 0, i = 1, …, m

λ₀ ≥ 0

λ_i ≥ 0, i = 1, …, m

La funzione lagrangiana

L : ℝⁿ × ℝ^p⁺ × ℝⁿ -> ℝ² : ℝ

L(·, λ, μ) = λ₀f(x̄) + q_i(x̄)Λ + h(x̄) μ

∇_x̄L(x̄, λ₀, λ, μ) = λ₀∇f(x̄) + q_i(x̄) Λ + ∂h(x̄) μ = 0

λ_iq_i(x̄) = 0

g_i(x̄) ≤ 0, h(x̄) = 0

1 > 0 ≥ λ ≥ 0

(q_i, 1, μ) ≠ 0

Punto di F,J

Un punto x̄ ∈ G(x̄) è detto punto di F,J se esistono degli scalari λ₀,λ con i = 1, …, m k con l = 1, …, p tali che le condizioni precedenti sono

Condizioni di KKT

Un problema convesso, teorema di Kuhn-Tucker (KKT), se esistono degli scalari ∀i: con i = 1, ..., m e j = 1, ..., p per cui sono verificate le seguenti condizioni:

• ∇f(x) + ∑ ∇g_i(x)λ_i + ∑ ∇h_j(x)μ = 0
• g_i(x) ≤ 0
• h_j(x) = 0
• λ_i ≥ 0

[(c-r₁)^Tλ] M (c-r₂) M (h₃)^T M

Si può scrivere ∇(λ_i, λ_i, μ) ≥ 0

Per parlare generalmente che le "condizioni" di KKT sono C.N. dell’optimo locale si deve l’idea che "l'insieme ammissibile è in sufficiente tangente l’optoba"x∈C ℝⁿ, f∈C ℝⁿ, h_j a=_i: i = 1, ..., m, h_j ∈ C1(ℝⁿ)

Un minimo locale di f in F allora esistono delle vettore λ ∈ ℝ^m μ∈ℝ^p tali che:

• ∇f(x) + ∑ ∇g_i(x)λ_i+ ∑ ∇h_j(x)μ = 0
• g_i(x) ≤ 0
• λ_i ≥ 0

Se una delle seguenti "ipotesi condizioni" si soddisfano:

1. (Lineare): a_i, ..., a_m, h_j, j=1, ..., p sono funzioni lineari
2. (Il vincolo dei Monge-Ampère armature): non esistono degli scalari α_i, α_j ∈ C(T(x)) l α_i, l α_i non tutti nulli nei cui no: ∑ α_i g_i(x) + ∑ β_j∇h_j(x) = 0

δ(i, dot): revero ri quindi

Ei vi alcadui dell’indizor le jibiche to sotto ammissible di un calib di uno: t vettori, ∇h_j(x)₌₀ Ihi i=1, ..., m+ib sono lineari independenti sotto questo turbo, esistono due vettori l ∈ ℝ^m, M ● RIP che insieme a λ =: soddisfano le condizione del teorema sono unici

Per [teorema di F.] esistono λ₀, λ_i, μ_j i=1,...m, j=1,...p non tutti nulli tali che

• 1) λ₀ gⁱ(ẋ) + ∑_λ∈Ig gⁱ(ẋ)λ_i + ∑_j=1^p Dh_j(ẋ)μ_j=0
• 2) λ_i, λ₀ ≥ 0 {i∈I_g} i=1,...m
• 3) λ₀, λ_i, μ_j

da cui λ₀ ∇_x f(ẋ) + ∑_i∈Ig ∇_x gⁱ(ẋ)λ