Quaderno esercizi esame - Metodi numerici, prof. Gualandi

Riassunto esame Galanti

Capitolo 1 - Ottimizzazione senza vincoli

max f(x) = - min -f(x)

Punto interno: x₀ t.q. se è un intorno di x₀ raggio ρ>0, indicato con B_ρ(x), tale che &exists; (x_u) x ∈ B_ρ(p)

D_f(x) determinante

  Le sue note contengono l’efferenziale e i semiassi.

Analizzare i tre punti per fermi, se qualcosa continuare e' costante calpeta nell'intui.

1° condiz. è per Fibo sbarando ha D_F(x*)=0,

se ( D_2f(x*) direzione indicar.accargando → di una crescita.

Se fosse semidefinita a parole non possiamo dire nulla

Se A def. → det(A) e traccia(A) > 0

Se A def.– → det(A) > 0 traccia(A) < 0

Se A indef. → det(A) < 0

Problema continuo

Data una funzione quadratica f(x)= -x Tob + ¹⁄₂x^THx

f^''(x) = H∈ Ω cui g(x)= – b+Hx

La funzione quadratica è convessa se H è semidefinita positiva, ie. calbrazione necessario ai determinati: lasino or se l’ ha compute la mano, ie. s. sirom H=∔ semiposi.e. e

Risolvere questa effetua l’unico punto minimo locale

ex. f(x,y)= ¹⁄₂(ax+by)^T = → scrive con f(x,y)= ¹⁄₂(y^T) θ(b⁰) (y^T)

Condizioni empiriche di ottimizzare:

||x_n+1 - x_n|| ⊆ e₁ MATLAB ||x_n+1→Toll (x₅hengine)

|f(x_n)+f(n)| ≤ e₂ MATLAP |f(x_n)f(x₂)|| FOpt||x

||x_n+1 +Tsub27|| ∈ e₃ MAMMAG

Max iter

maximo ritorno!!

(cri90:xV

Vordum convergere verso un 20 stoingrano

lim ||x_n+1-x*|| =0 MAT e per Vee shum combence, velore ve–brande.seg. e(2_p>) KSIE

Capitolo 2 - Metodi di ricerca lineare

AD OGNI ITERAZIONE...

X_k+1 = X_k + α_k d_k

d_k direzione

α_k passo di spostamento

Algoritmo 1: Ricerca lineare

• Date f(x), X₀ tali che f(x) ha derivata sui punti
• Calcolo la direzione di discesa d_k
• Scelgo la lunghezza del passo α_k
• X_k+1 = X_k + α_k d_k
• Test: se k > max itera, termina
• Se f(X_k+1) < f(X_k), setta X_k+1 e torna al punto 2, altrimenti fermati

X < 0 allora direzione

d_k^T ∇f(X_k) < 0

lo is in discesa.

... diverse scelte di d_k portano a metodi

• d_k = -∇f(x) (Loktian) ottimizzo il metodo a massima discesa, chiamato metodo della salita
• d_k = -B_k^-1 ∇f(x) ... e anche il metodo di Newton
• d_k = -∇²f(x) se B_k è solo un'appross. ... e diverso dal metodo corrente, abbiamo due versioni di questo metodo.

Scelta del passo α_k

Condizioni di Wolfe:

• per ottimizzare φ(α_k) = f(X_k+α_kd_k) così che
• φ^'(α) = ∇f(X_k+αd_k)^Td_k
• φ(0) = f(x_k)
• φ^'(α) = ∇f(X_k)^Td_k

φ(0) ≤ φ(α_k) + ρ α_k φ^'(0)

ρ ∈ (0,1)

Seconda condizione:

σ ∇f(X_k + α_kd_k)^Td_k > σ ∇f(x_k)^Td_k ≡ φ'_(k) > σφ'

σ ∈ (ρ,1)

... può essere interpretato con ... adattato, se φ'(α) è funzione negativa, o hai indicazione che la f

... nel metodo della salita usando la pseudo matrice nel calcolare l'inverso di B

Metodo di quasi Newton

Formula di aggiornamento (caso 2: BFGS)

Sia come un metodo B_k che approssima invertendo il matrice Hessian H(x_k) = ∇²f(x_k) e non la inverte.

Solutamente I è identity.

Con B_k+1 = c il metodo se intende...

Con la formula di aggiornamento di rank a 2 si impone B_k+1 = B_k + c₁zz^T + dyy^T

Se eseguiamo le relazioni con:

u = h_k, ω⁺p_k = 1, v = B_kp_k, d = v^Tp_k ≠ 1

...B_k+1B_k + v ... B_k+1p_k ...

Naturalmente il metodo è Newton formale di approssimare l'inverso di H(x_k) e dalla prec. espresso di ... creg

Proprietà: Data una funzione f(x), il metodo converge globalmente purete la ricerca di sezioni aggiagio, curvature e con diametro.

Algoritmo (quasi Newton BFGS)

Dati: ε>0, x₀, f, ∇f, B₀ = I

1. k=0
2. While ||∇f(x_k)|| ≥ ε
3. B_k = -∇f(x_k)
4. Ed (x_k+1 = x_k + p_k) f(x_k) - (p_k) ...
5. B_k + v + B_k + B
6. k=k+1
7. Fine (while)

Capitolo 3 – Metodi di Trust Region

I metodi di ricerca insieme e trust region si differenziano nel modo in cui usano lo stesso modello ... differente. Il metodo (c) usa ... uscendo un numero differente di ... quare ... dopodiché un posto di lungo termine che caratterizza una relazione non nulla della funzione derivato.

Il metodo ... presento ... per il modello ... il metodo composto da un luogo ... accertati esse validati per ... e un buon approssimazione della funzione derivato ... allo stesso modo si è derivata che il risultato ... espressamente ... applicato pure il minimo calcolato ... direttamente.

Se il modello non produce una zona di confidanta piccole del ... buon quasi di secatamente o se perciot con buona approssimata ... il modello f' generato con una funzione ... valutazione della funzione m_k. Quo non permetta di ... nuovo che consentitivo id. ... in grado di combinazioni.

Per ottenere un nuovo punto occorre risolver il problema min ... ... il numero di ...

Se volesse chiedo il punto f dell'esercizio 1 solode

(f) Sempre nello script... utilizzando la funzione SolveWithHistory prima con il metodo BFGSe poi con il metodo DFP, partendo dal p.to x0 = [--1,--1].... Si memorizzino i valoridi ftesto1 in opportuni vettori .... e si calcoli il rattelo di convergenza

Sul poro, per k essere qualinumo dal fattore di convernens della norma INFIGNIL di...

per iterare (in scali logaritmaldi sull'asse delle Y (com scalio3)

scali vicaime per cada pollo)

options = optimset('TolFun',1e-30,...

• 'Tolx', ....
• 'LargeScale', 'off'...
• 'GradObj', 'on'...
• 'HessUpdate', 'cagn');

[m1,h1,h3] = SolveWithHistory (@)F,...x0,options);

for i=2:length(h1);

rt2(i) = h3(i-1)/h3(i);

end

iter1 = length(m1)-1;

options = optimset('TolFun',1e-30, ...

• 'TolX', ...
• 'LargeScale', 'off' ...
• 'GradObj', 'on', ...
• 'HessUpdate','ffp');

[m,h,h3] = SolveWithHistory (@)F...x0,options);

for i=2:length(h3);

rt2(i) = h3(i-1)/h3(i);

end

ite2 = length(m2);

% PLOT ESTERB IN SCALAC SCLILLA GISMICA

figure(2)

semilogy(ite1,r1,'-*b')

holdon

semilogy(ite2,r2,'-*r')

xlabel('Numero di iterazioni')

ylabel('Fattore di convergenza1')

legend('BFGS','1 DFP')