Appunti Ottimizzazione non lineare - parte 2

O

I I 3

-

- X =

-

- 15/11/2023

In sintesi [18

y(k x() Si STOP

= KKT D

· = - , corrispondente

il vincolo

* disattivo

Xi al

7 i 0

no 1

: -

, negativo

↓ più

1

xeeXDx(k y(k)

y(k +

+

· = -y(

d' y'

x2

y(k) X Proiezione

+ con

· =

1)

x(k )

4 xd(k)

x(

+ +

= ↳ X(k + X

1

0 <[

maxx =

:

:

2x 3X2

Will

ES

. 2x1 Xz

X1X2 +

+ - -

i 1 4 X24

X1 +

=

i X >1

2 X1 +

=

i 3 0

=

X

=

i 4 X2 0

>

= )

m f def

H applicare

quindi ACTE SET

>

= posso

pos

- . . fase

(Se fosse

f di del

risoluzione

definita

la in

non ,

sottoproblema di min

troon

garanzia

avrei

non un

[8)

x =

Notazione W all'iterazione

=S attivi k4

dei vincoli

indici

: WORKING

D SETS

wi 42 4)

= . 2x 3 X2

will 2x1

=> Xz

X1X2 +

+ - -

E * 1

4 + =

(0 x

y(a KkT

=>

= =

b) 2x Xz)

Xz(1 - Xa)

3x2

L(X Xz)

Xz X

Xnxz 2x

+ +

5 + +

-

- - -

, che x 1

già

so :

= attivi

vincoli

i sono

3

1 non

p e

KKT 1

X il

b)

PxL(X Sostituisco dz

punto trolo

4x G

X2 2 0

+

& e

a =

=

- - -

, ↓u

x2 xa

1

6X2 X 0 2

= =

- -

- - -

V

AMM

↓ 63 0

=

=

+

↓ 20

↓ 40

! 7 Xa 0

No %b)

we w(1443ex y

= =

=

2x 3X2

will 2x1 Xz

X1X2 +

+ - - f il

risali problema

inserisco in

X 1DX X2

1

x1 e

- non

+ =

= - vincolato

X2) 3x

2(1 X2)

win (1 2(1 X2)

Xz Xz

=> +

+ - -

- - -

6X2

min -8x2 4

+

1

5

X x

=> =

= ,

()

y( x exX

+

-

4 jy *

x

=> = lo stesso problema

è

b) 2x Xz)

X2(1

3x2

L(x Xz Xn

XXz 2x

+ +

= + -

- -

-

,

KKT 42

4X X 2

+

E 0

=

-

- = la

X soluz

x' ottima

Xz è

Ok

>

X1

6X2 1 0 =>

= -

- -

- .

problema originale

del

W

AMM

X 20

X 14

X3 0

= =

=

oss W vincolato

il

Se f

problema basta

è

0 minimizzar

non e

=

.

Alcune azioni

un

DUALITA' by

Will CTX

PP PD : Max

>

: -

Ax b Al U c

,

, 43 0

X > 0 by

Will CTX

PP PD : Max

>

: -

Ax b Al u c

= =

IRM (RM

Ye

X e by

Will CTX

PP PD : Max

>

: -

Ax b A 4 c

= =

IRM

ye

X > 0

derivano

dove

da questi ?

assioni

f(x) min

win cX vincoli

b

Ax

XcIRY

x ne

= =

lograngiana

la

Scriviamone LAGRANGIANO

RILASSAMENTO

RM f

b)

uT(Ax vincoli

u) ci x parto

L(X in

i

me

con · .

0

+

= - .

, IRM

vettore

Consideriamo i e

un b)

-(Ax

win i) c

L(x x +

= -

, )

b

Se L(X

Ax

prendo CTX

=>

una :

x = =

, trolo

minimizzo L

Ax-b

Se LB

4

conviene

<0

X un

ma non

M

: => = significativo

Se Ax-b conviene

>

x >

: o -N

M

= =

costruisco ficativo

Come ?

signi

LB

un

fisso che

da deriva dalla soluz

minimizzo del

L mi

ogni - (B

- un

e n

n ,

problema -

Su c

voglio u(Ax

il miglior

· DUALE

(B x

wa

) +

= LAGRANGIANO

richiesto

(no il quindi

migliore

Trovare è

LB non serve

Es un

. duale

il

risolvere

X2

Xi

will XeXz

+ - S

Xz

X =

+

X 130

X2 O

> 5 0)

salto

Risolio il lograngiano

problema Came e

car

quadratico

problema e p

52)

In(x1 Xz)

3)

x1)

1)

X

mill Xi XXz xz

+ +

+

+ + -

-

- -

La il

del dual

corrisponde

miglia

ricerca risolver

(B a

lograngiamo fossero la

Se linai ottima

soluz

uncoli

. del

,

i PDL

non

sarebbe dall'ottimo del J GAP

PP DUALITY

+ >

-

la

linfatti solo DEBole)

DIALITA'

vale

in ONL partenza

Costruiamo problema

il di

del

ps

ne Rm { e

(CTx

, u

MAx

wax + - ↑

fuai

parto perché

eude da

dip

~ X

woll Ax))

{-ub (cx

win u

wax + +

E IRM

MERM X

evidenza

Metto in

x

4 !

A)

x (c

biu u

will

wax + +

- IRM

MEIRM * e prendere

A-0 più grande possibile

conviene

mi

c

sex MT x per

+

= ottenere o

- andor

tale da

mi X

conciere a-o

> O

solo

In vale-o MA

c

=

no

caso

un 0

+ =

il diventa

A) problema

quindi

x ( +

min 0

=> e :

=

IRM

* e bi

wax-biu wax 4

4 M

= - = Aly

(YTA)"

-YA

c UTA (i)

ci 0 C

>

D >

0

+ = =

= -

= -

ueIRM (RM

4 E

Riprendiamo l'esercizio

X2-XeXz

Xi

Will + g(x)

S

E 1

Xe Xz 0

X2

Xn +

+ - gz(x)

X

D

X -

> O O

- - g3(X)

>

Xz Xz

O O

- Xz)

Xz) 4) X3)

1)

Xn(X

X)

L(X mil Xi X XXz Xz +

+ +

+

+ -

= - -

-

, (2)

=

scego =

, X

) metodo

x

L(x Risolio di

Xn

XnXz Xz 2

+ ·

+

+ un

con

= -

- vincolata

ottimizzazione non

degli

Metodo autoalori

(2)

H =

det (H -6I) 6)

(2 1 0

= =

-

- -" (non autovalori

importa degli

l'ordine

3

= ,

X l

4 due

più

al

convergerò in

3 passi

0

+ =

- - y ↓

1

= IR2

perché in

sono

(8)

xx = F

)

(8) +

x Pf(x)

x" x + =

= =

-

.

↑ ↑ =Pe

for f(x

·

Mf(x") = 0 no

(3) )

1 Es

x =

-

=

pf(x Ok

0

=

Sostituisco trolo

x Le -3

in (B = 20/11/2023

(19

Will cX

CX will

D

Ax1d Ax b

<

X X <

O O

-

XY(Ax x(-

b) x)

6) And

L(X cix

> >

+ can

+ o

=

- -

, 6)

L(x

Win

=> , x)

Xi(Ax b)

6)

Per significativo x)

(min ((X cTx

(B +

max

un +

= -

-

,

↓ X

0 65x)

wax(-Xb XAx

cx

min

+ + -

X1 X20 IRM

e

x

, x2x)

,

wax(-Xb (c XA)x

mill

+ + -

IRM

X1 X2 0 e

x

, libero 620

X , x affinché

che valore deve avere

minimizzando vada ?

si

non a -so

62)

(c Xi A

=> 0

+ =

- yb

wax-bib X wax

> 4

=

- -

↓ > 0

1 D

XA

c y = 0

,

+ ATy

↓ yA c <

< C

20 -

Xi x2-XXz fa

win PROGRAMMING

QUADRATIC

SEQUENTIAL

+ (SaP)

X2

Xi 3x

4

+

10

x

X2 O (8)

Ipotizziamo x nell'intorno

che comporta

allora

sia f

di x

min si

= lineou

quadratica vincoli -

i

e

come come -

Valgono anche I legati

le di

sui

N O

.

c . .

attivi attivi

incoli .

e non (

X viucoli attivi

( i

0 per no

= attivi

vincoli

↓ i

o per

il considerando solo

Approssimiamo vincoli attivi

problema i

f(x) E(X

Df(x)

f(x) x Hf(x)(X

X) x(*)

will (X

+ +

= - -

-

h(x) X)

= Pf(x'("(X

h(x) j 1

0 Me

+ = =

- ...,

- -

forma vettoriale

in

oppure :

h(X") Jh(x')(X N)

+ 0

=

- he(x)

↑ T

D

Th(x')

con = :

D4in(X %

)

Il risolto

problema simplesso risolverlo

il modo

c'è

può essere un

ma per

con

iterazione

in un'unica u'arbitrario)

[ U'

du du

dx

X-XO M-u'

NOTAZIONE con

- +

: - =

=

= dx)

-

fdx Hf(X,(dx MY(h(X))

Pf(x) dx

f(x)

n) -

Jh(x

L(X + + +

+

=

,

KKT : )

af(x) 0

(M5h(x

Hf(x)dx

E + =

+ ②

Jh(x'")dx

h(Xy) 0

+ =

① Hf(x' dx du Df(x)

3h(x =h()u(d

,

+ -

f(x)

u)

L(x h(x)

+

M

+

=

, Mf(x)

, u))

Px(x) h(X(0)

3

+

u

+

- = -

h(x)

② dx

Jh(x -

= - (d)

↑ ↑

))

55(x T

Hg(x ) e

PC Cxio

=> i

-

=

la Df(x)

M >

-

-

(d) 2) M

x L(X10

* , VINCOLATOL

(NEWTON

invertibile

M m -

se =

: - -

4(x'o)

O

= dr--H

Considerando vincoli attivi

solo f(x)

riconduce

ci

i si

non a

invertibile x'

Se M è min

min

è vicino

non un

non a

e

non

Torniamo all'esempio

(i) 1

-g1(x) = I

Tu

)

% .

v

Jh(x

ag2(x) )

= -

[s)

-g3(x) = x

13x

nf(x) = *

[

Hg(x) = vettore nullo

↓

3h(x(y

X

hn(x) x 4

+ 0

= = ) 0

- =

h2(X) 0

Xz

= =

- >attivi vincolo

solo °

1 3

e

-

5h(x)

Hf(x) -

- /i i

(e

i

pay - e

:

18

18 saego

M uo

-

= Jh(x(0) O -

- I

- -

(2) ↑ PxCxon'

-

m()

( x

+ 3

=>

- =

, O

i I

e e dei

3

M -

=

dx (0)

E x Xn

+

= dXz Xi

Xz +

= punto

-pato cambio

lo

da

SQP N A -

.

. potr