Appunti Analisi statistica multivariata sull'esplorativa

X

X X = =

=

- -

=

=

6 nxp La la

è

H

dove

Dati

Dei

matrice centrati di centramento

matrice

- simmetrica

matrice

una

&= &XHX _ (H

idempotente H

H

= . =

H H) centrati

(H dati

dei

p nxnnxp simm

n matrice non

pxn la

=

idempotente -

e *

DiM variante/covariante )

la matrice (Hx

di effetto

produce alcun =

. HHXHXX

= = N è definita

p almeno

è X

di

di ha positiva

quadratica il

matrice simmetrica

ordine rango

una e

p ,

, =

db

**(a (a)'(a)

a(

nasa

=HY= = = =

la var/cov

di

matrice S-E(HH) S

&HHHX

HXH(HX)

* e = XX

alla

uguale

per =

=

matrice var/cov

di X

per nS MHM

MIH'HM

(HM)(HM)

matrice M

generica

per una : =

=

=

=

↓ diag

matrice

dati

matrice dei una

standardizzati -

-

SpR D g

= è matrice quadrata ordine

di ha di

lo

correlazione stesso

simmetrica X

matrice di una rango

,

p ,

è almeno definita

ed positiva

* RD DDRSSDS D

D

S = = =

u DDSDR

=

= (2)

H2(H2) =

tr()

varianza totale =

=

tr(s)

Osservazioni

delle

nello Sijn

spazio : ij--

=

tr(s)

variabili

delle

nello spazio : (di covarianza) pvariable

l'informazione le

tra

correlazione

di . .

sulla struttura

perde

si

varianza Generalizzata (S)

det

= P(volume

(S) * lunghezza

hanno

e

parallelepipedo p-dimensionale

det .

osservazioni

delle

nello spazio unitaria

: ↑ mutualmente

Up sono

. perpendicolari

ordinati in maniera ↑

decrescente

variabili S autovalori

associare

delle matrice

nello autovettori

di

spazio alla coppie

posso p e

: (XpNp

(X2 Nz)

Na)

(x .

. . >

, . .

, è funzione

dell'iper-ellisoide

Il volume generalizzata

della varianza

=

=

S "(X-)

di (X-)'s

Volume pM(p(2) formata

l'informazione dalle

l'orientamento p-dimensionale

dei

riguardante punti

della nuvola

perde

si n-unità statistiche e ?

D

la generalizzata quando

varianza , I

la è

generalizzata

varianza linearmente

O dipendenti

solo colonne di

le

se

se e sono

Dimostrazione Y X CpYp

ca

Ej nullo

di che

tale

colonne dipendenti &

ce esiste

(j valore

pl linearmente se

sono o

non

sono

1 un c .....

=

. =

= ....,

Y =

linearmente

= "Se tale 0

le di dipendenti che

esiste

colonne .

sono +O

,

. matrice

quindi Allora

Sc Sco

tale che singolare

.

0 la

n ovvero

co

= = I JcF0

e

"D" e tale

Hpl singolare

(per det(s) S

Allora

generalizzata

la nulla

varianza 0

.

che , ovvero

suppongo =

,

**

=DO (d' (c) Ilb/

c b'b

no

Sc

che Sc

o 0 quindi

Do b una

avere

per

c + = =

= =

= =

= =

, Y

=*

b le di

lunghezza devono

O nullo

il 0 colonne

deve vettore essere

necessariamente

pari ovvero

essere

a c = ,

(ricordo col

linearmente dipendenti che

Dati

Varianza Standardizzati

generalizzata per det(s") det(R)

= =

(Spj)

(D'RD"" *

)

( (D Rdet(d") detR

det

det(s) det(R)

det Spp)

(San

= =

= =

, ...,

variabilità

relativo

Indice di e a

relati

1 Indice det(s)

det(R)

O 1 1

= La

=

6 Sis variabili fra

quando ce sono

quando assume valore O loro incorrelate

due

due

a a

la generalizzata

varianza Ilalla

può decomporre -S (a unghez

due componenti

s si un : = di se

unamarie

- normalizzata

(Direzione =

teorema Ak

di ad

associato

autovalore

decomposizione spettrale =We

può

En

Allora

Er valori

Sia reali

matrice si

simmetrica come

esprimere

una a . normalizzato

autovettore

V j-esimo

A

cemma A razionali

semi-definita positiva solo

vale all'autovalore

se per

, quo Xj

: associato

= .

Xr)

diag(x19 Véortogonale VV'

↳ VV I

...., razionali = =

A definita anche

positiva l

vale

,

se per q

. Quindi decomposizione

la spettrale

da a se

matrice

n

APPLICAZIONI data

di

una

"Vi

VA

A a

* =

. -

" V

A VA i

- 1

=

· è

= l'autovettore

autovalore ei

e

A2 V12 vi

· = asssociato

A VALVI

· =

decomposizione Di =p

Se

spettrale =

tr() tr()

tr(VAV)

tr(s) = = = =

(1) det(1)

(A) det(Vv

(V)

(VAV) det(I)

(v) det det

det(s) det

det det =

= =

=

dei

matrice ortogonalizzati

Dati

Se la di Possiamo

di m

variante/covariante

sia ottenere

matrice la

positiva

definita matrice

allora

.

ortogonalizzati

medivelriaute

dati

del è di Mahalanobis

dei detta

lineare dati

la trasformazione

originali

trasformatione I ortogonalizzazione

0

Dimostrazione = r =

= -

2 0

(5 0

1

Vettore delle = =

di

medie il

per semma

- VA 2y

s VA- v

(S)' -

(sXHHHXS

↳ 5

quindi =

=

G - 12

E 1

- 3

- 5

= 5

di

watrice .

= .

-m

z

var/cov & )

Y H

(

contiene tutte le V

(VAV)(VAV) (VV)

dati

informationi VIV

sui , I

= = =

=

trasformazioni di (laa

di ↳

centramento diag bp)

diag

e (an ap) -

, =

..., .

,

Standardizzazione diag (amba apbp) diag bp) (an ap

(da diag

perdita ,

la

comportano ..., = ,

, .., ...,

unformazioni

di SINGOLARI

VALORI

DECOMPOSIZIONE IN u

UU'

SVD #m

u

.

= =

Sia U

matrice matrice

ortogonale

reali esiste

rettangolare matrice

valori

A Allora una

una e una

a .

mxk V.V

Vi mxm

min (m k)

#

-V ,

= =

. muminduj (jj)

u tali A diagonale

mi posizione

rettangolare elementi di

ortogonale la matrice e

dove

che con

dincmik Valori

Ga

a 8 singolari

(mik)

j=1 costanti

elementi .

0 dette

altri

Min pari Le

gli sono

pari a

10 -

per e ...

...., ↳ AA

K

simmetrica

autovettori matrice

normalizzati

sono della

uj = dilatazione

è

V la

rotazioni

U sono mentre

- e ,

autovettori AA

normalizzati simmetrica

matrice M

della

sono

i

u =

- M

della (

autovalori k

matrice

quadrata

radice o

degli

la

o sono

-

!

D

V

trovo

come V vi perché Ortogonale

.

,

(UAV)'(UDV)

!

A A = = [

[]

[D 0] d A

?

D'A ad

trovo

come : e

mar

suppongo =

= =

=

x A'A VSV" (elementi matrice

A'A di autovettori

la

agli autovalori

legati V

DI di

di

valori singolari

Di sono e

=> =

= V

i formano

suoi

garantisce autovettori

che di

colonne

simmetrica

è come

matrice e ,

La una è

ortogonale quindi V ortogonale

ed

esiste

matrice e

la 10

semidefinita

è autovalori

allora

positiva gli

tutti sono

↳ >

-

[...]

[E] singolari

relazione tra valori

S la

A e

allora

particolare Xi

In se =

= matrice

,

AA

Per autovalori

gli cambieranno autovettori

gli

uguali

troveremo

calcolo

U e

:

ridotta

forma

SVD in può

La del

funzione

valori di

decomposizione singolari A

anche espressa rango

essere e

in un

(Armin (m

A con rango

. **

. X 0

Ar dil **

diag(G x

cui diagonali

i autovalori

elementi gli mulli

sono r non

=

· ...,

AA(o AAl

M

dik =

=

marmi

Allora sig di

solo U V

di hanno

le influenza

prime nella

colonne e

ovvero

: dati

dei

ricostruzione

↳

6 Iva vr]

[M Mr] V

Ur vettori

r re

= -- =

. ...

, ,

vettori di

ortonormali dimensioni kx1

di

ortonormali

dimensioni 1

mx diag( dr) diso

con

= ..

Di ECKART-YOUNG

1) Teorema AS ,

Data Ar UAV

reali

matrice (con approssimazione

la mak) la miglior

valori di rango

con

a UqqVa

Ag

è

k Ag

dalla

matrice matrice

data

della A

(A)

rango

9 :

= =

più

al

è

SeBr di

matrice

qualsiasi 11A-Agl

gak IIA-BI

allora =

una rango ,

seguenti

vale matriciali

tutte

Il risultato le

per norme :

All2 da

NORMA SPETTRALE =

· dei

radice valori

di quadrato

FROBENIUS della singolari al

NORMA somma

:

. -

VA

=V

/Allf =

IlAlIn

Norma Nucleare :

·

Le la

trasformazioni di

matriciali ortogonali

invarianti A

, ovvero

norme norma

sono per

singolari

dai

dipende valori

solo suoi AnB nome

Due ortogonali

matrici

Are ortogonalmente

dicono equivalenti

matrici due

esistono

se

si

r

:

tali che ortogonali

P

Q sono

e

AnB le

se allora due hanno

matrici stessi

gli valori singolari dimensionalità

è la data set

di

ridurre

usata un

per dette

attraverso componenti

variabili

informazioni

massume

ANALISI ce

PRINCIPALI nuove

COMPONENTI

Delle a

principali

un Pia

La nina

trasformazione lineare di D

= b11)

(AX(1

En =AX1 1bN Ax

me