Sistemi embedded

Varianza e covarianza

Varianza (wiki) -> _X² = E[ (X - E[X])² ] è il valore atteso del quadrato della var. aleatoria centrata X - E[X]

Covarianza (wiki) -> Cov (X,Y) = E [ (X - E[X]) (Y - E[Y]) ] è il prodotto valore atteso dei prodotti delle loro distanze dalla media.

Valore atteso

1D E{ u} = μ(h) Nx

2D E{ u(m,n) } = μ(m,n)

Varianza

σ_u²(h) = E [ | u(h) - μ(h) |² ] = diag [ r (n,n') ]

Covarianza 1D

Cov [u(n), u(n')] = E { [u(n) - μ(n)][u^*(n') - μ^*(n')]^T } = R_u = R = r(n,n')(matrice N×N)

2D

u(m,n), u(m',n') = E { [ u(m,n) - μ(m,n) ]

Autocorrelazione 1D

²(n) = r(n,n) = diag (R)

N.B. Non esiste un arzigogo in 2D

Proprietà

La matrice di covarianza Ru è hermitiana

Dim: -calcolo R_u^* = E{ (u - μ)(u^* - μ^*)^T }^*

Hermitiana - la sua matrice è sua trasposta coniugata (quindi è reale e simmetria)

Prop. Fond.: la (R_u) è def. non negativa: ∑ ∑ x(n) r(n,h)x^*(h)^* > 0

ovvero gli autov. sono positivi

Possiamo ordin. autvλ_i > ... > λ_N ≥ 0

Scansionato con CamScanner

Varianza, covarianza e stima

Varianza (wiki) σ_X² = E[ (X - E[X])² ]è il valore atteso del quadrato della var. aleatoria centrata X - E[X]

Covarianza (wiki) Cov(X, Y) = E[ (X - E[X])(Y - E[Y]) ]è il prodotto valore atteso di prodotti delle loro distanze

Valore atteso (o v. medio)

1D E{ u } = μ

2D E{ u(m, b) } = μ(m, b)

Varianza

σ_u²(h) = E[ |u(h) - μ(h)|² ] = diag [ r⁻⁻(n', n') ]

Covarianza

1D Cov [u(n), u(n')] = E[ (u(h) - μ(h))(u^∗(h') - μ^∗(h"))^T ]

2D Cov {u(m, h), u(m', h')} = E[ (u(m, h)−μ(m, h))(u⁺(m', h')−μ⁺(m', h')) ]

Autocorrelazione 1D

σ²(h) = r(h, n) = diag (R)

Proprietà

La matrice di covarianza R_u è hermitiana

Hermitiana

La sua matrice è sua trasposta coniugata (quindi è reale e simmetrica)

Stima della covarianza

Supponiamo che \( x^{(1)}, \ldots, x^{(N)} \) sia l'insieme di \( n \) realizzazioni (osservazioni) di un segnale random \( x \) avente v. medio nullo, ....

Si può dimostrare che i.e. v.m. di una funzione può venire stimato come segue:

\[E\{f(x)\} \approx \frac{1}{N} \sum_{k=1}^N f(x^{(k)})\]

... è una stima poco efficiente ma valida nelle N considerevol estrazioni, ovvero stimata diffenta di potav avere....

Dunque sapendo de la mat. covar. aura (qui si indica a quella di autocorrelazione)

\[R_x = E \{ x \cdot x^T \} \approx \frac{1}{N} \sum_{k=1}^N x^{(k)} \left( x^{(k)} \right)^T\]

dove \( f(x) = x \cdot x^T \)

Rendiamo la formula più completa, introducendo la "data matrix" \( X \), una matrice \( N \times N \) che ha per colonne le osservazioni del segnale \(( x^{(1)}, \ldots, x^{(N)})\). Quindi:

\[R_x \approx \frac{1}{N} X \cdot X^T\]

Nota - più N -> più la stima di \( R_x \) sarà corretta

Stesso discorso se prendiamo in considerazione N realizzazioni di un'immagine \( u(m,n) \), ovvero \( u^{(1)}, \ldots, u^{(N)} \).

Il tenrore di covarianza si stima come:

\[R_u \approx E \{ u \cdot u^T \} \approx \frac{1}{N} \sum_{k=1}^N u^{(k)} \left( u^{(k)} \right)^T\]

Non si usa il concetto di data matri...

Matrici ortogonali, unitarie e hermitiane

Matrice ortogonale

Una matrice A si dice ortogonale se la sua inversa è uguale alla sua trasposta:

A^-1 = A^T

o equiv.: A^-1A^T = A A^T = I

Matrice unitaria

Una matrice A si dice unitaria se la sua inversa è uguale alla sua coniugata trasposta:

A^-1 = A^*T

o equiv.: A^-1A^*T = A^*TA = I

Nota: Una matrice ortogonale reale è anche unitaria, ma non vale sempre il viceversa.

Matrice hermitiana (o autogoniata)

Una matrice R si dice hermitiana se essa coincide con la sua coniugata trasposta (o se è reale, con la sua trasposta):

R = R^*T

Proposizione

∀ matrice hermitiana R, ∃ una matrice unitaria Φ t.c. :

Φ^*T R Φ = Λ

dove Λ è una mat. diagonale contenente gli autovalori di R:

Λ = diag(λ₁, ..., λ_n)

se si moltiplicano ambo i membri a sinistra per Φ si ha:

R Φ = Φ · Λ

Φ = [φ₁ ... φ_n]

la quale corrisponde al seguente set di equazioni agli autovalori:

R · φ_k = λ