Matrici di proiezione

Matrici Di Proiezione

Una matrice quadrata P_X è detta "matrice di proiezione" se facendo il suo quadrato ottengo la matrice di partenza.

P_X = X(X^'X)^-1X^'

M_X = I_m - P_X

(m x m)

Proprietà

1. Simmetria: P_X = P_X^' e M_X = M_X^'

2. Idempotenza: M_X * M_X = M_X e P_X * P_X = P_X

   (X­(X'X)^-1X)(X'X)^-1X)=X(X'X)^-1X=P_X

3. Ortogonalità: P_X * M_X = 0

   Perché P_X(I - P_X) = P_X - P_X * P_X = 0

   = P_X per idempotenza

4. r (I - P_X) = k → non pieno, non invertibile

5. P_XX = X(X^'X)^-1X^'X = X

   M_XX = (I - P_X) * X = X - X = 0

6. P_XY = X(X^'X)^-1X^'Y

   = X(X^'X)^-1X^'[Xβ]

   = X(X^'X)^-1X^'Xβ = Xβ

   Allora Ŷ = P_XY = Xβ

7. û = ŷ - ŷ = 0

   û = Y - P_XY

   - Y (X(X^'X)^-1X^'Y)

   û = M_XY

   dove û = M_XY

   ū = M_X(Xβ + μ)

   M^XXM^Xμ

Matrici di Proiezione

Una matrice quadrata P è detta "matrice di proiezione" se facendo il suo quadrato ottengo la matrice di partenza

_PX = X(X'^-1)X' _MX = I_m - _PX

Proprietà:

1. Simmetria: _PX = _PX'   _MX = _MX'

2. Idempotenza: _MX² = _{M   PX}² = _PX

   X(X'X)^-1'X' X(X'^-1)(X)^-1 = _PX

3. Ortogonali: _PXMX = 0   perché

   _PX(I - _PX) = _PX - _PX² = 0

   =_PX per idempotenza

4. (_PX - I_m) → non pieno, non invertibile

5. _PXX =

   X(X'X)^-1'X' X - X

   _MXX = (I - _PX) X = X -

   X (X(X')^-1'X' X)

   = X - X = O

6. _PXY =

   X(X'X)^-1 X' Y

   - X (X'X)^-1 X'[Xf]

   = X(X'X)^-1 X = X

   = X 

   P_X migliore spiegazione di Yconoscendo la X, quindi (P_X)mi dà la migliore stimadi Ȳ, partendo da X

7. ȗ = Ȳ - [ ]

   u_MX

   = Ȳ − _PXY

   - Y(X(X')&sup>-1;> X′Y

   ȗ = [I − X(X'X).&sup>-1;]y ←

   = û = _MXy

     &opodopertenea ψH,_{XIU> ψ&UMU,- -}

    _MXX[[β] + [u]]

3) _Y ÿ X â ê con ÿ

-

Y = R_XY

û - M_XY

-

ÿ R_XY

ÿ - M_XY

-> ÿ = R_XY + M_XY

CORRETTEZZA CON _DISTRIONALE DELLO STIMATORE DELLA VARIANZA DEI RESIDUI

^_aZ è stimatore con distrub. della non ap_?? errori della popolazione?

b

-> b ¾ _b = ¾ ^¸b =

Z = S²ß u

^{K-1 u}

N_2bBREG

E(D²_u) = S²_??I

Ricordando che M_Xù = ÿ

² _ù = u M_^?M_xu

-

m-k-1

con M_x mutuare

Ricordando ^M

e ^t

_M

M_u '1

M_x M_x

Proprietà della traccia:

tr(^* a)

->

u

tr c(A _- L L)

MODELLO PARTIZIONATO

Dal modello di regressione lineare multipla in forma compatta

la partiziono in:

X = [X₁ X₂] X₁ k₁ sottometrici; K₁ + K₂ = K

m₁ x k₁ m₂ x k₂ (tot. regressori)

beta = [beta₁ ] vettore colonna riferita ai K₁ e K₂ regressori

Y = X₁beta₁ + X₂beta₂ + u

Riscrivo y = hat{y} + hat{u}

gamma = X₁hat{beta}₁ + X₂hat{beta}₂ + M_yy

hat{y} = P_Xy

hat{u} = M_Xy

Considero M_X2 = (I_m - P_X2 )

può moltiplicare y per X₁ M_X2

X₁ M_X2 y - X₁ M_X2 X₂hat{beta}₁ + X₁M_X2 X₂hat{beta}₂ + X₁

(1) M_X2 X₂ =0 perché

[ I_m (X₂(X₂X₂)^-1X₂^T) ]

X₂ - X₂(X₂X₂)^-1X₂^T X₂ =

X₂^TX₂ =0

1. X₁ M_X = 0 perché

mi concentro su M_X2 M_{X = [ Im - PX2 ]}

M_{X = M} (P_X2 M_X)

M_{X = MX2} contiene X

Simmetrico contiene X

span{L} _{T - PX} X = X - P_JX

(M_X2X₁) = hat{beta}(X₁M_X2^-1 )

a est Martinore OLS équia pon vedere come stima o 2 stadi

(f₁) X₁ riporta X₂

(&) USo X nei due come regressori per A

hat{beta} = (X^2y_t) 2y con X₁ M_X X₂ parte di X non spiegata da X₂

Modello parzializzato con 3 variabili, ricerca β₃ (simulazione)

Dato il modello di regressione multivariata y = β₀ + β₁X₁ + β₂X₂ + β₃X₃ + u

Considera la forma compatta y = Xβ + u parzializzata nel seguente modo:

X = [X₁ X₂]

k₁ + k₂ k tot. regressori con Z

β = [β₂ k₁] [β₃ k₂]

y = Zβ + X₃β₃ + u

visto che y - ŷ ≠ ŷμ questa può riferirsi a:

Ŷ = μX,

Y = Źβ₂ + ŌX₃β₃ + μX

Considera M₂ = I_m - P₂ = I_m - (X₂ X₂ X₂)

e pre-moltiplica

X₃M₂ ad y

X₃M₂y - X₃M₂X₂β₂ + X₃M₂X₃β₃ + X₃M₂μX

M₂ = 0 perché

(I_m - P₂) 2 - 2P₂ = 2 2 2 = 0

X₃M₂μX = 0 perché

Impatto di una variabile depurata da tutte le altre

- (X₁

Lo stimatore OLS può essere visto come un sistema a 3 parti:

1. 1) X rispetto Z
2. 2) Uso i residui come regressori per Y

β₃. (Z Z) con X₂ = (M₂