Econometria - i minimi quadrati generalizzati

Modulo II – Minimi quadrati

cioè diversa dalla (1.6.18) derivata nel caso di validità delle ipotesi classiche. Ma

quest’ultima matrice di dispersione è quella sulla quale si basa la dimostrazione

del teorema di Gauss-Markov (si veda il paragrafo 1.8). Ne consegue che quando la

matrice di dispersione dei residui è la (4.2.1) lo stimatore OLS non è più ottimo.

L’intuizione sottostante a questo risultato è semplice: lo stimatore OLS non è più

efficiente in quanto non sfrutta tutta l’informazione (teoricamente) disponibile. In

particolare, esso ignora la conformazione della matrice di covarianze (4.2.1), e

risulterà quindi più disperso di uno stimatore che invece ne tenga conto.

La (4.2.2) indica anche che lo stimatore campionario della matrice di covarianze

( )

−

σ ′

dei residui non è più appropriato, perché non riflette la struttura della

1

2 X X

matrice di covarianze vera (4.2.2). Come abbiamo visto nel capitolo 2, tutta

l’inferenza statistica sui parametri del modello utilizza una stima della loro matrice

di dispersione e di conseguenza in presenza di residui non sferici le inferenze

effettuate utilizzando la matrice di varianze e covarianze “standard” non sono

valide. In altre parole, le di Student e le di Fisher fornite dai software

t F

econometrici potrebbero fornire risultati fuorvianti (cioè, a seconda delle

circostanze, spingerci a non rifiutare un’ipotesi nulla falsa o a rifiutare una nulla

vera).

Le conseguenze dell’ipotesi (4.2.1) sullo stimatore OLS sono quindi piuttosto

gravi. Vediamo ora come costruire uno stimatore generalizzato che, tenendo conto

della (4.2.1), ci consenta di superare questi problemi.

Derivazione dello stimatore generalizzato

Se valgono le ipotesi (4.2.1), le prime due delle (1.6.10) e la (1.4.9) è possibile

determinare un nuovo stimatore che segue il criterio dei minimi quadrati, detto

stimatore dei minimi quadrati generalizzati .

6

Per ottenerlo è sufficiente far ricorso al teorema XIX-1.10, che consente di

fattorizzare la matrice secondo la forma

V = ′ (4.2.3)

V PP

dove la matrice è un’appropriata matrice quadrata, anch’essa di ordine dalla

P n;

(4.2.3) si trae, con due inversioni,

O di Aitken; in lingua inglese: Generalized Least Squares, GLS. Riportiamo per comodità

6

del lettore le quattro ipotesi alla base dello stimatore GLS:

1) X matrice di costanti

2) E(u) = 0 σ

3) Cov(u) = V

2

≠

4) det(X’X) 0 4-5

Modulo II – Minimi quadrati

′) =

(

-1 -1

P V P I

n

l’invertibilità di essendo assicurata dallo stesso teorema XIX-1.10. Se

P

premoltiplichiamo il modello (1.4.4) per otteniamo

-1

P

= β +

-1 -1 -1

P y P X P u

cioè = β + (4.2.4)

y X u

∗ ∗ ∗

avendo posto = = =

, , (4.2.5)

-1 -1 -1

P y y P X X P u u

∗ ∗ ∗

Il vantaggio delle (4.2.5) è che in seguito alla loro applicazione i residui del modello

(4.2.4), specificato in termini di variabili trasformate, rispettano le ipotesi

standard: ~ ~

= =

− 1

E (

u ) E ( P u ) 0

* ′ ′ ′

~ ~ ~

= = σ = σ

− − − −

1 1 2 1 1 2

Cov ( u ) E

[ P u u (

P ) ] P V ( P ) I

* n

dove si è fatto uso della (4.2.3). Lo stimatore dei minimi quadrati ordinari dei

parametri della (4.2.4) è

~ (4.2.6)

~ ~ ~

β = ′ ′ = ′ ′ ′ ′ = ′ ′

− − − − − − − − −

1 1 1 1 1 1 1 1 1

( X X ) X y [ X ( P ) P X ] X ( P ) P y ( X V X

) X V y

* * * * *

per ottenere il quale abbiamo invertito i due membri della (4.2.3). Il vettore

aleatorio (4.2.6) è lo stimatore dei minimi quadrati generalizzati; esso è BLU

perché ottenuto tramite il criterio dei minimi quadrati ordinari operando su un

modello, il (4.2.4), che rispetta le ipotesi standard. La matrice di dispersione di tale

stimatore è ~ (4.2.7

β = σ ′ = σ ′

− − −

2 1 2 1 1

Cov ( ) ( X X ) ( X V X )

* * *

σ

mentre la stima non distorta di ha l’espressione

2

′

ˆ ˆ

u u ′

σ = = − β − β − =

2 * * ( y X ) ( y X ) /( n k )

− * * * * * *

n k

* (4.2.8)

′ ′ ′

= − β − β − = − β −

− − −

1 1 1

( y X ) V ( y X ) /( n k ) ( y V y X V y ) /( n k )

* * *

che si ottiene sfruttando la (4.2.7).

Nelle applicazioni l’utilità dello stimatore dei minimi quadrati generalizzati è

notevolmente limitata dalla necessità di conoscere . Nel paragrafo successivo

V

vedremo come viene risolto il problema nel caso particolare di eteroschedasticità

dei residui. 4-6

Modulo II – Minimi quadrati

4.3 Eteroschedasticità dei residui

Nel modello lineare generale

= β + β + + β + (4.3.1)

y x x … x u

t 1 1t 2 2t k kt t

sono state fatte sinora le ipotesi deboli standard ≠

 0 t s (4.3.2)

~ ~ ~

= ∀ ⋅ = ∀

, 

E (

u ) 0 t E (

u u ) t, s

σ =

t t s 2

 t s

Nelle variabili economiche, tuttavia, accade spesso che la variabilità non sia

costante nel tempo, ma crescente o più raramente decrescente, oppure ancora

crescente e poi decrescente a tratti. Se una tale situazione vale per la (4.3.1) e se la

componente sistematica (la combinazione lineare delle ) non rappresenta

x

sufficientemente questa variabilità non costante, tale tipo di variabilità si

trasferisce sui residui per cui la seconda della (4.3.2) si trasforma nella

u t ≠

 0 t s (4.3.3)

~ ~

⋅ = 

E (

u u ) σ =

t s 2

 t s

t

caratterizzandone la eteroschedasticità.

In tale caso l’analisi svolta nel paragrafo precedente mostra come non possano

essere più utilizzati gli stimatori dei minimi quadrati ordinari, per i quali è

necessario che valgano le (4.3.2). Nel resto del paragrafo mostriamo come costruire

stimatori GLS nel caso di eteroschedasticità e poi richiamiamo alcuni test

comunemente utilizzati per verificare l’ipotesi di omoschedasticità.

La stima dei minimi quadrati ponderati (WLS)

Viene naturale ipotizzare che l’eteroschedasticità dei residui sia causata da alcune

variabili note che indichiamo con . Queste possono essere, tutte o in

z , z , …, z

1t 2t st

parte, anche variabili esplicative del modello (4.3.1). Sotto l’ulteriore ipotesi che

σ sia funzione crescente (l’adattamento al caso decrescente è banale) di queste

2

t

variabili, possiamo porre

σ = α ⋅ α ⋅ ⋅ α (4.3.4)

2 exp( z ) exp( z ) ... exp( z )

t 1 1

t 2 2 t s st

dove la crescenza è rappresentata mediante l’esponenziale per comodità di sviluppo

analitico. Sempre per comodità è conveniente specializzare ulteriormente la (4.3.4)

senza che le ipotesi addizionali condizionino troppo le situazioni reali.

=2 =1 ∀t,

Poniamo, dunque, in primo luogo , per cui la (4.3.4) diventa

s z

1t

σ = α ⋅ α = σ ⋅ α (4.3.5)

2 2

exp( ) exp( z ) w 2

t 1 2 2 t t

avendo posto 4-7

Modulo II – Minimi quadrati

σ =exp(α

2 )

1

=lnw

z

2t t

α =2

In secondo luogo poniamo , per cui in conclusione si ha

2 σ = σ ⋅ (4.3.6)

2 2 2

w

t t

= ∀t

Se , , si ritorna all’ipotesi standard di omoschedasticità.

w 1

t

Sotto l’ipotesi (4.3.6), per eliminare l’eteroschedasticità basta dividere il modello

(4.3.1) per w t y x x x u

= + + + +

t 1

t 2 t kt t

b b ... b (4.3.7)

1 2 k

w w w w w

t t t t t

che si può stimare con gli OLS; infatti

 

~

u 1 ~

  = = ∀

t

E E (

u ) 0 t

  t

 

w w

t t ≠

 0 t s

~ ~

  

u u 1

  ~ ~

⋅ = ⋅ = 1



t s

E E (

u u )

  σ = σ =

2 2 t s

⋅ t s

  

w w w w t

2

w

t s t s t

avendo fatto uso della (4.3.6).

La stima effettuata in questo modo è detta dei minimi quadrati ponderati o

WLS, poiché ogni elemento -esimo del campione viene pesato con il fattore .

t 1/w t

Test di omoschedasticità

Illustriamo ora, senza la dimostrazione che può essere trovata negli articoli

originali, due test che sono comunemente usati per verificare l’eteroschedasticità

dei residui. Nel primo, dovuto a Goldfeld e Quandt [1965], l’ipotesi nulla è quella di

omoschedasticità σ = σ ∀t (4.3.8)

2 2

H :

0 t

e il test viene sviluppato secondo i seguenti passi

1) si ritiene per ipotesi che una sola variabile sia responsabile

z

t

dell’eteroschedasticità;

2) si ordinano le osservazioni di secondo la dimensione dei valori di ;

7

y z

t t

In modelli stimati su serie storiche la necessità di riordinare i dati secondo i valori della

7

variabile ritenuta responsabile dell’eteroschedasticità può sconvolgere il naturale

ordinamento cronologico delle osservazioni e quindi alterare la dinamica espressa dai dati.

4-8

Modulo II – Minimi quadrati

3) si omettono osservazioni centrali;

c

4) si stimano una regressione sui primi dati ed un’altra sugli

(n−c)/2 (n−c)/2

ultimi dati, con ;

(n−c)/2>k

5) si calcolano le devianze e dei residui nelle due regressioni, per le quali,

S S

1 2

sotto , è

H

0 2 2

S S

∼ χ ∼ χ

;

2 2

1 2

− − − −

σ σ

( n c ) / 2 k ( n c ) / 2 k

2 2

e si costruisce la statistica 2

S ∼

2 (4.3.9)

F − − − −

( n c ) / 2 k , ( n c ) / 2 k

2

S 1

con la quale si esegue un normale test della di Fisher.

F

Il secondo test è dovuto a Breusch e Pagan [1979] e presuppone che sotto

σ ≠ σ

l’alternativa valga una relazione del tipo di (4.3.4)

2 2

H :

1 t

σ + α + + α

=

2 h(α z z … z )

1 1t 2 2t s st

t =1

dove è una funzione indeterminata poiché il test ne è indipendente. Se ,

h z

1t

l’ipotesi nulla α = α = = α =

H : … 0

0 2 3 s

suggerisce omoschedasticità poiché in questo caso

σ = = σ = costante

2

2 h(α )

1

t

I passi da percorrere in questo secondo test sono i seguenti:

1) si stima il modello (4.3.1) con gli OLS e si calcolano i residui stimati ;

û t

2) si calcolano le quantità 2

ˆ

n u

1 ∑

σ = ∀t

2 2 t

ˆ u

ˆ σ

t 2

ˆ

n =

t 1

σ σ

3) si utilizza la come variabile proxy di e quindi si stimano i

2 2 2

ˆ ˆ

u /

t t

parametri della regressione 8

Per questo motivo in tal caso al test di Goldfeld e Quandt se ne preferiscono altri, quali

quello di Breusch e Pagan [1979], esposto più avanti.

σ̂ 2

La divisione per la costante serve unicamente a semplificare le elaborazioni

8

metodologiche contenute nel lavoro originale di Breusch e Pagan. 4-9

Modulo II – Minimi quadrati

2

ˆ

u α + α + + α +

= (4.3.10)

t z … z v

1 2 2t s st t

σ 2

ˆ n

∑

4) si calcola la devianza residua 2

v

ˆ t

=

t 1

5) sotto la , differenza tra devianza totale e devianza residua della

H SSE

0

(4.3.9), è tale che ~

S S E ∼ χ (4.3.11)

2 −

s 1

2

per cui si può effettuare un comune test del chi quadrato per la verifica

dell’omoschedasticità.

Il significato intuitivo del test è questo: se sussiste l’eteroschedasticità, e se

questa è effettivamente spiegata dalle variabili prescelte, allora

s-1 z , …, z

2t st

queste stesse variabili forniranno una buona spiegazione dell’andamento della

σ nella (4.3.10), per cui la devianza spiegata della (4.3.10) è abbastanza

2 2

ˆ ˆ

u /

t

elevata e la statistica (4.3.11) è maggiore del valore soglia, cadendo quindi nella

χ

zona di rifiuto del test del .

2

Questo fondamento intuitivo è alla base di una formulazione alternativa del

test, proposta da Koenker [1981], che risulta di più rapida implementazione in

σ̂

quanto prescinde dal calcolo di . Per effettuare il test basta infatti stimare con i

2

minimi quadrati il modello

= α + α + + α +

2

ˆ

u z … z v

1 2 2t s st t (4.3.12)

t

Si dimostra che la (4.3.11) può in tal caso essere espressa come:

∼ χ (4.3.13)

2 2

nR −

s 1

dove è il coefficiente di determinazione non centrato (1.5.8) della (4.3.12).

2

R

L’ipotesi di omoschedasticità viene quindi respinta se le variabili prescelte

z

jt

( spiegano bene l’andamento del quadrato dei residui.

j = 2, ..., s) Osservazione 4.3 – La (4.3.12) è un esempio di regressione ausiliaria,

intendendosi con questo termine una regressione priva di diretto

significato economico, che viene stimata generalmente usando

grandezze derivate dalla stima di un modello econometrico (ad esempio,

i residui OLS) per permettere o semplicemente per facilitare il calcolo

delle statistiche di determinati test. La teoria moderna della verifica

delle ipotesi utilizza largamente le regressioni ausiliarie. 4-10

Appunti di Econometria per l'esame del professor Carlucci sui minimi quadrati generalizzati. Gli argomenti trattati sono i seguenti: l'ipotesi di sfericità dei residui, lo stimatore dei minimi quadrati generalizzati, la proprietà dello stimatore OLS in presenza di disturbi non sferici, la derivazione dello stimatore generalizzato, l'eteroschedasticità dei residui, la stima dei minimi quadrati ponderati (WLS), il test di omoschedasticità, lo stimatore WLS come stimatore dei minimi quadrati generalizzati.