Appunti e slides integrate di Metodi statistici per il comportamento economico (parte 1)

Appunti integrati alle slides di modelli statistici di comportamento economico

Professore: Ignazio Drudi A.S. 2020/2021

Smontiamo il modello OLS: OLS e GLS

Conosciamo il modello di regressione lineare semplice in questa forma: \( Y = \beta_0 + \beta_1X \), ma per comodità utilizzeremo la forma \( Y = \beta_0 \), ossia una retta orizzontale; ci sono due osservazioni da fare:

• \(\beta_1 = 0\);
• Elimino la variabile indipendente per comodità \(\rightarrow E[Y] = \beta_0\).

La stima che minimizza la somma dei quadrati degli scarti è la media di \( y \). Se risolviamo il problema di ottimizzazione, derivo per \(\beta_0\) e ottengo che \(\hat{\beta_0}\) è la media. Questa stima di \(\beta_0\) è "BLUE", ossia "Best Unbiased Linear Estimator", quindi la media è il miglior stimatore non distorto lineare del parametro.

Questa conclusione deriva dal teorema di Gauss-Markov, secondo cui un modello lineare in cui le componenti di errore hanno valore atteso nullo e sono incorrelati e omoschedastici, gli stimatori lineari corretti più efficienti sono gli stimatori ottenuti con il metodo dei minimi quadrati.

Tuttavia, questo metodo si basa su tali ipotesi stringenti che devono valere:

• Modello lineare (o al massimo linearizzabile);
• X e Y sono frutto di osservazioni indipendenti;
• X è di rango pieno [Se r = min(m,n) si dice che la matrice ha rango pieno];
• I residui hanno media = 0;
• I residui sono omoschedastici e incorrelati;
• X è non-stocastica (quindi è probabilistica) non affronteremo questa ipotesi.

La regressione va rappresentata graficamente in uno spazio tridimensionale, visto che la terza dimensione è data dalla parte stocastica. Ha una componente stocastica, perciò ogni osservazione ha una sua distribuzione di probabilità. Perciò ogni residuo ha la sua distribuzione: tutte queste distribuzioni, per ogni i, devono avere la stessa varianza. Tutte queste normali devono avere la stessa varianza e, siccome la media è fissata, devono essere tutte uguali.

Concetti di omoschedasticità e incorrelazione

Omoschedasticità = modo con cui ciascun individuo devia dalla legge deterministica generale è determinata da un processo stocastico (è come se ogni volta estraessi un numerino per ogni individuo).

Incorrelazione = l’insieme di quelle normali può essere "affettato" e noi otteniamo sempre la stessa curva; quando le mettiamo insieme queste non possono essere marginalizzate, ossia ogni coppia di variabili è esattamente uguale alle due variabili. Dobbiamo immaginare sempre che dietro a ogni individuo, ognuno ha i propri parametri: esiste il mio sigma, esiste il suo sigma e così via. L’operazione dei minimi quadrati ordinari (MQO) vale se il mio sigma è uguale al suo, cioè le nostre distribuzioni sono uguali. Ma sappiamo che questo è impossibile nella realtà.

Specificità del modello

Considero n individui su cui è misurata la variabile Y (acquisto di pane) e vogliamo una misura sintetica che descrive il fenomeno "acquisto di pane". La misura individuale è data da \( Y_i = \mu + e_i \), quindi il consumo di pane ha una componente comune a tutti (in media mangiamo tutti la stessa quantità di pane) e che modifica ogni quantità, perché siamo diversi.

Come costruiamo il modello?

• HP: In assenza di variabilità tutti acquisteremmo la stessa quantità di pane; noi vogliamo conoscere questa quantità fissa.
• Quando utilizziamo questo modello, noi lo inseriamo nei dati: osserviamo quanto pane mangia ognuno e osserviamo quantità diverse, ovviamente: ognuno si discosta da quella fissa quantità secondo una qualche "legge".
• Capire che non è sufficiente osservare il comportamento di UN individuo, ma osservando il comportamento di più individui e costruendo ipotesi sulla parte variabile, stimiamo la quantità fissa. Quindi la tendenza comune si manifesta in modo variabile; se vogliamo quantificare la tendenza comune non osservabile, dobbiamo immaginare qualcosa sulla sua manifestazione, cioè sulla sua variabilità. Se il modello che immaginiamo per la variabilità è vero, allora abbiamo un modo per arrivare alla quantità comune incognita.

Separazione del modello

Abbiamo iniziato a separare questo modello in due modelli: uno deterministico (che ci interessa meno) e uno stocastico (la parte non spiegata è quella che ci interessa di più). Abbiamo spostato il focus dalla relazione tra le variabili sulla parte non spiegata (quella variabile): se abbiamo ipotesi vere sulla parte non spiegata (sulla variabilità), qualunque essa sia la legge, noi siamo in grado di tornare indietro e rendere corretta la misura della parte deterministica. Il problema è che quando vai a quantificare i parametri di quel modello, cos’è che ti rimane di non spiegato? Se non abbiamo una legge che spiega "il non spiegato" (della parte deterministica), siamo in grado di trovare una stima buona per la parte di relazione deterministica.

Meccanismo della tombola

• Ognuno "sa" quanto pane deve acquistare, però data questa quantità.
• Quando deve comprare il pane, Tizio si porta dietro un sacchettino di numeri.
• Il sacchettino contiene numeri positivi e negativi (anche zero).
• Al momento dell’acquisto (Tizio sa che deve comprare 100), ognuno estrae un numero dal sacchetto (es. esce +2 o -3) e somma algebricamente il numero estratto alla quantità fissa.
• Compra la quantità data dal risultato della somma/sottrazione (es. 100+2=102 oppure 100-3=97).

Allora il modello della variabilità è l’insieme delle ipotesi sulla composizione del sacchetto (= distribuzione stocastica di ogni individuo); poiché si parla di estrazione, saranno ipotesi sulla distribuzione stocastica che origina il sacchetto.

Ipotizziamo

• Il parametro di popolazione sia "fisso e comune".
• I residui abbiano media 0, somma dei tombolini = 0.
• I residui siano omoschedastici.
• I residui siano incorrelati.

Esempio: violazione delle ipotesi di omoschedasticità e incorrelazione

• Abbiamo 3 soggetti (A; B; C) tutti con lo stesso sacchetto con i seguenti tombolini [-1,0,1]; stiamo ipotizzando i parametri della distribuzione individuale. Se osserviamo un atto di acquisto, le combinazioni possibili (dei residui) sono e la somma delle deviazioni sarà: il valore che appare più frequentemente è lo zero, il quale ha la probabilità maggiore (7/27).
• Se invece A = B = [-1,0,1] e C = [-5,0,5], cosa succede? Qui non abbiamo più un valore più probabile, lo zero (valore buono) è a pari merito con altri valori non buoni (-5 e 5). Non è più come prima perché il sacchetto di C ha numeri più grandi e modifica la regolarità degli altri due. Problema di eteroschedasticità: non va bene, cade una delle condizioni perché non abbiamo più il BLUE: qui C conta molto di più rispetto ad A e B (manca l’effetto di compensazione).

L’eteroschedasticità dà un peso diverso alle osservazioni degli individui, in particolare dà un peso maggiore a chi è più variabile. Uno dei modi per affrontare questo problema è dare un peso "reciproco", rispetto alla variabilità, in modo da riportare la situazione in equilibrio. C peserà quindi 5 volte meno (divido per 1/5) e quindi torniamo al caso a). Noi quindi pesiamo i dati in modo inverso rispetto alla loro variabilità individuale. Questo genera un’altra tecnica (non più OLS = Ordinary Least Squared) chiamata GLS = Generalized Least Squared, che è una generalizzazione dell’algoritmo dei MQ. Generalizzazione = assegno dei pesi diversi ai punti del piano a seconda della loro variabilità [i residui dei più "variabili" valgono di meno]. La retta di regressione passa più vicino ai punti meno variabili e più lontano dai punti più variabili.

Modello OLS e condizioni ipotetiche

Quindi il modello funziona se la composizione del sacchetto, oltre ad avere media = 0, è anche "simile", cioè ha la stessa varianza (omoschedasticità).

Per quanto riguarda l’incorrelazione, i tre soggetti dovrebbero estrarre i numeri in modo indipendente, senza farsi influenzare dagli altri. Se ad esempio il Sig. B "copia" A, cioè B non estrae (estrazione di B è totalmente dipendente dalla prova di A), ma usa il tombolino di A, succede quanto segue: abbiamo molte meno combinazioni perché due delle colonne sono uguali; i valori più probabili non sono quelli buoni e la stima è distorta!

In sintesi, OLS è un modello piuttosto particolare, spesso non abbiamo alternative ad accettare quelle ipotesi, tuttavia dobbiamo essere coscienti della loro particolarità: se consideriamo la prima "il parametro è fisso e comune", spesso ce la caviamo sostenendo che se così NON è allora la popolazione è eterogenea, cioè non è un collettivo, poiché ci sono degli "infiltrati".

Verifica delle ipotesi

Peraltro, tutti i test che verificano/falsificano questa ipotesi si basano proprio sull’assunzione che vorremmo verificare. In pratica cerchiamo di attenuare questo problema scegliendo un algoritmo di stima che garantisce che i residui osservati (uno per ogni unità, non quelli di ciascuna unità) abbiano somma pari a 0. A volte devo accettare le sue ipotesi ma, quando possiamo, dobbiamo verificarle.

Per quanto riguarda l’ipotesi di omoschedasticità e incorrelazione, la diagnosi è difficilissima, ma una volta riconosciuto il tipo di malattia, la terapia è facile. Ci occuperemo della terapia in seguito, ma la cosa da tenere a mente è che ci sono molte situazioni in cui sappiamo già da prima che la malattia c’è, cioè che il modo in cui le unità si comportano o si "fanno" osservare implica una diversa variabilità individuale (eteroschedasticità) e/o una correlazione tra le osservazioni (correlazione): in questi casi la malattia non si può ignorare.

Esempio di analisi di un dataset

Osservo 6 imprese in 4 anni: isolo il valore dei costi e il valore della produzione, perché voglio capire la relazione tra i costi (Y) e il livello di produzione (X). Dalla teoria economica sappiamo che questa è una relazione non lineare: per linearizzarla passiamo ai logaritmi. In ogni riga abbiamo un’unità statistica (l’impresa) e in ogni colonna abbiamo il tempo.

I dati

Stiamo stimando un modello che lega i costi alla produzione retta di regressione OLS: abbiamo una prima stima del modello quindi possiamo stimare i residui dell’impresa \( i \) al tempo \( t \): \(\hat{e}_{it} = Y_{it} - \hat{\beta}_0 - \hat{\beta}_1X_{it}\). Abbiamo 6x4=24 residui, ma questi 24 residui possono essere raggruppati per individuo (ogni impresa ne ha 4) o per anno (ogni anno ne ha 6). Ragioniamo sui residui perché è l’unica parte stocastica che ci è rimasta: ci interessa quel pezzo di \( Y \) che ha una distribuzione di probabilità (cioè il residuo).

Dai residui possiamo stimare le varianze individuali e correlazioni dobbiamo ipotizzare una "forma" per varianze e covarianze.

Ipotesi

• Per le varianze individuali: costanti nel tempo;
• Per le correlazioni: processo AR(1).

Sotto queste ipotesi è possibile vedere da cosa è caratterizzata la parte stocastica della relazione. Sotto queste ipotesi la stima è possibile mediando (rispetto al tempo) i quadrati dei residui per ogni individuo, varianza di ogni individuo: \[ \hat{\sigma}_i^2 = \frac{1}{T}\sum_{t=1}^T \hat{e}_{it}^2. \]

Calcolando l'autocorrelazione con lag = 1: \[ \hat{\rho}_{i} = \frac{\sum_{t=2}^T \hat{e}_{i,t} \hat{e}_{i,t-1}}{\sum_{t=1}^T \hat{e}_{i,t}^2}. \]

Detto a parole

Abbiamo ignorato il fatto che i dati derivino da un’osservazione ripetuta sulle stesse imprese (colori diversi per imprese diverse). A questo punto io ho una stima, per ogni impresa e per ogni anno ho un residuo che deriva dalla stima generale.

Visto che abbiamo più osservazioni sullo stesso individuo e più osservazioni sullo stesso tempo di più individui, possiamo verificare che le distribuzioni di ogni impresa abbiano stessa varianza e siano incorrelate: questo è possibile perché per ogni individuo abbiamo più osservazioni e possiamo stimare una varianza. In più, avendo più osservazioni per ogni anno, possiamo anche stimare la correlazione tra più individui.

Per stimare varianze e covarianze dobbiamo fare ipotesi diverse dagli OLS, per esempio per le varianze individuali immaginiamo che i dati siano costanti nel tempo così avremmo 4 osservazioni ripetute dello stesso fenomeno; avendo 6 individui, esiste correlazione temporale "costante" (anche se non va bene) tra gli individui. Abbiamo aggiunto una dimensione, quella temporale, e questo ci permette di distinguere gli effetti individuali (?) e gli effetti temporali (costanti tra gli individui).

Tabella 1 - y* = y stimata, calcolata sul nostro modello

Interpretazione delle tabelle

Notiamo che l’impresa 1 ha una varianza piuttosto diversa dalle altre. Scopriamo che le varianze per impresa sono diverse, cioè c’è eteroschedasticità (significatività test F per l’uguaglianza delle varianze):

Tabella 2 - Test F overall

Autocorrelazioni tra residui

E che le autocorrelazioni tra i residui della stessa impresa sono significativamente diverse da zero:

• Impresa 1: 0,99
• Impresa 2: -0,95
• Impresa 3: -0,92
• Impresa 4: -0,62
• Impresa 5: -0,25
• Impresa 6: -0,95

Fine esempio

Ripasso del modello OLS (rappresentazione formale)

Il modello OLS rappresenta la relazione tra X e Y, che è data dalla retta blu. Abbiamo una distribuzione normale che governa il modo con cui ogni individuo si allontana dalla media che sta nella retta blu (ognuno ha la propria variabilità).

Consideriamo n individui su cui è misurata una variabile Y. Abbiamo numerose possibilità di descrivere il collettivo, ad esempio la media. La misura individuale è data da \( Y_i = \mu + e_i \).