Riassunto esame Metodi statistici per l'economia, Prof. Parrella Maria Lucia, libro consigliato Statistica, Domenico Piccolo

MODELLO REGRESSIONE LINEARE SEMPLICE UNIVARIATO

SPECIFICAZIONE DEL MODELLO

Y_i = β₁ + β₂ x_i + ε_i

POPOLAZIONE

Y_i = β₁ + β₂ x_i + ε_i, n = 1, 2

CAMPIONE OSSERVATO

y_i = β₀ + β₂ x_i + ε_i, i = 1, 2, ... m

IPOTESI CLASSICHE

1. Y_i = β₀ + β₂ x₀ + ε_i, n = 1, 2, ... m; Stabile & deterministico tra X e Y
2. E(ε_i) = 0, i = 1, 2, ... m; Errori non correlati con la retta di regressione
3. Var(ε_i) = σ², i = 1, 2, ... m; Omogeneità della varianza degli errori
4. cov(ε_i, ε_j) = 0, ∀ i ≠ j; Errori non correlati tra di loro (cor = 0)
5. X è deterministico e noto senza errori di misurazione

Fig. 22.2. Assunzioni del modello di regressione: a) x_i fissi; b) X = x condizionati.

PROPRIETÀ RETTA REGRESSIONE

1) la retta è sempre passante e trova il min della funzione Q(β₁, β₂)

2) la retta passa sempre per il punto che contiene medie (_x, _y)

Infatti, dalla relazione β₀ = _y - β_{2 x}, si deduce anche _y = β₀ + β_{2 x}, che dimostra che il punto di coordinate (_x, _y) soddisfa l'eq. della retta di regressione => la retta passa per (_x, _y)

3) la retta è tale per cui la media delle y_i osculate coincide con la media delle y_i stimate

• La matrice X deve essere deterministica, cioè bisogna avere una conoscenza certa delle variabili esplicative per cui il modello presuppone che il campione osservato sia il risultato di un esperimento pianificato.

È bene sottolineare che vi sono molte situazioni reali in cui una o più assunzioni classiche potrebbero essere violate per ragioni oggettive o per questioni di misurazione.

A tal proposito, si pongono due questioni riguardanti:

1. la validità dei risultati in quanto:
   • se valgono le ipotesi classiche, le procedure inferenziali sono ottimali.
   • se una delle ipotesi non è verificata, il modello potrebbe ancora registrare una validità complessiva in termini di adattamento tra dati e schema teorico, ma il rigore delle proprietà sarà attenuato.
2. la necessità di rimuovere una o più delle ipotesi precedenti considerando:
   • modelli non lineari;
   • v.c. errori non omoschedastiche e/o tra loro correlate
   • variabili esplicative stocastiche

È quindi consigliabile controllare il rispetto delle ipotesi, prima di sviluppare calcoli, interpretazioni e utilizzazioni del modello.

Le variabili Y_i sono v.c. in quanto somma di una componente sistematica e della componente aleatoria ε_i:

Y = Xβ + ε

Dalla ipotesi classiche si ottiene facilmente:

• il valore atteso di tale variabile casuale:

E(Y) = Xβ

• la matrice delle varianze e covarianze

Var(Y) = σ²I_n

dove I_n è una matrice identità di ordine n

In forma vettoriale:

• E(Y_i) = β₀ + ∑^p_j=1 β_jx_ij
• Var(Y_i) = σ²
• Cov(Y_i, Y_j) = 0

Non distorsione di β̂

Si ha:

β̂ = (X^TX)^-1X^TY

Essendo:

Y = Xβ + ε

allora

β̂ = (X^TX)^-1X^T(Xβ + ε)

   = (X^TX)^-1X^TXβ + (X^TX)^-1X^Tε

   = β + (X^TX)^-1X^Tε

Si consideri il valore atteso di entrambi i membri:

E(β̂) = E(β + (X^TX)^-1X^Tε)

Ricordando che il valore atteso di una somma è uguale alla somma dei valori attesi, si ha:

E(β̂) = E(β) + E((X^TX)^-1X^Tε) = β + (X^TX)^-1X^TE(ε)

per la ipotesi 2, E(ε) = 0 quindi:

E(β̂) = β

MISURA DELLA BONTA DI ACCOPPIAMENTO (MODELLO LINEARE)

Un modello con coefficienti tutti significativi e residui comparativamente piccoli deriva da una retta di regressione che attraversa la nuvola di punti in modo da fornire una buona rappresentazione sintetica della relazione tra X e Y.

Il coefficiente di determinazione multipla R² è un indicatore capace di riassumere la capacità esplicativa del modello.

• Deriva dalla decomposizione devianza totale

SST = SSE + SSR

ed ha questa forma:

R² = ^SSR/_SST = 1 - ^SSE/_SST

• Proprietà di R²

1. 0 ≤ R² ≤ 1
2. Misura la percentuale di variabilità del fenomeno "spiegata" dalla retta stimata

MISURA DELLA BONTA DI ACCOPPIAMENTO (MODELLO MULTIPLO)

Analogamente al modello di regressione semplice, possiamo calcolare il coefficiente di determinazione multipla (R²), considerando la decomposizione della devianza totale

SST = SSE + SSR

come

R² = ^SSR/_SST = 1 - ^SSE/_SST

dove

SSR = ∑_i=1ⁿ(y_i - ȳ)²

SST = ∑_i=1ⁿ(y_i - ȳ)²

SSE = ∑_i=1ⁿε_i²

Se all'interno del modello non avete la costante dovete usare un'altra formula che si chiama R² non centrato, indicato con R²_nc e definito come:

R²_nc = 1 - ^{∑_i=1nε_i2}/_{∑i=1ⁿYi²}

TEST RESET:

A questo punto, nasce spontanea la domanda: come scegliere la forma funzionale corretta? Come possiamo sapere se la semplice forma lineare è appropriata o meno? Una possibilità è quella di partire dall’ipotesi nulla che la forma lineare è corretta e usare una procedura di test per valutare la plausibilità di questa ipotesi. È quello che fa il cosiddetto test di Ramsey o test RESET (Regression Specification Error Test).

• test di modelli multivariati (che Sui, t indti modlli multiati)
• Y = Xβ + E_s
• Ŷ …uove ŷ_m (m intier≥1)
• e ns elabora i sla Ŷ . 0 berave ŷ (e m intier≥1)
• representare la f. lin. libero della x. Penny aggiuanti I
• modelli multivati e
• modelli multivati un scettlete con generale non−liberetta secluta
• soun incoginsio:
• (en u regionne û’ del oŝ dueto ŷ_my_^³ + … + δ_m ŷ^m + E_s)
• ŷ−Xβ+δ₁ ŷ²+δ_i ŷ³+…+ ⊢_m ŷ^{^}+E_s

• H₀: δ₁ = δ₂ = ... = δ_m = 0
• H₁: H₀

Ubblorooo il sudto test F pn decide o naiaiute H₀ e,

• pgn valreu elti della vutentitlra F cononta, il TEST RESET w
• due le calbotne rintutniso l’ptputa la haventa, e che w con
• problemos da specihicazina fumontale nal modillo restitutice.