Appunti di Modelli statistici (Analisi statistica multivariata)

Modelli Statistici - Statistica Multivariata

Lezione 1

• Un modello è una rappresentazione semplificata della realtà.
• Un modello deve essere:
  • sufficientemente semplice e essere interpretabile ed utilizzabile
  • non troppo semplice e rappresentare adeguatamente la realtà

Costruzione di un modello:

1. Specificazione del modello
2. Stima del modello
3. Verifica e diagnostica del modello
4. Utilizzo del modello

Esempio: Costruzione del modello di regressione lineare semplice

1. Specificazione del modello:
   • VAR e spiegative esogene
   • (y = f (x1, ..., xn) + e) + (VAR errore intrinseca al modello)
   • VAR risposta = (componente deterministica + del modello)
2. La specificità, così, costruire un modello di regressione lineare semplice.
3. Il modello dipende:
   • dalla relazione tra le due variabili x e y
   • dagli metodologie di raccoglita dati (scelta non tramite alcuna differenziazione tra le variabili)
4. In questo caso supponiamo che i dati siano in relazione lineare tra loro.
5. In questa fase adotto un approccio condizionale: il modello viene specificato basandosi solamente sulla realizzazione della variabile esplicativa, ovvero dal valore assunto dalla esplicativa preso dal dataset considerato.

Stima del modello:

1. Cosa devo stimare?
   1. La componente deterministica specificazione a meno di uno o più parametri
   2. La componente erratica, anch'essa può dipendere da uno o più parametri

Verifica e diagnostica del modello

1. Bondà del modello
2. Significatività dei coefficienti di regressione (= 3 B; nulli che accettano H0)
3. Ipotesi residui (teoria errori)

n = nr osservazioni

i = 1, ..., n

REGRESSIONE

UNIVARIATA

• una sola var risposta

semplice

• una var esplicativa

Y_i = E(X_i, β) + ε_i

multipla

• più var esplicative

Y_i = E(X_i1, ..., X_ip, β) + ε_i

MULTIVARIATA

• più variabili risposta

semplice

• una var esplicativa

Y_i = f(X_i, β) + ε_i

Y_im = f_m(X_i, β) + ε_i

multipla

• più var esplicative

Y_i = f(X_i1, ..., X_ip, β) + ε_i

Y_im = E(X_i1, X_ip, β) + ε_im

Modelli di regressione sulla base del legame funzionale

1. Lineare
   • Quando la risposta è combinazione lineare dei parametri

es: Y_i = β₀ + β₁X_i + ... + β_pX_ip + ε_i

2. Linearizzabile
   • modello che mediante opportune trasformazioni può essere reso lineare.

es: Y_i = β₀X_i^β1ε^ε

log Y_i = log(P₀) + β₁logX_i + log ε_i

• Ottengo un modello infatti lineare ponde le uguaglianze

Y_i^* log y_i^* = log β₀^* β₁^* log X_i^* ε_i^* = log

Averemo che Y_i^* = β₀^* + β₁^*X_i^* + ε_i^*

3. Non Lineari
   • modelli non lineari e non linearizzabili

(*) RISOLVO IL SISTEMA

1. ∑(y_i - β₀ - β₁x_i) = 0

-2∑(yi - β₀ - β₁x_i) = 0

-2∑(y_i - β₀ - β₁x_i)x_i

2. ∑x_i(y_i - β₀ - β₀) = 0

y = β₁x

∑y_ix_i - β₀∑x_i - β₁∑x_i² = 0

∑x_iy_i - β₁∑‹ x_i²

β₁Σx_i(x_iγ_i - β₁∑x_i²) = 0

β₁Σ(x_i∤y_i) = 0

β₁Σx_iy_i #NOTE

β₁ = S_xy/S_x

β₀ = y - β₁x

S_xxS_yy

PER*(β₀,β₁)

UNICO PUNTO CRITICO: (β₀,β₁)

POICHE‘ UNICO PUNTO CRITICO

^dS/_dβ0

∅

S_y²

β₀, β₁

Come stimare σ²

Var(β₁) = σ² / Σ_j=1(x_j – x)²

Var(β₂) = σ² (1 + ( x² / n / Σ_j=1(x_j – x)² ))

Si ricordi che σ² è anche la varianza degli errori ε_i (V.A.)l'analogo campionario di ε_i è lo scarto e_i = y_i - ŷ_i

Posso stimare σ² con la varianza degli scarti

S_n² = 1/n Σ(y_i - ŷ_i)² = 1/n Σe_i²

Ricordando che e_i = y_i - ŷ_i è lo scarto osservato, considero la variazione casuale e_i = y_i - ŷ_i ⇒ determino quindi lo stimatore

S_n² del σ² come:

S_n² = 1/n Σ (e_i² - ē)² = 1/n Σ (u_i + β₂ - β₁x_i)²

• E[S_n²] = n-2/n σ² è perciò stimatore distorto di σ²

però risulta asintoticamente non distorto (mrfam)

lim n→∞ n-2/n σ² = σ² lim n→∞ Bias[S_n²] = lim n→∞ E[S_n²] - σ² = 0

Consideriamo quindi lo stimatore corretto di σ²:

S_² = n/n-2 S_²

⇒ In Ȧ E[S_²] = E[n/n-2 Σ_n-2] = n/n-2 (n/n-2 + S_²) σ²

dunque, gli stimatori di massimo verosimiglianza sono: