Modelli statistici

Teoria

Si consideri un modello di regressione lineare multipla

Yᵢ = β₁xᵢ₁ + ... + βₖxᵢₖ + εᵢ i = 1, ..., n

1. Si fornisca la definizione dello stimatore ai minimi quadrati BLUE del vettore β = (β₁, β₂, ..., βₖ)′, ossia

   Y = Xβ + ε

   stima a m.q. β̂ = (X′X)⁻¹ X′y

   dove H := X(X′X)⁻¹X′

   dove A := (X′X)⁻¹X′

2. Si mostri che β̂ è uno stimatore corretto di β

   E[β̂] = E[β + Aε] = β + A E[εᵢ] = β ⇨ lo stimatore è corretto

3. Si calcoli la matrice di covarianza del vettore aleatorio β̂

   Σ̂_βRF = σ²(X′X)⁻¹ =

   | Var(βₖ) |

   | Var(β₁) |

   in posizione (i,j) con i ≠ j:

   Cov( β_i, β_j)

4. Enunci il teorema di Gauss-Markov

   Se valgono le assunzioni

   1) yᵢ = (Xβ)ᵢ + εᵢ (linearità);

   2) E[εᵢ] = 0 e Var(ε) = σ² Iₙ

   3) rango(X) = k+1

   Allora lo stimatore ai M.Q. θ̂ è tra gli stimatori lineari e corretti di β il più efficiente ⇨ BLUE, i.e.

Si considera un modello di regressione lineare multipla

y_i | β₀ + β₁x_i1 + ... + β_kx_ik + ε_i i=1,...,n

a) Si elenchino sinteticamente le assunzioni tipicamente fatte sulle variabili errore ε_i

Le assunzioni sulle variabili errore sono: media nulla, omoschedasticità, incorrelazione, normalità

ε_i | N(0, σ²• I) i = 1,...,n

ε | N(0,σ²I_n)

b) Si mostri che sia il vettore di valori previsti ŷ = (ŷ₁, ŷ₂, ... , ŷ_n) sia il vettore dei residui e = (e₁, e₂, ... , e_n) sono trasformazioni lineari del vettore delle osservazioni y = (y₁, y₂, ... , y_n)

ŷ | ŷ₁ | = X(X'X)^-1X'y

→ ŷ = Hy → ŷ è trasformazione lineare delle osservazioni y

e | e_i = y_i - ŷ_i = y - Hy = y - (In - H)y → e è trasformazione lineare delle osservazioni y

Enunciare la scomposizione della devianza totale

Devianza Totale = Devianza Spiegata + Devianza Residua

SQT = SQReg + SQRes

SQT non dipende dal modello, ma solo da {y₁, y₂, ... , y_n}

SQT = Σ_i (y_i - ӯ)² | SQRes = Σ_i (y_i - ŷ_i)² | SQReg = Σ_i (ŷ_i - ӯ)²

Assumendo valida la seguente identità

(y_i - ӯ)² = (y_i - ŷ_i)² + (ŷ_i - ӯ)² + 2(y_i - ŷ_i)(ŷ_i - ӯ)

Si dimostri la validità della scomposizione della devianza totale per il modello di regressione lineare semplice y_i = β_{0 + β1xi + εi | i = 1,...,n}

Σ_i=1 (y_i - ӯ)² = Σ_i=1 ((β₀ + β₁x_i + ε_i) - β₀ - β₁x_i)²

= Σ_i=1 (ε_i²)

= Σ_i=1 ((ŷ_i - β₁x_i) + β₁x_i - ӯ)²

= β₁x_i

Esercizio 1

Si considera il modello di regressione lineare multipla =Xβ+ε, modello con intercetta. Si conoscano valori assunti da X'X, dove X è la matrice dei disegni, cioè

X'X:

• 6.00 10.56 7.16
• 10.56 17.86 13.58
• 7.16 13.58 14.09

1. Quali sono le osservazioni?
   • X'X in posizione (1,1) ha (1+1,..1) 1n ∑ 1 =

= #osservazioni 6

2. Quali sono le variabili esplicative?

   Matrice del disegno [x(+1)]

   X'X [+1x +1] X'X [x(+1)]X [x]

   k+1=3 ⇒ k=2 ⇒ 2 # esplicative

3. Qual è la media della prima esplicativa?

   Media ₁ = ^{X₁ + 10.56} /₆ = 1.76

Su 200 aziende sono stati rilevati il fatturato dell'ultimo anno (variabile V,espressa in migliaia di euro) e il numero di dipendenti (variabile X). Un modellodi regressione semplice volto a spiegare il fatturato in funzione del numerodi dipendenti ha fornito il seguente output parziale:

a) completare la tavola ed interpretare i valori delle stime dei dueparametri β₀ e β₁

t.values (β₁) t = (9.344) / 0.3326 = 29.5042 ≈ 29.54^t_0.001 = (T₁₉₈ = 29.5)=^0.000₁

β₁: 9.32; 7.358 ≤ 384.018β₂: 0.001 ≤ P(T₁₉₈ ≥|29.5|)=^0.000₁

Interpretazione valori stime:In media per circa 10dipendenti l'azienda avràun fatturato annuo di:circa €34⁴

Un cuoco ha deciso di creare una nuova tipologia di cereali. A questo scopo ha acquistato 27 scatole di cereali scelte casualmente e ha rilevato il numero di calorie (X_i) e la componente cadrica (vi espressa in polynomy) e, inoltre, un indice di gradimento (Y_i) espresso dagli amici a cui li ha chiesto di assaggiare i cereali acquistati.

1. a) Dopo aver specificato il modello lineare avente come risposta Y si completi la seguente tabella sugli elementi in merito alla significatività dei coefficienti di regressione e si interpreti la stima

X₁:₀ molle calorie D₁:₀ porho calorie

Y_i = β₀+β₁X_i+β₂D_i+E_i

Stima S.E t-value = 0.211 / 0.241 = 1.506

P-value 2P(t _n-1 | ≤ |1.506|) = 0.13627

2. b) Si determini l’errore standard della regressione e l’indice R² sapendo che il valore della devianza campionaria in Y è pari a 14802.66 e che la matrice (X’X)^-1 assume la seguente formula

(X’X)^-1 =^0.0480.0031 -0.0154

0.0003 0.0005

-0.0154 -0.0005 0.0065

0.0009 0.211 1 0.0009 0.5_{σ² 0.211 234.494}

σ² 0.211 0.0009

DR = s² (n-k-1) = 14802.66 1/0.5 234.494 213,494.856

R² = 1 - DB = 1 -

OT = 14802.66

3. c) Si sottoponga a verifica l’ipotesi Ho: β₀ β₂ specificando forma della statistica test utilizzata e suo valore empirico con il p-value

H_o: β₀, β₂ = 0

H₁: β₂ # 0

t-value = 7.14

P-value = 0.13627

Rifiuto H_o per α

Accetto H_o per α