Regressione lineare

Regressione lineare

Introduzione

Il modello di regressione lineare

La regressione lineare semplice è un modello matematico che cerca di trovare una relazione lineare tra

due variabili:

• una variabile indipendente (chiamata anche X)

• una variabile dipendente (chiamata anche Y)

In pratica, cerca di disegnare una retta che meglio rappresenta i dati, cioè il modo in cui X è collegata a Y.

La regressione lineare

• Prevede alcune assunzioni

• Permette di stimare i parametri (una volta definito un criterio)

• Consente di fare previsioni (dei valori di Y sulla base di noti valori di X)

• Aiuta a descrivere la relazione tra X e Y (cioè fare inferenza)

Componenti del modello lineare

Componente deterministica

descrive la relazione tra la variabile dipendente e i valori della variabile esplicativa nella popolazione

Componente probabilistica (o aleatoria, o randomica)

descrive le differenze nella variabile dipendente in corrispondenza dello stesso valore della variabile

esplicativa = β β x + ε

Y +

0 1

Y = variabile dipendente (aleatoria)

x = variabile indipendente (deterministica, nota)

β β

, = intercetta e coefficiente angolare (pendenza) del modello lineare

0 1

ε = errore (aleatorio)

Assunzioni del modello lineare

Ovviamente, la linearità

La componente erratica nel modello lineare è una variabile aleatoria con valore atteso pari a zero:

(ε)=0, (ε

o meglio )=0 per ogni

i 2

La componente erratica nel modello lineare è una v.a. con varianza costante, σ qualunque sia x

ε i

(omoschedasticità):

2 2

(ε) (ε

= σ , o meglio )= σ per ogni

ε i ε

Gli errori ε ,…, ε sono non correlati

1 n

Y è dispersa intorno al suo valore atteso, β +β (che è la componente deterministica del modello lineare)

i 0 1

con uno scarto quadratico medio pari a σ qualunque sia il valore di

ε

La stima dei coefficienti = β β x + ε

Y +

0 1

Del modello sopra non conosciamo i valori dei coefficienti, ma li stimiamo tramite dei dati campionari.

Occorre quindi proporre degli opportuni stimatori per i parametri. Chiameremo le stime così ottenute b 0

e b , cioè le realizzazioni degli stimatori in corrispondenza del campione osservato.

1

Quale retta per descrivere al meglio la relazione lineare tra due variabili? Il metodo dei minimi quadrati

individua la retta che interpola al meglio i dati, cioè che minimizza la quantit&agra