Regressione lineare OLS

Regressione lineare (legame in proporzione)

Metodologia statistica che evidenzia e risolve il problema di una relazione funzionale tra due fenomeni indicati da altrettante variabili che sono misurate sulla base di dati campionari estratti da una precisa popolazione

Y_i = β₀ + β₁ X_i + μ_i

• comportato da fattori omessi: fattore d'ε di x che influenzano y

Premesse del modello

1. Ogni osservazione è i.i.d. (X₁, Y₁) sono i.i.d.
2. Supponiamo l’assenza della var. ind. E[μ_i|X_i] = 0
3. Var(μ_i|X₁) = σ² ∀i [vero OLS]
4. X_i, Y_i sono iid\atop N(μ, Σ) NORMALE BIVARIATA ∀i

• β₀ = valore retta di regr. quando x=0

REGRESSIONE LINEARE (legame in preparazione)

Metodologia statistica che evidenzia e risolve il problema di una relazione funzionalefra due fenomeni indicati da altrettante variabili che sono misurate sulla base didati campionari estratti da una precisa popolazione

Yi = β0 + β1 Xi + μi TERMINE DI ERRORE: composto da fattori omessi:fattori d.c di X che influenzano y

1. Nessun effetto di Α (fenomeno) su y
2. Livello di var. dip. che sarebbe livello ind.

1. Presa una retta m è il coeff. angolare: variazione media var dip. in seg. ad una variazione unitaria dell'indip.

Premesse del modello

1. Ogni osservazione è i.i.d. (X_i, y_i) sono i.i.d.
2. Supposto la coincidenza della var. ind. E[μ_i|X_i] = 0
3. Var (μ_i|X_i) = σ² ∀_i [Veross]
4. X_i, y_i | i.i.d ^N (Μ|Σ) _{NORMALE BIVARIATA} ∀_i

β₀ = valore retta di regressione quando X = 0, non ha sempre sign. economico, se manca significativo è visto come cost. che determina livello medio var. dip.

CAPITOLO 4:

Regressione lineare con un singolo regresso.

Dato il modello di regressione lineare semplice i singolo regresso

Ricordando che lo stimatore OLS di _Y^T è tale per cui minimizza la somma quadratici degli errori totali tra tutti i possibili stimatori ^m/m

_Y^T = min_Y(_Yi - _Yi)²

Per analogia lo stimatore OLS minimizza la differenza quadrata media tra i valori "reali" _Yi e quelli previsti basandosi sulla retta stimata.

Lo stimatore OLS sarà dato da:

S(_B₀,_B₁) = min_B₀,_B₁) /m

Lambda.

Condizione dell'ordine _S

Separo su sommatoria

Ricavo _B₀

Commad _B₁.

Condizione dell'ordine per _S

Sostituco _B₀

Σ(y_i-ȳ)X_i - β₂Σ(X_i-X̄)X_i = 0

Scompongo

Aggiungo 2 terminitali che siano = 0

1. ΣΣ(y_i-ȳ)X̄ = 0
2. β₂Σ(X_i-X̄)X̄ = 0

β₁Σ(X_i-X̄)² = Σ(y_i-ȳ)(X_i-X̄)

Nota che

β ̂₁ = [Σ(y_i-ȳ)(X_i-X̄)] / [Σ(X_i-X̄)²] / m^1/4

= δ_XY / δ_²X → cov(X,Y) / Var(X)

β₁ = δ_XY / δ_²X ∧ β₀ = ȳ - δ_XY / δ_²X X̄

Nota

Perché Σ(y_i-ȳ)X̄ = 0 ∧ β₁Σ(X_i-X̄)X̄ = 0?

• Σ(y_i-ȳ)X
• - X̄ Σ(y_i-ȳ)

Scompongo

- X̄ [Σy_i - Nȳ]

- X̄ [N ȳ/N - Nȳ]

= X̄ [Nȳ - Nȳ], X̄ 0 = 0

Proprietà OLS

1. β₀, β₁ sono detti funzioni lineari delle osservazioni
2. β ̂₁ il segno dipende esclusivamente delle covarianze (δ² sempre +)
3. β₁ = [Σ(
4. (X_i-X̄)(y_i-ȳ)] / m_-1^1/2
5. = δ_x⁺²
6. = δ_Y⁺²

Posso scrivere:

Retta di regressione OLS ̃ = β₀ + β₁X₀

Predizione: Ŷ_i = β₀ + β₁X_i → Controffare campionaria di Y_i portano b^X i diserva secondo dei campion

Residuo: ũ_i =