Regressione lineare OLS

Regressione lineare (legame in proporzione)

Metodologia statistica che evidenzia e risolve il problema di una relazione funzionale tra due fenomeni indicati da altrettante variabili che sono misurate sulla base di dati campionari estratti da una precisa popolazione.

Y_i = β₀ + β₁ X_i + μ_i comportato da fattori omessi: fattore d'ε di x che influenzano y.

Premesse del modello

• Ogni osservazione è i.i.d. (X₁, Y₁) sono i.i.d.
• Supponiamo l’assenza della var. ind. E[μ_i|X_i] = 0.
• Var(μ_i|X₁) = σ² ∀i [vero OLS].
• X_i, Y_i sono iid\atop N(μ, Σ) normale bivariata ∀i.

β₀ = valore retta di regr. quando x = 0.

Regressione lineare (legame in preparazione)

Metodologia statistica che evidenzia e risolve il problema di una relazione funzionale fra due fenomeni indicati da altrettante variabili che sono misurate sulla base di dati campionari estratti da una precisa popolazione.

Y_i = β₀ + β₁ X_i + μ_i

_{Termine di errore:} composto da fattori omessi: fattori d.c di X che influenzano y.

• Nessun effetto di Α (fenomeno) su y.
• Livello di var. dip. che sarebbe livello ind.

• Presa una retta m è il coeff. angolare: variazione media var dip. in seg. ad una variazione unitaria dell'indip.

Premesse del modello

• Ogni osservazione è i.i.d. (X_i, y_i) sono i.i.d.
• Supposto la coincidenza della var. ind. E[μ_i|X_i] = 0.
• Var (μ_i|X_i) = σ² ∀_i [Veross].
• X_i, y_i | i.i.d. N (Μ|Σ) _{normale bivariata} ∀_i.

β₀ = valore retta di regressione quando X = 0, non ha sempre sign. economico, se manca significativo è visto come cost. che determina livello medio var. dip.

Capitolo 4: Regressione lineare con un singolo regresso

Dato il modello di regressione lineare semplice i singolo regresso.

Ricordando che lo stimatore OLS di _Y^T è tale per cui minimizza la somma quadratici degli errori totali tra tutti i possibili stimatori ^m/m.

_Y^T = min_Y(_Yi - _Yi)²

Per analogia lo stimatore OLS minimizza la differenza quadrata media tra i valori "reali" _Yi e quelli previsti basandosi sulla retta stimata.

Lo stimatore OLS sarà dato da:

S(_B₀,_B₁) = min_B₀,_B₁) /mLambda.

Condizione dell'ordine _S.

Separo su sommatoria.

Ricavo _B₀.

Commad _B₁.

Condizione dell'ordine per _S.

Sostituco _B₀.

Σ(y_i-ӯ)X_i - β₂Σ(X_i-X̄)X_i = 0.

Scompongo.

Aggiungo 2 termini tali che siano = 0.

• ΣΣ(y_i-ӯ)X̄ = 0.
• β₂Σ(X_i-X̄)X̄ = 0.

β₁Σ(X_i-X̄)² = Σ(y_i-ӯ)(X_i-X̄).

Nota che β ̂₁ = [Σ(y_i-ӯ)(X_i-X̄)] / [Σ(X_i-X̄)²] / m^1/4 = δ_XY / δ_²X → cov(X,Y) / Var(X).

β₁ = δ_XY / δ_²X & β₀ = ӯ - δ_XY / δ_²X X̄.

Nota

Perché Σ(y_i-ӯ)X̄ = 0 & β₁Σ(X_i-X̄)X̄ = 0?

Σ(y_i-ӯ)X- X̄ Σ(y_i-ӯ).

Scompongo - X̄ [Σy_i - Nӯ] - X̄ [N ӯ/N - Nӯ] = X̄ [Nӯ - Nӯ], X̄ 0 = 0.

Proprietà OLS

• β₀, β₁ sono detti funzioni lineari delle osservazioni.
• β ̂₁ il segno dipende esclusivamente delle covarianze (δ² sempre +).
• β₁ = [Σ((X_i-X̄)(y_i-ӯ)] / m_-1^1/2 = δ_x⁺² = δ_Y⁺².

Posso scrivere:

Retta di regressione OLS ̃ = β₀ + β₁X₀.

Predizione: Ŷ_i = β₀ + β₁X_i → Controffare campionaria di Y_i portano b^X i diserva secondo dei campion.

Residuo: ũ_i =