Analisi Statistica Multivariata - Modulo: Modelli

MODELLI R3 - SCHEMI PROGRAMMA

• MODELLO DI REGRESSIONE LINEARE SEMPLICE

Y_i = β₀ + β₁ X₁ + ε_i

• μ_X,Y = S_XY / δ_X*S_Y ∈ [-λ, λ]

λ = correlazione lineare elevata0 = correlazione lineare bassa

• ASSUNZIONI CLASSICHE RLS

• E(ε_i) = 0 → E(Y_i) = β₀ + β₁ X_i LINEARITÀ DELLA MEDIA
• Var(ε_i) = σ² → Var(Y_i) = σ² OMOSCHEDASTICITÀ
• Cov(ε_i, ε_j) = 0 → Cov(Y_i, Y_j) = 0 INCOERENZA VARIANZA
• E(Y_i) = E(Y_i | X_i)
• μ(X_i) ≠ 0

• STIMA MDELLI MCO

Σ ε_i = Σ (Y_i - Ŷ_i)² = Σ (Y_i - β₀ - β₁ X_i)² calcolo le derivate parrìlo

Le poiche -0 ed attuendo → β₀ = Ȳ - β₁ Xβ₁ = S_XY / S_X² = Σ (Y_i - Ȳ) (X_i - X)² / Σ(X_i - X)²

Supposto che: e_i = Y_i - Ŷ_i; Ŷ_i = β₀ + β₁ X_i; Y_i = Ŷ_i + e_i

• PROPRIETA' RSCOMPOSTE

• PROPRIETA' INTERPRETATIVI

(a) β_h = Σ w_i Ī_i (Y_i - Ȳ) Dato che: Σw_i = 0; Σ w_iX_i = 1 dichiarazioni

β_h = Σ w_i (Y_i - Ŷ_i) = Σ w_i Y_i = Σw_i Y_i = Σw_iY_i - 0; Y_i : Σ w_i Y_i

E(β_h) = Y_i/σ² STIMATORE CORRETTOVar(β_h) = Σ (X_i - X)²

(b) β₀ = Σ v_i Y_i con Σ v_i = 1; Σ v_i X_i = 0

E(β₀) = β₀ STIMATORE CORRETTOVar(β₀) = σ²ΣΣ4/m Σ² / Σ (X_i - X)²)

v_i = Ȳ/m - X * w_i

MODELLI R3 - SCHEMI PROGRAMMA

• MODELLO DI REGRESSIONE LINEARE SEMPLICE

Y_i = β₀ + β₁ X_i + ε_i, μ_{X Y} = _{SX Y}/^{δ X* S_Y} ∈ [-Λ, Λ]

• Y_i = variabile risposta
• β₀, β₁ = parametri X_i = regressori/covariate/variabili esplicative
• ε_i = errori

• ASSUNZIONI CLASSICHE
• E (ε_i) = 0 ⟹ E (Y_i) = β₀ + β₁X_i LINEARITÀ DELLA MEDIA
• Var (ε_i) = σ² ⟹ Var (Y_i) = σ² OMOCHEDASTICITÀ
• Cov (ε_i, ε_j) = 0 ⟹ Cov (Y_i, Y_j) = 0 INCORRELAZIONE VARIANZA
• E (Y_i) = E (Y_i | X_i) Y_i ≠ 0

• STIMATORI MCO DEL MODELLO
• Σ ei = Σ (Y_i - Ŷ_i) = Σ ((Y_i - β₀ - β₁X_i)² calcolo la dica derivata prima rispetto la β₀ e β₁ ed ottengo

β̂₀ = Ȳ - β̂₁ X̅ β̂₁ = _{SX Y} / _{Σ (Yi - Ȳ)(Xi - X̅)} / ^{Σ (X_i - X̅)2}

• PROPRIETÀ STIMATORI MCO

Y̅ - β̅ ≠ 0

• PROPRIETÀ INTERMEDIARI MCO

β̂₁ = Σ ω_i(Y_i - Ȳ) dato che Σω_i = 0, Σω_iX_i = 1 concluit` mRNA: Σω_iY_i - Σω_iY̅ = Σω_iY_i E (β̂₁) = _X

• Σ ω_i = 0
• ω_i = _{Xi - X̅} / ^{Σ (X_i - X̅)2}
• E (β₀) = β ₌ stimatore corretto

Var (β̂₀) = σ²/_{IDK²/m X² / Σ (X3 - X̅)²}

Stima di S²

Si campione nelle Vari di β₀ e β₁. Ma mai è noto, quindi lo possiamo stimare con la stima campionaria di ε₁...ε_m.

^ⱴS² = (1/m) ∑ eᵢ² = (1/m) ∑ (εᵢ - ε̄)² = (1/m) ∑ (Yᵢ - Ŷᵢ)² = (1/m) ∑ (Yᵢ - β̂₀ - β̂₁Xᵢ)², ^ⱴS_2

^ⱴS₀ = δ_YX = δ_Y.

E(ⱴS₂) = m-2/m * σ² = NON corretto

Varianza corretta: S² = m/m-2 ∙ ⱴS² ➔ E(S²) = m/m-2 E(ⱴS²) = m/m-2 ∙ σ² = δ²

Coefficiente di determinazione R² (nuovo, suffisso non esauriente)

➡ Valori osservati

εᵢ = yᵢ-ỹᵢ ➔ residui

ŷᵢ = β̂₀+β̂₁Xᵢ = valori pretti

E(ⱴŷᵢ)=Σ (Yᵢ - Ŷᵢ)

Σ eᵢ²=Σ ((Yᵢ-ỹ)²)=Σ (Xᵢ-X̄)=Σ ((Yᵢ-ŷ)²)= β̂₁²Σ(Xᵢ-X̄)²+Σεᵢ²)

Cambiando e, y ➔ otteniamo la scomposizione della devianza totale

Devianza Totale = Devianza Spiegata + Devianza Residua

Σ(Yᵢ-ỹ)²=Σ(ŷᵢ-ỹ)²+Σ(Yᵢ-ŷᵢ)²

R²= SSES/STOT = 1-S[0.1][0,1]

Un modello si adatta bene ai dati sei il residui sono piccoli, cioe eｲ valori prevevti sono viciniv ai valori effettivi

Nel modello di rigrsione livello semplice, R²=r²

Proprietà e assunție delle stimere mamma

{E(εᵢ)=0

VARCH(εᵢ)=σ²>0 ➔ εᵢ ~ N(0, σ²)

Cov(ε₁, ε_j) = 0

{E(Yᵢ)=β₀+β₁Xᵢ

VARχ(Yᵢ)=σ² ➔ Yᵢ ~ N(β₀+β₁Xᵢ,σ²)

Cov(Yᵢ, Yⱼ) = 0

Stimare massima

1. Funzione di verosomiglianza L(y,θ)
2. Funzione di log-verosomiglianza: l(θ,Y) = log(L(θ,Y))
3. b-derivate prime per b₀, b₁, σ² della funzione d log

Si MM per β₀ e β₁. coincide on S. M. Q per β₀/ b̂₁!

Stima dei parametri Bo e B1 e td(Bo, Bn)

_σ²_ˆ=₁⁄_m∑(Vi-_boˆ-_1ˆxi)² punto critico derivabile che è un massimo

_σ²_ˆ è realizzazione di S²_ˆ, stimatore distorto σ²

Proprietà stimatori distorti

(Bo, Bn)=N (_bo, σ²₁(₁⁄_n+₁⁄_msx|toss|)

Se P-value_≤α continuo Ho

Se P-value>α accetto Ho

Tabelle dei coefficienti dei paramet

• PAR. STIMATA STIMA VARIANZA ST. TEST toss P-VALUE
• B0 B(bo) _β₀^₀Bₙ0 √_σ²motion(√_{n_z})_n²₂(√_m)^²(n-2)
• B0 Bn β_n β_oσ^ʼ_₍m2

Analisi statistica

F = Sreg / Sres

~ F_{1, m-2}

N F _{1, m-2}

Sreg / m-2 - Σ_z

Sres / c₂ (m-2) ~ X² ₁

F grande quando R² grande

F piccolo quando R² piccolo

fos_x = B² M₂ J₂ O_x

Fos = Σ E_i x_i o

Se proposito la estato albero assumo E_i stato

Σ E_i = 0

h₁ = λ / m

Note ridotto su E_i: osservre di OUTLIER + casi di modello

Residui osservati: E_i = Y_i - Y_i Var(E_i) = Σ^-2(h - h_i)² _var(N⁰σ₂)

Residui standardizzati: Ě_i = E_i / √ ^Δ _h Ě_i ~ N (0,σ⁰)

Residui internamente Studentizzati: R_i = E_i / √ s^(1-h_i)