Teoria della probabilità
- 1) E(X) = S x p(x) valore atteso di x
- 2) V(X) = S (x - mu)2 p(x) varianza (x)
- 3) V(x + a) = V(x) V(x+y) = V(x) + V(y) + 2cov (x,y) varianza (x + y)
- 4) cov (x,y) = E (x - mux) E (y - muy) covarianza (x,y)
Regressione bivariata
- 1) Sxy = S (x - xbar)(y - ybar) / n - 1 covarianza
- 2) rxy = Sxy / Sx Sy = S zx zy / n - 1 con z = x - m / s e S = sqrt( S (x - xbar)2 / n - 1 ) Indice di correlazione di Pearson
- 3) ei = yi - yhati = yi - (a + b xi) residui di regressione
Però...
S ei = 0
Quindi...
ei2 = S (yi - yhati)2 = S [yi - (a + b xi)]2 residui al quadrato
Proprietà dei MQO
- 1) Retta regressione passa da (xbar; ybar)
- 2) S ei = 0
- 4) a = ybar - b xbar
Teoria della probabilità
- E(X) = Σ x p(x) valori atteso di x
- V(X) = Σ (x - μ)2 p(x) Varianza (x)
- V(x + a) = V(x) V(x + y) = V(x) + V(y) + 2cov(x,y) Varianza (x+y)
- cov(x,y) = Σ (x - μx) Σ (y - μy) Covarianza (x,y)
Regressione bivariata
- Sxy = Σ (x - x̄)(y - ȳ) / n - 1 covarianza
- rxy = Sxy / Sx Sy = Σ zx zy / n - 1 con z = x - μ / s e S = √(Σ (x - x̄)2 / n - 1) Indice di correlazione di Pearson
- ei = yi - ŷi = yi - (a + bxi) residui di regressione
Proprietà dei M.Q.O
- Retta regressione passa da (x̄; ȳ)
- Σei = 0
ei2 = Σ (yi - ŷi)2 = Σ [yi - (a + bxi)]2 residui al quadrato
- a = ȳ - b x̄
- b = Σ (xi - x̄)(yi - ȳ)
ei2 = Σ(yi - ŷi)2 = Σ[yi - (a + bxi)]2
a = ȳ - bx̄
b = Σ(xi - x̄)(yi - ȳ) / Σ(xi - x̄)2 = sxy / sx2 = r sy / sx
Σxiei = 0
Cov(x,e) = E(xe) - E(x)E(e)
cor(x,e) = p(x,e) = E(xe)
yi - ȳ = (yi - ŷi) + (ŷi - ȳ)
Σ(yi - ȳ)2 = Σ(yi - ŷi)2 + Σ(ŷi - ȳ)2
R2 = devianza regressione / devianza totale = Σ(ŷi - ȳ)2 / Σ(yi - ȳ)2
R2 = rxy2
pRE = E1 - E2 = R2, con E1 = errore del primo modello e E2 = errore del secondo modello.
b = Sxy / Sx2
b = Sxy / Sxx
b = rxy Sy / Sx
a = ȳ - b x̄
e = 0 (=> a = ȳ - b x̄)
con stimatore x̄ = 1/n Σxi
σ stimatore di s = σ
ŷi = a + bxi
Se2 = Σ(yi - ŷi)2 / n - 2
Se = sqrt[Σ(yi - ŷi)2 / n - 2]
β̂ = wi yi, con wi = (xi - x̄) / Σ(xi - x̄)2
E(β̂) = β
V(β̂ < x = xi) = σ2 / Σ(xi - x̄)2
V(β̂) = σ2 / n(xi - x̄)2
tβ = (β̂ - E(β̂)) / sqrt[V(β̂)]
V(β̂)
zβ = p(β̂) / sqrt[V(β̂)]
11) PRE = (E1 - E2) / E1 = R2 con E1 = errore nel prevedere y senza conoscere x - devianza totale
E2 = errore nel prevedere y come funzione lineare di x - devianza residui
12) rxy = Sxy / Sx Sy
b = Sxy / sx2
b = rxy Sy / Sx
sostituendo 'r' al numeratore di b...
per dati standardizzati si avrà:
b = rxy Sy / Sx = rxy in quanto i dati standardizzati hanno sd = 1
e x = 0 (⇒ a = y - b x = 0)
13) x̄ = 1/n Σ xi con distribuzione x̄ = N(μ, σ2/n)
stima di μ
σ stimato da s => σx̄ = S/√n
yi = α + βxi + εi
retta di regressione bivariata
se2 = Σ(yi - ŷi)2 / (n - 2) = Σei2 / (n - 2)
stima della varianza condizionale
gde = n - 2
se = √(Σ(yi - ŷi)2 / (n - 2))
errore standard della regressione
16) β̂ = Σ wiYi con wi = (xi - x̄) / Σ(xi - x̄)2
β̂ come stima di β
E(α̂) = α
E(β̂) = β
gli stimatori di MAQ α̂ e β̂ di α e β sono statisticamente corretti
V(β̂ | X = xi) = σε2 / Σ(xi - x̄)2
varianza di β̂
= σ2 / (n - 1) Sx2
18) sβ̂ = se / √Σ(xi - x̄)2
stima dell'errore standard di β̂
19) V(α̂ | X = xi) = σε2 Σxi2 / n Σ(xi - x̄)2
varianza di α̂
zβ̂ = (β̂ - E(β̂)) / √V(β̂) = (β̂ - E(β̂)) / √(σ2 / Σ(xi - x̄)2)
=> tβ̂ = (β̂ - E(β̂)) / √(se2 / Σ(xi - x̄)2)
distribuzione t student con n - 2 gde
tβ̂ = β̂ / sβ̂
P{-t