Modelli di regressione non lineare
GLM (Generated Linear Models)
- Regressione non parametrica
LMY = Xβ + ε
ε ~ Nn (0; σ2I)
Y = vettore aleatorio
X = matrice del disegno
β = parametri ignoti
ε = componente erratica non osservabile
N0 = normale di variata
σ2 = scalare (omoschedasticità)
I = matrice identità (incorrelazione degli errori)
Riscrivo:
Yi = β0 + β1Xi-1 + ... + βrXir + εi
X’i = i-esima riga di X
Riscrivo il modello come ci serve
X’i = miε[yi ]Yi /NN (zi; σ2)
Restritivo:
yi = f (Xi, β) + εi
Linearità?
Omoschedasticità?
Incorrelazione?
Normalità?
(Graph with axis labeled yi and xi)
Modelli di regressione non lineare
- GLM (Generated Linear Models)
- Regressione non parametrica
LMy = Xβ + ε
ε ∼ Nn (0; σ2I)
Osservabile
y = vettore aleatorio
X = matrice del disegno
Quantità note
β = parametri ignoti
ε = componente erratica non osservabile
N0 = normale di variata
σ2 = scalare
I = matrice identità
Riscrivo:
Y1 = β0 + β1 Xi,1 + ... + βr Xi,r + εi
Y1 = X'i β + εi
X' = i-esima riga di X
Riscrivo il modello come ci serve
Yi = Mi E[Yi]
Restringo:
yi = f (Xi, β) + εi
Linearità?
Omoschedasticità?
Incorrelazione?
Normalità?
GLM
- Yn ∈ DE1
- Normal
- Bernoulli
- Binomiale
- Poisson
- Gamma
- A non usare
LM → ξi = μi
g = funzione nota, monotona, derivabile
g = link function (Niorione Egamme)
Nota storica
Alcuni modelli esistevano sin '70
Dopo '70 → teoria unificata GLM (1972)
Riassunta nel libro monografia McCullagh-Nelder 1939
Osservazioni
N è DE1
Binary Logit Model
Si usa risposta dicotomica
Inadeguatezza LM
Supporto Yi non è R
εi = 0 ⇒ E(Yi)
LM ⇒ Yi ≠ Yi + εi
L(0;α2)
Yi Bernoulli (αi)
Yi ~ Bernoulli (α)
Yi = αi + εi
Se Yi = 1 → εi = 1-Qi (Xi1, ..., Xik) con probabilità Qi (Xi1, ..., Xik)
Se Yi = 0 → εi = -Qi (Xi1, ..., Xik) con probabilità 1-Qi (Xi1, ..., Xik)
Specificare un GLM
Bernoulli sia DEI
g(μi) = ηi
g noti
Scelta di g:
αi ∈ (0,1) → Prob. successo
Qi ∈ (0,∞)
1-Qi → Prob. insuccesso
log αi/1-αi ∈ R
logit (αi) = g(αi)
yi ~ Be (αi)
logit αi = β0 + β1 xi
g = logit
g-1 => log αi/1-αi = β0 + β1 xi
αi/1-αi = eβ0 + β1 xi
αi = eβ0 + β1 xi (1-αi)
αi = eβ0 + β1 xi/1 + eβ0 + β1 xi => g-1 (mi)
Stima (Max verosimiglianza)
- Funzione di verosimiglianza
yi ~ Be (αi)
L (α1,..., αn) = ∏i=1n αiyi (1-αi)1-yi
- Funzione log verosimiglianza
L (θ) = log L (α) = ∑i=1n [ yi log αi + (1-y]
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.