Statistica - Regressioni, stimatori, teoria della stima

2) ESR

E(X_i) = μ

V(X_i) = G², i=1,..,n

TEORIA DELLA STIMA

Supponiamo X₁,...,X_n v.c. i.i.d. (quindi ECR)

X_i ~ f(.)

Osserviamo delle v.c. e distribuite secondo una certa legge di probabilità generata da un certo parametro incognito

Bernoulli: Θ ∈ (0,1)

Poisson: Θ ∈ ƛ

Normale: Θ ∈ (μ, G²)

Uno stimatore (h) è una funzione che mappa lo spazio dei campioni nello spazio dei parametri

h: S _→ Θ

1) Θ ≡ [0,1] Se la legge che genera i dati è Bernoulli

2) Θ ≡ R⁺ Se la legge è Poisson

3) Θ ≡ R x IR⁺ Se la legge è Normale

Proprietà auspicali per uno stimatore

1. Correttezza (-non distorsione-)

h(Θ,x₁,...,x_n) = Θ

La media aritmetica è uno stimatore corretto della media.

2. Efficienza , MSE = E[(hx₁,...,x_n) - Θ)²]

Se h₁ e h₂ stimatori per Θ, la MSE(h₁) < MSE(h₂)

Proprietà stimatore per N finito

1. Correttezza: Sia h stimatore per θ, h è corretto se _E(h) = θ
2. Efficienza: Sia h stimatore per θ, definito MSE(h) = _E(^{(h - θ)2}) = V(h) + B²(h) dove B(h) = _E(h) - θ, allora h₁ è più efficiente di h₂ se MSE(h₁) < MSE(h₂)

Proprietà asintotiche degli stimatori (n → ∞)

1. Correttezza asintotica: h stimatore per θ è asintoticamente corretto se _E(⁻h) → _n→∞ θ es.: _E(⁻X₂) = m + 1/m → _n→∞ σ²
2. Consistenza h è consistente (in media quadratica), MSE(h) → _n→∞ 0 es.: _E(X) = μ, V(X) = σ²/m MSE(X) = V(X) = σ²/m → _n→∞ 0

è stimatore corretto (dei minimi X)

MĈ(^a) = VĈ(n)

V(Σ_xi/_m) = (1/_m²) V(Σ_m) = (1/_m²) ΣV(x_i)

1/m²( ⟨a₁⟩ (n⟩ - n⟩)) ⟶ 0

Questo lo otteniamo fatto per una Bernoulli, {Cadese tensioni whole}.

Siamo X₁, X₂, ..., X_m VC I.I.D

(_X = (x_n, X_n, ..., X_m))

X_i ~ L(Θ), Θ ∈ ^(cases)

Si definisce funzione di verosimiglienza (fdV) L(Θ, x) = P(X = x | Θ)

• P(X₁ = x₁, Θ) P(x₂ = x₂, Θ)... P(X_m = x_m, Θ)
• ∏(x_n) f(x_n) ... f(x_n)
• ∏_i=1ⁿ f(x_i, Θ)

L(Θ, x) ∝ ∏_i=1ⁿ ƒ(x, Θ)

Si definisce:

L(lg) = lΘ L(Θ, x) = lΘ ∏_i=1^m f(x_i, Θ) = Σlog f(x_i, Θ)