Esame Statistica: Teoria

Definizione 2.3

Una statistica campionaria (Y) si dice stimatore consistente per h(θ) se per ogni ε > 0 e per ogni θ si ha che |Y - h(θ)| ≤ ε quando n → +∞.

Definizione 2.4

Una statistica campionaria (Y) si dice stimatore asintoticamente normale per h(θ) se per n ≥ 1 e per ogni θ esiste una funzione σ(θ) tale che per ogni x ∈ (0, +∞) si ha che:

lim n → +∞ √(n)(Y - h(θ)) ≤ x → P(Φ(x) ≤ R) nella normale standard.

Definizione 2.4.1

Osservazione: Se uno stimatore è asintoticamente normale, allora è anche consistente.

La normalità asintotica permette di determinare un intervallo di confidenza asintotico, nell'ipotesi in cui sup σ(θ) = σ̄ < +∞ e θ ≤ ∼ → Ricordando che Φ(x) := P(z ≤ x) con z ~ N(0, 1) è una funzione (0, 1) invertibile. Se α (0, 1), poniamo z := Φ^(-1)(1 - α/2).

1. α). Notiamo cheα −1 −≤ − ≤ ) = 1 αΦ(z ) = z ) = Φ Φ (1 α) per simmetria z αP(z P(|z|α α 2
2. Per la definizione di normalità asintotica √−Y h(θ) n ≤ −≤ n b = Φ(b) Φ(a)lim aPθ σ(θ)n→+∞−zPonendo a = e z otteniamoα α2 2 √−Y h(θ) n−z ≤ ≤ −lim n z = Φ(z ) Φ(−z )α α α αPθ σ(θ)2 2 2 2n→+∞ − −= Φ(z ) (1 Φ(z ))αα2 2α α− − − −= 1 (1 1 + = 1 α2 24Ciò è equivalente a σ(θ) σ(θ) √ √− ≤ ≤ −lim Y z h(θ) Y + z = 1 αα αPθ n nn n2 2n→+∞ σ̄(θ) σ̄(θ) √ √− ≤ ≤ ≥ −=⇒ lim Y z h(θ) Y + z 1 αα

^αPθ n nn n² 2n→+∞h iσ̄(θ) σ̄(θ)− z z
Questo significa che Y , Y + è un intervallo di confidenza asintotico per h(θ) di livello√ √α αn nn n² 2−di confidenza 1 α.
3 Stimatori di massima verosimiglianza
Supponiamo di avere un modello statistico per cui il campione (X ) ha dist. discreta con densitàn n≥1∈p(x, θ) θ Θ. Supponiamo x ...x dati osservati.
1 nL’idea è di determinare il valore di θ che massimizza(X = x ...X = x ) = p(x , θ)...p(x , θ)P θ 1 1 n n 1 n
Assumiamo che, per ogni scelta di valori x ...x tale probabilità, come funzione di θ, ammetta un unico1 nmassimo θ̂ = θ̂(x ...x )1 n
In tal caso, la succ. di v.al Y := θ̂(X ...X )n 1 nè detta stimatore di massima verosimiglianza.
In quello che segue, assumeremo la validità delle seguenti condizioni.
A,Sia (Ω, ) modello statistico:PθA)L'insieme Θ è un intervallo di (anche illimitato)RB) le v.al (X ) del campione sono discrete, con densità p(x, θ), oppure assolutamente continue, con densità f(x, θ); inoltre assumiamo che esista I tcR∀ ∈ ∈ ∈ ∀ ∈– θ Θ (X I) = 1; se x I =⇒ p(x, θ) = 0 θ ΘPθ 1∀ ∈ ∀ ∈– x I θ Θ p(x, θ) > 0∀ ∈ →– x I la funzione θ p(x, θ) è continua n∈∀n ≥ ∀x I , la funzioneC) 1 n1 X log p(x , θ)L (x, θ) := in n i=1ammette un unico massimo locale proprio che indicheremo con θ̂(x)D) Le distribuzioni di X rispetto a eP1 θ̸mathbbP sono diverse se θ = tt∀ ∈E) θ, t Θ " #2 log p(X , θ) < +∞E 153.1 TeoremaSotto le ipotesi da A a E lo stimatore Y := θ̂(X ...) è consistente, ovvero m 1 n$\theta$) log $p(x,\; t)$ = [log $p(X\; ,\; t)$]E$\theta$ 1x∈I→Abbiamo dimostrato che $t\; \ell (\theta ,\; t)$ ha $\theta \; =\; t$ come massimo assoluto proprio. Inoltre1 $XL\; (X,\; t)$ = log $p(X\; ,\; t)$n in ni=1è la media campionaria delle v.al indipendenti ed identicamente distribuite (iid) U := log $p(X\; ,\; t)$ ($U$) = log $p(X\; ,\; t)$ = ℓ(θ, t)E Ei i $\theta$ i $\theta \; 1$Quindi, per la legge dei grandi numeri !−∀$\epsilon$ t) ℓ(θ, t)> 0 lim $L\; (X,\; >\; \epsilon$ =0P$\theta$ nn→+∞2OSS: Le U inL per E).i 6Osserviamo che ! ∗− − − > $\epsilon$L (X, t) L (X, $\theta$) ℓ(θ, t) ℓ(θ, $\theta$)P n n$\theta$ ( ) ( )!ε $\epsilon$≤ − −∪ ∗L (X, > L (X, >t) ℓ(θ, t) $\theta$) ℓ(θ, $\theta$)P n$\theta$ n2 2′ ∗ ∗In quanto l evento è contenuto in( ) ( )!ε $\epsilon$≤ − −L (X,> + > =0lim L (X, t) ℓ(θ, t) $\theta$) ℓ(θ, $\theta$)P

nθ n 2 2n→+∞

Dato che ℓ(θ, t) ℓ(θ, θ) < 0, ne segue che ! ∀t ̸− < 0 = 1 = θL (X, t) L (X, θ)lim P n nθn→+∞

−Fissiamo δ > 0 e usiamo la proprietà precedente per t = θ δ e t = θ + δ.−

+Consideriamo gli eventi n o+ −A = L (X, t ) L (X, θ) < 0n + nn on− −t ) L (X, θ) < 0A = L (X, − nnnAbbiamo appena visto che −+lim ) = lim ) = 1P(A P(An nn→+∞ n→+∞

−+ ∪=⇒ lim A ) = lim ) = 1P(A P(A nn nn→+∞ n→+∞

In A n t ) < L (X, θ)L (X, − nnL (X, t ) < L (X, θ)n + nt) ha massimo locale in [t , t ]=⇒ L (X, − +nMa per ipotesi L (X, t) ha unico massimo locale θ̂(X)n ( )− ≥=⇒ θ < δ Aθ̂(X) n )!( − θ < δ =1=⇒ lim θ̂(X)P Q.E.D.θn→+∞ 24

Densità chi-quadro(χ ) 1 122∼ ∼ , ).

InfattiSe Z N (0, 1), allora Y = Z Gamma( 2• 2≤ è una v.al non negativaSe x < 0 =⇒ F (x) = x) = 0, perchè Y = ZP(YY √ √ √ √• ≤ ≤ ≤ −Se x > 0 =⇒ F (x) = x) = x z x) = Φ( x) Φ(− x) essendo Z(0, 1), F dR ΦP(Y P(−Ye derivando in x risulta√ √1 1′ ′√ √f (x) = Φ ( x) + Φ (− x)Y 2 x 2 x√ √1 ′ ′√= Φ ( x + Φ (− x)2 xderivando F dR trov la densità di N (0, 1), f Z√1 1 2x−√ √= x f (x) = ef ( 2Z Zx 2π1 1 1 1 1 12 2 1x x− −√ √ √ √= e =⇒ f (x) = e (x) densità Gamma( , )2 2Y (0,1) 2 2x x2π 2π 7Mettendo insieme queste oss e il fatto che una somma di v.al Gamma iid è ancora Gamma, quello che siottiene è: nn 22 2 ∼ , ) = χ (n) con n gradi di libertà.Se z ...z v.al N(0,1) indipendenti,

Allora z ...z Gamma(1 n n1 2 22∼Se X χ (n)• n2= = nE(X) 12• n2V ar(X) = = 2n145 Normalità asintotica degli stimatori MVAbbiamo visto che lo stimatore MV θ̂(X ...X ) sotto le ipotesi A-E è consistente, cioè1 n ∀ε | − ≥> 0 lim θ̂(X ...X ) θ| ε = 0P 1 nn→+∞Sotto qualche ipotesi aggiuntiva, in particolare che p(x, θ) sia due volte derivabile rispetto a θ, si puòdimostrare:5.1 TeoremaLo stimatore MV θ̂(X ...X ) è asintoticamente normale, cioè1 n √−θ̂(X ...X ) θ 1 n ≤n n = Φ(x)lim Pθ σ(θ)n→+∞2dove la varianza asintotica σ (θ) è data da" # " #221 ∂ ∂ −E= log p(X , θ) = log p(X , θ)Eθ 1 θ 12 2σ (θ) ∂θ ∂θ5.1.1 OssSotto qualche altra ipotesi aggiuntiva si ha anche −1!2∂ i h log p(X , θ)lim nV ar

θ̂(X ...X ) = E1 n θ 1∂θn→+&inf;