Appunti Teoria dell'inferenza

ESERCIZI

Esercizio 1 , > 0, > 0

2

−

2

( ; ) =

i) Trovare la statistica sufficiente minimale?

Primo modo. Calcolo la funzione congiunta che è il prodotto delle marginali

2 1 2

∑

−

(; ) = ∏ ( ; ) = (∏ )

1

2

2 ∑

−

∏

() = ℎ[(); ] =

Con e , quindi la statistica è sufficiente.

Per verificare se è minimale costruisco il rapporto di verosomiglianza.

1

2 2

∑

−

(∏ )

[ ]

∏

(; ) 1

2 2

− −∑

(∑ )

= =

1

∏

[2

2

∑

−

(; )

(∏ )

]

2 2

∑ ∑

=

Quando questo rapporto non dipende dal paramentro? Se e solo se .

2

∑

() =

Quindi la statistica sufficiente minimale è .

Secondo modo. Sarebbe vedere se la distribuzione del singolo campione può essere scritta in forma

esponenziala? 2

−

2 1

2 ) )

( ; ) = = 2 exp − log()} = ℎ( exp{()( − ()}

{−

1 2

)

() = − ( =

Abbiamo e .

2

∑ ∑

)

( =

La stastistica minimale calcolata sull’intero campione è , come nel caso della prima strada.

2

∑

∑ ∑

= = ( , )

ii) Date le statistiche e sono sufficiente e minimali?

∑ 2

∑

() =

Primo modo. Se noi conosciamo già una statistica sufficiente minimale, nel nostro caso , allora

valuto che rapporto c’è tra la statistica scritta e quella nostra.

?

Possiamo scrivere in funzione di

No, non è funzione di e vale anche l’inverso. Sappiamo che è statistica sufficiente minimale, quindi

.

non è sufficiente e minimale poiché non si può scrivere come funzione di ∑

Secondo modo. Possiamo scrivere con il criterio di fattorizzazione, in funzione di ? Anche il criterio di

fattorizzazione ci dice che non possiamo scriverlo, quindi è confermata come non statistica sufficiente

minimale. 2

∑ 2

∑ ∑

= ( , ), () =

Primo modo. Per la statistica possiamo scrivere la funzione come funzione

∑

? ,

di Ad occhio potrei dire che già la statistica ha dimensione maggiore di ma non è scientifica. 15

= ∙

1 2

.

Quindi sì, si può scrivere come funzione si Quindi è statistica sufficiente. Ma non si può scrivere

,

in funzione di quindi non abbiamo un rapporto biunivoco. Quindi è sufficiente, ma non minimale

perché non viene adoperata la maggior compressione dei dati.

Esercizio 2 (0,1)

, ∈ , > 0

−1

( ; ) =

i) Trovare una statistica sufficiente minimale.

∏

ii) Dire se la statistica è sufficiente minimale.

Esercizio 3 {−1,0,1,2} (0,1)

, ∈ , ∈

( ; ) =

i) Trovare una statistica sufficiente minimale.

2

∑ ∑

= =

ii) Dire se le statistiche e sono sufficienti minimali.

Stimatori puntuali e proprietà:

Correttezza puntuale e asintotica = ), ∈ Θ}, ∈Χ

{(, (): Χ → Θ.

Lo stimatore sarà una statistica, funzione del campione,

Partiamo da un caso semplice, Bernoulliano. Facciamo un sondaggio e vogliamo stimare che è la

( ),

= , … ,

percentuale di persone favorevoli ad un soggetto del sondaggio. Avrò un campione con

1

{1,0}

∈ ∈ (1, ).

e

L’ideale sarebbe che la stima coincidesse con la realtà, ma non è un obiettivo realistico, la stima

(() = ) ≅ 0.

difficilmente è uguale al valore, infatti

() − ≈ ,

Però ha senso chiedere che la voglio che il mio stimatore sbagli di poco. In linea di

massima per alcuni campioni sbaglierà di poco, per altri di più.

2

[()

− ]

.

L’errore quadratico medio è il valore che considereremo, dipende da

′ ′′

Come faccio a dire quale stimatore è migliore tra ? Confronto i due errori quadratici medi e prendo

′

.

il più basso, che sarà in funzione di Si dice che lo stimatore è uniformemente migliore, cioè funziona

∀.

meglio ′ 2 ′ 2

[ [

()

− ] ≤ ′() − ] , ∀

2 2

[() [()

()

− ] = + − ]

Ricordiamo che .

Le fonti di errori sono due: quanto è variabile l’errore e quanto è distorto l’errore, rispetto alla media.

[] = , ∀ ∈ Θ.

Uno stimatore viene definito corretto se

[] − misura quanto ci spostiamo sistematicamente rispetto alla media.

lim = .

[ ()]

Con correttezza asintotica, più utile, consideriamo È una proprietà più debole della

→∞

correttezza, ma un requisito necessario per uno stimaotore. 16

Consistenza ?

Cosa succede al nostro stimatore se aumento Scriviamo varie forme per definire la convergenza in

probabilità.

→ , → ∞, ∀ ∈ Θ

| − | > , > 0

(| − | > ) → 0, → ∞ (| − | < ) → 1, → ∞

2

→ ,

Cosa vuol dire che vuol dire che la distanza media in valore atteso attende a zero, quindi la

2 ]

[( − ) → 0.

convergenza in media quadratica. La convergenza in media quadratica implica la

convergenza in probabilità. 2 2

] [(

) )

[( − ) = ( + − ]

Se voglio far tendere a zero, allora entrambi devono tendere a zero poiché sono termini non negativi.

)

( → 0

2 ]

[( − ) → 0 ⟺ , → ∞

{

)

( →

Errore quadratico medio

2 ]

() = [( − )

Ricordiamo che per confrontare due stimatori, confrontiamo gli errori quadratici medi e scegliamo quello

con EQM minore, per ogni theta.

Esempio 1 2 )

~(,

2 2

∑( ∑(

− ) − )

= = = ∙

1 2 1

−1 −1

2 2 (

[∑( − ) = − 1)

]

2 2

2

∑( − ) ~ → {

Sappiamo che −1 2 4

[∑( − ) = 2( − 1)

]

2

]

[ =

2

−1 −1

{ 2

] ]

[ = [ ∙ = ∙

1 2

2 4

[∑( − ) 2

]

]

[ = =

2 2

( − 1) −1

2 4 2 4

( ( (

− 1) 2 − 1) 2 − 1)

] ]

[ = [ ∙ = ∙ =

1 2 2 2 2

−1

{ ] ]

[ > [

2 1 2

([]

() = () + − )

4

2

) )

( = ( =

2 2 −1 2

4 (

2 − 1) −1 2 − 1

2 2 2 4

) ) )([]

( = ( = ( − ) = + ( ∙ − ) =

1 1 1

{ 2 2

Quando succede la seguente relazione, valuto migliore lo stimatore .

1

4

2 2 − 1 4

) )

( − ( = − >0

2 1 2

−1

2 2 − 1 2 (2

− = 2 − − 1)( − 1) = 3 − 1 > 0

2

−1 17

3 − 1

È chiaro che è sempre positivo, quindi lo strimatore è preferibile a poiché ha l’EQM inferiore

1 2

∀.

Esempio 2 ~(1, )

=

1

1

( + )

1 1 √ 1 1 1

2√ (1 )

= = + − )∙ = + ∙ = + −

(1

2

1 1 1 1

2 2 2

1 + √

+ 1+ 1+ 1+

√ √ √ √ 1

Il secondo stimatore è una media ponderata tra la media campionaria e .

2

]

[ = [] =

1

√ 1 1 √

]

[ = + ∙ ]=

[

2 1 1

2 1 + √

1+ 1+

{ √ √

(1 − )

] )

[ = [] = = (

1 1

√ 1 1 (1 − )

]

[ = + ∙ ]=

[

2 2

1 2

1 + √ 1

1+ (1 + )

√

{ √

1

)

( =

2 2

4(1 + √)

Entrambi gli EQM convergono a 0 per n che tende ad infinito. Gli stimatori sono consistenti s