Appunti Elaborazione Statistica dei Segnali M - Parte 3

Minimizzare i difetti per una buona stima

Sono difetti da minimizzare entrambi per ottenere una buona stima. Nel secondo caso abbiamo un problema di ripetibilità dello stimatore: se la varianza è alta, ogni volta che faccio una stima capito in un posto diverso e non può essere una buona stima poiché la quantità da stimare è fissa. Nel primo caso, invece, ho un difetto di vera mira nel punto giusto poiché io riproduco sempre lo stesso valore, ma lo sto facendo attorno a un punto che non ha nulla a che vedere con quella vera.

Compromesso tra bias e varianza

L'errore di stima non può mai venire zero, quindi ci sarà un compromesso tra bias e varianza. Quando progetto uno stimatore, se cerco di spingere in basso il bias, di solito mi aumenta la varianza e nel caso in cui riduco la varianza, quasi sempre mi aumenta il bias. Dilemma tra bias e varianza.

Problemi dell'estimatore

Questo estimatore è pessimo per due motivi. Il bias di un Periodogramma è non nullo, dovrebbe centrare la testa del nemico ma si focalizza su una nuvola di punti che ha come centro, ovvero come media, qualcosa che non è la testa del nemico. Inoltre la nuvola di punti ha una varianza molto alta e, soprattutto, se aumento il numero di dati che do all'estimatore aspettando più tempo e prelevando più campioni, la varianza non riesce a essere ridotta a zero mentre la polarizzazione viene ridotta a zero. Cioè ripristino l'uguaglianza tra l'espressione della media del mio estimatore e quella dello spettro vero, anche se non è perfettamente formale. Quindi il bias scompare; ciò non accade per la varianza. Non facciamo questo conto. Ma il fatto che la varianza non si riduce all'aumentare delle risorse è insopportabile.

Riduzione della varianza

Quindi devo fare qualcosa che mi permetta di ridurre la varianza quando aumento le risorse. Per farlo uso un trucco classico. Questo trucco si basa sul fatto che abbiamo un meccanismo di stima che purtroppo ha una varianza alta, però io posso ripetere questo meccanismo più volte e suppongo che ogni volta che ripeto la stima ne ottengo una indipendente dalle altre. Quindi metto in campo non una sola stima di A, ma Aj per j=0,....,n-1, quindi mi procuro n stimatori indipendenti. Il fatto che posso fare stime indipendenti è molto vantaggioso. Per semplificare, supponiamo che tutti gli stimatori abbiano la stessa media e la stessa varianza.

Caratterizzazione statistica degli stimatori

Ciò non vuol dire che sono lo stesso stimatore, sono indipendenti l'uno dall'altro ma essendo v.a possono avere la stessa caratterizzazione statistica. A partire da questi stimatori Aj definisco un nuovo estimatore. Poiché gli Aj erano indipendenti, vuol dire che in questa doppia sommatoria ci sono dei casi, quelli in cui j è diverso da k, in cui sto facendo l'aspettazione di due