Modellistica ed identificazioni appunti

Statistica Induttiva

L'inferenza statistica è un insieme di metodi con cui si cerca di trarre una conclusione sulla popolazione in base a informazioni ricavate da un campione.

1. Stima Puntuale di Valori Medie e Varianza
2. Stima di Intervallo
3. Test di Confronto
4. Programmazione degli Esperimenti

1. Stima puntuale di valori medio e varianza

Non potendo analizzare l'insieme Ω della popolazione e quindi non potendo raccordare μ e σ² della popolazione, si estrae dallo stesso insieme Ω un campione casuale di n < N elementi. Si possono calcolare allora:

• Media campionaria:

^{^}μ_m = ¹/_m Σ X_i

Affinché la stima sia buona si richiede che la stima di valor medio coincida con il valore vero μ e che la varianza della stima sia piccola.

E[^{^}μ_m] = μ

σ²_^μm = E[ (^{^}μ_m - μ)²] piccola

² se campione indipendente:

σ²_^μm = σ²/m

se campione dipendente:

σ²_^μm = (1 - m - 1/N - 1) σ²/m

• Varianza campionaria:

S²_m = 1/m Σ (X_i - ^{^}μ_m)²

Dal momento che S²_m restituisce una stima distorìa, per eliminare la distorsione si modifica l'espressione della stima:

se campione indipendente:

² m/(m - 1) S²_m

se campione dipendente:

G²_m = (m - 1)/(m - 1) ^{m, N - 1}/_{1,/ N} S²_m

Andando a sostituire le formule 1.2 alle espressioni 1.1, si ottiene.

²^ = STIMA NON DISTORTA ²_μ DELLA VARIANZA ²_μ = ^{ S²_m m - 1 ^m/_{1 - m/N} se camp. indipendente se camp. dipendente

Utilizzando ora la varianza della stima di varianza un campione indipendente si fa:

σ²_^μm = E[ (x - μ)² -(E[ (σ²_μm)] E[(x - μ)⁴]/_σ⁴ - (m - 3)/_{1 - 1/}

nel caso in cui la distribuzione della X (della popolazione) è gaussiana,

In tal caso, il coefficiente di variazione della ms distribuzione campionaria è:

Se si vuole che il cv non superi il 20%, nel caso di c ≈ 0, si avrebbe:

Se invece:

• c ∈ [0,2] ⇒ m ≥ 100
• c ∈ [2,20] ⇒ m ≥ 500
• c < 0 ⇒ m ≥ 50

Le stesse conclusioni si ottengono anche nel caso di non indipendenza del campione.

2) Stima di intervallo

Per rappresentare la stima della media e la sua variabilità è possibile fornire un intervallo Iy,m di possibili valori tale che si possa ritenere con una certa confidenza che il valore incognito μ appartenga a tale intervallo.

Dal teorema del limite centrale è noto che per m → ∞ la v.a. standardizzata

Supponiamo dunque che con una confidenza dell'1-ε%, il valore ξm sarà compreso nel seguente intervallo:

−λ_ε ≤ ξ_m ≤ λ_ε

Se

• H₀: E[^{m ₂}] = 0
• H₁: E[^{m ₂}] ≠ 0

Allora, in base all'ipotesi alternativa si definiscono differenti intervalli:

• H₀: E[^{m ₂}] = 0
• H₁: E[^{m ₂}] ≠ 0

Misure NON appaiate, varianza nota.

Nel caso in cui si hanno a disposizione misure non appaiate e la varianza della popolazione σ² è nota. Stabile se la differenza tra le misure è significativa oppure se da relazioni dovuta alla naturale variabilità del prodotto si procede nel seguente modo:

dai dati si conosce che:

per la misurazione 1,

E[^{m ₂}] ≠ μ²

E[^{m ₂}] = μ²

per la misurazione 2,

in cui μ e σ² sono media e varianza della popolazione.

Con le tesi di partenza si vede effettivamente che la differenza tra le valutazioni sia dovuta al caso o meno. Pertanto:

H₀: E[^{m ₂}] = 0

H₁: E[^{m ₂}] ≠ 0

in cui è la differenza tra i valori medi rilevati sui due campioni indipendenti:

d = m² - m₁

Allora, Ho corrisponde al caso in cui la differenza osservata sia da attribuire al caso mentre H₁ corrisponde al fatto che i due campioni hanno una differenza sistematica.

Se è possibile validare un'assunzione di gaussianità dei dati, la statistica del test risulta essere:

Z = (ì - E[^{m ₂}]) / √(σ_m2 + σ_m1) ~ N(0,1)

allora, in base all'ipotesi alternativa si definiscono differenti scenari:

• H₀: E[^{m ₂}] = 0
• H₁: E[^{m ₂}] ≠ 0

Nell'ipotesi che la popolazione dei dati sia omoschedastica con distribuzione

gaussiana, il generico X_ij può essere rappresentato nel seguente modo:

X_ij = μ + A_i + Y_ij

in cui: μ è la media dell'intero insieme di dati

A_i è la colonna dei dati che differenzia la media del gruppo i da quella

della popolazione

Y_ij è una grandezza stocastica che viene modellata come

una gaussiana con media nulla e varianza σ² costante per

tutte le classi → Y_ij ~ N(0, σ²)

Allora il test dei f-s si traduce nel nucleo seguente:

H₀: X_ij = 0 per almeno un i

H₁: X_ij ≠ 0 per almeno un i

Per tracciare la statistica del test considerando che la varianza campionaria totale

e sua somma ai seguenti termini:

γ ^- = ¹/_M ^K Σ_i=1 ( ⁿⁱ Σ_j=1 (X_ij - μ_i∧) ²) = ¹/_M ( ^K Σ_i=1 m_i (X_i∧ - μ∧) ²)

Se H₀ è vera, si ha che:

T / σ² ~ χ²_m-1

e in base al teorema di Cochran si può dimostrare

che:

V / σ² ~ χ²_m-k

→ V e W indipendenti

Allora la statistica del test è:

F = W / (K-1) e tra F ~ F_k-1,m-k

Concludiamo la sezione dell'ANOVA riassumendo e discutendo le ipotesi che devono essere soddisfatte dall'insieme dei dati affinché l'F-test dia risultati attendibili:

1. ciascun gruppo dell'insieme deve essere un campione di dati casuale, e i dati relativi a gruppi diversi devono essere indipendenti
2. i gruppi devono avere grosso modo lo stesso numero di dati
3. la scala di variazione dei dati deve essere comparabile tra i diversi gruppi
4. la distribuzione dei dati deve essere gaussiana
5. la varianza deve essere costante

Diciamo subito che l'F-test è robusto rispetto a violazioni delle condizione 4) e 5) se ogni gruppo ha un numero di dati sufficientemente grande e più o meno uguale tra loro. In caso di numero di dati basso, le differenze tra le varianze può risultare determinante.

L'algoritmo di Kruskal-Wallis è un test ANOVA non parametrico che si può applicare tutte le volte che la distribuzione dei dati differisca significativamente dalla gaussiana, pur tenendo la stessa per tutta la popolazione, per cui deve sempre valere l'omoseclasticità. Per meglio illustrare l'algoritmo consideriamo un esempio.

Un'azienda vinicola chiede a degli intenditori di testare tre dei loro vini, indichiamoli per semplicità A, B e C, con un punteggio da uno a dieci. Ecco quanto ottenuto dopo i vari assaggi (tabella di sinistra)

Per prima cosa si devono ordinare i dati in ordine crescente. Nella tabella quindi ad ogni dato viene sostituito il suo numero d'ordine nella lista (rank). Se due o più dati dovessero avere lo stesso valore e quindi occupare lo stesso rank, questo viene ripartito in parti uguali in modo da non privilegiare nessun gruppo (adjusted ranks). Nel caso in esame si ottiene la tabella di destra.

Ora l'ipotesi nulla consiste nel testare che i valori medi dei ranghi dei tre gruppi siano uguali, contro l'ipotesi alternativa che almeno due di essi differiscano. Siano al solito n₁, n₂, n₃ il numero di dati per ciascun gruppo, e si indichino con μ₁, μ₂, μ₃ i valori medi dei ranghi nei tre gruppi, mentre con μ_r la media dei ranghi per tutto l'insieme di dati. La statistica del test è data dalla seguente variabile

dove al solito N è il numero totali di dati. Questa risulta essere distribuita approssimativamente come una χ²₃ = χ²₂ (chi-quadro a 2 gradi di libertà ). Il percentile del 5% di tale distribuzione è pari a 5.991. Per cui il set critico del test di livello 5% è data da