Appunti di metodologie quantitative

Metodologie quantitative

La statistica

La statistica è una disciplina ampia ed è alla base di tutte le discipline scientifiche. Si è sviluppata in termini deterministici.

Modello statistico

È una rappresentazione efficiente e compatta di un fenomeno empirico. La maggior parte delle tecniche che conosciamo definiscono un modello statistico di una variabile o delle relazioni fra variabili di interesse. Il modello statistico è tanto più informativo quanto più è aderente al modello che ha generato i dati. Ad esempio, la regressione lineare tira una linea dritta: all’aumentare del numero di birre aumenta qualcosa nella persona tale che le faccia sorridere di più. Uno dei limiti più grandi è che non rispetta il modo in cui l’essere umano è fatto e quindi il modo in cui sono generati i dati. La relazione è verosimilmente non lineare: se la linea retta proseguisse, es. 50 birre bevute, non si avrebbero necessariamente più sorrisi (anzi).

Tre obiettivi principali

• Descrizione efficiente e compatta
• Inferenza sulla popolazione
• Predizione del futuro

Il modello statistico è una buona rappresentazione dei dati se:

• I parametri sono modellati correttamente. Es. se usassimo un modello lineare invece di un modello esponenziale per descrivere e predire l’evoluzione del COVID-19;
• Gli errori sono modellati correttamente. Es. predizione di una variabile dicotomica (un bambino nascerà maschio o femmina?).

Modello statistico ed errore di approssimazione

Come tutte le rappresentazioni compatte ed efficienti, anche quella statistica è una approssimazione dei dati rappresentati. Se, per semplificare, diciamo che la performance è per es. 28,4 (media dei voti ottenuti ad un esame), compiamo degli errori rispetto ad alcuni dei voti. Per dire che un modello statistico è una buona rappresentazione dei dati (per ora stiamo parlando dei dati raccolti, quindi del campione) mi devo trovare un numero che riassume la situazione vissuta da tutti (es. tutti gli studenti prendono 30). Ma se mi trovo nella situazione in cui ci siano anche altri numeri, rispondendo con 30 compio un errore.

Come faccio a dire se il mio modello statistico è una buona rappresentazione dei miei dati? (per ora stiamo parlando solo dei dati del campione). Quando la compressione dell’informazione è estremamente precisa (ad es. quando tutti gli studenti prendono 30 ad un esame), l’errore è minimo. Se invece metà prende 30 e metà 12, se diciamo che la media è 21, la rappresentazione dei voti non è proprio buona. L’errore che si fa in questo caso (dicendo solo la media) potrebbe risultare negativo. Allora per evitarlo si prende il quadrato degli errori tutti sommati: varianza.

Varianza come errore di approssimazione

La varianza è semplicemente la media degli errori al quadrato. Calcolando l’errore che si ha per ogni caso (ogni studente), elevandolo al quadrato (sbagliare in più o in meno al 30 è uguale) e facendo la media per ogni caso, quantifichiamo l’errore medio associato alla media. La deviazione standard permette di riportare la varianza alla stessa scala di misura della variabile iniziale tramite la radice quadrata.

Densità di probabilità

Se ne parla per dire come la probabilità si distribuisce. Se si prende un campione della propria popolazione, se si ha campionato bene, quel campione rappresenta la popolazione. La media è 28,4. Si fa statistica descrittiva se si usa la media per descrivere cosa succede nel campione. Non ci interessa dell’intera popolazione. Nella statistica descrittiva ciò che ci interessa è l’errore che facciamo comprimendo l’informazione rispetto a tutte le informazioni che abbiamo del nostro campione. La varianza e la deviazione standard sono delle buone quantificazioni dell’errore che si commette nel descrivere il campione o la sua media. La media è una descrizione accurata dei dati se la DS è molto piccola.

Inferenza statistica: dal campione alla popolazione

L’accesso all’intera popolazione non è quasi mai possibile. La statistica inferenziale permette questo passaggio. Per passare da ciò che si osserva a ciò che non si vede, possono essere utilizzati due strumenti: le caratteristiche di ciò che si osserva e la possibilità di fare affidamento su alcune proprietà della popolazione. Es. gli studenti prendono un certo voto. Se volessi immaginare cosa potrebbero prendere gli studenti nel mondo, in una situazione in cui non so niente di loro, la miglior scommessa per inferire la media dei voti della popolazione è utilizzare la media di coloro che si conoscono (il campione).

È possibile che così ci si possa sbagliare? Ovvero che quella media non rappresenti la media della popolazione? Sì. Si commette un errore. Prima abbiamo parlato dell’errore che si commetteva sui dati osservati utilizzando i dati osservati. Adesso non siamo più interessati al singolo dato osservato. Abbiamo preso la media del campione per inferire la media della popolazione. Di nuovo un errore. Possiamo sapere quanto sia grande? Intuitivamente sì. Più sono le osservazioni che faccio, più sono sicuro che la situazione nel campione sia simile a quella nella popolazione. Se la varianza nel campione è piccola, sono sicuro che il dato che osservo nella popolazione sia più accurato.

Se estraessimo infiniti campioni di 10 persone, si potrebbe dimostrare che la M di tutti quei campioni (la media delle medie) sia uguale alla M della popolazione. La media campionaria è uno stimatore consistente della media della popolazione. Ma come facciamo a sapere quanto sia grande l’errore? Io continuo a estrarre infiniti campioni, ho tanti valori ed ognuno di essi è la media di un campione; se uso uno di questi campioni per fare inferenza sulla popolazione ho ovviamente un errore rispetto alla media della popolazione. Come faccio ad osservare in media lo scarto tra ciò che ho osservato nel campione e il valore nella popolazione?

Se uso la media del mio campione per descrivere la media della popolazione ottengo un errore. Per quantificare l’errore della stima campionaria si può usare di nuovo la deviazione standard. Non più quella dei dati osservati, ma quella delle medie dei diversi campioni. Nel caso di una popolazione che non conosciamo, usiamo l’errore standard, ovvero la deviazione standard della distribuzione campionaria di una statistica. Permette di capire che errore si sta facendo nell’utilizzare il valore del campione nello stimare la popolazione quando si conosce solo un campione e non si conosce la popolazione.

L’errore di stima nel fare un’inferenza dalla media del campione a quella della popolazione dipende da quanto queste stime campionarie sono sparse intorno al valore della popolazione, cioè dalla varianza o dalla deviazione standard delle stime campionarie. Il campione, quindi, può essere utilizzato sia per fare una predizione sulla popolazione, sia per capire nel caso di quanto ci si stia sbagliando. Dipende solo da due cose: varianza della popolazione (non la conosco ma la ottengo a partire da quella campionaria) e numerosità campionaria. Tanta varianza tanto errore. Tanta numerosità poco errore. Per avere una stima più precisa sarà necessario un campione più grande.

L’errore standard dipende dalla DS della popolazione. Se la mia popolazione è una popolazione con poca varianza (es. esame a cui tutti prendono più o meno lo stesso voto), i campioni che prenderò avranno mediamente poca varianza. Se la DS è molto piccola, l’errore che commetto ad utilizzare il valore del campione per stimare la popolazione è molto piccolo. Basterà quindi un campione più piccolo per conoscere la popolazione. All’estremo, se so che la varianza della popolazione è 0, quante osservazioni servono per stimare bene il valore della popolazione? 1. Più cresce la varianza della popolazione, più cresce la varianza del campione e più le stime saranno imprecise. Per una stima più precisa, serve un campione molto più grande.

A parità di varianza, se il campione è molto grande, errori piccoli; se il campione è molto piccolo, errori grandi. Es. proiezioni politiche dimostrano come la numerosità campionaria sia legata alla precisione delle stime.

Errore standard, variabilità e sample size

Errore e (N)

L’errore diminuisce all’aumentare del numero di casi analizzati.

• Proiezioni di votazioni politiche: all’aumentare delle sezioni scrutinate diminuisce l’errore.
• Costruzione di questionari: All’aumentare del numero di domande, diminuisce l’errore di misura.
• Controllo qualità prodotti: All’aumentare dei prodotti testati, aumenta la precisione della stima di eventuali difetti.

Errore e variabilità (s )

L’errore aumenta all’aumentare della variabilità. L’errore della stima non dipende solo dalla numerosità campionaria, ma anche dalla variabilità del fenomeno osservato.

• Se tutti avessero lo stesso voto (varianza = 0), ci basterebbe osservare il voto di un solo individuo per conoscere quello di tutti gli altri.
• Maggiore è la variabilità, maggiore è il campione necessario per raggiungere un certo livello di precisione.
• L’errore di stima lega il campione alla popolazione.

Inferenza statistica

Null-Hypothesis Significance Testing (NHST)

Il modello statistico (es. la media) è associato ad una serie di test che ci consentono di trarre inferenze sulla popolazione di riferimento. Es: vogliamo sapere se la media di MQ è diversa da 26, che è il voto di Psicologia Sociale. Se sono più alti i maschi o le femmine, ecc.

Confronto tra un parametro (es. la media, correlazione, proporzione) e un valore oggetto del test (es. voto). Cosa si fa in questo NHST? Prima di tutto si spezza il problema. Vogliamo sapere, ad esempio, se la depressione media degli infermieri è significativamente diversa da 0 (media popolazione). Formo due ipotesi complementari (se è vera una, è falsa l’altra).

L’ipotesi nulla è che il mio valore medio della depressione degli infermieri sia esattamente uguale a 0; l’ipotesi alternativa è che è diverso da 0. Può essere anche direzionale (ovvero che sia solo maggiore di 0 o solo minore di 0). L’ipotesi nulla è tipicamente quella che dice che il valore del mio parametro sia 0. L’ipotesi alternativa è l’ipotesi che il valore del mio parametro sia diverso da 0. Una è molto specifica: H₀, una è molto aspecifica: H₁.

Il trucco di questo metodo è questo: noi sappiamo che una delle due ipotesi è vera nella popolazione (o uguale a 0 o diversa da 0). A noi interessa H₁, spesso. L’NHST consiste invece nel mettere tutta l’attenzione su H₀ perché è semplice da trattare. È semplice farsi un’idea della popolazione quando la media è uguale a 0. È più difficile immaginarsi una popolazione in cui sappiamo che la media è diversa da 0 perché potremmo avere davanti qualsiasi valore.

• H₀: un certo parametro nella popolazione = un certo valore
• H₁: un certo parametro nella popolazione ≠ o > < del valore in H₀

Come si fa allora a capire se H₁ è supportata dai dati? Mettiamo un attimo da parte H₁. Concentriamoci su H₀. Se fosse vera l’ipotesi nulla, quanto sarebbe probabile o improbabile osservare ciò che abbiamo osservato nei nostri dati? Se diciamo che ciò che abbiamo osservato nei dati è abbastanza probabile sotto H₀, diremo che non abbiamo ipotesi sufficienti per rigettare H₀. Se invece ciò che osserviamo nei dati è estremamente improbabile sotto H₀, diremo che abbiamo ipotesi sufficienti per rigettare H₀. In questo framework l’attenzione è tutta sull’ipotesi nulla. La probabilità che andiamo a calcolare è la probabilità che i dati osservati siano il risultato o la manifestazione di un H₀ vera.

Es: L’ipotesi nulla è che il voto all’esame di MQ sia esattamente uguale a 18. L’ipotesi alternativa è che sia diverso da 18. Osservo un campione di 100 studenti: voto 19,5. Ho abbastanza evidenza per rigettare l’H₀ e che il voto che ho osservato nella popolazione non sia 18? No. E se avessi osservato 100.000 studenti? Magari sì. Come si fa a capire quanto sia l’evidenza che abbiamo per rigettare H₀? Raccogliamo un campione di numerosità N e troviamo un certo effetto. Compito: rigettare o meno ipotesi nulla. Se raccogliamo prove contro H₀, automaticamente H₁ diventa ragionevole.

La domanda che ci facciamo è: se fossimo sotto ipotesi nulla (media uguale a 18 o media uguale a 0), useremmo la varianza del campione per stimare la varianza della popolazione e quindi sapremmo che è 1. Se la media fosse esattamente 18, potremmo simulare il processo di raccolta dati. Costruire campioni fittizi in una situazione in cui la media della popolazione è 18 e la DS 1. Quanto sarebbe probabile osservare un valore estremo, come quello osservato nel campione rispetto a quello oggetto del test, in una popolazione sotto ipotesi nulla solo per effetto di campionamento causale? Se assumo che la mia popolazione abbia una distribuzione normale, so che DS è 1 e la media 18. Posso facilmente estrarre valori a caso e costruire tanti campioni fittizi di 100 soggetti. Immaginiamo che dei campioni estratti il 50% abbia un voto che si discosta dal 18 tanto quanto quello che abbiamo osservato nel nostro campione specifico. Se diciamo che i nostri 100 soggetti sono un’evidenza sufficiente ci sbagliamo.

Il NHST si basa quindi su quanto sarebbe sorprendente ciò che abbiamo osservato nel campione se fosse vera nella popolazione l’H₀. Se ciò che abbiamo osservato nel campione è estremamente sorprendente, allora l’H₀ la rigettiamo.

Es: Vogliamo sapere se tizio ha rubato un tot di euro alla banca. Sappiamo che tizio è mediamente povero ma nel suo conto troviamo tutti questi soldi. L’H₀ è che tizio non abbia rubato niente, l’H₁ è che tizio abbia rubato qualcosa. Sarebbe molto sorprendente trovare tutti quei soldi sul suo conto se lui non avesse rubato niente, quindi questa è una prova che l’H₀ si può rigettare con una certa probabilità (magari tizio ha vinto alla lotteria il giorno prima). Se invece di tizio parliamo di Bill Gates, anche se troviamo tutti quei soldi sul suo conto non dobbiamo sorprenderci, anche sotto l’H₀ in cui Bill Gates non ha rubato niente.

L’idea è che io mi chieda quanto sia probabile che estraendo un campione di numerosità N sotto H₀ io ottenga un valore grande o più grande di quello osservato nel campione. Io chiedo quanto sia probabile, o poco o molto probabile. Questa probabilità posso calcolarla, posso stimarla. Abbiamo il P-value.

P-value = Probabilità di osservare un valore grande o più grande di quello osservato nel mio campione, se fosse vera l’ipotesi nulla (quindi sotto H₀).

H₀ e H₁ sono dati, non sono probabilistici nell’idea della statistica che stiamo affrontando. L’unica cosa di probabilistica è il campionamento.

• Se il p-value è grande significa che è molto facile ottenere un effetto grande come X sotto H₀, quindi abbiamo raccolto poche evidenze contro H₀;
• Se il p-value è piccolo, significa che sotto H₀ (assumendo che sia vera) è molto difficile ottenere un effetto grande come X, quindi abbiamo raccolto molte evidenze contro H₀. Maggiore è quindi l’evidenza in favore di H₁.

Notare che ci siamo disinteressati di H₁. Però, visto che H₀ e H₁ sono mutualmente esclusive, se si rifiuta H₀ ne consegue che H₁ guadagna di credibilità.

Distribuzioni di probabilità note

Dato un valore X e una numerosità campionaria, è possibile calcolare il p-value senza ricorrere a simulazioni. Una distribuzione di probabilità associa a ciascun effetto una probabilità di ottenere quell’effetto sotto H₀. La distribuzione t di Student è un esempio. Di fatto, facendo il t-test, si converte la media, la DS e la numerosità campionaria in un solo parametro, la t, di cui la distribuzione sotto H₀ è nota.

Test di ipotesi e p-value

• H₀: è tipicamente un’ipotesi puntuale, ovvero il valore di un certo parametro è X (es. la media di un certo campione è uguale a 4).
• H₁: è tipicamente la negazione dell’ipotesi nulla. Se la mia H₀ è che il parametro è uguale a n, l’H₁ è che sia diverso da questo valore. Nei test direzionali posso formulare l’ipotesi che sia maggiore o minore. Es. l’altezza di qualcosa non può essere diversa da 0, può essere maggiore o minore ma non andare in negativo.

Questo framework statistico quindi si concentra sull’H₀, ipotesi puntuale. Tipicamente interesserebbe H₁, ma H₁ è un’ipotesi molto ampia. Quando faccio un test statistico calcolo il p-value. Esamino i miei campioni e trovo un effetto. Mi metto sotto H₀ (penso “e se fosse vera?”).

Ipotizziamo di essere sotto H₀. Se fosse vera, la probabilità che un effetto così grande emerga per effetto del caso è per es. p= 0,004. È molto difficile se fossimo sotto H₀ ottenere quello che l’abbiamo osservato nel campione.