Riassunto esame Metodologie Quantitative, prof. Costantini, libro consigliato Modelli statistici nelle scienze sociali, Gallucci

Metodologie quantitative

Informazioni generali

CostantiniUna parte a scelta multipla + domande aperte relative ad output. Preappello sulla prima parte del programma nel corso delle lezioni. La seconda parte coincide con il primo appello del 15 gennaio. 12 ottobre alle 18 aprono le iscrizioni dei laboratori.

A cosa serve la statistica?

Si parte con la domanda di ricerca – fare ricerche di background – costruire delle ipotesi – fare un esperimento – analisi dei risultati (entra in gioco la statistica) – ipotesi confermata, disconfermata o irrilevante.

• È una disciplina molto ampia;
• È alla base di tutte le discipline scientifiche;
• Si è sviluppata perché molte leggi e principi non possono essere formulati in termini deterministici, ma solo probabilistici;
• Esistono tecniche statistiche per ogni tipo di dato e per rispondere a ogni tipo di questione scientifica;
• Se qualcosa è quantificabile, lo si può analizzare statisticamente.

Modello statistico

La maggior parte delle tecniche statistiche che conosciamo definiscono un modello statistico di una variabile o delle relazioni fra variabili di interesse. Un modello statistico può fornire una rappresentazione efficiente e compatta dei dati raccolti in modo da descrivere quantitativamente un fenomeno empirico. Significa fare delle assunzioni sulle teorie sottostanti. Deve tenere conto però del processo che ha formato i dati. Tre obiettivi principali:

• Descrizione efficiente e compatta;
• Inferenza sulla popolazione;
• Predizione del futuro.

Modello statistico ed errore di approssimazione

Come tutte le rappresentazioni compatte ed efficienti, anche quella statistica è un’approssimazione dei dati rappresentati. La varianza agisce come errore di approssimazione. Calcolando questo errore per ogni caso (ogni studente), elevandolo al quadrato (sbagliare in più o in meno è uguale) e facendo la media per ogni caso, quantifichiamo l’errore medio associato alla media. La varianza è semplicemente la media degli errori al quadrato/degli scarti al quadrato dalla media. Mi dice in media quanto sbaglio. (N-1 al denominatore ci dà una stima della popolazione)

Varianza e deviazione standard indicano la dispersione attorno alla media (errore rispetto alla media).

Inferenza statistica

Il modello statistico è associato ad una serie di test inferenziali che ci consentono di trarre conclusioni sulla popolazione di riferimento. Posso usare un t-test, che utilizzo per sapere se la media della popolazione è diversa da un certo valore µ (mu); è la differenza tra la mia media osservata meno il valore µ, diviso l’errore standard.

Il modello statistico è una buona rappresentazione se:

• I parametri sono modellati correttamente (cioè descrivono bene il processo che genera i dati);
• Gli errori sono modellati correttamente;
• La struttura dei dati è quindi rispettata.

Tecniche statistiche

Tecniche statistiche univariate: tecniche volte a descrivere la varianza di una singola variabile, incluse tecniche volte a studiare e quantificare gli effetti di una o più variabili indipendenti (variabili esplicative o predittori) su quella variabile dipendente di interesse.

Tecniche statistiche multivariate: tecniche volte a descrivere la varianza di molte variabili simultaneamente.

Inferenza sulla popolazione e predizione di casi successivi

La media come modello statistico più semplice. Se vogliamo riassumere i nostri dati con un solo numero, la media (28.4) è spesso il modo più efficiente. In assenza di ulteriori informazioni, se dobbiamo fare un’inferenza sui voti della popolazione da cui i 10 studenti provengono, la media è di nuovo la nostra migliore scommessa. Quindi, anche se dobbiamo prevedere il punteggio di altri 10 studenti, questa rimane la nostra miglior scommessa.

Possiamo facilmente sapere quale errore stiamo commettendo in media nel nostro campione (varianza). Ma possiamo sapere quale errore stiamo commettendo nel fare un’inferenza sulla popolazione?

Errore standard

Distribuzione campionaria: immaginate ora di estrarre dalla popolazione non un solo campione di N= 10 studenti, ma infiniti campioni di N= 10 studenti. La media di tutti questi campioni, ci darà il valore medio della popolazione, perché la media campionaria è uno stimatore consistente della media della popolazione. L’errore di stima nel fare un’inferenza dal campione alla popolazione dipende da quanto queste stime campionarie sono sparse intorno al valore della popolazione. Cioè dalla varianza o dalla deviazione standard delle stime campionarie. L’errore sarà più piccolo se ho una variabilità più piccola e viceversa.

L’errore standard è la deviazione standard della distribuzione campionaria di una statistica. Indica l’ampiezza attesa dell’errore commesso nell’utilizzare un campione (con una certa varianza e numerosità) per stimare una caratteristica della popolazione. Più grande è l’errore standard, più grande è l’incertezza intorno alla stima campionaria. Dipende solo dalla varianza e dalla numerosità campionaria.

La varianza del campione è una buona stima della varianza della popolazione. L’ES aumenta all’aumentare della varianza; l’ES diminuisce all’aumentare della numerosità campionaria.

Errore e sample size (N)

L’errore diminuisce all’aumentare del numero di casi analizzati (es. proiezioni di votazioni politiche, costruzione di questionari, controllo qualità prodotti).

Errore e variabilità (s²)

L’errore aumenta all’aumentare della variabilità. L’errore della stima non dipende solo dalla numerosità campionaria, ma anche dalla variabilità del fenomeno osservato. Se tutti avessero lo stesso voto (varianza= 0), ci basterebbe osservare il voto di un solo individuo per conoscere quello di tutti gli altri. Maggiore è la variabilità, maggiore è il campione necessario per raggiungere un certo livello di precisione. L’errore di stima lega il campione alla popolazione.

Intervallo di confidenza (IC)

Il parametro campionario stimato (es. media) non coincide con il valore della popolazione. L’intervallo di confidenza è un intervallo di valori plausibili per quel parametro nella popolazione. Esso è sempre associato a una probabilità, tipicamente il 95%. È un intervallo costruito in modo tale che, se ripetessimo il nostro studio infinite volte con infiniti campioni diversi (di pari numerosità) estratti dalla stessa popolazione, nel 95% dei casi l’IC95% conterrebbe il valore della popolazione. L’intervallo di confidenza aumenta all’aumentare dell’errore standard.

Normalità

Un processo è distribuito normalmente se è descritto dalla sua media e dalla varianza che si distribuisce attorno. La normalità dei dati è un’assunzione di base di molte tecniche statistiche e, se violata gravemente, può inficiare i risultati. La distribuzione normale è definita da due parametri, la media e la deviazione standard, che ne determinano la forma. A volte i dati non sono distribuiti in modo perfettamente normale. In questi casi, l’asimmetria (skewness) e la curtosi in aggiunta danno informazioni importanti sulla forma della distribuzione dei dati.

• In generale violazioni limitate della normalità non hanno conseguenze catastrofiche (in psicologia);
• Stime puntuali (parametri) sono relativamente robuste alla normalità (errori standard meno);
• Distribuzione normale: asimmetria= 0, curtosi= 0;
• Regola euristica: se asimmetria (più problematica) o curtosi sono maggiori |1| è una violazione chiara; se > |3| la violazione è molto seria;
• Esistono anche test formali (indice asimmetria o curtosi diviso errore standard, come Z) ma sensibili alla numerosità;
• Se è violata l’assunzione di normalità, si può provare a trasformare i dati per avere una distribuzione più simile alla normale;
• Esistono approcci statistici che non assumono la normalità (es. statistica robusta);
• Alcune trasformazioni note hanno effetti prevedibili sulla distribuzione dei dati;
• Quale trasformazione fare dipende anche dal tipo di variabile (certe variabili spesso pongono problemi simili).

Dipende anche dal tipo di variabile a disposizione (es. tempo di reazione di un compito cognitivo). Differenza tra due tempi di reazione: Può non avere bisogno di trasformazione. Dipende anche dal settore specifico (“regole” locali...). Es. i tempi di reazione spesso si trasformano con log, percentuali con arcsin.

1. Elevazione: che con valori diversi di g diventa una trasformazione al quadrato (g=2), radice quadrata (g=1/2), o inversa (g=-1);
2. Logaritmo: con attenzione a non avere numeri negativi (costante a da aggiungere). Trasformare non garantisce un miglioramento. Verificare più trasformazioni per scegliere la più adatta.

(le lettere greche vengono utilizzate per indicare la popolazione)

La mediana

Media aritmetica: punto di equilibrio di una distribuzione di dati. Mediana: valore assunto dalle unità statistiche che si trovano nel mezzo della distribuzione. È estremamente robusta agli outliers. È un esempio di statistica robusta. Outliers: valore che sta al di fuori della popolazione che vogliamo misurare.

Quando abbiamo una distribuzione non normale:

• Rimuovo gli outliers;
• Uso statistiche robuste alla tolleranza di outliers. Vengono chiamate statistiche non parametriche, non assumono una distribuzione specifica (es. mediana).

Relazioni lineari

Quando siamo interessati a studiare la relazione tra due variabili, occorre prendere in considerazione 3 caratteristiche principali:

• La forma che assume la relazione: in questo contesto verranno analizzate solo relazioni lineari;
• La sua direzione: può essere positiva (i valori delle due variabili crescono in modo concorde) o negativa (al crescere dei valori di una variabile diminuiscono i valori dell’altra);
• L’entità osservata: la relazione può essere molto forte o modesta; oppure può essere pari a zero, in questo caso si parla di relazione nulla, le variabili sono dunque indipendenti.

Covarianza e correlazione

La covarianza è la media dei prodotti degli scarti dalla media. È positiva se gli scarti dalla media sono concordanti e negativa se sono discordanti. Varia tra - infinito e + infinito. La correlazione è la covarianza tra variabili standardizzate. I punti zeta hanno media= 0 e dev.stand.= 1. La chiamiamo variabile standardizzata in quanto poniamo tutti i dati sulla stessa scala di misura.

Correlazione di Pearson

È un indice statistico che misura l’associazione fra due variabili. Misura come le due variabili si muovono assieme, ossia come correlano. Viene espresso come un valore che varia fra -1 e 1. Correlazione positiva –negativa – nonlineare = 0. Direzione ed entità della relazione. Funziona solo per variabili continue (scala intervalli o rapporti). Il quadrato della correlazione, R², indica la proporzione di varianza condivisa dalle due variabili. Per capire quanto forte è l’associazione possiamo elevare al quadrato la correlazione e interpretarla come varianza condivisa.

P value

È la probabilità di ottenere una correlazione o un effetto più o meno grande, in valore assoluto, quando è vera l’ipotesi nulla. La probabilità di ottenere un valore assoluto di un parametro, grande o più grande di quello osservato, sotto l’ipotesi nulla, campionando una popolazione in cui la correlazione vera è zero (es. la mia popolazione ha correlazione 0. Prendendo un piccolo campione, la correlazione può essere un numero un po’ più alto o basso di 0).

Vero negativo: accetto l’ipotesi nulla quando essa è vera. Vero positivo: accetto l’ipotesi alternativa quando essa è vera. Falso positivo / errore di tipo 1: rifiuto l’ipotesi nulla quando essa è falsa. Alfa è la probabilità desiderata di falsi positivi. Falso negativo / errore di tipo 2: accetto l’ipotesi nulla quando essa è falsa. La procedura di scelta varia a seconda di quanto è grande il campione e di quanto è forte il mio effetto. Due code: ha senso considerarlo quando ha senso ottenere risultati sia positivi che negativi. Per convenzione si utilizza un livello di significatività inferiore al 5%. La media e la correlazione sono indipendenti perché la correlazione è una relazione con variabili standardizzate con media= 0.

Test di ipotesi

Il ricercatore formula due ipotesi mutualmente esclusive che riguardano un fenomeno. H0 o ipotesi nulla: ipotesi che l’effetto di interesse (chiamiamolo d) sia esattamente uguale a zero nella popolazione (es. non c’è una differenza tra i gruppi, la media è uguale a zero, non c’è differenza nel numero di palline rosse e blu nell’urna etc.). H1 o ipotesi alternativa: ipotesi che ci sia un effetto non-nullo nella popolazione (es. che ci sia una differenza tra i gruppi, che la media non sia uguale a zero etc). Può essere anche formulata in modo direzionale (es. che l’effetto sia maggiore di zero o minore di zero, che la media del gruppo 1 sia maggiore di quella del gruppo 2 o viceversa), ma il ragionamento vale comunque. Una delle due ipotesi è per forza vera nella popolazione, ma non sappiamo quale.

Tipicamente al ricercatore interesserebbe H1, ma H1 è un’ipotesi molto molto ampia. Nel Null-Hypothesis Significance Testing (NHST), cioè la cornice teorica in cui rientra il p-value, si usa un «trucco»: invece di concentrarsi su H1, ci concentriamo su H0, che è un’ipotesi puntiforme ed è molto più facile da trattare. La domanda che ci si pone è: Possiamo rigettare l’ipotesi nulla H0?

Si può rigettare l’ipotesi nulla?

Il ricercatore raccoglie un campione di numerosità N e trova un certo effetto d. Il suo compito è decidere adesso se rigettare o meno l’ipotesi nulla. Notare che, poiché H0 e H1 sono mutualmente esclusive, raccogliere prove contro H0 implica che aumentare la credibilità di H1. Per farlo, si chiede: Quanto è probabile che, estraendo un campione di numerosità N sotto ipotesi nulla H0, io ottenga un effetto più grande di D?

Un modo semplice è di pensare questo come una «simulazione»: Genero per es. 100000 campioni casuali sotto H0 (coi computer è facile, visto che H0 è un’ipotesi molto specifica) e li confronto con D.

• Se nei 100000 campioni ottengo un effetto maggiore di D con una probabilità del 60%, difficilmente qualcuno mi crederà se propongo di rifiutare l’ipotesi nulla H0.
• Se ottengo un effetto maggiore di D molto raramente, diciamo nell’ 1% dei casi invece, facilmente rifiuterò D.

Ecco, 60% e 1% sono stime del p-value. Il p-value è quindi la probabilità di ottenere un effetto grande o più grande di quello osservato nel mio campione, sotto ipotesi nulla H0. Le probabilità variano tra 0 e 1.

• Se il p-value è grande, significa che è molto facile ottenere un effetto grande come d sotto H0, quindi abbiamo raccolto poche evidenze contro H0.
• Se il p-value è piccolo, significa che sotto H0 è molto difficile ottenere un effetto grande come d, quindi abbiamo raccolto molte evidenze contro H0.

Notare che ci siamo disinteressati di H1. Però, visto che H0 e H1 sono mutualmente esclusive, se rifiuta H0 ne consegue che H1 guadagnerà di credibilità.

Distribuzioni di probabilità

• Perché voi non fate costantemente simulazioni? Perché qualcuno ha trovato la soluzione analitica per la distribuzione di probabilità di diversi tipi di effetti sotto ipotesi nulla H0. Dato un effetto d e una numerosità campionaria, è possibile calcolare il p-value senza ricorrere a simulazioni.
• Una distribuzione di probabilità associa a ciascun effetto una probabilità di ottenere quell’effetto sotto ipotesi nulla. La distribuzione t di Student è un esempio. Di fatto, facendo il t-test, voi convertite la vostra media, deviazione standard e numerosità campionaria in un solo parametro, la t, di cui la distribuzione sotto H0 è nota.

Errore di Tipo-I (α) e di Tipo-II (β)

A questo punto il ricercatore fa una scelta, rifiutare H0 o non rifiutarla. Nel farlo, può indovinare (es. se dice non rifiuta H0 quando è vera H0 o se rifiuta H0 quando è vera H1), oppure commettere un errore. L’errore può essere di due tipi:

• Errore di Tipo I: rifiutare H0 quando questa è vera nella popolazione.
• Errore di Tipo II: non rifiutare H0 quando H1 è vera nella popolazione.

Definiamo α e β come la probabilità di commettere rispettivamente l’errore di Tipo I e II. La probabilità di commettere ciascun errore, a parità del resto (dimensione del campione e dimensione dell’effetto nella popolazione) dipende da quale valore soglia del p-value usiamo per rigettare H0. È utile pensare a due casi limite:

• Caso limite 1: usiamo un valore soglia di p < 0 per rifiutare H0 (come non rifiutiamo mai H0). Commetteremo solo errori di Tipo II e mai di Tipo I, cioè avremo α = 0.
• Caso limite 2: usiamo un valore soglia di p ≤ 1 per rifiutare H0 (cioè, rifiutiamo sempre H0). Commettiamo solo errori di Tipo I e mai di Tipo II, cioè avremo β = 0.

Valore soglia intermedi corrispondono a diverse combinazioni di probabilità.