Metodi statistici per la gestione del rischio e dell'innovazione

Metodi statistici per la gestione del rischio e dell'innovazione

Laurea magistrale in ingegneria gestionale

C. Scimeca, R. Scimeca
Università degli Studi di Palermo | Scuola Politecnica

Prefazione

Il presente file costituisce una sintesi completa del corso di Metodi Statistici per la gestione del rischio e dell'innovazione, di A. Lombardo, ed è divisa in tre sezioni distinte: "Elementi di statistica inferenziale", "Progettazione degli esperimenti" e "Processi stocastici". Le fonti sono appunti presi a lezione, slide, sbobinature e altro materiale didattico fornito dal professore e, dove necessario, approfondimenti sul web.

La prima sezione è puramente introduttiva e richiama i fondamenti della statistica inferenziale attraverso due capitoli, dei quali il primo riprende i concetti di stima di un parametro e analisi della varianza, il secondo espone le tecniche principali di regressione statistica e analisi dei residui, concludendosi con l'esposizione del modello lineare generalizzato.

Conclusa la prima sezione, inizia lo studio vero e proprio della progettazione degli esperimenti. Il testo costituisce una dispensa completa per lo studio della progettazione ottimale degli esperimenti. Il file è stato redatto grazie ad una rielaborazione personale della parte del libro di testo dedicata al design sperimentale (Matmix-Probabilità e Statistica per Ingegneri), con l'aiuto di appunti e registrazioni delle lezioni. I primi capitoli sono dedicati all'esposizione del design fattoriale (a 2 o più livelli, omogenei, misti, etc.) e frazionario, enunciando di volta in volta le particolari tecniche (vedi split-plot, quadrati latini) che consentono di ottenere ottimi risultati con un utilizzo parsimonioso del materiale sperimentale. Poi, il capitolo 4 passa ai metodi della superficie di risposta: in particolare ci si concentra sullo steepest ascendet method e sul Central Composite Design. L'ultimo capitolo è dedicato alla progettazione robusta, fondata sul metodo dell'ingegnere Taguchi.

Con lo studio di questa dispensa è pertanto possibile ottenere profonda conoscenza riguardo le varie tecniche per progettare in maniera ottimale svariate tipologie di esperimenti e indagini scientifiche, oltre che apprendere tecniche di design sperimentale mirate a ottenere specifici risultati sulla variabile di risposta.

La terza sezione costituisce una dispensa completa per lo studio dei processi stocastici, in particolare per quanto riguarda lo studio dell'analisi di sopravvivenza (survival analysis) e delle serie temporali. Si tratta di una rielaborazione propria basata sulla parte del libro di testo consigliato dal docente (MatMix - Probabilità e statistica per ingegneri) dedicata ai processi stocastici, con l'aiuto di appunti e registrazioni delle lezioni. Il testo è diviso in due capitoli. Il primo è dedicato all'analisi di sopravvivenza, descrivendo pienamente i processi di arrivo (minimal repair, sostituzione o rinnovo, etc.) e come fare inferenza statistica su di essi, attraverso le tecniche grafiche e analitiche più conosciute (i.e. test di Laplace, stimatore di Kaplan-Meier, Cox, etc.). Il secondo approfondisce lo studio delle serie temporali, cominciando dalla descrizione formale dei processi stocastici fino alla esposizione dei modelli (ARMA, ARIMA, Box-Jenkins methodology) che permettono di fare inferenza sui dati time-series.

Si augura una buona lettura,
I Dottori, R S – C S
Università degli Studi di Palermo – Corso di Laurea Magistrale in Ingegneria Gestionale

Sintesi del corso di Metodi Statistici per la gestione del rischio e dell'innovazione

(del Professore A. Lombardo)

Capitolo 1

In questo paragrafo presentiamo un ripasso veloce delle principali variabili casuali che verranno utilizzate in tutto il corso. Naturalmente iniziamo dalla variabile casuale normale o gaussiana. Questa è una variabile che soddisfa l'equazione:

^1 x₁ ^{ } exp (²b)

Tale funzione risulta simmetrica rispetto all'asse x = μ, punto che è anche massimo di essa; μ è detto parametro di posizione, b di scala: al variare del primo varia il centro della curva, al variare del secondo aumenta la dispersione o variabilità della curva. Per essa vale E(x)=μ e var(x)=σ². La trasformazione z=(x – μ)/σ coincide con la standardizzazione e pertanto la variabile casuale che si ottiene con μ = 0 e σ = 1 è la variabile normale standardizzata, che indichiamo con N(0, 1). Si abbia ora una combinazione lineare di variabili casuali normali indipendenti: una variabile così formata risulta distribuita secondo una normale con valore atteso e varianza:

...; var( ) ...² 2 2E Y a a a Y a a a_{1 1 2 2 1 1 2 2}n n

Accenniamo ad una variabile detta lognormale, definita come:

log( ) ( , )X Y N

Tale variabile è molto utile nel caso in cui Y sia una variabile continua esprimibile tramite variabili continue che si cumulano moltiplicativamente, infatti, tramite la trasformazione logaritmica, si ottiene:

... ... lo g ( ) lo g ( ) lo g ( ) ... lo g ( )...Y X X X Y X X X_{1 2 1 2}n n

Sapendo che la variabile lognormale si distribuisce come una N (μ,σ), E(Y) e var(Y) risultano essere:

2 2 2( / 2) 2( ) ; var( ) 1E Y e Y e e

Si chiama variabile casuale χ² (chi-quadrato) la variabile casuale formata dalla somma di variabili normali standardizzate indipendenti elevate al quadrato:

χ²  2 2 2 2...Z Z Z_{1 2v}v

Il numero delle Z (v), unico parametro che caratterizza la variabile, prende il nome di gradi di libertà. Si ha:

E(χ²) = v ; var(χ²) = 2v

Questa variabile gode dell’additività; in particolare, sommando chi-quadrato indipendenti si ottiene una chi-quadrato avente gradi di libertà pari alla somma dei gradi degli addendi.

Un’altra variabile importante è la variabile casuale t-Student, definita come il rapporto tra due variabili casuali indipendenti, rispettivamente una normale standardizzata a numeratore e la radice di una chi-quadrato divisa per i propri gradi di libertà a denominatore. Cioè:

t = Z / χ²/v

La distribuzione della t-Student è simmetrica intorno a t = 0. Per v abbastanza grande la t tende alla N(0, 1).

Viene chiamata variabile casuale F-Fisher il rapporto tra due chi-quadrato indipendenti, ciascuna divisa per i propri gradi di libertà.

La formula generale di una variabile casuale normale multivariata risulta:

 1 1 1x x μ Σ x μ( ) exp ( ) ( )^T f 1/ 2 /2Σ| | (2 ) 2 n

avente E(X)=μ e var(X)=Σ, dove μ e Σ sono rispettivamente il vettore delle medie delle singole normali e la matrice di covarianza (che avrà le singole varianze nella diagonale principale). Si vede che l’argomento dell’esponenziale è una chi-quadrato con gradi pari a n. Solo per la normale multivariata vale che l’indipendenza in senso debole implica quella in senso forte.

Statistica inferenziale

La statistica inferenziale è una metodologia che, a partire da dati sperimentali (campioni), consente di stimare alcune quantità incognite della popolazione o di un processo che ha generato quel campione. Per il fatto che il campione è considerato come un insieme di estrazioni indipendenti dalla stessa popolazione, possiamo trattarlo come le realizzazioni {x₁, x₂,..., x_n} di una stessa variabile casuale X. Definiamo statistica una quantità sintetica dei dati campionari. Definiamo stimatore una procedura che, sulla base di una statistica, produce una stima. La stima è dunque il risultato di un certo algoritmo applicato ad uno specifico campione.

Uno stimatore è una variabile casuale che ha una distribuzione di probabilità che fa riferimento ad una “popolazione di campioni” e per questo è detta distribuzione campionaria. Uno stimatore T che stima un certo parametro θ si dice corretto se e solo se E(T) = θ. Altrimenti lo stimatore si dice distorto, con distorsione Bias(T) = E(T) – θ. Si badi bene al fatto che la correttezza di uno stimatore non garantisce affatto che la sua singola realizzazione sia proprio θ. Possiamo fissare un intervallo intorno a θ, e stabilire quale sia la probabilità che la stima cada all’interno dello stesso:

      1P T

Naturalmente preferiremo uno stimatore di θ che abbia elevata probabilità di produrre stime che cadano all’interno dell’intervallo: a parità di probabilità, si definisce precisione l’inverso della larghezza di questo intervallo. Tuttavia uno stimatore più preciso rispetto ad un altro ad un certo livello di probabilità potrebbe esserlo meno rispetto ad un altro livello. Serve dunque un indice sintetico di variabilità. A tale scopo usiamo var(T). Si consideri una successione {T₁, T₂,...T_n,...} di stimatori di campioni della stessa X, ma con dimensione campionaria crescente. Se questa successione converge in probabilità a θ allora lo stimatore si dirà consistente.

In altre parole ci si deve accertare che, per ξ > 0 comunque piccolo:

    lim 0P T n n

Come si è capito, la prospettiva statistica è speculare rispetto a quella probabilistica: il campione è già stato estratto mentre uno o più elementi della funzione di probabilità sono incogniti. Se allora scriviamo una funzione di probabilità con tali accorgimenti otteniamo una funzione non più probabilistica, ma dipendente dai parametri della stessa, che chiamiamo funzione di verosimiglianza L. È logico pensare che, visto che ci si attende di estrarre campioni che hanno un valore di f elevato, si ritengono più verosimili valori dei parametri incogniti che rendano la verosimiglianza più elevata. Per questo motivo è spontaneo determinare la stima dei parametri incogniti come quelli che massimizzano la funzione di verosimiglianza. Essendo L una quantità sempre positiva, è possibile effettuare la trasformazione logaritmica; se un punto sarà massimo della log(L) (detta logverosimiglianza) lo sarà anche della verosimiglianza stessa.

Una statistica si dice sufficiente se l’informazione contenuta nel campione è tutta contenuta nella statistica stessa; ossia, una volta che dai dati campionari abbiamo calcolato la statistica, questi non servono più per quanto riguarda la stima puntuale del parametro cercato.

La varianza di uno stimatore è un valore che può dare un’idea dell’ambito entro il quale un dato parametro può considerarsi ragionevolmente compreso. Tuttavia questo scopo può essere meglio formalizzato attraverso gli intervalli di confidenza, che costituiscono una stima intervallare del parametro. Date due funzioni campionarie φ(X) e χ(X) tali che φ(X) < θ < χ(X), si dice intervallo di confidenza l’intervallo tale che:

  ( ) ( ) 1P X X

È chiaro che la quantità a secondo membro è una probabilità solo finché gli estremi sono variabili casuali. Quando si è in presenza di un dato intervallo riferito al campione estratto, gli estremi non sono più variabili casuali e allora tale quantità prende il nome di grado di fiducia. La probabilità che una generica stima cada all’interno dell’intervallo probabilistico può essere fissata da noi dimensionando opportunamente la lunghezza dell’intervallo. È necessario dunque contemperare le esigenze di un grado di fiducia elevato, con una “precisione” della stima intervallare, definita come l’inverso della lunghezza dell’intervallo.

Quando analizzeremo gli esperimenti nei capitoli successivi faremo riferimento ad un campione illimitato (non infinito), distribuito secondo una distribuzione di probabilità (solitamente normale). Le nostre osservazioni dovranno essere dei campioni, che diremo casuali se le osservazioni sono prese a caso. Nei nostri campioni avremo due fonti di aleatorietà: la prima viene dal fatto che la singola osservazione può essere più grande o più piccola rispetto a quella che si avrebbe senza variabilità, la seconda riguarda l’estrazione random delle osservazioni (se non è garantito il modello di randomizzazione non potremo applicare le varie tecniche che vedremo). L’obiettivo è estrarre il numero massimo di informazioni dal numero minimo di prove.

In statistica inferenziale distinguiamo la distribuzione della popolazione dalla distribuzione campionaria. Come detto, per stimare un parametro della popolazione estraiamo un campione da quest’ultima e ne facciamo ad esempio la media aritmetica; se noi potessimo ripetere il campione, ovvero il campione diventa osservazione, e potessimo ottenere tutte le medie che si possono ottenere da questa procedura, otterremmo la distribuzione di campionamento delle medie campionarie, che risulta una normale. Mentre la variabilità della popolazione nasce da cause sconosciute che rendono il fenomeno variabile, la variabilità della distribuzione di campionamento è dovuta anche alla variabilità di campionamento. Pertanto si ha che i valori attesi delle due distribuzioni coincidono, mentre la varianza del campionamento sarà pari a σ²/n, con n numero di osservazioni per ciascun campione indipendente; ciò significa che più grande è il campione, più riduciamo la variabilità della stima. Infatti, per ottenere intervalli di confidenza più stretti e con alte probabilità di includere in essi il vero valore da stimare, dobbiamo aumentare la dimensione campionaria, ma tutto ciò ha costi associati. In particolare, la lunghezza dell’intervallo è proporzionale alla radice della varianza della distribuzione campionaria.

Verifica d’ipotesi

Prima di richiamare l’analisi della varianza facciamo un breve ripasso necessario. La verifica d’ipotesi consiste nel formulare un’ipotesi e controllare, utilizzando un campione, se quest’ultimo smentisce l’ipotesi o meno. Questa metodologia si basa sui seguenti elementi:

• Un’ipotesi di base H₀ (per sottolineare il fatto che è l’ipotesi che conduce ad una non azione)
• Un’ipotesi alternativa H₁, che rappresenta lo stato alternativo e che può essere puntuale o un insieme.
• Un test statistico basato sui dati campionari sulla base del quale prendiamo la decisione.
• Una regione entro cui il risultato del test può trovarsi, divisa in regione di accettazione o di rifiuto, tale che se il test cade nella prima si accetta (o non si rifiuta) H₀, altrimenti si rifiuta.

Chiameremo α la probabilità che l’ipotesi di base sia vera ma il test cade nella regione di rifiuto, mentre chiameremo β il caso in cui l’ipotesi di base è falsa ma il test cade nella regione di accettazione. Per determinare questi due rischi si dovrà ipotizzare la funzione di distribuzione del test statistico quando H₀ è vera e quando è falsa. Se H₀ è vera avremo probabilità 1–α di agire correttamente, se invece è falsa avremo probabilità 1–β.

Per trovare la statistica utilizziamo un metodo generale che, per fissata dimensione campionaria e a parità di rischio di prima specie, assicuri la possibilità di determinare test e relative regioni di rifiuto che minimizzano il rischio di seconda specie. Sia H₀: θ = θ₀ e H₁:θ = θ₁:

( | )L x  0( | )L x₁

Più λ è piccolo più la verosimiglianza dell’ipotesi alternativa sovrasta quella di base, viceversa non vi sono ragioni per rifiutare quest’ultima. Secondo il lemma di Neyman-Pearson, per massimizzare la potenza del test (1 – β), la regione che identifica l’errore α deve accumularsi nelle code.

Confronto tra due campioni

Vediamo ora come si applica la verifica d’ipotesi per il confronto tra due campioni. Iniziamo dal caso in cui si vogliano confrontare due medie e le due varianze siano note. Ammettendo che le due osservazioni sono i.i.d. N (i due campioni sono indipendenti non solo al loro interno, ma anche uno rispetto all’altro), non è necessario che le due dimensioni campionarie siano uguali, ma tuttavia ciò risulta opportuno in quanto i test che ne derivano risultano più potenti. Vogliamo dunque saggiare l’ipotesi: H₀: μ_A = μ_B, H₁: μ_A ≠ μ_B. In questo caso non siamo interessati ai valori delle medie, anzi questi sono parametri di disturbo; il parametro di interesse è invece Δ= μ_A – μ_B e dunque l’ipotesi di base potrà scriversi Δ=0. Nell’ipotesi di varianze note, dal rapporto tra le verosimiglianze, si perviene al fatto che la regione di rifiuto è data da (m_A–m_B) corrispondente a λ0; ciò è logico: più le medie dei due campioni sono vicine...