Appunti Statistics for experiments in italiano

Analisi delle serie temporali

Definizioni

Serie temporale (TS) consideriamo un dato fenomeno alla sua evoluzione nel tempo; in

à

senso lato, una raccolta di osservazioni e5ettuate in sequenza nel tempo.

Esempi:

- Valori di chiusura giornalieri dell’indice Dow Jones in un certo periodo

- Dati mensili sulla disoccupazione di un determinato paese

- Dati annuali della temperatura globale di un certo paese

- Dati annuali della temperatura globale degli ultimi 100 anni

- Prezzi mensili dell’olio di girasole

- Temperatura media mensile in toscana

- Ecc.

Definizione una serie temporale è una sequenza di osservazioni relative a un determinato

à { , = 1, … , }

fenomeno, ordinate nel tempo !

Nota: questa definizione è valida per dati equi spaziati nel tempo.

Grafico di una serie temporale (time series plot): le osservazioni vengono rappresentate in

funzione del tempo di rilevazione e le osservazioni consecutive sono unite da segmenti di

retta.

Possiamo decomporre una serie temporale (TS)

nelle seguenti componenti:

- Trend

- Ciclo (componente ciclica)

- Trend-ciclo

- Stagionalità (componente stagionale)

- Componente casuale (random)

Componenti

Trend indica una crescita o una diminuzione di lungo period dei dati, solitamente legata

à

allo sviluppo tecnologico; in generale è rappresentato da una semplice funzione matematica,

ad esempio un polinomio in t oppure una funzione esponenziale.

Ciclo (business cycle) rappresenta le fluttuazioni cicliche del fenomeno nel tempo.

à

Trend-Ciclo è la somma oppure il prodotto del trend e del ciclo. In questo modo trend

à

e ciclo vengono considerati insieme, poiché spesso non sono facilmente separabili.

Stagionalità si manifesta quando una serie è influenzata da fattori stagionali (ad

à

esempio il trimestre dell’anno, il mese oppure il giorno della settimana).

Componente casuale rappresenta la parte irregolare o aleatoria della serie, non

à

spiegata dalle altre componenti.

È importante distinguere tra andamenti ciclici e andamenti stagionali. Gli andamenti

stagionali hanno una durata fissa e nota, mentre gli andamenti ciclici hanno una durata

variabile e sconosciuta. La durata media di un ciclo è solitamente più lunga di quella della

stagionalità e l’ampiezza della variazione ciclica è in genere più variabile rispetto a quella

della variazione stagionale.

Scomposizione di una serie temporale

{ , = 1, … , }:

Data una serie temporale TS !

- Scomposizione additiva: si assume che le tre componenti siano indipendenti e la serie

= + +

è rappresentata come: ! ! ! !

- Scomposizione moltiplicativa: la serie temporale è direttamente proporzionale a

= ∙ ∙ > 0, ∀

ciascuna componente: with

! ! ! ! !

- Il logaritmo naturale consente di trasformare una relazione moltiplicativa in una

relazione adattiva: ) ) ) )

= ∙ ∙ ln( = ln( + ln( + ln(

- ! ! ! ! ! ! ! !

Forecasting (previsione)

Partendo da una serie temporale (TS), come possiamo e5ettuare una previsione?

: { , , … , }

# $ %

+ 1, + 2, … , + ,

Obiettivo: fornire previsioni ai tempi dove H è detto anche orizzonte di

previsione (forecast horizon).

Processi stocastici (a tempi discreti) (Ω, , ),

Definizione: dato uno spazio di probabilità un processo stocastico (PS) a tempi

discreti è una sequenza di variabili casuali: &

{ }

: ∈ ∶ Ω →

!

Ω

- spazio dei campioni

à

- algebra degli eventi (insieme degli eventi)

à

- misura di probabilità

à (… ( ), ( ), ( ), )

∈ Ω → , …

# '# # ( # # #

(… ( ), ( ), ( ), )

∈ Ω → , …

$ '# $ ( $ # $

(… ( ), ( ), ( ), )

∈ Ω → , …

) '# ) ( ) # )

Osservazioni

- Se fissiamo t, ad esempio t=3, è una singola variabile casual.

)

, −∞

- Se fissiamo otteniamo una traiettoria del processo stocastico (il tempo varia da

(… ( ), ( ), ( ), )

∞) , …

a '# # ( # # #

, ()

- Se fissiamo sia t che allora è un singolo numero reale.

!

Definizioni (processi stocastici)

- Insieme degli indici: l’insieme a cui appartiene il tempo t; nel nostro caso, l’insieme

ℤ.

degli indici sarà limitato all’insieme degli interi

- Dominio in cui è definite ciascuna variabile casuale: ci concentreremo sull’insieme dei

+

ℝ ℝ, ℝ

numeri reali o su sottoinsiemi di ad esempio .

- Struttura di dipendenza tra le variabili casuali: descrive come ciascuna variabile

casuale dipende da quelle “passate”.

PS 1: rumore bianco (white noise WN) a media zero

$ $

{ } ) ),

~ (0, ↔ ~ . . . (0, ∀ ∈ ℤ

! !

***i.i.d. indipendenti e identicamente distribuite

à

Rumore bianco normale NWN: $ $

{ } ) ),

~ (0, ↔ ~ . . . (0, ∀ ∈ ℤ

! !

Rumore bianco con costante: $ $

{ } ) ),

~ (, ↔ ~ . . . (, ∀ ∈ ℤ

! ! $ ),

= + ~(0, ∀ ∈ ℤ

Che può essere riscritto come: with

! ! !

Random Walk RW { } ~ ↔ = + , ∀ ∈ ℤ

! ! !'# !

$

~ . . . (0, )

Dove ! − 1,

Al tempo il passaggio al tempo t è determinato esclusivamente dalla componente

casuale .

!

Alcune applicazioni: il comportamento dei mercati finanziari, il percorso seguito da una

molecola mentre si muove all’interno di un liquido.

Random walk + drift à { } ~ + ↔ = + + , ∀ ∈ ℤ

! ! !'# !

Dove: $

~ . . . (0, )

- !

:

- drift (deriva)

− 1,

Al tempo il passaggio al tempo t è determinato dal termine di drift più la componente

casuale .

!

AR(1) Processo auto regressivo di ordine 1 $

{ }~(1) ↔ = + + , ∀ ∈ ℤ ~ . . . (0, )

where

! ! !'# ! !

Dove e sono coe5icienti del modello.

MA(1) media mobile di ordine 1 (Moving Average) $

{ }~(1) (0, )

↔ = + + , ∀ ∈ ℤ ~ . . .

where

! ! # !'# ! !

Trend lineari (linear trend) LT $

{ } (0, )

~ ↔ = + + , ∀ ∈ ℤ ~ . . .

where

! ! ( # ! !

Stazionarietà

- Motivazione: nell’analisi delle serie temporali, spesso disponiamo al massimo di una

sola osservazione del processo stocastico (PS). Questo problema rende l’inferenza

impraticabile, poiché una sola osservazione non è su5iciente.

In generale, la stazionarietà assume che alcune proprietà statistiche della serie temporale

non cambino nel tempo. In altre parole, garantisce che ogni osservazione della serie

temporale “contenga” informazione non solo sulla variabile casual corrispondente, ma anche

sulle altre (incluse quelle per cui non disponiamo di osservazioni).

La stazionarietà può riguardare tutti I momenti oppure solo alcuni di essi. La stazionarietà

forte va oltre lo scopo di questo corso. La stazionarietà debole (o del secondo ordine) riguarda

invece i primi due momenti, cioè la media (momento di primo ordine) e I momenti di secondo

ordine.

Stazionarietà debole

{ } ↔

è debolmente stazionario

! ( )

1. Stazionarietà della media: il valore atteso esiste e non dipende dal tempo t:

!

)

( = , ∀ ∈ ℤ

! ( )

2. Stazionarietà della varianza: la varianza esiste ed è costante nel tempo:

!

)

( = , ∀ ∈ ℤ

! ( )

( , ℎ ≠ 0,

3. Stazionarietà della covarianza: la covarianza esiste, con e può

! !+,

dipendere dal ritardo h (lag), ma non dal tempo t:

)

( + = , ∀ ∈ ℤ

! !+, ,

, ,

Dove , sono costanti.

( ,

A5inché un processo sia debolmente stazionario, tutte le condizioni devono essere

soddisfatte. Di conseguenza, se la prima condizione non è rispettata, è possibile evitare di

verificare le altre due e concludere direttamente che il processo non è stazionario.

Osservazioni ) )

( , = ( = , ∀ ∈ ℤ

1. Per h=0 si ottiene: ! ! ! (

{ }

2. Se è debolmente stazionario, allora:

! ( , )

! !+, , ,

)

( , = = = = , ∀ ∈ ℤ

! !+, ,

b

b( )( ) (

( (

! !+, )

( ,

Quindi, il coe5iciente di correlazione non dipende dal tempo t, ma può

! !+,

dipendere dal ritardo h. il coe5iciente di correlazione assume valori compresi tra -1 e 1.

3. Inoltre: = 1

(

=

', ,

=

', ,

C’è quindi una simmetria tra la covarianza e il coe5iciente di correlazione. Infatti:

) )

= ( , = ( , =

', ! !', !', ! ,

', ,

= = =

', ,

( (

Esempio: il rumore bianco (WN) è debolmente stazionario?

$ $

{ }~(0, ) (0, ),

↔ ~ . . . ∀ ∈ ℤ

! !

) )

( = 0, ∀ ∈ ℤ (

1. stazionarietà della media, poiché esiste e non dipende da

à

! !

$

) )

( = , ∀ ∈ ℤ (

2. stazionarietà della varianza esiste e non dipende da

à

! !

) )

ℎ ≠ 0, ( , = 0 ( ,

3. With stazionarietà della covarianza non dipende da

à

! !+, ! !+,

Il rumore bianco a media zero è quindi debolmente stazionario. Inoltre, anche il rumore

bianco con costante è debolmente stazionario (dimostrazione omessa).

Il Random Walk (RW) è debolmente stazionario? $

{ } ~ ↔ = + , ∀ ∈ ℤ, ~ . . . (0, )

Ricordiamo: where

! ! !'# ! !

) ) ) ) )

( = ( , = ( + ( = ( = ⋯

1. stazionarietà della media

à

! !'# ! !'# ! !'# $

) ) ) ) ) )

( = ( + = ( + ( + 2( , = ( +

2. ! !'# ! !'# ! !'# ! !'#

Dove: ) ) ) )

( + = ( + ( + 2( , è una proprietà della varianza

o !'# ! !'# ! !'# !

$

)

( =

o ! )

2( , = 0

o !'# ! $

)

( + > ( )

Poiché la varianza dipende dal tempo assenza di

à à

!'# !'#

stazionarietà della varianza

il Random Walk RW NON è debolmente stazionario

à

Il Random Walk con drift è debolmente stazionario? $

{ }~ + ↔ = + + , ∀ ∈ ℤ ~ . . . (0, )

where

! ! !'# ! !

) ) ) )

( = ( + + = () + ( + ( = + ( )

1. che è diversa da

! !'# ! !'# ! !'#

( ) ≠ 0.

se NO stazionarietà della media

à

!'#

Il RW + drift NON è debolmente stazionario.

Il processo auto regressivo di ordine 1 (AR(1)) è debolmente stazionario? $

{ }~(1) ↔ = + + , ∀ ∈ ℤ ~ . . . (0, )

where

! ! !'# ! !

Condizioni relative all’ AR(1): $

= = 0 = (0, ) = =

1. Se che è debolmente stazionario (infatti, se

à à

! !

$ )

0, (0, = (1)) $

= 0 = + ),

2. Se che è debolmente stazionario

à à(,

! !

= 0 = 1 = +

3. Se and Random Walk, che non è debolmente

à à

! !'# !

stazionario.

= 1 = + +

4. Se RW + drift, che non è debolmente stazionario.

à à

! !'# ! .

Quindi, la stazionarietà debole dell’AR(1) dipende dal valore di

↔ −1 < < 1.

Si può dimostrare che: AR(1) è stazionario

Il processo MA(1) è sempre debolmente stazionario.

Il Trend Lineare (LT) è debolmente stazionario? $

{ }~ ↔ = + + , ∀ ∈ ℤ ~ . . . (0, )

where

! ! ( # ! !

) ) ) ) )

( = ( + + = ( + ( ) + ( = + + ( = +

1. ! ( # ! ( # ! ( # ! ( #

Che dipende dal tempo t NO stazionarietà della media

à

)

( = 0

Poiché !

il trend lineare (LT) NON è debolmente stazionario.

à ), ),

( ( ( , )

Stimatori di in ipotesi di stazionarietà

+

) )

( (

I valori di e non sono noti, quindi si utilizzano degli stimatori.

! !

Assunzioni:

{ } ) )

( = , ( =

è un processo stocastico debolmente stazionario sappiamo che

à

! ! !

)

( , =

and

( ! !+, , # m

%!.#

∑

( ) = ̂ = =

1. stimatore di (dove T è la dimensione del campione)

à à

! !

% # m

%', $

∑

( ) =

n = ( − )

2. stimatore di

à à

! ( ( ( !

!.#

% # #

m m %',

%',

) ∑ ( ) ∑ (

( , =

o = − ( − ) = −

3. stimatore di

à à

! !+, , , ! !+, !

!.# !.,'#

% %

m) m)

( −

!', # $&! '34) '34)

∑ (3 (3

0

/ / % %(!

%'#

! !

)

( , = =

o = = =

4. stimatore di $

à à

! !+, , , , # $ '34) )

0

/ / ∑ (3

" " %

%'#

$

$&! 4 4

∑ (3 )

'3 (3 '3 )

% %(!

%'# $ '34) )

∑ (3

%

%'#

Funzione di autocorrelazione (ACF)

o

ACF (funzione di autocorrelazione): è il grafico di al variare di h, con h=1, 2, 3, …, H. in

,

generale, H deve essere molto più piccolo di T (H<<T).

Di solito si sceglie:

≤ 5

MA(∞) &

{ }~(∞) ∑

↔ = + + + + + ⋯ = +

Definizione: ! ! ! # !'# $ !'$ ) !') 6 !'6

6.(

$

= 1, ~ . . (0, )

Con e dove

( !

è una costante.

(∞) è debolmente stazionario?

)

( = ( + + + + ⋯ )

1. ! ! # !'# $ !'$

= () + ( ) + ( ) + ( ) + ⋯ = stazionarietà della media

à

! # !'# $ !'$

) ) )

() = , ( = 0, ( = 0, ( = 0.

Dove ! # !'# $ !'$

)

( = ( + + + + ⋯ )

2. ! ! # !'# $ !'$

$ $

= () + ( ) + ( ) + ( )

! # !'# $ !'$

$

$ $

= 0 + + + ⋯

#

$ $

$

= (1 + + + ⋯ )

# $

$

&

$ ∑

(1 + ) La varianza non dipende dal tempo t, ma non è necessariamente

à

6

6.#

finite. $

&

∑

↔ < ∞

Essa è finita , cioè se i coe5icienti sono convergenti in media

6 6

6.#

quadratica. $ $

() + ( ) + ( ) + ( ) questa espressione deriva dalla proprietà:

! # !'# $ !'$

$

( ∙ ) = ()

dove è una variabile casuale e è una costante.

)

( , = ( + + + + ⋯ + + + + +

3. ! !', ! # !'# $ !'$ !', # !','# $ !','$

⋯)

= ( , )

! !',

&

$ ∑