Appunti per esame di Statistica per la sperimentazione e le previsioni in ambito tecnologico

Time series (TS)

Time Series (TS) Successione di valori, relativi ad un certo fenomeno, ordinati nel tempo (dati equispaziati).

Trend Movimento di lungo periodo (decenni), spesso lineare.

Ciclo (C) Movimento di medio periodo (anni), legato ad un ciclo economico.

Trend-Ciclo Sommma prodotto di Trend/Ciclo.

Stagionale Movimento regolare di periodicità ben definita.

Random Casuale, imprevedibile.

Variabile casuale Dato uno "spazio probabilistico (omega, A, P), una v.c. è un'applicazione X che converte ogni w ∈ omega in un numero reale.

Processo stocastico Dato uno spazio probabilistico (omega, A, P), un el tempo discreto, è una successione di v.c. {Y_t : t ∈ Z₊₁}. A = "insieme degli eventi", P = "misura della probabilità".

• White Noise a Media Zero {Y_t ∈ WN(0, δ²) ↔ Y_t ~ i.i.d N (0; δ²)} i.i.d. = "Indipendenti e identicamente distribuiti". N = "Distribuzione di probabilità".
• White Noise a Media Non Zero {Y_t ∈ WN(µ, δ²) ↔ Y_t ~ i.i.d. N (µ; δ²)}.
• Random Walk {Y_t ∈ RW ↔ Y_t = Y_t-1 + U_t dove U_t ∈ WN(0, δ²)}.
• Random Walk + Drift {Y_t ∈ RW + DRIFT ↔ Y_t = δ + Y_t-1 + U_t}.
• AR(1) (Autoregressive di ordine 1) {Y_t ∈ AR(1) ↔ Y_t = ω + α · Y_t-1 + U_t}.
• MA(1) (Moving average di ordine 1) {Y_t ∈ MA(1) ↔ Y_t = U_t + Θ₁ · U_t-1}.
• Linear Trend (Trend lineare) {Y_t ∈ LT ↔ Y_t = β₀ + β₁ · t + U_t}.

Time series (TS) e definizioni ripetute

Time Series (TS) Successione di valori, relativi ad un certo fenomeno, ordinati nel tempo (dati equispaziati).

Trend = Movimento di lungo periodo (decenni), spesso lineare.

Ciclo Ct = Movimento di medio periodo (Anni), legato ad un ciclo economico.

Trend-Ciclo = Sommaval prodotto di Trend/Ciclo.

Stagionale = Movimento regolare di periodicità ben definita.

Randot = Casuale, imprevedibile.

Variabile Casuale Dato uno spazio probabilistico (Ω, A, P), una VC è una funzione X che connette ogni ω ω ∈ Ω in un numero.

Processo Stocastico Dato uno spazio probabilistico (Ω, A, P), un PS in tempo discreto è una successione di VC {χt: t ∈ Ζ+} A = Insieme degli eventi P = Misura della probabilità.

• White Noise a Media Zero {χt: t ∈ WN(0; δ²)} χt i.i.d. ~ (0; δ²) i.i.d. = indipendenti e identicamente distribuite.
• White Noise a Media Non Zero {χt: t ∈ WN(μ; δ²)} χt i.i.d. ~ (μ; δ²).
• Random Walk {χt: t ∈ RW} χt = χt-₁ + ut dove ut ∈ WN(0; δ²).
• Random Walk + Drift {χt: t ∈ RW + DRIFT} χt = Τδ + χt-₁ + ut.
• AR(1) (Autoregressive di Ordine 1) {χt: t ∈ AR(1)} χt = ω + α₁ χt-₁ + ut.
• MA(1) (Moving Average di Ordine 1) {χt: t ∈ MA(1)} χt = ut + β₁ ut-₁ + ut-₁.
• Linear Trend (Trend Lineare) {χt: t ∈ LT χt = β₀ + β₁ t + ut.

Stazionarietà

Stazionarietà = Questo concetto formalizza l'idea che il PS abbia un certo grado di stabilità. Questa stabilità fa sì che ciascuna oss. della TS contenga informazioni non solo sulla v corrispondente ma anche sulle altre.

Stazionarietà in senso debole {Y_t} è staz. in senso debole (⇒).

• E (Y_t) = μ_cost ⇒ staz. in media.
• V (Y_t) = γ_{0 cost} ⇒ staz. in varianza.
• C (Y_t, Y_t-k) = γ_{k cost} ⇒ staz. in covarianza.

WN ⇒ stazionario.

RW ⇒ non stazionario.

RW+DRIFT ⇒ non stazionario.

AR(1) ⇒ dipende, è stazionario ⇒ -1 MA(1) ⇒ stazionario.

LT ⇒ non stazionario.

Nel caso in cui Y_t sia stazionario ed ergodico si hanno le seguenti proprietà: μ^{^} = T Σ Y γ₀^{^} = 1/T ΣY² γ_k^{^} = 1/T Σ.

PS MA (∞) {Y_t MA (∞)} ⇒ Y_t = μ + μ_t + φ₁u_t-1 + φ₂u_t-2 + … = μ + Σ φ_s u_t-s.

{u_t i^nd MA (∞)} ⇒ i suoi u_t sono quadrato-sommabili.

Teorema di Wold {Y_t} PS stazionario in senso debole, allora {Y_t} può sempre essere rappresentato da un MA (∞) con coeff. quadrato-sommabili.

Processi autoregressivi

PS Autoregressivi {Y_t n AR(p)} ⇒ Y_t = φ + α₁ Y_t-1 + … + α_p Y_t-p + u_t.

Autocorrelazione ρ_k = γ_k / γ₀ covarianza / varianza = α₁ ρ_k-1 + α₂ ρ_k-2 + … + α_p ρ_k-p.

Da cui: P₁ = α₁P₀ + α₂P₁ + 3P₂ + … + +α_pP_p - n P₂ = α₁P₂ + α₂P₀ + … + α_pP₂ P_p = α₁P - n + α₀P₂, P_p = + … + α_pP₀ ⇒ Eq. di YULE - WALKER.

AR(p) è stazionario? {yt} n AR(p) è stazionario <=> le radici dell’ eq caratteristica 1-a1L - a2L²... apL^P = 0 hanno tutte modulo > 1.

L = operatore lag.

Processo MA(q)

Processo MA(q) {yt} n MA(q) <=> yt = μ + ut + β₁ut-₁ + β₂ut-₂ +...+ βqut-q.

MA(q) è stazionario, basta considerarle MA(q) come un caso particolare di MA(q) yt = μ + β₁, y_t = β₂, ... , y_q = β_q, y_q+1 = y_q+2 =... = 0.

PS Invertibile {yt} è invertibile <=> si può rappresentarle come AR(oo) yt = w + T₁yt-₁ + T₂ yt-₂ + ... + ut con T₃ quadrato-sommabili.

π = πⁱ {yt} n MA(q) è invertibile <=> le radici della sua equazione caratteristica 1 + β₁ L + β₂ L² + ... + βq L^q = 0 hanno tutte modulo > 1.

Processi ARMA

Processi ARMA (p-q) {yt} n ARMA (p-q) <=> yt = w + a1yt-₁ + a2yt-₂ + ... + apyt-p+ β₁ ut-₁ + β₂ ut-₂ + ...+ βq ut-q + ut.

w c’è se il processo è stazionario c’è, perno no.

• ARMA (p,q) può essere riscritto in modo compatto usando la formula polinomiale A(L) yt = w + B(L). ut dove: A(L) = 1-a1L - a2L²... - ap L^P B(L) = 1 + β₁ L + β₂ L² +...+ βq L^q.
• {yt} n ARMA (p,q) è stazionario <=> la sua componente AR(p) è stazionaria.
• È “invertibile” <=> la sua componente AR(p) è invertibile.
• Se ARMA (p,q) è stazionario - D è possibile convertirlo in un MA (oo) con V3 quadrato – sommabili.
• Se ARMA (p,q) è invertibile - D è possibile convertirlo in un AR(oo) con V3 quadrato – sommabili.
• L’ autocorranza ARMA (p,q) decade esponenzialmente per n --> oo, questo grazie al contributo D’ AR.

Processi ARIMA

PS ARIMA (p,d) é stazionario <=> tutte le radici di A(L)=0 hanno modulo >1 A(L) = (1-L)^d x A*(L), dove: d = numero di radici unitarie.

**La divisione della parte AR in 2 + componenti conduce ai processi ARIMA**.

PS ARIMA (p,0|1,q) {ϕ(L)Y_t = A(L)(1-L)^d Y_t = W + B(L)U_t A(L) ha tutte radici in modulo >1.

{ϕ(L)Y_t} ARIMA (p,q,d) é stazionario <=> d = 0.

{ϕ(L)Y_t} é invertibile <=> La parte MA(q) é invertibile.

Processo stagionale puro

PS Stagionale Puro E' un processo il cui andamento tende a ripetersi in modo simile, secondo una certa periodicità costante.

**ARIMA (P,d,Q){ϕ(L) = 1- αL^s - α₂ L^2s... - α_p L^ps B(L) = 1 + B₁L^s + B₂L^2s + ... + β_qL^qs A(L)^s = 0 hanno tutte radici in modulo > 1 A(L)^s = 0 e B(L)^s = 0 non hanno radici comuni.

• ARIMA (P,D,Q)_s é Stazionario <=> D = 0.
• ARIMA (P,D,Q)_s é invertibile <=> La sua componente MA é invertibile.

PS ARIMA (P, d, q) x (P, D, Q)_s {4_s N ARIMA (p, d, q) x (P, D, Q)_s <=> A(L)A^p(L^s) (1-L)^d (1-L^s)^D y_t = w_t + B(1)L B^Q(L^s).

Due: A(L) = 1 - a₁L - a₂L² - ... - a_pL^P A^∗(L) = 1 - a*₁ L^* - a*₂ L^*2 - ... - a*_p L^PS B(l) = 1 + b₁ L + b₂ L² - ... + b_q L^q B^∗(L^s) = 1 + B⁴ L^s + b₃ l^2s + ... + B^Q L^Qs.

• {4_s N ARIMA (p, d, q) x (P, D, Q)_s } Stazionario <=> d = D = 0.
• {4_s N ARIMA (p, d, q) x (P, D, Q)_s } Invertibile <=> la sua componente MA e' Invertibile <=> tutte le radici di B(l)B^∗(L^s) = 0 hanno modulo > 1.

TSA e procedura di Box-Jenkins

TSA In TSA si fa l'opposto, data la TS, l'obiettivo e' capire da quale PS ARIMA (p, d, q) x (P, D, Q)_s la TS proviene. L'operazione di ricostruzione TSA -> PS si avvale di una specie di percorso guidato chiamato Procedura di Box - Jenkins.

L'analisi preliminare e la diagnostica della procedura di Box - Jenkins si basano su: ACF PACF Test portmanteau Diagnostiche di normalita'.

• ACF = l'ACF vera e l'andamento delle autocorrelazioni vale p₁, p₂, p₃... Tale p_n sono definite solo se il PS e' stazionario. L'ACF vero non si conosce mai, bensí conosciamo quella stimata, ovvero l'ACF empirica. Il grafico riporta le correlazioni determinate da acf vera. Le linee rosse determinano la regione di accettazione. Regione di accettazione ad un certo d[ -0 - Z√.
• PACF e riguarda le correlazioni parziali. p_n = p(4_t, 4_t-n / 4_t-1, ..., 4_t-n+1) p_n = misura la correlazione lorda tra 4_t e y_t-n p_n = misura la correlazione netta fra 4_t e y_t-n anche in questo caso se il PS non e' stazionario, la pacf vera p₂, p₃, ... non e' definita.

Test portmanteau

3) TEST PORTMANTEAU Servono per testare se le prime p₁,...,p_H sono congiuntamente zero. Si tratta quindi di sottoporre a test: Ho: p₁=...=p_H Ha: almeno uno dei ≠ 0 p₁,...,p_H.

Si possono usare 2 diversi test: Box - Pierce (BP) BP(H) = T Σ p̂_n² BP(H)/Ho ~ χ²(H - #PAR) LJUNG-BOX (LB) LB(H) = T (T-2) Σ p̂_n (T-n) LB(H)/Ho ~ χ²(H - #PAR) Se pvalue ≥ d accetto Ho, sennò rifiuto.

H = gradi di #PAR = numero dei parametri (ψ = escluso) α, β, ϕ, ϑ, Ω.

Per fare entrambi i test usiamo Box.test().

Controllo di normalità

4) CONTROLLO DI NORMALITÀ Nella fase di stima si assume che μ_t ∼ NWN(0, σ²), di conseguenza occorre controllare che i residui non siano troppo lontani da quelli di una distribuzione normale.

QQPLOT = riporta sull’asse x i quantili teorici della N(0,1) e sull’asse y i corrispondenti quantili dei residui standardizzati: - Doki. Se grosso modo tutti i punti si dispongono sulla bisettrice è ok.

Per una diagnosi più formale dell'ipotesi di normalità si può usar il TEST DI SHAPIRO-WILK.

Tale test sottopone a verifica le ipotesi: Ho: Ut ∼ N Ha: Ut ↑↓ N.

La funzione utilizzata in R è: Shapiro.test().

Se pvalue > 0.05 accetto ipotesi nulla.

Procedura di Box-Jenkins

Procedura di Box-Jenkins data TS osservata, alla costruzione del miglior modello ARIMA ad esso adattabile.

Analisi preliminare Vengono fatte sui dati originali Questa Sulla TS :A1, A2,..., At, de Analisi Preliminari:

• ACF Autocorrelazione.

Grado di dipendenza tra i valori assunti da una funzione campionata nel suo dominio.

L'ACF vera e' l'andamento delle aut. correlazioni vere ρ1, ρ2, ρ3,... Tali ρn sono definiti (acc se il PS e' stazionario). L'ACF vera non si conosce, ma si conosce l'acc e l'ACF empirica (d= ρn) P(ρ0^λ, N0(i * 1/√T)).

T = numero di osservazioni.

Regione di accettazione: [0 - 1,96 * 1/√T, 0 + 1,96 * 1/√T] un decadimento lineale dell’ACF empirico e’ spia di un PS non stazionario.

PACF a differenze dell’ACF empirico e’ spia di correlazioni ρn = p(yt/i yt-h1, e la ACF che riguarda le correlazioni parziali ρn = p(yt/i yt-h1, ..., yt-h)- come l’ACF ρn = p(ytyt-h).

PACF (ρ1, ρ2, ρ1, ρh) stima ρn vera (ρ1, ρ2, ..., ρn).

Cosi la PACF (ρ1, φ2, i, ρh) stima ea vera (ρ1, ρ2, ..., ρn) questo, al soluto, poiche’ yt e’ sia stazionaria.

Se il PS non e’ stazionario, era ACF vero non e’ definita.

• Test portmanteau.

Serre a testare se le prime ρ1, ρ2,..., Pn sono congiuntamenti zero, si tratta cioe' di sottoporre a test: H0 : ρ1,...ρp += 0 +.

Si possono usare due diverse statistiche: Box-Pierce (BP1): BP1(H)₀ = T ι Σ^{h=1}₁ Pn^2 BP1(Ha₀) = χ^2 1+h^2 (ρ1,... ρn 2) Ljung-Box (LB). T(T-2) ι Σ^{h=1}₁ Pn^2/(T-h) LB(Ha)A = χ^2 1+h^2 P2.

Diagnostica

Diagnostica In fare di diagnostica occorre controllare che i residui sicuri il piu’ possibile simili ad un NW (di questo il criterio ce indica suddivida felmars). Poi ce un NW e formato da VC i.i.d, i test che controllano tali ipotesi richiedono almeno 1000 osservazioni (Hoppe) FD di consegua... Si tende ad usure strunenti (come l'ACF) che testàful l'incorrelazione più che l'indipendenza.

Controllo della Normalità: Neula fase di stima si. Assume che (0, σ²) di conseguenza occorre controllare che i residui non siano troppo lontani dall'aver una distribuzione normale. Si può controllare la normalità visualiz. Strumenti Grafici I'istogramma o rapporti. Il GRAFICO ripetuta sull'ASSE X. Quantili Teorici, sull'ASSE Y i quantili del residuo standardizzato.

Tutto è ok se grosso modo i punti si espandono sulla biset.

Information criteria e standard errors

Information Criteria: e uno dei proi di principali quando si decide a stiimate. un modelico riguarda a 2 la scenaria di quale di quante variabile insegue. una novata decisio.

Pi, PD, si stimami VÌ vettore del partita I. = [\0 o nessun, , , ^*, , ^*, , ²].

Tra le due rischie soiltamente utilizzate per la sezome delicten o varalabil IÌ, confrontal tra 2 o pi modici: introduiamo: Aic = -2E(l) + 2 . #PAR Alc = -2E(l) + 2 . #PAR.

Standard Errors nella Procedura cui stima. fornisce anche i corres.. stenduti Standard errors (SE), ku standard errors relativoas un paraumetiu, risusra l'incertezzà/Noise.

Gil: Se sono vulti aupche Per valutare se ciascuno dei paauamtri stimanti ₃ sono sginificituuuretto 0.

Un altro control'" che fare nola fasa deì stima riguanda le radici AE e MP. ps avutuj iT liridici incomine fra parte A2 e parte NT deelinisco To.stesso processo. Nella pratico e' pox verosimile. trovare radici identiche) e piu Probabile trovol. pratici vicino'' ciae e contradituato In radao acchiterico.(/e')occho che giudico).

Regressori esterni

Regressori esterni Facendo riferimento ad un modello di regressione lineare: Y_t = X_t^'δ + U_t.

L'innesto dei regressori esterni nella dinamica ARIMA si fa ipotizzando l'utente WN(0;σ²) e sostituendolo a U_t, ARIMA(p,d,q)x(P,D,Q)_s.

Esempi: variabili di calendario. Molti fenomeni sono infatti influenzati dal calendario e dalla sua irregolarità.

Single Holidays (SH) = feste extra-del.

Long Weekend (LW) = Ponti: giorni festivi in mezzo a due festività.

Easter Holidays = festività Pasquali.

Day of the Week = 1 giorno della settimana.

Anomalie

Anomalie Con il termine "anomalia" si intende qualcosa che altera un ruolo (l'arco di un reale processo).

Per integrare le anomalie in un processo si usa: Y_t = Y_t^* + Θ_t Y_t nar ^{[t+1]YZ_t(*DGF delle anomalie).}

Il Package tsoutliers implementa 3 tipi di outlier:

• Additive Outlier = AO = Picco strano che neutro subito.
• Level Shift = LS = Cambiamento repentino che permane.
• Transient Change = TC = Cambiamento repentino che permane, ma quando perol piano scompare piano a.

Teoria del TSA In TSA conosciamo solo le time series e dobbiamo arrivare a calcolare i parametri, estarting values e gli ɛ _t.