Formulario di analisi dei dati

1 Variabili aleatorie discrete

1 Variabili aleatorie discrete

Dato uno spazio di probabilità (Ω, F, P) con Ω discreto e ogni funzione X: Ω → R è detta variabile aleatoria discreta su Ω.

Valore atteso

Definiamo questa quantità come

E(X) = ∑_xi∈X x_i p_X(x_i)

che gode delle seguenti proprietà:

• Omogeneità: E(aX) = aE(X)
• Additività: E(X + Y) = E(X) + E(Y)
• Linearità

Varianza

Definiamo questa quantità come

var(X) = E((X − E(X))²)

che può essere equivalentemente espresso come

var(X) = E(X²) − (E(X))²

che gode delle seguenti proprietà:

• var(X) ≥ 0 e l’uguaglianza vale se e solo se X = b costante
• var(aX) = a² var(X)
• var(X + c) = var(X)

Funzioni di variabili aleatorie

Abbiamo visto che data una funzione g e data la variabile aleatoria g(X), il valore atteso è dato da

E(g(X)) = ∑_xi∈X g(x_i)p_X(x_i)

Disuguaglianza di Jensen

Data una funzione convessa g vale

g(E(X)) ≤ E(g(X))

1 Variabili aleatorie discrete 2

Disuguaglianza di Markov

Sia X una variabile aleatoria non negativa. Allora per ogni a > 0

p(X ≥ a) ≤ E(X) / a

Risulta utile se E(X) < 1.

Disuguaglianza di Chebischev

Sia X una variabile aleatoria. Allora per ogni ε > 0

p(|X − E(X)| > ε) ≤ var(X) / ε²

V.a. di Bernoulli

Corrisponde alla probabilità di fare testa, ovvero lanciando una moneta con probabilità di testa pari a p.

X = {0, 1}

p_X(1) = p

E(X) = p

var(X) = p(1 − p)

V.a. uniforme

Corrisponde a ottenere uno degli N elementi, che sono tutti equiprobabili.

X = {x₁, x₂, ..., x_N}

p_X(x_i) = 1 / N

V.a. geometrica

Corrisponde a fare la prima volta testa all’n-esimo lancio, lanciando una moneta con probabilità di testa pari a p.

X = {0, 1, ....} = N

p_X(k) = (1 − p)^k−1p

E(X) = 1 / p

var(X) = (1 − p) / p²

Con questa v.a. introduciamo la probabilità di lunghe attese:

p(X > k) = 1 − (1 − p)^k−1

1 Variabili aleatorie discrete 3

V.a. binomiale

Corrisponde a ottenere k teste su n lanci, lanciando una moneta con probabilità di testa pari a p.

X = {0, 1, ..., n}

p_X(k) = (n / k)p^k(1 − p)^n−k

E(X) = np

var(X) = np(1 − p)

V.a. di Poisson

X = {0, 1, ....} = N

p_X(k) = λ^k e^−λ / k!

E(X) = λ

var(X) = λ

Osserviamo inoltre che possiamo approssimare una distribuzione binomiale con una distribuzione di Poisson. Infatti, presa X ∼ Bin(n, λ / n) e noto il valore atteso E(X), supposto n molto grande, le due distribuzioni hanno lo stesso comportamento. Questa approssimazione è molto utile qualora non ci sia dato conoscere con esattezza n, ad esempio il numero di utenti del web, ma sappiamo solo il numero medio di connessioni ad una determinata pagina in un determinato intervallo di tempo.

Covarianza

Definiamo questa quantità come

cov(X, Y) = E((X − E(X))(Y − E(Y)))

che gode delle seguenti proprietà:

• cov(X, X) = var(X)
• cov(X, Y) = E(XY) − E(X)E(Y), con E(XY) correlazione tra X e Y
• cov(X, Y) ∈ R

2 Vettori aleatori discreti 4

2 Vettori aleatori discreti

Date X, Y v.a. sullo stesso spazio di probabilità, un vettore aleatorio bidimensionale discreto è una mappa

V: Ω → R²

ω → V(ω) = (X(ω), Y(ω))

Se X alfabeto di X e Y alfabeto di Y, allora V ⊂ X × Y. Guardiamo poi l’assegnazione della probabilità, in particolare la densità discreta di probabilità del vettore aleatorio V = (X, Y) è data da

p_XY(x_i, y_j) = p(X = x_i, Y = y_j)

e gode delle proprietà di:

• Non negatività: p_XY(x_i, y_j) ≥ 0
• Normalizzazione: ∑_xi∈X ∑_yj∈Y p_XY(x_i, y_j) = 1
• Regole marginali: p_X(x_i) = ∑_yj∈Y p_XY(x_i, y_j) e p_Y(y_j) = ∑_xi∈X p_XY(x_i, y_j)

Valore atteso di funzioni scalari di vettori aleatori discreti

Consideriamo un vettore aleatorio discreto V = (X, Y): Ω → R² e una funzione scalare g(x, y): R² → R. Allora il valore atteso è

E(g(X, Y)) = ∑_i,j g(x_i, y_j)p_XY(x_i, y_j)

Tramite questa definizione possiamo calcolare la correlazione

E(XY) = ∑_i,j x_i y_j p_XY(x_i, y_j)

dalla quale poi ricavare eventualmente la covarianza.

Variabili aleatorie condizionate

Funzionano come i condizionamenti visti in precedenza per gli insiemi. Abbiamo tre casi ben distinti di condizionamento legato a:

• Un evento generico E ⊂ Ω
• Valori assunti dalla stessa v.a.
• Valori assunti da un’altra v.a.

Osserviamo ci sono dei vincoli che esistono per la possibilità o meno di ricavare p_XY da p_X e p_Y e viceversa.

In questo caso è interessante osservare come la v.a. geometrica sia priva di memoria, ovvero p(X > h + k | X > k) = p(X > h). Questa è anche l’unica v.a. che gode di questa proprietà.

2 Vettori aleatori discreti 5

Coppie di variabili aleatorie indipendenti

La coppia di v.a. X, Y è indipendente se si verifica che

p_XY(x_i, y_j) = p_X(x_i)p_Y(y_j)

per ogni (x_i, y_j) ∈ X × Y. Se le variabili aleatorie sono indipendenti allora

E(XY) = E(X)E(Y)

e pertanto si dicono scorrelate. In particolare segue che

cov(X, Y) = 0

var(X + Y) = var(X) + var(Y)

Bisogna prestare molta attenzione alla distinzione tra v.a. indipendenti e scorrelate. In particolare, due v.a. potrebbero essere scorrelate ma non indipendenti: l’indipendenza implica la scorrelazione, ma non vale il viceversa.

3 Variabili aleatorie continue 6

3 Variabili aleatorie continue

Dato uno spazio di probabilità (Ω, F, P), una variabile aleatoria è una funzione

X: Ω → R

che soddisfa la condizione di misurabilità

{ω ∈ Ω : X(ω) ≤ x} ∈ F ∀x ∈ R

Funzione di distribuzione

La definiamo come

F_X(x) = p(X⁻¹(I_x)) = p(X ≤ x), ∀x ∈ R

e gode delle seguenti proprietà:

• Monotonia: 0 ≤ F_X(x) ≤ F_X(x⁰) ≤ 1 ∀x ≤ x⁰
• Normalizzazione: lim_x→−∞ F_X(x) = 0 e lim_x→∞ F_X(x) = 1
• Continuità da destra: lim_ε→0+ F_X(x + ε) = F_X(x) ∀x ∈ R
• Limite da sinistra: lim_ε→0+ F_X(x − ε) = F_X(x⁻) ≤ F_X(x) ∀x ∈ R
• Combinando le osservazioni fatte finora, osserviamo che dati x₁ punto di discontinuità con salto di F_X e x₂ punto dove la medesima funzione è continua, si ha che p(x₁) coincide con l’ampiezza del salto, di conseguenza p(x₂) = 0
• Numerabilità dell’insieme dei salti, ovvero le discontinuità di una funzione di distribuzione sono al più una infinità numerabile
• Probabilità degli intervalli. A partire da F_X si possono determinare tutte le probabilità di interesse di una variabile aleatoria. Siano −∞ ≤ a ≤ b ≤ +∞, si ha allora p(X ≤ b) = F_X(b); p(X > a) = 1 − p(X ≤ a) = 1 − F_X(a); p(a < X ≤ b) = p(X ≤ b) − p(X ≤ a) = F_X(b) − F_X(a); p(a ≤ X ≤ b) = p(X ≤ b) − p(X < a) = F_X(b) − F_X(a⁻)

3 Variabili aleatorie continue 7

3.1 Variabili aleatorie assolutamente continue

La variabile aleatoria X avente funzione di distribuzione F_X(x) si dice assolutamente continua se esiste una funzione f_X: R → [0, ∞) integrabile in senso improprio su R, tale che

F_X(x) = ∫_−∞^x f_X(a)da

La funzione f_X è chiamata densità della v.a. X e gode delle seguenti proprietà:

• f_X(x) ≥ 0 ed inoltre vale la normalizzazione, ovvero ∫_−∞^+∞ f_X(u)du = 1
• Per le v.a. assolutamente continue, essendo F_X(x) continua, si ottiene ∀x ∈ R: p(a ≤ X ≤ b) = ∫_a^b f_X(x)dx, da cui è evidente notare che la probabilità dei punti isolati è nulla. Il medesimo risultato si ottiene per tutti gli intervalli delimitati da disuguaglianze strette o meno.
• Se la v.a. X ha FdD F_X(x) continua con derivata continua a tratti (C¹ a tratti), allora è garantita l’esistenza della densità della v.a. X che si può definire come f_X(x) = F_X⁰(x) dove continua, arbitrario dove non continua.

Valore atteso

Se X è una v.a. assolutamente continua con densità f_X(x) e la funzione |x| f_X(x) è integrabile, il valore atteso è

E(X) = ∫_−∞^∞ x f_X(x)dx

e ri