Probabilità - Appunti schematici

Probabilità

Concezione della probabilità

• Classica —> P(E) = # casi favorevoli / # casi possibili
• Frequentista —> P(E) = # successi / # prove
• Soggettivista —> P(E) = puntata / posta

Teoria degli insiemi

Ω = insieme di riferimento A, B ⊆ Ω

• Unione —> (A ∪ B) = { ω : ω ∈ A ∨ ω ∈ B}
• Intersezione —> (A ∩ B) = { ω : ω ∈ A ∧ ω ∈ B }
• Differenza —> (A - B) = { ω : ω ∈ A ∧ ω ∉ B}
• Complemento —> (A^c) = {ω : ω ∉ A} e (B^c) = {ω : ω ∉ B}

Leggi di De Morgan

Insiemi disgiunti o incompatibili:

• (A ∪ B) = (A ∩ B)^c
• (A ∩ B) = (A ∪ B)^c

Spazio probabilistico (Ω, β, P)

- Ω —> spazio campionario, contiene tutti gli eventi possibili. - β —> σ-Algebra, contiene tutti gli eventi di interesse, con 3 proprietà:

• Ω ∈ β
• A ∈ β → ∀A ∈ β
• β ∪ An ∈ β → ∀UAn ⊆

- P —> misura di probabilità, è una funzione P : β —> ℝ con 3 proprietà (Kolmogorov):

• P(Ω) = 1
• P(A) ≥ 0 ∀A ∈ β
• P(UAn) = ∑ P(An) ∀UAn ⊆

Formule elementari del calcolo delle probabilità

• A= (A ∩ B) ∪ (A ∩ B^c), allora P(A) = P(A ∩ B) + P(A ∩ B^c)
• P(A-B) = P(A ∩ B^c) = P(A) - P(A ∩ B)
• Se A = Ω, P(B) = P(Ω - B) = P(Ω) - P(Ω ∩ B) = 1 - P(B)
• 1 = P(Ω) = P()= 1- P()= - proprietà di monotonia → B P(B) ≤ P(A) ⊂ A
• (A ∪ B) = (A - B) ∪ (B) e (A - B) ∩ (B) = ∅
• P(A ∪ B) = P(A) + P(B) - P(A ∩ B)
• Disuguaglianza di Boole —> P(A ∪ B) ≤ P(A) + P(B)
• Disuguaglianza di Bonferroni —> P(A) ≥ P(A) + P(B) - P(A ∪ B)

Spazio probabilistico classico

β = P(Ω), P: β → ℝ, U{ωi} = Ω —> : {ωi} —> p con p costante

Principio di equiprobabilità: ∀i p1 = P(Ω) = P(U ωi) = ∑ P(ωi) = ∑ p = np (p = 1/n)

P(A) = P(Uω) = ∑ P(ω) = ∑ 1/n = #A = n#Ω

Calcolo combinatorio

• Permutazione (n oggetti, sequenza ordinata)
  • Con ripetizione: Pn = n(n-1)(n-2)…= n!
  • Senza ripetizione: Pn = n!/r1! r2!
• Disposizione (n oggetti, dei quali verranno presi k (k ≤ n), sequenza ordinata di k oggetti scelti)
  • Con ripetizione: Dn,k = n(n-1)(n-2)…= n!/(n-k)!
  • Senza ripetizione: Dn,k = n!/((n-k)!)
• Combinazione (n oggetti, dei quali verranno presi k (k ≤ n), sequenza non ordinata di k oggetti scelti)
  • Con ripetizione: Cn,k = n!/(k!(n-k)!)
  • Senza ripetizione: Cn,k = n!/((n-k)!k!)

Indipendenza e incompatibilità

1. Indipendenza: il verificarsi di un evento non modifica la probabilità di verificarsi del secondo evento.
   • A ⊥ B <—> P(A ∩ B) = P(A)P(B)
   • Indipendenza di 3 eventi:
     • P(A ∩ B) = P(A)P(B)
     • P(A ∩ C) = P(A)P(C)
     • P(B ∩ C) = P(B)P(C)
     • P(A ∩ B ∩ C) = P(A)P(B)P(C)
2. Incompatibilità: il verificarsi di un evento esclude il verificarsi dell’altro.
   • P(A ∩ B) = 0
   • P(A ∪ B) = P(A) + P(B) - P(A ∩ B) → se 0 ≤ P(A ∪ B) ≤ 1, allora no incompatibilità
   • NB: L’indipendenza esclude l’incompatibilità e viceversa, solo se: P(A) > 0 e P(B) > 0

Probabilità condizionata

• P(B) > 0 ∀A, ∈ β → P(A|B) = P(A ∩ B)/P(B)
• Se A ⊥ B allora → P(A|B) = P(A)P(B)/P(B)

Legge probabilità composta

• P(A ∩ B) = P(A|B)P(B) —> rispetta i 3 assiomi di Kolmogorov
  • P(Ω|B) = P(Ω ∩ B)/P(B) = 1
  • P(A) = P(A ∩ B)/P(B)
  • P(U An) = ∑ P(An ∩ B)/∑ P(B)

Legge delle alternative

E ∈ β, {Cn} ⊆ β, E ⊆ U Cn

Dimostrazione:

• E ⊆ U Cn
• E = E ∩ (U Cn) = U (E ∩ Cn)
• P(E) = ∑ P(E|Cn)P(Cn)

Teorema di Bayes

Dimostrazione:

• E ∈ β, {Cn} ⊆ β, E ⊆ U Cn
• P(Cm|E)= P(Cm ∩ E)/P(E) = P(E|Cm)P(Cm)/P(E)
• P(E) < ∞

Concetto di variabile casuale

(Ω, β, P) —> (ℝ, β₁, P)] – ∞; X]

β₁ = {A: A è σ-Algebra di Borel ℝ, ] – ∞; X] ∈ A}

Variabile casuale (è una funzione ‘ponte’ tra il ‘vecchio ed il nuovo’ spazio probabilistico)

X: Ω —> ℝ

B₁ : X⁻¹(B₁) ∀ ∈ β₁ ∈ β contro immagine di X

Controimmagine: Insieme di tutti gli elementi ω ∈ Ω T.C. X(ω) assume valori in β₁

X⁻¹(B₁) = { ω ∈ Ω : X(ω) Ω ∈ B₁} ⊆

Funzione di probabilità

X⁻¹(B₁) = X(B₁) ∀ ∈ β₁ ∈ β

Funzione di ripartizione: Fₓ: ℝ —> [0;1]

• Fₓ(x) = P(X ≤ x) = Pₓ (] – ∞, X])
• Pₓ(X (] – ∞, X]))
• 4 Proprietà:
  • lim Fₓ(x) = x → –∞
  • lim Fₓ(x) = x → +∞
  • È continua a destra se lim Fₓ(x) = Fₓ(x⁺)
  • È una funzione crescente con a ≤ b:

Quantile di ordine α

x —> variabile casuale P(x < x) P(x) = x è un quantile con α (0,1) —> ) ≤ α ≤ ) α ≤ α α ∈

Variabili casuali discrete

• P(x = x) > 0 —> x ∈ Sₓ
• P(x ∈ Sₓ) = 1

Funzione di probabilità

Fₓ(x) = P(x = x)

• 2 caratteristiche:
  • Fₓ(x) = P(x = x) ≥ 0
  • Fₓ(x) = P(x = x) = P(x ∈ Sₓ) = 1

Funzione di ripartizione

Fₓ(x) = P(X ≤ x) = ∑ P(X = k) = ∑ Fₓ(k)

Valore atteso (g: R —> R)

E(g(x)) = ∑ g(x) f(x) x ∈ Sₓ

Se si avesse una serie, questa dovrà essere convergente:

∑ | g(x) f(x) | = ∑ g(x) f(x) < ∞ x ∈ Sₓ

Proprietà di linearità

Dimostrazione:

E(ax+b) = a E(x) + b

E(ax+b) = ∑ (ax+b) f(x) = a ∑ x f(x) + b ∑ f(x) x ∈ Sₓ

= a ∑ x f(x) + b = a E(x) + b

Varianza

μₓ = E(x)

Dimostrazione:

E[(x–μₓ)²] (x–μₓ)² Var(x) = = ∑ fₓ(x) (x–μₓ)² (x²–2xμₓ+μₓ²)

Var(x) = ∑ fₓ(x) = ∑ fₓ(x)= x ∈ Sₓ(x² E(x)² Var(x) = E ) – = ∑ x² x fₓ(x)+μ²ₓ fₓ(x) – 2μₓ ∑ fₓ(x)

= E(x²) – 2E(x)² + E(x)² E(x²) = E(x)²

= -2

Proprietà di linearità: a Var(x)

Funzione generatrice dei momenti

t x Gₓ(t) = ∑ e fₓ(x) x ∈ Sₓ

Particolari variabili casuali discrete

1. Uniforme discreta
2. Binomiale
3. Bernoulli
4. Poisson
5. Geometrica
6. Ipergeometrica

Uniforme discreta (X~UD(n))

Funzione di probabilità:

{1/n se x ∈ Sₓ —> (1…n) - fₓ(x) = P(X = x) = 0 altrimenti

2 Importanti nozioni:

• ∑ x = n(n+1)/2
• ∑ x² = n(n+1)(2n+1)/6

Valore atteso (g: R —> R)

Dimostrazione:

E(x) = (n+1)/2

E(x) = ∑ x fₓ(x) = ∑ x 1/n = 1/n ∑ x = 1/n ∑ n(n+1) = 1 n(n+1)/2 = 2 (n+1)n/2

Varianza

Dimostrazione:

12 Var(x) = n² - n²/12

Var(x) = E(x²) - E(x)²

∑ x² fₓ(x) - (n+1) 1/n ∑ n(n+1)(n+1) - (n+1)² = 2 6 4 2 2 2

1 n(n+1)(n+1) - (n+1) 4n + 2n + 4n + 2 - 3n - 6n - 32 = n 6 4 12

= n - 11/12

Funzione generatrice dei momenti

x t x t x t t n Gₓ(t) = ∑ e fₓ(x) x ∈ Sₓ n n( -e )t₁

Binomiale (X~Binom(n,σ))

Somma di variabili bernoulliane, dove: n = estrazioni con R σ = probabilità di successo

Funzione di probabilità:

n{( ) x n-x σ σ (1– ) se x ∈ Sₓ —> {0…n} x fₓ(x) = P(X = x) = 0 altrimenti

Valore atteso (g: R —> R)

E(x) = nσ

Varianza

Dimostrazione:

Var(x) = nσ(1-σ)

Var(x) = Var(∑ Xi) = ∑ Var(Xi) = ∑ σ(1-σ) = nσ(1-σ)

Funzione generatrice dei momenti

Dimostrazione:

t n Gₓ(t) = ∑ (σe⁺ +1–σ) n x ∈ Sₓ ( )

E(eᵗˣ)= ∑ eᵗˣ n-x=Gₓ(t)= (1–σ)ⁿ( ) t x t n n-x(σ e ) (1–σ) σ e +1–σ)=∑ x = (

Bernoulli (X~Bern(σ))

Probabilità di successo in una sola estrazione