Riassunto esame Teoria ed elaborazione dei segnali, Prof. Fascista Alessio, libro consigliato Teoria dei segnali, Vitetta, Luise

X

e

∈

P (s) [0, 1] P (s) = 1

s∈S

• I risultati elementari sono in ogni esecuzione dell’esperimento si verifica

mutuamente esclusivi:

esito elementare.

uno e un solo

La coppia costituisce lo base per la modellazione di eventi.

(S, P ) spazio di probabilità,

Esempio: lancio di un dado a sei facce

Nel lancio di un dado equo, lo spazio campione è:

S {1,

= 2, 3, 4, 5, 6}

Ogni esito ha probabilità uguale: 1 per ogni ∈ S

P (s) = s

6

Verifica della proprietà di normalizzazione: 1

X ·

P (s) = 6 =1

6

s∈S 8

Simone Randino Teoria ed elaborazione dei segnali II modulo

Definizione di Evento

• Un è un dello spazio campione

⊆

E S S.

evento sottoinsieme

• Corrisponde a un gruppo di esiti per i quali vogliamo calcolare la probabilità che si verifichino.

• Se l’esperimento produce un risultato appartenente a diciamo che “l’evento si è verificato”.

E, E

• Anche i singoli esiti (risultati elementari) sono considerati eventi.

La probabilità di un evento è data da:

E X

P (E) = P (s )

i

∈E

s

i

Se è un evento, anche il sottoinsieme complementare ad esso è un evento di S.

E

Relazioni tra Eventi

• Due eventi e sono detti (o ) se non possono verificarsi con-

A B disgiunti mutuamente esclusivi

temporaneamente.

• Se invece possono verificarsi contemporaneamente, allora i due eventi sono non disgiunti.

• L’unione di due eventi rappresenta l’evento che si verifica se si verifica oppure (o

∪

A B A B

entrambi) ed è a sua volta un evento.

• L’intersezione di due eventi rappresenta l’evento che si verifica solo se si verificano con-

∩

A B

temporaneamente sia che ed è anch’essa un evento.

A B

Sia A un evento e B il suo complementare un altro evento allora è coincidente con lo spazio

∪

A B

campione e si dice evento non contiene nessun elemento ed è detto evento

∩

A B

certo, nullo.

Probabilità

Probabilità di un Evento: Assiomi

La probabilità è la misura assegnata a ciascun evento dello spazio campione in modo da

S

P (A) A

rispettare i seguenti assiomi:

1) la probabilità di un evento non può essere superiore a 1 né negativa

≤ ≤

0 P (A) 1

2) la proprietà dell’evento certo è unitaria

P (S) = 1

3) Se sono eventi a due a due disgiunti

E , E , E , . . .

1 2 3 per allora la probabilità che si verifichi almeno uno di essi (cioè che si

∩ ∅ ̸

(E E = i = j),

i j

verifichi , , è uguale alla somma delle probabilità di ciascuno:

E E . . .)

1 2 !

[ X

P E = P (E )

i i

i i

9

Simone Randino Teoria ed elaborazione dei segnali II modulo

Conseguenze degli Assiomi

Dagli assiomi si possono ricavare le seguenti proprietà:

probabilità dell’evento complementare

−

P (A) = 1 P (A)

a) probabilità dell’evento nullo

P (∅) = 0

b) probabilità dell’evento unione

∪ − ∩

P (E E ) = P (E ) + P (E ) P (E E )

c) 1 2 1 2 1 2

(sottraggo il termine finale perché nella somma considero due volte la probabilità

dell’avvenimento dell’evento in contemporanea)

• è la probabilità che si verifichi un singolo evento, indipendentemente da

Probabilità marginale:

altri eventi. oppure

P (E ) P (E )

1 2

• è la probabilità che due eventi si verifichino contemporaneamente.

Probabilità congiunta: oppure

∩

P (E E ) P (E , E )

1 2 1 2

Probabilità di un evento: definizione classica di Laplace

La probabilità di un evento si può definire, nel caso classico, come:

A N

A

P (A) = N

dove:

• : numero di casi favorevoli all’evento (tutti gli esiti che realizzano l’evento A)

N A

A

• : numero totale di casi possibili

N

Condizioni di applicabilità:

• Il numero di esiti possibili deve essere finito

• Tutti gli esiti devono essere ugualmente probabili

Per cui la definizione classica Infatti non si può utilizzare quando:

non è sempre applicabile.

• Gli esiti non sono equiprobabili (es. fenomeni sbilanciati o truccati)

• Lo spazio campione è infinito o continuo (esiti non numerabili)

• Non è possibile identificare chiaramente i casi favorevoli e possibili

Probabilità di un evento: definizione frequentista di Von Mises

N A

P (A) = lim N

→∞

N

Definisce la probabilità di un evento come il limite a cui tende la frequenza relativa dell’evento al crescere

del numero degli esperimenti.

Presenta due problemi:

1. non è possibile determinare la probabilità con esattezza;

2. se le prove non vengono effettuate nelle medesime condizioni la stima non è attendibile.

10

Simone Randino Teoria ed elaborazione dei segnali II modulo

Probabilità condizionata

La probabilità condizionata di un evento A rispetto a un evento B è la probabilità che si verifichi A,

sapendo che B si è verificato. P (A, B)

P (A|B) = P (B)

ha senso solo se B ha una probabilità non nulla di verificarsi.

L’ evento B diventa il nuovo spazio campionario di riferimento.

Eventi statisticamente indipendenti

Due eventi A e B sono indipendenti se il verificarsi di uno non influisce sulla probabilità dell’altro.

La definizione è: ·

P (A, B) = P (A) P (B)

due eventi sono indipendenti tra loro cioè il fatto che uno di essi si verifichi non modifica la probabilità

di verificarsi del secondo.

Per due eventi indipendenti la probabilità condizionata si può esprimere così:

×

P (A, B) P (A) P (B)

P (A|B) = = = P (A)

P (B) P (B)

Qual è la probabilità che si verifichi A sapendo che B è verificato? È la probabilità che si verifichi A

(aldilà di ciò che succede a B) poiché indipendenti.

Teorema di Bayes P (B|A)P (A)

P (A|B) = P (B)

Dimostrazione

Dalla probabilità condizionata sappiamo: ∩

P (A B)

P (A|B) = P (B)

∩

P (A B)

P (B|A) = P (A)

∩

P (A B) = P (B|A)P (A)

È utile quando si conosce quanto è probabile B dato che è accaduto A, e si vuole sapere quanto è probabile

A dato che è accaduto B.

Teorema delle probabilità totali

Questo teorema serve per calcolare la probabilità che un evento possa verificarsi in presenza di diversi

A

scenari alternativi e mutualmente esclusivi.

Supponiamo di avere una partizione dello spazio campionario cioè eventi tali che siano

{B },

, B , . . . , B

1 2 N

a due a due disgiunti e la cui unione sia l’intero spazio.

Allora, la probabilità di si può esprimere come:

A N

X | ·

P (A) = P (A B ) P (B )

i i

i=1 11

Simone Randino Teoria ed elaborazione dei segnali II modulo

Questa formula permette di determinare tenendo conto del contributo di ciascun evento sulla

P (A) B i

probabilità di pesato in base alla probabilità che si verifichi .

A, B

i

È particolarmente utile in problemi in cui dipende da diversi contesti o cause possibili.

A

Calcolo combinatorio

Disposizioni

Nel calcolo combinatorio, costruire una di elementi di classe significa formare un gruppo

n k

disposizione

ordinato di elementi scelti da un insieme di elementi distinti. Due disposizioni sono considerate diverse

k n

se cambia l’ordine degli elementi oppure se cambia almeno un elemento del gruppo.

In particolare, quando cioè quando si usano gli elementi dell’insieme per formare il gruppo,

k = n, tutti

si parla di permutazione.

• Si parla di se ogni elemento può comparire nel gruppo (cioè

disposizioni semplici una sola volta

Il numero di tali disposizioni è dato dalla formula:

≤

k n). n!

− − · · · −

D = n(n 1)(n 2) (n k + 1) =

n,k −

(n k)!

• Si parla di se ogni elemento può comparire nel gruppo.

disposizioni con ripetizione più volte

In tal caso, il numero totale di disposizioni è: ′ k

D = n

n,k

Permutazioni

Quando si ha nelle disposizioni, si parla di ovvero si considera ogni possibile

k = n permutazioni,

ordinamento dei elementi dell’insieme.

n

Permutazioni semplici

Il numero di di elementi distinti è dato da:

n

permutazioni semplici P = n!

n

Questa formula rappresenta il numero di modi in cui è possibile ordinare tutti gli elementi senza

n

ripetizioni.

Permutazioni con ripetizione

Quando alcuni elementi si ripetono, non tutte le permutazioni sono distinte. In questo caso si parla di

permutazioni con ripetizione.

Supponiamo di avere elementi totali, di cui:

n

• elementi uguali fra loro,

h

• elementi uguali fra loro ma distinti dai precedenti,

k

• elementi uguali fra loro e distinti da tutti gli altri,

p 12

Simone Randino Teoria ed elaborazione dei segnali II modulo

con Il numero di permutazioni distinte sarà:

· · · ≤

h + k + + p n. n!

r

P =

n,h,k,...,p · · · · · ·

h! k! p!

Combinazioni

Nel calcolo combinatorio, costruire una di elementi di classe significa formare un

n k

combinazione

gruppo di elementi scelti da un insieme di senza tenere conto dell’ordine. Due combinazioni sono

k n,

considerate diverse solo se cambia almeno un elemento del gruppo.

Combinazioni semplici

Il numero di di elementi distinti, presi alla volta (con si indica

≤

n k k n),

combinazioni semplici

con e si ottiene dividendo il numero di disposizioni semplici per il numero di permutazioni possibili

C n,k

all’interno di ciascun gruppo (cioè k!): − − · · · −

D n(n 1)(n 2) (n k + 1) n!

n,k

C = = =

n,k −

k! k! k!(n k)!

Questo numero si indica anche con il simbolo binomiale:

n

C =

n,k k

che si legge “n su ed è noto come

k” coefficiente binomiale.

Combinazioni con ripetizione

Quando è possibile scegliere più volte lo stesso elemento, si parla di In

combinazioni con ripeti