Identificazione di modelli e analisi dei dati A e B - Commenti alle slide

5-6 Assiomi della probabilità e spazi equiprobabili

Lunedì 14 febbraio 2022 17:13

Insiemi

La probabilità è definita su insiemi:

• L'insieme Y degli esiti di un esperimento casuale (spazio universo o spazio degli esiti)
• L'insieme F degli eventi ovvero un insieme di sottoinsiemi F che godono di 2 proprietà:
• →∃ F Ā ∃ F Ā = il complementare di A
• A1. →∃ F) and (B ∃ F) (A + B) ∃ F dove il + è l’unione
• (A2. F deve sempre contenere Y e l'insieme vuoto {0}

Evento: intuitivamente, ciò che può essere oggetto di scommessa.

Esiti disgiunti: A e B sono disgiunti se non possono verificarsi simultaneamente.

Evento certo: si verifica certamente.

Evento impossibile: l'insieme vuoto.

Unione: somma di eventi C=A+B è l'evento che si verifica, se si verifica A oppure B.

Intersezione: è il prodotto di eventi C=AB è l'evento che si verifica se si verificano sia A che B.

Definizione assiomatica di probabilità

P(.): F |-> [0,1] è una qualsiasi funzione che ad ogni evento A ∃ F associa un numero reale P(A) in modo tale che:

• 1. P(A)>= 0
• 2. P(Y) =1 (l’evento ha probabilità = 1)
• →P(A+B)=P(A)+P(B)
• 3. AB={0} (proprietà di additività semplice)

Y= evento certo.

Dimostrare utilizzando gli assiomi che P(croce)=1-p(testa).

Corollari

P(A)=1 -P(Ā)≤1 IMAD A Pagina 1

P({0})=0 l’evento impossibile ha probabilità zero.

→B⊂A P(B)≤P(A) B è contenuto in A.

A, … A disgiunti e A= A +…+ A allora P(A) = P(A ) + …+ P(A ).

P(A+B) = P(A)+P(B) – P(AB) ≤ P(A)+ P(B).

Spazi con infiniti risultati

Proprietà per definire un insieme un insieme di BOREL o sigma-algebra:

• →1. ∃ F Ā ∃ F Ā = il complementare di A
• A →2. ∃ F) and (B ∃ F) (A + B) ∃ F dove il + è l’unione
• (A → ∃ F=1,2,…, inf
• 2’. Ai ∃ F, i

Se Y ha cardinalità infinita e (manca pezzo controllare), allora P(A) = ( ) proprietà di3.

Se A i = 1,2,…,inf sono disgiunti e A = ∃ F additività completa.

Qualcuno sviluppa la teoria della probabilità anche senza la 3: analogia con postulato rette parallele.

Spazi con esiti equiprobabili

- Cardinalità finita

Definizione: Y è equiprobabile se, essendo Y={s1,s2,---,sn} la probabilità di un evento A composto da r eventi elementari è P(A) = per ogni A dove r sono i casi favorevoli e n i casi possibili.

- Cardinalità infinita

Definizione: Y è equiprobabile.

• (i) Su di esso è definita una misura geometrica m(.) (lunghezza, area, volume,…)
• (ii) m(Y) ≠0( )
• (iii) P(A)= per ogni A( )

Probabilità =0 ≠ Impossibile guardare perché.

Definizione di esperimento casuale

Tre elementi:

• 1) L'insieme Y degli esiti
• 2) L'insieme F degli eventi
• 3) La legge di probabilità P(-), definita su F IMAD A Pagina 2

7-8 Probabilità condizionata e indipendenza

Lunedì 14 febbraio 2022 17:15

Probabilità condizionata

Probabilità Condizionata ≠0.

Definizione: Siano A e M due eventi con P(M) La probabilità di A condizionata da M è ( )

P(A|M) = ( )

Dove AM è l'evento congiunto e M è l'evento condizionatore.

Capire esempio biglie.

Teorema della probabilità totale

≠0 =Se M M, P(M ), per ogni i, sono eventi disgiunti e 1,…., n i Allora ( ) ( )P(A)=

Dimostrazione:

A=AY = A(M1,…. +….+ Mn ) = AM + …., +Mn dove (AM ) ecc. sono mutuamente esclusivi- 1 1

P(A) = P(AM )+P(AM )+…..+P(AM ) = P(A|M )P(M )- 1 2 N 1 1

Teorema di Bayes o teorema della probabilità delle cause

( ) ( )(a) P(M|A) = ( )

(b) Nelle condizioni di validità del Teorema della Probabilità Totale, P(M |A) =i ( )

Dimostrazione:

( ) ( ) ( )=(a) P(M|A) = ( ) ( )

(b) Basta usare il teorema della Probabilità Totale nella precedente formula.

Nota: P(M): probabilità "a priori".

P(M|A): probabilità "a posteriori".

Esempio di applicazione Specificità e sensitività di un test covid.

Con il teorema di Bayes posso ribaltare --> P(T|M) --> P(M|T)

Indipendenza

Definizione: Due eventi A e B si dicono indipendenti se P(AB)=P(A)P(B) dove AB è l'evento congiunto.

Se A e B sono indipendenti, si vede facilmente che lo sono anche Ā e B, come pure Ā e Ḇ (B trattino).

• Se A e B sono indipendenti
• ( ) ( ) ( )=P(A|B)= =P(A)( ) ( )

L'interpretazione è la seguente: la probabilità che si verifichi A non è influenzata dal verificarsi o meno di B.

Data una legge di probabilità, l'indipendenza è una proprietà verificabile attraverso la definizione.

ATTENZIONE a P(AB) se gli eventi non sono congiunti! Non è il prodotto delle probabilità ma devo considerare gli eventi contemporaneamente. Esempio urna con 5 sfere rosse numerate da 1 a 5 e 3 sfere blu numerate da 1 a 3.

A{sfera rossa} e B={Sfera n.3 blu o rossa}. Se faccio P(AB) = 1/8 (probabilità sfera rossa e n.3) se faccio P(A)P(B) è 5/8 IMAD A Pagina 3 e 2/8 che è diverso da P(AB) quindi A e B non sono indipendenti.

Indipendenza di più eventi

Definizione: Gli eventi A, …., A sono detti indipendenti, se1 N

Tutte le coppie, tutte le triplette e le n-eventi sono:

• P( A A ) = P( A ) P( A ) con i diverso da j i J i j
• P( A A A ) = P( A ) P( A )P( A ) con i diverso da j diverso da n1 2….. N 1 2 N

Ma attenzione, TRE eventi possono essere indipendenti a coppie, ma non tutti e tre presi insieme!

Esempio per ricordarsi l'indipendenza sono le due monete.

Ritaglio schermata acquisito: 15/02/2022 10:22

DTS Ovviamente il lancio delle due monete non interferiscono l'uno con l'altro! Sono indipendenti.

Quindi se non c'è indipendenza, la conoscenza di P(A) e P(B) non basta a determinare P(AB).

Disgiunzione e indipendenza

Disgiunzione≠Indipendenza.

Esempio dado onesto. A={pari} B={dispari}

A e B sono disgiunti (AB={0}) sinonimo di incompatibili.

≠P(AB) =(P{0}) =0 P(A)P(B) --> A e B non sono indipendenti IMAD A Pagina 4

10 Prove di Bernoulli

Martedì 15 febbraio 2022 10:28

Prove ripetute: esperimento che consiste nel ripetere n volte una prova con due possibili esiti: successo /insuccesso.

Es. Nel suo insieme gli esiti sono tutte le possibili sequenza di testa e croce.

A = i-esima prova è un successo (è un evento)i

p= probabilità di successo.

Prove di Bernoulli

Definizione:

• P(A ) =P(A ) = p per ogni i, j --> le probabilità di successo non cambiano- i j
• Gli eventi P( A ) sono indipendenti --> i successi in prove diverse sono eventi indipendenti- i
• q=P(Ā )= 1-p q= probabilità di insuccesso i

Coefficiente binomiale

Combinazione di n elementi a gruppo di k. Dati n elementi, in quanti modi ne posso estrarre k (senza tener conto dell'ordine di estrazione)?

( 1) … ( + 1)= =( ) ( 1) … 1

Ritaglio schermata acquisito: 15/02/2022 11:06

Teorema formula della binomiale

Teorema ( formula della binomiale)

La probabilità di p (k) di ottenere k successi su n prove di Bernoulli è:n

Ritaglio schermata acquisito: 15/02/2022 11:11

Detta formula della binomiale. La p (k) viene detta Binomiale di ordine n, perché coincide con il k-n nesimo termine dell'espansione della potenza del binomio (p+q).

( )=1 ( è )

Si noti che la sommatoria.

Con l'esempio del voler calcolare la probabilità che una moneta esca testa al k+a tentativo dato che IMAD A Pagina 5 Con l'esempio del voler calcolare la probabilità che una moneta esca testa al k+a tentativo dato che fino al k lancio è uscita croce, si arriva alla conclusione che la probabilità del lancio di quella moneta è pari alla probabilità di un qualsiasi lancio. Questo perché vale la proprietà di non memoria ed è pura superstizione porsi un quesito del genere.

Formula geometrica per successo al k+1 esimo lancio IMAD A Pagina 6

11 Random surfer

Martedì 15 febbraio 2022 11:35

È una idea dove si sviluppa un semplice modello probabilistico di un utente che "naviga" sul web da una pagina all'altra.

I risultati trovati con i calcoli permettono ad esempio di costruire un motore di ricerca.

IMAD A Pagina 7

12 Variabili casuali

Martedì 15 febbraio 2022 11:39

Dato un esperimento casuale { Y,F,P(.)} consideriamo una funzione X(.), che ad ogni esito s ∃ Y associa un numero reale: .X(.):Y

Data una funzione X(.), posso associare insiemi in R1 a eventi in F e calcolarne la probabilità.

Descrizione di una Variabile Casuale: funzione di distribuzione e densità di probabilità:

Funzione di distribuzione f.d.d.

Definizione: Una variabile casuale V.C. possiede una funzione di distribuzione se Fx(.) tale che:

• Fx(n) = P(X≤n)- (n)
• lim F =0- (n)
• lim F =1-

Proprietà della funzione di distribuzione

Proprietà della Funzione Di Distribuzione F.D.D. (c.d.f- cumulative distribution function)

• Fx(+ ) = 1- Fx(- ) = 0-
• X1 X2 Fx(x2) B-->Fx(x )≤- 1
• P(X ) = 1 Fx(x)- +
• Fx(x )=Fx(x) C-
• P( 1 x2 )=Fx(x )) -Fx(x2)- 1 -
• P(X=x))=Fx(x)) -Fx(x )-

Terminologia

• X(.) è continua se Fx(.) è continua-
• X(.) è discreta se Fx(.)è a scalini.-

Densità di probabilità d.d.p.

Definizione:

( ) è à à f (x):=x

Della variabile casuale X(.)

Ritaglio schermata acquisito: 15/02/2022 14:28

Nel grafico: in blu funzione di distribuzione e in rosso la densità di probabilità.

IMAD A Pagina 8

Delta di Dirac

Non è una funzione ma una "funzione generalizzata".

È la derivata dello scalino (solo nell'ambito delle distribuzioni).

ATTENZIONE: la ddp è la derivata della funzione Fx funzione cumulativa di probabilità.

Proprietà della densità di probabilità

Proprietà della densità di probabilità d.d.p.:

• fx(x)≥0 per ogni x ALFA-
• ( )Fx(x)=-
• ( ) =1-

Teorema di esistenza

Data una qualsiasi funzione Fx(.) che soddisfi A,B,C (o una qualsiasi funzione fx(.)che soddisfi ALFA e BETA), è sempre possibile costruire un esperimento casuale e associarvi una V.C che abbia Fx(.) come f.d.d. ( e una fx(.) come d.d.p.).

--> significa che possiamo lavorare con Fx o fx ignorando{ Y,F,P(.)}

Variabili casuali notevoli

V.C. Gaussiana IMAD A Pagina 9

V.C. Uniforme

V.C. di Bernoulli

V.C Binomiale di ordine n

V.C. geometrica IMAD A Pagina 10

V.C. esponenziale

V.C. Erlang di ordine k

Distribuzioni condizionate

Distribuzioni Condizionate ≠0.

Definizione: sia M un evento con P(M) Allora, si dicono distribuzioni e densità condizionate:

Teorema della probabilità totale per le distribuzioni condizionate

Ipotesi A +A +….A =Y dove A sono eventi disgiunti.1 2 N i

( ) ( )Tesi: Fx(x) = ( ) ( )Fx(x )=i IMAD A Pagina 11

IMAD A Pagina 12

14 Funzioni di una variabile casuale

Martedì 15 febbraio 2022 15:39

Come presente nel titolo stiamo parlando di FUNZIONI di una variabile casuale.

Y= g(X).

Affinché g(X(.)) sia una V.C. g(.) deve soddisfare alcuni requisiti.

Funzione di distribuzione g(x)

1Definizione: Iy={x:x∃R, g(x)≤y}

Densità di probabilità di g(X)

Due strade

• 1) Calcolo Fy(y) e poi derivo
• 2) Uso il seguente teorema

Teorema: Sia X una V.C. continua e g(.) una funzione continua, derivabile, con derivata prima (y),……,x≠ 0 quasi ovunque( no tratti orizzontali di lunghezza finita). Detta x (y),x (y) le n1 2 N radici dell'equazione y= g(x), la d.d.p. di Y = g(X) è continua ed è:

Problema di rilevanza pratica: Data una V.C. U, uniforme in [0,1], trovare g(.) tale che X=g(U) abbia una f.d.d Fx assegnata. --> costruisco un generatore di v.c. pseudocasuali .x-1

Prendo g(U) = F (U)

Cercare di capire come invertire una funzione.

IMAD A Pagina 13

15 Momenti

Martedì 15 febbraio 2022 17:14

Parametri che caratterizzano le DDP

Moda: è la coordinata x a cui corrisponde il massimo valore di fx:

M≤{x : fx(x) fx(x ), per ogni x appartenente a R}M M

x è in un certo senso il valore più probabile.M

Può non essere unica. Quando è unica è detta unimodale.

Mediana: Il valore M tale che F (M ) = 0,5x x x

P(X≤M ) = P(X>M ) = 0.5 e può essere non unicax x

Si stima facendo la media dei due numeri se i numeri sono pari.

Mentre prendiamo il numero centrale se i numeri sono dispari.

Stima della DDP - L'istogramma

Per stimare e visualizzare la ddp di n realizzazioni 1,…. n: partiziono l'asse delle in segmenti e disegno barre proporzionali al numero di osservazioni che cadono in ciascun segmento.

Per scegliere il numero dei segmenti: k-1 7

• Power of two rule: usare k segmenti con 2 <100<2 k = 7à-
• Radice quadrata k = rad di n-

Quartili e boxplot

Quartili

Boxplot

Rappresentazione della densità alternativa all'istogramma.

Outlier BoxPlot IMAD A Pagina 14

Outlier BoxPlot

Caso gaussiano con infiniti dati:

• Mediana = media-
• H= 1,34 sigma-
• Limiti degli outliers mu +- 2.68 sigma- IMAD A Pagina 15

20-21 Momenti parte 2

Martedì 15 febbraio 2022 17:46

Momenti di ordine k

( )m =k

Per le V.C. discrete fx(x)= funzioni a scalini quindi la ddp è un pettine.

Si riduce a una sommatoria m =k

Momenti centrali di ordine k

Non è detto che esistano: esempio Cauchy, tende lentamente a 0 e questo fa sì che nessun integrale converga e per questo non ha momenti. (per esistere l'integrale deve convergere) Inoltre se non riesce a convergere il momento 1 neanche i successivi riusciranno a convergere.

Media o valore atteso

Media o Valore Atteso (momento di ordine 1)

Il momento del primo ordine m1 è detto media o valore atteso ed è spesso indicato con il simbolo E[x] (da Expectation), m, μ .x x

• Se si considera una distribuzione di massa lungo l'asse x con densità lineare f allora m è la- x, 1 coordinata del baricentro.
• Non è detto che il valore aspettato E[X] coincida con uno dei valori possibili di X. Esempio dado- onesto il valore aspettato è 3.5.
• Se fx è simmetrica rispetto ad a e m1 esiste, allora m1=a. Inoltre, m1 coincide con la mediana- Mx. Se la ddp è anche unimodale, m1 coincide anche con la moda. --> dimostrazione: interpretazione di m1 come baricentro.
• Come si stima? Ho n realizzazioni indipendenti- X,….X con E[x ] = m, per ogni i1 N i

Faccio media campionaria: IMAD A Pagina 16

Valore atteso condizionato

Definizione: ( )E[X|M] =

Valore atteso di una funzione di V.C.

Sia Y=g(X). Per calcolare E[Y] sembra necessario ricavare prima f (y). In realtà, c'è una scorciatoia.y

Teorema: Data la V.C. X e la funzione di V.C.: Y=g(x),

( ) ( ) ( )= =

Le cui conseguenze sono:

• Per la definizione di m- 2,--> m 2 =
• Se Y= aX+b, allora E[Y]=aE[X]+b (l'operatore E[.]è lineare)-

Dimostrazione:

E[g1(x)+g2(X)] = E[g1(X)]+ E[g2(X)] (facile)-

Varianza e deviazione standard

Varianza e Deviazione Standard (momento di ordine 2)

È detta varianza della V.C. e si indica con var[x] oppure= è.

La costante positiva---> interpretazione: momento di inerzia attorno al baricentro (x=m ) della distribuzione di una1 massa. Come tale misura la dispersione di fx attorno al suo valore medio.

IMAD A Pagina 17 massa. Come tale misura la dispersione di fx attorno al suo valore medio.

• Var[X] = E[(X-E[X])²]-
• 2 2 =Var[X] = E[X ]-E[X] -->-
• 2Var[aX+b]=a Var[x]-

Stima variazione standard:

Media e varianza di una funzione di V.C.

Media e varianza di una funzione di V.C.: formule approssimate

( )E[Y] ( )Var[Y]

Standardizzazione di V.C.

Standardizzazione di V.C.

Media e variazioni di alcune V.C. notevoli

Media e variazioni di alcune V.C. Notevoli

Uniforme in [a,b]-

)(E[X]= ( )Var[x]=

Esponenziale-

Gaussiana- IMAD A Pagina 18

Vedere per esempio IMAD A Pagina 19

22-23 Momenti e variabili congiunte

Mercoledì 16 febbraio 2022 12:14

Media e varianza di alcune V.C. notevoli ( continuazione)

Bernoulli

Bernoulli

2E[X ] è valore quadratico medio

Binomiale

Binomiale

Numero di successi nelle prove di Bernoulli --> somma di n bernoulli

Geometrica

Geometrica

Numero di insuccessi che ottengo prima del successo.

Disuguaglianza di Cebycev

Disuguaglianza di CEBYCEV

--> se noi conosciamo la varianza di una V.C. possiamo affermare che la una probabilit