Probabilità e Informazione
Modulo di probabilità/statistica
Nozioni di base. Variabili aleatorie discrete e continue. Fattoriale e sua approssimazione. Schemi di
Bernoulli e distribuzione binomiale;
approssimazioni di Poisson e di de Moivre-Laplace. Probabilità condizionata. Teorema di Bayes e
della probabilità completa. Media, varianza,
e momenti di ordine superiore. Diseguaglianza di Chebyshev. Legge dei grandi numeri.
Equipartizione asintotica e sequenze tipiche.
Funzione generatrice dei momenti e sue proprietà. Integrali gaussiani. Teorema limite centrale.
Trasformazioni di variabili aleatorie.
Moltissimi esercizi a fine modulo
Modulo di Teoria dell’Informazione
Nozioni generali sui sistemi di comunicazione. Sorgenti discrete senza memoria. Autoinformazione.
Entropia di sorgente e sue proprietà.
Concavità e convessità. Diseguaglianze utili. Codifica di sorgente. Codici non singolari e ambiguità di
concatenazione. Codici univocamente
decodificabili, istantanei e a prefisso. Rappresentazione ad albero dei codici. Teorema di Kraft-
McMillan. Lunghezza media ed efficienza di
codifica. Teorema sul limite di efficienza di codifica. Codici diadici. Codici di Shannon. Sorgenti
estese e loro entropia. Primo teorema di Shannon.
Codici di Huffman. Canali discreti. Probabilità di errore. Il canale binario. Esempi di canali discreti e
loro proprietà. Entropia relativa.
Equivocazione. Mutua informazione. Capacità di canale. Tasso di trasmissione e ridondanza.
Secondo teorema di Shannon.
Moltissimi esercizi a fine modulo
Esercizi probabilità
--------------------------
Teoria Informazione
--------------------------
Esercizi Informazione
--------------------------
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.