Appunti di Trasmissione Numerica

Trasmissione numerica

Appunti di Matteo Filippini

2 gennaio 2019

1

Indice

1 Tecniche di trasmissione numerica predittive 4

1.1 Richiami sulla PCM . . . . . . . . . . . . . . . . . . . . . . . . . 4

1.2 Calcolo del rapporto segnale-rumore a destinazione nella PCM . 4

1.3 Sistemi di codifica predittivi . . . . . . . . . . . . . . . . . . . . . 5

1.4 Modulazione Delta . . . . . . . . . . . . . . . . . . . . . . . . . . 6

1.5 Modulazione Delta adattiva . . . . . . . . . . . . . . . . . . . . . 6

1.6 Differential PCM . . . . . . . . . . . . . . . . . . . . . . . . . . . 7

1.7 Adaptive DPCM . . . . . . . . . . . . . . . . . . . . . . . . . . . 7

1.8 Linear Predictive Coding . . . . . . . . . . . . . . . . . . . . . . 8

1.9 Tabella di confronto tra codifiche predittive . . . . . . . . . . . . 8

1.10 Residual Excited LPC . . . . . . . . . . . . . . . . . . . . . . . . 9

2 Sincronizzazione 10

2.1 Introduzione al problema della sincronizzazione . . . . . . . . . . 10

2.2 Sincronismo di bit . . . . . . . . . . . . . . . . . . . . . . . . . . 10

2.2.1 Filtro Passa Banda e Aggiustamento di Fase: FPAF . . . 10

2.2.2 Zero-Crossing Detection . . . . . . . . . . . . . . . . . . . 11

2.2.3 Early-Late Synchronizer . . . . . . . . . . . . . . . . . . . 11

2.3 Scrambling . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11

2.3.1 Unscrambling . . . . . . . . . . . . . . . . . . . . . . . . . 12

2.4 Sincronismo di frame . . . . . . . . . . . . . . . . . . . . . . . . . 12

3 Teoria dell’informazione 13

3.1 Introduzione . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13

3.2 Misura di informazione . . . . . . . . . . . . . . . . . . . . . . . . 13

3.3 Sorgente discreta senza memoria . . . . . . . . . . . . . . . . . . 14

3.4 Entropia di una sorgente numerica . . . . . . . . . . . . . . . . . 14

3.5 Codifica di una sorgente . . . . . . . . . . . . . . . . . . . . . . . 14

3.6 Primo teorema di Shannon . . . . . . . . . . . . . . . . . . . . . 15

3.7 Efficienza di un codice . . . . . . . . . . . . . . . . . . . . . . . . 15

3.8 Codici univocamente decifrabili . . . . . . . . . . . . . . . . . . . 15

3.9 Disuguaglianza di Kraft . . . . . . . . . . . . . . . . . . . . . . . 15

3.9.1 Codifica assolutamente ottimo: Condizione necessaria . . 15

3.10 Codice di Shannon-Fano . . . . . . . . . . . . . . . . . . . . . . . 16

3.11 Codice di Huffman . . . . . . . . . . . . . . . . . . . . . . . . . . 16

3.11.1 Efficienza di un codice istantaneo . . . . . . . . . . . . . . 17

3.11.2 Estensione della sorgente . . . . . . . . . . . . . . . . . . 17

3.11.3 Sorgente discreta con memoria . . . . . . . . . . . . . . . 18

3.11.4 Codifica Run-Length . . . . . . . . . . . . . . . . . . . . . 19

3.12 Introduzione alla codifica di canale . . . . . . . . . . . . . . . . . 19

3.13 Canale discreto . . . . . . . . . . . . . . . . . . . . . . . . . . . . 19

3.13.1 Canale discreto senza memoria tempo-invariante . . . . . 19

3.14 Misura di informazione mutua . . . . . . . . . . . . . . . . . . . . 20

3.14.1 Proprietà . . . . . . . . . . . . . . . . . . . . . . . . . . . 20

3.15 Canale binario simmetrico . . . . . . . . . . . . . . . . . . . . . . 21

3.16 Capacità canale discreto . . . . . . . . . . . . . . . . . . . . . . . 21

3.16.1 Capacità canale discreto simmetrico . . . . . . . . . . . . 22

3.17 Codifica di canale . . . . . . . . . . . . . . . . . . . . . . . . . . . 22

2

3.18 Secondo teorema di Shannon . . . . . . . . . . . . . . . . . . . . 22

3.19 Sorgenti continue . . . . . . . . . . . . . . . . . . . . . . . . . . . 23

3.20 Canali continui . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23

3.21 Capacità canale continuo . . . . . . . . . . . . . . . . . . . . . . 23

3.21.1 Canale continuo con rumore AWGN . . . . . . . . . . . . 24

3.22 Legge di Hartley-Shannon . . . . . . . . . . . . . . . . . . . . . . 24

3.23 Sistema di telecomunicazione ideale . . . . . . . . . . . . . . . . . 24

3.23.1 Confronto con i sistemi analogici . . . . . . . . . . . . . . 25

4 Codici a rilevazione e correzione d’errore 27

4.1 Introduzione . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 27

4.2 Strategie ARQ e FEC . . . . . . . . . . . . . . . . . . . . . . . . 27

4.2.1 Automatic Repeat and reQuest . . . . . . . . . . . . . . . 27

4.2.2 Forword Error Correction . . . . . . . . . . . . . . . . . . 27

4.3 Tipologie di codici . . . . . . . . . . . . . . . . . . . . . . . . . . 28

4.4 Codici a ripetizione . . . . . . . . . . . . . . . . . . . . . . . . . . 28

4.5 Codici a controllo di parità . . . . . . . . . . . . . . . . . . . . . 29

4.6 Distanza di Hamming . . . . . . . . . . . . . . . . . . . . . . . . 29

4.7 Capacità rivelativa e correttiva di un codice . . . . . . . . . . . . 30

4.8 Proprietà di un codice a blocchi . . . . . . . . . . . . . . . . . . . 30

4.8.1 Codici lineari . . . . . . . . . . . . . . . . . . . . . . . . . 30

4.8.2 Codici sistematici . . . . . . . . . . . . . . . . . . . . . . . 30

4.8.3 Rappresentazione matriciale . . . . . . . . . . . . . . . . . 31

4.9 Codice di Hamming . . . . . . . . . . . . . . . . . . . . . . . . . 31

4.9.1 Decodifica di un codice lineare sistematico a blocchi . . . 31

4.9.2 Decodifica matrice di controllo parità . . . . . . . . . . . 31

4.10 Decodifica a sindrome . . . . . . . . . . . . . . . . . . . . . . . . 32

4.10.1 Decodifica a massima vero-somiglianza . . . . . . . . . . . 32

4.11 Codici ciclici . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32

4.11.1 Formulazione matematica . . . . . . . . . . . . . . . . . . 33

4.11.2 Tabella di confronto tra codici ciclici . . . . . . . . . . . . 33

4.11.3 Codici ciclici sistematici e non sistematici . . . . . . . . . 33

4.12 Codici convoluzionali . . . . . . . . . . . . . . . . . . . . . . . . . 34

4.12.1 Distanza libera . . . . . . . . . . . . . . . . . . . . . . . . 35

4.12.2 Metodi di decodifica . . . . . . . . . . . . . . . . . . . . . 35

4.13 Algoritmo di Viterbi . . . . . . . . . . . . . . . . . . . . . . . . . 35

4.13.1 Effetto di divergenza della metrica . . . . . . . . . . . . . 36

4.14 Decodifica sequenziale . . . . . . . . . . . . . . . . . . . . . . . . 36

4.15 Decodifica a retroazione . . . . . . . . . . . . . . . . . . . . . . . 36

5 Esempi di applicazione dei codici 37

5.1 Codifica di canali con AWGN . . . . . . . . . . . . . . . . . . . . 37

5.2 Codifica di canali ”compound-error” . . . . . . . . . . . . . . . . 37

5.3 Codifica per dispositivi di memorizzazione . . . . . . . . . . . . . 37

3

1 Tecniche di trasmissione numerica predittive

1.1 Richiami sulla PCM

Dai corsi precedenti si è visto come è possibile convertire un segnale analogi-

co in uno digitale utilizzando semplicemente un campionatore seguito da una

PCM che permette di quantizzare e codificare il segnale appena campionato.

La quantizzazione avviene per M livelli da assegnare secondo il principio della

minima distanza. Il decodificatore PCM restituisce il segnale con un inevita-

bile errore di quantizzazione (dovuto all’approssimazione del segnale al valore

del campionatore più vicino). Entrando nel reale si deve considerare anche il

rumore additivo introdotto da vari fattori. La formula che quantifica il rumore

ottenuto dal sistema in osservazione è il rapporto tra la potenza del segnale

ricevuto (uguale a quella trasmessa se il canale non comporta attenuazione) e il

S S

S = = .

rumore dello stesso: D x

N N N

D D D

1.2 Calcolo del rapporto segnale-rumore a destinazione

nella PCM

Il rumore del ricevitore è dato dalla somma della potenza del rumore di quan-

tizzazione e dalla potenza del rumore di decodifica (dovuto al canale):

• Rumore di quantizzazione: rumore sistematico che degrada la qualità del

segnale ricevuto (non perfetta rappresentazione dell’ampiezza del segnale

2

campionato). σ c

• Rumore di decodifica: il rumore presente sul canale può causare errori di

rigenerazione in ricezione. In pratica può portare a ricostruire un livello

2

diverso da quello trasmesso per un determinato campione. σ q

Supponendo che il segnale trasmesso sia normalizzato e la quantizzazione unifor-

Λ

−

me sugli M livelli, è una variabile aleatoria distribuita uniformemente tra

q M

Λ 1

2 2

}

e + . La potenza media del rumore di quantizzazione è: E{ = = σ

q q

2

M 3M

Ipotizzando:

1. una trasmissione PCM binaria con quantizzazione uniforme.

2. una probabilità di errore sul bit piccola.

3. una codifica binaria con codice naturale

Si osserva che la probabilità di avere più di un errore in una word di codice

costituita da n bit è trascurabile, ovvero la probabilità che la parola di codice

sia sbagliata può essere vista come il prodotto tra la probabilità di errore sul

bit e il numero di bit stesso.

L’errore su un bit causa un errore nel riconoscimento di una word di codice

e quindi nella corretta ricostruzione del livello di quantizzazione originale. La

criticità dell’errore dipende dalla posizione del bit errato: se si sbagliano bit

con un ”peso” elevato, il livello di quantizzazione trasmesso può essere confuso

con un livello molto diverso. Se l’errore avviene sul bit più significativo della

parola di codice di sbaglia addirittura segno. La varianza dell’errore sul canale

4

2 P

è: σ = B

c e

3 4 2

1+4M +P

2 2 B

Il rumore N = σ + σ = è stato calcolato. Il rapporto

e

d c q 2

3M

segnale/rumore invece è: 1

2

2

3M S P

3M

S x B e 2

4M

= S = 1

3

x

S P

2

N 1 + 4M + P x B e 2

B 4P 4M

e

D B e

Si può osservare che si viene a creare un effetto soglia:

1. al di sopra della quale prevale il rumore di quantizzazione.

2. al di sotto della quale prevale il rumore di decodifica.

Supponendo di lavorare con un rumore additivo gaussiano bianco, vale la

relazione: "s #

S

P = Q

B e N R

Osservazioni: S

1. Al di sotto del valore soglia, diventa molto scadente, le prestazioni

N D

sono inaccettabili anche per un elevato numero di livelli di quantizzazione.

S diventa unicamente dipendente dal

2. Al di sopra del valore soglia, N D

rumore di quantizzazione, le prestazioni dipendono da M.

1.3 Sistemi di codifica predittivi

Fino ad ora abbiamo dato per scontato di effettuare la quantizzazione e la

codifica per ogni campione ottenuto dal processo di discretizzazione nel tempo

di un segnale analogico.

Nei sistemi di codifica predittivi, si usa un approccio differente: il campione

attuale (con ampiezza analogica) viene analizzato con riferimento a quelli pre-

cedenti al fine di sfruttare nella fase di trasmissione eventuali ”similarità” tra

insiemi di campioni. Nella realtà non può esistere un predittore perfetto, ma

si può osservare che i campioni di forme d’onda analogiche differiscono di poco

tra loro se vicini nel tempo, a causa della della presenza di una correlazione e

quindi una prevedibilità.

Se, dato un campione:

1. in ricezione si è in grado di effettuare una predizione sul valore del cam-

pione successivo.

2. tale predizione differisce di poco dal valore reale (errore di predizione

piccolo).

3. in trasmissione si conosce tale predizione.

allora basta trasmettere la poca informazione necessaria a correggere l’errore di

predizione per ricostruire esattamente il segnale trasmesso.

Se si usa un tempo di campionamento sufficientemente piccolo allora ba-

sta inviare l’informazione equivalente alla differenza tra il segnale ricevuto in

precedenza e quello attuale. 5

1.4 Modulazione Delta

E’ la modulazione più semplice con tecnica di codifica predittiva. Consiste

nell’inviare con un singolo bit l’informazione di aumento o decremento di un

”gradino” del segnale. Questa tecnica presenta due problemi principali:

±∆

1. Ogni T secondi il segnale varia di una quantità pari a anche se il

c

segnale rimane costante. Secondo il ricevitore il segnale continua a stare

all’interno di un intervallo. Tale variazione è detto rumore GRANULARE.

±∆.

2. Ogni T secondi il segnale può variare solo di una quantità pari a

c

Se in questo tempo il segnale presenta rapide variazioni(di ampiezza mag-

giore di ∆ ),allora non riesce a seguire l’andamento del segnale originale.

SOVRACCARICO DI PENDENZA.

Il valore di ∆ deve essere scelto attentamente per ottenere un compromesso

tra errore granulare ( ∆ molto piccolo) e sovraccarico di pendenza ( ∆ molto

grande)

Per quanto riguarda l’occupazione in banda, viene inviato un solo bit che

1 e l’occupazione

codifica l’errore quantizzato. La bit rate per tanto è di T c

in banda dipende solo e unicamente dalla forma d’onda che viene scelta per

trasmettere bit.

Il rumore a destinazione è composto da:

1. rumore sistematico dovuto alla quantizzazione (comprende il rumore gra-

nulare ed il sovraccarico di pendenza)

2. errori di decodifica (rigenerazione) dato dal rumore introdotto dal canale

Nei calcoli per semplificazione andiamo a rendere nulli i rumori di decodifica e

quello dovuto al sovraccarico di pendenza.

3f

S c

= S

x

2

N ∆ f max

D

In conclusione: ogni campione è identificato tramite un bit soltanto e l’occu-

pazione di banda dipende unicamente dalla forma del segnale scelta, se non fosse

che bisogna aumentare notevolmente la frequenza di campionamento andando

ad aumentare a sua volta la banda occupata, specie se si usa un ∆ piccolo. A

parità di potenza trasmessa la PCM mantiene un’occupazione di banda inferiore

alla modulazione Delta. Per poter competere con la PCM bisognerebbe ottenere

una variazione dinamica del ∆.

1.5 Modulazione Delta adattiva

La modulazione delta adattiva o MDA cerca di porre rimedio a tale problema:

l’ampiezza di ∆ viene adattata alle esigenze del momento. Si riducono gli ef-

fetti di sovraccarico di pendenza senza aumentare il rumore granulare. Tramite

osservazioni sui campioni precedenti:

• quando si riceve una sequenza di valori aventi la stessa polarità si è in

presenza di un sovraccarico di pendenza. ∆ viene aumentato.

• quando si presenta un’alternanza nei valori si è in presenza di rumore

granulare. ∆ viene diminuito. 6

1.6 Differential PCM

E’ un sistema di codifica predittiva in cui l’errore viene quantizzato su M livelli

e quindi codificato su n bit con n = log M

2

Il predittore della DPCM è necessariamente più complesso di quello del-

la MDA perché usa una combinazione lineare degli N campioni precedenti.

Per determinare i valori degli N coefficienti necessari alla ricostruzione del se-

gnale è ragionevole assumere che tali valori siano dipendenti dalla funzione di

autocorrelazione del segnale analogico originale.

Se l’errore trasmesso è quantizzato su M livelli ed è codificato con parole di

n

codice binarie di lunghezza n si ottiene che la bit-rate di una DPCM è pari a T

Per calcolare il rapporto segnale / rumore a destinazione utilizziamo degli

accorgimenti per semplificare i calcoli:

1. assumiamo che M >> 1

2. trascuriamo gli effetti dovuti a eventuali sovraccarichi di pendenza

3. tralasciamo la presenza di errori di decodifica

Date queste ipotesi iniziali semplificative, si ottiene che il rapporto segnale /

rumore a destinazione è uguale a

S 2

= G 3M S

p x

N D

G è detto ”guadagno di predizione”, in caso di un predittore ottimo è uguale a

p −1

#

" N R (i)

x

X

− c

G = 1 i

p S

x

i=1 S

Dalla relazione precedente di può osservare che l’incremento di che si

N D

riesce ad ottenere con una DPCM rispetto ad una PCM, a parità di potenza di

trasmissione e i numero di livelli di quantizzazione, dipende dalla funzione di

autocorrelazione del segnale analogico originale:

• Se i campioni sono poco correlati vi sarà un basso incremento nelle pre-

stazioni.

• Se i campioni sono molto correlati vi sarà un elevato miglioramento delle

prestazioni.

La PCM in confronto alla DPCM ha l’unico vantaggio di essere molto meno

complessa dal punto di vista hardware. La DPCM ha una minore occupazione

S S

di banda fissando il o un migliore con la stessa occupazione di

N N

D D

banda.

1.7 Adaptive DPCM

Come visto con la MDA è possibile migliorare le prestazioni di una modulazione

introducendo un fattore dinamico o Adattivo: i blocchi sui quali si può eseguire

tale variazione dinamica sono il quantizzatore e il predittore.

Il vantaggio principale è una migliore resa di banda occupata rispetto al

S , mentre lo svantaggio è una più complessa componentistica hardware.

N D 7

1.8 Linear Predictive Coding

E’ un sistema molto più sofisticato dei precedenti. L’idea di base è quella di

sviluppare un dispositivo in grado di sintetizzare il segnale analogico che si vuole

trasmettere in base ad un modello parametrico (dipendente da un insieme di pa-

rametri) del segnale. Determinare i parametri del sintetizzatore che permettono

di approssimare i campioni da trasmettere in un certo intervallo e trasmettere

sia tali parametri, sia l’errore di predizione del sintetizzatore. A tale scopo è ne-

cessario andare a creare un sistema di sintetizzazione per il segnale che si vuole

trasmettere, che risulterà molto complesso visto che andrà a rappresentare un

modello vettorial-parametrico del segnale. Il tutto dovrà essere accompagnato

da un sistema di ricezione che preveda un analizzatore che vada a ricostruire

nella maniera migliore il segnale campionato rispetto al segnale originale.

Un’applicazione originale per cui è usata la tecnica LPC è il sintetizzatore

vocale in cui il segnale vocale viene modificato attraverso un filtro trasversale.

Andando a utilizzare un sistema a 10 celle trasversale e un aggiornamento

a 10-25 msec otteniamo un segnale sintetizzato ma dal timbro metallico. Una

word di