Matematica per le applicazioni II - algebra lineare

RENATO LEONI

Algebra lineare

per le applicazioni statistiche

UNIVERSITÀ DI FIRENZE

DIPARTIMENTO DI STATISTICA "G. PARENTI"

FIRENZE, 2005

Questo lavoro riproduce, con alcuni cambiamenti di forma e contenuto, il volume:

Algebra lineare per le applicazioni statistiche,

Renato Leoni, Dipartimento

Statistico della Università degli Studi di Firenze, Serie Didattica n.13, 1994.

Il lavoro è destinato a un uso personale e ne è vietata la commercializzazione.

INDICE 3

INDICE

pag.

PREFAZIONE 7

Cap. I SPAZI VETTORIALI

1 Generalità sui vettori 11

2 Addizione e moltiplicazione scalare. Sottrazione 13

3 Combinazioni lineari. Dipendenza e indipendenza lineare 16

4 Spazi vettoriali 23

5 Basi e dimensione di uno spazio vettoriale 29

6 Sottospazi vettoriali 35

7 Varietà lineari 43

46

COMPLEMENTI

Cap. II MATRICI

1 Generalità sulle matrici 51

2 Addizione e moltiplicazione scalare. Sottrazione 53

3 Moltiplicazione di matrici 56

4 Inversione 61

5 Trasposizione 63

6 Elevazione a potenza 66

7 Traccia 68

8 Matrici a blocchi 69

73

COMPLEMENTI

4 INDICE

pag.

Cap. III DETERMINANTI

1 Funzione determinante 77

2 Esistenza e unicità di una funzione determinante 80

3 Calcolo di un determinante 84

4 Alcuni teoremi sui determinanti 87

5 Inversa di una matrice 89

92

COMPLEMENTI

Cap. IV SISTEMI DI EQUAZIONI LINEARI

1 Generalità sui sistemi di equazioni lineari. Il teorema di Cramer 96

2 Rango di una matrice 98

3 Soluzione dei sistemi di equazioni lineari 103

4 Alcuni teoremi sul rango di una matrice 115

5 Cambiamenti di base in uno spazio vettoriale 119

121

COMPLEMENTI

Cap. V TRASFORMAZIONI LINEARI

1 Generalità sulle trasformazioni lineari 124

2 Trasformazioni lineari e basi 125

3 Nucleo e immagine di una trasformazione lineare 130

4 Trasformazioni lineari di uno spazio vettoriale in se stesso 135

5 Autovalori e autovettori 136

6 Trasformazioni idempotenti. Proiettori 150

156

COMPLEMENTI

Cap. VI FORME BILINEARI E QUADRATICHE

1 Forme bilineari 163

2 Forme bilineari e basi 163

3 Forme bilineari simmetriche e forme quadratiche 168

180

COMPLEMENTI

INDICE 5

pag.

Cap. VII SPAZI EUCLIDEI

1 Generalità sugli spazi euclidei 184

2 Ortogonalità 185

3 Angoli. Lunghezze. Distanze 197

4 Trasformazioni autoaggiunte 201

5 Proiettori ortogonali 203

6 Matrici ortogonali. Trasformazioni ortogonali 207

7 Autovalori e autovettori di una trasformazione autoaggiunta 210

8 Forme quadratiche in uno spazio euclideo 215

220

COMPLEMENTI

BIBLIOGRAFIA 236

PREFAZIONE 7

PREFAZIONE

Questo volume è principalmente rivolto agli studenti delle Facoltà di

Economia e di Statistica e ai partecipanti ai Corsi di dottorato in Statistica.

In esso sono presentate quelle nozioni di Algebra lineare correntemente

impiegate nelle applicazioni statistiche.

Allo scopo di non appesantire eccessivamente l'esposizione e nel

tentativo di conferirle semplicità e concretezza, abbiamo evitato di trattare

aspetti e problematiche, anche rilevanti, ma che ci avrebbero inevitabilmente

portati a dare al volume un taglio che non riteniamo del tutto adatto alle

esigenze di coloro ai quali il volume stesso è rivolto.

È ovvio che, nella scelta degli argomenti e nel modo di proporli, ci è stata

di guida l'esperienza acquisita in molteplici anni di insegnamento univer-

sitario.

Ma è anche naturale che il volume rifletta, almeno in parte, gli interessi

culturali e di ricerca in cui al momento ci sentiamo maggiormente impegnati.

Il lettore troverà così, in aggiunta ai consueti argomenti di Algebra

lineare, la presentazione di temi che sono di interesse prevalente, anche se

non esclusivo, di specifici ambiti della Statistica.

−

In particolare, sono state introdotte di solito nella parte riservata ai

−

Complementi che accompagna ciascun capitolo nozioni che hanno larga

applicazione nel campo della cosiddetta Analisi statistica multidimen-

sionale.

A quest'ultimo tema sono dedicati altri lavori che ci offrono tra l'altro

l'opportunità di trattare, nella sede adatta e in modo non superficiale, alcuni

8 PREFAZIONE

tra i principali e significativi impieghi dell'Algebra lineare in ambito stati-

stico.

Desideriamo infine rivolgere un caldo ringraziamento ai numerosi amici e

colleghi che ci hanno aiutato fornendoci preziosi consigli e suggerimenti.

Renato Leoni

Algebra lineare

per le applicazioni statistiche

SPAZI VETTORIALI 11

Cap. I

SPAZI VETTORIALI

1 G

ENERALITÀ SUI VETTORI

1.1 Chiamiamo vettore di ordine n ogni n-pla ordinata di numeri reali . Tali

(1)

numeri sono detti elementi o componenti del vettore. Possono essere

disposti secondo una linea verticale (detta colonna) od orizzontale (detta

riga) e sono racchiusi tra parentesi quadre . Più precisamente, nel primo

(2)

caso si parla di vettore colonna, nel secondo di vettore riga. Per esempio,

3 , 5 6

4

sono due vettori – rispettivamente, colonna e riga – di ordine 2.

Seguendo una notazione assai diffusa, denoteremo i vettori colonna con

y , ...) e i vettori riga con lettere minuscole

lettere minuscole in grassetto (x ,

in grassetto e munite di apice (z , w , ...).

' '

Rappresenteremo, inoltre, simbolicamente un generico vettore colonna x

di ordine n con x 1

x n

A . In tutto questo volume, a meno di esplicita indicazione contraria, m , n , p , q , r , t , v

VVERTENZA

denotano numeri naturali maggiori o eguali a 1.

(1) Ometteremo, talvolta, di indicare l'ordine di un vettore.

(2) Alcuni, invece delle parentesi (quadre o tonde), usano le doppie sbarre verticali.

12 Cap. I

e un generico vettore riga z di ordine n con

' z z

1 n

dove a ciascun elemento x e z (i = 1, ... , n) è associato un indice che de-

i i

signa la sua posizione, rispettivamente, nella colonna o riga di apparte-

nenza.

Talvolta, i vettori x e z di cui sopra sono rappresentati, più compatta-

'

x e z .

mente, con i (n , 1 ) i (1 , n )

Nel seguito di questo capitolo faremo esclusivo riferimento ai vettori

colonna – denominati, senza ulteriori aggettivazioni, vettori – avvertendo

tuttavia che quanto diremo a questo proposito vale anche per i vettori riga.

1.2 Due vettori x = x e y = y sono eguali, e si scrive x = y, se e

i (n , 1 ) i (n , 1 )

soltanto se x = y per i = 1, ... , n.

i i

In altri termini, due vettori dello stesso ordine sono eguali se e soltanto

se gli elementi corrispondenti sono eguali.

1.3 Alcuni vettori ricorrono assai spesso nella trattazione che segue e

conviene indicarli esplicitamente fin da questo momento.

Il vettore di ordine n le cui componenti sono tutte nulle è chiamato vettore

zero o vettore nullo ed è indicato con il simbolo 0. Per esempio,

0

0 = 0

è il vettore nullo di ordine 2.

Il vettore di ordine n le cui componenti sono tutte eguali a 0 tranne la i-

≤ ≤

esima (1 i n) posta eguale a 1 è chiamato vettore canonico ed è indicato

. Per esempio,

con il simbolo u i 1 0

u = , u =

1 2

0 1

sono i vettori canonici di ordine 2.

SPAZI VETTORIALI 13

Come è noto, fissato nel piano un sistema di assi carte-

O 1.

SSERVAZIONE

siani (non necessariamente ortogonali) e stabilito per ciascun asse un verso

e una unità di misura (eventualmente diverse per i due assi), si viene a isti-

tuire una corrispondenza biunivoca tra i vettori di ordine 2 e i punti del piano,

e anche tra i vettori di ordine 2 e i segmenti orientati del piano aventi come

punto di applicazione l'origine degli assi. Analogamente, fissato nello spazio

un sistema di assi cartesiani (non necessariamente ortogonali) e stabilito

per ciascun asse un verso e una unità di misura (eventualmente diverse per

i tre assi), si viene a istituire una corrispondenza biunivoca tra i vettori di

ordine 3 e i punti dello spazio, e anche tra i vettori di ordine 3 e i segmenti

orientati dello spazio aventi come punto di applicazione l'origine degli assi.

La possibilità di effettuare una rappresentazione grafica dei vettori di

ordine 2 o 3, ora richiamata, sarà talvolta utilizzata nel corso di questo

volume, senza ulteriori commenti, nell'intento di illustrare il significato geo-

metrico dei concetti di volta in volta introdotti.

2 A . S

DDIZIONE E MOLTIPLICAZIONE SCALARE OTTRAZIONE

2.1 Dati due vettori x = x e y = y , si chiama somma di x e y il

i (n , 1 ) i (n , 1 )

vettore, che indichiamo con x + y, i cui elementi sono espressi ordinatamen-

te dai numeri x + y per i = 1, ... , n. Si ha, cioè,

i i x + y

1 1

x + y = .

x + y

n n Fig. 1

• x + y

• x • y

0

14 Cap. I

Dati i vettori

E 1.

SEMPIO 3 1

x = , y =

1 2

si ha 3 1 4 z

x + y = + = .

1 2 3

L'operazione in questione riceve la denominazione di addizione. Come si

può facilmente verificare, essa è commutativa e associativa; vale a dire,

y , z di ordine n,

qualunque siano i vettori x ,

(i) x + y = y + x

(ii) (x + y) + z = x + (y + z).

Quest'ultima proprietà consente di indicare, senza possibilità di equivoci,

y , z con x + y + z, evitando l'uso delle parentesi, e di esten-

la somma di x ,

dere l'addizione a un numero qualsiasi, purché finito, di vettori di ordine n.

x , si chiama prodotto di c

2.2 Dati un numero reale c e un vettore x = i (n , 1 )

per x o di x per c il vettore, che indichiamo con cx o xc, i cui elementi sono

espressi ordinatamente dai numeri cx per i = 1, ... , n. Si ha, cioè,

i

cx 1

cx = = xc .

cx n Fig. 2

• c x

• x

0

SPAZI VETTORIALI 15

Dati il numero reale c = 2 e il vettore

E 2.

SEMPIO 2

x = 1

risulta 2 4 2 z

cx = 2 = = 2 = xc .

1 2 1

L'operazione ora definita riceve la denominazione di moltiplicazione

scalare (o moltiplicazione di un numero reale per un vettore). Come si

può facilmente verificare, essa gode, qualunque siano i vettori x e y di ordine

n e i numeri reali a e b, delle seguenti proprietà:

(i) (ab)x = a(bx)

(ii) a (x + y) = ax + ay

(iii) (a + b)x = ax + bx.

x e y = y , posto (– y) = (–1) y, si chia-

2.3 Dati due vettori x = i (n , 1 ) i (n , 1 )

ma differenza di x e y il vettore x + (– y) = x + (–1) y che scriviamo, più

semplicemente, x – y. Si ha, cioè, −

x y

1 1

−

x y = .

−

x y

n n Fig. 3

• x

−

x y

• • y

0

16 Cap. I

Dati i vettori

E 3.

SEMPIO 3 1

, y =

x = 1 0

risulta 3 1 2

− z

= .

x – y = 1 0 1

L'operazione ora definita, ovviamente derivata dalle operazioni fonda-

mentali di addizione e di moltiplicazione scalare, riceve la denominazione di

sottrazione e consente di stabilire, qualunque siano i vettori x , y , z di ordine

n e i numeri reali a e b, alcuni utili risultati di immediata verifica:

(i) x – x = 0

(ii) – (–x) = x

(iii) – (x – y) = y – x

(iv) x – (y – z) = (x – y) + z

− −

(v) a (x y) = ax ay

− −

(vi) (a b)x = ax bx. . D

3 C

OMBINAZIONI LINEARI IPENDENZA E INDIPENDENZA LINEARE

3.1 Dati p vettori x , ... , x di ordine n e p numeri reali a , ... , a , si chiama

1 p 1 p

combinazione lineare di x , ... , x con coefficienti a , ... , a il vettore

1 p 1 p

x = a x + ... + a x .

1 1 p p

È ovvio che ogni combinazione lineare di p vettori di ordine n è essa

stessa un vettore di ordine n.

Dati i vettori

E 4.

SEMPIO 1 3 0

x = , x = , x =

1 2 3

2 3 1

SPAZI VETTORIALI 17

e i numeri reali a = 2 , a = 1 , a = 1, il vettore

1 2 3 5

x = 8 z

è combinazione lineare di x , x , x con coefficienti a , a , a .

1 2 3 1 2 3

, ... , x di ordine n, se x può essere

Dati un vettore x e p vettori x 1 p −

espresso come combinazione lineare di x , ... , x vale a dire se esistono p

1 p

numeri reali a , ... , a tali che

1 p x = a x + ... + a x

1 1 p p

− si dice che x è linearmente dipendente da x , ... , x ; altrimenti, si dice che

1 p

x è linearmente indipendente da x , ... , x .

1 p Fig. 4

• x

• x {

1 lin. dip. da x , x

1 2

x lin. indip. da x ( x )

1 2

• x 2

0

Dati i vettori

E 5.

SEMPIO 0 1 2

x = , x = , x =

1 2

3 2 1

x risulta linearmente dipendente da x , x poiché esistono due numeri reali

1 2

a = 2 , a = –1 tali che x = a x + a x .

1 2 1 1 2 2

Qualunque siano i p vettori x , ... , x di ordine n, il vettore

O 2.

SSERVAZIONE 1 p

0 di ordine n risulta linearmente dipendente da x , ... , x .

1 p

Ogni vettore x di ordine n è linearmente dipendente dagli

O 3.

SSERVAZIONE

18 Cap. I

n vettori canonici u , ... , u di ordine n, potendosi scrivere

1 n x 1

x = = x u + ... + x u .

1 1 n n

x n

In particolare, il vettore u di ordine n le cui componenti sono tutte eguali a

1 risulta linearmente dipendente dagli n vettori canonici u , ... , u di ordine n

1 n

(u = u + ... + u ).

1 n ≠

Dati un vettore x 0 e p vettori x , ... , x di ordine n, il

O 4.

SSERVAZIONE 1 p

problema di accertare se esistono p numeri reali a , ... , a tali che

1 p

x = a x + ... + a x sarà esaminato nel Cap. IV, nell'ambito della teoria dei

1 1 p p

sistemi di equazioni lineari.

3.2 Dati p vettori x , ... , x di ordine n, si dice che essi sono linearmente

1 p

dipendenti oppure che formano un insieme linearmente dipendente se è

possibile trovare p numeri reali a , ... , a non tutti nulli tali che

1 p

a x + ... + a x = 0 .

1 1 p p

Invece, qualora la relazione precedente sia soddisfatta soltanto se a = 0

j

per j = 1 , ... , p, si dice che x , ... , x sono linearmente indipendenti oppure

1 p

che formano un insieme linearmente indipendente. Fig. 5

• x

• x , x , x lin. dip.

x 2 1 2 3

1 x , x lin. indip.

1 2

x , x lin. indip.

1 3

x , x lin. indip.

• x 2 3

3

0

SPAZI VETTORIALI 19

I vettori

E 6.

SEMPIO 2 1

x = , x =

1 2

6 3 = 1 e a = –2, risulta che

sono linearmente dipendenti poiché, posto a 1 2

x + a x = 0.

a 1 1 2 2 Gli n vettori canonici u , ... , u di ordine n sono, come

O 5.

SSERVAZIONE 1 n

facilmente si verifica, linearmente indipendenti.

Dati p vettori x , ... , x di ordine n, se questi sono linear-

O 6.

SSERVAZIONE 1 p

≠

mente indipendenti, allora x 0 per j = 1, ... , p.

j

Dati p vettori x , ... , x di ordine n, il problema di ac-

O 7.

SSERVAZIONE 1 p

certare se esistono p numeri reali a , ... , a non tutti nulli tali che

1 p

a x + ... + a x = 0 sarà esaminato nel Cap. IV, nell'ambito della teoria dei

1 1 p p z

sistemi di equazioni lineari.

Si noti esplicitamente che le definizioni di dipendenza e indipendenza

lineare qui sopra introdotte si applicano anche al caso in cui si consideri un

unico vettore x.

In questa circostanza, dire che x è linearmente dipendente significa affer-

≠

mare che esiste un numero reale a 0 tale che a x = 0 e ciò si realizza se e

soltanto se x = 0.

Analogamente, dire che x è linearmente indipendente significa affermare

che la relazione a x = 0 si verifica se e soltanto se a = 0 e ciò equivale a dire

≠

che x 0.

3.3 Nei teoremi che seguono stabiliremo alcuni semplici proprietà che

discendono direttamente dalle definizioni di combinazione lineare e di dipen-

denza e indipendenza lineare, proprietà a cui faremo spesso riferimento nel

prosieguo di questa esposizione.

20 Cap. I

T 1

EOREMA ≥

Si considerino p 2 vettori x , ... , x di ordine n. Se uno di essi è com-

1 p

binazione lineare dei rimanenti, allora x , ... , x sono linearmente dipen-

1 p

denti.

Viceversa, se x , ... , x sono linearmente dipendenti, allora almeno uno di

1 p

essi è combinazione lineare dei rimanenti.

Dim. Posto che sia, per esempio,

x = a x + ... + a x ,

1 2 2 p p

poiché l'espressione precedente può essere scritta nella forma

a x + a x + ... + a x = 0

1 1 2 2 p p

dove almeno uno dei coefficienti è diverso da zero (a = –1), la prima parte

1

del teorema è dimostrata.

Per quanto riguarda la seconda parte del teorema, si osservi che, per

, a , ... , a non tutti nulli tali che

ipotesi, esistono p numeri reali a 1 2 p

a x + a x + ... + a x = 0 .

1 1 2 2 p p

≠

Posto che sia, per esempio, a 0, ne consegue che

1 a a

( )

2 p

= – x + ... + x

x 1 2 p

a a

1 1

e cioè che almeno uno dei vettori, in questo caso x , è linearmente dipen-

1

dente dai rimanenti.

T 2

EOREMA

Si considerino p+1 vettori x , ... , x , x di ordine n linearmente dipen-

1 p p + 1

denti. Se x , ... , x sono linearmente indipendenti, allora x si può espri-

1 p p + 1

mere come combinazione lineare di x , ... , x .

1 p

SPAZI VETTORIALI 21

Dim. Per ipotesi, esistono p+1 numeri reali a , ... , a , a non tutti nulli tali

1 p p + 1

che a x + ... + a x + a x = 0 .

1 1 p p p + 1 p + 1

Ora, a non può essere nullo altrimenti la relazione precedente potreb-

p + 1

be scriversi a x + ... + a x = 0

1 1 p p

≤ ≤

con qualche a (1 j p) diverso da zero, contro l'ipotesi che x , ... , x siano

j 1 p

linear