Matematica per le applicazioni II - algebra lineare

Renato Leoni: Algebra lineare per le applicazioni statistiche

Università di Firenze - Dipartimento di Statistica "G. Parenti"

Questo lavoro riproduce, con alcuni cambiamenti di forma e contenuto, il volume: Algebra lineare per le applicazioni statistiche, Renato Leoni, Dipartimento Statistico della Università degli Studi di Firenze, Serie Didattica n.13, 1994. Il lavoro è destinato a un uso personale e ne è vietata la commercializzazione.

Indice

• Prefazione - Pag. 7
• Cap. I - Spazi vettoriali
• Generalità sui vettori - Pag. 11
• Addizione e moltiplicazione scalare. Sottrazione - Pag. 13
• Combinazioni lineari. Dipendenza e indipendenza lineare - Pag. 16
• Spazi vettoriali - Pag. 23
• Basi e dimensione di uno spazio vettoriale - Pag. 29
• Sottospazi vettoriali - Pag. 35
• Varietà lineari - Pag. 43
• Complementi - Pag. 46
• Cap. II - Matrici
• Generalità sulle matrici - Pag. 51
• Addizione e moltiplicazione scalare. Sottrazione - Pag. 53
• Moltiplicazione di matrici - Pag. 56
• Inversione - Pag. 61
• Trasposizione - Pag. 63
• Elevazione a potenza - Pag. 66
• Traccia - Pag. 68
• Matrici a blocchi - Pag. 69
• Complementi - Pag. 73
• Cap. III - Determinanti
• Funzione determinante - Pag. 77
• Esistenza e unicità di una funzione determinante - Pag. 80
• Calcolo di un determinante - Pag. 84
• Alcuni teoremi sui determinanti - Pag. 87
• Inversa di una matrice - Pag. 89
• Complementi - Pag. 92
• Cap. IV - Sistemi di equazioni lineari
• Generalità sui sistemi di equazioni lineari. Il teorema di Cramer - Pag. 96
• Rango di una matrice - Pag. 98
• Soluzione dei sistemi di equazioni lineari - Pag. 103
• Alcuni teoremi sul rango di una matrice - Pag. 115
• Cambiamenti di base in uno spazio vettoriale - Pag. 119
• Complementi - Pag. 121
• Cap. V - Trasformazioni lineari
• Generalità sulle trasformazioni lineari - Pag. 124
• Trasformazioni lineari e basi - Pag. 125
• Nucleo e immagine di una trasformazione lineare - Pag. 130
• Trasformazioni lineari di uno spazio vettoriale in se stesso - Pag. 135
• Autovalori e autovettori - Pag. 136
• Trasformazioni idempotenti. Proiettori - Pag. 150
• Complementi - Pag. 156
• Cap. VI - Forme bilineari e quadratiche
• Forme bilineari - Pag. 163
• Forme bilineari e basi - Pag. 163
• Forme bilineari simmetriche e forme quadratiche - Pag. 168
• Complementi - Pag. 180
• Cap. VII - Spazi euclidei
• Generalità sugli spazi euclidei - Pag. 184
• Ortogonalità - Pag. 185
• Angoli. Lunghezze. Distanze - Pag. 197
• Trasformazioni autoaggiunte - Pag. 201
• Proiettori ortogonali - Pag. 203
• Matrici ortogonali. Trasformazioni ortogonali - Pag. 207
• Autovalori e autovettori di una trasformazione autoaggiunta - Pag. 210
• Forme quadratiche in uno spazio euclideo - Pag. 215
• Complementi - Pag. 220
• Bibliografia - Pag. 236

Prefazione

Questo volume è principalmente rivolto agli studenti delle Facoltà di Economia e di Statistica e ai partecipanti ai Corsi di dottorato in Statistica. In esso sono presentate quelle nozioni di Algebra lineare correntemente impiegate nelle applicazioni statistiche.

Allo scopo di non appesantire eccessivamente l'esposizione e nel tentativo di conferirle semplicità e concretezza, abbiamo evitato di trattare aspetti e problematiche, anche rilevanti, ma che ci avrebbero inevitabilmente portati a dare al volume un taglio che non riteniamo del tutto adatto alle esigenze di coloro ai quali il volume stesso è rivolto.

È ovvio che, nella scelta degli argomenti e nel modo di proporli, ci è stata di guida l'esperienza acquisita in molteplici anni di insegnamento universitario. Ma è anche naturale che il volume rifletta, almeno in parte, gli interessi culturali e di ricerca in cui al momento ci sentiamo maggiormente impegnati. Il lettore troverà così, in aggiunta ai consueti argomenti di Algebra lineare, la presentazione di temi che sono di interesse prevalente, anche se non esclusivo, di specifici ambiti della Statistica.

In particolare, sono state introdotte di solito nella parte riservata ai Complementi che accompagna ciascun capitolo nozioni che hanno larga applicazione nel campo della cosiddetta Analisi statistica multidimensionale. A quest'ultimo tema sono dedicati altri lavori che ci offrono tra l'altro l'opportunità di trattare, nella sede adatta e in modo non superficiale, alcuni tra i principali e significativi impieghi dell'Algebra lineare in ambito statistico. Desideriamo infine rivolgere un caldo ringraziamento ai numerosi amici e colleghi che ci hanno aiutato fornendoci preziosi consigli e suggerimenti.

Spazi vettoriali

Cap. I - Spazi vettoriali

1. Generalità sui vettori

1.1 Chiamiamo vettore di ordine n ogni n-pla ordinata di numeri reali. Tali numeri sono detti elementi o componenti del vettore. Possono essere disposti secondo una linea verticale (detta colonna) od orizzontale (detta riga) e sono racchiusi tra parentesi quadre. Più precisamente, nel primo caso si parla di vettore colonna, nel secondo di vettore riga. Per esempio,

3 , 5 6 4 sono due vettori – rispettivamente, colonna e riga – di ordine 2. Seguendo una notazione assai diffusa, denoteremo i vettori colonna con lettere minuscole in grassetto (y , ...) e i vettori riga con lettere minuscole in grassetto e munite di apice (z , w , ...).

Rappresenteremo, inoltre, simbolicamente un generico vettore colonna x di ordine n con x₁ ... x_n e un generico vettore riga z di ordine n con z₁ ... z_n, dove a ciascun elemento x_i e z_i (i = 1, ..., n) è associato un indice che designa la sua posizione, rispettivamente, nella colonna o riga di appartenenza.

Talvolta, i vettori x e z di cui sopra sono rappresentati, più compatta-'x e z. Nel seguito di questo capitolo faremo esclusivo riferimento ai vettori colonna – denominati, senza ulteriori aggettivazioni, vettori – avvertendo tuttavia che quanto diremo a questo proposito vale anche per i vettori riga.

1.2 Uguaglianza di vettori

Due vettori x = x_i(n, 1) e y = y_i(n, 1) sono uguali, e si scrive x = y, se e soltanto se x_i = y_i per i = 1, ..., n. In altri termini, due vettori dello stesso ordine sono uguali se e soltanto se gli elementi corrispondenti sono uguali.

1.3 Vettori ricorrenti

Alcuni vettori ricorrono assai spesso nella trattazione che segue e conviene indicarli esplicitamente fin da questo momento. Il vettore di ordine n le cui componenti sono tutte nulle è chiamato vettore zero o vettore nullo ed è indicato con il simbolo 0. Per esempio,

0 0 = 0 è il vettore nullo di ordine 2. Il vettore di ordine n le cui componenti sono tutte eguali a 0 tranne la i-esima (1 ≤ i ≤ n) posta eguale a 1 è chiamato vettore canonico ed è indicato con il simbolo u_i. Per esempio,

1 0 u₁ = , u₂ = 0 1 sono i vettori canonici di ordine 2.

Osservazione

Fissato nel piano un sistema di assi carte-O 1. Si viene a istituire una corrispondenza biunivoca tra i vettori di ordine 2 e i punti del piano, e anche tra i vettori di ordine 2 e i segmenti orientati del piano aventi come punto di applicazione l'origine degli assi. Analogamente, nello spazio, una corrispondenza biunivoca tra i vettori di ordine 3 e i punti dello spazio, e anche tra i vettori di ordine 3 e i segmenti orientati dello spazio aventi come punto di applicazione l'origine degli assi. La possibilità di effettuare una rappresentazione grafica dei vettori di ordine 2 o 3 sarà talvolta utilizzata nel corso di questo volume, senza ulteriori commenti, nell'intento di illustrare il significato geometrico dei concetti di volta in volta introdotti.

2. Addizione e moltiplicazione scalare. Sottrazione

2.1 Addizione di vettori

Dati due vettori x = x_i(n, 1) e y = y_i(n, 1), si chiama somma di x e y il vettore, che indichiamo con x + y, i cui elementi sono espressi ordinatamente dai numeri x_i + y_i per i = 1, ..., n. Si ha, cioè,

x₁ + y₁ x + y = ... x_n + y_n

Esempio 1

Dati i vettori

3 1 x = , y = 1 2

si ha

3 1 4 z x + y = + = . 1 2 3

Proprietà dell'addizione

Come si può facilmente verificare, essa è commutativa e associativa; vale a dire, qualunque siano i vettori x, y, z di ordine n, (i) x + y = y + x; (ii) (x + y) + z = x + (y + z). Quest'ultima proprietà consente di indicare, senza possibilità di equivoci, la somma di x, y, z con x + y + z, evitando l'uso delle parentesi, e di estendere l'addizione a un numero qualsiasi, purché finito, di vettori di ordine n.

2.2 Moltiplicazione scalare

Dati un numero reale c e un vettore x = x_i(n, 1), si chiama prodotto di c per x o di x per c il vettore, che indichiamo con cx o xc, i cui elementi sono espressi ordinatamente dai numeri cx_i per i = 1, ..., n. Si ha, cioè,

cx₁ cx = = xc. cx_n

Esempio 2

Dati il numero reale c = 2 e il vettore

2 4 2 x = 1

risulta

2 4 2 z cx = 2 = = 2 = xc.

Proprietà della moltiplicazione scalare

Come si può facilmente verificare, essa gode, qualunque siano i vettori x e y di ordine n e i numeri reali a e b, delle seguenti proprietà: (i) (ab)x = a(bx); (ii) a(x + y) = ax + ay; (iii) (a + b)x = ax + bx.

2.3 Sottrazione di vettori

Dati due vettori x = x_i(n, 1) e y = y_i(n, 1), posto −y = −1 y, si chiama differenza di x e y il vettore x − y = x + (−1)y che scriviamo, più semplicemente, x − y. Si ha, cioè,

−x y₁ −x y = . −x y_n

Esempio 3

Dati i vettori

3 1 , y = x = 1 0

risulta

3 1 2 − z = . x − y = 1 0 1

Proprietà della sottrazione

L'operazione ora definita, ovviamente derivata dalle operazioni fondamentali di addizione e di moltiplicazione scalare, riceve la denominazione di sottrazione e consente di stabilire, qualunque siano i vettori x, y, z di ordine n e i numeri reali a e b, alcuni utili risultati di immediata verifica: (i) x − x = 0; (ii) −(−x) = x; (iii) −(x − y) = y − x; (iv) x − (y − z) = (x − y) + z; (v) a(x − y) = ax − ay; (vi) (a − b)x = ax − bx.

3. Combinazioni lineari. Dipendenza e indipendenza lineare

3.1 Combinazioni lineari

Dati p vettori x₁, ..., x_p di ordine n e p numeri reali a₁, ..., a_p, si chiama combinazione lineare di x₁, ..., x_p con coefficienti a₁, ..., a_p il vettore

x = a₁x₁ + ... + a_px_p.

Esempio 4

Dati i vettori

1 3 0 x₁ = , x₂ = , x₃ = 1 2 3

e i numeri reali a₁ = 2, a₂ = 1, a₃ = 1, il vettore

x = 5 8 z è combinazione lineare di x₁, x₂, x₃ con coefficienti a₁, a₂, a₃.

Dipendenza e indipendenza lineare

Dati un vettore x e p vettori x₁, ..., x_p di ordine n, se x può essere espresso come combinazione lineare di x₁, ..., x_p vale a dire se esistono p numeri reali a₁, ..., a_p tali che

x = a₁x₁ + ... + a_px_p,

si dice che x è linearmente dipendente da x₁, ..., x_p; altrimenti, si dice che x è linearmente indipendente da x₁, ..., x_p.

Esempio 5

Dati i vettori

0 1 2 x = , x = , x = 1 2 3 2 1

x risulta linearmente dipendente da x₁, x₂ poiché esistono due numeri reali a₁ = 2, a₂ = −1 tali che x = a₁x₁ + a₂x₂.

Osservazioni

Osservazione 1: Qualunque siano i p vettori x₁, ..., x_p di ordine n, il vettore 0 di ordine n risulta linearmente dipendente da x₁, ..., x_p.

Osservazione 2: Ogni vettore x di ordine n è linearmente dipendente dagli n vettori canonici u₁, ..., u_n di ordine n, potendosi scrivere

x = x₁u₁ + ... + x_nu_n.

In particolare, il vettore u di ordine n le cui componenti sono tutte eguali a 1 risulta linearmente dipendente dagli n vettori canonici u₁, ..., u_n di ordine n (u = u₁ + ... + u_n).

3.2 Insiemi linearmente dipendenti

Dati p vettori x₁, ..., x_p di ordine n, si dice che essi sono linearmente dipendenti oppure che formano un insieme linearmente dipendente se è possibile trovare p numeri reali a₁, ..., a_p non tutti nulli tali che

a₁x₁ + ... + a_px_p = 0.

Invece, qualora la relazione precedente sia soddisfatta soltanto se a_j = 0 per j = 1, ..., p, si dice che x₁, ..., x_p sono linearmente indipendenti oppure che formano un insieme linearmente indipendente.

Esempio 6

I vettori

2 1 x = , x = 1 2

sono linearmente dipendenti poiché, posto a₁ = 1 e a₂ = −2, risulta che

a₁x₁ + a₂x₂ = 0.

Osservazioni

Osservazione 5: Gli n vettori canonici u₁, ..., u_n di ordine n sono, come facilmente si verifica, linearmente indipendenti.

Osservazione 6: Dati p vettori x₁, ..., x_p di ordine n, se questi sono linearmente indipendenti, allora x_j ≠ 0 per j = 1, ..., p.

Osservazione 7: Dati p vettori x₁, ..., x_p di ordine n, il problema di accertare se esistono p numeri reali a₁, ..., a_p non tutti nulli tali che a₁x₁ + ... + a_px_p = 0 sarà esaminato nel Cap. IV, nell'ambito della teoria dei sistemi di equazioni lineari. Si noti esplicitamente che le definizioni di dipendenza e indipendenza lineare qui sopra introdotte si applicano anche al caso in cui si consideri un unico vettore x. In questa circostanza, dire che x è linearmente dipendente significa affermare che esiste un numero reale a ≠ 0 tale che a x = 0 e ciò si realizza se e soltanto se x = 0. Analogamente, dire che x è linearmente indipendente significa affermare che la relazione a x = 0 si verifica se e soltanto se a = 0 e ciò equivale a dire che x ≠ 0.

3.3 Teoremi sulle combinazioni lineari

Teorema 1

Si considerino p ≥ 2 vettori x₁, ..., x_p di ordine n. Se uno di essi è combinazione lineare dei rimanenti, allora x₁, ..., x_p sono linearmente dipendenti. Viceversa, se x₁, ..., x_p sono linearmente dipendenti, allora almeno uno di essi è combinazione lineare dei rimanenti.

Dimostrazione

Posto che sia, per esempio,

x₁ = a₂x₂ + ... + a_px_p,

poiché l'espressione precedente può essere scritta nella forma

a₁x₁ + a₂x₂ + ... + a_px_p = 0

dove almeno uno dei coefficienti è diverso da zero (a₁ = −1), la prima parte del teorema è dimostrata. Per quanto riguarda la seconda parte del teorema, si osservi che, per ipotesi, esistono p numeri reali a₁, a₂, ..., a_p non tutti nulli tali che

a₁x₁ + a₂x₂ + ... + a_px_p = 0.

Posto che sia, per esempio, a₁ ≠ 0, ne consegue che

x₁ = −(a₂/a₁)x₂ − ... − (a_p/a₁)x_p,

e cioè che almeno uno dei vettori, in questo caso x₁, è linearmente dipendente dai rimanenti.

Teorema 2

Si considerino p+1 vettori x₁, ..., x_p, x_p+1 di ordine n linearmente dipendenti. Se x₁, ..., x_p sono linearmente indipendenti, allora x_p+1 si può esprimere come combinazione lineare di x₁, ..., x_p.

Dimostrazione

Per ipotesi, esistono p+1 numeri reali a₁, ..., a_p, a_p+1 non tutti nulli tali che

a₁x₁ + ... + a_px_p + a_p+1x_p+1 = 0.

Ora, a_p+1 non può essere nullo altrimenti la relazione precedente potrebbe scriversi

a₁x₁ + ... + a_px_p = 0

con qualche a_j (1 ≤ j ≤ p) diverso da zero, contro l'ipotesi che x₁, ..., x_p siano linearmente indipendenti.