Econometria - l'algebra delle matrici

Alberto Bagnai, Francesco Carlucci – Traccia per un corso di econometria

Modulo IV – Algebra delle matrici

1. Elementi di base

Indice del capitolo

• 1.1 Vettori ..................................................................................................................2
• 1.2 Matrici .................................................................................................................5
• 1.3 Operazioni tra matrici ..........................................................................................7
• Operazioni con matrici partizionate .............................................................. 10
• 1.4 La matrice inversa ............................................................................................. 11
• Il determinante di una matrice quadrata ...................................................... 11
• L’aggiunta di una matrice quadrata............................................................. 13
• L’inversa di una matrice partizionata ........................................................... 14
• Il determinante di una matrice partizionata ................................................. 14
• 1.5 Indipendenza lineare di vettori, rango di una matrice e alcune proprietà dei determinanti ................................................................................................................. 16
• Indipendenza lineare di vettori ..................................................................... 16
• Rango di una matrice ................................................................................... 16
• 1.6 Sistemi di equazioni ........................................................................................... 18
• Equazioni omogenee ..................................................................................... 18
• Equazioni non omogenee............................................................................... 19
• 1.7 Autovalori e autovettori...................................................................................... 20
• Equazione caratteristica di una matrice e sue soluzioni................................. 20
• Proprietà degli autovalori e autovettori......................................................... 21
• 1.8 Forme quadratiche e matrici definite positive e negative.................................... 24
• Matrici idempotenti ...................................................................................... 26
• 1.9 Derivazione vettoriale ........................................................................................ 27
• 1.10 Proprietà della traccia ........................................................................................ 29
• 1.11 Distribuzioni di forme quadratiche aleatorie....................................................... 31

1.1 Vettori

Se mettiamo in fila gli elementi di un campione, da a₁ a a_n (1.1.1) otteniamo un vettore. Parimenti, costituiscono un vettore gli elementi di una serie temporale x₁, x₂, ..., x_n (1.1.2) che si differenziano da quelli in (1.1.1) semplicemente perché sono associati a un indice temporale. In generale, un vettore è formato da una ennupla di elementi (ad esempio numeri reali) indicata con una lettera in neretto, ad esempio a. Il numero di elementi costituisce la dimensione del vettore. Un vettore reale di dimensione 1 è uno scalare, ovvero un numero reale.

Per convenzione, gli elementi sono organizzati in colonna:

 a₁  a₂  ... a_n 

In altri termini, in mancanza di indicazioni contrarie, i vettori che considereremo saranno tutti vettori colonna.

Dato un vettore a, si utilizza un apice per denotarne il trasposto, ovvero un vettore che contiene gli stessi elementi di a ma organizzati in riga, a' = [a₁, a₂, ..., a_n]. Trasponendo nuovamente un vettore riga, si ottiene un vettore colonna, ed è quindi possibile scrivere ad esempio a = [a₁, a₂, ..., a_n]' = a'. Il vettore 0 = [0, 0, ..., 0]' è quello i cui elementi sono tutti nulli. Due vettori della stessa dimensione a = [a₁, a₂, ..., a_n]' e b = [b₁, b₂, ..., b_n]' sono detti uguali se a_i = b_i per ogni i; la loro somma è il vettore a + b = [a₁ + b₁, a₂ + b₂, ..., a_n + b_n].

Queste definizioni si estendono immediatamente al caso di più di due vettori (di uguale dimensione). Dati tre vettori a, b, e c, si verificano facilmente le proprietà:

• a + b = b + a
• (a + b) + c = a + (b + c) = a + b + c

Il prodotto del vettore a per lo scalare d è il vettore il cui elemento i-esimo è dato dal prodotto di d per l'elemento a_i posto in d · a = [d a₁, d a₂, ..., d a_n]. Dati due vettori di uguale dimensione a e b e due scalari d e f, si verificano immediatamente le proprietà:

• d(a + b) = da + db
• (d + f)a = da + fa
• (d · f)a = f(da)
• (da)' = da'
• (da + fb)' = da' + fb'

L’operazione di prodotto per uno scalare ci permette di definire la differenza tra due vettori a e b, che si ottiene moltiplicando il secondo per lo scalare -1 e sommandolo al primo: a - b = a + (-1) × b = [a₁ - b₁, a₂ - b₂, ..., a_k - b_k]'.

Si chiama prodotto scalare (o interno) di due vettori a e b che hanno la stessa dimensione lo scalare:

n∑ a' · b = a_ib_i (1.1.3)

i = 1

per cui la somma dei quadrati degli elementi di un vettore a = [a₁, a₂, ..., a_n] può essere espressa mediante il prodotto scalare:

n∑ a' · a = a_i² (1.1.4)

i = 1

La devianza totale o residuale in un modello di regressione costituisce un esempio di prodotto scalare del tipo (1.1.4), dove si ponga a ≡ u_t. Si noti che la (1.1.4) esprime anche il quadrato della lunghezza o modulo o norma Euclidea del vettore. Quest’ultima viene indicata con la notazione:

n∑ a' · a = a_i² (1.1.5)

i = 1

Esempio 1.1 - Dati due vettori riga a' = [1, 3, 5] e b' = [3, 2, 2], il loro vettore somma è c' = a' + b' = [4, 5, 7], mentre il loro prodotto scalare è a' · b = 1 × 3 + 3 × 2 + 5 × 2 = 19. Se, poi, consideriamo lo scalare 4, si ha 4a = [4, 12, 20]'. Infine, la lunghezza del vettore a è pari a √(1² + 3² + 5²) = √35.

Dati due vettori a e b diversi entrambi dal vettore nullo, si dimostra che il coseno dell’angolo da essi formato è dato dall’espressione:

θ = a' · b / (||a|| ||b||) (1.1.6)

La (1.1.6) si annulla quando il prodotto scalare a' · b dei due vettori è nullo, nel qual caso essi sono ortogonali.

1.2 Matrici

Una tavola a doppia entrata di elementi (ad esempio numeri reali) disposti su n righe ed m colonne, con m ed n interi positivi, è detta matrice ed è indicata con una lettera maiuscola in neretto:

 a₁₁ a₁₂ ... a_1m  a₂₁ a₂₂ ... a_2m   ... ... ... ...   a_n1 a_n2 ... a_nm 

Tale matrice è detta avere ordine n × m ed è composta dagli elementi a_ij, con i = 1, 2, ..., n e j = 1, 2, ..., m. Se n = m, la matrice è detta quadrata, di ordine n. Un vettore riga ad n dimensioni è una particolare matrice di ordine 1 × n, mentre un vettore colonna della stessa dimensione è una matrice di ordine n × 1. Gli elementi a_ii, di una matrice quadrata appartengono alla diagonale principale e sono detti elementi diagonali; l'altra diagonale di una matrice quadrata è detta secondaria. Una matrice quadrata di ordine 1 è uno scalare.

Se tutti gli elementi di una matrice sono nulli, essa è detta matrice nulla ed è indicata con 0. Se tutti gli elementi di una matrice quadrata sono nulli salvo quelli dislocati sulla diagonale principale, la matrice è detta diagonale ed è indicata con:

 d₁ 0 ... 0  0 d₂ ... 0   ... ... ... ...   0 0 ... d_n 

dove d_i sono gli elementi non nulli della matrice, detti elementi diagonali. Se gli elementi diagonali sono tutti pari a uno, la matrice è detta unitaria o identica (o unità) ed è indicata con:

 1 0 ... 0  0 1 ... 0   ... ... ... ...   0 0 ... 1 

dove l'indice n, che rappresenta l'ordine della matrice quadrata, può essere omesso. Per semplicità di notazione, talvolta una matrice diagonale è indicata listando i soli elementi diagonali nel seguente modo:

D = < d₁, d₂, ..., d_n >

Con questa notazione, la matrice identica diventa I_n = < 1, 1, ..., 1 >.

Una matrice quadrata è detta triangolare superiore (inferiore) se ha tutti zeri al di sotto (al di sopra) della diagonale principale. Una matrice triangolare superiore di ordine n è quindi del tipo:

 a₁₁ a₁₂ ... a_1n  0 a₂₂ ... a_2n   ... ... ... ...   0 0 ... a_nn 

Spesso nelle applicazioni conviene far riferimento a singole sottomatrici o blocchi di una data matrice. Si parla allora di matrice partizionata e la si rappresenta generalmente indicizzando i singoli blocchi. Ad esempio, per una matrice partizionata in quattro blocchi si usa una notazione di questo genere:

 A₁₁ A₁₂  A₂₁ A₂₂ 

Un caso particolare di matrice partizionata è la matrice diagonale a blocchi, nella quale gli elementi diagonali sono costituiti da matrici quadrate, non necessariamente dello stesso ordine:

 A₁ 0 ... 0  0 A₂ ... 0   ... ... ... ...   0 0 ... A_n 

1.3 Operazioni tra matrici

Due matrici sono uguali se gli elementi corrispondenti (dello stesso posto) sono uguali. La somma di due matrici A e B che hanno lo stesso ordine è una matrice C ancora dello stesso ordine che ha per elemento generico c_ij = a_ij + b_ij. Questa definizione è immediatamente generalizzata al caso della differenza ed a quello della somma di più di due matrici. Si può facilmente verificare che valgono le proprietà:

• A + B = B + A
• (A + B) + C = A + (B + C) = A + B + C

Il prodotto di una matrice A per uno scalare d è la matrice che ha per elemento generico da_ij. La trasposizione di una matrice di ordine n × m e di elemento generico a_ij è un'operazione che trasforma A nella matrice di ordine m × n e di elemento generico a_ji; in altre parole, nella trasposizione si scambiano le righe con le colonne, ovvero il j-esimo vettore riga di A' è il trasposto del j-esimo vettore colonna di A. La matrice A' è detta trasposta di A.

Esempio 1.2 - La trasposta di

 2 3  2 1 4   3 0 1  

è

  2 1 3 4  3 0 1 

Esempio 1.3 - Sia A' la trasposta della matrice dell'esempio precedente ed inoltre sia

 1 1  2 2   3 0 

Allora la loro matrice somma è data da

 3 4  4 2   7 1 

Se A è quadrata ed uguale alla sua trasposta, è detta simmetrica (cioè a_ij = a_ji). Se d e f sono due scalari, valgono le proprietà:

• (A')' = A
• (dA)' = dA'
• (dA + fB)' = dA' + fB'

Si dice prodotto righe per colonne della matrice A di ordine n × m per la matrice B di ordine m × k, la matrice C di ordine n × k con elemento generico:

m∑ c_ij = a_isb_sj

s = 1

Il nome di questo prodotto deriva dal fatto che ogni elemento di C è costituito dalla combinazione lineare degli elementi di una colonna di B con pesi dati dagli elementi di una riga di A. Si noti che c_ij è il prodotto scalare (1.1.3) dell’i-esima riga di A per la j-esima colonna di B.

Esempio 1.4 - Se A e B sono le matrici degli esempi precedenti, il loro prodotto righe per colonne è:

   2 1 1 1 2 3 2 2 4 2     16 4     6 3 

A meno che k ≠ n, il prodotto B · A non esiste; inoltre, per A · B ≠ B · A, in generale, non vale la proprietà commutativa della moltiplicazione.

Esempio 1.5 - Date le matrici A e B dell'esempio precedente, si ha:

   1 2 1 1 2 3 2 1 4 2     5 1 5     6 3 12 

Allora, il prodotto di A di ordine 2 × 3 per B di ordine 3 × 2 è una matrice di ordine 2 × 2; il prodotto B · A è una matrice di ordine 3 × 3.

Osservazione 1.1 - Poiché i vettori sono casi particolari di matrici, il vettore riga di n elementi a' può essere considerato come il trasposto del vettore colonna a. Il prodotto scalare tra due vettori che hanno la stessa dimensione è quindi una matrice di dimensione 1 × 1, cioè uno scalare. Invece, il prodotto a · b' è una matrice quadrata di ordine n - 1.

Esempio 1.6 - Dato il vettore a = [0, 1, 0, 0]', il prodotto a · a' vale:

   0 0 0 0    0 1 0 0   =     1 0 1 0    0 0 0 0     0 0 

matrice quadrata di ordine cinque.