Introduzione alla statistica computazionale (parte 1)

Vettori

Def: un vettore reale di dimensione n è l’insieme di n numeri reali ordinatamente disposti su una colonna o riga. È una n-pla di numeri reali. L’ordine dei numeri conta.

Per definizione il vettore lo assumiamo colonna:

I vettori di base degli spostamenti sono gli assi cartesiani.

Def: Due vettori sono uguali se e solo se hanno la stessa dimensione e gli stessi elementi nelle stesse posizioni.

v=w vi=wi per i=1,2,…,n 

Vettori speciali

• Vettore nullo
• Vettori unitari: con norma=1. Se il vettore ha come valori un 1 e tutti 0 è sicuramente unitario

Esercizio

Il vettore in statistica è interpretabile come una variabile statistica univariata osservata sulla popolazione U che ha ampiezza pari alla dimensione del vettore

Es: v= vettore dei voti di mate di 6 studenti.

L’ordine è l’ordine di registrazione

Ordinare il contenuto di un vettore (variabile statistica) in ordine crescente/decrescente indica un ordinamento (ranking) delle unità indicate dall'indice del vettore.

Quindi l’operazione di ranking restituisce l’ordinamento per indici.

Es: ho ordinato il vettore in ordine decrescente

La media aritmetica è quel numero che sostituito ai valori osservati su ogni unità lascia invariata la somma di tutte le osservazioni effettuate.

x barrato è una variabile statistica degenere in quanto assume lo stesso valore su tutta la popolazione.

Trovo c in modo che la somma resti invariata 6c=158 c=26.3

Poi nella realtà si fa lo scostamento tra la variabile vera e la sua media

Operazioni con i vettori

-somma vettori: la somma dei vettori si fa componente per componente, quindi, siano v e w due vettori di dimensione n. (si può fare solo tra vettori con la stessa dimensione) Es:

La somma tra vettori gode della proprietà commutativa v+w=w+v

La somma tra vettori gode anche della proprietà associativa:

-moltiplicazione per uno scalare (un numero): Dato il vettore v e lo scalare c che appartiene a R, si definisce moltiplicare per uno scalare:

es:

Se una somma di due vettori e voglio moltiplicarla per uno scalare, tale operazione gode della proprietà distributiva, ovvero:

Oppure ovvero se io sommo v moltiplicato per uno scalare a v moltiplicato per un altro scalare posso anche scriverlo come la somma degli scalari moltiplicata per V.

-prodotto scalare o prodotto interno di vettori: siano v e w di dimensione n si definisce prodotto scalare di v per w e si indica con il numero reale dato dalla somma dei prodotti delle componenti che occupano la stessa posizione. (si può fare solo tra vettori della stessa dimensione.)

È il prodotto tra un vettore riga e un vettore colonna.

Il prodotto scalare tra due vettori gode della proprietà commutativa:

Il prodotto scalare mi dice quanto di un vettore giace sull'altro. il prodotto scalare moltiplicato per un vettore dà il verso del segmento.

variabili scalari: è una grandezza che può essere espressa con un unico numero (altezza, peso) variabili variabili vettoriali: grandezza che non può essere espressa con un unico numero, ma ha bisogno di più informazione, come ad esempio le forze in fisica

-prodotto di Hadamard tra vettori. (è il prodotto usato da R quando usiamo*=simbolo moltiplicazione)

In questo prodotto si moltiplicano le componenti che occupano la stessa posizione.

Il prodotto di Hadamard gode della proprietà commutativa:

E associativa:

Norma dei vettori

La norma dei vettori è la lunghezza fisica del vettore, la lunghezza della freccia. Un vettore in qualunque spazio è una direzione, la norma rappresenta quanta informazione io mi porto dentro. I vettori formano un angolo che misura quanto essi si comportano similmente. (+ l’angolo è piccolo, + i vettori sono simili).

La norma si calcola facendo la radice quadrata della somma di tutte le componenti del vettore, ognuna elevata al quadrato.

Dimostrazione: se un vettore è nullo, allora la sua norma è 0

Posso anche invertire l’ipotesi e la tesi: se un vettore ha norma 0 allora è nullo

Ciò perché la somma dei quadrati è sempre >= di 0 e può essere =0 solo se ciascuna base è 0.

Vettori ortogonali e trasposti

Vettori ortogonali: vettori perpendicolari ovvero vettori che formano un angolo retto.

Due vettori v e w sono ortogonali se il loro prodotto scalare è = 0 v trasposto w=0

Es:

Vettori trasposti, questa notazione è utile quando i vettori sono interpretati come matrici.

Dato un vettore v (che per definizione avevamo considerato vettore colonna) si definisce trasposto di v e si indica v trasposto il vettore riga definito da.

Infatti…

Interpretazione geometrica dei vettori

Per disegnare ogni vettore devo associarlo al punto del piano che ha come coordinate le componenti del vettore. Es: per disegnare vP(1,2).

La norma di v è la lunghezza della freccia OP:

La proiezione di v sull’asse x è OH=1, mentre quella sull’asse y è PH=2

Inoltre ogni asse del piano cartesiano ha un versore:

u1=versore asse x P(1,0)

u2=versore asse y P(0,1)

Se faccio il prodotto scalare tra questi versori viene = 0 perché ovviamente sono ortogonali.

Moltiplicare un vettore per uno scalare non cambia la giacitura della retta su cui giace il vettore, ovvero non cambia la direzione del vettore, ma può cambiarne il verso. Dim: v e 3v hanno la stessa inclinazione infatti.

Interpretazione geometrica della somma e della differenza

Interpretazione geometrica della somma di due vettori:

dati due vettori posso mandare le parallele ai due vettori e si forma un parallelogramma. Le diagonali rappresentano la somma dei due vettori

Interpretazione geometrica della differenza di due vettori:

Dati due vettori faccio partire una freccia dal vettore con il segno meno fino all’altro vettore. Poi traslo questa freccia facendola partire dall’origine.

Esiste però un metodo + comodo, ovvero fare invece di v2-v1 v2 + (-v1) 

Combinazione lineare

Combinazione lineare: un vettore v di dimensione n è combinazione lineare di k vettori v1, v2,…. Vk se esistono k costanti c1, c2, …, ck appartenenti a R tali che:

equazione vettoriale lineare tutto ha potenza uno. I vettori sono informazioni, combinazione lineare vuol dire che l’info contenuta in v si può ricostruire dall’info contenuta in v1 v2 vk,. Non ci sono variabili aleatorie. Una variabile si spiega con altre variabili.

Esempio con un vettore e i versori degli assi x e y cioè io posso ottenere v tramite la somma fra 2 vettori della stessa dimensione di v ognuno dei quali è moltiplicato per una costante.

Altro es:

Interpretazione geometrica della combinazione lineare

I vettori u1 e u2 sono speciali perché sono ortogonali, di norma 1 ed hanno una sola componente diversa da 0.

Quando un vettore v non si può scrivere come combinazione lineare di ad es due vettori x1, x2 vuol dire che questi due vettori non hanno una info sufficiente per esprimere V.

Le costanti sono i coefficienti della combinazione lineare. In statistica i coefficienti misurano l’effetto che la variabile x1,x2,…,xk ha sulla variabile y.

l'effetto di una variabile statistica xi sulla variabile risposta y:

supponiamo che tutte le componenti della variabile x1 aumentino della stessa costante c

La variazione subita da y è data da è = la variazione subita da y sarà pari alla variazione subita da x per il suo coefficiente.

Se divido per delta x1 ottengo che delta y/ delta x1 = B1 è la derivata della componente yi rispetto alla componente iesima di x1. Mi dice quanto varia y al variare di x.

Vettori linearmente dipendenti

K vettori di dimensione n si dicono linearmente dipendenti se esiste almeno un vettore tra loro che è combinazione lineare di tutti gli altri. Ciò vuol dire che se k vettori sono linearmente dipendenti allora contengono info ridondanti, ovvero, info che possono essere ricostruite da tutti gli altri.

K vettori sono linearmente indipendenti se nessuno di loro è combinazione lineare degli altri. Ciò avviene se e solo se l’equazione vettoriale ha come unica soluzione c1=c2=ck=0, ovvero che tutti i coefficienti della combinazione lineare siano 0.

Se due vettori sono linearmente indipendenti allora non giacciono sulla stessa retta e formano tra loro un angolo diverso da 0.

Se c è diverso da 0  

Allora v1 è combinazione lineare dei vettori v2,v3,vk ed essi sono linearmente dipendenti, quindi il vettore v1 giace sulla stessa retta della combinazione lineare:

Il rango di un insieme di vettori v1,v2,…,vk di lunghezza n è il numero massimo di vettori linearmente indipendenti r=rank vettori <= min {k,n}. Ovvero è il massimo rango ammissibile meno il nr di parametri liberi.

K vettori linearmente indipendenti generano una spazio di dimensione k.

Es: In questo esempio il rango dell’insieme di vettori è 2 perché 2 è il nr massimo di vettori linearmente indipendenti.

Es: Questi vettori giacciono tutti sulla stessa retta che contiene v1. Sono in grado di costruire una retta (spazio di una dimensione). Il rango è 1.

Es: v2 non si può ricostruire con c*v1 perché c=0 non è compatibile con le altre componenti. V1 e v2 individuano quindi un piano perché formano un angolo != 0. V3 giace nel piano generato da v1 e v2. Il rango è 2.

Esiste anche il rango=0 quando abbiamo il vettore nullo e geometricamente tutto si riduce ad un punto.

Se ho un numero di vettori k maggiore di n(dimensione) allora sicuramente i vettori sono linearmente dipendenti e al massimo il rango è n perché il rango non può essere più grande di n perché per costruire un qualunque vettore n-dimensionale sono sufficienti n assi. Dunque sono sufficienti n vettori.

Quindi parto osservando n e k per capire quale potrebbe essere il rango massimo.

Poi provo a risolvere l’equazione vettoriale c1v1+….+cnvn=0

Esercizio: poiché il sistema ha infinite soluzioni ovvero possiamo scegliere delle costanti diverse da 0 allora i vettori sono linearmente dipendenti. Quindi il rango sicuramente non è 3.

avevo 3 vettori. Se fossero stati tutti indipendenti, avrebbero dovuto esserci 0 parametri liberi perché Il rango è n di vettori – parametri liberi. in questo caso il rango è 2 perché il nr di vettori è 3, c’è un parametro libero (c2) e quindi il rango 2.

Rango ad es =2 vuol dire che per ricostruire un qualsiasi vettore di quell’insieme ne servono altri 2. Se il parametro libero è 1 vuol dire che un vettore è dipendente da tutti gli altri. Quindi vuol dire che per costruire un vettore mi servono gli altri 2, tutti e 2. Non ne basta uno solo. Posso ricostruire qualsiasi dei 3 ma basta che usi gli altri 2 per ricostruirlo.

Se i parametri liberi erano 2 e, quindi, il rango 1 vuol dire che per ricostruire un vettore me ne bastava solo un altro di vettore. Es:

Più parametri liberi ho, meno vincoli ho perché il rango diminuisce. I vincoli si intendono come direzioni da cui non posso prescindere. Per rango si intende una dimensione, quindi se ad es il rango=3, ci sono 3 dimensioni da considerare.

Rango=3 i vettori hanno 3 angoli diversi tridimensionale 

Rango=4 quadridimensionale. Rango=2 bidimensionale. Rango=1 retta.  

Rango=0 punto

Proiezione vettori

La proiezione è un vettore che ha come norma (di lunghezza) il prodotto scalare tra i due vettori.

Il vettore su cui proietto deve avere norma 1.

è la proiezione di v lungo w.

La moltiplicazione nella parentesi è il prodotto scalare (che genera un nr) che mi dice quanto di un vettore giace sull'altro. il prodotto scalare moltiplicato per un vettore, mi dà il verso del segmento.

Proiezione ortogonale La proiezione ortogonale di v su w è perpendicolare alla proiezione di v sul vettore w.

Il segno meno sta a significare che cambio il verso della proiezione di v su w nel verso opposto (è come se moltiplicassi per -1), poi disegno con le parallele un parallelepipedo e avrò la somma tra v e l’inverso della sua proiezione su w, ovvero v + (-proiezione di v su w)= proiezione ortogonale di v su w.

Se moltiplico (la proiezione ortogonale di v su w) x w avrò 0 in quanto sto facendo un prodotto scalare tra due vettori perpendicolari e quindi indipendenti. Dimostrazione:

Normalizzare un vettore

I vettori su cui proietto devono avere norma 1 perché non mi devono influenzare sulla lunghezza del vettore.

Per fare la proiezione lungo un vettore che non ha norma 1, bisogna normalizzare il vettore. Normalizzare un vettore vuol dire renderlo unitario, ovvero di norma 1 andando a dividere il vettore stesso per la sua norma.

Es: costruire le proiezioni di w1 e w2 su v

Normalizzo v:

Calcolo la proiezioni di w1 su v Lo score (che è rappresentato dal prodotto scalare) mi dice quanto il vettore w dipende dalla variabile che in questo caso è il vettore v. è come se fosse il coefficiente.

Calcolo w2 su v: il vettore w2 ha proiezione 0 sul vettore v, vuol dire che non hanno nulla in comune.

Il prodotto scalare è=0, quindi i due vettori sono ortogonali.

Relazione tra l’ortogonalità e la lineare dipendenza

Relazione tra l’ortogonalità e la lineare dipendenza:

Teoria: due vettori ortogonali tra loro sono linearmente indipendenti.

Dimostrazione: due vettori linearmente dipendenti giacciono sulla stessa retta e quindi formano un angolo di 0 gradi. 2 vettori ortogonali formano invece un angolo di 90 gradi di conseguenza sono linearmente indipendenti.

Es:

Questi 2 vettori sono linearmente dipendenti in quanto il vettore w è il vettore v ma moltiplicato per una costante. Formano infatti un angolo = 0

Dimostrazione diretta: ipotesi tesi

Dimostrazione per assurdo: non tesi non ipotesi

Dimostriamo per assurdo la relazione tra l’ortogonalità e la dipendenza lineare

v trasposto w = 0 vuol dire che il prodotto scalare è = 0 ovvero che 2 vettori sono ortogonali e indipendenti

Ho dimostrato che i due vettori sono linearmente dipendenti in quanto il prodotto scalare non può essere = 0 perché la norma al quadrato è 0 solo se il vettore è nullo e c non può essere 0 perché w non è nullo.

Negare la tesi implica negare l’ipotesi ovvero che i vettori v e w siano diversi dal vettore nullo (se così invece fosse stato allora la tesi era valida)

Matrici

Def: una matrice di dimensione mxn è l’insieme di mn numeri ordinatamente disposti su m righe e n colonne.

Le matrici devono essere rappresentate dalla lettera maiuscola, mentre le singole componenti della matrice, possono essere rappresentate:

• A
• Aij indica l’elemento della matrice che occupa la riga i e la colonna j.

Ogni matrice può anche essere interpretata come l’insieme delle sue righe o delle sue colonne, ovvero come l’insieme dei suoi vettori riga o dei suoi vettori colonna.

Vettori colonna: l’indice è messo in alto come fosse un apice

Il vettore colonna ha come dimensione il nr di righe della matrice.

N=nr di righe

Vettori riga: l’indice è in basso come fosse un pedice.

Il vettore riga ha come dimensione il nr di colonne della matrice.

N=nr di colonne

Quindi posso rappresentare la matrice così:

Insieme dei suoi vettori colonna

O come insieme dei suoi vettori riga:

Di conseguenza anche i vettori possono essere interpretati come una matrice:

• Vettori colonna: matrici con n righe e 1 colonna (vettori colonna).
• Vettori riga: matrici con una riga e n colonne.

*In R invece ciò non è possibile perché il vettore lo considera come una n-pla ordinata di numeri, mentre la matrice come una struttura. Quindi ad esempio nella matrice permette di aggiungere una colonna ma nei vettori no.

Vettorizzazione di una matrice

Vettorizzazione di una matrice

Operazioni con le matrici

-matrice trasposta(trasposizione):

Data la matrice A mxn si definisce matrice trasposta di A e si indica con A^t la matrice mxn che si ottiene da A scambiando le righe con le colonne. 5x4 nxm

Ovvero la matrice trasposta ha come righe le colonne della matrice originaria e come colonne le righe della matrice originaria.

-somma tra matrici: Per poter sommare due matrici, queste, devono essere della stessa dimensione.

*R ci permette invece di sommare anche matrici con dimensione diversa; quindi, non ci fa rendere conto dell’errore commesso.

Siano A e B matrici di dimensione (ordine) mxn, si definisce matrice somma la matrice:

si sommano quindi gli elementi che occupano la stessa posizione. Quindi se A+B= C, c11=a11+b11

Si può anche affermare che la matrice somma è uguale alla somma dei vettori colonna delle rispettive matrici.

La somma tra matrici gode della proprietà commutativa

Gode anche della prop associativa:

-moltiplicazione per uno scalare:

Data una matrice A e uno scalare c appartenente ai reali, tutti i componenti della matrice A sono moltiplicati per lo scalare C.

Posso anche dire che moltiplicare una matrice per una costante equivale a moltiplicare quella costante per i vettori colonna/riga:

proprietà distributiva proprietà associativa

-prodotto righe per colonne di A per B: Per fare questo prodotto le matrici devono essere conformabili.

Data una matrice A di dimensione mxp e una matrice B di dimensione pxn:

Questa operazione consiste nel fare il prodotto scalare tra i vettori riga della matrice di sx e i vettori colonna della matrice di dx. Quindi non si può sempre fare, il vincolo &