Cluster Analysis

Analisi dei Gruppi

(Cluster analysis)

Scopo: cercare dei gruppi di unità che siano simili rispetto alle p variabili osservate su queste unità statistiche

Quindi aiuti a fare una partizione della mia popolazione in g gruppi tali che ci sia omogeneità interna ed eterogeneità tra gruppi.

I gruppi sono degli agglomerati di unità statistiche

• Può essere un cluster o due cluster sovrapposti
• È un solo cluster

Applicazioni: Psicologia, Psicometria, Marketing, Medicina, Sociologia, …

Scopi degli Utilizzo dell'Analisi dei Cluster

• Individuare tipologie
• Ridurre la dimensione dei dati
• Stratifica la popolazione
• Attribuzione delle categorie missing o outlier
• Previsioni – sistemi di notifica, azione automatica

L'analisi dei gruppi si articola in 4 fasi:

1. Scelta delle variabili
2. Scelta della misura di prossimità tra le unità statistiche
   • Le matrici di distanza (variabili quantitative)
   • Le matrici di similarità (variabili qualitative)
3. Scelta del metodo (algoritmo) di aggregazione
4. Interpretazione dei gruppi ottenuti

(1) Scelta delle Variabili

• I gruppi possono variare se variano di quanto e quali variabili vengono utilizzate
• Inserire una variabile oppure no fa la differenza
• La scelta è SOGGETTIVA e dipende da conoscenze a priori del ricercatore

Una volta che ho scelto le variabili, saranno sx e y …

Dipende da cosa voglio considerare, alcuni algoritmi

risentono di trasformazioni lineari

Se usiamo variabili dicotomiche

X con xi qualitativa (k modalità) = k-1 variabili

dicotomiche

forma disgiunta

con questa operazione è riusciuta standardizzazione,

perché molti zero influiscono.

(8) INDICI di PROSSIMITÀ

2 unità statistiche possono essere:

• VICINE
• SIMILI
• SOMIGLIANTI
• LONTANE
• DIVERSE

INDICE tale che

L'indice si divide in:

• per fenomeni quantitativi (DISTANZE)
• per fenomeni qualitativi (INDICI di SIMILARITÀ)

DISTANZE

PROPRIETÀ:

1. non negatività d(μi,μj)≥0 ∀μi,μj ∈ Ù
2. identità d(μi,μj)=0 <=> μi = μj coincidono
3. Simmetria d(μi,μj) = d(μj, μi)
4. disuguaglianza triangolare

Se volgono tutte e 4 contemporaneamente otteniamo che Ù è SPAZIO PARAMETRICO

DISTANZE USATE:

• EUCLIDEA

Si lavora con frequenze dicotomiche

x₁ x₂ ...... x_p

m₁ 1 0 .... 1

m₂ 0 1

1 - se si manifesta0 - se vi si manifesta

1 0 1 @ a+b 0 c+d @ a+c b+d p

la somiglianza si trova sulla diagonale

a e d detta PRESENZA(presenza congiunta)

c e b detta CO-ASSENZA

c e b misurano la diversità tra le due unità statistiche m₁ e m₂

INDICI DI SIMILARITÀ PIÙ IMPORTANTI:

INDICE DI RUSSEL RAO = ^a/_p

INDICE DI JACCARD = ^a/_a+b+c

INDICE DI SOKAL E MICHENER = ^a+d/_p

(considerevole sovrapp.)

INDICE DI YULE = ^ad-bc/_ad+bc

uno deve essere molto diverso dagli altri

Nel caso abbiamo variabili qualitative con più modalità - fenomeno platomico

X matrice disgiunta completa - ogni x_j con k_j modalità diversifica k_j variabili dicotomiche

X = | E x_j k_j m E g_j x_g

K =

RUSSEL RAO

JACCARD

TEMA D'ESAME 22/04/08

• Dif, Azienda
• m₁ 1 A
• m₂ 1 B
• m₃ 1 B
• m₄ 2 B
• m₅ 2 B

MATRICE DISGIUNTA

DifAusible D₁ 1 0 0 1 0 D₃ 0 0 1 A₁ 0 1 A₂ 0 1

3° METODO: METODO DEL LEGAME INTERMEDIO

d(A, B) = M { d(A, B); d(D, B) }↑media

d(G₁, G₂) = ¹⁄_{M1 M2} Σ Σ d(μ_i, μ_j)i ∈ G₁ j ∈ G₂

d(A, D, B) = M { 0.35 , 0.45 } = 0.4

d(A, D, C) = M { d(A, C) , d(D, C) } = M { 0.45 ; 0.57 }= ^{0.45 + 0.57}⁄₂ = 0.51

d(A, D, E) = M { d(A, E) , d(D, E) } = 0.205

? = 0.4   ?? = 0.51   ??? = 0.205

4° METODO: METODO DEL CENTROIDE

d(G₁, G₂) = d(μ_G1, μ_G2)↑vettori bidimensionali che contengono la media

ESEMPIO (Metodo del centroide)

• x₁ x₂
• a 4 4
• b 6 6
• c 2 8
• d 12 2
• e 4 10

Utilizziamo le distanze di Manhattan

MATRICE DELLE DISTANZE (5×5)

d(A, B) = |(4-6)| + |(1-6)| = 13

d(A, C) = |(4-2)| + |(1-8)| = 19

d(A, D) = |(14-12)| + |(1-2)| = 3

d(A, E) = |(14-4)| + |(1-10)| = 19

d(B, C) = |(6-2)| + |(6-8)| = 6

d(B, D) = |(6-12)| + |(6-2)| = 10

d(B, E) = |(6-4)| + |(6-10)| = 6

d(C, D) = |(2-12)| + |(8-2)| = 20

d(C, E) = |(2-4)| + |(8-10)| = 4

d(D, E) = |(12-4)| + |(2-10)| = 16

distanza minima

I nuovi gruppi sono: {ab, cd, e}

4^o PASSO: continuo l'aggregazione

I nuovi gruppi { cde, ab }:

È un metodo estremamente efficiente

Si dimostra che il metodo di Ward lavora in modo equivalente con le misure di distanza e con la costruzione tra i gruppi così definita

CONFRONTO TRA I VARI METODI

• LEGAME SEMPLICE
• Il legame semplice funziona molto bene con gruppi che hanno struttura ma con centroide
• Il legame semplice funziona malissimo in queste situazioni
• È invariato per trasformazioni dei dati
• LEGAME COMPLETO
• Funziona bene