Intelligenza artificiale - tesina ICSE reti LVQ

TTS

TTS e memorizzando poi (3) la media della percentuale globale di riconoscimento su tutti e 4 i TTS e

(4) la varianza ( ) relativa alle 4 misurazioni citate: a valle di

campionaria... ridotta poi sotto radice a deviazione standard

ogni sessione da 4 addestramenti è stata infine selezionata la rete LVQ ( a parità di subset e configurazione di

) che minimizzasse tale varianza. Inoltre, sempre per ogni subset di features fissato, dopo aver

neuroni

condotto 20x4=80 addestramenti e aver selezionato 20 reti, tra esse è stata scelta quella che

complessivamente fosse in grado di minimizzare (1) l'E(TTS), che in circostanze normali si pone

come limite superiore di E(TS), (2) il massimo spread interclasse su TTS e (3) il massimo spread tra

classi omologhe su TS e TTS, il tutto con l'obiettivo di scegliere la rete (a) con performance migliori

su TS/TTS, (b) col minimo overtraining possibile, (c) con la minore disomogeneità nelle percentuali di

riconoscimento tra classi e (d) con la minore disparità di risultati tra TS e TTS.

Riassumendo... per ogni subset di features fissato, è stata selezionata una sola rete su 80, e sono

state ulteriormente calcolate per essa le matrici di classificazione relative al TestSet e all'intero DS

( ), in modo da ottenere rispettivamente un dato puntuale (1) sulla capacità di

TS+TTS+TestSet

generalizzazione della rete per campioni MAI visti e (2) sull'efficienza media della rete sulla totalità

dei campioni. L'intero processo, infine, è stato ripetuto per ogni subset di features, nell'ordine in cui

sono stati precedentemente elencati.

Nelle pagine successive vengono riportati i dati prodotti da per ciascuna sessione di

ICSE.exe

addestramento ( ) al variare del subset di features, mettendo in evidenza le diverse reti

20x4 addestramenti

selezionate ai vari livelli. Alla fine di ogni sessione, per ogni subset di features, viene evidenziata e

descritta la rete considerata “migliore” sulla base dei criteri indicati, con le relative matrici di

classificazione, le percentuali medie di errore e un grafico descrittivo dell'intera fase di

addestramento, generato direttamente da sotto forma di script MatLab e plottato

ICSE.exe

successivamente in MatLab 6.5 R13.

Più nel dettaglio, ciascun grafico contiene 4 curve, graficate per un numero di epoche di

addestramento massimo di 200: la blu tratteggiata E(TTS) rappresenta l'errore percentuale puntuale

della rete su TTS, la verde E(TS) rappresenta l'errore percentuale della rete su TS, la rossa è una

curva smooth che indica il trend della E(TTS), la magenta è una curva smooth che indica il trend

della E(TS), il pallino rosso indica infine il valore di E(TTS) nel punto di stop-learning.

Si osservi che il minimo assoluto ( ) per la curva percentuale

coerentemente con la strategia d'addestramento MDC

d'errore su TTS è stato individuato in accordo con le seguenti regole:

viene ricercato dalla 10° epoca esclusa in poi, se ce n'è uno prima viene ignorato

– se le curve E(TTS) e E(TS) si intersecano, si assume che la rete fino all'epoca corrente non si sia

– ancora “stabilizzata”

in presenza di più minimi assoluti di pari valore si sceglie quello che minimizza E(TS), e in caso di

– ulteriore parità si sceglie quello relativo alla rete “meno specializzata”, ovvero con numero di

epoche di addestramento più basso

se E(TTS) si “stabilizza” aldisotto di E(TS), si sceglie l'epoca in cui per E(TS)>E(TTS) il valore di

– E(TS) è minimo - minimizzando in questo modo la distanza tra le due curve - anche se esso

corrisponde ad un massimo locale di E(TTS).

Dalla pagina successiva, si riporta il log completo prodotto da ICSE.exe...

14

-> Applying to TS/TTS feature subset [ 4 9 17 ] with rank 99.8419%

01' Neurons' pattern 2 2

TS/TTS 1 -> E(TTS/TS)=34.62/37.55% in 16 cycles Spread(I/O)=7.54/5.48%

Mean=37.19% StdDev=8.04% in cross verifying ( 2 3 4 )

TS/TTS 2 -> E(TTS/TS)=38.46/36.29% in 13 cycles Spread(I/O)=4.37/2.38%

Mean=37.19% StdDev=8.04% in cross verifying ( 1 3 4 )

TS/TTS 3 -> E(TTS/TS)=48.72/43.88% in 199 cycles Spread(I/O)=2.38/5.86%

Mean=45.2% StdDev=3.98% in cross verifying ( 1 2 4 )

TS/TTS 4 -> E(TTS/TS)=47.44/32.07% in 12 cycles Spread(I/O)=15.08/25.83%

Mean=36.22% StdDev=8.47% in cross verifying ( 1 2 3 )

Network No.3 selected.

02' Neurons' pattern 4 4

TS/TTS 1 -> E(TTS/TS)=33.33/35.44% in 118 cycles Spread(I/O)=0/4.51%

Mean=34.62% StdDev=8.95% in cross verifying ( 2 3 4 )

TS/TTS 2 -> E(TTS/TS)=28.21/37.13% in 12 cycles Spread(I/O)=14.68/12.7%

Mean=34.62% StdDev=6.02% in cross verifying ( 1 3 4 )

TS/TTS 3 -> E(TTS/TS)=44.87/33.76% in 12 cycles Spread(I/O)=19.85/19.52%

Mean=36.22% StdDev=6.05% in cross verifying ( 1 2 4 )

TS/TTS 4 -> E(TTS/TS)=51.28/38.4% in 12 cycles Spread(I/O)=2.38/13.49%

Mean=41.35% StdDev=7.13% in cross verifying ( 1 2 3 )

Network No.2 selected.

03' Neurons' pattern 6 6

TS/TTS 1 -> E(TTS/TS)=38.46/37.13% in 176 cycles Spread(I/O)=26.59/19.45%

Mean=37.5% StdDev=6.4% in cross verifying ( 2 3 4 )

TS/TTS 2 -> E(TTS/TS)=46.15/40.08% in 12 cycles Spread(I/O)=3.18/8.73%

Mean=41.67% StdDev=12.41% in cross verifying ( 1 3 4 )

TS/TTS 3 -> E(TTS/TS)=48.72/37.55% in 16 cycles Spread(I/O)=7.94/13.49%

Mean=40.71% StdDev=7.86% in cross verifying ( 1 2 4 )

TS/TTS 4 -> E(TTS/TS)=51.28/40.51% in 15 cycles Spread(I/O)=7.94/18.62%

Mean=43.27% StdDev=5.38% in cross verifying ( 1 2 3 )

Network No.4 selected.

04' Neurons' pattern 7 8

TS/TTS 1 -> E(TTS/TS)=32.05/37.13% in 31 cycles Spread(I/O)=17.86/7.94%

Mean=35.9% StdDev=6.37% in cross verifying ( 2 3 4 )

TS/TTS 2 -> E(TTS/TS)=34.62/31.22% in 70 cycles Spread(I/O)=2.78/7.93%

Mean=32.06% StdDev=6.62% in cross verifying ( 1 3 4 )

TS/TTS 3 -> E(TTS/TS)=38.46/31.65% in 26 cycles Spread(I/O)=16.27/8.48%

Mean=33.34% StdDev=4.32% in cross verifying ( 1 2 4 )

TS/TTS 4 -> E(TTS/TS)=46.15/37.55% in 35 cycles Spread(I/O)=22.62/19.59%

Mean=39.75% StdDev=4.8% in cross verifying ( 1 2 3 )

Network No.3 selected.

05' Neurons' pattern 9 10

TS/TTS 1 -> E(TTS/TS)=34.62/31.65% in 25 cycles Spread(I/O)=2.38/6.34%

Mean=32.05% StdDev=7.18% in cross verifying ( 2 3 4 )

TS/TTS 2 -> E(TTS/TS)=34.62/31.22% in 14 cycles Spread(I/O)=7.94/8.26%

Mean=32.06% StdDev=6.02% in cross verifying ( 1 3 4 )

TS/TTS 3 -> E(TTS/TS)=33.33/31.65% in 31 cycles Spread(I/O)=10.32/4.77%

Mean=31.73% StdDev=2.43% in cross verifying ( 1 2 4 )

TS/TTS 4 -> E(TTS/TS)=48.72/31.65% in 15 cycles Spread(I/O)=12.7/24.93%

Mean=36.22% StdDev=9.16% in cross verifying ( 1 2 3 )

Network No.3 selected.

06' Neurons' pattern 11 12

TS/TTS 1 -> E(TTS/TS)=33.33/32.07% in 135 cycles Spread(I/O)=5.15/7.14%

Mean=32.38% StdDev=3.69% in cross verifying ( 2 3 4 )

TS/TTS 2 -> E(TTS/TS)=41.03/32.49% in 30 cycles Spread(I/O)=11.51/18.39%

Mean=34.62% StdDev=5.03% in cross verifying ( 1 3 4 )

TS/TTS 3 -> E(TTS/TS)=34.62/31.22% in 30 cycles Spread(I/O)=7.54/8.73%

Mean=32.38% StdDev=3.03% in cross verifying ( 1 2 4 )

TS/TTS 4 -> E(TTS/TS)=42.31/34.6% in 63 cycles Spread(I/O)=14.29/14.86%

Mean=36.54% StdDev=6.67% in cross verifying ( 1 2 3 )

Network No.3 selected.

07' Neurons' pattern 13 14

TS/TTS 1 -> E(TTS/TS)=29.49/31.22% in 108 cycles Spread(I/O)=3.17/4.65%

Mean=31.1% StdDev=2.85% in cross verifying ( 2 3 4 )

TS/TTS 2 -> E(TTS/TS)=38.46/29.11% in 52 cycles Spread(I/O)=0.79/13.66%

Mean=31.74% StdDev=4.84% in cross verifying ( 1 3 4 )

TS/TTS 3 -> E(TTS/TS)=35.9/27% in 15 cycles Spread(I/O)=5.56/12.76%

Mean=29.49% StdDev=4.8% in cross verifying ( 1 2 4 )

TS/TTS 4 -> E(TTS/TS)=38.46/36.71% in 69 cycles Spread(I/O)=21.43/10.36%

Mean=37.5% StdDev=2.19% in cross verifying ( 1 2 3 )

Network No.4 selected.

08' Neurons' pattern 14 16

TS/TTS 1 -> E(TTS/TS)=34.62/32.91% in 193 cycles Spread(I/O)=7.94/2.85%

Mean=33.66% StdDev=3.83% in cross verifying ( 2 3 4 )

TS/TTS 2 -> E(TTS/TS)=37.18/34.18% in 14 cycles Spread(I/O)=1.99/6.38%

Mean=34.94% StdDev=3.54% in cross verifying ( 1 3 4 )

TS/TTS 3 -> E(TTS/TS)=37.18/32.49% in 71 cycles Spread(I/O)=13.49/7.5%

Mean=33.98% StdDev=5.39% in cross verifying ( 1 2 4 )

TS/TTS 4 -> E(TTS/TS)=35.9/32.91% in 46 cycles Spread(I/O)=0.4/3.17%

Mean=33.98% StdDev=1.66% in cross verifying ( 1 2 3 )

Network No.4 selected.

09' Neurons' pattern 16 18

TS/TTS 1 -> E(TTS/TS)=33.33/29.96% in 12 cycles Spread(I/O)=5.15/8.73%

Mean=30.77% StdDev=2.96% in cross verifying ( 2 3 4 )

TS/TTS 2 -> E(TTS/TS)=37.18/32.91% in 42 cycles Spread(I/O)=13.49/12.01%

Mean=33.98% StdDev=3.06% in cross verifying ( 1 3 4 )

15

TS/TTS 3 -> E(TTS/TS)=35.9/33.76% in 72 cycles Spread(I/O)=4.77/8.73%

Mean=34.3% StdDev=4.84% in cross verifying ( 1 2 4 )

TS/TTS 4 -> E(TTS/TS)=41.03/34.6% in 91 cycles Spread(I/O)=26.99/11.42%

Mean=36.22% StdDev=3.38% in cross verifying ( 1 2 3 )

Network No.1 selected.

10' Neurons' pattern 18 20

TS/TTS 1 -> E(TTS/TS)=30.77/27.85% in 20 cycles Spread(I/O)=5.55/8.73%

Mean=28.85% StdDev=3.4% in cross verifying ( 2 3 4 )

TS/TTS 2 -> E(TTS/TS)=34.62/26.58% in 13 cycles Spread(I/O)=2.38/9.01%

Mean=28.53% StdDev=5.17% in cross verifying ( 1 3 4 )

TS/TTS 3 -> E(TTS/TS)=38.46/30.8% in 61 cycles Spread(I/O)=11.11/10.21%

Mean=32.38% StdDev=6.74% in cross verifying ( 1 2 4 )

TS/TTS 4 -> E(TTS/TS)=39.74/27.43% in 22 cycles Spread(I/O)=3.57/15.54%

Mean=30.45% StdDev=6.32% in cross verifying ( 1 2 3 )

Network No.1 selected.

11' Neurons' pattern 20 22

TS/TTS 1 -> E(TTS/TS)=32.05/29.96% in 26 cycles Spread(I/O)=7.93/7.93%

Mean=30.78% StdDev=3.14% in cross verifying ( 2 3 4 )

TS/TTS 2 -> E(TTS/TS)=33.33/29.11% in 13 cycles Spread(I/O)=5.16/4.58%

Mean=30.13% StdDev=2.46% in cross verifying ( 1 3 4 )

TS/TTS 3 -> E(TTS/TS)=34.62/32.49% in 39 cycles Spread(I/O)=13.1/9.24%

Mean=32.7% StdDev=6.5% in cross verifying ( 1 2 4 )

TS/TTS 4 -> E(TTS/TS)=32.05/26.58% in 15 cycles Spread(I/O)=2.38/8.73%

Mean=28.21% StdDev=3.32% in cross verifying ( 1 2 3 )

Network No.2 selected.

12' Neurons' pattern 21 24

TS/TTS 1 -> E(TTS/TS)=28.21/26.58% in 13 cycles Spread(I/O)=21.43/8.73%

Mean=27.25% StdDev=2.85% in cross verifying ( 2 3 4 )

TS/TTS 2 -> E(TTS/TS)=33.33/29.54% in 50 cycles Spread(I/O)=10.32/6.46%

Mean=30.45% StdDev=4.24% in cross verifying ( 1 3 4 )

TS/TTS 3 -> E(TTS/TS)=29.49/26.58% in 51 cycles Spread(I/O)=3.17/9.52%

Mean=27.25% StdDev=3.69% in cross verifying ( 1 2 4 )

TS/TTS 4 -> E(TTS/TS)=34.62/24.05% in 12 cycles Spread(I/O)=13.1/17.35%

Mean=26.93% StdDev=5.55% in cross verifying ( 1 2 3 )

Network No.1 selected.

13' Neurons' pattern 23 26

TS/TTS 1 -> E(TTS/TS)=29.49/25.32% in 15 cycles Spread(I/O)=7.14/4.76%