Ingegneria della conoscenza - le reti neurali

Il neurone formale

Il meccanismo

• Il neurone viene "eccitato" da altri neuroni
• A[i] = W[i,j] * O[j] )Σj
• L'eccitazione viene "trattenuta" all'interno dell'unità fino ad un certo livello di soglia, oltre il quale l'unità si "scarica"
• O[i] = T( A[i] )
• E a sua volta va ad eccitare altri neuroni

Funzione di trasferimento

Rete Neurale Artificiale

Modelli di Rete Neurale

Teorema di Hecht-Nielsen

Una qualsiasi funzione Y=F(X) può essere computata con elevata accuratezza da una rete neurale non ricorrente a soli tre livelli avente un opportuno numero di unità (anche molto elevato) nel livello intermedio (purtroppo non dice come definire i pesi)

Multi-Level-Feed-Forward

Due principali caratteristiche

• Resistenza al rumore
• Input incerto, incompleto o leggermente errato
• Output distorto proporzionalmente
• Resistenza al degrado
• Guasti o parti difettose (reti hardware)

output distorto proporzionalmente

Una rete neurale non ha "colli di bottiglia", l'informazione è elaborata "a pezzettini"

Come si programma una rete neurale?

• Una rete neurale NON si programma
• La si addestra
• Impara da sola da esempi

Imparare il concetto di somma: 5+3=8; 24+1329=1353; 1+17=18;...

Dopo aver "osservato" un numero sufficiente di somme, la rete avrà imparato, quindi sarà in grado di eseguire anche somme di numeri mai visti prima, come ad esempio 37+9

Due modalità d'uso

• Apprendimento:
  • dato input & output
  • trovare i pesi
• Esecuzione:
  • dato input e pesi
  • trovare l'output

Formule di apprendimento

• Hebbiano = * O[i] * O[j]ΔW[i,j] ∈
• Error propagation = * ( D[i] - O[i] ) * O[j]ΔW[i,j] ∈

Tipologie di apprendimento

• Supervisionato
  • il maestro dà sia input che output
• Non-supervisionato
  • il

Qualità:

• Supporto alle decisioni
• Analisi finanziaria
• Diagnostica medica e industriale
• Previsioni metereologiche
• Compressione/trasmissione di dati

Applicazioni:

• Riconoscitore di caratteri manoscritti, in grado di riconoscere il 95% di un testo, a seconda della qualità della calligrafia.
• Autenticatore di firme, i cui casi di falso allarme ammontano finora al 4%
• Rivelatore di carte di credito rubate (Chase Manhattan Bank)
• Rivelatore di esplosivi in servizio dal 1988 presso l'aeroporto di New York, Los Angeles e S. Francisco (tecnica back propagation, controlla 10 valige al minuto, realizzato solo con prodotti commerciali)