Che materia stai cercando?

Ingegneria della conoscenza - le reti neurali Appunti scolastici Premium

Slide relative all'esame di ingegneria della conoscenza del professor Alessandro Mazzetti, corso di laurea in scienze della comunicazione. Gli argomenti trattati sono le reti neurali, la cellula neuronale, le differenze cervello-computer, il teorema di Hecht-Nielsen...

Esame di Ingegneria della conoscenza docente Prof. A. Mazzetti

Anteprima

ESTRATTO DOCUMENTO

L’elaborazione biologica

• La frequenza massima di trasmissione degli

impulsi fra neuroni è bassa (100/sec)

• In un computer i segnali elettronici viaggiano

a velocità migliaia di volte superiori.

• Cervello = meccanismo diffuso e parallelo di

trasmissione dell'informazione

• L'elaborazione risiede in intere regioni del

cervello piuttosto che in singole unità.

Differenze cervello - computer

• Computer :

– elaborazione sequenziale nella CPU

– memoria concentrata in unità separate (RAM).

– anche il software separa i dati dall'algoritmo

• Cervello:

– informazione distribuita su una moltitudine di

unità elementari di per sé semplici

– ogni unità opera in parallelo con le altre

– non vi è netta distinzione fra memoria e calcolo

Storia...

• 1943 - McCulloch e Pitts:

– individuazione delle funzioni computabili

– equivalenza con la Macchina di Turing

• 1949 - Donald Hebb:

– apprendimento biologico = fenomeno sinaptico

• 1957 - Rosenblatt costruì il perceptrone

– impara a riconoscere immagini

– teorema che garantisce la capacita' di apprendere

– robustezza e flessibilita' tipica dei sistemi biologici

...storia

• 1969 - Minsky e Papert:

– evidenziano i limiti e l'incapacita' di risolvere

alcuni problemi banali

• anni 70 - sfiducia

• anni 80 - Rumelhart supera le limitazioni

Kohonen formalizza rigorosamente

Grossberg realizza applicazioni

Hopfield definisce proprietà fisiche

Il neurone formale

Il meccanismo

• Il neurone viene “eccitato” da altri neuroni

A[i] = W[i,j] * O[j] )

Σj(

• l’eccitazione viene “trattenuta” all'interno

dell'unità fino ad un certo livello di soglia,

oltre il quale l'unità si “scarica”

O[i] = T( A[i] )

• e a sua volta va ad eccitare altri neuroni

Funzione di trasferimento

Rete Neurale Artificiale

Modelli di Rete Neurale

Teorema di Hecht-Nielsen

Una qualsiasi funzione Y=F(X) può essere

computata con elevata accuratezza da una rete

neurale non ricorrente a soli tre livelli avente un

opportuno numero di unità (anche molto elevato)

nel livello intermedio

(purtroppo non dice come definire i pesi)

Multi-Level-Feed-Forward

Due principali caratteristiche

• Resistenza al rumore

– input incerto, incompleto o leggermente errato

– output distorto proporzionalmente

• Resistenza al degrado

– guasti o parti difettose (reti hardware)

– output distorto proporzionalmente

Una rete neurale non ha “colli di bottiglia”

l’informazione è elaborata “a pezzettini”

Come si programma

una rete neurale?

• Una rete neurale NON si programma

• La si addestra

• Impara da sola da esempi

Imparare il concetto di somma:

5+3=8; 24+1329=1353; 1+17=18;…

Dopo aver "osservato" un numero sufficiente di somme, la

rete avrà imparato, quindi sarà in grado di eseguire anche

somme di numeri mai visti prima, come ad esempio 37+9

Due modalità d’uso

• Apprendimento:

– dato input & output

– trovare i pesi

• Esecuzione:

– dato input e pesi

– trovare l’output

Formule di apprendimento

• Hebbiano = * O[i] * O[j]

ΔW[i,j] ε

• Error propagation

= * ( D[i] - O[i] ) * O[j]

ΔW[i,j] ε


PAGINE

35

PESO

237.75 KB

AUTORE

Menzo

PUBBLICATO

+1 anno fa


DETTAGLI
Corso di laurea: Corso di laurea in scienze della comunicazione
SSD:

I contenuti di questa pagina costituiscono rielaborazioni personali del Publisher Menzo di informazioni apprese con la frequenza delle lezioni di Ingegneria della conoscenza e studio autonomo di eventuali libri di riferimento in preparazione dell'esame finale o della tesi. Non devono intendersi come materiale ufficiale dell'università Insubria Como Varese - Uninsubria o del prof Mazzetti Alessandro.

Acquista con carta o conto PayPal

Scarica il file tutte le volte che vuoi

Paga con un conto PayPal per usufruire della garanzia Soddisfatto o rimborsato

Recensioni
Ti è piaciuto questo appunto? Valutalo!

Altri appunti di Ingegneria della conoscenza

Ingegneria della conoscenza - programma corso
Appunto
Ingegneria della conoscenza - acquisizione e tipologie di conoscenza
Appunto
Ingegneria della conoscenza - Soft computing/fuzzy logic
Appunto
Ingegneria della conoscenza - strumenti di supporto alle decisioni
Appunto