Ingegneria della conoscenza - le reti neurali

Reti neurali

Alessandro Mazzetti

Definizioni

• Reti neurali, neuronali, neuroniche, neuroinformatica, paradigma sub-simbolico, connessionismo, parallel distributed processing
• Inizialmente: riprodurre le strutture nervose dei tessuti cerebrali su strumenti di calcolo
• Oggi: tecnologia alternativa di elaborazione dell'informazione.

Rete di neuroni biologici

La cellula neuronale

Cervello biologico

• Il cervello umano ha circa 10 bilioni di cellule nervose.
• Il numero di interconnessioni è stimato dell'ordine di un milione di miliardi.
• Nell'uomo non sono presenti tipi diversi di neurone da quelli di altre specie animali.

La sinapsi

L’intelligenza biologica

• Il contenuto informativo del cervello è l'insieme dei valori di attivazione di tutti i neuroni.
• L'elaborazione dell'informazione è il flusso di segnali fra i vari neuroni che si eccitano e inibiscono a vicenda.
• La memoria è l'insieme delle sinapsi che formano addensamenti e rarefazioni nella rete neurale.

L’elaborazione biologica

• La frequenza massima di trasmissione degli impulsi fra neuroni è bassa (100/sec).
• In un computer i segnali elettronici viaggiano a velocità migliaia di volte superiori.
• Cervello = meccanismo diffuso e parallelo di trasmissione dell'informazione.
• L'elaborazione risiede in intere regioni del cervello piuttosto che in singole unità.

Differenze cervello - computer

• Computer:
  • Elaborazione sequenziale nella CPU.
  • Memoria concentrata in unità separate (RAM).
  • Anche il software separa i dati dall'algoritmo.
• Cervello:
  • Informazione distribuita su una moltitudine di unità elementari di per sé semplici.
  • Ogni unità opera in parallelo con le altre.
  • Non vi è netta distinzione fra memoria e calcolo.

Storia

• 1943 - McCulloch e Pitts: individuazione delle funzioni computabili, equivalenza con la Macchina di Turing.
• 1949 - Donald Hebb: apprendimento biologico = fenomeno sinaptico.
• 1957 - Rosenblatt costruì il perceptrone, impara a riconoscere immagini, teorema che garantisce la capacità di apprendere, robustezza e flessibilità tipica dei sistemi biologici.

...Storia

• 1969 - Minsky e Papert: evidenziano i limiti e l'incapacità di risolvere alcuni problemi banali.
• Anni '70 - sfiducia.
• Anni '80 - Rumelhart supera le limita.