Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
Scarica il documento per vederlo tutto.
vuoi
o PayPal
tutte le volte che vuoi
Svantaggi, problemi e una possibile soluzione
SVANTAGGI:
- Non sostenibile in termini di dati/hardware
- Dati non sempre disponibili per specifiche lingue/domini/task
- Conoscenza semantica superficiale e poco affidabile
PROBLEMI:
- Informazioni mai viste
- Informazioni rare
- Modelli sensibili ai testi su cui sono addestrati
Se noi riuscissimo a dire al nostro computer che in realtà un pomodoro non è bianco, allora saremmo in grado di risolvere questi problemi. Un tipo di rappresentazione di questo tipo potrebbe essere basato sui "grafi di conoscenza".
Un grafo di conoscenza è un tipo di rappresentazione strutturata, esplicita e simbolica, con cui si possono identificare i concetti esistenti nel mondo e i collegamenti tra questi. Utilizzando un tipo di grafo di questo tipo, quindi un modello come Bert non avrebbe più i testi su cui basarsi, ma potrebbe basarsi su questo grafo. L'ideale sarebbe addestrare il computer a qualcosa di questo tipo: In questo caso si ha
Super Mario Land, che è anche un'entità del grafo. Ora, Super Mario Land deve predire una parola, dà le parole da predire e nota 1989 che tra le parole da predire c'è che non solo è collegata, ma è anche molto vicina, cioè è collegata direttamente. Dunque la parola, non solo l'ha data Bert, ma l'ha data anche il grafo, quindi è perfetto, edunque lo inserisce. E continua in questo modo, così da avere entrambe le conoscenze insieme.
Si è parlato di una rappresentazione distribuzionale. Si è parlato di una rappresentazione distribuzionale, non comprensibile all'occhio umano, non simbolica. Esistono varie alternative e rientrano in questa categoria le rappresentazioni formali cosiddette che si dividono in due gruppi: uno è il strutturato, e ciò che effettivamente si basa sulla struttura. In alto a sinistra si ha un grafo con dei loghi e delle relazioni tra i loghi.
mentre in basso (a sinistra) si hanno liste con entità, relazioni e triple: le entità sono i concetti esistenti della realtà; le caratteristiche sono le relazioni che convertono queste entità; e questo si rappresenta sotto forma di tripla. Questo si chiama Formalismo Strutturato, cioè si basa su strutture matematiche e geometriche. Dall'altra parte, nel formalismo logico, abbiamo il creatore della cappella Sistina, che è un po' più complesso e deriva da tecniche filosofiche, per cui invece di avere una struttura geometrica, si ha una funzione per cui: "conta tutte le X, dove la X è il creatore della cappella Sistina".
24. Reti neurali
Le reti neurali sono estremamente diffuse, importanti e sono alla base di tutta l'intelligenza artificiale. La rete neurale (neural network) è un modello matematico che si ispira alle reti neurali biologiche. Sono formate da un corpo centrale, che è il neurone, e dei collegamenti di dendriti che servono da
per il neurone nella parte centrale; quindi, nel corpo del neurone avviene il processamento delle informazioni e poi c'è l'assone che serve per l'output del neurone. Come nel cervello umano i neuroni sono interconnessi da sinapsi che permettono di ragionare e di eseguire alcuni compiti, quindi attraverso il passaggio di informazioni dal corpo di un neurone alle sinapsi, collegamenti sinaptici tra un neurone e l'altro, per appunto svolgere dei compiti. In campo informatico si fa lo stesso: si creano dei nodi, che sono i neuroni biologici e gli archi, che sarebbero le sinapsi nel neurone biologico, che collegano i neuroni. Quindi questi archi collegano i nodi e in questo modo passano le informazioni da un nodo all'altro. La rappresentazione a grafi, basata su una serie di nodi e archi che collegano questi nodi, è una rappresentazione che si usa in tantissimi ambiti e deriva praticamente da questo, poiché replica il funzionamento biologico di un.corpo biologico, di un neurone. La rappresentazione che viene fatta graficamente di una rete neurale è un grafo di flusso. Un grafo di flusso è composto da una serie di nodi che sono collegati da archi. La successione di questi archi crea una serie di percorsi. Si ha un nodo, che generalmente è un nodo di partenza, anche se nel nostro cervello non c'è una gerarchia, però c'è, nella rete neurale informatica, un nodo di partenza da cui passa l'input e attraverso questo nodo si processa l'informazione e si passa poi al nodo successivo, attraverso l'arco. L'output, dopo il processamento, può finire in un altro nodo attraverso un arco e andare appunto in una certa direzione. L'informazione viene data al nodo di input, viene elaborata e passata ai nodi intermedi e successivamente viene data ai nodi di uscita per produrre un output. L'informazione viene elaborata in un nodo, l'output passa al nodo successivo fino aProdurre un output definitivo. Quello che succede da un nodo all'altro è una fase di processamento, una fase di elaborazione, sono calcoli che vengono effettuati e vengono effettuati in ogni passaggio da un nodo all'altro. Il nodo è l'unità della rete neurale dove viene effettuata l'operazione. Esistono tre tipologie di nodi:
- Nodi di entrata, i cosiddetti Input Node
- Nodi nascosti, i cosiddetti Hidden Node
- Nodi di uscita, i cosiddetti Output Node
Nodi di entrata (Input node)
I nodi di entrata in genere si trovano a sinistra della rete neurale o anche in basso, dipende dalla rappresentazione. Sono i nodi che vengono utilizzati per introdurre i dati di input nella rete neurale; quindi, qui in realtà non sta avvenendo un calcolo, si stanno semplicemente passando le informazioni alla rete neurale e lo si fa attraverso i nodi di input.
Nodi nascosti (Hidden node)
Sono anche detti nodi intermedi perché si trovano nello strato
intermedio della rete, non sono né all'ingresso, né all'uscita. Nei nodi intermedi avviene l'elaborazione dei dati. I nodi intermedi sono detti strati della rete (o livelli). Spesso si chiamano Nodi Nascosti perché non si vedono. Si vedono solo quelli di input quando diamo l'informazione e quelli di output, i nodi finali, in cui viene data una risposta dopo che è successo qualcosa nei livelli intermedi. Nodi di uscita (Output node) Si trovano a destra, all'uscita della rete neurale. Sono usati per consegnare il risultato dell'elaborazione. Sono i nodi in cui viene prodotto il risultato delle operazioni che sono state svolte nel livello intermedio. - I nodi sono organizzati in strati (layer) - Reti neurali semplici → uno strato intermedio - Reti neurali multistrato → più strati intermedi I neuroni di input si trovano nel primo layer, i neuroni intermedi o nascosti si trovano nell'hidden layer quindi.nel layer nascosto, e poi si ha un layer di output dove ci sono i neuroni di output. Le reti neurali si suddividono in due grandi categorie: una rete neurale semplice, chiamata "semplice" quando esiste un solo strato intermedio (come la rappresentazione precedente), quindi c'è un solo livello nascosto/intermedio in cui avvengono le operazioni; e le reti neurali multistrato, che sono costituite da più strati intermedi, il che vuol dire che si ha un livello di input, strato intermedio, un altro strato intermedio, N strati intermedi, nascosti, e poi un layer di output. La complessità della rete è data dal numero di strati intermedi. Una rete multistrato è una rete complessa perché svolge una serie di operazioni, non solo una, ma ne svolge tante quante ne sono i layer intermedi. - Gli archi trasmettono i dati dell'elaborazione nella neural network da un nodo a un altro. - L'informazione si propaga tra i nodi. Le retiLe reti neurali funzionano in questo modo: gli archi trasmettono i dati dell'elaborazione all'interno della rete neurale da un nodo all'altro, quindi il nodo è il luogo in cui viene conservata l'informazione o immessa se si tratta di input, di nodi di input, gli archi servono a trasportare le informazioni da un nodo all'altro. Il termine che si usa è propagazione. Esistono due tipi di propagazione e queste differenziano le reti neurali, caratterizzano le reti neurali:
- Feed-forward
- Back Propagation
Feed-forward significa che si stanno alimentando i dati in una direzione che va da sinistra verso destra. In una rete di questo tipo si suppone che sulla sinistra si hanno i nodi di input, il layer di input, le informazioni si propagano con degli archi che vanno da sinistra verso destra, quindi vanno in avanti. Per cui il risultato di un nodo viene trasmesso al nodo dello strato successivo in un principio di avanzamento. È una propagazione semplice,
è una spiegazione molto tecnica e specifica sull'algoritmo di backpropagation utilizzato nelle reti neurali. Per formattare il testo utilizzando tag HTML, puoi utilizzare i seguenti tag: - `` per formattare il testo in apice, ad esempio "²" - `` per formattare il testo in pedice, ad esempio "₃" - `` per evidenziare il testo in grassetto, ad esempio "back" - `` per evidenziare il testo in corsivo, ad esempio "feed forward" - `` per inserire un'interruzione di linea, ad esempio dopo "sinistra verso destra." Ecco come potrebbe apparire il testo formattato con i tag HTML:
Perché appunto ha una sola direzione ed è aciclica, cioè non si ripete, va una volta da sinistra verso destra. Nella Back propagation c'è un momento in cui le informazioni vengono trasmesse non solo da sinistra verso destra, quindi, seguendo la direzione come quella del feed forward, ma vengono anche riportate indietro, "back". Cioè vengono anche riutilizzate queste informazioni perché non c'è più una sola direzione di trasmissioni, di propagazioni di informazioni, può esserci la doppia direzione, possiamo andare da sinistra verso destra o da destra verso sinistra. In realtà, il dato su cui si lavora è sempre lo stesso, o meglio, è il dato elaborato. Si ha un dato nel neurone che passa al neurone successivo attraverso la freccia nera, quindi, come output dell'elaborazione del primo nodo dopodiché questo output viene elaborato nel secondo nodo e torna indietro. Questa, chiaramente,
è ciclica. È un'architettura che serve a reutilizzare l’output, a elaborarlo nuovamente.
La Back Propagation è detta anche retroazione, ed è in genere una delle caratteristiche delle reti più complesse perché c’è un ciclo che si ripete; quindi, l’output di un nodo passa al nodo successivo, viene elaborato e torna indietro, crea un ciclo. In particolare, è una caratteristica delle cosiddette Recurrent Neural Network (RNN).
Le Recurrent Neural Network (RNN) sono reti neurali che ricorrono, sono cicliche e per questo vengono chiamate in questo modo. Queste RNN sono quelle che vengono utilizzate principalmente per il trattamento automatico del linguaggio. Le tipologie di Neuronal Network, sono le Feed-Forward Neural Network usate per problemi semplici, come quelli di regressione e classificazione, in genere task particolarmente facili da risolvere. Un problema di classificazione può essere risolto tramite le
risolti utilizzando una rete neurale feed-forward. Una rete neurale feed-forward è un tipo di rete neurale artificiale in cui l'informazione si muove in una sola direzione, in avanti, senza cicli o loop. È composta da uno o più strati di neuroni, chiamati anche nodi o unità, organizzati in modo gerarchico. Ogni neurone riceve input dai neuroni del livello precedente e produce un output che viene passato ai neuroni del livello successivo. Per formattare il testo utilizzando tag html, puoi utilizzare il tagper i paragrafi:
Feed-Forward Neural Network. Questi problemi potrebbero essere risolti utilizzando una rete neurale feed-forward. Una rete neurale feed-forward è un tipo di rete neurale artificiale in cui l'informazione si muove in una sola direzione, in avanti, senza cicli o loop. È composta da uno o più strati di neuroni, chiamati anche nodi o unità, organizzati in modo gerarchico. Ogni neurone riceve input dai neuroni del livello precedente e produce un output che viene passato ai neuroni del livello successivo.
Accedi a tutti gli appunti
Tutor AI: studia meglio e in meno tempo
