Applicazione di reti neurali per la definizione della temperatura nel processo di termoformatura di polimeri

Università degli studi di Roma Tor Vergata

Macroarea di ingegneria

Corso di studio in Ingegneria Gestionale

Tesi di laurea in Tecnologie dei Processi Produttivi

Titolo

Applicazione di reti neurali per la definizione della temperatura nel processo di termoformatura di polimeri

Relatrice: Chiar.ma Prof.ssa Nadia Ucciardello

Laureando: matricola: 0296877 Alessio Di Camillo

Correlatore: Chiar.mo Prof. Gabriele Baiocco

Anno Accademico 2022/2023

Introduzione

Questo lavoro di tesi consiste nell’implementare una rete neurale artificiale tramite il software Matlab.

Tale rete dovrà prevedere la temperatura a cui arriva il polimero in determinate condizioni durante il processo di termoformatura per la produzione di blister.

Quest’ultima è stata addestrata con 76 dati i quali ci sono stati forniti dall’azienda Janssen.

Come prima cosa è stata fatta un’analisi statistica dei dati per individuare eventuali valori anomali e possibili correlazioni tra le variabili in esame.

Successivamente è stata addestrata la rete con i dati analizzati rimuovendo i valori anomali trovati.

La tesi è suddivisa in tre capitoli: Stato dell’Arte, Materiali e Metodi ed infine Risultati.

Il primo capitolo è stato suddiviso in tre paragrafi e descrive da un punto vista teorico cosa sono e a cosa servono le reti neurali, cos’è e come avviene il processo di termoformatura dei polimeri ed infine vengono analizzati gli strumenti statistici utilizzati nel capitolo Materiali e Metodi.

Nel secondo capitolo viene mostrato lo scopo della tesi e gli strumenti necessari a raggiungere determinati risultati.

Nel terzo e ultimo capitolo vengono riportati e analizzati i risultati ottenuti facendo riferimento anche a dei grafici quando necessario.

I software utilizzati risultano essere Matlab, Excel e Minitab per quanto riguarda l’analisi statistica dei dati mentre per la realizzazione della rete neurale è stato utilizzato Matlab.

0

Indice

Capitolo I: Stato dell’Arte

I. Introduzione alle reti neurali

I.1. Reti neurali biologiche ................................................................. 3

I.2. Confronto reti neurali biologiche e artificiali .............................. 6

I.3. Reti neurali artificiali ................................................................... 7

I.3.1. Neurone artificiale ....................................................................................................................................... 10

I.3.2. Architettura di una rete neurale 12

I.3.3. Fase di addestramento della rete .............................................................................................. 15

I.3.4. Classi di problemi risolvibili con le reti neurali

II. La termoformatura

II.1. Introduzione .............................................................................. 16

II.2. Materiali plastici utilizzati ........................................................ 18

II.3. La tecnologia del processo ....................................................... 22

II.3.1. Le macchine monostazione ........................................................ 22

II.3.2. Le macchine in linea ................................................................. 25

II.4. Il riscaldamento del foglio ........................................................ 27

II.5. Stampi utilizzati nella termoformatura ..................................... 31

II.6. Confronto tra termoformatura e stampaggio ad iniezione ....... 34

III. Analisi statistica dei dati

III.1. Introduzione ............................................................................ 36

III.2. Raccolta dati ............................................................................ 38

III.3. Istogramma .............................................................................. 39

III.4. Confronto tra istogrammi e diagrammi a barre ....................... 42

III.5. Analisi di correlazione ............................................................ 43

III.6. Box plot ................................................................................... 46

III.7. Anova ...................................................................................... 48

III.8. Clustering ................................................................................ 51

1

Capitolo II: Materiali e Metodi

II.1. Introduzione .............................................................................. 53

II.2. Analisi dei dati .......................................................................... 57

II.3. Rete neurale .............................................................................. 57

Capitolo III: Risultati

III.1. Introduzione ............................................................................ 58

III.2. Analisi dei dati ........................................................................ 59

II.2.1. Istogramma I ............................................................................ 59

II.2.2. Box plot I ................................................................................ 60

III.2.3. Clustering .............................................................................. 62

III.2.4. Analisi di correlazione ............................................................. 67

III.2.5. Anova ................................................................................... 69

III.2.6. Response Surface .................................................................... 72

III.3. Rete neurale ............................................................................. 74

III.4. Conclusioni ............................................................................. 80

Bibliografia ......................................................................................... 84

Ringraziamenti .................................................................................... 86

2

Capitolo I

Stato dell’Arte

Introduzione alle reti neurali

I.1. Reti neurali biologiche

Le reti neurali biologiche risultano essere alla base dello studio di quelle artificiali, le quali sono state create per riprodurre artificialmente ciò che riesce a fare il cervello umano come ad esempio la classificazione di un’immagine.

Per tale motivo è necessario chiarire la composizione del sistema nervoso umano.

Quest’ultimo è formato da miliardi di neuroni, i quali scambiano tra loro segnali elettrici attraverso delle ramificazioni chiamate dendriti.

Inoltre, il neurone è formato da un corpo cellulare, il quale contiene tutti gli elementi più importanti della cellula come il nucleo, necessario a trasmettere i vari impulsi ad altri neuroni attraverso dei terminali ramificati e l’assone.

Infine, è importante sottolineare che tra i terminali dell’assone di un neurone e i dendriti del neurone successivo vi è uno spazio detto spazio sinaptico.

Figura I.1: Struttura di un neurone biologico

3

Un neurone viene attivato, cioè trasmette un segnale elettrico al neurone successivo, per via di una differenza di potenziale.

Tale differenza è causata dalla presenza in diverse quantità di ioni sodio e potassio.

La trasmissione deve attraversare diversi passaggi, infatti si verifica una fase di attività e una di riposo.

Nella fase di riposo (1) il potenziale è negativo, quindi si ha un maggior numero di cariche negative all’interno della cellula, esso è causato dalla minor quantità di ioni sodio all’interno rispetto all’ambiente esterno, il potenziale in tale stato si aggira intorno ai -70 millivolt.

Nella fase di attività, il segnale nervoso avviene tutto insieme, varia velocemente il potenziale elettrico (2 e 3), ovvero aumenta e diventa positivo, e la trasmissione avviene solo quando tale potenziale arriva a circa 50 millivolt, in quel punto si ha lo spark, ovvero il raggiungimento della differenza di potenziale necessaria ad avviare l’impulso nervoso.

Immediatamente dopo la cellula torna al potenziale di riposo col movimento inverso delle cariche elettriche (4); tuttavia prima di tornare alla situazione iniziale il potenziale va al di sotto di quello di riposo (5), tale momento viene denominato fase di latenza, in essa la cellula non è capace di rispondere ad un altro segnale, e infine la cellula torna alla fase di riposo.

Variazione di potenziale all’interno della cellula

Figura I.2:

A livello della membrana plasmatica del neurone vi sono dei recettori passivi, i quali possono essere spontaneamente aperti o chiusi in funzione della carica elettrica circostante, e altri attivi, i quali attraverso il consumo di energia riescono a portare gli ioni all’interno o all’esterno della cellula.

Un esempio di quest’ultimi è la pompa sodio potassio, fondamentale per il sistema nervoso, essa tramite consumo di ATP fa passare gli ioni contro gradiente di concentrazione (gli altri processi coinvolti nel sistema nervoso avvengono spontaneamente per gradiente di concentrazione).

4

Nel particolare i canali sodio normalmente nella fase di riposo si trovano chiusi, quindi il sodio esterno è impossibilitato ad entrare all’interno e la pompa sodio potassio spinge il sodio all’esterno, quindi nella fase di riposo vi sono molte cariche all’esterno (dato anche dal passaggio del potassio verso l’esterno).

I canali potassio invece nella fase in cui i sodio sono chiusi, risultano essere aperti, quindi l’uscita del potassio avviene in modo naturale, e questo contribuisce a raggiungere il potenziale di -70 millivolt.

Quando arriva lo stimolo nervoso, la pompa sodio potassio che spinge il sodio all’esterno si arresta e non spinge più gli ioni, inoltre con l’innalzamento del potenziale di membrana si aprono i canali sodio, così si verifica un brusco passaggio all’interno dello ione sodio che fa variare il potenziale, riduce la negatività, e tale processo si chiama depolarizzazione della membrana, tale spostamento di carica prosegue fino al potenziale d’azione e dopo lo spark avviene la ripolarizzazione, quindi si riavvia il trasferimento degli ioni, con la chiusura dei canali sodio e apertura dei potassio, con attivazione della pompa.

Tale meccanismo avviene solo per sezioni dell’assone, non tutto insieme, pur essendo molto rapido.

Quando giunge l’impulso elettrico ai terminali dell’assone provoca la liberazione dei neurotrasmettitori, sostanze chimiche rilasciate dai terminali stessi, che permette la trasmissione del segnale attraverso lo spazio sinaptico da un neurone all’altro.

Figura I.3: Trasmissione impulso tra neuroni

5

Il cervello presenta numerose caratteristiche che lo rendono unico e di difficile imitazione.

Esso è infatti in grado di modificare le connessioni tra i neuroni in base all’esperienza acquisita, cioè è in grado di imparare, tale capacità viene chiamata neuroplasticità.

La modifica delle sinapsi si verifica in seguito ad attività neurali ripetute, avviene quindi un potenziamento delle sinapsi coinvolte in quelle determinate funzioni, creando connessioni più forti ed efficienti.

Il cervello umano ha inoltre una grande capacità, ossia quella di continuare a funzionare nonostante delle cellule risultano essere danneggiate, all’aumentare del numero di queste cellule danneggiate le prestazioni degraderanno gradualmente.

Tale caratteristica viene chiamata fault tolerant.

Infine, le varie zone del cervello possono essere considerate come una cosa sola in quanto tali zone cooperano insieme al fine di realizzare un determinato compito.

I.2. Confronto reti neurali biologiche e artificiali

Nonostante le reti neurali artificiali siano state create per riprodurre le attività tipiche del cervello umano, i cervelli e i computer risultano avere proprietà piuttosto differenti.

Per prima cosa è importante sottolineare che i chip dei computer risultano essere molto più veloci rispetto ad un neurone biologico.

Quest’ultimo, infatti, solo per attivarsi richiede un lasso di tempo della grandezza dei millisecondi; invece, un processore è in grado di risolvere determinate istruzioni in nanosecondi, quindi sei ordini di grandezza inferiori rispetto ai millisecondi.

Tale svantaggio viene però colmato dal fatto che i neuroni riescono a lavorare simultaneamente, a differenza di un computer che per attivare una sua unità richiede molti cicli.

Per quanto detto, innovative ricerche tentano costantemente di realizzare una macchina che riesca a combinare il parallelismo del cervello con la velocità di operazione di un computer.

Per via di tale parallelismo infatti, un determinato compito come riconoscere un volto per noi umani risulta essere molto semplice in quanto ci richiede una frazione di secondo per essere compiuto.

La stessa istruzione però per essere svolta da un computer richiede molti cicli e per questo non risulta essere semplice come lo può essere per il cervello umano.

Inoltre, i malfunzionamenti vengono gestiti di gran lunga meglio dal cervello umano rispetto ad un computer.

6

Quest’ultimi infatti possono fallire un intero calcolo per via di un singolo bit alterato.

Un’altra differenza significativa è la gestione dei nuovi input da parte del cervello umano rispetto ad una macchina artificiale.

Il cervello infatti quasi tutti i giorni viene posto nella condizione di gestire nuovi ingressi a differenza di un computer, il quale può riscontrare problemi con ingressi inattesi.

I.3. Reti neurali artificiali

I.3.1. Neurone artificiale

Le reti neurali artificiali risultano essere formate da un determinato numero di neuroni artificiali, i quali sono creati per imitare il funzionamento di quelli biologici.

L’impulso mandato da un neurone artificiale è di tipo numerico e nella figura sottostante viene denominato ‘y’.

Figura I.4: Modello di un neurone artificiale

Il neurone artificiale è caratterizzato da tre elementi fondamentali:

• 1. Le sinapsi, le quali sono delle connessioni aventi un determinato peso, in particolare sono presenti n canali di ingresso x₁, ..., x_n, a ciascuno dei quali è associato un numero reale che rappresenta il peso w₁, ..., w_n.
• 2. Una sommatoria pesata necessaria ad addizionare i segnali in ingresso al neurone.
• 3. Una funzione di trasferimento o attivazione la quale gestisce il segnale in uscita dal neurone. Tale segnale viene chiamato ‘y’ ed è generalmente un numero compreso nell’intervallo [0,1] oppure [-1,1].

7

Perciò, per quanto detto in precedenza, l’uscita viene regolata tramite la funzione sopracitata, la quale prende in input la somma pesata dei segnali in ingresso.

Tale somma viene calcolata come segue ∑ = w_ix_i; se il peso w_i è positivo, il canale è detto eccitatorio, altrimenti, il canale viene chiamato inibitorio.

Il valore assoluto del peso rappresenta la forza della connessione.

Esistono varie funzioni di trasferimento:

• Funzione soglia

L’uscita dal neurone (rappresentata dal valore y=f(a)) con tale tipologia di funzione è la seguente: rappresenta la soglia

Figura I.5: Grafico della funzione soglia

Di conseguenza è possibile notare come il neurone trasmetterà un segnale in uscita di valore pari ad 1 solamente se la somma pesata in input sarà almeno pari ad una determinata soglia.

• Funzione lineare

Questo tipo di funzione fornisce un segnale in uscita pari alla somma pesata ottenuta in ingresso. (y=f(a)=a)

Figura I.6: Grafico della funzione lineare

8

• Funzione lineare a tratti

Di seguito viene riportato un esempio di funzione lineare a tratti:

Figura I.7: Grafico della funzione lineare a tratti

• Funzione sigmoide

Questo tipo di funzione e la funzione soglia risultano essere le più utilizzate in una rete neurale.

Un esempio di tale funzione è la funzione logistica, definita come segue:

Figura I.8: Grafico della funzione sigmoide

È possibile osservare come, a differenza della funzione soglia in cui y può assumere solamente due valori 0 o 1, in questo caso il segnale assume tutti i valori compresi tra 0 e 1.

Inoltre, tale funzione risulta essere derivabile a differenza della funzione soglia.

9

• Funzione segno

Infine, la funzione segno viene definita come segue:

Figura I.9: Grafico della funzione segno

I.3.2. Architettura di una rete neurale

La rete neurale artificiale risulta essere formata da un insieme di neuroni posizionati a formare degli strati.

In questi strati ogni neurone è collegato a quello dello strato successivo ma non viceversa, tale configurazione viene schematizzata nella figura I.10.

A seconda del problema che si intende risolvere vengono utilizzati un determinato numero di neuroni e di strati.

Questo viene deciso nella prima fase di setup della rete.

I segnali vengono trasmessi dallo strato di ingresso fino ad arrivare allo strato di uscita passando eventualmente per degli strati nascosti, cioè strati dove i neuroni non comunicano direttamente con l’esterno. Tale rete viene chiamata feedforward.

Figura I.10: Modello di una rete neurale stratificata

10

Le connessioni tra i neuroni vengono rappresentate con tante matrici quante sono le coppie di strati adiacenti, queste matrici contengono i pesi delle varie connessioni.

L’attivazione di un neurone può essere asincrona oppure sincrona, nel primo caso viene attivato un neurone per volta mentre nel secondo caso tutti i neuroni si attivano contemporaneamente.

Per progettare una rete neurale artificiale risulta essere necessario seguire tre fasi principali: fase di progetto, fase di addestramento e fase di generalizzazione.

• 1) La prima fase consiste nel decidere e fissare il numero di strati necessari alla rete e il numero di neuroni per ogni singolo strato.
• 2) La seconda fase consiste nel modificare i vari pesi