Oltre l'umano: sfide etiche e giuridiche nell'era dell'Intelligenza artificiale

Università degli Studi di Catania

Corso di Laurea Magistrale in Giurisprudenza

Margherita Palazzolo

Oltre l'umano: sfide etiche e giuridiche nell'era dell'Intelligenza Artificiale

Tesi di laurea

Relatore
Chiar.mo Prof. Alberto Andronico

Anno Accademico 2022/2023

A mia nonna Aurora
A mio padre

“Le nostre paure sono draghi a guardia dei nostri più profondi tesori”
Rainer Maria Rilke

Sommario

• Introduzione ...................................................................................... 5
• L'utilizzo dell'IA nell'argomentazione giuridica
• 1. Un errore di linguaggio: mímēsis di quale intelligenza? ........... 12
• 2. L'argomentazione giuridica e l'ars distinguendi ...................... 28
• 3. Razionalità artificiale e ragionamento giuridico: un tentativo di traduzione in linguaggio binario ..................................................... 39
• 4. Quale spazio per l'IA: i sistemi esperti e le reti neurali ...... 57
• Stato dell'arte dei sistemi esperti ........................................ 75
• Opacità e trasparenza dell'algoritmo modello di decisione ....... 86
• Implicazioni etiche e giuridiche della giustizia predittiva nel procedimento penale ........................................................................................................ 102
• 1. La pretesa di predizione tramite la ripetizione del passato ...... 102
• 2. La scelta algoritmica e i principi del giusto processo: l'indipendenza del giudice ............................................................ 115
• 3. Diritto penale e IA .................................................................. 133
• 4. I due poli della giustizia predittiva: a) predictive policing nella fase d'indagine ............................................................................. 143
• Segue: Criticità del predictive policing: i big data e la videosorveglianza ...................................................................... 159
• b) La giustizia predittiva e i bias discriminatori ...................... 169
• Il caso COMPAS e la distinzione tra “predizione” e “previsione” .............................................................................. 187
• Stato dell'arte dell'IA ............................................................... 200
• 1. Nuovi spazi e nuovi diritti: la necessità di regolamentare ....... 200
• 2. Il non-regulatory approach statunitense ................................. 204
• L'approccio europeo a) disciplinare l'etica dell'IA tramite il softlaw .......................................................................................... 212
• L'approccio europeo b) L'AI Act, AI made in EU ........... 227
• Segue. Il profilo penalistico dell'AI Act ............................ 242
• Prospettive: l'uomo come risposta ............................................. 255
• 1. Le reazioni tra apocalittici e integrati ..................................... 255
• 2. Una governance per una human-centered AI ......................... 264
• La libertà dell'1% : l'esistenzialismo come risposta ............... 273
• Conclusioni .................................................................................... 280
• Bibliografia .................................................................................... 285
• Ringraziamenti .............................................................................. 292

Introduzione

L'epoca contemporanea testimonia una rivoluzione senza precedenti nel campo dell'Intelligenza Artificiale, una "révolution graphique et rupture anthropologique", così come definita nel sottotitolo del libro di Garapon e Lassègue, ossia una rivoluzione che riguarda la scrittura del nostro mondo. La crescente espansione di detta tecnologia e il determinante ruolo di questa in ogni ambito della vita economico-sociale, con le sue notevoli potenzialità, solleva interrogativi, dubbi irrisolti e sfide etiche che richiedono l'attenzione concertata di accademici, policy maker e della società nel suo complesso.

Tra questi: qual è il vero timore alla base dell'atteggiamento restio di alcuni? La riduzione dell'umano in anguste categorie, la sua clusterizzazione, è uno strumento all'efficienza o alla superficialità? La difettività di semplificazione che giova costituisce dell'essere umano può essere letta come un valore nel binomio singolarità-difettività? Qual è il limite oltre il quale non è più possibile coniugare l'innovazione e la dignità della persona? Andare oltre l'umano ci renderà meno umani? Che ruolo ha il diritto in tutto questo?

L'onnipresenza degli algoritmi e delle tecnologie di Intelligenza Artificiale sta radicalmente mutando il tessuto sociale, trasformando la società dell'informazione in società algoritmica. Questa evoluzione segna il passaggio da un'era in cui l'informazione era al centro, a una in cui algoritmi sofisticati dettano le modalità di interazione, elaborazione e distribuzione delle informazioni, influenzando profondamente i comportamenti umani e le dinamiche sociali.

Di fronte al tentativo di una traduzione algoritmica dell'intero spettro dell'umanità, incluso l'universo giuridico, ci si interroga sulla consistenza dell'essenza umana, sulla sua presunta irriproducibilità, in quella che potrebbe sembrare una seconda fase luddista, stavolta però in un contesto capitalistico. L'Intelligenza Artificiale, dunque, si pone come ultimo tassello, come capitolo finale, del dramma nel quale gli esseri umani cercano se stessi.

L'accelerazione della capacità computazionale e l'accesso a vasti volumi di dati hanno catalizzato lo sviluppo dell'IA, trasformandola in un motore trainante dell'innovazione. Tale evoluzione sta determinando una rapida trasformazione globale, incidendo sulle forme di vita, sulle relazioni di potere e sulle forme simboliche esistenti, avviando così una vera e propria rivoluzione copernicana. In tale scenario si rende imperativa una riflessione sul futuro dell'esperienza giuridica e sulla posizione dell'individuo all'interno di questa nuova realtà.

Il mio interesse per questa tematica ha origine durante un periodo di tirocinio a Bruxelles ed in particolare in un convegno svoltosi al Parlamento europeo, durante il quale ho avuto l'occasione di investigare diverse implicazioni giuridiche legate all'Intelligenza Artificiale. Più nel dettaglio, mi sono confrontata con questioni inerenti il Metaverso, la tutela della privacy e l'AI Act, esperienza che ha rappresentato per me l'apertura di un vero e proprio vaso di Pandora.

L'approccio metodologico adottato in questa dissertazione è deliberatamente multidimensionale, requisito indispensabile per comprendere la complessa interazione tra il sistema dei valori e delle norme e le opportunità offerte dalle tecnologie emergenti. Pertanto, i riferimenti teorici, oltre che chiaramente giuridici, spaziereranno tra la filosofia, l'antropologia, nonché l'ingegneria e la fisica.

Tra le diverse tematiche al crocevia tra il diritto e l'Intelligenza Artificiale, è stata selezionata per un'analisi approfondita la questione dell'argomentazione giuridica, in particolare nel contesto della giustizia predittiva, con un'attenzione specifica alle sue implicazioni per lo Stato di diritto e per il procedimento penale.

L'avanzamento dell'Intelligenza Artificiale offre all'umanità una prospettiva affascinante, se non addirittura utopica: quella di una potenziale immortalità attraverso l'integrazione tra la coscienza umana e le macchine. Tale prospettiva apre scenari in cui l'essenza della mente potrebbe prescindere dalla mortalità fisica del corpo, interrogandoci profondamente sull'essenza della nostra identità in quanto entità senzienti e consapevoli. L'incalzare delle rapide trasformazioni digitali, insieme alla capacità delle macchine di emulare determinate funzionalità cognitive umane, sollevano questioni riguardo alla delega di processi decisionali alle macchine, anche in ambiti delicati e da sempre percepiti come strettamente umani, come quello giurisdizionale, introducendo sfide giuridiche inedite e trasversali.

Per tale motivo, nel primo Capitolo del presente elaborato, si è in primis analizzata l'annosa questione della razionalità artificiale quale mímēsis dell'intelletto umano, avvalendosi dei contributi delle neuroscienze e arricchendo l'analisi con riferimenti all'arte e alla cinematografia. È stata condotta una disamina sulla valenza dell'Intelligenza Artificiale come elemento di rottura nella società contemporanea per quanto concerne le dinamiche culturali e la costruzione dell'individuo. L'esito di tale indagine suggerisce che la codificazione della realtà in linguaggio binario partendo dalla traduzione del ragionamento in procedimento verbale è essenzialmente limitata e parziale, postulando che, sebbene i sistemi esperti possano offrire supporto, essi non dovrebbero sostituirsi integralmente al discernimento umano. Facendo anche riferimento alla teoria della bi-logica dello psicoanalista Ignacio Matte Blanco, si è chiarito, prima, il passaggio dal pre-conscio all'elaborazione di un'argomentazione espressa e, poi, alcune radici psicologiche dei ragionamenti e delle fallacie che possono viziarli i singoli argomenti. Ne è derivata la presa d'atto dello svolgimento dei ragionamenti manifesti sullo sfondo di presupposti inesplicati e di basi entimematiche che stanno alla base dell'ars distinguendi, ossia dell'arte naturale legata alla spontanea attitudine della mente di associare e dissociare le nozioni e i giudizi.

In aggiunta, la ricerca ha affrontato il problema dell'opacità degli algoritmi, identificando nella loro natura di "black box", quali moderni arcana imperii, un ostacolo alla piena comprensione e legittimazione del processo decisionale basato sull'IA. Sotto una chiave geopolitica, si è mostrata la palese disproporzione nella distribuzione dei dataset e la conseguente mancata considerazione di collezioni di dati diversificate. Successivamente, si è evidenziato il nesso tra l'obbligo di motivazione della sentenza nell'ordinamento italiano e la trasparenza dell'algoritmo. Infine, nell'ottica di una maggiore accountability, si è mostrata la prospettiva dell'Explainable AI (XAI), ossia di un'Intelligenza Artificiale che sia trasparente.

Nel sistema giuridico, la necessità di adeguarsi a un nuovo umanesimo digitale, di fronte alle sfide inedite e complesse poste dall'evoluzione dell'IA, implica il riconoscimento della storicità delle categorie del diritto e del necessario ripensamento di alcune di queste. Questo processo di riflessione e adattamento si rivela cruciale per garantire che il progresso tecnologico proceda in armonia con i valori fondamentali della società e con la salvaguardia dei diritti umani, nel contesto di un panorama giuridico in rapida evoluzione.

La rivoluzione copernicana innescata dall'Intelligenza Artificiale non poteva che coinvolgere anche il diritto penale, disciplina profondamente radicata nella realtà socio-culturale e nella necessità di regolamentare comportamenti umani in funzione della tutela della collettività. La ricerca ha anzitutto tentato di "sciogliere" il binomio intelligenza artificiale-diritto penale, allo scopo di meglio precisare le possibili applicazioni degli algoritmi nel settore. L'interazione tra l'Intelligenza Artificiale e il diritto penale si manifesta tanto nella sfera sostanziale, quanto in quella processuale.

In merito alla prima, l'analisi si è concentrata sulle ripercussioni dell'IA nelle categorie del diritto penale, ponendo particolare enfasi sulla causalità e sull'istituto della responsabilità. Introducendo una teoria basata sulla fictio iuris, si sono presentati due modelli semplificati per descrivere i rapporti tra il diritto penale e le nuove tecnologie: il "modello della rivoluzione copernicana" e il "modello dell'eterno ritorno dell'uguale". Sulla base del primo si ritiene che le nuove tecnologie implichino un cambiamento radicale nel diritto penale, un mutamento di paradigma, che richiederebbe non una reinterpretazione ma una riformulazione complessiva del sistema; al contrario, la seconda teoria argomenta che le innovazioni tecnologiche pongano nuovamente questioni storiche e talvolta irrisolte del diritto penale, sebbene in termini e linguaggi inediti, richiedendo quindi non una riscrittura delle basi del sistema, ma un apprezzamento maggiore delle strutture esistenti.

Il secondo Capitolo si è incentrato sul secondo aspetto: si è così proceduto ad indagare le conseguenze dell'uso dell'IA nel procedimento penale e nei principi del giusto processo, con un'attenzione particolare al principio di indipendenza del giudice. Se, difatti, da un lato, le nuove tecnologie promettono di migliorare l'efficienza dei procedimenti giudiziari, accelerando le operazioni e affinando l'analisi dei dati, dall'altro esse sollevano preoccupazioni significative relative alla trasparenza, all'imparzialità e alla tutela della privacy.

Attraverso un'analisi comparativa tra le maggiori potenze internazionali operanti nel campo, è stata eseguita un'esplorazione dettagliata della biforcazione concettuale inerente alla giustizia predittiva: il predictive policing, nella sua fase investigativa, e la giustizia predittiva in senso stretto.

Nel contesto del predictive policing, si sono analizzate e messe a confronto le metodologie attualmente impiegate, distinguendo tra le pratiche adottate in Europa e quelle prevalenti negli Stati Uniti. Tale esame ha permesso di evidenziare le questioni critiche legate all'impiego dei big data e alla videosorveglianza, facendo altresì riferimento al sistema implementato in Cina. Questa indagine ha messo in luce le differenti approcci e le specifiche applicazioni tecnologiche utilizzate nei vari contesti geografici per prevenire il crimine e assistere nelle indagini, rivelando come tali strumenti possano variare significativamente in base alle normative locali, alle preoccupazioni etiche e alla cultura giuridica di riferimento. Le problematiche sollevate dall'uso dei big data e della videosorveglianza riguardano principalmente la tutela della privacy e il rischio di perpetuare pregiudizi esistenti attraverso algoritmi non trasparenti e potenzialmente viziati da bias.

L'universo della giustizia predittiva è stata invece esaminata muovendo dall'analisi dell'emblematico caso COMPAS e procedendo con un approfondimento nell'esperienza statunitense dei principali software diffusi sia che in quella europea. Quest'analisi ha mirato a valutare la capacità di tali strumenti di incrementare la prevedibilità degli esiti giudiziari, in un'eco del realismo giuridico statunitense, ponendo in luce sia le potenzialità sia i limiti di questi sistemi, tra cui spiccano i bias discriminatori e le problematiche legate all'effettiva applicabilità dell'Intelligenza Artificiale in contesti giuridici.

La crescente richiesta di sicurezza, unitamente alla complessità delle dinamiche criminali contemporanee, le inclinazioni soggettive all'errore, e la dilatazione dei procedimenti penali, alimentano il dibattito sull'opportunità di una maggiore "oggettivizzazione" del sistema giuridico, volta a incrementarne l'efficienza e il controllo. Tuttavia, questo orientamento si scontra con la necessità di assicurare una trasparenza maggiore nei confronti degli algoritmi impiegati, che, essendo spesso prodotti da entità private senza una condivisione aperta dei codici sorgente, potrebbero minacciare i principi fondamentali di garanzia che costituiscono l'ossatura dello Stato di diritto. In aggiunta, l'adozione di alcuni software di polizia predittiva, basati su un determinismo causale, suggerisce un possibile mutamento di paradigma rispetto alle tradizionali concezioni del diritto penale, potenzialmente riducendo il ruolo del discernimento umano, della capacità interpretativa e della flessibilità normativa di fronte a situazioni nuove - aspetti essenziali per garantire una giustizia equa e dinamica.

Il terzo Capitolo del presente lavoro si dedica all'esplorazione dello stato dell'arte dell'Intelligenza Artificiale, confrontando l'approccio prevalentemente deregolamentato degli Stati Uniti con quello europeo, più incline alla regolamentazione. Dopo una prima disamina sulla disciplina dell'etica nell'unione europea tramite il softlaw, ci si è focalizzati sul pioneristico AI Act, approvato il mese scorso, soffermandosi sul profilo penalistico.

Infine, nel Capitolo conclusivo, si discutono le reazioni globali all'avanzata dell'Intelligenza Artificiale, distinguendo tra visioni apocalittiche e prospettive di integrazione, e si propone l'esistenzialismo come approccio filosofico di riferimento. Ciò prelude alla definizione di una governance orientata verso un'Intelligenza Artificiale centrata sull'essere umano (human-centered AI), che possa armare la società di strumenti idonei ad affrontare le nuove sfide poste da questa tecnologia emergente.