Intelligenza artificiale e responsabilità medico-sanitaria

Project work del Master di I livello

Diritti, obblighi e responsabilità del pubblico dipendente

Intelligenza artificiale e responsabilità medico-sanitaria

Relatore Prof. Gaetano Edoardo Napoli

Candidata Chiara Macchiesi – matr. 090606

Anno Accademico 2023/2024

A Vincenzo, Leonardo e Valerio

Indice

CAPITOLO 1

L’Intelligenza Artificiale (IA): un mondo in continuo divenire Pag. 3

1.1. Cos’è l’Intelligenza Artificiale Pag. 3

1.2. La c.d. e-Health e l’utilizzo della IA e della robotica in campo medico Pag. 7

1.3. Rischi ed implicazioni legati all’utilizzo della IA in campo medico-sanitario Pag. 13

CAPITOLO 2

La responsabilità medico-sanitaria per danni cagionati tramite Pag. 19 l’utilizzo dei sistemi di IA

2.1. Il danno da utilizzo di sistemi di IA come illecito multi-agente Pag. 19

2.2. Il riparto di responsabilità nel danno da utilizzo dei sistemi di IA Pag. 22

2.2.1. La Legge Gelli-Bianco e il doppio binario di responsabilità per danni da malpractice medica causati mediante l’utilizzo dei sistemi di IA Pag. 23

2.2.1.1. La responsabilità della struttura sanitaria Pag. 25

2.2.1.2. La responsabilità dell’esercente la professione sanitaria Pag. 29

2.2.1.3. Risvolti processuali delle due distinte ipotesi di responsabilità Pag. 35

2.2.2. La responsabilità del produttore del sistema di IA Pag. 40

2.2.3. Profili di responsabilità in caso di sistemi di IA dotati di autonomia Pag. 44

CAPITOLO 3

Nuovi profili di responsabilità civile: le soluzioni prospettate dalla UE Pag. 52

3.1. Premessa Pag. 52

1

3.2. La Risoluzione del Parlamento Europeo in materia di responsabilità civile e IA del 20/10/2020 Pag. 57

3.3. La Proposta di Direttiva per l’armonizzazione delle norme degli Stati membri in tema di responsabilità civile extracontrattuale per danni provocati da sistemi di IA del 28/09/2022 Pag. 65

3.4. La soggettivazione dell’IA: una strada percorribile? Pag. 71

3.5. Concorso di colpa del paziente nella telemedicina: un caso Pag. 74 particolare

CAPITOLO 4

Considerazioni conclusive Pag. 84

Bibliografia e sitografia Pag. 91

2

Capitolo 1 - L’Intelligenza Artificiale (IA): un mondo in continuo divenire

1.1. Cos’è l’Intelligenza Artificiale

Il Parlamento Europeo definisce l’Intelligenza Artificiale (d’ora in avanti: IA) come “l’abilità di una macchina di mostrare capacità umane quali il ragionamento, l’apprendimento, la pianificazione e la creatività”.

L’IA permette ai sistemi di “capire il proprio ambiente, relazionarsi con quel che percepisce e risolvere problemi agendo verso un obiettivo specifico. Il computer riceve i dati (già preparati o raccolti tramite sensori, come una videocamera), li processa e risponde”1; i sistemi di IA sono pertanto costruiti in modo tale da adattare e migliorare il proprio comportamento analizzando gli effetti delle azioni precedenti, compresi gli errori commessi, e lavorando in autonomia2.

Nella Risoluzione del 16 febbraio 2017 recante raccomandazioni alla Commissione concernenti norme di diritto civile sulla robotica3, il Parlamento Europeo definisce i sistemi di IA come “sistemi che mostrano un comportamento intelligente, analizzando il proprio ambiente e compiendo azioni con un certo grado di autonomia per raggiungere obiettivi specifici”4.

1 https://www.europarl.europa.eu/topics/it/article/20200827STO85804/che-cos-e-l-intelligenza-artificiale-e-come-viene-usata

2 Calautti M. - Responsabilità medica e utilizzo dell'intelligenza artificiale: lo stato dell'arte. www.consulcesi.it

3 https://eur-lex.europa.eu/legal-content/IT/TXT/PDF/?uri=CELEX:52017IP0051

4 La stessa definizione di IA si riscontra nei documenti “L’Intelligenza artificiale per l’Europa” in https://eur-lex.europa.eu/legal-content/IT/ALL/?uri=COM:2018:237:FIN e nel “Piano coordinato sull’intelligenza artificiale” in https://eur-lex.europa.eu/legal-content/IT/TXT/?uri=CELEX%3A52018DC0795.

3

Un sistema di IA può basarsi su software che operano nel mondo virtuale (ad es., assistenti vocali, software di analisi delle immagini, motori di ricerca, sistemi di riconoscimento vocale e facciale) oppure essere integrato in dispositivi hardware (ad es., robot avanzati, auto autonome, droni o applicazioni IoT - Internet of Things5).

Nel linguaggio informatico si distinguono i sistemi di machine learning, che forniscono unicamente un supporto operativo alle decisioni dell’operatore umano, cui spetta impostare la ricerca, implementare i dati necessari ed infine valutare l’affidabilità dei risultati, da quelli di deep learning, basati invece su una complessa trama di reti neurali che, imitando il funzionamento del cervello umano, consentono di apprendere dati non forniti dall’operatore bensì appresi in modo automatico grazie all’utilizzo di algoritmi di calcolo statistico applicati ai dati presenti nella realtà6.

L’IA non è definita dal suo corpus mechanicum, ovvero dall’elemento materiale, bensì dal processo automatizzato, che acquisendo e rielaborando le informazioni raccolte è in grado di fornire una risposta7.

I sistemi di IA maggiormente avanzati risultano pertanto capaci di porre in essere con successo, e con un grado più o meno elevato di autonomia, operazioni simili all’attività umana di apprendimento e di assunzione di decisioni al fine del raggiungimento di specifici obiettivi, grazie all’impiego di tecnologie fondate su processi di machine learning, di deep learning e dell’utilizzo di reti neurali, programmate per funzionare sul modello del cervello umano8.

5 Chiappini D., Intelligenza Artificiale e responsabilità civile: nuovi orizzonti di regolamentazione alla luce dell’Artificial Intelligence Act dell’Unione europea, Rivista italiana di informatica e diritto, n. 2/2022, pag. 98. Per IoT o Internet delle Cose si intende quello sviluppo tecnologico in base al quale, attraverso la rete Internet, ogni oggetto acquista una sua identità nel mondo digitale; l'IoT si basa sull’idea di oggetti “intelligenti” tra loro interconnessi in modo da scambiare le informazioni possedute, raccolte e/o elaborate.

6 Ferretti F., Intelligenza artificiale e responsabilità civile in ambito sanitario, Actualidad Jurídica Iberoamericana n. 18/2023, p. 1855.

7 Trevisi C., La regolamentazione in materia di intelligenza artificiale, robot, automazione: a che punto siamo, in Medialaws, Rivista di diritto dei media 2/2018, pag. 447

4

Il Consiglio di Stato, con sentenza n. 7891 del 4 novembre 20219, ha efficacemente individuato la distinzione tra algoritmo automatico e Intelligenza artificiale, ove il primo rappresenta una sequenza definita di azioni in cui ad un input definito corrisponde ad un output altrettanto definito.

I giudici di Palazzo Spada osservano che “tale nozione, quando è applicata a sistemi tecnologici, è ineludibilmente collegata al concetto di automazione, ossia a sistemi di azione e controllo idonei a ridurre l’intervento umano”.

La tradizionale nozione di algoritmo si evolve quindi nell’utilizzo di impulsi automatizzati, funzionali alla semplificazione dell’attività umana.

Quando invece l’algoritmo prevede l’utilizzo dei meccanismi di machine learning più sopra enunciati, si è nel campo dell’Intelligenza artificiale, ovvero di un sistema “che non si limita solo ad applicare le regole dei software e i parametri preimpostati ma, al contrario, elabora nuovi criteri di interferenza tra dati e assume decisioni efficienti sulla base di tali elaborazioni, secondo un processo di apprendimento automatico”.

In sostanza, mentre l’algoritmo pone in essere un processo lineare e trasparente, con il machine learning e, soprattutto, con il deep learning è impossibile risalire a tutti gli step compiuti dal sistema per giungere alla valutazione finale; come già accennato, infatti, i processi di deep learning sono basati su reti neurali e la loro intrinseca “opacità” è dovuta alla natura stessa di questi sistemi, che possono risultare assai difficili da interpretare o decifrare.

8 Ruffolo U., L’Intelligenza artificiale in sanità: dispositivi medici, responsabilità e ‘‘potenziamento’’, Giurisprudenza Italiana, 02/2021, pag. 456.

9 Vera D., Gualandi G., Non esiste ad oggi una normativa dedicata alla responsabilità medica con utilizzo di IA ma l’applicazione delle leggi esistenti è inadeguata: definizioni, esempi, i soggetti in gioco, i presidi per la tutela preventiva. www.agendadigitale.eu

5

Recentemente il Presidente USA, in un Executive Order del 30 ottobre 2023, fornisce una definizione di IA che ne enfatizza l’ampiezza e la versatilità, includendo sia le applicazioni attuali che i potenziali sviluppi futuri delle tecnologie emergenti.

L’Intelligenza Artificiale viene infatti definita come “un sistema basato su macchine in grado di soddisfare una serie di obiettivi definiti dall’uomo. Questo sistema è capace di effettuare previsioni, fornire raccomandazioni o prendere decisioni che influenzano ambienti sia reali che virtuali. Un aspetto fondamentale dell’IA è la sua capacità di utilizzare sia input meccanici che umani per percepire questi ambienti. L’IA astrae tali percezioni in modelli attraverso un processo di analisi automatizzato ed, infine, utilizza l’inferenza tratta da questi modelli per formulare opzioni e azioni, sia a livello informativo che a livello pratico”10.

La capacità di astrazione e inferenza automatizzate rappresentano elementi-chiave, che permettono all’IA di operare efficacemente in un’ampia gamma di contesti e applicazioni11.

È possibile pertanto affermare che, nel quadro attuale, sia stato raggiunto un alto grado di autonomia della macchina, i cui comportamenti non sono più definibili tramite un codice di programmazione12; i tentativi della tecnologia di riprodurre la mente umana possono tuttavia riuscire solo in parte.

Il robot, infatti, “non appare in grado di riprodurre e formalizzare quel processo mentale che può essere definito come intuizione intellettuale. Con tale espressione ci si riferisce alla capacità del pensiero umano di cogliere l’essenza di una cosa, ossia di vederla come qualcosa di intero, indipendentemente da un procedimento logico di tipo dimostrativo”13.

10 https://www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence/

11 Chiarini G., Intelligenza Artificiale e responsabilità medica. www.chiarini.com

12 Biancardo A., Problematiche etico-giuridiche relative all’utilizzo dell’intelligenza artificiale in ambito sanitario, Jus-Online n. 3/2021, pag. 107.

6

Da tutto ciò discende che il comportamento del sistema di IA, al netto di un risultato desiderato raggiunto, non è del tutto conoscibile dall’uomo, neanche da colui che lo ha prodotto: i processi che il sistema mette in atto, infatti, sono difficilmente individuabili sia ex ante che ex post, dal momento che l’operatore può contare sulla relativa certezza del risultato che la tecnologia intelligente porterà a termine, ma non riuscirà ad individuare in che modo sia stato posto in essere un determinato procedimento.

Ne deriva un sistema caratterizzato da profonda complessità, incompletezza, opacità ed imprevedibilità, che, come si avrà modo di approfondire nel prosieguo della presente trattazione, mettono in crisi14 gli attuali modelli di responsabilità, in particolare quelli che si basano sul criterio di imputazione della colpa e sull’individuazione15 della stessa ai fini della responsabilità e del risarcimento del danno.

1.2. La c.d. e-Health e l’utilizzo della IA e della robotica in campo medico

Negli ultimi anni l’IA ha investito anche l’ambito medico sanitario16, introducendo il concetto di e-Health17: l’Organizzazione Mondiale della Sanità ha identificato con tale termine l’utilizzo di tecnologie informatiche e di telecomunicazione a beneficio della salute umana.

13 Moro P., Libertà dei robot? Sull’etica delle macchine intelligenti, in AA.VV., Filosofia del diritto e nuove tecnologie. Prospettive di ricerca tra teoria e pratica, a cura di Brighi R., Zullo S., Atti del XXIV Congresso della Società Italiana di Filosofia del Diritto, Aracne, 2015, pag. 530.

14 Chiappini D., Intelligenza Artificiale e responsabilità civile: nuovi orizzonti di regolamentazione alla luce dell’Artificial Intelligence Act dell’Unione europea, cit., pagg. 95-96.

15 Colletti E., Intelligenza artificiale e attività sanitaria. Profili giuridici dell’utilizzo della robotica in medicina, Giureta n. XIX/2021, pag. 205.

16 L’UE, nel Libro Bianco sull'intelligenza artificiale - Un approccio europeo all'eccellenza e alla fiducia (https://eur-lex.europa.eu/legal-content/IT/TXT/PDF/?uri=CELEX:52020DC0065),

7

Il fenomeno osservato va oltre il mero ammodernamento della pratica medica, ricollegandosi invero all’emergere di una nuova conoscenza18, del sapere medico tramite l’elaborazione di nuovi modelli di cura che porta con sé, oltre ad implicazioni politiche, etiche e sociali, anche evidenti riflessi giuridici a cui l’attuale legislatore non può rimanere indifferente, come si avrà modo di approfondire nel prosieguo della presente trattazione19.

L’IA è inoltre foriera di una rivoluzione copernicana in tema di rapporto medico-paziente; in conseguenza della progressiva automazione dell’attività sanitaria il medico, che un tempo era l’esclusivo custode delle conoscenze, rischierebbe di assumere un ruolo quasi marginale nel processo di cura, limitandosi alla validazione ed al controllo ex post dell’operato del sistema di IA.

Nel rapporto fra medico e paziente, insomma, dopo il già sofferto passaggio dal modello paternalistico a quello centrato sul paziente, la relazione si complica ulteriormente con l’intervento di un terzo20 soggetto: l’Intelligenza Artificiale.

Come già accennato, a causa dell’opacità degli algoritmi e dell’IA stessa non è spesso possibile comprendere appieno il percorso logico seguito dai sistemi intelligenti per pervenire alle proprie decisioni: si parla in questo caso di black box medicine, intesa come l’incapacità dell’utilizzatore di dispositivi e apparecchiature tecnologiche in ambito sanitario di comprenderne il funzionamento21, dal momento che il sistema opera per inferenza statistica e non per induzione22.

Punto F. rubricato Promuovere l’adozione dell’IA nel settore pubblico statuisce che “È essenziale che le amministrazioni pubbliche, gli ospedali (…) inizino rapidamente a utilizzare nelle loro attività prodotti e servizi che si basano sull'IA. Un'attenzione particolare sarà rivolta ai settori dell'assistenza sanitaria (…), in cui la tecnologia è abbastanza matura da consentire una diffusione su vasta scala”.

17 Biancardo A., Problematiche etico-giuridiche relative all’utilizzo dell’intelligenza artificiale in ambito sanitario, Jus-Online n. 3/2021, cit., pag. 110.

18 Colaruotolo A., Intelligenza artificiale e responsabilità medica: novità, continuità e criticità, Responsabilità Medica, n. 3/2022, pag. 300.

19 Colaruotolo A., ibidem, pag. 302.

20 Ferretti F., Intelligenza artificiale e responsabilità civile in ambito sanitario, cit., p. 1859.

8

Va inoltre tenuto presente che il robot è dotato di un’intelligenza meramente artificiale e non reale, di talché il sistema di IA non può e non deve assimilarsi ad un’entità intelligente quale l’Uomo23.

L’incremento dell’IA in campo medico e sanitario si ricollega all’aumento della popolazione e al relativo incremento del bisogno di assistenza medica, cui fanno da contraltare la cronica carenza di personale sanitario e gli elevati costi delle cure24.

Per tali motivi, è lecito ritenere che l’utilizzo di dispositivi intelligenti in medicina sia destinato a crescere in modo esponenziale nel corso degli anni a venire.

Nel momento attuale, peraltro in continua evoluzione, l’IA può trovare applicazione in svariati ambiti della pratica clinica25, fra i quali, a titolo meramente esemplificativo, possono annoverarsi i seguenti:

• 1. Diagnostica medica: supporto nella diagnosi delle malattie attraverso l’utilizzo di algoritmi di apprendimento automatico26 finalizzati ad analizzare grandi quantità di dati, quali immagini radiologiche o risultati di laboratorio;
• 2. Previsione della malattia: analisi dei dati sanitari di un individuo finalizzata a prevedere il rischio di sviluppare determinate patologie;
• 3. Assistenza sanitaria personalizzata: personalizzazione del trattamento dei pazienti in base alle loro esigenze individuali,

21 Pasceri G., Intelligenza artificiale, algoritmo e machine learning. La responsabilità del medico e dell’amministrazione sanitaria, Giuffrè, 2021, pag. 122 e ss.

22 Colletti E., Intelligenza artificiale e attività sanitaria, cit., pag. 202.

23 Finocchiaro G., Responsabilità e intelligenza artificiale, in Giur. It., 2019, pagg. 1677-1686.

24 Colaruotolo A.,