Intelligenza artificiale e responsabilità medico-sanitaria

Project Work del Master di I livello

Diritti, obblighi e responsabilità del pubblico

dipendente

Intelligenza artificiale

e responsabilità medico-sanitaria

Relatore

Prof. Gaetano Edoardo Napoli

Candidata

Chiara Macchiesi – matr. 090606

Anno Accademico 2023/2024 A Vincenzo, Leonardo e Valerio

INDICE

CAPITOLO 1

L’Intelligenza Artificiale (IA): un mondo in continuo divenire Pag. 3

1.1. Cos’è l’Intelligenza Artificiale Pag. 3

1.2. La c.d. e-Health e l’utilizzo della IA e della robotica in campo

medico Pag. 7

1.3. Rischi ed implicazioni legati all’utilizzo della IA in campo medico-

sanitario Pag. 13

CAPITOLO 2

La responsabilità medico-sanitaria per danni cagionati tramite Pag. 19

l’utilizzo dei sistemi di IA

2.1. Il danno da utilizzo di sistemi di IA come illecito multi-agente Pag. 19

2.2. Il riparto di responsabilità nel danno da utilizzo dei sistemi di IA Pag. 22

2.2.1. La Legge Gelli-Bianco e il doppio binario di responsabilità per danni da

malpractice medica causati mediante l’utilizzo dei sistemi di IA Pag. 23

2.2.1.1. La responsabilità della struttura sanitaria Pag. 25

2.2.1.2. La responsabilità dell’esercente la professione sanitaria Pag. 29

2.2.1.3. Risvolti processuali delle due distinte ipotesi di responsabilità Pag. 35

2.2.2. La responsabilità del produttore del sistema di IA Pag. 40

2.2.3. Profili di responsabilità in caso di sistemi di IA dotati di

autonomia Pag. 44

CAPITOLO 3

Nuovi profili di responsabilità civile: le soluzioni prospettate

dalla UE Pag. 52

3.1. Premessa Pag. 52

1

3.2. La Risoluzione del Parlamento Europeo in materia di

responsabilità civile e IA del 20/10/2020 Pag. 57

3.3. La Proposta di Direttiva per l’armonizzazione delle norme degli

Stati membri in tema di responsabilità civile extracontrattuale per

danni provocati da sistemi di IA del 28/09/2022 Pag. 65

3.4. La soggettivazione dell’IA: una strada percorribile? Pag. 71

3.5. Concorso di colpa del paziente nella telemedicina: un caso Pag. 74

particolare

CAPITOLO 4

Considerazioni conclusive Pag. 84

Bibliografia e sitografia Pag. 91

2

CAPITOLO 1 - L’Intelligenza Artificiale (IA): un

mondo in continuo divenire

1.1. Cos’è l’Intelligenza Artificiale

Il Parlamento Europeo definisce l’Intelligenza Artificiale (d’ora in

avanti: IA) come “l’abilità di una macchina di mostrare capacità

umane quali il ragionamento, l’apprendimento, la pianificazione e la

creatività”.

L’IA permette ai sistemi di “capire il proprio ambiente, relazionarsi

con quel che percepisce e risolvere problemi agendo verso un

obiettivo specifico. Il computer riceve i dati (già preparati o raccolti

1 ; i

tramite sensori, come una videocamera), li processa e risponde”

sistemi di IA sono pertanto costruiti in modo tale da di adattare e

migliorare il proprio comportamento analizzando gli effetti delle azioni

2

precedenti, compresi gli errori commessi, e lavorando in autonomia .

Nella Risoluzione del 16 febbraio 2017 recante raccomandazioni alla

3 , il

Commissione concernenti norme di diritto civile sulla robotica

Parlamento Europeo definisce i sistemi di IA come “sistemi che

mostrano un comportamento intelligente, analizzando il proprio

ambiente e compiendo azioni con un certo grado di autonomia per

4

raggiungere obiettivi specifici” .

1 https://www.europarl.europa.eu/topics/it/article/20200827STO85804/che-cos-e-l-

intelligenza-artificiale-e-come-viene-usata

2 Calautti M. - Responsabilità medica e utilizzo dell'intelligenza artificiale: lo stato dell'arte.

www.consulcesi.it

3 https://eur-lex.europa.eu/legal-content/IT/TXT/PDF/?uri=CELEX:52017IP0051

4 La stessa definizione di IA si riscontra nei documenti “L’Intelligenza artificiale per l’Europa”

in https://eur-lex.europa.eu/legal-content/IT/ALL/?uri=COM:2018:237:FIN e nel “Piano

coordinato sull’intelligenza artificiale” in https://eur-lex.europa.eu/legal-

content/IT/TXT/?uri=CELEX%3A52018DC0795. 3

Un sistema di IA può basarsi su software che operano nel mondo

virtuale (ad es., assistenti vocali, software di analisi delle immagini,

motori di ricerca, sistemi di riconoscimento vocale e facciale) oppure

essere integrato in dispositivi hardware (ad es., robot avanzati, auto

5 ).

autonome, droni o applicazioni IoT - Internet of Things

Nel linguaggio informatico si distinguono i sistemi di machine learning,

che forniscono unicamente un supporto operativo alle decisioni

dell’operatore umano, cui spetta impostare la ricerca, implementare i

dati necessari ed infine valutare l’affidabilità dei risultati, da quelli di

deep learning, basati invece su una complessa trama di reti neurali

che, imitando il funzionamento del cervello umano, consentono di

apprendere dati non forniti dall’operatore bensì appresi in modo

automatico grazie all’utilizzo di algoritmi di calcolo statistico applicati

6

ai dati presenti nella realtà .

L’IA non è definita dal suo corpus mechanicum, ovvero dall’elemento

materiale, bensì dal processo automatizzato, che acquisendo e

rielaborando le informazioni raccolte è in grado di fornire una

7

risposta .

I sistemi di IA maggiormente avanzati risultano pertanto capaci di

porre in essere con successo, e con un grado più o meno elevato di

autonomia, operazioni simili all’attività umana di apprendimento e di

assunzione di decisioni al fine del raggiungimento di specifici obiettivi,

grazie all’impiego di tecnologie fondate su processi di machine

5 Chiappini D., Intelligenza Artificiale e responsabilità civile: nuovi orizzonti di

regolamentazione alla luce dell’Artificial Intelligence Act dell’Unione europea, Rivista italiana

di informatica e diritto, n. 2/2022, pag. 98.

Per IoT o Internet delle Cose si intende quello sviluppo tecnologico in base al

quale, attraverso la rete Internet, ogni oggetto acquista una sua identità nel mondo digitale;

l'IoT si basa sull’idea di oggetti “intelligenti” tra loro interconnessi in modo da scambiare le

informazioni possedute, raccolte e/o elaborate.

6 Ferretti F., Intelligenza artificiale e responsabilità civile in ambito sanitario, Actualidad

Jurídica Iberoamericana n. 18/2023, p. 1855.

7 Trevisi C., La regolamentazione in materia di intelligenza artificiale, robot, automazione: a

che punto siamo, in Medialaws, Rivista di diritto dei media 2/2018, pag. 447 4

learning, di deep learning e dell’utilizzo di reti neurali, programmate

8 .

per funzionare sul modello del cervello umano 9 , ha

Il Consiglio di Stato, con sentenza n. 7891 del 4 novembre 2021

efficacemente individuato la distinzione tra algoritmo automatico e

Intelligenza artificiale, ove il primo rappresenta una sequenza definita

di azioni in cui ad un input definito corrisponde ad un output

altrettanto definito.

I giudici di Palazzo Spada osservano che “tale nozione, quando è

applicata a sistemi tecnologici, è ineludibilmente collegata al concetto

di automazione, ossia a sistemi di azione e controllo idonei a ridurre

l’intervento umano”.

La tradizionale nozione di algoritmo si evolve quindi nell’utilizzo di

impulsi automatizzati, funzionali alla semplificazione dell’attività

umana.

Quando invece l’algoritmo prevede l’utilizzo dei meccanismi di

machine learning più sopra enunciati, si è nel campo dell’Intelligenza

artificiale, ovvero di un sistema “che non si limita solo ad applicare le

regole dei software e i parametri preimpostati ma, al contrario,

elabora nuovi criteri di interferenza tra dati e assume decisioni

efficienti sulla base di tali elaborazioni, secondo un processo di

apprendimento automatico”.

In sostanza, mentre l’algoritmo pone in essere un processo lineare e

trasparente, con il machine learning e, soprattutto, con il deep

learning è impossibile risalire a tutti gli step compiuti dal sistema per

giungere alla valutazione finale; come già accennato, infatti, i

processi di deep learning sono basati su reti neurali e la loro

8 Ruffolo U., L’Intelligenza artificiale in sanità: dispositivi medici, responsabilità e ‘‘potenzia-

mento’’, Giurisprudenza Italiana, 02/2021, pag. 456.

9 Vera D., Gualandi G., Non esiste ad oggi una normativa dedicata alla responsabilità medica

con utilizzo di IA ma l’applicazione delle leggi esistenti è inadeguata: definizioni, esempi, i

soggetti in gioco, i presidi per la tutela preventiva. www.agendadigitale.eu 5

intrinseca “opacità” è dovuta alla natura stessa di questi sistemi, che

possono risultare assai difficili da interpretare o decifrare.

Recentemente il Presidente USA, in un Executive Order del 30 ottobre

2023, fornisce una definizione di IA che ne enfatizza l’ampiezza e la

versatilità, includendo sia le applicazioni attuali che i potenziali

sviluppi futuri delle tecnologie emergenti.

L’Intelligenza Artificiale viene infatti definita come “un sistema basato

su macchine in grado di soddisfare una serie di obiettivi definiti

dall’uomo. Questo sistema è capace di effettuare previsioni, fornire

raccomandazioni o prendere decisioni che influenzano ambienti sia

reali che virtuali. Un aspetto fondamentale dell’IA è la sua capacità di

utilizzare sia input meccanici che umani per percepire questi ambienti.

L’IA astrae tali percezioni in modelli attraverso un processo di analisi

automatizzato ed, infine, utilizza l’inferenza tratta da questi modelli

per formulare opzioni e azioni, sia a livello informativo che a livello

10 .

pratico”

La capacità di astrazione e inferenza automatizzate rappresentano

elementi-chiave, che permettono all’IA di operare efficacemente in

11 .

un’ampia gamma di contesti e applicazioni

È possibile pertanto affermare che, nel quadro attuale, sia stato

raggiunto un alto grado di autonomia della macchina, i cui

comportamenti non sono più definibili tramite un codice di

12

programmazione ; i tentativi della tecnologia di riprodurre la mente

umana possono tuttavia riuscire solo in parte.

Il robot, infatti, “non appare in grado di riprodurre e formalizzare quel

processo mentale che può essere definito come intuizione intellettuale.

Con tale espressione ci si riferisce alla capacità del pensiero umano di

10 https://www.whitehouse.gov/briefing-room/presidential-actions/2023/10/30/executive-

order-on-the-safe-secure-and-trustworthy-development-and-use-of-artificial-intelligence/

11 Chiarini G., Intelligenza Artificiale e responsabilità medica. www.chiarini.com

12 Biancardo A., Problematiche etico-giuridiche relative all’utilizzo dell’intelligenza artificiale in

ambito sanitario, Jus-Online n. 3/2021, pag. 107. 6

cogliere l’essenza di una cosa, ossia di vederla come qualcosa di

intero, indipendentemente da un procedimento logico di tipo

13 .

dimostrativo”

Da tutto ciò discende che il comportamento del sistema di IA, al netto

di un risultato desiderato raggiunto, non è del tutto conoscibile

dall’uomo, neanche da colui che lo ha prodotto: i processi che il

sistema mette in atto, infatti, sono difficilmente individuabili sia ex

ante che ex post, dal momento che l’operatore può contare sulla

relativa certezza del risultato che la tecnologia intelligente porterà a

termine, ma non riuscirà ad individuare in che modo sia stato posto in

essere un determinato procedimento.

Ne deriva un sistema caratterizzato da profonda complessità,

incompletezza, opacità ed imprevedibilità, che, come si avrà modo di

approfondire nel prosieguo della presente trattazione, mettono in crisi

14

gli attuali modelli di responsabilità , in particolare quelli che si

basano sul criterio di imputazione della colpa e sull’individuazione

15

della stessa ai fini della responsabilità e del risarcimento del danno .

1.2. La c.d. e-Health e l’utilizzo della IA e della robotica in

campo medico 16

Negli ultimi anni l’IA ha investito anche l’ambito medico sanitario ,

17 : l’Organizzazione Mondiale della

introducendo il concetto di e-Health

13 Moro P., Libertà dei robot? Sull’etica delle macchine intelligenti, in AA.VV., Filosofia del

diritto e nuove tecnologie. Prospettive di ricerca tra teoria e pratica, a cura di Brighi R., Zullo

S., Atti del XXIV Congresso della Società Italiana di Filosofia del Diritto, Aracne, 2015, pag.

530.

14 Chiappini D., Intelligenza Artificiale e responsabilità civile: nuovi orizzonti di

regolamentazione alla luce dell’Artificial Intelligence Act dell’Unione europea, cit., pagg. 95-

96.

15 Colletti E., Intelligenza artificiale e attività sanitaria. Profili giuridici dell’utilizzo della

robotica in medicina, Giureta n. XIX/2021, pag. 205.

16 L’UE, nel Libro Bianco sull'intelligenza artificiale - Un approccio europeo all'eccellenza e alla

al

fiducia (https://eur-lex.europa.eu/legal-content/IT/TXT/PDF/?uri=CELEX:52020DC0065), 7

Sanità ha identificato con tale termine l’utilizzo di tecnologie

informatiche e di telecomunicazione a beneficio della salute umana.

Il fenomeno osservato va oltre il mero ammodernamento della pratica

medica, ricollegandosi invero all’emergere di una nuova conoscenza

18 , il

del sapere medico tramite l’elaborazione di nuovi modelli di cura

che porta con sé, oltre ad implicazioni politiche, etiche e sociali,

anche evidenti riflessi giuridici a cui l’attuale legislatore non può

rimanere indifferente, come si avrà modo di approfondire nel

19

prosieguo della presente trattazione .

L’IA è inoltre foriera di una rivoluzione copernicana in tema di

rapporto medico-paziente; in conseguenza della progressiva

automazione dell’attività sanitaria il medico, che un tempo era

l’esclusivo custode delle conoscenze, rischierebbe di assumere un

ruolo quasi marginale nel processo di cura, limitandosi alla

validazione ed al controllo ex post dell’operato del sistema di IA.

Nel rapporto fra medico e paziente, insomma, dopo il già sofferto

passaggio dal modello paternalistico a quello centrato sul paziente, la

relazione si complica ulteriormente con l’intervento di un terzo

20 .

soggetto: l’Intelligenza Artificiale

Come già accennato, a causa dell’opacità degli algoritmi e dell’IA

stessa non è spesso possibile comprendere appieno il percorso logico

seguito dai sistemi intelligenti per pervenire alle proprie decisioni: si

parla in questo caso di black box medicine, intesa come l’incapacità

dell’utilizzatore di dispositivi e apparecchiature tecnologiche in ambito

punto F. rubricato Promuovere l’adozione dell’IA nel settore pubblico statuisce che “È

essenziale che le amministrazioni pubbliche, gli ospedali (…) inizino rapidamente a utilizzare

nelle loro attività prodotti e servizi che si basano sull'IA. Un'attenzione particolare sarà

rivolta ai settori dell'assistenza sanitaria (…), in cui la tecnologia è abbastanza matura da

consentire una diffusione su vasta scala”.

17 Biancardo A., Problematiche etico-giuridiche relative all’utilizzo dell’intelligenza artificiale in

ambito sanitario, Jus-Online n. 3/2021, cit., pag. 110.

18 Colaruotolo A., Intelligenza artificiale e responsabilità medica: novità, continuità e criticità,

Responsabilità Medica, n. 3/2022, pag. 300.

19 Colaruotolo A., ibidem, pag. 302.

20 Ferretti F., Intelligenza artificiale e responsabilità civile in ambito sanitario, cit., p. 1859. 8

21 , dal momento che il

sanitario di comprenderne il funzionamento 22

sistema opera per inferenza statistica e non per induzione .

Va inoltre tenuto presente che il robot è dotato di un’intelligenza

meramente artificiale e non reale, di talché il sistema di IA non può e

23 .

non deve assimilarsi ad un’entità intelligente quale l’Uomo

L’incremento dell’IA in campo medico e sanitario si ricollega

all’aumento della popolazione e al relativo incremento del bisogno di

assistenza medica, cui fanno da contraltare la cronica carenza di

24

personale sanitario e gli elevati costi delle cure .

Per tali motivi, è lecito ritenere che l’utilizzo di dispositivi intelligenti

in medicina sia destinato a crescere in modo esponenziale nel corso

degli anni a venire.

Nel momento attuale, peraltro in continua evoluzione, l’IA può trovare

25 , fra i quali, a titolo

applicazione in svariati ambiti della pratica clinica

meramente esemplificativo, possono annoverarsi i seguenti:

1. Diagnostica medica: supporto nella diagnosi delle malattie

attraverso l’utilizzo di algoritmi di apprendimento automatico

26

finalizzati ad analizzare grandi quantità di dati , quali immagini

radiologiche o risultati di laboratorio;

2. Previsione della malattia: analisi dei dati sanitari di un individuo

finalizzata a prevedere il rischio di sviluppare determinate

patologie;

3. Assistenza sanitaria personalizzata: personalizzazione del

trattamento dei pazienti in base alle loro esigenze individuali,

21 Pasceri G., Intelligenza artificiale, algoritmo e machine learning. La responsabilità del

medico e dell’amministrazione sanitaria, Giuffrè, 2021, pag. 122 e ss.

22 Colletti E., Intelligenza artificiale e attività sanitaria, cit., pag. 202.

23 Finocchiaro G., Responsabilità e intelligenza artificiale, in Giur. It., 2019, pagg. 1677-1686.

24 Colaruotolo A.,