Intelligenza artificiale e responsabilità medico-sanitaria

IA.

I dati utilizzati per addestrare gli algoritmi autonomi possono, ad

esempio, non essere di qualità ottimale, cosicché gli algoritmi stessi

potrebbero fornire risposte meno accurate di quanto sarebbe lecito

attendersi; oppure i dati utilizzati per l’addestramento potrebbero

essere viziati da errori umani, con la conseguenza che l’algoritmo

potrebbe trarre le proprie conclusioni mediante dati fuorvianti.

34 Proia L., ICub, un robot al servizio degli anziani. Presentato oggi dallo Spi Cgil:

www.quotidianosanita.it

35 Di Martino A., Intelligenza artificiale e responsabilità civile in ambito sanitario, Giuffrè,

2022, pag. 18. 13

Dal punto di vista operativo, le AI self-learning, ovvero i sistemi

maggiormente capaci di adattarsi all’ambiente e dotati di un’elevata

capacità di autoprogrammazione e autoapprendimento, sono quelli

maggiormente in grado di garantire le migliori performances, ma di

converso scontano una maggiore imprevedibilità: è stato infatti

correttamente rilevato che “il carattere trasformativo, la capacità cioè

di generare profondi e dirompenti cambiamenti, dell’IA, è connesso ai

36 .

suoi gradi di autonomia”

Una delle maggiori criticità è costituita dal rischio che, nel tempo, i

medici possano sviluppare un ingiustificato ed eccessivo affidamento

nelle capacità dell’automazione, con conseguente rischio di

dipendenza dai sistemi di IA e connessa dequalificazione dell’atto

37

medico, dovuta alla sua progressiva automatizzazione .

Nel momento attuale, dunque, l’IA deve necessariamente essere

concepita quale strumento complementare all’attività medico-

sanitaria; il professionista potrà pertanto delegare al sistema di IA

unicamente le operazioni ed i calcoli sui dati raccolti ma spetterà a lui,

e a lui soltanto, il compito di interpretare tali dati e di individuare le

possibili soluzioni al problema posto alla sua attenzione.

Il personale sanitario che si avvale dei sistemi di IA dovrà quindi

continuare ad utilizzare le proprie capacità di astrazione, intuizione e

flessibilità per approcciare tali sistemi in modo costruttivamente

critico, considerandone le enormi potenzialità ma anche gli indubbi

36 Comandé, G., Intelligenza artificiale e responsabilità tra liability e accountability. Il

carattere trasformativo dell’IA e il problema della responsabilità, An. giur. econ., 2019, p. 173.

Tuccillo P., in Intelligenza artificiale nell’attività sanitaria: quale paradigma di responsabilità

civile?, European Journal of Privacy Law & Technologies, n. 1/2024

https://universitypress.unisob.na.it/, osserva che “Il grado di autonomia del macchinario è

invero determinante al fine della individuazione del modello di responsabilità civile da

applicare”.

37 Murone F.G., Responsabilità medica e intelligenza artificiale nel diritto unionale e italiano.

www.iusinitinere.it 14

limiti che, qualora sottovalutati, potrebbero addirittura condurre a

38 .

gravi errori diagnostici e terapeutici

Tali fattori di rischio hanno determinato l’Unione Europea a vagliare

l’adeguatezza della vigente normativa in materia di sicurezza dei

prodotti e di responsabilità dei produttori rispetto alla specificità dei

sistemi di IA e robotica, partendo dal presupposto che tali sistemi

debbono essere sostenuti e incrementati in quanto recano indubbi

benefici al progresso della società, ma necessitano allo stesso tempo

di un quadro giuridico chiaro e aggiornato, in grado di adeguarsi al

costante progresso della tecnologia.

Per tale motivo, il 19 febbraio 2020 la Commissione ha presentato al

Parlamento Europeo la “Relazione sulle implicazioni dell'intelligenza

artificiale, dell'Internet delle cose e della robotica in materia di

39 , analizzando il quadro normativo

sicurezza e di responsabilità”

attuale e sottolineando l’esigenza di interventi correttivi capaci di

colmare le lacune derivanti dal mancato adeguamento della

normativa di settore al progresso tecnologico.

Nella Relazione si pone l’accento sui temi della connettività e delle

minacce informatiche; sulle questioni derivanti dall’autonomia dei

sistemi di IA, con conseguente impossibilità di determinare a priori il

comportamento di tali sistemi prima della loro immissione sul

mercato; sul rischio che gli esiti non intenzionali di tali sistemi

possano arrecare danno agli utilizzatori degli stessi; sull’opacità

innata a tali sistemi, che impedisce di determinare a posteriori il

processo decisionale effettuato dai sistemi stessi (c.d. effetto black

box).

L’utilizzo sempre più capillare dell’IA attraverso sistemi pressoché

indipendenti dall’apporto umano pone altresì questioni di carattere

38 Cabitza F., Alderighi C., Rasoini R., Gensini G.F., Potenziali conseguenze inattese dell’uso di

sistemi di intelligenza artificiale oracolari in medicina, Recenti Prog Med 2017; 108: 397-401

39 https://eur-lex.europa.eu/legal-content/IT/TXT/PDF/?uri=CELEX:52020DC0064 15

40 , che pervadono ogni campo del diritto, da quello penale a

etico

quello civile, dall’ambito pubblicistico a quello internazionalistico.

Non sono altresì trascurabili i rischi derivanti dalla circolazione dei dati

sanitari utilizzati come materiale di supporto per la ricerca, sia per i

pericoli di accesso non autorizzato a dati sensibili e di eventuale

manomissione degli stessi, sia per le incertezze sull’effettiva esistenza

del consenso esplicito del paziente all’elaborazione dei predetti dati in

caso di impiego a fini di cura o di ricerca.

L’accesso dell’IA ai dati sanitari (ad esempio, a quelli contenuti nel

Fascicolo Sanitario Elettronico), se da un lato garantisce l’interesse

collettivo alla salute sancito dall’art. 32 Cost., dall’altro crea rilevanti

problematiche in ordine alla tutela del diritto alla privacy del paziente

41 .

quale soggetto interessato al trattamento dei dati

Al legislatore s’impone pertanto l’obbligo di considerare le implicazioni

sia etiche che giuridiche dell’IA, creando un equilibrio tale da non

porre ostacoli all’innovazione tecnologica.

L’utilizzo dei sistemi di IA in ambito sanitario è, insomma, in costante

evoluzione e la formazione dei professionisti sanitari su come

utilizzare tali sistemi in modo sicuro ed efficace è di vitale importanza

al fine di evitare errori e di minimizzare i rischi derivanti dall’utilizzo di

questa tecnologia, con evidenti ripercussioni sulla valutazione della

42

responsabilità medico-sanitaria .

Essenziale è inoltre la collaborazione tra professionisti sanitari ed

ingegneri clinici al fine di garantire che l’IA venga utilizzata in modo

responsabile e sostenibile; ciò favorisce lo scambio di competenze e

conoscenze, garantendo altresì che i risultati della ricerca vengano

40 Biancardo A., Problematiche etico-giuridiche relative all’utilizzo dell’intelligenza artificiale in

ambito sanitario, cit., pag. 116.

41 Ciancimino M., Protezione e controllo dei dati in ambito sanitario e intelligenza artificiale,

ESI, Napoli, 2020, pagg. 108-151 .

42 Ruffolo U., Artificial Intelligence e nuove responsabilità nel settore medico e farmaceutico,

in La nuova responsabilità medica, a cura di Ruffolo U., Giuffrè, Milano, 2018, pag. 258. 16

utilizzati in modo sicuro e che i nuovi sviluppi tecnologici siano

43 .

integrati nella pratica clinica in modo equilibrato

Va inoltre tenuto presente quanto previsto al punto 22 della

Risoluzione del Parlamento europeo del 3 maggio 2022

44 , secondo cui “l'uso

sull'intelligenza artificiale in un'era digitale

dell'IA nel settore sanitario dovrebbe essere ancorato a rigorosi

requisiti di carattere etico come l'accesso all'assistenza sanitaria, la

privacy, l'affidabilità, la trasparenza, la spiegabilità, l'inclusività e la

rappresentatività dei set di dati, nonché la costante sorveglianza

umana (…). La progettazione di sistemi basati sull'IA deve affrontare

il rischio che le risorse siano erroneamente assegnate alle persone

sulla base di (…) una tecnologia non correttamente funzionante,

comportando diagnosi errate, trattamenti non corretti o la scelta di

non trattare affatto (…)”, concludendo che “le più elevate norme

etiche debbano essere applicate a tutte le tecnologie sanitarie”.

Il Parlamento Europeo sottolinea infine che “il processo decisionale

automatizzato nelle applicazioni sanitarie può comportare rischi per il

benessere dei pazienti e i diritti fondamentali”, quindi “l'IA deve (…)

avere un ruolo di sostegno in ambito sanitario”, nonché preservare “il

rapporto tra paziente e medico”.

Risulta infine di vitale importanza “proteggere gli operatori sanitari

come utenti dei sistemi di IA nonché i pazienti come destinatari finali,

fornendo loro informazioni sufficienti e trasparenti”.

Le problematiche sopra esposte, unitamente al modesto ma non

irrilevante margine di errore proprio di ogni sistema complesso, che

può concretamente determinare una diagnosi o un intervento

terapeutico errati, mettono infine in risalto l’attualità e l’utilità

dell’approfondimento del complesso tema inerente la responsabilità

43 Chiarini G., Intelligenza Artificiale e responsabilità medica, cit.

44 https://www.europarl.europa.eu/doceo/document/TA-9-2022-0140_IT.html 17

per danni da malfunzionamento dei sistemi di IA, che rappresenta

l’oggetto della presente trattazione. 18

CAPITOLO 2 – La responsabilità medico-sanitaria per danni

cagionati tramite l’utilizzo dei sistemi di IA

2.1. Il danno da utilizzo di sistemi di IA come illecito multi-

agente.

Come già accennato nel capitolo precedente, a seguito della vera e

propria rivoluzione che l’IA sta apportando al mondo sanitario, riveste

carattere di assoluta urgenza l’individuazione del regime di

responsabilità applicabile nel caso di danni prodotti da decisioni in

merito alla salute del paziente assunte dagli esercenti una professione

45 .

sanitaria mediante l’ausilio dei sistemi di IA

La fattispecie in esame presenta peraltro un particolare livello di

complessità, dal momento che il malfunzionamento di un sistema di

IA può dipendere da fatti distintamente attribuibili ad una pluralità di

soggetti: da una parte il progettista e/o il costruttore del sistema

hardware, dall’altra il produttore