Informatica giuridica - Appunti

Il diritto vuole anch’esso predire i comportamenti con il fine di orientare scelte e

comportamenti (se capita A ne consegue B). Le norme stabiliscono quali

comportamenti possono o meno essere tenuti e consentono ai consociati di

prevedere le conseguenze derivanti dai comportamenti che violano le norme. Il

sistema di previsioni dell’IA è suscettibile di entrare in concorrenza con il sistema di

previsioni del diritto, sia da un punto di vista

- Intrinseco: deleghiamo sempre più decisioni e compiti propri dei funzionari del

diritto a sistemi d’IA, o ci avvaliamo di questi sistemi per prevedere come tali

compiti verranno svolti;

- che estrinseco: il sistema di previsione dell’IA indica possibili corsi d’azione,

ambiti di scelta o comportamenti più vantaggiosi da tenere; ovvero favorendo

pratiche in contrasto con quelle previste dal diritto (come la price discrimination

che è suscettibile di produrre differenziazioni ingiuste tra gli acquirenti); ovvero

riconoscendo o negando benefici, opportunità di lavoro o diritti attraverso la

previsione dei profili dei consociati (come un lavoro offerto o negato tramite

l’elaborazione automatica di un profilo basata su dati sintetici che riproducono

le caratteristiche dei dati personali di una classe di aspiranti candidati).

C’è competizione tra diritto e IA perché la previsione delle macchine rischia di

orientare i nostri comportamenti, e dal punto di vista del diritto può orientare

anche le nostre scelte (se so che se faccio quella cosa mi arrestano non la faccio).

Ciò genera tensione con il diritto, ad esempio in termini di responsabilità;

3. Normatività dell’IA. I sistemi di machine learning sono sistemi con i quali si

insegna alle macchine ad analizzare dati e ad estrarre da questi schemi ricorrenti

che permettono loro di apprendere a compiere delle prestazioni. Oggi ci stiamo

spostando da un’IA statistica ad una IA più normativa (nel senso che il sistema IA

machine learning è orientato verso un fine preciso). Con normatività dell’IA si fa

riferimento al fatto che i sistemi d’IA sono orientati a un fine, ossia sono

programmati per svolgere un compito e ottenere un obiettivo.

L’obiettivo della macchina deve essere misurabile da uno standard, ossia quanto

efficacemente la macchina raggiunge l’obiettivo posto. Lo standard diventa la

norma attraverso la quale valutiamo l’efficienza del sistema stesso in relazione al

suo scopo.

Esempio: incrementare la sicurezza del traffico stradale. Ci sono tanti fattori che

incidono sul traffico stradale su cui agire (velocità delle auto, norme giuridiche,

dimensione della carreggiata, limiti di velocità). Il sistema del traffico può essere

modellato nel perseguimento dell’obiettivo ricercato: la sicurezza. Ottimizzare un

sistema vuol dire perseguire una finalità, operando su diversi paramenti in chiave

probabilistica e in modo più efficace ed efficiente. Ciò può richiedere di modificare

e adattare il sistema in relazione alla finalità per cui è ottimizzato. Ciò richiede

anche di avere un sistema di valutazione delle prestazioni necessarie al

conseguimento di tale obiettivo.

La normatività di un sistema è intesa come la capacità di disporre di uno standard

che consente di valutare il grado di ottimizzazione di un sistema in rapporto

all’obiettivo assegnato e perseguito. Tale capacità è inerente alla definizione stessa

di un procedimento di apprendimento automatico, per cui è possibile dire che un

programma apprende dall’esperienza E con riferimento ad alcune classi di compiti

T e con misurazione della performance P, se le sue performance nel compito T,

come misurato da P, migliorano con l’esperienza E. L’orientamento verso un fine

unitamente alla capacità di misurare il grado di conseguimento di tale obiettivo può

diventare il criterio principale per valutare il funzionamento di un sistema.

Il successo dell’operazione, fondato sul criterio probabilistico, mette in secondo

piano considerazioni fondate su criteri diversi, come quello causale. Il

perseguimento di un obiettivo, in rapporto al quale un sistema è ottimizzato, può

prevalere sul rispetto di norme attinenti al tentativo di operare un bilanciamento

tra interessi diversi e potenzialmente confliggenti (esempio software impiegato per

valutare il rischio di recidiva di un detenuto che fa richiesta di permesso premio. La

decisione dovrebbe tenere conto e bilanciare due interessi: la tutela dei diritti del

detenuto e la sicurezza sociale derivante dalla prevenzione del crimine. Se il

software è orientato e ottimizzato in relazione al fine di ridurre il numero di crimini

reiterati vi è il rischio che l’interesse contrapposto sia in tutto o in parte trascurato

(ad esempio non è sufficientemente considerata la possibilità di includere dati

viziati da pregiudizi di carattere sociale o etnico nel dataset dell’algoritmo).

I rischi considerati ruotano intorno alla delegazione di decisioni e compiti a sistemi

computazionali che operano in base alla loro rappresentazione della realtà fondata

sulla capacità di processare enormi quantità di dati in chiave sintattica e probabilistica.

È responsabilità degli esseri umani di dare significato e senso alla nostra realtà e alle

decisioni che sono in grado di incidere su valori che permeano le nostre vite.

C’è l’esigenza di proteggere e alimentare il capitale semantico, ossia l’insieme dei

contenuti e delle risorse in grado di alimentare il potere di ciascuno di noi di attribuire

significato e senso alla nostra esistenza e al mondo. Le persone hanno un capitale

semantico, gli animali e i robot non ce l’hanno e non possono averlo in quanto

maneggiano soltanto la sintassi e non il significato.

C’è una triplice progressione che mette in gioco la capacità di conferire significato alla

realtà; di iscrivere tale significato all’interno di un quadro che attribuisca un senso più

complessivo all’esperienza umana; di sottoporre alla revisione l’esperienza tramite la

capacità riflessiva di riconsiderare in chiave critica il passato e di rielaborarlo. Si tratta

però di un processo collettivo, che si svolge spesso in contesti istituzionalizzati e

pubblici.

L’esercizio del potere computazionale è suscettibile di produrre una peculiare

rappresentazione della realtà in grado di influenzare e talora prevalere sulla nostra

rappresentazione della realtà. La nostra realtà è sempre più decodificata in termini di

dati da processare (datificazione), fattori da calcolare (quantificazione), elementi da

generare (generatività), risultati da prevedere (predittività), obiettivi da perseguire

(normatività).

Il processo di semanticizzazione e di formazione del capitale semantico non è solo una

capacità o un potere, ma una responsabilità e un compito umano.

L’economia dei dati (Bertacchini, Nuccio)

Il diritto non è una materia a sé stante ma vive di influenze osmotiche verso altre

branche della scienza, è uno strumento di controllo della società e non potrebbe

svolgere la sua funzione fondamentale senza capire la società stessa, le dinamiche e i

suoi impatti. Ogni misura legislativa è calibrata in termini di impatto non solo sociale

ma anche economico.

Per il legislatore è fondamentale capire come funziona l’economia dei dati, quali sono i

suoi presupposti e le sue caratteristiche, con l’obiettivo di comprendere se essa

necessiti di misure legislative o meno, se c’è necessità di un intervento da parte dello

stato, o se l’economia dei dati si può reggere autonomamente (atteggiamento di tipo

liberale), gestendosi da sola a partire dalle regole della domanda e dell’offerta.

L’economia dei dati è una novità in assoluto? No, quasi ogni stagione della civiltà

umana si caratterizza per essere stata una società della conoscenza. I dati hanno

sempre avuto un valore per l’attività umana ed economica. Oggi le aziende

processano e trattano una vasta quantità di dati di natura eterogenea.

Originariamente l’attività economica processava solo i dati transazionali, dati che

definiscono lo scambio di beni e servizi dall’azienda al consumatore.

La civiltà umana è cominciata contemporaneamente e contestualmente allo sviluppo e

all’uso della scrittura, tecnica che ha permesso di immagazzinare le informazioni, di

trattare e processare i dati.

I dati sono definiti in relazione al concetto di informazione e conoscenza. Essi

rappresentano un insieme grezzo di simboli e caratteri frutto dell’osservazione di

fenomeni che si trasforma in informazione nel momento in cui viene dato loro un

significato, sistematizzandoli, contestualizzandoli e analizzandoli. La conoscenza è il

risultato dell’aggregazione e ricombinazione di diverse informazioni.

Le società della conoscenza si sviluppano tutte attorno alla scrittura e si caratterizzano

inizialmente per un accesso elitario a dati, informazioni e conoscenza. Spesso la classe

che possedeva queste conoscenze era quella sacerdotale (monaci amanuensi che

copiavano i libri a mano prima del 1400, anno in cui Gutenberg inventò la stampa a

caratteri mobili). Successivamente la conoscenza (ossia i dati) entra a far parte

dell’industria, industria che tuttavia non ha nei dati, nell’informazione e nella

conoscenza il suo fulcro: l’industria che nasce nel 1800 faceva del fattore produttivo

fondamentale l’introduzione delle macchine, perché fino ad allora l’asset produttivo

principale era stata la forza umana, che risultava però svuotata della conoscenza

perché specializzata (alienazione del lavoratore di Marx). La società di oggi ha invece

messo la conoscenza e i dati al centro dell’attività d’impresa, per cui la conoscenza

diventa l’asset produttivo principale.

Che ruolo ha avuto la tecnologia? La scrittura è già tecnologia di per sé, e ad oggi

viene qualificata come invenzione, e le invenzioni sono oggetto di protezione

attraverso i brevetti (diritto che protegge ciò che è creato dall’ingegno umano, e ha un

impatto sulla società in termini di risoluzione di problemi della tecnica mai risolti

prima). Prima della scrittura la trasmissione della conoscenza era affidata

esclusivamente alla parola (trasmissione orale).

Ci sono diverse prospettive e approcci di analisi che possono contribuire ad inquadrare

il dibattito sull’economia dei dati:

1. Economia dell’information technology. Alla fine degli anni Novanta emerge la

natura economica di internet attraverso la fornitura di prodotti e servizi digitali per

imprese e consumatori. Internet e la digitalizzazione hanno amplificato le

caratteristiche di non rivalità nel consumo e difficile escludibilità dei beni di

informazione, offrendo nuove opportunità per l’appropriazione del valore dei beni

informativi digitalizzati;

2. Economia della conoscenza. Si pone enfasi sul ruolo di ricerca e sviluppo e dei

processi di innovazione come motori della crescita economica. La conoscenza e

l'innovazione giocano un ruolo fondamentale influenzando il benessere delle

società, ma anche il potere del mercato e le rendite di monopolio delle imprese

derivanti dalla proprietà intellettuale. I dati sono utilizzabili come fattore di

produzione o risorse strategiche delle imprese. Essi hanno però caratteristiche

intrinseche che rendono il loro utilizzo un caso speciale: essi sono una risorsa

informativa differente dalle idee e dalle conseguenti invenzioni. Un'idea è

un'informazione che può avere valore originale di per sé, oppure fornisce un

insieme di istruzioni per completare un compito (come una ricetta); i dati invece

non hanno quasi mai valore autonomo ma sono un ingrediente che può essere

usato nel completamento di un compito;

3. Economia della privacy. Studia i costi e i benefici associati alla protezione e

condivisione delle informazioni personali. Negli anni 70 Stigler sosteneva che

un'eccessiva protezione della privacy può finire per essere economicamente

inefficiente in quanto può limitare o ridurre nel mercato i segnali necessari per

allocare e valutare in modo efficiente i fattori produttivi. L'estrazione di dati