Riassunto esame Teologia, Prof. Stercal Claudio, libro consigliato Le macchine sapienti di Paolo Benanti , Paolo Benanti

Le macchine sapienti: intelligenze artificiali e decisioni umane

Capitoli introduttivi

• Cap. 1 - Accompagna il lettore alla scoperta di ciò che sta accadendo grazie all’implementazione di nuove forme di intelligenze artificiali e alla loro diffusione sempre più ampia.
• Cap. 2 - La pervasività della macchina e le sue mirabolanti capacità chiedono di riflettere su quale sia la differenza con l’uomo e quale sia lo specifico umano che ci rende così diversi dalle macchine.
• Cap. 3 - Per poter capire che cosa vogliamo far fare a una intelligenza artificiale dobbiamo chiederci se una macchina possa fare scelte senza sbagliare.
• Cap. 4 - Dobbiamo chiederci se la macchina interagisca con l’uomo secondo modalità meramente razionali o se anche la parte emotiva debba essere compresa e valutata in questa relazione, perché la coesistenza tra uomo e macchina non diventi insostenibile.
• Cap. 5 - Questione etica: cosa vuol dire che un’intelligenza artificiale può scegliere in autonomia? Quali rischi comporta? Cosa vogliamo che queste macchine possano fare e cosa non vogliamo?

Le intelligenze artificiali, con tutto il loro potenziale e la loro capacità trasformativa, possono cambiare radicalmente il mondo che conosciamo. In maniera provocatoria potremmo dire che oggi, per la prima volta nella nostra storia, è la macchina a interpellarci. Spetta a noi, come umanità, trovare le risposte, nella consapevolezza che solo se sapremo includere le humanities nella creazione di questi strumenti potremmo sperare di non produrre, in un futuro più o meno vicino, società disumane.

Capitolo 1: Guardare le stelle

Opera letteraria teatrale di Bertolt Brecht: “Vita di Galileo”. Siamo a Padova nel 1609 e Galileo tiene la sua classe di matematica. Viene a contatto con il cannocchiale, inventato in Olanda l’anno prima, lo perfeziona per usarlo nelle sue osservazioni astronomiche. Grazie a questo strumento giunge alla sua prima grande scoperta: esistenza di 4 satelliti di Giove, quindi non tutto ciò che si trova in cielo ruota intorno alla terra – nascita della teoria eliocentrica, Copernico aveva ragione!

Glielo va a Firenze alla corte di Cosimo de’ Medici per mostrare il suo nuovo strumento e le sue nuove scoperte. Ma gli aristotelici spostano la disputa su un piano filosofico e mostrano il loro disprezzo per le prove sperimentali. Galileo era seduto davanti al suo strumento e più volte ha invitato gli aristotelici ad usarlo (“guardate”), ma questi si rifiutano.

Questo episodio per dire che oggi ci troviamo in una situazione simile: con lo sviluppo e la diffusione delle intelligenze artificiali abbiamo una diversa percezione e cognizione del mondo – bisogna prendere sul serio l’invito di Galileo e guardare che cosa accade.

Lavoro

Il lavoro è una dimensione tipica dell’essere umano connessa alla sua specificità, interconnessa e interdipendente con la cultura e le relazioni sociali dell’uomo. Ma possibile nuova rivoluzione:

• Nascita agricoltura e allevamenti: gli utensili spingono sulla fatica, il labor.
• Rivoluzione industriale: trasforma gli utensili in macchine che usano energia prevalentemente non umana, ma che necessitano di abilità cognitive umane.
• Oggi: le macchine sono macchine sapientes.

Robot e intelligenze artificiali hanno un potenziale rivoluzionario: possono mettere in crisi il concetto stesso di lavoro e di necessità dell’uomo nel processo produttivo o nelle professioni. Siamo in grado di costruire macchine che possono prendere decisioni autonome e coesistere con l’uomo. Le intelligenze artificiali sono pervasive e si insinuano in ogni ambito della nostra esistenza: sistemi di produzione, sistemi di gestione, smartphone con assistente dotato di intelligenza artificiale come Siri ecc.

Salute

La produzione di dati personali è oggi semplificata dal fatto che ognuno possiede dei device sempre connessi: gli smartphone. La mole di dati prodotti però sta invadendo anche l’ambito dei dati sanitari – pensare di utilizzare questi dati per scopi medici sfruttando algoritmi di machine learning o BOT di intelligenze artificiali sembra molto promettente. Es. App Ginger.io: in fase di studio presso alcuni ospedali degli Stati Uniti.

Applicazioni inventate da una start-up nata nel MIT Media Lab nel 2011 da un gruppo che studia modi per applicare algoritmi informatici ai dati di telefonia mobile al fine di conoscere il livello di salute degli individui e di intere popolazioni. L’applicazione registra in maniera automatica e invisibile i dati relativi a ciò che fanno e dove vanno i pazienti: è alla ricerca di segnali che indichino cambiamenti nella vita dei pazienti. Ciò è importante perché i pazienti con patologie croniche come il diabete potrebbero avere benefici se i medici avessero la possibilità di capire quando hanno smesso di prendere le loro medicine.

Il lavoro di data mining ha dimostrato che i cambiamenti nel modo in cui le persone utilizzano i propri telefoni, e i luoghi in cui si recano, possono spiegare l’insorgenza di un raffreddore, la presenza di ansia o di stress. Il fondatore dell’App sostiene che la ricerca abbia suggerito un nuovo modo economico per automatizzare il monitoraggio di persone con patologie come il diabete o malattie mentali. Chi è affetto da queste patologie generalmente è in cura mediante l’assunzione di farmaci e risiede a casa propria.

L’applicazione non fa diagnosi direttamente sui pazienti; si limita a segnalare che il comportamento di una persona è cambiato in un modo che è collegato a quello che i medici chiamano “non conforme” a un determinato farmaco o a un certo tipo di trattamento – l’app registra i cambiamenti in modo tale che il medico l’infermiere possano ottenere una spiegazione del cambiamento dello stato di vita del paziente e aiutarlo.

Quindi nel campo della sanità l’intelligenza artificiale potrebbe favorire l’organizzazione dei percorsi per i pazienti o i piani di trattamento, e fornire ai medici tutte le informazioni necessarie per prendere la decisione migliore; potrebbe alleggerire gli specialisti nelle loro incombenze quotidiane, lasciando più spazio a mansioni specifiche in cui sia richiesta la competenza umana.

L’intelligenza artificiale ha già trovato terreno fertile in diverse aree di assistenza sanitaria, che ha rivoluzionato, a partire dalla progettazione di piani di trattamento attraverso l’assistenza ai lavori ripetitivi per la gestione o produzione di farmaci. Per contro questi algoritmi hanno la “responsabilità” di decidere chi verrà sottoposto all’attenzione del medico e chi invece no: in altri termini, possono arrivare a selezionare chi può avere la possibilità di avere cure e chi invece ne verrà escluso.

Tecnologie riproduttive

Il desiderio di avere un figlio ha incontrato ormai da diversi anni la tecnologia: tecniche di procreazione artificiale sono la mediazione tecnologica a cui oggi si ricorre sempre di più per aggirare il problema dell’infertilità. Ma la tecnologia medica è uno strumento che non garantisce quelle stesse percentuali di successo che possiede se applicata la trasformazione dei materiali inerti: la vita con tutte le sue variabili resta imprevedibile.

Es. Fecondazione in vitro: tasso di successo compreso tra 20 e 35%. Se fino a ieri il medico o il tecnico di laboratorio erano gli addetti alla selezione degli embrioni, oggi si fa strada l’idea di utilizzare un’intelligenza artificiale. Se a determinare le possibilità di successo nell’impianto sono caratteristiche come la ruvidità superficiale e la rigidità, allora una macchina con un software di machine learning può avere maggiori probabilità di successo rispetto ad un uomo.

Alcune start-up vogliono iniziare a usare i dati fotografici per “addestrare” la macchina a “capire” e “decidere” sulla qualità degli embrioni. Dopo l’unione dei gameti (lo spermatozoo e l’ovulo), la prassi consiste nel tenere in coltura gli embrioni per cinque giorni, cioè fino a quando si sviluppa una massa di circa 100 cellule il cui nome tecnico è blastocisti. Solo a questo punto si procede con il trasferimento tubarico dell’embrione: quando trasferiscono gli embrioni, i tecnici sono soliti guardare ad alcune caratteristiche come la simmetria e il numero delle cellule. Questo processo è molto soggettivo e si affida all’istinto del personale che lo svolge.

L’utilizzo di macchine dotate di sistemi di intelligenza artificiale porterebbe ad una oggettivizzazione dell'analisi; oggettivizzazione che porterebbe a sua volta ad un incremento delle percentuali di successo delle tecniche di fecondazione artificiale. Un esempio è il test Eeva: utilizza un insieme di immagini registrate in time-lapse per fornire una predizione di quale embrione abbia le migliori chances di diventare blastocisti. Il test non utilizza solo parametri morfologici, come farebbe un tecnico di laboratorio, ma identifica anche pietre miliari nello sviluppo che la macchina classifica e riconosce in forza dei suoi algoritmi di machine learning.

Quindi se la tecnologia e i sistemi di intelligenza artificiale promettono risultati migliori, dobbiamo chiederci cosa significa questo fatto. Ci vogliamo interrogare sulla categoria di “oggettivazione” che viene indicata per questi metodi. Un algoritmo di intelligenza artificiale, un compito statistico sofisticato il cui esito non è prevedibile a priori, è un modo oggettivo? Può questo modo essere più affidabile dell’uomo e della sua esperienza? Infine, la questione più inquietante: possiamo affidare a una macchina la selezione di chi è degno di nascere e chi no? Può un sistema statistico decidere quali vite sono degne di essere vissute e quali no?

Giustizia predittiva

Nel sistema giudiziario americano si utilizzano dei software al fine di assistere le corti. Essi calcolano la percentuale di rischio che il soggetto sotto il giudizio corre di commettere nuovamente crimini in futuro. Gli algoritmi di calcolo del rischio di recidiva vengono usati per assistere le corti, in ogni momento del procedimento giudiziale, nel decidere chi può rimanere libertà.

ProPublica, un’agenzia stampa indipendente e non profit e che si occupa di giornalismo investigativo e che ha nel suo statuto la missione di "portare alla luce gli abusi di potere e il tradimento della fiducia pubblica da parte del governo nel mondo degli affari di altre istituzioni" ha deciso di investigare su questi sistemi. L’analisi dei dati ha destato sorprese:

• In primo luogo solo il 20% di coloro che erano stati indicati come potenziali recidivi ha realmente commesso ulteriori crimini.
• Quando è stato preso in esame un numero maggiore di reati, l’algoritmo ha mostrato tassi di accuratezza poco superiori al tasso di certezza che si avrebbe nell’indovinare il risultato del lancio di una moneta.
• Ancora più sconcertante è stata la valutazione dei dati scomposti per gruppi etnici: l’algoritmo è particolarmente fallace nell’indicare i giovani neri accusati come futuri criminali.

Tale vicenda si presta a esemplificare alcune considerazioni etiche rilevanti sul mondo della tecnologia.

• Se questa capacità delle macchine ci possa permettere di mettere in atto sistemi legali predittivi. Essere capaci di indicare dei profili statistici rischia di trasformare una giustizia basata sul crimine commesso in un sistema di polizia fondato sul sospetto.
• Bisogna mettere a fuoco il fatto che gli algoritmi possono portare con sé dei "pregiudizi" che applicati sulla larga scala rischiano di dare luogo a vere e proprie ingiustizie sociali o discriminazioni.
• Ci dobbiamo chiedere se algoritmi che regolano questioni chiave come l’amministrazione della giustizia possono essere resi invisibili perché protetti da dinamiche di proprietà intellettuale e copyright, venendo così sottratti alla trasparenza il controllo delle diverse componenti della società civile.

ProPublica è un esempio lampante di come le tecnologie informatiche trasformano le nostre società. Se il futuro potrà essere migliore, più giusto e desiderabile dipende solo dalla nostra gestione dell’innovazione. Solo un’innovazione che diventi autentico sviluppo umano saprà realizzare un futuro migliore evitando incubi distopici.

Sistemi di social credit

Il 14 giugno 2014 – il Consiglio di Stato cinese ha pubblicato un documento intitolato "Progetto di pianificazione per la costruzione di un sistema di credito sociale”. Tale progetto contiene un’idea radicale e sbalorditiva: creare un sistema di punteggio che misuri la fiducia nelle persone e classifichi cittadini. Bisogna immaginarsi un sistema in cui tutti questi comportamenti siano non solo raccolti e conservati nei database di profilazione, ma anche classificati come positivi o negativi e trasformati in un unico numero secondo parametri e regole fissate dal governo = citizen score ossia il nostro biglietto da visita che comunicherebbe a chi incontriamo se siamo affidabili o meno. Inoltre, il rating personale sarebbe inserito in una classifica pubblica e confrontabile con quello dell’intera popolazione: a questo punto il punteggio Citizen potrebbe essere utilizzato per determinare l’accessibilità a un prestito, l’idoneità a un lavoro, dove i figli possono andare a scuola o anche solo se è il caso o meno di fissare un appuntamento galante.

Il governo cinese sta lanciando questo sistema inteso come un modo per misurare e migliorare la fiducia a livello nazionale e per costruire una cultura di sincerità: per ora la partecipazione è su base volontaria ma entro il 2020 sarà obbligatoria. Il governo cinese ha concesso una licenza a otto società private per elaborare i sistemi e gli algoritmi dei punteggi di credito sociale. Tra le più importanti abbiamo: China Rapid Finance e il Sesame Credit.

Es. Sesame credit: la vera star di questa operazione di controllo sociale mediante reti sociali e che sta sviluppando è AliPay, il suo ramo di pagamenti che la gente utilizza non solo per acquistare online, ma anche per ristoranti, taxi, pagamento delle tasse scolastiche, biglietti del cinema e per trasferire denaro tra privati. Nel Sesame Credit gli individui sono misurati con un punteggio compreso tra 350 e 950 punti. Sono cinque i fattori presi in considerazione:

• Credit history: il tracciato dei crediti e dei pagamenti di una persona, che dimostra la capacità o meno di ripagare nei tempi congrui i debiti contratti.
• Capacità di adempimento: la capacità di un utente di adempiere ai propri obblighi contrattuali.
• Caratteristiche personali che si desumono verificando informazioni come il numero di cellulare e l’indirizzo.
• Comportamento e preferenze personali: in questo sistema qualcosa di innocuo come le abitudini commerciali di una persona diventa una misura di carattere di bontà o malizia della persona stessa. Non si fanno problemi ad ammettere che i loro algoritmi giudicano le persone in base ai tipi di prodotti che acquistano.
• Relazioni interpersonali.

Inoltre, si potrebbe aggiungere il game changer: il punteggio di una persona sarà anche influenzato da ciò che i suoi amici online dicono e fanno, oltre che dal contatto che essa ha con queste persone. A questo punto è difficile credere che il governo cinese non voglia estrarre la massima quantità di dati: se ciò dovesse accadere e proseguire come prassi normale, di fatto si avranno piattaforme private che agiscono essenzialmente come agenzie di spionaggio del governo.

Ma perché milioni di persone hanno già accettato di sottoporsi al test di un sistema pubblico di sorveglianza? Vi sono una serie di ragioni nascoste e non dichiarate, ma c’è anche un incentivo, sotto forma di ricompense e privilegi speciali per quei cittadini che si dimostrano "affidabili" sul Sesame Credit. Di fatto il Sesame Credit è una versione 2.0 dei metodi di sorveglianza del Partito Comunista: quello che prima veniva fatto con dossier analogici viene ora realizzato tramite i dossier digitali. Il nuovo sistema cinese riflette un cambiamento paradigmatico: invece di cercare di far rispettare la stabilità del sistema sociale o la conformità a determinati modelli di comportamento con un grande bastone e una buona dose di paura dall’alto, il governo sta tentando di far percepire l'obbedienza come un gioco.

Secondo Luciano Floridi, professore di filosofia e etica a Oxford, ci sono state tre rivoluzioni che hanno alterato la nostra visione del mondo e la nostra auto comprensione:

• La rivoluzione copernicana;
• La teoria di Darwin sulla selezione naturale;
• La pretesa di Freud che le nostre azioni quotidiane siano controllate dalla mente inconscia.

Floridi ritiene che siamo di fronte a una quarta rivoluzione: quello che facciamo online e offline si fonde con la nostra vita fisica. La nostra società diventa sempre più un mix di esperienze fisiche e virtuali. Questi sistemi risultano particolarmente preoccupanti per il fatto che gli algoritmi utilizzati sono ingiustamente riduttivi: non tengono conto del contesto. Se l’adozione di algoritmi di profilazione deve essere ineluttabile affinché l’evoluzione digitale possa continuare il suo corso, dobbiamo capire come fare a non perdere tutte quelle sfumature che di fatto non sono parti secondarie bensì qualità essenziali del nostro essere.

I governi di tutto il mondo sono già impegnati in attività di monitoraggio e valutazione. Viviamo già in un mondo di algoritmi predittivi che determinano se siamo una minaccia, un rischio, un buon cittadino e anche se siamo affidabili. Ci stiamo