AI Deepfake. Uno studio sperimentale sulla percezione visiva

SOGGETTO TERAPIA INTERESSE TERAPIA

9 alta alta alta

10 alta alta alta

11 alta alta alta

12 alta media media

13 alta alta alta

14 alta alta alta

15 alta media media

16 alta alta alta

Nel secondo campione, tutti i soggetti coinvolti hanno conferito una notevole

credibilità alla terapia proposta, in seguito ad una successiva considerazione del

linguaggio influente e seduttivo del medico-ricercatore e alla visione delle immagini

dimostrative del paziente.

In merito alle immagini visionate, il secondo campione ha dimostrato un

consenso unanime verso il trattamento terapeutico, discutendo e riportando

l’importanza di un protocollo definitivo, non invasivo, per il contrasto della

patologia.

Sei soggetti su otto hanno esposto la volontà di voler approfondire

personalmente la conoscenza nei riguardi della terapia. Tuttavia, i restanti due

soggetti hanno riportato un modesto coinvolgimento nella visione del contenuto,

poiché non direttamente coinvolti con il disagio mediamente vissuto dai soggetti

affetti dalla patologia.

Tutti i partecipanti, appartenenti al secondo campione, si sono dimostrati

propensi alla divulgazione del trattamento terapeutico a conoscenti affetti da alopecia

141

4.4 RISULTATI DELLO STUDIO

parziale o totale. Tuttavia, solamente sei soggetti su otto ne riportano un alto interesse

nella propagazione.

In definitiva, è imprescindibile comprovare come entrambi i campioni non

abbiano percepito alcuna alterazione visiva nelle immagini dimostrative del paziente

artificiale. Nessuno dei sedici soggetti coinvolti ha riconosciuto il sintetico in

forma statica.

Al termine del dibattito, ad entrambi i campioni è stata comunicata la

presenza del sintetico e il loro esito positivo all’inganno percettivo eseguito.

L’incredulità e la palpabile apprensione hanno pervaso i partecipanti all’atto

di prendere coscienza della loro ingenuità ed inconsapevolezza. In particolare,

durante l’incontro con il primo campione, si è scatenato un momento d’ilarità

collettiva una volta compreso che il principale fondamento di credibilità della

promozione era, in realtà, un artificio.

In itinere alla presa di coscienza del sintetico, diversi partecipanti hanno

confessato di aver esaminato la capigliatura del soggetto organico ripreso, in quanto

ritenuti potenzialmente artificiali.

L’impressione autentica dei partecipanti costituisce un elemento essenziale al

fine di comprendere l’importanza di quanto il presente posizionamento strategico del

falso sia stato significativo nell’efficacia dell’inganno.

142

In ragione dei risultati emersi dallo studio sperimentale, è possibile constatare

per l’esecuzione

come la tecnologia del Deepfake si configuri uno strumento efficace

di un inganno sensoriale impercettibile nei confronti del singolo. l’individuo

In contrasto con le previsioni sulle proprie capacità cognitive,

un’identità sintetica da una organica.

risulta incapace di discernere

all’esperienza sensoriale di

In analogia Edmund Husserl, quando contemplò

la sua splendida dama esposta in un museo delle cere. Egli ne parlò in tutti i suoi

scritti, come se quell’incontro illusorio lo avesse segnato per sempre.

L’inganno si dissolse autonomamente, nel momento in cui egli, scrutando da

vicino, comprese che la figura sino ad ora tanto bramata era, in realtà, un mero

fantoccio iperrealistico.

Vagando in un museo delle cere ci imbattiamo lungo una scalinata in

–

una bella sconosciuta che ammicca verso di noi uno scherzo ben

143

CONSIDERAZIONI

noto. Si tratta di un manichino che per un istante ci ha tratti in inganno.

Per tutto il tempo in cui viviamo in questa illusione abbiamo una

percezione non diversa da qualsiasi altra. Vediamo una donna, non un

dell’inganno, accade l’inverso:

manichino. Non appena ci accorgiamo 209

ora vediamo un manichino che rappresenta una donna .

Nel caso da me presentato, il tempo non ha condotto ad alcuna rivelazione.

Sono stata io stessa, artefice del falso, ad aver sollevato il velo.

La permeabilità con cui il sintetico si insinua nell’immaginario collettivo

mina le fondamenta di un avvenire in cui il discernimento percettivo tra il reale e

l’illusorio risulta indefinibile. La sua forma realistica sembra agire come un fluido

invisibile, in apparenza, inarrestabile.

L’inganno prospera in seno ad un contesto in cui viene meno la conoscenza,

l’educazione e legislazione in merito alla materia. Tuttavia, in considerazione di

emerge l’impressione che tali

quanto constatato dallo studio sperimentale, rimedi

non siano sufficienti per consentire un riconoscimento spontaneo del sintetico.

Il quesito che sorge inesorabile è se, pertanto, sia adeguato attribuire una

connotazione positiva ad una simile tecnologia, in considerazione di ciò che il suo

uso potrebbe comportare nel prossimo avvenire.

È comunemente riconosciuto che lo strumento di ogni sorta non sia

210

ascrivibile ad una classe di bontà o malvagità, nondimeno ad una neutrale . Essi si

configurano come portatori di scenari prossimi in relazione all’uso e abuso a cui

vengono sottoposti. Pertanto, l’intento e la finalità del singolo eserciterebbero una

marcata influenza sui procedimenti di integrazione e attuazione della tecnologia.

Husserl (2001) vol. 2, p. 229-230.

209 Per approfondimenti si veda: Kranzberg (1986).

210 144

CONSIDERAZIONI

riferimento all’analisi interdisciplinare presente nei capitoli antecedenti,

In il

Deepfake si costituisce come uno dei veicoli ultimi tramite cui si alimenta la catena

distruttiva di una società che sembra aver smarrito la propria via.

Un prospetto in cui l’Automazione, come precedentemente discusso,

dissociazione dell’individuo

comporterà l’intera e, in definitiva, la decadenza delle

sue capacità percettive.

In accordo con il riscontro conclusivo dello studio condotto, tale scenario, in

realtà, non sembrerebbe profilarsi tanto prospettico come appena enunciato, quanto

già in fase di attuazione. 145

APPENDICI

Intervista a Luisa Verdoliva

Professoressa Ordinaria dell’Università Federico II di Napoli il Dipartimento di

Ingegneria Industriale (DII).

Intervista eseguita il 23 febbraio 2023.

146

APPENDICE A

D: Ad oggi, quanto sono efficaci i sistemi in grado di identificare i contenuti

Deepfake? E perché è sempre più complesso riconoscerne la loro identità?

R: Quando usi il Deep Learning, hai bisogno di avere un dataset di immagini molto

ampio per fare quello che si chiama “addestramento”. Nella fase di addestramento,

tu insegni alla rete neurale a distinguere il vero dal falso. Il problema qual è? Se le

fornisci solamente un certo tipo di informazioni, la rete imparerà a discriminare

quella determinata tipologia di immagine. Non esiste una tecnica che funziona su

tutto. Ci vogliono, magari, tante tecniche diverse in grado di gestire diversi tipi di

manipolazioni. Molte sono anche efficaci, il problema sussiste quando arriva

qualcosa di inaspettato perché non hai appreso quel particolare tipo di manipolazione

in fase di addestramento. Gestire la novità è il problema più grande. Ciò che stiamo

svolgendo, per evitare quest’ultimo problema, è un cambio di paradigma, ossia “non

facciamo il vero falso”. È davvero Chiara Marzolini il soggetto ripreso nel video?

Allora lavoriamo sulle caratteristiche biometriche di questa persona e vediamo se, il

video che stiamo esaminando mantiene queste caratteristiche oppure le modifica.

Cerchiamo di apprendere le caratteristiche legate all’identità e vedere se queste

vengono mantenute o meno. È un po’ una rincorsa alla tecnologia! Inoltre, un

ulteriore problema sussiste quando vengono caricate immagini su internet e vengono,

ad esempio, compresse, ridimensionate o si riduce la qualità allora le tecniche di

identificazione potrebbero non funzionare al meglio. […] La soluzione migliore per

identificare un falso è quella di avere a disposizione più tecniche di identificazione

che si basano su tracce diverse, in modo che se qualcuna non dovesse funzionare

correttamente, avresti la possibilità di possederne un’altra.

147

APPENDICE A

D: Lei ha preso parte alla ricerca del progetto sperimentale Assembler. Quale

metodologia di ricerca e di studio è stata utilizzata?

R: Assembler fu un progetto specifico, riguardava solo ed esclusivamente immagini.

Su internet, attualmente, la maggior parte delle immagini manipolate, con finalità

negative, sono ancora quelle classiche eseguite con il programma Photoshop. Non

tutte coinvolgono tecniche di Deep Learning, non tutte sono così avanzate. Il tipo di

analisi che abbiamo svolto con Assembler, fa riferimento alle tipologie di

manipolazione di immagini che sono ancora vecchio stile. Abbiamo cercato di testare

quali fossero gli algoritmi che meglio si potevano utilizzare per trovare questo tipo

di manipolazioni. Il progetto non era propriamente rivolto ai Deepfake, anche se era

presente un’analisi sulle immagini sintetiche. Quando presi parte al progetto,

all’epoca, non c’era tutta questa attenzione sui Deepfake.

D: Attualmente sta svolgendo delle ricerche specifiche riguardanti la tecnologia

del Deepfake?

R: Si, ho diversi progetti aperti sul Deepfake. Sto prendendo parte ad un progetto

davvero importante chiamato “Semafor” finanziato dalla Darpa (Defense Advanced

Research Projects Agency), iniziato nel 2020 ed è attualmente ancora in corso. C’è

un’attenzione piuttosto importante riguardo quest’ultimo e, in generale, sulla ricerca

dei contenuti sintetici per la disinformazione. Il mio contributo in Semafor riguarda

lo sviluppo di tecniche per la rivelazione di manipolazioni video, audio e immagini.

sono coinvolta nel progetto europeo “Vera.ai” e il progetto italiano

Inoltre,

“Premier” in collaborazione con diverse università italiane. […] Devo dire che

ultimamente c’è molto interesse in queste tematiche. Quando andai in America, per

il progetto Darpa, era molto sentito il problema del Deepfake mentre in Italia non mi

è sembrato ci fosse tutta questa attenzione a riguardo.

148

APPENDICE A

D: Si parla spesso di Deepfake con un'accezione negativa. Pertanto, è possibile

che tale tecnica possa essere utilizzata, da parte delle aziende, con una finalità

positiva?

R: La disinformazione è sempre esistita. Si cerca sempre di prevenire ma le persone

che utilizzano questa tecnologia con malizia