AI Deepfake. Uno studio sperimentale sulla percezione visiva

AANTDAPL06 - Diploma accademico di 1° livello in Graphic Design

Deepfake: uno studio sperimentale sulla percezione visiva

Candidata: Chiara Marzolini

Relatrice: Prof.ssa Gianna Angelini

Anno accademico 2022/2023

Sessione invernale

Dedica

Dedico la mia tesi alle anime erranti, altere e irrequiete.

A chi vaga nella buia tempesta, tra venti contrari e benevoli, in cerca di un riparo etereo.

A chi, con il tepore di una lacrima, intraprende percorsi di conciliazione.

A chi non può ascoltare il cuore.

Danzerete silenziose attorno la vostra luce come falene, con animo quieto e il cuore che risuona in gioia ineffabile.

Chiara Marzolini

Indice

• Introduzione ……………………………………………………………………………. 9
• Capitolo 1. Deepfake 13
• 1.1 La percezione del reale ………………………………………………………. 13
• 1.2 Intelligenza Artificiale: Deepfake ……………………………………… 16
• 1.3 Intervista a Luisa Verdoliva …………………………………………… 27
• 1.4 La tecnologia del Voice Cloning ………………………………………… 33
• Capitolo 2. Analisi 39
• 2.1 Introduzione all’analisi 39
• 2.2 Analisi dell’immagine 43
• 2.3 Oltre la cultura convergente 51
• Capitolo 3. Un caso mediatico 58
• 3.1 La disinformazione in una condizione di post-verità 58
• 3.2 Erotismo e pornografia 67
• 3.3 Denigrazione, estorsione e furto d’identità 78
• 3.4 Il sintetico nella pubblicità e nel marketing 87
• 3.5 Intervista a Giacomo Spaconi 99
• Capitolo 4. Contributo sperimentale 106
• 4.1 Introduzione al progetto 106
• 4.2 Metodologia applicativa dei materiali selezionati 111
• 4.2.1 Produzione del sintetico statico 115
• 4.2.2 Il contenuto promozionale 128
• 4.3 Indagine del prodotto sintetico 132
• 4.4 Risultati dello studio 138
• Considerazioni 143
• Appendici 146
• A Intervista a Luisa Verdoliva 146
• B Intervista a Giacomo Spaconi 153
• Bibliografia 160
• Ringraziamenti 171

Introduzione

affrontare un’attività di studio e ricerca La decisione di scientifica riguardo una tematica pionieristica, tanto affascinante quanto complessa, è nata ancor prima di aver compreso la reale portata della sua dimensione e attualità, nazionale ed internazionale.

È stata proprio la natura e contemporaneità del fenomeno, congiunte al disvalore intrinseco in esse, ad aver costituito il reale movente per la selezione dell’argomento. l’attualità tecnologica e la Conoscere e valutare sua integrazione nel panorama mediale contemporaneo, ritengo sia imprescindibile per assicurare che le proprie competenze, non solo accademiche, siano pertinenti e competitive nella sfera professionale.

Nell’epoca digitale che caratterizza la nostra contemporaneità, la rapida evoluzione tecnologica ha condotto ad una consecutio di avanzamenti che ne hanno profondamente rivoluzionato il panorama attuale. La tecnologia del Deepfake, branca dell’Intelligenza Artificiale, si è distinta per la sua capacità di produrre contenuti audiovisivi sintetici, tramite una rielaborazione di materiali digitali, talmente realistici nella loro forma da risultare indistinguibili dall’originale.

Nel corso dei tredici mesi di ricerca, il cui inizio è avvenuto nel novembre 2022 e si è concluso nel dicembre 2023, ho potuto comprovare quanto la percezione del singolo possa essere fortemente compromessa dinnanzi alla visione di un prodotto sintetico.

In considerazione di quanto verrà opportunatamente delineato in seguito, mi percettivo sarà permesso dimostrare quanto l’inganno del sintetico visivo sia costituito da una componentistica indefinita, fluida, e difficilmente catalogabile.

La capacità sensoriale di discernimento, tra la percezione di un prodotto reale ed uno sintetico, è stata fortemente contestata in itinere allo svolgimento del lavoro, divenendone il quesito primario di ricerca.

La mia tesi vede, pertanto, una prima risposta, tramite la dimostrazione statistica di un lavoro sperimentale in seno ad un contesto commerciale, che ne comprova quanto precedentemente discusso.

Nel corso dell’indagine, ho constatato la carenza di pubblicazioni in grado di coniugare diverse prospettive multidisciplinari nella sola analisi del sintetico visivo. Al contrario, si riscontrano numerosi trattati scientifici che ne soddisfano la ricerca nelle discipline ingegneristiche, informatiche e sociologiche.

lavoro, lungi dall’essere una soluzione esaustiva all’analisi, si propone Il mio come punto di origine per le indagini future. Essa conferisce al lettore un iniziale substrato conoscitivo interdisciplinare al fine di garantire il suo prossimo sviluppo nel dominio commerciale, sociopsicologico, semiotico e filosofico.

Desidero altresì menzionare come lo studio approfondito del sintetico visivo, posto in luce l’ampia condotto con un rigore adeguato alle mie competenze, abbia portata di questo nuovo dominio, tanto vasto ed ignoto da non essere sufficiente la stesura di un singolo documento per una trattazione esaustiva.

L’impossibilità di abbracciare le discipline lontane, ma comunque pertinenti all’oggetto di tesi, ha generato in me il bisogno di approfondirne la ricerca in una sede prossima.

In riferimento al lavoro proposto, nel paragrafo introduttivo del primo l’indagine capitolo di tesi si erige una disamina accurata in merito del sintetico, al fine di proporre una più agevole comprensione della lettura. Nelle parti a venire, è presente una migliore delineazione dell’oggetto di ricerca, in cui è divenuto imprescindibile riportare non solo la sua etimologia ma, oltremodo, la sua essenza intrinseca e le prerogative primarie ad essa connesse. Al suo interno, si disvela l’intervista della Prof.ssa Luisa Verdoliva, veicolo di una visione innovativa, attuale e accademica che si propaga non solo nel dominio ingegneristico ed informatico, ma altresì l’ambito sociale.

permea del visivo Nel secondo capitolo viene presentata un’analisi tradizionale e sintetico, ripercorrendo un excursus delle teorie di importanti studiosi nel campo semiotico e filosofico, proponendo una prospettiva pertinente al contesto postmoderno. Nel paragrafo conclusivo, in considerazione delle precedenti osservazioni accademiche, si riporta una più accurata interpretazione del visivo inteso come “autentico” sintetico e, pertanto, del discernimento percettivo tra il vero: inteso come “non autentico”, ed il falso: in cui il Deepfake si dispone al confine brumoso. Le argomentazioni, enunciate nel presente capitolo, costituiscono la prima il quadro teorico dell’indagine. parte della colonna portante su cui si erige

Nel terzo capitolo vengono diramate le preminenti manifestazioni dell’erotismo, la sintetico in cui la disinformazione, pornografia e la mancata legislatura in seno al contesto commerciale, fungono da substrato fecondo. Nel presente capitolo, i temi si delineano con un rigore scientifico e una disamina prettamente psicoanalitica, disimpegnandosi dalla connotazione filosofica intrisa nel corpo antecedente. La psicologia freudiana e junghiana, enunciate con meticolosa e pertinenza in raffronto all’oggetto di discussione, precisione costituiscono le prime fondamenta essenziali per una migliore conoscenza del panorama sociologico - culturale e politico in cui il sintetico si presenta. Nei paragrafi conclusivi, si riportano alcuni esempi esplicativi del Deepfake che ne risaltano la sua pervasività nel L’intervista del regista panorama commerciale. Giacomo Spaconi, presente nel segmento conclusivo del capitolo, riporta una prospettiva pragmatica in virtù della sua personale esperienza con il sintetico.

alla stesura dell’elaborato Il quarto ed ultimo capitolo di tesi è rivolto sperimentale, articolato in due percorsi espositivi che ne illustrano le rispettive metodologie distintive. La fase iniziale del lavoro ha visto la creazione di un sintetico statico, costituito da una sostituzione totale dei due volti organici prescelti, ed il suo L’elaborato inserimento in un contenuto dinamico. è stato sottoposto alla visione di due campioni per il giudizio e analisi del riscontro, individuale e collettivo, in L’indagine ha contemplato un’aperta discussione risposta al prodotto sintetico. comparativa del campione, con lo scopo di proporre una risposta concreta al quesito di tesi. Nel presente capitolo, sono inoltre riportate le principali problematiche riscontrate in itinere al compimento del lavoro, delineando le insufficienze associate ad una incompleta evoluzione della tecnologia sintetica.

La percezione del reale

1.1 La percezione del reale

Ad oggi, non è più possibile distinguere ciò che è reale da ciò che non lo L’uomo ha da sempre posto estrema fiducia e affidabilità in ciò che i suoi sensi è. riescono a vedere e percepire come reale ed esistente. Nessun congegno, seppur fosse dotato di una propria pseudo coscienza, sarebbe in grado di sostituire la mente umana. Tuttavia, l’Intelligenza Artificiale 1 viene considerata, da molti studiosi, l’unica forma di intelletto in grado di contraddire tale asserzione.

Ricadono nell’ambito dell’Intelligenza Artificiale quei sistemi progettati dall’uomo che agiscono nella dimensione fisica o digitale e che, dato un obiettivo complesso, percepiscono il proprio ambiente attraverso l’acquisizione di dati, interpretandoli e rielaborando informazioni derivate da quest’ultimi. Tali sistemi adoperano regole logiche e apprendono specifici modelli numerici, dai quali adattano il loro comportamento analizzando le conseguenze delle loro azioni precedenti. Per ulteriori approfondimenti si veda: Quintarelli Stefano, Intelligenza artificiale. Cos’è davvero, come funziona, che effetti avrà, Torino, Bollati Boringhieri, 2020; Graham Meikle, Deepfakes, Cambridge, Polity Press, 2022.

È legittimo sostenere che l’Intelligenza Artificiale sia attualmente in grado di svolgere velocemente innumerevoli mansioni che l’essere umano non è naturalmente in grado di eseguire.

Ciononostante, dichiarare che essa possa raggiungere il medesimo grado di capacità dell’intelletto umano, quando la sua origine è prodotta da quest’ultimo, è fonte di molte discussioni. È su questa linea di pensiero che diversi ricercatori affermano di sostenere che le abilità umane siano ancora inimitabili, nel discernere il reale dall’illusorio.

La percezione sensoriale è una relazione costruttiva ritenuta come parzialmente soggettiva, poiché deriva da un processo cognitivo personale ben distinto. È opportuno, quindi, differenziare la realtà oggettiva dalla percezione che abbiamo di essa. La percezione di ciò che è reale, in quanto soggettiva, non può essere considerata il fondamento portante di una concezione che afferma la realtà individuale come verità inconfutabile.

I materiali audiovisivi che visioniamo quotidianamente, attraverso i nostri dispositivi mediali, non sono parte di una rara eccezione che viene esonerata da Nell’universo digitale, la manipolazione dell’immagine è oramai questa riflessione. pratica quotidiana per molti individui e utenti della rete internet.

L’evoluzione l’accesso tecnologica ha reso possibile ad innumerevoli l’ausilio dell’Intelligenza strumenti digitali che adottano Artificiale, attraverso i dell’osservatore. Quest’ultimo quali è possibile ingannare la percezione visiva non ha la capacità di comprendere se l’elemento, di cui ha preso visione, sia autentico nella sua rappresentazione.

L’intento, dietro la manipolazione intenzionale, può derivare da nature differenti che non confinano con alcun settore. Pertanto, è divenuto semplice suggestionare il pensiero collettivo portandolo a sostenere delle credenze ben con un’immagine artefatta, nella quale è ritratta la precise. Ingannare la mente figura di un noto politico mentre afferma dichiarazioni allarmanti che, non sono mai state dette nella realtà effettiva, genera inevitabilmente uno stato confusionale in chi guarda. Tuttavia, è scorretto dar vita a presupposti basati su una generalizzazione delle intenzioni di chi adopera tali strumenti tecnologici.

È nel pensiero comune considerare che sia possibile rilevare un’immagine artefatta, attraverso un'analisi attenta dell’occhio umano che può cogliere eventuali corrispondenze tra la mimica e lo stato emotivo del soggetto ripreso.

Tale presupposto non è ragionevolmente sostenibile. Considerato quanto affermato in precedenza, la percezione visiva non è in grado di valutare la realtà complessiva nella sua oggettività.

È illusorio pensare che la sola percezione individuale sia sufficiente a identificare il falso. Considerazione che, seppur contestabile, può essere sostenuta dalla nascita di una recente tecnologia, facente parte dell’immenso spettro dei 2 media sintetici, che ha come finalità quella di generare un contenuto audiovisivo fornendosi di materiali già esistenti in rete. Tale tecnica viene denominata Deepfake.

Si riferiscono a media quali: immagini, video e audio generati da Intelligenze Artificiali o direttamente manipolati. I media sintetici appaiono come estremamente realistici e difficilmente distinguibili dai prodotti originali. Per definizione, si potrebbe intendere la tecnologia del Deepfake come parzialmente sintetica in quanto inserisce degli elementi in un contenuto che, in realtà, è già esistente. Per ulteriori approfondimenti si veda: Meikle (2022).; Susan Schneider, AI and the Future of Your Mind, Princeton, Princeton University Press, 2021.

1.2 Intelligenza Artificiale: Deepfake

“deep e “fake” 3 Il termine Deepfake (un neologismo derivante da learning”) è stato introdotto, inizialmente, come riferimento a falsificazioni digitali sintetiche, l’ausilio dell’Intelligenza generate o manipolate attraverso Artificiale, che presentano 4 nuove strade multisensoriali per ingannare la percezione del reale. Tuttavia, tale terminologia è stata successivamente applicata a molteplici contesti differenti che non ne hanno permesso una tassonomia definita.

Adottato da “deepfake”, nome dell’utente di Reddit.com che, nel novembre 2017, aprì un forum 3 di discussione “r\deepfakes”, volto alla condivisione di materiale pornografico realizzato attraverso l’Intelligenza Artificiale. Per approfondimenti si veda: T. Wagner, A. Blewer, The word real is no longer real: Deepfakes, Gender, and the Challenges of AI-Altered Video, in Open Information Science, n. 3, pp. 32-39 2019.

Per approfondimenti si veda: S. Woolley, The Reality Game: How the next wave of technology will 4 break the truth and what we can do about it, Octopus Publishing Group, Londra 2020.

un percorso d’orientamento Pertanto, risulta necessario delineare che determini tutte le sue possibili ramificazioni. È opportuno non limitare la semantica “falso profondo”), del termine alla sua letterale interpretazione (ossia ma piuttosto 5 associarla alla sua tecnica di creazione.

Si riserva il termine di “contenuti sintetici” a tutte le altre forme di mistificazione del reale, ottenute da ulteriori tecniche applicative.

Il Deepfake non si limita, quindi, al solo ambito audiovisivo, poiché la sua manifestazione si caratterizza per la capacità di inserirsi nell’immaginario collettivo di un’era 6 7 postmediale. Tale costatazione sarà oggetto di analisi nel secondo capitolo.

Il Deepfake è una tecnologia che si avvale del Deep Learning, ossia un sistema di apprendimento approfondito, meglio definito come una branca facente 8 parte del complesso procedimento di apprendimento automatico (in inglese 9 Machine Learning), basato sulla fruizione di reti neurali artificiali (in inglese Artificial Neural Network, ANN) con lo scopo di imitare la metodologia di acquisizione tipica della mente umana.

Si deduce, da quanto detto, che tale tecnica offre molteplici opportunità di Tale precisazione deriva da un uso eterogeneo de termine, che risulta essere privo di un quadro di 5 riferimento ben preciso.

Con “era postmediale” o, per meglio definirla, “condizione postmediale” Ruggero Eugeni si 6 riferisce ad una vera e propria de-individualizzazione dei dispositivi mediali, poiché non è più possibile identificare e definire al meglio le funzioni che svolgono i nuovi dispositivi mediali. Per approfondimenti si veda: Ruggero Eugeni, La condizione postmediale. Media, linguaggi e narrazioni, La Scuola SEI, 2015.

Si veda capitolo 2.3 Oltre la cultura convergente, p.51.

7 Inteso come una variante della programmazione tradizionale in cui una macchina è in grado di 8 apprendere autonomamente senza indicazioni esplicite. L’apprendimento automatico, denominato anche Machine Learning, con