Content moderation, il caso Facebook e Casapound

Lums: Università di Giurisprudenza, Economia e Lingue Moderne

Corso di laurea in politiche, amministrazioni e innovazione

LM-62, Cattedra di governance, amministrazioni e risorse pubbliche

Content moderation: Il caso Facebook e CasaPound

Relatore: Mario Midiri

Candidato: Carlo Citarelli

Matricola: 30046/410

Anno Accademico 2022-2023

Indice

Introduzione

• Capitolo I: Content moderation
  • In cosa consiste la moderazione dei contenuti online
  • Tipi di moderazione
  • Come funziona
    • Quali tipi di contenuti possono essere moderati?
    • In cosa consiste il lavoro del moderatore di contenuti?
  • L'unione europea: la legge sui servizi digitali
  • Facebook e CasaPound in tribunale
• Capitolo II:
  • Il meccanismo della piattaforma: standard e condizioni d’uso
  • Sentenza CasaPound: in fatto e diritto
    • Cosa è successo
    • Motivazioni e verdetto
• Conclusione
• Bibliografia
• Sitografia

Introduzione

Al giorno d'oggi qualsiasi tipo di pensiero o fatto viene digitalizzato attraverso la produzione di un contenuto che viene condiviso su piattaforme online con tutto il mondo; dunque, sorge spontaneo chiedersi come vengano controllati i contenuti caricati in rete e quali siano le leggi o le regole che delimitano la libertà di espressione per la protezione individuale e collettiva dei soggetti attivi in Internet.

Si parta da una domanda. Cosa accadrebbe se venisse pubblicata una foto pornografica o un video violento? La risposta è semplice, qualcuno o qualcosa interverrebbe per far sparire quel determinato contenuto e non si tratterebbe solamente di un algoritmo, ma in molti casi di un'azione congiunta di un software e un moderatore umano.

In questo lavoro di tesi vengono presentate le varie tipologie di controllo dei contenuti (pre-moderazione, post-moderazione, moderazione reattiva, moderazione distribuita e moderazione automatica) e viene data una visione più da vicino della mansione svolta da un moderatore umano di contenuti online, focalizzando le difficoltà che intercorrono nel suo lavoro, compreso il rischio di ricadere in situazioni psicologiche precarie dovute alla pesantezza di un lavoro che richiede un'attenzione estenuante e un rifacimento alle regole puntiglioso sebbene queste siano pur sempre opinabili essendo basate su una gradazione di gravità dell’illecito commesso non sempre ben definibile.

La causa di queste difficoltà ricade spesso sul contesto di riferimento, che l’algoritmo o il moderatore fanno fatica a comprendere a pieno. A dimostrazione del fatto che la content moderation è una problematica di estrema attualità, alla fine del primo capitolo è stata poi posta l'attenzione sulla legge sui servizi digitali dell'Unione Europea (DSA), la quale regola la gestione e la rimozione dei contenuti illegali online e porta diverse novità alle piattaforme, tra cui: la commissione e i paesi dell'Unione Europea avranno accesso agli algoritmi delle varie piattaforme sulle quali circolano la stragrande maggioranza dei contenuti condivisi online (in qualunque formato); viene stabilita una normativa riguardante la rimozione rapida dei contenuti illegali; maggiori garanzie su diritti e protezione delle vittime di violenza; sanzioni di vario livello per chi commette violazioni ai contratti stretti con le piattaforme; nuovi obblighi di trasparenza; più controllo sulla pubblicità; più protezione dei minori, e tanto altro.

Infine, è stato analizzato un caso recente di moderazione dei contenuti nello specifico, il caso che ha portato in tribunale Facebook Ireland Ltd. e l'associazione sociale italiana CasaPound, vittima di una totale cancellazione della propria pagina (quindi di un mezzo potente di comunicazione con i propri sostenitori) per di più senza preavviso. Attraverso questo processo si riuscirà quindi ad evincere quanto sia complicato dare una valutazione giusta ad un determinato caso di violazione dalle condizioni d'uso delle piattaforme, specie se la violazione è commessa da associazioni politiche che richiedono una più vasta possibilità di espressione per rientrare all'interno del dibattito politico nazionale.

Capitolo I: Content moderation

In cosa consiste la moderazione dei contenuti online

La moderazione dei contenuti si verifica quando la piattaforma online seleziona e monitora i contenuti generati dagli utenti in base a regole e linee guida specifiche della piattaforma per determinare se i contenuti debbano essere pubblicati o meno sulla piattaforma online. In altre parole, quando un utente invia un contenuto a un sito web, tale contenuto sarà sottoposto a un processo di screening (noto come processo di moderazione) per garantire che il contenuto rispetti le normative del sito web e non sia illegale, inappropriato, molesto, etc.

La moderazione dei contenuti come pratica è comune tra le piattaforme online che fanno molto affidamento sui contenuti generati dagli utenti, come piattaforme di social media, mercati online, economia della condivisione, siti di incontri, comunità e forum, ed è per questo motivo che esistono molti metodi diversi con cui le aziende possono decidere come moderare le proprie piattaforme e i contenuti che girano su di esse. Questi sono spesso indicati come:

• Pre-moderazione
• Post-moderazione
• Moderazione reattiva
• Moderazione distribuita
• Moderazione automatica

Questi metodi richiedono automazione e un tocco umano per garantire il miglior risultato.

Tipi di moderazione

La pre-moderazione è il modo più elaborato per avvicinarsi alla moderazione dei contenuti. Implica che ogni contenuto venga rivisto prima di essere pubblicato sulla tua piattaforma. Quando un utente pubblica del testo o un'immagine, l'elemento viene inviato alla coda di revisione. Va in diretta solo dopo che un moderatore dei contenuti lo ha esplicitamente approvato. Sebbene questo sia il modo più sicuro per bloccare i contenuti dannosi, questo processo è piuttosto lento e non applicabile al frenetico mondo online. Tuttavia, le piattaforme che richiedono un elevato livello di sicurezza utilizzano ancora questo metodo di moderazione. Un esempio comune sono le piattaforme per bambini dove la sicurezza degli utenti viene prima di tutto.

La post-moderazione è il modo più tipico per eseguire lo screening dei contenuti. Gli utenti possono pubblicare i propri contenuti ogni volta che lo desiderano, ma tutti gli elementi vengono messi in coda per la moderazione. Se un elemento viene contrassegnato, viene rimosso per proteggere il resto degli utenti. Le piattaforme si sforzano di abbreviare i tempi di revisione, in modo che i contenuti inappropriati non rimangano online troppo a lungo. Sebbene la post-moderazione non sia sicura come la pre-moderazione, è ancora oggi il metodo preferito da molte aziende digitali.

La moderazione reattiva implica affidarsi agli utenti per contrassegnare i contenuti che ritengono inappropriati o che vanno contro le regole della tua piattaforma. Può essere una soluzione efficace in alcuni casi. La moderazione reattiva può essere utilizzata come metodo autonomo o combinata con la post-moderazione per ottenere risultati ottimali. In quest'ultimo caso, gli utenti possono contrassegnare il contenuto anche dopo che ha superato i processi di moderazione, in modo da ottenere una doppia rete di sicurezza. Se scegli di utilizzare solo la moderazione reattiva, ci sono alcuni rischi che dovresti prendere in considerazione. Una piattaforma autoregolante suona bene, ma può portare a contenuti inappropriati che rimangono online per troppo tempo. Ciò potrebbe causare danni reputazionali a lungo termine al tuo marchio.

La moderazione distribuita si affida completamente alla comunità online per rivedere i contenuti e rimuoverli se necessario. Gli utenti utilizzano un sistema di valutazione per contrassegnare se un contenuto corrisponde alle linee guida della piattaforma. Questo metodo viene utilizzato raramente perché pone sfide significative per i marchi in termini di reputazione e conformità legale.

Per quanto riguarda la moderazione automatica: oggi si fa molto affidamento sulla tecnologia per rendere il processo più veloce, più facile e più sicuro. Gli algoritmi basati sull'intelligenza artificiale analizzano testo e immagini in una frazione del tempo necessario alle persone e, soprattutto, non subiscono traumi psicologici dall'elaborazione di contenuti inappropriati. Quando si tratta di testo, la moderazione automatica può selezionare le parole chiave ritenute problematiche. I sistemi più avanzati possono individuare anche modelli di conversazione e analisi delle relazioni. Per quanto riguarda le immagini...