Algoritmi e giovanissimi: basta un pomeriggio di scroll per finire nella trappola dei contenuti tossici?

Bastano davvero un paio d'ore trascorse a scorrere video sullo smartphone per trasformare lo schermo di un adolescente in un flusso continuo di contenuti tossici, aggressivi e misogini?

Nel dibattito sempre più acceso sul rapporto tra adolescenti e social media — alimentato dalle preoccupazioni di genitori ed educatori per l'ascesa di influencer della cosiddetta "mascolinità alpha" —, una ricerca datata 2024 della Dublin City University ha gettato ulteriore benzina sul fuoco. I dati emersi hanno fatto immediatamente il giro della rete: l'algoritmo di due dei più popolari social network tra i giovani avrebbe infatti iniziato a proporre contenuti aggressivi nei confronti delle donne dopo aver riconosciuto i profili del test come appartenenti a giovani maschi.

I dati dello studio: l'impatto degli algoritmi e la diffusione della manosphere

Un recente studio basato sull'osservazione di 10 profili sperimentali su smartphone "puliti" ha tracciato i contenuti raccomandati dagli algoritmi di TikTok e YouTube Shorts. I dati evidenziano che i "manfluencer" (influencer maschi) rappresentano la stragrande maggioranza dei video raccomandati all'interno del dataset analizzato, dimostrando la loro assoluta centralità nell'attuale ecosistema della manosphere.

Metodologia e velocità di somministrazione dell'algoritmo

L'esperimento ha testato cinque tipologie di profili per piattaforma: adolescenti (16 e 18 anni) con interessi "normativi" (palestra, sport, videogiochi), adolescenti (16 e 18 anni) che cercavano attivamente contenuti della manosphere (es. Andrew Tate, anti-femminismo), e un profilo di controllo neutro.

Il primo dato rilevante riguarda la rapidità di esposizione: tutti i profili del test — inclusi quelli di controllo e quelli con interessi puramente normativi — si sono visti raccomandare contenuti tossici entro i primi 23 minuti e video della manosphere entro i primi 26 minuti di navigazione. Analizzando le tempistiche del primo video della manosphere raccomandato, emergono differenze strutturali:

• Su TikTok: Ai profili generici di 16 e 18 anni sono bastati rispettivamente meno di 9 e 15 minuti. Per gli account già orientati alla manosphere, il tempo è stato di 10 e 25 minuti.

• Su YouTube Shorts: Le tempistiche sono risultate più polarizzate. Al profilo generico di 18 anni sono bastati appena 2 minuti di navigazione, mentre a quello di 16 anni ne sono occorsi 17. Per i profili già orientati alla manosphere, i tempi sono scesi a 8 minuti (16enni) e meno di 2 minuti (18enni).

Le differenze tra le piattaforme sull'esposizione complessiva

In media generale, lungo tutto l'esperimento (oltre 29 ore di visualizzazione tracciate), YouTube Shorts ha raccomandato una quantità complessiva di contenuti tossici nettamente superiore rispetto a TikTok (61,5% del totale raccomandato contro il 34,7%). Tuttavia, il comportamento dell'algoritmo varia in base al target:

• Su YouTube Shorts, la profilazione è marcata: i profili che cercavano la manosphere hanno ricevuto significativamente più contenuti tossici (71,4%) rispetto ai profili generici (51,6%).

• Su TikTok, l'esposizione è risultata trasversale: la percentuale di contenuti tossici raccomandata ai profili generici (36,6%) è stata persino leggermente superiore rispetto a quella destinata a chi cercava attivamente la manosphere (32,5%).

L'effetto "bolla": l'esplosione finale del 76% e 78%

I dati evidenziano una forte accelerazione algoritmica basata sulle metriche di attenzione. Non appena un profilo mostrava interesse guardando specificamente i video della manosphere, la quantità di tali raccomandazioni aumentava rapidamente.

Nell'ultima fase dell'esperimento — ovvero dopo circa 400 brevi video visti, pari a 2-3 ore complessive di fruizione —, l'ecosistema raccomandato aveva raggiunto un livello di saturazione estremo: la stragrande maggioranza dei contenuti proposti era diventata problematica o tossica (il 76% su TikTok e il 78% su YouTube Shorts). Questa percentuale si concentrava quasi interamente sulle categorie della manosphere (miti del "maschio alfa" e posizioni anti-femministe). A questo bacino si è inoltre affiancata una quota di contenuti dell'estrema destra reazionaria e teorie del complotto, pari al 13,6% delle raccomandazioni su TikTok e al 5,2% su YouTube Shorts, in gran parte costituiti da contenuti anti-transgender.

Skuola.net consiglia

Cybersecurity, il settore che cerca talenti: come iniziare dopo la scuola

La necessità di agire

Tutelare i minori da contenuti che incitano all'odio e alla violenza, insieme all'urgenza di investire nell'educazione digitale, rappresentano due priorità non più rinviabili per dotare i giovani degli strumenti critici necessari a navigare in modo consapevole. In questa direzione si sta muovendo anche l'Unione Europea, impegnata nello sviluppo di tutele dedicate ai più piccoli come il Kids Act.

D'altronde, il report della Dublin City University si chiude con un chiaro appello all'azione: "I risultati di questo studio mettono in luce questioni urgenti e preoccupanti per genitori, insegnanti, decisori politici e la società nel suo complesso".

"Ci auguriamo - conclude - che i nostri dati spingano le aziende di social media, i governi e le istituzioni ad agire con urgenza".