Foto: via Unsplash
Stiamo sottovalutando TikTok come veicolo di contenuti estremisti, secondo quanto emerge da uno studio pubblicato in questi giorni dall’Institute for strategic dialogue (Isd), un think tank con sede a Londra che si occupa di monitorare l’odio online. L’analisi, chiamata Hatescape, dicono i ricercatori, è il più grande studio mai condotto su questo specifico tema e i risultati non sono confortanti.
Dei 1.030 video di TikTok raccolti a giugno partendo da un database di parole chiave e che i ricercatori hanno analizzato, 312 (quasi un terzo) presentavano contenuti razzisti riconducibili ai suprematisti bianchi. Metà erano filo-nazisti e alcune clip sostenevano le teorie del complotto sul genocidio dei bianchi.
Tre dei 10 video più popolari, visti in totale 3,5 milioni di volte, erano clip originariamente prodotte da Paul Miller, un estremista conosciuto come Gypsy Crusader che diffonde retorica razzista e antisemita sui social media, già noto alla giustizia. L’istituto ha riscontrato anche un numero allarmante di video pieni di contenuti offensivi verso donne, migranti, rifugiati, persone asiatiche, musulmane ed ebree o componenti della comunità lgbt+.
I rischi dell’esposizione alla violenza
Da quanto emerge dallo studio, spesso questi video riescono anche ad arrivare nel feed pricipale For You del social. I ricercatori hanno avvertito che l’esposizione all’estremismo è particolarmente pericolosa perché TikTok è molto frequentato da bambini e adolescenti.
Il problema però non sembrano essere le linee guida della community, che vietano categoricamente la diffusione di contenuti razzisti, violenti e discriminatori verso le minoranze. I ricercatori affermano che TikTok ha imparato dai problemi che Facebook e Twitter hanno avuto con questo tipo di contenuti e ha messo in atto politiche complete. Ma, spiega il curatore del report Ciaran O’Connor, c’è un “notevole divario di applicazione“ rispetto agli altri due social network, per cui la strada da fare è ancora tanta.
Per esempio, l’Institute for strategic dialogue afferma che TikTok rimuove sì i contenuti che promuovono l’odio verso le minoranze o il suprematismo bianco, ma non in modo coerente e sistematico. Solo il 18,5% di tutti i video analizzati nella ricerca (circa 191) sono stati rimossi da TikTok entro la fine del periodo in cui i ricercatori hanno raccolto i dati, mentro il resto è rimasto attivo. Il social ha fatto sapere in risposta all’uscita del report che tutti i video segnalati erano stati poi eliminati.
Come si aggira la moderazione
Anche se TikTok in precedenza ha affermato di rimuovere la stragrande maggioranza dei contenuti che violano le sua politiche entro 24 ore, dallo studio emerge invece che gli utenti usano diversi metodi per eludere la moderazione e si tratta soprattutto di funzionalità integrate della piattaforma.
La funzione Stitch o Duet dell’app permette infatti di combinare materiale vietato con altri video, che in alcuni casi appaiono abbastanza sicuri da evitare la moderazione. Molti account di estremisti usano poi il layout della griglia del profilo e la musica di sottofondo per diffondere la loro propaganda sulla piattaforma, in modo più subdolo. Altrimenti basta cambiare una lettera in una frase vietata o il nome dell’account, o, ancora, sbagliare l’ortografia di un hashtag, per non venire subito rintracciati. I ricercatori hanno segnalato anche contenuti vietati ricaricati da altri utenti o casi di profili bannati che comparivano con un nome solo leggermente modificato.
Una portavoce di TikTok ha affermato che il social media ha molto apprezzato la ricerca prodotta da Isd, sostenendo che possa aiutare a “rafforzare il modo in cui applichiamo le nostre politiche per mantenere la nostra piattaforma sicura e accogliente”. I contenuti estremisti e suprematisti non sembrano però essere l’unico problema per i moderatori di TikTok. Negli scorsi giorni un altro studio condotto da Media Matters ha evidenziato come l’algoritmo di TikTok favorisca la circolazione di video che contenevano disinformazione e bufale su Covid-19 e vaccini.
The post Perché i contenuti razzisti sono così diffusi su TikTok appeared first on Wired.
Link originale...