YouTube inizia a moderare i commenti offensivi

YouTube, di fatto il principale punto di riferimento per l'hosting video, lavora da anni per rendere la piattaforma più adatta sia alla monetizzazione dei contenuti sia a conversazioni più civili nei commenti. Ora vuole migliorare anche la qualità degli scambi: i messaggi offensivi verranno filtrati e gli utenti riceveranno un avviso quando nel testo compaiono aggressività o contenuti simili.

YouTube sta testando il filtro in forma privata. La moderazione, però, non sarà attiva automaticamente su tutta la piattaforma: i proprietari dei canali potranno scegliere se abilitarla nei commenti ai propri video oppure lasciare i messaggi senza filtro preventivo. L'obiettivo è rendere le conversazioni più ordinate, riducendo trolling e attacchi personali.

YouTube ha anche annunciato l'introduzione del nuovo sistema. Se in un commento viene rilevato un linguaggio contrario alle regole della piattaforma, l'utente riceverà un avviso. Il messaggio lo inviterà a leggere le linee guida della community e a controllare se il commento le rispetta. 

La moderazione, comunque, non sarà rigida: anche dopo l'avviso, YouTube non impedirà la pubblicazione di un commento che il sistema considera offensivo. L'utente sarà invitato a rileggerlo e a modificarlo, con la nota che non tutti potrebbero ritenerlo appropriato. Non è ancora chiaro se le regole diventeranno più severe in futuro, nemmeno per il team di YouTube, e questo potrebbe incidere sul traffico verso il sito.

La moderazione non sarà affidata a persone, ma a sistemi automatici sviluppati appositamente, con il supporto degli utenti. Quando segnalano un contenuto come offensivo, gli utenti forniscono alla rete neurale esempi concreti. Da quei messaggi il sistema costruirà i propri criteri di selezione. Al momento il filtro preventivo funziona solo in inglese, ma la funzione dovrebbe arrivare presto anche in altre lingue.