Non solo le notizie “bufala” ma anche il linguaggio violento, insulti, troll e flame avvelenano i commenti e le conversazioni sotto i post in internet. Come si può risolvere questo fenomeno? Ci pensa Google, che contro i commenti ritenuti “tossici” lancia Perspective: una tecnologia ad uso dei media per stanare l’odio.
Questo sistema sfrutta una sorta di apprendimento automatico e analizza i commenti assegnando a ciascuno un rating, ovvero una valutazione da 1 a 100.
Chi lo potrà usare?
Al momento pare che verrà lasciato solo nelle mani degli editori americani come il New York Times, coinvolto nella fase di sviluppo insieme a Wikipedia. Entrambi hanno lavorato a lungo per creare algoritmi in grado di fare una prima scrematura dei commenti che i redattori dovranno poi moderare. Si parla di circa 11 mila commenti al giorno per un team di 14 persone e solo per il 10% degli articoli online.
Sarà però possibile usare Perspective anche in altri modi, ad esempio mostrando allo stesso utente il “punteggio” del suo commento, per avvisarlo preventivamente e metterlo in guardia da una possibile ingiuria ai danni di altri.
Come funziona in dettaglio?
Perspective confronta le frasi con un enorme database iniziale e si affina sempre di più, proprio come Terminator, ogni volta che trova nuovi esempi di commenti potenzialmente offensivi. Al momento è disponibile solo per analisi in inglese: per funzionare anche in italiano servirà una fase di addestramento dell’algoritmo insieme ad organizzazioni editoriali che lavorano nella nostra lingua.
Chi ci lavora?
Contemporaneamente al Times e Wikipedia USA si sono aggiunti altri due partners: il Guardian e l’Economist. La tecnologia comunque è disponibile e gratuita per tutti (ovviamente non ai privati cittadini).
A chi rimangono i dati?
L’editore può scegliere se permettere a Google di salvarli. Anche Twitter sta pensando di arginare il moltiplicarsi del linguaggio scorretto e violento in rete, rafforzando la lotta ai troll e abusi.
Instagram ha introdotto dei filtri anti-bullismo. Facebook invece è stato a lungo spronato a fare qualcosa e grazie alla propria policy (condizione di utilizzo) i contenuti considerati discriminatori possono essere segnalati e l’impegno è di cancellarli entro 24 ore. Nel nostro Paese è nato anche il manifesto Parole Ostili: un decalogo per un uso consapevole della Rete.
È presente anche la pagina Facebook, dove spesso vengono postati aggiornamenti sulla diffusione del manifesto.
Come sarà il futuro?
Secondo voi questo strumento potrà debellare il continuo incitamento all’odio o nelle mani dei media si trasformerà nell’arma ideale per la censura online? Fatecelo sapere nei commenti!
