Google e Jigsaw lanciano Perspective, il machine learning per migliorare le conversazioni online

24 febbraio 2017

Google e Jigsaw lanciano Perspective, una tecnologia open source che usa il machine learning per identificare i commenti offensivi sotto le notizie online.

Perspective rivede i commenti e assegna loro un punteggio basato su quanto siano simili a commenti che gli utenti hanno indicato come ‘tossici’ o tali da spingere le persone ad abbandonare la conversazione.  Attraverso un’interfaccia di programmazione, per ora disponibile solo in inglese, gli editori – inclusi i membri della Digital News Initiative – e le piattaforme possono avere accesso a questa tecnologia e utilizzarla per i propri siti.

Per imparare a identificare un linguaggio potenzialmente ingiurioso, Perspective ha esaminato decine di migliaia di commenti che sono stati etichettati manualmente da revisori umani. Ogni volta che Perspective trova nuovi esempi di commenti potenzialmente offensivi, o la sua valutazione viene corretta dagli utenti, migliora la capacità di valutare i commenti in futuro.

Gli editori possono scegliere cosa fare con le informazioni che ottengono da Perspective. Ad esempio, un editore potrebbe decidere di segnalare i commenti ai propri moderatori in modo che questi li rivedano e decidano se includerli o meno in una conversazione. Oppure, l’editore potrebbe utilizzare questo strumento per aiutare le persone della sua community a capire l’impatto di quanto stanno scrivendo, ad esempio permettendo agli utenti che commentano di vedere il potenziale di ‘tossicità’ dei propri commenti mentre li stanno scrivendo.

Ancora, gli editori potrebbero anche solo permettere ai lettori di ordinare i commenti in base a quanto sono offensivi, facilitando così l’individuazione di conversazioni interessanti nascoste in mezzo a quelle offensive.

La prima versione è stata testata dal New York Times, con un team che controlla e modera ogni commento prima che venga pubblicato, revisionando oltre 11mila commenti ogni giorno, un numero così elevato che il Times ha deciso di offrire la possibilità di commentare solo il 10% circa dei suoi articoli. Perspective si aggiunge alla libreria Open Source di TensorFlow e alla Google Cloud Machine Learning Platform come una ulteriore risorsa di machine learning che Google rende disponibile per gli sviluppatori. Questa tecnologia è ancora in fase di apprendimento.

“Quando Perspective comincerà ad essere usato da un editore – si legge in una nota -, sarà esposto a un maggior numero di commenti, sviluppando così una migliore comprensione di cosa rende certi commenti offensivi. Il nostro primo modello è pensato per identificare il linguaggio offensivo, ma nel corso del prossimo anno ci piacerebbe avviare nuove collaborazioni per offrire modelli che funzionino anche in lingue diverse dall’inglese e che siano capaci di identificare commenti che siano attacchi personali oppure fuori tema”.