wikimedia.org
OPEN & WIKI
12.07.19 - 06:000

Google e Wikimedia Foundation per bloccare commenti ostili

Google e Wikimedia Foundation hanno collaborato sul tool Detox per prevenire commenti ostili in Wikipedia ma hanno dovuto chiudere il tool

 

La divisione ricerche di Jigsaw di Google e la Wikimedia Foundation hanno collaborato a uno strumento automatizzato di "rilevamento delle molestie" chiamato Detox per aiutare a identificare i commenti ostili su Wikipedia.

Lo strumento era attivo dal 2017 per un’idea dell’allora capo della ricerca presso la Wikimedia Foundation, Dario Taraborelli, e l'allora capo di Jigsaw, Lucas Dixon. Da allora Taraborelli è entrato a far parte della divisione scientifica della Chan Zuckerberg Initiative del fondatore di Facebook.

Membri del sito di critica di Wikipedia Wikipediocracy ha recentemente iniziato a sperimentare la versione demo pubblica dello strumento per verificarne l'affidabilità. Lo strumento fornisce valutazioni per la natura "aggressiva" di qualsiasi commento immesso su una scala da zero a uno, che denota un commento altamente ostile. I membri di Wikipediocracy hanno trovato lo strumento facile da ingannare utilizzando sinonimi di parolacce o rendendo i commenti più passivi anche se aggressivi.

Un membro di Wikipediocracy ha scoperto che mentre il termine "divieto" è stato contrassegnato come ostile al 30%, questa percentuale era dimezzata quando formulata come un suggerimento per bandire un uomo. Se invece il commento era stato formulato come un suggerimento per mettere al bando una donna, il commento era valutato diverse volte più ostile. Come dire: un divario di genere al contrario. Ciò è stato confermato da ulteriori riformulazioni in cui ogni iterazione ha visto commenti rivolti a donne trattate come più ostili.

A seguito di lamentele su alcuni risultati che trattano affermazioni che definiscono omosessuali come ostili e valutano i commenti antisemiti come “non ostili”, Wikimedia Foundation ha chiuso lo strumento anche perché si sono rivelati dei problemi con l'API Perspective, che è correlato allo strumento Detox che rendevano i risultati poco affidabili.

Per informazioni: https://www.wikimedia.ch/it/contatti/

ULTIME NOTIZIE Open & Wiki
Copyright ©2019 - TicinOnline SA  WhatsApp |  Company Pages | Mobile Report

Stai guardando la versione del sito mobile su un computer fisso.
Per una migliore esperienza ti consigliamo di passare alla versione ottimizzata per desktop.

Vai alla versione Desktop
rimani sulla versione mobile