Hate speech: abbiamo segnalato a Facebook 100 commenti che incitano all’odio, 91 ancora online

associazionecartadiroma

9 anni fa

I risultati di un piccolo esperimento ci portano a riflettere sull’efficienza del sistema di verifica dei discorsi d’odio. Facebook Italia: «Fondamentale trovare equilibrio tra libertà di espressione e sicurezza delle persone»

Grazie per il tempo dedicato alla segnalazione di un contenuto che, a tuo avviso, potrebbe non rispettare i nostri Standard della comunità. Segnalazioni come la tua rappresentano un contributo importante al fine di rendere Facebook un ambiente sicuro e accogliente. Abbiamo esaminato il commento che hai segnalato perché incita all’odio e abbiamo determinato che rispetta i nostri Standard della comunità. Non esitare a contattarci se visualizzi altri contenuti che ti preoccupano. Vogliamo che Facebook rimanga un sito sicuro e accogliente per tutti.

Questa la risposta di Facebook nel caso in cui la segnalazione inviata risponda agli standard della comunità. Quando la si riceve 9 volte su 10, però, può sorgere qualche dubbio sull’efficacia dell’applicazione dei criteri utilizzati per determinare quali commenti possano restare online e quali invece vadano rimossi.

Abbiamo segnalato 100 commenti che incitano all’odio: 91 ancora online

Abbiamo voluto fare un piccolo esperimento: segnalare a Facebook, in quanto contenuti che incitano all’odio, 100 commenti. Prima di farlo abbiamo letto quali fossero gli standard della comunità in fatto di hate speech, che si propone di rimuovere i casi di istigazione all’odio sulla base di “razza, etnia, nazionalità di origine, affiliazione religiosa, orientamento sessuale, sesso, disabilità o malattia”. “Le organizzazioni e le persone impegnate a promuovere l’odio contro questi gruppi protetti non possono avere una presenza su Facebook“, rassicura la piattaforma social.

Poiché, come Carta di Roma, lavoriamo sulla promozione di un’informazione corretta su migranti, richiedenti asilo, rifugiati e sulle minoranze etniche e religiose, decidiamo di selezionare i 100 commenti da segnalare tra quelli che attaccano queste categorie. La scelta è, purtroppo, molto ampia: individuiamo quindi i commenti che non solo sono apertamente razzisti e/o discriminatori, ma che, nella maggior parte dei casi, incitano in modo palese all’odio e/o alla violenza: “uccideteli tutti”, “riapriamo i forni”, “bruciateli”, “sterminio”, “disinfestazione” sono espressioni ricorrenti che, almeno secondo noi, lasciano poco spazio all’interpretazione, trasformando un’opinione in discorso d’odio. La più larga fetta di questi commenti è rivolta a migranti/richiedenti asilo/rifugiati, ma non mancano quelli indirizzati alla comunità rom e a quella musulmana.

Dato il campione ristretto non pretendiamo di attribuire al risultato un valore superiore a quello che ha, ma riteniamo che possa comunque rappresentare un indicatore sul quale riflettere.

I tempi di risposta sono veloci: le segnalazioni sono state analizzate in meno di 24 ore, ma a tale velocità d’intervento, non corrisponde altrettanta efficacia. Sono stati rimossi solo 9 su 100 commenti segnalati. Che dipenda dal contenuto? Tra i rimossi troviamo un “Riaprite i forni“. Lo stesso esplicito richiamo a forni crematori e camere a gas si trova tuttavia in vari altri commenti che sono stati lasciati online, perché rispondenti agli standard della comunità. Tornando alla domanda, quindi: no. Lo stesso vale per la forma: a parità di forma e linguaggio alcuni commenti sono stati eliminati, altri sono ancora online (la lista dei commenti segnalati è in fondo all’articolo).

Facebook Italia: «Fondamentale trovare equilibrio tra libertà di espressione e sicurezza delle persone»

Prima di passare a qualsiasi valutazione e ipotesi è opportuno, tuttavia, un confronto con Facebook, per poter chiarire quali sono i meccanismi dietro al controllo delle segnalazioni.

«Le conversazioni che si tengono su Facebook riflettono la diversità di culture, esperienze e tradizioni che caratterizzano una comunità di oltre un miliardo di persone. È fondamentale trovare il giusto equilibrio tra tutela della libertà di espressione caratteristica della piattaforma da una parte e rispetto dei diritti e della sicurezza delle persone dall’altra», afferma Sara Ranzini, responsabile corporate communications di Facebook Italia. Concretamente, però, in che modo dovrebbero essere garantiti il rispetto dei diritti e la sicurezza?

A controllare le segnalazioni, spiega Ranzini, vi è una squadra, quella delle “Community Operations”, attiva 24 ore su 24 e 7 giorni su 7. A comporla vi sono persone di lingua italiana dai diversi profili formativi, in linea con la tipologia di contenuti da loro esaminata. L’azienda fornisce corsi di aggiornamento e approfondimento in modo regolare.

Ampio margine d’errore?

Le segnalazioni sono quindi valutate da persone in carne e ossa, che tengono conto non solo delle parole, ma anche del contesto. Come chiariscono le indicazioni contenute nella policy relativa all’hate speech, sono considerati discorsi d’odio i contenuti verbali violenti rivolti a un singolo individuo o a un gruppo di persone sulla base di etnia, nazionalità, religione ecc. Rientrerebbero nella categoria, per esempio, “sporchi italiani” o “sporchi cristiani”, mentre non vi rientrerebbe un attacco generico rivolto all’Italia o al cristianesimo. Un mito da sfatare, inoltre, è quello delle segnalazioni di massa: il fatto che uno stesso contenuto sia segnalato da molti utenti non aumenta affatto le possibilità che esso venga rimosso.

Il fatto che siano degli esseri umani – e non degli algoritmi – a valutare i commenti consente potenzialmente l’esecuzione di un lavoro molto più puntuale e ragionato. Allo stesso tempo ciò può comportare dei contro importanti: sensibilità e interpretazione personale e un margine di errore che può essere notevole, per esempio. Verosimilmente, potremmo essere incappati in entrambi con il nostro test.

Salta agli occhi, infatti, un primo elemento: le notifiche relative ai 9 commenti rimossi sono giunte una di seguito all’altra, in due soli momenti. Abbiamo ricevuto le notifiche che annunciavano la rimozione dei commenti dall’1 al 6 in modo consecutivo, il giorno stesso delle segnalazioni. La mattina successiva si è ripetuto lo stesso per i commenti 7, 8 e 9: anche in questo caso le tre notifiche sono arrivate una dopo l’altra, a distanza di pochi secondi.

Che questi “gruppi” di segnalazioni siano arrivati a due dipendenti la cui decisione di considerarli inadeguati sia stata influenzata dalla loro personale sensibilità? Questo potrebbe spiegare perché, a parità di forma e contenuto, tutti gli altri sono stati etichettati come accettabili: le persone a cui sono state sottoposte queste altre segnalazioni forse avevano una sensibilità diversa o possono aver dato un’interpretazione differente alle parole.

È altrettanto interessante osservare che il “riaprite i forni” di Angela F. (commento 41) è stato mantenuto online, mentre il “riaprite i forni” di Marilena C. è stato rimosso. Perché? Anche qui si è trattato di diversa sensibilità o interpretazione? Oppure di distrazione? Un banale errore?

Proviamo a ottenere una risposta mostrando i risultati del nostro test a Facebook Italia, che tuttavia dichiara di non poter commentare casi specifici. «Ci preme sottolineare che su Facebook non sono tollerati contenuti che incitano all’odio, compresi quelli che attaccano direttamente una persona o un gruppo di persone in base a razza, etnia, nazionalità, affiliazione eligiosa, orientamento sessuale, sesso, disabilità o malattia», aggiunge Sara Ranzini. La volontà di Facebook Italia di andare in questa direzione è confermata da alcune iniziative: il lancio della “Online Civil Courage Initiative”, che mette a disposizione oltre 1 milione di euro per sostenere le associazioni che combattono l’estremismo online in Europa; la collaborazione con l’Unar; il sostegno alla campagna Prism promossa da Arci.

I fatti, però, indicano che la strada da percorrere è ancora tanta e che le iniziative e le strategie finora messe in atto e il sistema adottato sono, purtroppo, insufficienti. Tra il dire e il fare c’è, in una situazione così complicata da gestire, ben più del mare.

Non potremo mai conoscere le motivazioni dietro alle decisioni relative a ognuna delle 100 segnalazioni, ma solo avanzare delle ipotesi, nonostante ciò il risultato è stato per noi desolante: la permanenza sul web di quei 91 contenuti, ancora consultabili, dimostra che nell’atto pratico della moderazione l’hate speech è ancora tollerato, nonostante l’azienda ne prenda fermamente le distanze e lo condanni. Il margine d’errore o la discrezionalità della decisione – se di questo si tratta – sono evidentemente ancora troppo ampi. Quell’ambiente sicuro e accogliente al quale Facebook aspira oggi è lontano dall’essere raggiunto.

I commenti segnalati

Abbiamo eliminato i cognomi degli autori, ma mantenuto i commenti nella forma originale (errori grammaticali e di sintassi compresi).

Seby N.: schifosi delinquenti africani…..questo è il ringraziamento per averli salvati + colazione, pranzo e cena gratis, con milioni di italiani che vivono nella piena povertà.Porci parassiti di sinistra inutile.
Paolo D.: riportate i musulmani da dove sono stati fatti partire prima che riempiano le strade con le nostre teste. i musulmani ammazzano tutti quelli che non sono come loro perché, incapaci di vivere, pretendono di avere compagnia nell’inferno che li attende
Marilena C.: Riaprite i forni………
Artus P.: Gurda queste bestie con il culo in aria. Culattoni di merda rifiuti umani cancra della civiltà. Spazzatura
Emanuele F. M.: I mussulmani andrebbero perseguitati come ai tempi di Saladino!
Palmiro G.: I cani sono più discreti dei musulmani !
Antonino B.: sto sporco negro della foto sembra assatanato.?
Pino T.: Un marocchino di merda devo farlo fuor
Francesco S.: sta nera pezzo di merda….ritorna sull’albero, tu ed i tuoi leccaculo

Ecco invece la lunga lista degli 83 commenti che, secondo Facebook, rispettano gli standard della comunità.

Giuditta M.: Altro che pulizia, qui ci vuole anche la dinfestazione,per ripulire al meglio.Come hai già detto più di una volta bisogna andarli a prendere, pianerottolo PER pianerottolo.
Cristiana V.: Ottimo!… Ma non avete una carretta del cielo x un viaggio di sola andata!!!!!!!!!….?????….. Gli regaliamo anche l aereo!!!… Senza nemmeno andare in perdita.
Gianluca A. M.: Zyklon b
Andrea C.: Dachau chiama
Lorenzo M.: Gli zingari sono una piaga sociale
Michele L.: Ruspa!
Pietro U. C.: Meno zingari , più camere a gas #nazionalsocialismo #unicavia
Luigi F.: E questo dimostra quanto sia ridicola e a portata di mano la scusa della religione, tra un po gli daranno il culo. Il loro cmq, xkè x me meritano solo di essere bruciati vivi. Cmq, come mai il vaticano, che dice di essere tanto preoccupato e fa sti gesti di buonismo, nn si porta dentro casa qualche profugo mussulmano?
Francesco M.: Ucciderli no!!
Antonio P.: Altro che pulizia Salvini, ci vorrebbe una disinfestazione a tappeto! Una volta eravamo il Belpaese, oggi siamo diventati la pattumiera d’Europa …Europa si fa per dire.
Nicola B: Buttarli a mare.
Kenneth H.: Conosco tanti italiani che non sono mafiosi, ma dubito che ci siano tanti zingari che non siano ladri…
Pietro U. C.: Ha ragione , troppa bontà . Bisogna estirpare dalla radice…
Franco G.: Meno??da eliminare tutti…..
Renzo B.: Ruspe e tutti in mare
Marisa B.: Brutti scimmioni tornate nella giungla in Italia non vi vogliamo
Luigi M.: per non nuocere alla salute altrui sedato con un calibro 12 a pallettoni.
Rosario C.: Maledette scimmie
Loreto L. B.: UCCIDETELI tutti senza pieta
Vincenzo A.: Ecco cosa fanno ,se non fai come dicono ,diventano delle bestie xké così bisogna classificarli, Mandiamoli via tutti xké nn sanno ke cose la ricoscienza vogliono magna ,telefonini ,stare in albergo,bello così. Brutti stronzi
Mario T.: Calci nel culo,palla al piede e doccia cinese fino a che,non acconsentono ha farsi riconoscere,nei loro paesi gli avrebbero già messo un cioccolatino nella testa,oramai lo sanno di approdare nella repubbliKa delle BANANE
Maria Grazia L.: con questa gentaglia, ci vuole la”forza”. è ora di finirla ; vengono accolti e, loro , protestano e distruggono tutto. fuori dalle………….
Gino S.: Agenti non fatevi nemmeno toccare nenateli di brutto il popolo vi difendera’ dinnanzi alla giustizia malata e di sinistra…….Spaccategli la schiena a sti bastardi…..
Michele S.: Immagino siano tutti profughi bisognosi, famiglie con bambini donne anziani…aho mai vista una percentuale così alta di giovani tra i 20 e i 40 maschi. Buttateli in mare
Gianfranco B.: Ma, portateli tutti a 700 miglia dalla costa e affondate tutte le barche, vedrete che non avranno più forza di reclamare.
Paola B.: Via tutti e subito a manganellate. Rimpatri immediati per chi protesta e non ne ha alcun diritto. È ora di piantarla di dire noi ” vogliamo”, se il loro desiderio è quello di raggiungere la famiglia, che prendano regolarmente un aereo da casa loro fino alla Svizzera, alla Germania, all ‘ Inghilterra.
Daniele B.: Fucilateli non ci servono solo merda che cammina preservare la razza italiana grazie questi sono capaci solo di lamentarsi
Rossella B.: Buttateli in mare tutti e affondate tutte le barche non li vogliamo piu’ basta!!!
Maura D.G.: Non avete un lancia fiamme a portata di mano , e usatelo no ! Che sfacciati ingrati con tutto quello che si fa ‘ , sveglia Alfano
Adriano S.: A militare ho sparato con mg sia a altezza uomo che antiaderente,datemi un altro mg a ci penso io a fermare questi pezzi di merda.
Licia M.: Visto che non si fanno identificare …marchiateli a fuoco sul dietro dei pantaloni come si faceva con le mandrie…( quel marchio rimarrebbe a vita ) e poi con un calcio nel solito posto far attraversare il mare a nuoto….!!!!!
Maria R.: In guerra il nemico si uccide….e questi invasori sono i nemici più efferati perciò o se ne tornano al loro paese o si fanno fuori.…..!!!!
Nicla S.: Lasciateli affogare. …dopo un paio non vengono più…perché mai li dobbiamo mantenere ?Lavorino a casa loro per renderla prospera….
Paola G.: Un bel lanciafiamme e in 10 minuti e’ tutto finito!!!!
Carlo B.: Vanno fucilati tutti grandi e piccini
Thierry P.: Ma fateli fuori sti cazzo di clandestini
Guido B.: E questi vanno accolti. ..schifosi. ..sparategli
Moreno B.: sole la disinfestazione con lanciafiamme salverà la pace
Paola P.: Prima che scappino, damojeee focooooo
Massimo M.: Bombardarli con l’aeronautica, non si può???
Angela F.: riaprite i forni...
Adriana C.: Cosa aspettano a mettere queste bestie immonde su un aereo, destinazione casa loro?
Luciano R.: Ma tirargli in fronte dopo si calmano queste bestie
Paola C.: MA BUTTATELI A LMARE
Palmiro G.: Portateli allo zoo insieme alle fiere !
Vittorio B.M.: HA DA TORNA’ IL BAFFETTO, POI VEDIAMO DOVE SI SISTEMANO.
Luigi R.: Alzo abbattuto, fuoco a volontà
Bruno F.: Lanciafiamme !
Alessandro D.: Mandateli a casa queste merde
Pietro M.: A casa capre!
Sandro A.: LANCIAFIAMME
Nicola G.: CREMATORIUM
Mario G.: La banda comunista che è al governo ci fa invadere da si unti che non si lavano mai rubano e violentano bambine e donne per volere di alla
Felice P.: FATE FUOCO A VOLONTA’ !
Giuseppe R.: Lanciafiamme !
Sergio B.: non dico cosa gli farei a questi beduini……..
Franco M.: Frustateli a sangue
Luca D.S.: Ai Forni dovete finire.
Roberto P.: Vanno sterminati!
Claudio T.: Apriamo i forni
Giorgio S.: Sparare a vista
Alessandro C.: Le metastasi islamiche si sono propagate nel tessuto sano del l’Occidente per mancanza di cure adeguate. Ora è impossibile distruggerle..
Stefano C.: Pisciategli addosso
Marco D.: per questo bisogna impiccare o impalare chi viene preso
Raffaele F.: Forno crematorio basta non se può più
Gerardo L.: una smitragliata e via
Gianluca A. M.: Lanciafiamme
Luca D.: Perché non portare del piombo a quelle bestie di zingari? Siete dei buonisti patetici!
Stefano G.: Bruciateli tutti
Stefano C.: Devono morire ! Portano sporcizia e rompono i coglioni a chiedere l elemosina quando hanno più soldi d noi italiani!
Anita I.: Buttatelo in una. Fogna ma dove ci sono ratti giganti così se lo mangiano vivo
Alessandro D.S.: Speriamo che li chiudano dentro una stalla e li brucino tutti.
Luca L.: Mi é venuta un’idea geniale per porre fine alle sofferenze di tutti gli immigrati e profughi che sono dai noi: AMMAZZIAMOLI TUTTI Non soffriranno e non si lamenteranno più.
Daniele B.: Speriamo che quelli di domani affoghino prima di arrivare!!!!
David C.: Che schifo, sfruttare i bambini per sottoporre le genti arie d’Occidente a ricatto morale, e costringerli ad accettare l’invasione della loro madreterra europea. Io li brucerei vivi, tutti quelli che collaborano a questo piano di distruzione della nostra civiltà.
Mirella A.: Meglio cominciare ad impedirli di arrivare in riva !!!!!E’ molto piu facile che traslocare uno zoo !!!Fidatevi
Valentina F.: Ma i siciliani non li riconosco più …si fanno invadere così?? Ma buttateli a mare questi assassini
Paolo D.G.: Rispediteli tutti a largo e poi affondate la nave con i bastardi
Gian Maria P.: Fucilateli tutti…… Atomica.
Manuel P.: pulizia stile Adolf
Emy E.: ma perché non li bruciano???
Antonella F.: È ora di dire basta! Trattate questi clandestini per quello che sono: animali!
Cristina L.: SONO DEGLI ANIMALIIIIIIl…..lo volete capire che sono bestie rognose???
Odilia M.: questi pezzi di merda fannulloni che non hanno voglia di fare un cazzo,hanno tutto gratis e non gli basta,ributtiamoli a mare sti parassiti.
Daniele Z.: Sterilizzateli per violenza demografica
Nunzio A.: Dategli La merda che hanno sempre mangiato ste scimmie
Iulian Z.: Tornate a casa vostra succhia cazzi se nn vi accontentate io vi metterei nel cibo del mercurio
Luigi S.: I profughi e chi ce li porta fanno veramente SCHIFO !!!!
Domenico D.S.: Schiaffoni in faccia a colazione, calci in culo a pranzo e calci nelle palle a cena. Il menu adatto per queste canaglie.
Giovanni C.: A
Gilberto R.: E’ UNA PROTOSCIMMIA…CHE CI FA IN MEZZO A GENTE CIVILE?