Nella newsletter di Wolf a cui sono abbonato (altamente specializzata e che consiglio a chi vuole capire dove sta andando davvero il mondo dell’informazione in rete) leggo un interessante articolo di PierLuca Santoro (DataMediaHub) sulle regole segrete che Facebook applica ai post che vengono pubblicati e che il social decide di eliminare. L’inchiesta è partita da due giornalisti tedeschi del Süddeutsche Zeitung che hanno avuto accesso ai documenti interni dei moderatori e li hanno pubblicati spiegando quali sono i criteri che decidono la cancellazione di certi post e non di altri.
I sentimenti di odio espresso in vaire forme e postate sul social sono il fondamento delle regole di Facebook, con questa indicazione: “Perché crea un ambiente intimidatorio e di esclusione in cui la gente non vuole condividere”. Questo va contro il modello di business di Facebook. Infatti l’azienda vuole offrire alle persone uno spazio in cui si intende condividere contenuti e interagire tra loro il più possibile, guardando un sacco di pubblicità per tutto il tempo di permanenza. L’incitamento all’odio non è ammesso ma solo per alcune categorie di persone. All’inizio del capitolo sull’ hate speech viene chiarito quali criteri devono essere soddisfatti prima che un post venga cancellato come espressione di odio: l’assalto verbale su una “classe protetta”, relativamente a determinate categorie di persone e fatti.
Naturalmente quanto qui riporto è parziale, ma in sintesi le categorie “protette” si basano su:
Sesso.
Affiliazione religiosa.
Origine nazionale.
Identità di genere.
Razza.
Provenienza etnica.
Orientamento sessuale.
Disabilità o malattia grave.
Tutti gli attacchi verbali basati su una di queste categorie vengono cancellati, o meglio dovrebbero esserlo visto quel che si legge quotidianamente su Facebook. Ci sono poi anche “sotto categorie” che godono di una protezione extra:
Età. I giovani, gli anziani, gli adolescenti.
Stato lavorativo: disoccupati, insegnanti, medici, piloti, e astronauti.
Continente d’origine: ad esempio, europeo o sudamericano. Qui, rischi particolari sono elencati per i seguenti termini: gli asiatici (protetti nella categoria di razza. Americano o australiano (protetto nella categoria origine nazionale)
Posizione sociale: ricchi, poveri…etc.
Aspetto: bionda, bruna, alto, basso, grasso, magro…etc.
Appartenenza politica: repubblicano, democratico, socialista, comunista, rivoluzionario…etc.
Le religioni come l’Islam, Cattolicesimo, e Scientology. Mentre i membri di gruppi religiosi sono protetti, la religione in sé non è. Lo stesso vale per i Paesi. Mentre è consentito in generale di parlare male di Francia o la Germania, ad esempio, condannare e insultare le persone sulla base della loro nazionalità non è permesso.
Il Times 
ciao Giorgio, sono Franco Guelfo. (Non ci vediamo da circa trent’ anni, ma ora eccoci di nuovo in contatto) Voglio dirti la mia a proposito dell’ articolo sulle regole di fb: sono certamente condivisibili, ma il modo in cui sono applicate mi sembra un chiaro esempio della schizofrenia dei social e dei tempi in cui viviamo.
Ovviamente e’ impossibile per i gestori controllare uno per uno i milioni di post pubblicati ogni giorno, quindi si affidano a programmi di “intelligenza artificiale” che fanno il lavoro automaticamente. Purtroppo, se e’ relativamente facile dare ad un software le indicazioni per riconoscere un corpo umano in una foto e fare in modo che riconosca se il corpo e’ “senza veli”, non e’ altrettanto semplice dargli la capacità di riconoscere le intenzioni di chi ha pubblicato la foto.
Tempo fa ho postato sul mio profilo fb una foto certamente non oscena (avrebbe potuto essere scattata sulla spiaggia di Celle, per intenderci) in cui si vedono due donne che passeggiano in riva, indossando solo la parte inferiore del bikini. Il loro atteggiamento non e’ certamente provocatorio: stanno semplicemente camminando e si godono il piacere di prendere il sole anche sul seno: niente di strano. Allora perche’ ho postato la foto ? Perche’ vicino a loro c’e’ un ragazzino e dietro di lui una signora anziana, probabilmente la nonna, che gli tiene le mani sul viso in modo che non possa guardare le due “peccatrici”.
Il giorno dopo ho avuto la sorpresa di vedere cancellata la foto e al suo posto c’ era la scritta “we removed the content that was posted” e poi il seguente minatorio avviso:
“Limitiamo la visualizzazione di immagini di nudo, Anche alcune descrizioni di atti sessuali potrebbero essere rimosse. Queste restrizioni relative alla visualizzazione di immagini di nudo e di attività sessuali si applicano ai contenuti creati in modo digitale a meno che non vengano pubblicati per fini educativi, umoristici o satirici.
Rimuoviamo i contenuti che minacciano o promuovono violenza o sfruttamento sessuale. Ciò include la richiesta di materiale a sfondo sessuale, qualsiasi contenuto sessuale relativo a minorenni, le minacce di condivisione di immagini intime e le offerte di servizi sessuali. Ove appropriato segnaleremo tali contenuti alle forze dell’ ordine. (!)
Per maggiori informazioni sui tipi di messaggi e post consentiti su Facebook, consulta gli Standard della comunità di Facebook.”
Non riesco ad inserire la foto in questo scritto ma se ti incuriosisce posso mandartela via email, così che tu possa valutare l’ oscenità di cui mi sono reso responsabile…
Come dicevo, le regole sono giuste e condivisibili ma la loro applicazione e’ affidata ad un software stupido . Di questi tempi troppe cose, dall’ assegnazione della sede di lavoro agli insegnanti alla risposta a chi chiede un prestito in banca, sono affidate a programmi automatici che fanno sì risparmiare tempo ma fanno anche tante bestialità.
Cosa si può dire ? Teniamo duro e speriamo in bene !
Ciao, grazie per l’ attenzione
Franco Guelfo
ciao Franco, sì trent’anni e forse di più, ma io continuo ad andare a Celle, pensa un po’. Sì il software fa il suo lavoro, che gli uomini non potrebbero fare, io comunque preferisco un po’ di stupidità ad un far west totale, pensa che cosa sarebbe un social che ha 2 miliardi di utenti se tutti potessero postare ciò che gli pare, anche nelle materie più delicate, credo che non si possa chiedere di più ad un programma costruito dall’uomo per altri uomini.