Un quotidien allemand a révélé, début décembre, des documents liés à la politique de modération de Facebook. L’entreprise est sur la défensive.
Le 16 décembre, le journal allemand Süddeutsche Zeitung publie des documents éclairants concernant les techniques de modération de Facebook. L’entreprise américaine, chez qui la culture du secret est reine, entretient un flou sur ses techniques de modération, souvent remises en cause en raison de leur classification jugée arbitraire et parfois incohérente des « discours haineux ». En septembre, le réseau social avait censuré la célèbre photo de Nick Ut – récompensée par le prix Pulitzer, elle représentait une fillette nue et brûlée – qui deviendra le symbole de la violence de la guerre du Vietnam. Une censure qui avait provoqué une vive polémique et obligé Facebook à revenir sur sa décision. […]
Le géant américain reste, en effet, extrêmement vague sur sa politique de modération. Dans le « Community Guidelines », la charte des bonnes pratiques de l’entreprise accessible au public, il est écrit que les « discours haineux » seront sanctionnés. La définition que donne Facebook d’un discours haineux est très tranchée, presque mathématique : « catégorie protégée + attaque = discours haineux ». En clair, une publication qui contiendrait une attaque visant une « catégorie protégée » serait passible de sanctions sur le réseau social. Reste à savoir ce qu’inclut cette appellation « catégorie protégée ». Dans la charte, on apprend que ces catégories concernent l’orientation sexuelle, les origines ethniques, le sexe, le genre, la religion, la nationalité, le handicap ou encore la maladie.
On en apprend plus dans les documents publiés par la Süddeutsche Zeitung. Ainsi, les catégories ayant droit à une certaine protection s’étendraient en fonction de l’âge, de l’emploi, du statut social, de l’apparence et de l’appartenance politique. D’après ces documents, Facebook préciserait la manière de mieux cibler les attaques contre ces catégories à grand renfort de formules mathématiques. Des formules qui ressembleraient à « PC (pour catégorie protégée) + PC = PC », ou encore « PC + NPC = NPC », indique Le Monde.fr. Comprendre : une publication associant deux catégories protégées forme une catégorie protégée. Par exemple, un internaute publiant « les hommes catholiques sont idiots » pourrait être sanctionné. En effet, les « hommes catholiques » regroupent les catégories « sexe » et « religion ». Par contre, les adolescents catholiques ne font pas partie des catégories protégées.
Il est donc possible d’écrire que « les adolescents catholiques sont idiots », et ce, sans subir de sanctions. […]
