[Article publié le 21 novembre 2021 dans le Washington Post]
[…]Et pourtant, les messages racistes contre les minorités ne furent pas ce que les algorithmes de détection de discours haineux de Facebook trouvèrent le plus souvent. Le logiciel, instauré par l’entreprise en 2015, était censé détecter et supprimer automatiquement les discours haineux avant que les utilisateurs ne les voient. Publiquement, l’entreprise avait déclaré en 2019 que ses algorithmes arrêtaient avant leur publication plus de 80 % des discours de haine.
Mais cette statistique cachait un problème sérieux qui crevait les yeux pour les chercheurs : L’algorithme détectait de manière agressive les commentaires dénigrant les Blancs plus que les attaques contre tout autre groupe, selon plusieurs des documents. Un document datant d’avril 2020 indique qu’environ 90% des “discours haineux” faisant l’objet de suppressions de contenu étaient des déclarations de mépris, d’infériorité et de dégoût à l’égard des Blancs et des hommes (bien que la période de référence ne soit pas claire). Et il n’a jamais réussi à supprimer les contenus les plus méprisants et racistes. […]
L’une des raisons de ces erreurs, ont découvert les chercheurs, était que les règles de conduite Facebook étaient sans distinction de race. En outre, la société avait décidé de ne pas autoriser les algorithmes à supprimer automatiquement de nombreuses insultes, selon les personnes interrogées, au motif que les algorithmes ne pouvaient pas facilement faire la différence lorsqu’une insulte telle que le mot commençant par “n” ou le mot commençant par “c” était utilisée de manière positive ou familière au sein d’une communauté. Les algorithmes s’attachaient également à détecter des contenus moins nocifs mais plus fréquents, tels que “les hommes sont des porcs”, au lieu de trouver des contenus moins courants mais plus nocifs.
“Si vous ne faites rien pour vérifier le racisme structurel dans votre société, vous finirez toujours par l’amplifier”, a déclaré au Post l’une des personnes impliquées dans le projet. “Et c’est exactement ce qu’ont fait les algorithmes de Facebook”.
“Ces informations confirment ce que beaucoup d’entre nous savaient déjà : que Facebook participe activement et volontairement à la diffusion de discours haineux et de fausses informations”, a déclaré M. Omar dans un communiqué. “Pendant des années, nous avons fait part à Facebook de nos préoccupations concernant les contenus anti-musulmans, anti-noirs et anti-immigrés courants sur Facebook, dont la plupart sont basés sur d’évidentes fausses informations. Il est clair qu’ils ne se soucient que du profit, et sacrifieront notre démocratie pour le maximiser.”
[…]
