Mark Zuckerberg, PDG de Facebook, a déclaré mardi que l’entreprise a du mal à trouver la meilleure façon de traiter les discours de haine – et la réponse pourrait se faire dans une dizaine d’années.
Le géant des médias sociaux s’appuie de plus en plus sur l’intelligence artificielle pour identifier et supprimer le contenu affiché sur le site qui viole ses conditions d’utilisation. Mais l’intelligence artificielle n’est pas encore capable de gérer les discours de haine, a déclaré M. Zuckerberg lors d’une audience conjointe du Comité sénatorial de la magistrature et du commerce, mardi.
M. Zuckerberg a déclaré aux sénateurs que l’intelligence artificielle fonctionne très bien pour certaines choses, comme le retrait des contenus terroristes, qui, selon lui, sont en grande partie repérés par leur système d’IA avant qu’un seul humain ne voit le contenu. Il a affirmé que plus de 90 % du contenu pro-ISIS est automatiquement signalé par l’IA de Facebook, et que les outils des entreprises peuvent même détecter quand les utilisateurs peuvent être exposés à un risque d’automutilation et peuvent aider à intervenir. Mais le discours de haine est différent, dit M. Zuckerberg, et la technologie n’a tout simplement pas atteint ce niveau de perception du langage.
“J’ai bon espoir qu’au cours d’une période de cinq à dix ans, nous disposerons d’outils d’IA capables d’intégrer certaines des nuances linguistiques des différents types de contenu afin d’être plus précis dans leur signalement à nos systèmes, mais aujourd’hui, nous n’en sommes pas encore là “, a dit M. Zuckerberg. “Jusqu’à ce qu’on l’automatise, il y a un taux d’erreur plus élevé que ce dont je puisse être content.”
Idéalement, l’IA devrait capter les discours haineux avant que les utilisateurs ne les publient, comme c’est le cas pour les messages terroristes. Pour l’instant cependant, M. Zuckerberg a déclaré que la plupart des discours haineux sont d’abord perçus par les utilisateurs, qui les signalent comme du contenu offensant. Lorsque le sénateur républicain John Thune du Dakota du Sud a demandé à Zuckerberg quelles mesures Facebook prenait pour améliorer sa capacité à définir le discours haineux, le PDG a déclaré que tout cela est un travail en cours.
(…)
Il est à noter que lorsqu’on lui a demandé de définir ce qu’est un discours de haine, Mark Zuckerberg a botté en touche
