Dans le comté de Baltimore, l’ancien directeur sportif d’un lycée aurait utilisé une IA pour réaliser un deepfake tenant des propos racistes et antisémites afin de causer du tord à son supérieur.
La police du comté de Baltimore, dans le Maryland aux Etats-Unis, a annoncé avoir arrêté, jeudi 25 avril, l’ancien directeur sportif du lycée de Pikesville (Baltimore). Ce dernier aurait fait usage d’une IA permettant de réaliser des deepfakes afin de se faire passer pour le directeur de l’école dans laquelle il officiait, Eric Eiswert.
Selon la police, le suspect, Dazhon Darien, a usurpé la voix d’Eric Eiswert en faisant des commentaires racistes et antisémites. Les experts IA en charge du dossier citent “des commentaires désobligeants à l’égard des étudiants noirs et de la communauté juive environnante”, rapporte The Baltimore Banner.
“De profondes répercussions”
Diffusé sur les réseaux sociaux en janvier, le deepfake a eu “de profondes répercussions”, ont souligné les forces de l’ordre dans un communiqué.
“Cela a non seulement conduit au renvoi temporaire d’Eric Eiswert de l’école, mais a également déclenché une vague de messages haineux sur les réseaux sociaux et de nombreux appels à l’école”.
Les experts et la police ont pu certifier qu’il s’agissait d’un message audio créé de toute pièce. L’enregistrement avait “un ton plat, des bruits de fond inhabituellement clairs et un manque de bruits de respiration ou de pauses cohérents”.
Toujours selon la police, Dazhon Darien, qui est désormais professeur d’EPS, s’est servi des ordinateurs de l’école “pour accéder aux outils OpenAI et aux services Microsoft Bing Chat“. Son identité a été retrouvée grâce à l’adresse mail et au numéro de téléphone associé au compte. La police n’a pas précisé de quelle IA il s’agissait.
Un phénomène mieux encadré ?
“On pense que Dazhon Darien (…) a réalisé l’enregistrement en représailles contre Eric Eiswert qui, à l’époque, poursuivait une enquête sur la mauvaise gestion potentielle des fonds scolaires”, poursuit le communiqué en précisant que ce dernier avait été libéré après avoir versé une caution et fait face à plusieurs accusations.
Depuis plusieurs semaines, le nombre d’arnaque deepfakes s’est multiplié. Sur Instagram, YouTube, Facebook et d’autres réseaux sociaux les canulars malveillants et les fake news piègent toujours plus d’utilisateurs.
