Google Photos repose-t-il sur une technologie raciste? «Les technologies de reconnaissance faciale et d’intelligence artificielle sont complexes», relativise Loic Lecerf, PDG de l’entreprise SmartMeUp, qui produit des logiciels de reconnaissance faciale. […]
«Une personne blanche victime de ce genre d’erreur n’ira peut-être pas se plaindre», estime Loic Lecerf. «Pour une personne noire, c’est beaucoup plus choquant, car cela lui évoque une situation de racisme qu’elle vit malheureusement tous les jours.»
D’autres logiciels ont eu par le passé des difficultés à reconnaître les personnes non blanches.
En 2009, HP avait été forcé de présenter ses excuses après avoir développé une webcam capable de suivre les mouvements du visage, qui ne détectaient pas les personnes noires.
Une histoire similaire était arrivée au fabricant Nikon, dont l’un des appareils photo intelligents affichait un message d’avertissement «avez-vous cligné des yeux?» lorsqu’il prenait en photo des personnes asiatiques.
«Il est possible que les ingénieurs de Google aient montré à leur machine davantage de photos de personnes blanches que d’autres couleurs», explique Loic Lecerf. Rendant l’ordinateur, de fait, plus pertinent pour les blancs que pour les autres.
Alors que la Silicon Valley reconnaît désormais un grave problème de diversité au sein de employés, cet enjeu peut affecter la qualité de ses produits. Aujourd’hui, 60% des employés de Google sont blancs. Si Google Photos avait été développé par des ingénieurs issus de la diversité, ces derniers auraient peut être soumis au logiciel une base de données plus variée. Rendant ainsi l’application plus pertinente. Google Photos peut aussi apprendre des images soumises par ses propres utilisateurs. Le service pourrait donc s’améliorer au fur et à mesure que des internautes non-blancs y enregistrent des photos. [..]
Dans les années 70, le réalisateur Jean Luc Godard s’était plaint que les pellicules développées par Kodak étaient «racistes», car incapables de rendre la couleur exacte de la peau des personnes noires. L’entreprise a fini par modifier ses produits, qui avaient été développés en référence à l’image d’une femme blanche.
Aujourd’hui encore, certaines caméras numériques ont des difficultés à reconnaître les contrastes sur une photo, quand il s’agit par exemple de prendre en photo une personne noire et une personne blanche.
Une machine n’est pas, pour le moment au moins, dotée d’émotions ou de réflexion. Elle ne peut dont pas faire le choix d’être raciste. Elle est en revanche façonnée à l’image de ses créateurs, de leur contexte et de leurs biais inconscients.
LIRE AUSSI : Google Photos : le service confond les personnes noires avec des gorilles
