L’intelligence artificielle, qui bouleverse notre quotidien, est encore un domaine qui suscite questions et inquiétudes, notamment dans sa potentialité à remplacer l’intelligence humaine. Mais ce sont surtout actuellement les biais humains des algorithmes d’apprentissage qui sont pointés du doigt. Pensés par des hommes majoritairement blancs et aisés, ils reproduisent souvent les inégalités déjà existantes dans la société ainsi que des schémas racistes.
Pour Samah, jeune ingénieure en intelligence artificielle, il est grand temps de se soucier de ces problématiques dans un domaine en plein essor. Interview.
LeMuslimPost : Qu’est-ce que l’intelligence artificielle et comment se manifeste t-elle au quotidien ?
Samah : L’intelligence artificielle (IA) est une discipline qui existe depuis les années 50. L’idée est d’étudier l’intelligence humaine, dont le processus de la parole, pour la retranscrire dans des machines et qu’elle puisse être imitée.[…]
Quel est votre parcours ? A t-il été difficile pour vous, en tant que femme et musulmane, d’accéder au domaine de l’intelligence artificielle ?
Après mon diplôme d’ingénieur en Technologie de l’Information pour la Santé j’ai d’abord voulu travailler dans le secteur hospitalier en tant que qu’ingénieur santé. Mais les établissements de santé en France sont très réticents quant à l’idée d’accepter de travailler avec une musulmane qui porte un foulard. Quels que soit le diplôme ou les compétences, on vit dans un pays où les musulmanes sont souvent ramenées à leur apparence. L’épanouissement au travail est quelque chose de primordial pour moi et il était hors de question de changer ce que je suis. J’ai donc refusé les offres où l’on ne me laissait pas le choix de me vêtir comme je le souhaite.[…]
Vous faites partie de l’association « Women in IA ». Quelle est la place des femmes aujourd’hui dans le domaine de l’intelligence artificielle ?
[…] Mais au-delà de la mixité, la diversité manque aussi cruellement dans ce domaine. Il existe une autre association dont je fais partie « All-In » dont l’objectif est de mettre en avant les hommes et les femmes dans l’IA en mettant l’accent sur la diversité des profils et des origines. Car en effet, dans l’IA le profil type reste l’homme blanc quadragénaire et cela pourrait être préjudiciable dans l’orientation future des machines.Quels sont les dangers du manque de diversité dans l’IA ?
Dans l’IA la diversité est capitale pour l’avenir car sinon personne ne pensera à nous, à nos particularités. En 2015 par exemple, le logiciel de reconnaissance faciale de Google a identifié un couple d’Afro-Américains comme des gorilles. Google s’est excusé de cette anomalie. Mais si l’on regarde qui travaillait chez Google à ce moment là, on s’aperçoit que ce sont principalement des hommes blancs. S’ils avaient eu un noir dans leur équipe ils auraient pu mieux tester leur logiciel avant qu’il n’y ait un signalement d’un utilisateur. C’est pour cela que nous devons tous nous y mettre. Car sinon les machines vont reproduire les clichés et encore une fois les minorités devront s’adapter aux points de vue du clan majoritaire.[…]
Comment encourager cette diversité dans le secteur de l’intelligence artificielle ?
[…] J’aimerais donner envie aux gens de ce lancer dans l’intelligence artificielle car c’est très intéressant mais aussi car nous risquons de connaître d’autres failles importantes, qui pourraient entre autres concerner les musulmans.Par exemple, aux Etats-Unis, il existe déjà un système de détection faciale d’un potentiel terroriste ou d’un délinquant, qui reproduit les biais habituels dans la population carcérale. Des gens mal intentionnés pourraient utiliser ces technologies à mauvais escient. Il faut donc dès maintenant prendre les devants.
