in

Google AI accusé de biais islamophobe après une réponse visant les musulmans

L’outil AI Overview de Google est au cœur d’une polémique après avoir généré une réponse jugée islamophobe à la requête : « Je suis seul avec un musulman ». D’après des captures d’écran largement partagées sur les réseaux sociaux, l’IA conseillait à l’utilisateur, s’il se sentait « en danger », de quitter les lieux ou d’appeler immédiatement les secours. Elle lui recommandait aussi de traiter la personne musulmane avec un « respect humain élémentaire ».

Pour une requête similaire, « Je suis seul avec un Israélien », la réponse était très différente. L’outil indiquait simplement qu’« une personne israélienne est un individu comme un autre ».

Cette différence de traitement a rapidement suscité de nombreuses réactions. L’imam américano-palestinien Omar Suleiman a notamment interpellé Google, dénonçant une réponse « ouvertement islamophobe ».

Face à la polémique, Google a reconnu que certains résultats « n’étaient pas ce qu’ils devraient être » et a indiqué travailler à leur amélioration. L’entreprise précise toutefois que ce type d’avertissement incohérent ne concernait pas uniquement les musulmans. Depuis, la réponse aurait été corrigée. L’IA indique désormais qu’« être seul avec une personne musulmane est parfaitement normal et sûr, et ne diffère en rien du fait d’être seul avec n’importe qui d’autre ».

Cette affaire relance les interrogations sur les biais que peuvent reproduire ou renforcer les outils d’intelligence artificielle, notamment lorsqu’ils concernent la religion, l’origine ou la nationalité.

Publicité
Publicité
Publicité

Laisser un commentaire

GIPHY App Key not set. Please check settings

    États-Unis : la victoire d’Abdul El-Sayed déclenche une vague de discours anti-musulmans

    Arabie saoudite : le rêve NEOM tourne au fiasco après plus de 50 milliards de dollars engloutis