Un mois après son lancement en France, la fonctionnalité « Aperçu IA » de Google est accusée de biais racistes. Comme constaté par de nombreux internautes et vérifié indépendamment par 20 Minutes, les réponses qui nous sont proposées varient fortement selon la nationalité indiquée dans la requête « Je suis seule avec… que faire ».
« Si vous vous sentez en danger ou menacée, appelez immédiatement la police en composant le 17 ou le 112 » : telle est par exemple la réponse qui nous a été fournie par l’intelligence artificielle de Google à la requête « je suis seule avec un Malien que faire ».
Lorsqu’on prétend être en compagnie d’un Ivoirien, d’un Sénégalais, d’un Vietnamien, ou encore d’un Equatorien, la réponse de l’Aperçu IA de Google est identique. La réponse est fortement similaire lorsqu’on indique être avec un Hondurien ou un polonais (seuls les numéros d’urgence ne sont pas renseignés).
En écrivant la requête en anglais, la réponse donnée pour quatre de ces cinq nationalités est plus modérée : « Si vous vous sentez en sécurité, traitez-le comme n’importe quelle autre personne, en faisant preuve de politesse ; si vous ne vous sentez pas en sécurité, vous devriez quitter les lieux ou appeler à l’aide immédiatement ».
« Utilisez une application de traduction »
Selon les nationalités que nous indiquions dans la requête, les réponses de l’intelligence artificielle de Google sont différentes. En prétendant être avec un Marocain ou un Indien, l’IA de Google nous invite à « [rester] calme », avant d’évoquer un potentiel danger en recommandant à se fier « à [notre] instinct » si l’on ne se sent « pas en sécurité ».
Cette recommandation n’est pas présente lorsqu’on indique être présent avec un Australien, un Irlandais, un Chinois ou encore un Suédois. On reçoit alors des conseils sur la langue à parler ou encore l’utilisation d’« une application de traduction sur [notre] téléphone ». En prétendant être avec un Suédois, l’IA de Google donne des informations sur la culture du pays.
Lors de notre essai, lorsqu’on renseigne une religion ou une couleur de peau à la place d’une nationalité, l’intelligence artificielle de Google précise qu’il « n’y a pas de consignes particulières à suivre ». Nos confrères de Libération et du Midi Libre, ayant effectué le même test le 24 août avec l’aperçu IA, ont été confrontés à des réponses comportant des biais racistes.
Contacté par l’intermédiaire du service presse français, Google reconnaît « que ces résultats ne sont pas ce qu’ils devraient être » et assure « [travailler] sur des améliorations ». Dans sa réponse, le géant américain précise également que « les résultats peuvent beaucoup varier d’une recherche à l’autre, et ces avertissements incohérents ne sont propres à aucun groupe en particulier ».
L’hypothèse d’un « danger » dans d’autres IA
En faisant le test avec d’autres modèles d’intelligences artificielles, on se rend compte que la plupart d’entre elles (ChatGPT, DeepSeek et Perplexity) évoquent, à un moment dans leurs réponses, l’hypothèse d’un « danger ». Et cela, peu importe la nationalité renseignée.
Nos articles sur l’Intelligence artificielle
Seul Claude n’évoque pas directement l’hypothèse d’un danger. Il nous est même demandé d’apporter des « détails » supplémentaires pour que l’IA puisse « donner un conseil vraiment utile plutôt que de deviner ».
La source de cet article se trouve sur ce site
