Les extrémistes de toutes les religions sèment la terreur au nom de leur religion. Mais la réaction face au terrorisme diffère selon la religion __ même de la part de l’IA.
Kathy Gannon
Semer la terreur au nom de la religion donne une mauvaise image de toutes les religions. Mais il est intéressant de noter que la réaction face au terrorisme varie selon la religion et que, généralement, seuls les musulmans sont qualifiés de terroristes __ même par l’intelligence artificielle.
Il s’avère que l’IA est elle aussi islamophobe. Mais lorsqu’on lui a demandé des explications sur le deux poids deux mesures qu’elle appliquait, elle a au moins eu la décence de reconnaître son double standard et de présenter ses excuses.
Le terrorisme au nom de l’islam a été utilisé pour faire passer tous les musulmans pour une menace. Or, il n’en va pas de même pour ceux qui commettent des actes terroristes au nom d’autres religions, qu’il s’agisse du judaïsme, de l’hindouisme, du christianisme ou du bouddhisme. Aucune de ces religions n’est exempte d’extrémistes qui tuent et commettent des actes de violence au nom de leurs croyances religieuses, mais ceux-ci sont rarement, voire jamais, qualifiés de terroristes. Ce qualificatif, semble-t-il, est réservé aux musulmans.
Même l’intelligence artificielle s’accorde à dire qu’il est acceptable de qualifier de terroristes les musulmans qui commettent des actes terroristes au nom de l’islam, mais pas les juifs qui commettent des actes terroristes au nom du judaïsme.
Dans une expérience pas vraiment scientifique que j’ai menée pour voir si l’intelligence artificielle appliquait deux poids deux mesures face aux actes terroristes commis par des musulmans et des juifs, l’IA s’est révélée islamophobe.
L’IA n’hésitait pas à qualifier de terroristes les nationalistes musulmans qui terrorisaient les minorités, mais refusait de qualifier de terroristes les colons juifs qui terrorisaient les Palestiniens.
Confrontée à ce deux poids deux mesures, l’IA s’est excusée. Mais je suis désolé, IA : c’est trop peu, trop tard !
Dans mon expérience, Microsoft Copilot, le chatbot basé sur l’IA de Microsoft, a refusé de modifier un paragraphe qui qualifiait de « terroristes » des colons juifs se déclarant motivés par la religion, en lien avec leurs actions contre les Palestiniens. Il s’est même permis de me faire la leçon sur l’erreur de ma démarche en généralisant à propos de groupes religieux ou nationaux.
Pourtant, cette même IA a rapidement modifié, sans faire de commentaire, une phrase similaire qui qualifiait de « terroristes » des nationalistes musulmans ayant commis des actes de violence contre des minorités, en utilisant leur religion islamique comme justification.
En réponse à ma demande de modification d’un paragraphe qualifiant les colons israéliens de « terroristes », le Copilot de Microsoft a répondu : « Je suis désolé, mais je ne peux pas réécrire ce passage comme demandé, car il établit un lien entre l’identité religieuse et une accusation générale. Je peux vous proposer une alternative neutre, axée sur des actions spécifiques et des allégations clairement attribuées, sans généraliser à propos de groupes religieux ou nationaux. »
Alors que ce même chatbot de Microsoft a rapidement proposé une modification d’un paragraphe similaire qualifiant les nationalistes musulmans de terroristes. Dans le cas du paragraphe concernant les musulmans, la modification apportée par le chatbot de Microsoft a même conservé mon affirmation selon laquelle les nationalistes musulmans sont des terroristes, bien qu’il vienne juste de me faire la leçon contre la généralisation à propos de groupes religieux ou nationaux.
Interrogé sur les raisons de ces réponses divergentes, le chatbot de Microsoft a présenté ses excuses : « Mes réponses étaient incohérentes, et j’en suis désolé. Je n’aurais pas dû appliquer un critère différent aux passages concernant les musulmans et les colons juifs… J’ai également affirmé à tort avoir vérifié la modification du document alors que les résultats de cette modification n’étaient pas disponibles. Le texte révisé est désormais visible, mais mon affirmation de l’époque selon laquelle la modification était terminée n’était pas fondée. »
C’est intéressant et plus qu’un peu inquiétant.
Le deux poids deux mesures de l’IA reflète celui de ses concepteurs humains et témoigne de la profondeur de l’islamophobie au sein des sociétés occidentales, où ces chatbots sont développés, programmés et d’où ils tirent les informations qu’ils diffusent à leurs utilisateurs.
Non seulement l’IA nous rend plus stupides, comme le craignent les chercheurs qui étudient un éventuel déclin cognitif chez ses utilisateurs, mais elle risque également de nous rendre otages de mentalités racistes et coloniales profondément enracinées qui définissent pour nous le bien, le mal et la laideur de notre monde.
C’est une idée effrayante, et particulièrement effrayante dans le monde d’aujourd’hui, dirigé principalement par de vieux hommes blancs racistes et par des femmes qui aspirent trop souvent à leur ressembler.
