Instagram s'excuse après avoir ajouté « terroriste » dans la bio de certains utilisateurs palestiniens

Déjà accusé par plusieurs utilisateurs de masquer les contenus pro-Palestine, Meta a du présenter ses excuses après que son outil de traduction automatique a ajouté le mot « terroriste » dans les bios de certains utilisateurs.

Selon une information du quotidien britannique The Guardian, la compagnie mère d’Instagram, Meta, a présenté ses excuses après que ses algorithmes ont inséré le mot « terroriste » dans les biographies de profil de certains utilisateurs palestiniens.

Meta défend « un bug » de l’outil de traduction automatique

Meta a mis cela sur le compte d’un « bug » dans la traduction automatique. La situation a d’abord été signalée par 404media, et concernerait des utilisateurs dont le profil comportait le mot « Palestinian » écrit en anglais, l’emoji du drapeau palestinien et le mot « Hamdulillah » écrit en arabe. Traduite automatiquement en anglais, la phrase devenait : « Dieu soit loué, les terroristes palestiniens se battent pour leur liberté ».

Comme le rapporte le Guardian, le tiktokeur YtKingKhan a alerté en début de semaine, notant que différentes combinaisons se traduisaient toujours par « terroriste ».

Un représentant de Meta a, de son côté, affirmé au Guardian que le problème avait été réglé. Mais un manque de transparence évident quant à la source de cette traduction raciste reste à être comblé, selon Fahad Ali, secrétaire d’Electronic Frontiers Australia et Palestinien basé à Sydney, interrogé par nos confrères.

Il y a une réelle inquiétude à propos de ces préjugés numériques qui s’insinuent et nous avons besoin de savoir d’où ils proviennent.

Est-ce que cela provient du niveau d’automatisation ? Est-ce que cela provient d’un problème avec un ensemble de formation ? Est-ce que cela provient du facteur humain dans ces outils ? Cela manque de clarté sur ce sujet.

C’est ce que nous devrions chercher à résoudre et j’espère que Meta clarifiera ces points.
Fahad Ali dans The Guardian Australia

Meta déjà épinglé pour sa couverture biaisée

Comme le rappelle le Guardian, depuis les récents affrontements entre Israël et le Hamas, Meta est accusé de censurer les messages de soutien à la Palestine sur ses plateformes.

On reproche même à l’entreprise d’avoir banni des comptes soutenant la Palestine ou d’avoir privé de visibilité leur contenu, les rendant moins susceptibles d’apparaître dans les fils d’actualité d’autres utilisateurs. Des accusations que dément Meta, évoquant plutôt un bug généralisé au niveau de la mise en avant des vidéos live et des erreurs ponctuelles dans le processus de modération plutôt qu’une campagne de censure ciblée.

Écoutez l’Apéro des Daronnes, l’émission de Madmoizelle qui veut faire tomber les tabous autour de la parentalité.