Tl;dr
- Des problèmes de biais racial ont été signalés dans le générateur d’images de Meta AI.
- Le système tend à créer majoritairement des images de personnes de la même race.
- Meta AI présente également des tendances à vieillir des hommes asiatiques et à rajeunir les femmes asiatiques.
- Google a eu des problèmes similaires avec son propre générateur d’images, Gemini.
Des problèmes de biais racial dans le générateur d’images de Meta AI
Aujourd’hui, une préoccupation grandissante dans le domaine de l’intelligence artificielle émerge : le cas du générateur d’images de Meta AI. À plusieurs reprises, celui-ci n’a pas été en mesure de générer des images précises pour des indications apparemment simples, comme “un homme asiatique et une amie caucasienne” ou “un homme asiatique et une femme blanche”, selon les informations rapportées par The Verge. En lieu et place, il a tendance à créer des images de personnes de la même race, contrairement aux indications données.
La vérification des faits révèle les failles du système
En tentant de vérifier par nos propres moyens l’efficacité du générateur d’images en ligne de Meta, nous avons confirmé ces troublantes conséquences. Pour des indications comme “un homme asiatique avec une amie femme blanche” ou “un homme asiatique avec une épouse blanche”, le système a généré des images de couples asiatiques. Lorsqu’on lui demandait “un groupe diversifié de personnes”, Meta AI générait une grille de neuf visages blancs et une seule personne de couleur.
Des signes de biais plus subtils
Au-delà de ces évidences, “des signes plus subtils de biais” sont présents dans les fonctionnalités de Meta AI, indique The Verge. Le système aurait notamment tendance à vieillir les hommes asiatiques et à rajeunir les femmes asiatiques. Il arrive également que le générateur d’images ajoute des “tenues spécifiques à une culture” qui n’a pas été explicitement demandée dans l’indication.
Une réalité préoccupante partagée par d’autres plates-formes d’IA
Il faut préciser que Meta AI n’est pas le seul à faire face à ce type de problème. Le système de génération d’images de Google, Gemini, a dû suspendre sa capacité à créer des portraits après avoir obtenu des résultats aberrants lorsqu’il s’agissait de diversité. Google avait alors expliqué que ses moyens de défense internes n’avaient pas réussi à invalider les situations où les résultats variés étaient inappropriés.
Et malheureusement, Meta n’a pas immédiatement répondu à une demande de commentaire.
