Des vidéos montrant prétendument des personnes porteuses de trisomie 21 vendant des objets artisanaux cumulent des millions de vues sur les réseaux sociaux. Pourtant, les personnages présentés dans de nombreuses séquences n’existent pas : ils ont été générés par intelligence artificielle.

Ces vidéos suivent généralement le même scénario. Une personne affirme vendre des sacs, des lampes ou des objets en céramique, tout en racontant être victime de moqueries ou de harcèlement. L’objectif est de susciter la compassion des internautes et de les inciter à acheter sur des boutiques en ligne parfois douteuses.

L’enquête de l’AFP révèle plusieurs signes de manipulation : personnages artificiels, décors identiques réutilisés, avis commerciaux répétitifs et images de produits récupérées auprès de véritables créateurs. Certains contenus auraient notamment détourné des vidéos authentiques de potiers et d’artisans. 

Au-delà de la tromperie commerciale, cette pratique véhicule une représentation paternaliste du handicap. Selon Nathan Rowe, directeur de programme chez Down Syndrome International, elle renforce l’idée que les personnes porteuses de trisomie devraient inspirer la pitié. Ces faux contenus risquent également de détourner l’attention et les ventes au détriment de véritables artistes et entrepreneurs.

Down Syndrome International avait déjà alerté Meta au sujet de contenus artificiels sexualisant des personnes porteuses de trisomie. Plusieurs publications avaient alors été supprimées. L’organisation estime toutefois que les plateformes doivent intervenir plus rapidement pour empêcher la diffusion et la monétisation de ces contenus trompeurs.

Les réseaux sociaux disposent pourtant de règles contre les manipulations et les pratiques commerciales frauduleuses. YouTube exige notamment que les créateurs signalent les images réalistes générées ou fortement modifiées par l’IA. En cas de manquements répétés, la plateforme peut ajouter elle-même un avertissement, supprimer le contenu ou suspendre sa monétisation. 

Face à une vidéo particulièrement émouvante, quelques précautions s’imposent : vérifier l’identité du compte, consulter son historique, rechercher l’origine des images, examiner la fiabilité de la boutique et éviter les achats précipités. Les contenus suspects peuvent également être signalés à la plateforme.

L’intelligence artificielle n’est donc pas le seul problème. C’est son utilisation pour tromper, exploiter le handicap et parler à la place des personnes concernées qui doit être dénoncée. Une représentation réellement inclusive doit valoriser leurs compétences, leur parole et leurs créations, sans les réduire à des outils de compassion.

Sources

• Handicap.fr – Handicap : des vidéos IA exploitent la trisomie pour vendre
• AFP Factuel – AI-generated videos use fake characters with Down syndrome to make sales
• YouTube – Règles relatives aux contenus générés par IA
• TikTok – Règles de la communauté

#IntelligenceArtificielle #Trisomie21 #Handicap #Inclusion #Sensibilisation #RéseauxSociaux #Désinformation #ÉthiqueNumérique #Accessibilité #RespectDesDifférences