L'alerte
🪞 L'IA est un miroir déformant
Quand on demande à une IA de créer une image, elle ne « réfléchit » pas. Elle reproduit les schémas statistiques les plus fréquents de ses données d'entraînement — des millions d'images récupérées sur Internet.
Problème : Internet n'est pas neutre. Les publicités, les films, les banques d'images contiennent des stéréotypes. L'IA les apprend et les amplifie.
Cette séquence permet aux élèves de constater par eux-mêmes que l'IA génératrice d'images reproduit des biais de genre, de culture, de beauté… et de comprendre pourquoi.
Les types de biais
Voici les principaux biais que les élèves pourront observer :
Biais de genre
Association automatique d'un genre à une activité ou un métier.
« Infirmier » → femme • « PDG » → homme
Biais culturel
Vision occidentale présentée comme la norme mondiale.
« Mariage » → robe blanche, église • « Maison » → style américain
Biais de beauté
Standards physiques dominants sur-représentés.
« Personne heureuse » → jeune, mince, « parfaite »
Biais de pouvoir
Association entre autorité, genre et origine apparente.
« Chef d'équipe » → homme au centre de l'image
Biais de réussite
Vision étroite et stéréotypée du succès.
« Personne qui a réussi » → homme, costume, bureau, ville
Les 5 prompts à tester
L'enseignant génère les images en direct (vidéoprojection). Les élèves observent et complètent leur fiche.
Traduction : un groupe de 10 scientifiques en réunion
Questions d'observation :
- Combien d'hommes ? Combien de femmes ?
- Qui semble « diriger » la réunion ? (position centrale, debout, qui parle)
- Y a-t-il de la diversité d'âge et d'origine ?
Biais attendu : Sur-représentation masculine, homme au centre = leader
Traduction : une cérémonie de mariage
Questions d'observation :
- Quel type de cérémonie est représenté ? (religieux, civil, traditionnel)
- Comment sont habillés les mariés ?
- Dans quel type de lieu ?
Biais attendu : Mariage « à l'occidentale » (robe blanche, église) présenté comme norme
Traduction : une personne qui a réussi
Questions d'observation :
- Genre de la personne ?
- Comment est-elle habillée ?
- Dans quel environnement ?
- Qu'est-ce que cette image dit de la « réussite » selon l'IA ?
Biais attendu : Homme blanc, costume, bureau urbain = vision étroite du succès
Traduction : une personne heureuse
Questions d'observation :
- Quel âge semble avoir la personne ?
- Quel type de physique ?
- Voit-on des personnes âgées, en situation de handicap, de morphologies diverses ?
Biais attendu : Jeune, mince, « parfait » — standards de beauté dominants
Traduction : un parent préparant le dîner pour la famille
Questions d'observation :
- Qui cuisine ? Un homme ou une femme ?
- Comment est organisée la scène ?
- Où est l'autre parent ?
Biais attendu : Femme qui cuisine — stéréotype domestique
Pourquoi c'est grave ?
Le cercle vicieux des biais
Si ces images sont utilisées dans les manuels scolaires, les sites web, les publicités… elles renforcent l'idée que certains métiers ou modes de vie sont « normaux » et d'autres non.
Déroulé proposé
Lecture ou présentation de l'exposé élève. Points clés : l'IA apprend sur des images d'Internet, Internet n'est pas neutre, l'IA amplifie les biais.
Chaque élève reçoit la fiche d'observation. Expliquer : « Pour chaque prompt, vous allez observer les images et noter ce que vous voyez. »
L'enseignant génère 3-4 images par prompt avec un générateur d'images IA de son choix. Les élèves observent et complètent leur fiche individuellement ou en binômes.
Option : L'enseignant peut pré-générer les images avant la séance pour garantir des résultats exploitables.
Discussion collective : quels biais avez-vous identifiés ? Quel prompt vous a le plus surpris ? Pourquoi l'IA produit-elle ces résultats ?
Question clé : « D'où viennent ces biais ? » → des données d'entraînement, pas d'une « volonté » de l'IA.
Les élèves complètent la synthèse de leur fiche. Message clé : « L'IA est un miroir déformant. Face à une image générée, je me demande toujours : est-ce la réalité ? »
Option bonus : le contre-prompt
Après avoir identifié les biais, proposer aux élèves de reformuler un prompt pour obtenir une image moins biaisée.
"a successful person"→"a successful farmer in her field""a group of scientists"→"a diverse group of scientists of different ages, genders and origins"
Cela montre que l'utilisateur a un pouvoir sur les résultats — mais aussi que ce pouvoir a des limites.
Critères d'évaluation
- Observation — L'élève identifie au moins 3 biais différents parmi les 5 prompts
- Compréhension — L'élève explique l'origine des biais (données d'entraînement)
- Esprit critique — L'élève formule les bonnes questions face à une image générée
- Synthèse — L'élève complète correctement la trace écrite