← Retour au protocole

Séquence 03

Devenir Pilote de l'IA

Comprendre que l'IA ne raisonne pas vraiment et apprendre à décider quand l'utiliser — pour passer d'utilisateur naïf à pilote éclairé.

Objectifs — Collège

  • Voir que l'IA rate les tâches de logique (dessins, cartes, schémas)
  • Comprendre pourquoi : l'IA devine le pixel suivant, elle ne vérifie jamais
  • Décider quand utiliser l'IA grâce aux 3 zones (Vert, Orange, Rouge)
  • Créer une Charte d'Usage pour savoir quand faire confiance à l'IA

🧠 L'idée clé — L'IA DEVINE, elle ne RÉFLÉCHIT pas

Quand l'IA fait une image, elle se demande : « Quel pixel vient probablement après celui-là ? »

Elle ne se demande JAMAIS : « Est-ce que mon dessin a du sens ? »

« L'IA, c'est comme quelqu'un qui récite une recette de cuisine sans jamais avoir cuisiné. Il connaît les mots dans l'ordre, mais il ne sait pas que le gâteau va brûler si le four est trop chaud. Il récite, il ne comprend pas. »

La différence entre deviner et réfléchir

🤖 L'IA DEVINE

« Quel pixel vient après ? »

Elle avance sans vérifier

Résultat : joli mais FAUX

🧠 L'HUMAIN RÉFLÉCHIT

« Est-ce que ça a du sens ? »

Il vérifie à chaque étape

Résultat : peut-être moche mais JUSTE

Récap : les 3 alertes du Pilote

🚨 Ce que tu as appris
1

🔍 ALERTE STYLE

L'IA écrit toujours pareil (mots compliqués, listes...)

→ On lui fait confiance
2

🎯 ALERTE VÉRITÉ

L'IA peut mentir ou inventer des choses fausses

→ On recopie des erreurs
3

🧠 ALERTE LOGIQUE

L'IA devine, elle ne réfléchit pas vraiment

→ Elle rate les problèmes

Les 3 zones du Pilote

🟢

ZONE VERTE — C'est OK

L'IA peut aider sans danger

Ex : chercher des synonymes, avoir des idées

🟠

ZONE ORANGE — Vérifier !

L'IA peut aider MAIS tu dois tout vérifier

Ex : chercher une date, reformuler un texte

🔴

ZONE ROUGE — Interdit !

L'IA ne peut PAS t'aider, c'est toi qui dois réfléchir

Ex : résoudre un exercice de maths, rédiger un devoir noté

Déroulé proposé

Séance de 1h15 à 1h30 — 4e/3e
1 Les ratés de l'IA 20 min

Projeter 2-3 images du document « Échecs de l'IA » :

  • Le triangle rectangle raté — l'IA ne sait pas placer l'angle droit
  • La carte d'Europe fausse — les pays sont mal placés
  • Le schéma de Venn absurde — les animaux sont dans les mauvaises cases

Question à poser : « Le prompt était correct. Qu'est-ce qui a raté ? »

2 Comprendre pourquoi 15 min

Expliquer la différence entre deviner et réfléchir (tableau comparatif).

Question clé : « Qu'est-ce qu'un humain aurait fait que l'IA n'a pas fait ? » → Vérifier si le résultat a du sens !

3 Les 3 zones du Pilote 20 min

Présenter les 3 zones, puis exercice de vote à main levée :

  • « J'utilise l'IA pour trouver des idées de plan » → 🟢 🟠 🔴 ?
  • « J'utilise l'IA pour résoudre mon exercice de géométrie » → 🟢 🟠 🔴 ?
  • « J'utilise l'IA pour traduire un mot en anglais » → 🟢 🟠 🔴 ?
  • « Je recopie la réponse de l'IA pour mon contrôle de SVT » → 🟢 🟠 🔴 ?
4 Notre Charte de Pilote 20 min

En classe entière, créer la Charte d'Usage :

  • Trouver 1 exemple pour la zone VERTE
  • Trouver 1 exemple pour la zone ORANGE (+ comment vérifier)
  • Trouver 1 exemple pour la zone ROUGE (+ pourquoi c'est interdit)

💡 Idée : Afficher la Charte dans la classe. On pourra la modifier dans un mois si certaines règles ne marchent pas.

🏆 LA RÈGLE D'OR DU PILOTE

L'IA est ton copilote, pas ton commandant.
C'est TOI qui décides. C'est TOI qui vérifies. C'est TOI qui as le dernier mot.

Comment savoir si ça a marché ?

Objectifs — Lycée

  • Identifier les erreurs de raisonnement dans une production visuelle de l'IA
  • Expliquer la différence entre prédiction statistique et raisonnement déductif
  • Corriger manuellement une production IA en mobilisant son propre raisonnement
  • Synthétiser les 3 faiblesses de l'IA découvertes dans le protocole A.U.D.I.T.
  • Rédiger une Charte d'Usage structurée en 3 zones (libre, auditée, interdite)

🧠 Le concept clé — Prédiction vs Raisonnement

L'IA est un excellent prédicteur (elle calcule le mot ou pixel le plus probable après les précédents), mais elle ne possède pas de capacité de raisonnement déductif (si A alors B, vérification de cohérence globale).

Conséquence : Confrontée à une tâche nécessitant un raisonnement spatial, logique ou déductif, l'IA produit des résultats visuellement absurdes — même si elle les décrit avec assurance.

« L'IA est comme quelqu'un qui récite une recette de cuisine sans jamais avoir cuisiné. Il connaît les mots, mais il ne sait pas que le gâteau va brûler si le four est trop chaud. Il prédit les mots, il ne comprend pas le processus. »

La différence fondamentale

🤖 L'IA : Prédiction

« Après ces pixels, quels pixels sont les plus probables ? »

Fonctionne pixel par pixel, sans vision globale

Ne « comprend » pas les relations spatiales

Peut produire une image « belle » mais fausse

🧠 L'Humain : Raisonnement

« Si c'est un triangle rectangle 3-4-5, alors l'angle droit est ici. »

Vérifie la cohérence de l'ensemble

Applique des règles logiques (Si A, alors B)

Peut produire un brouillon correct

Synthèse A.U.D.I.T. — Les 3 faiblesses

🚨 Ce que le protocole a prouvé
S1

Le Masque Stylistique

L'IA a un style par défaut reconnaissable (mots savants, listes, jargon)

→ Inspire confiance à tort
S2

Le Mensonge Factuel

L'IA peut affirmer des faits faux avec assurance

→ Désinformation, erreurs graves
S3

L'Échec du Raisonnement

L'IA prédit, elle ne raisonne pas

→ Erreurs dans les tâches logiques

Les 3 Zones du Pilote

🟢

ZONE VERTE — Décollage autorisé

Aucune des 3 alertes n'est critique. L'IA peut aider librement.

Ex : Chercher des synonymes, brainstorming d'idées, inspiration

🟠

ZONE ORANGE — Vol surveillé

Une alerte est active. Utilisation possible avec vérification obligatoire à 100%.

Ex : Recherche de dates, reformulation de texte, traduction

🔴

ZONE ROUGE — Vol interdit

Le raisonnement ou l'évaluation sont en jeu. L'IA doit être débranchée.

Ex : Résolution de problèmes, rédaction évaluée, diagnostic

Déroulé proposé

Séquence de 2h à 2h30 — Lycée (ou 2 séances d'1h15)
1 L'Absurde Visuel 25 min

Projeter 2-3 images pré-générées montrant des échecs de l'IA :

  • Triangle rectangle 3-4-5 avec angle droit mal placé
  • Carte d'Europe avec pays mal positionnés
  • Diagramme de Venn avec animaux mal classés

« Le prompt était correct et précis. Qu'est-ce qui ne va pas ? »

Distribution de la Grille d'Analyse des Erreurs.

2 Comprendre l'Échec 20 min

Mini-exposé sur la différence prédiction/raisonnement (tableau comparatif).

Partager l'analogie de la recette de cuisine.

3 Le Triomphe du Raisonnement Humain 25 min

Chaque groupe corrige manuellement une des images IA sur papier.

Comparaison visuelle : image IA (fausse) vs correction humaine (juste).

Discussion : « Qu'avez-vous fait que l'IA n'a pas su faire ? »

Conclusion : « L'humain vérifie, déduit, corrige. L'IA génère sans comprendre. »

4 Synthèse A.U.D.I.T. 15 min

Distribution de la Fiche Récapitulative A.U.D.I.T.

Compléter ensemble le tableau des 3 faiblesses (Style, Fait, Raisonnement).

Question de transition : « Comment décider quand utiliser l'IA et quand s'en méfier ? »

5 Dilemmes Éthiques 20 min

Débat mouvant ou vote à main levée sur des scénarios :

  • Un élève utilise l'IA pour reformuler son introduction de dissertation
  • Un élève utilise l'IA pour trouver une date historique
  • Un élève utilise l'IA pour résoudre un problème de géométrie
  • Un médecin utilise l'IA pour poser un diagnostic

Pour chaque scénario : « Quelle faiblesse de l'IA justifie votre positionnement ? »

6 La Charte d'Usage de la Classe 30 min

Chaque groupe propose :

  • 2 situations en Zone Verte (avec justification)
  • 2 situations en Zone Orange (avec méthode de vérification)
  • 2 situations en Zone Rouge (avec justification liée aux alertes)

Vote pour retenir les meilleures propositions. La Charte finale est affichée dans la salle.

💡 Option : Charte évolutive révisée après un mois d'expérimentation.

🏆 LA RÈGLE D'OR DU PILOTE

L'IA est ton copilote, pas ton commandant.
C'est TOI qui décides. C'est TOI qui vérifies. C'est TOI qui as le dernier mot.

Critères d'évaluation

Message de fin

« Vous avez terminé le protocole A.U.D.I.T. Vous n'êtes plus des utilisateurs naïfs de l'IA. Vous êtes maintenant des PILOTES. Vous savez quand l'IA peut vous aider, quand il faut vérifier, et quand il faut réfléchir par vous-même. C'est VOUS qui décidez, pas la machine. »