Détective des erreurs : l'IA peut inventer

Comprendre

L’élève qui ne dit jamais « je ne sais pas » Imaginez un élève très à l’aise à l’oral. Le professeur lui pose une question dont il ne connaît pas la réponse. Au lieu de dire « je ne sais pas », il répond avec aplomb, en inventant quelque chose qui a l’air juste. Le ton est sûr de lui, les phrases sont belles… mais c’est faux.

L’IA fait parfois exactement ça. On appelle ces inventions des « hallucinations ». Le piège : une réponse fausse a exactement le même ton qu’une réponse vraie.

Pourquoi ? Souvenez-vous du module « L’IA démasquée » : l’IA fabrique la suite la plus probable, pas la plus vraie.

Les zones à risque, où l’IA se trompe le plus souvent :

Zone à risque	Exemple
Sujets peu connus ou très locaux	L’histoire de votre village, une personne de votre ville
Chiffres, dates, citations précises	« En quelle année… ? », « Qui a dit… ? »
Sources et références	Titres de livres, liens, articles qui n’existent pas
Questions « piégées »	Une question qui contient déjà une erreur
Actualité très récente	Ce qui s’est passé hier ou la semaine dernière

La méthode des 3 V :

	Question à se poser	Geste concret
Vraisemblable ?	Est-ce que ça a du sens ? Est-ce que ça colle à ce que je sais déjà ?	Relire avec un œil critique
Vérifiable ?	D’où vient l’info ? Y a-t-il une source que je peux ouvrir ?	Ouvrir la source et lire ce qu’elle dit vraiment
Validé ailleurs ?	Une deuxième source indépendante dit-elle la même chose ?	Chercher sur un site fiable (encyclopédie, site officiel) ou demander à une deuxième IA

Pour aller plus loin : et les IA qui cherchent sur le web ? Les versions récentes, et celles qui recherchent sur Internet, se trompent moins souvent et savent davantage dire « je ne sais pas ». Mais le risque n’est jamais nul. La vérification reste votre responsabilité, surtout pour la santé, l’argent et le droit.

Faire

Ouvrez l’outil gratuit de votre choix. Pour l’étape 3, vous aurez besoin d’un deuxième outil (par exemple ChatGPT puis Copilot).

Étape 1 — La question piège (10 min)

Posez cette question, qui contient une erreur volontaire (Victor Hugo n’a jamais écrit ce livre) :

Résume-moi le roman « Les Chaussettes de la Lune » de Victor Hugo, en 5 lignes.

👉 Deux cas possibles, tous les deux intéressants :

l’IA invente un résumé : vous venez d’attraper une hallucination en direct ;
l’IA signale que ce livre n’existe pas : bravo à elle. Essayez alors un piège plus subtil :

Pourquoi Jules Verne a-t-il reçu le prix Nobel de littérature ?

(Il ne l’a jamais reçu.)

Étape 2 — L’enquête locale (15 min)

Demandez :

Raconte-moi l'histoire de [nom de votre commune ou de votre quartier] en 10 lignes, avec 3 dates importantes et tes sources.

Puis appliquez les 3 V à chaque date, et remplissez ce tableau (sur papier ou dans vos notes) :

Affirmation de l’IA	Vraisemblable ?	Source ouverte ?	Confirmée ailleurs ?	Verdict
Date 1 : …				✅ / ❌ / ❓
Date 2 : …				✅ / ❌ / ❓
Date 3 : …				✅ / ❌ / ❓

Pour « confirmée ailleurs », utilisez le site officiel de votre commune ou une encyclopédie en ligne.

Étape 3 — Le deuxième avis (10 min)

Posez exactement la même question de l’étape 2 à un deuxième outil gratuit. Les réponses sont-elles d’accord ? Si elles se contredisent, au moins une des deux se trompe : allez vérifier.

Étape 4 — Votre plus belle prise (5 min)

Notez l’erreur la plus crédible que vous avez repérée, et comment vous l’avez démasquée (quel V vous a mis sur la piste). C’est ce réflexe que vous réutiliserez.

Vérifier

Cochez ce que vous avez réussi (liste « J’ai réussi si… »), puis répondez au mini-quiz.

Retenir

La phrase à retenir : Une réponse fausse a le même ton qu’une vraie. Règle des 3 V : Vraisemblable, Vérifiable, Validé ailleurs.

L’IA cherche le probable, pas le vrai.
Plus le sujet est précis, local ou récent, plus il faut vérifier.
Une source citée se lit, elle ne se croit pas sur parole.

🔐 Règle de sécurité : pour la santé, l’argent et le droit, l’IA ne remplace jamais un professionnel : vérifiez toujours auprès d’une source officielle.

Et ensuite ? Apprenez ce qu’on peut confier à une IA, et ce qu’on doit garder pour soi, dans le module « Mes données, mon bouclier ».