Quand l’IA se trompe avec assurance
Reconnaître une hallucination
Repérer l’élève qui invente une réponse pour ne pas laisser de blanc.
Imagine que
Un élève ne connaît pas la réponse mais veut absolument rendre une copie complète. Il invente un auteur, une date et un titre qui semblent crédibles. Une IA générative peut produire une erreur comparable : une information fausse ou sans fondement, formulée avec assurance. On appelle souvent cela une hallucination. Le mot décrit le résultat trompeur ; il ne signifie pas que la machine voit ou ressent quelque chose.
Des indices doivent éveiller l’attention : précision étonnante sans source, citation introuvable, lien qui ne mène pas au document annoncé, mélange de personnes ou de dates, réponse qui change fortement quand on reformule. Aucun indice ne suffit seul. Une réponse sobre peut être fausse, et une réponse détaillée peut être juste. Le niveau de vérification dépend surtout du tort possible si l’on se trompe.
Exemple
Pour une idée de nom fictif, une invention est attendue. Pour l’horaire d’un transport, une règle de sécurité ou les conditions d’une démarche, une invention peut causer un problème. Demande alors la source officielle, sa date et le passage qui soutient l’affirmation. Ouvre réellement la source : un lien affiché n’est pas une vérification.
À toi de jouer
Lis trois affirmations fictives et classe-les : « créatif », « à vérifier », « ne pas utiliser sans spécialiste ». Pour chaque affirmation à vérifier, note où chercher : organisme officiel, document d’origine, professionnel compétent. Tu peux faire l’exercice hors ligne. Ne teste pas avec un cas médical, juridique ou personnel réel. Les enfants réalisent cette activité avec un adulte.
Piège à éviter
Ne demande pas seulement « Es-tu sûr ? ». Le modèle peut répéter la même erreur avec plus d’assurance. Ne copie pas une référence dans un devoir, un message public ou une décision avant de l’avoir retrouvée et lue.
À retenir
Une hallucination est une sortie plausible mais non fiable. Quand le tort possible augmente, ralentis, exige des preuves et fais intervenir une personne compétente. L’IA propose, l’humain vérifie et décide.