Repérer quand l'IA se trompe : hallucinations, biais, limites — et vérifier une affirmation jusqu'à sa source

Partie 1 — Comprendre pourquoi l'IA se trompe

Dans cette partie :

• Le phénomène d'hallucination expliqué
• Les biais dans les données d'entraînement
• Les limites structurelles : date et périmètre

Définition : Hallucination (IA)

En intelligence artificielle générative, une hallucination désigne la production par un modèle de langage d'une information fausse, inventée ou déformée, présentée avec la même assurance stylistique qu'une information exacte.

Origine du terme : Du latin hallucinari, « se tromper, divaguer » — repris en informatique vers 2018-2020 pour désigner les erreurs factuelles confiantes des LLM

Définition : Biais algorithmique

Un biais algorithmique est une distorsion systématique dans les sorties d'un système d'IA, causée par des déséquilibres dans les données sur lesquelles il a été entraîné — surreprésentant certaines populations, langues, cultures ou points de vue.

Origine du terme : Du latin bis, « de travers » — en statistique, écart systématique par rapport à la valeur vraie ; en IA, déformation héritée des données d'entraînement

Marques tierces — mention obligatoire

• ChatGPT, Gemini, Copilot, etc. cités en texte seul
• Ces marques appartiennent à leurs titulaires
• L'ESEAD n'est affiliée à aucun de ces éditeurs
• Aucun logo tiers dans ce cours

Comment une IA invente — mécanique en clair

• L'IA prédit le mot suivant, pas la vérité
• Aucune base de données de faits à consulter
• Fluence ≠ exactitude
• L'affirmation confiante ne prouve rien
• Cas réel : Mata c. Avianca, NY, 2023

La date de coupure et le périmètre du modèle

• Chaque modèle a une date de coupure
• Rien après cette date n'est connu
• Le modèle peut ignorer qu'il ignore
• Les plugins web ne suppriment pas le risque

Piège fréquent : ne pas connaître la date de coupure

• ChatGPT (GPT-4o) : coupure début 2024
• Gemini 1.5 : données jusqu'à mi-2024
• Ces dates changent à chaque mise à jour
• Vérifiez dans la page officielle de l'outil

Représentation linguistique dans les données d'entraînement des LLM

L'anglais représente la majorité écrasante des corpus d'entraînement — source de biais culturels documentés.

• 7 000 langues vivantes dans le monde (Ethnologue, 2024)
• < 20 langues couvrant 90 % des données LLM typiques (Bender et al., FAccT 2021)

À retenir : Hallucination

• L'IA prédit, elle ne vérifie pas
• Fluence ≠ vérité
• Toute affirmation factuelle mérite vérification
• Le phénomène est structurel, pas exceptionnel

À retenir : Biais

• L'IA hérite des biais de ses données
• Surreprésentation de l'anglais et de l'Occident
• Le modèle amplifie parfois les déséquilibres
• Rester vigilant sur les réponses culturelles ou démographiques

À retenir : Date et périmètre

• Tout modèle a une date de coupure
• Après cette date : extrapolation risquée
• Demandez la date de coupure avant d'utiliser
• Plugins web : réduction du risque, pas suppression

Partie 2 — Vérifier une affirmation jusqu'à sa source

Dans cette partie :

• La méthode en trois étapes pour remonter à la source
• Recouper avec des références indépendantes
• Les outils gratuits de vérification des faits

La méthode SRP : Source → Remonter → Primaire

• Étape 1 : demandez la source à l'IA
• Étape 2 : cherchez cette source vous-même
• Étape 3 : lisez le document original
• Si la source est introuvable : rejetez l'affirmation

La règle des trois sources indépendantes

• Une seule source ne suffit pas
• Trois sources indépendantes = fiabilité renforcée
• Sources indépendantes : pas la même chaîne éditoriale
• Privilégier : institutions, presse de référence, études

Sources institutionnelles françaises de référence

• INSEE — statistiques économiques et sociales
• CNIL — données personnelles et IA
• DINUM — numérique public
• Arcom — médias et contenus en ligne
• Légifrance — textes juridiques officiels

Fact-checking : outils disponibles gratuitement

• AFP Factuel — factuel.afp.com (gratuit)
• Les Décodeurs — Le Monde (gratuit partiellement)
• Google Fact Check Explorer — gratuit
• Perplexity avec sources citées — version gratuite
• Ces outils ont leurs propres limites

Cas : Vérifier un chiffre de l'INSEE cité par une IA

• L'IA cite : « taux de chômage 7,3 % en 2024 »
• Étape 1 : « Quelle source ? » → « INSEE, enquête Emploi »
• Étape 2 : insee.fr → onglet Emploi → publications
• Étape 3 : lecture du tableau → vérification du chiffre exact

À retenir : Méthode SRP

• S : demandez la Source à l'IA
• R : Remontez jusqu'au document réel
• P : lisez la source Primaire, pas un résumé
• Source introuvable = affirmation à rejeter

À retenir : Trois sources indépendantes

• Une seule source, même primaire, ne suffit pas
• Trois sources sans lien éditorial entre elles
• Privilégier institution + presse + étude
• Divergence = signal d'alerte, creusez

À retenir : Outils de fact-checking

• AFP Factuel, Décodeurs, Google Fact Check
• Outils utiles mais non exhaustifs
• Vérifiez toujours la date de la vérification
• Complément de méthode, pas remplacement

Partie 3 — Décider en conscience quand utiliser l'IA

Dans cette partie :

• Les signaux d'alerte dans une réponse IA
• Détecter un contenu artificiel : texte et image
• Choisir : utiliser l'IA ou s'en abstenir

Six signaux d'alerte dans une réponse IA

• Chiffres sans source citée
• Noms propres très précis mais inconnus
• Affirmations absolues sans nuance
• Contradictions internes dans la réponse
• Dates trop récentes par rapport à la coupure
• Longueur excessive sans substance

Détecter un texte généré par IA

• Outils de détection : GPTZero, Originality.ai
• Limites : taux d'erreur non nul
• Indices stylistiques : formulations lisses, transitions convenues
• La détection n'est pas infaillible

Détecter une image générée par IA

• Indices visuels : mains, arrière-plans, textes dans l'image
• Outil : Google Images (recherche inversée)
• Outil : Hive Moderation (gratuit partiel)
• Metadata EXIF : absence ou données suspectes

La matrice de décision IA / pas d'IA

• IA utile : rédaction, résumé, reformulation
• IA utile : brainstorming, structure de plan
• IA risquée : faits précis, chiffres, juridique
• IA à éviter : données confidentielles

Précision des outils de détection de contenus IA (2024-2025)

Les outils de détection atteignent 80-90 % de précision en laboratoire — mais leurs performances réelles sont plus variables.

• 57 % détection d'images IA retouchées par les outils actuels (Estimations croisées, voir source principale)
• 23 % d'adultes français déclarent avoir reçu un contenu IA sans le savoir (Arcom, Baromètre de la confiance dans les médias, 2024)

À retenir : Six signaux d'alerte

• Chiffres sans source = vérifier
• Noms inconnus très précis = méfiance
• Affirmations absolues = exagération probable
• Contradictions internes = hallucination en cours
• Faits trop récents = hors coupure probable
• Verbosité creuse = remplissage statistique

À retenir : Détection de contenus artificiels

• Outils : GPTZero (texte), Hive (image)
• Indices visuels : mains, textes, arrière-plans
• Recherche inversée : Google Images, TinEye
• Aucun outil n'est infaillible : jugement humain requis

À retenir : Décider en conscience

• IA utile : forme, structure, brainstorming
• IA risquée : faits précis, données sensibles
• IA interdite : données confidentielles, juridique sans validation
• S'abstenir est une décision professionnelle légitime